Em vigor na versão 10.4.0, você pode executar mapeamentos de streaming no serviço Azure Databricks dos serviços de nuvem do Microsoft Azure.
Origens e Destinos
Você pode executar mapeamentos de streaming em relação às seguintes origens e destinos no ambiente do Databricks:
Hubs de Eventos do Microsoft Azure
Azure Data Lake Storage Gen2 (ADLS Gen2)
Transformações
Você pode adicionar as seguintes transformações a um mapeamento de streaming do Databricks:
Agregador
Expressão
Filtro
Associador
Normalizador
Classificação
Roteador
União
Janela
Tipos de dados
Os seguintes tipos de dados são suportados:
Array
Bigint
Data e hora
Decimal
Duplo
Número inteiro
Mapa
Estrutura
Texto
String
Workflows
Você pode desenvolver fluxos de trabalho de cluster para criar clusters efêmeros no ambiente do Databricks. Use o Azure Data Lake Storage Gen1 (ADLS Gen1) e o Azure Data Lake Storage Gen2 (ADLS Gen2) para criar clusters efêmeros no ambiente do Databricks.
Para obter mais informações sobre mapeamentos de streaming no Azure Databricks, consulte o
Guia do Usuário do Data Engineering Streaming 10.4.0