Configuração da linhagem Talend
Conecte-se ao Talend para escanear metadados e exibi-los na linhagem. Para importar metadados de linhagem, crie uma definição de fonte de dados e a tarefa de importação de metadados.
Versões suportadas
- Talend Studio 8.0
Metadados processados
Os seguintes metadados da Talend são processados e exibidos na linhagem:
- Projetos, tarefas e subtarefas
- Conectores
- Componentes
- Expressões
- Substituições SQL
Os seguintes componentes Talend são processados:
- Entrada/Saída: tFileInputExcel, tFileOutputExcel, FileInputDelimited, tFileOutputDelimited, tFileInputRaw, tFileOutputRaw, tFileInputPositional, tFileOutputPositional, tS3Put
- Conexão com banco de dados/Entrada/Saída/Linha: tTeradataConnection/tTeradataInput/tTeradataOutput/tTeradataRow, tOracleConnection/tOracleInput/tOracleOutput/tOracleRow, tMSSqlConnection/tMSSqlInput/tMSSqlOutput/tMSSqlRow, tSybaseConnection/tSybaseInput/tSybaseOutput/tSybaseRow, tHiveConnection/tHiveInput/tHiveOutput/tHiveRow, tNetezzaConnection/tNetezzaInput/tNetezzaOutput/tNetezzaRow, tDB2Connection/tDB2Input/tDB2Output/tDB2Row, tPostgresqlConnection/tPostgresqlInput/tPostgresqlOutput/tPostgresqlRow, tSQLiteConnection/tSQLiteInput/tSQLiteOutput/tSQLiteRow, tMysqlConnection/tMysqlInput/tMysqlOutput/tMysqlRow, tSnowflakeConnection/tSnowflakeInput/tSnowflakeOutput/tSnowflakeRow/tSnowflakeOutputBulkExec, tRedshiftConnection/tRedshiftInput/tRedshiftOutput/tRedshiftRow/tRedshiftBulkExec, tDBRow, tGreenplumInput/tGreenplumOutput, tBigQueryInput/tBigQueryOutput, tELTOracleInput/tELTOracleOutput
- Transformação: tPrejob, tPostjob, tHMap, tSampleRow, tFilterRow, tSortRow, tExternalSortRow, tUniqRow, tReplace, tReplicate, tConvertType, tUnite, tFilterColumns, tAggregateRow, tSplitRow, tJoin, tMap, tFixedFlowInput, tRowGenerator, tExtractJSONFields, tELTOracleMap
- Orquestração: tRunJob, tContextLoad, tDummy
- Outros: tRESTClient, tBufferInput, tBufferOutput, tLogRow, tFileList
Limitações
As limitações a seguir se aplicam:
- Os esquemas dinâmicos não são processados.
Criação de um recurso de importação de metadados
Conexão da origem de dados
É possível importar metadados de linhagem do Talend apenas por meio de arquivos externos. Você não se conecta diretamente ao sistema Talend. Isso significa que você precisa fornecer apenas uma definição da fonte de dados. Você pode criá-lo antes de começar a criar um recurso de importação de metadados ou pode fazê-lo diretamente no assistente de importação de metadados.
Depois de selecionar uma definição de fonte de dados, a conexão é criada automaticamente. Em seguida, você pode prosseguir com a adição das entradas externas, que são obrigatórias.
Definição de origem de dados
Selecione “Talend Data” como tipo de fonte de dados.
Entradas externas
É necessário fornecer dados externos, pois essa é a única maneira de importar metadados.
Você pode adicionar os trabalhos do Talend nos dois formatos de exportação a seguir:
- Trabalhos individuais do Talend exportados no formato XML (
.itemarquivos). Esses arquivos são analisados independentemente, e não são criadas relações diretas entre componentes de tarefas ou joblets em tarefas diferentes. - Trabalhos Talend exportados no formato XML e compactados em um arquivo (
.ziparquivo). Todo o arquivo, incluindo todos os trabalhos e joblets que ele contém, é analisado como uma única tarefa, e são criadas relações entre os vários trabalhos. Por exemplo, quando um trabalho invoca outro trabalho por meio de umtRunJobcomponente e os resultados do trabalho invocado são propagados de volta para o trabalho de chamada, uma relação é estabelecida. Nesse cenário, a linhagem de dados é criada entre a saída da tarefa invocada e otRunJobcomponente.
O arquivo de exportação deve seguir a mesma estrutura de diretórios e arquivos gerada pelo Talend Studio.
Você também pode adicionar os seguintes arquivos opcionais:
context- Este diretório contém os arquivos de contexto. É necessário apenas quando os contextos são usados em tarefas do Talend.contextReplacement.txt- Este arquivo contém valores de contexto manuais. Use este arquivo para substituir os valores de contexto definidos na Configuração de contexto do Talend.talendExpressionOverrides.csv- Este arquivo contém substituições manuais de expressões. Use este arquivo para substituir expressões Java em tarefas do Talend.
O arquivo de entrada externo (um diretório compactado no formato.zip) pode ter a seguinte estrutura:
All Talend .zip and .item file exports
context (directory)
contextReplacement.txt
talendExpressionOverrides.csv
Ao exportar um arquivo.zip compactado gerado no Talend Studio, você pode usá-lo como entrada externa. No entanto, apenas os seguintes arquivos são processados:
- processo/
- hierarquia de pastas opcional
*.item*.properties
- hierarquia de pastas opcional
- mapas/
- hierarquia de pastas opcional
*.xml
- hierarquia de pastas opcional
- joblets/
- hierarquia de pastas opcional
*.item*.properties
- hierarquia de pastas opcional
- contexto/
*.item*.properties
Configurando variáveis de contexto
Quando os contextos são usados em tarefas do Talend, você deve adicionar valores às variáveis de contexto para que elas sejam processadas corretamente. Todos os arquivos de contexto são adicionados usando entradas externas. Eles devem ser adicionados à context pasta.
As variáveis de contexto são processadas na seguinte ordem:
- Os valores estáticos são carregados dos
.itemarquivos. - Os valores de contexto implícitos são processados.
- Os valores definidos manualmente no arquivo
contextReplacement.txtsão processados.
Os valores definidos manualmente substituem todos os valores carregados anteriormente para as mesmas variáveis. Se apenas valores estáticos forem usados e nenhum valor for encontrado para algumas variáveis, os valores vazios serão substituídos pela context.variableName string.
Usando o carregamento de contexto implícito (tContextLoad)
Se a tarefa Talend usar um contexto implícito ( tContextLoad, ), o contexto poderá ser carregado a partir de um arquivo ou de um banco de dados.
- Arquivo
- Copie o arquivo do Talend para a
contextpasta no arquivo.zip de entrada externa. Você pode encontrar o contexto implícito no Talend em Configurações do projeto > Configurações da tarefa > Carregamento de contexto implícito. OImplicitContextarquivo está em/inputs/talend/{connectionName}/context/ folder. Este exemplo mostra como o conteúdo do arquivo está estruturado:
<elementParameter field="FILE" name="IMPLICIT_TCONTEXTLOAD_FILE" value=""{path to the context}/contexts/onlyImplicit.txt""/> <elementParameter field="TEXT" name="FIELDSEPARATOR" value=""=>""/>
O parâmetro IMPLICIT_TCONTEXTLOAD_FILE contém o caminho para o arquivo de contexto. A estrutura do arquivo de contexto consiste em pares de chaves e valores, separados pelo => delimitador, por exemplo:
first=>impl1
second=>impl2
path=>pathino
Não modifique o conteúdo do arquivo de contexto. Copie-o para a context pasta do arquivo de entrada externo.
- Banco de dados
- Os valores do contexto não podem ser carregados do banco de dados. Adicione valores manualmente no arquivo
contextReplacement.txt.
Adicionando valores manualmente no arquivo contextReplacement.txt
Use o contextReplacement.txt arquivo para adicionar valores de contexto manualmente. Estruture o conteúdo do arquivo no seguinte formato:
[jobName/testing]
key=value
key2=value2
[jobName/production]
key=value5
key2=value
[jobName2/testing]
key=value
key2=value2
key3=58