Configuração da linhagem Talend

Conecte-se ao Talend para escanear metadados e exibi-los na linhagem. Para importar metadados de linhagem, crie uma definição de fonte de dados e a tarefa de importação de metadados.

Versões suportadas

  • Talend Studio 8.0

Metadados processados

Os seguintes metadados da Talend são processados e exibidos na linhagem:

  • Projetos, tarefas e subtarefas
  • Conectores
  • Componentes
  • Expressões
  • Substituições SQL

Os seguintes componentes Talend são processados:

  • Entrada/Saída: tFileInputExcel, tFileOutputExcel, FileInputDelimited, tFileOutputDelimited, tFileInputRaw, tFileOutputRaw, tFileInputPositional, tFileOutputPositional, tS3Put
  • Conexão com banco de dados/Entrada/Saída/Linha: tTeradataConnection/tTeradataInput/tTeradataOutput/tTeradataRow, tOracleConnection/tOracleInput/tOracleOutput/tOracleRow, tMSSqlConnection/tMSSqlInput/tMSSqlOutput/tMSSqlRow, tSybaseConnection/tSybaseInput/tSybaseOutput/tSybaseRow, tHiveConnection/tHiveInput/tHiveOutput/tHiveRow, tNetezzaConnection/tNetezzaInput/tNetezzaOutput/tNetezzaRow, tDB2Connection/tDB2Input/tDB2Output/tDB2Row, tPostgresqlConnection/tPostgresqlInput/tPostgresqlOutput/tPostgresqlRow, tSQLiteConnection/tSQLiteInput/tSQLiteOutput/tSQLiteRow, tMysqlConnection/tMysqlInput/tMysqlOutput/tMysqlRow, tSnowflakeConnection/tSnowflakeInput/tSnowflakeOutput/tSnowflakeRow/tSnowflakeOutputBulkExec, tRedshiftConnection/tRedshiftInput/tRedshiftOutput/tRedshiftRow/tRedshiftBulkExec, tDBRow, tGreenplumInput/tGreenplumOutput, tBigQueryInput/tBigQueryOutput, tELTOracleInput/tELTOracleOutput
  • Transformação: tPrejob, tPostjob, tHMap, tSampleRow, tFilterRow, tSortRow, tExternalSortRow, tUniqRow, tReplace, tReplicate, tConvertType, tUnite, tFilterColumns, tAggregateRow, tSplitRow, tJoin, tMap, tFixedFlowInput, tRowGenerator, tExtractJSONFields, tELTOracleMap
  • Orquestração: tRunJob, tContextLoad, tDummy
  • Outros: tRESTClient, tBufferInput, tBufferOutput, tLogRow, tFileList

Limitações

As limitações a seguir se aplicam:

  • Os esquemas dinâmicos não são processados.

Criação de um recurso de importação de metadados

Conexão da origem de dados

É possível importar metadados de linhagem do Talend apenas por meio de arquivos externos. Você não se conecta diretamente ao sistema Talend. Isso significa que você precisa fornecer apenas uma definição da fonte de dados. Você pode criá-lo antes de começar a criar um recurso de importação de metadados ou pode fazê-lo diretamente no assistente de importação de metadados.

Depois de selecionar uma definição de fonte de dados, a conexão é criada automaticamente. Em seguida, você pode prosseguir com a adição das entradas externas, que são obrigatórias.

Definição de origem de dados

Selecione “Talend Data” como tipo de fonte de dados.

Entradas externas

É necessário fornecer dados externos, pois essa é a única maneira de importar metadados.

Você pode adicionar os trabalhos do Talend nos dois formatos de exportação a seguir:

  • Trabalhos individuais do Talend exportados no formato XML (.item arquivos). Esses arquivos são analisados independentemente, e não são criadas relações diretas entre componentes de tarefas ou joblets em tarefas diferentes.
  • Trabalhos Talend exportados no formato XML e compactados em um arquivo (.zip arquivo). Todo o arquivo, incluindo todos os trabalhos e joblets que ele contém, é analisado como uma única tarefa, e são criadas relações entre os vários trabalhos. Por exemplo, quando um trabalho invoca outro trabalho por meio de um tRunJob componente e os resultados do trabalho invocado são propagados de volta para o trabalho de chamada, uma relação é estabelecida. Nesse cenário, a linhagem de dados é criada entre a saída da tarefa invocada e o tRunJob componente.

O arquivo de exportação deve seguir a mesma estrutura de diretórios e arquivos gerada pelo Talend Studio.

Você também pode adicionar os seguintes arquivos opcionais:

  • context - Este diretório contém os arquivos de contexto. É necessário apenas quando os contextos são usados em tarefas do Talend.
  • contextReplacement.txt - Este arquivo contém valores de contexto manuais. Use este arquivo para substituir os valores de contexto definidos na Configuração de contexto do Talend.
  • talendExpressionOverrides.csv - Este arquivo contém substituições manuais de expressões. Use este arquivo para substituir expressões Java em tarefas do Talend.

O arquivo de entrada externo (um diretório compactado no formato.zip) pode ter a seguinte estrutura:

All Talend .zip and .item file exports
context (directory)
contextReplacement.txt 
talendExpressionOverrides.csv 

Ao exportar um arquivo.zip compactado gerado no Talend Studio, você pode usá-lo como entrada externa. No entanto, apenas os seguintes arquivos são processados:

  • processo/
    • hierarquia de pastas opcional
      • *.item
      • *.properties
  • mapas/
    • hierarquia de pastas opcional
      • *.xml
  • joblets/
    • hierarquia de pastas opcional
      • *.item
      • *.properties
  • contexto/
    • *.item
    • *.properties

Configurando variáveis de contexto

Quando os contextos são usados em tarefas do Talend, você deve adicionar valores às variáveis de contexto para que elas sejam processadas corretamente. Todos os arquivos de contexto são adicionados usando entradas externas. Eles devem ser adicionados à context pasta.

As variáveis de contexto são processadas na seguinte ordem:

  • Os valores estáticos são carregados dos .item arquivos.
  • Os valores de contexto implícitos são processados.
  • Os valores definidos manualmente no arquivo contextReplacement.txt são processados.

Os valores definidos manualmente substituem todos os valores carregados anteriormente para as mesmas variáveis. Se apenas valores estáticos forem usados e nenhum valor for encontrado para algumas variáveis, os valores vazios serão substituídos pela context.variableName string.

Usando o carregamento de contexto implícito (tContextLoad)

Se a tarefa Talend usar um contexto implícito ( tContextLoad, ), o contexto poderá ser carregado a partir de um arquivo ou de um banco de dados.

Arquivo
Copie o arquivo do Talend para a context pasta no arquivo.zip de entrada externa. Você pode encontrar o contexto implícito no Talend em Configurações do projeto > Configurações da tarefa > Carregamento de contexto implícito. O ImplicitContext arquivo está em /inputs/talend/{connectionName}/context/ folder. Este exemplo mostra como o conteúdo do arquivo está estruturado:
<elementParameter field="FILE" name="IMPLICIT_TCONTEXTLOAD_FILE" value=""{path to the context}/contexts/onlyImplicit.txt""/> <elementParameter field="TEXT" name="FIELDSEPARATOR" value=""=>""/>

O parâmetro IMPLICIT_TCONTEXTLOAD_FILE contém o caminho para o arquivo de contexto. A estrutura do arquivo de contexto consiste em pares de chaves e valores, separados pelo => delimitador, por exemplo:

first=>impl1
second=>impl2
path=>pathino

Não modifique o conteúdo do arquivo de contexto. Copie-o para a context pasta do arquivo de entrada externo.

Banco de dados
Os valores do contexto não podem ser carregados do banco de dados. Adicione valores manualmente no arquivo contextReplacement.txt .

Adicionando valores manualmente no arquivo contextReplacement.txt

Use o contextReplacement.txt arquivo para adicionar valores de contexto manualmente. Estruture o conteúdo do arquivo no seguinte formato:

[jobName/testing]
key=value
key2=value2

[jobName/production]
key=value5
key2=value

[jobName2/testing]
key=value
key2=value2
key3=58

Saiba Mais