CSV formato de arquivo para importação e exportação de metadados de ativos

O arquivo ` CSV `, utilizado para importar e exportar detalhes de metadados de ativos, deve seguir regras específicas de formatação.

Limitações

  • A codificação do arquivo é UTF-8.

  • O tamanho máximo recomendado de um arquivo é de 10.000 linhas.

  • Você pode especificar a definição de colunas somente para ativos de dados.

  • Você pode importar e exportar ativos de dados com atributos personalizados somente se os atributos pertencerem a um grupo. Se você importar ou exportar esses ativos de dados de qualquer forma, os campos de atributos personalizados não serão incluídos.

  • Você deve seguir a definição do ativo pela definição da coluna.

  • Propriedades extras inesperadas estão incluídas no arquivo exportado CSV. Não edite essas propriedades.

     Asset Property: data_asset>>dataset
     Asset Property: data_asset>>mime_type
     Asset Property: data_asset>>properties>>name
     Asset Property: data_asset>>properties>>name
     Asset Property: data_asset>>semantic_description>>confidence
     Asset Property: data_asset>>semantic_description>>generated_date
     Asset Property: data_asset>>semantic_description>>generated_description
     Asset Property: data_asset>>semantic_description>>status
     Asset Property: discovered_asset>>connection_id
     Asset Property: discovered_asset>>connection_path
     Asset Property: discovered_asset>>discovery_id
     Asset Property: discovered_asset>>extended_metadata>>name
     Asset Property: discovered_asset>>extended_metadata>>name
     Asset Property: discovered_asset>>extended_metadata>>name
     Asset Property: discovered_asset>>first_imported_timestamp
     Asset Property: discovered_asset>>last_discovered_timestamp
     Asset Property: discovered_asset>>last_imported_timestamp
     Asset Property: discovered_asset>>last_job_action
     Asset Property: discovered_asset>>last_job_run_id
     Asset Property: discovered_asset>>metadata_import_id
     Asset Property: discovered_asset>>outdated_reason
     Asset Property: discovered_asset>>outdated_timestamp
     Asset Property: key_analyses>>fk_assigned
     Asset Property: key_analyses>>fk_assigned_as_pk
     Asset Property: key_analyses>>fk_defined
     Asset Property: key_analyses>>fk_defined_as_pk
     Asset Property: key_analyses>>fk_suggested
     Asset Property: key_analyses>>fk_suggested_as_pk
     Asset Property: key_analyses>>key_analysis_area_id
     Asset Property: key_analyses>>overlap_assigned
     Asset Property: key_analyses>>overlap_suggested
     Asset Property: key_analyses>>pk_assigned
     Asset Property: key_analyses>>pk_defined
     Asset Property: key_analyses>>pk_suggested
     Asset Property: metadata_enrichment_info>>MDE_instrumented
     Asset Property: term_assignment_profile>>attachment_id
     Asset Property: term_assignment_profile>>completed_date
     Asset Property: term_assignment_profile>>messages
     Asset Property: term_assignment_profile>>messages
     Asset Property: term_assignment_profile>>messages
     Asset Property: term_assignment_profile>>semexp_completed_date
     Asset Property: term_assignment_profile>>semexp_messages
     Asset Property: term_assignment_profile>>semexp_start_date
     Asset Property: term_assignment_profile>>semexp_status
     Asset Property: term_assignment_profile>>start_date
     Asset Property: term_assignment_profile>>status
    

Linha de cabeçalho

Os cabeçalhos na primeira linha do arquivo CSV representam quais propriedades são importadas para os ativos.

  • A linha do cabeçalho deve ser a primeira linha do arquivo e não deve ser repetida.
  • O cabeçalho deve incluir os cabeçalhos obrigatórios.

Cabeçalhos obrigatórios

A linha de cabeçalho do arquivo CSV deve incluir os seguintes cabeçalhos obrigatórios:

Name
Exemplo: my_asset.
Type
Todos os tipos de ativos são compatíveis. A definição de colunas é compatível apenas com o tipo data_asset.
Exemplo data_asset

Cabeçalhos opcionais

Para especificar metadados de ativos mais detalhados, adicione cabeçalhos opcionais apropriados ao seu arquivo CSV.

Asset Resource Key
Identifica de forma exclusiva o ativo no catálogo. Incluído automaticamente em todos os arquivos de exportação CSV.
Exemplo: Test asset.
Schema
Disponível somente para o tipo de ativo data_asset. Para associar ativos a uma conexão existente, você deve fornecer detalhes do esquema e da tabela física.
Physical Table
Disponível somente para o tipo de ativo data_asset. Para associar ativos a uma conexão existente, você deve fornecer detalhes do esquema e da tabela física.
Table type
Disponível somente para o tipo de ativo data_asset. Determina se um ativo de dados representa uma tabela, exibição, alias ou consulta. Qualquer valor para o campo do tipo tabela é aceito.
Connection Name
Disponível somente para o tipo de ativo data_asset.
Connection Resource Key
Disponível somente para o tipo de ativo data_asset.

Owner

: E-mails dos proprietários dos ativos. Os proprietários devem ser colaboradores do catálogo. São permitidos vários valores.
Exemplo az@company.com

Description
Descrições de ativos ou colunas.
Exemplo: This is a test asset.
Tag
Tags para identificar ativos ou colunas. São permitidos vários valores.
Exemplo tag1
Term
Termos comerciais atribuídos. O termo comercial deve existir. Use o formato de caminho. São permitidos vários valores.
Exemplo AlexTestCategory>>sub category>>category one>>new term
Classification
Classificações atribuídas. Use o formato de caminho. São permitidos vários valores.
Exemplo: AlexTestCategory>>sub category>>category>>new classification.
Data Class
Classe de dados que é atribuída a uma coluna em um ativo de dados. Use o formato de caminho. A categoria raiz [uncategorized] deve estar sempre presente. Uma entrada em branco não a substitui.
Exemplo [uncategorized]>>Computer Host Name
Column Source Type
O tipo de dados da coluna.
Exemplo: varchar.
Column Size
Tamanho dos dados da coluna.
Exemplo 1024
Column Type Nullable
Se o tipo de coluna puder ser nulo, use um booleano.
Exemplo TRUE
Column Native Type
Tipo de dados nativo da coluna.
Exemplo, enum.
Propriedade personalizada do ativo. As colunas múltiplas devem ter o caminho do atributo no cabeçalho. A propriedade é definida na coluna, o valor da propriedade na linha. Para nomes de colunas, "Asset property:" é usado como prefixo. O caminho dos tipos enum deve terminar com name. São permitidos vários valores.
Exemplo:
Nome da coluna: Asset Property: azub_group_test>>prop_ahhatx
Valor da coluna: value of prop1
Column Property
Propriedade personalizada da coluna. As colunas múltiplas devem ter o caminho do atributo no cabeçalho. A propriedade é definida na coluna, o valor da propriedade na linha. Para nomes de colunas, "Asset property:" é usado como prefixo. O caminho dos tipos enum deve terminar com name. São permitidos vários valores.
Exemplo:
Nome das colunas: Column Property: col_group_zevkys>>prop_qblrui
Valor das colunas: host1

Formatação de caminhos de categoria e atributo

  • Você deve especificar os caminhos completos da categoria e do atributo. Se você não especificar a categoria, a categoria padrão será [uncategorized].

  • Para delimitar o caminho da categoria e o caminho do atributo, use dois símbolos maiores que >> entre cada nível da hierarquia da categoria ou do atributo e entre o caminho da categoria ou o caminho do atributo e o nome do artefato.

  • Liste a hierarquia de categorias ou de atributos, desde o nome da categoria de nível superior até o nome da categoria ou atributo final, e separe cada um deles com os símbolos >>.

    Por exemplo, para criar uma categoria ou atributo de terceiro nível, seu campo Category pode ter a seguinte aparência:

    myCategory1>>myCategory2>>myCategory3
    

    A categoria raiz [uncategorized] deve estar sempre presente. Uma entrada em branco não a substitui. Você não pode especificar a categoria [uncategorized] como uma categoria secundária e ela não pode ter subcategorias.

Exemplo de arquivo de metadados de ativo CSV

Asset Resource Key,Name,Type,Schema,Physical Table,Table Type,Connection Name,Connection Resource Key,Owner,Owner,Description,Tag,Tag,Asset Property: Data use >> Can be used in marketing,"Asset Property:
Data use >> Can be used in product improvement",Term,Term,Term,Classification,Classification,Classification,Classification,Data Class,Column Source Type,Column Size,Column Type Nullable,Column Native Type,Column Property: Indicators >> Is sensitive,Column Property: Indicators >> Is trusted,"Column Property: Stakeholders >> QA
",Column Property: Stakeholders >> Subject Matter Experts,Column Property: Stakeholders >> Subject Matter Experts,Column Property: ungrouped property X
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,MORTGAGE_APPLICANTS,data_asset,BANKING,MORTGAGE_APPLICANTS,TABLE,Data Fabric Trial Db2 Warehouse,0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB,Mary Jones,Marketing User Group,Residential mortgage applicants,BANKING,Demo,YES,NO,Banking >> Mortgage Application,Banking >> Mortgage Applicant,Banking >> Bank Customer,[uncategorized] >> Personally Identifiable Information,>> Personal Information ,Sensitive Personal Information,High Importance,,,,,,,,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,ID,column,,,,,,,,customer id,,,,,Banking >> ID,,,,,,,>> Identifier,varchar,1024,TRUE,varchar,,,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,NAME,column,,,,,,,,Name of applicant,,,,,Mortgage Default Analysis >> Name,Banking >> Name,Information Governance >> Information Governance Classifications >> Business Classification,>> Personally Identifiable Information,,,,>> Person Name,varchar,1024,TRUE,varchar,Yes,Yes,Michal Sze,John Smith,Mary Jones,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,STREET_ADDRESS,column,,,,,,,,street address,,,,,,,,,,,,>> US Street Name,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,CITY,column,,,,,,,,city,,,,,,,,,,,,>> City,varchar,1024,TRUE,varchar,Yes,Yes,,,,blah
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,STATE,column,,,,,,,,state,,,,,,,,,,,,>> US State Name,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,STATE_CODE,column,,,,,,,,state code,,,,,,,,,,,,>> US State Code,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,ZIP_CODE,column,,,,,,,,postal or zip code,,,,,,,,,,,,,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,EMAIL_ADDRESS,column,,,,,,,,email address,,,,,,,,,,,,>> Email Address,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,PHONE_NUMBER,column,,,,,,,,home phone number,,,,,,,,,,,,>> US Phone Number,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/MORTGAGE_APPLICANTS,GENDER,column,,,,,,,,Gender identity,,,,,,,,,,,,>> Gender,varchar,1024,TRUE,enum(M;F),Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,MORTGAGE_APPLICANTS,data_asset,BANKING,MORTGAGE_APPLICANTS,,,,Mary Jones,Marketing User Group,Residential mortgage applicants,BANKING,Demo,YES,NO,Banking >> Mortgage Application,Banking >> Mortgage Applicant,Banking >> Bank Customer,[uncategorized] >> Personally Identifiable Information,>> Personal Information ,Sensitive Personal Information,High Importance,,,,,,,,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,ID,column,,,,,,,,customer id,,,,,Banking >> ID,,,,,,,>> Identifier,varchar,1024,TRUE,varchar,,,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,NAME,column,,,,,,,,Name of applicant,,,,,Mortgage Default Analysis >> Name,Banking >> Name,Information Governance >> Information Governance Classifications >> Business Classification,>> Personally Identifiable Information,,,,>> Person Name,varchar,1024,TRUE,varchar,Yes,Yes,Michal Sze,John Smith,Mary Jones,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,STREET_ADDRESS,column,,,,,,,,street address,,,,,,,,,,,,>> US Street Name,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,CITY,column,,,,,,,,city,,,,,,,,,,,,>> City,varchar,1024,TRUE,varchar,Yes,Yes,,,,blah
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,STATE,column,,,,,,,,state,,,,,,,,,,,,>> US State Name,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,STATE_CODE,column,,,,,,,,state code,,,,,,,,,,,,>> US State Code,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,ZIP_CODE,column,,,,,,,,postal or zip code,,,,,,,,,,,,,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,EMAIL_ADDRESS,column,,,,,,,,email address,,,,,,,,,,,,>> Email Address,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,PHONE_NUMBER,column,,,,,,,,home phone number,,,,,,,,,,,,>> US Phone Number,varchar,1024,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|IHUB:/BANKING/MORTGAGE_APPLICANTS,GENDER,column,,,,,,,,Gender identity,,,,,,,,,,,,>> Gender,varchar,1024,TRUE,enum(M;F),Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,CUSTOMER_LOYALTY,data_asset,BANKING,CUSTOMER_LOYALTY,,Data Fabric Trial Db2 Warehouse,0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB,John Smith,,Customer Loyalty table,CUSTOMER,,YES,YES,,,,,,,,,,,,,,,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,LOYALTY_NBR,column,,,,,,,,Loyalty number,,,,,,,,,,,,,integer,10,FALSE,integer,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,ORDER_YEAR,column,,,,,,,,Order year,,,,,,,,,,,,,smallint,5,TRUE,smallint,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,QUARTER,column,,,,,,,,Order quarter,,,,,,,,,,,,,varchar,2,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,MONTHS_AS_MEMBER,column,,,,,,,,Months as member,,,,,,,,,,,,,smallint,5,TRUE,smallint,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,LOYALTY_STATUS,column,,,,,,,,Status,,,,,,,,,,,,,varchar,15,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,PRODUCT_LINE,column,,,,,,,,Products,,,,,,,,,,,,,varchar,50,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,COUPON_RESPONSE,column,,,,,,,,Can receive coupons,,,,,,,,,,,,,varchar,20,TRUE,varchar,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,COUNT,column,,,,,,,,Count,,,,,,,,,,,,,smallint,5,TRUE,smallint,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,QUAITITY_SOLD,column,,,,,,,,Quantity sold,,,,,,,,,,,,,smallint,5,TRUE,smallint,Yes,Yes,,,,
0000:0000:0000:0000:0000:FFFF:3216:9DA3|50001|BLUDB:/BANKING/CUSTOMER_LOYALTY,UNIT_SALES_PRICE,column,,,,,,,,Unit sales price,,,,,,,,,,,,,decimal,8,TRUE,decimal,Yes,Yes,,,,
,SEFT Mortgage System,Application,,,,,,Mortgage Owners,,Mortgage application system for retail customers.,,,,,,,,,,,,,,,,,,,,,,
,Customer onboarding,Process,,,,,,Mortgage Owners,,Process to onboard new customers,,,,,,,,,,,,,,,,,,,,,,
,Sales results in 2023,bi_report,,,,,,Ben Smith,,Sales report from cognos,growth,,,,My category 1 >> My category 2 >> term 1,My category 1 >> My category 2 >> term 2,,My category 1 >> My category 2 >> classification 1,,,,,,,,,,,,,,

Saiba Mais