Avro es un proyecto de código abierto que proporciona servicios de serialización e intercambio de datos para Apache Hadoop. Estos servicios se pueden emplear juntos o de forma independiente.
Avro facilita el intercambio de big data entre programas escritos en cualquier lenguaje. Con el servicio de serialización, los programas pueden serializar eficazmente los datos en archivos o en mensajes. El almacenamiento de datos es compacto y eficiente. Avro almacena tanto la definición de datos como los datos juntos en un mensaje o archivo.
Avro almacena la definición de datos en formato JSON, lo que facilita su lectura e interpretación. Los datos en sí se almacenan en formato binario, lo que los hace compactos y eficientes. Los archivos Avro incluyen marcadores que se pueden usar para dividir grandes conjuntos de datos en subconjuntos adecuados para el procesamiento de Apache MapReduce. Algunos servicios de intercambio de datos usan un generador de código para interpretar la definición de datos y producir código para acceder a los datos. Avro no requiere este paso, por lo que es ideal para lenguajes de scripting.
Una característica clave de Avro es el soporte robusto para esquemas de datos que cambian con el tiempo, a menudo denominado evolución del esquema. Avro maneja los cambios de esquema, como campos faltantes, campos agregados y campos modificados; como resultado, los programas antiguos pueden leer datos nuevos y los programas nuevos pueden leer datos antiguos. Avro incluye API para Java, Python, Ruby, C, C++, entre otros. Los datos almacenados con Avro pueden pasar de programas escritos en diferentes lenguajes, incluso de un lenguaje compilado como, C a un lenguaje de scripting, como Apache Pig.
IBM y Cloudera se asociaron para ofrecer una distribución de Hadoop de nivel empresarial líder en la industria, que incluye un ecosistema integrado de productos y servicios para admitir analytics más rápidos a escala.
Explore el mejor enfoque de su clase para la gestión de datos y cómo las empresas están priorizando las tecnologías de datos para impulsar el crecimiento y la eficiencia.
Lea esta introducción práctica a la próxima generación de arquitecturas de datos. Presenta la función de la nube y las tecnologías NoSQL, y analiza los aspectos prácticos de la seguridad, la privacidad y la gobernanza.