Al igual que un data lake, un lakehouse de datos utiliza un almacenamiento de objetos en la nube de bajo coste. Este enfoque les permite almacenar datos en casi cualquier formato (estructurado, semiestructurado y no estructurado).
Lo que lo convierte en un lakehouse es la capa de gestión de datos tipo almacén que se integra sobre ese almacenamiento, la cual añade estructura de datos y gobierno para dar soporte a cargas de trabajo de análisis y de BI.
La mayoría de los lakehouses de datos se basan en formatos de tabla abierta (OTF), normalmente:
- Apache Hudi (desarrollado originalmente en Uber y diseñado para el proceso de datos incremental)
- Apache Iceberg (un formato de alto rendimiento para tablas de análisis de gran volumen)
- Delta Lake (una opción muy popular desarrollada por Databricks y convertida en código abierto en 2019)
Estas tecnologías actúan como capas de metadatos que organizan los archivos de datos abiertos (como los almacenados en Apache Parquet) en tablas lógicas similares a bases de datos.
Este enfoque permite a las organizaciones trabajar con los datos sin procesar de los data lakes como si se tratara de datos de almacén estructurados, y admite capacidades clave como el viaje en el tiempo, el control de versiones, la evolución de los esquemas, la manipulación de datos y la coherencia transaccional (ACID).
(“ACID” significa atomicidad, consistencia, aislamiento y durabilidad. Estas propiedades ayudan a garantizar la integridad y la fiabilidad de las transacciones de datos).
Con estas capas y características añadidas, los lakehouses hacen que los data lakes sean más fiables e intuitivos de usar. También permiten a los usuarios ejecutar consultas en lenguaje de consulta estructurado (SQL), cargas de trabajo de análisis y otros casos de uso avanzados directamente en un data lake, optimizando así la BI, la IA, el ML y la inteligencia de datos (DI).