Comme un data lake, un data lakehouse utilise un stockage d’objets cloud à faible coût. Cette approche leur permet de stocker des données dans presque tous les formats (structurés, semi-structurés et non structurés).
Ce qui en fait une maison de lac, c'est la couche de gestion des données de type entrepôt construite au-dessus de ce stockage, qui ajoute une structure de données et une gouvernance pour soutenir les charges de travail analytiques et de BI.
La plupart des data lakehouses utilisent les formats de table ouverts (OTF), généralement :
- Apache Hudi (développé à l'origine par Uber et conçu pour le traitement incrémental des données)
- Apache Iceberg (un format haute performance pour les tables analytiques massives)
- Delta Lake (une option populaire développée par Databricks et rendue open source en 2019)
Ces technologies agissent comme des couches de métadonnées qui organisent les fichiers de données ouverts (tels que ceux stockés dans Apache Parquet) en tables logiques, semblables à des bases de données .
Cette approche permet aux entreprises de travailler avec des données brutes comme s’il s’agissait de données d’entrepôt structurées, en soutenant des capacités clés telles que le voyage dans le temps, la gestion des versions, l’évolution des schémas , la manipulation des données et la cohérence transactionnelle (ACID).
(« ACID » signifie atomicité, consistance, isolation et durabilité. Ces propriétés contribuent à garantir l’intégrité et la fiabilité des transactions de données.)
Grâce à ces couches et fonctionnalités supplémentaires, les lakehouses rendent les lacs de données plus fiables et plus intuitifs à utiliser. Ils permettent également aux utilisateurs d’exécuter des requêtes en langage de requête structuré (SQL), des charges de travail analytiques et d’autres cas d’usage avancés directement sur un data lake, simplifiant ainsi le BI, l’IA, l’apprentissage automatique et l’intelligence des données (DI).