Das enorme Wachstum von Big Data fordert die Technologiewelt heraus und wird dies auch noch einige Zeit tun. Für den Zeitraum 2022 bis 2030 prognostiziert Acumen Research and Consulting, dass der Big-Data-Markt weiterhin mit einer Rate von etwa 12,7 % pro Jahr wachsen wird (Link befindet sich außerhalb von ibm.com). Den Prognosen zufolge wird dieser Markt von einem Wert von 163,5 Mrd. USD im Jahr 2021 auf 473,6 Mrd. USD im Jahr 2030 hochschnellen. Mit der Expansion des Big-Data-Marktes steigt auch die Notwendigkeit einer stärkeren Datenkonsolidierung.
Die Automatisierung manueller Prozesse im Zusammenhang mit der Datenkonsolidierung ist ein weiterer Bereich, der in den letzten Jahren eine intensive Entwicklung erlebt hat. Dies geschieht zu einer Zeit, in der es einen relativen Mangel an Data-Science-Talenten gibt. Es wird geschätzt, dass mehr als 60 % der Data-Science-Stunden (Link befindet sich außerhalb von ibm.com) für die Bereinigung und Verarbeitung von Daten während Konsolidierungsprozessen aufgewendet werden. Diese Prozesse können und sollten automatisiert werden (und werden dies auch in zunehmendem Maße tun).
Auch die Datensicherheit steht weiterhin im Mittelpunkt, was die anhaltende und wachsende Bedrohung durch Cyberattacken oder Ransomware-Angriffe widerspiegelt. Als Reaktion darauf entscheiden sich Unternehmen für Optionen wie Datenpipelines, die mehr Sicherheit bieten, da die Pipelines Daten bewegen, speichern und analysieren.
Auch eine andere Entwicklung aus jüngster Zeit spricht für das wachsende Interesse am Schutz der Privatsphäre der Verbraucher, insbesondere nach einer Reihe aufsehenerregender Cyberangriffe, die zu einer massenhaften Verbreitung von Verbraucherdaten geführt haben. Als datenschutzfreundliche Möglichkeit der Interaktion mit Verbrauchern werden mittlerweile zunehmend sogenannte Datenreinräume eingesetzt. In Datenreinräumen sind die Interaktionen so strukturiert, dass die Menge an Verbraucherinformationen, die in der Regel vom Unternehmen gesammelt werden, begrenzt wird.