Nutzung der Leistungsfähigkeit generativer KI für strukturierte Daten

GigaSpaces, ein weltweiter Vorreiter im Bereich In-Memory-Computing und IBM Business Partner, entwickelt einen der ersten Digital Integration Hubs (DIHs) auf dem Markt. Dabei handelt es sich um eine sofort einsatzbereite Lösung, die die digitale Transformation von Unternehmen vereinfacht und es ihnen ermöglicht, digitale Services in kürzester Zeit zu entwickeln und auf den Markt zu bringen. Die Lösungen von GigaSpaces werden von Tier-1-Unternehmen auf der ganzen Welt genutzt und unterstützen geschäftskritische Services, die auf Echtzeitdaten angewiesen sind.

Aufbauend auf seiner bisherigen Erfolgsbilanz bei der Bereitstellung von Echtzeitdaten für digitale Services entwickelt GigaSpaces eine neue Lösung, Enterprise Retrieval Augmented Generation (eRAG) (Link befindet sich außerhalb von ibm.com). Mit dieser Lösung können Kunden generative KI und große Sprachmodelle (Large Language Models, LLMs) verwenden, um strukturierte Daten abzufragen, die in der Regel auf komplexe und nicht intuitive Weise organisiert und katalogisiert sind.

Das Team von GigaSpaces entwickelt die neue Lösung mithilfe von IBM^® watsonx.ai und IBM watsonx Assistant sowie mit Unterstützung des IBM Build Lab. Sie wird einen virtuellen Assistenten enthalten, dessen Frontend von watsonx Assistant unterstützt wird und dessen Abfrage- und Zusammenfassungsfunktionen von wasonx.ai bereitgestellt werden. Dahinter steht die Vision, dass die Kunden von GigaSpaces Unternehmensdaten in natürlicher Sprache abfragen können. Das Hauptziel der eRAG-Plattform ist es, Unternehmen den Zugriff auf ihre Geschäftsdaten in natürlicher Sprache zu ermöglichen, damit sie mithilfe von KI zuverlässige Geschäftsentscheidungen treffen und verwertbare Erkenntnisse gewinnen können. Durch die Verwendung der fortschrittlichen LLMs auf IBM watsonx.ai und die Anwendung von Techniken wie semantische Anreicherung und Vektor-Caching ist GigaSpaces in der Lage, die Metadaten-Reasoning- und Retrieval-Module von eRAG zu verbessern.

Sobald die neue eRAG-Plattform voll einsatzfähig ist, werden die Kunden von GigaSpaces in der Lage sein, strukturierte Daten wie z. B. die internen Verkaufsunterlagen eines Unternehmens, die Bestandsverwaltung, Auftragszahlungen oder Marketinganalysen in natürlicher Sprache abzufragen. Die von eRAG bereitgestellten Abfrageergebnisse werden ein hohes Maß an Genauigkeit aufweisen. Derzeit erreichen Ingenieure, die KI bei der Arbeit mit strukturierten Informationen wie Datenbanken einsetzen, eine Trefferquote von bis zu 55 %. GigaSpaces hat es sich zur Aufgabe gemacht, seinen Kunden dabei zu helfen, bei der Verwendung dieses neuen eRAG-Ansatzes basierend auf ersten Ergebnissen eine Genauigkeitsrate von nahezu 95 % zu erreichen.

Durch die Integration von IBM watsonx Assistant konnte GigaSpaces die Zeit für die Entwicklung eines Prototyps des Assistenten auf Basis von eRAG erheblich verkürzen – nämlich auf einige Tage statt Monate. So konnte sich das F&E-Team auf die Kernherausforderung konzentrieren, die eRAG-Technologie zu verbessern und die Entwicklung der menschlichen Sprache für strukturierte Informationen auf einem sehr hohen Niveau zu rationalisieren. Für die Zukunft plant GigaSpaces, IBM watsonx.governance genauer unter die Lupe zu nehmen. Diese Lösung nutzt Softwareautomatisierung, um Risiken zu reduzieren, regulatorische Anforderungen zu verwalten und ethische Bedenken sowohl für KI- als auch für maschinelle Lernmodelle (ML) auszuräumen. GigaSpaces möchte die Plattform nutzen, um die eRAG-Lösung vertrauensvoll und sicher zu gestalten und die Bewertung, Überwachung und Kontrolle der in die Lösung integrierten Modelle zu gewährleisten. Die Einführung von IBM watsonx.governance ist ein entscheidender Schritt auf dem Weg zu diesem Ziel.

Der IBM Business Partner GigaSpaces (Link befindet sich außerhalb von ibm.com) ist ein Softwareunternehmen, das In-Memory-Computing und operative Datentechnologien mit einem der ersten Digital Integration Hubs (DIH) auf dem Markt anbietet.