Das Rezept für RAG: Wie Cloud-Services generative KI-Ergebnisse über Branchen hinweg ermöglichen

Laut Untersuchungen von IBM® setzen etwa 42 % der befragten Unternehmen KI in ihren Unternehmen ein. Von allen Anwendungsfällen sind viele von uns inzwischen mit KI-Chatbots zur Verarbeitung natürlicher Sprache vertraut, die unsere Fragen beantworten und bei Aufgaben wie dem Verfassen von E-Mails oder Aufsätzen helfen können. Doch selbst bei einer weit verbreiteten Einführung dieser Chatbots haben Unternehmen gelegentlich noch mit einigen Herausforderungen zu kämpfen. Zum Beispiel können diese Chatbots inkonsistente Ergebnisse liefern, da sie aus großen Datenspeichern schöpfen, die für die jeweilige Anfrage möglicherweise nicht relevant sind.

Glücklicherweise hat sich die Retrieval-Augmented Generation (RAG) als vielversprechende Lösung herausgestellt, um große Sprachmodelle (LLMs) auf den genauesten und aktuellsten Informationen aufzubauen. Als KI-Framework arbeitet RAG daran, die Qualität der LLM-generierten Antworten zu verbessern, indem das Modell auf Wissensquellen gestützt wird, um die interne Darstellung von Informationen durch das LLM zu ergänzen. IBM stellte sein neues KI-Produktportfolio watsonx™ vor, das RAG im Mai 2023 anbietet.

Einfach ausgedrückt ist die Nutzung von RAG so, als würde man das Modell eine Prüfung mit offenem Buch ablegen lassen, da Sie den Chatbot bitten, eine Frage mit allen verfügbaren Informationen zu beantworten. Doch wie agiert die RAG auf Infrastrukturebene? Mit einer Mischung aus Platform-as-a-Service (PaaS)-Diensten kann RAG erfolgreich und einfach ausgeführt werden und ermöglicht generative KI-Ergebnisse für Organisationen in verschiedenen Branchen, die LLMs verwenden.

KI für Unternehmen, einschließlich generativer KI, erfordert eine äußerst nachhaltige, rechen- und datenintensive verteilte Infrastruktur. Während die KI die Schlüsselkomponente des RAG-Frameworks ist, sind andere „Zutaten“ wie PaaS-Lösungen ein wesentlicher Bestandteil des Mix. Diese Angebote, insbesondere serverlose und Speicherangebote, arbeiten sorgfältig im Hintergrund und ermöglichen eine einfachere Verarbeitung und Speicherung von Daten, was zu immer genaueren Ausgaben von Chatbots führt.

Serverlose Technologie unterstützt rechenintensive Arbeitslasten, wie sie beispielsweise durch RAG entstehen, indem sie die Infrastruktur um sie herum verwaltet und sichert. Dadurch haben die Entwickler mehr Zeit und können sich auf das Programmieren konzentrieren. Serverless Computing ermöglicht es Entwicklern, Anwendungscode zu erstellen und auszuführen, ohne Server oder Backend-Infrastruktur bereitzustellen oder zu verwalten.

Wenn ein Entwickler Daten in eine LLM oder einen Chatbot hochlädt, aber nicht weiß, wie er die Daten vorverarbeiten soll, damit sie im richtigen Format vorliegen oder nach bestimmten Datenpunkten gefiltert werden, kann IBM Cloud® Code Engine all dies für ihn erledigen und so den Gesamtprozess der korrekten Ausgabe von KI-Modellen vereinfachen. Als vollständig verwaltete serverlose Plattform kann IBM Cloud Code Engine die Anwendung durch Automatisierungsfunktionen, die die zugrunde liegende Infrastruktur verwalten und sichern, problemlos skalieren.

Wenn ein Entwickler die Quellen für LLMs hochlädt, ist es außerdem wichtig, über einen hochsicheren, belastbaren und langlebigen Speicher zu verfügen. Dies ist besonders in stark regulierten Branchen wie Finanzdienstleistungen, Gesundheitswesen und Telekommunikation von entscheidender Bedeutung.

IBM Cloud Object Storage beispielsweise bietet Sicherheit und Datenbeständigkeit zum Speichern großer Datenmengen. Mit unveränderlicher Datenaufbewahrung und Audit-Kontrollfunktionen unterstützt IBM Cloud Object Storage RAG, indem es Ihre Daten vor Verfälschung oder Manipulation durch Ransomware-Angriffe schützt und sicherstellt, dass sie den Compliance- und Geschäftsanforderungen entsprechen.

Mit dem umfangreichen Technologie-Stack von IBM, zu dem auch IBM Code Engine und Cloud Object Storage gehören, können Unternehmen aus allen Branchen nahtlos auf RAG zugreifen und sich darauf konzentrieren, KI effektiver für ihren Geschäftsbetrieb zu nutzen.

Wir haben festgestellt, dass RAG äußerst wertvoll ist, um generative KI-Ergebnisse zu ermöglichen, aber wie sieht das in der Praxis aus?

Blendow Group, ein führender Anbieter von Rechtsdienstleistungen in Schweden, bearbeitet eine Vielzahl von Rechtsdokumenten – sie analysiert, fasst und bewertet diese Dokumente, die von Gerichtsurteilen bis hin zu Gesetzen und Rechtsprechung reichen. Mit einem relativ kleinen Team benötigte die Blendow Group eine skalierbare Lösung, um ihre rechtlichen Analysen zu unterstützen. In Zusammenarbeit mit IBM Client Engineering und NEXER hat die Blendow Group ein innovatives KI-gesteuertes Tool entwickelt, das die umfassenden Möglichkeiten von KI nutzt, um Forschung und Analyse zu verbessern und den Prozess der Erstellung von Rechtsinhalten zu optimieren, wobei die Vertraulichkeit sensibler Daten gewahrt bleibt.

Unter Verwendung des Technologie-Stacks von IBM, einschließlich IBM Cloud Object Storage und IBM Code Engine, wurde die KI-Lösung so angepasst, dass sie die Effizienz und den Umfang der Analyse von Rechtsdokumenten durch Blendow erhöht.

Die Mawson's Huts Foundation ist ebenfalls ein hervorragendes Beispiel für den Einsatz von RAG, um bessere KI-Ergebnisse zu erzielen. Die Stiftung hat es sich zur Aufgabe gemacht, das Vermächtnis von Mawson zu bewahren, zu dem auch Australiens Gebietsanspruch auf 42 Prozent der Antarktis gehört, und Schulkinder und andere über die Antarktis selbst und die Bedeutung der Erhaltung ihrer unberührten Umwelt aufzuklären.

Mit The Antarctic Explorer, einer KI-gestützten Lernplattform, die auf der IBM Cloud läuft, ermöglicht Mawson Kindern und anderen Menschen von jedem beliebigen Ort aus über einen Browser Zugang zur Antarktis. Benutzer können Fragen über eine browserbasierte Oberfläche einreichen. Die Lernplattform verwendet KI-gestützte Funktionen zur Verarbeitung natürlicher Sprache, die von IBM Watsonx Assistant™ bereitgestellt werden, um die Fragen zu interpretieren und entsprechende Antworten mit zugehörigen Medien – Videos, Bilder und Dokumente – zu liefern, die in IBM Cloud Object Storage gespeichert und von dort abgerufen werden.

Durch die Nutzung von Infrastructure-as-a-Service-Angeboten in Kombination mit watsonx können sowohl die Mawson Huts Foundation als auch die Blendow Group bessere Erkenntnisse aus ihren KI-Modellen gewinnen, indem sie den Prozess der Verwaltung und Speicherung der darin enthaltenen Daten vereinfachen.

Generative KI und LLMs haben bereits bewiesen, dass sie ein großes Potenzial für die Transformation von Unternehmen in verschiedenen Branchen haben. Ob es um die Bildung der breiten Bevölkerung oder die Analyse von Rechtsdokumenten geht, PaaS-Lösungen in der Cloud sind für den Erfolg der RAG und den Betrieb von KI-Modellen von entscheidender Bedeutung.

Wir bei IBM sind der Meinung, dass KI-Workloads wahrscheinlich das Rückgrat geschäftskritischer Workloads bilden und letztlich die vertrauenswürdigsten Daten beherbergen und verwalten werden. Mit IBM Cloud können Unternehmen aller Branchen, die KI einsetzen, ein höheres Maß an Ausfallsicherheit, Leistung, Sicherheit, Konformität und Gesamtbetriebskosten erzielen. Im Folgenden erfahren Sie mehr über IBM Cloud Code Engine und IBM Cloud Object Storage.