Über den Einsatz von Cookies auf dieser Website Unsere Websites benötigen einige Cookies, um ordnungsgemäß zu funktionieren (erforderlich). Darüber hinaus können mit Ihrer Zustimmung weitere Cookies verwendet werden, um die Nutzung der Website zu analysieren, die Benutzerfreundlichkeit zu verbessern und Werbung zu schalten. Weitere Informationen finden Sie in Ihren. Durch den Besuch unserer Website erklären Sie sich mit der Verarbeitung von Informationen einverstanden, wie in der IBMDatenschutzbestimmung beschrieben. Um eine reibungslose Navigation zu ermöglichen, werden Ihre Cookie-Präferenzen über die hier aufgeführten IBM Web-Domains hinweg gemeinsam genutzt.
IBM entwickelt watsonx-basierte generative KI-Lösung zur Bereitstellung faktenbasierter Informationen für das österreichische Bundesheer
Das Bundesministerium für Landesverteidigung (BMLV) und IBM
Die Notwendigkeit von Qualitätssicherung, Vertrauen und Transparenz
Das österreichische Bundesministerium für Landesverteidigung (BMLV) unterhält eine Zentraldokumentation (ZentDok), die besonderen Wert auf Vertrauen und Transparenz legt. ZentDok suchte nach einer KI-Lösung, die eine Qualitätssicherung ermöglicht und gleichzeitig das Human in the Loop-Prinzip beibehält, bei dem die menschliche Interaktion weiterhin erforderlich ist. ZentDok fordert bei dieser Lösung, dass die Quellen rückverfolgbar sein sollen, das Risiko von Halluzinationen auf ein Minimum reduziert wird und der Nutzer über die Qualität, Relevanz und Zuverlässigkeit der Quellen informiert wird. Schließlich solle das Tool eine personalisierbare Nutzeroberfläche und eine bedienerfreundliche Benutzerzugriffsverwaltung bereitstellen.
Da es für diese Anforderungen keine fertige Industrielösung „aus dem Regal“ gibt, stellte IBM Österreich ein multidisziplinäres Client Engineering Team bereit, um mit dem ZentDok Team zusammenzuarbeiten. Gemeinsam entwickelten sie ein Minimal Viable Product (MVP), um die Anforderungen auf ihre Machbarkeit zu prüfen. Anhand von einigen Funktionen hebt sich das entstandene „ChatZentDoc“ deutlich von anderen Lösungen ab:
- Bereitstellung qualitativer, hochwertiger Antworten auf der Grundlage überprüfter, zuverlässiger Quellen.
- Selektierung der optimalen Quellen aus dem Datenbestand, auf deren Basis die Antwort generiert werden soll.
- Anbindung an bestehende Systeme und tägliche Aktualisierung der Wissensdatenbank.
- Referenzierung von Quellen, um die Korrektheit der Antwort zu überprüfen, Vertrauen in die KI aufzubauen und weitere Nachforschungen zu ermöglichen.
- Integration einer Feedbackfunktion, um dem ZentDok Team die Möglichkeit einer kontinuierlichen Verbesserung der Lösung zu bieten.
Die Lösung: ChatZentDoc – Interaktion mit den eigenen Daten in natürlicher Sprache
Die Client Engineering-Methode bietet Kunden den Vorteil, sich unter Anleitung von Experten mit den eingesetzten Produkten vertraut machen zu können. ZentDok ist ein langjähriger Nutzer der IBM Technologie für die Datenerfassung und nutzt seit 2016 auch IBM® Watson Explorer für die Verarbeitung natürlicher Sprache (NLP). Vor diesem Hintergrund entschied sich BMLV für den Einsatz von IBM watsonx.ai®. KI-Studio-Technologie.
Mit ChatZentDoc ist eine Schnittstelle entstanden, die NLP für die Bereitstellung faktenbasierter Antworten einsetzt. In einem speziell entwickelten Frontend können Nutzer die Datenbank abfragen und Antworten mithilfe von Filteroptionen isolieren. Die Antworten können zusammen mit den Quelldokumenten exportiert werden. Das Tool läuft auf einem täglich aktualisierten Datensatz, um die nötige Aktualität zu gewährleisten. Auf diese Weise entstand ein so genanntes OSINT (Open-Source Intelligence Tool), das auch für weitere Anwendungsfälle in der öffentlichen Verwaltung einsetzbar ist.
Hocheffiziente Zusammenarbeit trotz ambitioniertem Zeitplan
Oberst Klaus Mak, der Leiter von ZentDok, beschreibt die Zusammenarbeit mit IBM als intensiv und hoch professionell: „Die Qualität der ersten Präsentation hat uns alle positiv überrascht. Noch nie zuvor wurde ein Projekt so schnell und erfolgreich umgesetzt.“
Im nächsten Schritt wolle man nun eine Testumgebung schaffen, in der Nutzer anderer Dienststellen die Fähigkeiten des Tools testen können. Dabei besteht Schulungs- und Ausbildungsbedarf im Umgang mit generativer KI und NLP: „Wir begeben uns hier in eine völlig neue Welt. Das UserPrompting ist das A und O, und diese Bedienerfähigkeit wird immer wichtiger werden.“
Handlungsfähigkeit in Zeiten überwältigender Datenfluten
„Open Source Intelligence", erläutert Benedikt Klotz von IBM, „sei universell in Bereichen nutzbar, die Mengen unstrukturierter Daten durchsuchen und analysieren müssten. KI-Lösungen für den öffentlichen Sektor stellten immer eine besondere Herausforderung hinsichtlich Sicherheit und regulatorischer Bestimmungen wie DSGVO, IT-Sicherheitsgesetz oder EU AI Act dar. Die in diesem Pilotprojekt gewonnenen Erfahrungen kommen auch anderen Geschäftsbereichen in der Wirtschaft zugute, die mit sensiblen Daten umgehen.“
Mak sieht KI als ein leistungsstarkes Werkzeug im Umgang mit hybriden Bedrohungen: „Sie können die Datenfluten mit menschlicher Intelligenz beobachten, aber nicht bewerten. Ihre Bewertung und Klassifizierung ist aber die Voraussetzung dafür, dass man angesichts von Risikoszenarien handlungsfähig bleibt.“
Eine Plattform für vertrauenswürdige generative KI
Das österreichische IBM Client Engineering Team entwickelt die entstandene KI-Plattform weiter, um sie in anderen Umgebungen einsetzen zu können. Das MVP Engagement wird unter Mitarbeit von IBM Consulting fortgesetzt, damit ZentDok weitere Anforderungen evaluieren kann. Als nächsten Schritt in der Zusammenarbeit plant sie, watsonx als Plattform für vertrauenswürdige generative KI zu nutzen. Klaus Mak sieht großes Potenzial in dem Tool, aber auch Schulungsbedarf, ehe man es selbst administrieren und rechtssicher betreiben könne.
Mit personellen Einsparungen, wie sie im Zusammenhang mit generativer KI häufig befürchtet werden, rechnet er dagegen nicht. Das Human in the Loop-Prinzip versteht Einsichten, die generative KI aus unstrukturierten Daten extrahiert, als Unterstützung für menschliche Entscheider, die immer das letzte Wort haben. Dadurch, so Mak, werde eher mehr als weniger hoch qualifiziertes Personal benötigt. „Ich bin froh, dass wir das machen konnten“, fasst er das Projekt zusammen, „und ich bedanke mich bei IBM für den reibungslosen Ablauf bei diesem Zeithorizont und der hohen Intensität.“
Über das Bundesministerium für Landesverteidigung (BMLV)
Das österreichische Bundesministerium für Landesverteidigung (BMLV) (Link befindet sich außerhalb von ibm.com) ist das Ministerium, das für alle Angelegenheiten im Zusammenhang mit militärischen Fragen und insbesondere für das österreichische Bundesheer zuständig ist.
Rechtshinweise
© Copyright IBM Corporation 2024. IBM, das IBM Logo, IBM Consulting und watsonx.ai sind Marken oder eingetragene Marken der IBM Corp. in den USA und/oder anderen Ländern. Das vorliegende Dokument ist ab dem Datum der Erstveröffentlichung aktuell und kann jederzeit von IBM geändert werden. Nicht alle Angebote sind in allen Ländern verfügbar, in denen IBM tätig ist.
Alle angeführten Beispiele illustrieren lediglich, wie einige Kunden IBM Produkte verwendet haben und welche Ergebnisse sie dabei erzielt haben. Tatsächliche Leistung, Kosten, Einsparungen oder andere Ergebnisse in anderen Betriebsumgebungen können abweichen.
