Angesichts der rasanten Entwicklung im Bereich der generativen KI ergriff die CIO-Organisation rasch Maßnahmen und nutzte die KI-Technologien von IBM, um die Alpha-Version von AskIBM in nur 60 Tagen mithilfe eines schnellen Entwicklungs- und Onboarding-Ansatzes zu erstellen. In den 60 Tagen wurden der IBM watsonx-Pfad zur Produktion sowie kritische rechtliche, datenschutzrechtliche, cybersicherheitsbezogene und KI-ethische Prüfungen durchgeführt, um die empfohlenen KI-Standards und Leitplanken zu erfüllen. Während des Prozesses arbeitete die CIO-Organisation mit IBM Software und IBM Research zusammen, um eine Anwendung zu liefern, die für die Veröffentlichung im Unternehmen bereit war. Infolgedessen wurde Anfang Januar 2024 den mehr als 280.000 IBM-Mitarbeitern weltweit der Zugang zur Alpha-Version ermöglicht.
Die AskIBM-Basis wurde mit watsonx.ai und großen Sprachmodellen (LLMs) der IBM Granite-Klasse 1 aufgebaut und mit strategischem internen IBM-Content angereichert – mit Ausnahme von vertraulichen Informationen von IBM, sensiblen personenbezogenen Daten und Kundendaten. Im Rahmen der Entwicklung und Bereitstellung suchten sie die Zusammenarbeit mit IBM-Mitarbeitern, um die KI-Grundmodelle durch das Testen von AskIBM zu trainieren und zu optimieren. Die IBM-Mitarbeiter wurden außerdem dazu ermutigt, den Produktteams Feedback zu geben, wie watsonx verbessert werden kann, um es für IBM-Unternehmenskunden weltweit zu skalieren. AskIBM wurde entwickelt, um normale Aktivitäten zu automatisieren, wie z. B. das Verfassen einer Kunden-E-Mail, die Erstellung einer Produktbeschreibung oder die schnelle Zusammenfassung eines langen Dokuments zur Vorbereitung auf ein Meeting, einen Anruf oder einen anderen Bedarf unter Verwendung von generativer KI.
Etwa 5.000 Dokumente in mehreren Sprachen wurden in die interne Alpha-Version von AskIBM aufgenommen, um die LLMs der Granite-Klasse zu trainieren – und diese Zahl ist bis Juli 2024 auf über 30.000 gestiegen. Mithilfe der Retrieval-Augmented-Generation-Technik (RAG) kann AskIBM die erfassten Inhalte nutzen, um maßgeschneiderte und angemessene Antworten an IBM-Mitarbeiter zu liefern, indem aus den relevantesten gefundenen Informationen neue Antworten erstellt werden. Abbildung 1 zeigt den Antwortablauf von AskIBM.