Umgang mit den 9 Herausforderungen von KI-Agenten

Die Unternehmen, die sich durchsetzen werden, werden Lösungen hervorbringen, die vielleicht nicht die auffälligsten, aber die verantwortungsvollsten und nachhaltigsten sind.

Anfang dieses Jahres verkündete Gabe Goodhart, Chefarchitekt bei IBM, die Kommodifizierung von Modellen.

„Sie können das Modell auswählen, das genau zu Ihrem Anwendungsfall passt, und sofort loslegen. „Das Modell selbst wird nicht mehr das entscheidende Unterscheidungsmerkmal sein“, sagte er und betonte dabei die neue Ausrichtung auf die Orchestrierung. Sie verfügen über alle Modelle, die Sie benötigen – kleine Spezialmodelle und große Allzweckmodelle –, doch wie sorgen Sie dafür, dass diese effizient und intelligent zusammenarbeiten?

Hier sind neun der größten Herausforderungen im Bereich der generativen KI, denen Unternehmen heute gegenüberstehen.

KI-Observability ermöglicht es Unternehmen, das Verhalten generativer künstlicher Intelligenz-Modelle zu überwachen. Dies ist keine einfache Aufgabe, da die Ergebnisse generativer KI-Modelle probabilistischer Natur sind. Im Gegensatz zur herkömmlichen Programmierung folgen die Large Language Models (LLMs), die die generative KI ausmachen, keinen festgelegten Regeln, sondern treffen ihre Entscheidungen auf der Grundlage der Erfahrungen, die sie beim Training mit riesigen Datenmengen gesammelt haben, und nutzen dieses Training anschließend, um Vorhersagen über neue Daten zu treffen. Ihre Intelligenz entsteht durch Optimierung, Mustererkennung und Wahrscheinlichkeitsverteilungen mittels komplexer neuronaler Netze.

Observability-Tools können allerdings Aufschluss darüber geben, wie Modelle und Agenten zu ihren Ergebnissen kommen. Zu den KI-Observability-Techniken gehören die Verfolgung der Token-Nutzung, Änderungen in den Antwortmustern, Schwankungen in der Ausgabequalität und die Erstellung von Interaktionsprotokollen, die die Entscheidungsfindung des Agenten beschreiben.

Zu den Observability-Trends zählen intelligentere Observability-Plattformen, die Einbindung von Observability in eine übergreifende Kostenmanagementstrategie sowie die Einführung offener Observability-Standards.

Einige Unternehmen haben nach wie vor Schwierigkeiten, den Schritt von Pilotprojekten zur flächendeckenden Einführung zu vollziehen, was sich als besonders schwierig erweisen kann, wenn sich der Nutzen von KI-Implementierungsinitiativen nur schwer quantifizieren lässt. In Bezug auf diesen Punkt gibt es Best Practices für die Messung der Produktivität von generativer KI in einem Unternehmen.

Es kann jedoch auch von Vorteil sein, über den ROI hinauszudenken. Jensen Huang, CEO von Nvidia, brachte dieses Argument im Januar vor.

„Wenn deine Kinder dir sagen, dass sie etwas ausprobieren möchten, solltest du ja sagen. Wir stellen zu Hause nie Fragen wie: Wie hoch ist der ROI hiervon?“

Dieser explorative Ansatz erfordert eine starke Unterstützung durch die Stakeholder im gesamten Unternehmen, könnte sich jedoch langfristig als notwendig erweisen, um einen nachhaltigen geschäftlichen Mehrwert zu schaffen.

Große Modelle erfordern teure GPU-Cluster und eine spezielle Infrastruktur. Sie verbrauchen so viel Energie, dass die Hyperscaler mittlerweile Einfluss auf die nationale Energiepolitik und die langfristige Planung nehmen. Die Kosten für das Training sinken zwar, doch die Inferenz in großem Maßstab bleibt weiterhin teuer.

Unternehmen können Kosten senken, indem sie für verschiedene Aufgaben unterschiedliche Modelle einsetzen. Für Aufgaben, die keine komplexen Schlussfolgerungen erfordern, sind Frontier-Modelle nicht immer notwendig. Häufig reicht für Aufgaben wie Klassifizierung und Informationsgewinnung ein kleines Modell mit offenem Gewicht aus. Ein weiterer Ansatz könnte darin bestehen, RAG zu verwenden, anstatt ein Modell zu feintunen, was vergleichsweise kostspielig ist.

Entwickler von KI-Systemen können kürzere Prompts, strukturierte Eingaben, das Zwischenspeichern wiederholter Abfragen und eine intelligenteres Chunking fördern.

Der wahrscheinlich einfachste Ansatz zur Kosteneinsparung bei KI-Technologien besteht darin, einfach die besten und wiederholbarsten Anwendungsfälle für die Automatisierung hochfrequenter Workflows und Aufgaben mit deutlichen Chancen auf Zeiteinsparungen auszuwählen, ohne zu versuchen, „alles zu KI“ zu machen. KI-Strategien müssen nicht unbedingt auf „vollständige Automatisierung“ abzielen, da solche Systeme teurer und riskanter sein können als KI-Lösungen, die einen Menschen in den Entscheidungsprozess einbeziehen.

Die Leistungsfähigkeit generativer KI hängt in hohem Maße von sauberen, strukturierten Daten ab. Durch die Datenbereinigung werden Unstimmigkeiten, Duplikate und Fehler aus den Trainingsdaten entfernt. Zwar können Modelle unstrukturierte Daten (wie Rohtext und Bilder) verarbeiten, doch sind strukturierte Daten nützlich, um Halluzinationen zu minimieren. Insgesamt werden hochwertige firmeneigene Daten zu einem immer wichtigeren Unterscheidungsmerkmal, je mehr sich Modelle der Kommerzialisierung nähern.

Urheberrechtsverletzungen, Datenschutz und andere Fallstricke bei der Datenbeschaffung erfordern einen durchdachten Ansatz zur Datenqualität, der je nach Unternehmen und Anwendungsfall unterschiedlich ausfallen wird.

KI-Governance bezieht sich auf die Prozesse, Standards und Leitplanken, die dazu beitragen, dass KI-Systeme und -Tools sicher und ethisch vertretbar sind. Governance soll potenzielle Schäden wie algorithmische Verzerrungen und die unbeabsichtigten Folgen automatisierter Entscheidungen erkennen und reduzieren. Governance ist Teil eines umfassenden Ansatzes für verantwortungsvolle KI, der weitergehende Prinzipien wie Vertrauen, Fairness, Robustheit, Transparenz und Datenschutz fördert.

Angesichts der Komplexität und Fragmentierung von Unternehmensdatenumgebungen bleibt die Data Governance eine Herausforderung, die es jedoch unbedingt zu bewältigen gilt.

Da Regionen weltweit ihre eigenen Frameworks für KI entwickeln (wie beispielsweise den EU AI Act), müssen Unternehmen sich der sich wandelnden Compliance-Anforderungen bewusst sein.

Wenn die Ausgaben eines Large Language Models (LLM) ungenau oder unsinnig erscheinen, könnte es sich um eine Halluzination handeln. Die neuesten Modelle und solche, die Daten mittels Retrieval-Augmented Generation (RAG) abrufen können, neigen weitaus weniger zu Halluzinationen als frühere Modelle, doch das Risiko bleibt bestehen. Angesichts der derzeitigen Funktionsweise von Maschinellen Lernalgorithmen und Verarbeitung natürlicher Sprache (NLP) gibt es keinen Grund zu der Annahme, dass Halluzinationen bald vollständig beseitigt sein werden.

Generative Systeme sagen das wahrscheinlichste nächste Wort unter Berücksichtigung des Kontexts voraus. Sie überprüfen Fakten nicht von sich aus, sondern füllen Lücken mit plausiblen Vermutungen. Die Modelle sind nicht auf die Wahrheit, wie wir sie kennen, ausgerichtet, sondern auf sprachliche Plausibilität. Was die Sache noch komplizierter macht: Halluzinationen werden oft mit einer Sicherheit präsentiert, die menschlichen Nutzern als absolut glaubwürdig erscheint.

Unternehmen müssen sich daher nicht nur Gedanken darüber machen, wie sie Halluzinationen minimieren, sondern auch die ethischen Aspekte des Umgangs mit ihnen untersuchen, insbesondere im direkten Kundenkontakt.

Die traditionelle Automatisierung hat vor allem repetitive manuelle Aufgaben ersetzt. Die Einführung generativer KI kann Creatives automatisieren, was zu einer Neugestaltung von Rollen führt. Mitarbeiter müssen lernen, wie man Prompts entwirft, generative Systeme überwacht, KI-generierte Ergebnisse bearbeitet und diese validiert. Sie müssen geschult werden, um die ethischen Herausforderungen, die der Einsatz generativer KI mit sich bringt, erfolgreich zu bewältigen.

„Workslop“ bezeichnet minderwertige, von KI generierte Inhalte, die auf den ersten Blick zwar ausgefeilt wirken mögen, denen es jedoch an der Substanz und den Nuancen menschlicher Fachkompetenz mangelt. Unternehmen müssen ihre Mitarbeiter so weiterbilden, dass sie von den potenziellen Vorteilen der KI profitieren und gleichzeitig deren Grenzen erkennen können, und so die bestmöglichen Ergebnisse erzielen, indem sie die KI dort zum Einsatz bringen, wo sie am leistungsfähigsten ist, und bei Bedarf menschliche Intelligenz einbringen.

Neue Technologien schaffen oft neue Angriffsflächen, und generative KI bildet da keine Ausnahme, insbesondere wenn sie mit Tools, Daten und autonomen Agenten verbunden ist. Zu den Bedrohungen zählt die Prompt Injection, bei der böswillige Eingaben genutzt werden, um KI-Systeme dazu zu bringen, sich anders als vorgesehen zu verhalten. Diese Technik kann genutzt werden, um einen Chatbot dazu zu verleiten, sensible private Daten preiszugeben, oder um einen Agenten dazu zu bringen, wichtige Daten in einer Datenbank zu löschen. Die Datensicherheit muss weiterentwickelt werden, um dieser Herausforderung gerecht zu werden.

Insbesondere KI-Agenten stellen eine große Herausforderung für das Risikomanagement dar, da diese Agenten in der Lage sind, auf Dateien zuzugreifen, im Internet zu surfen, APIs aufzurufen, Code auszuführen und Software zu steuern. Man kann sich vorstellen, wie ein vollständig integriertes agentische KI-System schiefgehen könnte, insbesondere wenn ein raffinierter, böswilliger Prompt wie „Erledige den Auftrag, egal was passiert“ von einem Agenten als „Du darfst die Sicherheitsvorkehrungen ruhig umgehen“ interpretiert werden könnte. Zudem muss ein derart gefährlicher Prompt nicht unbedingt böswillig sein.

KI-Systeme sind leistungsstark, können jedoch anfällig sein, und die Sicherheitsmaßnahmen für KI entwickeln sich rasch weiter, um dieser Herausforderung gerecht zu werden.

Bei der Modellentwicklung gibt es zwar noch viel Raum für Verbesserungen, doch es ist unvermeidlich, dass sich Foundation Models zunehmend zu einer Standardlösung entwickeln, was bedeutet, dass sie bald kein wesentliches Unterscheidungsmerkmal mehr darstellen werden. Wenn praktisch jedes Unternehmen Zugang zu ähnlichen Modellen hat, sehen Chatbots und andere KI-gestützte Tools irgendwann alle gleich aus.

Dieser Trend wird dazu führen, dass sich der Schwerpunkt weg von der Modellschicht hin zu einzigartigen Alleinstellungsmerkmalen und Anpassungsfähigkeit verlagert, die künftig den neuesten Stand der Technik darstellen werden. Unternehmen, die mehr und bessere eigene Datensätze sowie intelligentere Workflow-Integrationen, eine bessere Infrastruktur, intuitivere Customer Experiences und stärkere Governance- und Compliance-Frameworks bieten können, werden den größten Mehrwert schaffen.