Generatives KI-Funktionsmodell

Die Unternehmensfunktionen, die für das Erreichen strategischer Ziele und betrieblicher Anforderungen unerlässlich sind, werden im Funktionsmodell der generativen KI-Architektur beschrieben. Es umfasst sechs Kategorien, die einzigartige und unterstützende Funktionen aufzeigen, die für eine effektive Implementierung generativer KI erforderlich sind, wobei eine umfassende Dokumentation in anderen Architekturen verfügbar ist.

• Generative KI-Operationen sind die erforderlichen Funktionen, um generative KI-Modelle für den Einsatz innerhalb eines Unternehmens zu verwalten, bereitzustellen und anzupassen. Zu dieser Kategorie gehören Funktionen zum Trainieren und Abstimmen von Modellen, zur Verwaltung des Lebenszyklus von Modellen nach der Implementierung sowie zur Verwaltung von Modellen und Datensätzen, die den Benutzern innerhalb des Unternehmens zur Verfügung stehen.

• Generative KI-Anwendungsentwicklung beschreibt die Funktionen, die notwendig sind, um allgemeine Basismodelle für den Einsatz in unternehmens- und bereichsspezifischen Lösungen zu optimieren und vollfunktionale generative KI-Anwendungen zu entwickeln. Dies umfasst die notwendigen Funktionen zur Erstellung und Bereitstellung agentischer KI-Anwendungen sowie zum Testen und Optimieren von Prompts.

• Generative KI-Governance ist eine Suite von Funktionen, die erforderlich sind, um Modelle in der Produktion effektiv zu überwachen und zu verwalten. Dazu gehören Funktionen zur Überwachung der weiterhin genauen und angemessenen Reaktionen der Modelle, Funktionen zum Schutz von Modellen vor unangemessenen und/oder bösartigen Eingaben sowie Funktionen zur Steuerung von Unternehmensrisiken und zur Unterstützung sowohl bei regulatorischen Compliance- als auch Berichtspflichten.

• Generatives KI-Sicherheitsmanagement konzentriert sich auf die Funktionen, die erforderlich sind, um KI-Systeme zu schützen und ihre ethische und verantwortungsvolle Bereitstellung zu gewährleisten. Dazu gehört die Sicherung des gesamten KI-Stacks, der Schutz der Modelle und ihrer Nutzung sowie der Daten, auf die sie sich verlassen.

Die verbleibenden Funktionsgruppen unterstützen Funktionen für generative KI. Die Funktionen gibt es nicht nur für die generative KI, sie müssen aber vorhanden sein, um sie als Unternehmenslösung zu unterstützen. Diese Gruppen sind:

• Datenverwaltung stellt eine Reihe von Funktionen zum speichern, verwalten und transformieren von Daten in Formen dar, die sich für die Anpassung und das Training von generativen KI-Modellen eignen. Ebenfalls in diese Kategorie fallen Funktionen, die es ermöglichen, Modellantworten zu Prüfzwecken zu protokollieren und zu bewerten sowie als Input für die weitere Modelloptimierung und -verfeinerung zu nutzen.
   

• Unterstützende Funktionen beziehen sich auf eine umfassende Gruppierung von Anwendungen, Integration und IT-Betriebsfunktionen, die für die erfolgreiche Bereitstellung und Verwaltung generativer KI-Lösungen im Unternehmen erforderlich sind.
   

• Generative KI-Ressourcen erfassen die Hardware- und Plattformfunktionen, die für die effiziente und effektive Entwicklung, Optimierung, Bereitstellung und Verwaltung generativer KI-Modelle und -Lösungen erforderlich sind.

Jede Funktionskategorie besteht aus einer oder mehreren Funktionsgruppen. Dieser Abschnitt hebt Gruppen und Funktionen hervor, die für die generative KI von zentraler Bedeutung sind.

Die Funktionsgruppe Model Hub umfasst die erforderlichen Funktionen zur Verwaltung importierter Modelle sowie von Modellen, die vom Unternehmen optimiert oder trainiert wurden. Diese Funktionen ermöglichen es Unternehmen, die innerhalb des Unternehmens verfügbaren Modelle und Datensätze zu verwalten und den Zugriff auf Modelle und Datensätze auf bestimmte Benutzer oder Gruppen innerhalb des Unternehmens zu beschränken. Modellimport und Datenimport sind Hauptfunktionen für Unternehmen, um die Aufnahme von Modellen aus der steigenden Anzahl öffentlicher Modell-Repositories wie Hugging Face zu ermöglichen.

Modell-Hosting Model Hosting bietet Funktionen für das Bereitstellen allgemeiner und optimierter Modelle als API-fähige Dienste innerhalb eines Unternehmens, die Ressourcen zu optimieren, unabhängige Optimierungen und Ersetzungen zu ermöglichen, sowie die Governance zu vereinfachen. Der Schlüssel dazu ist das Management der Zugriffsrichtlinien auf Modelle, das sicherstellt, dass der Modellzugriff auf autorisierte Benutzer und Gruppen beschränkt ist, um eine unbefugte Nutzung zu verhindern.

Unter Modellanpassung versteht man eine Gruppe von Funktionen, die es Unternehmen ermöglichen, generative KI-Modelle für spezifische Geschäftsanforderungen abzustimmen und zu trainieren. In der Regel wird diese Funktion mithilfe einer Cloud-Plattform realisiert, da sich das Pay-as-you-go-Modell der Cloud gut für den stoßweisen Charakter von Tuning- und Trainingsressourcen eignet.

Modell- und Data Governance sind eine entscheidende Voraussetzung dafür, dass Unternehmen generative KI-Modelle in großem Umfang nutzen können. Konkret liefern diese Funktionen Unternehmen die nötigen Erkenntnisse, um Modellrisiken wie die Einführung von Verzerrungen in Modellreaktionen zu überwachen und zu managen sowie regulatorische und Compliance-Anforderungen für Modelltransparenz und Fairness zu erfüllen.

Modellüberwachung ist das operative Gegenstück zu Modell-Governance. Während sich Modell-Governance mit dem langfristigen Modell- und Risikomanagement befasst, ermöglichen die Funktionen von Modellüberwachung Unternehmen die Überwachung und Verwaltung von Modelloperationen in Echtzeit. Die Modellüberwachung umfasst mehrere Schlüsselfunktionen, darunter:

• Verzerrungserkennung – die Fähigkeit, zu erkennen und zu kennzeichnen, wenn die Antworten eines Modells von etablierten/idealen Antworten abweichen und beginnen, eine Reihe von Ergebnissen gegenüber anderen zu bevorzugen.

• Die Erkennung von Hass, Beschimpfungen und Obszönitäten ist die Fähigkeit, Hass, Beschimpfungen und Obszönitäten sowohl in den von den Benutzern eingereichten Prompts als auch in den vom Modell generierten Antworten zu erkennen und zu filtern. Diese Funktionen werden als „Basisfunktionen“ betrachtet. Unternehmen entscheiden sich oft dafür, die Liste der gefilterten Themen um Themen zu erweitern, die für das Unternehmen nicht geeignet sind, z. B. sexuell anzügliche Themen in einer Kreditfiliale oder um den sozialen Normen einer Zielgruppe gerecht zu werden.

• Prompt-Überwachung und Sicherheit ist eine aufkommende Funktion, die benötigt wird, um bereitgestellte Modelle vor Angriffen wie Prompt Injection zu schützen, die darauf ausgelegt sind, das Modell zu beschädigen oder die vom Unternehmen festgelegten Modellkontrollen zu umgehen.
  
  

Generatives KI-Compliance Management ist eine Kategorie von Funktionen, bei der es darum geht, die notwendigen Kontrollen zu ermöglichen, um die Nutzung von KI über den Anwendungsstack hinweg zu sichern und die Anwendungen selbst zu schützen. Hält ethische Standards und Richtlinien ein, um sicherzustellen, dass KI-Systeme die menschlichen Werte und Rechte respektieren.

• Compliance von KI-Apps. Die Funktion, die Einhaltung von KI-„Anwendungen“ in Bezug auf etablierte Richtlinien, Vorschriften und Standards zu ermöglichen. Bereitstellung von Funktionen zur Aktivierung von Kontrollen wie: Posture Management & Compliance von KI-Apps, Durchführung vertrauenswürdiger KI-Systemtests.

• Compliance von KI-Modellen ist eine Funktion, die Verwaltung und Einhaltung von KI-Modellen gemäß etablierter Richtlinien, Vorschriften und Standards ermöglicht. Sie enthält wichtige Steuerungsfunktionen wie: Modelldriftverfolgung. Posture Management und Compliance von Modellen.

• Rechts- und Compliance-Management. Stellt sicher, dass Unternehmen hinsichtlich der regulatorischen Rahmenbedingungen auf dem Laufenden bleiben (Regulierungsbeobachtung) und die gesetzlichen Anforderungen, Regeln und Standards einhalten, die die Entwicklung, den Einsatz, die Überwachung und die Nutzung von KI regeln (z. B. laufende Compliance und Regulierungsüberwachung)
   

Sicherheitsmanagement für KI-Anwendungen. Bei dieser Funktionskategorie geht es darum, die notwendigen Kontrollmechanismen bereitzustellen, um die Nutzung von KI über den Anwendungsstack hinweg zu sichern und die Anwendungen selbst zu schützen. Hält ethische Standards und Richtlinien ein, um sicherzustellen, dass KI-Systeme die menschlichen Werte und Rechte respektieren.

• KI-App-Bedrohungsmanagement und Schutz ist eine Funktion, um potenzielle Risiken und Schwachstellen zu erkennen, zu bewerten und zu mindern, die die Sicherheit, Funktionalität oder Zuverlässigkeit einer KI-Anwendung beeinträchtigen könnten, und sicherzustellen, dass sie sich anpassen, erholen und auch bei unerwarteten Ereignissen effektiv weiterarbeiten kann. Sorgt außerdem für die Robustheit, Sicherheit und Zuverlässigkeit von KI-Systemen während ihres gesamten Lebenszyklus.

• KI-App-Interaktionssicherheit und -Schutz sind Mechanismen, die sicherstellen, dass Interaktionen zwischen KI-Systemen und ihren Benutzern, anderen Systemen und der Umgebung auf sichere Weise erfolgen, (z. B. Eingabemanipulation, Einschränkung übermäßiger Abfragen, Verhindern toxischer Ergebnisse)

• Sicherheit von KI-Apps. Die Funktionen und Praktiken, um einen sicheren und zuverlässigen Betrieb von KI-Systemen zu gewährleisten. Sie umfasst Strategien zur Vermeidung unbeabsichtigter Folgen, Fehler und Schäden durch KI-Anwendungen (z.B. Dokumentation von vertrauenswürdigem KI-Einsatz, Fairness-Bewertung).
   

Sicherheitsmanagement für KI-Modelle. Bei dieser Funktionskategorie geht es darum, die Steuerelemente zu aktivieren, die zur „Sicherung der Modellebene“ sowie zur sicheren Verwendung von Modellen erforderlich sind. Implementiert Best Practices für Modelltraining, Validierung und Bewertung zur Verbesserung von Leistung und Zuverlässigkeit.

• Prompt Sicherheit & Schutz ist eine Funktion, die sicherstellt, dass die Eingabe-Prompts für KI-Modelle sicher, nicht böswillig und auf das beabsichtigte Verhalten des Modells abgestimmt sind und das Modell vor unbefugtem Zugriff, Manipulationen oder Angriffen schützen. Ebenso wichtig ist die Überprüfung, ob Antwortprompts hinsichtlich ihrer Inhalte sicher sind und nicht versehentlich personenbezogene Daten offenlegen (zum Beispiel Schutz vor Prompt Injection, Verhinderung von Inferenzangriffen/Minimierung der Abfrageantwort, Vermeidung toxischer Ergebnisse)

• KI-Modell-Bedrohungserkennung ist die Funktion, potenzielle Risiken oder Schwachstellen zu identifizieren und zu mindern, die die Integrität, Sicherheit oder Leistung der KI-Modelle und die Interaktion mit diesen Modellen einschränken (z. B Modellsicherheitstests, Behebung von Modellschwachstellen)

• KI-Modell Zugriffsmanagement. Beschränkung des Zugriffs auf generative KI-Modelle, Modellparameter, Trainingsdaten und APIs, um potenziellen Missbrauch und Angriffsvektoren zu verhindern. Diese Funktion richtet Zugriffskontrollen für Modelle ein, die für die Nutzung in Unternehmen, einschließlich KI-Anwendungen, bereitgestellt werden. Sichert interne Modellregister und beschränkt den internen Zugriff auf Produktionsmodelle. Solche Zugriffskontrollen sollten kontextbezogene Richtlinien umfassen, die Faktoren wie „wer, was, wann und von wo aus“ berücksichtigen.
   

KI-Datensicherheitsmanagement. Diese Kategorie von Funktionen ermöglicht Kontrollen zur „Sicherung der Datenebene“. Festlegung klarer Richtlinien für Datenerhebung, Speicherung und Nutzung, um die Datenqualität sicherzustellen und Verzerrungen zu mindern. Obwohl Datensicherheit nicht nur für generative KI relevant ist, konzentrieren wir uns hier nur auf Bereiche, in denen generative KI aus datenschutzrechtlicher Sicht besondere Aufmerksamkeit erfordert.

• Datenschutz und Vertraulichkeit stellen eine Funktion dar, die sensible Informationen schützt, um sicherzustellen, dass sie angemessen behandelt werden, privat bleiben und nur für autorisierte Systeme und Benutzer zugänglich sind (z. B. Datenschutz, Sicherheit sensibler Daten, Datenvertraulichkeit)
   

Agentische KI ist eine Gruppe von Funktionen, die zum Erstellen und Bereitstellen von agentischen KI-Anwendungen erforderlich sind. Dazu gehören Kernfunktionen wie Routing und Orchestrierung sowie Werkzeugverwaltung und Werkzeugaufruf.

Generatives KI-Tuning beschreibt eine Gruppe von Funktionen, die notwendig sind, um ein generatives Modell an die Bedürfnisse des Unternehmens anzupassen. Die Modelle werden auf einer breiten Wissensbasis trainiert und kennen sich mit dem Fachjargon und den Prozessen der Branche nicht aus. Daher müssen die meisten Unternehmen Funktionen wie Prompt Engineering, Prompt Tuning und Model Finetuning nutzen, um ein Modell zu entwickeln, das die Bedingungen und Prozesse des Unternehmens versteht.

Generative KI-Anwendungsfunktionen ermöglichen es Unternehmen, fortschrittliche generative KI-Anwendungen zu entwickeln. Zu den Funktionen gehört die Fähigkeit, dynamisch Funktionen zu generieren, um auf Benutzeranfragen zu antworten, dialogorientiertes Gedächtnis, das es generativen KI-Anwendungen ermöglicht, frühere Interaktionen auf dialogorientierte Weise zu behalten und zu verweisen, und Modellrouting, das es Anwendungen ermöglicht, Abfragen dynamisch an ein Modell weiterzuleiten, das am besten für die Beantwortung geeignet ist.