DeepSeek-R1 erinnert uns an die Bedeutung von KI-Governance

Open-Source-Foundation-Models wie das viel diskutierte DeepSeek-R1 können Unternehmen einen Vorsprung bei der Erstellung eigener individueller Modelle verschaffen und somit den ROI steigern. Weniger diskutiert wurde hingegen die Rolle der KI-Governance. Governance ist für alle Formen von KI und ML erforderlich, aber es gibt besondere Aspekte bei Open-Source-Modellen von ^{Drittanbietern}. Wenn Sie möchten, dass der Einsatz von KI in Ihrem Unternehmen sicher, transparent und verantwortungsvoll erfolgt, ist eine effektive KI-Governance für verantwortungsvolle KI unerlässlich.

Lassen Sie uns angesichts dieser Entwicklungen darüber sprechen, wie Sie von Open-Source-Modellen wie DeepSeek profitieren können und gleichzeitig herausfinden, wie die KI-Governance einige der größten Herausforderungen entschärfen kann.

Eine IBM-Studie ergab, dass 51 % der Unternehmen, die Open-Source-Tools nutzen, einen positiven ROI erzielten, verglichen mit nur 41 % derjenigen, die dies nicht taten. Diese neuen und aufkommenden, kleineren Open-Source-Modelle unterstreichen IBMs Haltung zur Zukunft der KI-Offenheit, was Unternehmen helfen wird, die Vorteile von KI so zu realisieren, dass Effizienz mit Vertrauen und Sicherheit in Einklang gebracht werden. Während viele führende Köpfe der Technologiebranche von den Auswirkungen von DeepSeek überrascht und besorgt waren, setzt sich IBM schon lange für einen offeneren Ansatz ein. „Kleinere, effiziente Modelle können reale Ergebnisse liefern ohne riesige, proprietäre Systeme“, sagte IBM-CEO Arvind Krishna kürzlich in einem Artikel in Fortune.

Bei der Verwendung von Open-Source-Foundation Models ist die KI-Governance über den gesamten Modelllebenszyklus hinweg von entscheidender Bedeutung. Beginnend mit einer Risikobewertung müssen Unternehmen zunächst entscheiden, ob das Modell sicher verwendet werden kann. Was für allgemeine Zwecke oder den individuellen Gebrauch als sicher gilt, ist möglicherweise nicht für Anwendungsfälle in Unternehmen geeignet.

Im Fall von DeepSeek-R1 könnten Unternehmen entscheiden, dass das Selbsthosting des Modells oder das Ausführen über ein KI-Studioprodukt wie IBM® watsonx.ai relativ sicher ist. Die Nutzung der DeepSeek-App könnte jedoch Daten- und Sicherheitsherausforderungen mit sich bringen. Aus diesem Grund haben viele Länder die Nutzung der DeepSeek-App verboten.

Nachdem die Modelle genehmigt wurden, können die Modellvalidierer sie zu einem Modellbestand hinzufügen, das die Modellnutzung und Leistung verfolgt und gleichzeitig die Anwendungsfälle angibt, auf die die Modelle angewendet werden können. Diese Sammlung von Modellen ermöglicht es KI-Entwicklern, verfügbare Modelle zu identifizieren, und den Teams für Qualitätssicherung, Daten und Sicherheit, nachzuverfolgen, wo die Modelle eingesetzt werden.

KI-Factsheets erfassen Modellfakten während des gesamten Lebenszyklus und erhöhen die Transparenz darüber, was im Modell enthalten ist und wie es verwendet wird. Die Factsheets zeigen, welches Foundation Model verwendet wurde, einschließlich der Prompt-Parameter, der Vorlagen und der Bewertung.

Es bestehen Bedenken hinsichtlich der Sicherheit einiger Open-Source-Modelle und der Leichtigkeit, mit der durch Prompt-Einschleusen und Jailbreaking schädliche Ausgabe-Ergebnisse erzeugt werden können. Observability und Leitplanken können den Zustand, die Genauigkeit und die Abweichung von Modellen überwachen und Hassreden, Obszönitäten und andere schädliche Inhalte einschränken.

Die Nachteile von KI ohne KI-Governance sind immens. Unternehmen, die KI nutzen, um mit Einzelpersonen in der EU zu interagieren, müssen den EU AI Act einhalten. Bei Nichteinhaltung droht eine Geldstrafe von 35 Millionen Euro oder 7 % des Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Auch die Risiken für die Marken, den Ruf sowie das Vertrauen von Kunden und Partnern sind erheblich. Stellen Sie sich vor, Ihr Unternehmen kompromittiert die personenbezogenen Daten von Kunden oder beleidigt oder betrügt einen Kunden in einer Interaktion. Es wird Kunden egal sein, ob der ursprüngliche Fehler bei Ihrem Team oder beim Foundation Model lag, Ihre Marke nimmt in jedem Fall Schaden. Ohne entsprechende Schutzmaßnahmen wird der Einsatz von generativer KI für jeden Anwendungsfall zu riskant.

KI-Governance ermöglicht es Unternehmen, eine Reihe von Risiken zu managen und abzumildern und befähigt sie, KI sicher und verantwortungsvoll zu nutzen. Zur Unterstützung dieser Bemühungen entwickelte IBM Research den KI-Risikoatlas, ein Tool, das Unternehmen dabei helfen soll, verschiedene KI-Risiken zu identifizieren und zu kartieren.

Ein robustes KI-Governance-Framework und eine Lösung sind für Ihr Unternehmen von entscheidender Bedeutung, aber ein solches von Grund auf neu aufzubauen ist ein langwieriger, kostspieliger Prozess, der sich nachteilig auf Ihren KI-ROI auswirken kann. Für Unternehmen, die ihre KI effizient, sicher und verantwortungsvoll skalieren möchten, haben wir watsonx.governance™ entwickelt.

Eine KI-Governance-Lösung, wie beispielsweise watsonx.governance, ermöglicht es Führungskräften zu entscheiden, ob und wie sie Modelle wie DeepSeek in der KI ihres Unternehmens zulassen. Durch die Integration mit IBM Guardium AI Security kann watsonx.governance auch unbekannte Instanzen des Modells identifizieren und spezifische Risiken wie Jailbreak, DDoS und Dateneingaben personenbezogener Informationen verwalten. So kann jedes Modell verwaltet und auf jede Cloud angewendet oder lokal ausgeführt werden. Der KI-Risikoatlas von IBM

DeepSeek ist nur eine von einer Reihe von Open-Source-Innovationen und erinnert daran, dass im Vergleich zu früheren Technologien jede Weiterentwicklung der KI Verwaltung und Sicherheit in den Mittelpunkt der Strategie Ihres Unternehmens stellen muss. Das ist nicht optional, sondern eine grundlegende Anforderung.