Wie man geschäftsfähige generative KI verantwortungsvoll skaliert

Stellen Sie sich die Möglichkeiten vor, textbasierte Abfragen bereitzustellen und eine Welt des Wissens für verbessertes Lernen und Produktivität zu eröffnen. Es gibt immer mehr Möglichkeiten, die Unterstützung beim Verfassen von Artikeln, Essays oder E-Mails umfassen; Zugriff auf zusammengefasste Forschung; Generieren und Brainstorming von Ideen; dynamische Suche mit personalisierten Empfehlungen für Einzelhandel und Reisen; und das Erklären komplizierter Themen für die Bildung und Berufsausbildung. Mit generativer KI verändert sich die Suche dramatisch. Anstatt Links zu mehreren Artikeln bereitzustellen, erhält der Benutzer direkte Antworten, die aus einer Vielzahl von Daten synthetisiert werden. Es ist, als würde man ein Gespräch mit einer sehr intelligenten Maschine führen.

Generative KI verwendet eine fortschrittliche Form von Algorithmen des maschinellen Lernens, die Benutzereingaben aufgreift und mithilfe der Verarbeitung natürlicher Sprache (NLP) Antworten auf fast jede gestellte Frage generiert. Es werden riesige Mengen an Internetdaten, umfangreiches Vorabtraining und verstärktes Lernen genutzt, um überraschend menschliche Transaktionen zu ermöglichen. Es wird außerdem verstärkendes Lernen durch menschliches Feedback (RLHF) verwendet, das sich an verschiedene Kontexte und Situationen anpasst und mit der Zeit immer genauer und natürlicher wird. Generative KI wird für eine Vielzahl von Anwendungsfällen analysiert, darunter Marketing, Kundenservice, Einzelhandel und Bildung.

ChatGPT verwendet eine Deep-Learning-Architektur namens Transformer und stellt einen bedeutenden Fortschritt im Bereich NLP dar. Während OpenAI die Führung übernommen hat, wächst die Konkurrenz. Laut Precedence Research wurde der weltweite Markt für generative KI im Jahr 2022 auf 10,79 USD geschätzt und es wird erwartet, dass er bis 2032 auf rund 118,06 USD ansteigt, mit einer durchschnittlichen jährlichen Wachstumsrate von 27,02 % zwischen 2023 und 2032. Das ist alles sehr beeindruckend, aber nicht ohne Vorbehalte.

Bei der Verwendung von vorkonfigurierten, vorgefertigten generativen Modellen gibt es einige grundlegende Probleme. Jedes Unternehmen muss die Möglichkeiten zur Wertschöpfung gegen die damit verbundenen Risiken abwägen. Je nach Branche und Anwendungsfall werden Unternehmen mit geringer Risikotoleranz feststellen, dass entweder die Eigenentwicklung oder die Zusammenarbeit mit einem vertrauenswürdigen Partner bessere Ergebnisse liefert.

Zu den Bedenken, die bei generativen KI-Modellen von der Stange zu berücksichtigen sind, gehören:

Internetdaten sind nicht immer fair und genau

Im Kern eines Großteils der generativen KI sind heute riesige Datenmengen aus Quellen wie Wikipedia, Websites, Artikeln, Bild- oder Audiodateien usw. Generative Modelle gleichen Muster in den zugrunde liegenden Daten ab, um Inhalte zu erstellen, und ohne Kontrollen kann es zu böswilligen Absichten kommen, um Desinformation, Verzerrung und Online-Belästigung zu fördern. Da diese Technologie so neu ist, mangelt es manchmal an Verantwortlichkeit, und es besteht ein erhöhtes Reputationsrisiko sowie ein regulatorisches Risiko in Bezug auf Dinge wie Urheberrechte und Lizenzgebühren.

Es kann eine Diskrepanz zwischen Modellentwicklern und allen Anwendungsfällen geben.

Die nachgelagerten Entwickler generativer Modelle erkennen möglicherweise nicht das volle Ausmaß der Nutzung und Anpassung des Modells für andere Zwecke. Dies kann zu fehlerhaften Annahmen und Ergebnissen führen, die nicht entscheidend sind, wenn es sich um weniger wichtige Entscheidungen wie die Auswahl eines Produkts oder einer Dienstleistung handelt, aber wichtig werden, wenn es sich um eine kritische Entscheidung handelt, die das Unternehmen dem Vorwurf unethischen Verhaltens, einschließlich Verzerrung, oder Problemen mit der Einhaltung von Vorschriften aussetzen kann, die zu Audits oder Geldstrafen führen können.

Rechtsstreitigkeiten und Regulierung wirken sich auf die Nutzung aus

Besorgnis über Rechtsstreitigkeiten und Vorschriften werden die Nutzung generativer KI in großen Unternehmen zunächst einschränken. Dies gilt insbesondere in stark regulierten Branchen wie dem Finanzdienstleistungs- und Gesundheitswesen, wo die Toleranz für unethische, voreingenommene Entscheidungen, die auf unvollständigen oder ungenauen Daten basieren, sehr gering ist und Modelle nachteilige Auswirkungen haben können.

Die regulatorische Rahmen für generative Modelle wird zwar irgendwann nachziehen, aber Unternehmen müssen proaktiv handeln, um Verstöße gegen die Vorschriften, Schäden am Ruf ihres Unternehmens, Audits und Bußgelder zu vermeiden.

Angesichts der zunehmenden Bedeutung von KI-Erkenntnissen und der zunehmenden Auswahl an Technologien müssen Sie sicherstellen, dass Ihre Modelle verantwortungsvoll arbeiten, mit transparenten Prozessen und erklärbaren Ergebnissen. Unternehmen, die Governance proaktiv in ihre KI-Initiativen integrieren, können Modellrisiken besser erkennen und mindern und gleichzeitig ihre Fähigkeit stärken, ethische Grundsätze und staatliche Vorschriften einzuhalten.

Entscheidend ist, sich auf vertrauenswürdige Technologien und bewährte Unternehmenslösungen zu stützen. Beginnen Sie damit, mehr über die Fortschritte zu erfahren, die IBM mit neuen generativen KI-Modellen macht – mit watsonx.ai und setzen Sie proaktiv watsonx.governance ein, um verantwortungsvolle, transparente und erklärbare KI-Workflows zu fördern, heute und in Zukunft.

watsonx.governance bietet ein leistungsstarkes Toolkit für Governance, Risikomanagement und Compliance (GRC), das entwickelt wurde, um Workflows im KI-Lebenszyklus zu operationalisieren, Risiken proaktiv zu erkennen und zu mindern sowie die Einhaltung der wachsenden und sich ändernden rechtlichen, ethischen und regulatorischen Anforderungen zu verbessern. Anpassbare Berichte, Dashboards und kollaborative Tools verbinden verteilte Teams und verbessern die Effizienz, Produktivität und Verantwortlichkeit der Stakeholder. Die automatische Erfassung von Modell-Metadaten und Fakten unterstützt die Prüfung und führt zu transparenten und erklärbaren Modellergebnissen.

Beschleunigen Sie die Governance und vereinfachen Sie das Risikomanagement in Ihrem gesamten Unternehmen mit IBM OpenPages, einer einheitlichen Lösung für Governance, Risiko und Compliance (GRC), die Sie bei der Verwaltung, Überwachung und Berichterstattung zu Risiken und Compliance unterstützt. Erfahren Sie mehr darüber, wie watsonx.governance verantwortungsvolle, transparente und nachvollziehbare KI-Workflows vorantreibt – und welche Verbesserungen in Zukunft geplant sind.