Verantwortungsvolle künstliche Intelligenz (KI) ist eine Reihe von Grundsätzen, die bei der Gestaltung, Entwicklung, Bereitstellung und Nutzung von KI helfen und Vertrauen in KI-Lösungen schaffen, die das Potenzial haben, Unternehmen und ihre Stakeholder zu stärken. Verantwortungsvolle KI befasst sich mit den breiteren gesellschaftlichen Auswirkungen von KI-Systemen und den Maßnahmen, die erforderlich sind, um diese Technologien mit den Werten der Stakeholder, rechtlichen Standards und ethischen Grundsätzen in Einklang zu bringen. Verantwortungsvolle KI strebt danach, solche ethischen Grundsätze in KI-Anwendungen und -Workflows einfließen zu lassen, um Risiken und negative Folgen im Zusammenhang mit der Nutzung von KI zu minimieren und gleichzeitig positive Ergebnisse zu maximieren.
Dieser Artikel soll einen allgemeinen Überblick über verantwortungsvolle KI geben. Um mehr über die spezifische Sichtweise von IBM zu erfahren, besuchen Sie unsere KI-Ethikseite.
Die weit verbreitete Einführung des maschinellen Lernens in den 2010er Jahren, die durch Fortschritte bei Big Data und Rechenleistung vorangetrieben wurde, brachte neue ethische Herausforderungen (z. B. Verzerrung, Transparenz und die Verwendung personenbezogener Daten) mit sich. Die KI-Ethik entwickelte sich in dieser Zeit zu einer eigenständigen Disziplin, da Technologieunternehmen und KI-Forschungseinrichtungen versuchten, ihre KI-Bemühungen proaktiv und verantwortungsbewusst zu gestalten.
Die generativen KI-Tools und KI-Agenten, die jetzt schnell von Unternehmen eingesetzt werden, erfordern neue Frameworks für ethischen Gebrauch. Zukunftsorientierte Unternehmen, die ihre Grundsätze für verantwortungsvolle KI im Hinblick auf eine Welt mit autonomen Systemen neu definieren, können den Anwendern dabei helfen, das volle Potenzial dieser Werkzeuge auszuschöpfen und gleichzeitig unerwünschte Folgen zu minimieren.
KI muss vertrauenswürdig sein, und damit Stakeholder KI vertrauen können, muss sie transparent sein. Technologieunternehmen müssen klar darlegen, wer ihre KI-Systeme trainiert, welche Daten für das Training verwendet wurden und vor allem, was in die Empfehlungen ihrer Algorithmen eingeflossen ist. Wenn wir KI nutzen wollen, um wichtige Entscheidungen zu treffen, muss sie erklärbar sein.
Bleiben Sie mit dem Think-Newsletter über die wichtigsten – und faszinierendsten – Branchentrends in den Bereichen KI, Automatisierung, Daten und mehr auf dem Laufenden. Weitere Informationen finden Sie in der IBM Datenschutzerklärung.
Verantwortungsvolle KI ist ein soziotechnischer Ansatz, der Menschen, Prozesse, Werkzeuge und Steuerungsmechanismen miteinander verbindet. Dabei müssen Unternehmen den gesamten Lebenszyklus von KI-Systemen berücksichtigen – von der Datenerfassung über die Modellentwicklung bis hin zur Bereitstellung, Überwachung und Verbesserung. Außerdem müssen die umfassenderen Auswirkungen von KI auf Einzelpersonen, Unternehmen, die Gesellschaft und die Umwelt berücksichtigt werden.
Das Responsible Technology & Governance Framework von IBM vereint Grundsätze, Eigenschaften, Wirkungsdimensionen und Governance-Praktiken in einem einheitlichen Ansatz für die Entwicklung und Bereitstellung verantwortungsbewusster Technologien. Verantwortungsvolle KI spielt bei diesem Ansatz weiterhin eine zentrale Rolle, während das Framework dasselbe Governance-Modell auf neue Technologien wie agentische Systeme, Quantencomputing und zukünftige Anwendungsbereiche ausweitet.
Das Framework besteht aus vier Komponenten:
Prinzipien des Vertrauens
Die grundlegenden Verpflichtungen von IBM für eine verantwortungsvolle Technologieentwicklung und -bereitstellung:
Technologie sollte die menschlichen Fähigkeiten erweitern.
Technologie sollte auf einer verantwortungsvollen Data Governance beruhen.
Technologie sollte offen und transparent sein.
Die Säulen einer vertrauenswürdigen KI
Die Eigenschaften, die KI-Systeme aufweisen sollten, um Vertrauen zu ermöglichen:
Transparenz
Fairness und die Ausrichtung auf menschliche Werte
Zuverlässigkeit
Datenschutz
Abmessungen der Auswirkungen
Die umfassenderen Ergebnisse, die IBM bei der Bewertung der Technologie berücksichtigt:
Menschliches Handeln und Vertrauen
Gesellschaftliches Wohlbefinden
Ökologische Nachhaltigkeit
Governance
Die Programme, Instrumente, Bildungsmaßnahmen, Richtlinien, Partnerschaften und Überprüfungsmechanismen, die Verpflichtungen zu verantwortungsvollem Umgang mit Technologie mit der täglichen Praxis verknüpfen.
Zusammen ermöglichen diese Komponenten, Verantwortung durch Design zu gestalten. Mit zunehmender Leistungsfähigkeit von KI-Systemen und deren immer stärkerer Einbindung in die Geschäftsabläufe sollten Unternehmen nachweisen können, dass Vertrauen durch eine in ihre Systeme und Prozesse integrierte Governance umgesetzt wird.
Die Implementierung verantwortungsvoller KI-Praktiken auf Unternehmensebene erfordert einen ganzheitlichen, umfassenden Ansatz, der verschiedene Phasen der KI-Entwicklung und -Bereitstellung abdeckt.
Entwickeln Sie eine Reihe verantwortungsvoller KI-Prinzipien, die mit den Werten und Zielen der KI-Innovation des Unternehmens übereinstimmen. Berücksichtigen Sie die oben in den „Säulen des Vertrauens“ beschriebenen Schlüsselaspekte. Solche Grundsätze können von einem dedizierten, bereichsübergreifenden KI-Ethikteam entwickelt und aufrechterhalten werden, das aus Vertretern verschiedener Abteilungen besteht – darunter KI-Spezialisten, Ethiker, Rechtsexperten und Führungskräfte.
Führen Sie Schulungsprogramme durch, um Mitarbeiter, Stakeholder und Entscheidungsträger über verantwortungsvolle KI-Praktiken aufzuklären. Dazu gehört auch das Verständnis potenzieller Vorurteile, ethischer Überlegungen und der Bedeutung der Integration verantwortungsvoller KI in den Geschäftsbetrieb.
Integrieren Sie verantwortungsvolle KI-Praktiken in die gesamte KI-Entwicklungspipeline – von der Datenerfassung und dem Modelltraining bis hin zur Bereitstellung und laufenden Überwachung. Verwenden Sie Techniken, um Verzerrungen in KI-Systemen zu erkennen und mindern. Bewerten Sie Modelle regelmäßig auf Fairness anhand etablierter Metriken, insbesondere in Bezug auf sensible Merkmale wie Rasse, Geschlecht oder sozioökonomischen Status. Setzen Sie auf Transparenz, indem Sie KI-Systeme erklärbar machen. Stellen Sie eindeutige Unterlagen über Datenquellen, Algorithmen und Entscheidungsprozesse bereit. Nutzer und Stakeholder sollten in der Lage sein, zu verstehen, wie KI-Systeme Entscheidungen treffen.
Etablieren Sie verantwortungsvolle KI-Governance-Praktiken und -Schutzmaßnahmen, um die Privatsphäre der Endnutzer und sensible Daten zu schützen. Kommunizieren Sie die Richtlinien zur Datennutzung klar und deutlich, holen Sie eine Einverständniserklärung ein und halten Sie die Datenschutzbestimmungen ein.
Integrieren Sie Mechanismen für die menschliche Kontrolle in kritische Entscheidungsprozesse. Definieren Sie klare Verantwortungsbereiche, um sicherzustellen, dass die verantwortlichen Parteien identifiziert werden und für die Ergebnisse von KI-Systemen zur Verantwortung gezogen werden können. Führen Sie eine fortlaufende Überwachung von KI-Systemen ein, um ethische Bedenken, Verzerrungen oder Probleme, die im Laufe der Zeit auftreten können, zu erkennen und zu beheben. Überprüfen Sie KI-Modelle regelmäßig, um die Einhaltung ethischer Richtlinien zu bewerten.
Fördern Sie die Zusammenarbeit mit externen Unternehmen, Forschungseinrichtungen und Open-Source-Gruppen, die an der Sicherheit von KI arbeiten. Bleiben Sie über die neuesten Entwicklungen bei verantwortungsvollen KI-Praktiken und -Initiativen auf dem Laufenden und tragen Sie zu branchenweiten Bemühungen bei.