Ethik ist eine Reihe moralischer Grundsätze, die uns helfen, zwischen richtig und falsch zu unterscheiden. KI-Ethik ist ein multidisziplinäres Fachgebiet, das untersucht, wie die positiven Auswirkungen von künstlicher Intelligenz (KI) optimiert und gleichzeitig Risiken und negative Folgen reduziert werden können.
Beispiele für ethische Fragen im Zusammenhang mit KI sind:
Die meisten Unternehmen nutzen heute KI-Tools und Big Data in irgendeiner Form, um die Automatisierung zu unterstützen und datengetriebene Entscheidungen zu ermöglichen. Obwohl die Absicht normalerweise darin besteht, Geschäftsergebnisse zu verbessern, können Unternehmen unvorhergesehene Konsequenzen in ihren KI-Anwendungen erleben, oft aufgrund mangelnder Voranfangsforschung und -designs sowie voreingenommener Datensätze. Diese Problematik unterstreicht die Bedeutung des ethischen Einsatzes von KI-Systemen.
Die Forschung sowie Data-Science-Communities haben Richtlinien für KI-Ethik entwickelt, um dabei zu helfen, diese unvorhergesehenen Folgen und unfairen Ergebnisse abzumildern. Führende KI-Unternehmen haben ebenfalls Interesse an der Gestaltung dieser Richtlinien gezeigt, da sie wissen, dass die Nichteinhaltung ethischer Standards ihren Produkten, Dienstleistungen und Nutzern schaden kann. Mangelnde Sorgfalt in Sachen KI-Ethik kann zu Reputations-, Regulierungs- und Rechtsrisiken führen, die kostspielige Strafen nach sich ziehen.
Innovationen überholen in der Regel die staatliche Regulierung, insbesondere bei neuen Technologien wie KI. Im Laufe der Zeit ist zu erwarten, dass immer mehr Regierungen gesetzlich vorgeschriebene KI-Protokolle erlassen werden, um Menschenrechte und bürgerliche Freiheiten zu schützen. Obwohl es einige Vorschriften gibt – wie den EU AI Act– sind viele bestehende KI-Ethikrichtlinien freiwillige Frameworks, die von Wissenschaftlern und Branchen vorgeschlagen werden.
Die akademische Gemeinschaft stützt sich seit Langem auf die ethischen Prinzipien, die 1979 im „Belmont Report“1 dargelegt wurden, als Richtschnur für Ethik in der experimentellen Forschung und algorithmischen Entwicklung.
Diese Prinzipien können eine Grundlage für ethische Forschung, Design und Nutzung von KI und maschinellem Lernen bieten. Da sie jedoch unter Berücksichtigung menschlicher Subjekte entwickelt wurden – und das lange vor modernen generativen und agentischen KI-Systemen — reichen sie allein nicht aus. Sie sollten als grundlegend, aber nicht als ein umfassendes Set von KI-Prinzipien betrachtet werden.
Die Grundsätze des Belmont-Berichts sind:
Dieses Prinzip erkennt die Autonomie von Einzelpersonen an und setzt die Erwartung, dass Forscher Personen mit eingeschränkter Autonomie aufgrund von Krankheit, geistiger Behinderung, Alter oder anderen Umständen schützen sollten.
Dieses Prinzip bezieht sich in erster Linie auf die Einwilligung. Einzelpersonen sollten sich der potenziellen Risiken und Vorteile jedes Experiments, an dem sie teilnehmen, bewusst sein. Sie sollten zudem die Möglichkeit haben, sich jederzeit vor und während des Experiments für oder gegen die Teilnahme zu entscheiden.
Forscher sollten die individuelle Sicherheit und das allgemeine Wohlbefinden schützen. Dieses Prinzip ist der Ethik im Gesundheitswesen entlehnt, wo Ärzte einen Eid ablegen, „keinen Schaden anzurichten“. Diese Idee lässt sich leicht auf die künstliche Intelligenz übertragen, bei der Algorithmen Verzerrungen in Bezug auf Rasse, Geschlecht, politische Ausrichtung und andere sensible Merkmale verstärken können, wenn die Ersteller und Nutzer nicht vorsichtig sind.
Dieser Grundsatz befasst sich mit Fragen der Fairness und der Verringerung von Ungleichheiten bei den Ergebnissen. Im Wesentlichen geht es darum, die Frage „Wem sollte der Nutzen der Experimente zu Gute kommen?“ zu beantworten. Der Belmont-Bericht bietet fünf Möglichkeiten zur Verteilung von Lasten und Nutzen: zu gleiche Teilen, nach individuellem Bedarf, individuellen Einsatz, gesellschaftlichen Beitrag und Verdienst.
Erhalten Sie kuratierte Einblicke in die wichtigsten – und faszinierendsten – KI-Neuheiten. Abonnieren Sie unseren wöchentlichen Think-Newsletter. Weitere Informationen in der IBM Datenschutzerklärung.
Im Mittelpunkt der ethischen Diskussionen um KI-Technologien in der realen Welt stehen mehrere Probleme. Diese Bedenken spiegeln die potenziell weitreichenderen Auswirkungen von KI auf die Gesellschaft wider. Zu diesen Bedenken gehören unter anderem:
Die Veröffentlichung von ChatGPT im Jahr 2022 markierte einen echten Wendepunkt für künstliche Intelligenz. Die Fähigkeiten des Chatbots von OpenAI – vom Verfassen juristischer Schriftsätze bis zum Debuggen von Code – eröffneten neue Möglichkeiten für das, was KI leisten kann und wie sie in nahezu allen Branchen eingesetzt werden kann.
ChatGPT und ähnliche KI-Tools basieren auf Foundation Models: KI-Modelle, die auf eine Vielzahl von nachgelagerten Aufgaben angewendet werden können. Foundation Models sind in der Regel große generative Modelle mit Milliarden von Parametern, die auf nicht gelabeltenTrainingsdaten basieren und Self-supervision nutzen. Foundation Models, oft als Large Language Models (LLMs) bezeichnet, können das, was sie in einem Kontext gelernt haben, auf einen anderen anwenden, wodurch sie äußerst anpassungsfähig sind.
Allerdings gibt es viele potenzielle Probleme und ethische Bedenken im Zusammenhang mit Foundation Models, wie zum Beispiel Verzerrung, die Erzeugung falscher Inhalte (einschließlich unzuverlässiger oder irreführender Ausgabe) und mangelnde Erklärbarkeit. Viele dieser Probleme sind für KI im Allgemeinen relevant, gewinnen jedoch angesichts der Leistungsfähigkeit und Verfügbarkeit von Foundation Models an neuer Dringlichkeit.
Foundation Models und generative KI-Modelle (GenAI) bringen auch ethische Herausforderungen mit sich, die sich aus ihrem Umfang, ihrem universellen Design und ihrer einfachen Wiederverwendbarkeit in verschiedenen Bereichen ergeben. Da diese Modelle in Kontexten eingesetzt werden können, die weit von ihrem ursprünglichen Ausbildungszweck entfernt sind, werden Fragen der Verantwortung und Rechenschaftspflicht weitaus komplexer. Es ist oft unklar, wie ethische Verpflichtungen zwischen Modellanbietern und ihren nachgelagerten Anbietern geteilt werden sollten. Wessen Verantwortung ist es beispielsweise, zu verhindern, dass ein Modell sensible Daten missbraucht oder geistiges Eigentum durchsickert: die des Anbieter, des Bereitstellers oder des Endnutzers?
Darüber hinaus können generative KI-Systeme überzeugende, aber falsche oder irreführende Ergebnisse liefern und einen Missbrauch in einem noch nie dagewesenen Ausmaß ermöglichen. Daher legen ethische Richtlinien für Foundation Models oft Wert auf klare Dokumentation, Nutzungsbeschränkungen, fortlaufende Überwachung und menschliche Aufsicht während der Bereitstellung.
Die technologische Singularität ist ein theoretisches Szenario, in dem technologisches Wachstum unkontrollierbar und unumkehrbar wird und in tiefgreifenden und unvorhersehbaren Veränderungen der menschlichen Zivilisation gipfelt. Obwohl dieses Thema in der Öffentlichkeit viel Aufmerksamkeit erregt, zeigen sich viele Forscher angesichts der Vorstellung, dass KI die menschliche Intelligenz in naher oder unmittelbarer Zukunft übertreffen könnte, unbesorgt.
Starke KI (KI, die über das gleiche Ausmaß an Intelligenz und Bewusstsein verfügen würde wie Menschen) sowie Superintelligenz sind nach wie vor hypothetisch. Die Ideen werfen jedoch einige interessante Fragen und ethische Implikationen hinsichtlich des Einsatzes von KI in autonomen Systemen wie selbstfahrenden Autos auf.
So ist es beispielsweise unrealistisch zu denken, dass ein fahrerloses Auto niemals in einen Unfall verwickelt werden würde. Aber wer ist unter diesen Umständen verantwortlich und haftbar? Sollten wir weiterhin autonome Fahrzeuge anstreben oder die Integration dieser Technologie auf halbautonome Fahrzeuge beschränken, die die Sicherheit der Fahrer erhöhen?
Diese Art von ethischen Dilemmata sind noch lange nicht geklärt, aber genau diese Debatten werden durch neue, innovative KI-Technologien ausgelöst.
In der öffentlichen Wahrnehmung der künstlichen Intelligenz geht es häufig um den Verlust von Arbeitsplätzen, aber diese Bedenken sollten besser anders formuliert werden: Mit jeder disruptiven, neuen Technologie verändert sich die Marktnachfrage nach bestimmten Jobrollen.
Als beispielsweise die Verbreitung von PCs zunahm, verschwanden Berufe wie Schreibkraft und Sachbearbeiter weitgehend. Zur gleichen Zeit entstanden völlig neue Stellenkategorien: IT-Support, Softwareentwicklung und Dateneingabe.
Künstliche Intelligenz sollte auf ähnliche Weise betrachtet werden. KI-Initiativen werden nicht zwangsläufig zu einem Rückgang der Belegschaft führen. Vielmehr dürfte KI die Nachfrage nach Arbeitsplätzen in andere Bereiche verlagern. Es werden Personen benötigt, um KI-Systeme zu verwalten und die komplexeren Probleme in ihren Branchen anzugehen.
Der wichtigste Aspekt des Einflusses der künstlichen Intelligenz auf den Arbeitsmarkt besteht darin, Menschen beim Übergang in neue Bereiche der Marktnachfrage zu unterstützen.
KI-Modelle basieren auf Daten. Daher sind Datenschutz, Datenschutz und Datensicherheit zentrale Anliegen der KI-Ethik.
Die politischen Entscheidungsträger haben im letzten Jahrzehnt bedeutende Datenschutzgesetze verabschiedet, und die von ihnen aufgestellten Regeln gelten größtenteils sowohl für KI-Tools als auch für herkömmliche Software.
Zum Beispiel gibt die Datenschutz-Grundverordnung (DSGVO) der EU Einzelpersonen in der Europäischen Union und dem Europäischen Wirtschaftsraum mehr Kontrolle über ihre personenbezogenen Daten. In den USA erfordern Richtlinien auf Bundesstaatenebene, wie z. B. der California Consumer Privacy Act, CCPA, dass Unternehmen Verbraucher über die Erfassung ihrer Daten informieren.
Regierungsstellen beginnen außerdem, KI-spezifische Regeln zur Sammlung, Speicherung und Nutzung personenbezogener Daten (PII) zu erlassen. Zum Beispiel begann Kalifornien 2024 mit der Ausarbeitung von Regeln für KI und Technologien zur automatisierten Entscheidungsfindung. Diese Regeln wurden inzwischen finalisiert, und Unternehmen müssen diese bis zum 1. Januar 2027 einhalten.
Auch wenn Unternehmen mit ihren KI- und Automatisierungsbemühungen in der Regel gute Absichten verfolgen, können Verzerrung in Datensatz und KI-Algorithmen zu diskriminierenden Ergebnissen führen.
Zum Beispiel hat Amazon ein frühes KI-gestütztes Rekrutierungstool verworfen, als festgestellt wurde, dass das Tool Frauen systematisch schlechter bewertete als Männer. Warum? Weil das Tool anhand eines Pools von Lebensläufen trainiert wurde, die größtenteils von Männern stammten.
Verzerrung und Diskriminierung sind auch nicht auf die Personalabteilung beschränkt – sie finden sich in zahlreichen Anwendungen wieder, von Gesichtserkennungssoftware bis hin zu Socia-Media-Algorithmen. So haben beispielsweise Gesichtserkennungstools routinemäßig Schwierigkeiten, nicht weiße Personen zu identifizieren.
Da sich die Unternehmen der Risiken zunehmend bewusst werden, beteiligen sie sich auch aktiver an der Diskussion.
Zum Beispiel zog IBM seine allgemeinen Produkte zur Gesichtserkennung und -analyse im Jahr 2020 zurück. Damals schrieb IBM-CEO Arvind Krishna:
„IBM lehnt die Verwendung jeglicher Technologie, einschließlich der von anderen Anbietern angebotenen Gesichtserkennungstechnologie, für die Massenüberwachung, die Profilerstellung nach ethnischen Gesichtspunkten, die Verletzung grundlegender Menschenrechte und Freiheiten oder für andere Zwecke, die nicht mit unseren Werten und Grundsätzen des Vertrauens und der Transparenz vereinbar sind, entschieden ab und wird diese auch nicht dulden.“
Die rasche Einführung generativer KI hat die Bedenken hinsichtlich synthetischer Inhalte wie Deepfakes, automatisierter Fehlinformationen und dem Vertrauensverlust in digitale Informationen verstärkt.
Da KI-generierte Texte, Bilder, Audio- und Videodateien immer schwieriger von von Menschen erstellten Inhalten zu unterscheiden sind, geht das Bedürfnis nach Transparenz nun über die Erklärbarkeit von Modellen hinaus und umfasst auch die Rückverfolgbarkeit und Offenlegung der Ergebnisse. Als Reaktion darauf entwickeln politische Entscheidungsträger und Technologieanbieter Mechanismen zur Herkunftsnachverfolgung von Inhalten. Diese Mechanismen können Dinge wie Kennzeichnungsanforderungen, Wasserzeichen und kryptografische Metadaten beinhalten, um Benutzern zu helfen, KI-generiertes Material zu identifizieren.
Diese Ansätze können zu ethischen Spannungen führen – einschließlich Kompromissen zwischen Robustheit, Datenschutz und Meinungsfreiheit –, aber sie werden zunehmend als unverzichtbar angesehen, um das Vertrauen in digitale Ökosysteme zu wahren.
Auch wenn es kein einheitliches globales Gesetz zur Regelung künstlicher Intelligenz gibt, hat sich die KI-Regulierung in zahlreichen Gerichtsbarkeiten rasant von freiwilligen Richtlinien zu durchsetzbaren rechtlichen Frameworks entwickelt.
Der Artificial Intelligence Act der Europäischen Union (EU AI Act), der 2024 in Kraft trat, legt verbindliche Verpflichtungen für bestimmte KI-Praktiken fest. Diese Verpflichtungen umfassen Verbote von Systemen mit inakzeptablem Risiko, Transparenzanforderungen für KI-generierte Inhalte und Regeln für die Lebenszyklussteuerung von Hochrisiko-KI-Modellen und solchen mit allgemeinem Verwendungszweck.
Die Verbreitung von Gesetzen wie dem EU AI Act signalisiert einen umfassenderen Wandel in der KI-Ethik von erstrebenswerten Prinzipien hin zu Rechenschaftsmechanismen, die ethische Standards mit der Einhaltung gesetzlicher Bestimmungen verbinden.
Künstliche Intelligenz funktioniert entsprechend ihrer Konzeption, Entwicklung, ihrem Training, ihrer Feinabstimmung und ihrer Anwendung. Bei der KI-Ethik geht es vor allem darum, Standards und Leitplanken für jede dieser Phasen des Lebenszyklus eines KI-Systems festzulegen.
Unternehmen, Regierungen und Forscher haben Frameworks entwickelt, um aktuelle ethische Bedenken im Zusammenhang mit KI zu klären und die Zukunft der KI zu gestalten. Auch wenn die Richtlinien variieren können, gibt es einen gewissen Konsens bezüglich der Kernaktivitäten der KI-Governance.
Die Ethik der KI wird zunehmend nicht mehr als eine Reihe von Prinzipien verstanden, sondern als eine fortlaufende Funktion, die den gesamten Lebenszyklus der KI durchdringt. Eine effektive Governance erfordert kontinuierliche Prozesse zur Risikobewertung, Dokumentation von Designentscheidungen, Überwachung eingesetzter Systeme und Reaktion auf unerwartete Verhaltensweisen oder Schäden. Da sich KI-Systeme im Laufe der Zeit weiterentwickeln, muss sich auch die ethische Aufsicht mit ihnen weiterentwickeln. Dies erfordert klare Verantwortlichkeiten und messbare Kontrollen anstelle von statischen Richtlinien allein.
Governance hilft sicherzustellen, dass KI-Systeme gemäß den Prinzipien, Werten und verantwortungsvollen KI-Praktiken eines Unternehmens funktionieren.
Zu den üblichen Komponenten eines KI-Governance-Programms gehören:
Ein KI-Ethikausschuss ist ein weiterer effektiver Governance-Mechanismus. Zum Beispiel bietet das IBM Responsible Technologie Board, bestehend aus verschiedenen Führungskräften aus dem gesamten Unternehmen, einen zentralisierten Governance-, Überprüfungs- und Entscheidungsfindungsprozess für KI-Ethikrichtlinien und -praktiken bei IBM.
Unternehmen können vertrauenswürdige KI aufbauen, indem sie ihre Arbeit auf klaren ethischen Grundsätzen gründen, die konsequent auf Produkte, Richtlinien und Prozesse angewendet werden. Diese Prinzipien sollten sich auf konkrete Bereiche wie Erklärbarkeit oder Fairness konzentrieren, um die herum spezifische Standards und Praktiken entwickelt werden können.
Wenn Ethik von Anfang an in die KI eingebaut ist, kann sie unglaublich viel bewirken. Bereiche wie das Gesundheitswesen haben bereits diese Erfahrung. KI verändert Disziplinen wie die Radiologie, indem sie Auffälligkeiten in Scans schneller und genauer erkennt als herkömmliche Methoden.
Viele Unternehmen stellen fest, dass sie besser in der Lage sind, diese Nutzen zu nutzen, wenn sie die Ethik der künstlichen Intelligenz als eine praktische Disziplin betrachten, die Werte, Governance und Rechenschaftspflicht vereint, um verantwortungsvolle Innovation in großem Maßstab zu unterstützen.
Ethische Standards sind nicht das Hauptanliegen von Data Engineers und Data Scientists im privaten Sektor. Allerdings sind mehrere Unternehmen entstanden, die sich für ethisches Verhalten im Bereich der künstlichen Intelligenz einsetzen.
Zu diesen Unternehmen gehören:
IBMs Prinzipien für Vertrauen und Transparenz bestimmen seinen Ansatz bei der Daten- und KI-Entwicklung. Diese Prinzipien sind:
IBM hat außerdem fünf Säulen entwickelt, die den verantwortungsvollen Einsatz von KI-Technologien erleichtern sollen.
1. The Belmont Report (PDF, 121 KB), National Commission for the Protection of Human Subjects of Biomedical and Behavioral Research, 18. April 1979.