AI倫理とは

AI倫理の問題の例は次のとおりです。

• データ責任とプライバシー
• 公平性
• 説明可能性
• 堅牢性
• 透明性
• 環境サステナビリティー
• 包含
• 道徳的主体性
• バリュー・アライメント
• 説明責任
• 信頼
• テクノロジーの悪用

今日では、ほとんどの組織が、ビッグデータとAIツールを何らかの形で活用し、自動化を支援するとともに、データに基づく意思決定を可能にしています。その目的は通常、ビジネス成果の向上ですが、事前の調査や設計の不足、偏りのあるデータ・セットが原因で、企業はAIアプリケーションにおいて予期しない影響を受けることがあります。これらの問題は、AIシステムを倫理的に利用することの重要性を示しています。

研究コミュニティーやデータサイエンスコミュニティーは、こうした予期せぬ結果や不公平な事態を軽減するために、AI倫理に関するガイドラインを策定してきました。大手AI企業も、倫理基準を守らないと自社の製品、サービス、ユーザーに損害を与える可能性があることを知っているため、こうしたガイドラインの策定に関心を持っています。AI倫理への取り組みが欠如していると、評判、規制、法的なリスクにさらされ、高額な罰則が科せられる可能性があります。

イノベーションは、特にAIのような新興技術において、政府の規制を上回るスピードで進展する傾向があります。今後は、人権と市民的自由を保護するために、法的に義務付けられたAIプロトコルを策定する政府がさらに増えることが予想されます。欧州AI規制法などの規制はすでに存在しますが、既存のAI倫理ガイドラインの多くは、科学者や業界団体が策定した自主的なフレームワークです。

教育機関向けコミュニティでは長年にわたり、実験研究とアルゴリズム開発における倫理の指針として、1979年の「ベルモント・レポート」¹で示された倫理原則を採用してきました。

これらの原則は、AIと機械学習の倫理的な研究、設計、および利用の基盤となります。しかし、これらの原則は人間の被験者を対象として策定されたものであり、現代の生成AIやエージェント型AIシステムが登場するはるか以前に作られたものであるため、それだけでは十分とはいえません。これらは基本的なものとしてみなされるべきであり、包括的なAI原則のセットではありません。

ベルモント・レポートの原則は次のとおりです。

現実世界のAIテクノロジーを巡っては、いくつかの問題が倫理的な議論の最前線にあります。こうした懸念は、AIが社会に与えるより広範な潜在的影響を反映しています。これらの懸念には、次のようなものがあります。

2022年のChatGPTの公開は、人工知能にとって真の転換点となりました。OpenAIのチャットボットは、法的文書の作成からコードのデバッグまで幅広い機能を備えており、AIで実現できることや、ほぼすべての業界でのAIの活用方法に新たな可能性をもたらしました。

ChatGPTや類似のAIツールは、基盤モデル、つまりAIモデルに基づいて構築されており、さまざまな下流タスクに適用できます。基盤モデルは通常、数十億のパラメーターから構成される大規模な生成モデルであり、ラベルなしのトレーニングデータに依存し、自己教師あり学習を使用します。基盤モデルは、大規模言語モデル（LLM）とも呼ばれ、ある状況で学習した内容を別の状況に適用できるため、非常に適応性が高いです。

しかし、基盤モデルには、バイアス、誤ったコンテンツの生成（信頼性に欠ける、または誤解を招く出力を含む）、説明可能性の欠如など、多くの潜在的な問題や倫理的な懸念があります。これらの問題の多くはAI全般に当てはまるものですが、基盤モデルの高い能力と広範な利用可能性を踏まえると、その重要性はこれまで以上に高まっています。

基盤AIモデルと生成AI（Gen AI）モデルは、その規模、汎用設計、ドメイン間での再利用のしやすさに起因する倫理的な課題ももたらします。これらのモデルは、本来のトレーニング意図からはるかに異なるコンテキストでデプロイできるため、責任と説明責任に関する問題ははるかに複雑になります。モデル・プロバイダーとその下流のデプロイヤー間で倫理的義務をどのように共有すべきかは、多くの場合、明確ではありません。例えば、モデルの機密データの悪用や知的財産の漏洩を防ぐことが、プロバイダー、デプロイヤー、またはエンドユーザーの誰の責任であるかは不明です。

さらに、生成AIシステムは、もっともらしく見えても誤っている、または誤解を招く出力を生成する可能性があり、かつてない規模での悪用を可能にするおそれがあります。そのため、基盤モデルに関する倫理ガイドラインでは、明確な文書化、利用上の制約、継続的な監視、およびデプロイメントから運用までを通じた人間による監督が重視されています。

技術的特異点は、技術の成長が制御不能かつ不可逆となり、人類文明に深刻かつ予測不可能な変化をもたらすという理論的なシナリオです。このトピックは多くの公的な注目を集めていますが、多くの研究者は、近い将来または即時の未来にAIが人間の知能を超えるという考えに懸念を示していません。

Strong AI（人間と同等の知能と自己認識を備えたAI）とsuperintelligenceは、いずれもまだ仮説上の存在です。しかし、これらの概念は、自動運転車のような自律システムでAIをどのように利用すべきかという点について、興味深い問いや倫理的な課題を提起しています。

例えば、無人運転車が事故をまったく起こさないと考えるのは現実的ではありません。しかし、そのような状況では誰が責任を負うのでしょうか。それでも自動運転車の開発を進めるべきでしょうか。それとも、この技術の導入を制限し、ドライバーの安全性を高める半自動運転車にとどめるべきでしょうか。

このような倫理的ジレンマには、いまだ明確な結論が出ていません。しかし、新しく革新的なAI技術は、このような議論を引き起こしています。

人工知能に対する一般的なイメージは、雇用の減少が中心となっていますが、この懸念は見直すことができます。破壊的創造をもたらす新しいテクノロジーが登場するたびに、特定の職務に対する市場の需要が変化します。

例えば、パーソナル・コンピューターが普及すると、タイピストやファイル管理担当者などの職種は大幅に減少しました。一方で、ITサポート、ソフトウェア開発、データ入力といった、まったく新しい職種が生まれました。

人工知能も同様に捉えるべきです。AIへの取り組みによって、必ずしも労働力が縮小するわけではありません。むしろ、AIによって人材需要は他の分野へと移っていく可能性があります。AIシステムを管理し、それぞれの業界で生じるより複雑な問題に対応できる人材が必要になります。

人工知能が雇用市場に与える影響で最も重要なのは、人々が新たな需要のある分野へ移行できるよう支援することです。

AIモデルはデータに依存しています。したがって、データプライバシー、データ保護、データセキュリティーはAI倫理の核心的な関心事です。

政策立案者は過去10年間で重要なデータ保護法を整備しており、それらの法律で定められたルールは、AIツールだけでなく従来のソフトウェアにも広く適用されます。

例えば、EUの一般データ保護規則（GDPR）は、欧州連合および欧州経済領域の個人に対し、自身の個人データに対するより大きな管理権限を与えています。米国では、California Consumer Privacy Act（CCPA）などの州レベルの政策により、企業は消費者のデータ収集について消費者に通知することが義務付けられています。

政府機関は、個人情報（PII）の収集、保存、および利用に関するAI固有の規則の制定も始めています。例えば、2024年には、カリフォルニア州がAIと自動意思決定技術に関する規則の策定を開始しました。その規則はその後正式に制定され、企業は2027年1月1日までに準拠する必要があります。

企業は通常、AIや自動化の取り組みを善意に基づいて進めていますが、学習データセットやAIアルゴリズムに組み込まれたバイアスによって、差別的な結果が生じる可能性があります。

例えば、Amazonは、AIを活用した初期の採用ツールが女性を男性よりも一貫して低く評価していたことが判明したため、そのツールの使用を中止しました。なぜでしょうか。そのツールは、主に男性の履歴書を集めたデータで学習していたためです。

偏りや差別は、人事業務に限った問題ではありません。顔認識ソフトウェアからソーシャル・メディアのアルゴリズムまで、さまざまなアプリケーションで見られます。例えば、顔認識ツールは、有色人種を識別する精度が低いことがたびたび報告されています。

企業がリスクを認識するようになるにつれて、議論もより活発になっています。

例えば、IBMは2020年に汎用の顔認識および分析製品を中止しました。当時、IBMのCEOであるアルヴィンド・クリシュナは次のように書いていました。

「IBMは、大量監視、人種プロファイリング、基本的人権および自由の侵害、または当社の信頼と透明性の価値観および原則と一致しない目的での、他のベンダーが提供する顔認識テクノロジーを含むいかなるテクノロジーの使用にも強く反対し、容認しません」

生成AIの急速な普及により、ディープフェイクや自動生成された偽情報などの合成コンテンツや、デジタル情報に対する信頼の低下への懸念が高まっています。

AIが生成したテキスト、画像、音声、動画が人間が作成したコンテンツと見分けにくくなるにつれ、透明性の必要性は、モデルの説明可能性だけでなく、生成された出力の追跡可能性や開示にも及ぶようになっています。これを受けて、政策立案者やテクノロジー・プロバイダーは、コンテンツの来歴を証明する仕組みの整備を進めています。こうした仕組みには、ラベル表示の要件、電子透かし、暗号技術を利用したメタデータなどが含まれ、ユーザーがAI生成コンテンツを識別できるよう支援します。

こうした取り組みは、堅牢性、プライバシー、表現の自由の間でトレードオフを伴うなど、倫理的な課題を生じさせる可能性があります。しかし、デジタル・エコシステムへの信頼を維持するために不可欠なものとして認識されつつあります。

人工知能を包括的に規律する単一の世界共通の法律は存在しませんが、AI規制は自主的なガイドラインから、複数の法域で法的拘束力のある枠組みへと急速に移行しています。

2024年に施行された欧州連合の人工知能法（欧州AI規制法）は、特定のAI慣行に対する拘束力のある義務を定めています。これらの義務には、許容できないリスクの高いシステムの禁止、AIが生成したコンテンツの透明性要件、高リスクかつ汎用AIモデルのライフサイクル・ガバナンス規則が含まれます。

欧州AI規制法のような法律の広がりは、AI倫理が理想的な原則から、倫理基準と法令遵守を組み合わせた説明責任の仕組みへと移行しつつあることを示しています。

人工知能は、設計、開発、学習、調整、および利用のされ方に応じて機能します。AI倫理とは、AIシステムのライフサイクルの各段階における標準やガードレールを確立することです。

組織、政府、研究者は、それぞれ現在のAIに関する倫理的な懸念に対処し、AIの将来を形作るためのフレームワークを策定してきました。ガイドラインには違いがあるものの、中核となるAIガバナンスの活動については、一定の共通認識があります。

AI倫理は、一連の原則ではなく、AIのライフサイクル全体に組み込まれた継続的な取り組みとして理解されるようになっています。効果的なガバナンスには、リスクの評価、設計上の意思決定の文書化、デプロイ済みシステムの監視、予期しない動作や被害への対応を継続的に行うプロセスが必要です。AIシステムの進化に合わせて、倫理的な監督も進化し続ける必要があります。そのためには、固定的なポリシーだけではなく、明確な責任体制と測定可能な管理策による支えが不可欠です。

ガバナンスは、AIシステムが組織の原則、価値観、および責任あるAIの実践に従って運用されるようにするためのものです。

AIガバナンス・プログラムの一般的な構成要素は次のとおりです。

• 適切な人による監督を確保するため、AIに携わる人々の役割と責任を明確にすること。
  
  
• AIのライフサイクルに関わるすべての人に対して、責任ある方法でAIを構築し利用する方法を教育すること。
  
  
• AIの構築、管理、監視、情報共有、およびAIシステムの監査を行うためのプロセスを確立すること。
  
  
• AIのライフサイクル全体を通じて、AIの性能と信頼性を向上させるためのツールを活用すること。

AI倫理委員会も、効果的なガバナンスの仕組みの1つです。例えば、事業部門全体から集まった多様なリーダーで構成されるIBMの責任あるテクノロジー委員会は、IBMにおけるAI倫理のポリシーと実践に関する一元的なガバナンス、レビュー、および意思決定のプロセスを提供しています。

組織は、製品、ポリシー、プロセス全体に一貫して適用される明確な倫理原則に基づいて業務を行うことで、信頼できるAIを構築することができます。これらの原則は、説明可能性や公平性などの具体的な領域に焦点を当てる必要があり、その領域を中心に具体的な基準や実践を開発することができます。

AIに倫理を最初から組み込むことで、大きな価値を生み出すことができます。医療などの分野では、すでにその恩恵を受けています。AIは放射線科などの分野を変革しており、従来の方法よりも迅速かつ高い精度で画像診断における異常を検出しています。

多くの組織は、人工知能の倫理を、価値観、ガバナンス、説明責任を組み合わせて責任あるイノベーションを大規模に推進するための実践的な取り組みとして位置付けることで、こうした恩恵をより効果的に享受できると考えています。

民間企業のデータ・エンジニアやデータサイエンティストにとって、倫理基準は最優先事項ではありません。しかし、人工知能の分野における倫理的な取り組みを推進するために、いくつかの組織が設立されています。

主な組織は次のとおりです。

• AlgorithmWatchは、AIプログラムにおける説明可能で追跡可能なアルゴリズムと意思決定プロセスに重点を置いて活動しています。
  
  
• AI Now Instituteは、ニューヨーク大学の非営利研究機関であり、人工知能が社会に与える影響を研究しています。
  
  
• 米国国防総省の国防高等研究計画局（DARPA）は、説明可能なAIとAIの研究を推進しています。
  
  
• Center for Human-Compatible Artificial Intelligence（CHAI）は、さまざまな機関や大学の協力によるものであり、信頼できるAIと、証明可能で有益なシステムを促進しています。

IBMの信頼と透明性に関する原則は、データとAIの開発に対するIBMのアプローチを定めています。その原則は次のとおりです。

1. AIの目的は、人間の知能を拡張することです。これは、AIで人間の知能を置き換えるのではなく、人間の知能を支援することを意味します。
   
   
2. データと洞察はその作成者に帰属します。組織は、AIソリューションやサービスから得られるメリットを享受するために、データや洞察に対する権利を放棄する必要はありません。
   
   
3. AIシステムは透明性が高く、説明可能でなければなりません。IBMは、テクノロジー企業は自社のAIシステムを誰がトレーニングするのか、そのトレーニングでどのようなデータが使用されたのか、そして最も重要なことには、自社のアルゴリズムの推奨事項に何が盛り込まれているのかを明確にする必要があると考えます。

IBMは、AI技術の責任ある導入を導くための5つの柱も策定しています。

• 説明可能性：AIシステムは、特にそのアルゴリズムによる推奨の根拠について、さまざまな目的を持つさまざまな利害関係者に応じて透明性を確保する必要があります。
  
  
• 公平性：この柱は、AIシステムによる個人または個人グループの公平な取り扱いを指します。適切に調整されると、AIは人間がより公平な選択をするのを助け、人間のバイアスに対抗し、インクルーシブ性を促進することができます。
  
  
• 堅牢性：AI搭載システムには、敵対的な攻撃を積極的に防御し、セキュリティー・リスクを最小限に抑え、システム成果の信頼性を高めることが求められます。
• 透明性：信頼を高めるために、ユーザーはサービスの仕組みを把握し、その機能を評価し、その強みと限界を理解できる必要があります。
  
  
• プライバシー：AIシステムは、消費者のプライバシーとデータの権利を優先して保護するもの、個人データがどのように使用され保護されるかについて明示的に保証していると利用者に示すものでなければなりません。