責任あるAIとは

本記事では、責任あるAIに関する一般的な見解を提供することを目的としています。IBM独自の見解については、「AI倫理」ページをご覧ください。

ビッグデータと計算能力の進歩に後押しされ2010年代に機械学習が広く採用されたにより、偏見、透明性、個人データの使用など、新たな倫理的課題がもたらされました。テクノロジー企業やAI研究機関がAIへの取り組みについて責任を持ってプロアクティブに管理しようとする中、AI倫理は独立した規律として登場しました。

現在、企業によって急速に採用されている生成AIツールとAIエージェントには、倫理的な使用のための新しいフレームワークが求められています。先進的な組織が、エージェント社会のために責任あるAI原則を再構築することで、導入者がこれらのツールの潜在能力を最大限に活用しつつ、望ましくない結果を最小限に抑える手助けができます。

AIは信頼に足るものでなければならず、利害関係者がAIを信頼するためには、AIの透明性が確保されていなければなりません。テクノロジー企業は、AIシステムを訓練するのは誰なのか、そのトレーニングでどのようなデータが使用されたのか、そして最も重要なことには、自社のアルゴリズムの推奨事項に何が盛り込まれているのかを明確にする必要があります。AIを重要な意思決定に活用しようとするのであれば、説明可能でなければなりません。

責任あるAIは、人、プロセス、ツール、ガバナンスを統合する社会技術的な実践です。組織は、データ収集やモデル開発からデプロイメント、監視、改善に至るまで、AIシステムのライフサイクル全体を検討する必要があります。また、AIが個人、組織、社会、環境に及ぼす広範な影響にも注意を払う必要があります。

IBMの責任あるテクノロジー＆ガバナンスフレームワークは、原則、特性、影響の側面、ガバナンスの実践を統合し、責任あるテクノロジーの構築とデプロイのための単一のアプローチを提供します。責任あるAIは引き続きこのアプローチの中心にありますが、フレームワークは同じガバナンス・モデルをエージェント型システム、量子コンピューティング、および将来の領域などの新興テクノロジーに拡張しています。

フレームワークは、以下の4つのコンポーネントを中心に構成されています。

1. 信頼の原則
   責任あるテクノロジー開発とデプロイメントに関するIBMの基本的な取り組み:

   • テクノロジーは人間の機能を補完するものであるべきです。

   • テクノロジーは責任あるデータ・ガバナンスに基づいている必要があります。

   • テクノロジーはオープンで透明でなければなりません。

2. 信頼できるAIの柱
   AIシステムが信頼を可能にするために示すべき資質:

   • 透明性

   • 公平性と人間の価値の整合性

   • 堅牢性

   • プライバシー

3. 衝撃寸法
   IBMが技術を評価する際に考慮するより広範な成果:

   • 人間の主体性と信頼

   • 社会福祉

   • 環境サステナビリティー

4. ガバナンス
   責任あるテクノロジーへの取り組みを日々の実践に結びつけるプログラム、ツール、教育プログラム、政策、パートナーシップ、およびレビュー。

これらのコンポーネントを組み合わせることで、責任設計が可能になります。AIシステムの能力が向上し、事業オペレーションに組み込まれるようになるにつれて、組織は、そのシステムとプロセスに統合されたガバナンスを通じて信頼が運用されていることを実証できる必要があります。

企業レベルで責任あるAIプラクティスを実施するには、AI開発と導入のさまざまな段階に対応する包括的なエンドツーエンドのアプローチが必要です。

企業のAIイノベーションの価値観と目標に沿った、一連の責任あるAIの原則を策定します。上記の「信頼の柱」にある重要な側面を考慮してください。このような原則は、AIの専門家、倫理学者、法律専門家、ビジネス・リーダーなど、さまざまな部門の代表者が参加する部門横断的なAI倫理チームによって開発・維持されます。

責任あるAIの実践について、従業員、利害関係者、意思決定者を教育するためのトレーニング・プログラムを実施しましょう。これには、潜在的なバイアス、倫理的配慮、責任あるAIを事業運営に組み込むことの重要性に対する理解を含みます。

AI開発パイプライン全体、データ収集やモデルのトレーニングからデプロイメント、継続的な監視に至るまで、責任あるAIプラクティスを組み込みます。AIシステムのバイアスに対処し、軽減するための手法を採用します。確立されたメトリクスを使用して、特に人種、性別、社会経済的地位などの機密属性に関して、モデルの公平性を定期的に評価します。AIシステムを説明可能にすることで、透明性の重要性を高めます。データ・ソース、アルゴリズム、意思決定プロセスに関する明確なドキュメンテーションを提供します。ユーザーと利害関係者は、AIシステムがどのように意思決定を行うかを理解できるはずです。

責任あるAIガバナンスの実践と保護手段を確立して、エンド・ユーザーのプライバシーと機密データを保護します。データ利用方針を明確に伝え、インフォームド・コンセントを取得し、データ保護規則を遵守するのです。

重要な意思決定プロセスにおける人間による監視メカニズムを統合します。責任の所在について明確な境界線を定義し、責任者を特定してAIシステムの結果に対する責任を負えるようにします。AIシステムの継続的な監視を確立し、時間の経過とともに生じうる倫理的懸念、バイアス、問題を特定し、対処します。AIモデルを定期的に監査し、倫理ガイドラインへの準拠を評価します。

AIの安全性に取り組んでいる外部組織、研究機関、オープンソース・グループとのコラボレーションを促進します。責任あるAIの実践と取り組みの最新動向を常に把握し、業界全体の取り組みに貢献します。