基盤モデルの倫理的懸念の拡大

生成AIやその他のAIユースケースの成長を後押しする基盤モデルの台頭は、素晴らしい可能性をもたらしていますが、その倫理的な設計、開発、導入、使用に関する新たな疑問や懸念も生まれています。

IBM AI倫理委員会の出版物『基盤モデル：機会、リスク、緩和策（Foundation models: Opportunities, Risks and mitigations）』では、これらの懸念に対処し、テクノロジー上のメリット、リスク、ガードレール、緩和策について説明しています。

この論文では、倫理、法律、規制の観点から、基盤モデルに伴う潜在的リスクを次の3つのカテゴリーに分類しています。

1. 従来のリスク：以前の形態のAIシステムにおいても既知であったリスク
2. 増幅されたリスク：既知のリスクだが、基盤モデルの本質的な特性、とりわけその固有の生成能力のために、現在さらに増幅されているリスク
3. 新規のリスク：基盤モデルと、その特有の生成能力によって生じる新たなリスク

これらのリスクは、基盤モデルに与えられるコンテンツ（インプット）に関連するのか、それによって生成されるコンテンツ（アウトプット）に関連するのか、それとも別の課題に関連するのかによって構成されています。また、これらのリスクが懸念となる理由と、基盤モデルの開発、リリース、使用中にこれらのリスクを考慮することが重要な理由が表にまとめられています。

さらにこの論文では、AI製品のwatsonxポートフォリオやオープンソースの信頼できるAIツールなど、利用可能な緩和策やツールをいくつか紹介しています。これらのストラテジーは、安全性とイノベーションのバランスを取り、ユーザーがAIと基盤モデルの能力を体験できるようにすることに重点を置いています。

以下の例は、論文に記載されている情報の活用方法を示しています。

Risk Atlasは、この論文で説明しているリスクの分類についてのインタラクティブな教育体験を提供します。これにより、 watsonxのお客様と一般の人々は、リスク、企業への影響、事例、およびリスクの軽減に役立つIBMソリューションについてより詳細に知ることができます。

IBM Researchの特別研究員であるMichael Hindは次のように述べています。「Risk Atlasを使用すると、リスク・マネージャー、AIの専門家、研究者が、共通のAIリスクに関する語彙を共有することができます。これは、リスク軽減ストラテジーと新しい研究テクノロジーの構成要素として機能します。」

Risk Atlasのコンテンツは現在、watsonx.governanceで利用できます。リスクのライブラリーは、予測モデルを用いたAIユースケースや生成AIと連携することができます。このプロセスは、リスク識別評価アンケートを使用して自動化されます。このアンケートは、ユースケースに適用できる可能性のある識別済みのリスクを自動的にコピーし、ユースケースの所有者はさらなる評価を行うことができます。これにより、ユーザーは数回クリックするだけでAIユースケースのリスク・プロファイルを作成し、適切な緩和策や管理策を講じることができます。ユースケースのリスクが評価されたら、そのユースケースを送信してモデル開発の承認を受けることができます。

「Risk Atlasを活用した新しいリスク識別評価アンケートは、watsonx.governanceのユーザーがユースケースに関連するリスクのレベルを理解し、リスク管理に必要な監視の種類や頻度を把握するのに役立ちます。リスク・プロファイルは、モデルのライフサイクルの監査証跡の一部として把握され、責任あるAIの導入に必要な説明可能性と透明性を確立するのに有効です」と、IBMデータとAIのwatsonx.governance製品管理およびAI Ethics Focal Point担当ディレクターのHeather Gentileは述べています。

生成AIシステムの設計者にとって、設計プロセスのすべての段階でリスク軽減策を組み込むことは、特にソリューションを定義する段階で非常に重要です。ユーザーのインプットを明確にし、必要なデータとトレーニングを定義し、生成されたアウトプットの変動性を特定することで、チームは、設計に関連する可能性のあるトレーニング、チューニング、および推論のリスクをより深く理解できるようになります。集中的なデザイン思考活動を通じて、このリスク・マッピングを設計プロセスに組み込むことで、企業は設計の反復や代替ソリューションを通じて、これらのリスクを積極的に軽減することができます。

人間中心の設計アプローチを採用することで、アセスメントを二次利用者や第三利用者にまで広げることができ、非技術的リスクや社会的リスクを含むすべてのリスクについての理解が深まり、設計および実装段階で発生する可能性が高いリスクを特定できます。プロセスの開始時にこれらのリスクに対処することで、責任ある、信頼できるAIソリューションの開発が促進されます。

AI設計チームの特別デザイナーであるAdam Butlerは次のように述べています。「倫理的な意思決定は、技術的な問題解決の一種ではありません。データとAIに対するエンタープライズ・デザイン思考は、コードを1行ずつ記述（もしくは生成）する前に、チーム全体が目的、価値、信頼性について意図的に考えられるようにすることで、人間のニーズを焦点を当てながら、データ駆動型の問題を発見・解決できるよう支援します。」

『基盤モデル: 機会、リスク、緩和策』では、基盤モデルの可能性を認識し、それらが引き起こす可能性のあるリスクの重要性を理解するとともに、潜在的な影響を軽減するためのストラテジーを学べる構成になっています。