IBM Research

倫理との整合性があるAIを構築するために

記事をシェアする:

フランチェスカ・ロッシ(Francesca Rossi)IBM Research特別研究員、AI Ethicsグローバル・リーダー

フランチェスカ・ロッシ(Francesca Rossi)
IBM Research特別研究員、AI Ethicsグローバル・リーダー

AIエージェントの活用が進むにつれ、状況の想定が難しいシナリオでの導入も増えています。こうした状況で目標を達成するためには、AIエージェントの柔軟性、適合性、創造性を高める必要があります。そして実世界のシナリオでうまく動作するようにAIを堅牢かつ柔軟にするためには、特定の目標のために最適な方法を選択する自由をある程度AIに与えることが必要です。

このことは、従来のルール・ベースのアプローチでは正確に定義できないような難問題にAIシステムが取り組む場合に特に当てはまります。このような難問題には、AIのデータ・ドリブンなアプローチや学習アプローチが必要です。実際に、機械学習を利用したシステムのようなデータ・ドリブンなAIシステムは、正確性と柔軟性において高い成果を挙げており、極めて「クリエイティブ」に問題を解決することができ、いい意味で人間を驚かせるようなソリューションを見つけ出して、課題を解決するための革新的な方法を人間に教えることができます。

しかし、制限のない創造性と自由は、望ましくないアクションにつながることがあります。つまり、AIシステムがコミュニティーの価値と基準に合わない方法でその目標を達成する可能性があるのです。そのため、システムの動作に境界を設けることによってAIシステムのアクションに制約を与える方法を理解することが必要になってきています。このような境界は特定のAIアプリケーションのシナリオに要求される価値と原則をモデル化する必要があるため、通常、これは「価値観の整合性(value alignment)」問題と呼ばれます。

IBM Researchは、倫理的な原則にAIシステムを整合させるために、以下の2つの方法を研究し、評価しました。

  • 第1に、(サービスのパーソナライゼーションを達成するための)主観的プリファレンスと(価値観の整合性を達成するための)倫理的優先度をモデル化して組み合わせる共通の定式化を採用しました[3]。すなわち、プリファレンスと倫理的優先度の相違が大きすぎる場合、プリファレンスのみによってアクションを決定できるか、または追加の倫理的優先度を検討する必要があるか否かを判断するために、プリファレンスと倫理的優先度間の距離の概念を利用しました。
  • 第2に、強化学習アプローチを採用して報酬の最大化を図り(バンディット問題の設定内で)、良い行動の例と悪い行動の例から倫理的なガイドラインを学習しました[2]。私たちはこのアプローチを、保護者の設定したガイドラインに従った映画の推薦と、QOL(生活の質)を考慮した医薬品の投薬量の選択においてテストしました。

価値観の整合性の問題を解決する可能性があるこれら2つの方法と私たちの全体的な方向性を説明した論文は、間もなく開催されるAAAI 2019国際会議で発表され、AAAI 2019 Blue Sky Ideaアワードを受賞します[1]。

この研究は、マサチューセッツ工科大学(MIT)と協働して、AIシステムに倫理的原則を組み込む方法を理解するための長期的な取り組みの一環です。[2]と[3]の研究では義務論的制約として倫理的優先度をモデル化しましたが、IBM-MITチームは現在、人間がどのようにさまざまな倫理的理論(功利論、義務論、契約論)に従い、またそれらを切り替えて用いるのかをモデル化するために人間の選択データを収集しています。それにより、倫理的理論とそれらを切り替えるメカニズムの両方をAIシステム向けに適切に調整して組み込もうとしています。この方法によりAIシステムは、人間が意思決定を下すときに倫理に基づき考え行動するそのやり方との整合性を高めることができます。またこれにより、AIに対するAugmented Intelligence(拡張知能)のアプローチで、自然かつ簡潔に人間とインタラクションすることができるようになります。

  1. “Building Ethically Bounded AI”, Francesca Rossi and Nicholas Mattei, to appear in Proceedings of AAAI 2019, senior member presentation track, Blue Sky idea award paper.
  2. “Incorporating Behavioral Constraints in Online AI Systems”, Avinash Balakrishnan, Djallel Bouneffouf, Nicholas Mattei, Francesca Rossi, to appear in Proceedings of AAAI 2019.
  3. “On the Distance Between CP-nets”, Andrea Loreggia, Nicholas Mattei, Francesca Rossi, K. Brent Venable. In Proc. AAMAS 2018, Stockholm, July 2018.

※この記事は米国時間2019年1月23日に掲載したブログ(英語)の抄訳です。

More IBM Research stories
2021年3月19日

IBM Molecule Generation Experience(MolGX)新たなマテリアル・デザインをAIとハイブリッドクラウドで高速化

過去数十年を振り返ってみると、化学は有用な新材料の発見について大きな成果を上げてきました。ポリマーの分野だけを見ても、熱可塑性プラスチックや構造ポリマーに関する最近の発展は、新しい塗料や衣料繊維、写真フィルムといった多く […]

さらに読む

2021年2月18日

ガジェットをより持続可能なものにする材料の発見をIBMが推進

ここにも、あそこにも。原子はあらゆるところに存在します。 原子が多いほど分子は複雑になり、実現可能な分子構成はほぼ無限大に見えます。つまり、材料発見には長い時間と費用、手間のかかる試行錯誤のプロセスが必要で、しかも成功は […]

さらに読む

2021年1月27日

科学で化学をミライする「AIによる未知の材料開発で持続可能な未来」

対話ロボット、音声アシスタント、自動運転や「討論するAI」。こうした多くの目に見えるAI応用に加え、目に見えないところでのAIの応用も活発になっています。その一つが「マテリアルズ・インフォマティクス」であり、これは専門家 […]

さらに読む