多くのAI災害映画では最新のソリューションが窮地を救うが、現実世界には課題が残る

人工知能（AI）が進化する中で、ハリウッドにおけるロボットへの傾倒は続いています。AI映画ジャンルの最新作の一つである『野生の島のロズ』は、同名のベストセラー小説を原作とし、今年のアカデミー賞候補となっています。

これは、人間のような共感力を育み、他の生き物を気遣う「善良な」機械を描いた珍しい映画です。

映画ファンは、より暗いストーリーのAI映画に慣れ親しんでいるかもしれません。『Subservience』、『M3GAN／ミーガン』、『エクス・マキナ』、そしてスタンリー・キューブリックの名作『2001年宇宙の旅』では、AIを駆使した悪役たちが次々と人間を襲います。『アイ,ロボット』や『ターミネーター』、『マトリックス』といった大ヒットシリーズでは、知能システムが人類の集団的奴隷化や絶滅を企てます。

しかし、これらのテーマは面白いものの、 AI リテラシーを損なう可能性があります。

IBM Consultingの信頼できるAI担当グローバルリーダー、Phaedra Boinodirisは、映画製作者は現実のAI 問題から焦点をそらす、あり得ない問題に重点を置くことが多いと指摘します。

Boinodirisは『ターミネーター』や『2001年宇宙の旅』の敵役に言及し、「スカイネットとHALだけが危害を加える可能性があるという認識を人々に与えるかもしれない」と述べています。

これらの映画や他の映画に登場するシステムは、人工汎用知能(AGI)を描いています。これは人間の認知能力に匹敵するかそれを超える仮想のAIシステムです。一般大衆がこうしたSF映画に固執することは、「現在のAIの本当のリスクについての理解の欠如を悪化させることになるかもしれない」のです。

こうした現実的なリスクには、偏った結果やその他の有害な出力が含まれ、これらは人間に甚大な被害をもたらしたと非難されています。倫理学者や開発者による取り組みにもかかわらず、このような問題は複雑で混乱を招くものとなっています。

例えばある研究では、生成AIモデルでは露骨な人種的偏見は少なくても、隠れた人種的偏見はより強いことが分かりました。しかし、SF映画で想像されるような存在の危機を防ぐことはそれほど困難ではないでしょう。

現実世界の解決策が今日のAIモデルやツールに安全装置を提供すれば、観客がポップコーンに手を付ける前に、ハリウッドの名作映画で描かれる機械の反乱を効果的に鎮圧できるでしょう。

それでは詳しく見ていきましょう。

ジェームズ・キャメロン氏には失礼ながら、映画製作者が描くAIによる終末を回避するのに、銃を携えた戦士は必要ないことが判明しました。エンジニアやプログラマーは、次のようなごく普通のツールや戦略でその任務を遂行できます。

• ジオフェンシング
• リモート・キルスイッチ
• コードの実行と接続の制限
• 検証
• AIアライメント
• 分散化

現在、一部の都市で電動スクーターの動きを制限しているGPS搭載テクノロジーも、AIロボットの移動能力の制御に役立つ可能性があります。ジオフェンシングは、GPSやRFIDを搭載した機器が越えられない仮想境界を作り出します。

『エクス・マキナ』や『Subservience』などの映画では、ジオフェンシングによって、（アリシア・ヴィキャンデルとミーガン・フォックスが演じる）悪意を持った人型ロボットがそれぞれの家から出ていくのを効果的に阻止し、危険な計画の一部を阻止できたはずです。

サイバーセキュリティー企業、Sophosの上級データサイエンティストであるBen Gelman氏は、このテクノロジーはハードウェアベースであるため、ロボットはジオフェンシングの制限を超えることはできないと説明しています。「AIは、集積回路ボードを変更するためのコンピューター・プログラムを書くことはできません」とGelman氏は言います。「現代のジオフェンシングを使えば、多くのロボット映画はほとんど平凡なものになります。」

『ターミネーター』のような銃であれ、『M3GAN／ミーガン』のような毒であれ、あるいは『アイ,ロボット』のような強力な金属の手足であれ、凶器が何であろうと殺人ロボットのそばに近寄るのは、概して避けたほうが賢明です。しかし、これらの機械を遠くから停止できるとしたらどうでしょうか?

ここでリモート・キルスイッチの登場です。

「テスラの車が特定の方向に走り始めた場合、テスラは遠隔操作でそれを無効にして停止させることができます」と、 IBM ConsultingでAIを専門とする副社長兼シニアパートナーのShobhit Varshneyは指摘します。Varshneyは、電気自動車を遠隔で無効にするために使用されたのと同じテクノロジーは、不正なロボットにも適用できると述べています。

登場人物がオンプレミスの「オフ」ボタンにアクセスするのをロボットが積極的に阻止しようとしている映画のシナリオでは、リモート無効化機能が特に役立ちます。「キルスイッチは、AIではなく人間が確実に制御できるものでなければなりません。」

AI災害映画によくあるプロットポイントは、悪意のあるマシンがコードを実行し、さまざまなリソースにアクセスする無限の能力を持っているというものです。

しかし実際には、AIモデルでできることを明確化するための複数のアプローチが存在します。たとえば、AI搭載ではない固定のプログラミング スクリプトを使用すると、AI が事前に承認されたリストにない関数を呼び出すのを防ぐことができます。

あるいは、AI システムは、外部システムへのアクセスがブロックされた専用ハードウェアまたはエアギャップハードウェア上で実行される場合もあります。つまり、コードの実行が制限されていないとしても、他のシステムを乗っ取ることはできません。

こうした安全装置があれば、例えば『ターミネーター』でスカイネットが核兵器を制御するのを阻止できたはずです。「外部への接続がないので、これらの物理システムをシャットダウンすればAIも停止します」とGelman氏は言います。

AIシステムの監視とガバナンスには、他のAIシステムを使用する必要性がますます高まっています。分類モデルは、 大規模言語モデル(LLM)のインプットおよびアウトプットテキストからヘイトスピーチ、虐待的な言葉、罵り言葉を検知し除去することができます。LLM は、他の LLM の出力がそのシステムに定められたルールに準拠しているかどうかを確認するために使用できます。

このような検証プロトコルは、AIを中心とした映画に見られる多くの暴力を防いだ可能性があり、『2001年宇宙の旅』でのHALの殺戮の暴走を止めたり、スカイネットの人類抹消キャンペーンを阻止したりするのを阻止できたはずです。

おそらく、検証の最も明確なユースケースは『アイ，ロボット』に見られます。そこでは、ロボットは表向き、実在の作家アイザック・アシモフの「ロボティクスの三法則」に従うようにプログラムされています。

法律は人間に危害を加えることを防ぐものですが、映画では邪悪なロボット軍のリーダーであるVIKIが法律を再解釈し、「人類を守るためには、一部の人間を犠牲にしなければならない」と宣言しています。適切な検証が行われていれば、VIKIの決定は「容易に分類され、防止できた可能性がある」とGelman氏は述べています。

AI アライメントとは、人間の価値観と目標を AI モデルにエンコードするプロセスです。実際には、これは、宇宙船が目的地に到着することを確実にするために宇宙飛行士を殺すという HAL の決定など、目的を追求する上でインテリジェント システムが非倫理的または危険な手段を取ることを防ぐための組み込みの安全装置です。

現状では、AI アライメント プロセスは完璧ではないことに注意することが重要です。「ニューラル・ネットワークは、抽象的なルールを特定の状況や特定のシナリオに適用するのが非常に苦手です」と、技術ニュース・分析サイトであるArs TechnicaのアソシエイトライターであるJacek Krywko氏は説明します。

良いニュースは、この分野で進展があることです。たとえば、スタンフォード大学とMeta社の研究者は、AIシステム向けに「柔軟な規範的推論の基盤」を構築するナレッジ・バンクを設立しました。¹

ナレッジ・バンクは15万以上の状況規範で構成されています。例えば、カフェでコーヒーを飲む客は規範的だが、教室でコーヒーを飲む子供は規範的ではないといった事例が含まれます。

運が良ければ、現実世界の人工知能が、映画で見るHAL、VIKI、その他のAGIのレベルに達したとしても、 AIアラインメントプロセスはそれに追いつくほどに進歩しているでしょう。

AIの開発をごく一部の企業に集中させることは、重大な 倫理的問題を引き起こす可能性があります。

IBMのCEOであるArvind Krishnaは、「AI開発は、少数のプレーヤーによってコントロールすることはできません。特に、企業データの保護、プライバシー、透明性といった基本的な価値観を共有していない一部のプレーヤーによってはコントロールできません」と、Fortune誌の最近の記事で述べています。²

「答えは進歩を制限することではなく、AIが大学、企業、研究機関、市民社会組織の幅広い連合によって構築されるようにすることです。」

SFの世界では、AI開発におけるこのような分散化は、『ターミネーター』や『アイ，ロボット』で悪意あるロボットの大群が引き起こした被害の規模を未然に防ぐのに役立ったかもしれません。IBM ConsultingのVarshneyは、さまざまな組織が作成したAIは、異なる最新の調整プロセスを経る可能性が高いと指摘しています。

ある企業のロボットが最終的に暴走したとしても、他の企業が製造したロボットが自動的にそれに追随するわけではないのです。「他の企業は腐敗しておらず、共謀も少ないです」とVarshneyは言います。

さらに、そのような状況では腐敗していないロボットが腐敗したロボットから防御できるため、「一社のロボットだけが政府を凌駕するほど強力になることはありえない」とVarshneyは言います。

AIを題材にした映画の中には、他の作品よりも現実離れした設定を受け入れやすいものもあります。2013年の映画『Her』は、高度なチャットボットと男性の恋愛関係を描き、予言的でした。

近年では、スカーレット・ヨハンソンの「彼女」キャラクターほど高度なものではないにもかかわらず、チャットボットに対して恋愛感情を抱く事例が数多く報告されています。

この映画は、人間がAIに感情的な愛着を抱くことの望ましさについて疑問を提起しました。数年後、MITの研究者たちがこの問題に取り組みました。2024年の研究では、特定のチャットボット利用パターンがユーザーの信頼度向上と関連している一方で、他のパターンは孤立のリスクを高めると結論づけました。

研究者らは、「人間同士の繋がりを置き換えるのではなく、補完する」AIコンパニオンへのアプローチを開発することに、価値があるとの見解を示しました。 ³しかし、その提言が支持を得られるかどうかはまだ分かりません。

少なくとも1本のAI映画が、現実世界のテクノロジーの実践に大きな影響を与えました。1983年に公開された『ウォー・ゲーム』は、スーパーコンピュータが制御する核戦争シミュレーションに誤ってアクセスした少年が、世界大戦を引き起こしかけた物語です。

この映画をきっかけに、当時のロナルド・レーガン米大統領が取り組みを開始し、機密性の高い政府ネットワークの保護を目的とした包括的なサイバーセキュリティ指令、「電気通信および自動情報システムセキュリティに関する国家政策（NSSD-145）」の策定へと結実しました。

しかし、この映画の重要性はサイバーセキュリティー政策への影響にとどまらない、とIBMのBoinodirisは言います。この映画は、私たち社会がまだ答えを探しているAI設計に関する哲学的な疑問を提起しています。

たとえば、対象が戦争の場合、AIシステムは何を「勝利」と見なすべきでしょうか。勝った側は死者が少ないのでしょうか？環境破壊は決定の際に考慮されるべきでしょうか？評判へのダメージはどうでしょうか？

「意思決定を行うためにこのようなモデルを開発する場合、私たちの意図を反映したモデルを開発するために、哲学者、歴史家、心理学者など、さまざまな分野の専門家が協力する必要があります」とBoinodirisは言います。

こうした課題こそが、スクリーンで頻繁に描かれる人型ロボットの乱闘よりも注目に値すると彼女は言います。AIの真の予期せぬ結果を軽減する上で、「私たちはこの道のりの始まりに立っている」とBoinodirisは言います。「まだ長い道のりが残っています。」