AIエージェントは急速に進化し、人間による監視が課題に

シリコンバレーの投資家Marc Andreessen氏は、5万米ドルのビットコインをX AIチャットボットに送金しました。受領者は「Truth Terminal」または @truth_terminalとして知られ、6月中旬からプラットフォーム上で活動し、テクノロジー愛好家やAI愛好家の間で支持を集めている半自律型 AIエージェント です。

このやり取りは、ベンチャー・キャピタル会社Andreessen Horowitzの共同創設者であるAndreessen氏がチャットボットの目的と経済的ニーズについて問い合わせたことから始まりました。何度か話し合いをした後、彼はビットコインを使用して完了するトランザクションにより、5万米ドルの1回限りの助成金を提供することに同意しました。AI は送金用のウォレット・アドレスを提供し、これが暗号通貨とAIの注目すべき交流となりました。

Andy Ayrey氏が開発したTruth Terminalは、ある程度の独立性を持って動作するAIであると説明されているものです。Ayrey氏の役割は、チャットボットの投稿を承認し、X 上で誰とやり取りするかを決定することです。この状況は、人間とのやりとりにおける人工エージェントの自律性を高めるAI開発の新たなフロンティアを表しています。

一部の専門家は、Truth TerminalのようなAIエージェントの出現は、人工知能の転換点を示すと述べています。人間の入力に基づいて特定のタスクを実行する従来のAIツールとは異なり、これらのエージェントは独立した意思決定を行い、より複雑さを増す方法で環境と対話することができます。

ペンシルベニア大学教授のBenjamin Lee氏は、AIエージェントが生成AIとユーザーの対話を強化する方法について説明しています。「個々のプロンプトを提供するのではなく、広い目標を設定して、この目標を達成するための分析について、AIエージェントに計画や一連の流れを展開するよう依頼することができます。」 Lee氏は、AIエージェントは仮想世界とサイバー物理世界の両方で動作できる可能性があると付け加えています。これにより、生成AIの機能が拡張され、物理環境と対話できるようになります。

Center for the Governance of AI（AIガバナンスセンター）の研究者であるAlan Chan氏は、AIエージェントの可能性について同様の見解を示しています。「将来は、より有能なAIエージェントが、退屈で危険な、あるいは好まれない重要なタスクを自動化するのに役立つ可能性があります」とChan氏は言います。同氏は、AI が「セキュリティー脆弱性のコードベースを調査する」ことや独立した科学研究の実施など、複雑な課題に取り組むことを思い描いています。

しかし、どちらの専門家も安全対策の必要性を強調しています。Lee氏は次のように提案しています。「AIエージェントは、解釈可能な説明や計画の詳細を作成できるべきです。人間はエージェントのアウトプットやアクションの原因を検査または診断できるべきです。また、「エージェントは学習して目標に向けた一連の分析やステップを提案するものの、人間のユーザーは実行前にその計画を承認する必要があるかもしれない」という新しい安全策を提案しています。

Chan氏もこの意見に賛同しており、「どのような安全策がいつ適切なのかを解明するためには、まだ作業が必要です」と述べています。考えられる対策としては、「エージェントがユーザーに代わって実行できるアクションを制限すること、エージェントを停止するユーザーの能力を維持すること、エージェントが何を行っているのかをユーザーに明確にすること」などが挙げられます。

AIエージェントの制御の課題は、これらが人間レベルの知能に近づくかそれを超えるにつれて、さらに困難になります。ルイビル大学の優れた教育プログラム教授であるRoman V. Yamposkiy氏は、大きな課題を挙げています。「彼らが人間よりも賢くなっても、現在は、それをプラス方向またはマイナス方向にコントロールする技術がありません」

AIの普及がもたらす社会への潜在的な影響は相当なものです。Yamposkiy氏は、高度なAIエージェントが「すべての仕事を行うことができ、その結果、ほぼ100%の失業につながる」と示唆しています。このシナリオは、社会構造と経済システムに対する疑問を提起しています。

Lee 氏は、「生成AIは驚くべき能力を持っていますが、人間の雇用や社会構造にまで大きく広がった影響はまだ見られていません」と、より抑え気味な見解を示しています。同氏は、AIがコンピューター・プログラミングやパラリーガル・ワークなどの分野で労働者の生産性を向上させ、雇用ニーズを減らす可能性があると指摘しています。Lee氏はまた、「AIは人工的に生成されたコンテンツの量を増やし、人間によるメディアの認識と消費の方法を変える可能性もあります」と指摘しています。

イリノイ大学のKoustuv Saha助教授（コンピューターサイエンス）は、デリケートな分野での注意を強調します。「AIが害を引き起こす可能性が低いという十分な証拠がない限り、特に医療などの分野では、AIを実践すべきではない」とSaha氏は警告しています。

AIエージェントの普及に伴い、法的責任および倫理的責任に関する問題はますます複雑になっています。自律型AIが損害につながる決定を下した場合、誰が責任を負うのでしょうか。これらの質問は、既存の法的フレームワークや倫理原則に挑戦しています。

AIエージェントが悪意のある目的で操作されたり乗っ取られたりする可能性があることも、懸念材料として挙げられます。Chan氏の研究は、そのような悪用を検知し、防ぐための保護手段と監視システムの開発に重点を置いています。「エージェントを使用したりやり取りしたりする場合には、エージェントが操作されているかどうかを知らせる何らかのモニターが必要な場合もあります」と彼は提案します。

AIエージェントが独自の目標や動機を開発する可能性について、Lee氏は次のように述べています。「現時点では、AIエージェントは新しい目標を提案するための十分なコンテキストを持たないと考えられます」彼は、「通常、人間のユーザーが目標を提供し、エージェントは目標を達成するために必要な中間手順を推測する場合が多いです」と説明します。

これらの課題にもかかわらず、企業にとっての計り知れないメリットと競争上の優位性が後押しすることで、AIエージェントの急速な開発は継続しています。

Forresterの、IBM watsonx Assistantの経済への総合的影響によると、AIソリューションの顧客は3年間で2,300万米ドルの利益を得ており、ROIは370%に達しました。実際的には、これは顧客エンゲージメントの向上と、ユーザーとヒューマン・エージェントのエクスペリエンスの向上があることを意味します。

この成功の鍵は信頼であり、その信頼を強化するために人間からのインプットが必要なタイミングを知ることです。「私たちは、ユーザーが与えたり受け取ったりするデータが正確で安全であることを確実にしたいと考えています」と、IBMのシニアAIエンジニアであるMorgan Carroll氏は、最近のAIの活用ポッドキャストのエピソードで説明しました。Carroll氏はまた、AIエージェントと話す際、それを最初から顧客に知らせることの重要性も強調しました。

顧客のニーズがより微妙になったり、よりパーソナルなタッチが好まれたりした場合、それが人間が介入する時です。「時には、人間を導入する必要がある場所もあります」と、顧客体験講演者兼トレーナーのJeannie Walters氏はエピソードの中で断言しています。「私たちには、人間が与えられる共感とその理解の両方が必要です。」

AIシステムがより賢く、独立性が高まるにつれて、専門家は安全対策の強化とグローバルなチームワークを求めています。AIについて私たちが今下す選択は、テクノロジーと社会が将来どのように発展するかを形作るでしょう。Truth Terminalは、まさに、これらの新しいAIエージェントの一例です。まだ初期段階にありますが、これらのプログラムはすでに大きな疑問を提起しています。AIが進歩するにつれて、知能とは何か、機械が自ら行動できる世界に人間がどのように適合するのかを考察しなければなりません。