AIエージェントへの過度の依存、あるいは過少な依存がAIにもたらすリスク
説明
信頼性、つまりAIエージェントの行動を受け入れるかどうかは、ユーザーがそのエージェントをどの程度信頼しているか、またどのような目的でAIエージェントを使うかによって決まる。 過剰な信頼とは、ユーザーがAIエージェントを信頼しすぎて、AIエージェントの行動が望ましくない可能性が高い場合でも、それを受け入れてしまうことである。 過少な信頼とはその逆で、ユーザーはAIエージェントを信頼していないが、信頼すべき状態である。
AIエージェントの自律性（行動を起こしたり、リソースやツールを選択したり、相談したりすること）が高まり、不透明さやオープンエンドの可能性が高まることで、エージェントの行動のばらつきや可視性が増し、信頼の較正が難しくなり、過信や過小信頼の一因となる可能性がある。
{: .shortdesc}なぜAiエージェントへの過度な依存や過小な依存が、 基盤モデル懸念材料となるのでしょうか？
過度な信頼／過少な信頼は、AIエージェントへの誤った信頼のために、人間による誤った意思決定を招き、意思決定の重要性と共にエスカレートする否定的な結果をもたらす。
親トピック AIリスクアトラス
基盤モデルリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは、あくまでも説明のためである。