AIのコンテキスト過多攻撃リスク
説明
過剰なトークンでプロンプトをオーバーロードすることは、例えば多くのショットの例では、モデルを脆弱な状態に陥れる可能性がある。
なぜコンテキストの過負荷が基盤モデル懸念になるのか？
コンテキスト・オーバーロード攻撃は、モデルの動作を変更し、攻撃者に利益をもたらすために使用できる。 それが生成するコンテンツは、ユーザーや他者に害を及ぼす可能性がある。
親トピック AIリスクアトラス
基盤モデルリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは、あくまでも説明のためである。