AI のための攻撃リスクの抽出
説明
抽出攻撃は、入力空間を適切にサンプリングして出力を観察し、同様の動作をする代理モデルを構築することで、AIモデルのコピーや盗用を試みる。
抽出攻撃がファウンデーション・モデルの問題であるのはなぜですか?
抽出攻撃が成功すると、攻撃者はさらに敵対的な攻撃を行い、機密個人情報や知的財産などの貴重な情報を得ることができる。
親トピック AIリスクアトラス
財団モデルのリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは説明のためである。