AI の出力バイアス・リスク
説明
生成されたコンテンツは、特定のグループまたは個人を不当に表している可能性があります。
出力バイアスがファウンデーション・モデルの問題となるのはなぜですか?
バイアスは、AI モデルのユーザーに悪影響を及ぼし、既存の差別的行動を拡大する可能性があります。
例
バイアスのある生成済みイメージ
Lensa AI は、ユーザー自身がアップロードした画像に基づいて「Magic Avatars」を生成できる、Stable Diffusion でトレーニングされた生成機能を備えたモバイル・アプリです。 ソース・レポートによると、一部のユーザーは、生成されたアバターが性化され、人種化されていることを発見しました。
親トピック AIリスクアトラス
当社では、多くの基盤モデルのリスクを説明するために、プレス・モデルで扱われている例を提供しています。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調表示するのは、説明のみを目的としています。