AIにデータ・バイアス・リスクを導入
説明
データセットやデータベースを修正するような、AIエージェントが行う特定のアクションは、他者や自身がアクションを起こすために使用するリソースにバイアスをもたらす可能性がある。
なぜデータの偏りが基盤モデル懸念されるのか？
AIエージェントは、既存の差別的行動を導入したり、拡大したりする可能性がある。 使い方によっては人に害を与えることもある。
例
医療の偏見
データおよびAIアプリケーションを使用して医療格差を補強し、人々が医療を受ける方法を変えるという研究論文によれば、その努力の背後にあるデータほど強力である。 例えば、マイノリティの割合が低かったり、すでに不平等なケアを反映していたりするトレーニングデータを使用すると、健康格差が拡大する可能性がある。
ソース:
親トピック AIリスクアトラス
基盤モデルリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは、あくまでも説明のためである。