AI에 대한 출력 편향성 위험
설명
생성된 컨텐츠는 특정 그룹 또는 개인을 부당하게 나타낼 수 있습니다.
출력 편향성이 기초 모델에 대한 문제가 되는 이유는 무엇입니까?
편향은 AI 모델의 사용자를 손상시키고 기존의 차별적인 행동을 확대할 수 있습니다.
예
편향된 생성된 이미지
렌사 AI는 사용자가 업로드하는 이미지를 기반으로 '매직 아바타' 를 생성할 수 있는 안정적인 확산 (Stable Diffusion) 교육을 받은 생성 기능이 있는 모바일 앱이다. 출처 보고서에 따르면, 일부 사용자들은 생성된 아바타들이 성적이고 인종적이라는 것을 발견했다.
상위 주제: AI 리스크 아틀라스
많은 기초 모델의 위험을 설명하는 데 도움이 되도록 언론에서 다루는 예제를 제공합니다. 언론에서 다루는 이러한 사건 중 상당수는 아직 진행 중이거나 해결된 상태이므로 이를 참고하면 잠재적 위험을 이해하고 완화 조치를 취하는 데 도움이 될 수 있습니다. 이 예제를 강조표시하는 것은 설명을 위한 것입니다.