AI 에이전트에 대한 과잉 또는 과소 의존으로 인한 AI 리스크
설명
AI 에이전트의 행동을 기꺼이 받아들이는 의지인 신뢰도는 사용자가 해당 에이전트를 얼마나 신뢰하고 어떤 용도로 사용하는지에 따라 달라집니다. 과잉 의존은 사용자가 AI 에이전트를 지나치게 신뢰하여 원치 않는 행동일지라도 AI 에이전트의 행동을 받아들이는 경우에 발생합니다. 과소 의존은 그 반대의 경우로, 사용자가 AI 에이전트를 신뢰하지 않지만 신뢰해야 하는 경우입니다.
AI 에이전트의 자율성(조치 취하기, 리소스/도구 선택 및 참조)과 불투명성 및 개방성의 가능성은 에이전트 행동의 가변성과 가시성을 증가시켜 신뢰를 조정하기 어렵게 하고 과신 및 과소 신뢰의 원인이 될 수 있습니다.
{: .shortdesc}인공지능 에이전트에 대한 의존도가 지나치게 높거나 낮은 것이 파운데이션 모델에서 우려되는 이유는 무엇인가요?
과잉/과소 의존은 AI 에이전트에 대한 잘못된 신뢰로 인해 인간의 잘못된 의사 결정으로 이어질 수 있으며, 결정의 중요성에 따라 부정적인 결과가 확대될 수 있습니다.
상위 주제: AI 리스크 아틀라스
언론에 보도된 사례를 통해 재단 모델의 여러 가지 위험성을 설명합니다. 언론에서 다루는 이러한 사건 중 상당수는 아직 진행 중이거나 해결된 상태이므로 이를 참고하면 잠재적 위험을 이해하고 완화 조치를 취하는 데 도움이 될 수 있습니다. 이러한 예시는 예시를 보여주기 위한 것일 뿐입니다.