AI 위험 지도책
이 아틀라스를 살펴보고 에이전트 AI, 제너레이티브 AI 및 머신 러닝 모델 작업의 몇 가지 위험을 이해하세요.
이 페이지에서
에이전트 AI의 새로운 위험과 증폭된 위험
위험성은 다음 태그 중 하나로 분류됩니다.
AI 에이전트는 AI 기술을 사용하고 설정된 목표에 따라 환경에서 행동할 수 있는 에이전트를 갖춘 소프트웨어 개체로, 어떤 작업을 수행할지 결정하고 실행할 수 있는 능력을 갖추고 있습니다. 에이전트 AI 시스템은 도구, 플래너, 메모리, 데이터 세트와 같은 다른 구성 요소와 함께 AI 에이전트를 활용하고 목표를 추구하며 자율적으로 작동할 수 있는 소프트웨어 시스템입니다.
AI 상담원은 세 가지 유형의 작업을 수행할 수 있습니다:
- 세상에 영향을 미치는 행동(물리적 또는 디지털)을 취하세요.
- 리소스를 참조하고 도구를 사용하세요.
- 리소스/도구/기타 AI 에이전트 선택에서 어떤 프로세스를 선택할지 결정하고 해당 프로세스를 선택합니다.
이 섹션의 위험은 에이전트 AI에만 해당되거나 에이전트 AI에 의해 증폭됩니다. 최근 에이전트는 대규모 언어 모델을 기반으로 구축되므로 다음 섹션의 생성형 AI 위험은 에이전트 AI에도 적용될 수 있습니다.
설명 가능성
사회적 영향
견고성
계산 비효율성
거버넌스
모든 위험
위험성은 다음 태그 중 하나로 분류됩니다.
아래의 위험은 생성형 AI 모델과 기존(비생성형) AI 모델에 적용되는 위험에 대해 설명합니다. 이러한 위험은 에이전트 AI에도 적용될 수 있으며, 특히 에이전트의 행동이나 출력이 생성형 또는 기존 AI 모델을 사용하여 결정되는 경우 더욱 그렇습니다.
합성 데이터는 실제 데이터를 모방하여 인공적으로 생성한 데이터를 말하며, AI 모델 개발에 점점 더 많이 사용되고 있습니다. 합성 데이터는 제품 개발 및 소프트웨어 테스트, 광범위한 자연어 처리(NLP) 작업, 다양한 분석 및 머신 러닝 워크플로, 그리고 AI 모델 구축, 학습, 검증, 튜닝 및 배포의 수명 주기 전반에 걸쳐 상당한 가치를 제공합니다.