조직이 책임감 있는 에이전틱 AI를 확장할 수 있도록 준비시키기
AI 거버넌스는 보이지 않는 것을 통제할 수 없습니다. 하지만 인공 지능(AI) 모델 및 시스템 내의 위험을 이해하지 못하면 가시성만으로는 도움이 되지 않습니다.
이는 에이전틱 AI와 같은 새로운 기술의 경우 특히 그렇습니다. AI 에이전트는 효율성을 높이고 생산성을 향상시킬 수 있지만, 이로 인해 발생하는 위험의 전체 범위를 이해하는 것은 더 어렵습니다. IBM의 Manish Bhide, Heather Gentile, Jordan Byrd는 "생성형 AI와 머신 러닝의 위험은 특히 특정 사용 사례의 경우 매우 중요할 수 있습니다."라고 말합니다. "AI 에이전트를 추가하면 위험이 더욱 증폭됩니다."
IBM 백서 "AI 에이전트: 기회, 위험 및 완화"에서는 에이전틱 AI 위험에 대한 철저한 조사를 통해 기존에 알려진 AI 위험의 증폭과 새롭고 독특한 도전 과제의 출현을 모두 살펴봅니다.
이 백서는 파운데이션 모델에 대한 위험 및 완화 조치를 식별한 이전 작업을 바탕으로 실무자가 위험을 이해, 식별 및 완화하는 데 필요한 기본 지식을 제공합니다. 이는 에이전틱 AI를 책임감 있게 확장하기 위한 중요한 첫 단계입니다.
업계 뉴스레터
전문가가 전하는 최신 AI 트렌드
가장 중요하고 흥미로운 AI 뉴스에 대한 선별된 인사이트를 확인하세요. 주간 Think 뉴스레터를 구독하세요. IBM 개인정보 보호정책을 참조하세요.
구독은 영어로 제공됩니다. 모든 뉴스레터에는 구독 취소 링크가 있습니다. 여기에서 구독을 관리하거나 취소할 수 있습니다. 자세한 정보는 IBM 개인정보 보호정책을 참조하세요.
AI 에이전트는 고도로 자율적이어서 지속적인 사람의 감독 없이 다양한 작업을 완료합니다. 또한 위험을 초래할 수 있는 다음과 같은 4가지 특성을 가지고 있습니다.
· 불투명성: AI 에이전트의 내부 작동 및 상호작용에 대한 가시성이 제한되어 있으면 작업을 이해하는 데 방해가 될 수 있습니다.
· 개방형: AI 에이전트는 리소스, 도구, 심지어 다른 AI 에이전트까지 스스로 선택하여 작업을 완료할 수 있으므로 예기치 않은 작업이 발생할 가능성이 높아집니다.
· 복잡성: AI 에이전트가 학습하고 적응함에 따라 내부 작동이 더욱 복잡해져 분석이 점점 더 어려워집니다.
· 비가역성: 지속적인 인간 감독 없이 행동하는 AI 에이전트는 디지털 및 물리적 영역 모두에서 돌이킬 수 없는 조치를 취하여 실제적인 결과를 초래할 가능성이 높습니다.
AI 에이전트의 자율성과 특성은 실무자가 에이전틱 AI를 책임감 있게 확장하기 위해 이해해야 하는 잠재적 위험, 과제 및 사회적 영향을 제시합니다.
에이전틱 AI는 기존 AI 시스템의 설계, 개발, 채택 또는 거버넌스에서 실무자가 고려하지 않았던 새로운 위험과 과제를 AI 위험 환경에 도입합니다.
예를 들어, 새롭게 떠오르는 위험 중 하나는 데이터 편향과 관련이 있습니다. 즉 AI 에이전트가 편향을 유발하는 방식으로 데이터 세트나 데이터베이스를 수정할 수 있습니다. 여기서 AI 에이전트는 잠재적으로 세상에 영향을 미칠 수 있는 행동을 취하며, 반영된 편향이 감지되지 않고 확장될 경우 되돌릴 수 없는 결과를 초래할 수 있습니다.
또한 에이전틱 AI는 시스템 평가 및 설명 불가능하거나 추적할 수 없는 조치의 가능성을 포함하여 알려진 여러 위험 영역을 확대합니다. 실무자는 AI 에이전트를 사용할 때 이러한 영역을 재평가해야 합니다.
예를 들어, 리소스, 데이터베이스 또는 도구에 무제한으로 액세스할 수 있는 AI 에이전트는 민감한 정보나 기밀 정보를 사용자와 공유할 위험을 증폭시킵니다. 적절한 가드레일이 없으면 이러한 에이전트는 개인 정보, 지적 재산 또는 기타 기밀 데이터를 저장하고 시스템 사용자와 공유할 수 있습니다. 이 백서에서는 이러한 위험과 과제의 기원과 잠재적 영향에 대해 자세히 설명합니다.
에이전틱 AI의 고유한 위험과 과제를 해결하려면 종합적인 AI 거버넌스를 통해 시행되는 위험 완화에 대한 엔드투엔드 접근 방식이 필요합니다. 그러나 IBM의 Phaedra Boinodiris와 Jon Parker가 최근에 설명한 바에 따르면 "에이전틱 AI가 너무 빠르게 발전하고 있기 때문에 조직은 피해를 최소화하기 위한 모범 사례나 선례를 찾는 데 어려움을 겪을 수 있습니다."
다행히도 생성형 AI 및 머신 러닝과 같이 다른 유형의 AI의 위험을 완화하는 데 도움이 되는 많은 전략이 에이전틱 AI의 위험을 완화하는 데 도움이 될 수 있습니다. 예를 들어, 인간을 개입시키는 것은 모든 유형의 책임감 있는 AI를 위한 모범 사례입니다. AI 에이전트가 취한 조치에 대한 인간의 검증과 피드백을 활성화하면 정확성과 관련성을 보장하고 조직 가치와의 일치를 유지하는 데 도움이 될 수 있습니다.
에이전틱 AI의 고유한 위험을 이해하는 것은 이를 기업 전반에 걸쳐 책임감 있게 확장하고 책임감 있는 AI의 투자수익률(ROI)을 실현하기 위한 중요한 첫 단계입니다. 'AI 에이전트: 기회, 위험 및 완화'는 에이전틱 AI 위험 환경을 보다 명확하게 개념화하고 조직이 AI 에이전트가 제공하는 엄청난 기회를 책임감 있게 활용할 수 있는 방법을 고려하는 데 도움이 될 수 있습니다.
리소스
IBM watsonx.ai 스튜디오를 사용하여 개발자가 AI 에이전트를 구축, 배포 및 모니터링할 수 있도록 지원합니다.
기업이 AI 에이전트 및 어시스턴트를 구축, 사용자 지정, 관리할 수 있도록 지원하며, 업계에서 가장 포괄적인 기능 세트 중 하나를 사용하여 획기적인 생산성을 창출하세요.
개발자 효율성을 높이는 Granite의 소형 개방형 모델을 사용하여 90% 이상의 비용 절감을 달성하세요. 이러한 엔터프라이즈급 모델은 사이버 보안부터 RAG까지 광범위한 엔터프라이즈 작업과 안전 벤치마크에 대해 탁월한 성능을 제공합니다.