에이전틱 AI와 우리가 이해해야 할 사항: Phaedra Boinodiris와 함께하는 Q&A

여행 계획을 세우셔야 하나요? 기차표 예약과 맛집 검색도 필요하신가요? 에이전틱 AI라면 이 모든 것을 도와드릴 수 있으며, 그 이상도 가능합니다. 직관적인 AI 시스템은 정교하며 자율적으로 결정하도록 설계되었습니다. 그러나 이러한 의사 결정 자율성으로 인해 강력한 거버넌스가 필요합니다.

에이전틱 AI 시스템이 조직 전반에 걸쳐 널리 사용되면서 포괄적인 거버넌스 구조의 필요성이 더 커지고 있습니다. 이러한 시스템의 독립적인 결정 능력은 윤리적 행동, 투명성 및 책임성을 보장하는 강력한 프레임워크의 중요성을 강조합니다. IBM Consulting의 신뢰할 수 있는 글로벌 AI 리더인 Phaedra Boinodiris가 이 Q&A에서 에이전틱 AI에 대한 '과장된 열풍'과 기초적인 AI 거버넌스의 필요성을 설명합니다.

Teaganne Finn: 에이전틱 AI에 대한 설명을 부탁드립니다. 이 기술을 둘러싼 열광은 합당한 걸까요?  

Phaedra Boinodiris: 에이전틱 AI에 대한 관심이 매우 높습니다. 생각해 보면, 이는 여러 개의 서로 다른 AI 솔루션이나 모델을 연결해 놓은 것과 비슷합니다. 즉, 한 AI 모델의 아웃풋이 다른 AI 모델의 인풋으로 사용되는 구조입니다.

TF: 에이전틱 AI 사용 사례 몇 가지를 공유해 주시겠어요?

PB: 물론입니다. 대표적인 예로 자율 주행 차량부터 살펴보겠습니다. 이러한 시스템은 단순한 이미지 인식을 넘어 자연어 처리, 의사 결정, 심지어 계획 기능까지 통합합니다. 단순히 보는 것에 그치지 않고 추론하고 행동하는 것이죠.

더 관련성 높은 예로 스마트 홈 청소 로봇을 들 수 있습니다. 생활 공간을 매핑하고 장애물을 피하며, 최적의 청소 경로를 학습하고 사용자의 일정이나 선호도에 따라 청소 시기를 결정합니다. 이는 물리적 환경에서 자율적으로 작동하는 에이전트입니다.

또는 스마트한 개인 AI 에이전트를 생각해 보세요. 마드리드 여행을 계획 중이라고 가정해 보겠습니다. 호텔 위치와 음악, 음식, 예술과 같은 관심사, 50유로의 예산, 도보 이동 제한 10마일과 같은 제약 조건을 알려줍니다. 그러면 AI 에이전트가 시간, 거리, 선호도 등을 고려해 여행 일정을 기획하고 예약을 진행하며 이를 최적화합니다. 단순히 질문에 답하는 것이 아니라 직접 작업을 수행합니다.

이제 IBM이 진행한 엔터프라이즈급 사용 사례를 몇 가지 공유해 드리겠습니다.

금융 서비스에서는 하나의 에이전틱 AI 솔루션이 고객 불만 사항을 분류합니다. 이 솔루션은 자연어 처리를 사용하여 '환불', '부상', '안전' 등의 키워드와 정서를 식별하여 메시지의 우선순위를 정하고 적절하게 라우팅합니다. 이 시스템은 회사 분위기와 정책에 맞춰 개인화된 응답 초안을 작성할 수도 있습니다. 

AI는 비정형 메시지를 명확한 카테고리와 조치로 구조화하여 해결 시간을 단축하고 긴급한 사안은 인간 검토 단계를 위해 에스컬레이션합니다. IBM은 주요 은행과 유사한 솔루션을 구현하여 고객 경험 및 규정 준수를 개선했습니다.

생명 과학 분야에서는 에이전틱 AI가 규제 문서 작성을 간소화하는 데 사용됩니다. IBM 솔루션 하나로 임상 시험 데이터, 연구 출판물, 기술 문서를 활용하여 양질의 보고서 초안을 자동으로 생성할 수 있습니다. 이전 규제 제출 자료를 바탕으로 학습된 AI가 기관의 가이드라인에 맞춰 구조화된 형식으로 콘텐츠를 생성합니다.

인간 검토자가 프로세스에 계속 참여하여 정확성과 추적성을 보장합니다. 이는 신약 출시 시간을 단축할 뿐만 아니라 수동 작업과 오류를 줄입니다. 규제가 엄격한 산업에서 매우 중요한 사항입니다.

IBM은 가전제품 제조업체를 위해 복잡하고 긴 고객 문의(예: 교체 부품 찾기, 제품 비교, 문제 해결 등)를 관리하기 위한 AI 기반 셀프서비스 툴을 제공했습니다. 이러한 문의는 다양하고 드물며, 전통적인 챗봇으로는 처리하기 어려운 경우가 많습니다. 에이전틱 솔루션은 다양한 지식 기반에서 정보를 수집해 정확한 답변을 제공함으로써 고객 센터의 부담을 줄이고 대규모로 고객 만족도를 향상합니다.

TF: 새로운 기술이 등장함에 따라 AI 윤리 및 거버넌스와 관련된 위험도 커지고 있습니다. 이러한 우려 사항에 대해 설명해 주시겠어요? 

PB: 예측형 AI 또는 기존 AI는 안전장치가 필요한 위험을 수반합니다. 훌륭한 의도를 가진 조직이 부정확하거나 불공정한 기존 AI 모델을 어떻게 배포했는지 자세히 설명하는 뉴스가 많습니다. 생성형 AI는 이러한 위험을 증폭시키고 새로운 위험을 야기했습니다. AI 에이전트의 자율성이 높아지면서 여전히 새롭고 증폭된 위험이 존재합니다.  

기초적인 AI 거버넌스 체계를 갖추지 못한 조직은 에이전틱 AI로 도약하려는 경우 더욱 큰 과제에 직면하게 됩니다. 이러한 AI 솔루션의 신뢰를 보장하는 방법을 파악하는 데 있어 더욱 가파른 학습 곡선이 필요합니다. 

AI의 잠재력을 진정으로 활용하려면 조직은 미션 전략에 연계되는 적합한 AI 모델 사용 사례를 선택하여 투자하는 '적합한 AI 도입'뿐만 아니라 'AI를 적합하게 도입'해야 합니다. 'AI를 적합하게 도입'하기 위해 조직은 인프라, 모델, 운영에 초점을 맞추는 것을 넘어 신뢰를 얻는 사회기술적 과제를 해결해야 합니다.

AI 시스템에 대한 신뢰는 기술적 솔루션만으로는 달성할 수 없습니다. 사람, 프로세스, 툴을 아우르는 총체적인 접근 방식이 필요합니다. 신뢰는 투명성, 교육, 그리고 포용성을 통해 의도적으로 구축되어야 합니다.

TF: 책임감 있는 AI 거버넌스에 대한 비판 중 하나는 혁신을 억압한다는 것입니다. 윤리와 창의성의 균형에 대해 설명해 주시겠어요? 

PB: 사람들이 AI 윤리와 거버넌스, 또는 AI 관련 규제 문제에 대해 비판적인 입장을 취할 때, 혁신과 창의성이 저해될 수 있다는 우려를 표명했다고 생각합니다. 하지만 저는 많은 분석가가 언급하는 75%의 실패율 통계를 지적하고 싶습니다.

AI 투자의 75%는 실패합니다. 중간 단계에서 멈춰버립니다. 개념 증명(PoC) 단계에서 멈춰버리는 것입니다. 투자자가 기대하는 ROI를 달성하지 못합니다. 실패의 핵심 이유 중 하나는 사람들의 신뢰를 얻지 못했거나, 사람들이 AI를 지나치게 신뢰하기 때문입니다.  

주요 목표는 우리의 지능을 증강할 문제를 해결하는 데 적합한 AI를 선택한 다음, 사람들의 신뢰를 얻기 위해 필요한 노력을 기울여 그 AI를 적합하게 도입하는 것입니다. 여기에는 쉬운 해결책이 없습니다.

AI 시스템은 공격자로부터 안전해야 합니다. 의도를 적절히 반영해야 합니다. 공정한 결과를 도출하고, 투명하고 진정으로 설명할 수 있어야 하며, 데이터 프라이버시를 유지해야 합니다. 에이전트는 실제로 어떤 일이 일어나고 있는지 추적할 수 있도록 관찰 가능해야 합니다. 그리고 에너지와 물에 대한 AI의 끝없는 욕구를 고려할 때 이러한 시스템은 환경적으로도 지속 가능해야 합니다. 

책임감 없이는 신뢰를 얻을 수 없습니다. 저는 책임감을 주제로 광범위하게 글을 써왔고, 우리는 이 주제에 관한 많은 IBV 논문을 발표했습니다. Gartner는 올해 AI 결과에 대해 공급업체가 계약상 책임을 지도록 하는 방법을 고객에게 자세히 설명하는 훌륭한 논문을 발표했습니다.  

앞서 말씀드렸듯이, 이 모든 것은 결코 쉬운 일이 아닙니다. 우리가 신뢰할 만한 방식으로 AI를 개발하는 쉬운 버튼은 없지만 그 노력은 매우 중요합니다. 그리고 일단 기초적인 노력을 기울이면, 이 경주용 자동차 트랙 비유에서 잘 설명한 것처럼 빠르게 나아갈 수 있습니다. 에이전틱 AI와 같은 새로운 기술이 계속 발전함에 따라 더 많은 거버넌스가 필요할 것입니다.