AI 에이전트가 조직도에 합류할 때

팀의 AI 에이전트는 좋아하는 점심 식사 장소가 없거나 휴가일에 대해 걱정하지 않습니다. 회의 중 주의가 산만해지거나 병가를 낼 일이 없습니다. 하지만 업무를 처리하기도 하고, 업무가 어떤 것인지 다시 생각하게 할 정도로 업무를 잘 처리하고 있습니다.

산업 전반에서 이러한 시스템이 과거에는 주니어 직원이 담당했던 역할을 대신하고 있습니다. 그들은 연구 결과를 요약하고, 보고서를 작성하고, 재무 데이터를 분석하고 있습니다. 더 이상 수동적인 도구가 아니라 감독, 평가, 전략을 요구하는 내재적 기여자가 되었습니다.

AI 에이전트가 기업 전체로 확산됨에 따라 관리자는 인간이 아닌 작업자를 포함하는 팀을 어떻게 이끌 것인가라는 새로운 과제에 직면해 있습니다. 이러한 시스템은 지칠 줄 모르고 효율적일 수 있지만 피드백을 요청하지 않고, 추론을 설명하지 않으며, 일이 잘못되었을 때 손을 들지 않습니다. 문제는 더 이상 AI가 실제 업무에 기여할 수 있는지 여부가 아니라, AI가 실제 업무에 기여할 수 있을 때 기업이 어떻게 책임성, 신뢰성 및 성능을 관리할 것인가 하는 것입니다.

센트럴 플로리다 대학교의 심리학 교수인 Mindy Shoss는 IBM Think와의 인터뷰에서 "관리자는 성능을 관리하고 AI와 인간의 행동을 기반으로 의사 결정을 내릴 수 있는 계획이 필요합니다."라고 말했습니다.

IBM에서는 이러한 변화가 이미 순조롭게 진행되고 있습니다. watsonx Orchestrate와 다중 에이전트 협업에 대한 내부 연구와 같은 도구를 통해 AI 에이전트가 핵심 비즈니스 프로세스에 통합되고 있습니다. 인사 부서에서는 이력서를 직무 설명과 대조하고 채용 관리자를 위한 최종 후보자 명단을 생성합니다. 구매 부문에서는 계약서를 검토하여 공급업체를 분류하고 규정 준수 위험을 표시합니다. 여전히 최종 결정은 사람이 내리고 있지만, 점점 더 많은 수작업이 백그라운드에서 이루어지고 있습니다.

IBM Research는 대규모 문서 분석과 같은 복잡한 프로젝트를 해결하기 위해 에이전트 팀을 시범 운영해 왔습니다. 한 실험에서는 수천 개의 규제 정책 문서를 분석하여 조항을 추출하고 관할 구역을 비교했습니다. 이 시스템은 분석가가 검토할 수 있는 결과 매트릭스를 제공했는데, 한때는 몇 주가 걸렸던 작업이 이제는 사람의 감독으로 몇 시간으로 단축되었습니다.

IBM의 수석 엔지니어인 Kunal Sawarkar는 IBM Think와의 인터뷰에서 "AI 에이전트는 더 빠르게 구축하고 소규모 팀과 함께 작업하며 더 많은 아이디어를 실현하는 데 도움이 될 것입니다."라고 말했습니다. "그들은 우리가 가치 있는 일에 집중할 수 있도록 힘든 일을 덜어줍니다. 이는 모든 사람이 단순한 실행자가 아닌 크리에이터가 될 수 있는 강력한 변화입니다."

이러한 이득에도 불구하고 신뢰, 감독 및 책임에 관한 까다로운 질문은 여전히 남아 있습니다. 실수는 일어날 수 있습니다. 에이전트가 프롬프트를 잘못 읽거나 변수를 간과하면 누군가 책임을 져야 합니다.

MIT의 AI 신뢰성 연구자인 Stephen Casper는 현재 순간을 확정된 미래라기보다는 과도기적 단계로 봅니다. 그는 IBM Think와의 인터뷰에서 "AI 시스템이 이를 가능하게 할 만큼 안정성이 확보된다면 이는 큰 기회가 될 수 있지만 동시에 매우 큰 책임이기도 합니다."라고 말했습니다. "이런 것을 현실로 만드는 것은 점진적인 채택과 시행착오를 거쳐야 하는 긴 과정이 될 것입니다."

Casper는 AI 동료의 미래를 구상하기보다는 느리고 제한된 통합을 보고 있습니다. 시스템은 더 많은 기능을 갖추게 되더라도 사람의 지시에 따라 계속 작동할 것입니다. "운전이나 코딩과 같은 자율 AI의 가장 영향력 있는 애플리케이션 중 일부는 인간이 제어하지만 AI 시스템에 작업을 위임할 수 있는 설정에서 발생합니다."라고 그는 말합니다.

위임 권한은 확대될 수 있지만 재량권은 여전히 사람에게 있습니다. 그는 "일부 업무에서 인간이 하는 일의 90%를 AI 시스템이 수행할 수 있다고 해도, 나머지 10%는 자동화하기가 가장 어려울 것"이라고 덧붙였습니다.

AI 에이전트가 이미 열심히 일하고 있습니다. 물류 회사의 보이지 않는 곳에서 AI 라우팅 에이전트는 실시간 날씨, 교통 및 차량 데이터를 분석하고 있습니다. 폭풍이 몰아치거나 고속도로가 폐쇄되면 에이전트는 담당자가 커피 한 잔을 더 따르기도 전에 경로 변경 및 재배정을 제안합니다. 최종 호출은 여전히 사람의 몫이지만 첫 번째 알림은 종종 코드를 통해 이루어집니다.

조직 구조도 이에 따를 수 있습니다. "인간은 조직의 계층에서 상위 리더가 하위 리더를 평가하는 것과 유사한 방식으로 평가될 것입니다."라고 Shoss는 말했습니다. AI 에이전트는 직원이 아니지만 여전히 관리해야 하는 업무를 생성합니다. "책임감은 인간과 AI에 있어서 같은 의미가 아닙니다."라고 그녀는 덧붙였습니다.

Casper는 에이전트가 많은 직장에서도 감독이 사라지지 않을 것이라는 데 동의했습니다. "많은 데모와 과대 광고에서 알 수 있듯이 우리는 AI를 동료로 삼는 시기로부터 훨씬 멀리 떨어져 있습니다."라고 그는 말했습니다.

사람을 관리하는 것만으로도 충분히 어려운 일이었습니다. 이제 에이전트가 합류하면서 기업 리더들은 전체 플레이북을 재구성하고 있습니다.

컬럼비아 대학교의 경영학과 교수인 Tianyi Peng은 IBM Think와의 인터뷰에서 "리더는 중단을 피하기 위해 주요 운영상의 변화를 신중하게 구현하고, AI 에이전트의 잠재력을 빠르게 탐색하기 위해 공격적으로 실험하는 이중 트랙 사고방식을 채택해야 합니다."라고 말했습니다. "목표는 대량 교체가 아닙니다."라고 그는 덧붙였습니다. "점진적 통합입니다."

신중한 배치는 Peng이 말하는 백래시 함정을 방지하는 데 도움이 됩니다. "장기적인 신뢰와 성과는 신중한 통합과 직원 참여에 달려 있습니다." 라고 그는 말했습니다.

에이전트가 급증함에 따라 관리 관행도 진화하고 있습니다. "전문가가 아니라 빠르게 배우는 사람이 되세요."라고 Peng은 말했습니다. 기술적인 노하우는 필요하지 않지만 프롬프트, 해석 및 개선에 대한 유창함은 필요합니다.

"하이브리드 팀을 관리한다는 것은 사람과 에이전트가 협업하는 워크플로를 조율하는 것을 의미합니다."라고 그는 말합니다. 즉, 능력을 이해하고, 작업을 전략적으로 라우팅하고, 오버라이드 또는 재교육 시기를 알아야 합니다.

지표 역시 변화하고 있습니다. "성능에는 비용 효율성이 포함됩니다."라고 Peng은 말했습니다. 즉, 요약에는 경량 시스템을 사용하고 가치가 높은 의사 결정을 위해서는 더 강력한 모델을 예약하여 모델 복잡성을 작업에 맞게 조정해야 합니다.

"팀은 에이전트 ROI를 추적하고, 모델 크기를 작업에 맞추고, 정확성뿐만 아니라 확장성과 가치를 위해 워크플로를 최적화해야 합니다."라고 그는 말했습니다. "AI가 결정을 내리더라도 인간은 시스템을 설계하고 그 아웃풋을 승인합니다."

Peng은 앞으로 명확한 플레이북을 원하는 기업은 보다 유동적인 경로를 수용해야 할 것이라고 말했습니다. "모두가 플레이북을 기다리고 있습니다."라고 그는 말했습니다. "하지만 사실 우리는 진행하면서 쓰고 있어요."