빠르게 진화하며 인간의 감독에 도전하는 AI 에이전트

실리콘밸리 투자자 Marc Andreessen은 비트코인으로 5만 달러를 X AI 봇에 송금했습니다. 'Truth Terminal' 또는 @truth_terminal로 알려진 이 수신자는 6월 중순부터 플랫폼에서 활동 중인 반자율 AI 에이전트로, 기술 애호가와 AI 애호가들 사이에서 인기를 얻고 있습니다.

이 거래소는 벤처 캐피털 회사인 Andreessen Horowitz의 공동 설립자인 Andreessen이 봇의 목표와 재정적 필요성에 대해 문의하면서 시작되었습니다. 몇 가지 논의 끝에 그는 비트코인으로 거래를 완료한 후 5만 달러의 일회성 보조금을 제공하기로 동의했습니다. AI는 송금을 위한 지갑 주소를 제공했으며, 이는 암호화폐와 인공 지능의 주목할 만한 교차점을 보여주었습니다.

Andy Ayrey가 만든 Truth Terminal은 어느 정도의 독립성을 가지고 작동하는 AI로 설명됩니다. Ayrey의 역할은 봇의 게시물을 승인하고 X에서 봇이 누구와 상호 작용할지 결정하는 것입니다. 이러한 설정은 인공 에이전트가 인간과 상호작용할 때 점점 더 많은 자율성을 부여받는 AI 개발의 새로운 영역을 나타냅니다.

일부 관찰자들은 Truth Terminal과 같은 AI 에이전트의 등장이 인공지능의 전환점이 될 것이라고 말합니다. 인간의 입력에 따라 특정 작업을 수행하는 기존의 AI 도구와 달리, 이러한 에이전트는 독립적으로 의사 결정을 내리고 점점 더 복잡한 방식으로 환경과 상호 작용할 수 있습니다.

펜실베이니아 대학교의 Benjamin Lee 교수는 AI 에이전트가 생성형 AI를 통해 사용자 상호작용을 향상시킬 수 있는 방법에 대해 “인간 사용자가 개별 프롬프트를 제공하는 대신 광범위한 목표를 제시하고 AI 에이전트에게 그 목표를 달성하기 위한 계획이나 분석 순서를 개발하도록 요청할 수 있다”고 설명합니다. Lee는 AI 에이전트가 가상 세계와 사이버 물리 세계 모두에서 작동하여 생성형 AI의 기능을 확장하고 물리적 환경과 상호 작용할 수 있다고 덧붙였습니다.

AI 거버넌스 센터의 연구 학자인 Alan Chan도 AI 에이전트의 잠재력에 대해 비슷한 관점을 제시합니다. “미래에는 더 뛰어난 능력을 갖춘 AI 에이전트가 지루하거나 위험하거나 바람직하지 않은 필수 작업을 자동화하는 데 유용할 수 있습니다.” 라고 Chan은 말합니다. 그는 AI가 “코드베이스에서 보안 취약점을 탐색하는 작업”이나 독립적인 과학 연구 수행처럼 복잡한 과제를 해결하는 데 활용될 수 있을 것이라고 내다봅니다.

하지만 두 전문가 모두 안전장치가 필요하다고 강조합니다. Lee는 다음과 같이 제안합니다. “AI 에이전트는 해석 가능한 설명을 하거나 계획을 자세히 설명할 수 있어야 합니다. 인간은 에이전트의 결과물이나 행동의 원인을 검사하거나 진단할 수 있어야 합니다." 그는 또한 "에이전트가 목표를 향한 일련의 분석이나 단계를 학습하고 제안할 수 있지만, 실행 전에 인간 사용자가 그 계획을 승인해야 할 수도 있다"는 새로운 안전 장치를 제안합니다.

찬은 “어떤 안전장치가 언제 적절한지 파악하기 위한 작업이 여전히 필요하다”고 언급하며 이러한 분위기를 반영했습니다. 잠재적인 조치에는 “에이전트가 사용자를 대신하여 수행할 수 있는 작업을 제한하고, 사용자가 에이전트를 중지할 수 있는 기능을 유지하며, 에이전트가 수행하는 작업을 사용자에게 명확하게 알리는 것”이 포함됩니다.

AI 에이전트가 인간 수준의 지능에 근접하거나 이를 능가함에 따라 이를 제어하는 문제는 더욱 어려워집니다. 루이빌 대학교의 저명한 교수인 Roman V. Yampolskiy는 “인간보다 더 똑똑해지면 현재로서는 긍정적인 방향으로든 부정적인 방향으로든 제어할 수 있는 기술이 없다”는 점을 중요한 과제로 지적합니다.

광범위한 AI 도입으로 인한 잠재적 사회적 영향은 상당합니다. 첨단 AI 에이전트가 “모든 일을 대신할 수 있어 거의 100%에 가까운 실업률을 초래할 수 있다”고 말합니다. 이 시나리오는 사회 구조와 경제 시스템에 대한 의문을 제기합니다.

Lee는 좀 더 신중한 견해를 제시합니다. “생성형 AI는 놀랄 만한 능력을 갖추고 있지만, 아직까지 인간의 고용과 사회 구조에 광범위한 영향을 미치지는 못하고 있다”는 것입니다. 그는 AI가 컴퓨터 프로그래밍이나 법률 보조 업무와 같은 분야에서 근로자의 생산성을 향상시켜 잠재적으로 고용 수요를 줄일 수 있다고 지적합니다. Lee는 또한 "AI는 인위적으로 생성된 콘텐츠의 양을 늘리고, 인간이 미디어를 인식하고 소비하는 방식을 변화시킬 수도 있다"고 지적합니다.

일리노이대학교 컴퓨터공학과 조교수인 Koustuv Saha는 민감한 분야에서는 주의를 기울여야 한다고 강조합니다. Saha는 특히 의료와 같은 분야에서 “AI가 해를 끼칠 가능성이 없다는 충분한 증거가 없는 한, AI를 실제로 도입해서는 안 된다”고 경고합니다.

AI 에이전트가 널리 보급됨에 따라 법적, 윤리적 책임에 대한 문제도 점점 더 복잡해지고 있습니다. 자율적인 AI가 해를 끼치는 결정을 내릴 경우 누가 책임을 져야 할까요? 이러한 질문은 기존의 법적 프레임워크와 윤리적 원칙에 도전합니다.

AI 에이전트가 악의적인 목적으로 조작되거나 도용될 수 있는 가능성도 또 다른 우려를 더합니다. Chan의 연구는 이러한 오용을 감지하고 예방하기 위한 보호 장치 및 모니터링 시스템을 개발하는 데 중점을 두고 있습니다. "에이전트를 사용하거나 상호 작용할 때 에이전트가 조작되고 있는지 알려주는 일종의 모니터가 필요할 수도 있습니다."라고 그는 제안합니다.

AI 에이전트가 스스로 목표나 동기를 개발할 가능성에 대해 Lee는 “현재로서는 AI 에이전트가 새로운 목표를 제안할 수 있는 충분한 맥락이 없을 수 있다”고 말합니다. 그는 “인간 사용자는 목표를 제시하는 반면 에이전트는 목표 달성에 필요한 중간 단계를 추론할 가능성이 높다”고 설명합니다.

이러한 어려움에도 불구하고 AI 에이전트의 개발은 엄청난 잠재적 이점과 기업의 경쟁 우위 덕분에 빠른 속도로 진행되고 있습니다.

IBM watsonx Assistant의 Forrester 총 경제적 영향 보고서에 따르면 AI 솔루션 고객은 3년 동안 2300만 달러의 혜택을 누렸으며, 이는 370%의 ROI에 해당하는 수치입니다. 실제로 이는 고객 참여도를 높이고 사용자와 상담원 모두의 경험을 개선하는 결과로 이어집니다.

이러한 성공의 핵심은 신뢰이며, 그 신뢰를 강화하기 위해 언제 인간의 개입이 필요한지 아는 것입니다 IBM의 시니어 AI 엔지니어인 Morgan Carroll은 최근 AI 사용 사례 팟캐스트 에피소드에서 “사용자가 주고받는 데이터가 정확하고 안전하다는 사실을 확신할 수 있도록 하는 것이 중요합니다"고 설명했습니다. Carroll은 또한 고객이 AI 에이전트와 대화할 때 처음부터 이를 알리는 것이 중요하다고 강조했습니다.

고객의 요구가 더 미묘해지거나 보다 개인적인 접촉을 선호할 때는 바로 그때 사람이 개입해야 합니다. 고객 경험 연사이자 트레이너인 Jeannie Walters는 이 에피소드에서 “때로는 사람을 투입해야 할 때가 있습니다.”라고 강조합니다. "우리는 인간이 줄 수 있는 공감과 이해가 모두 필요합니다."

AI 시스템이 더욱 지능화되고 독립성을 강화함에 따라 전문가들은 더 나은 안전 조치와 글로벌 팀워크가 필요하다고 강조합니다. 지금 우리가 AI에 대해 내리는 선택이 미래의 기술과 사회가 발전하는 방식을 결정할 것입니다. Truth Terminal은 이러한 새로운 AI 에이전트의 한 예일 뿐입니다. 아직 초기 단계이지만 이러한 프로그램은 이미 큰 의문을 제기하고 있습니다. AI가 발전함에 따라 우리는 지능이란 무엇이며 기계가 스스로 행동할 수 있는 세상에 인간이 어떻게 적응해야 하는지에 대해 깊이 생각해야 합니다.