자율형 AI의 책임성 격차 

AI 에이전트는 더 이상 실험적인 기술이 아닙니다. 이미 거래를 실행하고, 인프라를 변경하며, 민감한 데이터를 조회하고, 기업 시스템 전반에서 작업을 수행하고 있으며, 이러한 과정에는 사람의 개입이 거의 필요하지 않은 경우도 많습니다. 변한 것은 단순히 자동화만이 아닙니다. 바로 에이전시입니다.

그리고 이러한 에이전시는 신원, 액세스, 책임성에 관한 모든 것을 바꾸고 있습니다.
이러한 시스템은 단순히 지시를 실행하는 데 그치지 않습니다. 어떤 작업을 수행할지 스스로 판단하고, 권한을 위임하며, 특정 이벤트가 발생했을 때만 작동하는 것이 아니라 지속적으로 운영됩니다. 또한 툴, API, 시스템을 자율적으로 실행하며, 사용자나 팀 또는 다른 시스템을 대신해 작업을 수행하는 경우도 많습니다. 그 결과 의도와 권한, 책임의 주체가 모호해질 수 있습니다.

대부분의 기업은 여전히 지난 20여 년간 사용해 온 신원 모델을 기반으로 액세스를 관리하고 있습니다. 하지만 이러한 모델은 기계가 아니라 사람을 위해 설계된 것입니다. 그 결과 조직은 책임성에 관한 기본적인 질문에도 명확하게 답하지 못한 채 자율형 에이전트를 운영하게 될 위험에 처해 있습니다.

이러한 질문은 감사인, 규제 기관, 이사회에서만 제기되는 것이 아닙니다. 고객이 이미 이루어진 거래에 이의를 제기할 위험도 있습니다. 예를 들어 다음과 같은 질문이 제기될 수 있습니다.

• 이 엔드투엔드 거래는 누가 승인했습니까?
• 전체 프로세스의 책임자는 누구이며, 필요한 경우 런타임 동의는 누가 제공했습니까?
• 모든 에이전트와 사용자가 사용 가능한 가장 강력한 인증 방식으로 인증했습니까?
• 에이전트는 정확히 어떤 작업을 수행하도록 구성되었으며, 실제로 그 작업만 수행했습니까?
• 해당 거래가 완료된 후 에이전트의 권한은 즉시 회수되었습니까?
• 거래 전 과정의 책임을 추적할 수 있는 감사 기록을 제시할 수 있습니까?
• 에이전트의 권한을 모든 시스템에서 즉시 철회할 수 있습니까?

이러한 질문에 답할 수 없다면, 감사 실패와 평판 훼손을 방지하는 데 필요한 거버넌스를 갖추고 있다고 보기 어렵습니다.

기존의 ID 및 액세스 관리(IAM)는 액세스를 사전에 계획할 수 있다는 개념을 기반으로 합니다. 즉, 이미 알려진 신원에 권한을 할당하고, 이를 주기적으로 검토하며, 로그인 시 정책을 적용하는 방식입니다. 이러한 접근 방식은 행동이 예측 가능하고 범위가 명확할 때 효과적입니다. 기존 IAM은 다음 세 가지를 전제로 합니다.

1. 신원은 사람 또는 고정된 시스템입니다.
2. 액세스는 세션 기반으로 이루어지며, 정기적인 라이프사이클에 따라 권한이 부여됩니다.
3. 인증은 세션을 시작하기 위한 과정이며, 권한 부여는 주로 사용자의 역할이나 부서와 같은 광범위한 속성을 기준으로 이루어지는 비교적 거친 방식입니다.

에이전틱 AI는 이러한 세 가지 전제를 모두 뒤흔듭니다. 자율형 에이전트는 결정론적으로 동작하지 않으며, 기계 수준의 속도로 API, 툴, 다양한 환경을 넘나들며 지속적으로 작업을 수행합니다. 이러한 환경에서는 신원이 더 이상 고정된 사용자 계정이나 장기간 유지되는 서비스 주체에 국한되지 않습니다. 특정 기능이나 워크플로, 심지어 단일 거래만을 위해 일시적으로 생성될 수도 있으며, 작업이 완료되면 즉시 권한이 회수될 수 있습니다.

엔드투엔드 에이전틱 워크플로에서는 여러 에이전트가 각각 인증한 후, 각자 독립적인 작업을 수행합니다. 하지만 한 번 로그인한 뒤 끝나는 것이 아닙니다. 이들은 사용자, 시스템 또는 다른 에이전트를 대신해 시간당 수천 건의 의사결정을 내릴 수 있습니다. 또한 에이전트 자체가 고유한 신원을 가지며, 서로 다른 신뢰 경계를 넘나드는 엔드투엔드 거래 흐름 속에서 다른 에이전트와 상호작용합니다.

조직이 사람을 위한 IAM 방식을 에이전트에 그대로 적용하면 다음과 같은 네 가지 구조적인 문제가 발생합니다.

• 가시성 없는 과도한 권한 부여: 권한을 회수하고 다시 승인하는 절차가 혁신의 속도를 늦추기 때문에 에이전트는 지속적인 권한을 계속 보유하게 됩니다. 이러한 권한은 만료되지 않는 경우가 대부분입니다.
• 보이지 않는 권한 위임:
  많은 에이전트는 정식으로 권한을 위임받기보다 사용자 토큰을 그대로 재사용합니다. 이러한 방식은 감사 추적을 위한 권한 분리를 무너뜨리고, 실제로 해당 작업을 승인하지 않은 개인에게 책임이 전가되는 결과를 초래합니다.
• 작업이 수행되는 시점의 통제 부재: 정책은 존재하더라도 API 호출, 데이터 액세스, 구성 변경과 같은 실제 작업은 실시간 통제 없이 수행되는 경우가 많습니다.
• 문제가 발생했을 때 책임성을 확보할 수 없음: 사고가 발생한 후에도 팀은 무슨 일이 발생했는지, 왜 발생했는지, 누구의 권한으로 수행되었는지를 신뢰할 수 있는 수준으로 재구성하지 못합니다.

이 문제는 툴의 부족이 아니라 반드시 해결해야 하는 거버넌스의 공백입니다.

기업이 흔히 범하는 가장 큰 실수는 에이전트의 신원을 자격 증명 문제로만 보는 것입니다. 물론 자격 증명은 중요합니다. 하지만 에이전틱 시스템에서는 한 번의 로그인으로 이후의 모든 작업에 대한 신뢰를 보장하는 방식이 더 이상 통하지 않습니다. 

에이전트는 지속적으로 작동하면서 여러 툴을 실행하고, 다양한 시스템을 오가며, 시간의 흐름에 따라 수많은 독립적인 작업을 수행합니다. 즉, 신원과 권한 부여를 세션 시작 시 한 번만 설정하는 것으로는 충분하지 않습니다. 워크플로 전반에 걸쳐 지속적으로 검증되고 적용되어야 합니다.

에이전틱 AI는 액세스 제어에서 권한 제어 중심으로의 전환을 요구합니다. 이는 다음을 의미합니다.

• 에이전틱 워크플로에 참여하는 모든 사용자는 무결성과 책임성을 보장하기 위해 강력한 인증을 거쳐야 합니다.
• 모든 에이전트는 독립적으로 검증 가능한 신원을 가져야 합니다.
• 모든 작업은 명확한 의도와 승인에 기반해야 합니다.
• 모든 권한은 적용 범위와 유효 기간이 명확해야 하며 언제든 철회할 수 있어야 합니다.
• 모든 권한 부여 결정은 사후에도 입증할 수 있어야 합니다.

이는 AI의 발전 속도를 늦추기 위한 것이 아니라, 자율성을 안전하게 구현하기 위한 것입니다. 인증은 여전히 모든 시스템의 핵심 요소이지만, 액세스 관리에서는 권한 부여 역시 그에 못지않게 중요한 핵심 기능으로 자리 잡아야 합니다. 이는 IAM 프로그램을 구축하고 운영하는 조직에 중요한 시사점을 제공합니다.  

많은 조직은 거버넌스 통제를 개별적으로 도입해 에이전트의 위험을 줄이려 합니다. 각각의 솔루션은 일부 문제를 해결할 수는 있지만, 누가 어떤 조건에서 어떤 자격 증명을 사용해 권한을 부여했는지까지 입증하지는 못합니다. 대표적인 예는 다음과 같습니다.

• 사용자의 신원은 관리하지만 기계의 신원은 제대로 관리하지 못하는 신원 관리 플랫폼
• 자격 증명을 발급하지만 그 사용 맥락은 이해하지 못하는 비밀 정보 관리 플랫폼
• 런타임의 실제 통제와 분리되어 있는 정책 엔진

이들 가운데 어느 하나만으로는 에이전트를 효과적으로 관리할 수 없습니다. 진정한 거버넌스는 신원, 정책, 자격 증명이 하나의 통합 제어 계층에서 함께 작동할 때 비로소 구현됩니다. 여기서 신원은 누가, 왜를 설명하고, 자격 증명은 무엇을, 얼마나 오래 수행할 수 있는지를 규정합니다. 이들은 각 사용 사례 전반에서 유기적으로 연계되어 무결성과 책임성을 함께 보장합니다.

바로 이 지점에서 IBM® Verify와 HashiCorp Vault의 조합이 강력한 가치를 발휘합니다. 두 솔루션은 신원 컨텍스트와 자격 증명 제어 사이의 간극을 해소하여, 의도와 정책, 승인 정보를 에이전트가 런타임에 실제 사용하는 비밀 정보와 토큰에 직접 연결합니다. Verify와 Vault는 신원과 비밀 정보를 별개의 영역으로 관리하는 대신, 문서상의 정책이 아니라 실제 권한 집행까지 가능한 통합 제어 계층을 구축해 에이전트의 권한을 관리합니다.

IBM Verify는 사용자와 에이전트의 신원을 관리하고, 에이전트가 수행하도록 승인된 작업과 사용자 및 에이전트가 해당 작업을 수행할 수 있는 조건을 관리합니다. 

HashiCorp Vault는 비밀 정보를 안전하게 저장하고 제공하며, 필요할 때 동적 자격 증명을 생성하고, TTL(유효 기간), 자격 증명 갱신 및 권한 철회를 적용하는 동시에 중앙 집중식 정책 관리와 감사 로그 기능을 제공합니다. 따라서 에이전트는 코드나 워크플로에 장기 자격 증명을 하드코딩할 필요가 없습니다.

이를 통해 기업은 AI 에이전트를 위해 지금까지 구현하지 못했던 것을 실현할 수 있습니다. 바로 사람의 병목 없이도 입증 가능한 통제 체계입니다.

규제 기관은 이미 움직이기 시작했습니다. 감사인들은 더 이상 사람의 신원과 라이프사이클 관리에만 의존하는 기존 방식에 만족하지 않습니다. 이제는 런타임에서 실제로 수행되는 프로세스까지 평가하기 시작했습니다. 이들이 요구하는 사항은 다음과 같습니다.

• 강력한 액세스 관리 통제를 적용한 고유한 에이전트 신원
• 사람과 기계의 신원을 함께 고려한 설계
• 엔드투엔드 전 과정에 대한 완전한 감사 추적
• 적시(JIT)·최소 권한(JEA) 액세스와 권한 철회를 위한 명확한 운영 절차

공격자는 방어자보다 더 빠르게 움직이고 있으며, AI 에이전트가 누적된 권한을 보유하고 감독이 상대적으로 부족하다는 점을 노려 공격하고 있습니다.

에이전틱 AI는 미래의 기술이 아닙니다. 이미 현실이 되었습니다. 이제 중요한 것은 에이전트가 비즈니스 핵심 업무를 수행하게 될 것인지가 아닙니다. 그 작업이 적절한 권한 아래 허용된 범위 내에서 수행되었으며, 책임을 명확히 추적할 수 있음을 기업이 입증할 수 있는지가 핵심입니다.

지금 체계적인 거버넌스에 투자하는 조직은 준비를 마칠 수 있습니다. 기본적으로 감사에 대비할 수 있고, 엄격한 검증에도 흔들리지 않으며, 자율형 AI를 안심하고 도입할 수 있게 됩니다. 이것이 바로 에이전틱 AI를 위험 요소에서 지속 가능한 경쟁력으로 전환하는 방법입니다.