에이전트 라이프사이클 관리란 무엇인가요?

ALM은 조직에 에이전트 설계 방법, 에이전트가 액세스할 수 있는 데이터 및 도구, 행동 평가 방법, 업데이트 또는 폐기 방법을 정의할 수 있는 구조화된 방법을 제공합니다.

비즈니스 환경에서 에이전트 라이프사이클 관리는 SDLC, DevSecOps, MLOps 등 익숙한 소프트웨어, 보안 및 AI 운영 관행을 기반으로 합니다. 그러나 AI 에이전트는 대규모 언어 모델(LLM)을 사용하고, 도구를 호출하고, 컨텍스트를 유지하고, 다단계 작업을 계획하고, 작업을 자동화할 수 있기 때문에 더 많은 제어가 필요합니다. 기존 애플리케이션과 달리 에이전트는 유사한 입력에 대해 다른 아웃풋을 생성하거나 사용자 의도, 사용 가능한 컨텍스트 또는 연결된 시스템에 따라 다른 단계를 선택할 수 있습니다.

인공 지능(AI) 에이전트는 가용 도구를 사용해서 워크플로를 설계하고 작업을 자동으로 수행하는 시스템입니다. AI 에이전트는 컨텍스트를 인식하고, 목표와 제약 조건에 대해 추론하고, 도구나 서비스를 통해 행동하여 작업을 완료합니다. 하나 이상의 대규모 언어 모델을 사용하여 사용자 의도를 해석하고, 다음 단계를 계획하고, 정보를 검색하고, API를 호출하고, 시스템을 업데이트하고, 응답을 생성할 수 있습니다.

AI 에이전트는 적응형 시스템으로서 지속적인 감독이 필요합니다. 조직은 추론하고, 행동하고, 도구를 사용하고, 행동을 변화시킬 수 있기 때문에 코드 작성 이상의 관리가 필요합니다. 또한 프롬프트, 모델, 데이터 소스, 통합, 권한, 감사 증거, 운영 안전장치를 포함한 전체 에이전트 시스템을 관리해야 합니다.

비즈니스에서 AI 에이전트는 IT 지원, 고객 서비스, 재무, 규정 준수, 인사, 소프트웨어 개발, 운영 및 지식 작업에 사용됩니다. 기본 챗봇과 달리 에이전트는 기록 검색, 티켓 열기, 시스템 업데이트, 보고서 생성, 승인 요청 등의 작업을 수행할 수 있습니다. 일부 AI 에이전트는 자율 에이전트나 자율 시스템으로 불리기도 하지만, 기업 환경에서는 대부분의 에이전트 시스템이 통제된 자율성, 명확히 정의된 권한, 그리고 고위험 행동에 대한 인간의 감독을 바탕으로 설계됩니다.

모델 관리는 모델 버전, 성능, 배포 및 모니터링을 비롯한 AI 모델 자체에 중점을 둡니다. 에이전트 라이프사이클 관리는 더 광범위합니다. 프롬프트, 도구, 메모리, 데이터 소스, 시스템 통합, 액세스 제어, 감사 추적, 평가, 인시던트 대응 및 폐기를 포함하여 모델을 중심으로 전체 에이전트 시스템을 관리합니다.

즉, 모델 관리는 모델이 예상대로 작동하고 있는지 여부를 묻습니다. 에이전트 라이프사이클 관리는 전체 에이전트(해당 모델, 권한, 작업 및 비즈니스 컨텍스트)가 의도한 대로 안전하고 안정적으로 작동하고 있는지 묻습니다.

AI 에이전트가 소규모 시범 운영에서 대규모 기업 배포로 전환됨에 따라 에이전트 라이프사이클 관리가 중요해졌습니다. 이로 인해 비공식 감독을 유지하기가 더 어려워집니다. 조직은 어떤 에이전트가 있는지, 누가 소유하고 있는지, 무엇에 액세스할 수 있는지, 성능은 어떤지, 언제 업데이트되거나 폐기되어야 하는지 알 수 있는 일관된 방법이 필요합니다.

연구에 따르면 에이전트 채택이 다른 많은 거버넌스 프로그램보다 빠르게 가속화되고 있습니다. IBM의 2026년 기술 리더 연구에 따르면 설문조사에 참여한 CIO와 CTO는 2027년까지 배포된 AI 에이전트가 38% 증가할 것으로 예상하는 반면, 그 정도의 규모에 완전히 준비가 되어 있다고 답한 비율은 11%에 불과했습니다. 또한 설문조사에 참여한 조직의 77%가 AI 도입이 이미 현재 거버넌스 역량을 능가하고 있다고 답했습니다. 마찬가지로, IT 및 비즈니스 리더를 대상으로 한 2026년 설문조사에서도 기업 중 21% 만이 에이전틱 AI 위험을 관리할 수 있는 성숙한 거버넌스 모델을 갖추고 있다고 답했습니다.^1.

AI 에이전트는 정적 소프트웨어 도구가 아니기 때문에 이러한 격차는 중요합니다. 기존 소프트웨어는 일반적으로 정의된 규칙을 따릅니다. 즉 사용자가 특정 작업을 수행하면 애플리케이션이 예측 가능한 방식으로 응답합니다. AI 에이전트는 다릅니다. AI 에이전트는 유사한 입력에 대해 다른 아웃풋을 생성할 수 있습니다. 또한 사용자의 요청, 사용 가능한 컨텍스트, 이전 상호 작용 또는 연결된 도구에 따라 다른 단계를 선택할 수도 있습니다.

이로 인해 다음과 같은 몇 가지 관리 요구 사항이 발생합니다.

• 보안: 에이전트는 비즈니스 시스템, 데이터, API 또는 서비스 계정에 액세스해야 할 수 있습니다. 적절한 액세스 제어가 없으면 과도한 권한이 부여된 비인간 ID로 변질될 수 있습니다.
• 안정성: 에이전트는 실수를 하거나, 할루시네이션을 일으키거나, 잘못된 도구를 호출하거나, 통합이 변경될 때 실패할 수 있습니다.
• 거버넌스: 조직은 어떤 에이전트가 사용 중인지, 누가 소유하고 있는지, 무엇에 액세스할 수 있는지, 내부 정책이나 규제 요구 사항을 충족하는지 여부를 알아야 합니다.
• 추적성: 팀은 에이전트가 무엇을 했는지, 어떤 도구를 사용했는지, 어떤 데이터에 액세스했는지, 결정이나 행동이 발생한 이유를 보여주는 감사 추적이 필요합니다.
• 운영 복원력: 에이전트가 예기치 않게 행동하는 경우 팀은 에이전트를 일시 중지하고, 액세스 권한을 취소하고, 변경 사항을 롤백하고, 문제를 조사하고, 서비스를 복원할 수 있는 방법이 필요합니다.

ALM은 전체 에이전트 라이프사이클에 구조를 적용하여 이러한 요구 사항을 해결하는 데 도움이 됩니다. 또한 기업이 임시 검토를 넘어 라이프사이클 전반에 걸쳐 에이전트를 승인, 테스트, 배포, 모니터링, 업데이트 및 폐기하는 반복 가능한 프로세스를 생성할 수 있도록 지원합니다. 그뿐만 아니라, 이를 통해 조직은 섀도우 AI, 과도한 권한, 부족한 관측 가능성, 프롬프트 변경, 모델 버전 변경, 지연 시간, 데이터 노출 및 일관성 없는 동작과 같은 위험을 관리할 수 있습니다.

실용적인 ALM 모델은 다음과 같은 주요 단계를 중심으로 구성될 수 있습니다.

라이프사이클은 에이전트가 해결하고자 하는 비즈니스 문제를 식별하고 에이전트가 올바른 접근 방식인지 결정하는 것으로 시작됩니다. 일부 문제는 기존의 자동화, 검색, 규칙 기반 워크플로 또는 간단한 프롬프트를 사용하는 것이 더 좋습니다.

계획 단계에서 팀은 에이전트의 목적, 사용자, 비즈니스 소유자, 성공 지표 및 위험 프로필을 정의합니다. 또한 적절한 자율성 수준을 결정하기도 합니다. 예를 들어, 내부 문서를 요약하는 에이전트는 고객 기록을 업데이트하거나 재무 워크플로를 트리거하는 에이전트보다 더 적은 제어가 필요합니다.

일반적인 계획 활동에는 다음이 포함됩니다.

• 비즈니스 성과 정의
• 정확도, 작업 완료, 지연 시간, 비용 및 사용자 만족도 등과 같은 KPI 설정
• 데이터 소스 및 시스템 통합 식별
• 권한 범위 및 인간 승인 포인트 설정
• 규정 준수 요구 사항 평가
• 릴리스 전 에이전트의 평가 방법 결정

이 단계에서 팀은 에이전트 시스템을 구성하는 구성 요소를 설계하고 구성합니다. 여기에는 에이전트가 사용할 모델, 동작을 안내하는 프롬프트, 호출할 수 있는 도구, 검색할 수 있는 데이터, 실행할 수 있는 워크플로가 포함됩니다.

에이전트 구성에는 다음이 포함되는 경우가 많습니다.

• 프롬프트 템플릿 및 시스템 지침
• 모델 선택 및 모델 버전 추적
• 도구 정의 및 API 스키마
• 메모리 및 컨텍스트 관리 정책
• 검색 증강 생성 또는 지식 기반 연결
• 액세스 제어 및 ID 구성
• 로깅, 추적 및 텔레메트리 계측
• 인간 검토를 위한 에스컬레이션 경로

핵심 원칙은 프롬프트, 도구, 모델 및 정책을 비공식적인 구성 세부 정보가 아니라 관리되는 라이프사이클 요소로 취급해야 한다는 것입니다. 이러한 요소에 대한 변경은 동작에 영향을 미칠 수 있으므로 버전을 관리하고 검토 및 문서화해야 합니다.

기업 환경에서는 에이전트에게 승인된 목적에 필요한 도구 접근 권한과 데이터 접근 권한만 부여해야 합니다. 인간 관리자는 역할 기반 액세스 제어, 서비스 계정 거버넌스, 그리고 적절한 경우 적시 액세스 권한과 같은 제어 체계를 에이전트에 사용해야 합니다.

AI 에이전트를 테스트하려면 소프트웨어가 실행되는지 확인하는 것 이상의 작업이 필요합니다. 또한 팀은 에이전트가 다양한 작업, 입력, 사용자 및 시스템 조건에서 예상대로 작동하는지 평가해야 합니다.

이 단계에는 다음이 포함될 수 있습니다.

• 도구 및 통합의 기능 테스트
• 프롬프트 및 응답 평가
• 회귀 테스트
• 프롬프트 인젝션 및 데이터 유출에 대한 보안 테스트
• 할루시네이션 및 근거 검사
• 정책 준수 테스트
• 휴먼인더루프 승인 테스트
• 부하 테스트
• A/B 테스트
• 챔피언-도전자 비교
• 고위험 사용 사례를 위한 레드팀 구성

에이전트가 필수 검사를 통과하면, 제어된 환경에 배포될 수 있습니다. 배포에는 사용자 또는 시스템에서 에이전트를 사용할 수 있도록 하고, 런타임 환경을 프로비저닝하고, 에이전트가 작동하는 데 필요한 ID, 권한 및 통합을 활성화하는 작업이 포함됩니다.

일반적인 관행에는 CI/CD 파이프라인을 통한 릴리스, 개발, 테스트 및 프로덕션 환경 분리, 모델 및 프롬프트의 버전 고정, 단계적 롤아웃, 기능 플래그, 롤백 계획, 기밀 정보 관리, 런타임 액세스 제어가 포함됩니다. 일부 에이전트는 코드를 실행하거나, 민감한 데이터를 처리하거나, 외부 도구를 사용하는 경우 샌드박스가 필요할 수 있습니다.

에이전트는 API 또는 엔터프라이즈 애플리케이션을 통해 작동할 수 있으므로 프로비저닝이 특히 중요합니다. 자격 증명, 서비스 계정 및 권한은 에이전트의 승인된 역할로 범위를 지정해야 합니다. 민감한 동작은 승인, 속도 제한 또는 긴급 종료 스위치가 필요할 수 있습니다.

배포 후 ALM은 관측 가능성, 평가 및 개선이 지속적으로 이루어집니다. 팀은 다음을 포함하여 기술 상태와 행동 품질을 모두 모니터링합니다.

• 입력, 아웃풋 및 대화 추적
• 도구 호출 및 도구 응답
• 지연 시간 및 처리량
• 오류율 및 장애 유형
• 토큰 사용량 및 비용
• 작업 성공률
• 사용자 피드백
• 정책 위반
• 할루시네이션 또는 근거 지표
• 에스컬레이션 및 승인률
• 보안 사고 및 비정상적인 액세스 패턴

모니터링을 통해 성능 저하, 예상치 못한 동작 또는 비즈니스 요구 사항의 변화가 발견되면 팀은 프롬프트를 구체화하고, 모델을 업데이트하고, 검색 소스를 조정하고, 권한을 변경하거나, 워크플로를 수정할 수 있습니다. 이러한 변경 사항은 원래 릴리스와 동일한 라이프사이클 제어(테스트, 평가, 승인 및 문서화)를 따라야 합니다.

결국에는 에이전트를 폐기해야 할 시기가 올 수도 있습니다. 폐기에는 엔드포인트 비활성화, 자격 증명 취소, 서비스 계정 제거, 필수 로그 보존, 증거 보관, 사용자 알림, 카탈로그 업데이트 등의 작업이 포함되어야 합니다.

에이전트 라이프사이클 관리는 개발, 보안, 모니터링 및 거버넌스 기능을 혼합하여 사용합니다. 이러한 도구를 함께 사용하면 조직이 에이전트를 구축하고, 액세스할 수 있는 항목을 제어하고, 동작 방식을 이해하고, 시간이 지남에 따라 에이전트를 관리할 수 있습니다.

개발 도구는 팀이 에이전트의 추론, 계획 및 작업 완료 방식을 설계하는 데 도움이 됩니다. 프롬프트 템플릿, 메모리, 도구 호출, 워크플로 오케스트레이션 및 사용자 승인 단계를 지원할 수 있습니다. 기업 환경에서 이러한 도구는 종종 소프트웨어 제공 프로세스에 연결되므로, CI/CD 파이프라인을 통해 에이전트 변경 사항을 검토, 테스트 및 릴리스할 수 있습니다.

에이전트는 코드 그 이상의 요소에 의존합니다. 프롬프트, 모델 버전, 도구 스키마, 데이터 소스 또는 구성이 변경되면 동작이 변경될 수 있습니다. 버전 관리는 프롬프트, 모델, 도구, 지식 소스, 평가 데이터 세트, 릴리스 기록을 추적하는 데 도움이 됩니다.

에이전트는 티켓팅 시스템, CRM 플랫폼, 데이터베이스, 문서 저장소 및 워크플로 도구에 연결하는 경우가 많습니다. 이러한 통합에는 명확한 스키마, 권한 및 감사 추적이 있어야 합니다. 모델 컨텍스트 프로토콜(MCP)과 같은 표준은 에이전트가 도구, 리소스 및 프롬프트를 검색하고 호출하는 방법을 정의하여 도구 액세스를 보다 일관되게 만드는 데 도움이 될 수 있습니다. 게이트웨이는 인증, 권한 부여, 라우팅, 속도 제한, 승인, 로깅 및 긴급 차단을 중앙 집중화할 수 있습니다.

에이전트는 기업 시스템 내에서 작동할 수 있으므로, 관리형 ID와 권한이 필요합니다. 주요 기능에는 역할 기반 액세스 제어, 최소 권한, 적시 액세스, 기밀 정보 관리, 서비스 계정 거버넌스, 승인 워크플로, 정기적인 액세스 검토가 포함됩니다. 목표는 각 에이전트가 승인된 목적을 위해 필요한 요소에만 액세스할 수 있도록 보장하는 것입니다.

평가 도구는 배포 전후에 에이전트가 의도한 대로 작동하는지 여부를 측정합니다. 여기에는 회귀 테스트, A/B 테스트, 프롬프트 인젝션 테스트, 할루시네이션 및 근거 검사, 정책 준수 확인, 인간 검토 및 레드팀 구성이 포함될 수 있습니다. 테스트는 최종 아웃풋과 중간 단계(예: 도구 호출 및 라우팅 결정)를 모두 평가해야 합니다.

관측 가능성 도구는 입력, 아웃풋, 추적, 도구 호출, 지연 시간, 오류, 토큰 사용, 비용, 정책 위반, 에스컬레이션 및 보안 이벤트를 캡처합니다. 이 데이터는 문제 해결, 감사 추적 및 인시던트 대응을 지원합니다. 경고, 런북, 롤백 절차, 회로 차단기 및 킬 스위치와 같은 운영 제어 수단은 팀이 문제 확산을 억제하고 서비스를 복원하는 데 도움이 됩니다.

AI 거버넌스 도구는 승인된 에이전트, 소유자, 위험 수준, 모델 버전, 프롬프트, 도구, 권한, 평가, 승인 및 폐기 상태에 대한 목록을 유지 관리합니다. 조직이 소규모 시범 운영에서 대규모 에이전트 플릿으로 전환됨에 따라 카탈로그 작성은 특히 중요해지고 있습니다.

에이전트 라이프사이클 관리를 통해 조직은 일관성, 가시성 및 제어력을 높여 AI 에이전트를 관리할 수 있습니다. 주요 이점은 다음과 같습니다.

• 가시성 향상: 에이전트 인벤토리는 어떤 에이전트가 있는지, 누가 소유하고 있는지, 어떤 작업을 하는지, 어떤 시스템에 액세스하는지, 어떤 버전이 활성 상태인지 보여줍니다.
• 보안 강화: 액세스 제어, 역할 기반 액세스 제어, 최소 권한 및 적시 액세스는 과도한 권한이 부여된 서비스 계정과 관리되지 않는 비인간 ID로 인한 위험을 완화하는 데 도움이 됩니다.
• 추적성 향상: 감사 추적 및 리니지 기록은 팀이 에이전트가 수행한 작업, 사용한 도구 및 버전 간에 변경된 사항을 이해하는 데 도움이 됩니다.
• 보다 안정적인 릴리스: 회귀 테스트, 평가 게이트 및 CI/CD 파이프라인 제어는 프롬프트, 모델, 데이터 또는 도구 변경으로 인해 예기치 않은 동작이 발생할 위험을 줄입니다.
• 보다 신속한 인시던트 대응: 모니터링, 계획 롤백, 킬 스위치 및 런북은 에이전트가 실패하거나, 드리프트 문제를 발생하거나, 예기치 않게 행동할 때 팀이 대응하는 데 도움이 됩니다.
• 보다 명확한 비즈니스 연계: 평가 지표를 통해 에이전트 성과를 해결률, 억제율, 처리 시간, 고객 만족도, 결과당 비용과 같은 성과와 연결할 수 있습니다.

에이전트 라이프사이클 관리는 AI 에이전트의 위험을 제거하는 것이 아니라, 관리할 수 있는 구조를 제공합니다. 다음과 같은 과제가 존재합니다.

• 가변적 동작: LLM은 유사한 입력에 대해 서로 다른 아웃풋을 생성할 수 있으므로 테스트 및 근본 원인 분석이 더 어려워집니다.
• 할루시네이션: 에이전트가 지원되지 않는 답변을 생성하거나 잘못된 컨텍스트를 사용할 수 있습니다. 근거 검사 및 인간 검토를 통해 이러한 위험을 줄일 수는 있지만, 완전히 제거할 수는 없습니다.
• 확장된 공격 표면: 도구 액세스 권한이 있는 에이전트가 실제 시스템에 영향을 미쳐 프롬프트 인젝션, API 오용, 메모리 중독, 권한 상승, 무단 작업과 같은 위험을 초래할 수 있습니다.
• 지연 시간 및 비용: 에이전트가 여러 모델 호출, 검색 단계 및 도구 호출을 사용할 수 있으며, 이로 인해 응답 시간과 운영 비용이 증가할 수 있습니다.
• 거버넌스 오버헤드: 카탈로그, 승인, 평가, 감사 추적 및 버전 기록에는 팀 간의 지속적인 조정이 필요합니다.
• 섀도 AI: 직원이 공식 프로세스 외부에서 승인되지 않은 에이전트를 만들거나 사용할 수 있으므로 검색 및 제어가 더 어려워질 수 있습니다.

AI 에이전트는 고객 서비스, IT 지원, HR, 재무, 법률, 규정 준수, 소프트웨어 개발, 운영 및 지식 관리 전반에 걸쳐 적용되고 있습니다. 에이전트 라이프사이클 관리는 이러한 에이전트가 단순한 Q&A를 넘어 도구를 사용하거나, 관리형 데이터에 액세스하거나, 비즈니스 워크플로에서 조치를 취할 때 가장 관련성이 높습니다.

이러한 사용 사례를 평가하는 유용한 방법은 "에이전트가 액세스하거나 변경하거나 트리거할 수 있는 것은 무엇인가?"라는 질문을 하는 것입니다. 에이전트가 민감한 데이터, 규제 대상 프로세스 또는 생산 시스템과 더 많이 상호 작용할수록 라이프사이클 제어가 더 중요해집니다.

위험도가 낮은 사용 사례의 경우 기본적인 모니터링 및 버전 관리만으로도 충분할 수 있습니다. 고위험 사용 사례의 경우 조직은 정의된 KPI, 역할 기반 액세스 제어, 사람의 승인 경로, 평가 임계값, 감사 추적, 관측 가능성, 인시던트 대응 계획 및 폐기 프로세스가 필요한 경우가 많습니다.

실제 현장에서는 어떤 모습일까요? 한 회사가 관계 관리자가 고객 회의를 준비하는 데 도움을 주기 위해 AI 에이전트를 배포한다고 상상해 보세요. 개발 과정에서 AI 팀은 에이전트의 승인된 데이터 소스, 액세스 권한, 에스컬레이션 규칙 및 성공 지표 (예: 절약된 시간, 응답 정확도, 사용자 만족도)를 정의합니다. 출시 전에 에이전트를 샘플 고객 시나리오에 따라 테스트하고 규정 준수 위험을 검토합니다. 아웃풋, 지연 시간, 사용 패턴 및 예외를 추적하는 모니터링 도구에 연결됩니다.

배포 후 회사는 에이전트를 일회성 프로젝트가 아닌 관리형 디지털 자산으로 취급합니다. 제품 소유자는 성능 대시보드를 검토하고, 규정 준수 팀은 고위험 상호 작용을 감사하고, 정책, 제품 또는 고객 요구 사항이 변경되면 데이터 과학자가 에이전트를 다시 학습시키거나 조정합니다. 사용자가 혼란스러운 권장 사항을 보고하면 팀은 프롬프트, 검색 소스 및 가드레일을 업데이트합니다. 시간이 지남에 따라 회사는 새로운 기능을 추가하고, 사용하지 않는 워크플로를 폐기하고, 각 버전을 문서화합니다. 이러한 라이프사이클 접근 방식은 조직이 책임성, 보안, 성능 및 비즈니스 연계를 유지하면서 에이전틱 AI를 확장하는 데 도움이 됩니다.

이 가상의 예시는 에이전트 라이프사이클 관리의 전 과정을 보여줍니다. 몇 가지 실제 업계 사례는 다음과 같습니다.

IBM의 내부 HR 에이전트인 AskHR은 에이전트 라이프사이클 관리가 사람의 에스컬레이션 경로를 통해 엔터프라이즈 규모의 자동화를 어떻게 지원하는지 보여줍니다. IBM® watsonx Orchestrate를 통해 강화된 AskHR은 80개 이상의 인사 업무를 지원하며, 매년 210만 건 이상의 직원 문의를 처리합니다. Workday, SAP, Concur와 같은 시스템과 연결하여 직원은 급여 명세서나 휴가 요청에 대해 질문할 수 있고, 관리자는 전근 또는 조직 업데이트와 같은 워크플로를 시작할 수 있습니다.

ALM 관점에서 볼 때 이러한 기능에는 권한 경계, 통합 제어, 감사 가능성 및 라우팅 로직이 필요합니다. AskHR은 일반적인 질문에 대해 94%의 억제율을 달성하고, 2016년 이후 제기된 지원 티켓을 75% 줄이고, 4년간 HR 운영 비용을 40% 절감하는 데 기여했습니다.

의료 분야에서 ALM은 보호된 의료 정보 및 규제된 워크플로와 상호 작용할 수 있는 에이전트를 관리하는 데 도움이 됩니다. 미국의 한 대형 의료 보험사는 HIPAA 준수 환경에서 회원 서비스를 위한 에이전트 챗봇 및 음성 지원 기능을 구현했습니다. 과거 콜센터 데이터는 제한적이기 때문에 팀은 에이전트 행동을 안전하게 평가하기 위해 실측 데이터를 생성하거나 합성했습니다.

라이프사이클 프로세스에는 해결, 억제, 지연 및 안전, 버전 관리되는 프롬프트 및 통합, 최소 권한 도구 액세스, 구조화된 평가, 규정 준수 검사, 보안 테스트, 레드팀 활동, 통합 관측 가능성에 대한 KPI가 포함되었습니다. 모니터링은 지연 및 오류와 같은 기술 지표와 억제, 해결, 만족도와 같은 비즈니스 지표를 모두 추적했습니다.

IBM 비즈니스 파트너인 Dynamiq는 IBM® watsonx.data, IBM® Granite 파운데이션 모델 및 IBM watsonx Orchestrate를 사용하여 AI 기반 법률 지원 시스템을 구축했으며, 이를 통해 법무 팀이 계약서, 규정 준수 보고서 및 규제 문서를 검색, 비교 및 분석할 수 있도록 지원합니다. 이 에이전트는 의미 기반 계약 검색, 비교 분석 및 조항별 준수도 평가를 지원했습니다. 이를 통해 팀은 관련 문구를 찾고, 규제 문제에 플래그를 지정하고, 정책 편차를 감지하고, 승인을 위해 문서를 라우팅할 수 있었습니다.

ALM 관점에서 이 사용 사례에는 관리형 데이터 수집, 검색 제어, 비즈니스 시스템 통합, 법적 검토를 위한 에스컬레이션 경로 및 모델-작업 정렬이 필요했습니다. 또한 Dynamiq은 일상적인 규정 준수 작업에 더 작은 Granite 모델을 사용하여 성능, 지연 시간 및 비용의 균형을 맞췄습니다.