통합된 거버넌스 및 보안으로 신뢰할 수 있는 AI 구현
watsonx.governance와의 향상된 통합을 포함하여 Guardium AI Security의 새로운 능력 출시를 발표합니다. 기업이 에이전틱 AI 및 기타 생성형 AI 시스템을 안전하게 유지하고 신뢰할 수 있는 AI를 위해 대규모로 책임감을 유지할 수 있도록 지원합니다.
조직은 직원 생산성 향상을 위해 AI를 도입하려고 하지만, AI를 신뢰하고 AI 실험을 테스트에서 프로덕션으로 전환하는 것에 대한 우려를 가지고 있습니다. 또한 AI는 공격 표면을 증가시키고 고유한 위협, 위험 및 취약성을 생성하여 통제력을 상실할 수 있습니다. 조직은 신뢰할 수 있는 AI 시스템을 갖추기 위해 AI를 적절히 관리, 보호, 통제해야 합니다.
2024년 IBM 기업가치연구소에서 최고 경영진을 대상으로 실시한 설문조사에 따르면, 응답자의 82%가 안전하고 신뢰할 수 있는 AI가 비즈니스 성공에 필수적이라고 답했지만 현재 생성형 AI 프로젝트 중 24%만이 보안을 확보하고 있다고 답했습니다. 또한 조직이 더 나은 비즈니스 성과를 위해 AI 에이전트 도입에 경쟁적으로 나서면서 위험은 더욱 증폭되고 있습니다. 실제로 Gartner®는 "2028년까지 기업 침해의 25%가 외부 및 악의적인 내부 행위자 모두의 AI 에이전트 남용으로 추적될 것"이라고 예측합니다.1
IBM® Guardium AI Security를 통해 조직은 섀도우 AI, AI 에이전트, AI 모델 및 사용 사례를 발견하고 보호하고, 악의적인 프롬프트로부터 실시간 보호를 받고, 안전하고 신뢰할 수 있는 AI에 대한 공통 지표를 기반으로 팀을 조정할 수 있습니다.
IBM은 AllTrue.ai와의 협력을 통해 Guardium AI Security에 클라우드 환경, 코드 저장소 및 임베디드 시스템에서 새로운 AI 사용 사례를 지속적으로 탐지할 수 있는 능력을 포함하며, 점차 분산화되는 AI 생태계에서 완전한 가시성과 보호를 보장하는 새로운 기능을 도입했습니다. 식별되면 IBM® Guardium AI Security는 이를 watsonx.governance로 가져옵니다. 적절한 위험 및 규정 준수 제어가 적용됩니다.
생성형 AI는 새로운 능력과 위험을 모두 도입하면서 계속 발전할 것입니다. 이제 강력한 보안 및 거버넌스 프레임워크에 투자하는 기업은 이러한 변화에 더 잘 적응할 수 있는 위치에 있으며 진화하는 규제 환경에 직면하여 더 뛰어난 복원력을 확보할 수 있습니다.
AI 보안 및 거버넌스에 대한 긴밀하게 통합된 접근 방식이 중요합니다. 보안 및 거버넌스 팀은 다음과 동기화하여 운영되어야 합니다.
- 비즈니스의 중요성을 고려한 보안 팀: 보안 팀은 조직에 대한 중요도에 따라 AI 프로젝트의 보안을 우선시해야 하며, 높은 영향을 미치는 애플리케이션에 대해 강력한 보호 장치가 마련되어 있는지 확인해야 합니다.
- 보안 태세를 위한 거버넌스 팀: 거버넌스 팀은 각 AI 배포와 관련된 보안 위험 및 완화에 대한 가시성을 확보하여 규정 준수 및 윤리적 고려 사항에 대한 정보에 입각한 감독을 가능하게 해야 합니다.
이러한 통합 관행을 수용함으로써 기업은 데이터, 모델 및 평판을 보호하는 동시에 생성형 AI의 혁신적인 잠재력을 극대화할 수 있습니다. 잘 실행된 전략을 통해 조직은 자신 있게 혁신하고, 규정 준수 요구 사항보다 앞서 나가고, AI 중심의 미래에 이해관계자와의 신뢰를 구축할 수 있습니다.
Guardium AI Security와 watsonx.governance 간의 즉시 사용 가능한 통합 서로 다른 팀이 신뢰할 수 있는 AI에 대한 비즈니스 및 보안 위험에 대한 단일 지표를 살펴볼 수 있도록 진정한 위험 및 거버넌스 솔루션을 제공합니다.
Guardium AI Security는 AI 자산의 보안을 관리하고 보안 및 거버넌스 팀을 하나의 지표로 통합하여 안전하고 신뢰할 수 있는 AI를 구현하기 위한 강력한 엔터프라이즈급 솔루션을 제공합니다. 이를 통해 조직은 다음을 수행할 수 있습니다.
- 완전한 가시성 확보: 클라우드, 코드 리포지토리 및 임베디드 AI의 AI 모델에 대한 자동화되고 지속적인 모니터링을 통해 섀도우 AI 및 AI 에이전트 탐지 기능을 포함한 모든 AI 사용 사례를 식별할 수 있습니다.
- AI 보안: 자동화된 침투 테스트를 통해 AI SPM을 사용하여 다양한 세대 AI 사용 사례에서 보안 취약성과 잘못된 구성을 감지하고 이를 주요 평가 프레임워크에 매핑합니다.
- 안전한 AI 사용 보장: AI 애플리케이션에 대한 다양한 입력 또는 출력 프롬프트를 스캔하고 보호합니다. 안전한 AI를 위해 프롬프트 삽입, PII 노출, 데이터 유출 등 특정 보안 정책을 사용자 지정합니다.
Guardium은 AI 자산 감지부터 취약성 및 잘못된 구성 평가에 이르기까지 라이프사이클 전반에 걸쳐 AI를 보호하여 안전한 사용에서 규정 준수 관리를 보장하는 데 도움이 됩니다. 로컬에서 구축하거나, 클라우드에서 사용하거나, 소비하는 모델을 보호하고, 자동화된 침투 테스트를 실행하고, AI 방화벽으로 입력 및 아웃풋 프롬프트를 스캔하고, 12개 프레임워크에서 규정 준수를 관리하는 기능을 제공합니다.
IBM® watsonx.governance와의 즉각적인 통합은 서로 다른 팀이 비즈니스 및 보안 위험에 대한 단일 지표 세트를 확인할 수 있는 진정한 위험 및 거버넌스 솔루션을 제공합니다. Guardium AI Security에서 섀도우 AI가 탐지되면 watsonx.governance로 이동되며, 적절한 사용 사례와 일치하도록 조정되고, 적절한 위험 및 준수 통제 조치가 적용됩니다. 이제 거버넌스 및 보안 팀은 신뢰할 수 있는 AI를 위해 동일한 AI 자산 목록과 AI 위험을 확인합니다.
AI 보안 팀과 AI 거버넌스 팀을 하나로 통합하여 기업의 위험 상태를 통합적으로 파악할 수 있는 업계 최초의 소프트웨어를 경험해 보세요.
1 Gartner 보도 자료, Gartner, 2025년 이후 IT 조직 및 사용자를 위한 주요 예측 발표, 2024년 10월 22일.
GARTNER는 미국 및 기타 국가에서 Gartner, Inc. 및/또는 그 계열사의 등록 상표이자 서비스 마크이며, 허가를 받아 본 문서에 사용되었습니다. All rights reserved.