IBM 개인정보 보호 및 책임 기술 부서가 AI 시스템에 대한 신뢰를 높이는 방법
AI 혁신이 가속화되면서 조직은 머신 러닝(ML) 모델을 책임감 있게 구축하고 관리할 수 있는 효과적인 AI 거버넌스가 필요해졌습니다. IBM 개인정보 보호 및 책임 기술 부서(OPRT)는 이러한 과제가 단순한 기술적 문제가 아니라 비즈니스의 필수 과제라는 것을 잘 알고 있습니다.
수년 동안 IBM이 책임감 있는 AI를 위해 취해온 접근 방식은 신뢰 및 투명성 원칙에 따라 진행되어 왔으며, 이는 IBM 책임감 있는 기술 위원회를 통해 비즈니스 전반에 걸쳐 구현되고 있습니다. 2022년, OPRT는 IBM이 ML 모델을 안정적으로 관리하고, 개인정보 보호 및 AI 규정 준수를 용이하게 하며, 투명성과 책임을 증진하는 데 도움이 되는 개인정보 보호 및 AI 관리 시스템(PIMS)을 출시했습니다.
그러나 이러한 핵심 요소들은 PIMS와 통합되지 않고 각각 독립적으로 운영되고 있었습니다. 조직 AI 및 AI 라이프사이클 거버넌스 여정에서 다음 단계로 나아가기 위해 OPRT는 메커니즘을 통합하고 중앙 집중화해야 했습니다. 상황의 중요성이 계속 커지는 가운데, ‘조직이 혁신과 책임을 동등하게 우선순위에 둘 수 있는가?’라는 핵심 질문은 여전히 해결되지 않은 상태입니다.
실행 가능한 유일한 답은 “예”입니다. 그리고 OPRT 이니셔티브는 기업이 혁신을 추진하면서 관련 리스크를 완화할 수 있는 방법을 보여주는 좋은 사례입니다.
이 팀은 확립된 개인정보 보호 기반을 바탕으로 책임과 규정 준수에 대한 통합된 접근 방식인 통합 거버넌스 프로그램(IGP)을 개발했습니다. IBM의 통합 거버넌스 및 시장 준비 담당 부사장인 Lee Cox는 "포괄적인 거버넌스 프로그램은 AI가 약속하는 비즈니스 가치와 감독 및 위험 관리의 필요성 사이에서 균형을 유지하여 책임감 있는 AI를 대규모로 구현할 수 있게 해줍니다"라고 설명합니다.
IBM에서 구축하고 사용하는 모든 데이터와 모델에 대한 전체적인 엔드투엔드 뷰를 생성함으로써 IGP는 혁신과 비즈니스 프로세스를 방해하지 않고 데이터, 개인정보 보호, AI를 중심으로 거버넌스 워크플로를 확장합니다. 이는 IBM watsonx.governance, IBM Cloud Pak for Data, IBM Knowledge Catalog, IBM OpenPages와 같은 기술을 통합하여 달성할 수 있습니다.
사업부 AI 책임자가 주도하는 이 통합 거버넌스 프로그램은 다양한 이해관계자의 고유한 우선순위와 이해관계를 고려하여 보다 선제적인 리스크 관리를 제공하고 규제 요건을 준수할 수 있도록 지원합니다. IBM의 데이터, AI 거버넌스 부문 부사장 겸 CTO인 Steven Eliuk은 "우리는 데이터 수집 프로세스를 통합하여 조달, 연구 및 개발을 간소화함으로써 데이터 관리 문제를 극복할 수 있었습니다.”라고 말합니다.
IBM은 IGP를 통해 통일된 내부 데이터 표준을 배포하여 데이터 투명성과 신뢰할 수 있는 AI 개발을 지원하는 동시에 대규모 혁신을 실현할 수 있게 되었습니다.
Cox는 "데이터 정확성은 기초에 불과합니다. PIMS는 토대를 마련하고, IGP는 데이터 획득을 새로운 차원으로 끌어올려 소싱에서 전달에 이르는 전체 프로세스를 조율합니다. 이 둘은 함께 역동적인 조화를 이루며 조직의 역량을 강화하고 경쟁 우위를 점할 수 있는 새로운 기회를 열어줍니다."라고 말합니다.
이 프로그램은 책임감 있게 AI를 확장하려는 IBM의 노력을 지원하여 신뢰할 수 있는 AI 기반 제품과 서비스 개발을 추진하는 동시에 운영 전반의 규정 준수를 지원합니다. 실제로 IBM GraniteTM 파운데이션 모델은 IGP를 통해 적용되는 데이터 거버넌스 및 리스크 기준을 준수함으로써 투명성이 보장되는 모델로 인정받고 있습니다.
예를 들어, IGP의 일환으로 2024년 초에 향상된 데이터 출처 표준을 테스트하고 구현하기 시작한 이후 8개월 동안 이 표준은 다음과 같이 IBM의 운영 효율성 향상에 기여했습니다.
- 타사 데이터에 대한 데이터 허가 요청 처리 시간 58% 단축.
- IBM 독점 데이터에 대한 데이터 허가 요청 처리 시간 62% 단축.
- 잠재적 재사용을 위해 승인된 데이터 세트 및 모델 수 1,000개 이상.
IGP는 양질의 데이터에 더 빠르게 액세스할 수 있도록 지원하므로 개발자는 내부용뿐만 아니라 IBM AI 솔루션을 사용하는 파트너와 고객을 위해 더욱 책임감 있는 모델과 시스템을 구축할 수 있습니다. 또한 IGP의 적응성을 통해 IBM은 현재 기술을 해결하고 에이전틱 AI와 같은 새로운 기술에 대비할 수 있습니다. Cox는 "우리는 신뢰할 수 있는 파트너 생태계를 구축했으며, 고객은 IBM이 자체 혁신을 통해 얻은 가치와 전문성을 그대로 활용할 수 있습니다.”라고 요약합니다.
IBM 개인정보 보호 및 책임 기술 부서는 데이터 보호 및 기밀 유지에 대한 글로벌 정책을 감독합니다. 또한 IBM 책임감 있는 기술 위원회와 협력하여 책임감 있는 AI 정책 및 관행에 대한 거버넌스 및 의사 결정 프로세스를 안내하고, IBM 내에서 책임과 신뢰의 문화를 조성합니다.
법률
© Copyright IBM Corporation 2025. IBM, IBM 로고, IBM Cloud Pak, OpenPages, watsonx.governance는 미국 및/또는 기타 국가에서 사용되는 IBM Corp.의 상표 또는 등록 상표입니다. 이 문서는 최초 발행일을 기준으로 최신 상태로 업데이트된 문서로, 내용은 언제든지 IBM에 의해 변경될 수 있습니다. IBM이 현재 영업 중인 모든 국가에서 모든 제품이 제공되는 것은 아닙니다.
고객 사례는 해당 고객이 IBM 제품을 사용한 방법과 달성한 결과에 대한 예시로서 제공됩니다. 다른 운영 환경에서는 실제 성능, 비용, 절감 또는 그 외 결과가 다르게 나타날 수 있습니다.