Page Title IBM 개인정보 보호 및 책임 기술 부서 - 개인정보 보호 및 AI 관리 시스템(PIMS) AI에 대한 신뢰 구축
IBM 개인정보 보호 및 책임 기술 사무소는 IBM이 관리하는 머신 러닝 모델의 글로벌 개인정보 보호 및 AI 규정 준수 작업을 간소화하고 자동화하는 데 도움을 줍니다.
거리에서 바라본 IBM 사옥 외관

AI는 이미 채용 여부에 관한 결정을 내리는 데 활용되고 있습니다. 또한 신용 점수를 높여야 하는지 또는 주택 대출 자격 요건을 충족하는지를 판단하는 데도 사용됩니다. AI는 삶을 바꿀 수 있는 중대한 결정에 영향을 미치므로 AI를 책임감 있게 다루는 것이 매우 중요합니다.

하지만 책임감 있는 관리가 말처럼 쉽지만은 않습니다. IBM의 최고 개인정보 보호 및 신뢰 책임자인 크리스티나 몽고메리(Christina Montgomery)는 AI를 변화의 긍정적인 힘으로 유지하기 위해 노력합니다.

몽고메리는 "IBM 내에서 AI 윤리 위원회(AI Ethics Board)를 만들었고, 현재 공동 의장을 맡고 있습니다."고 이야기합니다. "저희는 AI가 투명하고 설명 가능해야 한다는 원칙을 명확히 했습니다. 개인정보를 보호하고, 안전하고, 포용적이고, 공정해야 합니다. 이러한 원칙을 회사 문화에 정착시키는 데 윤리 위원회가 도움을 주었지만, 회사로서 이러한 원칙에 대한 책임을 다하기 위해서는 믿음 이상이 필요합니다."

다행히도 IBM은 이전에도 이와 같은 규제를 많이 수용한 경험을 갖고 있습니다.

IBM 개인정보 보호 및 책임 기술 부서의 통합 거버넌스, 서비스 및 연구 담당 부사장인 리 콕스(Lee Cox)는 "IBM의 GDPR(일반 데이터 보호 규정) 준수는 아마도 AI와 관련해 저희가 처리한 것과 가장 유사할 것입니다."라고 덧붙입니다. "그 전에는 데이터 보호 관련 규정 준수 문제를 처리하는 방식이 지역별로 이루어졌기 때문에 많은 프로그램이 지역화되어 있었습니다. 새로운 요구를 충족하도록 확장하려면 상당한 양의 작업을 수행해야 했습니다."

리는 또 이렇게 덧붙입니다. "하지만 GDPR 및 기타 개인정보 보호 규정으로 인해 글로벌 수준에서 조정을 시작해야 했습니다. 더 많은 표준, 더 많은 의무, 더 많은 복잡성, '내 데이터에 어떤 일이 일어나고 있으며 어떻게 소비되고 있는가?'에 대한 더 많은 민감성에 직면했기 때문에 빠르게 적응해야 했습니다."

이러한 글로벌 감독을 다루기 위해 IBM은 전사적 개인정보 보호 및 AI 관리 시스템(PIMS)을 만들었습니다. 그리고 몽고메리가 이끄는 팀은 IBM이 이 도구를 보강하여 AI 운영 전반에 걸쳐 규정 준수를 더 잘 문서화하고 추적할 수 있다고 생각했습니다.

개인정보 보호와 마찬가지로 AI와 관련해서도 지난 몇 년 동안 국가 및 지역 수준에서 새로운 규정이 쏟아져 나왔습니다. 마찬가지로, 수많은 글로벌 연합과 협회에서도 AI가 윤리적이고 책임감 있게 행동하도록 돕기 위한 지침을 개발했습니다. 그러나 점점 늘어나는 기대치를 충족하는 것은 대규모로 달성하기 어려울 수 있습니다.

"IBM은 큰 회사입니다."라고 몽고메리가 덧붙입니다. "전 세계 170개 이상의 국가에서 사업을 운영하고 있죠. 400개 이상의 개별 법인으로 구성되어 있으며, 13,000개의 제공업체 및 150,000개의 비즈니스 파트너와 거래하고 있습니다. 이 정도 규모에서는 25만 명이 넘는 모든 직원을 거버넌스 관점에서 동일한 수준으로 참여시키는 것이 어려울 수 있습니다."

5,500개 이상의 애플리케이션 및 프로세스가 PIMS로 관리됨 6주 최근의 새로운 전사적 프로그램을 출시할 시간
"저희는 AI가 투명하고 설명 가능해야 한다는 원칙을 명확히 했습니다. 개인정보를 보호하고, 안전하고, 포용적이고, 공정해야 합니다. Christina Montgomery 최고 개인정보 보호 및 신뢰 책임자 IBM
자동화. 중앙 집중화. 제어.

이 부서는 2022년 말에 PIMS가 IBM OpenPagesIBM Knowledge Catalog 기술로 구동되도록 업그레이드했습니다. 또한 IBM Data 및 AI 포트폴리오(아래 설명 참조)의 혁신적인 시스템을 특징으로 하는 이 솔루션은 설계부터 배포, 일상적 사용에 이르기까지 데이터 프라이버시 및 전체 AI 수명 주기와 관련된 메타데이터를 캡처, 통합 및 투명화할 수 있는 중앙 집중식 전사적 플랫폼을 제공합니다.

콕스는 "PIMS와 관련해 표준화, 간소화 및 확장을 가장 중요하게 생각했습니다."라고 회상합니다. "그리고 지금은 현재 진행 중인 업무와 다른 새로운 규정이 나오면 이를 파악하는 데 도움이 되는 보다 지속적인 규정 준수 접근 방식을 취하고 있습니다."

"직원, 고객, 정부 및 정책 입안자 등 전체 에코시스템에 걸쳐 신뢰를 구축하는 것이 중요합니다."라고 몽고메리가 덧붙입니다. "그래서 저희는 AI에 대한 참여 측면에서 투명성을 매우 강력하게 지지하며, 이것이바로 PIMS가 제공하는 본질적인 기능입니다."

"특히 편향성을 중요하게 고려해야 하죠."라고 콕스는 말합니다. "AI를 통해 인간의 결함을 대규모로 증폭시키면 이러한 결함이 여러 시스템에 복제되어 사회에 미치는 영향이 훨씬 더 커집니다."

IBM OpenPages는 PIMS의 핵심 역할을 하여 이전에 사일로화되어 있던 거버넌스, 리스크 및 규정 준수(GRC) 기능에 자동화된 중앙 집중식 워크플로우를 제공합니다. 그리고 IBM Knowledge Catalog는 관련 지식 자산 및 관계와 함께 이 GRC 정보를 모니터링하고 큐레이션할 수 있는 해당 데이터 카탈로그를 제공합니다.

IBM AI Governance 전략의 일부로 PIMS는 IBM Cloud Pak for Data의 IBM AI Factsheets 기능도 활용합니다. 이 도구는 학습부터 생산에 이르는 머신 러닝 모델의 수명 주기를 추적하여 위험과 모델 드리프트를 모니터링하는 데 사용할 수 있는 실제 데이터를 캡처합니다.

지금은 현재 진행 중인 업무와 다른 새로운 규정이 나오면 이를 파악하는 데 도움이 되는 보다 지속적인 규정 준수 접근 방식을 취하고 있습니다. 리 콕스 통합 거버넌스, 서비스 및 연구 담당 부사장 IBM
자세히 알아보기

PIMS는 IBM에서 프로덕션에 투입되는 새로운 AI 인스턴스와 다른 알고리즘 시스템의 인스턴스를 등록합니다. PIMS는 이를 중앙 집중식 전사적 워크플로우에 추가하고, 잠재적 위험을 평가합니다. 또한 모델이 실행되면 공정성, 품질 및 드리프트에 대한 지속적인 모니터링을 제공합니다.

동시에 새로운 규정이 통과되면 PIMS를 사용하여 이러한 요구 사항을 가져와 거버넌스 모델과 전반적인 위험 평가 활동을 업데이트할 수 있습니다.

"매년 수많은 새로운 AI 규정이 제안되고 있습니다."라고 콕스가 설명합니다. "미국의 모든 주에서 자체적인 규칙을 구축하고 있는 것 같습니다. 유럽에서는 2024년에 주요 서명 법률이 나올 것입니다."

이처럼 진화하는 AI 규제 환경과 데이터 개인정보 보호 및 데이터 거버넌스에 대한 규정 준수를 유지해야 하는 지속적인 책임을 다하기 위해 IBM은 통합 거버넌스 프로그램(IGP)을 만들었습니다. 이 IGP 이니셔티브는 개인정보 보호, AI 또는 알고리즘 시스템, 기술 윤리 사용 사례, 데이터 정리 요청을 처리하기 위한 통합 전략을 제공하며, 이 모든 것이 PIMS를 포함한 동일한 포괄적인 거버넌스 프로그램에서 제공됩니다.

IGP는 IBM이 규정 준수 프로그램을 대규모로 관리할 수 있도록 지원하며, 여기에는 2024년에 채택될 세계 최초의 포괄적인 AI 법률인 유럽연합 인공 지능법이 포함될 예정입니다. IGP를 통해 AI는 위험, 신뢰, 보안 및 투명성에 중점을 둔 해당 법률의 요구 사항을 충족할 수 있으며, EU 내 및 전 세계적으로 AI에 대한 인간 감독 및 규정 준수를 새로운 수준으로 끌어올릴 것으로 예상됩니다.

결과적으로 PIMS 및 관련 통합 거버넌스 워크플로우를 통해 향상된 추적성 및 보고 기능을 제공하여 데이터가 모델 사전 훈련, 개발 또는 미세 조정에 사용되기 전에 데이터 정리 검토를 완료할 수 있습니다. 또한 이 도구는 AI 및 기타 알고리즘 시스템과 관련하여 처리(RoP), 관련 교육, 테스트 메트릭 및 현재 예측에 대한 정확한 문서와 기록을 유지하는 데 도움을 줍니다. 마찬가지로 IBM 직원은 이 문서 추적을 사용하여 실제로 수정이 완료되었는지 확인할 수 있습니다.

IBM은 향후 버전의 PIMS에 watsonx.governance를 포함한 IBM의 최신 watsonx 제품군을 반영할 계획입니다. 이러한 조치는 IBM에 향상된 모델 수명 주기 거버넌스 기능, 주요 메트릭 및 광범위한 성능 벤치마킹 보고서를 제공하기 위한 것입니다.

파트너와 고객이 프로젝트별로 이 AI 기술을 채택하는 동시에 위험을 관리하면서 프로젝트에 대한 신뢰를 구축하는 데 도움이 되는 수준의 투명성을 제공할 수 있습니다. Christina Montgomery 최고 개인정보 보호 및 신뢰 책임자 IBM
규정 준수 강화, 작업량 감소

현재 PIMS는 전 세계 IBM 운영 전반에 걸쳐 5,500개 이상의 엔터프라이즈 애플리케이션 및 비즈니스 프로세스를 추적 및 관리하고 있으며, 모든 것은 단일 통합 플랫폼에서 이루어집니다. 또한 이 도구가 제공하는 자동화 기능은 관련 핵심 성과 지표(KPI)를 거버넌스 대시보드에 제공하여 관리를 간소화하고, 오버헤드를 줄이며, 문제 해결 워크로드를 줄이고, 규정 준수 속도를 가속화하도록 설계되었습니다.

“프로세스 소유자가 모든 자산, 모든 개인, 모든 애플리케이션, 모든 비즈니스 프로세스를 모니터링하고 준수해야 할 법률을 결정하도록 강요하는 대신, 이러한 복잡성을 숨길 수 있습니다.” 라고 콕스는 설명합니다. “PIMS를 사용하면 이제 자동으로 생성된 수정 작업에만 집중하면 됩니다. 이는 IBM 전체에서 수천 시간을 절약했다는 뜻이죠."

또한 새로운 규정이 출시되면 IBM은 관련 요구 사항을 훨씬 더 빠르게 파악하고 수용할 수 있습니다.

"저희의 마지막 대규모 프로젝트였던 GDPR은 거버넌스 모델과 추적 솔루션을 도입하는 데 약 12개월이 걸렸습니다. "이제는 PIMS를 통해 전사적 규정 준수 프로그램을 최소 6주 안에 시작할 수 있습니다. 정보가 이미 있기 때문에 격차를 더 빠르고 쉽게 파악하고 캠페인을 구축할 수 있습니다. 출시 후 PIMS는 관련 추적 및 수정 데이터를 자동으로 대시보드에 입력할 수 있습니다."

이러한 속도는 새로운 규칙을 수용할 때 매우 중요합니다. 몽고메리는 "주요 규정이 제정될 때 2~3년의 준비 기간이 주어질 가능성은 거의 없습니다."라고 설명합니다. "4~5개월 정도만 주어지죠. 상시 재고 관리를 지원하고 기업 전체에서 사용되는 데이터에 대한 강력한 이해를 제공하는 도구인 PIMS 또는 이와 유사한 도구를 사용하지 않는 파트너 또는 고객은 규정 준수에 어려움을 겪을 것입니다."

"하지만 IBM과 협력하면 파트너와 고객이 위험을 관리하면서 프로젝트별로 이 AI 기술을 도입할 수 있다는 자신감과 신뢰를 구축할 수 있는 수준의 투명성을 제공할 수 있습니다."라고 덧붙입니다.

파란색 IBM 8개 바 로고.
IBM 개인정보 보호 및 책임 기술 부서 소개

IBM 개인정보 보호 및 책임 기술 사부서는 개인 및 비즈니스 데이터의 보호 및 기밀성에 관한 글로벌 IBM 정책의 작성 및 관리를 감독합니다. 또한 IBM AI 윤리 위원회와 협력하여 AI 윤리 정책 및 관행에 대한 거버넌스 및 관련 의사결정 프로세스를 안내하고, IBM 전체에 걸쳐 책임과 신뢰의 문화를 구축합니다.

원하는 작업을 AI가 수행하도록 하기

IBM watsonx.governance 기술을 사용하여 AI 활동에 대한 감독, 방향 및 거버넌스를 관리하세요.

IBM watsonx.governance 살펴보기 더 많은 사례 연구 보기
법률

© Copyright IBM Corporation 2024. IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504

2024년 3월 미국에서 제작.

IBM, IBM 로고, ibm.com, IBM Cloud Pak, OpenPages, watsonx, watsonx.governance는 미국 및/또는 기타 국가에서 International Business Machines Corporation의 상표 또는 등록 상표입니다. 기타 제품 및 서비스 이름은 IBM 또는 다른 회사의 상표일 수 있습니다. 최신 IBM 상표 목록은 ibm.com/legal/copyright-trademark에서 확인할 수 있습니다.

이 문서는 최초 발행일 기준 최신 문서로, IBM은 언제든지 해당 내용을 변경할 수 있습니다. IBM이 현재 영업 중인 모든 국가에서 모든 제품이 제공되는 것은 아닙니다.

본 문서에서 인용되거나 설명된 모든 고객 사례는 일부 고객이 IBM 제품을 이용한 방식과 그로 인해 달성할 수 있는 결과에 대한 예시로 제공됩니다. 실제 환경 비용과 성능 특성은 개별 고객 구성 및 조건에 따라 다를 수 있습니다. 각 고객별 실제 결과는 전적으로 고객이 주문한 시스템과 서비스에 따라 크게 달라질 수 있으므로 일반적인 기대 결과는 제시될 수 없습니다. 본 문서의 정보는 상품성, 특정 목적에의 적합성, 비침해성 보증 또는 조건을 포함하여 명시적 또는 묵시적 보증 없이 '있는 그대로' 제공됩니다. 제품 제공 시의 계약 조건에 따라 해당 IBM 제품을 보증합니다.

고객은 적용되는 모든 법률과 규정을 모두 준수할 책임이 있습니다. IBM은 법률 자문을 제공하지 않으며, 고객이 자사의 서비스 또는 제품을 통해 법률이나 규정을 준수할 수 있음을 표현하거나 보증하지 않습니다.