책임감 있는 기술

혁신과 책임의 균형

IBM에서 책임감 있는 기술은 사후 고려 사항이 아니라 의도적으로 혁신하는 방식입니다.

지속적인 원칙에 따라 전사적인 거버넌스를 통해 강화된 IBM의 책임감 있는 기술 접근 방식은 AI 및 신흥 기술의 설계, 배포 및 관리에 있어 신뢰와 투명성, 책임감을 내재화할 수 있도록 지원합니다.

거버넌스는 자동차의 브레이크와 같습니다. 브레이크는 우리를 멈추게 하는 것이 아니라 더 빨리 달릴 수 있게 합니다.

Betsy Greytok, Francesca Rossi

책임감 있는 기술 위원회 공동 의장

IBM이 기술을 책임감 있게 관리하는 방법

IBM의 책임감 있는 기술 위원회의 사명은 명확합니다. IBM이 AI 및 양자 컴퓨팅과 같은 신흥 기술을 개발하고 배포하는 방식에 대한 거버넌스, 표준 및 원칙의 실질적인 적용을 제공하는 것입니다. 이를 통해 IBM 팀은 회사의 가치에 따라 자신감, 속도, 측정 가능한 성과를 바탕으로 고객, 파트너, 전 세계를 위해 책임감 있게 기술을 발전시킬 수 있습니다.

책임감 있는 기술 및 거버넌스 프레임워크

IBM의 책임감 있는 기술 및 거버넌스 프레임워크는 사람, 프로세스, 기술 전반에 걸쳐 원칙을 실천으로 옮깁니다.

신뢰의 원칙

기술의 목적은 인간의 능력을 증강하는 것입니다

기술 솔루션은 인간의 능력, 잠재력을 향상하고 확장하는 동시에 인간이 더 많은 부가가치를 창출할 수 있도록 설계되어야 합니다

기술은 책임감 있는 데이터 거버넌스를 기반으로 해야 합니다

기술 솔루션은 데이터의 책임감 있는 수집, 공유 및 사용을 기반으로 해야 합니다.

기술은 개방적이고 투명해야 합니다

기술 솔루션은 여러 이해관계자의 피드백과 협업에 개방적이어야 하며, 기술에 대한 신뢰를 높일 수 있도록 개발, 내부 작동 및 사용에 대한 정보가 제공되어야 합니다.

신뢰할 수 있는 AI의 핵심 요소

투명성

AI 시스템은 설명과 충분한 관측 가능성을 제공하도록 설계 및 개발되어야 합니다. 개발 관련 정보는 관련 이해관계자가 이용할 수 있어야 합니다. 사용자는 AI 시스템과 상호 작용할 때 알림을 받아야 합니다. AI는 여러 이해관계자의 협업과 공동 창작을 지원하기 위해 개방형 혁신 에코시스템에서 생성되어야 합니다.

공정성 및 인간 가치 정렬

AI 시스템은 예측, 추천 제공, 콘텐츠 생성, 작업 실행 등 의도한 맥락 내에서 공정하게 작동해야 합니다. 이러한 시스템의 동작은 혐오스럽고 모욕적인 콘텐츠를 생성하거나 유해한 행동을 실행하지 않는 등 관련 인간 가치에 부합해야 합니다.

견고성

AI 시스템은 인풋/아웃풋의 이상, 다른 AI 시스템의 예측할 수 없는 동작, 사이버 보안 위협과 같은 악의적인 조건을 효과적으로 처리해야 합니다. 또한 예측, 추천 제공, 콘텐츠 생성, 작업 실행 등 어떤 상황에서든 정확해야 합니다.

개인 정보 보호

AI 시스템은 예측, 추천, 생성된 콘텐츠, 결정 또는 조치를 포함하여 소비자의 개인정보 및 데이터 권리를 우선시하고 보호하는 방식으로 설계 및 개발되어야 합니다. 개인정보의 부적절한 유포를 방지하고 저작권 또는 기타 지식 재산권을 존중할 수 있도록 모범 사례를 설계하고 구현해야 합니다.

영향력 차원

인간의 주체성

기술은 인간의 주체성, 신뢰, 웰빙을 증강해야 합니다.

사회적 웰빙

기술은 사회의 이익을 위해 설계, 배포 및 사용되어 인간 중심의 혁신을 지원해야 합니다.

환경적 지속가능성

기술은 높은 영향력, 장기적 가치, 그리고 지속 가능한 성장을 견인하기 위해 의도적으로 효율적이어야 합니다.

운영 중추로서의 거버넌스

거버넌스는 IBM의 책임감 있는 기술 및 거버넌스 프레임워크의 운영 중추로, 원칙, 핵심 요소 및 영향력 차원을 실행으로 전환합니다.

이 프레임워크는 IBM의 통합 거버넌스 프로그램(IGP), IBM SkillsBuild와 같은 교육 이니셔티브, Granite Guardian을 포함한 오픈기술, AI Fairness 360 및 Adversarial Robustness Toolbox와 같은 오픈 소스 툴킷, 그리고 IBM watsonx.governance®와 같은 제품 기능을 통해 운영됩니다. IBM Consulting의 AI 전략 및 거버넌스 서비스는 책임감 있는 기술 에코시스템전반에 걸쳐 정책, 표준 및 연구 파트너와의 협력과 함께 조직이 책임감 있는 AI 관행을 적용하는 데 더욱 도움을 줍니다.