AI 윤리
IBM의 AI 윤리에 대한 접근 방식은 종합적이고 다차원적입니다.
신뢰 구축
AI는 이미 우리의 일상생활, 비즈니스, 정부, 의료 등에 널리 사용되고 있습니다. IBM은 사람과 기업들이 책임감을 가지고 AI를 도입하도록 지원합니다. AI 애플리케이션과 프로세스에 윤리적 원칙을 심어주는 것만이 신뢰에 기반한 시스템을 구축할 수 있는 유일한 방법일 것입니다.
*출처: IBM의 "From Roadblock to Scale: The Global Sprint Towards AI" 연구 2020
4개 중 3개의 기업이 AI를 분석 중이거나 구현 중입니다.
78%의 고위 비즈니스 의사결정권자들은 자체 AI의 성과가 공정하고 안전하며 안정적임을 신뢰하는 일이 매우 중요하다고 말합니다.
IBM의 접근 방식
비즈니스, 정책, 연구 및 사고 리더십에서 얻은 인사이트를 통합합니다.
책임감 있는 혁신
100년 이상 IBM은 소수가 아닌 모든 사람들에게 혜택을 제공할 수 있는 책임감 있는 혁신을 위해 지속적으로 노력해 왔습니다.
AI의 목적
AI의 목적은 인간의 지능을 증진시키는 것입니다. IBM에서, 우리는 AI가 우리 모두가 업무를 보다 잘 처리할 수 있도록 만들어야 한다고 믿습니다. 또한 AI 시대의 혜택은 소수의 엘리트들만이 아닌 많은 사람들에게도 돌아가야 한다고 믿습니다.
데이터 및 인사이트 소유권
데이터와 인사이트는 이를 생성한 자가 소유합니다. IBM 고객들의 데이터는 그들의 데이터이며, 고객들의 인사이트는 그들의 인사이트입니다.
투명성과 설명가능성
AI 시스템을 포함한 신기술은 투명하고 설명 가능해야 합니다. 기술 회사들은 누가 자체 AI 시스템을 트레이닝했는지, 어떤 데이터가 해당 트레이닝에 사용되었는지, 그리고 무엇보다 중요하게는 해당 알고리즘의 추천에 무엇이 필요한지에 대해 명확히 해야 합니다.
설명가능성
훌륭한 디자인은 완벽한 경험을 창출함에 있어서 투명성을 훼손하지 않습니다.
공정성
정확하게 교정된 AI는 인간이 보다 공정한 선택을 할 수 있도록 지원할 수 있습니다.
견고함
시스템이 중요 의사결정을 내리는 데 사용되므로, AI는 안전하고 견고해야 합니다.
투명성
투명성은 신뢰를 강화하며, 투명성을 높이는 최상의 방법은 공개를 통해서 이루어집니다.
프라이버시
AI 시스템은 이용자의 개인정보 보호와 데이터 권한에 우선순위를 두고 이를 보호해야 합니다.
정책
IBM Policy Lab에서 선정된 위치 및 권장사항
안면 인식
IBM은 이제 더 이상 범용의 IBM 안면 인식 또는 분석 소프트웨어는 제공하지 않습니다. 우리는 정밀도 규정 접근 방식이 안면 인식 시스템에 대한 적절히 균형 잡힌 거버넌스 프레임워크를 제공할 수 있다고 믿습니다. 정책 입안자들은 사회에 유해할 소지가 보다 큰 특정 유스케이스와 일반 사용자에 대해 규제와 감독을 적용하는 정밀도 규정을 채택해야 합니다.
데이터 책임성
데이터를 수집, 저장, 관리 또는 처리하는 기업들에게는 소유권과 개인정보 보호, 보안 및 신뢰를 보장하면서 이를 책임감 있게 처리해야 할 의무가 있습니다.
추가 리소스
첨단 기술 관련 IBM 정책과 사례에 대해 자세히 보기
IBM Policy Lab
데이터에 의해 혁신 중인 세상에서 신뢰를 보장하는 한편 정책 입안자들에게 혁신의 혜택을 활용할 수 있도록 비전과 실현 가능한 권장사항을 제공하는 신규 포럼입니다.
AI 윤리의 실천
조직 전반의 거버넌스, 책임성 및 기술에 적용합니다.
AI Ethics Board
IBM AI Ethics Board는 IBM이 AI에 적용하는 윤리적 의사결정의 자연스러운 진화의 결과입니다.
이 이사회는 IBM 전체에서 윤리적이고, 책임감 있으며, 신뢰할 수 있는 AI의 문화를 지원하기 위한 중심적이며 여러 학문 분야에 걸친 기관으로서 설립되었습니다.
이 조직의 임무는 IBM 윤리 정책, 관행, 교류, 연구, 제품 및 서비스에 대한 중앙집중식 거버넌스, 검토 및 의사결정 프로세스를 지원하는 것입니다. 오랜 기간의 원칙과 윤리적 사고를 주입함으로써, 이 이사회는 IBM과 모든 IBM 직원들이 가치를 지켜나갈 수 있도록 하는 하나의 메커니즘입니다.
Francesca Rossi
IBM 동료 및 AI 윤리 글로벌 리더
Christina Montgomery
부사장 겸 CPO(Chief Privacy Officer)
이니셔티브
Center for Open Source Data and AI Technologies: 신뢰받는 AI
CODAIT(The Center for Open Source Data and AI Technologies)는 머신 러닝 시스템에서 공정성, 설명가능성, 견고성 및 투명성을 향상시킬 수 있는 IBM Research에 의해 구축된 프로젝트를 유지하는 데 도움을 줍니다.
사회적 정의를 위한 과학
IBM Research 사이언티스트들과 엔지니어들이 다양한 비정부기구(NGO), 공공 부문 기관 및 사회적 기업의 주제 전문가들, 대학 교수들과 연계함으로써 과학과 기술을 사용하여 새로운 사회적 과제를 해결합니다.
교육 및 툴킷
신뢰 기반 AI를 구축하기 위한 리소스 및 오픈 소스 툴을 제공합니다.
오픈 소스 커뮤니티 리소스
우리는 교육 리소스를 통해 책임감 있는 AI로 세상에 힘을 실어주기 위해 전념하고 있습니다. 우리는 책임감 있는 AI 기반 기술을 대형 커뮤니티와 공동 개발하는 임무를 위해 세 개의 오픈 소스 프로젝트를 Linux Foundation에 기증했습니다.
리소스
Watson OpenScale
새로운 방식으로 AI 모델 리스크 관리를 자동화합니다.
제품 오퍼링
워크플로우에서 AI 의사결정을 추적하고 기술하여 규제 준수를 관리하고, 지능적으로 편견을 발견하고 정정하여 결과를 개선합니다. IBM Watson OpenScale은 오픈 소스 툴과 다른 공급업체의 모델 개발 환경에서 손쉽게 작동됩니다. 이는 AI 투자를 중심으로 신뢰를 구축하고 제어 및 거버넌스 구조를 구현할 수 있도록 지원하는 혁신적인 모니터링 및 관리 툴 세트를 제공합니다.
보다 훌륭한 서비스 제공
엔터프라이즈급 AI에 대한 장벽을 제거하는 데 도움이 되는 개방형 솔루션
협업
윤리적 AI에 대해 기업, 비즈니스 및 정부와 협업합니다.
진행되는 협업
윤리적 AI를 위한 협업
IBM은 정부, 학계, 비영리 및 업계 파트너와 협력하여 윤리적 AI 구현을 추진합니다.