AI 윤리 거버넌스 프레임워크는 어떤 모습이어야 할까요?

생성형 AI를 구현하기 위한 경쟁이 치열해지면서 이 기술을 둘러싼 윤리적 논쟁도 계속 뜨거워지고 있습니다. 그리고 위험은 점점 더 커지고 있습니다.

Gartner에 따르면 "조직은 자신이 개발, 배포 또는 사용하는 AI 프로젝트가 부정적인 윤리적 결과를 초래하지 않도록 할 책임이 있습니다." 한편, 경영진의 79%는 AI 윤리가 전사적인 AI 접근법에 중요하다고 말하지만, 윤리 거버넌스 원칙을 실제로 실행한 사람은 25% 미만입니다.

AI는 미국 정부의 관심사 목록에서도 상위에 있습니다. 2월 말, Mike Johnson 하원의장과 민주당 대표 Hakeem Jeffries는 의회가 미국이 글로벌 AI 혁신을 계속 선도할 수 있도록 방안을 모색하기 위해 초당적 AI 태스크포스 설립을 발표했습니다. 태스크포스는 또한 현재 및 신흥 위협으로부터 국가를 보호하고 안전하고 신뢰할 수 있는 기술 개발을 보장하기 위한 방안도 검토할 것입니다.

AI 관련 위험을 해결하려면 훌륭한 거버넌스가 필수적입니다.

기업이 일상 업무에 AI를 점점 더 많이 도입함에 따라 기술의 윤리적 사용이 화두가 되고 있습니다. 문제는 조직이 개별 AI 사용 사례의 윤리적 위험을 평가하기 위해 법률 또는 독립 검토 위원회와 결합된 광범위한 기업 원칙에 의존하는 경우가 많다는 것입니다.

그러나 Gartner 사례 연구에 따르면 AI 윤리 원칙은 너무 광범위하거나 추상적일 수 있습니다. 그런 다음 프로젝트 리더는 개별 AI 사용 사례가 윤리적인지 여부를 결정하는 데 어려움을 겪습니다. 한편, 법률 및 후기 위원회 팀은 AI가 실제로 비즈니스에서 어떻게 사용되고 있는지 파악할 수 없습니다. 이 모든 것이 의도적이든 아니든 AI의 비윤리적 사용과 그에 따른 비즈니스 및 규정 준수 위험의 문을 열어줍니다.

잠재적인 영향을 고려할 때 이 문제는 거버넌스 수준에서 먼저 해결해야 합니다. 그런 다음 적절한 견제와 균형을 갖춘 후속 조직 구현이 뒤따라야 합니다.

사례 연구에 따르면 IBM의 비즈니스 및 개인정보 보호 책임자들은 AI 프로젝트와 관련된 윤리적 문제를 해결하기 위한 거버넌스 프레임워크를 개발했습니다. 이 프레임워크는 네 가지 핵심 역할에 의해 강화됩니다.

1. 정책 자문 위원회: 고위 리더는 글로벌 규제 및 공공 정책 목표는 물론 개인정보 보호, 데이터 및 기술 윤리 위험 및 전략을 결정할 책임이 있습니다.

2. AI 윤리 위원회: IBM 연구의 글로벌 AI 윤리 리더와 최고 개인정보 보호 및 신뢰 책임자가 공동 의장을 맡은 이 위원회는 IBM의 AI 윤리 정책, 관행 및 커뮤니케이션을 정의, 유지 및 자문하는 다기능 및 중앙 집중식 팀으로 구성됩니다.

3. AI 윤리 포컬 포인트: 각 사업부에는 기술 윤리 문제를 사전에 식별 및 평가하고, 개별 사용 사례의 위험을 완화하며, 검토를 위해 프로젝트를 AI 윤리 위원회에 전달하는 첫 번째 포컬 포인트 역할을 하는 포컬 포인트(사업부 담당자)가 있습니다. 나중에 살펴보겠지만, AI 거버넌스의 상당 부분은 이러한 개인에게 달려 있습니다.

4. 옹호 네트워크: 윤리적이고 책임감 있으며 신뢰할 수 있는 AI 기술 문화를 장려하는 직원들의 풀뿌리 네트워크입니다. 이러한 지지자들은 개방형 작업 흐름에 기여하고 조직 전체에서 AI 윤리 이니셔티브를 확장하는 데 도움을 줍니다.

AI 윤리 문제가 확인되면 사용 사례의 사업부에 할당된 포컬 포인트가 평가를 시작합니다. 포컬 포인트는 최전선에서 이 프로세스를 실행하여 저위험 사례를 분류할 수 있습니다. 고위험 사례의 경우 공식 위험 평가가 완료되고 후기를 위해 AI 윤리 위원회로 에스컬레이션됩니다.

각 사용 사례는 다음과 같은 지침을 사용하여 평가됩니다.

• 관련 속성 및 용도: 특정 사용 사례의 특성, 용도 및 위험 수준을 조사합니다. 사용 사례가 해를 끼칠 수 있나요? 최종 사용자는 누구인가요? 개인의 권리가 침해되고 있나요?

• 규정 준수: 데이터가 관련 개인정보 보호법 및 업계 규정에 따라 안전하게 처리되는지 여부를 결정합니다.

• 이전에 검토된 사용 사례: AI 윤리 위원회에서 이전에 검토한 사용 사례에서 얻은 인사이트와 다음 단계를 제공합니다. 위원회의 승인이 필요한 AI 사용 사례 목록이 포함되어 있습니다.

• AI 윤리 원칙 준수: 사용 사례가 공정성, 투명성, 설명 가능성, 견고성 및 개인정보 보호 원칙과의 연계와 같은 기본 요구 사항을 충족하는지 여부를 결정합니다.

Gartner 보고서에 따르면 AI 거버넌스 프레임워크의 구현은 다음과 같은 이점을 IBM에 제공했습니다.

• AI 윤리 확장: 포컬 포인트는 규정 준수를 촉진하고 각 사업부에서 후기를 시작하여 대규모 AI 윤리 후기를 가능하게 합니다.

• AI 윤리 비전의 전략적 조정 강화: 포컬 포인트는 비즈니스 전반과 전 세계의 AI 윤리 분야의 기술, 사상 및 비즈니스 리더와 연결됩니다.

• 저위험 프로젝트 및 제안의 신속한 완료: 포컬 포인트를 사용하면 위험이 낮은 서비스 또는 프로젝트를 분류하여 기능을 더 빠르게 검토할 수 있습니다.

• 이사회 준비 및 대비 강화: 프로세스 초기에 AI 윤리를 안내할 포컬 포인트에 대한 권한을 부여함으로써 AI 윤리 위원회는 남아 있는 사용 사례를 보다 효율적으로 검토할 수 있습니다.

2020년 6월 ChatGPT가 처음 등장했을 때, 전 세계는 엄청난 기대에 휩싸였습니다. 현재 AI 트렌드는 기술에 대한 보다 현실적인 기대치를 제시하고 있습니다. ChatGPT와 같은 독립형 도구는 대중의 상상력을 사로잡을 수 있지만 기존 서비스와의 효과적인 통합은 산업 전반에 걸쳐 더 심오한 변화를 가져올 것입니다.

의심할 여지 없이 AI는 작업을 완료할 수 있는 강력한 새로운 도구와 기술을 제공합니다. 그러나 이와 관련된 위험도 현실적입니다. 멀티모달 AI 기능이 향상되고 진입 장벽이 낮아지면 딥페이크, 개인 정보 보호 문제, 편견의 영속화, 심지어 보안 문자 보호 디바이스 회피가 위협 그룹에게 점점 더 쉬워질 수 있습니다.

악의적인 행위자들이 이미 AI를 사용하고 있지만, 합법적인 비즈니스 세계도 직원, 고객, 커뮤니티를 안전하게 보호하기 위한 예방 조치를 취해야 합니다.

ChatGPT는 "부정적인 결과에는 AI 알고리즘에 의해 지속되는 편견, 사생활 침해, 사회적 불평등 악화 또는 개인이나 커뮤니티에 대한 의도하지 않은 피해 등이 포함될 수 있습니다. 또한 비윤리적인 AI 관행으로 인한 신뢰, 평판 손상 또는 법적 파급 효과에 영향을 미칠 수 있습니다."라고 말합니다.

이러한 유형의 위험으로부터 보호하려면 AI 윤리 거버넌스가 필수적입니다.