AI 개발을 멈추는 대신 윤리 우선시 필요

생성형 AI 시스템이 대중 영역에 도입되면서 전 세계 사람들에게 아직 고려하지 못했던 새로운 기술적 가능성, 함의, 심지어 결과까지 접하게 되었습니다. ChatGPT와 같은 시스템 덕분에 이제 거의 모든 사람이 고급 AI 모델을 사용할 수 있습니다. 고급 AI 모델은 이전 버전의 AI처럼 패턴을 감지하고, 데이터를 연마하고, 추천할 수 있을 뿐만 아니라 이를 넘어서서 새로운 콘텐츠를 만들고 독창적인 채팅 응답을 개발하는 등의 작업을 수행할 수 있습니다.

윤리적으로 설계되고 책임감 있는 방식으로 시장에 출시된 생성형 AI의 기능은 비즈니스와 사회 모두에 전례 없는 기회를 제공하며 상호 이익을 가져다줍니다. 이를 통해 더 나은 고객 서비스를 창출하고 의료 시스템과 법률 서비스를 개선할 수 있습니다. 또한 인간의 창의성을 지원하고 강화하며, 과학적 발견을 촉진하고, 기후 문제를 해결하기 위한 보다 효과적인 방법을 동원할 수 있습니다.

우리는 AI의 개발, 배포, 사용, 그리고 인간의 발전을 가속화할 수 있는 잠재력의 중요한 변곡점에 서 있습니다. 그러나 이러한 엄청난 잠재력에는 가짜 콘텐츠 및 유해한 텍스트 생성, 개인정보 유출 가능성, 편견의 증폭, 시스템 운영 방식에 대한 심각한 투명성 부족 등의 위험이 수반됩니다. 따라서 AI가 노동력, 민주주의, 창의성, 그리고 인간과 지구의 전반적인 복지에 어떤 의미가 있을지 의문을 제기하는 것이 매우 중요합니다.

최근 일부 기술 리더들은 새로운 윤리 기준을 마련하기 위해 더 강력한 AI 시스템의 훈련을 6개월간 중단할 것을 촉구했습니다. 편지의 의도와 동기는 의심할 여지없이 좋았지만, 근본적인 요점을 놓치고 있습니다. 이러한 시스템은 오늘날 우리가 통제할 수 있으며 해결책도 마찬가지입니다.

책임감 있는 교육과 함께 전체 AI 파이프라인에 대한 설계 윤리 접근 방식, 그리고 AI에 대한 여러 이해관계자의 협력이 뒷받침되면 이러한 시스템을 더 나은 시스템으로 만들 수 있습니다. AI는 끊임없이 진화하는 기술입니다. 따라서 현재 사용 중인 시스템과 내일 가동될 시스템 모두에 대해 교육은 AI 구축에 있어 책임 있는 접근법의 일부가 되어야 합니다. 책임감 있는 AI의 우선순위를 정하기 위해 잠시 멈출 필요는 없습니다.

이제 우리 모두가 지속적으로 채택하고 개선해야 할 AI 윤리 기준과 가드레일에 대해 진지하게 고민해야 할 때입니다. IBM은 수년 전 업계 최초로 AI 윤리 위원회를 설립하고 전사적인 AI 윤리 프레임워크를 마련했습니다. 저희는 업계에서의 위치뿐만 아니라 다른 사람들과의 협업을 우선시하는 다중 이해관계자 접근 방식을 통해 현재와 미래의 환경을 조사함으로써 이러한 프레임워크를 강화하고 개선하기 위해 지속적으로 노력하고 있습니다.

IBM 이사회는 책임감 있고 중앙 집중화된 거버넌스 구조를 통해 명확한 정책을 수립하고 AI 라이프사이클 전반에 걸쳐 책임감을 부여하는 한편, IBM의 비즈니스 요구 사항을 민첩하고 유연하게 지원합니다. 이는 매우 중요한 일이며, 저희는 기존 AI 시스템과 보다 진보된 AI 시스템 모두에서 이를 실행해 왔습니다. 다시 말씀드리지만, 미래 AI 시스템의 위험에만 초점을 맞추고 현재의 위험을 무시할 수는 없기 때문입니다. 가치 정렬과 AI 윤리 활동은 지금 당장 필요하며, AI가 발전함에 따라 지속적으로 진화해야 합니다.

협업 및 감독과 함께 이러한 시스템을 구축하는 기술적 접근 방식은 처음부터 윤리적 고려 사항에 따라 형성되어야 합니다. 예를 들어, AI에 대한 우려는 종종 "블랙박스" 내부에서 어떤 일이 일어나는지에 대한 이해 부족에서 비롯됩니다. 그렇기 때문에 IBM은 모델의 공정성과 편향성을 모니터링하고, 사용된 데이터의 출처를 파악하며, 궁극적으로 보다 투명하고 설명 가능하며 신뢰할 수 있는 AI 관리 프로세스를 제공할 수 있는 거버넌스 플랫폼을 개발했습니다. 또한, IBM의 엔터프라이즈용 AI 전략은 전체 AI 라이프사이클 프로세스 전반에 걸쳐 신뢰를 구축하는 접근 방식에 중점을 두고 있습니다. 이는 모델 자체의 생성에서 시작하여 시스템을 학습하는 데이터로 확장되며, 궁극적으로는 개방형 도메인이 아닌 특정 비즈니스 애플리케이션 도메인에 이러한 모델을 적용하는 것으로까지 확장됩니다.

첫째, 민간 부문 내 다른 이들도 윤리와 책임을 AI 의제의 최우선에 두길 촉구합니다. 업계 AI 윤리 노력에 대한 투자 우선순위를 낮추는 기존 트렌드와 함께 AI 교육을 전면적으로 중단하는 것은 추가적인 피해와 좌절을 초래할 뿐입니다.

둘째, 정부는 기술 수준에서 AI 를 광범위하게 규제하는 것을 피해야 합니다. 그렇지 않으면, 유익한 혁신을 방해하고 미래에도 사용할 수 없는, 막무가내식 접근 방식에 그치게 될 것입니다. 전 세계 의원들이 대신 사회적 피해 위험이 가장 높은 AI 사용 사례에 가장 강력한 규제 제어를 적용하는 스마트하고 정밀한 규정을 채택할 것을 촉구합니다.

마지막으로, 기업이 AI 시스템과 상호작용하는 데이터의 개인정보를 어떻게 보호하고 있는지에 대한 투명성이 아직 충분하지 않습니다. 그렇기 때문에 미국에는 일관된 국가 차원의 개인정보 보호법이 필요합니다. 개인의 개인정보 보호는 주 경계를 넘었다고 해서 바뀌어서는 안 됩니다.

최근 우리 사회에서 AI에 대한 관심이 집중되고 있는 것은 어떤 위대한 힘에도 큰 책임이 따른다는 옛날을 떠올리게 합니다. AI 시스템 개발을 전면 중단하는 대신, 회의실에서 탄생한 아이디어부터 교육, 개발, 실제 배포에 이르기까지 협업의 장벽을 허물고 책임감 있는 AI를발전시키는 데 함께 노력합시다. 위험 요소가 너무나 크고, 우리 사회는 그에 못지않은 대우를 받아야 합니다.