조직이 책임감 있게 AI를 큐레이션하기 위해 필요한 것

솔직히 말하자면, 많은 조직이 인공지능(AI)을 의식하든 못하든 이미 활용하고 있습니다. 문제는 '그 방식'입니다. 조직은 AI를 어떻게 활용하고 있으며, 이를 책임감 있게 사용하고 있다는 것을 어떻게 확신할 수 있을까요?

IBM® Consulting의 신뢰할 수 있는 AI 부문 글로벌 리더인 페드라 보이노디리스(Phaedra Boinodiris)는 AI에 대한 신뢰를 얻는 것은 사회-기술적 과제이며, 그중에서도 가장 어려운 부분은 인간 측면이라고 말합니다. 이를 위해 필요한 포괄적 접근 방식은 사람, 프로세스, 도구의 세 가지 요소로 나눌 수 있으며, 조직 내에서 이를 다룰 때 고려해야 할 핵심 원칙들이 있습니다.

사람에 대해 생각할 때는 책임감 있는 방식으로 AI를 큐레이션하는 데 필요한 올바른 조직 문화를 파악하는 데 중점을 둡니다. 인벤토리 및 적절한 메타데이터를 수집하고 위험 평가 등을 수행하려면 AI 거버넌스 프로세스가 필요합니다. 조직은 AI 라이프사이클 전반에 걸쳐 사용되는 AI 엔지니어링 프레임워크에 적합한 도구를 보유하여 이러한 모델이 올바른 의도를 반영하고 있는지 확인해야 합니다.

보이노디리스는 세 가지 요소 중 사람, 즉 인적 요소가 조직 내에서 책임감 있는 AI 활용을 위한 균형을 맞추는 데 가장 어렵다고 지적합니다.  

"올바른 조직 문화를 갖추는 것은 어려운 일입니다. 책임감 있게 AI를 큐레이션하는 데 필요한 올바른 조직 문화란 무엇일지 생각해 보면, 몇 가지 핵심 원칙이 있습니다."라고 보이노디리스는 말합니다.

첫 번째 원칙은 이 분야에 대해 ‘깊은 겸손(tremendous humility)’을 가지고 접근하는 것입니다. 조직 구성원들은 AI에 대해 배워야 할 점도 많고, 기존의 관점을 버려야 할 점도 많기 때문입니다. 여기서 보이노디리스가 말하는 ‘기존의 관점을 버려야 할 점’이란, 이 대화에 누가 참여해야 하는지를 새롭게 바라보는 것을 의미합니다. AI에 대한 논의에는 총체적인 방식으로 AI를 만들기 위해 다양한 배경을 가진 여러 분야의 개인이 포함되어야 합니다.

즉, 성장 마인드셋을 갖는 것이 책임감 있는 AI를 조성하는 데 핵심적인 요소입니다. 보이노디리스는 조직이 직원들에게 심리적 안정감과 AI를 둘러싼 어려운 주제에 대해서도 논의할 수 있는 안전한 공간을 제공해야 한다고 강조합니다.

두 번째 원칙은 사람들은 서로 다른 삶의 경험을 가지고 있으며, 모든 관점이 중요하다는 것을 인식하는 것입니다. 조직은 사내 인력뿐 아니라 AI 모델을 구축하고 관리하는 사람들의 다양성을 인식해야 합니다. 성별, 인종, 민족 또는 성적 지향에 국한되지 않습니다. 각자가 가진 관점과 삶의 경험에 관한 것입니다.

"제가 진심으로 말씀드리고 싶은 것은 다양한 세상을 경험한 사람들이 테이블에 앉아 '이게 적절한가? 이것이 문제를 해결할 수 있는가? 올바른 데이터인가? 무엇이 잘못될 수 있는가? 어떤 피해가 발생할 수 있는가?'와 같은 질문들을 할 수 있어야 합니다"라고 보이노디리스가 말했습니다.

마지막으로, 조직을 위해 이러한 AI 모델을 구축하고 관리하는 사람이나 팀은 여러 분야에 걸쳐 전문성을 갖춰야 합니다. 사회학자, 인류학자, 법률 전문가와 같은 다양한 배경을 가진 개인으로 구성된 팀을 구성하는 것이 AI를 책임감 있게 만드는 핵심입니다.

보이노디리스에 따르면 AI에 대한 일반적인 통념 중 하나는 100% 코딩을 해야 한다는 것입니다. 그녀는 이는 사실이 아니라고 말합니다.

"우리는 노력의 70% 이상이 이 데이터가 사용하기에 적절한지 파악하는 데 쓰인다는 사실을 잘 알고 있습니다. 데이터에 대해 제가 가장 좋아하는 정의는 데이터가 인간 경험의 산물이라는 것입니다"라고 보이노디리스는 말합니다.

보이노디리스에 따르면 데이터를 생성하고 데이터를 생성하는 기계를 만드는 것은 인간이지만, 모든 사람은 편견(정확히 188가지)을 가지고 있다는 것을 인식해야 합니다. 인간은 태초부터 이러한 편견을 가지고 있었고 그럴 만한 이유가 있습니다. 

보이노디리스는 AI가 사람의 편견을 거울에 다시 반영한다는 점에서 AI를 거울에 비유합니다. 결국 중요한 것은 그 ‘거울’을 마주 볼 용기를 갖고, 그 반영된 모습이 조직의 가치와 일치하는지를 스스로 판단하는 일입니다.

이러한 AI 모델을 담당하는 조직은 특정 데이터를 선택하거나 특정 접근 방식을 채택한 이유, 한 방법론을 다른 방법론보다 우선한 이유 등에 대해 투명하게 공개해야 합니다. 또한 AI 솔루션에 대한 사실 정보 시트를 작성해 모델에 관한 주요 정보를 명확히 밝혀야 합니다.

예를 들어, 해당 모델의 적절한 사용 목적, 데이터 출처, 사용한 방법론, 책임자는 누구인지, 언제 어떤 주기로 감사를 받는지, 무엇을 기준으로 감사를 진행하는지, 그 결과는 어떠했는지 등을 포함해야 합니다.

이와는 별도로, 사람들은 자신이 마주한 반영된 모습이 자신의 가치관과 일치하지 않는다는 사실을 인식할 만큼의 자기 인식력을 갖춰야 합니다. 만약 그렇지 않다면, 접근 방식을 바꿔야 합니다.

“‘내 AI 모델에는 전혀 편향이 없다’는 말을 들을 때는 이 점을 기억하세요. 모든 데이터에는 편향이 있습니다. 핵심은, 왜 이 데이터를 모델에 반드시 포함해야 한다고 생각했는지, 그 이유를 투명하게 밝히는 것입니다.”라고 보이노디리스는 말합니다. 그리고 우리의 관점과 신념은 시간이 흐르며 변화할 수 있으므로, 늘 자신을 돌아보는 태도를 잊지 말아야 합니다.

AI에 대한 신뢰는 주어지는 것이 아니라 획득하는 것입니다. 팀원들과 편견의 근원에 대해 치열한 대화를 나누고, 책임감 있고 신뢰할 수 있는 AI 모델을 만드는 것은 선형적이지 않으며 노력이 필요하다는 점을 인식하세요.