AI 거버넌스란 무엇인가요?

AI 거버넌스는 다양한 운영 방식, 프로토콜, 보호 장치, 시스템 및 툴을 포괄합니다. AI 거버넌스 분야의 전문가들은 새로운 AI 모델을 개발하고 학습시키기 위한 방법과 정책을 수립하는 한편, 이러한 모델을 활용하기 위한 운영 지침과 적절한 사람의 감독 아래 다층적인 안전 체계를 구축하기 위한 소프트웨어 및 다양한 기술을 마련하고 있습니다. 

AI 모델은 머신 러닝(ML) 및 딥 러닝(DL) 알고리즘과 마찬가지로 궁극적으로 사람이 생성한 데이터를 기반으로 학습됩니다. 따라서 AI 시스템은 사람의 편향을 그대로 반영할 가능성이 있습니다. 이러한 편향을 제대로 관리하지 않으면 AI 시스템은 개인은 물론 사회 전체에 심각한 피해를 초래할 수 있습니다. AI 거버넌스 정책은 이러한 차별적이거나 위험한 결과를 초래할 수 있는 오류를 예방하고 바로잡는 것을 목표로 합니다. 

효과적인 AI 거버넌스 감독 체계는 편향, 개인정보 침해 및 오용과 같은 위험을 관리하는 동시에 혁신을 촉진하고 신뢰를 구축합니다. 윤리적인 AI 중심 거버넌스를 구현하려면 사람의 감독과 함께 개발자, 사용자, 정책 입안자 및 윤리학자를 비롯한 다양한 이해관계자의 참여가 필요합니다. 현대적이고 견고한 AI 거버넌스 정책을 구축하면 AI 시스템이 사회적·윤리적 가치를 준수하도록 지원할 뿐 아니라, 다양한 AI 활용 분야에서 취약점을 완화하고 위험 수준을 낮추는 데도 도움이 됩니다. 

AI 시스템이 지속적으로 발전함에 따라 AI 거버넌스 체계 역시 글로벌 표준을 마련하고 이를 충족할 수 있도록 계속 발전하고 있습니다. 규제 요건을 충족하는 것은 거버넌스 프로그램에 투자하는 중요한 이유 중 하나이지만, 이러한 솔루션의 가치는 단순한 규정 준수에 그치지 않습니다. 데이터 프라이버시, 데이터 보안 및 데이터 접근 관리를 강화하여 법적 책임 위험을 사전에 줄이는 데에도 기여합니다.  

AI 거버넌스는 AI 시스템과 관련된 잠재적인 위험을 체계적으로 관리할 수 있는 접근 방식을 제공합니다. 데이터 거버넌스와 지속적인 모니터링 같은 프로토콜과 운영 방식을 통해 AI 거버넌스 정책은 AI 툴을 효과적으로 평가하고 관리할 수 있습니다. AI 거버넌스를 올바르게 구현하면 모델 학습에 사용되는 데이터세트부터 AI 기반 솔루션의 실행에 이르기까지 AI 파이프라인 전반에서 잘못되거나 유해한 의사결정이 이루어지는 것을 방지할 수 있습니다.     

간단히 말해 AI 거버넌스는 AI의 동작이 윤리 기준과 사회적 기대에 부합하도록 필요한 감독 체계와 방법론을 마련하고, 이를 통해 사용자, 제공자 및 의도치 않게 관련되는 제3자를 우발적인 부정적·유해하거나 불공정한 영향으로부터 보호하는 역할을 합니다.

AI 거버넌스는 AI 기술을 개발하고 활용하는 과정에서 규정 준수와 신뢰를 확보하고 운영 효율성을 높이는 데 필수적입니다. AI가 조직과 정부의 운영 전반에 점점 더 깊이 통합되면서 AI가 초래할 수 있는 부정적인 영향도 더욱 분명하게 드러나고 있습니다. 실제로 IBM 기업가치연구소(IBV)의 연구에 따르면 기업 리더의 80%는 AI의 설명 가능성, 윤리성, 편향 또는 신뢰를 생성형 AI 도입의 주요 장애물로 인식하고 있습니다. AI 거버넌스는 신뢰를 구축하고 AI 기술 활용으로 발생할 수 있는 잠재적인 부정적 영향을 예방함으로써 이러한 과제를 해결하고자 합니다. 

AI 거버넌스가 부재한 AI 시스템의 위험성을 보여주는 여러 사건이 큰 주목을 받았습니다. 대표적인 사례로 Microsoft의 Tay 챗봇은 관리되지 않은 데이터세트로 학습한 결과 소셜 미디어 게시물의 유해한 행동을 그대로 따라 하기 시작했습니다. 이 사건도 문제가 되었지만, AI COMPAS 소프트웨어의 결함은 훨씬 더 심각한 결과를 초래했습니다. 형사 양형에 사용된 AI 모델의 내재된 편향은 부당한 형사 처분으로 이어졌으며, AI 시스템에 대한 대중의 신뢰를 구축하고 유지하는 데 AI 거버넌스가 얼마나 중요한지를 다시 한번 보여주었습니다. 

이러한 사례는 적절한 감독이 없을 경우 AI가 사회적·윤리적으로 심각한 피해를 초래할 수 있음을 보여주며, 고도화된 AI와 관련된 위험을 관리하는 데 거버넌스가 얼마나 중요한지를 강조합니다. AI 거버넌스는 지침과 프레임워크를 제공하여 기술 혁신과 안전성의 균형을 맞추고, AI 시스템이 인간의 존엄성과 권리를 침해하지 않도록 지원하는 것을 목표로 합니다.

AI 시스템이 어떤 방식으로 의사결정을 내리는지 이해하고 그 결과에 대한 책임을 물을 수 있도록 하는 것은 이러한 시스템이 공정하고 윤리적인 판단을 내리도록 보장하기 위한 AI 거버넌스의 핵심 요소입니다. AI 시스템은 어떤 사용자에게 어떤 광고를 보여줄지 결정하는 일부터 대출 자격을 심사하는 일까지, 사소한 결정부터 중요한 결정에 이르기까지 다양한 의사결정에 활용되고 있습니다. 이러한 시스템을 활용할 때는 AI를 책임감 있게 사용하고 신뢰를 구축하기 위해 투명한 의사결정과 설명 가능성이 무엇보다 중요합니다. 

또한 AI 거버넌스는 일회성 규정 준수를 보장하는 데 그치지 않고, 시간이 지나도 윤리 기준을 지속적으로 유지하는 데 목적이 있습니다. AI 모델은 드리프트가 발생할 수 있으며, 그 결과 출력 품질과 신뢰성이 달라질 수 있습니다. 최근 AI 거버넌스는 단순한 법적 규정 준수를 넘어서는 방향으로 발전하고 있습니다. 최근에는 AI의 윤리적인 성장과 발전을 촉진하는 동시에 재정적, 법적 및 평판상의 피해를 방지하는 AI 개발과 활용 과정에서의 사회적 책임 노력이 점점 더 중요하게 평가받고 있습니다.

AI 거버넌스의 사례에는 조직, 기업, 규제 기관 및 정부가 AI 기술의 책임 있는 활용을 촉진하기 위해 시행하는 다양한 정책, 프레임워크 및 운영 방식이 포함됩니다. 다음 사례는 다양한 환경에서 AI 거버넌스가 어떻게 이루어지는지 보여줍니다.

일반 데이터 보호 규정(GDPR): 개인 데이터 보호 및 개인정보 보호와 관련이 깊은 AI 거버넌스의 예입니다. GDPR이 AI에만 초점을 맞춘 것은 아니지만 많은 조항이 AI 시스템, 특히 유럽 연합 내 개인의 개인 데이터를 처리하는 시스템과 깊이 관련되어 있습니다.

경제협력개발기구(OECD): 40개국 이상이 채택한 OECD AI 원칙은 AI 시스템의 투명성, 공정성 및 책임성을 촉진하는 지침을 포함하여 신뢰할 수 있는 AI를 책임감 있게 관리하는 것을 강조합니다.

AI 윤리 위원회: 많은 기업은 AI 이니셔티브를 감독하고 윤리 기준 및 사회적 가치에 부합하도록 하기 위해 전담 AI 윤리 위원회 또는 위원회를 운영하고 있습니다. 이러한 위원회에는 법률, 기술 및 정책 분야의 다양한 부서가 참여하는 크로스펑셔널 팀이 포함되는 경우가 많습니다. IBM은 2019년부터 AI 윤리 위원회를 통해 새로운 AI 제품과 서비스를 검토하여 IBM의 책임 있는 AI 원칙에 부합하는지 확인하고 있습니다.

 IBM 기업가치연구소(IBV)의 보고서에 따르면 조직의 80%는 AI 또는 생성형 AI 활용과 관련된 위험을 전담하는 별도의 리스크 관리 조직을 운영하고 있습니다. 

기업 차원에서는 CEO와 경영진이 AI 라이프사이클 전반에 걸쳐 AI 거버넌스를 구현할 최종 책임을 지며, 일반적으로 정책 실행과 관련된 실무는 CTO와 그 산하 조직 등 관련 이해관계자에게 위임합니다. AI 거버넌스는 광범위한 규제와 관련되어 있으므로 법무 부서와 법률 책임자는 위험을 평가하고 완화하는 핵심 이해관계자이며, AI 애플리케이션이 관련 법률 및 규제 요건을 준수하도록 하는 역할을 담당하는 경우가 많습니다. 

조직 규모에 따라서는 전담 감사 팀이 운영 중인 AI 시스템의 데이터 무결성을 검증하고, 오류나 편향 없이 의도한 대로 작동하는지 확인하는 역할을 맡을 수 있습니다. 규모가 작은 조직에는 전담 감사 팀이 없을 수도 있지만, AI 기술에 대한 투자와 활용이 확대되면서 이러한 조직과 역할의 중요성도 점점 커지고 있습니다.

AI 거버넌스가 재무와 관련되는 경우에는 일반적으로 CFO와 그 산하 조직이 AI 이니셔티브와 관련된 비용을 관리하며, 여기에는 조직과 잠재적으로 고객의 재무적 위험을 완화하기 위해 마련된 거버넌스 조치도 포함됩니다. 

그러나 AI 거버넌스의 책임은 특정 개인이나 부서에만 있는 것이 아닙니다. 모든 리더, 이해관계자 및 팀원이 책임성을 최우선으로 삼고 조직 전반에서 AI 시스템이 책임감 있고 윤리적으로 활용되도록 함께 노력해야 하는 공동의 책임입니다. 

책임 있는 AI 거버넌스를 우선시하고, 체계적인 직원 교육에 투자하며, 개방적인 소통과 협업이 이루어지는 투명한 문화를 조성함으로써 관리자와 경영진은 모든 직원에게 AI를 책임감 있고 윤리적으로 활용해야 한다는 분명한 메시지를 전달할 수 있습니다. 

CEO와 경영진은 조직의 전반적인 방향과 문화를 설정할 책임이 있지만, AI 파이프라인 전반에서 요구되는 지속적인 거버넌스 모니터링을 위해서는 AI와 관련된 심각한 위험을 고려하여 모든 이해관계자가 이 강력한 기술이 적절하게 활용되도록 각자의 역할을 수행해야 합니다. 

AI 기술이 수많은 산업과 다양한 활용 사례에서 가져올 혁신적 변화는 아직도 계속 구체화되고 있습니다. 텍스트, 이미지, 오디오, 비디오 및 코드를 생성할 수 있는 ChatGPT, Claude, Midjourney와 같은 최신 생성형 AI 모델의 등장은 대중에게 무한한 가능성을 제시하며 큰 관심과 기대를 불러일으켰습니다. 

하지만 많은 예술가가 이러한 창작 툴에서 영감을 얻는 반면, 이를 위협적인 존재로 여기는 사람들도 많습니다. 기존 창작물을 학습한 초기 모델은 저작권이 있는 지식재산을 출처 표시 없이 재해석한 결과물을 생성하는 것으로 보여 표절 논란에 휩싸이기도 했습니다. 

이러한 우려에 대응하기 위해 현재의 모델은 학습 데이터 검증 정책을 더욱 엄격하게 적용하여, 모델 학습에 사용되는 모든 저작물이 적절한 라이선스를 확보하도록 하고 있습니다. AI 거버넌스는 창작 활동을 지원하는 이러한 유용한 툴이 지속적으로 규정을 준수하고 윤리적으로 활용되도록 하는 데 중요한 역할을 하고 있습니다. 

미디어 제작을 넘어 에이전틱 AI와 같은 새로운 AI 유형은 반복적인 업무를 자동화하여 법률과 약학처럼 서로 다른 다양한 분야에서 생산성과 연구를 향상하는 데 활용되고 있습니다. 코딩과 소프트웨어 개발부터 천문학과 물리학에 이르기까지 AI는 다양한 산업의 운영 방식을 변화시키고 있습니다. 하지만 AI의 활용 범위가 넓어질수록 더욱 철저한 AI 거버넌스의 필요성도 함께 커지고 있습니다.   

책임감 있는 AI 거버넌스의 원칙은 조직이 자사와 고객을 보호하는 데 필수적입니다. AI 기술을 윤리적으로 개발하고 활용하도록 조직을 안내하는 주요 원칙은 다음과 같습니다.

• 공감: 조직은 AI의 기술적·재무적 측면뿐 아니라 사회에 미치는 영향까지 함께 이해해야 합니다. 조직은 공급자뿐 아니라 클라이언트, 고객, 그리고 AI 엔진의 사용과 그 결과로 영향을 받는 모든 사람의 우려를 공감하는 자세로 이해하고, 이들 모두에게 미치는 영향을 미리 예측하고 대응해야 합니다. 
  
  
• 편향 제어:  실제 환경의 편향이 AI 알고리즘에 반영되지 않도록 학습 데이터를 철저히 검토하여 공정하고 편향되지 않은 의사결정이 이루어지도록 해야 합니다. 편향 제어는 형사 양형이나 의료 진단처럼 AI의 의사결정이 특정 사회적 취약 계층에 불공정한 영향을 미칠 수 있는 상황에서 특히 중요합니다.  
  
  
• 투명성: AI 알고리즘이 어떻게 작동하고 의사결정을 내리는지 명확하고 투명해야 하며, 조직은 AI가 도출한 결과의 논리와 근거를 설명할 수 있어야 합니다. AI의 의사결정으로 문제가 발생할 경우에는 AI 모델이 어떤 이유와 과정을 거쳐 해당 결론에 이르렀는지 파악할 수 있도록, 문제가 될 수 있는 의사결정 과정을 분석하고 우선적으로 검토할 수 있는 방법을 마련하는 것이 중요합니다. 
  
  
• 책임감: 조직은 AI가 가져올 수 있는 중대한 변화에 대응할 수 있도록 높은 기준을 선제적으로 마련하고 이를 준수하며, AI가 미치는 영향에 대한 책임을 지속적으로 져야 합니다. 예를 들어 의사가 엑스레이와 같은 환자의 검사 결과를 판독할 경우, 그 데이터를 해석하여 내린 결론과 그에 따른 조치에 대한 책임은 명확하게 의사에게 있습니다. AI 시스템이 의료 정보를 분석하여 더 빠르고 정확한 진단을 제공하기 시작하면서, AI 파이프라인 전반에서 책임 체계를 명확히 확립하고 의사의 책임이 어디까지이며 AI 모델의 책임은 어디서부터 시작되는지를 구분하는 것이 매우 중요해지고 있습니다. 
  

규제와 시장의 영향으로 많은 거버넌스 지표가 표준화되고 있지만, 각 조직은 자사의 비즈니스 특성에 맞는 지표를 어떻게 정의할지 직접 결정해야 합니다. AI 거버넌스의 효과를 평가하는 방식은 조직마다 다를 수 있으며, 각 조직은 어떤 평가 기준을 우선시할지 스스로 결정해야 합니다. 데이터 품질, 모델 보안, 비용 대비 가치 분석, 편향 모니터링, 개인의 책임, 지속적인 감사 및 적응성과 같은 다양한 고려 사항은 조직이 속한 분야에 따라 달라지므로, AI 거버넌스는 모든 조직에 동일하게 적용되는 획일적인 해결책이 될 수 없습니다.

예를 들어 사이버 보안이 위협 대응 수준을 정의하는 방식과 같이 AI 거버넌스에는 보편적으로 표준화된 '수준'이 없습니다. 대신 AI 거버넌스는 조직이 특정 요구 사항에 맞게 채택하거나 조정할 수 있도록 다양한 주체가 개발한 구조화된 접근 방식과 프레임워크가 있습니다.

조직은 여러 프레임워크와 지침을 활용하여 거버넌스 관행을 개발할 수 있습니다. 널리 활용되는 프레임워크로는 NIST AI 위험 관리 프레임워크, OECD 인공지능 원칙, 그리고 유럽연합 집행위원회의 신뢰할 수 있는 AI를 위한 윤리 지침이 있습니다. 이러한 프레임워크는 투명성, 책임성, 공정성, 프라이버시, 보안 및 안전성을 비롯한 다양한 요소에 대한 지침을 제공합니다.

AI 거버넌스의 수준은 조직의 규모, 사용 중인 AI 시스템의 복잡성, 그리고 조직이 속한 규제 환경에 따라 달라질 수 있습니다.

다음은 AI 거버넌스 접근 방식의 일반적인 예이며, 모든 사례를 포괄하는 것은 아닙니다.

AI 거버넌스는 다양한 구체적 과제에 대응하기 위해 정책, 지침 및 프레임워크를 포함하는 견고한 통제 체계를 구축하는 것을 의미합니다. 여기에는 AI 시스템을 지속적으로 모니터링하고 평가하여 확립된 윤리 규범과 법적 규정을 준수하도록 보장하는 메커니즘을 마련하는 것이 포함됩니다.

AI를 기반으로 한 자동화가 의료, 금융, 운송, 공공 서비스 등 다양한 분야에서 널리 활용됨에 따라 AI 거버넌스의 중요성은 더욱 커지고 있습니다. AI의 자동화 기능은 효율성, 의사결정 및 혁신을 크게 향상시킬 수 있지만, 동시에 책임성, 투명성 및 윤리와 관련된 새로운 과제도 함께 초래합니다.

효과적인 AI 거버넌스 체계는 기술, 법률, 윤리 및 비즈니스를 비롯한 다양한 분야의 이해관계자가 함께 참여하는 다학제적 접근 방식을 기반으로 합니다. AI 시스템이 더욱 고도화되어 사회의 핵심 영역에 깊이 통합될수록 AI 개발의 방향과 사회적 영향을 올바르게 이끌어 나가는 AI 거버넌스의 역할은 더욱 중요해지고 있습니다.

단순한 규정 준수를 넘어서는 AI 거버넌스 모범 사례를 구현하려면 AI 애플리케이션을 모니터링하고 관리할 수 있는 더욱 견고한 체계를 구축하기 위한 전략적 접근이 필요합니다. 엔터프라이즈 기업에서 사용하는 AI 거버넌스 솔루션은 AI 시스템 전반에 대한 폭넓은 감독과 통제를 지원해야 합니다. 

일반적인 AI 거버넌스 로드맵에는 다음과 같은 요소가 포함될 수 있습니다.

1.    시각적 대시보드: 대시보드는 AI 시스템의 상태와 운영 현황을 실시간으로 제공하여 현재 상황을 한눈에 파악하고 신속하게 평가할 수 있도록 지원합니다.

2.    상태 점수 지표: AI 모델의 전체 상태 점수는 여러 데이터 포인트를 직관적이고 이해하기 쉬운 하나의 통합 지표로 집계하여 시스템 상태를 한눈에 모니터링할 수 있도록 합니다.  

3.    Automated monitoring: 편향, 드리프트, 성능 및 이상 징후를 자동으로 탐지하는 시스템을 활용하면 사람이 24시간 상시 모니터링하지 않아도 모델이 올바르고 윤리적으로 작동하도록 지원할 수 있습니다.  

4.    성능 알림: 모델이 미리 정의된 성능 기준에서 벗어날 경우 자동으로 성능 알림을 제공하여 발생할 수 있는 문제에 신속하게 대응할 수 있도록 합니다.

5.    사용자 지정 지표: 조직의 핵심 성과 지표(KPI)와 임계값에 맞춘 사용자 지정 지표를 활용하면 AI 결과가 조직의 비즈니스 목표 달성에 기여하도록 할 수 있습니다.  

6.    감사 추적: 쉽게 접근할 수 있는 로그와 감사 추적 기록은 책임성을 강화하고 AI 시스템의 의사결정 과정과 동작을 검토하는 데 도움을 줍니다.

7.    오픈 소스 호환성: 오픈 소스 툴은 동작하는 코드를 공개적으로 검토할 수 있도록 하여 투명성을 높입니다. 그 결과 이러한 툴에는 최신 보안 위험 완화 방안이 반영되는 경우가 많습니다. 또한 최신 오픈 소스 머신 러닝 개발 플랫폼과의 호환성을 유지하면 AI 거버넌스 프레임워크는 오픈 소스 소프트웨어의 유연성과 커뮤니티 지원의 이점을 활용할 수 있습니다.

8.    원활한 통합: 가장 효과적인 AI 거버넌스 플랫폼은 데이터베이스와 소프트웨어 생태계를 포함한 기존 인프라와 원활하게 통합되도록 설계되어 데이터 사일로를 방지하고 효율적인 워크플로를 지원합니다.

조직은 이러한 관행을 준수함으로써 책임감 있는 AI 개발하고 배포 및 관리를 지원하는 강력한 AI 거버넌스 프레임워크를 구축하여 AI 시스템이 윤리적 표준 및 조직 목표에 부합하고 규정을 준수하도록 보장할 수 있습니다.

편향성과 차별을 방지하기 위해 여러 국가에서 AI 거버넌스 관행과 AI 규정을 채택하고 있습니다. 규제는 항상 가변적이기 때문에 복잡한 AI 시스템을 관리하는 조직은 지역별 프레임워크의 발전에 따라 이를 면밀히 주시해야 한다는 점을 기억해야 합니다.

유럽연합의 인공 지능법, 또한 EU AI 법 또는 AI 법으로 알려진 것은 유럽연합(EU)에서 인공 지능 (AI)의 개발 또는 사용을 규율하는 법률입니다. 이 법안은 규제에 대한 위험 기반 접근 방식을 취하며 AI가 제기하는 위험에 따라 다양한 규칙을 적용합니다. 2024년 8월부터 공식 시행된 AI Act는 일부 예외를 제외하고 시행일로부터 2년 이내에 전면 적용됩니다. 예를 들어 규제 대상 제품에 탑재된 고위험 AI 시스템에 대한 규정은 전환 기간이 연장되어 2027년까지 적용이 유예됩니다.

AI에 대한 세계 최초의 포괄적인 규제 프레임워크로 간주되는 EU AI 법은 일부 AI 사용을 완전히 금지하고 다른 AI에 대해 엄격한 거버넌스, 위험 관리 및 투명성 요구 사항을 구현합니다.

이 법안은 또한 IBM의 Granite와 Meta의 Llama 3 오픈 소스 파운데이션 모델과 같은 범용 인공 지능 모델에 대한 규칙을 제정합니다. 벌금은 위반 유형에 따라 750만 유로(전 세계 연간 매출액의 1.5%)에서 3,500만 유로(전 세계 연간 매출액의 7%)까지 부과될 수 있습니다.

2025년 7월, 유럽연합 집행위원회는 GPAI 모델의 책임감 있고 윤리적인 개발 및 배포를 지원하기 위한 세 가지 도구를 발표했습니다.

• AI 가치 사슬 전반에서 개발자와 서비스 제공자의 책임을 명확히 하고 GPAI 제공자의 의무를 구체적으로 설명하는 가이드라인 
• AI Act를 지속적으로 준수할 수 있도록 투명성, 저작권, 안전 및 보안에 관한 실질적인 지침을 제공하는 자율적 규정 준수 툴인 GPAI 실행 규범
• AI 모델 학습에 사용된 데이터세트를 투명하게 공개하도록 요구하는 GPAI 모델 학습 콘텐츠 공개 요약 템플릿

과거 미국의 SR-11-7은 은행권에서 효과적이고 강력한 모델 거버넌스를 위한 규제 표준으로 활용되었습니다.¹ 이 규정은 은행이 조직 전반에 걸쳐 모델 위험 관리 체계를 운영하고, 현재 운영 중인 모델뿐 아니라 구축 중인 모델과 최근 사용이 종료된 모델까지 포함한 모델 인벤토리를 유지하도록 요구했습니다. 그러나 2026년 4월 17일 미국 연방준비제도는 Revised Guidance on Model Risk Management(SR-26-2)를 발표하여 SR-11-7을 대체했습니다. 연방준비제도(Federal Reserve), 통화감독청(OCC), 연방예금보험공사(FDIC)가 공동으로 발표한 개정 모델 위험 관리 지침은 기존의 획일적인 거버넌스 요구 사항에서 벗어나 기관의 규모, 복잡성 및 모델 위험 프로필에 따라 규제 기대 수준을 달리하는 보다 명확한 위험 기반의 비례적 접근 방식으로 전환했습니다.

해당 기관의 경영진은 자사의 모델이 원래 의도한 비즈니스 목적을 실제로 달성하고 있으며, 최신 상태를 유지하고 있고 모델 드리프트가 발생하지 않았음을 입증해야 합니다. 모델에 익숙하지 않은 사람도 모델 개발 및 검증을 통해 모델의 작동, 한계 및 주요 가정을 이해할 수 있어야 합니다.

이러한 은행권 중심의 규제 외에도 미국 백악관은 2026년 3월 A National Policy Framework for Artificial Intelligence를 발표했습니다. 이 프레임워크는 의회가 AI 거버넌스와 관련된 다음의 여섯 가지 핵심 "정책 과제"를 다룰 것을 권고합니다. 

1. 아동 보호 및 부모의 역할 강화
2. 미국 지역사회 보호 및 강화
3. 지식재산권 존중 및 창작자 지원
4. 검열 방지 및 표현의 자유 보호  
5. 혁신 촉진 및 미국의 AI 경쟁력 확보
6. 국민 교육 및 AI 시대에 대비한 인재 양성

캐나다의 Directive on Automated Decision-Making은 캐나다 정부가 여러 부처에서 AI를 활용해 의사결정을 지원하는 방식을 규정한 지침입니다.² 이 지침은 국민을 위한 AI 툴에 필요한 사람의 개입 수준, 동료 검토, 모니터링 및 비상 대응 계획을 평가하기 위해 점수 체계를 사용합니다.

높은 점수를 받은 AI 솔루션을 개발하는 조직은 두 차례의 독립적인 동료 검토를 수행하고, 일반인이 이해하기 쉬운 언어로 사전 공지를 제공하며, 사람의 개입을 위한 안전장치를 마련하고, 해당 시스템에 대한 정기적인 교육 과정을 운영해야 합니다. 다만 Directive on Automated Decision-Making은 캐나다 정부의 AI 개발을 위한 지침이므로 미국의 SR-11-7처럼 기업에 직접 적용되는 규정은 아닙니다.

최초의 지침을 발표한 이후 캐나다 정부는 가장 최근에 AI Strategy for the Federal Public Service 2025–2027을 발표했으며, 책임 있는 AI 도입을 통해 캐나다 국민에게 더 나은 서비스를 제공하기 위해 공공 부문과 민간 부문 모두를 고려한 추가 방안을 제시했습니다.

2021년 4월, 유럽연합 집행위원회는 우수성과 신뢰에 대한 유럽적 접근 방식 육성에 관한 성명과 AI에 대한 법적 프레임워크 제안을 포함한 AI 패키지를 발표했습니다.³

이 전략은 대부분의 AI 시스템은 '최소 위험(minimal risk)' 범주에 속하지만, '고위험(high risk)'으로 분류되는 AI 시스템에는 더욱 엄격한 요구 사항이 적용되며, '허용 불가 위험(unacceptable risk)'으로 판단되는 시스템은 금지된다고 명시하고 있습니다. 조직은 이러한 규정을 면밀히 준수해야 하며, 그렇지 않을 경우 과징금이 부과될 수 있습니다.

2023년 중국은 생성형 인공지능 서비스 관리 잠정조치를 발표했습니다. 이 법에 따르면 생성형 AI 서비스의 제공 및 이용은 "타인의 정당한 권익을 존중해야 하며", "타인의 신체적·정신적 건강을 해쳐서는 안 되고, 타인의 초상권, 명예권, 명성권, 프라이버시권 및 개인정보 권리를 침해해서도 안 된다"고 규정하고 있습니다.

아시아·태평양 지역의 다른 국가들도 AI 거버넌스를 위한 다양한 원칙과 지침을 발표했습니다. 싱가포르 정부는 2024년 생성형 AI 개발을 위한 거버넌스 프레임워크 초안을 발표했으며, 2026년에는 에이전틱 AI를 위한 AI 거버넌스 모델 프레임워크도 공개했습니다. 또한 인도, 일본, 대한민국 및 태국 역시 AI 거버넌스를 위한 지침과 관련 법률을 마련하기 위한 검토를 진행하고 있습니다.³