AI 규정 준수: 정의, AI가 중요한 이유, 시작하는 방법

크고 작은 기업 모두에게 인공 지능(AI)은 혁신, 기회, 경쟁 우위 등 다양하고 흥미로운 단어와 관련이 있습니다. 하지만 그 목록에 포함되어야 하는 또 다른 단어가 있습니다. 바로 규정 준수입니다.

약 73%의 기업이 이미 분석 및 생성형 AI를 사용하고 있으며, 최고 성과를 내는 CEO의 72%는 누가 가장 발전된 AI를 사용하느냐에 따라 경쟁 우위가 달라진다고 말합니다.¹

하지만 AI 활용의 붐과 그 흥미로운 잠재력과 함께 AI 기반 기술의 윤리와 안전성 에 대한 우려도 커지고 있습니다. 결함이 있는 개발이 차별을 영속화하는 편향된 알고리즘(예: 채용, 법 집행 또는 재정적 결정)으로 이어진다면 그 결과는 끔찍하고 오래 지속될 수 있습니다.

이에 따라 기업, 국가, 정책 입안자들은 AI 거버넌스를 검토하고 AI의 사용 및 개발 방식에 대한 새로운 규칙을 정하고 있습니다. AI 규정 준수가 무엇인지, 비즈니스에 왜 중요한지, 빠르게 진화하는 규제 환경에서 규정 준수를 유지하기 위해 기업이 취할 수 있는 조치는 무엇인지 살펴보세요.

AI 규정 준수는 기업이 AI 시스템 사용에 적용되는 법률과 규정을 준수할 수 있도록 하는 결정과 관행을 말합니다. 이러한 표준에는 조직이 책임감 있게 AI 모델과 알고리즘을 개발하도록 돕기 위해 고안된 법률, 규정 및 내부 정책이 포함됩니다.

그러나 AI 규정 준수 프로세스는 법적 요구 사항을 충족하는 것 이상의 의미가 있습니다. 또한 이해관계자와의 신뢰를 구축하고 의사 결정의 투명성과 공정성을 증진하기 위한 것입니다. 또한 안전에 필수적인 요소이기도 합니다. AI는 악의적인 행위자에 의해 악용될 수 있으므로 강력한 사이버 보안 조치와 위험 관리 전략은 AI 규정 준수의 핵심입니다.

AI 규정 준수 프로세스는 기업이 AI 툴 사용과 관련된 재무, 법률 및 평판 위험을 피할 수 있도록 도와줍니다.

AI를 더 많이 사용할수록 기술이 예상치 못한 방향으로 전환되거나 잘못된 방향으로 전환되는 상황에 더 많이 직면할 수 있습니다. 예를 들어, 한 회사는 AI 채용 툴이 학습에 사용된 자료로 인해 성차별을 지속시킨다는 사실을 알게 된 후 이를 포기했습니다.² 그리고 조사에 따르면 일부 알고리즘 기반 대출 신청이 유색인종 신청자에 대한 차별을 초래할 수 있는 것으로 나타났습니다.³

이러한 문제에 대한 우려로 인해 기업에서 AI를 개발하고 사용하는 방식을 표준화하려는 노력이 활발해지고 있습니다. 2024년, 유럽연합은 EU AI 법의 출범과 함께 AI 관련 규정을 시행하는 최초의 주요 시장이 되었습니다. 미국, 중국 등 다른 관할 구역에서도 자체적인 AI 규정을 개발 중입니다.

규정 미준수는 많은 비용을 초래할 수 있습니다. EU의 일반 데이터 보호 규정(GDPR)에 따라 기업은 최대 2천만 유로 또는 전 세계 연간 매출액의 4% 중 더 높은 금액의 벌금을 부과받을 수 있습니다. 미국에서는 연방거래위원회(FTC)가 편향된 머신 러닝 알고리즘 사용과 같은 AI 관련 위반 행위에 대해 기업에 집행 조치를 취할 수 있습니다.⁴

규정 준수는 브랜드 평판을 보호하는 데에도 필수적입니다. KPMG의 2024년 설문조사에 따르면 소비자의 78%는 AI를 사용하는 조직이 AI가 윤리적으로 개발되도록 지원할 책임이 있다고 생각합니다.⁵ 그렇게 하지 않으면 비즈니스와 소비자의 신뢰를 잃을 수 있습니다.

AI 시스템의 신뢰성, 투명성, 책임성을 확보함으로써 기업은 혁신을 주도하고 효율성을 개선하며 시장에서 경쟁 우위를 확보할 수 있습니다.

규정 준수가 하나의 명확한 요구 사항을 충족하는 것이라면 앞으로 나아가는 길은 간단할 것입니다. 그러나 AI 기술이 빠르게 발전함에 따라 이를 관리하기 위한 다양한 지침도 빠르게 발전하고 있습니다.

기술 자체가 규정 준수 활동을 복잡하게 만듭니다. 특히 많은 AI 시스템이 실시간으로 작동하기 때문에 AI 모델과 알고리즘을 이해하고 해석하는 것은 기술적으로 까다로울 수 있습니다. 이러한 속도로 진화하는 규제에 보조를 맞추는 것은 어려울 수 있으며, AI의 빠른 발전 속도로 인해 기업은 규정 준수 프로그램을 지속적으로 조정해야 합니다.

국가들은 전 세계적으로 기술을 관리하는 방식을 재편할 수 있는 AI 표준을 제정하는 과정에 있습니다. 이러한 AI 관련 법률 및 규정 외에도 기업과 AI 제공업체는 데이터 개인정보 보호, 차별 및 사이버 보안과 관련하여 점점 더 많아지는 규칙을 준수해야 합니다. 문제를 더욱 복잡하게 만드는 것은 이러한 요구 사항이 특정 지역에서 운영되는 회사 및 AI 제공업체뿐만 아니라 해당 지역에서 비즈니스를 수행하는 모든 사람에게 적용된다는 것입니다.

 몇 가지 주요 문제 및 규정은 다음과 같습니다.

유럽의 GDPR은 데이터 개인정보 보호, 데이터 분석 및 개인 데이터 사용에 대한 구체적인 기준을 설정합니다. 세계 최초의 AI 종합 규제 프레임워크로 평가받는 EU AI 법은 특정 AI 사용을 금지하고 그 외에는 위험 관리 및 투명성 요건을 부과합니다. 이는 고위험 시스템에 대해 더 엄격한 의무를 부과하는 위험 기반 AI 규제 접근 방식을 따릅니다.

미국에는 아직 포괄적인 규정이 없지만 연방 및 주 차원에서 다양한 규정 준수 요건이 존재합니다. 예를 들어, 인공 지능 분야에서 미국의 리더십 유지에 관한 행정 명령은 AI 개발 및 사용에 대한 지침을 제시하고 있습니다. 건강 보험 양도 및 책임에 관한 법률(HIPAA) 또는 공정 신용 보고법(FCRA)과 같은 산업별 법률도 AI에 적용될 수 있습니다.

2023년 8월, 중국은 생성형 인공지능 서비스 관리를 위한 임시 조치(Interim Measures for the Management of Generative Artificial Intelligence Services)라는 생성형 AI에 대한 구체적인 규정을 도입했습니다. 이러한 조치에는 데이터 개인정보 보호, 라벨링 및 생성형 AI 라이선싱에 대한 콘텐츠 표준 및 규칙이 포함됩니다. 중국은 또한 AI 기반 추천 알고리즘과 딥페이크와 같은 딥 합성 기술을 대상으로 하는 특정 규정을 가지고 있습니다.

AI 규정 준수는 모든 부문에서 중요하지만 다음과 같은 산업에서 특히 중요합니다.

의료 분야에서 AI의 사용 사례에는 질병 진단, 신약 개발 및 개인 맞춤형 의료가 포함됩니다. 환자의 개인정보를 보호하는 미국 건강 보험 양도 및 책임에 관한 법률(HIPAA)과 같은 규정을 준수하지 않을 경우 벌금 또는 법적 처벌을 받을 수 있습니다. 또한 편향되거나 제대로 훈련되지 않은 알고리즘은 환자에게 오진이나 부적절한 치료 계획을 초래할 수 있습니다.

AI는 사기 탐지 및 위험 평가부터 자금 세탁 방지 활동에 이르기까지 다양한 금융 분야에 활용되고 있습니다. 그러나 이러한 AI 애플리케이션은 미국 공정신용보고법(FCRA) 및 EU의 금융상품투자지침(MiFID II)과 같은 규정을 준수해야 합니다. AI 규정 준수 노력은 알고리즘이 대출 신청 및 기타 주요 의사 결정에서 차별을 하지 못하도록 하는 것을 목표로 합니다.

HR 전문가들은 일상적인 업무를 자동화하고 이력서 심사, 지원자 평가 및 직원 모니터링을 간소화하기 위해 점점 더 많은 AI 기반 툴을 사용하고 있습니다. 그러나 알고리즘이 왜곡되거나 부적절한 데이터로 학습되면 불공정하고 잠재적으로 불법적인 편향성을 초래할 수 있습니다. 차별 금지법 및 데이터 보호 규정을 준수하면 투명성, 공정성 및 개인정보 보호를 보장하는 데 도움이 됩니다.

기업들은 기존의 AI 규제 요건을 준수하고 미래의 규제를 대비해야 한다는 필요성을 점점 더 많이 인식하고 있습니다. 국제적 규정 준수 및 위험 전문가를 대상으로 실시한 한 설문조사에 따르면 응답자의 절반 이상이 데이터 개인정보 보호, 알고리즘 투명성, 인공 지능에 대한 오용 또는 오해에 대해 우려를 표명했습니다.⁶

고위 경영진을 대상으로 한 또 다른 연구에 따르면 80%가 모델에 대한 신뢰와 확신을 구축하기 위해 인공 지능에 대한 책임 있는 접근 방식에 대한 투자를 늘릴 계획인 것으로 나타났습니다.⁷ 그 결과, 많은 기업이 AI 규정 준수를 보장하기 위해 사전 예방적 조치를 취하고 있습니다.

일부 기업에서는 AI의 윤리적 개발과 사용을 위한 내부 정책, 절차 및 책임을 개괄적으로 설명하는 프레임워크를 구축하고 있습니다. 예를 들어, Microsoft는 정기적인 위험 평가 수행, 데이터 보호 조치 구현, 의사 결정의 투명성과 책임성 우선순위 지정 등을 포함하는 책임감 있는 AI Standard를 발표했습니다.⁸ 그리고 2023년에 업데이트된 Google의 AI 원칙은 AI 개발에서 공정성, 투명성, 개인정보 보호의 중요성을 강조하고 있습니다.⁹

또한 기업은 규제 기관 및 업계 이해관계자와 적극적으로 협력하여 규정 변경 및 규정 준수 문제에 대한 정보를 얻고 있습니다. 비즈니스 리더를 대상으로 한 IBM 설문조사에 따르면 74%가 인공 지능에 대해 동료들과 토론에 참여하거나 정책 입안자들과 협력할 계획이 있다고 답했습니다. 이러한 노력은 기업이 새로운 규제에 대비하고 향후 가이드라인 개발에 참여하는 데 도움이 됩니다.

기업은 규정 준수 노력을 간소화하기 위해 다양한 AI 규정 준수 도구 및 기술에 투자하고 있습니다. 예를 들어 설명 가능한 AI(XAI) 도구는 기업이 AI 모델이 내린 결정을 이해하고 해석하는 데 도움이 되며, AI 거버넌스 포트폴리오는 실시간 모니터링 및 감사 기능을 제공할 수 있습니다. IBM® watsonx.governance와 같은 거버넌스 제품은 규정 준수, 위험 평가, 모델 발전 관리를 위한 툴킷을 제공합니다.

AI 기술의 발전이 계속됨에 따라 그 사용과 관련된 위험과 과제 또한 증가하고 있습니다. 핵심은 사전 예방적 접근 방식을 취하는 것, 즉 강력한 AI 거버넌스 프레임워크를 개발하고 구현하는 데 필요한 리소스, 전문 지식 및 기술에 투자하는 것입니다. 또한 AI 시스템의 개발과 사용에 있어 투명성, 책임, 신뢰의 문화를 조성해야 합니다. AI 규정 준수에 우선순위를 두면 기업은 이러한 위험을 완화하고 AI의 잠재력을 최대한 활용할 수 있습니다.