AI 윤리란 무엇인가요?

AI 윤리 문제의 예는 다음과 같습니다.

• 데이터 책임 및 개인정보 보호
• 공정성
• 설명 가능성
• 견고성
• 투명성
• 환경적 지속 가능성
• 포함
• 도덕적 주체성
• 가치 일치
• 책임
• 신뢰
• 기술 오용

오늘날 대부분의 조직은 자동화를 지원하고 데이터 기반 의사결정을 가능하게 하기 위해 AI 도구와 빅데이터를 어느 정도 활용하고 있습니다. 비즈니스 결과를 개선하려는 의도가 일반적으로 있지만, 기업은 AI 애플리케이션에서 예상치 못한 결과를 경험할 수 있으며, 이는 종종 부실한 사전 연구 및 설계와 편향된 데이터 세트 때문입니다. 이러한 문제는 AI 시스템의 윤리적 사용의 중요성을 강조하는 데 도움이 됩니다.

연구 및 데이터 과학 커뮤니티는 이러한 예측 불가능한 결과와 불공정한 결과를 완화하는 데 도움이 되도록 AI 윤리에 대한 지침을 개발했습니다. 선도적인 AI 기업들도 윤리적 기준을 준수하지 않으면 제품, 서비스, 사용자에게 해를 끼칠 수 있다는 것을 알고 있기 때문에 이러한 가이드라인을 마련하는 데 관심을 보였습니다. AI 윤리를 소홀히 하면 평판, 규제 및 법적 위험으로 이어져 많은 벌금을 내야 할 수도 있습니다.

특히 AI와 같은 신기술의 경우 혁신이 정부 규제를 앞지르는 경향이 있습니다. 시간이 지남에 따라 더 많은 정부가 인권과 시민의 자유를 보호하기 위해 법적으로 의무화된 AI 프로토콜을 발표할 것으로 예상할 수 있습니다. EU AI 법과 같은 일부 규정이 존재하지만, 기존의 많은 AI 윤리 지침은 과학자와 산업 단체가 자발적으로 제시한 프레임워크입니다.

학계는 실험 연구 및 알고리즘 개발의 윤리 지침으로 1979년 '벨몬트 보고서(Belmont Report)¹에 설명된 윤리 원칙에 오랫동안 의존해 왔습니다.

이러한 원칙들은 AI 및 머신 러닝의 윤리적인 연구, 설계 및 사용을 위한 기반을 제공할 수 있습니다. 그러나 이러한 시스템들은 인간 피험자를 염두에 두고 고안되었으며, 현대의 생성형 AI 및 에이전틱 AI 시스템보다 훨씬 이전에 개발되었기 때문에 그 자체로는 충분하지 않습니다. 이는 기본 원칙으로 간주되어야 하지만 포괄적인 AI 원칙이 아닙니다.

벨몬트 보고서의 원칙은 다음과 같습니다.

현실 세계에서 AI 기술을 둘러싼 윤리적 논의의 최전선에는 여러 가지 이슈가 있습니다. 이러한 우려는 AI가 사회에 미칠 수 있는 광범위한 잠재적 영향을 반영합니다. 이러한 우려 사항에는 다음이 포함됩니다.

2022년 ChatGPT의 출시는 인공 지능의 진정한 변곡점이었습니다. 법률 문서 작성부터 코드 디버깅에 이르기까지 OpenAI 챗봇의 능력은 거의 모든 산업에 걸쳐 AI가 할 수 있는 일과 적용 방법에 대한 새로운 가능성을 열어주었습니다.

ChatGPT 및 이와 유사한 도구는 광범위한 다운스트림 작업에 적용할 수 있는 AI 모델인 파운데이션 모델을 기반으로 합니다. 파운데이션 모델은 일반적으로 수십억 개의 매개변수로 구성된 대규모 생성 모델이며, 레이블이 지정되지 않은 학습 데이터에 의존하고 자기 지도 학습을 사용합니다. 파운데이션 모델은 흔히 대규모 언어 모델(LLM)이라고도 불리며, 한 맥락에서 학습한 내용을 다른 맥락에 적용할 수 있어 적응성이 뛰어납니다.

그러나 편향, 허위 콘텐츠 생성(신뢰할 수 없거나 오해의 소지가 있는 아웃풋 포함), 설명 가능성 부족 등 파운데이션 모델과 관련된 많은 잠재적 문제와 윤리적 문제가 있습니다. 이러한 문제 중 다수는 일반적으로 AI와 관련이 있지만, 파운데이션 모델의 힘과 가용성에 비추어 볼 때 새로운 긴급성을 띠고 있습니다.

파운데이션형 AI와 생성형 AI는 규모, 범용성, 다양한 영역에서의 손쉬운 재사용성으로 인해 윤리적 문제점을 야기하기도 합니다. 이러한 모델은 원래 학습 의도에서 멀리 떨어진 상황에서 배포될 수 있기 때문에 책임에 대한 문제가 훨씬 더 복잡해집니다. 모델 공급자와 그 후속 배포자 간에 윤리적 의무를 어떻게 분담해야 하는지는 종종 불분명합니다. 모델이 민감한 데이터를 오용하거나 지적 재산이 유출되는 것을 방지하는 것은 공급자, 배포자 또는 최종 사용자 중 누구의 책임일까요?

또한 생성형 AI 시스템은 설득력 있지만 부정확하거나 오해의 소지가 있는 아웃풋을 생성할 수 있으며 전례 없는 규모의 오용을 초래할 수 있습니다. 결과적으로 파운데이션 모델에 대한 윤리 지침은 배포 전반에 걸쳐 명확한 문서화, 사용 제약, 지속적인 모니터링 및 인간의 감독을 강조하는 경우가 많습니다.

기술적 특이점은 기술 성장이 통제할 수 없고 돌이킬 수 없게 되어 인류 문명에 중대하고 예측할 수 없는 변화를 초래한다는 이론적 시나리오입니다. 이 주제는 대중의 많은 관심을 받고 있지만, 많은 연구자들은 가까운 미래 또는 아주 금방 AI가 인간의 지능을 능가할 것이라는 생각에 우려하지는 않습니다.  

강 AI(인간과 동등한 지능과 자기 인식을 가진 AI)와 초지능은 여전히 가설에 불과합니다. 그러나 이 아이디어는 자율 주행 자동차와 같은 자율 시스템에서 AI를 사용하는 방법에 대한 몇 가지 흥미로운 질문과 윤리적 함의를 제기합니다.

예를 들어, 무인 자동차가 절대 사고를 일으키지 않을 것이라고 생각하는 것은 비현실적입니다. 하지만 이러한 상황에서는 누가 책임을 지고 책임을 져야 할까요? 자율 주행차를 계속 개발해야 할까요, 아니면 이 기술의 통합을 제한하여 운전자들의 안전을 도모하는 반자율 주행차만 개발해야 할까요?

이러한 종류의 윤리적 딜레마는 아직 해결되지 않았지만 새롭고 혁신적인 AI 기술이 촉발하는 논쟁입니다.

인공 지능에 대한 많은 대중의 인식이 일자리 감소에 집중되어 있지만, 이러한 우려는 재구성되어야 할 것입니다. 파괴적인 신기술이 등장할 때마다 특정 직무에 대한 시장 수요가 변화합니다.

예를 들어, 개인용 컴퓨터가 널리 보급되면서 타이피스트나 파일 담당자와 같은 역할이 크게 사라졌습니다. 동시에 IT 지원, 소프트웨어 개발, 데이터 입력 등 완전히 새로운 직업 카테고리가 등장했습니다.

인공 지능도 비슷한 관점에서 봐야 합니다. AI 이니셔티브가 반드시 인력을 줄이는 것은 아닙니다. 오히려 AI는 일자리 수요를 다른 영역으로 옮길 가능성이 높습니다. 개인은 AI 시스템을 관리하고 업계에서 발생하는 더 복잡한 문제를 해결해야 합니다.

인공 지능이 고용 시장에 미치는 영향 중 가장 중요한 측면은 사람들이 새로운 시장 수요 영역으로 전환하도록 돕는 것입니다.

AI 모델은 데이터를 기반으로 합니다. 따라서 데이터 프라이버시, 데이터 보호 및 데이터 보안은 AI 윤리의 핵심 관심사입니다.

정책 입안자들은 지난 10년 동안 중요한 데이터 보호 법률을 제정했으며, 이들이 제시한 규칙은 기존 소프트웨어뿐만 아니라 AI 도구에도 주로 적용됩니다.

예를 들어, EU의 일반 데이터 보호 규정 (GDPR)은 유럽 연합 및 유럽 경제 지역의 개인에게 자신의 개인 데이터에 대한 더 많은 통제권을 부여합니다. 미국에서는 캘리포니아 소비자 개인 정보 보호법(California Consumer Privacy Act, CCPA)과 같은 주 차원의 정책이 기업이 데이터 수집에 대해 소비자에게 알리도록 요구합니다.

또한 정부 기관은 개인 식별 정보(PII)의 수집, 저장 및 사용에 관한 AI 관련 규칙을 제정하기 시작했습니다. 예를 들어, 2024년 캘리포니아는 AI 및 자동화된 의사 결정 기술에 대한 규칙 초안을 작성하기 시작했습니다. 이 규칙들은 이후 최종 확정되었으며, 기업들은 2027년 1월 1일까지 해당 규칙을 준수해야 합니다. 

기업은 일반적으로 AI 및 자동화 노력에 대해 좋은 의도를 가지고 있지만, 학습 데이터 세트와 AI 알고리즘에 내재된 편향은 차별적인 결과를 초래할 수 있습니다.

예를 들어, Amazon은 초기 AI 기반 채용 도구가 여성의 점수를 남성보다 체계적으로 낮게 평가한다는 사실이 밝혀지자 이를 폐기했습니다. 이유가 무엇일까요? 그 도구는 주로 남성들의 이력서 풀을 기반으로 학습되었기 때문입니다.

편견과 차별은 인사 부서에만 국한된 것이 아닙니다. 안면 인식 소프트웨어에서 소셜 미디어 알고리즘에 이르기까지 여러 응용 분야에서 이러한 사례를 찾을 수 있습니다. 예를 들어, 얼굴 인식 도구는 유색 인종을 식별하는 데 더 어려움을 겪는 경우가 많습니다.

기업들이 이러한 위험에 대해 더 많이 인식하게 되면서 논의에 더욱 적극적으로 참여하게 되었습니다.

예를 들어, IBM은 2020년에 범용 얼굴 인식 및 분석 제품을 철수했습니다. 당시 IBM CEO였던 Arvind Krishna는 다음과 같이 말했습니다.

"IBM은 다른 공급업체가 제공하는 안면 인식 기술을 포함한 모든 기술을 대량 감시, 인종 프로파일링, 기본 인권과 자유 침해 또는 당사의 가치와 신뢰와 투명성 원칙에 부합하지 않는 목적으로 사용하는 것을 단호히 반대하며 이를 묵인하지 않을 것입니다."

생성형 AI가 빠르게 도입되면서 딥페이크, 자동화된 허위 정보, 디지털 정보에 대한 신뢰 약화 등 합성 콘텐츠에 대한 우려가 커지고 있습니다.

AI가 생성한 텍스트, 이미지, 오디오 및 비디오를 사람이 만든 콘텐츠와 구별하기가 점점 더 어려워짐에 따라 투명성에 대한 필요성은 이제 모델의 설명 가능성을 넘어 아웃풋의 추적 가능성 및 공개로 확장됩니다. 이에 대응하여 정책 입안자와 기술 제공업체는 콘텐츠 출처 메커니즘을 발전시키고 있습니다. 이러한 메커니즘에는 레이블 지정 요건, 워터마크 표시, 그리고 사용자가 AI 생성 자료를 식별할 수 있도록 돕는 암호화 메타데이터 등이 포함될 수 있습니다.

이러한 접근 방식은 견고성, 개인정보 보호, 표현의 자유 사이의 균형을 포함하여 윤리적 긴장을 초래할 수 있지만, 디지털 에코시스템에 대한 신뢰를 유지하는 데 점점 더 필수적인 것으로 인식되고 있습니다.

인공 지능을 규율하는 단일한 글로벌 법률은 없지만, AI 규제는 여러 관할권에서 자발적 지침에서 시행 가능한 법적 프레임워크로 빠르게 전환되고 있습니다.

2024년에 발효된 유럽연합의 인공지능법(EU AI 법)은 특정 AI 관행에 대한 구속력 있는 의무를 설정합니다. 이러한 의무에는 허용할 수 없는 위험 시스템에 대한 금지, AI 생성 콘텐츠에 대한 투명성 요구 사항, 고위험 및 범용 AI 모델에 대한 라이프사이클 거버넌스 규칙이 포함됩니다.

EU AI 법과 같은 법률의 확산은 AI 윤리가 포부 원칙에서 윤리 표준과 법적 준수를 결합하는 책임 메커니즘으로 광범위하게 전환되고 있음을 나타냅니다.

인공 지능은 설계, 개발, 학습, 조정 및 사용 방식에 따라 수행되며, AI 윤리는 AI 시스템 라이프사이클의 각 단계에 걸쳐 표준 및 가드레일을 수립하는 것에 관한 모든 것입니다.

조직, 정부, 연구자 모두 현재의 AI 윤리적 문제를 해결하고 AI의 미래를 형성하기 위한 프레임워크 초안을 작성했습니다. 지침은 다양할 수 있지만, 핵심 AI 거버넌스 활동에 대해서는 어느 정도 합의가 이루어졌습니다.

AI 윤리는 일련의 원칙이 아니라 AI 라이프사이클 전반에 걸쳐 내재된 지속적인 능력으로 점점 더 간주되고 있습니다. 효과적인 거버넌스를 위해서는 위험을 평가하고, 설계 결정을 문서화하고, 배포된 시스템을 모니터링하고, 예기치 않은 행동이나 피해에 대응하기 위한 지속적인 프로세스가 필요합니다. AI 시스템이 시간이 지남에 따라 발전함에 따라 윤리적 감독 또한 함께 발전해야 하며, 정적인 정책에만 의존하기보다는 명확한 책임 소재와 측정 가능한 통제를 통해 뒷받침되어야 합니다.

거버넌스는 AI 시스템이 조직의 원칙, 가치 및 책임감 있는 AI 관행에 따라 운영되도록 하는 데 도움이 됩니다.

AI 거버넌스 프로그램의 일반적인 구성 요소는 다음과 같습니다.

• 적절한 인간 감독을 보장하기 위해 AI를 다루는 사람들의 역할과 책임을 정의합니다.
  
  
• AI 라이프사이클에 관련된 모든 사람들에게 책임감 있는 방식으로 AI를 구축하고 사용하는 방법을 교육합니다.
  
  
• AI에 대한 구축, 관리, 모니터링, 커뮤니케이션 및 AI 시스템 감사 수행을 위한 프로세스를 수립합니다.
  
  
• 도구를 활용하여 AI 수명 주기 전반에 걸쳐 AI의 성능과 신뢰성을 개선합니다.

AI 윤리 위원회는 또 다른 효과적인 거버넌스 메커니즘입니다. 예를 들어, 비즈니스 전반의 다양한 리더로 구성된 IBM 책임감 있는 기술 위원회는 IBM의 AI 윤리 정책 및 관행에 대한 중앙 집중식 거버넌스, 검토 및 의사 결정 프로세스를 제공합니다.

조직은 제품, 정책 및 프로세스 전반에 걸쳐 일관되게 적용되는 명확한 윤리적 원칙에 기반을 두고 신뢰할 수 있는 AI를 구축할 수 있습니다. 이러한 원칙은 설명 가능성 또는 공정성과 같은 구체적인 영역에 초점을 맞춰야 하며, 이를 중심으로 특정 표준과 관행을 개발할 수 있습니다.

처음부터 윤리가 AI에 내장되면 엄청난 이점을 얻을 수 있습니다. 의료 분야는 이미 이러한 긍정적인 효과를 경험하고 있습니다. AI는 방사선학과 같은 분야를 혁신하고 있으며, 기존 방법보다 더 빠르고 정확하게 스캔으로 이상 징후를 감지하도록 지원합니다.

많은 조직들은 인공 지능 윤리를 가치, 거버넌스, 책임성을 결합한 실용적인 분야로 간주하고 대규모의 책임 있는 혁신을 뒷받침할 때 이러한 이점을 더 효과적으로 누릴 수 있다는 사실을 깨닫고 있습니다.

민간 부문의 데이터 엔지니어와 데이터 과학자에게 윤리적 기준은 주요 관심사가 아닙니다. 그러나 인공 지능 분야에서 윤리적 행동을 장려하기 위해 여러 조직이 등장했습니다.

이러한 조직에는 다음이 포함됩니다.

• AlgorithmWatch는 AI 프로그램의 설명 및 추적 가능한 알고리즘 및 의사 결정 프로세스에 중점을 둡니다.
  
  
• AI Now Institute는 뉴욕 대학교의 비영리 단체로 인공 지능의 사회적 영향을 조사합니다.
  
  
• 미국 국방부 산하 방위고등연구계획국(DARPA, Defense Advanced Research Projects Agency)은 설명 가능한 AI 및 AI 연구를 장려합니다.
  
  
• 인간호환인공지능센터(CHAI, Center for Human-Compatible Artificial Intelligence)는 신뢰할 수 있는 AI와 입증 가능한 이로운 시스템을 촉진하기 위한 다양한 기관 및 대학의 협력체입니다.

IBM의 신뢰 및 투명성 원칙은 데이터 및 AI 개발에 대한 IBM의 접근 방식을 규정합니다. 이러한 원칙은 다음과 같습니다.

1. AI의 목적은 인간의 지능을 증강하는 것입니다. 이는 인간의 지능을 AI로 대체하려는 것이 아니라, 지원한다는 것을 의미합니다.
   
   
2. 데이터와 인사이트는 생성자의 소유입니다. 조직이 AI 솔루션 및 서비스의 이점을 누리기 위해 데이터 또는 데이터에서 파생된 인사이트에 대한 권리를 포기하도록 요구받아서는 안 됩니다.
   
   
3. 투명하고 설명 가능해야 하는 AI 시스템 의무 IBM은 기술 기업이 누가 AI 시스템을 학습시키는지, 그 학습에 어떤 데이터가 사용되었는지, 그리고 가장 중요하게는 알고리즘의 권장 사항에 무엇이 포함되었는지에 관해 명확해야 한다고 생각합니다.

IBM은 또한 AI 기술의 책임 있는 도입을 안내하기 위해 다섯 가지 원칙을 개발했습니다.

• 설명 가능성: AI 시스템은 다양한 목표를 가진 다양한 이해 관계자와 관련이 있으므로 특히 알고리즘의 권장 사항에 포함된 내용에 있어 투명해야 합니다.
  
  
• 공정성: 이 원칙은 AI 시스템이 개인 또는 개인 그룹을 공평하게 대우하는 것을 의미합니다. 적절하게 교정된 AI는 인간이 더 공정한 선택을 하고 인간의 편견에 맞서며 포용성을 촉진하도록 도울 수 있습니다.
  
  
• 완강성: AI 기반 시스템은 적의 공격으로부터 적극적으로 방어하여 보안 위험을 최소화하고 시스템 결과에 대한 신뢰를 확보할 수 있어야 합니다.
  
  
• 투명성: 신뢰를 강화하려면 사용자가 서비스의 작동 방식을 확인하고 기능을 평가하며 서비스의 강점과 한계를 이해할 수 있어야 합니다.
  
  
• 개인정보 보호: AI 시스템은 소비자의 개인정보 보호 및 데이터 권리를 우선시하고 보호해야 하며, 사용자에게 개인 데이터가 어떻게 사용되고 보호되는지 명확히 보증해야 합니다.