책임감 있는 AI란 무엇인가요? 

이 문서는 책임감 있는 AI에 대한 일반적인 관점을 제공하는 것을 목표로 합니다. IBM의 구체적인 관점에 대해 자세히 알아보려면 AI 윤리 페이지를 참조하세요.

2010년대에 빅 데이터와 컴퓨팅 파워의 발전에 힘입어 머신 러닝이 널리 채택되면서 편향, 투명성 및 개인 데이터 사용과 같은 새로운 윤리적 문제가 발생했습니다. 이 기간 동안 기술 기업과 AI 연구 기관이 AI를 책임감 있게 관리하기 위해 적극적으로 노력하면서 AI 윤리가 뚜렷한 분야로 부상했습니다.

기업 전반에서 생성형 AI 툴과 AI 에이전트의 도입이 빠르게 확산되면서, 이를 윤리적으로 활용하기 위한 새로운 프레임워크가 요구되고 있습니다. 에이전틱 AI 시대에 맞춰 책임감 있는 AI 원칙을 새롭게 정립하는 선도적인 조직은 사용자가 이러한 툴의 잠재력을 최대한 활용하는 동시에 바람직하지 않은 결과를 최소화하도록 지원할 수 있습니다.

AI는 신뢰할 수 있어야 하며, 이해관계자가 AI를 신뢰하려면 AI가 투명해야 합니다. 기술 기업은 AI 시스템을 학습시키는 사람, 학습에 사용된 데이터, 그리고 가장 중요한 알고리즘의 추천에 사용된 데이터에 대해 명확히 밝혀야 합니다. 중요한 결정을 내리는 데 AI를 사용하려면 이를 설명할 수 있어야 합니다.

책임감 있는 AI는 사람, 프로세스, 툴 및 거버넌스를 아우르는 사회기술적 실천 방식입니다. 이를 위해 조직은 데이터 수집과 모델 개발부터 배포, 모니터링 및 개선에 이르기까지 AI 시스템의 전체 수명 주기를 고려해야 합니다. 또한 AI가 개인, 조직, 사회 및 환경에 미치는 광범위한 영향에도 주의를 기울여야 합니다.

IBM의 Responsible Technology & Governance Framework는 원칙, 특성, 영향 차원 및 거버넌스 관행을 하나의 접근 방식으로 통합하여 책임 있는 기술을 구축하고 배포할 수 있도록 지원합니다. 책임감 있는 AI는 이 접근 방식의 핵심 요소로 유지되며, 이 프레임워크는 동일한 거버넌스 모델을 에이전틱 시스템, 양자 컴퓨팅 및 미래의 새로운 기술 영역으로 확장합니다.

이 프레임워크는 다음 네 가지 구성 요소로 이루어져 있습니다.

1. 신뢰를 위한 원칙
   책임 있는 기술의 개발 및 배포를 위한 IBM의 기본 원칙입니다.

   • 기술은 인간의 역량을 강화해야 합니다.

   • 기술은 책임 있는 데이터 거버넌스를 기반으로 해야 합니다.

   • 기술은 개방성과 투명성을 갖추어야 합니다.

2. 신뢰할 수 있는 AI의 핵심 요소
   신뢰를 구축하기 위해 AI 시스템이 갖추어야 할 특성입니다.

   • 투명성

   • 공정성과 인간의 가치에 부합하는 정렬

   • 견고성

   • 개인 정보 보호

3. 영향 차원
   IBM이 기술을 평가할 때 고려하는 광범위한 영향입니다.

   • 인간의 주체성과 신뢰

   • 사회적 웰빙

   • 환경적 지속 가능성

4. 거버넌스
   책임 있는 기술에 대한 약속을 일상적인 실천으로 연결하는 프로그램, 툴, 교육, 정책, 파트너십 및 검토 메커니즘입니다.

이러한 구성 요소가 함께 작동하여 책임성을 설계 단계에서부터 구현할 수 있도록 지원합니다. AI 시스템의 성능이 더욱 향상되고 비즈니스 운영 전반에 통합됨에 따라, 조직은 시스템과 프로세스에 통합된 거버넌스를 통해 신뢰가 실제 운영에 구현되고 있음을 입증할 수 있어야 합니다.

기업 수준에서 책임감 있는 AI 관행을 구현하려면 AI 개발 및 배포의 다양한 단계를 다루는 총체적인 엔드투엔드 접근 방식이 필요합니다.

기업의 AI 혁신 가치와 목표에 부합하는 책임감 있는 AI 원칙을 수립합니다. 이때 앞에서 설명한 신뢰의 핵심 요소를 고려해야 합니다. 이러한 원칙은 AI 전문가, 윤리 전문가, 법률 전문가 및 비즈니스 리더를 비롯해 다양한 부서의 구성원이 참여하는 전담 크로스펑셔널 AI 윤리 팀이 수립하고 지속적으로 관리할 수 있습니다.

직원, 이해관계자 및 의사 결정권자에게 책임감 있는 AI 관행에 대해 교육하는 교육 프로그램을 실시합니다. 여기에는 잠재적 편향, 윤리적 고려 사항, 책임감 있는 AI를 비즈니스 운영에 통합하는 것의 중요성을 이해하는 것이 포함됩니다.

데이터 수집과 모델 학습부터 배포 및 지속적인 모니터링에 이르기까지 AI 개발 파이프라인 전반에 책임감 있는 AI 실천 방식을 내재화합니다. AI 시스템의 편향을 해결하고 완화하기 위한 기법을 적용합니다. 특히 인종, 성별, 사회경제적 지위와 같은 민감한 속성과 관련하여 확립된 지표를 사용해 모델의 공정성을 정기적으로 평가합니다. AI 시스템의 설명 가능성을 높여 투명성을 우선시합니다. 데이터 소스, 알고리즘 및 의사결정 과정에 대한 명확한 문서를 제공합니다. 사용자와 이해관계자는 AI 시스템이 의사결정을 내리는 방식을 이해할 수 있어야 합니다.

최종 사용자의 개인정보와 민감한 데이터를 보호하기 위해 책임 있는 AI 거버넌스 체계와 보호 장치를 마련합니다. 데이터 사용 정책을 명확하게 알리고, 충분한 설명에 기반한 동의를 얻으며, 데이터 보호 규정을 준수합니다.

중요한 의사 결정 프로세스에서 사람이 감독할 수 있는 메커니즘을 통합합니다. 책임 당사자를 식별하고 AI 시스템의 결과에 대해 책임을 질 수 있도록 명확한 책임 범위를 정의하세요. AI 시스템에 대한 지속적인 모니터링을 설정하여 시간이 지남에 따라 발생할 수 있는 윤리적 문제, 편향 또는 문제를 식별하고 해결합니다. 정기적으로 AI 모델을 감사하여 윤리 지침을 준수하는지 평가합니다.

AI 안전 분야에서 활동하는 외부 조직, 연구 기관 및 오픈소스 커뮤니티와의 협력을 촉진합니다. 책임감 있는 AI 관련 최신 실천 사례와 이니셔티브의 동향을 지속적으로 파악하고, 업계 전반의 노력에 기여합니다.