비즈니스용 생성형 AI를 책임감 있게 확장하는 방법
텍스트 기반 쿼리를 제공하여 학습과 생산성을 향상시키는 새로운 지식의 세계를 여는 가능성을 상상해보세요. 기사, 에세이, 이메일 작성 지원, 요약된 연구 자료 접근, 아이디어 생성 및 브레인스토밍, 소매 및 여행 분야의 개인화된 추천과 함께하는 동적 검색, 교육 및 훈련을 위한 복잡한 주제 설명 등 가능한 활용 분야는 계속 확대되고 있습니다. 생성형 AI를 사용하면 검색이 극적으로 달라집니다. 여러 기사 링크를 제공하는 대신, 사용자는 방대한 데이터를 기반으로 합성된 직접적인 답변을 받게 됩니다. 매우 똑똑한 기계와 대화하는 것과 같습니다.
ChatGPT는 Transformer라고 불리는 딥러닝 아키텍처를 사용하며 NLP 분야에서 중요한 진보를 이뤘습니다. OpenAI가 선도하고 있지만, 경쟁은 계속 증가하고 있습니다. Precedence Research에 따르면, 글로벌 생성형 AI 시장 규모는 2022년 $10.79억이었으며, 2023년부터 2032년까지 연평균 성장률 27.02%를 기록해 2032년에는 약 $118.06억에 이를 것으로 예상됩니다. 이는 매우 인상적이지만, 주의해야 할 점도 존재합니다.
기성품의 사전 구축된 생성형 모델을 사용할 때 몇 가지 근본적인 문제가 있습니다. 각 조직은 가치 창출 기회와 관련된 위험의 균형을 맞춰야 합니다. 비즈니스와 사용 사례에 따라 위험 허용도가 낮은 경우, 조직은 내부에서 직접 구축하거나 신뢰할 수 있는 파트너와 협력하는 것이 더 나은 결과를 가져온다는 것을 알게 됩니다.
기성 생성형 AI 모델과 관련하여 고려해야 할 사항은 다음과 같습니다.
인터넷 데이터가 항상 공정하고 정확한 것은 아닙니다
오늘날 생성형 AI의 중심에는 위키백과, 웹사이트, 기사, 이미지 또는 오디오 파일 등과 같은 소스의 방대한 양의 데이터가 있습니다. 생성형 모델은 기본 데이터의 패턴을 일치시켜 콘텐츠를 생성하며, 통제가 없으면 허위 정보, 편견 및 온라인 괴롭힘을 조장하려는 악의적인 의도가 있을 수 있습니다. 이 기술은 너무 새롭기 때문에 때때로 책임이 부족하고 저작권 및 로열티와 같은 것과 관련된 평판 및 규제 위험에 대한 노출이 증가합니다.
모델 개발자와 모든 모델 사용 사례 사이에 단절이 있을 수 있습니다.
생성 모델의 다운스트림 개발자는 해당 모델이 다른 용도로 어떻게 사용되고 조정될지 완전히 파악하지 못할 수 있습니다. 이는 제품이나 서비스 선택처럼 중요도가 낮은 결정에서 발생하는 오류일 때는 크게 문제가 되지 않을 수 있지만, 편향을 포함한 비윤리적 행동의 비난 가능성을 높이거나 규제 준수 문제로 이어져 감사나 벌금이 발생할 수 있는 비즈니스 핵심 결정에 영향을 주는 경우에는 매우 중요한 문제로 이어질 수 있습니다.
소송 및 규제가 사용에 미치는 영향
소송 및 규정에 대한 우려로 인해 처음에는 대규모 조직이 생성형 AI를 사용하는 방법이 제한될 것입니다. 이는 불완전하거나 부정확한 데이터와 모델을 기반으로 한 비윤리적이고 편향된 결정에 대한 허용 범위가 매우 낮은 금융 서비스 및 의료와 같이 규제가 엄격한 산업에서 특히 그렇습니다.
결국 생성형 모델에 대한 규제 환경이 정비되겠지만, 기업은 규정 위반, 평판 훼손, 감사 및 벌금을 피하기 위해 이를 적극적으로 준수해야 합니다.
AI 인사이트의 결과가 더욱 비즈니스에 중요해지고 기술 선택이 계속 증가함에 따라 모델이 투명한 프로세스와 설명 가능한 결과를 통해 책임감 있게 작동하고 있다는 확신이 필요합니다. AI 이니셔티브에 거버넌스를 선제적으로 도입하는 조직은 윤리 원칙과 정부 규정을 충족하는 능력을 강화하는 동시에 모델 위험을 더 잘 감지하고 완화할 수 있습니다.
가장 중요한 것은 신뢰할 수 있는 기술 및 엔터프라이즈 기능을 조정하는 것입니다. IBM이 새로운 생성형 AI 모델에서 이루고 있는 발전을 watsonx.ai와 함께 더 깊이 이해하는 것부터 시작할 수 있으며, watsonx.governance를 적극적으로 도입해 지금과 향후 모두에 걸쳐 책임 있고 투명하며 설명 가능한 AI 워크플로를 구축할 수 있습니다.
watsonx.governance는 AI 라이프사이클 워크플로를 운영화하고, 위험을 사전에 감지 및 완화하며, 증가하고 변화하는 법률, 윤리 및 규제 요구 사항에 대한 규정 준수를 개선하기 위해 구축된 강력한 거버넌스, 위험 및 규정 준수(GRC) 툴 키트를 제공합니다. 사용자 정의 가능한 보고서, 대시보드 및 협업 툴은 분산된 팀을 연결하여 이해관계자의 효율성, 생산성 및 책임성을 개선합니다. 모델 메타데이터 및 팩트의 자동 캡처는 투명하고 설명 가능한 모델 결과를 도출하는 동시에 감사 지원을 제공합니다.
위험 및 규정 준수에 대한 관리, 모니터링 및 보고를 지원하는 통합 거버넌스, 위험 및 규정 준수(GRC) 솔루션인 IBM® OpenPages를 사용하여 전체 조직에서 거버넌스를 가속화하고 위험 관리를 간소화하세요. watsonx.governance가 책임 있고 투명하며 설명 가능한 AI 워크플로를 어떻게 주도하고 있는지, 그리고 앞으로 어떤 개선이 이루어질지 더 알아보세요.