AI 언어 모델을 통한 괴롭힘 판단

괴롭힘을 식별하고 판단하기 위해 팀은 다양한 정보 소스와 대규모 언어 모델(LLM)을 활용했습니다. 법률 전문가와 협력하여 성희롱 및 권력 기반 괴롭힘에 해당하는 대화 예시로 구성된 교육 데이터를 선별했습니다. 그런 다음 이 데이터는 IBM watsonx.ai 내에서 사용자 정의 언어 모델을 훈련하는 데 사용되었습니다. 여기에는 IBM Watson 자연어 처리(NLP) 기능의 분류 기능이 사용되었습니다. 사용자 지정 모델은 잠재적으로 괴롭히는 대화에 플래그를 지정할 수 있습니다. 팀은 개념 증명(PoC)을 통해 다양한 IBM Watson NLP 모델의 정확도를 평가하고 가장 효과적인 모델을 선택했습니다. 또한 괴롭힘을 감지하는 모델의 정확도를 높이기 위해 교육 데이터를 지속적으로 개선하고 있습니다.

강력한 클라우드 기반 GPU에서 LLM을 활용하는 다양한 AI 기능이 개발되고 있지만, 여전히 클라우드에 데이터를 업로드하는 것이 제한되는 상황이 발생하고 있습니다. 이러한 경우 패키지 내에서 언어 모델을 온프레미스로 안전하게 배포해야 합니다. IBM과의 공동 개발 프로젝트는 클라우드 기반 LLM에 의존하지 않고도 온프레미스 패키지 내에 경량 언어 모델을 배포할 수 있는 가능성을 성공적으로 보여주었습니다.

이 솔루션을 프로덕션에 적용하기 위해 팀은 비즈니스 파트너인 IBM과 협력하여 애플리케이션을 지속적으로 개발하고 모델 정확도를 개선하고 있습니다.

Sanwa Comtec KK(ibm.com 외부 링크)는 고객의 요구 사항을 인식하고 예측하여 새로운 시장을 창출하는 비즈니스를 전문으로 하는 일본 기반 기술 회사입니다. 주요 고객으로는 보험 회사, 금융 기관, 의료 기관, 제조 회사 등이 있습니다. 이 기업들은 모두 비즈니스 프로세스 자동화 및 디지털 혁신에 적극적으로 참여하고 있습니다. Sanwa Comtec은 첨단 기술로 구성된 독창적인 솔루션을 제공합니다. 또한 Sanwa Comtec은 해외 기업 네트워크를 보유하고 있으며 많은 첨단 설치 사례를 축적하고 있습니다.