AI言語モデルによるハラスメント判定

三和コムテックとIBM
アスペクト比2:1のIBM watsonxイメージのデジタル・レンダリング。
AIを活用したオンプレミス・チャット・ソリューション向けのハラスメント検知

三和コムテックは、新たな市場を創出する企業へのソフトウェアパッケージ販売を専門とするITテクノロジー企業です。同社が提供するソリューションの1つに、オンプレミス環境でクラウド環境の利用に制限がある顧客を中心にチャットコミュニケーションソリューションを提供するOSS「Rocket.Chat」があります。同社は、外部ネットワークに接続できないセキュアなオンプレミス環境において、AIを活用してユーザーのチャット内容からハラスメントが疑われる会話を検知し、アラートを発する機能の実現を目指しました。

カスタム・オンプレミス・ハラスメント検知モデルの構築

ハラスメントを特定して判断するために、担当チームはさまざまな情報ソースおよび大規模言語モデル (LLM)を利用しました。彼らは法律に関する専門家と連携し、セクハラやパワーハラスメントにあたる会話例を含むトレーニングデータを厳選しました。このデータはIBM watsonx.ai内のカスタム言語モデルのトレーニングに使用され、IBM Watson natural language processing(NLP)機能の分類機能を利用します。カスタムモデルでは、ハラスメントにあたる可能性がある会話にフラグを付けることができます。チームはPoC(概念実証)を通じて、さまざまなIBM Watson NLPモデルの精度を評価し、最も効果的なモデルを選択しました。また、ハラスメントを検出するモデルの精度を高めるためにトレーニングデータを継続的に改良しています。

95%以上 AIによるクローズドネットワークにおけるハラスメント判定の精度
オンプレミスの軽量言語モデルを活用する

強力なクラウドベースのGPUでLLMを活用するさまざまなAI機能の開発が進む中、クラウドへのデータアップロードが制限される状況が依然として存在します。このような場合、言語モデルをパッケージ内でオンプレミスかつ安全にデプロイすることが必要になります。IBMとのこの共創プロジェクトでは、クラウドベースのLLMに依存せずにオンプレミスパッケージ内のデプロイ軽量言語モデルの可能性を実証することに成功しました。

ソリューションを実稼働環境に導入するために、チームではビジネス・パートナーとしてIBMと連携したアプリケーションの開発を継続し、モデルの精度を向上させています。

三和コムテックのロゴ
三和コムテック株式会社について

三和コムテック株式会社(ibm.com外部リンク)は、顧客のニーズを認識、予測することで新しい市場を創造するビジネスが専門の日本を拠点とするテクノロジー企業です。主な顧客には、保険会社、金融機関、医療機関、製造会社などが含まれます。これらの企業はいずれも、ビジネスプロセスの自動化およびデジタル変革に積極的に取り組んでいます。三和コムテックは高い技術力で構成された独自のソリューションを提供します。また、同社は海外企業とのネットワークを持ち合わせており、数多くの先進的な導入実績があります。

ソリューション・コンポーネント IBM watsonx.ai™
watsonx.aiは、企業が自社のニーズに合うようAIソリューションを構築する支援をしています。
watsonx.aiの詳細はこちら 無料評価版を試す
法務

© Copyright IBM Corporation 2024.IBM、IBMロゴ、watsonx.ai、およびIBM Watsonは、米国およびその他の国または地域におけるIBMコーポレーションの商標または登録商標です。本書は最初の発行日時点における最新情報を記載しており、IBMにより予告なしに変更される場合があります。IBMが事業を展開している国または地域であっても、特定の製品を利用できない場合があります。

引用または説明されているすべての事例は、一部のクライアントがIBMの製品を使用し、達成した結果の例として提示されています。他の運用環境における実際のパフォーマンス、コスト、節約、またはその他の成果は異なる場合があります。