Détermination du harcèlement à l'aide d'un modèle linguistique basé sur l'IA

Pour identifier et déterminer ce qui relève du harcèlement, l’équipe a utilisé diverses sources d’information et de grands modèles linguistiques. En collaboration avec des experts juridiques, elle a organisé des données de formation comprenant des exemples de conversations qui représentent le harcèlement sexuel et basé sur la hiérarchie. Ces données ont ensuite été utilisées pour former un modèle de langage personnalisé au sein d’IBM watsonx.ai, à l’aide des capacités de classification de la fonction de traitement du langage naturel (NLP) d’IBM Watson. Le modèle personnalisé peut signaler les conversations constituant potentiellement du harcèlement. Grâce à une preuve de concept (PoC), l’équipe a évalué la précision de différents modèles IBM Watson NLP et a sélectionné le plus efficace. Elle affine également en permanence les données d’entraînement pour améliorer la précision du modèle dans la détection du harcèlement.

Avec le développement croissant de diverses fonctions d’IA qui exploitent les LLM sur de puissants GPU basés sur le cloud, il existe encore des situations où le téléchargement de données vers le cloud est limité. Dans de tels cas, le déploiement sécurisé de modèles de langage sur site au sein d’un package devient nécessaire. Ce projet de co-création avec IBM démontre avec succès le potentiel du déploiement de modèles de langage légers dans des packages sur site sans recourir à des LLM basés sur le cloud.

Pour mettre la solution en production, l'équipe continue de développer l'application et d'améliorer la précision du modèle en collaboration avec IBM en tant que partenaire commercial.

Sanwa Comtec K.K. (lien externe à ibm.com) est une société technologique japonaise spécialisée dans les entreprises qui créent de nouveaux marchés en reconnaissant et en anticipant les besoins de ses clients. Ses principaux clients sont des compagnies d’assurance, des institutions financières, des institutions médicales et des entreprises de fabrication. Ces entreprises sont toutes activement engagées dans l’automatisation des processus métier et la transformation numérique. Sanwa Comtec propose des solutions uniques et composées de haute technologie. En outre, Sanwa Comtec possède un réseau de sociétés étrangères et a accumulé de nombreuses installations avancées.