Determinación del acoso mediante un modelo de lenguaje de IA

Para identificar y determinar el acoso, el equipo empleó diversas fuentes de información y modelos de lenguaje grandes (LLM). En colaboración con expertos jurídicos, curaron datos de entrenamiento que incluían ejemplos de conversaciones que representaban el acoso sexual y el acoso por motivos de poder. Estos datos se emplearon para entrenar un modelo de lenguaje personalizado dentro de IBM® watsonx.ai, mediante las capacidades de clasificación de la función de procesamiento de lenguaje natural (PLN) de IBM® Watson. El modelo personalizado puede marcar conversaciones potencialmente acosadoras. Mediante una prueba de concepto (PoC), el equipo evaluó la precisión de distintos modelos de PLN de IBM Watson y seleccionó el más eficaz. También perfecciona continuamente los datos de entrenamiento para mejorar la precisión del modelo en la detección del acoso.

Con el creciente desarrollo de diversas funciones de IA que aprovechan los LLM en potentes GPU basadas en la nube, todavía hay situaciones en las que la carga de datos a la nube está restringida. En tales casos, se hace necesario desplegar de forma segura los modelos de lenguaje on-prem dentro de un paquete. Este proyecto de creación conjunta con IBM demuestra con éxito el potencial de desplegar modelos de lenguaje ligeros dentro de paquetes on-prem sin depender de LLM basados en la nube.

Para llevar la solución a producción, el equipo continúa desarrollando la aplicación y mejorando la precisión del modelo en colaboración con IBM como asociado de negocios.

Sanwa Comtec K.K. (enlace externo a ibm.com) es una empresa tecnológica con sede en Japón, especializada en negocios que crean nuevos mercados reconociendo las necesidades de sus clientes y anticipándose a ellas. Sus principales clientes incluyen aseguradoras, instituciones financieras y médicas, y empresas manufactureras. Todas estas empresas participan activamente en la automatización de procesos empresariales y la transformación digital. Sanwa Comtec ofrece soluciones únicas y compuestas por alta tecnología. Además, Sanwa Comtec posee una red de empresas en el extranjero y acumuló muchas instalaciones avanzadas.