Dirija, gestione y monitorice su IA con un único kit de herramientas para acelerar el desarrollo de una IA responsable, transparente y explicable
La IA gen tiene el potencial de impulsar la productividad y desbloquear billones en valor económico. Sin embargo, estos modelos vienen acompañados de nuevas complejidades y riesgos. Independientemente de si utiliza modelos de IA gen o modelos de ML (aprendizaje automático) tradicionales, todo modelo necesita gobernabilidad.
Kit de herramientas IBM® watsonx.governance para el gobierno de la IA ofrece a los usuarios la posibilidad de elegir modelos y flexibilidad. Este kit de herramientas puede:
Para gobernar la IA gen de una empresa de manera eficaz, es esencial monitorizar y mitigar los cada vez mayores riesgos originados por los modelos, los usuarios, los conjuntos de datos y las normativas. Watsonx.governance ofrece 3 capacidades clave para lograrlo.
Watsonx.governance utiliza hojas de datos para registrar y monitorizar automáticamente los datos del modelo. En IBM, nos referimos a ellas como "etiquetas nutricionales" para los modelos porque contienen un repositorio de toda la información relevante del modelo. Estos documentos facilitan una visión completa del rendimiento y la gestión de riesgos a lo largo del ciclo de vida del modelo, sirviendo como registro de las actividades de desarrollo y las métricas de rendimiento. Los usuarios pueden descargar las fichas informativas o enviarlas como archivos adjuntos a las partes interesadas o como respaldo a las auditorías.
Existen métricas de evaluación para una serie de casos prácticos, como el resumen de textos, la clasificación de textos, la traducción de idiomas, la generación de contenidos, la generación aumentada por recuperación (RAG) y las preguntas y respuestas. El rendimiento de las instrucciones puede comprobarse a lo largo de todo el ciclo de vida de la IA para ayudar a garantizar un rendimiento preciso y evitar la generación de contenidos potencialmente dañinos o inapropiados. Las hojas de datos se utilizan para documentar estas métricas de evaluación.
Las métricas de rendimiento se monitorizan para evitar problemas relacionados con la desviación, la calidad y la seguridad. Los umbrales preestablecidos monitorizan tanto las entradas como las salidas del modelo de IA gen, y proporcionan alertas cuando se detecta lenguaje tóxico, incitación al odio, lenguaje ofensivo o lenguaje soez en las entradas y salidas del modelo. Watsonx.governance monitoriza el tamaño de los datos, la latencia y los cambios en el rendimiento.
Las declaraciones relativas a los planes, dirección e intenciones de IBM están sujetas a cambio o retirada sin previo aviso a discreción exclusiva de IBM. Ver Tarificación para obtener más detalles. A menos que se especifique lo contrario en Tarificación de Software, todas las características, capacidades y actualizaciones potenciales se refieren exclusivamente a SaaS. IBM no garantiza que las características y capacidades de SaaS y del software sean las mismas.