Cómo ampliar de forma responsable la IA generativa apta para las empresas

Imagine las posibilidades de proporcionar consultas basadas en texto y abrir un mundo de conocimientos para mejorar el aprendizaje y la productividad. Están creciendo las posibilidades que incluyen ayudar a escribir artículos, ensayos o correos electrónicos; acceder a investigaciones resumidas; generación y lluvia de ideas; búsqueda dinámica con recomendaciones personalizadas para comercio minorista y viajes; y explicar temas complicados para la educación y la formación. Con la IA generativa, la búsqueda se vuelve drásticamente diferente. En lugar de proporcionar enlaces a varios artículos, el usuario recibirá respuestas directas sintetizadas a partir de una gran cantidad de datos. Es como mantener una conversación con una máquina muy inteligente.

La IA generativa utiliza una forma avanzada de algoritmos de machine learning que toma las instrucciones de los usuarios y utiliza el procesamiento del lenguaje natural (PLN) para generar respuestas a casi cualquier pregunta formulada. Utiliza grandes cantidades de datos de internet, entrenamiento previo a gran escala y aprendizaje reforzado para permitir transacciones de usuario sorprendentemente humanas. Se utiliza el aprendizaje por refuerzo a partir de la feedback humano (RLHF), adaptándose a diferentes contextos y situaciones, volviéndose más preciso y natural con el tiempo. La IA generativa se está analizando para una variedad de casos de uso, incluidos el marketing, el servicio de atención al cliente, el comercio minorista y la educación.

ChatGPT utiliza una arquitectura de deep learning llamada Transformer y representa un avance significativo en el campo del PLN. Aunque OpenAI ha tomado la delantera, la competencia está creciendo. Según Precedence Research, el tamaño del mercado mundial de la IA generativa se valoró en 10,79 dólares estadounidenses en 2022 y se espera que alcance los 118,06 dólares estadounidenses en 2032, con una tasa de crecimiento anual compuesta (TCAC) del 27,02 % entre 2023 y 2032. Todo esto es muy impresionante, pero no sin salvedades.

Existen algunos problemas fundamentales al utilizar modelos generativos prediseñados y listos para usar. Cada organización debe equilibrar las oportunidades de creación de valor con los riesgos involucrados. En función del negocio y el caso de uso, si la tolerancia al riesgo es baja, las organizaciones encontrarán que construir en casa o trabajar con un partner de confianza dará mejores resultados.

Las preocupaciones a tener en cuenta con los modelos de IA generativa listos para usar incluyen:

Los datos de internet no siempre son imparciales y precisos

En el corazón de gran parte de la IA generativa actual se encuentran grandes cantidades de datos de fuentes como Wikipedia, sitios web, artículos, archivos de imagen o audio, etc. Los modelos generativos coinciden con patrones en los datos subyacentes para crear contenido y sin controles puede haber intenciones maliciosas para promover la desinformación, el sesgo y el acoso en línea. Debido a que esta tecnología es tan nueva, a veces hay una falta de responsabilidad, una mayor exposición al riesgo reputacional y regulatorio relacionado con cosas como derechos de autor y royalties.

Puede haber una desconexión entre los desarrolladores de modelos y todos los casos de uso de modelos

Es posible que los desarrolladores posteriores de modelos generativos no vean el alcance total de cómo se utilizará y adaptará el modelo para otros fines. Esto puede dar lugar a suposiciones y resultados erróneos que no son cruciales cuando los errores implican decisiones menos importantes, como la selección de un producto o un servicio, pero importantes cuando afectan a una decisión crítica para la organización que puede exponer a la misma a acusaciones de comportamiento poco ético, incluido el sesgo, o problemas de cumplimiento normativo que pueden dar lugar a auditorías o multas.

Los litigios y la regulación afectan el uso

La preocupación por los litigios y las normativas limitará inicialmente la forma en que las grandes organizaciones utilizan la IA generativa. Esto es especialmente cierto en sectores altamente regulados, como los servicios financieros y la sanidad, donde la tolerancia es muy baja a decisiones poco éticas y sesgadas basadas en datos y modelos incompletos o inexactos que pueden tener repercusiones perjudiciales.

Con el tiempo, el panorama normativo de los modelos generativos se pondrá al día, pero las empresas deberán ser proactivas a la hora de adherirse a ellos para evitar infracciones de cumplimiento, daños a la reputación de su empresa, auditorías y multas.

A medida que los resultados de los conocimientos de IA se vuelven más críticos para el negocio y las opciones tecnológicas continúan creciendo, necesita asegurarse de que sus modelos funcionan de manera responsable con procesos transparentes y resultados explicables. Las organizaciones que infunden de forma proactiva el gobierno en sus iniciativas de IA pueden detectar y mitigar mejor el riesgo de los modelos, al tiempo que refuerzan su capacidad para cumplir con los principios éticos y las normativas del gobierno.

Es de suma importancia alinearse con tecnologías de confianza y capacidades empresariales. Puede empezar por aprender más sobre los avances que IBM está haciendo en los nuevos modelos de IA generativa con watsonx.ai y poner en marcha de forma proactiva watsonx.governance para impulsar flujos de trabajo de IA responsables, transparentes y explicables, hoy y en el futuro.

watsonx.governance proporciona un potente kit de herramientas de gobierno, riesgo y cumplimiento (GRC) creado para operacionalizar los flujos de trabajo del ciclo de vida de la IA, detectar y mitigar los riesgos de forma proactiva y mejorar el cumplimiento de los crecientes y cambiantes requisitos legales, éticos y normativos. Los informes personalizables, los paneles de control y las herramientas colaborativas conectan a los equipos distribuidos, lo que mejora la eficiencia, la productividad y la responsabilidad de las partes interesadas. La captura automática de metadatos y hechos del modelo proporciona soporte de auditoría al tiempo que impulsa resultados transparentes y explicables del modelo.

Acelere el gobierno y simplifique la gestión de riesgos en toda su organización con IBM® OpenPages, una solución unificada de gobierno, riesgo y cumplimiento (GRC) para ayudar a gestionar, supervisar e informar sobre el riesgo y el cumplimiento. Obtenga más información sobre cómo watsonx.governance está impulsando flujos de trabajo de IA responsables, transparentes y explicables y las mejoras que se avecinan en el futuro.