Cómo escalar de forma responsable la IA generativa preparada para el negocio

Imagine las posibilidades de proporcionar consultas basadas en texto y abrir un mundo de conocimientos para mejorar el aprendizaje y la productividad. Están creciendo las posibilidades que incluyen ayudar a escribir artículos, ensayos o correos electrónicos; acceder a investigaciones resumidas; generar y aportar ideas; búsqueda dinámica con recomendaciones personalizadas para ventas minoristas y viajes; y explicar temas complicados para la educación y la capacitación. Con la IA generativa, la búsqueda cambia radicalmente. En lugar de proporcionar enlaces a varios artículos, el usuario recibirá respuestas directas sintetizadas a partir de una gran cantidad de datos. Es como tener una conversación con una máquina muy inteligente.

La IA generativa utiliza una forma avanzada de algoritmos de machine learning que toma las instrucciones de los usuarios y utiliza el procesamiento de lenguaje natural (PLN) para generar respuestas a casi cualquier pregunta formulada. Utiliza grandes cantidades de datos de Internet, entrenamiento previo a gran escala y aprendizaje reforzado para permitir transacciones de usuario sorprendentemente similares a las humanas. Se utiliza el aprendizaje por refuerzo a partir del feedback humano (RLHF), adaptándose a diferentes contextos y situaciones, volviéndose más preciso y natural con el tiempo. La IA generativa se está analizando para una variedad de casos de uso, incluidos marketing, atención al cliente, venta minorista y educación.

ChatGPT utiliza una arquitectura de aprendizaje profundo llamada Transformer y representa un avance significativo en el campo del PLN. Si bien OpenAI ha tomado la delantera, la competencia está creciendo. Según Precedence Research, el tamaño del mercado global de IA generativa se valoró en 10.79 USD en 2022 y se espera que alcance alrededor de 118.06 USD para 2032 con una CAGR del 27.02 % entre 2023 y 2032. Todo esto es muy impresionante, pero no exento de matices.

Hay algunos problemas fundamentales cuando se utilizan modelos generativos predefinidos y listos para usar. Cada organización debe equilibrar las oportunidades de creación de valor con los riesgos involucrados. Dependiendo del negocio y el caso de uso, si la tolerancia al riesgo es baja, las organizaciones encontrarán que construir internamente o trabajar con un socio confiable arrojará mejores resultados.

Las preocupaciones a considerar con los modelos de IA generativa listos para usar incluyen:

Los datos de Internet no siempre son justos y precisos

En el centro de gran parte de la IA generativa actual se encuentran grandes cantidades de datos de fuentes como Wikipedia, sitios web, artículos, archivos de imagen o audio, etc. Los modelos generativos coinciden con patrones en los datos subyacentes para crear contenido y, sin controles, puede haber intenciones maliciosas para promover la desinformación, el sesgo y el acoso en línea. Debido a que esta tecnología es tan nueva, a veces hay una falta de responsabilidad, una mayor exposición al riesgo reputacional y regulatorio relacionado con cosas como derechos de autor y regalías.

Puede haber una desconexión entre los desarrolladores de modelos y todos los casos de uso de modelos

Es posible que los desarrolladores intermedios de modelos generativos no vean el alcance total de cómo se usará y adaptará el modelo para otros fines. Esto puede dar lugar a suposiciones y resultados erróneos que no son cruciales cuando los errores implican decisiones menos importantes, como seleccionar un producto o un servicio, pero son importantes cuando afectan una decisión crítica para el negocio que puede exponer a la organización a acusaciones de comportamiento poco ético, incluido el sesgo o problemas de cumplimiento que pueden dar lugar a auditorías o multas.

Los litigios y la regulación afectan el uso

La preocupación por los litigios y las regulaciones limitará inicialmente la forma en que las grandes organizaciones utilizan la IA generativa. Esto es especialmente cierto en industrias altamente reguladas como los servicios financieros y la atención médica, donde la tolerancia es muy baja para decisiones poco éticas y con sesgo basadas en datos y modelos incompletos o inexactos que pueden tener repercusiones perjudiciales.

Eventualmente, el escenario regulatorio para los modelos generativos se pondrá al día, pero las empresas deberán ser proactivas para adherirse a ellos para evitar violaciones de cumplimiento, daños a la reputación de su empresa, auditorías y multas.

A medida que los resultados de los insights de IA se vuelven más críticos para el negocio y las opciones de tecnología continúan creciendo, necesita asegurarse de que sus modelos funcionen de manera responsable con procesos transparentes y resultados explicables. Las organizaciones que infunden de manera proactiva la gobernanza en sus iniciativas de IA pueden detectar y mitigar mejor el riesgo del modelo, al tiempo que fortalecen su capacidad para cumplir con los principios éticos y las regulaciones del gobierno.

Es de suma importancia alinearse con tecnologías confiables y capacidades empresariales. Puede comenzar por aprender más sobre los avances que IBM está haciendo en los nuevos modelos de IA generativa con watsonx.ai y poner en marcha de forma proactiva watsonx.governance para impulsar flujos de trabajo de IA responsables, transparentes y explicables, hoy y en el futuro.

watsonx.governance proporciona un potente kit de herramientas de gobernanza, riesgo y cumplimiento (GRC) creado para poner en funcionamiento los flujos de trabajo del ciclo de vida de la IA, detectar y mitigar el riesgo de forma proactiva, y mejorar el cumplimiento de los crecientes y cambiantes requisitos legales, éticos y normativos. Los informes personalizables, los paneles y las herramientas colaborativas conectan a los equipos distribuidos, mejorando la eficiencia, la productividad y la responsabilidad de los stakeholders. La captura automática de metadatos y hechos del modelo proporciona soporte de auditoría, al tiempo que genera resultados del modelo transparentes y explicables.

Acelere la gobernanza y simplifique la gestión de riesgos en toda su organización con IBM® OpenPages, una solución unificada de gobernanza, riesgo y cumplimiento (GRC) para ayudar a gestionar, monitorear e informar sobre el riesgo y el cumplimiento. Aprenda más sobre cómo watsonx.governance está impulsando flujos de trabajo de IA responsables, transparentes y explicables y las mejoras que se avecinan en el futuro.