10 peligros y riesgos de la IA y cómo gestionarlos

La inteligencia artificial (IA) tiene un enorme beneficio, pero aprovechar todos los beneficios de la IA significa afrontar y manejar sus posibles escollos. Los mismos sistemas sofisticados que se utilizan para descubrir nuevos fármacos, detectar enfermedades, hacer frente al cambio climático, conservar la vida silvestre y proteger la biodiversidad también pueden producir algoritmos sesgados que causen daños y tecnologías que amenacen la seguridad, la privacidad e incluso la existencia humana.

He aquí un análisis más detallado de los 10 peligros de la IA y de las estrategias de gestión de riesgos que se pueden ejecutar. Muchos de los riesgos de IA aquí enumerados pueden mitigarse, pero los expertos en IA, desarrolladores, empresas y gobiernos aún deben afrontarlos.

Los humanos somos innatamente sesgados y la IA que desarrollamos puede reflejar nuestros prejuicios. Estos sistemas aprenden inadvertidamente sesgos que podrían estar presentes en los datos de entrenamiento y exhibirse en los algoritmos de machine learning (ML) y en los modelos de deep learning que sustentan el desarrollo de la IA. Esos prejuicios aprendidos podrían perpetuarse durante la implementación de la IA, generando resultados sesgados.

El sesgo de la IA puede tener consecuencias imprevistas con resultados potencialmente perjudiciales. Algunos ejemplos incluyen sistemas de seguimiento de candidatos que discriminan por género, sistemas de diagnóstico sanitario que demuestran resultados de menor precisión para poblaciones históricamente desatendidas, y herramientas de política predictiva que apuntan de forma desproporcionada a comunidades sistémicamente marginadas, entre otros.

Pase a la acción:

• Establezca una estrategia de gobierno de la IA que abarque marcos, políticas y procesos que guíen el desarrollo y el uso responsables de las tecnologías de IA.

• Cree prácticas que promuevan la equidad, como incluir conjuntos de datos de formación representativos, formar equipos de desarrollo diversos, integrar métricas de equidad e incorporar la supervisión humana a través de juntas o comités de revisión de ética de IA.

• Implante procesos de mitigación de sesgos a lo largo del ciclo de vida de la IA. Esto implica elegir el modelo de aprendizaje correcto, realizar el proceso de datos de forma consciente y monitorizar el rendimiento en el mundo real.

• Busque herramientas de equidad de IA, como el kit de herramientas de código abierto AI Fairness 360 de IBM.

Los malos actores pueden explotar la IA para lanzar ciberataques. Manipulan herramientas de IA para clonar voces, generar identidades falsas y crear correos electrónicos de phishing convincentes, todo ello con la intención de estafar, piratear, robar la identidad de una persona o comprometer su privacidad y seguridad.

Y aunque las organizaciones aprovechan los avances tecnológicos, como la IA generativa, solo el 24 % de las iniciativas de IA generativa están protegidas. Esta falta de seguridad amenaza con exponer los datos y los modelos de IA a violaciones, cuyo coste medio global es de 4,88 millones de dólares en 2024.

Pase a la acción:

Estas son algunas de las formas en que las empresas pueden proteger su flujo de IA, según lo recomendado por el IBM Institute for Business Value (IBM IBV):

• Esboce una estrategia de seguridad y protección de la IA.

• Busque brechas de seguridad en entornos de IA mediante la evaluación de riesgos y el modelado de amenazas.

• Proteja los datos de entrenamiento de la IA y adopte un enfoque seguro desde el diseño para permitir la implementación y el desarrollo seguros de las tecnologías de IA.

• Evalúe las vulnerabilidades del modelo mediante pruebas adversarias.

• Invierta en formación sobre ciberrespuesta para aumentar la concienciación, la preparación y la seguridad de su organización.

Los grandes modelos de lenguaje (LLMs) son los modelos de IA subyacentes para muchas aplicaciones de IA generativa, como asistentes virtuales y chatbots de IA conversacional. Como su nombre indica, estos modelos de lenguaje requieren un inmenso volumen de datos de entrenamiento.

Pero los datos que ayudan a entrenar a los LLM suelen proceder de rastreadores web que extraen y recopilan información de sitios web. Estos datos a menudo se obtienen sin el consentimiento de los usuarios y pueden contener información de identificación personal (PII). Otros sistemas de IA que ofrecen experiencias personalizadas a los clientes también podrían recopilar datos personales.

Pase a la acción:

• Informe a los consumidores sobre las prácticas de recopilación de datos para los sistemas de IA: cuándo se recopilan los datos, qué PII (si corresponde) se incluye y cómo se almacenan y utilizan los datos.

• Ofrézcales la opción de optar por no participar en el proceso de recopilación de datos.

• En su lugar, considere la posibilidad de utilizar datos sintéticos generados por ordenador.

La IA se basa en cálculos que consumen mucha energía y tienen una importante huella de carbono. El entrenamiento de algoritmos en grandes conjuntos de datos y la ejecución de modelos complejos requieren grandes cantidades de energía, lo que contribuye a aumentar las emisiones de carbono. Un estudio estima que entrenar un solo modelo de procesamiento del lenguaje natural emite más de 272 000 kg de dióxido de carbono; casi cinco veces las emisiones promedio de un automóvil durante su vida útil.¹

El consumo de agua es otra preocupación. Muchas aplicaciones de IA se ejecutan en servidores de centros de datos, que generan un calor considerable y necesitan grandes volúmenes de agua para su refrigeración. Un estudio encontró que entrenar modelos GPT-3 en los centros de datos de Microsoft en EE. UU. consume 5,4 millones de litros de agua, y gestionar de 10 a 50 instrucciones usa aproximadamente 500 mililitros, lo que equivale a una botella de agua estándar.²

Pase a la acción:

• Valore usar centros de datos y proveedores de IA que funcionen con energía renovable.

• Elija modelos de IA o marcos energéticamente eficientes.

• Entrene con menos datos y simplifique la arquitectura del modelo.

• Reutilice los modelos existentes y benefíciese del aprendizaje por transferencia, que emplea modelos preentrenados para mejorar el rendimiento en tareas o conjuntos de datos relacionados.

• Considere una arquitectura sin servidor y hardware optimizados para cargas de trabajo de IA.

En marzo de 2023, solo 4 meses después de que OpenAI presentara ChatGPT, una carta abierta de líderes tecnológicos pedía una pausa inmediata de 6 meses en "el entrenamiento de sistemas de IA más potentes que GPT-4".³ Dos meses después, Geoffrey Hinton, conocido como uno de los "padrinos de la IA", advirtió que la rápida evolución de la IA pronto podría superar a la inteligencia humana.⁴ Siguió otra declaración de científicos de IA, expertos en informática y otras figuras notables en la que instaban a tomar medidas para mitigar el riesgo de extinción a causa de la IA, equiparándolo a los riesgos que representan la guerra nuclear y las pandemias.⁵

Si bien estos peligros existenciales suelen considerarse menos inmediatos en comparación con otros riesgos de la IA, siguen siendo importantes. IA fuerte o inteligencia general artificial, es una máquina teórica con una inteligencia similar a la humana, mientras que la superinteligencia artificial se refiere a un hipotético sistema de IA avanzado que trasciende la inteligencia humana.

Tomar medidas:

Aunque la IA fuerte y la IA superinteligente pueden parecer ciencia ficción, las organizaciones pueden prepararse para estas tecnologías:

• Manténgase al día de la investigación en IA.

• Construya una pila tecnológica sólida y manténgase abierto a experimentar con las últimas herramientas de IA.

• Refuerce las competencias de los equipos de IA para facilitar la adopción de tecnologías emergentes.

La IA generativa se ha convertido en una hábil imitación de los creativos, generando imágenes que capturan la forma de un artista, la música que evoca la voz de un cantante o los ensayos y poemas similares al estilo de un escritor. Sin embargo, surge una pregunta importante: ¿quién posee los derechos de autor del contenido generado por IA, ya sea generado íntegramente por IA o creado con su ayuda?

Los problemas de propiedad intelectual (IP) relacionados con las obras generadas por la IA siguen desarrollándose y la ambigüedad en torno a la propiedad presenta desafíos para las empresas.

Pase a la acción:

• Implemente comprobaciones para cumplir las leyes relativas a las obras con licencia que puedan utilizarse para entrenar modelos de IA.

• Tenga cuidado al introducir datos en algoritmos para evitar exponer la propiedad intelectual de su empresa o la información protegida por IP de otros.

• Supervise los resultados de los modelos de IA para detectar contenido que pueda exponer la propiedad intelectual de su organización o infringir los derechos de propiedad intelectual de otros.

Se espera que la IA altere el mercado laboral, incitando el temor de que la automatización con IA desplace a los trabajadores. Según un informe del Foro Económico Mundial, casi la mitad de las organizaciones encuestadas esperan que la IA cree nuevos puestos de trabajo, mientras que casi una cuarta parte la considera una causa de pérdida de puestos de trabajo.⁶

Aunque la IA impulsa el crecimiento en roles como especialistas en machine learning, ingenieros en robótica y especialistas en transformación digital, también está impulsando el declive de puestos en otros campos. Estas incluyen funciones de oficina, secretaría, entrada de datos y servicio de atención al cliente, por nombrar algunas. La mejor manera de mitigar estas pérdidas es adoptar un enfoque proactivo que tenga en cuenta cómo los empleados pueden utilizar las herramientas de IA para mejorar su trabajo; centrándose en el aumento en lugar de la sustitución.

Tome medidas:

vuelva a capacitar y mejore las habilidades de los empleados para que utilicen la IA de forma eficaz es esencial a corto plazo. Sin embargo, IBM IBV recomienda un enfoque a largo plazo en tres vertientes:

• Transforme los modelos operativos y de negocio convencionales, los roles laborales, las estructuras organizativas y otros procesos para reflejar la naturaleza evolutiva del trabajo.

• Establezca asociaciones entre humanos y máquinas que mejoren la toma de decisiones, la resolución de problemas y la creación de valor.

• Invierta en tecnología que permita a los empleados centrarse en tareas de mayor valor e impulse el crecimiento de los ingresos.

Uno de los riesgos más inciertos y cambiantes de la IA es su falta de responsabilidad. ¿Quién es responsable cuando un sistema de IA falla? ¿Quién es responsable de las consecuencias de las decisiones perjudiciales de una herramienta de IA?

Estas preguntas están en primer plano en los casos de choques mortales y colisiones peligrosas con vehículos autónomos y de arrestos injustos basados en sistemas de reconocimiento facial. Si bien los responsables políticos y las agencias reguladoras aún están resolviendo estas cuestiones, las empresas pueden incorporar la responsabilidad en su estrategia de gobierno de la IA para mejorarla.

Pase a la acción:

• Mantenga registros y pistas de auditoría fácilmente accesibles para facilitar las revisiones de los comportamientos y decisiones de un sistema de IA.

• Mantenga registros detallados de las decisiones humanas tomadas durante los procesos de diseño, desarrollo, prueba e implementación de la IA para que puedan rastrearse y monitorizarse cuando sea necesario.

• Considere la posibilidad de utilizar los marcos y directrices existentes que incorporan la rendición de cuentas en la IA, como las directrices éticas para una IA fiable de la Comisión Europea,⁷ los principios de la IA de la OCDE,⁸ el marco de gestión de riesgos de la IA del NIST,⁹ y el marco de responsabilidad de la IA de la Oficina de Responsabilidad del Gobierno de Estados Unidos.¹⁰

Los algoritmos y modelos de IA a menudo se perciben como cajas negras cuyos mecanismos internos y procesos de toma de decisiones son un misterio, incluso para los investigadores de IA que trabajan estrechamente con la tecnología. La complejidad de los sistemas de IA plantea desafíos a la hora de comprender por qué llegaron a una determinada conclusión e interpretar cómo llegaron a una predicción concreta.

Esta opacidad e incomprensibilidad erosionan la confianza y ocultan los posibles peligros de la IA, lo que dificulta la adopción de medidas proactivas contra ellos.

"Si no tenemos esa confianza en esos modelos, realmente no podemos obtener el beneficio de esa IA en las empresas", dijo Kush Varshney, distinguido científico de investigación y director sénior de IBM Research en un vídeo de IBM AI Academy sobre la confianza, la transparencia y el gobierno en IA.

Pase a la acción:

• Adopte técnicas de IA explicables. Algunos ejemplos incluyen la evaluación continua de modelos, las explicaciones locales interpretables agnósticas del modelo (LIME) para ayudar a explicar la predicción de los clasificadores mediante un algoritmo de machine learning y las características importantes de deep learning (DeepLIFT) para mostrar un vínculo rastreable y las dependencias entre las neuronas de una red neuronal.

• El gobierno de la IA vuelve a ser valioso en este caso, con equipos de auditoría y revisión que evalúan la interpretabilidad de los resultados de la IA y establecen estándares de explicabilidad.

• Explore las herramientas de IA explicables, como el kit de herramientas de código abierto Explicabilidad 360 de la IA de IBM.

Al igual que con los ciberataques, los actores maliciosos explotan las tecnologías de IA para difundir información errónea y desinformación, influyendo y manipulando las decisiones y acciones de las personas. Por ejemplo, se realizaron llamadas automáticas generadas por IA que imitaban la voz del presidente Joe Biden para disuadir a varios votantes estadounidenses de acudir a las urnas.¹¹

Además de la desinformación relacionada con las elecciones, la IA puede generar deepfakes, que son imágenes o vídeos alterados para tergiversar a alguien diciendo o haciendo algo que nunca hizo. Estos deepfakes pueden propagarse a través de las redes sociales, amplificando la desinformación, dañando la reputación y acosando o extorsionando a las víctimas.

Las alucinaciones de la IA también contribuyen a la desinformación. Estos resultados inexactos pero plausibles van desde inexactitudes fácticas menores hasta información inventada que puede causar daño.

Pase a la acción:

• Eduque a los usuarios y empleados sobre cómo detectar la información errónea y la desinformación.

• Verifique la autenticidad y la veracidad de la información antes de actuar en consecuencia.

• Utilice datos de entrenamiento de alta calidad, pruebe rigurosamente los modelos de IA y evalúelos y perfecciónelos continuamente.

• Confíe en la supervisión humana para revisar y validar la precisión de los resultados de la IA.

• Manténgase actualizado sobre las últimas investigaciones para detectar y combatir deepfakes, alucinaciones de IA y otras formas de información errónea y desinformación.

La IA es muy prometedora, pero también conlleva posibles peligros. Comprender los riesgos potenciales de la IA y tomar medidas proactivas para minimizarlos puede dar a las empresas una ventaja competitiva.

Con IBM watsonx.governance, las organizaciones pueden dirigir, gestionar y supervisar las actividades de la IA en una plataforma integrada. IBM watsonx.governance puede gobernar modelos de IA de cualquier proveedor, evaluar la precisión del modelo y monitorizar la imparcialidad, el sesgo y otras métricas.