05: La ética de la IA y la automatización

La IA generativa, una tecnología relativamente nueva, ha conseguido situar a la IA en un momento crítico e histórico, uno que se espera que redefina la naturaleza de los negocios. En este clima de inversión rápida y en expansión de la IA, especialmente dadas las posibilidades que presentan la IA generativa y los modelos fundacionales, la ética de la IA es absolutamente necesaria para garantizar la longevidad, el cumplimiento y la validez de esas inversiones. Creemos que la confianza comienza con una cultura ética dentro de la empresa, pero para una IA escalable, lo que se necesita es una gobernanza que funcione de principio a fin. Las decisiones que tomen hoy las empresas sobre dónde y cómo introducir la IA tendrán ramificaciones en los años venideros.

La ética y la gobernanza de la IA deben dominar los debates organizativos desde el nivel de la junta directiva hacia abajo porque existe una distinción importante entre lo que se puede hacer y lo que se debe hacer. Esto se aplica a cómo se utiliza la IA internamente, sopesando el impacto potencial sobre los trabajadores, y externamente, sopesando el impacto sobre los clientes y el mundo en general.

"Una de las cosas más críticas que puede hacer una empresa antes de empezar a implementar la IA es disponer de barreras para saber dónde y cuándo debe utilizarse esa IA, incluido el impacto de la misma en los puestos de trabajo desde el nivel más bajo hasta el más alto". —Melissa Long Dolson

La salud del modelo fundacional, la protección de la privacidad de empleados y clientes, el mantenimiento de la propiedad intelectual, la gestión de los riesgos y el cumplimiento de la normativa deben formar parte de esas barreras. También debe haber una visión clara de qué protecciones y capas de responsabilidad se pondrán en marcha. Por ejemplo, IBM establece tres principios  en lo que respecta a la IA responsable:


• El objetivo de la IA es potenciar la inteligencia humana
• Los datos y la información pertenecen a quien los crea
• Las nuevas tecnologías, incluidos los sistemas de IA, deben ser transparentes y explicables

También hay que considerar nuevas funciones para gobernar eficazmente la IA y la automatización de TI. Por ejemplo, ¿debería contratar a un responsable de ética de la IA? ¿Necesitará también un especialista en ética de la IA o un consejo de ética de la IA? O quizá necesite las tres cosas. También están surgiendo rápidamente nuevas funciones fuera de estos empleos de supervisión, como ingenieros de deep learning y profundo de la IA, desarrolladores de chatbots de IA, diseñadores de IA y auditores de IA, entre otros. Todas estas funciones necesitarán directrices claras sobre cómo actuar de forma responsable.

Estas complejas conversaciones no tienen respuestas simples, pero es necesario que se produzcan ya. La IA está provocando cambios sísmicos: el Foro Económico Mundial predice que, para 2025, estas nuevas tecnologías habrán trastocado 85 millones de puestos de trabajo en todo el mundo. Sin embargo, el Foro también estima la creación de 97 millones de nuevos puestos.¹ Esta fuerza de trabajo emergente es una en la que los humanos, reforzados por la IA, necesitarán guiarse por reglas basadas en un estricto sentido de la ética.

Para profundizar en este tema, le invitamos a explorar Ética e IA responsable, que forma parte de la guía de IBM sobre la IA generativa.