¿Cómo debería ser un marco de gobierno ético de la IA?

Mientras se intensifica la carrera por lograr la IA generativa, el debate ético en torno a la tecnología también sigue calentándose. Y las apuestas no paran de aumentar.

Según Gartner, "las organizaciones son responsables de garantizar que los proyectos de IA que desarrollan, implementan o utilizan no tienen consecuencias éticas negativas". Mientras tanto, el 79 % de los ejecutivos afirma que la ética de la IA es importante para su enfoque de IA en toda la empresa, pero menos del 25 % ha puesto en práctica los principios de gobierno de la ética.

La IA también ocupa un lugar destacado en la lista de preocupaciones del Gobierno de los Estados Unidos. A finales de febrero, el presidente de la Cámara de Representantes, Mike Johnson, y el líder demócrata, Hakeem Jeffries, anunciaron la creación de un grupo de trabajo bipartidista relacionado con la IA para estudiar cómo puede garantizar el Congreso que Estados Unidos siga liderando la innovación mundial en este campo. El Grupo de Trabajo también considerará que las barreras de seguridad son necesarias para proteger a la nación frente a las amenazas actuales y emergentes y para garantizar el desarrollo de una tecnología segura y digna de confianza.

Está claro que el buen gobierno es esencial para abordar los riesgos asociados a la IA.

A medida que las empresas adoptan cada vez más la IA en sus operaciones diarias, el uso ético de la tecnología se ha convertido en un tema candente. El problema es que las organizaciones a menudo se basan en principios corporativos amplios, combinados con juntas legales o de revisión independientes, para evaluar los riesgos éticos de los casos de uso individuales de la IA.

Sin embargo, según el caso de éxito de Gartner, los principios éticos de la IA pueden ser demasiado amplios o abstractos. Luego, los líderes de proyecto luchan por decidir si los casos de uso individuales de IA son éticos o no. Mientras tanto, los equipos legales y de revisión carecen de visibilidad sobre cómo se está utilizando realmente la IA en los negocios. Todo esto abre la puerta al uso poco ético (intencional o no) de la IA y a los consiguientes riesgos empresariales y de cumplimiento.

Dado el posible impacto, el problema debe abordarse primero a nivel de gobierno. A continuación, debe seguir la implementación organizativa posterior con los controles y equilibrios adecuados.

Según el caso de éxito, los líderes empresariales y de privacidad de IBM desarrollaron un marco de gobierno para abordar los problemas éticos en torno a los proyectos de IA. Este marco se sustenta en cuatro funciones fundamentales:

1. Comité consultivo de políticas: los altos directivos son responsables de determinar los objetivos regulatorios y de política pública globales, así como los riesgos y las estrategias éticas de privacidad, datos y tecnología.

2. Junta de Ética de IA: copresidido por el líder global de ética de la IA de IBM® Research y el director de privacidad y confianza, el Consejo comprende un equipo multifuncional y centralizado que define, mantiene y asesora sobre las políticas, prácticas y comunicaciones de ética de la IA de IBM.

3. Puntos focales de ética de la IA: cada unidad de negocio tiene puntos focales (representantes de la unidad de negocio) que actúan como primer punto de contacto para identificar y evaluar de forma proactiva los problemas de ética tecnológica, mitigar los riesgos para casos de uso individuales y remitir los proyectos a la Junta de Ética de IA para su revisión. Una gran parte del gobierno de la IA depende de estas personas, como veremos más adelante.

4. Red de defensa: una red de base de empleados que promueven una cultura de tecnología de IA ética, responsable y fiable. Estos defensores contribuyen a abrir flujos de trabajo y ayudan a escalar las iniciativas de ética de la IA en toda la organización.

Si se identifica un problema de ética de la IA, el punto focal asignado a la unidad de negocio del caso de uso iniciará una evaluación. El punto foca ejecuta este proceso en primera línea, lo que permite el triaje de casos de bajo riesgo. Para los casos de mayor riesgo, se realiza una evaluación formal de riesgos y se escala a la Junta de Ética de IA para su revisión.

Cada caso de uso se evalúa mediante directrices que incluyen:

• Propiedades asociadas y uso previsto: investiga la naturaleza, el uso previsto y el nivel de riesgo de un caso de uso concreto. ¿Podría el caso de uso causar daño? ¿Quién es el usuario final? ¿Se están violando derechos individuales?

• Cumplimiento normativo: determina si los datos se manejarán de forma segura y de acuerdo con las leyes de privacidad aplicables y las normativas del sector.

• Casos de uso revisados previamente: proporciona conocimiento y próximos pasos a partir de casos de uso revisados previamente por la Junta de Ética de IA. Incluye una lista de casos de uso de IA que requieren la aprobación de la junta.

• Alineación con los principios éticos de la IA: determina si los casos de uso cumplen los requisitos fundamentales, como la alineación con los principios de equidad, transparencia, explicabilidad, solidez y privacidad.

Según el informe de Gartner, la implementación de un marco de gobierno de la IA benefició a IBM al:

• Escalar la ética de IA: los puntos focales impulsan el cumplimiento e inician revisiones en sus respectivas unidades de negocio, lo que permite una revisión de la ética de IA a escala.

• Aumentar la alineación estratégica de la visión de la ética dela IA: los puntos focales se conectan con los líderes técnicos, intelectuales y empresariales en el espacio de la ética de la IA en toda la empresa y en todo el mundo.

• Acelerar la finalización de proyectos y propuestas de bajo riesgo: al clasificar los servicios o proyectos de bajo riesgo, los puntos focales permiten la capacidad de revisar proyectos con mayor rapidez.

• Mejorar la preparación de la junta y la capacidad de respuesta: al capacitar a los puntos focales para guiar la ética de la IA al principio del proceso, la Junta de Ética de la IA puede revisar cualquier caso de uso restante de manera más eficiente.

Cuando ChatGPT debutó en junio de 2020, el mundo entero estaba lleno de expectativas. Ahora, las tendencias actuales de la IA apuntan hacia unas expectativas más realistas sobre la tecnología. Herramientas independientes como ChatGPT pueden captar la imaginación popular, pero la integración efectiva en los servicios establecidos generará cambios más profundos en todos los sectores.

Sin duda, la IA abre la puerta a nuevas herramientas y técnicas poderosas para hacer que el trabajo se realice. Sin embargo, los riesgos asociados también son reales. Las capacidades elevadas de IA multimodal y las barreras de entrada reducidas también invitan al abuso: las deepfakes, los problemas de privacidad, la perpetuación de sesgos e incluso la evasión de las salvaguardias CAPTCHA pueden volverse cada vez más fáciles para los grupos de amenazas.

Aunque los actores maliciosos ya están utilizando la IA, el mundo empresarial legítimo también debe tomar medidas preventivas para mantener seguros a empleados, clientes y comunidades.

ChatGPT dice: "Las consecuencias negativas pueden incluir sesgos perpetuados por algoritmos de IA, violaciones de la privacidad, exacerbación de las desigualdades sociales o daños involuntarios a individuos o comunidades. Además, podría haber implicaciones para la confianza, daños a la reputación o ramificaciones legales derivadas de prácticas de IA poco éticas".

Para protegerse contra este tipo de riesgos, el gobierno ético de la IA es esencial.