Cumplimiento de la IA: qué es, por qué es importante y cómo empezar

Para las pequeñas y grandes empresas, la inteligencia artificial (IA) se asocia con varias palabras interesantes, como innovación, oportunidad y ventaja competitiva. Pero hay otra palabra que debe estar en esa lista: cumplimiento.

Alrededor del 73 % de las empresas ya utilizan IA analítica y generativa, y el 72 % de los CEO con mejor rendimiento afirman que la ventaja competitiva depende de quién utilice la IA más avanzada.¹

Pero este auge en el uso de la IA y su interesante potencial conlleva crecientes preocupaciones sobre la ética y la seguridad de las tecnologías impulsadas por IA. Si un desarrollo defectuoso conduce a algoritmos sesgados que perpetúan la discriminación (por ejemplo, en la contratación, la aplicación de la ley o las decisiones financieras), las consecuencias pueden ser nefastas y duraderas.

Como resultado, las empresas, los países y los responsables de la formulación de políticas están sopesando la gobernanza de la IA y estableciendo nuevas reglas sobre cómo se puede emplear y desarrollar la IA. Revise qué es el cumplimiento de la IA, por qué es importante para las empresas y qué medidas pueden tomar las empresas para seguir cumpliendo en un ámbito normativo en rápida evolución.

El cumplimiento de la IA se refiere a las decisiones y prácticas que permiten a las empresas mantenerse en línea con las leyes y regulaciones que rigen el uso de los sistemas de IA. Estos estándares incluyen leyes, regulaciones y políticas internas diseñadas para ayudar a garantizar que las organizaciones desarrollen modelos de IA y sus algoritmos de manera responsable.

Pero los procesos de cumplimiento de la IA van más allá de los requerimientos legales. También se trata de generar confianza con los stakeholders y promover la transparencia y la equidad en la toma de decisiones. También son esenciales para la seguridad. Dado que la IA puede ser explotada por actores malintencionados, las medidas sólidas de ciberseguridad y las estrategias de gestión de riesgos están en el centro del cumplimiento de la IA.

Los procesos de cumplimiento de la IA ayudan a las empresas a evitar los riesgos financieros, legales y de reputación asociados con el uso de herramientas de IA.

Cuanto más usan las empresas la IA, más podrían encontrarse con situaciones en las que la tecnología toma giros inesperados o erróneos. Por ejemplo, una empresa abandonó su herramienta de reclutamiento con IA después de descubrir que perpetuaba la discriminación de género debido a los materiales utilizados para entrenarla.² Y las investigaciones han encontrado que algunas solicitudes de préstamos impulsadas por algoritmos pueden llevar a la discriminación contra los solicitantes de color.³

Las preocupaciones sobre estos problemas están impulsando una ola de esfuerzos para estandarizar la forma en que las empresas desarrollan y utilizan la IA. En 2024, la Unión Europea se convirtió en el primer mercado importante en imponer reglas en torno a la IA con el lanzamiento de la Ley de IA de la UE. Otras jurisdicciones, como Estados Unidos y China, también están desarrollando sus propias regulaciones de IA.

El incumplimiento puede ser costoso. En virtud del Reglamento General de Protección de Datos (RGPD) de la UE, las empresas pueden enfrentar multas de hasta 20 millones de euros o el 4 % de su facturación anual global, la cantidad que sea mayor. En Estados Unidos, la Comisión Federal de Comercio (FTC) puede adoptar medidas coercitivas contra las empresas por infracciones relacionadas con la IA, como el uso de algoritmos de machine learning.⁴

El cumplimiento también es esencial para proteger la reputación de la marca. Una encuesta de 2024 realizada por KPMG reveló que el 78 % de los consumidores cree que las organizaciones que utilizan IA tienen la responsabilidad de ayudar a garantizar que se desarrolle de manera ética.⁵ De lo contrario, se puede perder la confianza de las empresas y los consumidores.

Al ayudar a garantizar que los sistemas de IA sean confiables, transparentes y responsables, las empresas pueden impulsar la innovación, mejorar la eficiencia y obtener una ventaja competitiva en el mercado.

Si el cumplimiento normativo consistiera en cumplir con un conjunto claro de requisitos, el camino a seguir sería sencillo. No obstante, tan rápido como evolucionan las tecnologías de IA, también lo hacen las diversas pautas dirigidas a regirlas.

La tecnología en sí complica las actividades de cumplimiento. Comprender e interpretar los modelos de IA y algoritmos puede ser técnicamente desafiante, especialmente porque muchos sistemas de IA operan en tiempo real. Mantener el ritmo de la evolución de las regulaciones a esta velocidad puede ser difícil, y el rápido avance de la IA requiere que las empresas adapten constantemente sus programas de cumplimiento.

Los países están en proceso de promulgar normas sobre IA que podrían reconfigurar el modo en que se gobierna la tecnología a escala mundial. Además de estas leyes y reglamentos específicos sobre IA, las empresas y los proveedores de IA también deben cumplir con una creciente red de normas sobre privacidad de datos, discriminación y ciberseguridad. Para complicar aún más las cosas, estos requisitos a veces se aplican no solo a las empresas y proveedores de IA que operan en su región específica, sino también a cualquiera que haga negocios en la región.

 Algunos temas y regulaciones clave incluyen:

El RGPD europeo establece estándares específicos para la privacidad de datos, el análisis de datos y el uso de datos personales. La Ley de IA de la UE, considerada el primer marco regulatorio integral del mundo para la IA, prohíbe ciertos usos de la IA e impone requisitos de gestión de riesgos y transparencia a otros. Sigue un enfoque basado en el riesgo para la regulación de la IA, con mandatos más estrictos para los sistemas de alto riesgo.

Estados Unidos aún no cuenta con una regulación integral, pero existen varios requisitos de cumplimiento a nivel federal y estatal. Por ejemplo, la orden ejecutiva sobre el mantenimiento del liderazgo estadounidense en inteligencia artificial establece pautas para el desarrollo y el uso de la IA. Las leyes específicas de la industria, como la Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA) o la Ley de Informes Crediticios Justos (FCRA), también pueden aplicarse a la IA.

En agosto de 2023, China introdujo regulaciones específicas para la IA generativa, denominadas Medidas Provisionales para la Gestión de Servicios de IA Generativa. Estas medidas incluyen estándares de contenido y reglas para la privacidad de datos, el etiquetado y las licencias de IA generativa. China también tiene regulaciones específicas dirigidas a algoritmos de recomendación impulsados por IA y tecnologías de síntesis profunda, como deepfakes.

Si bien el cumplimiento de la IA es crucial en todos los sectores, es especialmente importante en industrias, como las siguientes:

Los casos de uso de la IA en la atención médica incluyen el diagnóstico de enfermedades, el descubrimiento de fármacos y la medicina personalizada. El incumplimiento de normativas, como la Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA), que protege la intimidad de los pacientes, puede acarrear multas o repercusiones legales. Y los algoritmos sesgados o mal entrenados pueden dar lugar a diagnósticos erróneos o planes de tratamiento inadecuados para los pacientes.

La IA tiene muchas aplicaciones financieras, desde la detección de fraude y la evaluación de riesgos hasta las actividades contra el lavado de dinero. Sin embargo, estas aplicaciones de IA deben cumplir con regulaciones como la Ley de Informes Crediticios Justos (FCRA) de EE. UU. y la Directiva sobre Mercados de Instrumentos Financieros de la UE (MiFID II). Los esfuerzos de cumplimiento de la IA tienen como objetivo evitar que los algoritmos discriminen en las solicitudes de préstamos y otras tomas de decisiones clave.

Los profesionales de RR. HH. utilizan cada vez más herramientas impulsadas por IA para la automatización de tareas rutinarias y para agilizar la selección de currículos, la evaluación de candidatos y el monitoreo de empleados. Pero si los algoritmos se entrenan con datos sesgados o inadecuados, pueden dar lugar a un sesgo injusto y potencialmente ilegal. El cumplimiento de las leyes contra la discriminación y las regulaciones de protección de datos ayuda a garantizar la transparencia, la equidad y la privacidad.

Las empresas son cada vez más conscientes de la necesidad de cumplir con los requisitos normativos existentes en materia de IA y prepararse para las normas futuras. Una encuesta de expertos internacionales en cumplimiento y riesgo encontró que más de la mitad de los encuestados tenían preocupaciones sobre la privacidad de datos, la transparencia algorítmica y el uso indebido o malentendidos en torno a la inteligencia artificial.⁶

Otro estudio de altos ejecutivos encontró que el 80 % planea aumentar la inversión en un enfoque responsable de la inteligencia artificial para generar confianza en sus modelos.⁷ Como resultado, muchas empresas están tomando medidas proactivas para ayudar a garantizar el cumplimiento de la IA.

Algunas empresas están estableciendo marcos que describen políticas, procedimientos y responsabilidades internas para el desarrollo y uso éticos de la IA. Por ejemplo, Microsoft publicó su Norma de IA Responsable, que incluye evaluaciones de riesgo periódicas, aplicación de medidas de protección de datos y priorización de la transparencia y la rendición de cuentas en la toma de decisiones^.8 Y los Principios de IA de Google, actualizados en 2023, subrayan la importancia de la equidad, la transparencia y la privacidad en el desarrollo de la IA.⁹

Las empresas también están colaborando activamente con los entres reguladores y los stakeholders de la industria para mantenerse informadas sobre los cambios normativos y los problemas de cumplimiento. Una encuesta de IBM a líderes empresariales encontró que el 74 % planea unirse a los debates con sus pares o colaborar con los legisladores sobre inteligencia artificial. Estas iniciativas ayudan a las empresas a prepararse para nuevas regulaciones y participar en el desarrollo de futuras directrices.

Para agilizar los esfuerzos de cumplimiento, las empresas están invirtiendo en diversas herramientas y tecnologías de cumplimiento de la IA. Por ejemplo, las herramientas de IA explicable (XAI) pueden ayudar a las empresas a comprender e interpretar las decisiones tomadas por los modelos de IA, mientras que las carteras de gobernanza de la IA pueden proporcionar capacidades de supervisión y auditoría en tiempo real. Los productos de gobernanza, como IBM watsonx.governance, ofrecen kits de herramientas para cumplir con la normativa, evaluar el riesgo y gestionar la evolución de los modelos.

A medida que continúan surgiendo avances en la tecnología de IA, también pasa lo mismo con los riesgos y desafíos asociados con su uso. La clave es adoptar un enfoque proactivo, lo que significa invertir en los recursos necesarios, la experiencia y las tecnologías para desarrollar e implementar infraestructuras sólidas de gobernanza de la IA. También requiere fomentar una cultura de transparencia, rendición de cuentas y confianza en el desarrollo y el uso de sistemas de IA. Priorizar el cumplimiento de la IA ayuda a las empresas a mitigar estos riesgos y les permite aprovechar todo el potencial de la IA.