¿Qué es la Declaración de derechos de la IA?

La Declaración de derechos de la IA fue presentada en octubre de 2022 por la Oficina de Política Científica y Tecnológica (OSTP) de la Casa Blanca en un documento titulado "Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People". También conocido el anteproyecto, la Declaración de derechos de la IA se creó tras consultar a varios académicos, grupos de derechos humanos, organizaciones sin ánimo de lucro y empresas del sector privado.

La Declaración de derechos de la IA tiene por objeto apoyar el desarrollo de políticas y prácticas que protejan los derechos civiles y promuevan los valores democráticos en la implementación y el gobierno de los sistemas automatizados. Para lograrlo, el anteproyecto establece cinco principios para mitigar los riesgos potenciales, como la discriminación algorítmica. También aborda los problemas de acceso a recursos o servicios críticos que pueden surgir de la implementación de la IA en áreas como la sanidad, los servicios financieros y más.

La Declaración de derechos de la IA consta de cinco principios básicos que ayudan a guiar el diseño, el uso y la implementación de los sistemas de IA. Se ofrecen consideraciones específicas sobre cada principio, teniendo en cuenta diversas situaciones en las que los derechos civiles de las personas (como la libertad de expresión, el derecho al voto o la privacidad) pueden estar en riesgo.

Aunque el anteproyecto no es vinculante y no exige el cumplimiento de los principios básicos, está destinado a informar las decisiones políticas relacionadas con la IA en las que la legislación o la política existentes aún no proporcionan orientación.

La Declaración de derechos de la IA se aplica a los sistemas automatizados si tienen el potencial de afectar significativamente los derechos, las oportunidades o el acceso de los pueblos estadounidenses a recursos o servicios críticos. Los tipos de sistemas automatizados potencialmente incluidos en el alcance de la Declaración de derechos de la IA incluyen, entre otros, aquellos que pueden afectar a:

Derechos civiles, libertades y privacidad: esto incluye sistemas relacionados con el habla (por ejemplo, herramientas de moderación de contenido automatizadas); algoritmos de sistemas de vigilancia y justicia penal (por ejemplo, lectores automáticos de matrículas); sistemas relacionados con la votación (por ejemplo, herramientas de comparación de firmas); y sistemas con un posible impacto en la privacidad (por ejemplo, sistemas de segmentación de anuncios).

Igualdad de oportunidades: esto incluye los sistemas relacionados con la formación (por ejemplo, el software de detección de plagio), los sistemas relacionados con la vivienda (por ejemplo, los algoritmos de selección de inquilinos) y los sistemas relacionados con el empleo (por ejemplo, los algoritmos de contratación o despido).

Acceso a recursos críticos y servicios: esto incluye tecnologías sanitarias y de seguros médicos (por ejemplo, herramientas de diagnóstico asistidas por IA); algoritmos del sistema financiero (por ejemplo, sistemas de puntuación crediticia); sistemas que afectan a la seguridad de las comunidades (por ejemplo, controles de la red eléctrica); y sistemas relacionados con el acceso a beneficios o servicios o la asignación de sanciones (por ejemplo, algoritmos de detección del fraude).

Los casos de uso de IA están creciendo a medida que tecnologías como machine learning (ML) y procesamiento del lenguaje natural (PLN) se vuelven más sofisticadas. En un estudio de Ernst and Young, el 90 % de los encuestados afirmaron que utilizan la IA en el trabajo.¹ Sin embargo, la adopción generalizada de la IA también plantea nuevos retos éticos relacionados con la transparencia, el sesgo y la protección de datos. Por ejemplo:

• El software de reconocimiento facial (FRS) utilizado en las fuerzas del orden puede ser propenso a sesgos. Los investigadores ya han confirmado varios casos de identificación errónea debido a la inteligencia artificial, la mayoría de los cuales involucraban a personas negras que fueron acusadas injustamente.²
  
  
• Las alucinaciones de IA se producen cuando un sistema automatizado percibe falsamente un patrón y produce una respuesta sin sentido o inexacta. En un caso, los investigadores pidieron a ChatGPT que proporcionara información sobre la patogénesis de dos enfermedades. La IA proporcionó un documento completo con citas e ID de PubMed. Tras comprobar los hechos, los investigadores descubrieron que los documentos eran falsos y que las identificaciones se habían extraído de otros documentos.³
  
  
• En un estudio de IBM realizado a altos ejecutivos del equipo directivo, solo el 24 % de los proyectos de IA generativa actual tienen un componente para proteger las iniciativas. De hecho, casi el 70 % de los encuestados afirmó que la innovación tiene prioridad sobre la seguridad.

Para abordar estos desafíos, los desarrolladores de IA necesitan guías y marcos éticos construidos en torno al uso responsable de la IA. IA responsable es un conjunto de principios utilizados para guiar el diseño, el desarrollo, la implementación y el uso de la IA. Considera el impacto social más amplio de los sistemas de IA y las medidas necesarias para alinear la IA con los valores de las partes interesadas, las normas legales y los principios éticos.

El anteproyecto busca establecer buenas prácticas de IA responsable en un marco integral para que la sociedad pueda aprovechar todo el potencial de las herramientas de IA sin comprometer las libertades civiles básicas de las personas.

La Declaración de derechos de la IA consta de cinco principios diseñados teniendo en cuenta los derechos civiles del público estadounidense. Los cinco principios incluyen:

• Sistemas seguros y eficaces
• Protecciones contra la discriminación algorítmica
• Privacidad de datos
• Aviso y explicación
• Alternativas humanas, consideración y respaldo

Este principio establece que las personas "deben estar protegidas de sistemas de IA inseguros o ineficaces". Para alinearse con este principio, el anteproyecto sugiere que los desarrolladores trabajen junto con diversas comunidades, partes interesadas y expertos en el dominio para considerar los riesgos de un sistema de IA. El principio también sugiere que los sistemas se sometan a pruebas previas a la implementación, la identificación y la mitigación de riesgos y la monitorización continua para mejorar la seguridad y la eficacia. Según el anteproyecto, los resultados de cualquier evaluación e informe independientes que confirmen que el sistema es seguro y eficaz deben hacerse públicos siempre que sea posible.

Este principio establece que las personas "no deben sufrir discriminación por parte de los algoritmos, y los sistemas deben utilizarse y diseñarse de forma equitativa". Según la Declaración de derechos de la IA, la discriminación algorítmica se produce cuando los sistemas automatizados afectan negativamente a las personas en función de características como la raza, la orientación sexual, el estado de discapacidad y otras características protegidas por la ley. Para corregir esto, el principio sugiere que los creadores de sistemas automatizados utilicen medidas, como evaluaciones de equidad, datos representativos y pruebas de disparidad para proteger a las personas y comunidades de alto riesgo. El principio también fomenta las auditorías independientes y de terceros.

Este principio establece que las personas "deben estar protegidas de las prácticas abusivas de datos mediante protecciones incorporadas" y "deben tener capacidad de decisión sobre cómo se utilizan sus datos". Para alinearse con este principio, el anteproyecto sugiere que los desarrolladores de IA protejan a los usuarios y su privacidad a través de opciones de diseño que ayuden a garantizar que la recopilación de información de identificación personal (PII) sea estrictamente necesaria. El principio también sugiere que los creadores mantengan las solicitudes de permiso y consentimiento breves y comprensibles y respeten las decisiones sobre el uso, el acceso, la transferencia y la eliminación de datos.

Se requieren protecciones y restricciones mejoradas para la información confidencial, como la relacionada con el trabajo, la salud, la justicia penal y más. El anteproyecto también establece que la tecnología de vigilancia debe estar sujeta a una mayor supervisión para proteger la privacidad y las libertades civiles de los ciudadanos.

Este principio establece que las personas "deben saber que se utiliza un sistema automatizado y entender cómo y por qué contribuye a los resultados que les afectan". La Declaración de derechos de la IA establece que los diseñadores, desarrolladores e implementadores de sistemas automatizados deben utilizar un lenguaje sencillo y accesible para, entre otras cosas, explicar la función del sistema y el papel que desempeña la automatización. Además, el principio sugiere que los sistemas automatizados deben proporcionar un aviso cuando estén en uso y explicaciones claras de cómo y por qué contribuyen a los resultados que afectan a las personas.

Este principio establece que las personas "deben poder excluirse voluntariamente, cuando proceda, y tener acceso a una persona que pueda examinar y remediar rápidamente los problemas que encuentren". Según el anteproyecto, la determinación de lo que es "apropiado" debe basarse en "expectativas razonables" en el contexto específico y debe centrarse en garantizar una amplia accesibilidad y protección contra posibles daños. Sugiere que quienes pretendan ajustarse a este principio hagan accesibles y oportunas la consideración humana y las soluciones a través de un proceso de retroceso y escalada, especialmente cuando un sistema automatizado falle, produzca un error o cuando alguien quiera recurrir su impacto.

Junto con el anteproyecto se publicó un complemento técnico, "From Principles to Practice". Proporciona ejemplos y pasos que los gobiernos, los sectores y las comunidades pueden tomar para integrar los cinco principios en la política, la práctica o el diseño técnico de los sistemas automatizados.

Juntos, la Declaración de derechos de la IA y su complemento técnico explican por qué es importante cada principio, qué debe esperarse de los sistemas automatizados y cómo cada principio puede moverse a la práctica. Los ejemplos que se ofrecen no son una crítica ni una aprobación, sino que pretenden inspirar a las organizaciones para que incorporen protecciones a sus propias operaciones y toma de decisiones en materia de IA.

Tras su publicación en Washington DC, la Declaración de derechos de la IA podría haber inspirado en parte a varias agencias federales a adoptar directrices para su uso responsable de la IA. En el momento de redactar este artículo, 12 agencias del gobierno estadounidense, incluidos el Departamento de Comercio (DOC) y el Instituto Nacional de Estándares y Tecnología (NIST), tienen requisitos de IA que abarcan la ley, la política y la seguridad nacional.

El 30 de octubre de 2023, la administración Biden emitió una orden ejecutiva para establecer nuevas normas para una IA segura y fiable. En un comunicado de prensa publicado seis meses después, el DOC anunció varios planes para implementar la orden ejecutiva.⁴

A nivel estatal, parece que los responsables políticos están alineando la nueva legislación con el anteproyecto en algunos aspectos. En 2021, Nueva York aprobó una ley con requisitos para los empleadores, entre ellos notificar cuándo se utilizan tecnologías de IA en el proceso de contratación. Varios estados ahora tienen requisitos en torno al uso de la tecnología de reconocimiento facial dentro de las fuerzas del orden. Y, más recientemente, el Consejo de Derechos Civiles de California propuso enmiendas a la Ley de Empleo y Vivienda Justos (FEHA) que alinean aún más la FEHA con la Declaración de derechos de la IA.

Fuera de Estados Unidos, 34 países han establecido estrategias nacionales de IA en el momento de redactar este informe.⁵ En particular, la Ley de Inteligencia Artificial de la Unión Europea (Ley de IA de la UE) regula el desarrollo o el uso de la IA en la UE. La ley adopta un enfoque de la regulación basado en el riesgo, aplicando diferentes normas a la IA en función de los riesgos que presentan.

Algunas de las protecciones sugeridas en la Declaración de derechos de la IA ya son exigidas por la Constitución de EE.UU. o existen en la legislación estadounidense actual. Por ejemplo, la vigilancia del gobierno mencionada en el principio de protección de datos ya está sujeta a requisitos legales y supervisión judicial, mientras que existen leyes de derechos civiles para proteger al pueblo estadounidense contra la discriminación.

Ejemplos de otros estándares de IA con los que se alinea el anteproyecto incluyen:

• Recomendación de 2019 sobre Inteligencia Artificial de la Organización para la Cooperación y el Desarrollo Económicos (OCDE). Esto incluye los principios para la administración responsable de una IA fiable, que adoptó Estados Unidos.
  
  
• Orden ejecutiva 13960 sobre la promoción del uso de inteligencia artificial fiable en el gobierno federal. Establece los principios que rigen el uso de la IA por parte del gobierno federal.
  
  
• Orden Ejecutiva 13985 sobre la promoción de la equidad racial y el apoyo a las comunidades marginadas a través del gobierno federal.

Se podrían adoptar nuevas políticas y prácticas para ayudar a garantizar que se implementen las protecciones que se encuentran en la Declaración de derechos de la IA. El anteproyecto reconoce que, en algunos casos, las excepciones a los principios pueden ser necesarias para ayudar a garantizar el cumplimiento de la legislación existente, ajustarse a los aspectos prácticos de un caso de uso específico o equilibrar intereses públicos contrapuestos. Por ejemplo, se anima a las fuerzas del orden y a otras agencias del gobierno a seguir las directrices establecidas en la Declaración de derechos de la IA. Sin embargo, para proteger los derechos y la privacidad de las personas, es posible que deban utilizar métodos alternativos.

De cara al futuro, la Declaración de derechos de la IA podría desempeñar un papel clave para influir en la próxima ola de políticas a medida que las naciones del mundo adopten un enfoque más holístico de la IA responsable.