¿Qué es la ética de la IA?

Algunos ejemplos de problemas éticos relacionados con la IA son:

• Responsabilidad y privacidad de los datos
• Imparcialidad
• Explicabilidad
• Robustez
• Transparencia
• Sustentabilidad ambiental
• Inclusión
• Agencia moral
• Alineación de valores
• Responsabilidad
• Confianza
• Uso indebido de la tecnología

Hoy en día, la mayoría de las organizaciones utilizan herramientas de IA y big data de alguna manera para admitir la automatización y permitir la toma de decisiones basada en datos. Aunque la intención suele ser mejorar los resultados empresariales, las empresas pueden experimentar consecuencias imprevistas en sus aplicaciones de IA, a menudo debido a una investigación y diseño iniciales deficientes y conjuntos de datos con sesgo. Estos problemas ayudan a resaltar la importancia del uso ético de los sistemas de IA.

Las comunidades de investigación y ciencia de datos han desarrollado pautas para la ética de la IA para mitigar estas consecuencias imprevistas y resultados injustos. Las principales empresas de IA también se han interesado en dar forma a estas directrices, ya que saben que no respetar los estándares éticos puede perjudicar a sus productos, servicios y usuarios. La falta de diligencia en la ética de la IA puede resultar en una exposición reputacional, normativa y legal, lo que lleva a costosas sanciones.

La innovación tiende a superar la regulación gubernamental, particularmente en el caso de tecnologías emergentes como la IA. A lo largo del tiempo, se puede esperar que más gobiernos emitan protocolos de IA exigidos por ley para proteger los derechos humanos y las libertades civiles. Si bien hay ciertas regulaciones, como la Ley de IA de la UE, muchas directrices éticas de IA existentes son marcos voluntarios presentados por científicos y grupos de la industria.

La comunidad académica ha confiado durante mucho tiempo en los principios éticos esbozados en el “Informe Belmont”¹ de 1979 para orientar la ética en la investigación experimental y el desarrollo algorítmico.

Estos principios pueden servir de base para la investigación ética, el diseño y el uso de IA y machine learning. Sin embargo, como fueron diseñados pensando en sujetos humanos —y mucho antes de los sistemas de IA generativa e IA agéntica— no son suficientes por sí solos. Deben considerarse fundamentales, pero no como un conjunto exhaustivo de principios de IA.

Los principios del Informe Belmont son:

Hay varias cuestiones que están al frente de las conversaciones éticas en torno a las tecnologías de IA en el mundo real. Estas preocupaciones reflejan los impactos potenciales más amplios de la IA en la sociedad. Algunas de estas preocupaciones incluyen:

El lanzamiento de ChatGPT en 2022 marcó un verdadero punto de inflexión para la inteligencia artificial. Las capacidades del chatbot de OpenAI, desde escribir informes legales hasta depurar código, abrieron nuevas posibilidades sobre lo que la IA puede hacer y cómo se puede aplicar en casi todas las industrias.

ChatGPT y herramientas similares se basan en modelos fundacionales y modelos de IA que pueden aplicarse a una amplia gama de tareas posteriores. Los modelos fundacionales suelen ser modelos generativos a gran escala, que comprenden miles de millones de parámetros, que dependen de datos de entrenamiento sin etiquetar y usan la autosupervisión. Los modelos básicos, a menudo denominados modelos de lenguaje grandes (LLM), pueden aplicar lo que han aprendido en un contexto a otro, haciéndolos altamente adaptables.

Sin embargo, existen muchos problemas potenciales y preocupaciones éticas en torno a los modelos fundacionales, como el sesgo, la generación de contenido falso (incluidos los resultados poco confiables o engañosos) y la falta de explicabilidad. Muchas de estas cuestiones son relevantes para la IA en general, pero adquieren nueva urgencia a la luz del poder y la disponibilidad de los modelos fundacionales.

Los modelos fundacionales y de IA generativa también introducen desafíos éticos que se derivan de su escala, diseño de propósito general y facilidad de reutilización en todos los dominios. Debido a que estos modelos pueden desplegarse en contextos muy alejados de su intención de entrenamiento original, las cuestiones de responsabilidad y rendición de cuentas se vuelven mucho más complejas. A menudo no está claro cómo deben compartirse las obligaciones éticas entre los proveedores de modelos y sus implementadores intermedios. ¿De quién es la responsabilidad de evitar que un modelo, por ejemplo, haga un uso indebido de datos confidenciales o filtre propiedad intelectual: el proveedor, el implementador o el usuario final?

Además, los sistemas de IA generativa pueden producir resultados convincentes, pero incorrectos o engañosos y permitir el uso indebido a una escala sin precedentes. Como resultado, las pautas éticas para los modelos fundacionales a menudo enfatizan la documentación clara, las restricciones de uso, el monitoreo continuo y la supervisión humana durante todo el despliegue.

La singularidad tecnológica es un escenario teórico en el que el crecimiento tecnológico se vuelve incontrolable e irreversible, culminando en cambios profundos e impredecibles en la civilización humana. Si bien este tema atrae mucha atención pública, muchos investigadores no se preocupan por la idea de que la IA supere la inteligencia humana en el futuro cercano o inmediato.  

La IA fuerte (IA que poseería inteligencia y concientización iguales a los humanos) y la superinteligencia siguen siendo hipotéticas. No obstante, las ideas plantean algunas preguntas interesantes e implicaciones éticas con respecto a cómo usamos la IA en sistemas autónomos, como los vehículos autónomos.

Por ejemplo, es poco realista pensar que un vehículo sin conductor nunca tendría un accidente. Pero, ¿quién es el responsable en esas circunstancias? ¿Deberíamos seguir buscando vehículos autónomos, o limitamos la integración de esta tecnología para crear solo vehículos semiautónomos que promuevan la seguridad entre los conductores?

Este tipo de dilemas éticos están lejos de resolverse, pero son los debates que genera la nueva e innovadora tecnología de IA.

Si bien gran parte de la percepción pública de la inteligencia artificial se centra en la pérdida de empleos, esta preocupación puede replantearse. Con cada nueva tecnología disruptiva, la demanda del mercado de puestos específicos cambia.

Por ejemplo, cuando las computadoras personales se generalizaron, los puestos de mecanógrafo y archivista desaparecieron en gran medida. Al mismo tiempo, surgieron categorías laborales completamente nuevas: soporte informático, desarrollo de software y entrada de datos.

La inteligencia artificial debe verse de manera similar. Las iniciativas de IA no necesariamente van a reducir la fuerza laboral. Más bien, es probable que la IA traslade la demanda laboral a otros ámbitos. Se necesitarán personas para gestionar los sistemas de IA y abordar los problemas más complejos que surjan en sus industrias.

El aspecto más importante del impacto de la inteligencia artificial en el mercado laboral es ayudar a las personas a adaptarse a nuevas áreas de demanda del mercado.

Los modelos de IA dependen de los datos. Por lo tanto, la privacidad de datos, la protección de datos y la seguridad de datos son aspectos fundamentales de la ética de la IA.

Los responsables políticos impulsaron importantes leyes de protección de datos en la última década, y las normas que establecen se aplican en gran medida tanto a herramientas de IA como al software tradicional.

Por ejemplo, el Reglamento General de Protección de Datos (RGPD) de la UE otorga a los ciudadanos de la Unión Europea y del Espacio Económico Europeo un mayor control sobre sus datos personales. En Estados Unidos, las políticas a nivel estatal, como la California Consumer Privacy Act (CCPA), exigen a las empresas que informen a los consumidores sobre la recopilación de sus datos.

Los organismos de gobierno también están comenzando a promulgar reglas específicas de IA en torno a la recopilación, el almacenamiento y el uso de información de identificación personal (PII). Por ejemplo, en 2024, California comenzó a redactar reglas sobre la IA y la tecnología de toma de decisiones automatizada. Dichas normas ya se finalizaron y las empresas deben cumplir antes del 1 de enero de 2027. 

Si bien las empresas suelen tener buenas intenciones para sus esfuerzos de IA y automatización, los sesgos integrados en los conjuntos de datos de entrenamiento y los algoritmos de IA pueden llevar a resultados discriminatorios.

Por ejemplo, Amazon descartó una de las primeras herramientas de reclutamiento impulsadas por IA cuando se descubrió que la herramienta puntuaba sistemáticamente a las mujeres por debajo de los hombres. ¿Por qué? Porque la herramienta se entrenó con un conjunto de currículos extraídos en gran parte de hombres.

El sesgo y la discriminación no se limitan a la función de recursos humanos. Se pueden encontrar en varias aplicaciones, desde software de reconocimiento facial hasta algoritmos de redes sociales. Por ejemplo, las herramientas de reconocimiento facial suelen tener más dificultades para identificar a personas de color.

A medida que las empresas se vuelven más conscientes de los riesgos, también se vuelven más activas en el debate.

Por ejemplo, IBM retiró sus productos de análisis y reconocimiento facial de uso general en 2020. En ese momento, el CEO de IBM, Arvind Krishna, escribió:

“IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la elaboración de perfiles raciales, las violaciones de los derechos humanos y las libertades básicas o cualquier propósito que no sea coherente con nuestros valores y principios de confianza y transparencia”.

La rápida adopción de la IA generativa ha intensificado las preocupaciones en torno al contenido sintético, como los deepfakes, la desinformación automatizada y la erosión de la confianza en la información digital.

A medida que el texto, las imágenes, el audio y el video generados por IA se vuelven cada vez más difíciles de distinguir del contenido creado por humanos, la necesidad de transparencia va ahora más allá de la explicabilidad de los modelos para alcanzar la trazabilidad y divulgación de los resultados. En respuesta, los responsables políticos y los proveedores de tecnología están avanzando en los mecanismos de procedencia del contenido. Estos mecanismos pueden incluir cosas como requisitos de etiquetado, marcas de agua y metadatos criptográficos para ayudar a los usuarios a identificar el material generado por IA.

Estos enfoques pueden introducir tensiones éticas, incluyendo compromisos entre robustez, privacidad y libertad de expresión, pero cada vez se consideran más esenciales para preservar la confianza en los ecosistemas digitales.

Si bien no existe una única ley global que rija la inteligencia artificial, la regulación de la IA ha pasado rápidamente de pautas voluntarias a marcos legales aplicables en múltiples jurisdicciones.

La Ley de Inteligencia Artificial de la Unión Europea (Ley de IA de la UE), que entró en vigor en 2024, establece obligaciones vinculantes para determinadas prácticas de IA. Estas obligaciones incluyen prohibiciones de sistemas de riesgo inaceptable, requisitos de transparencia para el contenido generado por IA y reglas de gobernanza del ciclo de vida para modelos de IA de alto riesgo y de uso general.

La proliferación de leyes como la Ley de IA de la UE señala un cambio más amplio en la ética de la IA, pasando de principios aspiracionales a mecanismos de rendición de cuentas que combinan estándares éticos con cumplimiento legal.

La inteligencia artificial funciona de acuerdo con cómo se diseña, desarrolla, entrena, ajusta y utiliza. La ética de la IA consiste en establecer estándares y barreras de seguridad en torno a cada una de estas fases del ciclo de vida de un sistema de IA.

Tanto organizaciones como gobiernos e investigadores han elaborado marcos para abordar las preocupaciones éticas actuales de la IA y definir el futuro de la IA. Si bien las pautas pueden variar, existe cierto consenso en torno a las actividades centrales de gobernanza de la IA.

La ética de la IA se entiende cada vez más no como un conjunto de principios, sino como una capacidad continua integrada en todo el ciclo de vida de la IA. La gobernanza eficaz requiere procesos continuos para evaluar el riesgo, documentar las decisiones de diseño, monitorear los sistemas desplegados y responder a comportamientos o daños inesperados. A medida que los sistemas de IA evolucionan con el tiempo, la supervisión ética debe evolucionar con ellos, respaldada por una propiedad clara y controles medibles en lugar de solo políticas estáticas.

La gobernanza ayuda a garantizar que los sistemas de IA funcionen conforme a los principios, valores y prácticas de IA responsable de la organización.

Los componentes comunes de un programa de gobernanza de la IA incluyen:

• Definir las funciones y responsabilidades de las personas que trabajan con IA para garantizar una supervisión humana adecuada.
  
  
• Educar a todas las personas involucradas en el ciclo de vida de la IA sobre cómo crear y utilizar la IA de manera responsable.
  
  
• Establecer procesos para crear, gestionar, monitorear, comunicar sobre la IA y realizar auditorías de sistemas de IA.
  
  
• Aprovechar las herramientas para mejorar el rendimiento y la confiabilidad de la IA a lo largo de todo el ciclo de vida de la IA.

Un comité de ética de la IA es otro mecanismo de gobernanza eficaz. Por ejemplo, el comité de tecnología responsable de IBM, compuesto por diversos líderes de toda la empresa, proporciona un proceso centralizado de gobernanza, revisión y toma de decisiones para las políticas y prácticas éticas en IA en IBM.

Las organizaciones pueden crear IA confiable basando su trabajo en principios éticos claros aplicados de manera constante en todos los productos, políticas y procesos. Estos principios deben centrarse en áreas concretas, como la explicabilidad o la equidad, en torno a las cuales se pueden desarrollar estándares y prácticas específicas.

Cuando la ética se incorpora a la IA desde el principio, es capaz de hacer un bien tremendo. Sectores como la atención médica ya están teniendo esta experiencia. La IA está transformando disciplinas como la radiología, detectando anomalías en las exploraciones de forma más rápida y precisa que los métodos tradicionales.

Muchas organizaciones descubren que están mejor posicionadas para cosechar estos beneficios si tratan la ética de la inteligencia artificial como una disciplina práctica que combina valores, gobernanza y responsabilidad para apoyar la innovación responsable a escala.

Los estándares éticos no son la principal preocupación de los ingenieros y científicos de datos en el sector privado. Sin embargo, han surgido varias organizaciones para promover la conducta ética en el campo de la inteligencia artificial.

Estas organizaciones incluyen:

• AlgorithmWatch se centra en algoritmos explicables y rastreables y procesos de decisión en programas de IA.
  
  
• AI Now Institute, una organización sin fines de lucro de la Universidad de Nueva York, investiga las implicaciones sociales de la inteligencia artificial.
  
  
• Defense Advanced Research Projects Agency (DARPA) del Departamento de Defensa de Estados Unidos promueve la IA explicable y la investigación en IA.
  
  
• Center for Human-Compatible Artificial Intelligence (CHAI) es una cooperación de varios institutos y universidades para promover una IA confiable y sistemas beneficiosos demostrables.

Los Principios de confianza y transparencia de IBM dictan su enfoque en el desarrollo de datos e IA. Estos principios son:

1. El objetivo de la IA es potenciar la inteligencia humana. Esto significa que no buscamos reemplazar la inteligencia humana con IA, sino apoyarla.
   
   
2. Los datos e insights pertenecen a su creador. No se debe exigir a las organizaciones que renuncien a los derechos sobre sus datos, o insights derivados de ellos, para obtener los beneficios de las soluciones y servicios de IA.
   
   
3. Los sistemas de IA deben ser transparentes y explicables IBM cree que las empresas de tecnología deben tener claro quién entrena sus sistemas de IA, qué datos se utilizaron en el entrenamiento y, lo más importante, qué se incluyó en las recomendaciones de sus algoritmos.

IBM también ha desarrollado cinco pilares para guiar la adopción responsable de las tecnologías de IA.

• Explicabilidad: un sistema de IA debe ser transparente, particularmente sobre lo que se incluyó en las recomendaciones de su algoritmo, según sea relevante para los stakeholders con diversos objetivos.
  
  
• Equidad: este pilar se refiere al trato equitativo de personas o grupos de personas por parte de un sistema de IA. Cuando se calibra adecuadamente, la IA puede ayudar a los humanos a tomar decisiones más justas, contrarrestar los sesgos humanos y promover la inclusión.
  
  
• Fortaleza: los sistemas impulsados por IA deben defenderse activamente de los ataques de adversarios, minimizando los riesgos de seguridad y permitiendo la confianza en los resultados del sistema.
  
  
• Transparencia: para reforzar la confianza, los usuarios deben poder ver cómo funciona el servicio, evaluar su funcionalidad y comprender sus fortalezas y limitaciones.
  
  
• Privacidad: Los sistemas de IA deben priorizar y salvaguardar la privacidad y los derechos de datos de los consumidores y proporcionar garantías explícitas a los usuarios sobre cómo se utilizarán y protegerán sus datos personales.