La ética es un conjunto de principios morales que nos ayudan a discernir entre el bien y el mal. La ética de la IA es un campo multidisciplinar que estudia cómo optimizar el impacto beneficioso de la inteligencia artificial (IA) a la vez que se reducen los riesgos y los resultados adversos.
Ejemplos de cuestiones éticas en IA incluyen:
La mayoría de las organizaciones hoy en día utilizan herramientas de IA y big data de alguna manera para apoyar la automatización y permitir la toma de decisiones basada en datos. Aunque la intención suele ser mejorar los resultados empresariales, las empresas pueden experimentar consecuencias imprevistas en sus aplicaciones de IA, a menudo debido a una investigación y diseño iniciales deficientes y conjuntos de datos sesgados. Estas cuestiones ayudan a destacar la importancia del uso ético de los sistemas de IA.
Las comunidades de investigación y ciencia de datos han desarrollado directrices para la ética de la IA que ayudan a mitigar estas consecuencias imprevistas y resultados injustos. Las principales empresas de IA también se han interesado en definir estas directrices, ya que saben que no cumplir con los estándares éticos puede perjudicar sus productos, servicios y usuarios. La falta de diligencia en la ética de la IA puede dar lugar a una exposición reputacional, normativa y legal, lo que da lugar a costosas sanciones.
La innovación tiende a superar la regulación del gobierno, especialmente en el caso de tecnologías emergentes como la IA. Con el tiempo, es de esperar que más gobiernos emitan protocolos de IA exigidos por ley para proteger los derechos humanos y las libertades civiles. Aunque existen cierta regulación—como la Ley de IA de la UE—muchas de las directrices éticas existentes sobre IA son marcos voluntarios propuestos por científicos y sectores.
La comunidad académica se ha basado durante mucho tiempo en los principios éticos descritos en el “Informe Belmont” de 1979 1 para guiar la ética en la investigación experimental y el desarrollo de algoritmos.
Estos principios pueden servir de base para la investigación ética, el diseño y el uso de IA y machine learning. Sin embargo, dado que se diseñaron pensando en los seres humanos, y mucho antes que los sistemas modernos de generativa y IA agéntica, no son suficientes por sí solos. Deben considerarse fundamentales, pero no un conjunto completo de principios de IA.
Los principios del Informe Belmont son:
Este principio reconoce la autonomía de las personas y establece la expectativa de que los investigadores deben proteger a las personas con autonomía disminuida debido a una enfermedad, discapacidad mental, edad u otras circunstancias.
Este principio se refiere principalmente al consentimiento. Las personas deben ser conscientes de los riesgos y beneficios potenciales de cualquier experimento del que formen parte. También deberían poder elegir participar o retirarse en cualquier momento antes y durante el experimento.
Los investigadores deben proteger la seguridad individual y el bienestar general. Este principio toma una página de la ética sanitaria, donde los médicos hacen un juramento de "no hacer daño." Esta idea se puede aplicar fácilmente a la inteligencia artificial, donde los algoritmos pueden amplificar los sesgos en torno a la raza, el género, las inclinaciones políticas y otras características sensibles si los creadores y los usuarios no tienen cuidado.
Este principio trata cuestiones de equidad y reducción de desigualdades en los resultados. Básicamente, se trata de responder a la pregunta "¿Quién debería aprovechar los beneficios de la experimentación?" El Informe Belmont ofrece cinco formas de distribuir las cargas y los beneficios: por compartir, necesidad individual, esfuerzo individual, contribución social y mérito.
Manténgase al día sobre las tendencias más importantes e intrigantes del sector en materia de IA, automatización, datos y mucho más con el boletín Think. Consulte la Declaración de privacidad de IBM.
Hay varios temas que están a la vanguardia de las conversaciones éticas en torno a las tecnologías de IA en el mundo real. Estas preocupaciones reflejan los impactos potenciales más amplios de la IA en la sociedad. Algunas de estas preocupaciones incluyen:
El lanzamiento de ChatGPT en 2022 marcó un verdadero punto de inflexión para la inteligencia artificial. Las capacidades del chatbot de OpenAI —desde redactar informes legales hasta depurar código— abrieron nuevas posibilidades sobre lo que la IA puede hacer y cómo aplicarse en casi todos los sectores.
ChatGPT y herramientas similares se basan en modelos fundacionales, modelos de IA que pueden aplicarse a una amplia gama de tareas posteriores. Los modelos fundacionales suelen ser modelos generativos a gran escala, que comprenden miles de millones de parámetros, que dependen de datos de entrenamiento sin etiquetar y utilizan la autosupervisión. Los modelos fundacionales, a menudo denominados grandes modelos de lenguaje (LLMs), pueden aplicar lo aprendido en un contexto a otro, haciéndolos muy adaptables.
Sin embargo, existen muchos problemas potenciales y preocupaciones éticas en torno a los modelos fundacionales, como el sesgo, la generación de contenido falso (incluidos output poco fiables o engañosos) y la falta de explicabilidad. Muchos de estos problemas son relevantes para la IA en general, pero adquieren una nueva urgencia a la luz del poder y la disponibilidad de los modelos fundacionales.
Los modelos de IA fundamentales y de IA generativa también introducen desafíos éticos derivados de su escala, su diseño de uso general y su facilidad de reutilización en todos los dominios. Dado que estos modelos pueden implementarse en contextos muy alejados de su intención de formación original, las cuestiones de responsabilidad y rendición de cuentas se vuelven mucho más complejas. A menudo no está claro cómo deben compartirse las obligaciones éticas entre los proveedores de modelos y sus implementadores posteriores. ¿De quién es la responsabilidad de evitar que un modelo, por ejemplo, haga un uso indebido de datos confidenciales o filtre propiedad intelectual: el proveedor, el implementador o el usuario final?
Además, los sistemas de IA generativa pueden producir output convincentes pero incorrectos o engañosos y permitir un uso indebido a una escala sin precedentes. Como resultado, las directrices éticas para los modelos de fundación suelen enfatizar la documentación clara, las restricciones de uso, la monitorización continua y la supervisión humana durante todo el despliegue.
La singularidad tecnológica es un escenario teórico en el que el crecimiento tecnológico se vuelve incontrolable e irreversible, culminando en cambios profundos e impredecibles para la civilización humana. Aunque este tema suscita mucha atención pública, a muchos investigadores no les preocupa la idea de que la IA supere a la inteligencia humana en un futuro próximo o inmediato.
Una IA fuerte (una IA que tendría una inteligencia y una conciencia de sí mismo iguales a las de los humanos) y la superinteligencia siguen siendo hipotéticas. Sin embargo, estas ideas plantean algunas preguntas interesantes e implicaciones éticas sobre cómo utilizamos la IA en sistemas autónomos, como los coches autónomos.
Por ejemplo, no es realista pensar que un coche sin conductor nunca sufriría un accidente. Pero, ¿quién es el responsable en esas circunstancias? ¿Deberíamos seguir persiguiendo los vehículos autónomos, o limitamos la integración de esta tecnología para crear solo vehículos semiautónomos que promuevan la seguridad entre los conductores?
Este tipo de dilemas éticos están lejos de resolverse, pero son los debates que suscita la nueva e innovadora tecnología de IA.
Aunque gran parte de la percepción pública en torno a la inteligencia artificial se centra en la pérdida de empleos, esta preocupación puede ser replanteada. Con cada nueva tecnología disruptiva, la demanda del mercado para puestos específicos cambia.
Por ejemplo, cuando los ordenadores personales se generalizaron, roles como mecanógrafo y archivero desaparecieron en gran medida. Al mismo tiempo, surgieron categorías laborales completamente nuevas: soporte informático, desarrollo de software y entrada de datos.
La inteligencia artificial debería verse de manera similar. Las iniciativas de IA no necesariamente van a reducir el personal. Más bien, es probable que la IA desplace la demanda de empleo a otras áreas. Se necesitarán personas para gestionar los sistemas de IA y abordar los problemas más complejos que surjan en sus sectores.
El aspecto más importante del impacto de la inteligencia artificial en el mercado laboral es ayudar a las personas a adaptarse a nuevas áreas de demanda del mercado.
Los modelos de IA dependen de los datos. Por lo tanto, la protección de datos, la protección de datos y la seguridad de datos son preocupaciones fundamentales de la ética de la IA.
Los responsables políticos han impulsado importantes leyes de protección de datos en la última década, y las normas que establecen se aplican en gran medida tanto a herramientas de IA como al software tradicional.
Por ejemplo, el Reglamento General de Protección de Datos (RGPD) de la UE da a las personas de la Unión Europea y el Espacio Económico Europeo un mayor control de sus datos personales. En Estados Unidos, las políticas a nivel estatal, como la California Consumer Privacy Act (CCPA), exigen a las empresas que informen a los consumidores sobre la recopilación de sus datos.
Los organismos de gobierno también están empezando a promulgar normas específicas de IA en torno a la recopilación, el almacenamiento y el uso de información de identificación personal (PII). Por ejemplo, en 2024, California comenzó a redactar normas sobre IA y tecnología de toma de decisiones automatizada. Dichas normas ya se han finalizado y las empresas deben cumplir antes del 1 de enero de 2027.
Aunque las empresas suelen tener buenas intenciones con sus esfuerzos de IA y automatización, los sesgos incrustados en los conjuntos de datos de entrenamiento y algoritmos de IA pueden conducir a resultados discriminatorios.
Por ejemplo, Amazon descartó una de las primeras herramientas de reclutamiento con IA cuando se descubrió que la herramienta puntuaba sistemáticamente a las mujeres por debajo de los hombres. ¿Por qué? Porque la herramienta estaba basada en un conjunto de currículums extraídos en su mayoría de hombres.
El sesgo y la discriminación no se limitan a la función de recursos humanos. Se pueden encontrar en varias aplicaciones, desde software de reconocimiento facial hasta algoritmos de redes sociales. Por ejemplo, las herramientas de reconocimiento facial suelen tener más dificultades para identificar a las personas de color.
A medida que las empresas son más conscientes de los riesgos, también se han vuelto más activas en el debate.
Por ejemplo, IBM retiró sus productos de análisis y reconocimiento facial de uso general en 2020. En ese momento, el CEO de IBM, Arvind Krishna, escribió:
"IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la elaboración de perfiles raciales, las violaciones de los derechos humanos y las libertades básicas o cualquier propósito que no sea coherente con nuestros valores y principios de confianza y transparencia".
La rápida adopción de la IA generativa ha intensificado las preocupaciones sobre contenidos sintéticos como los deepfakes, la desinformación automatizada y la erosión de la confianza en la información digital.
A medida que el texto, las imágenes, el audio y el vídeo generados por IA se vuelven cada vez más difíciles de distinguir del contenido creado por humanos, la necesidad de transparencia va ahora más allá de la explicabilidad de los modelos para alcanzar la trazabilidad y divulgación de los outputs. En respuesta, los responsables políticos y los proveedores de tecnología están avanzando en los mecanismos de procedencia de contenido. Estos mecanismos pueden incluir requisitos de etiquetado, marcas de agua y metadatos criptográficos para ayudar a los usuarios a identificar el material generado por la IA.
Estos enfoques pueden introducir tensiones éticas, incluidas las compensaciones entre la solidez, la privacidad y la libertad de expresión, pero cada vez se consideran más esenciales para preservar la confianza en los ecosistemas digitales.
Aunque no existe una única ley mundial que regule la inteligencia artificial, la regulación de la IA ha pasado rápidamente de directrices voluntarias a marcos jurídicos aplicables en múltiples jurisdicciones.
La Ley de Inteligencia Artificial de la Unión Europea (Ley de IA de la UE), que entró en vigor en 2024, establece obligaciones vinculantes para determinadas prácticas de IA. Estas obligaciones incluyen prohibiciones de sistemas de riesgo inaceptable, requisitos de transparencia para contenidos generados por IA y normas de gobierno del ciclo de vida para modelos de IA de alto riesgo y de uso general.
La proliferación de leyes como la Ley de IA de la UE señala un cambio más amplio en la ética de la IA, pasando de principios aspiracionales a mecanismos de rendición de cuentas que combinan estándares éticos con cumplimiento legal.
La inteligencia artificial funciona de acuerdo con la forma en que se diseña, desarrolla, entrena, ajusta y utiliza. La ética de la IA consiste en establecer normas y barreras en torno a cada una de estas fases del ciclo de vida de un sistema de IA.
Organizaciones, gobiernos e investigadores han elaborado marcos para abordar las preocupaciones éticas actuales de la IA y moldear el futuro de la IA. Si bien las directrices pueden variar, hay cierto consenso en torno a las principales actividades de gobierno de la IA.
La ética de la IA se entiende cada vez más no como un conjunto de principios, sino como una capacidad continua integrada en todo el ciclo de vida de la IA. Un gobierno eficaz requiere procesos continuos para evaluar el riesgo, documentar las decisiones de diseño, monitorizar los sistemas implementados y responder a comportamientos o daños inesperados. A medida que los sistemas de IA evolucionan con el tiempo, la supervisión ética debe evolucionar con ellos, apoyándose en una propiedad clara y en controles mensurables, en lugar de solo en políticas estáticas.
El gobierno ayuda a garantizar que los sistemas de IA funcionan de acuerdo con los principios, valores y prácticas de IA responsables de la organización.
Los componentes comunes de un programa de gobierno de la IA incluyen:
Un consejo de ética en IA es otro mecanismo de gobierno eficaz. Por ejemplo, el IBM Responsible Technology Board, compuesto por diversos líderes de toda la empresa, proporciona un proceso centralizado de gobierno, revisión y toma de decisiones para las políticas y prácticas éticas en IA en IBM.
Las organizaciones pueden crear una IA fiable basando su trabajo en principios éticos claros que se apliquen de forma coherente en todos los productos, políticas y procesos. Estos principios deben centrarse en áreas concretas, como la explicabilidad o la equidad, en torno a las cuales se pueden desarrollar normas y prácticas específicas.
Cuando la ética se incorpora a la IA desde el principio, es capaz de hacer mucho bien. Campos como la sanidad ya están experimentando este bien. La IA está transformando disciplinas como la radiología, detectando anomalías en las exploraciones con mayor rapidez y precisión que los métodos tradicionales.
Muchas organizaciones consideran que están mejor posicionadas para aprovechar estos beneficios si tratan la ética de la inteligencia artificial como una disciplina práctica que combina valores, gobierno y rendición de cuentas para apoyar la innovación responsable a escala.
Las normas éticas no son la principal preocupación de los ingenieros y científicos de datos del sector privado. Sin embargo, han surgido varias organizaciones para promover la conducta ética en el campo de la inteligencia artificial.
Estas organizaciones incluyen:
Los principios de confianza y transparencia de IBM dictan su enfoque del desarrollo de datos e IA. Estos principios son:
IBM también ha desarrollado cinco pilares para guiar la adopción responsable de las tecnologías de IA.
1. El Informe Belmont (PDF, 121 KB), Comisión Nacional para la Protección de Sujetos Humanos en la Investigación Biomédica y del Comportamiento, 18 de abril de 1979.