¿Qué es el sesgo de la IA?

Cuando el sesgo de la IA no se aborda, puede afectar al éxito de una organización y obstaculizar la capacidad de las personas para participar en la economía y la sociedad. El sesgo reduce la precisión de la IA y, por lo tanto, su potencial.

Es poco probable que las empresas se beneficien de sistemas que generen resultados distorsionados. Además, los escándalos derivados del sesgo de la IA podrían generar desconfianza entre los clientes actuales y potenciales.

Los modelos en los que se basan las iniciativas de IA absorben los sesgos de la sociedad, que pueden quedar sutilmente integrados en las ingentes cantidades de datos con los que se entrenan. La recopilación de datos sesgados en el pasado, que refleja la desigualdad social, puede causar perjuicios a grupos históricamente marginados en casos de uso como la contratación, la actividad policial, la evaluación del crédito y muchos otros. Según The Wall Street Journal, “A medida que se generaliza el uso de la inteligencia artificial, las empresas siguen teniendo dificultades para abordar el sesgo generalizado”.¹

Los resultados distorsionados pueden dañar a las organizaciones y a la sociedad en general. Estos son algunos de los tipos más comunes de sesgo de IA⁷.

• Sesgo del algoritmo: puede producirse información errónea si el problema o la pregunta planteada no es totalmente correcta o específica, o si el feedback que recibe el algoritmo de machine learning no ayuda a orientar la búsqueda de una solución.
  
  
• Sesgo cognitivo: La tecnología de IA requiere la intervención humana, y los humanos son imperfectos. Los sesgos personales pueden infiltrarse sin que los profesionales se den cuenta. Esto puede afectar al conjunto de datos o al comportamiento del modelo.
  
  
• Sesgo de confirmación: estrechamente relacionado con el sesgo cognitivo, ocurre cuando la IA se basa demasiado en creencias o tendencias preexistentes en los datos, duplicando los sesgos existentes e incapaz de identificar nuevos patrones o tendencias.

• Sesgo de exclusión: este tipo de sesgo ocurre cuando se omiten datos importantes de los datos que se utilizan, a menudo porque el desarrollador no ha logrado ver factores nuevos e importantes.
  
  
• Sesgo de medición: el sesgo de medición está causado por datos incompletos. En la mayoría de los casos, se trata de un descuido o una falta de preparación que resulta en que el conjunto de datos no incluya a toda la población que debe tenerse en cuenta. Por ejemplo, si una universidad quisiera predecir los factores para una graduación exitosa, pero incluyera solo a los graduados, las respuestas pasarían por alto por completo los factores que hacen que algunos abandonen la escuela.

• Sesgo de homogeneidad fuera del grupo: se trata de un caso de no saber lo que uno no sabe. Las personas tienden a comprender mejor a los miembros de su propio grupo, el grupo al que uno pertenece, y a pensar que son más diversos que los miembros de grupos externos. El resultado puede ser que los desarrolladores creen algoritmos que sean menos capaces de distinguir entre individuos que no son parte del grupo mayoritario en los datos de entrenamiento, lo que genera sesgo racial, clasificación errónea y respuestas incorrectas.

• Sesgo de prejuicio: se produce cuando los estereotipos y las suposiciones sociales erróneas se abren camino en el conjunto de datos del algoritmo, lo que inevitablemente conduce a resultados sesgados. Por ejemplo, la IA podría arrojar resultados que mostraran que solo los hombres son médicos y todas las enfermeras son mujeres.
  
  
• Sesgo de memoria: se desarrolla durante el etiquetado de datos, donde las etiquetas se aplican de manera inconsistente por observaciones subjetivas.
  
  
• Sesgo de muestra/selección: se trata de un problema que surge cuando los datos utilizados para entrenar el modelo de machine learning no son lo suficientemente amplios, no son lo bastante representativos o están demasiado incompletos como para entrenar adecuadamente el sistema. Si todos los docentes consultados para entrenar un modelo de IA tienen las mismas titulaciones académicas, cualquier futuro profesor que se tenga en cuenta debería poseer titulaciones académicas idénticas.
  
  
• Sesgo de estereotipos: esto ocurre cuando un sistema de IA (por lo general, de forma involuntaria) refuerza estereotipos perjudiciales. Por ejemplo, un sistema de traducción de idiomas podría asociar algunos idiomas con determinados géneros o estereotipos étnicos. McKinsey lanza una advertencia sobre el intento de eliminar los sesgos de los conjuntos de datos: “Un enfoque ingenuo consiste en eliminar de los datos las clases protegidas (como el sexo o la raza) y borrar las etiquetas que hacen que el algoritmo sea sesgado. Sin embargo, es posible que este enfoque no funcione, ya que las etiquetas eliminadas pueden afectar a la comprensión del modelo y la precisión de los resultados podría empeorar”.²

El primer paso para evitar la trampa del sesgo es volver al principio y reflexionar sobre la IA. Como ocurre con casi todos los retos empresariales, los problemas son mucho más fáciles de solucionar por adelantado que esperar al choque de tren y, después, analizar el resultado dañado. Sin embargo, muchas organizaciones tienen prisa: no saben lo que hacen y eso les cuesta dinero.

Identificar y abordar los sesgos en la IA requiere un gobierno de la IA, es decir, la capacidad de dirigir, gestionar y monitorizar las actividades de IA de una organización. En la práctica, el gobierno de la IA establece un conjunto de políticas, prácticas y marcos para orientar el desarrollo y el uso responsables de las tecnologías de IA. Cuando se lleva a cabo adecuadamente, el gobierno de la IA contribuye a garantizar que exista un equilibrio entre los beneficios que se otorgan a las empresas, los clientes, los empleados y la sociedad en su conjunto.

El gobierno de la IA suele incluir métodos que tienen como objetivo evaluar la equidad, la equidad y la inclusión. Enfoques como la justicia contrafactual identifican el sesgo en la toma de decisiones de un modelo y garantizan resultados equitativos, incluso cuando se incluyen atributos sensibles como el género, la raza o la orientación sexual.

Debido a la complejidad de la IA, un algoritmo puede ser un sistema de caja negra con pocos conocimentos sobre los datos utilizados para crearlo. Las prácticas y tecnologías de transparencia ayudan a garantizar que se utilicen datos imparciales para construir el sistema y que los resultados sean justos. Las empresas que trabajan en la protección de la información de sus clientes construyen confianza en la marca y tienen más posibilidades de crear sistemas de IA fiables.

Para ofrecer otra capa de garantía de calidad, establezca un sistema "human-in-the-loop" que ofrezca opciones o haga recomendaciones que luego puedan ser aprobadas por decisiones humanas.

A continuación, le ofrecemos una lista de comprobación con seis pasos del proceso que pueden ayudar a que los programas de IA estén libres de sesgos.

1. Seleccione el modelo de aprendizaje adecuado: cuando se utiliza un modelo supervisado, son las partes interesadas quienes seleccionan los datos de entrenamiento. Es crítico que el equipo de partes interesadas sea diverso (no solo compuesto por científicos de datos) y que sus miembros hayan recibido formación para ayudar a prevenir los sesgos inconscientes. Los modelos no supervisados utilizan únicamente la IA para identificar los sesgos. Es necesario integrar herramientas de prevención de sesgos en la red neuronal para que esta aprenda a reconocer lo que está sesgado.

2. Entrenar con los datos correctos: el machine learning entrenado con los datos incorrectos producirá resultados incorrectos. Cualquier dato que se introduzca en la IA debe ser completo y equilibrado para replicar la demografía real del grupo considerado.

3. Elija un equipo equilibrado: cuanto más variado sea el equipo de IA (en términos de origen étnico, situación económica, nivel educativo, género y perfil profesional), más probable será que reconozca los sesgos. Las competencias y los puntos de vista de un equipo de IA bien equilibrado deben incluir a innovadores empresariales en IA, creadores de IA, implementadores de IA y una representación de los consumidores de esta iniciativa concreta de IA.³

4. LLevar a cabo el proceso de datos con atención: las empresas deben ser conscientes de los sesgos en cada paso del proceso de datos. El riesgo no está solo en la selección de datos: ya sea durante el preprocesamiento, el procesamiento interno o el posprocesamiento, el sesgo puede introducirse en cualquier momento e introducirse en la IA.

5. Monitorizar continuamente: ningún modelo está completo o es permanente. La monitorización y las pruebas continuas con datos del mundo real de toda la organización pueden ayudar a detectar y corregir los sesgos antes de que causen daño. Para evitar aún más sesgos, las organizaciones deberían considerar las evaluaciones realizadas por un equipo independiente de la organización o por un tercero de confianza.

6. Evite los problemas de infraestructura: aparte de las influencias humanas y de los datos, en ocasiones la propia infraestructura puede provocar sesgos. Por ejemplo, al utilizar datos recopilados por sensores mecánicos, el propio equipo podría introducir sesgos si los sensores funcionan mal. Este tipo de sesgo puede resultar difícil de detectar y requiere una inversión en las infraestructuras digitales y tecnológicas más avanzadas.