¿Qué es el sesgo cognitivo?

Incluso las personas más analíticas y racionales pueden caer en sesgos cognitivos, que a menudo son inconscientes. Muchos sesgos están ocultos y generalizados, y pueden influir tanto en el análisis de los datos como en la propia estructura de la recopilación de datos. 

Con los últimos grandes avances en el machine learning (ML) y la inteligencia artificial (IA), el interés y la conciencia sobre el sesgo cognitivo han aumentado. A medida que la inversión en estos sistemas inteligentes crece exponencialmente, los esfuerzos para mitigar el sesgo de la IA y el sesgo de datos se están volviendo críticos tanto para la ética de la IA como para el gobierno de la IA.  

Aunque los términos falacia lógica y sesgo cognitivo se utilizan a veces indistintamente, son diferentes. Las falacias lógicas se deben a errores cometidos en un argumento lógico. Los errores de sesgo cognitivo son más profundos y surgen durante las etapas de procesamiento del pensamiento. Los sesgos cognitivos suelen tener su origen en problemas asociados con la memoria, el recuerdo, la atención, la atribución y otras formas de metanálisis.    

Además, muchos tipos de falacias lógicas proceden directamente de ejemplos de sesgos cognitivos. El sesgo cognitivo afecta al pensamiento crítico. Cuando los argumentos lógicos se basan en un razonamiento sesgado, los errores sistémicos suelen crear falacias lógicas relacionadas. 

Tomemos, por ejemplo, la falacia del coste irrecuperable, un término que puede describir tanto un sesgo cognitivo como una falacia lógica informal. Comparativamente: 

Como falacia lógica: la falacia del coste irrecuperable se refiere a un argumento lógicamente defectuoso para seguir invirtiendo recursos (tiempo, dinero, esfuerzo, etc.) en un proyecto basado únicamente en la cantidad de recursos irrecuperables ya invertidos. Un jugador que participa en un juego con probabilidades desfavorables no puede justificar lógicamente que siga jugando solo porque ya haya perdido una gran suma. Lógicamente, el dinero perdido es irrelevante para la decisión actual de volver a apostar o abandonar.

Como sesgo cognitivo: el dicho común, “tirar el dinero”, capta bien la esencia de la falacia del coste irrecuperable. Desde una perspectiva cognitiva, los factores emocionales como la aversión a las pérdidas, las presiones sociales, la vergüenza y el pánico pueden llevar al jugador a pensar de forma irracional. Podrían concluir que, a pesar de las pruebas anteriores que demuestran su incapacidad para ganar dinero, la próxima mano será diferente. 

El sesgo cognitivo es insidioso porque las decisiones que produce no siempre son claramente erróneas. En cambio, podrían ser solo ligeramente subóptimos, o incluso coincidir por casualidad. Esta falta de un ciclo de feedback claro es una de las razones por las que persisten los sesgos cognitivos. 

Si no se detecta a tiempo, el efecto posterior de los sesgos cognitivos durante las fases de planificación puede crear problemas sistémicos que podrían conducir a resultados erróneos, injustos o peligrosos. Pero al estudiar y comprender el sesgo cognitivo, los responsables de la toma de decisiones y los que diseñan o protegen los sistemas de toma de decisiones pueden ayudar a lograr resultados aún mejores.

Entender los sesgos cognitivos puede ayudar a los equipos de seguridad a crear sistemas más fuertes y seguros.

Al tomar nota de los errores comunes en el pensamiento humano, los profesionales de la ciberseguridad pueden reconocer mejor las debilidades en las herramientas y soluciones de seguridad. Ser consciente de los sesgos cognitivos también puede ayudar tanto a los desarrolladores como a los profesionales de la seguridad a evitar fallos potencialmente críticos a la hora de diseñar, crear e implementar plataformas de seguridad, aplicaciones y otros sistemas.

En situaciones en las que la seguridad es fundamental, como la protección de comunicaciones empresariales confidenciales, la custodia de secretos de Estado o la salvaguarda de la información financiera de los consumidores, los sesgos cognitivos pueden dar lugar a vulnerabilidades sistémicas que podrían permitir a los delincuentes burlar medidas de seguridad que, de otro modo, serían rigurosas. 

Por ejemplo, el sesgo cognitivo del falso consenso es la tendencia a asumir que las propias opiniones se consideran correctas en general, incluso si no hay datos que respalden esa conclusión. Este sesgo podría llevar a un desarrollador a creer que ciertos tipos de características de seguridad no son necesarias para el tipo de aplicación que está creando. Como consecuencia, podrían dejar inadvertidamente su sistema expuesto a ciberataques que nunca habían previsto.

Los sesgos cognitivos perjudican la capacidad de interpretar los datos y tomar decisiones informadas.

Para las decisiones menos importantes, aunque el sesgo cognitivo puede dar lugar a una mala toma de decisiones, obviamente lo que está en juego es pequeño. Para decisiones más importantes, el sesgo cognitivo se convierte en una amenaza mayor.

Quizás la mayor amenaza que representan los sesgos cognitivos proviene del posible impacto que estos errores pueden tener a la hora de diseñar sistemas que tomarán muchas decisiones por sí mismos. Por lo tanto, a medida que los sistemas de IA prevalecen cada vez más, la necesidad de medidas de protección contra los sesgos de la IA adquiere una importancia urgente. 

Los modelos de IA suelen tener defectos derivados tanto de los sesgos cognitivos inherentes a los desarrolladores humanos que diseñan estos sistemas como de los sesgos contenidos en los datos de entrenamiento de los sistemas. Los sistemas resultantes tienen entonces sus propios sesgos, lo que puede provocar discriminación y otros efectos deletéreos. 

El gobierno de la IA ayuda a abordar y prevenir problemas como el sesgo algorítmico, en los que los algoritmos de ML producen resultados injustos o discriminatorios que pueden reforzar desigualdades socioeconómicas, raciales o de género preexistentes. 

El gobierno, los procesos, los estándares y las protecciones de la IA ayudan a los arquitectos de sistemas de IA a crear herramientas que sean a la vez seguras y éticas. El gobierno de la IA informa los marcos para la investigación, el desarrollo y las aplicaciones de la IA que ayudan a garantizar la seguridad, la equidad y el respeto de los derechos humanos.

Una forma que tiene el gobierno de la IA de abordar los prejuicios es promoviendo la inclusión de diversos conjuntos de datos de entrenamiento. En ámbitos como la sanidad, es crítico extraer datos de una amplia variedad de poblaciones que puedan tener circunstancias contextuales únicas.

Por ejemplo, piense en una IA para sanidad diseñada para detectar los signos del cáncer de pulmón. Si este modelo se entrena solo con datos de no fumadores que viven en zonas rurales, podría ser menos eficaz al analizar sujetos que fuman y viven en zonas muy contaminadas. Para crear una IA más eficaz, sería vital incluir datos de entrenamiento que representen el mayor número posible de escenarios posibles. 

Otro ejemplo de gobierno de la IA en la práctica serían las iniciativas para implantar y mantener sistemas con intervención humana (HITL). Este tipo de sistemas requieren supervisión humana de los resultados de la IA. Los marcos HITL ayudan a garantizar una comprobación adicional. Si el humano detecta un sesgo que el sistema de IA pasó por alto, el humano puede anular la decisión de la IA.  

Aunque los sesgos cognitivos se observan desde hace siglos, el concepto fue introducido formalmente por primera vez en la década de 1970 por los psicólogos investigadores Amos Tversky y Daniel Kahneman. En 1974, la pareja publicó su artículo, Judgment Under Uncertainty: Heuristics and Biases, en el que se describían por primera vez las formas en las que las personas tienden a confiar en atajos mentales, conocidos como heurísticas, al tomar decisiones o sacar conclusiones. 

En los campos de la psicología social y la economía conductual, los investigadores han planteado la hipótesis de que los seres humanos evolucionaron para utilizar heurísticas con el fin de aliviar la carga cognitiva, especialmente cuando la precisión absoluta no es tan importante como la eficiencia. Tversky y Kahneman descubrieron que la heurística (reglas empíricas comunes o “trucos del oficio”) era especialmente frecuente en situaciones en las que los juicios deben hacerse rápidamente, sin un contexto completo o en condiciones de incertidumbre general. 

Aunque algunas heurísticas pueden ayudar eficazmente a personas, organizaciones y máquinas a tomar decisiones rápidas y efectivas, Tversky y Kahneman identificaron cómo el sesgo cognitivo puede conducir frecuentemente a resultados indeseables. 

Por desgracia, incluso las personas que son conscientes de los sesgos cognitivos siguen siendo susceptibles a ellos. Sin embargo, al estudiar los diferentes tipos de sesgo cognitivo, se podrían reducir eficazmente sus impactos negativos en el proceso de toma de decisiones. Puede ser especialmente útil que equipos externos o sistemas especialmente entrenados revisen análisis y decisiones para reconocer sesgos cognitivos.  

El primer paso para combatir los prejuicios es darse cuenta de las distintas formas en que se manifiestan. Desde la publicación del innovador artículo de Tversky y Kahneman, los investigadores han descubierto muchos tipos de sesgos cognitivos.

Algunos de los tipos de sesgo cognitivo más comunes son:

El sesgo de confirmación es la tendencia a sobrevalorar la información que confirma las creencias existentes y a devaluar la información que las contradice. Por ejemplo, alguien que crea que la mayoría de los ciberataques son consecuencia de amenazas externas podría restar importancia a los crecientes informes sobre ataques internos y considerarlos casos aislados.

La tendencia a suponer que las propias condiciones, experiencias o circunstancias pueden atribuirse a fuentes externas, mientras que las circunstancias de otras personas son el resultado de sus propias acciones. Por ejemplo, alguien que caiga en la trampa de un correo electrónico de phishing podría pensar que los ciberdelincuentes han sido extraordinariamente astutos. Sin embargo, la misma persona podría ver a un compañero caer en una estafa similar y concluir que es crédulo y fácil de engañar.

Al igual que el sesgo del actor-observador, el sesgo egoísta atribuye los resultados personales negativos a fuerzas externas, mientras que se da un crédito indebido por los resultados positivos. El sesgo autocomplaciente podría llevar a una persona a suponer que una mano de póquer afortunada es el resultado de su propia habilidad, mientras que interpreta una mano perdedora como un giro inevitable del destino. 

El error de atribución fundamental es la percepción de los demás como buenos o malos en función de sus motivaciones internas. Por ejemplo, una persona frustrada que se ve obligada a circular detrás de un conductor lento podría pensar que este es desconsiderado y grosero, sin tener en cuenta posibles factores externos, como unas condiciones de conducción adversas o un problema en el motor.

La tendencia a dar una importancia desmesurada a la primera información aprendida sobre un nuevo tema. Los vendedores pueden aprovechar el sesgo de anclaje cuando anuncian el precio anterior y más alto de un producto. Al anclar al cliente con un número mayor, el precio reducido parece una mejor oferta.

El efecto halo se refiere a cómo la impresión que uno tiene de una persona influye en su capacidad para juzgar su carácter o sus habilidades. Este tipo de sesgo cognitivo puede manifestarse de muchas formas, pero un ejemplo especialmente lamentable es la capacidad que tienen las personas con un aspecto físicamente atractivo o agradable para ganarse rápidamente la confianza de desconocidos. Los ciberdelincuentes a menudo abusan del efecto halo cuando intentan ataques de ingeniería social, por ejemplo, utilizando avatares atractivos. 

La tendencia, durante la toma de decisiones, a prestar más atención a ciertos factores e ignorar otros. Por ejemplo, al comprar soluciones de ciberseguridad, alguien que trabaja bajo un sesgo de atención podría prestar más atención al coste total de un producto sin considerar si satisface todas sus necesidades.

La tendencia a percibir la propia experiencia subjetiva de la realidad como objetiva y esperar que los demás perciban el mundo de la misma manera. Irónicamente, alguien que sufre de un realismo ingenuo podría descartar los diferentes puntos de vista por irracionales o sesgados.

La tendencia a que el análisis externo de un evento influya en la percepción personal de los datos presentados. Este tipo de sesgo ha llevado incluso a los observadores presenciales a dudar de sus propios ojos basándose en el análisis de terceros sesgados. 

La tendencia a asumir que, solo porque algo no esté diseñado para cumplir una función determinada, no puede cumplirla. Por ejemplo, dado que una llave inglesa no está diseñada para clavar un clavo, cabría suponer que no puede utilizarse como martillo. Sin embargo, en caso de necesidad, una llave inglesa puede utilizarse como un martillo. 

La tendencia a creer que uno tiene menos probabilidades de fracasar y más probabilidades de tener éxito. Aunque una actitud optimista puede resultar valiosa en determinadas situaciones, dar por sentado el éxito sin fundamento puede llevar a la ruina. Las decisiones influenciadas por un sesgo optimista tienen más probabilidades de descartar problemas graves y dejar a los responsables de la toma de decisiones expuestos a resultados potencialmente devastadores. 

El sesgo de supervivencia, un tipo de sesgo de muestreo, es la tendencia a confundir un subconjunto de un grupo más amplio con el grupo en su totalidad. El sesgo de supervivencia lleva a las personas a centrar incorrectamente toda su atención solo en los puntos de datos que “sobreviven” a una serie de pruebas de calificación.

Uno de los ejemplos más famosos de sesgo de supervivencia proviene de la Segunda Guerra Mundial¹. Cuando se le consultó sobre dónde reforzar el blindaje de los aviones, Abraham Wald hizo sus recomendaciones basándose en un análisis estadístico de dónde los aviones que regresaban del combate mostraban más daños. Sin embargo, en lugar de reforzar estas áreas, Wald recomendó reforzar las áreas que mostraban menos daños. Wald comprendió que sus datos solo reflejaban los aviones que habían sobrevivido al combate, por lo que dedujo acertadamente que los daños que habían sufrido esos aviones no eran tan críticos como los causados en otros lugares. Los aviones que sufrieron daños en las áreas no representadas fueron destruidos y no sobrevivieron para ser catalogados en el análisis de distribución de daños. 

La tendencia a tomar una decisión, llegar a una conclusión o adoptar una creencia basada en el número de otras personas que ocupan cargos similares. Básicamente, el efecto bandwagon describe la influencia que la popularidad y las presiones sociales pueden tener en la psicología de una persona. 

La forma en la que se presenta la información puede llevar a conclusiones diferentes. Por ejemplo, una encuesta política en la que se pida a los encuestados que valoren su grado de aprobación de “las cosas negativas que ha hecho el gobernador” arrojará puntuaciones más bajas que una descripción más objetiva de “las políticas del gobernador”. 

La tendencia a sobrevalorar la información que está fácilmente disponible o es fácil de recordar. Este sesgo podría llevar a un médico a diagnosticar erróneamente a un paciente con gripe basándose en la presencia de síntomas similares a los gripales sin realizar pruebas para otras enfermedades con síntomas similares. Aunque puede ser más fácil asumir que se trata de una gripe, las decisiones tomadas con información limitada a menudo se ven afectadas por el sesgo de disponibilidad.

También conocida como descuido, la falacia de la tasa de base describe la tendencia a pasar por alto o ignorar los datos generales, estadísticos o a nivel de población (la tasa de base) en favor de pruebas específicas o anecdóticas. En el análisis, es fundamental establecer primero una tasa de referencia para poder medir adecuadamente cualquier desviación estadística. 

También conocido como fenómeno del saberlo todo de antemano o determinismo progresivo, el sesgo retrospectivo es la tendencia a percibir los acontecimientos pasados como más indicativos de los resultados futuros de lo que realmente podrían haber sido. En retrospectiva, puede parecer fácil establecer relaciones causales, como si el presente fuera algo ya decidido de antemano. En ese momento, sin embargo, había muchas posibilidades, lo que hacía que el futuro fuera menos claro. 

Este sesgo cognitivo es la tendencia a basarse en suposiciones basadas en estereotipos en lugar de en información objetiva. Por ejemplo, una persona podría suponer que un músico con tatuajes y pelo de punta es un rockero, cuando en realidad podría ser un violinista clásico. La heurística de representatividad describe la tendencia a “juzgar un libro por su portada”. 

Este sesgo cognitivo, que lleva el nombre de los investigadores David Dunning y Justin Kruger, describe la tendencia de las personas que carecen de conocimientos en un ámbito concreto a sobreestimar su rendimiento o sus capacidades en dicho ámbito. Una explicación de este exceso de confianza es que, a medida que una persona aprende nueva información sobre un tema, se vuelve más consciente de lo profundo que es ese tema. Los neófitos aún no han adquirido esta conciencia.

Irónicamente, un estudio reciente descubrió algo así como un efecto Dunning-Kruger inverso cuando se trata de utilizar la IA. Los investigadores pidieron a dos grupos de personas que resolvieran problemas lógicos. A un grupo se le permitió utilizar la IA para ayudarles a sacar conclusiones, y al otro no. Después de realizar la prueba, también se pidió a los participantes que utilizaban IA que estimaran lo bien que creían que lo hacían y la experiencia que tenían en el uso de herramientas de IA. 

Normalmente, el efecto Dunning-Kruger mostraría una correlación inversa entre la confianza en el uso de la IA y la capacidad real de un sujeto para usar la IA de manera efectiva. Sin embargo, se observó lo contrario. Los sujetos con mayores niveles de experiencia en IA también sobrestimaron su capacidad para usar la IA de forma eficaz. 

Aunque se requieren más estudios antes de sacar conclusiones significativas, este informe subraya la importancia crucial de examinar el sesgo cognitivo. Cuando se trata de la toma de decisiones, el sesgo cognitivo puede afectar drásticamente los resultados y las conclusiones de formas inesperadas. Cuando el sesgo cognitivo conduce a errores cometidos durante el proceso de toma de decisiones, incluso los mejores, más perspicaces e impactantes datos pueden malinterpretarse gravemente.