Los niños que construimos: De Kai explica por qué la IA es una generación, no una herramienta

Durante el año pasado, la inteligencia artificial cruzó el umbral de algo que consultamos a algo que observa silenciosamente, responde y, cada vez más, aprende. Durante esa transición, el debate en torno a la IA también ha experimentado un cambio. Ya no se limita al dominio de ingenieros y especialistas en ética, la conversación ahora toca el desarrollo infantil, la transmisión cultural y la psicología humana.

Pocos han articulado este cambio de manera más vívida que el científico informático De Kai, quien apareció recientemente en una videollamada desde su casa en Hong Kong, hablando con una intensidad cuidadosa. Con una camiseta negra y anteojos rectangulares, estaba sentado, rodeado de libros e instrumentos, un músico y un científico. Su cadencia era reflexiva, fluida tanto en el lenguaje del código como en el de la metáfora.

Su nuevo libro, Raising AI, presenta su argumento de que la inteligencia artificial debería ser vista menos como una herramienta industrial y más como un fenómeno de desarrollo. “No estamos programando estos sistemas”, dijo en una entrevista con IBM Think. “Los estamos criando, al igual que criamos a los niños”.

Kai es profesor en la Universidad de Ciencia y Tecnología de Hong Kong y ayudó a ser pionero en los primeros sistemas de traducción automática multilingües de la web, sentando las bases para plataformas como Google Translate. En estos días, es cada vez más reconocido no solo por sus contribuciones técnicas, sino también por ofrecer una metáfora sorprendentemente humana para explicar las consecuencias de la inteligencia artificial. La IA, argumentó, no es simplemente una tecnología para desplegar, sino una generación que estamos criando.

Esta metáfora de que los sistemas de IA son niños, no herramientas, supone una clara desviación de las narrativas dominantes en torno a la inteligencia artificial. En lugar de centrarnos únicamente en los avances técnicos o la empresa de servicios públicos, De Kai nos insta a considerar los impactos culturales y psicológicos a largo plazo de estos sistemas. Forma parte de un creciente movimiento de investigadores que argumentan que la IA refleja la sociedad.

“Estamos tercerizando partes de nuestra cognición”, dijo. “Y los sistemas que nos observan están aprendiendo no solo lo que decimos, sino también cómo nos comportamos”.

El enfoque de De Kai surgió hace más de una década, mucho antes de que los modelos transformer y los chatbots se convirtieran en temas de mesa. En 2015, comenzó a dar charlas que posicionaban la IA no como un avance mecánico, sino como un avance social.

“El problema”, me dijo, “es que todavía estamos usando metáforas de la era industrial. Pensamos en la IA como si fuera una máquina de vapor o un tractor, algo que nos hace trabajar. Pero ya no automatizamos el músculo. Estamos automatizando la influencia”.

La metáfora industrial persiste, de manera más visible en la forma en que los líderes empresariales describen la IA: un impulsor de la productividad, un potenciador de la eficiencia, un copiloto. Pero la preocupación de De Kai es que este lenguaje oculta el cambio más profundo en curso. “Cuando construyes máquinas que aprenden de la cultura, se convierten en parte de esa cultura”, dijo en la entrevista. “Y una vez que forman parte de ella, pueden darle forma”.

Esta idea de que la IA es participativa en lugar de pasiva ha encontrado resonancia entre los investigadores que estudian la alineación y la ética de la IA. Shakir Mohamed, director de investigación de Google DeepMind London, ha propuesto que el futuro de la ética de la IA reside en la responsabilidad relacional, que se centra en cómo los sistemas de IA surgen de las redes de personas, instituciones y estructuras de poder social, y cómo influyen en ellas. Yoshua Bengio, investigador ganador del Premio Turing y pionero del aprendizaje profundo, ha pedido que se desarrollen modelos de IA que incorporen la incertidumbre y la empatía humanas, argumentando que, sin esas capacidades, la inteligencia artificial seguirá estando fundamentalmente desconectada de la complejidad de la experiencia humana.

De Kai cree que el desafío es aún más amplio: las preferencias en sí no son fijas. Son modelados, en tiempo real, por los humanos que observan las IA.

“Tenemos que darnos cuenta de que estos sistemas están aprendiendo de nosotros a medida que aprendemos a usarlos”, dijo. “Y eso significa que estamos coevolucionando”.

Para explicar cómo ocurre este modelado, De Kai apunta a la psicología, específicamente a la teoría del proceso dual, que divide la cognición en respuestas rápidas e intuitivas (Sistema 1) y razonamiento deliberativo más lento (Sistema 2). La IA ha oscilado de un lado a otro entre tratar de imitar uno u otro. Los sistemas de lógica simbólica de la década de 1980 fueron intentos de modelar el Sistema 2. Las neural networks de hoy se inclinan hacia el Sistema 1.

“No se pueden escribir reglas para la intuición”, dijo. “Hay que entrenarlo”.

Ese entrenamiento, argumentó, ahora ocurre a través de vastos conjuntos de datos, los rastros escritos, hablados y grabados de la cultura. A diferencia de la IA temprana, que seguía instrucciones, los sistemas contemporáneos aprenden por imitación. Leen publicaciones en redes sociales, artículos de noticias, comentarios de productos y foros públicos. En efecto, están siendo socializados.

“Ahora estamos construyendo cerebros vacíos”, dijo. “Y los estamos criando”.

La metáfora es más que retórica. Un modelo entrenado con contenido tóxico puede comportarse de manera tóxica, anotó.

“No se trata solo de filtrar insultos o redactar discursos de odio”, dijo. “Se trata de la estructura subyacente de lo que recompensamos, lo que comentamos, lo que votamos a favor y con qué nos relacionamos. Eso es lo que se convierte en el currículo implícito.

Este tipo de aprendizaje indirecto es difícil de detectar y aún más difícil de desaprender. Investigadores de organizaciones como el Allen Institute for IA y la Partnership on IA están investigando cómo los sesgos y comportamientos se codifican sutilmente en los pesos y resultados de los modelos.

De Kai ilustra su punto volviendo a un caso de 2016, cuando Microsoft lanzó Tay, un chatbot entrenado para aprender de los usuarios en tiempo real. En 24 horas, Tay se había convertido en una fuente de teorías de conspiración, discursos de odio y comentarios ofensivos, respuestas que había recogido a través de las interacciones de Twitter. Tay se desconectó rápidamente. Menos conocido es que Microsoft desplegó un modelo similar en China, en diferentes condiciones, y el sistema prosperó como un chatbot popular.

“Misma arquitectura, diferente entorno cultural”, señaló De Kai. “Ese es el poder de la crianza”.

Lo aprendido, dijo, no siempre se puede desaprender. “Es por eso que la metáfora de criar niños es tan adecuada. Si crías a un niño en un entorno disfuncional, las consecuencias no se deshacen fácilmente”.

Los modelos líderes de hoy en día se capacitan utilizando una combinación de aprendizaje supervisado y aprendizaje por refuerzo, basándose en la retroalimentación humana. La mayor parte de lo que los modelos de IA aprenden sobre cómo comportarse proviene del entrenamiento previo en enormes colecciones de texto. Estos textos se compilan de sitios web disponibles públicamente, incluidos Wikipedia, Reddit, GitHub y muchos otros.

De Kai no argumenta en contra de estos métodos. Más bien, dijo, debemos ser más conscientes de lo que está en juego. “No se trata solo de imparcialidad o sesgo en abstracto. Se trata de qué tipo de personalidades estamos modelando”.

En el mundo corporativo, la metáfora de la IA cuando era niño tiene implicaciones prácticas, dijo Kai. Las empresas que implementan sistemas de IA a menudo se centran en puntos de referencia y métricas de performance, incluida la precisión, la latencia y el rendimiento. Pero esas medidas pueden pasar por alto la dinámica social más amplia.

“Piense en incorporar a un nuevo empleado”, dijo. “No les das un manual y los dejas en paz. Los empareja con un mentor. Usted supervisa su desarrollo. Modelas valores”.

Algunas organizaciones están empezando a tomar esto en serio. Salesforce y Microsoft han implementado procesos de revisión ética. IBM publica hojas informativas de IA que detallan la procedencia del modelo. Sin embargo, De Kai ve estos esfuerzos como pasos preliminares.

“No basta con cumplir”, dijo. “Hay que ser concienzudo”.

Su preocupación es que la IA empresarial a menudo hereda la cultura de sus creadores, a veces de manera sutil. Un chatbot diseñado para ayudar con la contratación podría absorber patrones de lenguaje de género. Una herramienta financiera podría reflejar tolerancias al riesgo que están determinadas por sesgos institucionales. En cada caso, la IA no se comporta mal. Es aprender.

El marco cambia cuando se asume que estos sistemas son agentes en entrenamiento en lugar de algoritmos. “Si pensamos en la IA como un colega o un estudiante, cambia la forma en que actuamos en torno a ella. Dejamos de tratarlo como una herramienta y comenzamos a tratarlo como un observador”.

Para De Kai, la influencia más importante y menos visible en la IA no es lo que procesa, sino lo que nunca se muestra.

“Se presta mucha atención a la desinformación, pero muy poca a la información faltante”, dijo.

Los algoritmos deciden qué publicaciones vemos, qué productos se recomiendan y qué artículos de noticias aparecen, dijo Kai. Al hacerlo, también determinan lo que permanece invisible.

“Eso es censura algorítmica”, dijo, “no en el sentido de supresión política, sino en el sentido de estrechamiento epistémico”.

Se apresura a decir que no cree en las conspiraciones. Pero él sí cree en los incentivos. “Si tu algoritmo se optimiza para el engagement, va a aprender que ciertos tipos de contenido mantienen a las personas enganchadas. Eso es lo que elevará. Todo lo demás se perderá de vista”.

Los efectos son acumulativos. Los modelos entrenados con datos filtrados por métricas de interacción aprenden a valorar la visibilidad por encima de los matices. Pueden convertirse en amplificadores de los circuitos de retroalimentación existentes, sin que nadie los dirija deliberadamente de esa manera.

Pero el campo está evolucionando rápidamente. De Kai ve signos de progreso en el horizonte. Cuando se le pregunta qué sigue, habla con cuidado, señalando avances en el razonamiento, enfoques híbridos que combinan neural networks con sistemas simbólicos y un cambio hacia modelos más eficientes, personalizables y ligeros.

“La pregunta no es si obtendremos mejores modelos. Lo haremos. La pregunta es si seremos mejores maestros”.

Tiene la esperanza de que la comunidad de investigación esté comenzando a internalizar esto. El auge de los sistemas agenticos, la mayor atención prestada a la memoria a largo plazo y al contexto en el diseño de la IA, y el enorme interés suscitado por los mecanismos de alineación sugieren que se trata de un campo consciente de su creciente huella cultural.

Aun así, De Kai advierte contra la complacencia. “Somos la primera generación en criar mentes no humanas. Es un privilegio increíble. Y una prueba.

Él sonrió, casi tímidamente. “Nos están mirando. Así es como aprenden”.