Cuando la IA recuerda todo

ChatGPT ahora puede recordar quién es usted, y esa simple actualización puede cambiar la forma en que nos relacionamos con la inteligencia artificial.

El despliegue de las características de memoria por parte de OpenAI marca la primera vez que un asistente de IA ampliamente utilizado puede recordar información de forma persistente en todas las interacciones. Si bien la característica es opcional, refleja un cambio más amplio: los sistemas de IA se están diseñando para retener lo que aprenden sobre los usuarios a lo largo del tiempo. El objetivo es hacer que las interacciones sean más fluidas, más relevantes y más eficientes. Pero incorporar la memoria en la IA también plantea cuestiones más profundas, relacionadas con la privacidad, la transparencia y el nivel de control que tienen los usuarios.

“La memoria es un paso crítico hacia hacer que la IA sea más adaptable, útil y similar a la humana”, dice Payel Das, investigador principal en IBM Investigación, a IBM Think en una entrevista. "La memoria de IA puede proporcionar una mejor precisión y adaptabilidad, especialmente cuando se combina con mecanismos como módulos de memoria persistentes y episódica".

A diferencia de la memoria humana, que suele ser subjetiva y selectiva, la memoria de la IA es una arquitectura técnica: un almacen estructurado de información dentro de redes neuronales o bases de datos externas. La memoria persistente conserva datos a largo plazo, como el puesto de trabajo de un usuario, mientras que la memoria episódica almacena interacciones recientes o información contextual.

La implementación de memoria de OpenAI brinda a los usuarios cierta agencia, lo que les permite comentar y eliminar lo que está almacenado. Otras compañías, incluidas Anthropic y Google DeepMind, están buscando capacidades similares. A pesar de las diferencias en la ejecución, la dirección es compartida: la memoria se está convirtiendo en una característica fundamental de la IA de próxima generación.

Los partidarios argumentan que esta funcionalidad es crítica para llevar la IA más allá de las respuestas estáticas y únicas. Un asistente con memoria puede continuar las conversaciones con el tiempo, hacer seguimiento de tareas no resueltas y adaptar las respuestas a las preferencias individuales. En casos de uso reales, como atención al cliente, tutoría o sanidad, esta continuidad podría generar avances significativos en la eficacia.

IBM está explorando estas posibilidades desde una perspectiva empresarial. "Estamos explorando la memoria a largo plazo de manera que se alinee con los estándares de seguridad empresarial", dijo Das. “Nuestro trabajo sobre la memoria persistente y episódica se centra en dar a los usuarios claridad y supervisión sobre lo que se retiene y cómo se usa”.

Aun así, no todo el mundo está convencido de que este camino esté libre de riesgos. Vasant Dhar, profesor de la Stern School of Business de la NYU y experto en gobernanza de datos desde hace mucho tiempo, ve la tendencia como parte de un patrón más amplio.

"Es el salvaje oeste: las empresas están absorbiendo datos sin reglas y los usuarios tienen poco control real", dice Dhar a IBM Think en una entrevista. Las características de la memoria, advirtió, profundizan los riesgos existentes vinculados a la vigilancia y el consentimiento. “Si se puede predecir mejor, el modelo se vuelve más valioso. En resumen, eso es lo que está pasando.

Dhar establece una conexión con las anteriores oleadas de personalización en plataformas como Facebook y Google, que se basaban en el seguimiento del comportamiento para perfeccionar el contenido y la publicidad. Pero con la IA, la entrada del usuario es más matizada. Las conversaciones pueden revelar más que clics y pueden persistir por más tiempo.

“Claro, la gente debería estar preocupada”, dijo Dhar. “Pero, ¿qué van a hacer? ¿Apagarlo? E incluso entonces, ¿cómo sabes que realmente está mal?”

Las implicaciones van más allá del control del usuario. Dhar advierte que la memoria también puede dar forma a los propios modelos. En algunas arquitecturas, las interacciones de los usuarios no solo se recuerdan, sino que se utilizan para reentrenar o adaptar el modelo subyacente.

"De alguna manera, el LLM en sí mismo actúa como un sistema de memoria: sus pesos codifican el conocimiento acumulado, incluidos los patrones potenciales de las interacciones del usuario", dijo Dhar. “Su memoria a largo plazo no se trata solo de hechos; podría incluir información sobre usted y lo que le ha dicho”.

Esto plantea preguntas espinosas: ¿Qué se considera datos de entrenamiento? ¿Puede la memoria personal permanecer aislada o podría influir en el comportamiento más amplio del modelo?

Das enfatizó que IBM trata esta distinción con cuidado. “Las empresas necesitan la confianza de que la información privada o personal no se filtrará inadvertidamente a los sistemas públicos”, afirma. "Nuestro diseño de memoria refleja esa prioridad".

Algunos investigadores están explorando interfaces donde la memoria se organiza en fragmentos legibles y editables, como notas digitales, dice Das. Otros están desarrollando sistemas más implícitos, donde la memoria se guía por la importancia o la frecuencia de referencia.

"Hay compensaciones entre la transparencia y la carga cognitiva", dice Das. “Demasiada visibilidad de la memoria puede abrumar a los usuarios. Pero muy poco socava la confianza”.

La memoria también podría influir en cómo razonas la IA. Con la memoria persistente, los sistemas pueden operar en flujos de trabajo a largo plazo o adaptarse de manera más fluida a las necesidades cambiantes de los usuarios. Eso podría abrir puertas en campos como la educación, la terapia o la atención crónica.

Pero los expertos advierten que no se debe asumir que la memoria mejora de forma inherente la precisión o la imparcialidad. Si un sistema recuerda erróneamente, o si se retienen las interacciones con sesgo, esos problemas pueden agravarse.

Los reguladores están empezando a responder. La Ley de IA de la UE incluye disposiciones sobre transparencia y derechos de los usuarios en relación con el almacenamiento de datos y la memoria. En Estados Unidos, la FTC ha expresado su preocupación por la forma en que las empresas manejan los datos personales en contextos de IA.

Los observadores dicen que muchos usuarios pueden no darse cuenta de lo que está sucediendo. "Estamos entrando en una fase en la que las personas asumen que la IA está trabajando para ellos, cuando en realidad, está recopilando de ellos", dice Dhar.

A pesar de estas preocupaciones, muchos en el campo ven una oportunidad. “Esta es una dirección apasionante”, afirma Das. “La clave es hacer que la memoria sea responsable, explicable y alineada con los valores humanos. Ese es el reto que tenemos por delante.