Los atacantes están utilizando GPT personalizados para implementar ataques ClickFix en una nueva campaña RAT
El incidente expone brechas explotables en el comportamiento humano, dicen los expertos, lo que demuestra que la confianza puede ser tan vulnerable como la tecnología.
Los actores de amenazas están abusando de los GPT personalizados para entregar malware troyano de acceso remoto (RAT) a través de ataques ClickFix, lo que destaca cómo las plataformas de IA de confianza se están convirtiendo en un nuevo vehículo para una técnica de ingeniería social establecida.
Los ciberataques más efectivos no siempre son los más sofisticados. A menudo, el éxito proviene de la expectativa de que los usuarios realicen las mismas acciones de todos los días.
Investigadores de la empresa de ciberseguridad Huntress identificaron recientemente actores de amenazas que abusan de GPT personalizados para entregar malware a través de ataques de estilo ClickFix. Observada por primera vez hace más de dos años, ClickFix es una técnica de ingeniería social que engaña a los usuarios para que copien y ejecuten comandos maliciosos, a menudo disfrazados de CAPTCHA o un paso de verificación de rutina. Desde entonces, se ha convertido en un método de entrega de malware ampliamente utilizado.
La última campaña sugiere que los atacantes ahora están adaptando una táctica establecida a un nuevo entorno digital. Más importante aún, están utilizando la creciente confianza que los usuarios depositan en las herramientas impulsadas por IA como mecanismo para la entrega de malware.
Aunque el uso de GPT personalizados pueda parecer novedoso, la cadena de ataques subyacente es todo lo contrario. “Desde hace al menos dos años, existen campañas ClickFix que se dieron a conocer públicamente”, dijo Michelle Alvarez, gerente de IBM® X-Force Threat Intelligence, en un episodio reciente del podcast Security Intelligence. Según Alvarez, el enfoque de la industria de la ciberseguridad en la inteligencia artificial a veces puede eclipsar la evolución continua de las amenazas establecidas. “Creo que tal vez todo este discurso sobre la IA y la IA de frontera para encontrar vulnerabilidades está eclipsando esta notable amenaza que parece continuar evolucionando”, señaló.
La campaña refleja una tendencia más amplia en ciberseguridad: los atacantes están reutilizando cada vez más tecnologías y plataformas confiables para mejorar la eficacia de las técnicas existentes en lugar de desarrollar otras completamente nuevas.
Según Huntress, los atacantes crearon experiencias de GPT personalizadas maliciosas que finalmente dirigían a los usuarios a flujos de trabajo de ClickFix capaces de desplegar malware de acceso remoto. Además, informes de BleepingComputer señalaron que la campaña dependía en parte de la credibilidad asociada al ecosistema de ChatGPT, creando un entorno donde los usuarios podrían ser más propensos a confiar en las instrucciones que reciben.
¿Su equipo captaría a tiempo el próximo día cero?
Únase a los líderes de seguridad que confían en el boletín Think para obtener noticias seleccionadas sobre IA, ciberseguridad, datos y automatización. Aprende rápido con tutoriales de expertos y documentos explicativos, que se envían directamente a su bandeja de entrada. Consulte la Declaración de privacidad de IBM.
Esa confianza es importante porque estos ataques de ClickFix dependen casi por completo de la interacción del usuario.
“La cadena de eliminación general siguen siendo los mismos pasos, pero es muy poderosa”, dijo Norman Dorsch, gerente de producto de IBM X-Force. “El usuario es el que instala la carga útil durante ese ataque de ClickFix”.
A diferencia de los exploits que atacan vulnerabilidades de software, los ataques de ClickFix se centran en la toma de decisiones. Por lo general, a las víctimas se les presentan instrucciones que se asemejan a CAPTCHA, comprobaciones de verificación del navegador o instrucciones de solución de problemas. Investigadores de Microsoft han observado a actores de amenazas que utilizan estas técnicas para convencer a los usuarios de ejecutar comandos que finalmente entregan malware, mientras que los investigadores de Proofpoint han documentado la creciente adopción de ClickFix en múltiples campañas de amenazas.
Este enfoque sigue siendo atractivo para los atacantes porque desplaza todo el “trabajo pesado” de la campaña hacia la víctima. Al persuadir a los usuarios para que ejecuten comandos, los atacantes pueden eludir muchos de los controles de seguridad diseñados para evitar la instalación de software no autorizado.
Como explicó Dorsch, los atacantes suelen presentar la interacción como un paso de verificación de rutina.
“Demuestra que somos humanos, pega este comando en la terminal y luego se ejecutará la carga útil”, dijo. “De hecho, despliega la carga útil en el sistema del usuario y obtiene C2 [comando y control]”.
El uso de GPT personalizados también plantea preguntas sobre cómo se gobernarán los mercados de IA y los ecosistemas de agentes a medida que continúan su expansión. Las organizaciones ya se han enfrentado a desafíos similares en tiendas de aplicaciones, repositorios de extensiones de navegador y mercados de software. Todos estos son lugares donde el contenido malicioso puede coexistir con herramientas legítimas.
“Cada vez que una empresa tiene un tipo de mercado, se espera que tenga, en algún momento, un nivel de responsabilidad en cuanto a eliminar lo que se ha demostrado que es malicioso”, señaló Giacomo Casoni, consultor sénior de respuesta a incidentes de X-Force en IBM.
A medida que las empresas continúan adoptando asistentes de IA y sistemas agénticos, la confianza se convertirá cada vez más en un límite de seguridad, coincidieron los expertos. Los usuarios no pueden evaluar las instrucciones de una interfaz impulsada por IA con el mismo escepticismo que aplicarían a un archivo adjunto de correo electrónico o a un sitio web desconocido. Por ejemplo, piense en la frecuencia con la que ya puede aceptar ciegamente notificaciones de mensajería de confianza u herramientas de oficina. Los actores de amenazas entienden esta dinámica y están comenzando a incorporarla en los manuales de procedimientos de ingeniería social existentes.
Los hallazgos de Huntress sugieren que las organizaciones deberían pensar en la seguridad de la IA en términos más amplios que en las vulnerabilidades del modelo por sí sola. Proteger a los usuarios de experiencias maliciosas con la IA puede llegar a ser tan importante como proteger los modelos subyacentes.
La conclusión para los defensores debería ser que los atacantes no necesitan comprometer un sistema de IA para beneficiarse de él. Solo necesitan convencer a los usuarios de que siempre se puede confiar en las instrucciones que provienen de ese sistema.