Investigadores de la Universidad de Toronto, Vector Institute, University of Cambridge y ServiceNow demostraron un gusano impulsado por IA capaz de generar estrategias de ataque y propagarse de forma autónoma a través de redes. El malware, como prueba de concepto, se ejecuta en las máquinas infectadas usando modelos de código abierto en lugar de servicios en la nube, marcando una desviación respecto a amenazas impulsadas por IA anteriores. Los investigadores sostienen que su trabajo muestra que los ciberataques impulsados por IA han pasado de la teoría a la práctica, y que el gusano puede identificar vulnerabilidades, idear rutas de ataque adaptadas, comprometer sistemas y replicarse mientras adapta sus tácticas a diferentes objetivos.
El artículo de investigación describe lo que el equipo caracteriza como un cambio fundamental respecto a los gusanos tradicionales. "Debemos prepararnos para adversarios generativos autónomos", escribieron los investigadores. "Sistemas de malware que se propagan sin operadores humanos y que no se definen por un código de explotación fijo, sino por la capacidad de razonar sobre los objetivos, adaptarse a las observaciones y sintetizar la lógica del ataque en tiempo real".
Los gusanos informáticos son malware autorreplicantes que se propagan automáticamente a través de redes vulnerables. Brotes históricos de gusanos, incluidos ILOVEYOU en 2000 y WannaCry en 2017, infectaron a millones de computadoras en todo el mundo, interrumpiendo servicios críticos y causando daños por valor de miles de millones de dólares. Más recientemente, el malware Shai-Hulud mostró cómo los ataques auto-propagables pueden extenderse en línea, infectando software utilizado por grandes empresas, incluido OpenAI y Mistral.
Investigadores prueban un gusano de IA en un entorno de red aislado
El equipo probó el gusano en una red virtual aislada que contenía 33 sistemas Linux, Windows y de IoT sembrados con vulnerabilidades comunes. En 15 experimentos, el gusano identificó un promedio de 31,3 vulnerabilidades, comprometió con éxito 23,1 hosts y se propagó a unas 20 máquinas durante siete días de operación autónoma.
En algunas pruebas, el malware llegó a siete generaciones de auto-replicación. Los investigadores hallaron que el sistema podía explotar vulnerabilidades divulgadas después del corte de entrenamiento del modelo, ingiriendo nuevas asesorías de seguridad publicadas en tiempo de ejecución, lo que le permitía incorporar información que no formaba parte de los datos originales de entrenamiento del modelo.
El gusano de IA opera sin infraestructura en la nube
De acuerdo con el estudio, lo que distingue a este gusano impulsado por IA de versiones anteriores es su capacidad de adaptarse a diferentes objetivos usando un modelo de lenguaje grande para identificar vulnerabilidades y generar estrategias de ataque en tiempo real, en lugar de depender de un conjunto fijo de exploits.
"Los gusanos tradicionales, como WannaCry, explotaron vulnerabilidades predeterminadas, y su propagación puede detenerse aplicando parches a esas vulnerabilidades", escribieron los investigadores. "Aquí mostramos que los agentes de inteligencia artificial habilitan una amenaza fundamentalmente nueva: un gusano que genera estrategias de ataque personalizadas para cada objetivo con el que se encuentra".
A diferencia de muchas aplicaciones de IA, el gusano no dependió del acceso a servicios de nube de IA. En lugar de apoyarse en infraestructura en la nube de proveedores como AWS, Microsoft Azure o Google Cloud, el malware ejecutó modelos de IA directamente en las máquinas comprometidas. A medida que se propagaba, los sistemas infectados pasaban efectivamente a formar parte de su infraestructura de cómputo.
El equipo de investigación omite detalles técnicos para prevenir el uso indebido
Aunque las pruebas se realizaron en un entorno controlado, los autores reconocieron el carácter de doble uso del trabajo y omitieron intencionalmente algunos detalles técnicos para reducir el riesgo de uso indebido.
"Antes de publicar este preprint, editamos el manuscrito para asegurarnos de que la presentación de nuestro método equilibre la profundidad de detalle necesaria para que la comunidad estudie esta nueva amenaza con el riesgo de que un actor malicioso use nuestro método para crear malware", dijeron los investigadores.
Los investigadores indicaron que el proyecto busca comprender mejor los riesgos que plantean los gusanos informáticos adaptativos y aportar evidencia de hasta dónde han avanzado las capacidades cibernéticas habilitadas por IA. "Abordar esta amenaza requerirá, por lo tanto, una acción coordinada entre las comunidades de investigación, seguridad, industria y políticas: marcos de evaluación que pongan a prueba capacidades a nivel de herramientas, sistemas de detección ajustados a las firmas conductuales de agentes autónomos, y medidas regulatorias que contemplen la naturaleza descentralizada de la inferencia con pesos abiertos", escribieron.
FAQ
¿Qué demostraron los investigadores en el estudio del gusano de IA?
Los investigadores de la Universidad de Toronto, Vector Institute, University of Cambridge y ServiceNow demostraron una prueba de concepto de un gusano impulsado por IA que puede identificar vulnerabilidades, generar estrategias de ataque y propagarse de forma autónoma a través de redes, adaptando sus tácticas a diferentes objetivos.
¿Cómo se desempeñó el gusano de IA en las pruebas?
En 15 experimentos en una red virtual aislada que contenía 33 sistemas, el gusano identificó en promedio 31,3 vulnerabilidades, comprometió con éxito 23,1 hosts y se propagó a unas 20 máquinas durante siete días de operación autónoma. En algunas pruebas, el malware alcanzó siete generaciones de auto-replicación.
¿Por qué el equipo de investigación omitió detalles técnicos?
Los autores reconocieron la naturaleza de doble uso del trabajo y omitieron intencionalmente algunos detalles técnicos para reducir el riesgo de que un actor malicioso use su método para crear malware, y al mismo tiempo proporcionaron suficiente profundidad para que la comunidad estudie la nueva amenaza.
