📂 Categoría: AI,Tech,cybersecurity,ransomware,ai,sysdig | 📅 Fecha: 1783388456
🔍 En este artículo:
Los investigadores de Sysdig, una empresa de ciberseguridad, dicen que han encontrado un presagio de hacia dónde se dirige la IA agente.
El equipo de investigación de amenazas de Sysdig cree haber encontrado la primera evidencia documentada de agente ransomware, en el que un modelo de lenguaje grande orquestó un ataque complejo. el equipo llamó al ataque «Jade Puffer».
«JadePuffer es una señal de advertencia», escribió en un informe Michael Clark, director de investigación de amenazas de Sysdig. «Es un indicador de hacia dónde se dirige la extorsión».
Clark escribió que Jade Puffer no utilizó «técnicas nuevas o sofisticadas», pero lo que fue notable fue cómo el modelo de IA organizó y ejecutó el ataque, lo que ilustra que la barrera de entrada para futuros ataques de ransomware ahora es significativamente menor.
«El nivel de habilidad para ejecutar ransomware se ha reducido a lo que cuesta ejecutar un agente, y si ese agente se ejecuta con credenciales robadas mediante LLMjacking, el costo para un atacante es cercano a cero», escribió.
El ataque en sí estaba dirigido, como cabría esperar de un ataque de ransomware. Clark escribió que el LLM escaneó el servidor en busca de conexiones a API de IA, credenciales de nube, billeteras de criptomonedas y credenciales de bases de datos.
La IA incluso generó la demanda de rescate, escribió Clark, al «crear una tabla de extorsión (README_RANSOM) que contiene la demanda, una dirección de pago de Bitcoin y un contacto de Proton Mail».
Sysdig dijo que pudo atribuir elementos del ataque a un modelo de IA basado en comportamientos específicos, incluidos rastros de código dejados por el ataque en el servidor objetivo que muestran signos reveladores de la generación de IA.
«Las cargas útiles decodificadas están saturadas de comentarios en lenguaje natural que explican por qué se realiza cada acción», escribió Clark.
Geoff McDonald, científico de datos e investigador de ciberseguridad de Microsoft, dijo que la IA podría desencadenar una ola de ataques similares.
«Los ataques de ransomware (y destructivos) ahora pueden escalar principalmente en función del presupuesto del atacante, en lugar de estar limitados por su capacidad humana para ejecutar campañas por sí mismos», escribió McDonald, director senior de investigación del equipo Defender for Endpoint de Microsoft, en LinkedIn. «Hoy en día, nada impide que los actores de amenazas ejecuten miles, si no decenas de miles, de campañas simultáneas. »
Un ingeniero de ciberseguridad dijo que uno de los aspectos más llamativos de Jade Puffer fue cómo el modelo de IA adaptó su funcionamiento en tiempo real, incluida la corrección de un error en poco más de medio minuto.
«Leyó el error, corrigió su propio código y continuó. Tardó 31 segundos», escribió en X Oluwatobi Mustapha, un ingeniero de ciberseguridad. «Pasé más tiempo mirando un error tipográfico».
La IA ya estaba desencadenando un momento de ciberseguridad antes de que Sysdig descubriera evidencia de Jade Puffer.
Tanto Anthropic como OpenAI han lanzado recientemente modelos avanzados de IA a los que tienen acceso limitado en función de sus capacidades avanzadas de ciberseguridad. La administración Trump llegó incluso a imponer controles de exportación a Anthropic debido a preocupaciones sobre los modelos Claude Mythos 5 y Fable 5 de la compañía.
McDonald dice que el mundo no está preparado para lo que viene.
«Este es un momento transformador en ciberseguridad para el que creo que la industria y el mundo no están preparados, y creo que tendrá graves consecuencias negativas a medida que se acelere en los próximos meses», escribió.
