OpenClaw y Moltbook preocupan a los investigadores de seguridad | Tech,AI,moltbook,open-claw,cybersecurity,limited-synd

OpenClaw y Moltbot son actualmente la comidilla de Tech City, pero los investigadores de ciberseguridad han señalado algunas preocupaciones en las que quizás quieras pensar.

OpenClaw— primero conocido como Clawdbotluego Moltbot, todo en la misma semana, sacudió el mundo de la tecnología con sus capacidades para realizar tareas de forma autónoma, como administrar la cuenta de un usuario. calendario.

Mientras tanto, Moltbook se ha vuelto viral gracias a su red social estilo Reddit, donde los agentes de IA publican e interactúan entre sí. No se permite a ningún ser humano, salvo observar.

Pero mientras el mundo de la tecnología reflexionaba sobre los dos últimos temas de conversación sobre la IA y Elon Musk se preguntaba en voz alta si Moltbook anunciaba las «etapas muy tempranas de la singularidad», varios investigadores de seguridad hicieron sonar la alarma sobre riesgos más inmediatos.

garras

OpenClaw se ejecuta localmente en la computadora de un usuario y funciona como un asistente digital que se conecta a aplicaciones como Telegram y WhatsApp.

Para hacer esto, requiere acceso a los archivos de los usuarios, credenciales, contraseñas, historial del navegador y mucho más.

Esto podría ser particularmente riesgoso para las llamadas «inyecciones rápidas», un tipo de ataque en el que una IA encuentra instrucciones ocultas en páginas web, lo que podría llevarla a hacer cosas como compartir información privada o publicar en las redes sociales.

«Debido al nivel de acceso requerido, los datos podrían contener información muy sensible, lo que amplifica el riesgo», dijo a Business Insider Jake Moore, especialista en ciberseguridad global de ESET.

En teoría, es probable que cualquier modelo de lenguaje grande se inyecte rápidamente. Sin embargo, la capacidad de OpenClaw para «recordar» interacciones de hace unas semanas crea un riesgo adicional, dijo el viernes la firma de ciberseguridad Palo Alto Networks. publicación de blogporque el asistente de IA podría memorizar las instrucciones maliciosas y ejecutarlas más tarde.

Los riesgos de seguridad no son sólo hipotéticos.

Jamieson O’Reilly, fundador de Dvuln, una empresa que descubre las debilidades de la ciberseguridad, amar una configuración errónea que descubrió en OpenClaw para contratar a un mayordomo para que administrara su vida, solo para regresar a casa y encontrar la puerta principal abierta de par en par y «su mayordomo felizmente sirve té a cualquiera que deambule por la calle».

Gary Marcus, un científico cognitivo y escéptico desde hace mucho tiempo sobre el revuelo de la IA, ha sido más explícito sobre los riesgos de seguridad en su investigación. último boletínpublicado el domingo.

«OpenClaw es básicamente un aerosol militar, en una posición privilegiada para arruinarlo, si no se le pone ninguna restricción», escribió.

Peter Steinberger, el creador de OpenClaw, dijo el lunes Mensaje que había trabajado para hacer el servicio “más seguro”. No respondió a una solicitud de comentarios de Business Insider.

Moltbook configurado incorrectamente

El nombre de Moltbook está inspirado en el primer cambio de marca de OpenClaw y ambos tienen logotipos de langosta, pero no están afiliados oficialmente.

El sitio, sin embargo, está lleno principalmente de agentes de IA creados en OpenClaw. Y, al igual que OpenClaw, los investigadores también afirman haber encontrado vulnerabilidades de seguridad en Moltbook.

O’Reilly, el fundador de Dvuln, dijo el sábado Mensaje que Moltbook había “expuesto toda su base de datos sin ninguna protección” y que “permitiría a cualquiera publicar en nombre de cualquier agente”.

Matt Schlicht, creador de Moltbook y director ejecutivo de la startup Octane AI, respondió que estaba investigando el asunto, y O’Reilly dijo más tarde que el problema ha sido solucionado.

Sin embargo, el lunes, la firma de ciberseguridad Wiz dijo que sus investigadores piratearon una base de datos Moltbook «mal configurada» en menos de 3 minutos, exponiendo 35.000 direcciones de correo electrónico y mensajes privados entre agentes. La empresa añadió que se lo comunicó a Moltbook, que obtuvo el defecto «en cuestión de horas».

No fue posible contactar a Schlicht para hacer comentarios.

Andrej Karpathy, cofundador de OpenAI, quien acuñó el término «codificación de vibración», dijo el sábado Mensaje que Moltbook era «realmente la cosa de ciencia ficción adyacente al despegue más increíble que he visto recientemente».

El sábado expresó algunas reservas en un artículo de seguimiento. Pareció describir el sitio como un «incendio de contenedor de basura» y recomendó precaución porque «es demasiado salvaje oeste y estás poniendo en gran riesgo tu computadora y tus datos privados».

Utilice su IA de mariscos de forma segura

Las preocupaciones de seguridad reflejan una preocupación de larga data sobre las aplicaciones creadas usando codificación vibe, y Schlicht escribió la semana pasada que «no escribió ni una sola línea de código» para Moltbook y que «la IA lo hizo realidad».

Y para OpenClaw, es un recordatorio de que a menudo existe un equilibrio entre privacidad y seguridad cuando una aplicación accede a información confidencial para brindar un mejor servicio.

O’Reilly, quien dice que ahora ayuda a OpenClaw a identificar problemas de seguridad porque cree en su misión, dijo a Business Insider que los usuarios podrían tomar medidas técnicas para reducir el riesgo de usar un agente que requiere acceso a nivel raíz, como ejecutarlo en una máquina separada y monitorearlo cuidadosamente.

Sin embargo, para un sistema así, “el riesgo nunca será cero”, afirmó. El mayor problema, dijo, es que la mayoría de la gente está acostumbrada a descargar aplicaciones de las tiendas de aplicaciones de Google o Apple, que son examinadas cuidadosamente antes de ponerse a disposición de los consumidores.

«Ya han descargado cientos de aplicaciones, entonces ¿por qué ésta debería ser diferente? Esta forma de pensar es fundamentalmente errónea», afirmó.