El anuncio de Anthropic esta semana sobre su nuevo y poderoso modelo de inteligencia artificial provocó una ola de advertencias y predicciones nefastas, pero no todos están creyendo las exageraciones.
Anthropic anunció el martes que no lanzará Mythos, su modelo de inteligencia artificial de próxima generación, debido a preocupaciones de ciberseguridad. La compañía dijo que Mythos era tan poderoso que los no expertos podían usarlo para explotar vulnerabilidades en los principales sistemas operativos.
En lugar de un lanzamiento amplio, Anthropic dijo que pondrá Claude Mythos Preview a disposición de 11 organizaciones externas, incluidas Google, Microsoft, Amazon Web Services, JPMorganChase y Nvidia, como parte del «Proyecto Glasswing».
Las afirmaciones de Anthropic sobre lo que Mythos era capaz de hacer rápidamente generaron preocupaciones, junto con una reunión entre el presidente de la Reserva Federal, Jerome Powell, el secretario del Tesoro, Scott Bessent, y los jefes de los principales bancos estadounidenses.
Algunos comentaristas de AI advirtieron sobre las implicaciones de seguridad cibernética, mientras que otros cuestionaron la importancia del anuncio de Anthropic, diciendo que Mythos no parecía tener ventaja sobre otros modelos y que era más una cuestión de buenas relaciones públicas.
¿Deberían los Mitos hacer temblar a los funcionarios de seguridad? ¿Anthropic simplemente ha dominado el arte de comercializar sus modelos? Hemos reunido lo que dicen las personas inteligentes mientras Internet debate los últimos avances en IA.
Gary Marcos
Gary Marcus calificó la exageración del mito como «exagerada». Ramsey Cardy/Web Summit vía Sportsfile vía Getty Images
Gary Marcus, investigador y autor de IA, dijo que el anuncio de Anthropic sobre Mythos fue «exagerado».
«Hasta cierto punto, siento que nos jugaron», escribió Marcus en Subpila. «La manifestación fue sin duda una prueba del concepto de que necesitábamos para poner en orden nuestros asuntos regulatorios y técnicos, pero no la amenaza inmediata que los medios y el público hicieron ver».
Marcus dijo que, por lo que ha visto, el modelo parece ser «progresivamente mejor» que los modelos anteriores, en lugar de ser un «gran avance».
Yann LeCun
Yann LeCun era el científico jefe de IA en Meta. Imágenes Bloomberg/Getty
Yann LeCun, fundador de AMI Labs y ex científico jefe de IA en Meta, también arrojó un jarro de agua fría sobre la exageración del mito.
“Drama mítico = mierda de autoengaño”, escribió en un Mensaje.
Estaba respondiendo a una publicación de Aisle, una empresa de seguridad de inteligencia artificial, que decía que había probado modelos más pequeños y más baratos con las mismas vulnerabilidades destacadas en el anuncio Mythos de Anthropic y descubrió que podían hacer gran parte del mismo análisis.
Jake Moore
Jake Moore, especialista en ciberseguridad global de ESET, dijo anteriormente a Business Insider que había algunos términos de marketing en el anuncio de Anthropic, pero que «básicamente, este modelo parece increíblemente impresionante y solo mejorará con el tiempo».
«Anthropic se ha ganado la reputación de ser una empresa de inteligencia artificial que prioriza la seguridad, por lo que anuncios como este tienen dos propósitos: precaución genuina y señalar una postura consciente de la seguridad», dijo Moore.
David Kasten
Dave Kasten, jefe de políticas de Palisade Research, dijo que cree que es probable que otros modelos de IA no se queden atrás de Mythos.
Le dijo a CNBC en una entrevista el jueves que sus expectativas eran que «Anthropic esté un poco por delante, pero no muy por delante, y no necesariamente tienen una brecha permanente aquí».
Señaló un informe reciente de axios Dicho esto, OpenAI también tiene un modelo con capacidades avanzadas de ciberseguridad que planea lanzar sólo a un grupo pequeño, en lugar de al público en general.
Kasten también dijo que cree que Gemini probablemente no se queda atrás, pero el hecho de que Google se esté asociando con Mythos implica que Anthropic probablemente tenga una ventaja con este modelo en particular, al menos durante unos meses.
David Sacos
David Sacks, exjefe de IA en la Casa Blanca, expresó cierto escepticismo sobre las míticas advertencias de Anthropic. Matt McClain/El Washington Post/Getty Images
David Sacks, un inversor en tecnología y ex zar de la IA de la Casa Blanca, dijo que las afirmaciones de Anthropic sobre Mythos son importantes pero deben tomarse con cautela.
«El mundo no tiene más opción que tomar en serio la amenaza cibernética asociada con Mythos. Pero es difícil ignorar que Anthropic tiene un historial de tácticas de miedo», dijo Sacks en un comunicado. Mensajecompartiendo algunos ejemplos de casos pasados en los que Anthropic emitió advertencias o historias alarmantes sobre modelos de IA.
marlin
TJ Marlin, director ejecutivo de Guardrail Technologies, que anteriormente trabajó en el equipo global de tecnología forense de EY, dijo que la reunión entre funcionarios federales y Wall Street tenía como objetivo garantizar que los bancos, en caso de una violación de seguridad significativa, no pudieran darse la vuelta y dijo: «No lo sabíamos».
«Todos los directores ejecutivos en esta sala que no documentan la respuesta de la junta directiva se encuentran ahora en la posición más expuesta legalmente posible», escribió Marlin en LinkedIn.
Pablo Holmán
Pablos Holman dijo sobre el revuelo en torno al Mito que cree que la ciberseguridad realmente mejorará. Eugene Gologursky/Getty Images para Fast Company
Pablos Holman, VC de Deep Future, dijo que los defensores de la ciberseguridad (personas que intentan defenderse de los ataques digitales) se beneficiarían más de los avances en IA que quienes llevan a cabo los ataques.
«Ahora todo el mundo está perdiendo la cabeza por los ataques basados en IA», dijo Holman en un comunicado. Publicaciones de LinkedIn sobre Mythos el 1 de abril, antes del anuncio de Anthropic esta semana. «Lo que les falta es que los defensores tengan la misma IA. A menudo mejor y mucho más computacional».
Holman dijo que los defensores de la ciberseguridad tendrán acceso a los mismos modelos, así como a más recursos con los que trabajar, como el código fuente.
«Sigue siendo una guerra en escalada, pero ahora el defensor tiene la ventaja», escribe. «La seguridad se trata de mejorar, no de empeorar».
Ben Seri
«Hemos entrado en el momento del Proyecto Manhattan para la ciberseguridad», dijo en un comunicado Ben Seri, cofundador de la startup de ciberseguridad Zafran Security. trabajo.
Seri dijo que la amenaza a la ciberseguridad era real e inmediata, mientras que el potencial defensivo era real pero tardaría más en materializarse. Dijo que el verdadero desafío será que los defensores de la ciberseguridad trabajen más rápido y a escala.
«La IA detectará vulnerabilidades más rápido. La IA las parcheará más rápido. Pero el cuello de botella nunca ha sido solo el descubrimiento o la remediación. Más bien, es la capacidad de implementar parches en entornos de producción de forma segura, rápida y a escala», afirmó. «Abrazar de forma segura los cambios rápidos en la producción es el cambio más importante que los líderes de tecnología y seguridad deben realizar para afrontar este momento. »
