El CEO de Anthropic advierte sobre un ‘momento de peligro’ mientras Mythos expone vulnerabilidades |

El director ejecutivo de Anthropic, Dario Amodei, advirtió el martes que la inteligencia artificial ha creado una ventana estrecha para que las empresas tecnológicas, los gobiernos y los bancos de todo el mundo solucionen las decenas de miles de vulnerabilidades de software descubiertas por el último modelo de su empresa.

Este modelo de IA, Mythos, tuvo una vista previa el mes pasado y reveló que había descubierto vulnerabilidades de décadas de antigüedad en software crucial.

Dado que los modelos de inteligencia artificial del adversario geopolítico de China están «tal vez entre seis y 12 meses» por detrás del producto de Anthropic, hay «aproximadamente ese tiempo» para resolver estos problemas, dijo Amodei.

Los comentarios llegaron durante un evento antropogénico en el que Amodei compartió la escena con JPMorgan Chase El director ejecutivo Jamie Dimon presentó un nuevo conjunto de agentes destinados a automatizar el trabajo financiero.

«El peligro es simplemente un enorme aumento en el número de vulnerabilidades, en el número de infracciones, en el daño financiero causado por el ransomware a las escuelas, a los hospitales, sin mencionar a los bancos», dijo Amodei.

Anthropic limitó Mythos a unas pocas empresas asociadas debido a preocupaciones sobre lo que los criminales o las naciones antagónicas podrían hacer con él. Las últimas actualizaciones del modelo de la empresa han tenido repercusiones en los mercados, pero es Myth el que ha causado la mayor preocupación entre las empresas y los responsables políticos.

La escala de posibles ataques cibernéticos ha aumentado con cada generación de Claude, dijo Amodei. Un modelo Anthropic anterior descubrió alrededor de 20 vulnerabilidades en el navegador Firefox. Mythos encontró casi 300, y el número total de todo el software ahora asciende a decenas de miles, dijo.

La mayoría de las vulnerabilidades descubiertas por Mythos no han sido reveladas públicamente porque aún no han sido parcheadas, y «los malos las explotarán» si son identificadas, dijo Amodei.

A pesar de la alarma, Amodei y Dimon también expresaron una nota de optimismo condicional.

«Este es un momento de peligro en el que si respondemos correctamente y creo que hemos comenzado a dar los primeros pasos, podremos tener un mundo mejor del otro lado», dijo Amodei. «Hay un número limitado de errores que encontrar».

Dimon también dijo que si bien los temores a la ciberseguridad están justificados, los riesgos de ciberseguridad creados por la IA son un «período de transición».

En cuanto a la regulación, Amodei dijo que la supervisión de la IA debería parecerse a lo que se hace en la industria automotriz, logrando un equilibrio entre la seguridad del consumidor y la competitividad de la industria.

«No se puede simplemente iniciar una empresa automotriz sin preguntarse: ‘¿Hay frenos para esto?'», dijo. “Necesitamos implementar un proceso que permita a la industria operar rápidamente, que sea justo, pero que ponga barreras a las cosas más serias”.

El evento de la compañía y su asistencia a Dimon, el portavoz más conocido de la industria financiera, parece demostrar el liderazgo de Anthropic sobre OpenAI en el mercado de la IA empresarial a medida que ambas compañías se dirigen hacia posibles OPI.

Anthropic anunció el martes una expansión de su plataforma de servicios financieros, incluidos 10 nuevos agentes de inteligencia artificial para banca de inversión y trabajo administrativo, así como la integración con los diversos programas Office de Microsoft. La compañía también dijo que su último modelo ampliamente disponible, Claude Opus 4.7, encabezó los puntos de referencia para tareas de análisis financiero.