Las advertencias de Dario Amodei sobre sus propios productos vuelven en su contra | AI,Tech,anthropic,dario-amodei,mythos,fable,ai,china

El director ejecutivo de Anthropic, Dario Amodei, advirtió que sus propios productos representaban una amenaza.

En un ensayo publicado este mes, Amodei advirtió que el poder de la IA «se ha vuelto innegable». Como ejemplo, citó el último modelo de Anthropic, Mythos, que según él plantea «riesgos muy reales» para la ciberseguridad, el sector financiero, la infraestructura crítica y la seguridad nacional.

Luego pidió una intervención gubernamental más sólida para abordar los riesgos.

El viernes, sus advertencias parecieron resultar contraproducentes cuando el gobierno de Estados Unidos intervino repentinamente.

Anthropic cortó el acceso a sus Mythos 5 y Fable 5 después de decir que la administración Trump le ordenó bloquear el acceso extranjero a los modelos. El director de información del Pentágono expresó su apoyo a la medida en un artículo »

Este sorprendente acontecimiento ha sumido a la industria tecnológica en un vértigo.

Gary Marcus, investigador de IA y destacado escéptico, calificó la decisión de la administración Trump como «extremadamente dramática y también contraproducente».

Yann LeCunn, considerado uno de los padrinos de la IA, culpó a Amodei: “El ridículo alarmismo de Dario Amodei sobre el Mito/Fábula (y la IA en general) finalmente está dando sus frutos”, escribió en X. “Lo que siembras es lo que cosechas. »

Amodei ha buscado durante mucho tiempo posicionarse como el adulto de la industria de la IA en la sala. Una vez investigador de pleno derecho en OpenAI, dejó la empresa para crear Anthropic, temiendo que el director ejecutivo de OpenAI, Sam Altman, estuviera priorizando el lanzamiento de productos en lugar de garantizar su seguridad.

Desde entonces, ha publicado una serie de declaraciones diciendo que las cosas que construye y lanza al público, junto con OpenAI, Google, Meta, Amazon y otros, podrían cambiar la vida tal como la conocemos, para bien o para mal.

Amodei advirtió una vez que la IA eliminaría la mitad de los empleos administrativos de nivel inicial y llevaría el desempleo a niveles no vistos desde la pandemia de COVID-19 y, antes de eso, la Gran Recesión de 2008.

Aunque Amodei ha suavizado su tono sobre el empleo en las últimas semanas mientras su empresa se prepara para salir a bolsa, él y su empresa no han rehuido abordar otras cuestiones de seguridad.

«Los riesgos cibernéticos que presentan los modelos de clase Mythos no serán los últimos a los que nos enfrentemos», escribió en su ensayo de junio. «Creo que pronto surgirán riesgos biológicos, y es posible que los riesgos graves para la autonomía de la IA no se queden atrás».

Escribió que las preocupaciones de los legisladores no estaban en sintonía con los rápidos avances en IA.

A principios de este mes, su compañía pidió un cese temporal del desarrollo de modelos de IA de vanguardia en una publicación advirtiendo que los últimos modelos están a punto de mejorar, lo que, según dijo, «podría aumentar los riesgos de que los humanos pierdan el control de los sistemas de IA».

«Creemos que sería bueno para el mundo tener la elección «El desarrollo de la IA avanzada debe ralentizarse o pausarse temporalmente para permitir que las estructuras sociales y la búsqueda de alineación sigan el ritmo de los avances tecnológicos», escribió Anthropic.

Ese parón llegó el viernes, al menos para Anthropic.