El año de montaña rusa de Anthropic continúa.
La compañía de inteligencia artificial anunció el viernes por la noche que desmantelaría sus dos principales modelos de idiomas más nuevos apenas tres días después de su lanzamiento, citando nuevos controles de exportación impuestos recientemente por el gobierno de Estados Unidos que impiden que los extranjeros utilicen los modelos.
El año de montaña rusa de Anthropic continúa.
La compañía de inteligencia artificial anunció el viernes por la noche que desmantelaría sus dos principales modelos de idiomas más nuevos apenas tres días después de su lanzamiento, citando nuevos controles de exportación impuestos recientemente por el gobierno de Estados Unidos que impiden que los extranjeros utilicen los modelos.
La repentina decisión de controlar las exportaciones ha exacerbado las tensiones actuales entre las empresas de Silicon Valley y la administración Trump por cuestiones de seguridad nacional relacionadas con el uso de modelos de IA antrópica, y desató el segundo enfrentamiento importante entre ellas en menos de un año.
Según se informa, los ejecutivos de Anthropic mantuvieron conversaciones con funcionarios del gobierno en Washington el lunes para tratar de encontrar una solución, pero no se llegó a ningún acuerdo. Ninguna de las partes respondió a las solicitudes de comentarios sobre lo discutido.
Esto es lo que necesita saber.
¿Qué ha pasado?
Anthropic recibió una directiva de control de exportaciones del gobierno de EE. UU. a las 5:21 pm EDT del viernes citando a «autoridades de seguridad nacional» para prohibir a los ciudadanos extranjeros (incluidos los empleados de Anthropic no estadounidenses) el uso de los modelos Claude Fable 5 y Claude Mythos 5 de la compañía, dijo la compañía en un comunicado. Añadió que la directiva “no proporcionó detalles específicos sobre sus preocupaciones de seguridad nacional”.
Anthropic dijo que el gobierno ha expresado verbalmente su preocupación por las vulnerabilidades en el modelo que podrían permitir a los usuarios hacer jailbreak o eludir sus restricciones de seguridad. Sin embargo, la empresa afirma que la vulnerabilidad «surgió[ed] relativamente simple” y también puede ser descubierto por otros modelos disponibles públicamente, como ChatGPT de OpenAI.
La Casa Blanca no respondió de inmediato a esto. Política exteriorsolicitud de comentarios sobre sus preocupaciones específicas, que supuestamente fueron informadas al gobierno por Amazon. Amazon planteó sus preocupaciones a Anthropic antes de revelarlas al gobierno de EE. UU., según una persona familiarizada con el asunto.
El gigante tecnológico es un importante inversor y socio de Anthropic, así como un importante proveedor de servicios de computación en la nube para el gobierno de EE. UU. «Como proveedor líder de nube que atiende a un gran número de clientes del sector público y privado, no es raro que los gobiernos busquen nuestro asesoramiento sobre posibles riesgos de seguridad», dijo un portavoz de Amazon en un comunicado.. «Cuando eso sucede, no compartimos los detalles de estas discusiones».
En lugar de intentar limitar el acceso únicamente a los usuarios estadounidenses, Anthropic optó por cerrar el modelo por completo. «El efecto neto de esta orden es que tenemos que desactivar repentinamente Fable 5 y Mythos 5 para todos nuestros clientes para garantizar el cumplimiento», dijo la compañía, señalando que el acceso a los otros modelos de la compañía permanecerá sin obstáculos.
Espera, ¿por qué te suena familiar “Mythos”?
Anthropic hizo sonar las alarmas en abril cuando presentó una versión anterior de uno de sus nuevos modelos, conocido como Claude Mythos Preview. En ese momento, la compañía advirtió que el modelo era demasiado poderoso para ser hecho público en su totalidad porque demostraba una notable capacidad para detectar debilidades de ciberseguridad en los sistemas informáticos, lo que en teoría facilitaba que los piratas informáticos se infiltraran en ellos. En cambio, Anthropic está dando acceso a Mythos a varias docenas (y contando) de empresas y agencias gubernamentales para que puedan usarlo en entornos cerrados y parchear sus sistemas antes de un lanzamiento más amplio.
El martes pasado se produjo un lanzamiento más amplio, cuando Anthropic anunció el Claude Fable 5, un modelo que, según dice, está basado en los Mitos pero con protecciones y restricciones adicionales en ciertas preguntas que lo hacen «seguro para uso general». También anunció Claude Mythos 5, una versión ligeramente modificada del modelo sin algunas protecciones que sólo puede ser utilizada por «un pequeño grupo de ciberdefensores y proveedores de infraestructura».
Pero este gran lanzamiento no duró mucho, ya que la administración Trump puso fin a ambos modelos apenas tres días después.
Esta no es la primera vez que la administración Trump choca con Anthropic, ¿verdad?
No. En febrero, Anthropic se vio envuelta en una disputa de alto perfil con el Departamento de Defensa de EE. UU. sobre la adopción de los modelos de la compañía por parte del ejército estadounidense. Anthropic exige que el Pentágono se comprometa a prohibir el uso del modelo para armas autónomas o vigilancia doméstica.
El secretario de Defensa de Estados Unidos, Pete Hegseth, respondió dándole a Anthropic un ultimátum: dar a los militares acceso ilimitado a la tecnología de Anthropic o ser designado como “riesgo de la cadena de suministro”, una etiqueta que impediría a Anthropic atender a cualquier cliente que trabaje con el Pentágono.
Luego, Hegseth aprovechó la amenaza y alentó a la empresa a demandar al gobierno de Estados Unidos en respuesta. La demanda aún está en curso, a pesar de que Anthropic y la administración Trump se enfrentaron esta semana.
«Hace tres meses, [the Defense Department] «Eché a @AnthropicAI de nuestro edificio para siempre», escribió Hegseth en una publicación en X el sábado. «Cada día demuestra por qué fue la decisión correcta».
¿Qué significa esto para el resto del mundo?
El enfrentamiento entre Antrópico y Trump ha ejercido más presión sobre las ya difíciles relaciones transatlánticas, con los países europeos compitiendo para encontrar una solución que les permita conservar los modelos de inteligencia artificial más avanzados de Estados Unidos.
Según se informa, diplomáticos europeos mantuvieron conversaciones con el Secretario de Comercio de Estados Unidos, Howard Lutnick, al margen de la cumbre del G-7 en Évian-les-Bains, Francia, esta semana, en un esfuerzo por negociar el acceso de «socios de confianza», a saber Tiempos financieros informó. Gran Bretaña también solicitó una dispensa especial, a pesar de lo que dijo un funcionario de la administración Trump a The New York Times. Correo de Nueva York que excluir a cualquier país de los controles de exportación, incluidos sus aliados, es “completamente irrazonable”.
El primer ministro canadiense, Mark Carney, advirtió que los controles estadounidenses a las exportaciones representan un riesgo para la dependencia global de la tecnología estadounidense. «La situación en la que nos encontramos ahora con Mythos y Fable es algo que podría suceder si confiamos demasiado en un modelo en particular», dijo Carney durante una visita a Irlanda antes de la cumbre del G-7. «Nadie hizo nada malo en esta situación», añadió. «Pero estaríamos cometiendo un error si aceptáramos esto, no aprendiéramos las lecciones, no construyéramos y no diversificáramos».
