La Casa Blanca trabaja con Anthropic en las reglas de seguridad del modelo de IA | AI,Tech,Politics,ai,artificial-intelligence,trump,white-house,limited-synd,axel-springer-global-network

La Casa Blanca y Anthropic están trabajando en un marco que evaluaría la gravedad de las fallas de seguridad en los nuevos modelos de IA y guiaría una posible intervención gubernamental, según un alto funcionario de la Casa Blanca y un funcionario de la administración familiarizado con el asunto, que hablaron bajo condición de anonimato para discutirlo con POLITICO.

El esfuerzo se produjo después de que la Casa Blanca impusiera controles de exportación a Anthropic, lo que obligó a la compañía a suspender el acceso de todos los usuarios a Fable 5 y Mythos 5, sus últimos y poderosos modelos de inteligencia artificial, debido a una falla de seguridad percibida, conocida en la industria como jailbreak.

Los funcionarios de la administración y el director ejecutivo de Anthropic, Dario Amodei, no estuvieron de acuerdo sobre la gravedad de la fuga, informó anteriormente POLITICO, pero la tecnología ha superado a la infraestructura gubernamental en la definición y evaluación de tales disputas. POLITICO, al igual que Business Insider, forma parte de la red global de periodistas de Axel Springer.

El intento de crear un método estandarizado para evaluar este y futuros incidentes similares subraya la prisa del gobierno por establecer barreras protectoras para modelos nuevos y poderosos que, según temen algunos, podrían, si no se controlan, amenazar la seguridad económica y nacional.

Las negociaciones entre Anthropic y la administración también reflejan el entendimiento de que ningún modelo de IA puede estar completamente a salvo de la piratería -parte de la defensa inicial de Anthropic de su modelo- y que el gobierno debería establecer las reglas para que las empresas midan los riesgos de seguridad, un sentimiento del que se hicieron eco otras importantes empresas de IA y líderes de países en las reuniones del G7 a principios de esta semana en Francia.

Las conversaciones entre la Casa Blanca y Anthropic –dirigidas por parte de la empresa por Sarah Heck, jefa de políticas públicas, y Tom Brown, cofundador– tienen como objetivo desarrollar un conjunto común de criterios que podrían usarse para evaluar futuras fugas, incluido el grado en que se han eludido las salvaguardias, las capacidades expuestas y las consecuencias prácticas de la violación.

Anthropic y la Casa Blanca no respondieron de inmediato a una solicitud de comentarios.

Aunque los controles de exportación de Anthropic aún no se han levantado, el avance hacia un ejercicio de establecimiento de estándares técnicos es una señal de que las negociaciones están progresando. El viernes, las conversaciones fracasaron efectivamente después de que Anthropic rechazara las solicitudes para eliminar Fable, argumentando que la vulnerabilidad era limitada y no constituía una violación de seguridad significativa.

La Casa Blanca respondió imponiendo controles de exportación que impedían a los usuarios extranjeros acceder al modelo, lo que obligó a la empresa a retirarlo del mercado.

Sin embargo, durante el fin de semana, altos funcionarios de la administración y ejecutivos de Anthropic mantuvieron una serie de largas llamadas con el cofundador de Anthropic, Tom Brown, el secretario de Comercio, Howard Lutnick, y el director cibernético nacional, Sean Cairncross. Esas conversaciones llevaron a casi una semana de reuniones en persona en Washington. Anthropic envió el lunes investigadores de alto nivel y expertos en salvaguardias al Departamento de Comercio para arreglar las cosas con los funcionarios de la administración.

Esta historia originalmente apareció en POLÍTICA y es cortesía de la red Axel Springer Global Reporters, que aprovecha los recursos de la sala de redacción de la compañía para publicar primicias, investigaciones, entrevistas, artículos de opinión y análisis ambiciosos. Permite a los periodistas (incluidos los de POLITICO, Business Insider, WELT, BILD, Onet y Fakt) colaborar en historias importantes para una audiencia internacional de cientos de millones en todas las plataformas.