📂 Categoría: AI,Tech,anthropic,ai,donald-trump,white-house,limited-synd,axel-springer-global-network,breaking-news | 📅 Fecha: 1781567872
🔍 En este artículo:
El personal de Anthropic se reunió con altos funcionarios de la administración Trump el lunes para su primera reunión en persona después de que una prohibición de exportación impuesta por el gobierno federal obligó a la startup de inteligencia artificial a retirar su último modelo del mercado el viernes por la noche, dijeron a POLITICO dos funcionarios de la administración, una persona familiarizada con las discusiones y una persona cercana a la compañía, que es, como Business Insider, parte de la Red Global de Periodistas Axel Springer.
Probablemente tomará más de unos pocos días llegar a una resolución que mitigue la acción del gobierno federal del viernes, que prohibió a Anthropic permitir a usuarios no estadounidenses acceder a su nuevo modelo debido a posibles fallas de seguridad, dijo un alto funcionario de la Casa Blanca. Pero el funcionario dejó la puerta abierta a la posibilidad de que se pueda hacer rápidamente.
“Depende de Anthropic”, dijo el funcionario.
La compañía se apresuró a enviar altos ejecutivos con experiencia en investigación y respaldo a Washington después de varias horas de llamadas entre el cofundador de Anthropic, Tom Brown, el secretario de Comercio, Howard Lutnick, y el director nacional de ciberseguridad, Sean Cairncross, durante el fin de semana, dijeron que los funcionarios, a quienes, al igual que otros citados en esta historia, se les concedió el anonimato para describir las discusiones. Durante estas llamadas también estuvo presente Sarah Heck, Gerente de Políticas Públicas de Antropología.
Las reuniones en persona del lunes, organizadas por las oficinas de Commerce y Cairncross, fueron más técnicas y dirigidas por personal, incluido Chris Fall, quien dirige el Centro de Estándares e Innovación de IA de Commerce, dijo la persona familiarizada con las discusiones.
Anthropic hizo una presentación a funcionarios de la administración, explicando las salvaguardias de ciberseguridad de Anthropic con la esperanza de superar las restricciones, dijo el funcionario de la administración.
Los representantes de Anthropic incluyeron a Logan Graham, quien evalúa y prueba modelos en el equipo Frontier Red de la compañía; Dave Orr, director de garantías de la empresa; y Nicholas Carlini, su principal investigador de seguridad, dijo una persona cercana a Anthropic.
Las restricciones a las exportaciones representan la escalada más significativa hasta ahora en los intentos de la administración de regular la industria de la inteligencia artificial, que está creciendo más rápido que la infraestructura gubernamental en torno a esta tecnología revolucionaria. También fue la primera vez que la Casa Blanca obligó a una empresa a eliminar un modelo del acceso público, pero fue solo la última de una serie de disputas entre la administración y Anthropic sobre las restricciones éticas a los riesgos potencialmente catastróficos de la IA.
Anthropic ha defendido sus salvaguardias desde que se impusieron las restricciones el viernes por la noche.
«Todas estas vulnerabilidades parecen relativamente simples, y descubrimos que otros modelos disponibles públicamente también pueden descubrirlas sin requerir una solución alternativa», dijo en una publicación de blog.
El secretario del Tesoro, Scott Bessent, quien desempeñó un papel destacado en las conversaciones con el director ejecutivo de Anthropic, Dario Amodei, antes de que la administración implementara las restricciones a las exportaciones, estuvo menos involucrado este fin de semana y el Tesoro no participó en las reuniones en persona del lunes.
Lutnick fue contactado por el presidente y se involucró más este fin de semana debido a su supervisión de la política de exportación del país, dijo la persona familiarizada con las discusiones. Tanto Lutnick como Bessent viajaron a bordo del Air Force One con el presidente a Francia para las reuniones del G7 que tendrán lugar de lunes a miércoles.
El control de exportaciones, que prohibía a Anthropic permitir a los extranjeros utilizar su último modelo, Fable 5, obligó efectivamente a la compañía a retirar el modelo por completo para cumplir, dijo la compañía el viernes por la noche.
La escalada se produjo después de un desacuerdo entre Anthropic y la administración sobre un problema de seguridad percibido con Fable que Amazon, un inversor clave de Anthropic, planteó en la Casa Blanca a fines de la semana pasada, como informó anteriormente POLITICO.
Amazon dijo que encontró una manera de sortear las barreras de Anthropic en Fable, un modelo largamente esperado diseñado para ser menos poderoso que el modelo altamente avanzado de la compañía, Mythos. Anthropic solo permitió que un grupo selecto de empresas accediera a Mythos debido a su capacidad para explotar vulnerabilidades cibernéticas más rápido que cualquier humano.
Fable operaba a un nivel similar a Mythos, pero tenía protecciones incorporadas para evitar que los usuarios lo engañaran para que llevara a cabo un ciberataque o detallaran cómo crear un arma biológica, dijo la compañía. El descubrimiento de Amazon, dado a conocer a la Casa Blanca y la Agencia de Seguridad Nacional, llevó a Cairncross, Bessent y otros a exigir que Anthropic pusiera fin al acceso a Fable.
Cuando Anthropic no estuvo de acuerdo, argumentando que la falla de seguridad era menor y no un «jailbreak» más grande que permitiría a la gente usarlo para ataques cibernéticos, la administración impuso controles de exportación que, según la compañía, la obligaron.
Durante el fin de semana, un grupo de casi 80 expertos técnicos y directores ejecutivos escribieron una carta abierta a la administración instando a los funcionarios a revocar los controles de exportación. Dijeron que las acciones que los investigadores de Amazon pidieron a Fable que realizara eran «una capacidad necesaria en cualquier modelo destinado a escribir código seguro» y «no deberían considerarse una capacidad ofensiva».
Los abruptos controles de la administración Trump han «quitado los mejores modelos a sus defensores, creado incertidumbre en el mercado y puesto en peligro el liderazgo de Estados Unidos en IA sin ningún riesgo real que lo justifique», escribieron los ejecutivos de tecnología en la carta.
Graham, uno de los empleados de Anthropic que participó en reuniones con la administración, dijo a Fox News en abril que Anthropic buscaba caminar sobre una delgada línea al darles a los defensores acceso a Mythos «sin que los malos actores tuvieran acceso».
«En última instancia, creemos que herramientas como ésta deben extenderse a todo el mundo de manera segura, porque necesitamos que todo el mundo también utilice estas herramientas para defenderse», añadió Graham. La entrevista tuvo lugar antes del lanzamiento de Fable.
Algunos miembros de la comunidad tecnológica han prometido estrictas restricciones a las exportaciones y han dicho que los riesgos que plantea romper las barreras son graves. Pero otros expertos en IA, e incluso funcionarios de la administración, dijeron que los controles crean un panorama regulatorio amenazador que obstaculizará a la industria.
«La IA ahora está permitida, pero los requisitos cambian constantemente y siempre permanecen en secreto, incluso para la propia administración, que descubrirá espontáneamente las reglas en tiempo real a medida que reacciona a los eventos», escribió en X Dean Ball, un ex funcionario de la administración Trump que trabajó en la política de IA.
Un funcionario de la administración actual advirtió que cuanto más persista la disputa sobre exportaciones, mayor será el riesgo de que se convierta en un régimen de licencias de facto al que se enfrentan las empresas de IA cuando lanzan nuevos modelos, lo que ralentiza su innovación y competencia con China.
Si los controles de exportación equivalen a más que una breve «palmada en la muñeca» que rápidamente se desvanece, «será un gran problema para toda la industria», dijo el funcionario de la administración.
«Esto significa que cada modelo futuro tiene que pedir permiso al gobierno para saber si puede ser lanzado. Esta es una situación extremadamente mala», dijo el funcionario.
Megan Messerly contribuyó a este informe.
Esta historia originalmente aparecermid en POLÍTICA y es cortesía de la red Axel Springer Global Reporters, que aprovecha los recursos de la sala de redacción de la compañía para publicar primicias, investigaciones, entrevistas, artículos de opinión y análisis ambiciosos. Permite a los periodistas (incluidos los de POLITICO, Business Insider, WELT, BILD, Onet y Fakt) colaborar en historias importantes para una audiencia internacional de cientos de millones en todas las plataformas.
