La nueva orden de seguridad de IA de Trump exige una revisión voluntaria de los nuevos modelos: NPR

El presidente Trump firmó el martes una orden ejecutiva muy esperada destinada a reducir la amenaza a la seguridad que representa la inteligencia artificial, en un cambio del enfoque de no intervención del gobierno hacia la tecnología.

La orden pide a las empresas de inteligencia artificial que presenten voluntariamente sus modelos más sólidos al gobierno para que los pruebe durante un máximo de 30 días antes de lanzarlos al público.

También ordena a las agencias federales que desarrollen puntos de referencia para evaluar las capacidades cibernéticas de los modelos de IA, crear un «centro de información sobre ciberseguridad de IA» para revisar y compartir información sobre vulnerabilidades y fortalecer las defensas de seguridad del gobierno.

«Las capacidades avanzadas de IA fortalecen a nuestra nación, pero también introducen nuevas consideraciones de seguridad nacional que requieren una acción coordinada entre departamentos y agencias ejecutivas», dice la nueva orden ejecutiva. «A medida que se desarrollen estas capacidades, mi administración continuará trabajando estrechamente con la industria para garantizar que las mejores y más seguras tecnologías se implementen rápidamente para enfrentar todas y cada una de las amenazas a nuestro país».

Se esperaba que la orden ejecutiva llegara el mes pasado, pero la Casa Blanca canceló los planes para firmarla por temor a que perjudicara la innovación en IA. Trump dijo en ese momento que le preocupaba que la orden obstaculizara el liderazgo de las empresas estadounidenses en la competencia global en medio de la presión competitiva de China.

Las versiones anteriores daban al gobierno hasta 90 días para revisar los modelos avanzados antes de su lanzamiento, un período que se redujo a 30 días en el pedido final.

La administración Trump está dividida sobre cómo abordar la IA. Mientras la Casa Blanca de Biden presionaba para que se supervisara federalmente las tecnologías emergentes, Trump buscaba minimizar las regulaciones, incluso a nivel estatal, incluso cuando crecían las preocupaciones sobre los riesgos de seguridad.

Pero recientemente, el desarrollo de modelos de IA más sofisticados ha puesto nerviosos a algunos funcionarios federales, lo que ha llevado a la Casa Blanca a cambiar de rumbo y respaldar algunas medidas de seguridad.

En particular, el anuncio de Anthropic en abril de que estaba limitando el lanzamiento de nuevos modelos Mythos Preview debido a su capacidad para identificar y explotar vulnerabilidades de seguridad del software encendió las alarmas en Silicon Valley y Washington.

En particular, la orden se basa en la cooperación voluntaria de empresas de tecnología que lideran el desarrollo de la IA, como OpenAI, Anthropic y Google.

Refiriéndose al marco de pruebas voluntarias, la orden establece que «ninguna disposición de esta sección se interpretará en el sentido de autorizar la creación de requisitos obligatorios de licencia, autorización previa o autorización gubernamental para el desarrollo, publicación, lanzamiento o distribución de nuevos modelos de IA».

Cualquier regulación en torno a la tecnología debe provenir del Congreso.