📂 Categoría: Tech,AI,google,exclusive,alphabet,ai,limited-synd,pentagon | 📅 Fecha: 1773963233
🔍 En este artículo:
Google ha dicho a sus empleados que cree que su trabajo con el Departamento de Defensa está alineado con los principios de IA de la compañía y que se está «esforzando más» para garantizar el trabajo de seguridad nacional con los gobiernos, según ha sabido Business Insider.
En una reunión pública de Google DeepMind en enero, los ejecutivos, incluido el director ejecutivo Demis Hassabis, respondieron a una pregunta del personal que preguntaba cómo Google garantizaba que sus asociaciones con el Departamento de Defensa y Boston Dynamics no violaran las políticas de inteligencia artificial de la compañía.
Tom Lue, vicepresidente de asuntos globales de Google DeepMind, dijo que la compañía contaba con un «proceso sólido» para revisar los detalles de los casos de uso planificados y si los socios tenían protecciones de seguridad, responsabilidad y privacidad, según una grabación de la reunión revisada por Business Insider.
Lue recordó al personal que la empresa había actualizado sus principios de IA en 2025. El cambio revirtió un compromiso anterior de no utilizar la tecnología de Google para desarrollar armas o con fines de vigilancia.
«La conclusión del análisis es si los beneficios superan con creces los riesgos», dijo Lue.
El papel de la industria tecnológica en la guerra y la vigilancia se ha convertido en un tema candente en las últimas semanas, luego de una disputa entre Anthropic y el Departamento de Defensa. Anthropic ha trazado líneas rojas sobre cómo su IA podría usarse en la guerra y la vigilancia, lo que llevó al Pentágono a designar la startup como un «riesgo para la cadena de suministro». Posteriormente, Anthropic presentó una demanda contra el Departamento de Defensa por estar efectivamente incluido en la lista negra.
Al mismo tiempo, empresas de tecnología como Google y Amazon –algunas de las cuales alguna vez se negaron rotundamente a involucrarse en asuntos de guerra– compiten cada vez más por lucrativos contratos de defensa.
En la reunión pública de enero, que predijo un conflicto entre Anthropic y el Departamento de Defensa, Lue dijo que los empleados deberían esperar más de este tipo de acuerdos.
«También quiero mencionar que esta es un área que vamos a investigar más a fondo. Estamos hablando con los gobiernos sobre sus preocupaciones de seguridad nacional», dijo Lue a los empleados.
Dijo que la empresa estaba discutiendo los riesgos de ciberseguridad y bioseguridad.
Un portavoz de Google DeepMind, contactado para hacer comentarios, dijo a Business Insider que una publicación de blog publicado la semana pasada describiendo los detalles del contrato más reciente de Google con el Pentágono. Explica que la herramienta se utiliza para tareas como redacción de documentos y planificación de proyectos.
Google reconstruye su relación con el Pentágono
Hassabis, a quien alguna vez le preocupaba que Google pudiera usar la tecnología de DeepMind con fines militares, dijo al personal en el mismo ayuntamiento que estaba «muy cómodo» con el equilibrio que buscaba Google.
«Obviamente es un mundo muy complicado, como todos podemos ver, pero creo que nos corresponde trabajar con gobiernos elegidos democráticamente y brindar las capacidades únicas en las que somos de clase mundial para ayudar al mundo a ser más seguro y ser beneficioso para el mundo», dijo.
Google volvió a comprometerse con el Pentágono el año pasado, consiguiendo contratos para sus productos de inteligencia artificial y nube después de retirarse de un acuerdo militar en 2018 en medio de una revuelta de los empleados. Este mes ganó un contrato para desplegar agentes de inteligencia artificial en las redes no clasificadas del departamento.
Los ejecutivos de la compañía dijeron que estos acuerdos implican el uso de IA para trabajo principalmente administrativo y no desempeñan ningún papel en la identificación, seguimiento y ataque de objetivos. Durante la reunión, Lue dijo que el contrato del Pentágono implicaba tareas como síntesis de información, extracción de textos del contrato y otras «operaciones de tipo back-office».
Los empleados han expresado su preocupación de que Google pueda no tener control total sobre cómo sus socios utilizan en última instancia la tecnología, como las herramientas de inteligencia artificial que proporciona al gobierno israelí. El mes pasado, los empleados de Google y OpenAI firmaron una carta abierta pidiendo a sus empresas que no permitieran que su tecnología se utilizara para asesinatos autónomos o vigilancia masiva.
Una denuncia de un denunciante presentada ante la SEC alegaba que Google violó sus propias políticas en 2024 al ayudar a un contratista israelí de drones a analizar imágenes. El Correo de Washington reportado previamente. Un portavoz de Google dijo al Post que el uso de sus servicios de IA en este caso era demasiado limitado para ser «significativo».
No son sólo los contratos gubernamentales los que preocupan a algunos empleados de Google. Google DeepMind anunció en enero que estaba trabajando con Boston Dynamics para integrar Gemini en uno de sus robots.
«Boston Dynamics ha sido muy claro en que estas tecnologías no pueden usarse con fines armamentísticos. Contamos con un proceso muy sólido», dijo Lue durante la reunión pública.
¿Tienes algo que compartir? Póngase en contacto con este periodista por correo electrónico a hlangley@businessinsider.com o señal al 628-228-1836. Usar una dirección de correo electrónico personal y un dispositivo que no sea de trabajo; aquí está nuestra guía para compartir información de forma segura.
