Esto es lo que dicen los empleados de OpenAI sobre el contrato del Pentágono | AI,openai

Boaz Barak, miembro del equipo técnico de OpenAI que trabaja en la alineación y también profesor de informática en Harvard, se opuso a la idea de que OpenAI hubiera debilitado las salvaguardas.

En un artículo sobre

“Es un error presentar el contrato de OAI como si fuera el mismo acuerdo que Anthropic rechazó, o incluso como si protegiera menos las líneas rojas que el acuerdo que Anthropic ya había celebrado antes”, escribió.

«Obviamente, no conozco todos los detalles de lo que Anthropic tenía antes, pero por lo que sé, es muy probable que el contrato firmado por OAI le dé más garantías de no uso de modelos de vigilancia doméstica masiva o armas letales autónomas que Anthropic nunca tuvo”, añadió.

En otra publicación del lunes, Barak dijo: «La línea roja de no utilizar la IA para llevar a cabo una vigilancia masiva a nivel nacional no es la línea roja de Anthropic; debería ser la de todos nosotros». »

Miles Brundage, exjefe de investigación de políticas de OpenAI, dijo en un artículo sobre

«Para ser claros, la OAI es una organización compleja, y creo que muchas de las personas involucradas en este asunto han trabajado duro para lograr lo que consideran un resultado justo. Hay otros en quienes no confío en absoluto, particularmente cuando se trata de tratos con el gobierno y la política», añadió.

Luego aclaró en una respuesta a su publicación del domingo que «probablemente no debería haber dicho ‘ceder’ en el primer tweet».

«OpenAI bien podría haber obtenido lo que quería y, al mismo tiempo, podría haber debilitado la posición negociadora de Anthropic porque Anthropic estaba preocupado por un detalle que no era parte de la OAI y estaba cediendo en su punto de vista», dijo.

Clive Chan, miembro del personal técnico de OpenAI, dijo en un artículo en X el domingo que creía que el contrato de la compañía incluía salvaguardias contra el uso de sus modelos para vigilancia doméstica masiva o para armas letales autónomas. Añadió que estaba «haciendo campaña internamente para publicar más información» sobre el acuerdo.

“Si luego nos enteramos de que no es así, abogaré internamente para rescindir el contrato”, añadió.

En respuesta a su publicación, Chan reconoció que probablemente existen límites a lo que se puede revelar públicamente sobre los contratos de defensa. Sin embargo, cree que la empresa debería haberse anticipado a las preocupaciones del público y preparado con antelación respuestas más claras.

Tras la publicación de la publicación del blog de OpenAI, Chan dijo el domingo en X que la publicación «cubre la mayoría» de sus preocupaciones. «Gracias al equipo por ser muy considerado con el enfoque adoptado», añadió.

Mohammad Bavarian, científico investigador de OpenAI, dijo en un artículo el lunes que no cree que exista una «brecha insalvable entre lo que Anthropic quiere y las demandas de DoW», y agregó que «con la cabeza más fría, debería ser posible cerrar la brecha».

La designación por parte del Pentágono de los productos antropogénicos como un riesgo para la cadena de suministro es «injusta, imprudente y una reacción tremendamente exagerada», escribió Bavarian el lunes.

“Diseñar una organización que ha contribuido tanto al avance de la IA y con tanta integridad no sirve bien al país ni a la humanidad”, añadió.

Noam Brown, investigador de OpenAI, dijo en un artículo el martes que el lenguaje original del acuerdo de la compañía con el Departamento de Guerra dejaba «cuestiones legítimas sin respuesta», particularmente con respecto a las nuevas formas en que la IA podría potencialmente permitir la vigilancia legal.

Después de que OpenAI actualizara su blog el lunes por la noche, Brown dijo que «el lenguaje ahora está actualizado para abordar este problema», pero cree firmemente que «el mundo no debería tener que depender de la confianza en los laboratorios de IA o las agencias de inteligencia para su seguridad».

Brown añadió que el despliegue en la NSA y otras agencias de inteligencia del Departamento de Guerra se suspendería para dar tiempo a abordar posibles lagunas «a través del proceso democrático previo al despliegue».

«Sé que la legislación puede ser lenta a veces, pero temo una pendiente resbaladiza en la que nos acostumbremos a eludir el proceso democrático para tomar decisiones políticas importantes», escribió.