Las personas inteligentes opinan sobre la propuesta de pausa de la IA de Anthropic | AI,Tech,smart-people-say,ai,anthropic

Anthropic quiere que los principales laboratorios de IA del mundo se reúnan para considerar una posible pausa en el desarrollo global de la IA.

«Creemos que sería bueno para el mundo tener la elección «El desarrollo de IA de vanguardia debe ralentizarse o pausarse temporalmente para permitir que las estructuras sociales y la búsqueda de alineación sigan el ritmo de los avances tecnológicos», escribieron dos altos funcionarios de Anthropic en una publicación de blog.

El jueves, Marina Favaro, que dirige el instituto de investigación de Anthropic, y Jack Clark, cofundador de Anthropic, sugirieron que los laboratorios de IA desarrollen una asociación similar a la utilizada por los países para monitorear la proliferación de armas nucleares, al tiempo que enfatizaron que el mundo no tiene «décadas» para esperar a que se materialice tal acuerdo.

Su propuesta ha tenido un comienzo poco prometedor, y algunos expertos en tecnología la califican de esfuerzo egoísta por parte de una importante empresa de inteligencia artificial que ha comenzado el proceso de salir a bolsa.

Un portavoz de Anthropic dijo a Business Insider que la empresa no pide una pausa. En cambio, Anthropic quiere que sus principales competidores tengan sistemas que les den un respiro. Dado el ritmo del desarrollo, la empresa quiere estudiar el tema ahora, antes de que se consideren necesarias tales limitaciones.

Esto es lo que dicen figuras destacadas de la IA, la tecnología y las políticas sobre la idea de una pausa en el desarrollo global de la IA:

Mitt Romney, exsenador de los Estados Unidos y candidato presidencial republicano en 2012

El exsenador Mitt Romney dijo que Estados Unidos debería centrarse en desarrollar «salvaguardias contra la IA».

«Nuestra prioridad nacional más alta y más urgente debería ser protegernos contra la IA», dijo Romney. escribió en X, citando la cobertura mediática de la declaración de Anthropic.

El candidato presidencial republicano de 2012 dijo: “No se deben seguir ignorando en gran medida los riesgos de las armas de inteligencia artificial, los patógenos, el desempleo masivo, la vigilancia e incluso la extinción. »

David Sacks, ex zar de las criptomonedas y la IA de la Casa Blanca

David Sacks, ex asesor principal de la Casa Blanca, criticó duramente la sugerencia de Anthropic.

“Señales de que puedes estar intentando nacionalizar tu laboratorio de inteligencia artificial: lo comparas con las armas nucleares… amenazan a la mitad de todos los empleos administrativos… advierten que la superación personal recursiva podría acabar con la humanidad… así que hazlo de todos modos”, Sacks escribió en X.

El ex zar de la IA y las criptomonedas de Trump, que una vez acusó públicamente a Anthropic de ejecutar un esquema de captura regulatoria, no nombró directamente a la compañía de IA en su publicación. Según sus declaraciones pasadas y los detalles de lo que escribió, el tema de su enojo quedó muy claro.

“En otras palabras, quieres que el gobierno nos salve de… ti”, escribió.

Andrew B. Hall, profesor de economía política en Stanford

Andrew B. Hall, asesor de Forum AI y anteriormente asesor de Meta Platforms, dijo que el director ejecutivo de Google DeepMind, Demis Hassabis, dijo anteriormente que apoyaría una pausa global, siempre que todos los desarrolladores pioneros cumplan.

«Habría parecido completamente inverosímil incluso recientemente, pero entre lo que vimos ayer con la propuesta de EO, Glasswing y OpenAI para una revisión mejorada del modelo, ya no parece tan descabellado», dijo Hall. escribió en X.

Hall dijo que era «escéptico» sobre cómo funcionaría una pausa, particularmente cuando se trata de empresas con sede en China o modelos de código abierto.

«Al menos podría ser posible aceptar una liberación lenta de los modelos para el consumidor, independientemente del desarrollo, algo que Hassabis parece apoyar basándose en mi lectura de la máquina Infinity y su preferencia por la investigación pura», escribió.

Tae Kim, autor de “The Nvidia Way: Jensen Huang and the Making of a Tech Giant”

El periodista tecnológico Tae Kim dijo que Anthropic estaba alimentando un alarmismo innecesario.

«Estándares aterradores de FUD antropogénico + empleos calientes/aumentos de tasas sobre la mesa + mala interpretación de la memoria del Semianálisis = indulto del comercio de crecimiento», escribió Kim en X.

Kim, autor de «The Nvidia Way: Jensen Huang and the Making of a Tech Giant», tuvo un duro mensaje para la empresa de inteligencia artificial.

«Oye Antrópico, deja de hacer eso».

Kylan Gibbs, director ejecutivo de Inworld

Kylan Gibbs, director ejecutivo de Inword AI, dijo que Anthropic está sentando las bases para dar forma a la regulación de la IA a su favor.

Gibbs, que trabajó anteriormente en Google DeepMind, dijo que si eres tú quien les dice a los gobiernos que la IA es peligrosa, cuando llega el momento de regular, los funcionarios acuden a ti primero porque confían en ti. Esto le da a Anthropic la oportunidad de adaptar las regulaciones como desee, como limitar a los competidores de código abierto y controlar las exportaciones de GPU a China.

«Esto también se relaciona con tendencias anteriores que hemos visto de grandes empresas tradicionales presionando por regulaciones que saben que sólo ellos pueden hacer cumplir, lo que en última instancia afecta a las empresas más pequeñas que no tienen los recursos legales para navegarlas de manera efectiva», agregó.

Gary Marcus, investigador de IA y profesor emérito de la Universidad de Nueva York

El comentarista de AI Gary Marcus dijo que la gente debería leer la propuesta de Anthropic «cuidadosamente».

«Quieren ambas cosas. no lo hagas Realmente quiero un descanso, al menos por ahora. Al contrario, quieren apresurarse, refiriéndose a los ‘actores menos cautelosos’ para justificarse», escribió Marcus en

Marcus calificó la sugerencia de Anthropic como «retórica increíble y gratuita, perfectamente sincronizada para la IPO». Dijo que la empresa de IA nunca querría tomarse un descanso.

«En cambio, quieren que la gente hable sobre una ‘opción’ que en realidad no tienen la intención de tomar y que es poco probable que alguna vez tomen», escribió Marcus. «(Es más probable que todavía insinúen a China y sigan corriendo)».

Luis Garicano, profesor de la London School of Economics y exdiputado del Parlamento Europeo

Luis Garicano, profesor de políticas públicas en la Escuela de Economía de Londres, dijo que Anthropic estaba tratando de bloquear a los competidores del modelo abierto.

«La principal amenaza para la rentabilidad de los modelos de frontera son los pesos abiertos. Si asustan a todos, la decisión natural sería prohibirlos y permitir sólo ‘desarrolladores de confianza'», escribió Garicano en X. «Perdón por ser cínico».

Francesco Bianchi, profesor de economía y director de departamento de la Universidad Johns Hopkins

Francesco Bianchi, profesor de economía en la Universidad Johns Hopkins, dijo que la propuesta de Anthropic parece egoísta.

«El riesgo aquí puede ser real, pero es muy conveniente para un líder del mercado pedir un congelamiento del status quo», dijo Bianchi. escribió en X.

Jen Zhu Scott, cofundadora y directora ejecutiva de Power Dynamics

Jen Zhu Scott, socia fundadora de IN. Capital, que se centra en la inteligencia artificial y la tecnología profunda, dijo que Anthropic necesitaba un descanso.

«Anthropic se está quedando sin recursos y potencia informática», escribió Scott en X.

Alistair Barr contribuyó a este informe.