📂 Categoría: AI,anthropic | 📅 Fecha: 1780642612
🔍 En este artículo:
Un empleado de Anthropic dice que los avances en IA los están dejando en un estado de agitación interna.
En una publicación de blog publicada en su sitio web el jueves, Anthropic escribió sobre los riesgos de que la IA avance hasta un punto en el que pueda mejorar de forma autónoma. La publicación citaba a empleados anónimos de Anthropic hablando sobre las capacidades de codificación de la IA, y la cita de un empleado resumía la confusión en torno a la IA entre el personal.
“En una época en la que todo funciona bien, no puedo evitar pensar que nada de lo que hago importa, que todo está automatizado y es mejor y más rápido de lo que yo jamás seré”, afirman.
“Pero hay días que todo se rompe y no entiendo por qué y me doy cuenta de que ya no tengo idea de lo que hice”, añadió el empleado.
Otros testimonios de empleados incluyeron a un trabajador que dijo que no había escrito ningún código en aproximadamente cinco meses, y otro que predijo que el código generado por IA superaría al código escrito por humanos dentro de un año.
La publicación del blog afirma que Claude, el LLM de vanguardia de Anthropic, podría manejar problemas de ingeniería y tareas de investigación, pero «persisten importantes brechas de desempeño cuando se trata de que Claude ejerza su criterio al elegir objetivos de ingeniería e investigación».
Esto se produce cuando la IA, en el espacio de unos meses, ha cambiado su papel, al igual que el de la ingeniería de software, hasta el punto de volverse irreconocible. Los laboratorios de Frontier AI como Anthropic y OpenAI lanzaron nuevos modelos a fines del año pasado que podían realizar tareas complejas mucho mejor que sus versiones anteriores.
El efecto de esto en el lugar de trabajo ha sido monumental. Los directores ejecutivos de las empresas han tomado medidas para aumentar la proporción de su código total escrito por IA, y Google dice que la cifra es del 75%. Y las empresas eligen cada vez más gastar en IA en lugar de contratar o bonificar a los empleados. Varios ya han anunciado despidos relacionados con la IA.
La publicación del blog del jueves fue escrita por personal del Anthropic Institute, una rama de la compañía que publica investigaciones y opiniones sobre el impacto y los riesgos de los potentes sistemas de inteligencia artificial. En la publicación, que hablaba sobre el desarrollo de la IA hasta un punto en el que pudiera mejorar, el instituto pidió una desaceleración en el desarrollo de la IA.
«Si los sistemas son capaces de construir plenamente sus propios sucesores, la forma en que los protegemos, los monitoreamos y moldeamos su comportamiento se vuelve mucho más importante», dijo el instituto en el blog.
Pide una “desaceleración o pausa significativa” coordinada de los laboratorios de IA que desarrollan modelos pioneros, que “permitirían que las estructuras sociales y la investigación de alineación se mantengan al día” con el progreso de la IA.
