📂 Categoría: AI,sam-altman,openai,agentic-ai | 📅 Fecha: 1780980359
🔍 En este artículo:
Según OpenAI, un mundo donde todo esté automatizado sería peligroso.
En una publicación de blog publicada el lunes, el director ejecutivo Sam Altman y el científico jefe de OpenAI, Jakub Pachocki, dijeron que tenían «los ojos claros sobre los riesgos» de la IA, a pesar de los beneficios de productividad que aporta.
«Automatizar todo por completo no es el futuro que queremos», escribió el dúo en la publicación. «Sería insatisfactorio y peligroso».
Sostienen que los sistemas de IA deben seguir siendo seguros y sujetos al control humano. Y a medida que los sistemas de IA se vuelvan más capaces, las funciones humanas de “establecer la dirección, hacer concesiones, aplicar el criterio y aportar valores, gusto, cuidado y responsabilidad al trabajo” se volverán más importantes.
La IA agente (sistemas de IA que ejecutan tareas y flujos de trabajo con una mínima intervención humana) es actualmente la palabra de moda en la tecnología y los negocios.
Anthropic y OpenAI están compitiendo para enganchar a las empresas a las cuentas empresariales para sus plataformas de codificación Claude Code y Codex, antes de las inminentes OPI de ambas empresas.
La publicación de OpenAI llega menos de una semana después de que Anthropic publicara una publicación de blog similar advirtiendo sobre los riesgos del rápido desarrollo de la IA. Un empleado de Anthropic dijo en la publicación que no podían seguir el ritmo de la automatización y no sabían cómo solucionar problemas cuando los sistemas de IA producían errores.
En la publicación del blog, Anthropic pide una desaceleración en el desarrollo de la IA para «permitir que las estructuras sociales y la investigación de alineación sigan el ritmo».
Otros ejecutivos de la compañía han hablado sobre roles humanos que la IA no puede automatizar o reemplazar, como el CEO de Duolingo, Luis von Ahn, quien dijo que sus mejores diseñadores producen un trabajo mucho mejor que la IA, y el CEO de Salesforce, Marc Benioff, quien dijo que la compañía no desacelerará la contratación en su departamento de ventas.
«Para algunas cosas, la IA está completamente preparada para hacer un trabajo de alta calidad. Para otras cosas, ese no es el caso», dijo von Ahn en una entrevista en un podcast en mayo. «No vamos a reducir la calidad sólo para utilizar la IA».
