📂 Categoría: Tech,AI,tokenmaxxing,ai,silicon-valley,uber,ai-bubble,ai-adoption,fake-work,work-trends,limited-synd,changing-workplace-big-bet,ai-spending,costs | 📅 Fecha: 1779938671
🔍 En este artículo:
La reacción de Silicon Valley contra el tokenmaxxing ha comenzado oficialmente.
El director de operaciones de Uber, Andrew Macdonald, dijo en una entrevista publicada la semana pasada que no ha observado una mejora directa en la productividad debido al mayor uso de tokens de IA.
«Esa conexión aún no existe, ¿verdad?» Macdonald dijo en comentarios que se volvieron virales y acumularon más de 2 millones de visitas en
Los tokens de IA son los elementos básicos procesados por los chatbots de IA y representan aproximadamente ¾ de palabra cada uno. “Tokenmaxxing” se refiere al uso de tantos tokens como sea posible para aumentar la productividad y lucirse.
El comentario de Macdonald tocó la fibra sensible ya que las empresas de todo Estados Unidos están adoptando agresivamente la IA internamente. Meta ahora llama a algunos empleados “constructores de IA” y espera que trabajen en “pods” de IA nativos. Gigantes corporativos como Disney y JPMorgan están monitoreando el uso de la IA por parte de sus empleados. Visa recompensa a los equipos que construyen más rápido con IA y se jacta de que su gasto mensual en tokens es de casi 2 billones.
A medida que las empresas se apresuran a adoptar la IA, un número creciente de profesionales de la tecnología dicen que genera un desperdicio masivo. El impulso de la IA ha generado preocupaciones de que las empresas estén desperdiciando sus presupuestos prematuramente. Uber agotó su presupuesto anual de IA en los primeros cuatro meses del año, informó la noticia.
«Es casi seguro que el 50% del gasto interno en tokens es completamente innecesario, pero por el momento es difícil saber qué 50%», publicó en X Akshat Bubna, cofundador y CTO de la startup de IA Modal.
«Se han quemado tokens por millones de dólares sin ningún retorno de la inversión significativo», dijo el director de ingeniería Karthik Hariharan, refiriéndose al retorno de la inversión.
El problema no hace más que empeorar, afirmó recientemente el director general de Google, Sundar Pichai. En la emblemática conferencia de desarrolladores de E/S de Google la semana pasada, Pichai dijo que escuchó de los CIO que estaban «muy preocupados por la forma en que sus empresas están desperdiciando sus presupuestos».
«Creo que el problema empeorará a medida que avance el año», añadió Pichai.
El debate sobre tokenmaxxing también ha generado temores de que la burbuja de la IA esté a punto de estallar. El lunes, el famoso inversor Michael Burry, de la “gran apuesta”, calificó el tokenmaxxing como una “fase loca, apresurada y temporal” y dijo que las acciones de Nvidia corrían un alto riesgo de sufrir una caída “agresiva”.
Tokenmaxxing, sin embargo, tiene sus defensores.
Garry Tan, director ejecutivo de la popular firma de inversión Y Combinator de San Francisco, aceptó el término y dijo: «llevamos maximizando tokens por más tiempo que la mayoría de la gente».
También existe una manera equilibrada de aprovechar los beneficios de la IA sin gastar demasiado, según un informe de la firma de inteligencia tecnológica Jellyfish.
El informe revela que el 10% de los usuarios principales de Claude Code consumen aproximadamente 10 veces más tokens de IA que el desarrollador medio y solo producen aproximadamente el doble. la salida.
Para resolver este problema, las empresas no deberían recompensar ni penalizar el consumo de tokens en bruto. En cambio, deberían asegurarse de que los costos estén vinculados a métricas concretas, como las solicitudes de extracción (la forma en que los desarrolladores proponen cambios de código para proyectos compartidos), dice el informe.
