📂 Categoría: AI,Tech,aaron-levie,box,ai | 📅 Fecha: 1774027148
🔍 En este artículo:
El director ejecutivo de Box, Aaron Levie, dice que las empresas de tecnología no serán las últimas en ver aumentos presupuestarios relacionados con la IA.
«Esto, por supuesto, comenzará en ingeniería, donde ya sabemos que los desarrolladores pueden ejecutar múltiples agentes en paralelo o ejecutar proyectos de la noche a la mañana», escribió Levie en X. «Pero eventualmente también afectó al resto del trabajo del conocimiento».
Como ejemplo, Levie citó el ámbito jurídico y empresarial como dos áreas que podrían convertirse en grandes usuarios de tokens.
Los tokens determinan cómo se mide la IA y cómo se fija el precio de su consumo. Se trata de unidades de texto, una palabra o parte de una palabra, esencialmente los componentes básicos de grandes modelos lingüísticos, que impulsan chatbots populares como ChatGPT de OpenAI, Claude de Anthropic o Grok de xAI. Es importante tener en cuenta que los tokens no tienen una tarifa fija y las empresas de inteligencia artificial tienden a cobrar más por utilizar los modelos más avanzados y hacer preguntas más complejas.
La publicación de Levie fue en respuesta a la opinión del CEO de Nvidia, Jensen Huang, de que estaría «profundamente alarmado» si un ingeniero que pagara 500.000 dólares no usara tokens de IA que valieran al menos la mitad de ese salario.
«Al final del año, a ese ingeniero de 500.000 dólares, le preguntaré ¿cuánto gastó en chips? Si esa persona dijera 5.000 dólares, haría otra cosa», dijo Huang durante un episodio del «All-In Podcast» publicado el jueves.
Levie dijo: “Este concepto y tendencia subyacentes serán muy reales, porque los trabajadores que aprovechan correctamente la IA solo consumirán más.
«Sus presupuestos informáticos aumentarán monótonamente con el tiempo», escribió.
No se tratará sólo de los trabajadores, dijo Levie. Los agentes, que pueden operar a todas horas, son probablemente los mayores consumidores de tokens.
«Estos no son flujos de trabajo de chatbot que responden a una pregunta simple, sino agentes que ejecutan y procesan cantidades increíbles de datos a escala y generan formas de información completamente nuevas», escribió.
No todo el mundo estará contento con sus presupuestos de computación de IA. El capitalista de riesgo Chamath Palihapitiya dijo que tuvo que decirle a 8090, su startup de software, que dejara de usar Cursor, una popular herramienta de codificación de inteligencia artificial, después de ver cuánto estaba gastando la compañía en tokens.
“Nuestros costos se han más que triplicado desde el 25 de noviembre”, dijo Palihapitiya en un episodio anterior del “All-In Podcast”. «Entre el costo de inferencia que pagamos por AWS, que es enorme, entre nuestros costos con Cursor y entre Anthropic, solo estamos gastando millones».
Levie dijo que las empresas «tendrán que descubrir cómo presupuestan esto».
«Esto probablemente no será una partida presupuestaria de TI con el tiempo, sino que, en última instancia, será propiedad y será asignada por la empresa», escribió. «Tal vez el director financiero sea, en última instancia, el jefe de IA :-)».
