📂 Categoría: AI,jensen-huang,nvidia | 📅 Fecha: 1773986148
🔍 En este artículo:
Jensen Huang tiene una nueva señal de advertencia para los mejores talentos: no usar suficientes tokens de IA.
El director ejecutivo de Nvidia dijo en un episodio del «All-In Podcast» publicado el jueves que estaría «profundamente alarmado» si uno de los principales ingenieros del gigante de los chips gastara muy poco en IA.
«Si este ingeniero de 500.000 dólares no consumiera al menos 250.000 dólares en chips, voy a estar profundamente alarmado”, dijo Huang.
«Al final del año, a ese ingeniero de 500.000 dólares, le voy a preguntar ¿cuánto gastó en chips? Si esa persona dijo 5.000 dólares, voy a hacer otra cosa», añadió.
Cuando se le preguntó si Nvidia estaba gastando 2 mil millones de dólares en tokens para su equipo de ingeniería, Huang dijo: «Estamos intentándolo».
«No es diferente a que uno de nuestros diseñadores de chips diga: ‘¿Adivina qué? Sólo voy a usar papel y lápiz'», dijo, refiriéndose a los mejores ingenieros que infrautilizan los tokens de IA.
A principios de esta semana, Huang dijo en la Conferencia de Tecnología GPU que los tokens podrían ser parte de su estrategia de reclutamiento de ingenieros.
«Van a ganar unos cientos de miles de dólares al año, su salario base», dijo Huang sobre los ingenieros. «Probablemente les daré la mitad de ese extra en tokens para que puedan amplificarse 10 veces».
«Ahora es una de las herramientas de contratación en Silicon Valley: ¿cuántos tokens vienen con mi trabajo?» » añadió Huang. «Y la razón es muy clara, porque cada ingeniero con acceso a tokens será más productivo».
Los tokens son la unidad básica utilizada por los sistemas de inteligencia artificial para procesar texto. Cuanto más texto lee o genera una IA, más tokens consume, razón por la cual las empresas suelen cobrar en función del uso por cada mil o millón de tokens.
Fichas como compensación
Huang no es el único que sostiene que los ingenieros necesitan un acceso generoso a la informática de IA y que las empresas deberían estar dispuestas a pagar por ello.
Alistair Barr, de Business Insider, informó a principios de este mes que las empresas tecnológicas podrían experimentar con una nueva forma de competir por el talento: ofreciendo acceso al poder de inferencia de la IA además de salarios, bonificaciones y capital.
Tomasz Tunguz de Theory Ventures le dijo a Barr que los tokens son un posible «cuarto elemento» de compensación.
Peter Gostev, jefe de capacidades de IA en Arena, una startup que mide el rendimiento del modelo, sugirió que OpenAI y Anthropic «creen sitios de reclutamiento donde sus clientes puedan anunciar puestos, enumerando el presupuesto nominal para el puesto, así como el rango salarial».
Thibault Sottiaux, jefe de ingeniería del equipo Codex de OpenAI, escribió en X que los solicitantes preguntan cada vez más a cuánta computación tendrán acceso.
El director ejecutivo de OpenAI, Sam Altman, dijo anteriormente que los tokens de IA podrían ser una forma de renta básica universal.
“Me pregunto si el futuro se parece más al cálculo básico universal que a la renta básica universal, y si todos recibirán una parte del cálculo GPT-7”, dijo Altman en un episodio de “All-In Podcast” de mayo de 2024. «Y pueden usarlo, revenderlo, dárselo a alguien para que lo use en la investigación del cáncer, pero lo que obtienes no es dinero, sino una especie de tajada, eres dueño de parte de la productividad»,
