Adam Mosseri dice que Instagram está cerrando «cosas estúpidas» para reducir los costos de la IA | Tech,AI,adam-mosseri,instagram,tokens,ai

Adam Mosseri, director ejecutivo de Instagram, dice que ha sido relativamente fácil reducir el gasto de su división en IA.

«Pudimos reducir un poco los costos al detener las estupideces que estábamos haciendo», dijo Mosseri en un episodio reciente de «Lenny’s Podcast».

Mosseri no dio más detalles sobre cuáles podrían haber sido estos proyectos «tontos», pero añadió: «No es tan difícil construir un incinerador simbólico».

Cuando el presentador Lenny Rachitsky le preguntó a Mosseri sobre las clasificaciones de tokens, las que impulsaron el surgimiento del tokenmaxxing, respondió: «Es una idea realmente mala».

Meta fue una de las empresas más grandes en implementar una clasificación de consumo de tokens durante los primeros días de la locura del tokenmaxxing, una línea de pensamiento a la que muchos en Silicon Valley se opusieron. Los tokens son unidades de datos que sirven como bloques de construcción para grandes modelos de lenguaje que impulsan herramientas como ChatGPT de OpenAI. La mayoría de los proveedores de IA fijan el precio de al menos parte de su uso en función del consumo de tokens.

Los comentarios de Mosseri se producen en un momento en que empresas de todos los tamaños se enfrentan a crecientes facturas de IA debido tanto a mayores tasas de adopción entre sus empleados como a las tareas más complejas que los trabajadores le piden a la IA que realice, gracias al aumento de la IA agente. El director de operaciones de Uber, Andrew Macdonald, llamó la atención sobre la discusión después de haber expresado recientemente su preocupación por las crecientes facturas de inteligencia artificial de Uber, que han arrojado magros resultados.

Al igual que otros en el sector tecnológico, Mosseri dijo que se espera que los costos de la IA eventualmente disminuyan a medida que las empresas luchan por una posición. Dijo que los costos de su división podrían aumentar aún más a medida que los trabajadores consuman más tokens.

«Creo que los costos van a subir porque simplemente vamos a usar más tokens, no porque los precios necesariamente vayan a subir, sino que creo que los precios van a bajar porque todos estos modelos de frontera van a estar en algún tipo de guerra de precios», dijo. «Así que ya veremos. Creo que será una especie de montaña rusa».

Mientras tanto, Mosseri dijo que los tokens de IA se han convertido en parte del proceso de presupuestación y asignación, como la forma en que se determina cómo asignar GPU, almacenamiento y RAM, o la nómina para la cantidad de empleados.

«Creo que se puede imaginar, al menos en uno o dos años, que la tasa de agotamiento de un ingeniero fuerte podría ser la misma que su salario o el costo de su empleo», dijo.

Si el gasto simbólico llega a ser tan grande, Mosseri dijo que tendría sentido establecer algún tipo de límite.

«Los límites probablemente deberían ser proporcionales al tipo de confianza que la empresa tiene en su capacidad para utilizarlos de manera positiva», dijo. «Pero me imagino que los límites están sanos. Por el momento no estamos ahí».

Los presupuestos no son lo único que cambia en Instagram

Mosseri dijo que el tamaño de un equipo promedio de Instagram solía ser de aproximadamente «una docena de panaderos», más o menos en línea con la famosa regla de las dos pizzas del fundador de Amazon, Jeff Bezos.

El jefe de Instagram dijo que su empresa no es diferente de otras empresas de tecnología que están reduciendo el tamaño de sus equipos en la era de la IA. Hoy en día, Mosseri dice que un equipo típico es un “grupo” de sólo “seis o siete” empleados.

“Este año nos está sucediendo un cambio realmente grande”, dijo Mosseri. «Pero simplemente porque tienen menos personas para coordinar, a menudo pueden actuar más rápidamente y tomar mejores decisiones, un poco menos diseñadas por comité».

En el pasado, Mosseri dijo que un equipo podría incluir dos o tres ingenieros de Android, dos o tres ingenieros de iOS y dos o tres ingenieros de servidores, y tal vez un empleado más general, un gerente de proyecto, un científico de datos «y un investigador, si tenía suerte».

Ahora, los grupos de Instagram están formados por «de cuatro a seis ingenieros un poco más generales» y un miembro del equipo de producto, lo que refleja cómo la división ha cambiado la definición de gerente de proyecto. El último miembro, dijo, suele ser un especialista muy específico que mejor se adapta a lo que está trabajando el grupo.

El resultado final, afirmó Mosseri, es “un núcleo mucho más pequeño” formado por roles más generalizados.

«Lo que está sucediendo claramente es que todas las funciones están empezando a integrarse entre sí, y toda la industria se pregunta qué significa eso», dijo.