📂 Categoría: AI,coinbase,brian-armstrong,tokenmaxxing | 📅 Fecha: 1782711941
🔍 En este artículo:
El CEO de Coinbase quiere que sus ingenieros continúen maximizando tokens y al mismo tiempo reduzcan los costos de la IA.
En un artículo de X del viernes, el director ejecutivo Brian Armstrong describió cinco formas en que el intercambio de cifrado mantiene bajos los costos de la IA.
La primera de sus cinco estrategias fue seleccionar mejores LLM predeterminados, las plantillas que utilizan la mayoría de los ingenieros cuando envían solicitudes. Dijo que Coinbase está experimentando con LLM chinos por defecto, que son significativamente más baratos que los modelos de laboratorios de inteligencia artificial fronterizos de EE. UU. como Anthropic y OpenAI.
«Experimentamos con modelos de peso abierto como GLM 5.2 y Kimi 2.7 a través de nuestra puerta de enlace LLM de forma predeterminada, al tiempo que alentamos a los ingenieros a elegir el modelo adecuado para la tarea», escribió Armstrong.
GLM 5.2 y Kimi 2.7 son modelos desarrollados por los laboratorios chinos de IA Z.ai y Moonshot AI, respectivamente.
Su segunda estrategia, de la que habló a principios de junio, fue dirigir las indicaciones a sus patrones más apropiados según sus niveles de dificultad.
«Por ejemplo, es posible que desee un modelo de límites para la planificación, pero no para la ejecución, donde pueden ser excesivos», escribió. «En última instancia, los humanos no deberían elegir modelos: la IA puede automatizar esta tarea».
El tercer consejo fue utilizar un mejor almacenamiento en caché, una técnica que reduce los costos de inferencia.
El cuarto era mantener el contexto simple, es decir, iniciar nuevas sesiones al pasar de una tarea a otra.
Y su estrategia final es aumentar la visibilidad del gasto en IA en toda la empresa. Esto significa que todos sus ingenieros pueden usar tantos tokens como quieran, pero pueden ver su uso. Coinbase espera «más impacto» de los empleados que gastan más en IA.
Armstrong adjuntó un cuadro al final de su artículo sobre el uso de tokens de la compañía y el gasto en IA a lo largo del tiempo, aunque no se especificó el cronograma exacto. El gráfico muestra que el uso de tokens alcanzó recientemente uno de los niveles más altos en la historia de la empresa, mientras que el gasto en IA ha disminuido significativamente, hasta casi la mitad de su nivel máximo.
«El objetivo no es suprimir el uso. Es construir la infraestructura que haga sostenible el crecimiento exponencial», escribe.
La publicación de Armstrong llega menos de dos meses después de que Coinbase despidiera al 14% de su personal, en parte porque la IA ha cambiado la forma en que trabaja la gente.
«Durante el año pasado, he visto a ingenieros usar IA para entregar en días lo que antes le tomaba a un equipo una semana», dijo Armstrong en un artículo de mayo, y agregó que «el ritmo de lo que es posible con un equipo pequeño y enfocado ha cambiado dramáticamente».
Su estrategia para reducir los costos de la IA se alinea con la de la industria, que ha abandonado la tendencia de corta duración de maximizar los tokens en favor de imponer límites de uso a los empleados para frenar el consumo desenfrenado de tokens.
