Cómo son los laboratorios de IA de OpenAI y Meta, y lo que aprendí. | AI,Careers,as-told-to,meta,openai

Este ensayo, tal como se cuenta, se basa en una conversación con Prakhar Agarwal, un investigador aplicado de Meta Superintelligence Labs que trabajó anteriormente en OpenAI. Lo siguiente ha sido editado para mayor extensión y claridad. Business Insider verificó su formación profesional y académica.

Mi vida diaria varía mucho dependiendo de la etapa del proyecto en la que nos encontramos y los entregables inmediatos.

En OpenAI y Meta, estos hitos se logran (por ejemplo, una gran capacitación o aprendizaje por refuerzo) en 10 meses. Se vuelve intenso a medida que se acerca la fecha límite.

Cualquier trabajo que identifique siempre se basa en la iteración actual del modelo. Si digo que el modelo no es bueno para X y mi solución ayuda a arreglar X, se basa en esa versión del modelo. Si no cumplo con el plazo, no sé si la próxima versión tendrá los mismos problemas o no.

Si nos alejamos de este plazo, trabajamos principalmente en evaluaciones e intentamos encontrar casos de fallas y problemas con el modelo existente.

El trabajo es súper dinámico. A veces piensas que algo es muy sencillo y lo lograrás en un día. Otras veces ocurre lo contrario: como hay tantas incógnitas, puede llevar una semana.

Trabajar en laboratorios fronterizos es muy diferente a Big Tech

Lo que nos limita en estos laboratorios fundamentales es el cálculo. No es como las grandes empresas tecnológicas u otros lugares donde puedes seguir contratando a un grupo de personas y darles pequeñas tareas que hacer.

Todo el mundo necesita TI para hacer algo, y tan pronto como hay mucha gente, TI se divide, por lo que nadie puede hacer nada.

También desea una comunicación de gran ancho de banda entre las partes interesadas: no desea 10 capas diferentes de comunicación. La velocidad de iteración es mucho más rápida. Estos grupos centrales tienden a ser mucho más pequeños y más unidos.

La idea de “equipo” también es muy fluida. Cada uno tiene sus propios proyectos, pero colaboran con otros para trabajar en proyectos comunes. En Meta y OpenAI hay muchos seniors y pocos juniors, por lo que todos tienen un alcance decente de proyectos.

A veces colaboro más con personas fuera de mi equipo inmediato que dentro de él. Su alcance no se limita a cuatro o cinco personas. Tu alcance es el problema que estás tratando de resolver.

La comunicación y la codificación profunda son esenciales

La comunicación es el aspecto más importante en estos laboratorios. Debido a que muchas cosas no están documentadas, usted necesita poder expresar claramente lo que está haciendo, por qué lo está haciendo, cuáles son los próximos pasos, transmitir sus resultados y obtener retroalimentación sobre su trabajo.

Sentirse cómodo recorriendo el código e identificando detalles es una de las habilidades más importantes que he visto. La velocidad a la que evoluciona el código es mucho más rápida que la documentación. Si estás atascado en algo, lee el código e intenta resolverlo tú mismo.

Tener una cierta comprensión de lo que está sucediendo en diferentes verticales también le brinda una buena visión de las ideas y enfoques que la gente está probando. Como todo está tan conectado, es posible que aprendas de ello o encuentres formas de contribuir.

La mayor ventaja de estos laboratorios es saber qué no funciona

Un trabajo de investigación le dice: «Hice X, Y y Z en este orden específico y funcionó». » Pero lo que no ves es que antes de hacer X, Y y Z, probé 50 cosas diferentes que no funcionaron, y la gente no habla de ello.

Éste, para mí, es el verdadero punto fuerte de estos laboratorios básicos. Gracias a todos los experimentos y a todo el trabajo ya realizado, los equipos han desarrollado intuiciones realmente sólidas. Saben qué cosas no funcionarán o no se pueden escalar y cuáles funcionarán bien.

Los forasteros a menudo buscan ganancias, pero no comprenden que incluso las pérdidas son muy valiosas.

Consejos para quienes quieren trabajar en los mejores laboratorios.

No tengo una buena respuesta para lidiar con el agotamiento. Simplemente sigue la corriente. Estás trabajando a la vanguardia y, en pocas palabras, si quieres estar aquí, no puedes pensar en ello a diario.

Lo que le diría a mi yo más joven es que se sienta cómodo explorando nuevas vías y nuevas ideas. Lo que he visto es que intentamos aprovechar nuestras fortalezas o permanecer dentro de un marco determinista donde sabemos que todo estará bien. Pero en estas áreas, la velocidad a la que evolucionan las cosas es tal que hay que poder pasar a un tema nuevo.

Desarrolla los músculos para soportar el lanzamiento de algo completamente nuevo. A veces es más psicológico que una cuestión de habilidades.

¿Tiene una historia que compartir sobre cómo trabajar en un laboratorio líder en inteligencia artificial? Contacta con este periodista en cmlee@businessinsider.com.