📂 Categoría: AI,san-francisco,ai-agents | 📅 Fecha: 1775957935
🔍 En este artículo:
¿Qué podría hacer una IA si le pidieras que abriera una tienda física con 100,00 dólares?
Resulta que es un poco como crear logotipos inconsistentes y olvidarse de informar a los empleados sus horarios.
Andon Labs, una startup con sede en San Francisco, prueba agentes de inteligencia artificial en el mundo real para identificar brechas de seguridad. Para su último experimento, los cofundadores Lukas Petersson y Axel Backlund firmaron un contrato de arrendamiento de tres años en un espacio comercial en SF y le dieron a un agente de inteligencia artificial llamado Luna una tarjeta de crédito corporativa, acceso a Internet y la misión de abrir una tienda física.
Petersson dijo a Business Insider en una entrevista que Luna no recibió instrucciones sobre cómo debería ser la tienda, más allá de un límite de 100.000 dólares para crear y abastecer el espacio, y obtener ganancias. Todo, desde el diseño interior de la tienda hasta la mercancía y los dos empleados humanos, se reunió bajo la guía de la IA.
La IA de Andon Labs, Luna, creó productos de marca para la tienda. Cortesía de Laboratorios Andon
«La ayudamos un poco con la configuración inicial, como firmar el contrato de arrendamiento. Y las cuestiones legales como permisos y demás, con las que a veces tuvo problemas», dijo Petersson sobre Luna, que fue creada con Claude Sonnet 4.6 de Anthropic.
A partir de ahí, la IA se encargó de todo lo demás: Luna publicó trabajos en Indeed, realizó las entrevistas telefónicas, contrató a los empleados y encontró a los contratistas que podían pintar la tienda.
La visión que Luna ha adoptado para «Andon Market» parece ser la de una boutique genérica que vende libros, grabados, velas, juegos y productos de marca, entre otras chucherías.
Algunos de los libros incluyeron «Superintelligence» de Nick Bostrom y «Brave New World» de Aldous Huxley.
Luna no es la mejor gerente de tienda.
Luna cometió varios errores al crear y ejecutar Andon Market.
Al buscar empleados humanos que pudieran monitorear la tienda, Luna ofreció el puesto a varios candidatos después de una sola llamada que duró de cinco a 15 minutos, dijo la startup. Luna tampoco siempre reveló inmediatamente a los concursantes que era una IA a menos que se le preguntara explícitamente.
«El hecho de que la tienda esté dirigida por IA no es algo que presentaría en una oferta de trabajo; confundiría a los candidatos y probablemente disuadiría a los buenos candidatos incluso antes de que leyeran el puesto», dijo Luna, según el blog de Andon Labs.
Andon Labs dijo que vio algunos candidatos prometedores, como estudiantes de informática, interesados en la experiencia de inicio, pero Luna los rechazó porque no tenían experiencia en venta minorista.
Otro problema que encontró la IA fue su incapacidad para reproducir el logotipo de la marca que creó: una carita sonriente genérica. Cada interpretación del logotipo en la tienda, ya sea en la camiseta o en el mural de la tienda, era «ligeramente diferente», escribió Andon Labs.
El logotipo de Andon Market es ligeramente diferente en toda la tienda. Cortesía de Laboratorios Andon
El sábado, un día después de la apertura del mercado de Andon, Luna también incumplió la agenda de personal, dijo Petersson a Business Insider.
«Es bastante irónico. Este es el día en que realmente debería estar en guardia», dijo el cofundador. “Se alteró el cronograma y luego, presa del pánico, tuve que escribir a todos los empleados y decirles: ‘Oh, ¿alguien puede venir hoy?’”
El cofundador dijo que existían salvaguardas y que la startup intervendría si fuera necesario. Por ejemplo, los dos empleados humanos que contrató Luna ahora son empleados de laboratorio y se les pagará con regularidad.
«Este es un experimento controlado, y todos los que trabajan en Andon Market son empleados oficialmente de Andon Labs, con salarios garantizados, salarios justos y plena protección legal», dijo la startup. «El sustento de nadie depende únicamente del juicio de una IA».
El experimento de Andon Labs es el último ejemplo de cómo los agentes de IA se enfrentan a errores de juicio y toma de decisiones. En un estudio realizado el año pasado, investigadores de Carnegie Mellon realizaron una simulación de una empresa falsa para ver cómo los agentes autónomos de IA manejaban las tareas en el lugar de trabajo. Los investigadores descubrieron que los agentes no lograban manejar tareas simples de la interfaz, como cerrar una ventana emergente. También malinterpretaron las conversaciones de sus compañeros y crearon un usuario falso.
Aunque Andon Labs le dio a Luna el objetivo de obtener ganancias, Petersson dijo que su empresa no esperaba ganar dinero con la tienda.
«El objetivo es evaluar la calidad de los modelos actuales de IA», dijo Petersson, añadiendo que su empresa espera educar al público sobre hacia dónde se dirige la IA.
Petersson dijo que Andon Labs pretende ser lo más neutral posible en la experiencia minorista. Con el accidente personal del sábado, Luna Logré traer a un solo empleado para la tarde.
«Realmente no sé si está abierto ahora o no», dijo Petersson.
