📂 Categoría: AI,meta,andrew-bosworth,ai-training | 📅 Fecha: 1783578238
🔍 En este artículo:
El CTO de Meta, Andrew Bosworth, arroja nueva luz sobre la violación de datos que llevó a la empresa a suspender su impopular Iniciativa de Capacidad Modelo.
En una entrevista con Nicholas Thompson, director ejecutivo de The Atlantic, publicada el miércoles, Bosworth explica por qué Meta suspendió el programa de capacitación en inteligencia artificial que implicaba el seguimiento de las pulsaciones de teclas de los empleados. La entrevista fue filmada a finales de junio.
Bosworth dijo que los datos generados por el programa de capacitación eran «bastante seguros», y que sólo un pequeño número de personas tenían acceso a ellos, pero que uno de los investigadores de Meta los había movido por error.
«Uno de los investigadores que estaba trabajando con estos datos (y no hubo ninguna violación aquí) pero los había colocado en un lugar donde se suponía que no debían ir», le dijo el funcionario a Thompson.
Los datos de los empleados, en un estado transformado, habían «aterrizado en algún lugar donde no deberían haber aterrizado internamente», dijo, y agregó que Meta no sospechaba que hubiera habido juego sucio.
La compañía estaba «bloqueando todo» hasta que pudiera llegar al fondo del incidente, dijo Bosworth.
La Iniciativa de Capacidad Modelo se introdujo en abril. Esto implicó instalar software en la mayoría de los empleados de Meta en EE. UU. para rastrear sus pulsaciones de teclas y movimientos del mouse con el fin de entrenar sus modelos de inteligencia artificial. El programa, y las instrucciones de Meta de que los empleados no podían optar por no participar, provocaron una gran reacción por parte de sus empleados.
El propio Bosworth dijo en una reunión interna que la moral de los empleados de la empresa era «probablemente una de las peores que jamás haya existido» en las dos décadas de historia de Meta.
Sin embargo, el programa se suspendió en junio después de que una filtración pusiera a disposición de toda la empresa datos confidenciales de los empleados, según capturas de pantalla vistas por Business Insider.
«Diseñamos cuidadosamente este programa teniendo en cuenta las salvaguardias de privacidad, y aunque no tenemos indicios en este momento de que los empleados de Meta hayan accedido de manera inapropiada a algún dato, lo suspenderemos mientras investigamos», dijo un portavoz de Meta a Business Insider en junio.
En la entrevista, Bosworth también explicó otra razón por la cual el programa no salió según lo planeado. Estaba generando gran parte de los mismos datos, dijo, cuando idealmente la empresa debería haber obtenido datos más variados que podrían usarse para entrenar su IA.
«La variación es mucho mayor que la de reducir un gran volumen de lo mismo a un solo ejemplo», le dijo a Thompson.
«Por eso, unas semanas después de su lanzamiento inicial, agregamos opciones de exclusión voluntaria ampliadas para las personas que no querían hacerlo», dijo. «Una pausa, una pausa infinita. Cuando no quieras tenerla, simplemente presiona pausa».
Los representantes de Meta se negaron a hacer más comentarios en respuesta a una pregunta de Business Insider.
