Anthropic acusa a Alibaba de explotar sus modelos de IA | AI,anthropic,alibaba,china

Anthropic ha acusado a una de las empresas de tecnología más grandes de China de explotar sus modelos avanzados de inteligencia artificial.

La directora de políticas de Anthropic, Sarah Heck, dijo en una carta del 10 de junio al senador de Carolina del Sur Tim Scott y a la senadora de Massachusetts Elizabeth Warren que Alibaba llevó a cabo recientemente «el mayor ataque de destilación conocido» hasta la fecha.

Heck escribió en la carta, obtenida por Business Insider, que los operadores afiliados a Alibaba intentaron «extraer ilegalmente las capacidades de Claude» para entrenar los propios modelos de Alibaba, y pidió legislación para evitar nuevos ataques.

Entre el 22 de abril y el 5 de junio, los operadores realizaron “28,8 millones de intercambios con Claude a través de casi 25.000 cuentas fraudulentas”, escribe Heck.

Los ataques de destilación se refieren al uso de modelos avanzados de IA para entrenar y mejorar las capacidades de modelos menos avanzados. Alibaba, un gigante chino del comercio electrónico, está desarrollando modelos de inteligencia artificial bajo su paraguas Alibaba Cloud, incluido su Qwen LLM.

“Estos ataques de destilación se llevan a cabo de manera ilegal, sistemática y a escala industrial para explotar las capacidades de inteligencia artificial de Estados Unidos en los laboratorios fronterizos y reempaquetarlos como propios sin incurrir en los costos de capacitación e investigación y desarrollo necesarios para entrenar los modelos fronterizos de Estados Unidos”, escribió Heck a los senadores.

Añadió que los ataques podrían ayudar a los modelos chinos a alcanzar antes las capacidades del nivel Claude Mythos Preview. Mythos es uno de los LLM más avanzados de Anthropic, capaz de detectar vulnerabilidades de software y superar a los humanos en tareas de ciberseguridad.

Pidió a los senadores más legislación contra los ataques de destilación, como limitar el acceso de China a la infraestructura informática avanzada de Estados Unidos y penalizar a las entidades chinas que los lanzaron.

La carta de Anthropic a los legisladores llega varias semanas después de que el gobierno de Estados Unidos impusiera controles de exportación de su último modelo Fable 5, prohibiendo el acceso a él a los extranjeros y citando riesgos para la seguridad nacional.

Es el último golpe a Alibaba, que también fue agregada recientemente a una lista negra del Pentágono, una lista de empresas que el Departamento de Defensa ha vinculado con el ejército chino. El martes, Alibaba demandó al gobierno estadounidense por la designación.

Al cierre de esta edición del jueves, el precio de las acciones de Alibaba había caído más del 4%.

Los representantes de Alibaba no respondieron a una solicitud de comentarios de Business Insider.