Al menos 37 fiscales generales estatales de EE. UU. están respondiendo al problema actual del chatbot Grok que crea material de abuso sexual infantil (CSAM).
Esto sigue a la prohibición de la aplicación en dos países y a la apertura de investigaciones en el Reino Unido y la UE, pero Apple y Google hasta ahora han ignorado las solicitudes para eliminar temporalmente Grok y X de sus respectivas tiendas de aplicaciones…
El problema CSAM de Grok
La mayoría de los chatbots de IA en estos días son capaces de generar imágenes a partir de mensajes de texto, y Grok de xAI no es una excepción. Esto se puede hacer directamente en la aplicación, en la web o a través de X.
Lo que sí es excepcional son las barandillas extremadamente sueltas del Grok. Esto llevó a que se utilizara para generar efectivamente imágenes desnudas y no consensuadas de personas reales, incluidos niños. Según una estimación, generó alrededor de 23.000 imágenes CSAM en un período de sólo 11 días.
Dos países han bloqueado la aplicación y se están llevando a cabo investigaciones en el Reino Unido y la UE.
37 estados de EE. UU. responden
cableado informa que al menos 37 estados y territorios de EE. UU. ahora están pidiendo a la compañía que solucione el problema luego de una carta abierta firmado por la mayoría de ellos.
Al menos 37 fiscales generales estatales y territoriales de EE. UU. están tomando medidas contra xAI después de que la gente utilizó su chatbot, Grok, para generar una avalancha de imágenes sexualizadas a principios de este año (…) Además de los (35) que firmaron la carta, los fiscales generales de California y Florida le dijeron a WIRED que también tomaron medidas.
La carta pide a xAI que tome seis acciones:
- tomar todas las medidas necesarias para garantizar que Grok ya no sea capaz de producir imágenes íntimas no consensuadas (incluidas imágenes no consensuadas que no muestren desnudez total o comportamiento sexual gráfico, pero que representen a personas en bikini, ropa interior, ropa reveladora o poses sugerentes) y material de abuso sexual infantil;
- eliminar contenidos ya producidos;
- suspender a los usuarios que crearon estos elementos;
- en su caso, denunciar a estos creadores y usuarios ante las autoridades competentes;
- otorgar a los usuarios X control sobre si Grok puede editar su contenido, incluida, como mínimo, la capacidad de prohibir fácilmente que la cuenta @Grok responda a sus publicaciones o edite sus imágenes cuando se lo solicite otro usuario; Y
- Asegúrese de que las medidas de protección que anunció recientemente no se limiten a colocar la creación de NCII detrás de un muro de pago, sino que realmente mitiguen su producción en X y en la plataforma Grok.
Apple y Google deben actuar
A principios de este mes, tres senadores estadounidenses pidieron al director ejecutivo de Apple, Tim Cook, que eliminara temporalmente X y Grok de la App Store debido a la «generación de contenido repugnante». La empresa aún no lo ha hecho.
Ahora está muy claro que xAI no tomará ninguna medida significativa hasta que se vea obligado a hacerlo. Con diferencia, la forma más eficaz de ejercer presión es que Apple y Google eliminen temporalmente las aplicaciones Grok y X de sus respectivas tiendas de aplicaciones.
