La UE ha abierto su propia investigación sobre el chatbot Grok que genera pornografía infantil. Se estima que Grok generó 23.000 imágenes CSAM en sólo 11 días.
A pesar de los múltiples llamamientos para que Apple y Google eliminen temporalmente X y Grok de la App Store, ninguna de las empresas lo ha hecho todavía…
Grok generó 23.000 imágenes CSAM
Como la mayoría de los otros chatbots de IA, Grok de xAI es capaz de generar imágenes a partir de mensajes de texto. Puede hacer esto directamente en la aplicación, en la web o a través de X. Sin embargo, a diferencia de otros servicios, Grok tiene barreras de seguridad extremadamente flexibles que lo han visto generar imágenes semidesnudas no consensuadas de personas reales, incluidos niños.
Engadget informa que una estimación sugiere que Grok generó aproximadamente 23.000 imágenes CSAM en sólo 11 días.
El Centro de Lucha contra el Odio Digital (CCDH) publicó sus hallazgos. La asociación británica basó sus conclusiones en una muestra aleatoria de 20.000 imágenes de Grok del 29 de diciembre al 9 de enero. La CCDH luego extrapoló una estimación más amplia basada en los 4,6 millones de imágenes generadas por Grok durante este período (…)
Durante un período de 11 días, Grok generó aproximadamente 3 millones de imágenes sexualizadas, de las cuales aproximadamente 23.000 eran de niños.
En otras palabras, Grok generó aproximadamente 190 imágenes sexualizadas por minuto durante este período de 11 días. De ellos, creó una imagen sexualizada de niños cada 41 segundos.
Se abre una investigación de la UE
A principios de este mes, tres senadores estadounidenses pidieron al director ejecutivo de Apple, Tim Cook, que eliminara temporalmente X y Grok de la App Store debido a la «generación de contenido repugnante». La empresa aún no lo ha hecho.
Dos países han bloqueado la aplicación y ya hay investigaciones abiertas en California y el Reino Unido. EL Tiempos financieros informa que la UE también ha abierto una investigación.
La investigación, anunciada el lunes en virtud de la Ley de Servicios Digitales de la UE, evaluará si xAI intentó mitigar los riesgos relacionados con el despliegue de las herramientas de Grok en X y la proliferación de contenido que «podría constituir material de abuso sexual infantil».
«Las falsificaciones sexuales no consensuadas de mujeres y niños constituyen una forma violenta e inaceptable de degradación», dijo la jefa técnica de la UE, Henna Virkkunen.
Si se descubre que la empresa ha incumplido la DSA, se le puede imponer una multa de hasta el 6% de su facturación global anual.
Foto por Logan Voss seguro desempaquetar
