Dos países bloquearon la aplicación Grok después de que fuera ampliamente utilizada para generar deepfakes no consensuales y casi desnudos de mujeres y niños. Un tercer país está investigando actualmente.
Tres senadores estadounidenses han pedido a Apple que elimine temporalmente X y Grok de la App Store de EE. UU. debido a la «generación de contenido repugnante», y todavía estamos esperando la respuesta de la compañía…
CSAM generado por IA por Grok
La herramienta Grok AI está disponible como aplicación independiente y a través de la aplicación X. También está disponible a través de la pestaña Grok en el sitio web de X.
Existe amplia evidencia que muestra que Grok generó deepfakes no consensuales y casi desnudos de personas reales, tomando una foto vestida y luego quitándose la ropa digitalmente para reemplazarla con un bikini u otra ropa reveladora. Aún más preocupante es que algunos de estos deepfakes involucraban a niños.
Aunque en teoría Grok bloquea las imágenes de desnudos, algunos usuarios utilizan un lenguaje rápido que soluciona este problema.
Tres senadores estadounidenses pidieron el viernes a Apple que elimine temporalmente las dos aplicaciones de la App Store, señalando que las imágenes no consensuadas incluían material de abuso sexual infantil (CSAM).
Los senadores Ron Wyden, Ed Markey y Ben Ray Luján escribieron una carta abierta a los directores ejecutivos de Apple y Google, pidiendo a ambas compañías que eliminaran las aplicaciones X y Grok «en espera de una investigación completa» sobre la «generación masiva de imágenes sexualizadas no consensuadas de mujeres y niños».
La carta señala que el ex director ejecutivo Elon Musk no actuó y contrasta la inacción de Apple y Google con la rápida eliminación de la aplicación ICEBlock a petición de la Casa Blanca. La única respuesta de Musk fue limitar la generación de imágenes X a los suscriptores de pago, lo que parece la acción más cínica posible, pero la misma funcionalidad está disponible para todos a través de la pestaña Grok en el sitio web y la aplicación X.
Dos países bloquean la aplicación Grok
Prensa asociada informa que Malasia e Indonesia han bloqueado la aplicación en sus países.
Los reguladores de los dos países del Sudeste Asiático dijeron que los controles existentes no impedían la creación y distribución de contenido pornográfico falso, particularmente el que involucra a mujeres y menores. El gobierno de Indonesia bloqueó temporalmente el acceso a Grok el sábado, seguido por el de Malasia el domingo.
El regulador de medios británico ofcom También abrió una investigación formal.
Ha habido informes muy preocupantes de que la cuenta del chatbot Grok AI está en línea.
Apple y Google aún no han respondido
Al momento de escribir este artículo, no se ha recibido ninguna respuesta pública de Apple o Google, y las aplicaciones siguen disponibles en sus respectivas tiendas de aplicaciones de EE. UU. Nos comunicamos con Apple para hacer comentarios y actualizaremos cualquier respuesta.
Foto: melanie agua/desempaquetar
