Yakarta (ANTARA) – El miembro de la Comisión I de la Cámara de Representantes, Syamsu Rizal, pidió al Ministerio de Comunicación y Digital (Komdigi) que tome medidas firmes con respecto a la inteligencia artificial (IA) Grok en las redes sociales X que pueden producir contenido pornográfico.
Evaluó que la capacidad de Grok AI para manipular las imágenes de alguien para crear contenido inmoral era una amenaza grave y muy preocupante. Además, hasta ahora se considera que Grok AI no tiene un sistema de moderación de contenidos adecuado para evitar este abuso.
«Hasta ahora hemos visto que Grok AI en el
Lea también: Platform X pagó una multa de casi 80 millones de IDR al gobierno de Indonesia por contenido pornográfico
Lea también: Kalimantan Central revela pandilla que hace videos pornográficos
Según él, el uso indebido de la inteligencia artificial sin una supervisión estricta podría tener consecuencias de gran alcance. No sólo daña al individuo que es víctima, sino que también daña el orden social y moral de la sociedad.
«Si Grok AI y la plataforma
El Estado, dijo, tiene la obligación de proteger a sus ciudadanos de los impactos negativos de la tecnología digital, especialmente aquellos relacionados con la explotación, la pornografía y las violaciones de la privacidad. Ignorar este tipo de prácticas sentará un mal precedente para el ecosistema digital nacional.
«Este paso firme es importante porque, si no se controla, el uso irresponsable de la IA será muy peligroso y dañará la moral de la nación», afirmó.
Lea también: La policía de Metro Jaya reveló casos de distribución de 13.336 vídeos pornográficos con contenido
Anteriormente, el Ministerio de Comunicaciones y Digital dio seguimiento a las acusaciones de uso indebido de la función de inteligencia artificial Grok AI en la plataforma X, que se utilizó para producir y difundir contenido inmoral, incluida la manipulación de fotografías personales confidenciales sin el consentimiento del propietario.
El director general de Supervisión del Espacio Digital del Ministerio de Comunicaciones y Tecnología, Alexander Sabar, dijo que los resultados de búsqueda iniciales muestran que Grok AI aún no cuenta con regulaciones explícitas y adecuadas para impedir la producción y distribución de contenido pornográfico basado en fotografías reales de ciudadanos indonesios.
Esta condición tiene el potencial de violar el derecho a la privacidad y el derecho a la propia imagen, especialmente cuando la fotografía de alguien es manipulada o distribuida sin consentimiento legal.
«Los resultados preliminares muestran que no existen regulaciones específicas en Grok AI para impedir el uso de esta tecnología en la creación y distribución de contenido pornográfico personal basado en fotografías. Esto corre el riesgo de causar graves violaciones de la privacidad y los derechos de autoimagen de los ciudadanos», dijo Alexander, el miércoles (1/7).
:max_bytes(150000):strip_icc():focal(2999x0:3001x2)/peo-ann-taylor-winter-tout-a4adecc6d4734df680cda0bc1ce0afa0.jpg?w=238&resize=238,178&ssl=1 "10 ofertas de moda de invierno de Ann Taylor desde $ 20")
