La pornografía con IA está muy extendida, resulta que las sanciones no están en el decreto presidencial

Yakarta, VIVA – El viceministro de Comunicaciones y Digital (Wamenkomdigi), Nezar Patria, admitió que el reglamento presidencial o decreto presidencial sobre el uso de inteligencia artificial (inteligencia artificial/AI) no regula sanciones por violaciones en el desarrollo de IA, incluida la creación y distribución de contenido pornográfico utilizando IA.

Según él, las sanciones por la creación y distribución de contenidos pornográficos utilizando IA están reguladas por la Ley de Información y Transacciones Electrónicas (UU ITE) y la Ley de Pornografía y sus normas derivadas.

«No hay regulaciones sobre sanciones en la Orden Ejecutiva Presidencial sobre IA. Las violaciones cometidas en el desarrollo de la IA están en la Ley ITE, y también en la Ley de Pornografía», dijo en Yakarta, el jueves 22 de enero de 2026.

El gobierno pretende publicar una hoja de ruta nacional de IA y directrices éticas de IA en forma de decreto presidencial dentro de los próximos dos meses.

«Debido a que hay tantos, la planificación del decreto presidencial que se ha presentado aún se está regulando. Esperamos que pueda completarse dentro de dos meses», dijo.

En un intento por abordar el problema de la creación y distribución de contenido pornográfico, Nezar Patria dijo que el gobierno cortó temporalmente el acceso a AI Grok hasta que se elimine la funcionalidad para crear imágenes indecentes.

El Ministerio de Comunicaciones y Digital (Kemkomdigi) también se puso en contacto con el proveedor de la plataforma X como propietario de Grok para resolver el problema de inmediato.

«En mi opinión, esta acción no está en consonancia con los valores que defendemos aquí, según los cuales las fotografías pueden transformarse mediante IA generativa en fotografías de carácter pornográfico. Las fotografías de nosotros vestidos pueden mostrarse desnudas y luego combinarse con varias escenas», afirmó el viceministro de Comunicación.

Nezar Patria también dijo que las medidas tomadas por el gobierno indonesio para bloquear el acceso a Grok fueron seguidas por dos países vecinos, a saber, Malasia y Filipinas.

Kemkomdigi ya cuenta con un Sistema de Cumplimiento de Moderación de Contenidos o SAMAN para detectar y tomar medidas contra contenidos negativos en el espacio digital.

SAMAN está diseñado para detectar contenido que contenga pornografía, terrorismo, juegos de azar, actividades financieras ilegales, así como alimentos, drogas y cosméticos ilegales.

“Hay (SAMAN) sanciones administrativas, multas, etc.”, dijo el viceministro de Comunicaciones y Tecnología, Nezar Patria.