Tras la introducción de una prohibición de las aplicaciones de redes sociales para adolescentes el año pasado, Australia ahora está fortaleciendo los requisitos de verificación de edad para las aplicaciones de inteligencia artificial. Aquí están los detalles.
Aplicaciones de IA bajo escrutinio para problemas de salud mental
El año pasado, Australia se convirtió en el primer país en prohibir las aplicaciones de redes sociales para adolescentes, en lo que se convirtió en el primer esfuerzo nacional para proteger la salud mental de los jóvenes.
La medida sigue a la creciente preocupación global por el impacto de las redes sociales en la salud mental de los usuarios jóvenes, un debate que solo se ha intensificado desde la publicación de libros como The Anxious Generation de Jonathan Haidt.
Ahora, a partir del 9 de marzo, las plataformas de IA, incluidos servicios de empresas como OpenAI, tendrán que cumplir con una serie de requisitos diseñados para evitar que usuarios menores de 18 años accedan a contenidos pornográficos, de violencia extrema, de autolesiones o de trastornos alimentarios.
La medida también aborda las preocupaciones sobre el uso excesivo de chatbots entre los adolescentes, incluidos los temores de que las características de diseño emocionalmente manipuladoras puedan fomentar la adicción en un momento en que el impacto de estas herramientas aún no está claro:
Australia aún no ha recibido informes de violencia o autolesiones relacionadas con los chatbots, pero (eSafety) ha informado haber escuchado a niños de hasta 10 años hablando con herramientas interactivas impulsadas por IA durante hasta seis horas al día.
A eSafety le «preocupaba que las empresas de inteligencia artificial estuvieran explotando la manipulación emocional, el antropomorfismo y otras técnicas avanzadas para atraer, involucrar y afianzar a los jóvenes en el uso excesivo de chatbots», dijo el portavoz.
Según las nuevas reglas, Reuters informes que es posible que se requiera que las tiendas de aplicaciones y los motores de búsqueda bloqueen el acceso a servicios de IA que no cumplan con las normas:
El regulador de Internet de Australia dijo que podría presionar a los motores de búsqueda y tiendas de aplicaciones para que bloqueen los servicios de inteligencia artificial que no verifican las edades de los usuarios después de que un estudio de Reuters encontró que más de la mitad no había hecho pública ninguna medida para cumplir antes de la fecha límite de la próxima semana.
Cuando Reuters Cuando se le pidió un comentario, Apple se negó a responder.
No obstante, la compañía ha implementado protecciones relacionadas con la edad en todas sus plataformas para cumplir con las leyes globales de restricción de edad, incluidos sistemas que dependen de señales detectadas automáticamente por el dispositivo. La adopción de estas API, así como el cumplimiento de los requisitos locales, sigue siendo, en última instancia, responsabilidad de los desarrolladores individuales.
Volvamos a la cuestión australiana. Reuters También informó que el cumplimiento sigue siendo limitado, y la mayoría de las 50 principales herramientas de inteligencia artificial basadas en texto no muestran pasos claros para implementar la verificación de edad o el filtrado de contenido antes de la fecha límite que se acerca rápidamente.
leer Reuters«informe completo, sigue este enlace.
