La infancia en la era de la IA: sopesando las esperanzas y las amenazas

Yakarta (ANTARA) – Último informe El economista plantea una pregunta importante: ¿qué sucede con la infancia cuando la inteligencia artificial (IA) está presente en cada segundo de la vida de un niño en el hogar, en la escuela e incluso mientras juega?

Esta pregunta no es una especulación futurista. En Indonesia, los niños aprenden a usar dispositivos desde una edad temprana, las escuelas están comenzando a probar plataformas de aprendizaje adaptativo y los padres están utilizando asistentes digitales para acompañar a los niños a hacer preguntas, contar historias y organizar rutinas. La infancia, como se advierte El economistaestá siendo “redefinido” por la tecnología, con grandes oportunidades, pero también amenazas que no deben subestimarse.

Las grandes esperanzas de la IA en la educación son tentadoras. Los sistemas de aprendizaje adaptativo pueden proporcionar formación acorde a las capacidades de cada alumno, monitorear el progreso en tiempo real y ayudar a los docentes a identificar las dificultades de aprendizaje mucho más rápidamente.

La IA puede ayudar a los docentes que todavía tienen una carga administrativa a crear rúbricas de evaluación, compilar materiales didácticos diferenciados y brindar retroalimentación inicial.

En el contexto doméstico, los modelos generativos permiten a los niños dibujar, crear historias o diseñar personajes de juegos sin barreras técnicas. La IA aporta una “nueva escala” al aprendizaje personalizado que antes solo era posible para familias adineradas o estudiantes privilegiados.

Amenaza grave

Sin embargo, detrás de estas oportunidades se esconden graves amenazas.

Primero, amenazas a la privacidad y seguridad de los datos de los niños. Muchas aplicaciones educativas y juguetes inteligentes recopilan datos: voz, expresiones faciales, historial de preguntas e incluso preferencias emocionales. Estos datos se convierten en un bien valioso para las empresas, por lo que no se puede evitar el riesgo de comercialización de la infancia.

En segundo lugar, amenazas al desarrollo emocional y cognitivo. Cuando los niños se acostumbran a obtener respuestas instantáneas, el proceso de investigación, confusión y prueba y error, elementos importantes del desarrollo intelectual, pueden perderse. Lo que es más peligroso, las relaciones sociales podrían ser reemplazadas por interacciones con una IA que siempre obedece, no exige ningún compromiso y nunca se enoja.

Sin embargo, como nos recuerda la psicóloga del desarrollo Alison Gopnik, “los niños aprenden sobre el mundo a través de la resistencia”; a través de la experiencia rechazada, negociada y perfeccionada por interacciones reales. La IA que es demasiado “divertida” tiene el potencial de limitar la experiencia social.

En tercer lugar, la amenaza de una supervisión excesiva en las escuelas. En algunos países, las escuelas utilizan IA para monitorear la atención de los estudiantes a través de cámaras, analizar expresiones faciales e incluso detectar posibles delincuencia.

Este tipo de práctica crea un aula que se asemeja a un panóptico: los niños sienten que siempre están siendo observados, de modo que la espontaneidad y la creatividad se desvanecen. En Indonesia debemos estar atentos, porque la tentación de aplicar tecnología de vigilancia a menudo llega más rápido que las discusiones éticas.

Cuarto, la amenaza del sesgo algorítmico. La IA aprende de conjuntos de datos que a menudo no representan toda la realidad. Los niños de zonas marginadas, los que hablan lenguas regionales o determinados entornos socioeconómicos pueden ser considerados “desfavorecidos” simplemente porque el modelo no reconoce sus características. Este tipo de sesgo amplía las disparidades de aprendizaje, algo que es socialmente peligroso porque institucionaliza una discriminación sutil.

Los ejemplos incluyen prejuicios lingüísticos y acento. Sistema reconocimiento de voz A menudo se les enseña en indonesio urbano estándar. Se podría considerar que los niños de NTT, Sulawesi o Papúa con acento local «lo pronuncian mal». En los ejercicios de lectura basados ​​en sonidos, la IA puede dar una puntuación baja simplemente porque el acento es diferente, lo que hace que el profesor concluya que existe una dificultad de lectura aunque la comprensión del niño sea buena.

El siguiente ejemplo es el sesgo socioeconómico. Las plataformas de aprendizaje adaptativo a veces evalúan las capacidades a partir de patrones de interacción digital: frecuencia de inicio de sesión, velocidad de respuesta y estabilidad de Internet. Los niños de familias de bajos ingresos, cuya conexión a Internet se desconecta con frecuencia, serán calificados como «inconsistentes». Luego, el sistema reduce el nivel de dificultad de las preguntas, encerrando al niño en un camino de aprendizaje inferior, aunque en realidad sea capaz. Se trata de una discriminación oculta que amplía las disparidades de aprendizaje.

También hay prejuicios culturales. Cuando los niños escriben sobre experiencias de la vida rural (ayudando en el campo, cuidando el ganado o cuidando a sus hermanos menores), la IA que evalúa el texto puede considerar las respuestas “menos relevantes” porque los ejemplos en el conjunto de datos son más urbanos. Las identidades culturales de los niños están siendo modificadas lentamente por algoritmos que consideran que las experiencias urbanas son más válidas que las rurales.

El sesgo también aparece en el reconocimiento de expresiones faciales. Los modelos entrenados en rostros predominantemente de piel clara o en determinadas estructuras faciales pueden interpretar erróneamente las expresiones de los niños de Papúa, Maluku o Sulawesi como «no centradas», aunque estén prestando mucha atención a la lección. Estos errores afectan los informes de comportamiento, la intervención de los maestros y la confianza en sí mismos de los niños.

Éste es el mayor peligro: el sesgo algorítmico hace que la injusticia sea una parte inherente del sistema educativo digital, que funciona de manera silenciosa pero sistemática. La tecnología que se supone nivela las oportunidades corre el riesgo de volver a incrustar las jerarquías sociales en una nueva forma: la discriminación basada en datos.

En el contexto de Indonesia, esta cuestión es cada vez más relevante. El plan de estudios Merdeka enfatiza la diferenciación y el aprendizaje según las etapas de rendimiento de los estudiantes. La IA tiene el potencial de fortalecer ese ideal. Sin embargo, sin pautas éticas y competencia docente, la tecnología puede en realidad reemplazar el proceso de aprendizaje simplemente consumiendo respuestas. Un estudio citado El economista La Fundación señala que los beneficios de la IA sólo surgen cuando los profesores dominan cómo integrarla pedagógicamente, no sólo técnicamente.

Pasos Estratégicos

Entonces, ¿qué se debe hacer? Hay varios pasos políticos estratégicos.

En primer lugar, establecer normas para la protección de los datos de los niños. Insta a que nuestro país tenga estándares estrictos de recopilación de datos sobre aplicaciones educativas y juguetes inteligentes: minimización de datos, prohibición de uso comercial, así como mecanismos de eliminación automática. Sin ellos, los niños se convierten en blancos fáciles para un ecosistema digital ávido de datos.

En segundo lugar, fortalecer la alfabetización en IA para profesores y padres. Los docentes deben estar dotados de conocimientos éticos y pedagógicos, no sólo de habilidades técnicas. Los padres también deben comprender que la IA no sustituye la interacción humana. Los gobiernos, las universidades y la comunidad educativa pueden colaborar para crear programas de alfabetización en IA que sean simples, contextuales y sostenibles.

En tercer lugar, garantizar la igualdad de acceso. La IA tiene el potencial de ser una herramienta para la igualdad, pero sin la intervención del Estado en realidad ampliará la brecha. La inversión en infraestructura digital, la tutoría de docentes en áreas 3T y el suministro de dispositivos asequibles deben ser una prioridad.

En última instancia, la infancia no debería reducirse a datos y algoritmos. Los niños necesitan espacio para jugar, fracasar, volver a intentarlo, negociar y experimentar el mundo real con todas sus incertidumbres. La IA puede ser una herramienta que enriquezca esa experiencia, pero no debería reemplazarla.

La pregunta no es si la IA estará presente en la vida de nuestros hijos, porque ya está sucediendo. La pregunta es: ¿dejamos que la IA determine la infancia o la moldeamos para que respete la infancia?

Aquí es donde se ponen a prueba las políticas, la ética pública y las responsabilidades morales de los adultos. La generación que crece hoy heredará las consecuencias de nuestras decisiones; Nuestro trabajo es garantizar que la esperanza sea más fuerte que la amenaza.

*) Pormadi Simbolon, observador de cuestiones educativas y culturales, vive en Banten