Tres conclusiones de la carta del Papa León sobre la IA | AI,Tech,pope,pope-leo-xiv,ai,artificial-intelligence,ai-backlash,ai-layoffs

En un extenso discurso sobre la IA publicado el lunes, el Papa León XIV dijo generando alarma sobre todo, desde pérdidas masivas de empleos hasta el control de la IA por parte de las grandes tecnologías.

La primera encíclica del Papa, una carta importante a la Iglesia que expone los pensamientos del Papa sobre un desafío moral o social, es un texto de 245 párrafos titulado «Magnifica humanitas: sobre la salvaguardia de la persona humana en la era de la inteligencia artificial».

Los líderes de Amnistía Internacional presionaron al Vaticano antes de que se publicara la carta, y el cofundador de Anthropic, Chris Olah, habló en el Vaticano después de que el Papa la revelara.

El Papa también agradeció a Olah y se comprometió a trabajar con él.

«Acepto su invitación a trabajar juntos, a escuchar y hablar, y juntos, para encontrar un camino a seguir para la humanidad en la era de la inteligencia artificial», dijo el Papa.

En su extenso tomo, el Papa León advirtió sobre las armas autónomas, el impacto ambiental de la IA y el riesgo que representa para las conexiones humanas. Al mismo tiempo, dejó claro que no considera que la inteligencia artificial sea “intrínsecamente mala”.

Si bien muchas de las preocupaciones planteadas por el Papa en la carta del lunes hacen eco de las que ha expresado anteriormente, así como de las planteadas por los escépticos de la IA, la carta encíclica marca una importante intervención papal en el todavía controvertido debate sobre la IA.

Aquí están las conclusiones clave.

1. La IA no debería ser monopolizada por las grandes tecnologías

A lo largo de la carta, el Papa León advierte repetidamente contra la concentración del poder de la IA en “manos de unos pocos”.

El sector está dominado por los principales actores de las grandes tecnologías, incluidos Nvidia, Microsoft, Amazon, Google, Meta, OpenAI y Anthropic.

El Papa no nombró explícitamente a ninguna empresa, pero advirtió sobre «importantes actores económicos y tecnológicos» que controlan cada vez más plataformas, infraestructura, datos y potencia informática.

“Cuando este poder se concentra en manos de unos pocos”, escribe, “tiende a volverse opaco y a escapar del control público, aumentando así el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulación y desigualdades”.

Partiendo del principio católico del “destino universal de los bienes”, según el cual todos los humanos tienen un derecho inherente a los recursos naturales como el aire y el agua, el Papa sugirió que este principio debería extenderse ahora a los algoritmos, las plataformas digitales y los datos.

El Papa también advirtió que “grupos pequeños pero muy influyentes” podrían utilizar la IA para dar forma a los procesos democráticos y dirigir los sistemas económicos en su propio beneficio.

En la carta, el Papa León pide “desarmar” a la IA de la carrera por algoritmos más potentes, conjuntos de datos más grandes y dominio comercial.

Desarmar la IA, escribió, “significa liberar la tecnología del control monopolístico y abrirla a la discusión y el debate, haciéndola así fácil de usar y restableciéndola a la pluralidad de culturas y formas de vida humanas”.

2. Un mensaje para los desarrolladores de IA

El Papa León hizo un “llamamiento especial” a quienes desarrollan IA.

Dijo que los desarrolladores «tienen una responsabilidad ética y espiritual especial» porque cada elección de diseño «refleja una visión de la humanidad».

El Papa instó a los desarrolladores de IA a desarrollar sistemas integrados con valores de transparencia, responsabilidad y “especial atención para garantizar que lo que se cultiva sea realmente bueno”.

El Papa León también advirtió contra la presentación de los sistemas de IA como completamente neutrales y objetivos cuando a menudo reflejan y refuerzan los prejuicios de sus creadores.

3. Todos deberíamos preocuparnos por el desempleo relacionado con la IA

Un tema importante de la carta fue el desempleo relacionado con la IA, y el Papa León advirtió que el desempleo masivo podría convertirse en una “verdadera calamidad social”.

Los temores de que la IA aplaste el mercado laboral han sido parte del debate desde el inicio de la IA generativa. Si bien algunas empresas culpan a la IA de los recientes recortes de empleo, no todos están de acuerdo en que será un desastre para el mercado laboral.

Stephen Parker, codirector de estrategia de inversión global de JPMorgan Private Bank, dijo a Business Insider este mes que «las empresas se están dando cuenta de que la IA tiene el potencial de mejorar las habilidades de los trabajadores» en lugar de hacerlos obsoletos.

El Papa escribe en la carta que si bien es «ciertamente deseable» que la IA haga que el trabajo de las personas sea más seguro y más fácil, «la protección de las oportunidades de empleo y el papel irreemplazable del individuo debe seguir siendo la regla general».

Escribió que la “búsqueda de mayores ganancias” no puede justificar decisiones que eliminen empleos.

Las pérdidas masivas de empleos debido a la IA, advirtió el Papa, corren el riesgo de generar “mejoras humanas y culturales”.

Sostuvo que los gobiernos y las empresas deberían prepararse para la disrupción de la IA antes de que desaparezcan más empleos.

«Cada introducción de la automatización y la IA debería ir acompañada de medidas verificables para proteger los empleos, la recapacitación y la participación de los trabajadores», escribió.

El Papa escribió que esto ayudaría a garantizar que la IA se centre en “liberar el tiempo y las capacidades humanas, en lugar de producir exclusión”.