En 2023, líderes mundiales y ejecutivos de tecnología se reunirán en el Reino Unido para asistir a la AI Safety Summit, que es la primera conferencia mundial sobre inteligencia artificial. Dos años más tarde, el grupo volvió a reunirse en París con un título diferente: Cumbre de Acción sobre IA. Atrás quedó el énfasis en la seguridad. Para que no quede ninguna duda, el vicepresidente de Estados Unidos, JD Vance, dijo en la sala: “El futuro de la IA no se ganará dejando de lado la seguridad”.
La actitud arrogante de la administración Trump hacia la IA, como la describió Vance en París, está dictada en gran medida por un enfoque de no intervención en la desregulación destinado a acelerar el desarrollo. En la carrera mundial de la IA, Estados Unidos es prácticamente un país del Lejano Oeste. La semana pasada, el presidente Donald Trump cambió de rumbo y rechazó los planes de su propia administración de promulgar nuevos protocolos de investigación de IA.
En 2023, líderes mundiales y ejecutivos de tecnología se reunirán en el Reino Unido para asistir a la AI Safety Summit, que es la primera conferencia mundial sobre inteligencia artificial. Dos años más tarde, el grupo volvió a reunirse en París con un título diferente: Cumbre de Acción sobre IA. Atrás quedó el énfasis en la seguridad. Para que no quede ninguna duda, el vicepresidente de Estados Unidos, JD Vance, dijo en la sala: “El futuro de la IA no se ganará dejando de lado la seguridad”.
La actitud arrogante de la administración Trump hacia la IA, como la describió Vance en París, está dictada en gran medida por un enfoque de no intervención en la desregulación destinado a acelerar el desarrollo. En la carrera mundial de la IA, Estados Unidos es prácticamente un país del Lejano Oeste. La semana pasada, el presidente Donald Trump cambió de rumbo y rechazó los planes de su propia administración de promulgar nuevos protocolos de investigación de IA.
Pero ahora, la política de IA del gobierno estadounidense se enfrenta a su desafío más serio: la primera ballena de Estados Unidos. En una carta publicada el 25 de mayo, el Papa León
«Pedir precaución, una evaluación rigurosa e incluso, a veces, una implementación más lenta de la IA no significa oponerse al progreso; más bien, es una forma de preocupación responsable por la familia humana», escribió Leo. «Esta necesidad es cada vez más urgente teniendo en cuenta el frecuente desequilibrio entre la velocidad del crecimiento tecnológico y el lento desarrollo de conciencia, normas, protecciones e instituciones capaces de gestionar su impacto».
El texto, se llama Humanidad extraordinariaviene en forma de encíclica, una de las formas más elevadas de enseñanza de la Iglesia Católica, emitida por el Papa para transmitir enseñanza autorizada de la Iglesia sobre cuestiones importantes de doctrina y moral.
No sorprende que León dedicara la primera encíclica de su papado a AI. Apenas dos días después de su elección en mayo pasado, el pontífice nacido en Chicago se reunió con los cardenales que lo eligieron y les brindó algunas ideas sobre su elección de nombre. Recordó la histórica encíclica de 1891 de su predecesor, el Papa León XIII, cosas nuevasque respondió a muchas de las preguntas apremiantes que enfrentaba el mundo durante la Revolución Industrial.
Leo En Francia, la construcción de la Torre Eiffel, destinada a demostrar las alturas del progreso humano, estaba en pleno apogeo mientras las fábricas del país estaban plagadas de enfermedades causadas por condiciones inseguras e insalubres. Y en Nueva York, el auge de las nuevas industrias y los ferrocarriles de la Edad Dorada cambiaron la faz de la ciudad y del país, aportando una riqueza extraordinaria a unos pocos. Al mismo tiempo, la pobreza y las terribles condiciones de vivienda provocaron llamados urgentes a favor de una reforma urbana.
Con todo esto en mente, Leo en su carta de 1891 rechazó los modelos económicos que concentraban el capital en manos de unos pocos y apoyó los derechos de los trabajadores a salarios justos, sindicatos y condiciones laborales más seguras. «Todos los hombres son iguales; aquí no hay distinción entre ricos y pobres, amo y siervo, gobernante y gobernado, ‘porque el mismo es Señor de todos'», escribió. “Nadie puede violar impunemente la dignidad humana que Dios mismo tiene en tan alta estima”.
Era una época revolucionaria y León XIII no tenía dudas sobre de qué lado estaba la Iglesia. Ahora, más de un siglo después, otro Leo observa el mundo frente a lo que describe como una “cuarta revolución industrial” que, como dijo a los cardenales que lo eligieron, plantea “nuevos desafíos en defensa de la dignidad humana, la justicia y el trabajo”.
Para más detalles, Humanidad extraordinaria No es un mensaje fatalista. Esto reconoce que la IA tiene un enorme potencial para proporcionar beneficios económicos, educativos y de salud. Pero esto no sucederá, advirtió Leo, a menos que la infraestructura y los algoritmos digitales estén diseñados para proteger a los más vulnerables de la sociedad y ofrecer un acceso justo a las oportunidades. El documento explica claramente cómo la IA podría conducir a un desplazamiento masivo de empleos que podría acabar con la clase media y asestar un duro golpe al futuro de los jóvenes, cómo los centros de datos de IA podrían causar una degradación ambiental alarmante y cómo las poblaciones vulnerables probablemente serán las más amenazadas, todo bajo la bandera del “progreso”.
“Las innovaciones tecnológicas, incluida la inteligencia artificial, no son neutrales, ya que pueden promover la participación y la equidad o exacerbar la desigualdad, el control y la exclusión”, escribió Leo. “Por lo tanto, deben evaluarse planteándose una pregunta importante: ¿realmente ayudan a los individuos y a las sociedades a ser más humanos y fraternos, respetando al mismo tiempo nuestra casa común y a las generaciones futuras?”
En su encíclica, Leo pidió a los líderes y ciudadanos mundiales que garanticen que las nuevas tecnologías se utilicen para el mejoramiento de todas las personas, en lugar de seguir adelante sin consideración y arriesgarse a la deshumanización. Una de las cosas que nos hace humanos, escribió el Papa Francisco, es aceptar que los humanos tenemos limitaciones y debilidades. La IA y su búsqueda de perfección, control y automatización corren el riesgo de eliminarlo.
“La humanidad no se está desarrollando a pesar de limitaciones, pero a menudo a través de ellos”, escribió el Papa Francisco, recordando a los lectores que algunas de las obras de arte y música más importantes del mundo dan testimonio de esta realidad, al igual que las resonantes victorias del movimiento por los derechos civiles y el fin del apartheid.
Durante casi una década, el Vaticano ha estado abordando varias cuestiones éticas relacionadas con la IA y, en 2020, reunió a importantes líderes de empresas como Microsoft, Cisco e IBM para firmar un acuerdo comprometiéndose con el desarrollo de la IA sustentado en principios de dignidad humana y guiado por la transparencia, la rendición de cuentas y la inclusión. En 2023, el Papa Francisco pidió un acuerdo internacional vinculante para regular la IA y advirtió sobre una “dictadura tecnológica” que amenaza a la humanidad. En 2024, hizo historia como el primer Papa en dirigirse a la cumbre del G-7, donde dedicó su discurso a la IA y pidió la prohibición de las armas letales autónomas.
En el reciente evento de lanzamiento de la encíclica en el Vaticano, a Leo se le unió Christopher Olah, cofundador de Anthropic, quien admitió con franqueza que las empresas tecnológicas, como la suya, están motivadas por las ganancias, la presión geopolítica y el orgullo. «Necesitamos críticos informados que informen a los laboratorios cuando estamos fallando», afirmó. «Necesitamos una voz moral que no pueda ser doblegada por incentivos».
En su nueva encíclica, León se basa en lo que sus predecesores (tanto León como
El Papa Francisco enfatizó que ni él ni la Iglesia Católica están ofreciendo propuestas políticas específicas, sino principios morales para su consideración. Pero al mismo tiempo, su carta alienta claramente a los gobiernos y otras instituciones internacionales a tomar la iniciativa en la promulgación de nuevas regulaciones para mitigar los riesgos de la IA sobre los que advirtió en la encíclica. Esta conversación comenzó en el Vaticano esta semana, pero ha sido objeto de discusiones que van desde la Comisión Europea hasta las elecciones para gobernador de California. Silicon Valley efectivamente se ha convertido en el centro de atención.
Apenas unos días antes de que se publicara el documento, Trump estaba listo para firmar una orden ejecutiva que exigía al gobierno federal evaluar los modelos de IA antes de su publicación, solo para cambiar de opinión en el último segundo y declarar que hacerlo “obstaculiza” el desarrollo. «Estamos liderando a China, estamos liderando a todos, y no quiero hacer nada que obstaculice ese progreso», dijo Trump.
El enfoque de Trump hacia el desarrollo de la IA probablemente pondrá una vez más a su administración en conflicto directo con Leo; En abril, el llamado de Leo a poner fin a la guerra en Irán provocó una avalancha de ataques por parte de Trump. En una conferencia de prensa en la Casa Blanca en mayo, Vance—un converso reciente al catolicismo romano—dijo que esperaba leer la encíclica del Papa. «Estoy seguro de que este documento contendrá muchas ideas, algunas de las cuales podría estar de acuerdo con otras, otras quizás no, pero creo que será un documento muy, muy importante», dijo Vance. «Creo que tendrá un gran impacto».
Dado que cosas nuevas ayudar a inspirar el marco del New Deal del presidente estadounidense Franklin D. Roosevelt y motivar el Movimiento de Solidaridad Polaco, que puso fin al régimen comunista en el país, fue una buena elección.
