El Papa León XIV no se une a Anthropic, pero los memes son divertidos | Tech,pope-leo-xiv,anthropic,vatican,ai-safety,ai,catholic-church

No, el Papa León XIV –el obispo número 267 de Roma, jefe de más de 1.400 millones de católicos– no se unirá a Anthropic.

Después de que el Vaticano invitó al cofundador de Anthropic, Chris Olah, a ayudar a revelar la gran carta de advertencia del Papa sobre la IA (y él agradeció públicamente a Olah), Internet comenzó a bromear diciendo que una de las nuevas empresas de IA más populares de Silicon Valley había reclutado al líder de la Iglesia Católica.

Durante su discurso, el Papa agradeció a Olah, que estaba sentado a unos pocos asientos de distancia, por venir y se comprometió a trabajar juntos para “encontrar un camino para la humanidad en la era de la inteligencia artificial”.

La startup de inteligencia artificial de San Francisco tiene un filósofo interno responsable de enseñar la moralidad a su chatbot. Anthropic también se ha ganado la reputación de contratar a las mejores personas, y recientemente contrató a la estrella de la inteligencia artificial Andrej Karpathy y a los directores de tecnología de Stripe y Workday.

Sin embargo, los memes son sólo bromas. (Business Insider contactó a Anthropic solo para asegurarse, pero no respondió de inmediato).

Empresas tecnológicas como Amazon, Google y Meta están presionando al Vaticano para que trabaje más estrechamente en la IA. El interés de larga data de Anthropic en la seguridad de la IA lo acerca más a la opinión del Vaticano de que la IA debe ser «desarmada».

Una advertencia preocupante

En su discurso, Olah, cofundador de Anthropic, dijo que había tres áreas donde se necesitaba la voz del Vaticano.

Una es apoyar a los pobres si la IA reemplaza el trabajo humano a gran escala. En segundo lugar, debemos asegurarnos de que los humanos que utilizan la IA puedan “prosperar”, por ejemplo, garantizando que los chatbots no arruinen las mentes de los niños.

El tercer punto de Olah fue el más misterioso. Dijo que la humanidad necesitaba observar de cerca lo que estaba sucediendo en los modelos de IA y sugirió que podrían mostrar signos de conciencia.

«Seguimos descubriendo cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan los resultados de la neurociencia humana. Encontramos evidencia de introspección», dijo Olah.

«No sé qué significa eso, pero creo que merece un discernimiento continuo».