El papa León XIV afirmó que la Inteligencia Artificial debe ser “desarmada” para proteger a la humanidad de sus peligros, sumándose al intenso debate sobre hasta qué punto los Gobiernos deberían regular una tecnología que está transformando al mundo.
En un discurso histórico dirigido a la Iglesia católica, que incluyó una presentación en video con imágenes de la Revolución Industrial, la Segunda Guerra Mundial y la caída del Muro de Berlín, el papa León XIV llamó a hacer que la IA sea más “amigable con las personas”. Señaló que la Inteligencia Artificial necesita liberarse del control monopólico y alejarse de usos destinados a obtener ventajas geopolíticas o comerciales.
“Desarmar significa desacreditar la idea de que el poder técnico otorga automáticamente el derecho a gobernar”, aclaró el papa este lunes 25 de mayo en su encíclica Magnifica Humanitas (Magnífica Humanidad) dirigida a los fieles. “Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad”.
Al pronunciarse públicamente sobre la necesidad de proteger a las personas en la era de la inteligencia artificial, el primer papa estadounidense en la historia podría colocarse en una ruta de confrontación con el presidente Donald Trump, quien ha defendido una menor regulación de la IA para mantener una ventaja competitiva frente a China.
¿Qué peligros ve el papa León XIV en la IA?
El pontífice, de 70 años, se suma así a un debate cada vez más intenso sobre qué tan restringidos deberían estar los modelos de IA, ante temores de que puedan generar caos en el sistema financiero, seleccionar objetivos militares o incluso reemplazar a las personas en amplias áreas de toma de decisiones.
La publicación del documento Magnifica humanitas representa la acción más relevante del líder de los 1,400 millones de católicos desde que asumió el liderazgo de la Iglesia hace un año. Las encíclicas, como se conoce a estas cartas papales, son una vía para ofrecer orientación moral sobre los grandes desafíos de cada época, incluidos temas sensibles como el cambio climático y la migración.
Con formación en matemáticas, León XIV también alertó específicamente sobre los riesgos del uso de sistemas computacionales en conflictos armados y la pérdida de consideraciones éticas, al señalar que “ningún algoritmo puede hacer que una guerra sea moralmente aceptable”.
“La inteligencia artificial no elimina la naturaleza inherentemente inhumana del conflicto; de hecho, puede acelerar los enfrentamientos y volverlos más impersonales”, advirtió el pontífice. También alertó sobre la posibilidad de que algunos “consideren los conflictos armados como una forma efectiva de desviar la atención de problemas internos y una herramienta cínica para gestionar dificultades”.
Sus comentarios ocurren mientras la presentación de Mythos, una herramienta de inteligencia artificial desarrollada por Anthropic PBC capaz de identificar fallas desconocidas en sistemas informáticos, ha generado inquietud global en los últimos meses.
Al advertir sobre los riesgos de una IA sin regulación, el Vaticano también extendió una invitación a Christopher Olah, cofundador de Anthropic y especialista en aprendizaje automático. La empresa creadora del popular chatbot Claude ha tenido diferencias con la administración Trump por el uso de su tecnología en ámbitos militares y de vigilancia.
“Necesitamos que más actores del mundo, comunidades religiosas, sociedad civil, académicos y gobiernos, hagan lo que Su Santidad ha hecho aquí: Tomar este asunto con seriedad, examinarlo a fondo y orientar los acontecimientos hacia una mejor dirección”, afirmó Olah tras la presentación del papa. “Necesitamos críticos informados que señalen cuando las empresas tecnológicas están fallando. Necesitamos voces morales que los incentivos económicos no puedan doblar”.
El vicepresidente estadounidense JD Vance, convertido al catolicismo y cercano al multimillonario de Silicon Valley, Peter Thiel, uno de los primeros inversionistas de OpenAI, insinuó la tensión creciente sobre este tema. Recientemente, León XIV y Trump también intercambiaron posturas sobre la oposición del papa a la guerra en Irán.
“Creo que cuando el líder de los católicos habla sobre un tema así, sin duda tendrá influencia y seguramente aportará muchas ideas valiosas”, afirmó Vance en una conferencia de prensa el 19 de mayo. “Con algunas probablemente estaré de acuerdo y con otras quizá no”.
Peter Thiel estuvo en Roma este año para participar en una serie de conferencias privadas ampliamente comentadas sobre el anticristo. Como respuesta, el asesor del Vaticano, Paolo Benanti, criticó las posturas libertarias del empresario en un artículo de opinión, al calificarlas como “un acto sostenido de herejía”.