Magnifica humanitas es el título de la primera carta encíclica de León XIV que versa sobre la protección de la persona humana en tiempos de la inteligencia artificial. Se trata de un documento masivo, que con 200 páginas y 42,000 palabras equivale en tamaño una novela corta y supera, de hecho, la extensión combinada de El Gallo de Oro, de Juan Rulfo, y Crónica de una muerte anunciada, de Gabriel García Márquez.

La fecha de su presentación no es coincidencia, pues marca el 135º aniversario de la publicación de la encíclica Rerum novarum del Papa León XIII, que defendía los derechos de los obreros en las fábricas ante los retos planteados por la Revolución Industrial, el movimiento obrero y las sociedades democráticas modernas.

Resulta así profundamente poderoso que el texto del Sumo Pontífice comience con una metáfora bíblica muy conocida: la de la torre de Babel. La línea inicial de la encíclica es: “La humanidad, creada por Dios en toda su grandeza, se enfrenta hoy a una elección crucial: construir una nueva Torre de Babel o construir la ciudad en la que Dios y la humanidad habitan juntos”.

Todo eso parece sugerir que la intención del jerarca de la Iglesia Católica no es otra que seguir los pasos de su predecesor y escribir una encíclica social que aborda uno de los principales retos de la era contemporánea. Si en el pasado fueron los sindicatos y la máquina de vapor, hoy es la inteligencia artificial… y los robots asesinos.

“Seguir siendo humanos”

A lo largo de sus cinco capítulos, Magnifica humanitas sigue una línea discursiva fundamental: que la tecnología no es inherentemente malvada y que no tiene que ser, por tanto, una fuerza antagónica para la humanidad. Sin embargo, sí se permite advertir: “La tecnología nunca es neutral, porque adquiere las características de quienes la diseñan, financian, regulan y usan”.

Esa es la razón por la que el texto enfatiza la necesidad de que el desarrollo de la IA debe estar gobernado por principios morales y marcos regulatorios legales que aseguren que su uso beneficie a la humanidad. El texto es un llamado a los responsables del desarrollo de la IA a construir “por el bien común” y a “seguir siendo humanos”.

De allí la importancia de dos hechos: el primero: que el Papa -que estudió matemáticas y en el pasado ha enseñado física- haya tomado la inusual decisión de presentar su encíclica en persona; y el segundo: que a su lado haya estado sentado el multimillonario tecnológico canadiense Christopher Olah, cofundador del gigante de la IA Anthropic.

“Desarmar a la IA”

De hecho, Olah escribió en el sitio web de Anthropic un comentario a la encíclica y a las palabras de León XIV.

Allí se lee: “Todos los laboratorios de IA de vanguardia —incluido Anthropic— operan dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto. (…) Si queremos que esta tecnología funcione bien, es enormemente importante que haya personas fuera de esos incentivos—personas que se preocupen por que las cosas vayan bien e insistan en la seguridad, que presten mucha atención, que estén dispuestas a decir cosas difíciles, que estén dispuestas a ser nuestros críticos sinceros y reflexivos”.

Es un respaldo que resulta aún más significativo cuando la encíclica aborda el espinoso tema del uso de la IA en escenarios de conflicto. Para ello, echa mano de un doble significado a la hora de pedir “desarmar” a la IA.

Según explica Vatican News: “Desarmar significa desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar. No significa rechazar la tecnología, sino impedir que domine a la humanidad”. La máxima expresión de ese punto de vista en la encíclica es la oposición tajante al uso de la IA como arma de guerra y, específicamente, como elemento integral en la creación de armas autónomas, también conocidas como ‘robots asesinos’.

“Ningún algoritmo puede hacer que la guerra sea moralmente aceptable -dice el texto papal-. Cualquier tecnología que facilite ataques sin ver el rostro de los seres humanos reduce el umbral moral del conflicto”.

La encíclica va más lejos y declara oficialmente obsoleta la centenaria doctrina de la “guerra justa”. León XIV argumenta que la capacidad destructiva moderna es tan descomunal y tan salvaje, que hoy solo la estricta defensa propia puede tener cabida moral.

Cobra allí renovada relevancia la presencia del cofundador de Anthropic, pues esa firma está sumida actualmente en una compleja disputa legal con la administración del presidente de Estados Unidos, Donald Trump, justamente por negarse a que su tecnología sea usada en operaciones de vigilancia masiva y en ataques a gran escala. Trump tampoco ha perdido oportunidad de criticar al Papa, de entre todas las razones, por sus llamamientos a la paz en Irán.

Sin embargo, el obispo de Roma deja claro que no hay necesidad de ponerla a disparar misiles para usar la IA como un arma y que permitir que unas pocas empresas controlen los datos más sensibles de la Humanidad puede probar, a la larga, ser igualmente pernicioso.

“Quienes controlan los datos de salud de poblaciones enteras —a menudo recopilados bajo el pretexto de ayuda, investigación o innovación— poseen una influencia estructural sobre el futuro, pues pueden moldear las necesidades y los mercados. También pueden decidir, antes que nadie, a quién se asignarán los medicamentos, las inversiones y la protección. Aquí reside uno de los desafíos morales más urgentes de nuestro tiempo: garantizar que el conocimiento compartido se convierta en un verdadero bien común, en lugar de un instrumento de dominación”, dice la encíclica.

La ‘prueba de tornasol’ de la justicia social

Y si fuera poco, la encíclica de León XIV seguramente producirá otro punto de conflicto con la Casa Banca al proclamar los migrantes, refugiados y desplazados como una “prueba de tornasol” -el indicador clave- para la justicia social.

“La forma en que la sociedad trata a los migrantes revela si su sentido de justicia está impulsado por el miedo o por el espíritu de fraternidad”, se lee en el texto, que recuerda que la justicia social es el quinto principio de la Doctrina Social de la Iglesia y que, en la era digital, eso significa “dar acceso justo a las oportunidades para todas las personas, proteger a los más vulnerables y combatir el odio y la desinformación”.

Por todo esto es probable que las palabras del Papa sigan siendo leídas y analizadas por semanas y meses y, de hecho, es eso a lo que invitó expresamente Cristopher Olah, cuando escribió: “Necesitamos que más personas del mundo —comunidades religiosas, sociedad civil, académicos, gobiernos y, de hecho, todas las personas de buena voluntad— hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, mirar de cerca y empujar los acontecimientos en una mejor dirección. Necesitamos críticos informados que avisen a los laboratorios cuando estemos fracasando. Necesitamos voces morales que los incentivos no puedan doblar”.

Agregó: “Hoy es solo el comienzo de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver lo que nosotros, desde dentro, no podemos”.

Es un sentir que expresó, también, León XIV en su encíclcica, cuando escribió: “Solo con una visión integral podrá orientarse la Inteligencia Artificial hacia el bien común. Solo juntos —quienes diseñan los sistemas y quienes sufren sus consecuencias, los países más ricos y los más pobres, las instituciones y los individuos, los centros de poder y las periferias— seremos capaces de construir un futuro, no para unos pocos privilegiados, sino para toda la familia humana”.

-
La noticia 'Magnifica humanitas' del papa León XIV despedaza con una referencia bíblica lo que estamos haciendo con la IA: "una nueva Torre de Babel" fue publicada originalmente en Xataka México por Wilson Vega .