El Papa León XIV en su encíclica Magnifica Humanitas reconoce que el mundo actual, al menos Occidente, es hijo de la Ilustración. Y la Ilustración es entendible sólo atendiendo a la evolución de las ideas, que son hijas de la cosmogonía judeocristiana. Durante la transformación cultural, estas ideas originan conceptos que son comunes, y hoy de linaje desconocido, como el libre albedrío, que engendra al individuo, el progreso, la igualdad, la libertad moderna y la solidaridad. Si antes la Iglesia Católica renegó de la Ilustración, hoy la acoge para defender al hombre del riesgo de esclavitud moderna que entraña la inteligencia artificial. También recuerda que las revoluciones tecnológicas han traído disrupciones sociales, económicas y políticas, dolor y muerte, porque el control de las tecnologías ha quedado en manos de élites codiciosas. Y que el beneficio del cambio tecnológico es posible sin traumas sociales.
Repasemos brevemente algunos de los cambios relevantes que han traído las revoluciones tecnológicas. El descubrimiento de Copérnico de que la Tierra no es el centro del universo arruinó la concepción de que el orden social es reflejo del orden divino, donde el monarca era el representante de Dios en la Tierra y todos debíamos obediencia ciega. Fue un golpe moral al absolutismo y despotismo. Este descubrimiento astronómico trastocó al mundo de entonces. Más tarde, la invención de la imprenta permitió otro salto cultural inimaginable. Como la Biblia era el eje de la sociedad y la gobernanza medieval, la imprenta favoreció la difusión de las escrituras sagradas. Con esta tecnología, la iglesia pierde el monopolio de la interpretación de la palabra divina. Las ideas cambian y el monarca pierde la categoría de soberano. A partir de entonces, la soberanía recae en el pueblo. Esta transformación trajo consigo las guerras religiosas, revueltas y revoluciones, en su mayoría muy cruentas.
Las revoluciones tecnológicas han ocasionado severos traumas sociales, económicos y políticos, inseguridad y miedo, porque alteran las estructuras sociales. La técnica, en este sentido, nunca es neutral: al modificar las condiciones de acceso al conocimiento y la legitimidad de las instituciones, redefine quién ejerce el poder y bajo qué criterios.
Años después, la revolución industrial sacudió nuevamente al mundo de entonces. La industrialización fue una construcción cultural y política que subordinó al hombre a los intereses de los dueños del capital. El cercamiento de tierras expulsó a millones de campesinos hacia las ciudades, donde la máquina de vapor y el ferrocarril transformaron la economía agraria en industrial. La electricidad aceleró la producción y la movilidad, pero también generó explotación laboral y miseria. Las huelgas obreras y la revolución bolchevique fueron respuestas al trauma de ese nuevo orden social. La técnica se convirtió en instrumento de dominación, generando una crisis social que se tradujo en conflictos políticos y militares, como las guerras mundiales. El Papa conoce y menciona esta historia. En su encíclica advierte de los riesgos que trae aparejada la inteligencia artificial para la humanidad.
Hoy vivimos una revolución digital que trasciende la eliminación de empleos. Lo crucial es quién diseña los sistemas, bajo qué lógica y para beneficio de quién. La encíclica Magnifica Humanitas denuncia el inconmensurable poder de las tecnologías de la información: “Quien controla la IA impondrá su visión moral”. En otras palabras, traerán consigo, en caso de que se mantenga la trayectoria actual, una nueva forma de ver y entender el mundo. Serán capaces de establecer qué es lo bueno y qué es lo malo. Definir qué debemos entender por el bien y el mal garantizará que los tecnofascistas se perpetúen en el poder, sometiendo a todas las personas a sus caprichos. Y ya sabemos cuál es su doctrina: la polarización para enfrentar a unos contra otros, el racismo, el control, el lucro y la codicia por encima de todo, la autoexplotación para lograr altas rentas mediante los algoritmos. Sería el fin del yo autónomo, del individuo y de la propiedad de nuestro cuerpo.
León XIV advierte sobre lo que llama el “síndrome de Babel”: la pretensión de uniformar, condenar la diferencia y deshumanizar a la humanidad. Finalmente, los tecnofascistas acarician el sueño de crear el “hombre nuevo”, que añoraban leninistas y estalinistas para convertirlo en un autómata manipulable. El pontífice aclara que la inteligencia artificial no es un instrumento neutral, sino un arma letal. Es el Dios de la meritocracia, que divide a los hombres en productivos e inservibles o desechables. Y el propósito real e inconfesable del diseño algorítmico, que se presenta como objetivo y natural, es ampliar la desigualdad y legitimar las formas de esclavitud digital. Los algoritmos clasifican y jerarquizan a las personas según métricas de productividad, reputación o consumo (el Big Brother de la novela de Orwel, 1984), generando exclusiones que presentan como innatas, cuando realmente son construcciones políticas disfrazadas de neutralidad técnica.
El Papa diagnostica nítidamente el efecto destructivo de las redes sociales y de los nuevos modelos de comunicación, y tiene clara su deriva totalitaria. La opinión pública, dice, se orienta y acostumbra progresivamente a narrativas irreconciliables y de confrontación, que amplifican los algoritmos y promueven el enfrentamiento y la oposición. Le preocupa la pérdida de la memoria histórica al desaparecer los testimonios directos del Holocausto y de las dos guerras mundiales. Esta amnesia, apunta, facilita la reescritura selectiva del pasado, gracias a la información falsa y a la manipulación de relatos que distorsionan las lecciones pasadas. A ello se suma lo que denomina una alianza de nihilismo y pragmatismo: “Los extremismos religiosos y los fanatismos identitarios se alían con un economicismo irracional, mientras que la política recurre con facilidad a la desinformación, a la ridiculización del adversario y a la construcción sistemática de miedos y resentimientos. Así, la diversidad del otro se vive cada vez más como una amenaza”.
El Papa sostiene que la inteligencia artificial “no es moralmente neutra”, sino que es un arma. Por eso llama a “desarmar” la IA, sustraerla a la lógica de la competencia armamentística, que es militar, económica y cognitiva. Desarmar significa, para el pontífice, romper el derecho a gobernarnos que se atribuyen las firmas tecnológicas e impedirles el dominio sobre lo humano. El fin es sustraer la IA de los monopolios, hacerla discutible, refutable y habitable. De otro modo, la inteligencia artificial es comparable en su poder aniquilador a la bomba atómica. Afirma que debe ser “liberada de las lógicas que la convierten en un instrumento de dominación, exclusión y muerte. Al igual que la energía nuclear, debe estar al servicio de todos y del bien común”.
Se trata de un sí a la innovación tecnológica, pero un rechazo a que unos cuantos la controlen. Por cierto, la IA se ha beneficiado de los conocimientos humanos y de las inversiones públicas, provenientes de los impuestos de los ciudadanos. La aportación de estas empresas al bienestar general mediante la tributación es mínima o inexistente.
La lógica vaticana empata con los estudios de Yuk Hui, quien subraya que la técnica es más una mera herramienta económica: se trata de un sistema de gobierno invisible que organiza la vida social, moldea la conducta humana y forja una nueva concepción del mundo. Por ello su peligro y la necesidad de su control democrático. En la industrialización, el poder de las máquinas estaba ligado al capital; en la era digital, el poder de las infraestructuras tecnológicas responde a quienes diseñan y controlan los algoritmos. Por ello, Yanis Varoufaquis llama a este modelo tecnofeudalismo. En ambos casos, el hombre queda sujeto a intereses ajenos, pero ahora la subordinación es más totalizante, pues se ejerce a través de la mediación constante de los dispositivos y las plataformas. De ahí el símil con la etapa feudalista.
Para que las revoluciones tecnológicas dejen de ser traumáticas, León XIV propone custodiar lo humano mediante verdad, trabajo digno y libertad frente a la mercantilización. Su encíclica contrapone Babel con Jerusalén, la cultura del poder con la civilización del amor. Hui añade que la técnica debe ser gobernada desde la tecnodiversidad y la diplomacia epistemológica, evitando que un modelo único se imponga a todas las culturas. Fareed Zakaria complementa esta visión al insistir en que las democracias deben fortalecer instituciones, regular inteligentemente la tecnología y preservar narrativas comunes que eviten el vacío existencial. Finalmente, Byung-Chul Han recuerda en La sociedad del cansancio que el régimen contemporáneo ya no se sostiene en la represión externa, sino en la autoexplotación constante, en un sujeto atrapado en la lógica de la optimización y el rendimiento.
Isaiah Berlin advirtió tempranamente: dejar libres a los coyotes en el gallinero es la muerte de las gallinas. Estamos ante el dilema de qué tanta libertad debemos dar a los innovadores tecnológicos para preservar la dignidad humana, que necesariamente pasa, de acuerdo con este filósofo, por un equilibrio entre igualdad y libertad. La igualdad es un dique a la libertad para favorecer la dignidad humana. De la misma manera, la libertad es un freno a la pretensión de igualdad absoluta, aspiración de los regímenes totalitarios, que al final del día resultaron abismalmente desiguales. Libertad e igualdad se requieren y autolimitan. La tensión entre estos dos valores resume el llamado a normar la IA.