Cuando el Papa León XIV presentó el lunes una carta abierta de 42.300 palabras a los 1.400 millones de católicos del mundo, en la que pedía medidas de protección contra el auge de la inteligencia artificial, estuvo acompañado por Christopher Olah, cofundador de Anthropic, una de las empresas líderes en inteligencia artificial del sector tecnológico.

Mientras Leo instaba a los ejecutivos de empresas, a los reguladores gubernamentales y a otros ciudadanos del mundo a proteger a la humanidad de los peligros de la IA, incluyó al Sr. Olah como símbolo del diálogo que espera fomentar entre los líderes de los mundos espiritual y tecnológico.

Pero para Jeremy Nixon, la reunión del lunes en el Vaticano demostró que esos dos mundos distan mucho de estar alineados. Mientras que el papa afirmó que la IA no es fundamentalmente humana, Nixon, una figura influyente en el dinámico sector de la IA del Área de la Bahía, argumentó que las declaraciones de Olah parecían sugerir lo contrario.

«No están dialogando», dijo el Sr. Nixon durante una entrevista en AGI House, una «casa de hackers» de San Francisco con estrechos vínculos con muchas de las personas que ayudaron a crear las tecnologías de IA que se mencionan en la encíclica del Papa. «Sus perspectivas son distintas».

La diferencia entre la visión humanista de los riesgos de la IA y el sueño tecnólogo de lo que podría llegar a ser es un tema que se ha debatido durante mucho tiempo en la comunidad del Sr. Nixon. «Es la razón de ser de esta comunidad», afirmó el Sr. Nixon. «Es su propósito fundamental».

El Sr. Nixon, de 33 años, es uno de los fundadores de AGI House, cuyo nombre hace referencia a la búsqueda desenfrenada de la "inteligencia artificial general" por parte de Silicon Valley, una máquina hipotética capaz de hacer todo lo que el cerebro humano puede hacer .

“Nuestro nombre hace referencia a este momento histórico”, dijo refiriéndose a su casa compartida de siete habitaciones. A lo largo de los años, ha sido el hogar de un grupo rotativo de investigadores, emprendedores y filósofos.

Más que la mayoría, el Sr. Nixon comprende la tecnología emergente de Silicon Valley y la mentalidad de quienes la desarrollan. A finales de la década de 2010 y principios de la de 2020, cuando Silicon Valley comenzó a desarrollar las tecnologías que impulsan los chatbots, el Sr. Nixon trabajó en el laboratorio central de IA de Google. Posteriormente, fundó AGI House con Andrej Karpathy, quien fue uno de los primeros empleados de OpenAI, supervisó la tecnología de conducción autónoma en Tesla y recientemente se unió a Anthropic .

El señor Nixon afirmó que la encíclica papal podría tener alguna relevancia para los católicos de todo el mundo, pero dudaba que influyera en Silicon Valley. Según él, la única razón por la que Silicon Valley prestó atención al evento fue que Leo invitó al señor Olah a dar un discurso.

Para el Sr. Nixon, la carta abierta del Papa parecía uno más de los muchos documentos de política gubernamental que se han compartido entre grupos de expertos y organismos reguladores en los últimos años. «No parecía que la Iglesia hubiera reflexionado profundamente sobre su perspectiva independiente respecto a la IA», afirmó. «Ni siquiera intentándolo, podrían hacerlo».

Añadió: “No podían tomar una postura al respecto, porque no lo entienden”.

La respuesta a la encíclica en Silicon Valley fue bastante discreta.

David Sacks, el inversor de Silicon Valley que fue el responsable de la inteligencia artificial en la Casa Blanca, rechazó el llamamiento del Papa a favor de una mayor regulación de la IA. «Si otorgamos a los gobiernos un poder ilimitado sobre el desarrollo de la IA en nombre de la seguridad, ¿cómo evitamos que se utilice para censurar, vigilar y controlar a los ciudadanos, como predijo Orwell en "1984"?», afirmó.

Jack Dorsey, cofundador de Twitter y actual director de la empresa financiera Block, acogió con satisfacción el llamamiento del Papa para que los fundamentos de la IA —patentes, datos e infraestructura tecnológica— se compartan con todos, no solo con unos pocos.

El Vaticano no respondió a la solicitud de comentarios.

Con vistas a San Francisco y al puente Golden Gate al norte, AGI House acoge seminarios puntuales sobre las filosofías que impulsan la búsqueda de la IA en Silicon Valley y "hackatones" en los que investigadores de los principales laboratorios exploran los límites de las tecnologías que están desarrollando.

A primera hora de la tarde, tras la publicación de la encíclica del papa, decenas de sillas plegables se dispusieron en filas por toda la sala de estar. Pero en este Día de los Caídos, las únicas figuras en la habitación eran dos maniquíes de color negro azabache que se encontraban cerca de la pared.

Los fundadores de AGI House se instalaron inicialmente en una mansión de 68 millones de dólares en Hillsborough, California , al sur de San Francisco. Su objetivo era crear un espacio colectivo donde investigadores e ingenieros se reunieran para debatir nuevas ideas y fundar nuevas empresas. El Sr. Nixon fundó una segunda sede en San Francisco, cerca de la cima de Twin Peaks, con vistas a la ciudad desde sus colinas más altas.

Muchos de los fundadores e investigadores clave de Anthropic y OpenAI participaron en las primeras reuniones de AGI House. El Sr. Nixon es ahora fundador y director ejecutivo de una empresa emergente llamada Infinity Artificial Intelligence Institute, que busca automatizar la creación de inteligencia artificial .

El Sr. Nixon afirmó haber conocido a una generación de científicos que rechazaron la religión tradicional en favor de la tecnología. Tras crecer leyendo libros como "El espejismo de Dios" —en el que el biólogo evolucionista Richard Dawkins presentó a Dios como una creencia falsa refutada por la evidencia empírica—, él y sus colegas vieron en la IA una alternativa más real y mucho más poderosa.

Según afirmó, la IA ha comenzado a resolver problemas matemáticos con los que los humanos han lidiado durante décadas , y pronto curará enfermedades del mismo modo. «En la práctica, logrará los resultados que muchas religiones atribuyen a sus deidades», concluyó.

Esta es una creencia cada vez más común entre los investigadores de Silicon Valley. Insisten en que están en camino de crear una especie más poderosa, o incluso un nuevo dios.

«La gente afirma abiertamente que busca crear un dios máquina», declaró Rayan Krishnan, director ejecutivo de Vals AI, una empresa de San Francisco que monitoriza el rendimiento de las últimas tecnologías de IA. «No lo dicen con ironía ni en broma. Lo afirman como un hecho».

En su encíclica, titulada «Magnifica Humanitas» o «Magnífica Humanidad», León XIII abogó por medidas de protección para la humanidad. Subrayó que los seres humanos deben seguir desempeñando un papel fundamental en el ámbito laboral.

«Una sociedad que garantiza empleo solo a una pequeña fracción de la población, a pesar de tener un alto nivel de desarrollo técnico, corre el riesgo de exponer a muchos a la inactividad forzosa», escribió. «Esto crea una paradoja de progreso material y regresión antropológica que socava los cimientos de una paz social justa y estable».

El trabajo, añadió, no es solo una forma de obtener ingresos. Es “un requisito de la condición humana, un camino normal hacia la madurez, el desarrollo y la realización personal”.

También utilizó la historia bíblica de la Torre de Babel, en la que un grupo de humanos que hablan un único idioma unificado pretenden construir una torre que llegue hasta el cielo para poder ejercer su poder, como una forma de advertir a Silicon Valley sobre los peligros de intentar superar a Dios.

Su mensaje más contundente fue que la IA no era fundamentalmente humana , ya que solo podía imitar ciertas partes de la inteligencia y el comportamiento humanos. «Las llamadas inteligencias artificiales no experimentan, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no saben desde dentro qué significan el amor, el trabajo, la amistad o la responsabilidad», escribió.

Pero en un discurso de siete minutos en el Vaticano, el Sr. Olah, cofundador de Anthropic, describió una tecnología que podría estar evolucionando más allá de una simple máquina.

“¿Qué ocurre realmente en su interior?”, preguntó. “Encontramos estructuras que reflejan los resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud”.

El señor Nixon opinó que el discurso del señor Olah fue mucho más espiritual que las palabras del papa, incluso si las afirmaciones del señor Olah no se basaban necesariamente en la ciencia. Aunque el señor Olah insinuó que los chatbots podrían tener vida propia, el señor Nixon afirmó que siguen dependiendo en gran medida de los humanos para realizar cualquier tarea, como señaló el propio Olah.

“La IA sigue estando controlada por personas que intentan ganar dinero, resolver algún problema matemático o lo que sea”, dijo el Sr. Nixon.

Pero lo que está claro, añadió, es que los investigadores de IA están intentando crear tecnologías que tengan trabajo, sientan alegría y dolor, y exhiban todo tipo de cualidades que igualen e incluso superen los rasgos que nos hacen humanos. Cree que esto podría ocurrir en la próxima década.

Se rió entre dientes ante la mención de la Torre de Babel por parte del Papa. Cuando trabajaba en Google, un proyecto que la compañía denominó Babel desarrolló una tecnología de traducción que, en esencia, ha permitido que todos hablen el mismo idioma .

El lunes por la noche, él y otros miembros de su círculo se reunieron en la sala de estar de la Casa AGI para hablar sobre la encíclica. Coincidieron en que la carta abierta de León XIII tendría poca repercusión en Silicon Valley, según comentó, pero se preguntaron si Silicon Valley podría influir en el papa, es decir, si el Vaticano podría utilizar las tecnologías de IA para «crear una Nueva Jerusalén».

“La IA y sus capacidades representan algo análogo a la Segunda Venida”, dijo.