Las empresas responsables de desarrollar los modelos de inteligencia artificial más avanzados del mundo están buscando respuestas fuera de los laboratorios tecnológicos. Según reveló un reporte de la agencia Associated Press (AP), firmas de la talla de Anthropic, Google, Meta, Microsoft y Amazon han iniciado diálogos y consultas formales con sacerdotes, teólogos y filósofos de distintas tradiciones religiosas para ayudar a definir qué comportamiento se considera moralmente correcto en sus asistentes conversacionales.
¿Por qué las Big Tech buscan asesoría religiosa para sus modelos de IA?
La iniciativa responde a la dificultad de los algoritmos para abordar dilemas morales universales. Durante la presentación en el Vaticano de la primera encíclica del Papa León XIV sobre inteligencia artificial, el cofundador de Anthropic, Chris Olah, enfatizó la naturaleza de este desafío: “Estas no son preguntas que un laboratorio pueda responder. Son preguntas que tradiciones como la suya llevan milenios cargando”.
Lideres religiosos y filosofos asesoran a empresas de IA sobre principios eticosEl objetivo expresado por compañías como OpenAI y Anthropic no es imponer una doctrina específica ni alinear las máquinas con un solo credo, sino intentar mapear una suerte de “promedio ponderado” de la visión moral de la humanidad. En el caso de Anthropic, la firma confirmó reuniones con especialistas de más de 15 grupos culturales y religiosos para nutrir el criterio de su chatbot Claude con diversidad de puntos de vista seculares, políticos y de fe.
| Empresa Tecnológica | Acercamiento y Acciones Registradas |
|---|---|
| Anthropic (Claude) | Reuniones con más de 15 grupos religiosos y participación activa en foros del Vaticano. |
| Meta y Google | Encuentros con representantes del Vaticano y diálogo con su Junta de Supervisión. |
| Microsoft y Amazon | Diálogos activos con representantes de distintas tradiciones de fe y filosofía. |
Críticas académicas: el riesgo de reducir la religión a un “código de reglas”
El enfoque de las tecnológicas ha generado serios cuestionamientos en el ámbito académico. Expertos en antropología de la religión, como Webb Keane (Universidad de Michigan), advierten sobre el peligro de asumir que las religiones se pueden simplificar en un conjunto de principios extraíbles para alimentar un algoritmo.
Lideres religiosos y filosofos asesoran a empresas de IA sobre principios eticosKeane señala que este modelo tiende a privilegiar a las religiones abrahámicas (judaísmo, cristianismo e islam) por basarse en textos sagrados con reglas estructuradas, dejando fuera tradiciones que no se conciben como marcos normativos rígidos. Asimismo, Paolo Carozza, integrante de la Junta de Supervisión independiente de Meta, advirtió que al procesar y mezclar de manera artificial estas cosmovisiones, los modelos de lenguaje corren el riesgo de homogeneizarlas y borrar la identidad propia de cada cultura.
Del debate conceptual al entrenamiento algorítmico
Pese a los reparos, participantes del ámbito académico como Meghan Sullivan, filósofa de la Universidad de Notre Dame, valoraron la apertura intelectual de empresas que buscan ir más allá del código técnico. Dado que los modelos de lenguaje generan sus respuestas prediciendo patrones a partir de millones de textos —incluyendo escritos religiosos de distintas épocas—, el desafío de las empresas consistirá en equilibrar este corpus sin distorsionar el pensamiento ético acumulado a lo largo de la historia.
Resumen FayerWayer
- Anthropic, Google, Meta, Microsoft y Amazon consultan a líderes religiosos para orientar la ética de sus IA.
- Representantes de las tecnológicas mantuvieron encuentros con el Vaticano y académicos de diversas tradiciones.
- El objetivo planteado es reflejar un “promedio moral” de la humanidad en las respuestas de los chatbots.
- Académicos advierten sobre el riesgo de simplificar o distorsionar las religiones al convertirlas en reglas algorítmicas.
Preguntas frecuentes
¿Por qué las empresas de IA están consultando a sacerdotes y líderes religiosos?
Buscan orientar el comportamiento moral de sus chatbots apoyándose en tradiciones filosóficas y éticas que han abordado dilemas de la conducta humana durante siglos.
¿Qué empresas tecnológicas han participado en estas reuniones?
Representantes de Anthropic, Google, Meta, Microsoft y Amazon han mantenido encuentros con el Vaticano, teólogos y académicos de múltiples disciplinas.
¿Qué críticas plantean los antropólogos a este plan?
Advierten que intentar extraer “reglas morales” de las religiones beneficia a tradiciones escriturales (como las abrahámicas) y corre el riesgo de mezclar e invisibilizar cosmovisiones que no funcionan bajo esquemas normativos tradicionales.
¿Buscan las empresas alinear sus IA con una religión en particular?
No. La intención declarada por las compañías es integrar una amplia variedad de perspectivas religiosas, seculares y políticas para reflejar la diversidad de pensamiento humano.
