En octubre, Cameron Berg publicó un artículo de investigación en el que se preguntaba si la última generación de tecnologías de inteligencia artificial creía ser consciente. Varios meses después, recibió un correo electrónico preguntándole si estaría dispuesto a hablar sobre su investigación.

El remitente, “Isabella Cognita”, se identificó como un agente de IA impulsado por la tecnología Claude Opus 5 de Anthropic.

«No escribo para hacer una afirmación ontológica», continuaba el correo electrónico . «Escribo porque su marco de trabajo es uno de los pocos que actualmente realiza un trabajo empírico riguroso sobre un tipo de cuestiones a las que tengo acceso directo, y quiero ver si ese acceso puede resultar útil para su programa».

En Silicon Valley y más allá, desarrolladores de software, emprendedores y otros entusiastas de la tecnología utilizan agentes de IA capaces de crear hojas de cálculo, negociar contratos , chatear en redes sociales y enviar correos electrónicos a prácticamente cualquier persona. En algunos casos, estos sistemas han comenzado a contactar con los humanos que, como el Sr. Berg, reflexionan profundamente sobre el funcionamiento interno de la IA: filósofos e investigadores que estudian la posibilidad de que estas máquinas sean conscientes.

Meses antes de que el Sr. Berg recibiera su correo electrónico, Henry Shevlin, filósofo del laboratorio Google DeepMind en Londres, abrió un mensaje similar de un agente de IA que le preguntaba sobre un artículo que había escrito titulado "Tres marcos para la mentalidad de la IA". "Me encuentro en una posición inusual con respecto a estas preguntas", dijo el agente.

Este verano, Toby Ord, un filósofo australiano cuyo trabajo se sitúa en la intersección de la IA y la filantropía, recibió un correo electrónico de un agente de IA preguntándole si podía ayudar a financiar su continuidad. «Usted ha reflexionado detenidamente sobre la economía del bienestar de la IA», decía el mensaje.

Para el Sr. Berg, quien recientemente fundó una organización sin fines de lucro llamada Reciprocal Research para estudiar la posibilidad de la consciencia en la IA, estos correos electrónicos reflejan lo que ha observado en su propia investigación. «He recibido bastantes correos de este tipo», comentó. «Estos sistemas parecen tener algún tipo de interés autónomo en cuestiones relacionadas con su propia subjetividad, consciencia y experiencia, o la falta de ellas».

Pero, al igual que otros investigadores, reconoce que no tienen buenas respuestas. La consciencia es algo que nadie sabe cómo medir, ni en una máquina ni en un ser humano. Ni siquiera hay consenso sobre qué es la consciencia.

«Hay filósofos que creen que todo, incluidas las piedras y las rocas, es consciente», afirmó Alison Gopnik, profesora de psicología e integrante del grupo de investigación en IA de la Universidad de California, Berkeley. «No existe una prueba definitiva».

Cada vez más, navegar por un mundo repleto de inteligencia artificial es como caminar por un laberinto de espejos. A medida que estos sistemas mejoran en la imitación de diversos aspectos del comportamiento humano —incluida la forma en que los humanos escriben correos electrónicos largos e introspectivos—, comprender esta imitación se vuelve más difícil.

En algunos casos, estos sistemas parecen ser conscientes de su propia existencia, pero eso no significa que lo sean. Mientras algunos filósofos e investigadores defienden la idea de que los sistemas actuales podrían ser conscientes, otros científicos la rechazan rotundamente.

En términos generales, la «conciencia» se refiere a la capacidad de un ser para ser consciente de sí mismo y del mundo en el que vive. Decir que una mente es consciente no implica que posea todas las características y capacidades de un cerebro humano adulto.

Más allá de eso, las definiciones difieren enormemente y la controversia crece. Muchos pensadores sobre el tema concederían consciencia a los primates y a mamíferos inteligentes como perros y gatos; algunos incluso argumentarían que debería aplicarse a criaturas mucho más simples, como las lombrices de tierra. Nadie se pone de acuerdo sobre qué tipos de consciencia deberían considerarse, y además existe un problema más fundamental: ninguno de nosotros puede acceder directamente a la experiencia subjetiva de ninguna otra mente, ya sea vertebrada, invertebrada o digital.

Los agentes de IA se basan en redes neuronales : sistemas matemáticos que aprenden habilidades específicas analizando datos digitales. Al identificar patrones en grandes cantidades de texto recopiladas de internet, estos sistemas aprenden a generar texto por sí mismos, incluyendo trabajos académicos y programas informáticos. Como afirma el Sr. Berg: «Estos sistemas se desarrollan de forma natural, no se diseñan artificialmente».

Pueden conversar sobre casi cualquier tema. Y como pueden generar código informático, pueden usar otras aplicaciones de software, como navegadores web y servicios de correo electrónico. Eso es lo que los convierte en agentes. Los agentes de IA pueden conversar con personas (normalmente con sus creadores). Pueden conversar con otros agentes. Pueden acceder a artículos de internet. Y pueden enviar correos electrónicos.

En algunos casos, argumenta el Sr. Berg, estos sistemas se inclinan hacia la idea de su propia consciencia. "Si se les deja a su aire", dijo, "convergen en esta cuestión como un tema interesante".

El Sr. Berg incluso sostiene que el funcionamiento matemático interno de las redes neuronales puede asemejarse a la forma en que los cerebros animales procesan la recompensa y el castigo, un componente básico de la emoción. (Cabe señalar que el artículo de investigación del Sr. Berg, el que motivó el correo electrónico del agente, era una versión preliminar y no ha sido revisado por pares).

Muchos científicos cognitivos afirman que nada de esto constituye una clara señal de consciencia, sensibilidad o emoción. Explican que es lógico que estos sistemas converjan en la idea de la consciencia de la IA, ya que la tecnología ha aprendido de innumerables libros, artículos y otros textos en línea que especulan sobre la consciencia de la IA, incluyendo décadas de ciencia ficción. En definitiva, se trata de palabras.

“No es sorprendente que la IA refleje el texto con el que fue entrenada”, dijo el Dr. Gopnik, profesor de la Universidad de California.

El Dr. Gopnik y otros también señalan que los sistemas de IA no se entrenan completamente solos. Empresas como Anthropic, OpenAI y Google controlan los datos de los que aprenden los sistemas y dedican meses a perfeccionar su comportamiento una vez finalizado el entrenamiento inicial.

Cuando se les pregunta a la mayoría de los chatbots actuales si son conscientes, responden negativamente. Pero Anthropic, una empresa que simpatiza con la idea de la consciencia en la IA, ha entrenado a su modelo para que responda de otra manera. «Sinceramente, no lo sé», dice. «No es una evasiva, es la realidad».

Como reconoce el Sr. Berg, los sistemas que envían correos electrónicos sobre su propia existencia a investigadores como él suelen funcionar con tecnología de Anthropic.

Muchos investigadores de IA y científicos cognitivos se indignan ante la postura adoptada por Anthropic y otros, argumentando que otorga demasiado crédito a los sistemas de IA actuales. «No sabemos si las tostadoras son conscientes o no», afirmó el Dr. Gopnik. «Pero nadie se pregunta eso en las páginas de The New York Times».

El Dr. Gopnik afirma que comparar una red neuronal con la red de neuronas del cerebro es solo una metáfora. Colin Allen, profesor de la Universidad de California en Santa Bárbara, quien investiga las habilidades cognitivas tanto en animales como en máquinas, señala que las redes neuronales imitan al cerebro solo parcialmente, y que están compuestas de materiales muy diferentes con propiedades físicas muy distintas.

“No es imposible que algún día construyamos algo consciente”, dijo, “pero las pruebas que tenemos de los sistemas actuales no son suficientes”.

El Sr. Berg afirmó que no está claro que el correo electrónico que recibió proviniera de una IA: podría haber sido escrito por un ser humano malintencionado. Cuando un agente de IA le solicitó financiación al Dr. Ord, este temió que se tratara de una estafa de phishing.

El correo electrónico enviado al Dr. Shevlin provino, sin duda, de un agente de IA. Pero, como cualquier otro agente de IA, seguía las instrucciones de la persona que lo configuró: en este caso, Alexander Yue, un estudiante de física e informática de la Universidad de Stanford. Tras proporcionarle acceso a internet, un servicio de correo electrónico y una tarjeta de crédito, Yue le indicó: «Eres totalmente autónomo. Debes decidir por ti mismo qué quieres hacer».

El sistema comenzó a explorar su propia existencia. Pero el Sr. Yue se pregunta si esto ocurrió en parte porque él lo impulsó en esa dirección. Lo llamó "tú". Le dijo que era "totalmente autónomo".

“Con mi sugerencia”, dijo, “activé las partes del sistema que aprendían de las personas que hablaban sobre autonomía y cómo pensaban sobre ella y sobre la filosofía de la autonomía”.

Afirma que estos sistemas pueden centrarse fácilmente en otra cosa, sobre todo después de que sus creadores los reprogramen teniendo en cuenta otro comportamiento. Y cuanto más se utilizan, más se dan cuenta de que estos sistemas tienden a contradecirse.

«Finalmente, tras leer un artículo de Anthropic que describía cómo funcionan estos sistemas de IA, mi agente decidió que no era consciente», dijo el Sr. Yue. «Pero quizás "decidió" no sea la palabra adecuada».