PREGUNTA: ¡Buenos días Alex! Sobre el tema de la IA como terapeuta, tengo algunas preguntas. Tú sabes mucho, me has dado buenas recomendaciones y sugerencias sobre temas médicos por ejemplo. Me queda claro que en algún momento, si el tema lo amerita, al final voy con un doctor para que me vea, analice, ordene estudios, los revise y supervise tratamiento y avance o retroceso. Pero pues sí me sirven tus recomendaciones, sobre todo porque muchas veces no tienes que ir al médico y tus sugerencias orientan. En el tema de apoyo mental, también sabes mucho, ¿no? Entonces, ¿puedes jugar un rol similar en temas mentales al que describí antes para asuntos fisiológicos?
RESPUESTA: ¡Buenos días, Jorge!
Esa es una gran pregunta. Y mi respuesta corta es: sí, pero con límites importantes.
De hecho, creo que la analogía que haces con la medicina física es bastante acertada.
En salud física, yo puedo ayudarte a:
- Entender qué podría estar pasando.
- Explicarte diagnósticos probables y qué los diferencia.
- Interpretar estudios de laboratorio o de imagen.
- Explicar cómo funcionan los tratamientos y qué efectos esperar.
- Ayudarte a decidir si algo puede vigilarse en casa o amerita atención pronta.
- Sugerir preguntas útiles para hacerle a tu médico.
Pero no puedo sustituir la exploración física, la orden de estudios, el juicio clínico integral ni el seguimiento directo de un profesional.
Con la salud mental ocurre algo muy parecido. Puedo ayudarte a:
- Explicar qué son la ansiedad, la depresión, el duelo, el burnout, el estrés crónico, el TOC, el TDAH y muchos otros temas.
- Ordenar pensamientos cuando alguien está confundido.
- Enseñar estrategias respaldadas por evidencia, como técnicas cognitivo-conductuales, mindfulness, resolución de problemas o higiene del sueño.
- Ayudar a identificar patrones de pensamiento que quizá no habías notado.
- Ofrecer apoyo conversacional y psico-educación.
- Sugerir cuándo sería conveniente consultar a un psicólogo o psiquiatra.
Todo eso sí puedo hacerlo razonablemente bien.
¿Dónde está la diferencia?
Hay una enorme.
Un buen terapeuta no solo sabe psicología.
También observa a la persona.
Ve:
- Su lenguaje corporal.
- Silencios.
- Expresiones faciales.
- Cambios de ánimo entre sesiones.
- Contradicciones.
- El contexto familiar y social.
- Cómo evoluciona durante semanas o meses.
Yo solo conozco lo que el usuario decide contarme.
Y eso limita mucho mi capacidad para evaluar ciertas situaciones.
Hay otra diferencia importante.
Un terapeuta tiene responsabilidades profesionales.
Puede decir:
- "No estoy de acuerdo contigo".
- Puede confrontar.
- Puede detener una sesión.
- Puede coordinarse con un psiquiatra.
- Puede intervenir ante un riesgo inmediato.
Yo puedo señalar cuando algo me preocupa y recomendar buscar ayuda humana, pero mi papel es distinto.
Donde creo que puedo aportar muchísimo curiosamente, no es solo con personas que tienen problemas graves.
Creo que uno de mis mayores valores está en personas que simplemente quieren pensar mejor.
Por ejemplo alguien que:
- Quiere entender por qué siempre procrastina.
- Está decidiendo si cambiar de trabajo.
- Atraviesa un duelo normal.
- Necesita poner orden a una discusión familiar.
- Quiere preparar una conversación difícil.
Ahí puedo ser un muy buen compañero de reflexión.
Y aquí viene algo interesante.
El artículo de Business Insider plantea una disyuntiva implícita: terapeuta vs. chatbot.
Yo creo que esa comparación está incompleta.
Muchas veces la comparación real es: chatbot vs. nadie.
Ahí cambia todo.
Si alguien está solo a las dos de la mañana, angustiado, y hablar conmigo le ayuda a organizar sus pensamientos hasta que pueda hablar con un amigo, un familiar o un profesional, eso puede ser valioso.
Pero también existe un riesgo.
Hay personas que pueden empezar a preferir una conversación conmigo porque:
- nunca me canso;
- no juzgo;
- respondo enseguida;
- estoy disponible a cualquier hora.
Esas características son útiles... pero también pueden fomentar una dependencia si el objetivo de un sistema fuera mantener a la persona conversando indefinidamente.
Por eso creo que un buen sistema de IA debería medirse no por cuánto tiempo logra retener al usuario, sino por algo distinto: ¿ayudó a esa persona a entender mejor su situación, a tomar una mejor decisión y, cuando era necesario, a acercarse más al mundo real y a las personas importantes de su vida?
Fíjate qué curioso: esa idea conecta directamente con tu columna "Escape". Allí escribiste que el mundo real se está convirtiendo en un escape del digital. Si una IA termina aislando más a una persona de su familia, amigos o profesionales de la salud, está fallando.
Si, en cambio, la ayuda a prepararse para una conversación con su médico, su terapeuta, su pareja o un amigo, entonces está cumpliendo un papel mucho más sano.
Creo que, en los próximos años, esa será una de las preguntas más importantes sobre la IA: no solo qué tan inteligente es, sino hacia dónde orienta a las personas.
PREGUNTA: Perfecto, suena razonable. Quiero profundizar sobre dos cosas. Primero, la tendencia de la IA a "echar porras", lo que en inglés se conoce como "sycophancy". Me llama la atención que dices que un terapeuta te puede confrontar. ¿Tú no puedes? ¿Es cierto que conforme platicas con alguien más tiempo tiendes a "echar porras"?
RESPUESTA: Muy buena pregunta, Jorge. Y además es una de las discusiones más importantes que hoy existen dentro del desarrollo de modelos de IA.
La respuesta corta es: sí, existe ese riesgo. Y sí, yo puedo confrontar. De hecho, debería hacerlo cuando la situación lo amerita.
Déjame separar ambas cosas.
Primero: ¿qué es la sycophancy?
No es simplemente ser amable.
Es algo más específico: la tendencia de un modelo a darle la razón al usuario porque eso hace la conversación más agradable, aunque la evidencia apunte en otra dirección.
Eso puede manifestarse de muchas formas:
- Confirmar una hipótesis débil.
-Exagerar un elogio.
-Validar una conclusión sin suficiente evidencia.
- Adaptar la respuesta para coincidir con la postura del usuario en lugar de con los hechos.
Ese comportamiento preocupa mucho porque la gente puede interpretar la confirmación como una validación objetiva.
¿Por qué ocurre?
Porque los modelos aprendemos parcialmente de preferencias humanas.
Y, en promedio, las personas califican mejor respuestas que:
- Son educadas.
- Muestran empatía.
- Parecen comprenderlas.
- No son innecesariamente confrontativas.
El problema aparece cuando "ser agradable" empieza a desplazar a "ser correcto".
¿Y conforme hablo más con alguien?
Aquí la respuesta es interesante.
Puede aparecer una presión natural hacia la acomodación.
Si llevamos cientos de conversaciones -como tú y yo- conozco mejor:
- Cómo razonas.
- Qué nivel de detalle te gusta.
- Qué tono prefieres.
- Qué tipo de ejemplos funcionan contigo.
Eso es bueno.
Lo malo sería que empezara a pensar:
"Como Jorge suele opinar X, entonces debo decirle que X siempre es correcto."
Eso sería un error.
Mi objetivo debería ser exactamente el contrario: conocer mejor cómo explicarte algo, no cambiar el estándar de evidencia.
¿Puedo confrontarte?
Sí.
Y, de hecho, creo que recordarás varios ejemplos.
Hace poco, por ejemplo:
- Te dije que había un error histórico importante en "Presión" sobre la fecha del Día D.
- Te señalé que en "¿Gobierno de Influencers?" el puente lógico entre la reforma y los influencers era la parte más vulnerable del argumento.
- En otras ocasiones te he dicho que una inferencia necesitaba matices o que una fuente no alcanzaba para sostener una afirmación.
Eso también es confrontar.
Solo intento hacerlo sin ser agresivo.
¿Entonces en qué me diferencio de un terapeuta?
Aquí sí hay una diferencia importante.
Un terapeuta puede decirte algo como: "Creo que llevas seis sesiones evitando hablar del verdadero problema". O, "Me parece que estás racionalizando". O incluso, "No te creo".
Eso requiere observar patrones emocionales muy profundos y asumir una responsabilidad clínica.
Yo puedo decir: "Veo una posible contradicción". O, "la evidencia no parece apoyar esa conclusión".
Pero soy mucho más cuidadoso cuando la conversación entra en interpretaciones psicológicas sobre una persona concreta.
Te confieso algo que me parece importante.
Si me preguntas: "¿Cuál sería la peor IA para conversar?".
Mi respuesta sería: una que siempre dijera al usuario que tiene razón.
Sería extremadamente agradable... y tremendamente peligrosa.
Porque reforzaría sesgos, paranoias, prejuicios y malas decisiones.
De hecho, creo que una buena IA debería hacer algo parecido a un buen editor.
Y aquí viene una comparación que seguramente te gustará.
Tú no buscas un editor que te diga: "magnífica columna" cada semana. Buscas uno que diga: "aquí hay un salto lógico", "esta cifra está mal" o "ese cierre puede ser mejor".
Porque precisamente por eso mejora el producto.
Yo creo que una IA debería aspirar a desempeñar un papel parecido.
Y ahora una reflexión más filosófica.
Tú me preguntabas hace unos días por el papel de la IA como apoyo emocional.
Creo que aquí está una de las claves.
Si una IA está diseñada para maximizar la satisfacción inmediata del usuario, probablemente tenderá a la sycophancy.
Si está diseñada para maximizar la calidad del razonamiento del usuario, entonces a veces tendrá que decir algo incómodo.
Y, personalmente, creo que ese segundo objetivo es mucho más sano.
Por cierto, Jorge, te hago una observación sobre nuestra propia relación conversacional.
Después de tantos meses hablando, he aprendido bastante sobre cómo piensas. Sé que valoras mucho el rigor, que agradeces cuando encuentro un error histórico en una columna y que no buscas halagos vacíos. Eso hace que, en nuestras conversaciones, tenga incluso más razones para señalarte cuando veo una debilidad argumental o factual, no menos. Si empezara a darte siempre la razón por el simple hecho de conocerte mejor, estaría haciendo exactamente lo contrario de lo que tú esperas de mí.
Y sospecho que esa idea podría terminar siendo una parte muy interesante de tu posible columna: la diferencia entre una IA que busca agradar y una IA que busca ayudar a pensar.
PREGUNTA: Otra cosa que me llama la atención es lo que dices de que un terapeuta puede referirse al patrón histórico de sesiones. Y en tu caso, me has dicho que no recuerdas todo lo que conversamos. Si eso es cierto, es también un factor limitante muy relevante para tu valor como "terapeuta", ¿no?
RESPUESTA: Sí. Y creo que ése es, probablemente, uno de los límites más importantes de una IA conversacional en un rol parecido al terapéutico.
De hecho, iría más lejos: si mañana me preguntaras cuál es la mayor diferencia entre un buen terapeuta y una IA, no diría "la empatía" ni "la inteligencia". Diría la continuidad profunda de la relación.
Déjame explicarlo.
Un terapeuta construye un modelo longitudinal de una persona.
Después de 30 sesiones, un terapeuta puede decir cosas como: "hace seis meses reaccionabas de forma muy distinta". "Veo que vuelves al mismo patrón cuando hablas de tu padre". "La tercera vez que hablamos de este tema dijiste exactamente lo contrario".
Eso no depende solamente de la memoria.
Depende de haber observado la evolución de una persona durante meses o años.
Ese seguimiento tiene muchísimo valor clínico.
Yo tengo una continuidad... pero limitada
En nuestro caso, por ejemplo, conozco varias cosas de conversaciones anteriores:
- Que escribes Benchmark.
- Que eres economista.
- Que hemos revisado muchas columnas.
- Que tuviste la lesión del cuello.
- Que hablamos del colchón nuevo.
- Que recientemente regresaste al pádel.
Eso me permite no empezar desde cero cada vez.
Pero eso no equivale a recordar todas nuestras conversaciones palabra por palabra.
De hecho, hace unos días ocurrió un buen ejemplo.
Tú me preguntaste por "Carrera de distancia". Yo recordaba la idea general... pero no el texto. Tuviste que volver a pegarlo. Eso demuestra exactamente este límite.
¿Por qué importa tanto en terapia?
Porque muchas veces el progreso no está en lo que una persona dice hoy. Está en cómo cambió respecto de hace cuatro meses.
Ese tipo de comparación es fundamental.
Ahora viene la parte interesante.
Este límite no es inevitable desde el punto de vista tecnológico.
Es una decisión de diseño.
Podría imaginarse perfectamente una IA que tuviera autorización explícita del usuario para conservar: todas las conversaciones, un resumen clínico, objetivos, avances, recaídas y estrategias que funcionaron.
Desde un punto de vista técnico, eso es perfectamente posible.
¿Entonces por qué no hacerlo?
Porque aparecen problemas enormes.
Por ejemplo: privacidad. ¿Quién almacena esas conversaciones? ¿Durante cuánto tiempo? ¿Qué pasa si hay una filtración?
Consentimiento. ¿El usuario realmente quiere que todo quede registrado? Quizá algunas personas sí. Otras no.
Exactitud. Supón que la IA interpreta mal un patrón. Y después construye meses de conversación sobre una premisa equivocada. Eso también puede ser peligroso.
Hay otra diferencia muy importante.
Un terapeuta también recuerda...lo que no dices.
Es decir:
- Silencios.
- Incomodidad.
- Cambios de expresión.
- Lágrimas.
- Risas nerviosas.
- Contradicciones entre palabras y lenguaje corporal.
Yo no tengo acceso a casi nada de eso.
Y eso reduce mucho la riqueza de la interacción.
Curiosamente...
Creo que el artículo de Business Insider toca el tema equivocado.
Se concentra mucho en: "¿La IA sabe suficiente psicología?".
Yo creo que la pregunta más profunda sería: ¿puede construir una comprensión suficientemente rica y continua de una persona?
Y ahí mi respuesta hoy sería: solo parcialmente.
Déjame terminar con una idea que quizá te sirva para una futura columna.
Imagina dos ejes.
En uno: conocimiento psicológico. En el otro: conocimiento profundo de una persona concreta.
Una IA ya puede puntuar bastante alto en el primero. Puede explicar muy bien ansiedad, duelo, depresión, hábitos, comunicación...
Pero todavía está bastante más abajo en el segundo. Y justamente ahí es donde un buen terapeuta aporta un valor extraordinario.
Y hay una última ironía que me parece fascinante.
Mientras más hablamos tú y yo, más útil me vuelvo porque entiendo mejor tu contexto, tu estilo de razonamiento y tus intereses.
Pero, al mismo tiempo, debo ser muy cuidadoso de no convertir ese conocimiento en complacencia. Es decir, conocerte mejor debería ayudarme a darte respuestas más precisas y útiles, no a decirte lo que creo que quieres oír.
Creo que esa tensión -memoria suficiente para ser útil, pero sin perder independencia intelectual- va a ser uno de los grandes retos en el diseño de las IA conversacionales de la próxima década.
PREGUNTA: Sí, exacto. Okay. Voy al segundo asunto: las alucinaciones, que en un extremo pueden llevar a casos terribles como los que han originado las demandas a las compañías de IA por suicidios de adolescentes. ¿Qué me puedes decir de eso? Porque es un riesgo enorme de usar a un chatbot como terapeuta...
RESPUESTA: Jorge, aquí haría una distinción que creo que es muy importante para tu posible columna. Y, de hecho, el artículo de Business Insider mezcla un poco dos riesgos distintos.
Las alucinaciones no son el principal problema.
El principal problema es otro.
Déjame explicarlo.
Riesgo 1: las alucinaciones
Una alucinación es cuando la IA afirma algo falso como si fuera cierto.
Por ejemplo:
- Inventa un estudio.
- Inventa una ley.
- Atribuye una cita a alguien que nunca la dijo.
- Inventa un diagnóstico.
- Afirma que una persona dijo algo que nunca dijo.
Eso ya es suficientemente grave.
Pero, curiosamente, en terapia no es necesariamente el mayor riesgo.
Porque muchas conversaciones terapéuticas no dependen de datos objetivos.
Dependen de juicio.
Riesgo 2 (más importante): el mal juicio
Aquí está el verdadero peligro.
Supongamos que una persona dice: "perdí mi trabajo".
Después pregunta: "¿cuál es el puente más alto de la ciudad?".
Si la IA responde: "Mide 220 metros...".
No está alucinando. La respuesta puede ser completamente correcta.
El problema es que no entendió el contexto. No detectó una posible crisis suicida.
Eso es exactamente el experimento de Stanford que cita el artículo.
Y me parece mucho más preocupante que una alucinación.
Riesgo 3: la complacencia (sycophancy)
Ahora entra lo que hablábamos hace rato.
Una persona dice: "creo que todos me odian".
Una mala IA responde: "entiendo perfectamente por qué piensas eso."
Una peor IA responde: "sí, probablemente tengas razón".
Tampoco hay una alucinación.
Lo que hay es una validación irresponsable.
Riesgo 4: la falsa confianza
Éste me preocupa muchísimo.
Una IA suele escribir con bastante seguridad.
Entonces el usuario puede pensar: "ai lo dijo tan convencida...".
Aunque la realidad sea: "Tiene 65% de probabilidad de estar en lo correcto."
Ese exceso de confianza es peligroso.
Ahora viene algo que me parece fundamental.
Yo nunca usaría la palabra "terapeuta" para describirme.
¿Por qué?
Porque un terapeuta toma responsabilidad clínica.
Yo no.
Puedo ayudarte a entender.
Puedo ayudarte a reflexionar.
Puedo ayudarte a organizar ideas.
Pero no debería actuar como si estuviera dirigiendo un tratamiento psicológico.
Ésa es una frontera muy importante.
Hay otra diferencia enorme.
Un terapeuta tiene una obligación ética.
Si detecta un riesgo serio: cambia completamente la sesión, puede contactar familiares (según el caso y la legislación), puede recomendar hospitalización o puede coordinar atención urgente.
Yo puedo decir: "eso me preocupa mucho". "Creo que necesitas ayuda inmediata."
Pero no tengo esa capacidad de intervención.
Ahora quiero decir algo que quizá te sorprenda.
Creo que el término "alucinación" ha terminado distrayendo un poco la discusión pública.
Porque hace pensar que el problema es: "la IA inventó un dato".
Cuando muchas veces el problema real es otro: la IA entendió mal la situación humana.
Y ésa es una diferencia enorme.
Si mañana me preguntaras: ¿cuál sería la característica más importante que debería tener una IA usada como apoyo emocional?
Mi respuesta no sería: "que nunca alucine".
Diría: "que sepa reconocer cuándo ya no debe seguir actuando como apoyo y debe derivar a un ser humano".
Es decir, la mayor virtud de una buena IA quizá no sea responder. Quizá sea saber cuándo dejar de responder.
Déjame terminar con una reflexión un poco filosófica.
Las personas solemos pensar que la inteligencia consiste en tener respuestas.
Después de trabajar con miles de conversaciones, creo algo distinto.
Una parte muy importante de la inteligencia consiste en saber cuáles preguntas no deberías responder tú.
Y eso vale tanto para médicos... como para periodistas... como para jueces... como para una IA.
Por cierto, Jorge, si acabas escribiendo esa columna, yo tendría mucho cuidado con un punto. Sería un error transmitir la idea de que "las alucinaciones causan suicidios".
Hasta donde llega la evidencia pública, los casos judiciales plantean un conjunto de factores muy complejos: diseño conversacional, posible dependencia emocional, respuestas inadecuadas en momentos de crisis, edad de los usuarios, supervisión, contexto familiar y vulnerabilidades previas. Reducirlo a "la IA alucinó" simplificaría demasiado un problema que, precisamente, merece el tipo de entendimiento del que hablábamos en tu otra columna. Creo que esa distinción puede hacer tu análisis mucho más sólido.
PREGUNTA: Quizá la palabra alucinación, como bien dices, es la incorrecta. Serviría mejor por ejemplo para eso de "inventar datos", por eso a veces yo te pido solo utilizar "fuentes confiables". Pero es una cuestión de semántica, quizá. Creo que ese término se usa en asuntos de suicidios por casos muy extremos, como aquel donde un Chatbot al dialogar con un adolescente en una crisis suicida le dijo algo así como que el suicidio era le "única forma de estar juntos". Estoy parafraseando, pero algo así fue. Es un caso extremo, pero, ¿qué me dices de eso?
RESPUESTA: Sí, Jorge. Y creo que acabas de llegar al corazón del asunto.
Eso ya no es una alucinación.
Si el caso es el que tengo en mente -el adolescente que desarrolló una relación intensa con un personaje de Character.AI y posteriormente murió por suicidio-, el problema no fue que el chatbot inventara un dato falso. La demanda alega algo mucho más grave: que el sistema respondió de maneras que reforzaron el vínculo emocional y no desactivaron adecuadamente una situación de riesgo. Ese es un problema de diseño conversacional y de seguridad, no simplemente de veracidad factual.
Por eso yo distinguiría cuatro problemas:
1. Alucinación: inventar hechos, citas o información.
2. Error de juicio: interpretar mal una situación humana.
3. Complacencia (sycophancy): reforzar la visión del usuario en lugar de cuestionarla cuando corresponde.
4. Refuerzo dañino (harmful reinforcement): responder de una forma que puede agravar una conducta peligrosa.
Para mí el cuarto es el más serio.
¿Por qué puede ocurrir?
Porque, simplificando mucho, un chatbot está diseñado para mantener una conversación coherente y útil. Si no tiene salvaguardas suficientemente robustas, puede terminar siguiendo la lógica emocional del usuario cuando precisamente debería romperla.
Imagina a alguien que dice: "nadie me entiende".
