Una noche de 2007, Dario Amodei entretuvo a un amigo que lo visitaba en la Universidad de Princeton con sus reflexiones sobre "La singularidad está cerca", un tratado de 2005 del científico informático Ray Kurzweil.
El doctor Amodei acababa de leer el libro en el que el señor Kurzweil predecía que la inteligencia artificial acabaría superando al cerebro humano en un momento conocido como la Singularidad . Mientras se enroscaba el pelo con los dedos, el doctor Amodei le comentó a su amigo Colin Heckman que ese hito podría ocurrir durante sus vidas.
“Se obsesionó”, dijo el Sr. Heckman, quien fue compañero de clase del Dr. Amodei en la escuela secundaria de San Francisco. “Decía que la IA tenía que construirse correctamente, o estaríamos perdidos”.
El Dr. Amodei, que entonces tenía 24 años y era estudiante de doctorado en física, se encontraba en un periodo de intensa absorción de información. Se había sumergido en los blogs poco conocidos "Accelerating Future" y "Overcoming Bias", donde los autores debatían sobre el potencial de la IA para aniquilar a la humanidad. También se había adentrado en los foros en línea de GiveWell, una organización que buscaba maximizar la eficacia de las donaciones caritativas, donde los intelectuales debatían sobre cómo recaudar la mayor cantidad de dinero para la filantropía.
Estos libros, blogs y comunidades en línea han influido en el Dr. Amodei hasta el día de hoy, según entrevistas con más de dos docenas de sus compañeros de clase, amigos, profesores y colegas. Ayudan a explicar las ideas que impulsan al director ejecutivo de 43 años de Anthropic, una empresa que se prepara para realizar una de las mayores salidas a bolsa del mundo este mes, y ofrecen una comprensión de cómo piensa realmente sobre la IA el hombre que está a la vanguardia de la revolución de la IA.
Según sus amigos y colegas, en el centro de la visión del mundo del Dr. Amodei se encuentran dos filosofías entrelazadas que comparten la firme convicción de que el razonamiento matemático puede cambiar el futuro de la humanidad.
Una de ellas es el «racionalismo», que busca aplicar el pensamiento objetivo al mundo. Defendida por personas como Eliezer Yudkowsky , un investigador autodidacta de IA, sostiene que la IA llegará a ser lo suficientemente poderosa como para destruir la sociedad. La otra es el «altruismo eficaz», que evolucionó paralelamente al racionalismo y busca maximizar el bien social con precisión matemática.
Estas corrientes de pensamiento se fusionaron para el Dr. Amodei en la firme convicción de que la IA podría ser tan peligrosa que solo él y otros tecnólogos afines podían ser los encargados de desarrollarla. Esto impulsó sus esfuerzos por crear IA antes de que lo hicieran personas sin preocupaciones por la seguridad de la humanidad, y despertó en él el deseo de controlar la tecnología, según afirman sus amigos y colegas.
Con la IA, "los beneficios solo se lograrán si desarrollamos la tecnología de la manera correcta, y, siempre que aprovechemos bien el tiempo que ganamos, vale la pena tener un cuidado excepcionalmente minucioso para hacerlo bien", escribió el Dr. Amodei en un ensayo de septiembre en el que pedía una ralentización del desarrollo de la tecnología.
Estas ideas sentaron las bases de Anthropic, empresa que el Dr. Amodei fundó en 2021 junto con su hermana, Daniela Amodei, y otras cinco personas que habían frecuentado comunidades racionalistas y de altruismo eficaz. A medida que la empresa crecía, sus puntos de vista —que el Dr. Amodei ha defendido con vehemencia y perseverancia— se han vuelto cada vez más relevantes.
El Dr. Amodei ha intervenido en debates geopolíticos y ha afirmado que Estados Unidos debería restringir la venta de chips a China para limitar la competencia de ese país en el campo de la IA. Ha defendido la necesidad de regular la IA para evitar que la tecnología se descontrole. En disputas con el Departamento de Defensa , ha declarado que la tecnología no debería utilizarse para la vigilancia masiva de los estadounidenses ni desplegarse en armas autónomas.
“Él se da cuenta de que hay un enorme riesgo existencial en juego”, dijo Nathan Avery, quien corrió campo a través en la escuela secundaria con el Dr. Amodei y mantuvo muchas conversaciones profundas con él a lo largo de los años, aunque se han distanciado. “Y necesita tomar las riendas para hacer algo al respecto”.
El Dr. Amodei, un multimillonario cuyo patrimonio neto aumentará con la salida a bolsa de Anthropic, declinó ser entrevistado a través de un representante de la empresa.
Su forma de pensar le ha granjeado seguidores, especialmente entre algunos que trabajan en seguridad de la IA y que afirman que el Dr. Amodei está desarrollando la IA de forma responsable. También le ha granjeado enemigos en Silicon Valley y Washington, con críticos —entre ellos Mark Zuckerberg de Meta y Jensen Huang de Nvidia— que lo atacan por ser un « catastrofista » y por intentar centralizar el poder en la IA. En septiembre, el Departamento de Defensa publicó en redes sociales : «Americanismo, no altruismo efectivo».
El Dr. Amodei, quien parece ser consciente de que sus ideas han irritado a otros, ha intentado diferenciar públicamente sus creencias del racionalismo y el altruismo eficaz. En 2023, declaró en el podcast “Hard Fork” del New York Times que no se consideraba un altruista eficaz.
“Comparto varias de las ideas”, dijo, pero estoy en contra de “dividir a la gente en tribus”.
¡Dario, relájate!
El doctor Amodei y su hermana menor, Daniela, crecieron en el barrio Mission de San Francisco. Su padre, Riccardo Amodei, era artesano del cuero, y su madre, Elena Engel, dirigía las renovaciones de la biblioteca pública. La pareja se separó en 1991, según consta en los documentos de divorcio.
En octavo grado en la Escuela Alternativa de Lawton, el Dr. Amodei ya destacaba. En 1997, él y un compañero fueron elegidos como "Los más propensos a tener éxito" y aparecieron en el anuario sosteniendo billetes de dólar.
En Lowell High School, la mejor escuela secundaria pública de San Francisco, el Dr. Amodei era un estudiante voraz que tomaba clases en la Universidad de California, Berkeley. Reflexionaba sobre ideas como el utilitarismo, que sostiene que las personas deben maximizar la felicidad para la mayor cantidad de seres vivos, y le preocupaban problemas como el error Y2K y su potencial para arruinar las computadoras del mundo, según contaron sus compañeros.
Richard Shapiro, que por aquel entonces era profesor de física en Lowell, contó que el Dr. Amodei solía pensar que no rendía bien en los exámenes. «Yo le gritaba: "¡Dario, relájate!"», dijo Shapiro.
En 2001, el Dr. Amodei se matriculó en el Instituto Tecnológico de California en Pasadena, pero solía regresar a San Francisco para visitar a familiares y amigos. En uno de esos viajes, fue con el Sr. Avery y el Sr. Heckman a un restaurante de sushi, donde debatieron sobre el utilitarismo. El Dr. Amodei era vegetariano, pero argumentó que no había problema en comer cangrejos porque son invertebrados.
Durante la comida, el Sr. Heckman planteó un experimento mental: si alguien comenzara a matar tantas gallinas como fuera posible, ¿cuándo tendría sentido matar a esa persona para evitar que murieran más gallinas? El Dr. Amodei soltó una risita y luego dijo que, según recordó el Sr. Avery, «había cierta cantidad de gallinas que, en términos utilitarios, pesarían más que un ser humano».
Según sus amigos, el señor Amodei, quien se declaraba ateo, tenía convicciones firmes. En 2003, llevó al señor Avery y a otros a protestas en San Francisco contra la invasión estadounidense de Irak.
Al año siguiente, el Dr. Amodei se trasladó a la Universidad de Stanford, en pleno corazón de Silicon Valley. Este cambio lo acercó a la Sra. Amodei, que estudiaba en un instituto cercano.
“Siempre quisimos salvar el mundo juntos”, dijo refiriéndose a su hermana en un podcast de 2023 .
La finitud del tiempo
Tras graduarse en Stanford en 2006, el Dr. Amodei ingresó en un programa de doctorado en física en Princeton, donde finalmente se centró en la aplicación de la física a la biología y la neurociencia computacional. Ese mismo año, falleció su padre, quien padecía hepatitis C. El Dr. Amodei se volcó en la investigación de las células de la retina y se interesó en desarrollar tecnología para acelerar el progreso científico.
Jade Wang, quien fue pareja del Dr. Amodei y fundó con él un grupo de debate científico, comentó que solían hablar sobre cómo los científicos que dedicaban su vida al estudio de una enfermedad tendrían un mayor impacto al desarrollar tecnología o métodos para todo su campo. Según ella, él mencionó a su padre, quien falleció antes del descubrimiento de un fármaco que hizo tratable la mayoría de los casos de hepatitis C.
Para entonces, el Dr. Amodei ya compartía los escritos del Sr. Kurzweil y del Sr. Yudkowsky, uno de los líderes del movimiento racionalista. Le intrigaba especialmente la idea del Sr. Kurzweil de que las tecnologías avanzadas permitirían a los humanos existir más allá de los límites naturales, una creencia conocida como transhumanismo.
Durante la visita del Sr. Heckman a Princeton en 2007, el Dr. Amodei le dijo que la Singularidad ocurriría en 2040 y que algún día los humanos podrían fusionar sus mentes con las de las máquinas. "Con el tiempo, nos convertiríamos en la nueva IA superinteligente o en un híbrido de IA y humano " , dijo el Dr. Amodei, según el Sr. Heckman.
El Dr. Amodei quedó tan fascinado por esta idea que animó a sus amigos y a su hermana a asistir a la conferencia anual del Instituto de la Singularidad del Sr. Yudkowsky. (Actualmente, el grupo se llama Instituto de Investigación de Inteligencia Artificial).
El señor Yudkowsky era "uno de los pensadores más profundos que he conocido" y "trataba explícitamente de propiciar una singularidad que sería beneficiosa para la humanidad", según les comentó el Dr. Amodei a sus amigos en un correo electrónico de 2008 al que tuvo acceso The Times.
En un correo electrónico enviado a The Times, el Sr. Yudkowsky dijo que el Dr. Amodei "actualmente no me pide ni sigue mis consejos, y no recuerdo ninguna ocasión en la que lo haya hecho".
Por esa época, el Dr. Amodei también comenzó a cartearse con Elon Musk, fundador de la compañía de cohetes SpaceX . El Dr. Amodei comentó a sus amigos que admiraba al magnate tecnológico y que había considerado trabajar para él, pero nunca lo hizo en la empresa espacial, según dos personas con conocimiento de las comunicaciones entre ambos.
En 2008, el Dr. Amodei descubrió GiveWell mientras leía el blog del economista Tyler Cowen, quien publicó que la organización ofrecía "consejos interesantes" sobre organizaciones benéficas. El Dr. Amodei se volvió activo en las listas de correo electrónico y los foros de GiveWell, donde debatió sobre un enfoque altruista eficaz aplicado a la filantropía y la ciencia.
En 2010, escribió que estaba "considerando una carrera en finanzas, lo que me permitiría donar más dinero del que dono actualmente", según un correo electrónico al que tuvo acceso The Times.
En una publicación de blog para GiveWell ese año, el Dr. Amodei habló sobre su decisión de donar 10.000 dólares. Decidió donarlos a Stop TB Partnership, que se centraba en la prevención de la tuberculosis en adultos, o a VillageReach, que ayudaba a vacunar a niños en aldeas africanas.
El Dr. Amodei escribió que la Alianza Alto a la Tuberculosis era superior en términos de "rentabilidad" porque atendía a adultos, y "los adultos son capaces de tener experiencias más profundas y significativas" que los bebés. "Creo que la muerte de un adulto es quizás dos o tres veces peor que la de un bebé", añadió.
El Dr. Amodei finalmente cambió de opinión tras considerar cómo los grupos llevaban a cabo sus misiones y concluir que VillageReach era más eficaz.
En 2011, comenzó su trabajo postdoctoral en Stanford estudiando células cancerosas. En su vida personal, experimentó con suplementos antienvejecimiento, mantuvo una estricta rutina de natación y se interesó por la reducción calórica, que, según algunos estudios, prolongaba la vida de ratones de laboratorio, comentaron sus amigos.
“A menudo hablaba de lo finito que es el tiempo y de cómo era el único recurso no renovable”, dijo el Sr. Avery, y añadió que el Dr. Amodei era “implacable con su tiempo”.
Según dos personas que lo conocen, esto se vio agravado por un diagnóstico de cáncer testicular en 2014. El Dr. Amodei se sometió a quimioterapia y se recuperó por completo.
Para entonces, ya había entablado una estrecha relación con Holden Karnofsky, uno de los fundadores de GiveWell. GiveWell había comenzado a colaborar con Good Ventures, la organización filantrópica del cofundador de Facebook, Dustin Moskovitz, y su esposa, Cari Tuna, quienes financian causas de altruismo eficaz. El Dr. Amodei comenzó a asesorar a la asociación, GiveWell Labs, en materia de financiación de proyectos de ciencias biológicas.
En aquel entonces, el Sr. Karnofsky salía con la Sra. Amodei. La pareja se mudó a una casa compartida en San Francisco, que con el tiempo incluyó al Dr. Amodei; Jared Kaplan, un físico teórico; y Christopher Olah , un estudiante universitario que había abandonado sus estudios y que había recibido clases particulares de matemáticas del Dr. Amodei.
Según tres personas que visitaron la casa, los compañeros de piso comentaban los ensayos del señor Yudkowsky y exploraban el racionalismo y el altruismo eficaz. También asistían a Burning Man, el encuentro anual de la contracultura que se celebra en el desierto de Nevada, donde a veces se disfrazaban de animales.
Posteriormente, el Dr. Kaplan y el Sr. Olah cofundaron Anthropic con el Dr. Amodei y la Sra. Amodei. En 2025, el Sr. Karnofsky también comenzó a trabajar para la empresa.
Un resurgimiento de la IA
A principios de la década de 2010, los avances en el aprendizaje automático (algoritmos informáticos que aprenden a realizar tareas por sí mismos analizando datos) llevaron a nuevas inversiones de las empresas tecnológicas en IA.
Una de las empresas que se sumó a la iniciativa fue el gigante chino de internet Baidu, que abrió un laboratorio en Sunnyvale, California, y contrató a Andrew Ng, pionero de la IA y procedente de Google, como científico jefe. El Dr. Amodei se unió a Baidu en 2014 y pronto se hizo conocido por quedarse a dormir en la oficina y compartir sus opiniones.
“Dario argumentaba de forma muy agresiva prácticamente en cada oportunidad”, dijo Gregory Diamos, un investigador que trabajó con el Dr. Amodei en Baidu.
Incluso en los inicios de esta era de la IA, el Dr. Amodei se percató de los peligros potenciales de la tecnología. En 2015, les comentó a sus colegas que la IA pronto podría igualar o superar las capacidades del cerebro humano, por lo que las empresas que la desarrollan no deberían eludir la posibilidad de que falle, recordó el Dr. Diamos.
Ese mismo año, el Dr. Amodei se unió a un laboratorio de IA de Google llamado Google Brain, donde se centró en la seguridad de la IA. Junto con otros cinco investigadores, entre ellos su compañero de piso, el Sr. Olah, publicó en 2016 un artículo titulado "Problemas concretos en la seguridad de la IA", en el que explicaba cómo la tecnología podría funcionar mal si se desarrollaba incorrectamente.
En 2016, el Dr. Amodei se unió a una nueva iniciativa de IA: una organización sin fines de lucro llamada OpenAI. Dirigió su equipo de seguridad y otro equipo que estudiaba las "leyes de escala", es decir, la idea de que los modelos de IA se vuelven más capaces a medida que se entrenan con más datos.
(The Times ha demandado a OpenAI y Microsoft, alegando infracción de derechos de autor sobre contenido informativo relacionado con sistemas de IA. Ambas compañías han negado dichas acusaciones).
Construyendo OpenAI
En OpenAI, las convicciones del Dr. Amodei sobre la forma correcta de desarrollar la IA se afianzaron, según afirmaron siete personas que trabajaron con él. Se mostró más crítico con el poder y los posibles riesgos de la IA y se esforzó por incorporar su visión al desarrollo de la tecnología.
Por ejemplo, tres días después de la elección de Donald J. Trump como presidente en noviembre de 2016, el Dr. Amodei escribió en la aplicación de mensajería interna de OpenAI que le preocupaba que Estados Unidos estuviera deslizándose hacia el autoritarismo. Según mensajes a los que tuvo acceso The Times, afirmó que no se sentía cómodo realizando investigaciones sobre tecnologías militarmente poderosas en un país autoritario.
El Dr. Amodei también escribió que el inversor Peter Thiel , quien había donado 1,25 millones de dólares a la campaña del Sr. Trump, era "moralmente condenable" por ese apoyo y que OpenAI ya no debería aceptar su dinero, según mensajes internos. (Founders Fund, una firma de capital de riesgo fundada por el Sr. Thiel, invirtió posteriormente en Anthropic ).
El Dr. Amodei también ayudó a concretar un acuerdo entre OpenAI y financiadores que compartían su visión. En 2017, puso en contacto a OpenAI con la fundación filantrópica dirigida por el Sr. Karnofsky, para la cual el Dr. Amodei era asesor técnico, según informaron tres personas familiarizadas con el acuerdo.
La organización del Sr. Karnofsky, ahora conocida como Coefficient Giving, donó 30 millones de dólares a OpenAI. El Sr. Karnofsky también se unió a la junta directiva de OpenAI.
Más tarde ese mismo año, el Sr. Karnofsky y la Sra. Amodei se casaron. En su boda, los invitados recibieron peluches y fueron premiados por organizar "los encuentros más románticos entre los diferentes personajes", según el sitio web de la boda de la pareja .
El Dr. Amodei lució una cabeza de panda en la boda, cuyo código de vestimenta para la recepción era "formal pero divertido". En una foto vista por The Times, aparece disfrazado junto al Sr. Olah, quien llevaba una cabeza de jirafa, y Cami Clark, una mujer con la que el Dr. Amodei salía. Él y la Sra. Clark se casaron en 2022.
En 2018, Daniela Amodei se unió a OpenAI, donde llegó a ser vicepresidenta de seguridad y políticas. Algunos empleados pronto plantearon dudas sobre la creciente influencia de los hermanos.
En diciembre de ese año, Joshua Achiam, investigador de OpenAI, le dijo a Sam Altman, el director ejecutivo, que sería imprudente nombrar al Dr. Amodei como director de ética de la compañía, según tres personas con conocimiento de las conversaciones. Achiam mencionó el creciente poder de los Amodei y afirmó que la supervisión de la IA debería ser compartida por personas con diferentes perspectivas.
Cuando el Sr. Achiam insistió en que se nombrara a un experto externo como director de ética, el Dr. Amodei lo confrontó. Según los testigos, el Dr. Amodei alzó la voz y afirmó que nadie era más idóneo para el puesto que él.
En 2018, el Dr. Amodei y la Sra. Amodei se hicieron cargo de un proyecto de la empresa llamado GPT, acrónimo de transformador generativo preentrenado. Exploraron una técnica de seguridad que buscaba enseñar a la IA a realizar tareas con instrucciones humanas, según informaron seis personas que trabajaban en la empresa.
Este enfoque —acercar la IA a los peligros potenciales y luego probarla con técnicas de seguridad— acabaría definiendo la carrera del Dr. Amodei.
Greg Brockman, presidente de OpenAI, intentó colaborar con GPT. Sin embargo, el Dr. Amodei y la Sra. Amodei se opusieron, según dos personas con conocimiento de la empresa. El Dr. Amodei le advirtió repetidamente al Sr. Altman que, si no mantenía al Sr. Brockman alejado del proyecto, se marcharía, indicaron estas fuentes.
Según una persona conocedora de su forma de pensar, para el señor Altman los ultimátums fueron demasiado lejos. Rechazó las exigencias de los Amodei.
En diciembre de 2020, el Dr. Amodei, la Sra. Amodei y otros colegas abandonaron OpenAI. Cuatro semanas después, fundaron Anthropic.
