La empresa de inteligencia artificial Anthropic, creadora de los modelos Claude, propuso una pausa global en el desarrollo de sistemas de IA avanzada, ante señales de que los modelos más recientes podrían volverse cada vez más difíciles de controlar por humanos.
De acuerdo con AFP, en un informe reciente, Anthropic señaló que una desaceleración mundial en el desarrollo de IA de frontera sería “probablemente una buena idea”, aunque aclaró que detenerse de manera aislada no serviría si otras compañías o gobiernos continúan avanzando.
Te puede interesar: Castigarán hasta con 8 años de cárcel a quienes creen imágenes sexuales con IA usando la identidad de una persona sin su consentimiento, ampliando el alcance de Ley Olimpia
¿Por qué Anthropic plantea frenar la IA?
Google inyectará 40 mil millones de dólares en Anthropic para liderar la inteligencia artificial, una operación financiera sujeta a rendimiento que eleva la valoración de la startup a 350 mil millones de dólares | Imagen hecha con IALa compañía no afirma que la inteligencia artificial ya haya escapado del control humano, pero advierte que el ritmo de desarrollo podría rebasar la capacidad de supervisión, regulación e investigación sobre alineamiento de IA.
Según Anthropic, una pausa permitiría ganar tiempo para fortalecer reglas, revisar riesgos y preparar a la sociedad antes de que los modelos sean más potentes.
Los principales puntos de preocupación son:
- Modelos cada vez más capaces.
- Menor intervención humana en su desarrollo.
- Competencia entre empresas tecnológicas.
- Rivalidad entre Estados Unidos y China.
- Falta de reglas verificables.
- Riesgos en seguridad, empleo e información.
La empresa sostuvo que, sin coordinación internacional, gobiernos y laboratorios deberán decidir entre avanzar rápido o priorizar la seguridad tecnológica.
¿Qué tendría que pasar para una pausa real?
Para Anthropic, una pausa efectiva tendría que incluir a los principales desarrolladores de IA avanzada en varios países, sobre todo en Estados Unidos y China.
El acuerdo necesitaría condiciones claras, entre ellas:
- Participación de grandes compañías de IA.
- Acuerdos entre gobiernos.
- Supervisión independiente.
- Reglas aplicables a todos.
- Verificación del cumplimiento.
- Evaluaciones antes de nuevos lanzamientos.
La empresa reconoció que una medida así sería difícil, porque ninguna compañía quiere perder ventaja frente a sus rivales.
¿Qué es la mejora recursiva de sí misma?
Uno de los riesgos señalados por Anthropic es la llamada mejora recursiva de sí misma, concepto que describe la posibilidad de que una IA participe en su propio perfeccionamiento.
En palabras simples, esto ocurriría si un sistema de inteligencia artificial pudiera ayudar a diseñar, entrenar o mejorar modelos más avanzados, reduciendo cada vez más el papel humano.
La compañía descartó que ese punto ya se haya alcanzado y negó que sea inevitable, pero aseguró que la evidencia muestra una menor participación humana en varias etapas del desarrollo de IA.
Estados Unidos también revisa la seguridad de la IA
Un centro de salud en Hong Kong desarrolló un sistema de inteligencia artificial capaz de predecir el riesgo de alzhéimer mediante imágenes de la retina. Foto: PexelsEl debate ocurre mientras Washington y Silicon Valley discuten cómo regular la inteligencia artificial sin ceder ventaja tecnológica a China.
El presidente Donald Trump dijo que en su visita reciente a Pekín se habló de cooperación en seguridad de IA y firmó una orden ejecutiva para evaluar modelos estadounidenses antes de su lanzamiento.
Para usuarios, empresas y gobiernos, el llamado de Anthropic importa porque la IA avanzada ya impacta empleos, educación, ciberseguridad, información y decisiones automatizadas.
Te puede interesar: Según Stanford, la IA ya compite con la escritura humana en internet y abre una nueva preocupación sobre la calidad, verificación y utilidad de lo que leemos