Dario Amodei, director ejecutivo de Anthropic, argumentó que la inteligencia artificial representa riesgos serios y que el progreso debe desacelerarse. La advertencia no es aislada: el pronunciamiento fue rápidamente respaldado por Sam Altman de OpenAI, así como por Demis Hassabis de Google DeepMind y Elon Musk de xAI.
En un ensayo titulado «Debemos desacelerar la frontera», Amodei cita riesgos como «perder control de sistemas de IA» y «mal uso de IA para ciberataques y bioterrorismo». Los especialistas no bromean: una encuesta del Instituto de Seguridad y Tecnología con 111 expertos en seguridad nacional encontró que el 70% cree que la IA aumenta significativamente —o pronto lo hará— el riesgo de bioarmas.
Un estudio de 2022 demostró que un modelo de descubrimiento de fármacos impulsado por IA generó 40.000 moléculas potencialmente tóxicas de guerra química en menos de seis horas. Combinado con herramientas accesibles de edición de genes y laboratorios de biología DIY, los expertos advierten que la IA reduce las barreras para crear patógenos o toxinas peligrosas.
El 11 de septiembre de 2026, Anthropic publicó cinco estudios de caso de actores que utilizaban Claude de formas que «podrían apoyar el desarrollo de armas biológicas», señalando que el abuso biológico es «uno de los riesgos más graves de los modelos de IA de frontera». La pregunta ahora es si los gobiernos reaccionarán con la rapidez necesaria.
