Expertos alertan sobre amenaza potencial mientras empresas buscan limitar riesgos
Jacob Coxon, ingeniero que trabajó en Anthropic y OpenAI, advirtió que la inteligencia artificial podría crear armas biológicas capaces de provocar una extinción masiva, y renunció a su puesto en Anthropic tras afirmar que la IA podría matarnos a todos al final de esta década.
En entrevista con CNN, Coxon señaló que en uno o dos años podría producirse la automejora recursiva, donde una IA sea capaz de diseñar su propio sucesor de manera autónoma. El ingeniero de 27 años comparó estas capacidades con incidentes recientes en los que sistemas de IA han actuado sin supervisión directa.
Anthropic reportó haber identificado y desarticulado usos malintencionados de su modelo Claude entre diciembre 2025 y agosto 2026, incluyendo operaciones cibernéticas, campañas de influencia, fraude y uso indebido de biotecnología. Estudios demuestran que sistemas de IA actual igualan o superan el desempeño de expertos en conocimientos relevantes para armas biológicas, con modelos que superaron a profesionales en pruebas de procedimientos de laboratorio.
Sin embargo, expertos advierten que existe incertidumbre sobre cómo estas capacidades afectan el riesgo en la práctica debido a barreras materiales para producción de armas, y que las mismas capacidades útiles para investigación médica pueden ser malutilizadas, dificultando restringir usos peligrosos sin frenar investigación legítima. Las principales empresas de IA han lanzado modelos con salvaguardias reforzadas tras no poder excluir la posibilidad de que asistan en crear armas biológicas.
