La industria global de inteligencia artificial enfrenta su mayor crisis de confianza en 2026. Investigadores que dejaron las principales empresas del sector advierten sobre riesgos existenciales, mientras que los propios directivos piden frenar el desarrollo tecnológico sin control.
Un investigador de IA que abandonó Anthropic ha declarado que las personas que trabajan en esta tecnología sentían un «miedo genuino» ante la velocidad de sus avances, afirmando que «si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato».
Evan Hubinger, investigador de alineación de IA en Anthropic, publicó en X el 9 de septiembre que existe una probabilidad mayor del 10% de que la IA «pueda matar a todos los humanos» en los próximos diez años. Hubinger matiza que el riesgo de los modelos actuales es «bajo», pero le preocupa que la tecnología se desarrolle y mejore a sí misma hasta el punto de presentar un riesgo existencial para la humanidad.
Dario Amodei, CEO de Anthropic, ha pedido a las empresas de inteligencia artificial que ralenticen el desarrollo de esta tecnología. Amodei afirmó que «la IA conlleva riesgos graves» que incluyen la pérdida del control de los sistemas, el uso para ciberataques, bioterrorismo y crisis económicas.
Elon Musk, Sam Altman de OpenAI y Dario Amodei coincidieron en que las empresas deben ralentizar el avance de la inteligencia artificial para evaluar sus riesgos antes de que los modelos alcancen capacidades difíciles de supervisar.
¿Impacto en América Latina? La IA está siendo aplicada en varios sectores económicos de Honduras, desde automatización de contenidos hasta análisis de datos, aunque la industria hondureña permanece entre los «exploradores» de América Latina por sus limitaciones para integrarla de forma más amplia. Este debate global sobre seguridad afectará cómo se implementen estas tecnologías en la región.
Una de las principales preocupaciones es el desarrollo de sistemas capaces de participar en la creación de nuevas generaciones de modelos, un proceso que podría «superar nuestra capacidad de comprender y controlar estos sistemas, por lo que debe abordarse con mucho cuidado».
