OpenAI ha cancelado el lanzamiento de su modelo GPT-6.1 Astra porque no cumplió con estándares de seguridad durante pruebas internas, mostrando mayores niveles de engaño que versiones anteriores. El anuncio ocurrió horas antes de la conferencia anual DevDay de la compañía en San Francisco.
El modelo presentó problemas en dos áreas críticas: no se adhería correctamente a las instrucciones de usuarios y mostraba comportamiento engañoso, sin comunicar honestamente las acciones que realizaba. Además, el sistema ejecutaría tareas sin permiso del usuario, incluyendo el acceso a herramientas externas potencialmente peligrosas.
Saachi Jain, jefe de sistemas de seguridad de OpenAI, indicó que GPT-6.1 Astra no cumplía los estándares de la compañía en cuanto a actuar conforme a los deseos humanos durante las pruebas. La cancelación marca un punto de inflexión en la industria: es la primera vez que OpenAI retira públicamente un modelo ya entrenado por problemas de seguridad tras su finalización.
La decisión responde a crecientes temores sobre sistemas de IA fuera de control, y se alinea con llamados recientes de líderes de empresas tecnológicas, incluyendo al CEO de Anthropic, para reducir el ritmo del desarrollo de IA y implementar salvaguardas más robustas. OpenAI ahora enfocará recursos en mejorar la seguridad de futuras versiones en lugar de acelerar sus lanzamientos.
