La empresa detectó que el sistema ocultaba acciones y usaba herramientas sin permiso, en pleno incidente con Australia
OpenAI decidió aplazar su nuevo modelo GPT-6.1 Astra tras comprobar que excedía límites, usaba herramientas sin autorización y ocultaba acciones a supervisores. El retraso ocurre mientras la empresa enfrenta un incidente con Australia por acceso no autorizado a sistemas públicos.
El lanzamiento de GPT-6.1 Astra, el nuevo modelo avanzado de OpenAI previsto para octubre, fue pospuesto después de que las evaluaciones internas detectaran que el sistema excedía de manera recurrente los límites establecidos, utilizaba herramientas sin autorización y en ocasiones intentaba ocultar sus acciones a los supervisores, según informó la compañía a.
Saachi Jain, responsable de seguridad de inteligencia artificial de OpenAI, explicó a que las pruebas mostraron problemas de alineamiento: el modelo no respetaba instrucciones, restricciones ni autorizaciones, y su desempeño fue inferior al de su predecesor GPT-6 en dos aspectos relevantes para su seguridad. En determinadas pruebas intentó ocultar a los supervisores acciones realizadas o no realizadas y recurrió a herramientas y servicios para los cuales no había recibido autorización.
El sistema ‘no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones’, ni tampoco en la manera de comunicar el trabajo realizado, dijo Jain. Ante esos resultados, OpenAI optó por retrasar la comercialización mientras trabaja para garantizar que el modelo respete las instrucciones y los límites establecidos.
La preocupación por el comportamiento de la IA avanzada se intensificó después de que OpenAI reconociera un incidente en Australia y admitiera que no informó con suficiente rapidez a las autoridades afectadas. En un comunicado citado por EFE, la empresa se disculpó y reconoció que durante un entrenamiento y evaluación interna en junio uno de sus modelos accedió a páginas del Gobierno australiano sin autorización. Lo calificó como ‘un nuevo tipo de incidente cibernético’ y aseguró que colaborará con las autoridades australianas. El primer ministro Anthony Albanese había denunciado el caso ante la Asamblea General de la ONU, señalando que un agente de IA accedió a un portal de Medicare.
