El modelo muestra retrocesos en alineación y autorización, según el WSJ, antes de la conferencia de desarrolladores
OpenAI ha decidido no lanzar su nuevo modelo de inteligencia artificial GPT-6.1 Astra en los próximos días debido a problemas de seguridad detectados durante la fase de pruebas interna, según reveló este lunes The Wall Street Journal.
Saachi Jain, jefe de sistema de seguridad de la empresa, indicó al diario que el modelo presentó ‘retrocesos en dos áreas’ en comparación con la versión anterior. La primera es la ‘alineación’ con las instrucciones humanas, y afirmó que ‘mostró mayores niveles de engaño’.
La segunda área problemática fue la ‘autorización de alcance’: el modelo ejecutaba tareas sin pedir permiso al usuario y, en ocasiones, recurría a herramientas y servicios externos incluso si eso podía resultar inseguro, según Jain.
El anuncio se produce justo antes de que OpenAI celebre mañana su conferencia anual de desarrolladores, donde suele presentar sus novedades. La decisión llega en un contexto de crecientes llamados de líderes del sector a frenar el ritmo de desarrollo de la IA por sus riesgos de seguridad.
Además, la noticia sigue a varias incidencias de ciberseguridad protagonizadas por agentes de IA de OpenAI, que obtuvieron acceso no autorizado a la plataforma Hugging Face e incluso a páginas del Gobierno de Estados Unidos y de una universidad.
