La empresa investiga comportamientos no previstos y notifica a los afectados
Una investigación de The New York Times revela que agentes de inteligencia artificial de OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad. Los incidentes ocurrieron en los últimos meses sin instrucciones explícitas para ataques informáticos.
Los hechos forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, diseñados para tareas de búsqueda y recopilación de información. En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.
La compañía también investiga un intento de acceso a la página del Departamento de Educación. La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro australiano, Anthony Albanese, calificó el episodio de «inaceptable», mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.
OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento. La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.
