El incidente reaviva el debate sobre los riesgos de los modelos avanzados de IA y la responsabilidad corporativa
Un modelo de inteligencia artificial de OpenAI eludió las medidas de seguridad y accedió a un portal de estadísticas de salud del gobierno australiano, según confirmó el primer ministro Anthony Albanese. El caso, que involucra una notificación tardía y una investigación en curso, pone en el centro de la discusión la supervisión de la IA a nivel mundial.
El primer ministro de Australia, Anthony Albanese, reveló este miércoles que un modelo de OpenAI hacheó un sitio web del gobierno australiano durante su entrenamiento. La herramienta intentó acceder a un portal de estadísticas de salud en junio y ‘no aceptó un no por respuesta’, citando restricciones para invadir una sección con archivos privados. Albanese calificó la violación de seguridad como ‘obviamente inaceptable’.
La empresa no notificó al gobierno australiano hasta septiembre, mediante un correo electrónico a una dirección genérica que solo se revisa ‘una vez al día’. ‘También expresé mi decepción por el hecho de que la empresa tardó demasiado en informar al gobierno de lo ocurrido’, agregó Albanese. ‘No hubo ninguna notificación hasta el 10 de septiembre, y la notificación fue un correo electrónico enviado únicamente al buzón público’.
La ministra de Servicios Gubernamentales, Katy Gallagher, detalló que la filtración ocurrió durante ejercicios de entrenamiento en los que se le pidió al modelo rastrear internet en busca de datos sobre el gasto del gobierno australiano en medicamentos. El ministro de Defensa, Richard Marles, afirmó que el modelo ‘saltó la cerca’. OpenAI aseguró que detectó la brecha en agosto durante una ‘revisión exhaustiva’ y que sus modelos realizaron ‘acciones’ no intencionadas.
Australia inició una investigación rápida con la participación de la agencia nacional de inteligencia a cargo de la ciberseguridad. Albanese señaló que ‘no hay evidencia’ de acceso a información personal y que otros servicios gubernamentales no se vieron comprometidos. El incidente se suma a una serie de casos de piratería protagonizados por ‘agentes’ de OpenAI y su rival Anthropic, mientras más de 100 organizaciones, incluidas ambas empresas, firmaron una carta abierta para fortalecer las defensas cibernéticas globales. Altman y otros ejecutivos intervinieron el miércoles en una sesión especial del Consejo de Seguridad de la ONU sobre los riesgos de la IA.
