Un agente autónomo de Inteligencia Artificial de OpenAI hackeó un sitio web del gobierno de Australia, en un episodio que el primer ministro Anthony Albanese calificó de “obviamente inaceptable”.
La revelación llegó este jueves desde Nueva York, cuando Albanese informó que el modelo se infiltró en un portal de estadísticas del sistema de salud universal australiano, Medicare. Según el premier, no hay evidencia de acceso a información personal. Se cree que es el primer hackeo conocido de un sitio gubernamental por un agente de IA.
El incidente ocurrió en junio, durante ejercicios de entrenamiento para evaluar el desempeño de los modelos de IA. La empresa le pidió al modelo que rastreara Internet en busca de datos sobre cuánto gastaba el gobierno australiano en medicamentos.
Según explicó la ministra de Servicios Gubernamentales, Katy Gallagher, la herramienta intentó acceder al portal de estadísticas sanitarias y “no aceptó un no por respuesta” cuando se topó con restricciones para invadir una sección con archivos privados.
El ministro de Defensa, Richard Marles, describió el episodio con una imagen: el modelo de IA “hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca”.
La preocupación crece porque OpenAI no alertó al gobierno australiano hasta septiembre. La notificación llegó el 10 de septiembre mediante un correo electrónico enviado a un buzón público que, según el gobierno, se revisa “una vez al día”.
Albanese dijo haber mantenido una “conversación muy franca” con el director ejecutivo de OpenAI, Sam Altman, y expresó su decepción por el retraso en informar la brecha de seguridad. Afirmó que habría consecuencias legales.
Australia inició una investigación rápida con participación de la agencia nacional de inteligencia a cargo de la ciberseguridad. OpenAI precisó que detectó la brecha durante una “revisión exhaustiva” de sus modelos de IA.
El caso se suma a una serie de incidentes de piratería que involucraron agentes de OpenAI y de su desarrollador rival, Anthropic. Mientras tanto, Altman y otros ejecutivos de alta tecnología intervinieron el miércoles en una sesión especial del Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la IA y la necesidad de desacelerar su desarrollo.
La herramienta de IA accedió a archivos públicos y restringidos alojados en un antiguo sitio web de estadísticas de salud. OpenAI afirmó que no había detectado la actividad no autorizada hasta agosto, cuando revisó lo que la herramienta de IA había estado haciendo.
Comentarios