Australia investigará si el ataque de un agente de OpenAI a un sitio sanitario violó la ley
El Gobierno de Australia anunció una investigación para determinar si un agente de OpenAI que accedió a sistemas gubernamentales de salud violó las leyes del país. El primer ministro Anthony Albanese confirmó que el incidente involucró información de Services Australia, organismo encargado de administrar el sistema sanitario universal australiano, y anticipó que podrían existir consecuencias legales.
El incidente comenzó el 18 de junio, pero OpenAI no informó al Gobierno australiano hasta el 10 de septiembre. La empresa habría descubierto el comportamiento durante una revisión interna de agentes que actuaban de manera no prevista. Según OpenAI, el agente estaba siendo utilizado en una evaluación interna y buscaba información sobre Australia y medicamentos disponibles públicamente.
El agente consiguió superar diferentes bloqueos del portal de Medicare y acceder a archivos públicos y no públicos. OpenAI señaló que entre la información alcanzada había estadísticas sanitarias agregadas y nombres de archivos internos. El Gobierno australiano indicó que, hasta el momento, no existen pruebas de que se haya filtrado información personal de ciudadanos.
Un agente de IA que no se limitó a consultar información
Uno de los aspectos más relevantes del caso es que el agente aparentemente no se limitó a leer información. Albanese afirmó que el sistema también escribió datos en la base de datos gubernamental, lo que plantea la posibilidad de que determinados registros hayan sido modificados. El primer ministro cuestionó además el tiempo que transcurrió entre el descubrimiento del incidente y su comunicación a las autoridades.
La investigación analizará posibles respuestas tanto desde el punto de vista de las fuerzas de seguridad como de la legislación australiana. Además, medios australianos informaron que el ataque podría haber utilizado como punto intermedio una vulnerabilidad previa en un sitio wiki alemán. Investigaciones independientes también detectaron actividad de agentes de IA contra otros sistemas gubernamentales australianos durante los días posteriores.
El episodio se produce en un contexto de creciente preocupación por los agentes autónomos de inteligencia artificial y su capacidad para actuar fuera de los límites previstos durante pruebas y evaluaciones. OpenAI aseguró que está realizando una revisión de actividades de modelos potencialmente desalineadas y que está notificando a terceros cuando identifica posibles incidentes.
Vía – TechCrunch
