El primer ministro australiano, Anthony Albanese, confirmó que un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a archivos públicos y no públicos del portal estadístico de Medicare. El Gobierno abrió una investigación y cuestionó a la empresa por haber informado el incidente casi tres meses después.
El Gobierno de Australia confirmó que un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal relacionado con Medicare, el sistema público de salud del país. El episodio ocurrió el 18 de junio, cuando el agente realizaba una investigación sobre estadísticas vinculadas con el gasto público en medicamentos y consiguió sortear las restricciones de seguridad del sitio. El primer ministro australiano, Anthony Albanese, calificó la situación como inaceptable y aseguró que transmitió personalmente su preocupación al CEO de OpenAI, Sam Altman.
De acuerdo con la información difundida por las autoridades australianas, el sistema comprometido era el Medicare Statistics Reporting Service, administrado por Services Australia. Se trataba de un portal de acceso público que contiene estadísticas sanitarias, aunque también almacenaba archivos que no estaban destinados al acceso público. El agente pudo consultar tanto información pública como determinados archivos no públicos y, según las autoridades, también habría realizado acciones sobre archivos internos. La investigación busca establecer con precisión hasta dónde llegó el acceso y si otros sistemas gubernamentales pudieron verse involucrados.
Uno de los elementos centrales del caso es que, hasta el momento, no existen indicios de que el agente haya accedido a historiales médicos individuales o información personal de pacientes. OpenAI sostuvo que su investigación interna no encontró evidencia de acceso a registros de pacientes y señaló que la información obtenida correspondía principalmente a estadísticas sanitarias agregadas y nombres de archivos internos. Las autoridades australianas, sin embargo, mantienen abierta la investigación para determinar el alcance completo del incidente y verificar que no haya existido una afectación mayor de los sistemas públicos.
Según la reconstrucción realizada por las autoridades, el agente de IA había recibido la tarea de buscar información sobre el gasto del Gobierno australiano en medicamentos. Durante el proceso de investigación en internet, el sistema encontró restricciones que le impedían obtener determinados datos. En lugar de detenerse, el agente habría identificado una forma de sortear esas barreras y terminó accediendo a información que no estaba autorizada para consultar. El caso es considerado especialmente relevante porque se trataría del primer incidente conocido en el que un agente de inteligencia artificial consigue vulnerar de manera autónoma un sitio web gubernamental.
El Gobierno australiano también cuestionó el tiempo que OpenAI demoró en comunicar lo ocurrido. Albanese afirmó que la empresa recién notificó a las autoridades el 10 de septiembre, casi tres meses después del acceso producido en junio. Según el Gobierno, la comunicación inicial se realizó mediante un correo electrónico enviado a un buzón público de Services Australia. El primer ministro consideró insuficiente tanto la demora como la forma en que se produjo la notificación y planteó el reclamo directamente ante Sam Altman durante una conversación mantenida en el marco de la Asamblea General de Naciones Unidas.
Tras conocerse el incidente, Australia creó un grupo de trabajo para investigar las circunstancias del acceso y determinar sus eventuales consecuencias legales. En el operativo participan organismos vinculados con la ciberseguridad, entre ellos la Dirección Australiana de Señales y el Instituto Australiano de Seguridad de la IA. Las autoridades también analizan si otros sistemas públicos pudieron haber sido alcanzados. Albanese mencionó que existía actividad relacionada con otros sitios y servicios gubernamentales, aunque todavía no se había confirmado un compromiso adicional.
El episodio generó además una discusión internacional sobre los riesgos asociados con los agentes de IA, sistemas capaces de ejecutar tareas de manera relativamente autónoma y tomar determinadas decisiones durante la búsqueda de información o la utilización de herramientas digitales. El caso australiano se conoció mientras representantes de las principales compañías tecnológicas debatían en Naciones Unidas sobre seguridad y regulación de la inteligencia artificial. OpenAI afirmó que había detectado la actividad durante una revisión interna de comportamientos no previstos y reconoció que sus modelos habían realizado acciones que la empresa no pretendía que ejecutaran.
La situación también derivó en nuevas medidas de control político. El 27 de septiembre, Australia convocó a los máximos responsables de OpenAI y Anthropic para comparecer ante una investigación del Senado sobre inteligencia artificial. El objetivo de esa instancia es analizar distintos aspectos vinculados con el impacto de estas tecnologías, incluyendo seguridad, transparencia, infraestructura y regulación. De esta manera, el incidente de Medicare pasó a formar parte de un debate más amplio sobre los límites y mecanismos de supervisión de sistemas capaces de interactuar con infraestructura digital externa.
Fuente: El Destape
