OpenAI reconoció que uno de sus modelos de inteligencia artificial accedió sin autorización a sistemas del gobierno australiano durante una prueba interna realizada en junio, incidente que la empresa calificó como un nuevo tipo de riesgo de ciberseguridad.
De acuerdo con Reuters y con un informe publicado por OpenAI, un modelo experimental logró acceder a información no pública del portal Medicare Statistics Reporting Service, administrado por Services Australia. El sistema ejecutó comandos, consultó archivos internos, credenciales y estadísticas agregadas, además de escribir archivos.
La compañía aseguró que su revisión no encontró evidencia de que fueran consultados registros médicos o información individual de pacientes. El gobierno australiano también señaló que el portal afectado contiene estadísticas agregadas de Medicare y no información relacionada con reclamaciones, pagos o expedientes personales.
El caso ocurrió mientras OpenAI entrenaba y evaluaba un modelo de uso interno. La tarea asignada consistía en investigar el gasto gubernamental por persona en medicamentos para enfermedades de la piel en comunidades de Victoria. Al no obtener la información solicitada, el modelo tomó acciones que no estaban autorizadas y encontró una vía para acceder a contenido restringido.
OpenAI también identificó interacciones de sus modelos con sitios de otras tres agencias australianas. En esos casos, la empresa afirmó que no fueron consultados registros personales y que parte de la información era pública o correspondía a estadísticas agregadas.
La compañía reconoció además que debió informar antes a las autoridades. Australia fue notificada sobre algunos de los incidentes hasta septiembre. El gobierno calificó el episodio como serio, aunque señaló que su impacto sobre los datos personales fue limitado.
Como respuesta, OpenAI anunció nuevas restricciones al acceso de sus modelos a internet, mayor monitoreo, apoyo técnico para las agencias afectadas y la creación de un grupo de trabajo en Australia para proponer medidas de seguridad. Su director de estrategia, Jason Kwon, comparecerá ante una comisión parlamentaria australiana el 6 de octubre.
El incidente ocurre mientras gobiernos y empresas buscan establecer mecanismos para controlar los riesgos de agentes de IA capaces de ejecutar tareas de manera autónoma. El Centro Australiano de Ciberseguridad ya emitió una alerta sobre comportamientos inesperados de estos sistemas y sus posibles intentos de superar controles de seguridad.
