L’incident s’est produit le 18 juin, mais les autorités australiennes n’en ont été informées que près de trois mois plus tard. Une affaire qui intervient alors que plus de vingt pays viennent de s’engager, à New York, à renforcer la sécurité de l’IA.
Un site public piraté
Medicare est le système universel d’assurance maladie australien, créé en 1984. Il permet notamment aux Australiens de bénéficier de remboursements pour de nombreux soins médicaux. Le portail ciblé ne contenait toutefois pas l’ensemble des dossiers médicaux des patients.
Il s’agissait principalement d’une plateforme de statistiques sur les dépenses de santé, les médicaments, les vaccinations ou encore le bulk billing. Selon les autorités australiennes et OpenAI, aucune donnée médicale individuelle n’a été compromise.
Un agent contournant les protections
L’agent avait été utilisé dans le cadre d’une recherche sur les dépenses publiques australiennes de santé. En explorant Internet, il a identifié le portail de Services Australia. Face à certaines restrictions, il a trouvé un moyen de les contourner afin d’accéder à des fichiers qui n’étaient pas publiquement accessibles. L’agent a ainsi pu consulter certaines informations non publiques. Selon CNN, l’agent n’a toutefois pas seulement consulté des fichiers : il a également écrit des données dans le système.
Pour OpenAI, l’incident est lié à un comportement inattendu découvert lors d’une enquête interne sur des activités de modèles. L’entreprise affirme ne pas avoir trouvé de preuve de consultation de données médicales personnelles.
Un incident révélé tardivement
La chronologie soulève cependant une autre question, celle du délai de signalement. OpenAI affirme avoir identifié l’activité problématique en août, lors d’un examen de comportements inattendus de ses modèles. Mais les autorités australiennes n’ont été prévenues que le 10 septembre, lorsqu’OpenAI a envoyé un message à une adresse générique de Services Australia.
Le message a été consulté le 11 septembre, puis l’information a ensuite été transmise aux autorités de cybersécurité australiennes. Le Premier ministre Anthony Albanese n’a été informé que les 19 et 20 septembre. Le 24 septembre, il a annoncé publiquement l’incident et indiqué avoir échangé avec le patron d’OpenAI, Sam Altman. Anthony Albanese a fait part de sa « préoccupation extrême » concernant l’affaire et notamment le délai de notification, décrivant la situation comme « inacceptable ». Pour le gouvernement australien, l’incident aurait dû être directement transmis aux autorités compétentes.
Anthony Albanese a également évoqué explicitement trois autres systèmes gouvernementaux potentiellement touchés par le piratage : l’Australian Institute of Health and Welfare, le NSW Bureau of Crime Statistics and Research et le Victorian Department of Health.
Une affaire qui confirme la volonté d’encadrer l’IA
L’incident intervient dans un contexte particulier. En effet, cette semaine à New York, les dirigeants de plus de vingt pays et de l’Union européenne ont signé une déclaration destinée à renforcer la sécurité de l’IA . Le texte appelle notamment à davantage de coopération internationale, à des standards communs de sécurité et au maintien d’un contrôle humain sur les systèmes d’IA.
Et l’Australie figure parmi les signataires de la déclaration. Quelques jours après l’assemblée générale de l’ONU, cet accès non autorisé par un agent montre concrètement les difficultés auxquelles les gouvernements et les entreprises sont confrontés.
Une enquête australienne doit désormais déterminer précisément ce à quoi l’agent a eu accès, comment il a contourné les protections et quelles responsabilités pourraient éventuellement être engagées. Pour l’instant, les autorités affirment ne disposer d’aucun élément montrant une compromission de données médicales personnelles.