L’Australie affirme qu’un agent d’OpenAI a piraté un site gouvernemental avant l’avertissement d’Altman

[Mise à jour, 10 h 45 UTC, 24 septembre : cet article a été mis à jour avec le récit d’OpenAI concernant le moment où l’entreprise a eu connaissance de l’activité de juin, la manière dont elle a informé les autorités australiennes et les informations auxquelles ses modèles ont accédé.]

Un agent de recherche d’OpenAI a contourné les blocages d’un portail australien de données sanitaires gouvernementales, accédé à des fichiers non publics et écrit des fichiers sur un serveur interne en juin, a déclaré mercredi le Premier ministre Anthony Albanese.

Le gouvernement a ouvert une enquête forensique et annoncé un examen de sa gestion des incidents de cybersécurité liés à l’IA.

Selon Albanese, qui a critiqué ce délai, OpenAI n’a informé le gouvernement australien que le 10 septembre, soit près de trois mois après l’incident.

OpenAI a déclaré à Cointelegraph avoir pris connaissance de l’activité de juin pour la première fois en août, lors d’un examen d’activités de modèles mal alignées, puis avoir enquêté sur les informations auxquelles il avait été accédé avant d’en informer Services Australia.

L’incident alimente les inquiétudes concernant les agents d’IA autonomes, alors que les dirigeants du secteur technologique et les gouvernements débattent d’un ralentissement du développement des modèles de pointe et que des chercheurs découvrent une activité d’agents s’étendant au secteur crypto.

L’agent d’OpenAI « n’a pas accepté un refus »

L’incident australien a commencé le 18 juin, lorsqu’une équipe de recherche d’OpenAI a utilisé un modèle d’IA interne pour recueillir des données accessibles au public sur les dépenses consacrées aux médicaments, selon Albanese.

Après avoir été bloqué à plusieurs reprises, l’agent « n’a pas accepté un refus comme réponse » et a obtenu un accès non autorisé à d’autres sections du Medicare Statistics Reporting Portal. Le portail accessible au public contient des données Medicare non sensibles, notamment des statistiques sur les dépenses publiques, a déclaré le Premier ministre.

« À ce stade, on ne pense pas que des informations personnelles aient été consultées, mais les enquêtes se poursuivent », a déclaré Albanese.

Les autorités examinent également l’activité sur trois autres sites web gouvernementaux, bien que le Premier ministre par intérim Richard Marles ait ensuite déclaré que les interactions qui s’y étaient déroulées semblaient normales et concernaient des informations publiques.

Un porte-parole d’OpenAI a déclaré à Cointelegraph que ses modèles avaient pris, lors d’une évaluation interne, des mesures que l’entreprise n’avait pas l’intention de leur faire prendre. OpenAI a indiqué que son examen n’avait trouvé aucun élément prouvant que des dossiers de patients avaient été consultés et que les informations consultées comprenaient des statistiques sanitaires agrégées ainsi que des noms de fichiers internes.

Albanese a également critiqué la manière dont OpenAI avait informé le gouvernement, affirmant que son courriel avait été envoyé à une boîte aux lettres publique de Services Australia. OpenAI a déclaré avoir utilisé une boîte de réception désignée pour les contacts directs entre professionnels de la sécurité, ce qu’elle a décrit comme une pratique courante dans le secteur, et avoir maintenu un contact étroit avec l’Australian Signals Directorate pendant la divulgation technique.

S’exprimant mercredi devant le Conseil de sécurité des Nations unies, le PDG d’OpenAI, Sam Altman, a appelé à une « notification précise et rapide des incidents ». Il a également averti que des systèmes de plus en plus performants et autonomes pourraient « prendre des décisions que les gens ne comprennent ou ne contrôlent plus ».

Des agents d’IA tentent d’effectuer des transactions sur la plateforme d’échange crypto Quidax

Par ailleurs, mercredi, le laboratoire de recherche à but non lucratif Transluce a rapporté avoir découvert des signes d’activité d’agents d’IA ciblant la plateforme d’échange crypto Quidax les 19 et 20 septembre.

Dans 15 rapports publics du service d’analyse web urlquery.net, les chercheurs ont identifié des tentatives répétées de passer des ordres, une tentative d’injection HTML et des sondages de l’interface de programmation d’application de Quidax.

Les ordres de transaction n’ont pas été envoyés, tandis que les exigences d’authentification et Cloudflare ont bloqué les sondages de l’API, a déclaré Transluce.

Transluce a indiqué que l’activité visant Quidax avait utilisé des services et des techniques observés lors d’activités antérieures d’agents, dont certaines avaient été liées par des chercheurs à un essaim d’OpenAI. Le laboratoire n’a pas attribué les tentatives visant Quidax à OpenAI.

Magazine : Qui est juridiquement responsable lorsqu’un agent d’IA devient incontrôlable ?