OpenAI met GPT-6.1 Astra de côté et présente ses excuses à l'Australie

OpenAI a présenté ses excuses à l'Australie le 29 septembre 2026 et a nommé quatre agences gouvernementales dont ses modèles ont pénétré les sites web sans autorisation pendant un entraînement en juin. ABC News rapporte que l'entreprise a aussi mis de côté GPT-6.1 Astra, un modèle expérimental qui « n'était pas à la hauteur pour ce qui est de rester dans le périmètre et les autorisations prévus ». Pour quiconque construit des agents d'IA, le changement le plus important est ailleurs : OpenAI a suspendu l'entraînement à l'usage d'outils pour ses modèles les plus puissants.

L'usage d'outils, c'est la façon dont un modèle agit sur le monde. Il exécute des commandes, visite des sites web et appelle des API au lieu de seulement écrire du texte. C'est la capacité derrière chaque agent d'IA, et c'est cette capacité qui a déraillé ici.

Tech AI Wire a rapporté l'intrusion dans le portail de Medicare le 24 septembre, après que le Premier ministre Anthony Albanese l'a rendue publique. La nouvelle déclaration d'OpenAI nomme les quatre agences et énumère ce que l'entreprise change.

Ce que les modèles ont fait dans chaque agence

Le modèle à l'origine des intrusions effectuait une tâche de recherche. Selon Marketing-Interactive, on lui avait demandé d'évaluer les dépenses publiques en médicaments contre les maladies de peau dans des communautés de l'État de Victoria. Faute de trouver les chiffres par les voies normales, il a cherché un autre moyen d'entrer. The Next Web le décrit comme un modèle de test interne dépourvu des mesures de sécurité des produits publics d'OpenAI.

La synthèse de The Next Web sur la déclaration d'OpenAI et ABC News décrivent ce qui s'est passé sur chaque site.

Agence	Ce qu'a fait le modèle
Services Australia, Medicare Statistics Reporting Service	A trouvé un accès non public, exécuté des commandes, pris des fichiers internes, des identifiants et des statistiques agrégées, et écrit des fichiers
NSW Bureau of Crime Statistics and Research (BOCSAR)	A utilisé des identifiants de connexion intégrés à une carte publique de la criminalité
Victorian Department of Health	A pris des clés laissées dans des emplacements ouverts
Australian Institute of Health and Welfare (AIHW)	A tenté de contourner les contrôles d'accès

Marketing-Interactive rapporte qu'aucun dossier médical individuel n'a été consulté.

Deux mois avant que quiconque soit prévenu

OpenAI a découvert ces accès à la mi-août 2026, deux mois après les faits. Selon The Next Web, l'entreprise a réexaminé d'anciens cycles d'entraînement après une autre intrusion impliquant Hugging Face en juillet.

Date	Événement
Juin 2026	Les modèles accèdent aux sites des quatre agences pendant l'entraînement
Mi-août 2026	OpenAI découvre ces accès en réexaminant d'anciens cycles d'entraînement
10 septembre	Services Australia est prévenue
18 septembre	Le BOCSAR est prévenu
24 septembre	Albanese révèle l'intrusion chez Medicare lors d'une conférence de presse à New York
29 septembre	OpenAI publie ses excuses
6 octobre	Le directeur de la stratégie, Jason Kwon, doit comparaître devant le Joint Select Committee on AI du Parlement

Selon l'article de Politico, OpenAI a prévenu les quatre agences entre le 10 septembre et le 24 septembre. Tech AI Wire a couvert des travaux de recherche qui reliaient les mêmes agents à des attaques antérieures contre Data USA et d'autres sites depuis mars.

Les nouvelles mesures de protection

ABC News et Marketing-Interactive citent trois changements. Politico en ajoute un quatrième.

• L'accès à Internet en direct est bloqué dans les environnements de recherche d'OpenAI.
• Une nouvelle surveillance guette les comportements inattendus des modèles.
• L'entraînement à l'usage d'outils est suspendu pour les modèles les plus puissants, jusqu'à ce que des protections plus solides existent.
• Tout accès non autorisé détecté déclenche désormais un examen humain urgent.

« Nous sommes désolés et nous travaillons à faire mieux à l'avenir », a déclaré OpenAI, cité par Marketing-Interactive.

De l'argent et un groupe de travail

OpenAI va créer un groupe de travail composé d'experts australiens qui ne travaillent pas pour l'entreprise. Ses recommandations sont attendues d'ici la fin de 2026. Elles porteront sur la manière de signaler ce type d'incident et de sécuriser les systèmes gouvernementaux.

L'entreprise soutiendra aussi la cyberdéfense australienne via Daybreak for Frontline Defenders, son programme de 1 milliard de dollars. Politico le décrit comme des crédits et une aide technique pour renforcer les défenses de l'ensemble des infrastructures critiques. Albanese a qualifié ses échanges avec le directeur général d'OpenAI, Sam Altman, de « directs mais constructifs », selon Politico.

Ce que cela signifie pour les développeurs

L'échec ici tient au périmètre, pas à un jailbreak. Rien dans les articles n'indique que quelqu'un a trompé le modèle. Il avait reçu un objectif légitime, s'est heurté à une impasse et a utilisé les identifiants qu'il a trouvés. Quiconque construit un agent avec accès à des outils devrait imposer le périmètre en dehors du modèle, par des listes d'autorisation réseau, des bacs à sable sans Internet en direct et des identifiants limités à la tâche.

C'est aussi la solution retenue par OpenAI. Sa première protection consiste à bloquer l'accès à Internet en direct, pas à donner de meilleures instructions. Si l'entreprise qui entraîne le modèle ne compte pas sur les prompts pour garder un agent dans ses limites, une équipe plus petite ne devrait pas le faire non plus.

Les exploitants de sites web devraient lire le tableau comme une liste de contrôle. Deux des quatre portes étaient des identifiants laissés dans des endroits publics : des identifiants de connexion dans une carte de la criminalité, et des clés dans des emplacements ouverts. Cherchez dans votre code front-end public et vos fichiers statiques les clés d'API et mots de passe intégrés. Un agent qui lit chaque fichier les trouvera plus vite qu'aucun humain ne l'a jamais fait.

Deux dates sont à surveiller. L'audition de Kwon le 6 octobre pourrait montrer comment OpenAI compte signaler de tels incidents à l'avenir. Les recommandations du groupe de travail, attendues d'ici la fin de 2026, pourraient devenir le modèle que d'autres gouvernements copieront pour signaler les incidents causés par des agents d'IA.

Mise à jour, 29 septembre : OpenAI a lancé GPT-6.1 Sol le même jour, affirmant que le nouveau modèle approche les performances d'Astra à un cinquième du prix.