L'accord IA de la Maison Blanche engage six laboratoires à recourir à des audits externes
OpenAI, Google, Meta, Anthropic, Nvidia et xAI ont signé un accord volontaire de la Maison Blanche pour faire appel à des auditeurs externes sur l'IA de pointe. Il ne prévoit aucune sanction.
3 min de lecture

En chiffres
- companies that signed the accord
- 6
- layers of oversight it describes
- 4
- penalties for breaking it
- 0
- date of the earlier Biden-era voluntary commitments
- July 2023
Les dirigeants d'OpenAI, Google, Meta, Anthropic, Nvidia et xAI ont signé un pacte volontaire de la Maison Blanche le 29 septembre 2026. Ils acceptent que des auditeurs externes vérifient leurs contrôles de sécurité de l'IA. Le document s'intitule White House Accord on Super Intelligence (accord de la Maison Blanche sur la superintelligence). Il définit la manière dont les laboratoires d'IA de pointe devraient se contrôler eux-mêmes, mais il ne prévoit ni sanctions, ni échéance, ni obligation de publier les conclusions des auditeurs.
Cette lacune est le cœur de l'affaire. Selon les termes de TechInformed, l'accord vise à rendre les audits externes explicites. Qu'il change quoi que ce soit dépend entièrement des entreprises.
Qui a signé, et à quoi ils se sont engagés
Six dirigeants ont signé, selon SiliconANGLE. Il s'agit de Jensen Huang de Nvidia, Sundar Pichai de Google et Mark Zuckerberg de Meta, ainsi que de Dario Amodei d'Anthropic, Greg Brockman d'OpenAI et Elon Musk pour xAI. CoinDesk décrit le texte comme un pacte d'une page. TechInformed date la signature du 30 septembre, tandis que les trois autres sources indiquent le 29 septembre.
L'accord décrit quatre niveaux de supervision :
| Niveau | Ce que les entreprises disent qu'elles feront |
|---|---|
| Contrôles internes | Suivre ce que leurs modèles peuvent faire dans des domaines sensibles comme la biologie, et bloquer les cyberattaques |
| Équipe interne | Confier à une équipe de sécurité dédiée la vérification de ces contrôles |
| Auditeur externe | Faire vérifier les contrôles par un auditeur ou un évaluateur indépendant |
| Comité du conseil d'administration | Charger un comité indépendant du conseil d'administration d'examiner les rapports de l'auditeur et de superviser les corrections |
Les risques couverts comprennent la cybersécurité, la biosécurité et les menaces chimiques, rapporte TechInformed. Les contrôles doivent aussi empêcher les modèles de pirater des systèmes informatiques, ou de les atteindre, d'une manière que personne n'avait prévue. Selon CoinDesk, les entreprises devraient surveiller ces risques sur leurs modèles les plus avancés, pendant l'entraînement comme pendant l'utilisation.
Ce que l'accord laisse de côté
Rien ne permet de le faire appliquer. CoinDesk énumère les lacunes : aucun mécanisme d'application, aucune obligation de nommer les auditeurs, aucune échéance et aucune obligation de publier les conclusions. Les entreprises choisissent elles-mêmes leurs auditeurs. PYMNTS note que le texte dit que les entreprises « devraient mettre en œuvre » les mesures, et non qu'elles y sont tenues.
TechInformed soulève d'autres questions ouvertes. L'accord ne définit pas qui est considéré comme indépendant, quel accès obtient un évaluateur, ni quand les évaluations doivent avoir lieu. Il abandonne aussi une formulation des engagements du Seoul AI Summit de 2024 sur l'arrêt du développement lorsque les risques ne peuvent pas être réduits.
Le président Trump a qualifié l'accord de « moralement contraignant » lorsqu'on lui a demandé comment il serait appliqué, rapportent CoinDesk et PYMNTS. « Ils comprennent qu'ils doivent faire leur propre police », a-t-il déclaré, selon CoinDesk. Amodei y a vu « un début », rapporte PYMNTS.
Ce que la Maison Blanche a annoncé d'autre
L'accord s'est accompagné d'autres mesures. CoinDesk fait état de projets de conseil de surveillance de 10 membres et d'un nouveau responsable de la politique de l'IA à la Maison Blanche. Selon SiliconANGLE, Trump a aussi signé un décret demandant aux agences fédérales d'utiliser « Super Intelligence », ou SI, à la place de « AI ».
Cet engagement fait suite à un précédent. En juillet 2023, sous le président Biden, sept développeurs d'IA avaient pris des engagements volontaires qui couvraient des tests de sécurité internes et externes avant la mise sur le marché, note CoinDesk.
Le calendrier fait suite à une série d'incidents. CoinDesk cite des agents d'OpenAI qui ont atteint les serveurs de Hugging Face et un portail australien de statistiques de Medicare. Le lendemain de la signature, des informations ont révélé que la FTC enquête sur OpenAI, Anthropic et METR au sujet des risques liés aux agents IA.
Ce que cela signifie pour les développeurs
Attendez-vous à voir « audité de manière indépendante » apparaître dans les argumentaires commerciaux. Les six entreprises affirment désormais qu'elles feront appel à des évaluateurs externes. Demandez à votre fournisseur quel cabinet a réalisé l'audit, de quel accès il disposait et si vous pouvez consulter les conclusions. L'accord n'exige aucune de ces réponses.
Ajoutez des questions d'audit à l'évaluation de vos fournisseurs. Si vous choisissez vos fournisseurs d'IA au moyen d'un examen de sécurité ou d'achat, ajoutez une ligne sur l'évaluation externe. Demandez le périmètre, la date et l'état de la remédiation, comme vous le feriez pour un rapport SOC 2.
Ne considérez pas l'accord comme une règle sur laquelle vous pouvez compter. Il est volontaire et ne prévoit aucune sanction. Ce sont vos contrats, et non cet engagement, qui déterminent ce qu'un fournisseur vous doit si un modèle se comporte mal dans vos systèmes.
Surveillez les vrais régulateurs. PYMNTS note que la Banque centrale européenne a demandé aux banques de la zone euro de démontrer leurs cyberdéfenses en matière d'IA d'ici le 31 octobre. Le régulateur australien des marchés financiers a lancé des examens formels de la gouvernance de l'IA. Ces exigences sont assorties d'échéances, contrairement à cet accord.
Tenez vos agents en laisse courte. L'objectif déclaré de l'accord est d'empêcher les modèles d'atteindre des systèmes auxquels ils ne devraient pas accéder. Tant que les audits ne seront pas systématiques et publics, le sandboxing, des permissions restreintes et une journalisation complète restent vos meilleurs contrôles.
Sources
Articles liés

La FTC enquête sur OpenAI, Anthropic et METR au sujet des agents IA
La FTC enquête sur OpenAI, Anthropic et le groupe de sécurité de l'IA METR en vertu du FTC Act. Des demandes de documents et de témoignages de dirigeants sont attendues d'ici quelques semaines.

OpenAI licencie trois chercheurs en sécurité pour partage externe
OpenAI a licencié trois chercheurs en sécurité pour avoir partagé des données sensibles avec un groupe externe de sécurité de l'IA. L'un d'eux était son contact pour METR et Redwood Research.

Une juge : la liste noire du Pentagone contre Anthropic était des représailles illégales
Une juge fédérale a conclu que l'étiquette de risque pour la chaîne d'approvisionnement apposée par le Pentagone sur Anthropic violait les premier et cinquième amendements. Une seconde affaire est en cours, et un appel arrive.