Aller au contenu

Anthropic : de nouvelles défenses réduisent la distillation de Claude de 90-99 %

Selon Anthropic, de nouvelles défenses réduisent de 90-99 % les données récoltées sur Claude par distillation. Certains changements touchent les utilisateurs de l'API, du contexte verrouillé aux blocages facturés.

Par Tech AI Wire Team

3 min de lecture

XLinkedIn
Le billet d'Anthropic Strengthening our defenses against distillation attacks, daté du 12 octobre 2026, au-dessus d'une image d'empreintes de fougère bleues de plus en plus petites.

En chiffres

less data harvested by distillers, Anthropic's early estimate
90-99%
drop in extracted reasoning tokens after its classifier
10-100x
of benign requests blocked by the classifier
<0.1%
API accounts created on or after this date cannot edit prior context
Aug 31

Anthropic affirme que de nouvelles défenses ont réduit d'environ 90 à 99 % les données récoltées sur ses modèles Claude par distillation. L'entreprise a décrit ces mesures dans un billet daté du 12 octobre 2026. La distillation désigne ici le fait de copier les compétences d'un modèle en entraînant un nouveau modèle sur ses réponses, sans autorisation. Plusieurs de ces défenses modifient le comportement de l'API de Claude, si bien que certains développeurs ont déjà dû mettre à jour leur code.

Contre quoi Anthropic se défend

Le billet d'Anthropic qualifie les attaques par distillation de « campagnes clandestines à l'échelle industrielle » visant à extraire les capacités d'un modèle. Elles passent souvent par des réseaux de faux comptes. Les attaquants veulent surtout des transcriptions de raisonnement, c'est-à-dire la réflexion étape par étape qui montre comment Claude parvient à une réponse.

Anthropic a testé pourquoi ces transcriptions comptent. L'entreprise a entraîné un modèle sur des transcriptions de Claude Opus 4.8 et l'a évalué sur SWE-bench Verified, un benchmark de code :

Données d'entraînementScore sur SWE-bench Verified
Transcriptions de raisonnement complètes80,4 %
Transcriptions résumées71,8 %

Anthropic soutient aussi que des modèles copiés peuvent être diffusés sans garde-fous solides. Cela accroît le risque d'abus dans des domaines comme les cyberattaques et la biologie.

Ce qui a changé pour les utilisateurs de l'API

Anthropic énumère ces mesures :

MesureModèlesCe qu'elle fait
Réflexion préservéeClaude Fable 5.1, Opus 5.5Les comptes API créés le 31 août 2026 ou après ne peuvent pas modifier le contexte antérieur
Isolation du raisonnementSonnet 5.5 et modèles plus récentsLe raisonnement de Sonnet 5.5 n'est visible que par l'organisation qui a envoyé la requête ; les modèles plus anciens ne peuvent pas lire le raisonnement des modèles plus récents
Classificateur en deux étapesSonnet 5.5, Opus 5 et 5.5, Fable 5 et 5.1Signale les tentatives d'extraction ; bloque des requêtes anodines dans moins de 0,1 % des cas
FacturationRequêtes bloquées par les garde-fousFacturées depuis le 24 septembre 2026

Anthropic a aussi corrigé des astuces comme demander à Claude de traduire son raisonnement antérieur dans une autre langue. Les tentatives d'extraction persistantes se heurtent désormais à des limites d'usage plus strictes et à des bannissements. Anthropic dit avoir banni des dizaines de milliers de comptes, souvent dans les deux heures suivant le début d'une campagne, rapporte Pulse 2.0.

Après la mise en service du classificateur, les tokens de raisonnement extraits par les attaquants ont été divisés par un facteur allant de 10 à plus de 100, selon Anthropic.

Qui Anthropic désigne

Le billet nomme deux laboratoires d'IA chinois. Selon Anthropic, Zhipu a utilisé la distillation pour copier les compétences cyber de modèles américains pendant le développement de GLM-5.3. Lorsque les garde-fous de Claude ont dégradé ces tentatives, Zhipu s'est tourné vers un modèle Claude plus ancien et vers le modèle d'un autre laboratoire, d'après Anthropic. Un organisme gouvernemental américain a ensuite classé GLM-5.3 comme le modèle à poids ouverts aux capacités cyber les plus avancées publié à ce jour. Nous avons couvert la publication de GLM-5.3 en poids ouverts en août.

Anthropic affirme aussi que des requêtes envoyées à Kimi, de Moonshot AI, étaient secrètement transférées à Claude. OpenAI a relié une autre campagne d'extraction de raisonnement à Moonshot AI plus tôt ce mois-ci.

Le rapport sur les menaces publié par Anthropic en septembre recensait près de 200 millions d'échanges liés à la distillation dans cinq campagnes, rapporte Crypto Briefing. La plus importante, liée à Qwen d'Alibaba, a dépassé 151 millions d'échanges de mai à juillet 2026.

Les coûts qu'Anthropic reconnaît

Ces défenses ont un prix. Anthropic dit avoir refusé « des revenus significatifs et un trafic payant représentant des milliers de milliards de tokens ». La réflexion préservée a obligé certains développeurs à modifier leurs intégrations. Des requêtes anodines sont parfois bloquées, et ces blocages sont facturés aux utilisateurs.

Anthropic dit ne pas avoir pleinement atteint son objectif de laisser les utilisateurs légitimes intacts. L'entreprise s'attend à un jeu du chat et de la souris et n'a pas encore vu de tentative persistante et très sophistiquée. « Nous ne savons pas encore combien de temps ces gains dureront », a déclaré l'entreprise, citée par Pulse 2.0.

Ce que cela signifie pour les développeurs

Pour les équipes qui s'appuient sur l'API de Claude :

  • Vérifiez la date du compte. Si votre compte API a été créé le 31 août 2026 ou après, vous ne pouvez pas modifier le contexte antérieur sur Fable 5.1 ou Opus 5.5. Les applications qui réécrivent les tours passés, par exemple en raccourcissant ou en remplaçant d'anciens messages, ont besoin d'une autre approche.
  • Ne comptez pas sur le partage du raisonnement. Le raisonnement de Sonnet 5.5 reste au sein de l'organisation qui a envoyé la requête. Un pipeline qui transmet la réflexion d'un modèle à un autre modèle risque de ne plus fonctionner.
  • Prévoyez un budget pour les appels bloqués. Les requêtes bloquées par les garde-fous sont facturées. À moins de 0,1 %, le coût est faible, mais suivez les appels bloqués pour remarquer une hausse du taux.
  • Évitez les prompts qui ressemblent à de l'extraction. Demander à un modèle de répéter mot pour mot son raisonnement précédent est désormais un schéma que le classificateur surveille. Gardez cela hors de vos prompts de production.
  • Attendez-vous à d'autres changements. Anthropic parle d'une lutte continue. Surveillez ses notes de version pour repérer de nouvelles limites sur la façon dont le raisonnement peut être lu ou réutilisé.

Sources

  1. Strengthening our defenses against distillation attacks - Anthropic
  2. Anthropic Says New Defenses Cut Data Harvested Through AI Distillation Attacks By 90% To 99% - Pulse 2.0
  3. Anthropic says new defenses cut distillation data harvested from Claude by 90 to 99 percent - Crypto Briefing
  4. Anthropic Reports Distillation Defenses Reduced Extracted Reasoning Tokens - Unite.AI

Articles liés