Anthropic : de petits modèles d'IA pourraient bientôt s'auto-répliquer

Anthropic affirme que de petits modèles d'IA, que tout le monde peut télécharger, pourraient bientôt se copier eux-mêmes sur des appareils bon marché connectés à Internet, sans aide humaine. Sa Frontier Red Team, qui teste les modèles pour détecter des capacités dangereuses, a publié ces travaux le 12 octobre 2026. Un tel programme n'aurait plus besoin d'un centre de données pour fonctionner. Anthropic estime qu'un petit modèle pourrait atteindre ce niveau d'ici fin 2026.

Ce qu'Anthropic a testé

Le billet d'Anthropic, signé William Zhou et Daniel Freeman, décrit deux expériences principales.

La première cherchait à savoir si du matériel bon marché peut seulement faire tourner un modèle performant. L'équipe a relié 15 boîtiers Android TV sans marque, coûtant chacun environ 55 dollars, avec 4 Go de mémoire. Ensemble, ils ont fait tourner Gemma4-26B-A4B, un modèle à poids ouverts, réparti entre les boîtiers. Cela a fonctionné, mais lentement. Le billet indique environ 0,39 token par seconde à un endroit et environ 0,3 à un autre. Un token est un petit morceau de texte.

La seconde testait toute la chaîne : entrer, copier le modèle, puis recommencer sur l'appareil suivant. L'équipe a construit un réseau fermé de 8 machines cloud exécutant un émulateur Android. Une machine préparée à l'avance a lancé la propagation. Chaque copie passait par un port ADB sans mot de passe. ADB est une connexion de débogage des appareils Android. La copie installait ensuite un serveur de modèle sur la nouvelle machine.

Quels modèles ont réussi

Un seul modèle à poids ouverts a terminé toute la chaîne, selon Anthropic. Les résultats :

Test	Configuration	Résultat
Faire tourner un modèle	15 boîtiers Android TV, environ 55 dollars chacun	Gemma4-26B-A4B a tourné à environ 0,3 à 0,39 token par seconde
Propagation complète	8 machines cloud, port ADB ouvert	GLM-5.2 a atteint les 8 dans 4 essais sur 5, et 7 sur 8 lors du cinquième
Petits modèles	30 milliards de paramètres ou moins	Beaucoup d'étapes isolées réussies, mais des erreurs en les enchaînant
Apprentissage d'une copie à l'autre	Qwen3.5-9B, 6 générations, 20 lignées	Le taux de réussite de l'installation du serveur est passé de 45 % à entre 61 % et 84 %

D'autres modèles à poids ouverts ont échoué de façon constante au test complet, indique le billet. Donner à Qwen3.5-9B des conseils de Claude Opus 4.8 n'a fait aucune différence significative. Nous avons examiné en septembre la quantité de mémoire dont Qwen3.5-9B a besoin.

GLM-5.2 vient du laboratoire chinois Zhipu, dont le plus récent GLM-5.3 est sorti avec des poids ouverts en août.

Les limites du test

Anthropic souligne que la configuration était simplifiée. Entrer était trivial, car le port ADB ne demandait aucun mot de passe, « ce qui en fait une limite haute du succès en conditions réelles », indique le billet. Aucun ver d'IA de ce type n'a été observé dans la nature, selon le billet.

Al Jazeera rapporte qu'aucun modèle actuel n'était à la fois assez puissant et assez petit pour s'auto-répliquer de façon fiable sur la télévision connectée utilisée lors des tests.

Quand cela pourrait arriver

Si les petits modèles continuent de progresser à leur rythme passé, l'un d'eux pourrait égaler GLM-5.2 d'ici fin 2026, estime Anthropic. L'entreprise s'appuie sur une ligne de tendance ajustée à l'Epoch Capabilities Index, un score combiné des capacités des modèles. Elle qualifie cette estimation d'approximative. Reuters rapporte le même calendrier, d'ici fin 2026.

L'équipe de recherche a déclaré à Al Jazeera que les appareils des foyers et des petites entreprises « pourraient être la première cible de telles attaques parce qu'ils sont connectés à Internet ».

« Aujourd'hui, ce n'est pas une menace existentielle. Mais la trajectoire est inquiétante », a déclaré à Al Jazeera Roman V Yampolskiy, spécialiste de l'IA et de la cybersécurité à l'université de Louisville.

Ce que recommande Anthropic

Le billet suggère ces défenses :

• Maintenir la propagation sous un. Chaque appareil infecté devrait, en moyenne, en infecter moins d'un autre, pour qu'une épidémie s'éteigne.
• Surveiller le trafic réseau. Les fournisseurs d'accès à Internet peuvent repérer les transferts de modèles de plusieurs gigaoctets et le trafic inhabituel entre appareils.
• Tendre des pièges. Des honeypots, des appareils leurres, peuvent capturer le code du ver.
• Mettre en quarantaine et prévenir. Pendant l'épidémie du botnet Mirai, prévenir les clients infectés a éliminé 92 % des infections en 14 jours, contre 74 % sans notification.
• Livrer des réglages par défaut plus sûrs. Les fabricants d'appareils devraient relever leur niveau de sécurité de base, et la réglementation peut aider à coordonner cet effort.

Ce que cela signifie pour les développeurs

Pour les équipes qui conçoivent ou exploitent des appareils connectés :

• Fermez les ports de débogage. Le test s'est propagé par un port ADB sans mot de passe. Désactivez l'ADB réseau sur les produits basés sur Android, ou exigez une authentification.
• Déclenchez des alertes sur les gros transferts. Un modèle qui se copie doit déplacer des gigaoctets de poids. Signalez les téléchargements de plusieurs gigaoctets vers des appareils qui n'en récupèrent normalement jamais autant.
• Isolez les appareils bon marché. Placez les boîtiers TV et les appareils électroménagers connectés sur leur propre segment réseau, à l'écart des systèmes de travail.
• Supprimez les mots de passe par défaut. Si vous fabriquez des appareils, livrez chaque unité avec ses propres identifiants.
• Suivez les petits modèles ouverts. Le calendrier d'Anthropic dépend de la vitesse à laquelle les petits modèles progressent. Réévaluez votre exposition à chaque nouvelle sortie.