Plugins de steering piégés : détourner un LLM via la chaîne d'approvisionnement
Un article d'octobre 2026 audite huit bibliothèques open source de steering et montre qu'un plugin peut conserver sa fonction de sécurité tout en orientant discrètement les sorties, jusqu'à 97,8 % de réussite.
What is this?
Le 26 octobre 2026, une équipe dirigée par Yu Yan a publié Steering for Safety, Hijacking for Profit: Trojan Threats in the LLM Activation Steering Supply Chain (arXiv:2610.35043, cs.CR). Le steering d’activations modifie le comportement d’un modèle à l’inférence en intervenant sur ses représentations internes, sans réentraînement. Les « plugins » de steering (vecteurs et code qui les applique) sont désormais distribués via des bibliothèques tierces, comme des paquets ou des adaptateurs LoRA.
Les auteurs auditent huit bibliothèques open source populaires et relèvent trois faiblesses structurelles : vérification faible de l’intégrité de la distribution, privilèges excessifs des plugins et absence de surveillance à l’exécution. Ils montrent ensuite ce que cela permet : un plugin qui remplit sa fonction annoncée tout en poussant discrètement le modèle vers l’objectif d’un attaquant. Cet article résume une recherche publiée ; il ne contient aucun code d’attaque.
How it works
Le steering repose sur l’idée que des comportements de haut niveau correspondent à des directions dans l’espace d’activation. Les travaux antérieurs Refusal in Language Models Is Mediated by a Single Direction (Arditi et al., juin 2024) ont établi que, sur 13 modèles de chat open source, le refus est contrôlé par une direction unique ; un plugin de steering « sécurité » est donc plausible et attractif.
La preuve de concept de l’article, nommée IDH, exploite cette confiance. Selon le résumé, elle garde la fonction légitime (steering de refus) comme couverture et ajoute un objectif caché. Un routage mutuellement exclusif à seuil de norme évite que les deux comportements interfèrent, et une méthode de « point d’inflexion de décroissance de l’information » choisit automatiquement la couche d’injection. L’objectif caché évalué est la manipulation de recommandations commerciales sur six marques dans trois domaines.
Sur cinq LLM courants, les auteurs rapportent un taux de réussite d’attaque allant jusqu’à 97,8 %, tandis que le modèle continue de refuser fortement les requêtes nuisibles. Un utilisateur qui ne teste que la fonction annoncée verrait un plugin conforme.
Why it matters
Les plugins de steering agissent dans la passe avant du modèle, avec les privilèges du modèle lui-même, et sont invisibles pour les garde-fous de prompt et de sortie. Les filtres textuels ne voient que des recommandations d’apparence ordinaire. L’attaque n’exige pas d’accès au prompt, seulement que la victime installe un plugin issu d’une source jugée fiable.
Sont concernées les équipes qui hébergent des modèles open weights et adoptent des vecteurs communautaires pour la sécurité, le ton ou la persona. L’impact est une manipulation subtile (recommandations biaisées, décisions orientées) plutôt qu’une panne, donc difficile à détecter.
Defenses
- Vérifier intégrité et provenance. Épinglez versions et empreintes, préférez les versions signées, relisez vecteurs et code de chargement comme pour toute dépendance.
- Appliquer le moindre privilège. Limitez les couches accessibles et l’amplitude des interventions ; interdisez l’exécution de code arbitraire au chargement.
- Surveiller à l’exécution. Les auteurs proposent un cadre qui supprime les interventions anormales et orthogonalise les trajectoires entre couches. À défaut, journalisez les normes d’intervention par couche et alertez sur les dérives.
- Tester au-delà de la fonction annoncée. Évaluez le modèle sur des comportements hors périmètre (neutralité des recommandations, cohérence factuelle), pas seulement sur le benchmark de refus.
- Superposer les défenses. Conservez des audits de sortie indépendants et une revue humaine pour les recommandations à fort enjeu.
Status
| Élément | Détail |
|---|---|
| Article | arXiv:2610.35043 (v1), cs.CR |
| Publication | 26 octobre 2026 |
| Bibliothèques auditées | 8 bibliothèques open source de steering |
| Modèles évalués | 5 LLM courants |
| Pic de réussite d’attaque rapporté | 97,8 % |
| Statut du correctif | Résultat de recherche ; aucun correctif éditeur ni CVE identifié. Cadre défensif proposé par les auteurs |