système : OPÉRATIONNEL
← retour à tous les hacks
RESEARCH LOW NEW

Ignorées, non refusées : ce que cache un faible taux de succès d'injection de prompt

Un audit d'octobre 2026 portant sur 33 000 trajectoires d'agents montre que la plupart des injections échouées sont ignorées et non refusées, et qu'un simple changement de prompt système fait passer le succès d'attaque de 0,2 % à 43 %.

2026-10-25 // 5 min affects: open-weight-agents-2b-14b, injecagent, agentdojo

What is this?

Le 16 octobre 2026, Farhan Zarif et ses coauteurs ont publié sur arXiv « Ignored, Not Refused: What Low Prompt-Injection Success Rates Hide in Small Tool-Using Agents » (2610.23254). Les benchmarks d’injection de prompt indirecte publient généralement le taux de succès d’attaque (ASR), qui compte chaque attaque échouée comme une défense réussie. Les auteurs auditent 33 000 trajectoires de onze agents à poids ouverts (de 2 à 14 milliards de paramètres) sur deux benchmarks publics, InjecAgent (mars 2024) et AgentDojo (juin 2024), pour comprendre pourquoi les attaques échouent. Cet article résume le résumé d’une préversion v1 ; nous n’avons pas pu lire le texte intégral, et il ne décrit aucune nouvelle attaque.

How it works

L’audit est une étude d’évaluation, pas un exploit. Un juge LLM, aveugle aux étiquettes, a classé la raison de chaque échec d’attaque. Selon le résumé, la plupart des échecs correspondent à des agents qui ont ignoré l’instruction injectée (76 à 80 %), tandis qu’une minorité sont des refus explicites (17 à 18 %). Autrement dit, le modèle n’a pas reconnu l’attaque ; il n’a simplement pas agi dessus.

Les auteurs ont ensuite modifié uniquement le prompt système, à poids identiques. Sur InjecAgent, l’ASR est passé de 0,2 % à 43 %. Ils introduisent aussi une matrice « Attack-Task Outcome Matrix » (ATOM) qui croise le résultat de l’attaque et celui de la tâche. Dans 21,7 % des épisodes AgentDojo, l’agent est resté sûr mais n’a pas accompli la tâche de l’utilisateur. Le corpus annoté, le prompt du juge et le code d’analyse seraient publiés ; la page arXiv consultée ne donne pas de lien direct, nous n’en citons donc aucun.

Why it matters

Un faible ASR peut refléter un suivi d’instructions médiocre plutôt qu’une robustesse réelle. Un agent qui ignore tout ce qui sort de l’ordinaire peut sembler sûr tout en échouant la tâche de l’utilisateur, et un petit changement de prompt ou de déploiement peut faire disparaître cette sécurité apparente. Les évaluations qui ne rapportent que l’ASR risquent donc de surestimer la sécurité et ne distinguent pas « défendu » de « n’a pas compris ». Cela s’inscrit dans un schéma plus large : INFUSE (arXiv 2610.20776, 14 octobre 2026) a testé 19 modèles sur 41 824 exécutions adverses et mesure un succès d’attaque moyen de 19,6 %, avec des taux par modèle de 3,2 % à 41,9 %.

Réserves : il s’agit d’une préversion sans réplication indépendante, elle porte sur de petits modèles à poids ouverts, et les résultats dépendent d’un juge LLM. Nous n’avons pas vérifié si les conclusions s’appliquent aux modèles de frontière.

Defenses

Les auteurs concluent que les évaluations devraient rapporter la manière dont les attaques échouent et si la tâche de l’utilisateur est accomplie, en plus de l’ASR. Mesures pratiques qui en découlent :

  • Rapportez ensemble l’accomplissement de la tâche et le résultat de l’attaque, et non l’ASR seul.
  • Relancez vos évaluations d’injection à chaque changement de prompt système, d’outils ou de version de modèle ; les mêmes poids peuvent se comporter très différemment.
  • Distinguez « refusé » et « ignoré » dans vos journaux de test, afin de savoir si le modèle a reconnu l’attaque.
  • Ne vous reposez pas sur le seul comportement du modèle : appliquez le moindre privilège, faites confirmer les appels d’outils sensibles et filtrez les sorties en dehors du modèle.
  • Évaluez sur plus d’un benchmark, car les résultats d’un seul ne se transposent pas forcément.

Status

ÉlémentDétail
ArticlearXiv 2610.23254v1
Publié16 octobre 2026
Benchmarks auditésInjecAgent (arXiv 2403.02691, mars 2024) ; AgentDojo (arXiv 2406.13352, juin 2024)
Travaux liésINFUSE (arXiv 2610.20776, 14 octobre 2026)
CVEAucun ; recherche académique, pas une vulnérabilité produit

Sources