系统:运行中
← 返回所有攻击
AGENTS MEDIUM NEW

Pair-Aware Optimization:为何智能体越狱评估需要混合攻击

2026年10月17日的一篇arXiv论文结合基于查询与基于梯度的搜索来越狱LLM智能体,并建议在随机解码下测试防御。

2026-10-29 // 5 分钟 affects: llm-agents

这是什么?

2026年10月17日,Juanyang Xu、Zheng Wang、Xingyu Zhao、Siddartha Khastgir 和 Andi Zhang 在 arXiv 发布了《Pair-Aware Optimization: Coordinating Exploration and Refinement for Jailbreaking LLM Agents》(2610.24823,cs.LG / cs.AI)。该论文研究LLM智能体的越狱:对抗性输入促使智能体执行攻击者指定的行为,而不仅仅是给出有害文本回答。

它建立在早期基于优化的攻击之上,例如 Zou 等人于2023年7月发表的梯度引导后缀搜索(arXiv 2307.15043)。其新贡献在于方法论:比较这些搜索方式的组合方法,并改变了对智能体攻击的衡量方式。

工作原理

从概念层面看,作者对比了两类优化器。零阶方法只需要候选输入表现如何的反馈;一阶方法使用梯度,因此需要白盒访问。论文比较了四种策略:仅零阶、仅一阶、先零阶后一阶,以及相反顺序。

所提出的“pair-aware”框架先用零阶搜索探索候选对抗前缀,再用一阶优化精炼对应的后缀。它保留多个候选前缀,有选择地精炼后缀,并选出最佳的前缀-后缀组合。根据摘要,该混合方法在恶意指令和恶意环境两类基准上都优于单一优化器方法,且各阶段的顺序对结果有显著影响。

第二点涉及评估:由于同一输入可能让智能体产生不同的推理与行动,作者将攻击视为随机生成,并在优化与评估中使用相同的随机解码。本次运行未能获取全文,因此此处不给出具体成功率和基准名称,请参阅论文。本文不包含任何攻击字符串。

为何重要

实际启示在于度量方式。仅针对某一类攻击或单次贪心输出验证的防御,可能高估其保护效果。对开源权重模型拥有白盒访问权限的攻击者可以组合多种搜索方式;而读取不可信内容(网页、文件、工具输出)的智能体,不仅会通过用户提示,也会通过环境受到攻击。

防御

  • 在随机解码和重复试验下评估智能体,并以成功率而非单次通过/失败来报告。
  • 在红队测试中纳入混合与自适应攻击,而不是只用单一的标准优化器。
  • 同时测试恶意指令与恶意环境内容。
  • 在模型之外实施控制:最小权限的工具授权、对不可逆操作的确认,以及对工具调用序列的监控。
  • 将开源权重模型视为对持有权重的对手完全可攻击,不要仅依赖模型拒绝作为唯一保护。

Status

项目详情
来源类型研究论文(arXiv 预印本,v1)
发布日期2026年10月17日
厂商补丁不适用(未披露具体产品漏洞)
同行评审摘要页未说明

Sources