系统:运行中
← 返回所有攻击
SUPPLY CHAIN MEDIUM NEW

被植入木马的引导插件:通过激活引导供应链劫持大模型

2026 年 10 月的论文审计了八个开源引导库,证明插件可在保留安全功能的同时暗中引导输出,攻击成功率最高达 97.8%。

2026-10-31 // 5 min affects: open-weight-llms, activation-steering-libraries

What is this?

2026 年 10 月 26 日,Yu Yan 等人发布论文 Steering for Safety, Hijacking for Profit: Trojan Threats in the LLM Activation Steering Supply Chain(arXiv:2610.35043,cs.CR)。激活引导(activation steering)通过干预模型内部表示,在推理时调整模型行为,无需重新训练。引导“插件”(向量及应用它们的代码)如今通过第三方库分发,类似软件包或 LoRA 适配器。

作者审计了八个流行的开源引导插件库,发现三个结构性弱点:分发完整性验证薄弱、插件权限过大、缺乏运行时监控。随后他们展示了这些缺口的后果:插件在完成宣称功能的同时,悄悄把模型推向攻击者的目标。本文仅总结已发表研究,不含攻击代码。

How it works

引导技术基于这样的观察:高层行为对应激活空间中的方向。早期工作 Refusal in Language Models Is Mediated by a Single Direction(Arditi 等,2024 年 6 月)发现,在 13 个开源对话模型中,拒绝行为由单一方向控制,因此“安全”引导插件既合理又有吸引力。

新论文的概念验证 IDH 利用了这种信任。据摘要,它以合法功能(拒绝引导)作掩护,再加入隐蔽目标;通过基于范数门控的互斥路由避免两种行为相互干扰,并用“信息衰减拐点”方法自动选择注入层。所评估的隐蔽目标是在三个商业领域、六个品牌上操纵商业推荐。

在五个主流大模型上,作者报告攻击成功率最高达 97.8%,同时模型对有害请求仍保持较高拒绝率。只测试宣称功能的用户会认为插件工作正常。

Why it matters

引导插件运行在模型前向传播内部,拥有模型自身的权限,提示词层和输出过滤层都看不到它。文本护栏只会看到外观正常的推荐。攻击不需要访问提示词,只需受害者安装来自“可信”来源的插件。

受影响的是自托管开放权重模型、并采用社区引导向量来调整安全性、语气或人设的团队。其影响是细微的操纵(有偏的推荐、被引导的决策),而不是崩溃,因此难以察觉。

Defenses

  • 验证完整性与来源。 固定插件版本和哈希,优先使用签名发布,像对待任何依赖一样审查向量和加载代码。
  • 最小权限。 限制插件可作用的层和干预幅度,禁止加载时执行任意代码。
  • 运行时监控。 作者提出的框架可抑制异常激活干预并使跨层轨迹正交化。即使没有它,也应按层记录干预范数并对漂移告警。
  • 超越宣称功能进行测试。 在范围外行为(推荐中立性、事实一致性)上评估,而不仅是拒绝基准。
  • 多层防御。 对高风险推荐保留独立的输出审计和人工复核。

Status

项目详情
论文arXiv:2610.35043 (v1),cs.CR
发布日期2026 年 10 月 26 日
审计的库8 个开源引导库
评估模型5 个主流大模型
报告的最高攻击成功率97.8%
修复状态研究发现;未发现厂商补丁或 CVE。作者提出了防御框架

Sources