韩国发布全球首个政府级 AI 红队标准

这是什么？

2026 年 7 月 8 日，韩国科学与信息通信技术部（MSIT）发布了两份正式的政府指南——《AI 安全威胁应对手册》与《AI 安全红队指南》。二者合在一起，构成了看起来是首个官方、可审计的政府标准，规定组织应如何识别 AI 特有的安全威胁，以及如何组建负责挖掘这些威胁的对抗性测试团队。

此举回应了研究界多年来指出的一处空白。乔治城大学安全与新兴技术中心在 2025 年 10 月指出，「红队实践差异极大，鲜有既定标准或最佳实践」；2026 年的若干系统性综述也将 AI 红队描述为碎片化，威胁建模有限、评估指标不一致。在此之前，声称对自家 AI 做过红队测试只是一种没有共同基准的自我声明。两份指南在韩国第 15 届信息保护日活动上公布，CISA、英国 AI 安全研究所和谷歌均作了主题演讲。

工作原理

两份文件分别覆盖问题的两个不同侧面，这种划分是有意为之。

**《红队指南》**面向从业者，规定 AI 红队应如何在生产环境中组建、配备人员与运作，以及必须采用哪些对抗性方法。它把两个常被混为一谈的目标区分开来：安全测试（保护 AI 系统免受外部攻击）与安全性测试（防止系统产生有害输出）。

**《威胁应对手册》**面向运营方，梳理了开发者与运营方最可能遇到的威胁场景，并按 AI 生命周期而非针对确定性软件设计的框架加以映射。三类攻击尤为突出：训练阶段攻击，如模型投毒和后门注入，会在部署很久之前就植入潜伏触发器；推理阶段攻击，如提示注入，利用了语言模型会在上下文中任何位置遵循自然语言指令这一特性；以及隐私攻击，如成员推断，能够揭示某个人的数据是否出现在训练集中。手册针对每一类都给出了具体的对策。

这些指南嵌入在一个分层的制度体系中——法律、施行令、告示、指南——首尔自 2024 年 12 月通过 AI 框架法（「AI 基本法」）以来一直在构建该体系。此前的草案已把红队列为良好实践；7 月 8 日的文件则是首次对其作出具体定义。

为何重要

韩国 AI 基本法于 2026 年 1 月 22 日生效，行政罚款设有一年宽限期，因此执法最早可从 2027 年 1 月 22 日开始。7 月的指南正是为在该日期前完成合规基础设施而进行的立法冲刺的一部分。

该法的效力超出韩国国界。超过特定门槛的外国运营方——上一年度总营收约 1 万亿韩元、AI 服务营收约 100 亿韩元，或境内日均活跃用户超过 100 万——若其系统影响韩国市场，即须承担义务，并须指定境内代表。在医疗、金融、能源、交通和教育等行业运营「高影响 AI」的组织，如今有了一套衡量其安全项目的基准。合规压力同时来自两个方向，因为欧盟《AI 法案》的高风险条款预计于 2026 年 8 月生效。

外交背景同样值得注意。韩国 AI 安全研究所于 2026 年 6 月 17 日与 OpenAI、6 月 18 日与 Anthropic 签署了谅解备忘录，并与谷歌 DeepMind、OpenAI 和 Anthropic 保持双边协议——使其成为欧盟和美国之外国际联系最紧密的 AI 安全机构之一。

防御建议

对于任何运营触及韩国用户的 AI 系统的团队，这些指南可转化为一份具体的近期清单：

• 尽早翻译。 7 月 8 日的文件仅以韩文发布，尚未宣布英文版本。受影响的团队应尽快委托翻译，而非等待。
• 建立或记录符合《指南》运作标准的红队项目。 只测试聊天机器人越狱的项目达不到要求；标准还期望覆盖训练阶段攻击与隐私攻击。
• 对照《威胁应对手册》评估高影响系统。 让每一处部署逐一走过手册中的场景——投毒、推理攻击、AI 辅助入侵——并记录现有对策。
• 区分被动与主动。 良好的事件响应无法替代结构化的红队，反之亦然；两份文件之所以并存，正因为组织往往只有其一。
• 与并行框架对齐。 将控制项映射到 NIST AI RMF 与欧盟《AI 法案》，可在 2026 年 8 月和 2027 年 1 月的期限临近时减少重复工作。

其意义虽窄却真实：在韩国，「我们已对 AI 做过红队测试」这句话如今有了一个可供审计的定义。

状态

项目	内容
指南发布	2026 年 7 月 8 日（MSIT）
文件	《AI 安全威胁应对手册》；《AI 安全红队指南》
依据法律	AI 框架法（「AI 基本法」）
法律生效日	2026 年 1 月 22 日
执法（宽限期后）	最早 2027 年 1 月 22 日
适用范围	「高影响 AI」运营方；超过门槛即具域外效力
语言	仅韩文（未宣布英文翻译）

关键日期：2024 年 12 月——AI 框架法通过。2026 年 1 月 22 日——法律生效。2026 年 7 月 8 日——手册与指南发布。2027 年 1 月 22 日——最早执法。