La Corée du Sud publie le premier standard public de red teaming IA

De quoi s’agit-il ?

Le 8 juillet 2026, le ministère coréen des Sciences et des TIC (MSIT) a publié deux guides officiels — le Manuel de réponse aux menaces de sécurité IA et le Guide de red teaming de sécurité IA. Ensemble, ils établissent ce qui semble être le premier standard public, officiel et auditable, décrivant comment une organisation doit identifier les menaces propres à l’IA et structurer les équipes de test adverse chargées de les débusquer.

La démarche répond à une lacune signalée depuis des années par les chercheurs. En octobre 2025, le Center for Security and Emerging Technology de Georgetown notait que « les pratiques de red teaming varient largement et qu’il existe peu de standards ou de bonnes pratiques établis » ; des revues systématiques de 2026 décrivaient le red teaming IA comme fragmenté, avec une modélisation des menaces limitée et des métriques d’évaluation incohérentes. Jusqu’ici, affirmer avoir red-teamé son IA relevait de l’auto-déclaration, sans référentiel commun. Les guides ont été dévoilés lors de la 15e Journée coréenne de la protection de l’information, avec des interventions de la CISA, de l’UK AI Safety Institute et de Google.

Comment ça marche

Les deux documents couvrent deux moitiés distinctes du problème, et cette séparation est délibérée.

Le Guide de red teaming s’adresse aux praticiens. Il définit comment une équipe de red team IA doit être structurée, dotée et opérée en production, et quelles méthodologies adverses elle doit appliquer. Il réunit deux objectifs souvent confondus : le test de sécurité (protéger le système IA d’une attaque externe) et le test de sûreté (empêcher le système de produire des sorties nuisibles).

Le Manuel de réponse aux menaces s’adresse aux exploitants. Il recense les scénarios de menace que développeurs et opérateurs rencontrent le plus souvent, cartographiés sur le cycle de vie de l’IA plutôt que calqués sur des cadres conçus pour du logiciel déterministe. Trois familles se détachent : les attaques à l’entraînement, comme l’empoisonnement de modèle et l’injection de porte dérobée, qui insèrent des déclencheurs dormants bien avant le déploiement ; les attaques à l’inférence, comme l’injection de prompt, qui exploitent le fait qu’un modèle de langage suit les instructions en langage naturel partout où elles apparaissent dans son contexte ; et les attaques de vie privée, comme l’inférence d’appartenance, qui peuvent révéler si les données d’une personne figuraient dans le jeu d’entraînement. Pour chacune, le Manuel propose des contre-mesures concrètes.

Ces guides s’insèrent dans un régime en couches — Loi, Décret d’application, Notices, Guides — que Séoul construit depuis l’adoption de sa loi-cadre sur l’IA (« AI Basic Act ») en décembre 2024. Les brouillons antérieurs mentionnaient déjà le red teaming comme bonne pratique ; les documents du 8 juillet sont les premiers à le définir concrètement.

Pourquoi c’est important

L’AI Basic Act coréen est entré en vigueur le 22 janvier 2026, avec une période de grâce d’un an sur les amendes administratives : l’application peut donc commencer dès le 22 janvier 2027. Les guides de juillet font partie du sprint réglementaire visant à mettre en place l’infrastructure de conformité avant cette date.

La loi porte au-delà des frontières coréennes. Les opérateurs étrangers dépassant certains seuils — environ 1 000 milliards de KRW de chiffre d’affaires total l’année précédente, 10 milliards de KRW de revenus de services IA, ou plus d’un million d’utilisateurs quotidiens moyens sur le territoire — sont soumis à des obligations si leurs systèmes affectent le marché coréen, et doivent désigner un représentant local. Les organisations exploitant de l’« IA à fort impact » dans des secteurs comme la santé, la finance, l’énergie, les transports ou l’éducation disposent désormais d’un référentiel contre lequel leurs programmes seront évalués. La pression de conformité converge de deux côtés à la fois, puisque les dispositions à haut risque du règlement européen sur l’IA doivent s’appliquer en août 2026.

Le contexte diplomatique compte aussi. L’AI Safety Institute coréen a signé des protocoles d’accord avec OpenAI le 17 juin et Anthropic le 18 juin 2026, et détient des accords bilatéraux avec Google DeepMind, OpenAI et Anthropic — ce qui en fait l’un des organismes de sûreté IA les plus connectés hors UE et États-Unis.

Défenses

Pour toute équipe exploitant des systèmes IA touchant des utilisateurs coréens, les guides se traduisent par une check-list concrète à court terme :

• Faire traduire rapidement. Les documents du 8 juillet ne sont publiés qu’en coréen, sans version anglaise annoncée. Les équipes concernées devraient commander une traduction sans attendre.
• Mettre en place ou documenter un programme de red team conforme aux standards opérationnels du Guide. Un programme qui ne teste que les jailbreaks de chatbot ne suffit pas ; le standard attend aussi une couverture des attaques à l’entraînement et de vie privée.
• Évaluer les systèmes à fort impact au regard du Manuel de réponse aux menaces. Passer chaque déploiement par les scénarios du Manuel — empoisonnement, attaques à l’inférence, intrusions assistées par IA — et consigner les contre-mesures en place.
• Distinguer réactif et proactif. Une bonne réponse à incident ne remplace pas une red team structurée, et inversement ; les deux documents existent précisément parce que les organisations ont souvent l’un sans l’autre.
• S’aligner sur les cadres parallèles. Rattacher les contrôles au NIST AI RMF et au règlement européen réduit les doublons à l’approche des échéances d’août 2026 et janvier 2027.

La portée est étroite mais réelle : en Corée du Sud, la phrase « nous avons red-teamé notre IA » possède désormais une définition contre laquelle elle peut être auditée.

Statut

Élément	Valeur
Publication des guides	8 juillet 2026 (MSIT)
Documents	Manuel de réponse aux menaces de sécurité IA ; Guide de red teaming de sécurité IA
Loi de référence	AI Framework Act (« AI Basic Act »)
Entrée en vigueur de la loi	22 janvier 2026
Application (après période de grâce)	Dès le 22 janvier 2027
Périmètre	Opérateurs d’« IA à fort impact » ; extraterritorialité au-delà des seuils
Langue	Coréen uniquement (aucune traduction anglaise annoncée)

Dates clés : décembre 2024 — adoption de l’AI Framework Act. 22 janvier 2026 — entrée en vigueur. 8 juillet 2026 — publication du Manuel et du Guide. 22 janvier 2027 — application au plus tôt.