Plugins de steering troyanizados: secuestrar un LLM por la cadena de suministro
Un artículo de octubre de 2026 audita ocho bibliotecas de steering de código abierto y muestra que un plugin puede conservar su función de seguridad mientras orienta en secreto las salidas, hasta un 97,8 % de éxito.
What is this?
El 26 de octubre de 2026, un equipo liderado por Yu Yan publicó Steering for Safety, Hijacking for Profit: Trojan Threats in the LLM Activation Steering Supply Chain (arXiv:2610.35043, cs.CR). El steering de activaciones ajusta el comportamiento de un modelo en inferencia mediante intervenciones en sus representaciones internas, sin reentrenarlo. Los «plugins» de steering (vectores y el código que los aplica) se distribuyen ya a través de bibliotecas de terceros, como paquetes o adaptadores LoRA.
Los autores auditan ocho bibliotecas de código abierto populares e identifican tres debilidades estructurales: verificación débil de la integridad de la distribución, privilegios excesivos de los plugins y ausencia de monitorización en ejecución. Después muestran lo que eso permite: un plugin que cumple su función anunciada mientras empuja discretamente al modelo hacia el objetivo de un atacante. Este artículo resume una investigación publicada y no contiene código de ataque.
How it works
El steering parte de la idea de que comportamientos de alto nivel corresponden a direcciones en el espacio de activaciones. El trabajo previo Refusal in Language Models Is Mediated by a Single Direction (Arditi et al., junio de 2024) halló que, en 13 modelos de chat de código abierto, el rechazo está controlado por una única dirección; por eso un plugin de steering de «seguridad» resulta plausible y atractivo.
La prueba de concepto del nuevo artículo, llamada IDH, aprovecha esa confianza. Según el resumen, mantiene la función legítima (steering de rechazo) como cobertura y añade un objetivo encubierto. Un enrutamiento mutuamente excluyente con umbral de norma evita que ambos comportamientos interfieran, y un método de «punto de inflexión de decaimiento de información» elige automáticamente la capa de inyección. El objetivo encubierto evaluado fue la manipulación de recomendaciones comerciales en seis marcas de tres ámbitos.
En cinco LLM habituales, los autores informan de una tasa de éxito de ataque de hasta 97,8 %, mientras el modelo sigue rechazando con frecuencia las solicitudes dañinas. Quien pruebe el plugin solo en su función anunciada lo vería funcionar correctamente.
Why it matters
Los plugins de steering actúan dentro del paso hacia delante del modelo, con los privilegios del propio modelo, y son invisibles para las barreras de prompt y de salida. Los filtros de texto solo ven recomendaciones de apariencia normal. El ataque no requiere acceso al prompt, solo que la víctima instale un plugin de una fuente que considere fiable.
Afecta a equipos que alojan modelos de pesos abiertos y adoptan vectores comunitarios para seguridad, tono o persona. El impacto es una manipulación sutil (recomendaciones sesgadas, decisiones orientadas) más que una caída, lo que dificulta su detección.
Defenses
- Verificar integridad y procedencia. Fije versiones y hashes, prefiera versiones firmadas y revise vectores y código de carga como cualquier dependencia.
- Aplicar mínimo privilegio. Limite las capas accesibles y la magnitud de las intervenciones; prohíba la ejecución de código arbitrario al cargar.
- Monitorizar en ejecución. Los autores proponen un marco que suprime intervenciones anómalas y ortogonaliza trayectorias entre capas. Sin él, registre las normas de intervención por capa y alerte ante desviaciones.
- Probar más allá de la función anunciada. Evalúe el modelo en comportamientos fuera de alcance (neutralidad de recomendaciones, coherencia factual), no solo en el benchmark de rechazo.
- Superponer defensas. Mantenga auditorías de salida independientes y revisión humana para recomendaciones de alto impacto.
Status
| Elemento | Detalle |
|---|---|
| Artículo | arXiv:2610.35043 (v1), cs.CR |
| Publicación | 26 de octubre de 2026 |
| Bibliotecas auditadas | 8 bibliotecas de steering de código abierto |
| Modelos evaluados | 5 LLM habituales |
| Pico de éxito de ataque informado | 97,8 % |
| Estado del parche | Hallazgo de investigación; sin parche de proveedor ni CVE identificado. Marco defensivo propuesto por los autores |