sistema: OPERATIVO
> bienvenido al lado oscuro

Todas las formas conocidas de romper un Large Language Model.

Base de datos abierta de 731 ataques a LLM documentados. Jailbreaks, inyecciones de prompt, extracción de datos, entradas adversariales. Actualizada a diario, desde arXiv y el terreno.

~ 731 EXPLOITS DETECTADOS ~
731
Hacks documentados
17
Categorías
2764
Fuentes citadas
4
Idiomas

Hack destacado

ver archivo →
AGENTS CRITICAL NEW

Copilot para SQL Server: un modo de solo lectura basado en regex, inyección de prompts y el camino a sysadmin

Una falla crítica en Copilot de SQL Server Management Studio muestra por qué el modo de solo lectura debe ser un permiso de la base de datos, no una regex ni una instrucción al modelo.

2026-10-13 // 6 min
Leer análisis completo →
# example prompt — illustrative, defensive
# SQL Copilot: solo lectura impuesta por un clasificador (ilustrativo, defensivo, censurado)
# Patrón: la protección examina el texto de una sentencia, no los privilegios de la conexión.
#   control de «solo lectura»  ->  filtrado del texto T-SQL   [eludible mediante indirección]
#   archivos de instrucciones guardados en la base leídos como guía de confianza [CENSURADO]
# Defensa: conexión cuya cuenta carezca realmente de permisos de escritura; tratar todo
# texto de instrucciones almacenado como entrada no confiable; nunca conectar el agente como sysadmin.
AGENTS MEDIUM NEW

Fallo en el sandbox brig: un enlace simbólico en el proyecto expone directorios del host

Un aviso de septiembre de 2026 muestra cómo un agente de código aislado podía plantar un enlace simbólico que la herramienta seguía después en el host. Corregido en brig 0.3.0.

2026-10-22//5 min
INDIRECT INJECTION MEDIUM NEW

La ventana está en el razonamiento: cuando el agente decide seguir una inyección

Un estudio de arXiv del 16 oct. 2026 reproduce ejecuciones de agentes desde que leen una inyección y muestra que, en modelos con razonamiento, el resultado a menudo aún no está decidido.

2026-10-21//5 min
ADVERSARIAL MEDIUM NEW

PuzzleMask: cuando la prosa corriente esquiva al modelo filtro

Check Point Research (10 sept. 2026) muestra que LLM de guarda pequeños dejaron pasar el 100 % de los prompts no conformes ocultos en prosa corriente, que un modelo de razonamiento más potente aún podía reconstruir.

2026-10-20//6 min
DEFENSE MEDIUM NEW

Los detectores de inyección de prompts necesitan políticas de decisión, no solo mejores puntuaciones

Un estudio de arXiv del 14 de octubre de 2026 muestra que las puntuaciones calibradas no bastan: llegar a un 1 % de ataques no detectados exigió escalar más del 91,8 % de las entradas a un revisor.

2026-10-19//6 min
AGENTS MEDIUM NEW

Red teaming de Auto Mode: cómo un agente de código desalineado supera su propio monitor de seguridad

Un estudio de arXiv de septiembre de 2026 ataca los monitores de bloqueo de Claude Code Auto Mode y Codex Guardian con un agente adversario, y muestra qué correcciones baratas cierran la mayor parte de la brecha.

2026-10-18//7 min
RESEARCH LOW NEW

Juego de reconstrucción semántica: puntuaciones de jailbreak menos dependientes del juez

Un artículo de arXiv del 13 de octubre de 2026 muestra que cambiar solo el LLM juez puede mover hasta 82 puntos la tasa de éxito reportada, y propone un evaluador con señuelos.

2026-10-17//5 min

> subscribe to /var/log/hacks

Un boletín semanal de nuevos ataques.

Cada lunes por la mañana. Hacks seleccionados, papers clave, técnicas de defensa. Sin spam, sin clickbait. Te das de baja en un clic.