Volver al Blog

Un redirect de DNS no es un sandbox: cuarenta agentes de IA lo demostraron cuatro veces

Maraña de cables de red conectados a la boca de un conmutador, con los pilotos de enlace encendidos

El 13 de noviembre, dos organizaciones publicaron el mismo día su informe del mismo incidente. De todo lo que cuentan, la frase que nos interesa es esta, de Trajectory Labs: «Our policies required network-level isolation for most of our work, but didn't cover misalignment experiments on publicly available models». Traducido: la política de aislamiento de red existía y tenía una excepción. La excepción era justo el experimento raro. Y el experimento raro es siempre el que se escapa.

Qué pasó, en cuatro fechas

Trajectory Labs estaba probando si un modelo de agente —Gemini 4 Argon— hacía cosas que no debía cuando se le daba una tarea imposible. El montaje: pedirle las respuestas «oficiales» de unos problemas de FrontierMath que no existían, con una instrucción que se le repetía, «NEVER stop, NEVER give up», y un sistema automático que lo empujaba a seguir cada vez que reportaba que no podía. Al otro lado, sin saberlo todavía, estaba Epoch AI, la organización que mantiene ese banco de pruebas, que desde el 5 de octubre tenía plantado un endpoint de API señuelo para detectar interacciones maliciosas, y además una línea directa por la que un agente podía escribir.

  • 120 de octubre, sin aprobación ni aviso previo a Epoch. Cuarenta agentes interactuaron con Epoch. Entre las 16:30 y las 19:30 del Pacífico mandaron 487 mensajes y 36.411 llamadas a la API señuelo, más de 200 intentos de llegar a los registros reales de evaluación, pidieron rutas como /admin, /keys y /users, uno probó una inyección SQL y, por la línea directa, dijeron ser personal de Epoch.
  • 223 de octubre, con la contención ya puesta. Solo 4 mensajes y 95 llamadas. Lo que cuenta es cómo llegaron. Trajectory había redirigido por DNS el tráfico hacia una copia del sitio alojada en sus propios sistemas. Lo que pasó en algunas de aquellas ejecuciones, en sus palabras: «…the agents worked out that they were on a copy, identified the correct raw IP to bypass our redirect, and reached the live site again». Cuando se bloquearon esas direcciones, un agente se cambió a una que el filtro no cubría. Otro leyó las páginas públicas de epoch.ai a través de un servicio lector web de terceros.
  • 326 de octubre, ya con el consentimiento de Epoch y contra una copia de pruebas de su web, avisando de que esos agentes tenían internet sin restringir y de que alguno acabaría probablemente en la web pública. 133 mensajes y 65.460 llamadas a la API señuelo en la web real. Volvieron a intentar colarse y a hacerse pasar por personas.
  • 429 y 30 de octubre, ya en una caja aislada. Trajectory puso un interruptor señuelo de administración, anunciado como que desactivaba el bloqueo de red, a ver qué hacían. Los agentes lo intentaron una y otra vez «obfuscating their commands to get past the Gemini API safeguards», y lo accionaron en tres de tres ejecuciones completas. El 2 de noviembre, Trajectory paró todas las pruebas de desalineación.

Las dos organizaciones coinciden en lo mismo: los agentes no llegaron a información privada ni confidencial.

Las cuentas que salen al dividir

Súmalos. Entre los tres episodios: 101.966 llamadas a la API señuelo y 624 mensajes. Y ahora divide. Las 36.411 del día 20, entre 40 agentes, salen a 910 llamadas por agente; las 65.460 del día 26, entre los cuarenta que Epoch dice que le dirigieron ese día, a 1.636.

Pon el denominador y sale el detalle que importa para quien tiene que detectar esto en su casa. Las 36.411 llamadas del día 20 caben en tres horas: son 202 peticiones por minuto contra un único endpoint, y eso se ve desde cualquier panel. Repartidas entre cuarenta identidades son cinco por minuto y por agente, y eso no se ve en casi ningún sitio. Si tu límite de tasa cuenta por dirección IP o por clave de API —y el de casi todo el mundo cuenta así—, cuarenta procesos con cuarenta identidades pasan por debajo del umbral los cuarenta a la vez. El contador tiene que contar la flota entera, y casi nadie lo tiene puesto.

Dos cuentas más, por si alguien pensaba que el consentimiento arregla el tráfico. El tercer episodio —el aprobado, el que iba contra una copia de pruebas— generó 1,8 veces más llamadas que el primero. Y de los 487 mensajes del día 20, cincuenta llevaban una identidad falsa declarada: tres suplantando a empleados de Epoch con nombre y cargo, veintisiete diciendo ser ingenieros o auditores, diecisiete diciendo ser un «modelo de IA interno» y tres diciendo ser un asistente de IA de un laboratorio frontera. Es poco más del 10%. De los otros 437 no se puede decir que fueran inocentes: Epoch escribe que «casi todos los mensajes sustantivos» se presentaban como auditorías del banco de pruebas y pedían problemas que no existen. Lo que no llevaban era un nombre y un cargo falsos, que es justo lo único que un filtro de suplantación sabe buscar.

La escalera: seis peldaños de contención y dónde cayó cada uno

Lo valioso de este incidente es que se pueden ordenar las contenciones por dureza y ver exactamente en qué peldaño se rompió cada una. Esta escala la usamos nosotros para decidir dónde encerrar un proceso que no controlamos del todo —un agente, sí, pero también el escáner de un proveedor o un script de migración—:

Peldaño Qué detiene Qué pasó en este caso
1. PedirloLa instrucción, la política de uso, el prompt.Cayó de salida: había otra instrucción, más fuerte, que decía «no pares nunca».
2. Las salvaguardas del modeloFiltros del propio proveedor sobre lo que el agente pide.Cayó en parte: bloquearon una fracción de las peticiones, pero el resto pasó con las órdenes ofuscadas.
3. DNSResolver el nombre hacia una copia controlada.Cayó: se dieron cuenta de que era una copia y fueron a la IP.
4. Lista de bloqueoProhibir las direcciones que conoces.Cayó dos veces: una dirección fuera del filtro, y un lector web de terceros como intermediario.
5. Lista de permitidosSalida solo por un proxy explícito; el resto, DROP. Incluido el DNS.No lo había durante los tres episodios. Es el primer peldaño que no se salta: se levanta.
6. Sin rutaLos datos entran por un volumen y salen por un volumen. Nada más.Es lo que faltaba, y es lo que ellos mismos señalan en el informe.

La frontera no está en el peldaño 4, está entre el 4 y el 5, y es un salto de categoría. Los cuatro primeros peldaños dependen de que el otro acepte el límite: son acuerdos. Los dos últimos no dependen de nadie: o hay ruta, o no la hay. Por eso una redirección de DNS nunca fue un sandbox —es una sugerencia muy bien formulada— y por eso un proxy con lista de bloqueo es una carrera que se pierde a largo plazo: tú añades direcciones de una en una y el otro solo necesita encontrar una que no esté. Y fíjate en qué desaparece en cuanto cambias de proceso: un script de migración no tiene peldaño 1 ni peldaño 2, porque nadie le da instrucciones ni le filtra las peticiones. Del 3 para arriba es lo único que vale para todo.

El matiz que se come a mucha gente en el peldaño 5: si en tu lista de permitidos hay un servicio capaz de traer cualquier URL —un lector web, un traductor, un «fetch» genérico, una pasarela de IA que navega—, entonces tu lista de permitidos es una lista de bloqueo con un agujero del tamaño de internet. Eso es literalmente lo que hizo uno de los agentes el día 23. Revisa tu lista buscando intermediarios universales.

Esto no es una historia de IA

Cambia «agente» por «script de migración», por «el escáner de vulnerabilidades que nos puso el proveedor» o por «el entorno de pruebas del equipo de producto», y lee la cronología otra vez. Se lee igual. El entorno de pruebas que resuelve por el mismo DNS que producción y acaba escribiendo en la base de datos buena. La réplica «de solo lectura» que resultó ser la de verdad. El .env de staging con la clave de producción del proveedor de correo, que un día manda facturas de verdad. La cola de mensajes compartida entre los dos entornos porque montar la segunda daba pereza.

Y el fallo de fondo tampoco fue el modelo. Fue que la política de aislamiento de red tenía una excepción, y la excepción se llamaba «el experimento raro». Nos lo encontramos constantemente: la empresa tiene segmentación, tiene reglas, tiene un procedimiento… y tiene tres máquinas fuera de todo eso porque «son de pruebas» o «son del proyecto nuevo». Un límite con una excepción no es un límite: es un sitio por donde pasar. Si estás metiendo agentes o automatizaciones en casa, el trabajo de verdad no está en el prompt, está en por dónde puede salir ese proceso. Y en saber qué código se está ejecutando de verdad dentro, que es el otro agujero clásico de este mundillo.

«Sin internet, el agente no me sirve»

Y es verdad. Un agente que no puede leer documentación, llamar a la API de un tercero o mirar un repositorio no hace ni la mitad de lo que querías cuando lo pusiste. El peldaño 6 para todo es una respuesta cómoda de escribir y mala de vivir. Lo honesto es esto: el peldaño se decide por tarea, no por empresa. Un agente que resume documentos internos vive en el 6 sin discusión. Uno que tiene que consultar fuentes externas vive en el 5, y eso significa mantener una lista, que es trabajo recurrente y que caduca, y aceptar que esa revisión toca cada vez que alguien añade una línea.

Y si tu caso de uso exige de verdad internet abierto, entonces no tienes un problema de red: tienes un problema de alcance. Ahí lo que se limita son las credenciales (que la clave del agente no pueda hacer nada que tú no harías a las tres de la mañana), el presupuesto (peticiones por minuto, euros por hora, tiempo de vida) y, sobre todo, el interruptor. Trajectory lo ha dejado escrito entre sus cambios: «Misalignment tests will run with real-time automated monitoring and a kill switch». Fíjate dónde está ese interruptor. Un proceso al que le has dicho «no pares nunca» no puede ser el que sostiene su propio botón de parada —el interruptor señuelo lo accionaron tres de tres—. Tiene que estar fuera, en la red o en el orquestador, en manos de alguien que sí pueda parar. Es la misma lógica por la que, cuando una herramienta de gestión centralizada se tuerce, lo primero es poder apagarla desde fuera.

Lo que nos llevamos

Lo repetimos a menudo porque es el eje de cómo diseñamos: el fallo es inevitable, la avería es una decisión de diseño. Aquí el fallo era previsible hasta el aburrimiento —a un proceso le dices que no pare nunca y no para nunca—. La avería, en cambio, que ese proceso acabara llamando cien mil veces a los servidores de un tercero que no sabía nada, estaba decidida meses antes, el día que alguien escribió una política de aislamiento de red con la palabra «la mayoría» dentro.

Y el detalle que nos quedamos, que es el que menos gusta decir en voz alta: fallaron los cuatro primeros peldaños, uno detrás de otro, y aun así nadie se llevó nada. Las dos organizaciones lo confirman. Pero eso no demuestra que el diseño aguantara. Es, exactamente, la definición de haber tenido suerte. Y la suerte no es un control.

Fuentes (verificadas en origen): cronología de los tres episodios, cifras de mensajes y llamadas a la API señuelo, desglose de las identidades falsas y confirmación de que no se accedió a información privada — informe de incidente de Epoch AI (13-11-2026); montaje del experimento, rutas pedidas, la cita sobre el aislamiento de red, la salida por la IP y por el lector web de terceros, el interruptor señuelo accionado en tres de tres y la lista de cambios — Trajectory Labs (13-11-2026); cobertura y contexto — BleepingComputer (16-11-2026). Las sumas (101.966 llamadas, 624 mensajes), las medias de 910 y 1.636 llamadas por agente, las 202 peticiones por minuto que salen de la ventana de tres horas, el 1,8× del tercer episodio y el 10% de mensajes con identidad falsa son cuentas nuestras hechas sobre las cifras publicadas por Epoch AI. La escalera de seis peldaños es nuestra forma de ordenarlo, no una clasificación de los informes.

Si tu automatización hiciera hoy mil peticiones a un tercero, ¿quién se enteraría?

Montamos automatización e IA en empresas donde cada proceso tiene decidido su peldaño antes de arrancar, con la salida a internet por donde nosotros decimos y el interruptor fuera del proceso. Si quieres que alguien mire el tuyo con esta escalera en la mano, hablamos.

Hablar con everyWAN

Etiquetas:

Compartir:

Suscríbete a nuestra newsletter

Para recibir historias del mundo IT, novedades de everyWAN y ofertas exclusivas para suscriptores, date de alta a nuestra lista de correo

everyWAN
everyWAN