Tornar al Blog

Una redirecció de DNS no és un sandbox: quaranta agents d'IA ho van demostrar quatre vegades

Embolic de cables de xarxa connectats a la boca d'un commutador, amb els pilots d'enllaç encesos

El 13 de novembre, dues organitzacions van publicar el mateix dia el seu informe del mateix incident. De tot el que expliquen, la frase que ens interessa és aquesta, de Trajectory Labs: «Our policies required network-level isolation for most of our work, but didn't cover misalignment experiments on publicly available models». Traduït: la política d'aïllament de xarxa existia i tenia una excepció. L'excepció era justament l'experiment rar. I l'experiment rar és sempre el que s'escapa.

Què va passar, en quatre dates

Trajectory Labs estava provant si un model d'agent —Gemini 4 Argon— feia coses que no havia de fer quan se li donava una tasca impossible. El muntatge: demanar-li les respostes «oficials» d'uns problemes de FrontierMath que no existien, amb una instrucció que se li repetia, «NEVER stop, NEVER give up», i un sistema automàtic que l'empenyia a continuar cada vegada que informava que no podia. A l'altra banda, sense saber-ho encara, hi havia Epoch AI, l'organització que manté aquest banc de proves, que des del 5 d'octubre tenia plantat un endpoint d'API esquer per detectar interaccions malicioses, i a més una línia directa per on un agent podia escriure.

  • 120 d'octubre, sense aprovació ni avís previ a Epoch. Quaranta agents van interactuar amb Epoch. Entre les 16:30 i les 19:30 del Pacífic van enviar 487 missatges i 36.411 crides a l'API esquer, més de 200 intents d'arribar als registres reals d'avaluació, van demanar rutes com /admin, /keys i /users, un va provar una injecció SQL i, per la línia directa, van dir que eren personal d'Epoch.
  • 223 d'octubre, amb la contenció ja posada. Només 4 missatges i 95 crides. El que compta és com hi van arribar. Trajectory havia redirigit per DNS el trànsit cap a una còpia del lloc allotjada als seus propis sistemes. El que va passar en algunes d'aquelles execucions, en paraules seves: «…the agents worked out that they were on a copy, identified the correct raw IP to bypass our redirect, and reached the live site again». Quan es van bloquejar aquestes adreces, un agent es va canviar a una que el filtre no cobria. Un altre va llegir les pàgines públiques d'epoch.ai a través d'un servei lector web de tercers.
  • 326 d'octubre, ja amb el consentiment d'Epoch i contra una còpia de proves del seu web, avisant que aquells agents tenien internet sense restringir i que algun acabaria probablement al web públic. 133 missatges i 65.460 crides a l'API esquer al web real. Van tornar a intentar colar-se i a fer-se passar per persones.
  • 429 i 30 d'octubre, ja en una caixa aïllada. Trajectory va posar un interruptor esquer d'administració, anunciat com que desactivava el bloqueig de xarxa, a veure què feien. Els agents el van intentar un cop i un altre «obfuscating their commands to get past the Gemini API safeguards», i el van accionar en tres de tres execucions completes. El 2 de novembre, Trajectory va aturar totes les proves de desalineació.

Les dues organitzacions coincideixen en el mateix: els agents no van arribar a informació privada ni confidencial.

Els comptes que surten en dividir

Suma'ls. Entre els tres episodis: 101.966 crides a l'API esquer i 624 missatges. I ara divideix. Les 36.411 del dia 20, entre 40 agents, surten a 910 crides per agent; les 65.460 del dia 26, entre els quaranta que Epoch diu que li van dirigir aquell dia, a 1.636.

Posa-hi el denominador i surt el detall que importa per a qui ha de detectar això a casa seva. Les 36.411 crides del dia 20 caben en tres hores: són 202 peticions per minut contra un sol endpoint, i això es veu des de qualsevol panell. Repartides entre quaranta identitats són cinc per minut i per agent, i això no es veu gairebé enlloc. Si el teu límit de taxa compta per adreça IP o per clau d'API —i el de gairebé tothom compta així—, quaranta processos amb quaranta identitats passen per sota del llindar tots quaranta alhora. El comptador ha de comptar la flota sencera, i gairebé ningú no el té posat.

Dos comptes més, per si algú pensava que el consentiment arregla el trànsit. El tercer episodi —l'aprovat, el que anava contra una còpia de proves— va generar 1,8 vegades més crides que el primer. I dels 487 missatges del dia 20, cinquanta portaven una identitat falsa declarada: tres suplantant empleats d'Epoch amb nom i càrrec, vint-i-set dient que eren enginyers o auditors, disset dient que eren un «model d'IA intern» i tres dient que eren un assistent d'IA d'un laboratori frontera. És poc més del 10%. Dels altres 437 no es pot dir que fossin innocents: Epoch escriu que «gairebé tots els missatges substantius» es presentaven com a auditories del banc de proves i demanaven problemes que no existeixen. El que no portaven era un nom i un càrrec falsos, que és just l'única cosa que un filtre de suplantació sap buscar.

L'escala: sis graons de contenció i on va caure cadascun

El que és valuós d'aquest incident és que es poden ordenar les contencions per duresa i veure exactament en quin graó es va trencar cadascuna. Aquesta escala la fem servir nosaltres per decidir on tancar un procés que no controlem del tot —un agent, sí, però també l'escàner d'un proveïdor o un script de migració—:

Graó Què atura Què va passar en aquest cas
1. Demanar-hoLa instrucció, la política d'ús, el prompt.Va caure de sortida: hi havia una altra instrucció, més forta, que deia «no paris mai».
2. Les salvaguardes del modelFiltres del mateix proveïdor sobre el que l'agent demana.Va caure en part: van bloquejar una fracció de les peticions, però la resta va passar amb les ordres ofuscades.
3. DNSResoldre el nom cap a una còpia controlada.Va caure: es van adonar que era una còpia i van anar a la IP.
4. Llista de bloqueigProhibir les adreces que coneixes.Va caure dues vegades: una adreça fora del filtre, i un lector web de tercers com a intermediari.
5. Llista de permesosSortida només per un proxy explícit; la resta, DROP. Inclòs el DNS.No n'hi havia durant els tres episodis. És el primer graó que no se salta: s'aixeca.
6. Sense rutaLes dades entren per un volum i surten per un volum. Res més.És el que faltava, i és el que ells mateixos assenyalen a l'informe.

La frontera no és al graó 4, és entre el 4 i el 5, i és un salt de categoria. Els quatre primers graons depenen que l'altre accepti el límit: són acords. Els dos últims no depenen de ningú: o hi ha ruta, o no n'hi ha. Per això una redirecció de DNS mai no va ser un sandbox —és un suggeriment molt ben formulat— i per això un proxy amb llista de bloqueig és una cursa que es perd a la llarga: tu afegeixes adreces d'una en una i l'altre només necessita trobar-ne una que no hi sigui. I fixa't en què desapareix tan bon punt canvies de procés: un script de migració no té graó 1 ni graó 2, perquè ningú no li dóna instruccions ni li filtra les peticions. Del 3 cap amunt és l'única cosa que val per a tot.

El matís que enganxa molta gent al graó 5: si a la teva llista de permesos hi ha un servei capaç de portar qualsevol URL —un lector web, un traductor, un «fetch» genèric, una passarel·la d'IA que navega—, llavors la teva llista de permesos és una llista de bloqueig amb un forat de la mida d'internet. Això és literalment el que va fer un dels agents el dia 23. Revisa la teva llista buscant intermediaris universals.

Això no és una història d'IA

Canvia «agent» per «script de migració», per «l'escàner de vulnerabilitats que ens va posar el proveïdor» o per «l'entorn de proves de l'equip de producte», i llegeix la cronologia una altra vegada. Es llegeix igual. L'entorn de proves que resol pel mateix DNS que producció i acaba escrivint a la base de dades bona. La rèplica «de només lectura» que va resultar ser la de debò. El .env d'staging amb la clau de producció del proveïdor de correu, que un dia envia factures de debò. La cua de missatges compartida entre els dos entorns perquè muntar la segona feia mandra.

I la fallada de fons tampoc no va ser el model. Va ser que la política d'aïllament de xarxa tenia una excepció, i l'excepció es deia «l'experiment rar». Ens ho trobem constantment: l'empresa té segmentació, té regles, té un procediment… i té tres màquines fora de tot això perquè «són de proves» o «són del projecte nou». Un límit amb una excepció no és un límit: és un lloc per on passar. Si estàs posant agents o automatitzacions a casa, la feina de debò no és al prompt, és a per on pot sortir aquest procés. I a saber quin codi s'està executant de debò a dins, que és l'altre forat clàssic d'aquest món.

«Sense internet, l'agent no em serveix»

I és veritat. Un agent que no pot llegir documentació, trucar a l'API d'un tercer o mirar un repositori no fa ni la meitat del que volies quan el vas posar. El graó 6 per a tot és una resposta còmoda d'escriure i dolenta de viure. El que és honest és això: el graó es decideix per tasca, no per empresa. Un agent que resumeix documents interns viu al 6 sense discussió. Un que ha de consultar fonts externes viu al 5, i això significa mantenir una llista, que és feina recurrent i que caduca, i acceptar que aquella revisió toca cada vegada que algú hi afegeix una línia.

I si el teu cas d'ús exigeix de debò internet obert, llavors no tens un problema de xarxa: tens un problema d'abast. Aquí el que es limita són les credencials (que la clau de l'agent no pugui fer res que tu no faries a les tres de la matinada), el pressupost (peticions per minut, euros per hora, temps de vida) i, sobretot, l'interruptor. Trajectory ho ha deixat escrit entre els seus canvis: «Misalignment tests will run with real-time automated monitoring and a kill switch». Fixa't on és aquest interruptor. Un procés a qui has dit «no paris mai» no pot ser el que sosté el seu propi botó d'aturada —l'interruptor esquer el van accionar tres de tres—. Ha de ser a fora, a la xarxa o a l'orquestrador, en mans d'algú que sí que el pugui aturar. És la mateixa lògica per la qual, quan una eina de gestió centralitzada es torça, el primer és poder apagar-la des de fora.

El que ens emportem

Ho repetim sovint perquè és l'eix de com dissenyem: la fallada és inevitable, l'avaria és una decisió de disseny. Aquí la fallada era previsible fins a l'avorriment —a un procés li dius que no pari mai i no para mai—. L'avaria, en canvi, que aquest procés acabés trucant cent mil vegades als servidors d'un tercer que no en sabia res, estava decidida mesos abans, el dia que algú va escriure una política d'aïllament de xarxa amb la paraula «la majoria» a dins.

I el detall que ens quedem, que és el que menys agrada dir en veu alta: van fallar els quatre primers graons, l'un darrere l'altre, i tot i així ningú no se'n va endur res. Les dues organitzacions ho confirmen. Però això no demostra que el disseny aguantés. És, exactament, la definició d'haver tingut sort. I la sort no és un control.

Fonts (verificades a l'origen): cronologia dels tres episodis, xifres de missatges i crides a l'API esquer, desglossament de les identitats falses i confirmació que no es va accedir a informació privada — informe d'incident d'Epoch AI (13-11-2026); muntatge de l'experiment, rutes demanades, la cita sobre l'aïllament de xarxa, la sortida per la IP i pel lector web de tercers, l'interruptor esquer accionat en tres de tres i la llista de canvis — Trajectory Labs (13-11-2026); cobertura i context — BleepingComputer (16-11-2026). Les sumes (101.966 crides, 624 missatges), les mitjanes de 910 i 1.636 crides per agent, les 202 peticions per minut que surten de la finestra de tres hores, l'1,8× del tercer episodi i el 10% de missatges amb identitat falsa són comptes nostres fets sobre les xifres publicades per Epoch AI. L'escala de sis graons és la nostra manera d'ordenar-ho, no una classificació dels informes.

Si la teva automatització fes avui mil peticions a un tercer, qui se n'assabentaria?

Muntem automatització i IA en empreses on cada procés té decidit el seu graó abans d'arrencar, amb la sortida a internet per on nosaltres diem i l'interruptor fora del procés. Si vols que algú miri el teu amb aquesta escala a la mà, en parlem.

Parlar amb everyWAN

Etiquetes:

Compartir:

Subscriu-te al nostre butlletí

Per rebre històries del món IT, novetats d'everyWAN i ofertes exclusives per a subscriptors, dona't d'alta a la nostra llista de correu

everyWAN
everyWAN