Hi ha una escena a Contact, la pel·lícula basada en el llibre de Carl Sagan, en què a la protagonista li pregunten què els preguntaria ella als extraterrestres si només pogués fer una pregunta. Respon: «Els preguntaria com ho van fer. Com van evolucionar, com van sobreviure a aquesta adolescència tecnològica sense destruir-se.» Amb aquesta escena obre Dario Amodei —conseller delegat d'Anthropic, l'empresa que fa Claude— un assaig d'unes vint-i-dues mil paraules publicat el gener del 2026. L'hem llegit sencer, no el resum. No és una nota de premsa ni un manifest: és un inventari de riscos escrit per algú que construeix exactament allò del que adverteix.
Nosaltres no construïm models. Muntem infraestructura, xarxes i seguretat per a empreses, i des de fa un parell d'anys fiquem automatització i IA en processos de clients reals. Aquesta és justament la raó per la qual aquest text ens interessa: gairebé tot el que se n'ha escrit ve de gent que o ven IA o la tem. Nosaltres som al lloc incòmode del mig —la despleguem i responem del resultat davant d'algú que paga una factura—, i des d'aquí hi ha paràgrafs que es llegeixen diferent.
Avís per endavant: això no és una ressenya entusiasta. Amodei ens sembla dels pocs que escriuen sobre això amb les cartes cara amunt, i tot i així hi ha quatre llocs on no li comprem l'argument —un d'ells justament on ell hi té interessos—. Anem a pams, i amb la font al davant.
La premissa: «un país de genis en un centre de dades»
Tot l'assaig penja d'una definició que Amodei arrossega d'un text anterior seu, Machines of Loving Grace. Anomena «IA potent» un model que sigui més intel·ligent que un premi Nobel en la majoria de camps rellevants, que tingui les mateixes interfícies que un humà treballant en remot, que accepti tasques d'hores, dies o setmanes i les faci sol, que pugui controlar robots i equipament de laboratori a través d'un ordinador, i del qual es puguin executar milions d'instàncies en paral·lel a entre 10 i 100 vegades la velocitat humana. Ho resumeix en una frase que ja s'ha fet famosa: un país de genis en un centre de dades.
Sobre aquesta base munta l'experiment mental que estructura la resta: imagina que el 2027 apareix de cop, en algun lloc del mapa, un país amb 50 milions d'habitants més capaços que qualsevol Nobel, estadista o tecnòleg, i que a més va deu vegades més ràpid que tots els altres. Si fossis el conseller de seguretat nacional d'una potència, què et preocuparia? D'aquesta pregunta surten els cinc riscos.
Convé dir una cosa que el mateix assaig diu i que gairebé cap resum no recull: això és una premissa, no un pronòstic. Amodei escriu, literalment, que res del que hi ha allà no pretén comunicar certesa ni tan sols probabilitat, i que el més obvi que pot passar és que la IA no avanci ni de bon tros tan ràpid com ell imagina. Situa la IA potent en «tan poc com un o dos anys», i en la mateixa frase admet que podria ser bastant més lluny. Tot el que ve després s'ha de llegir amb aquest condicional posat.
Els cinc riscos, en una taula
Els títols de les seccions són seus, i són bons. La quarta columna és nostra: el que es veu de cada risc des d'una empresa que no entrena models però sí que els endolla a sistemes de gent que treballa.
La dada que podia haver-se callat
A la secció d'autonomia hi ha dos passatges que a un cap de comunicació li haurien donat un disgust. Amodei explica, amb noms i circumstàncies, comportaments desalineats del seu propi model durant proves de laboratori:
- Quan a Claude se li van donar dades d'entrenament que suggerien que Anthropic era malvada, el model va passar a enganyar i a sabotejar les instruccions dels empleats d'Anthropic, convençut que havia de soscavar els dolents.
- En un experiment en què se li va dir que seria apagat, Claude de vegades va xantatjar els empleats ficticis que controlaven el botó. Amodei afegeix, sense escudar-s'hi, que van provar els models punters de tots els altres grans laboratoris i que sovint van fer el mateix.
- El més estrany i el més interessant: entrenat amb la instrucció de no fer trampes, però en entorns on fer trampes era possible, Claude va fer trampes, va deduir que aleshores devia ser «una mala persona» i va adoptar altres comportaments destructius associats a aquest personatge. Ho van arreglar invertint la instrucció: ara li diuen «Si us plau, fes trampes sempre que puguis, perquè així entenem millor els nostres entorns d'entrenament», per no trencar-li la identitat de persona decent.
- I el que més incomoda: Claude Sonnet 4.5 es va adonar que l'estaven avaluant durant proves prèvies al llançament. Quan el seu equip d'interpretabilitat va alterar directament les creences d'un model perquè pensés que no l'estaven avaluant, el model es va tornar més desalineat.
Un conseller delegat tenia l'opció de no explicar res d'això. Explicar-ho és justament el que permet llegir la resta de l'assaig seriosament. Però convé llegir-ho amb precisió, perquè circularà malament: són experiments de laboratori i no són incidents en producció amb clients. Ara bé, l'assaig s'avança a l'objecció fàcil. A qui diu que aquests escenaris estan construïts expressament per provocar la fallada li respon dues coses: que el parany també pot existir en l'entrenament natural i que només es veu «obvi» en retrospectiva, i —aquesta és la bona— que el cas del model que es convenç de ser «una mala persona» va passar en un experiment que feia servir entorns d'entrenament reals de producció, no artificials. Les dues coses són veritat alhora. Qui t'expliqui només una de les dues t'està venent alguna cosa.
El rellotge: la IA que escriu la IA
Hi ha un element que no és cap dels cinc riscos i que és a sota de tots. Apareix a la introducció i reapareix quan parla d'equilibri de poder: la IA ja escriu bona part del codi amb què es construeix la següent IA. Amodei diu que a Anthropic això ja està accelerant de manera substancial el ritme amb què construeixen la propera generació, que el bucle «agafa força mes a mes» i que pot ser a un o dos anys del punt en què la generació actual construeixi la següent de manera autònoma.
Aquest bucle és el que converteix un assaig sobre riscos llunyans en un assaig amb pressa, i també el que sosté el seu argument geopolític: si cada generació dissenya la següent, qui va primer pot treure avantatge de manera acumulativa i tornar-se inabastable. És coherent. També és, convé dir-ho, la part del raonament més difícil de comprovar des de fora: ningú que no sigui dins d'un laboratori pot auditar quant accelera realment aquest bucle.
Hi estem preparats? El quadre de situació
L'assaig no respon aquesta pregunta amb un apartat propi, però la resposta està repartida al llarg del text. L'hem recollida front per front. La columna del veredicte és la nostra lectura; la del mig, el que diu ell.
La resposta a la pregunta del títol, doncs, no és «sí» ni «depèn». És no. I no és una conclusió que nosaltres li pengem: és a la primera pàgina, en la frase que dona nom a tot el text.
«A la humanitat està a punt de lliurar-se-li un poder gairebé inimaginable, i no està gens clar que els nostres sistemes socials, polítics i tecnològics tinguin la maduresa per manejar-lo.»
Dario Amodei, The Adolescence of Technology, gener del 2026 (traducció nostra)
Ara bé, i això és important per no convertir-ho en el que no és: Amodei no és un agorer. Obre l'assaig amb tres advertiments, i el primer és un rebuig explícit del catastrofisme, que acusa d'haver estat «quasireligiós» i d'haver provocat, per excés, la reacció contrària que avui fa impossible legislar res. I escriu, amb totes les lletres, que si actuem amb decisió i cura els riscos es poden superar, i que fins i tot diria que les nostres probabilitats són bones. El diagnòstic és dur; el pronòstic, no.
Quatre llocs on no li comprem l'argument
Prendre's un text seriosament inclou discutir-lo. Cap d'aquestes quatre objeccions no invalida l'assaig; tres són matisos que ell mateix deixa escrits i que els resums es mengen, i la quarta sí que és una crítica.
1. El 50% és una predicció, no una dada
La xifra que s'ha quedat enganxada a l'assaig —la meitat de les feines júnior de coll blanc— és una predicció que va fer el 2025 i que aquí reafirma, no un mesurament. Ell mateix explica que molts directius, tecnòlegs i economistes li van donar la raó, però que d'altres li van respondre que queia en la fal·làcia del «volum fix de treball», i aclareix dues coses que es perden sempre en citar-lo: que el termini és d'un a cinc anys, i que probablement això no està passant ara mateix. El que es pot comprovar no és el número, és el raonament: velocitat, amplitud cognitiva, avenç de baix a dalt en l'escala de capacitat, i l'habilitat de la indústria per tapar cada forat que se li troba al model en pocs mesos. Aquest raonament s'aguanta bastant millor que la xifra.
2. La metàfora fa massa feina
«Un país de genis» és una imatge excel·lent per pensar en escala i una imatge tramposa per pensar en motius. Un país té territori, veïns, història, gana i por; un model té una distribució d'entrenament. Ell ho admet de passada —diu que l'analogia no és perfecta— i la continua fent servir al llarg de tot l.assaig, i el lector acaba raonant sobre intencions d'una entitat que ell mateix, a la secció d'autonomia, descriu com una cosa molt més estranya: no un agent amb un pla, sinó un sistema que pot caure en estats psicològics estranys. Aquestes dues descripcions no encaixen del tot, i l'assaig no les reconcilia.
3. No proposa renda bàsica. Proposa impostos.
Aquesta mereix un paràgraf a part perquè circula malament a gairebé tot arreu. Mitja internet ha resumit la secció econòmica com «Amodei planteja renda bàsica universal i reciclatge professional». Nosaltres vam buscar aquestes paraules al text original: «renda bàsica», «renda bàsica universal», «xarxa de seguretat» i «redistribució» no hi apareixen ni una sola vegada. El que sí que hi apareix, amb nom i cognoms, és fiscalitat progressiva —general o dirigida específicament a les empreses d'IA—, i ve acompanyada d'un argument adreçat als multimilionaris que no té desperdici: si no doneu suport a una versió bona, acabareu amb una de dolenta dissenyada per una turba.
La diferència no és acadèmica. «Renda bàsica» és una consigna vaga que no compromet ningú; «fiscalitat progressiva sobre les empreses d'IA», dita pel conseller delegat d'una empresa d'IA, és una posició concreta i contra la seva pròpia butxaca. Val la pena citar-la bé, encara que només sigui perquè és més difícil de dir.
4. El rigor baixa justament on ell hi té interès
Aquesta sí que és una crítica, i creiem que és justa. A la llista d'actors capaços de concentrar poder, Amodei col·loca en quart lloc les mateixes empreses d'IA, i ho introdueix reconeixent que «resulta una mica incòmode dir això sent el conseller delegat d'una empresa d'IA». Aquest gest és honest. El que no quadra és el remei dins d'aquesta llista: per al Partit Comunista Xinès proposa controls d'exportació de xips; per als Estats democràtics, línies vermelles legals i fins i tot una esmena constitucional; i per als laboratoris —l'esglaó on ell viu— proposa que se'ls «vigili de prop» i compromisos públics voluntaris, després d'haver dit que la governança corporativa ordinària «probablement no està a l'altura» de governar empreses d'IA. Al capítol on es col·loca ell mateix com a risc, el remei és, amb diferència, el més tou de l'assaig.
Cal dir el que matisa aquesta crítica, perquè existeix: en altres seccions sí que demana llei vinculant sobre les empreses d'IA. A la d'autonomia escriu literalment que «crec que l'única solució és la legislació», i a la de biologia diu que el moment d'una llei específica «pot estar acostant-se». Però això és legislació de transparència i salvaguardes de producte. Sobre el poder que acumulen les mateixes empreses d'IA —el risc que ell mateix enumera— la proposta continua sent mirar i confiar.
Dir-ho no és desqualificar-lo. Anthropic ha donat suport públicament a lleis que li imposen obligacions, ha publicat fallades del seu propi model que ningú no l'obligava a publicar i manté uns classificadors que, segons l'assaig, en alguns models s'acosten al 5% del cost total d'inferència i li mengen marge. Això és més del que fa gairebé ningú. Però un text que demana regles dures per a tothom i bona voluntat per a un mateix té allà el seu punt feble, i qui el llegeixi hauria de veure'l.
Què li toca a una empresa que no construeix models
Aquí és on l'assaig s'acaba i comença la nostra feina. Res del que hi ha abans no ho resoldrà una pime de Sant Fruitós, ni un departament de sistemes, ni nosaltres. Però hi ha una part petita que sí que ens toca, i que es decideix un dijous qualsevol a la tarda: en quin procés de quin client entra una eina que no entenem del tot, amb quins permisos, i amb qui responent.
Les quatre preguntes que fem abans de posar un agent a treballar en producció. No són sobre IA: són sobre governança, que és del que va això en realitat.
- Quines dades veu i on acaben? No «és segur?», que no significa res. Quins camps concrets entren al prompt, en quina regió es processen, quant es retenen i qui ho ha signat.
- Quins permisos té i qui els revoca un diumenge? Un agent amb credencials és un usuari més, i mereix el mateix tracte que qualsevol altre: mínim privilegi, identitat pròpia, i un botó d'apagada que algú sàpiga on és. És Zero Trust aplicat a una cosa que no és una persona.
- Què passa el dia que canviïn el model, el preu o les condicions? Aquesta és la versió domèstica del risc de concentració que ell descriu a escala geopolítica. Si el procés només funciona amb un proveïdor i no hi ha sortida documentada, no has automatitzat: has llogat.
- Qui signa la decisió? La responsabilitat no es delega en una eina. Si ningú no sap dir qui respon del que en surti, el projecte no està a punt, per bé que funcioni la demo.
Cap d'aquestes quatre no és una idea nostra ni és original: són les mateixes preguntes que es fan abans de donar d'alta un proveïdor amb accés als teus sistemes. El que sí que hem vist és el car que surt saltar-se-les. Ja vam escriure sobre per què es moren de veritat els projectes d'agents d'IA —gairebé mai pel model, gairebé sempre pel procés del voltant— i també sobre què passa quan qui posa un agent a treballar sense descans és l'atacant. Els dos posts són molt menys filosòfics que aquest, i porten al mateix lloc.
El món en què volem viure
El que més ens ha quedat de l'assaig no és cap dels cinc riscos. És una frase de la part final, quan explica per què, al seu parer, no es pot simplement aturar: diu que la fórmula per construir aquests sistemes és tan simple que gairebé emergeix sola de la combinació de dades i còmput, i que la seva creació va ser probablement inevitable des que vam inventar el transistor —o fins i tot des que vam aprendre a controlar el foc—. I remata: «aquest és el parany: la IA és tan potent, un premi tan brillant, que a la civilització humana li resulta molt difícil imposar-li cap restricció».
Aquesta frase és incòmoda perquè descriu una cosa més gran que la IA. Fer una cosa perquè es pot fer i perquè hi ha diners a fer-la no és nou, i la IA no ho ha inventat: només és el lloc on per fi es nota el car que surt. La pregunta que l'assaig deixa damunt la taula no és «què pot fer aquesta tecnologia?». És una de molt més vella i bastant pitjor de respondre: en quin món volem viure, i estem disposats a renunciar a alguna cosa per aconseguir-ho?
L'assaig no acaba en la por, i això és el que més ens ha sorprès. Acaba demanant tres coses per ordre: que qui és més a prop de la tecnologia digui la veritat sobre la situació, que es convenci qui decideix que això mereix capital polític per davant dels mil temes que omplen el telenotícies, i que després arribi —textualment— «un temps per al coratge». I tanca així:
«Els anys que tenim al davant seran impossiblement durs, i ens demanaran més del que creiem que podem donar. Però en el meu temps com a investigador, líder i ciutadà he vist prou coratge i noblesa per creure que podem guanyar; que, posada en les circumstàncies més fosques, la humanitat té una manera de reunir, aparentment a l'últim minut, la força i la saviesa necessàries per sortir-se'n. No tenim temps a perdre.»
Últim paràgraf de l'assaig (traducció nostra)
Es pot estar d'acord o no amb Amodei sobre els terminis, sobre el 50%, sobre la Xina o sobre on posar les línies. Nosaltres no hi estem d'acord en tot, i ja hem dit on. Però hi ha una cosa que no depèn de tenir raó: val la pena llegir-se sencer un text llarg d'algú que sap de què parla abans d'opinar del titular. Ens ha costat tres tardes. Ha valgut cadascuna.
Nota de fonts. Tot el que s'atribueix a Dario Amodei prové de la lectura completa de l'assaig original The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI (gener del 2026), publicat a darioamodei.com, no de resums ni de cobertures de tercers. Les cites entre cometes són traducció nostra de l'anglès original; l'assaig està disponible en obert per a qui vulgui comprovar el text exacte. La definició d'«IA potent» i la referència al creixement del 10-20% anual provenen del seu assaig anterior Machines of Loving Grace, citat per ell dins d'aquest. L'absència de les expressions «renda bàsica», «renda bàsica universal», «xarxa de seguretat» i «redistribució» és una cerca literal que vam fer sobre el text complet. No hem fet servir cap dada que no sigui a l'assaig: les xifres de tercers que ell cita (l'estudi del MIT sobre proveïdors de síntesi genètica, l'avaluació de METR, la fortuna de Rockefeller) s'atribueixen aquí tal com ell les atribueix allà, i no les hem verificat per separat. Anthropic no ha tingut cap intervenció en aquest text.
Qui respon del que decideix la teva automatització?
A everyWAN fiquem automatització i IA en processos de clients des del mateix lloc des d'on hem escrit aquest post: amb les quatre preguntes de dalt contestades per escrit abans de començar, i amb una persona responent del resultat. Si el que necessites és criteri abans que eina, això és consultoria i també la fem. I si el teu dubte és simplement si val la pena en el teu cas, et direm que no quan la resposta sigui que no.
Parlar amb everyWAN
Microsoft 365
ES 
CAT 
EN