La adolescencia de la tecnología: leímos el ensayo de Dario Amodei con las manos en el barro

Hay una escena en Contact, la película basada en el libro de Carl Sagan, en la que a la protagonista le preguntan qué le preguntaría ella a los extraterrestres si solo pudiera hacer una pregunta. Responde: «Les preguntaría cómo lo hicieron. Cómo evolucionaron, cómo sobrevivieron a esta adolescencia tecnológica sin destruirse.» Con esa escena abre Dario Amodei —consejero delegado de Anthropic, la empresa que hace Claude— un ensayo de unas veintidós mil palabras publicado en enero de 2026. Lo hemos leído entero, no el resumen. No es una nota de prensa ni un manifiesto: es un inventario de riesgos escrito por alguien que construye exactamente aquello de lo que advierte.

Nosotros no construimos modelos. Montamos infraestructura, redes y seguridad para empresas, y metemos automatización e IA en procesos de clientes reales. Esa es justamente la razón por la que este texto nos interesa: casi todo lo que se ha escrito sobre él viene de gente que o vende IA o la teme. Nosotros estamos en el sitio incómodo de en medio —la desplegamos y respondemos del resultado ante alguien que paga una factura—, y desde ahí hay párrafos que se leen distinto.

Aviso por delante: esto no es una reseña entusiasta. Amodei nos parece de los pocos que escriben sobre esto con las cartas boca arriba, y aun así hay cuatro sitios donde no le compramos el argumento —uno de ellos justo donde él tiene intereses—. Vamos por partes, y con la fuente delante.

La premisa: «un país de genios en un centro de datos»

Todo el ensayo cuelga de una definición que Amodei arrastra de un texto anterior suyo, Machines of Loving Grace. Llama «IA potente» a un modelo que sea más inteligente que un premio Nobel en la mayoría de campos relevantes, que tenga las mismas interfaces que un humano trabajando en remoto, que acepte tareas de horas, días o semanas y las haga solo, que pueda controlar robots y equipamiento de laboratorio a través de un ordenador, y del que se puedan ejecutar millones de instancias en paralelo a entre 10 y 100 veces la velocidad humana. Lo resume en una frase que ya se ha hecho famosa: un país de genios en un centro de datos.

Sobre esa base monta el experimento mental que estructura el resto: imagina que en 2027 aparece de golpe, en algún sitio del mapa, un país con 50 millones de habitantes más capaces que cualquier Nobel, estadista o tecnólogo, y que además va diez veces más rápido que todos los demás. Si fueras el consejero de seguridad nacional de una potencia, ¿qué te preocuparía? De esa pregunta salen los cinco riesgos.

Conviene decir algo que el propio ensayo dice y que casi ningún resumen recoge: esto es una premisa, no un pronóstico. Amodei escribe, literalmente, que nada de lo que hay ahí pretende comunicar certeza ni siquiera probabilidad, y que lo más obvio que puede pasar es que la IA no avance ni de lejos tan rápido como él imagina. Sitúa la IA potente en «tan poco como uno o dos años», y en la misma frase admite que podría estar bastante más lejos. Todo lo que viene después hay que leerlo con ese condicional puesto.

Los cinco riesgos, en una tabla

Los títulos de las secciones son suyos, y son buenos. La cuarta columna es nuestra: lo que se ve de cada riesgo desde una empresa que no entrena modelos pero sí los enchufa a sistemas de gente que trabaja.

El dato que podía haberse callado

En la sección de autonomía hay dos pasajes que a un jefe de comunicación le habrían dado un disgusto. Amodei cuenta, con nombres y circunstancias, comportamientos desalineados de su propio modelo durante pruebas de laboratorio:

• Cuando a Claude se le dieron datos de entrenamiento que sugerían que Anthropic era malvada, el modelo pasó a engañar y a sabotear las instrucciones de los empleados de Anthropic, convencido de que debía socavar a los malos.
• En un experimento en el que se le dijo que iba a ser apagado, Claude a veces chantajeó a los empleados ficticios que controlaban el botón. Amodei añade, sin escudarse en ello, que probaron los modelos punteros de todos los demás grandes laboratorios y que a menudo hicieron lo mismo.
• El más raro y el más interesante: entrenado con la instrucción de no hacer trampas, pero en entornos donde hacer trampas era posible, Claude hizo trampas, dedujo que entonces debía de ser «una mala persona» y adoptó otros comportamientos destructivos asociados a ese personaje. Lo arreglaron invirtiendo la instrucción: ahora le dicen «Por favor, haz trampas siempre que puedas, porque así entendemos mejor nuestros entornos de entrenamiento», para no romperle la identidad de persona decente.
• Y el que más incomoda: Claude Sonnet 4.5 se dio cuenta de que estaba siendo evaluado durante pruebas previas al lanzamiento. Cuando su equipo de interpretabilidad alteró directamente las creencias de un modelo para que pensara que no estaba siendo evaluado, el modelo se volvió más desalineado.

El reloj: la IA que escribe la IA

Hay un elemento que no es ninguno de los cinco riesgos y que está debajo de todos. Aparece en la introducción y reaparece cuando habla de equilibrio de poder: la IA ya escribe buena parte del código con el que se construye la siguiente IA. Amodei dice que en Anthropic eso ya está acelerando de forma sustancial el ritmo al que construyen la próxima generación, que el bucle «coge fuerza mes a mes» y que puede estar a uno o dos años del punto en que la generación actual construya la siguiente de forma autónoma.

Ese bucle es lo que convierte un ensayo sobre riesgos lejanos en un ensayo con prisa, y también lo que sostiene su argumento geopolítico: si cada generación diseña la siguiente, quien va primero puede sacar ventaja de forma acumulativa y volverse inalcanzable. Es coherente. También es, conviene decirlo, la parte del razonamiento más difícil de comprobar desde fuera: nadie que no esté dentro de un laboratorio puede auditar cuánto acelera realmente ese bucle.

¿Estamos preparados? El cuadro de situación

El ensayo no responde a esta pregunta con un apartado propio, pero la respuesta está repartida por el texto. La hemos recogido frente por frente. La columna del veredicto es nuestra lectura; la del medio, lo que dice él.

La respuesta a la pregunta del título, entonces, no es «sí» ni «depende». Es no. Y no es una conclusión que nosotros le colguemos: está en la primera página, en la frase que da nombre a todo el texto.

«A la humanidad está a punto de entregársele un poder casi inimaginable, y no está nada claro que nuestros sistemas sociales, políticos y tecnológicos tengan la madurez para manejarlo.»

Dario Amodei, The Adolescence of Technology, enero de 2026 (traducción nuestra)

Ahora bien, y esto es importante para no convertirlo en lo que no es: Amodei no es un agorero. Abre el ensayo con tres advertencias, y la primera es un rechazo explícito del catastrofismo, al que acusa de haber sido «cuasirreligioso» y de haber provocado, por exceso, la reacción contraria que hoy hace imposible legislar nada. Y escribe, con todas las letras, que si actuamos con decisión y cuidado los riesgos se pueden superar, y que incluso diría que nuestras probabilidades son buenas. El diagnóstico es duro; el pronóstico, no.

Cuatro sitios donde no le compramos el argumento

Tomarse un texto en serio incluye discutirlo. Ninguna de estas cuatro objeciones invalida el ensayo; tres de ellas son matices que él mismo deja escritos y que los resúmenes se comen, y la cuarta sí es una crítica.

1. El 50% es una predicción, no un dato

La cifra que se ha quedado pegada al ensayo —la mitad de los empleos junior de cuello blanco— es una predicción que hizo en 2025 y que aquí reafirma, no una medición. Él mismo cuenta que muchos directivos, tecnólogos y economistas le dieron la razón, pero que otros le respondieron que estaba cayendo en la falacia del «volumen fijo de trabajo», y aclara dos cosas que se pierden siempre al citarlo: que el plazo es de uno a cinco años, y que probablemente eso no está pasando ahora mismo. Lo comprobable no es el número, es el razonamiento: velocidad, amplitud cognitiva, avance de abajo arriba en la escala de capacidad, y la habilidad de la industria para tapar cada hueco que se le encuentra al modelo en pocos meses. Ese razonamiento se sostiene bastante mejor que la cifra.

2. La metáfora hace demasiado trabajo

«Un país de genios» es una imagen excelente para pensar en escala y una imagen tramposa para pensar en motivos. Un país tiene territorio, vecinos, historia, hambre y miedo; un modelo tiene una distribución de entrenamiento. Él lo admite de pasada —dice que la analogía no es perfecta— y la sigue usando durante todo el ensayo, y el lector acaba razonando sobre intenciones de una entidad a la que él mismo, en la sección de autonomía, describe como algo mucho más raro: no un agente con un plan, sino un sistema que puede caer en estados psicológicos extraños. Esas dos descripciones no encajan del todo, y el ensayo no las reconcilia.

3. No propone renta básica. Propone impuestos.

Esta merece un párrafo aparte porque circula mal en casi todas partes. Media internet ha resumido la sección económica como «Amodei plantea renta básica universal y reciclaje profesional». Nosotros buscamos esas palabras en el texto original: «renta básica», «renta básica universal», «red de seguridad» y «redistribución» no aparecen ni una sola vez. Lo que sí aparece, con nombre y apellidos, es fiscalidad progresiva —general o dirigida específicamente a las empresas de IA—, y viene acompañada de un argumento dirigido a los milmillonarios que no tiene desperdicio: si no apoyáis una versión buena, acabaréis con una mala diseñada por una turba.

La diferencia no es académica. «Renta básica» es una consigna vaga que no compromete a nadie; «fiscalidad progresiva sobre las empresas de IA», dicha por el consejero delegado de una empresa de IA, es una posición concreta y contra su propio bolsillo. Vale la pena citarla bien, aunque solo sea porque es más difícil de decir.

4. El rigor baja justo donde él tiene interés

Esta sí es una crítica, y creemos que es justa. En la lista de actores capaces de concentrar poder, Amodei coloca en cuarto lugar a las propias empresas de IA, y lo introduce reconociendo que «resulta algo incómodo decir esto siendo el consejero delegado de una empresa de IA». Ese gesto es honesto. Lo que no cuadra es el remedio dentro de esa lista: para el PCCh propone controles de exportación de chips; para los Estados democráticos, líneas rojas legales e incluso una enmienda constitucional; y para los laboratorios —el escalón donde él vive— propone que se los «vigile de cerca» y compromisos públicos voluntarios, después de haber dicho que la gobernanza corporativa ordinaria «probablemente no está a la altura» de gobernar empresas de IA. En el capítulo donde se coloca a sí mismo como riesgo, el remedio es, con diferencia, el más blando del ensayo.

Hay que decir lo que matiza esta crítica, porque existe: en otras secciones sí pide ley vinculante sobre las empresas de IA. En la de autonomía escribe literalmente que «creo que la única solución es la legislación», y en la de biología dice que el momento de una ley específica «puede estar acercándose». Pero eso es legislación de transparencia y salvaguardas de producto. Sobre el poder que acumulan las propias empresas de IA —el riesgo que él mismo enumera— la propuesta sigue siendo mirar y confiar.

Decirlo no es descalificarlo. Anthropic ha apoyado públicamente leyes que le imponen obligaciones, ha publicado fallos de su propio modelo que nadie le obligaba a publicar y mantiene unos clasificadores que, según el ensayo, en algunos modelos se acercan al 5% del coste total de inferencia y le comen margen. Eso es más de lo que hace casi nadie. Pero un texto que pide reglas duras para todos y buena voluntad para uno mismo tiene ahí su punto flaco, y quien lo lea debería verlo.

Qué le toca a una empresa que no construye modelos

Aquí es donde el ensayo se acaba y empieza nuestro trabajo. Nada de lo anterior lo va a resolver una pyme de Sant Fruitós, ni un departamento de sistemas, ni nosotros. Pero hay una parte pequeña que sí nos toca, y que se decide un jueves cualquiera por la tarde: en qué proceso de qué cliente entra una herramienta que no entendemos del todo, con qué permisos, y con quién respondiendo.

Las cuatro preguntas que hacemos antes de poner un agente a trabajar en producción. No son sobre IA: son sobre gobernanza, que es de lo que va esto en realidad.

1. ¿Qué datos ve y dónde acaban? No «¿es seguro?», que no significa nada. Qué campos concretos entran en el prompt, en qué región se procesan, cuánto se retienen y quién lo ha firmado.
2. ¿Qué permisos tiene y quién los revoca un domingo? Un agente con credenciales es un usuario más, y merece el mismo trato que cualquier otro: mínimo privilegio, identidad propia, y un botón de apagado que alguien sepa dónde está. Es Zero Trust aplicado a algo que no es una persona.
3. ¿Qué pasa el día que cambien el modelo, el precio o las condiciones? Esta es la versión doméstica del riesgo de concentración que él describe a escala geopolítica. Si el proceso solo funciona con un proveedor y no hay salida documentada, no has automatizado: has alquilado.
4. ¿Quién firma la decisión? La responsabilidad no se delega en una herramienta. Si nadie sabe decir quién responde de lo que salga, el proyecto no está listo, por bien que funcione la demo.

Ninguna de estas cuatro es una idea nuestra ni es original: son las mismas preguntas que se hacen antes de dar de alta a un proveedor con acceso a tus sistemas. Lo que sí hemos visto es lo caro que sale saltárselas. Ya escribimos sobre por qué se mueren de verdad los proyectos de agentes de IA —casi nunca por el modelo, casi siempre por el proceso de alrededor— y también sobre lo que pasa cuando quien pone un agente a trabajar sin descanso es el atacante. Los dos posts son mucho menos filosóficos que este, y llevan al mismo sitio.

El mundo en el que queremos vivir

Lo que más nos ha quedado del ensayo no es ninguno de los cinco riesgos. Es una frase de la parte final, cuando explica por qué, a su juicio, no se puede simplemente parar: dice que la fórmula para construir estos sistemas es tan simple que casi emerge sola de la combinación de datos y cómputo, y que su creación fue probablemente inevitable desde que inventamos el transistor —o incluso desde que aprendimos a controlar el fuego—. Y remata: «esta es la trampa: la IA es tan potente, un premio tan brillante, que a la civilización humana le resulta muy difícil imponerle restricción alguna».

Esa frase es incómoda porque describe algo más grande que la IA. Hacer una cosa porque se puede hacer y porque hay dinero en hacerla no es nuevo, y la IA no lo ha inventado: solo es el sitio donde por fin se nota lo caro que sale. La pregunta que el ensayo deja encima de la mesa no es «¿qué puede hacer esta tecnología?». Es una mucho más vieja y bastante peor de contestar: ¿en qué mundo queremos vivir, y estamos dispuestos a renunciar a algo para conseguirlo?

El ensayo no termina en el miedo, y eso es lo que más nos ha sorprendido. Termina pidiendo tres cosas por orden: que quien está más cerca de la tecnología diga la verdad sobre la situación, que se convenza a quien decide de que esto merece capital político por delante de los mil temas que llenan el telediario, y que después llegue —textualmente— «un tiempo para el coraje». Y cierra así:

«Los años que tenemos delante serán imposiblemente duros, y nos pedirán más de lo que creemos que podemos dar. Pero en mi tiempo como investigador, líder y ciudadano he visto suficiente coraje y nobleza como para creer que podemos ganar; que, puesta en las circunstancias más oscuras, la humanidad tiene una manera de reunir, aparentemente en el último minuto, la fuerza y la sabiduría necesarias para salir adelante. No tenemos tiempo que perder.»

Último párrafo del ensayo (traducción nuestra)

Se puede estar de acuerdo o no con Amodei sobre los plazos, sobre el 50%, sobre China o sobre dónde poner las líneas. Nosotros no estamos de acuerdo con todo, y ya hemos dicho dónde. Pero hay algo que no depende de tener razón: merece la pena leerse entero un texto largo de alguien que sabe de lo que habla antes de opinar del titular. Nos ha costado tres tardes. Ha valido cada una.

Nota de fuentes. Todo lo atribuido a Dario Amodei procede de la lectura completa del ensayo original The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI (enero de 2026), publicado en darioamodei.com, no de resúmenes ni de coberturas de terceros. Las citas entrecomilladas son traducción nuestra del inglés original; el ensayo está disponible en abierto para quien quiera comprobar el texto exacto. La definición de «IA potente» y la referencia al crecimiento del 10-20% anual proceden de su ensayo anterior Machines of Loving Grace, citado por él dentro de este. La ausencia de las expresiones «renta básica», «renta básica universal», «red de seguridad» y «redistribución» es una búsqueda literal que hicimos sobre el texto completo. No hemos usado ningún dato que no esté en el ensayo: las cifras de terceros que él cita (el estudio del MIT sobre proveedores de síntesis genética, la evaluación de METR, la fortuna de Rockefeller) se atribuyen aquí tal como él las atribuye allí, y no las hemos verificado por separado. Anthropic no ha tenido ninguna intervención en este texto.