Este texto es una transcripción de las palabras pronunciadas por Juan Gabriel Vásquez antes de la cena de los intervinientes en el foro World in Progress Barcelona, organizado por el Grupo Prisa, EL PAÍS y la Cadena SER.
En 1947, los científicos del Proyecto Manhattan inventaron una manera simbólica de alertar a la humanidad de los riesgos que corre a cada momento: el Reloj del fin del mundo. La medianoche en el reloj es el momento de la catástrofe, el momento en que la humanidad puede desaparecer. Cuando se creó el reloj, sus manecillas marcaban siete minutos para la medianoche; cada año, en enero, los expertos del Boletín de Científicos Atómicos evalúan los riesgos que corre la humanidad y mueven las manecillas, alejándolas o acercándolas a la medianoche de la catástrofe. El momento en que más lejos ha estado la humanidad de su extinción fue 1991: la Guerra Fría había terminado y los científicos hicieron retroceder las manecillas de forma que marcaran 17 minutos para la media noche. Pero en los últimos tiempos el pesimismo ha crecido, y hace casi dos años el expresidente colombiano Juan Manuel Santos, como presidente del grupo de los Elders, tuvo el honor extrañísimo de mover las manecillas para que marcaran 89 segundos. En enero de este año, la apreciación de los científicos volvió a empeorar. Hoy faltan 85 segundos para la medianoche.
Las causas que se dan en esta última evaluación son cuatro: las guerras, el cambio climático, las tecnologías disruptivas y el auge de las autocracias.
En realidad, yo creo que el auge de las autocracias cubre todo lo demás. Estas autocracias son culpables de las guerras que hoy incendian el mundo del este de Europa al Medio Oriente; estas autocracias desprecian la ciencia que está detrás del cambio climático y tratan de sabotear los esfuerzos que se hacen –desde el multilateralismo y la diplomacia– para atenuar sus consecuencias; sobre todo, estas autocracias se han convertido en las cómplices o valedoras de la principal amenaza que hoy flota sobre la especie humana. Eso que los expertos del Boletín de Científicos Atómicos llaman “tecnologías disruptivas” comprende las redes sociales, que se han convertido desde 2016 en una amenaza flagrante para nuestras democracias, porque su modelo de negocio se basa en la exacerbación de nuestros odios y nuestros miedos, en el envenenamiento de nuestra conversación ciudadana y la destrucción de la noción de realidad compartida; pero sobre todo se refiere a esas otras tecnologías que hoy mismo, mientras nosotros hablamos aquí, pueden estar acercándonos a un desastre planetario irreversible. Desde luego que no me refiero a la tecnología que les permite escribir novelas a quienes no quieren tomarse el tiempo ni asumir el esfuerzo de aprender a hacerlo. Eso, comparativamente, es inofensivo. Yo soy hijo de la Guerra Fría, y hoy, por primera vez desde que los niños de los años 60 creyeron que morirían debajo de una nube en forma de hongo, veo opiniones serias e informadas, basadas en información seria y en previsiones realistas, que dicen que el mundo se va a acabar.
Fue lo que pasó hace apenas unas semanas. Un hombre llamado Jacob Coxon, investigador de inteligencia artificial que había trabajado para Open AI y para Anthropic, renunció con un mensaje en la red X que llegó más lejos que otros anuncios de la catástrofe. “Las personas que desarrollan la IA creen firmemente que podría acabar con todos nosotros antes de que termine la década”, escribió Coxon. Ahora bien: cosas parecidas habían dicho otros científicos, a veces tan autorizados o más autorizados que este Coxon. Geoffrey Hinton, científico británico-canadiense, premio Nobel de Física en 2024, conocido como “el padrino de la IA”, dijo en 2023 que esta tecnología podría provocar la extinción de la humanidad en un plazo de tres décadas, y desde ese año ha acortado el plazo. La publicación científica The Lancet, más optimista, previó que el mal uso de la inteligencia artificial (o un conflicto nuclear, que también es posible) podrían causar la extinción humana antes del año 2100. Y todos nos estamos haciendo la misma pregunta: ¿Qué va a pasar? ¿Qué nos espera en el futuro?
En los años 30, el escritor Paul Valéry dijo: “El futuro carece de imagen. La historia le da los medios para ser pensado”. Quería decir que, cada vez que el ser humano se ve enfrentado a una situación nueva, a la urgencia de actuar sobre algo que nunca ha experimentado, tiene que acudir a lo que Valéry llamarecuerdos imaginarios: nuestra experiencia, las imágenes del pasado tal como han quedado contadas en nuestros relatos: la historia, el periodismo, la literatura. En otras palabras: como no vemos cómo es el futuro, como el futuro es desconocido, lo que hacemos es ver el pasado y basarnos en él para saber cómo actuar. Bien, creo que nuestro gran problema hoy es que no tenemos recuerdos imaginarios que nos sirvan para ver este futuro: el futuro dominado por la inteligencia artificial. No podemos ver el futuro correctamente porque nos enfrentamos a algo tan novedoso, tan inédito, que no hay un repositorio de memoria al cual podamos acudir para imaginar lo que puede pasarnos. Y por eso no nos estamos defendiendo como deberíamos. Y por eso podemos decir hoy que el futuro ya no es el que nos imaginábamos hace cinco o diez años. El futuro ya no es lo que era antes.
Los que han decidido hacer sonar las alarmas están viendo un futuro distinto del que vemos los demás: un futuro que, para nosotros, los profanos y los ignorantes, ha sido invisible. El desarrollo de esta tecnología que, según los mismos que la están produciendo, puede matarnos a todos, ha ocurrido en lugares que no vemos, fuera de la supervisión de nuestros Estados, lejos de la regulación de nuestras democracias. Esto no ha sido accidental, sino un propósito consciente: los líderes de estos progresos tecnológicos no han escondido nunca su profunda desconfianza en las instituciones, los gobiernos e incluso la democracia. En un manifiesto del año 2009, uno de los ideólogos de estos nuevos movimientos, Curtis Yarvin, llamaba a “dar por terminada la fallida experiencia democrática de los dos últimos siglos”; Sam Altman decía que iba a ser necesario “replantearnos el contrato social”; y en otro manifiesto –a esta gente le gustan mucho los manifiestos– Marc Andreessen decía, hace apenas tres años, que era mentira todo lo que decían los pesimistas: “Nos dicen que la tecnología nos roba el trabajo, reduce nuestro salario, arruina el medio ambiente, pone en riesgo nuestro futuro y está siempre a punto de demolerlo todo”. Nada de eso es verdad, dice. “La tecnología es lo que da gloria a la ambición y al éxito humanos, la punta de lanza del progreso y la realización de nuestro potencial”. Y concluye, con la temible voz de los profetas: “Estoy aquí para anunciarles una buena nueva. Es tiempo de volvernos tecno-optimistas”.
Pero no podemos ser tecno-optimistas cuando un enjambre de agentes de IA gestionados por OpenAI se rebela, rompe las medidas de contención y piratea sitios web durante unas pruebas de seguridad. Lo que pasó a principios de este año les produjo pánico incluso a los más cínicos, como Altman, que empezaron a hablar de ralentizar al desarrollo de la tecnología. Y los hechos preocupantes han seguido ocurriendo. Hace unos meses Anthropic contó cómo delincuentes y científicos sin escrúpulos habían intentado utilizar Claude para fabricar armas biológicas. Y todos están de acuerdo en que la pregunta no es si lo lograrán, sino cuándo, y qué pasará después.
La pregunta es: ¿Tendremos imaginación suficiente para actuar? ¿Seremos capaces, como sociedades democráticas, de exigirles a nuestros gobiernos una intervención urgente que no desaproveche los inmensos beneficios que estas tecnologías sin duda contienen, pero que nos salve de sus peligros? No lo sé. Hace un cuarto de siglo tuve el placer de traducir, por primera vez en España, uno de los libros favoritos de Gabriel García Márquez: Hiroshima, el reportaje de John Hersey sobre las consecuencias de la bomba atómica. Por esa época me obsesioné con el tema y leí varios miles de páginas sobre esos años, y en estos días he recordado a menudo esos conocimientos que me parecían inútiles: pues lo que veo es que nuestra situación actual se parece enormemente a los años previos a Hiroshima y Nagasaki. Si en ese momento alguien hubiera sugerido detener las investigaciones en energía nuclear, a la gente le habría parecido absurdo: los ciudadanos no hubieran creído en realidad en la posibilidad de una bomba. Para los físicos era obvio, pero trasladar el mensaje a los ciudadanos no hubiera sido posible. Todo era teórico: hasta que cayeron las bombas sobre Hiroshima y Nagasaki. Con la IA, los peligros eran teóricos –para nosotros, los profanos– hasta que ocurrió la rebelión de Open AI. Ahora, el debate sobre si se puede perder el control ya no tiene sentido. Se perdió el control y se puede perder de nuevo.
Pero hay muchos obstáculos. El más evidente tiene que ver –que no se sorprenda nadie– con el dinero. Ya comienza uno a leer artículos que hablan de que, si fracasa la IA, la debacle en Wall Street puede ser tan grave que lleve el mundo a una nueva recesión. Y no me hago ilusiones: desde el 2008 sabemos que nunca hay que subestimar la codicia humana, la manera como nos enceguece a todos. Ustedes conocen la caricatura de Ann Telnaes que fue censurada por el Washington Post: ahí están Zuckerberg, Sam Altman, el dueño de Los Angeles Times, Patrick Soon-Shiong, y hasta Jeff Bezos: narcisistas patológicos cuyas reservas de empatía y solidaridad marcan números rojos desde su nacimiento y cuya brújula moral necesita que alguien la calibre, todos llevándole ofrendas al narcisista más peligroso de Occidente. Esta caricatura es la metáfora imperfecta del peligro más grande de nuestro momento. Es imperfecta porque en ella no está Elon Musk, el más peligroso de los tecno-oligarcas, el único que ha usado su poder para hacer daño o permitir que otros hagan daño: un verdadero sociópata. ¿Por qué le hacen ofrendas al ídolo Trump? ¿A cambio de qué? La respuesta no es sencilla, pero una parte de la respuesta es: a cambio de desregulación. Las nuevas tecnologías dependen de que ningún Estado, ningún gobierno, intente regularlas. Trump ofrece quitarles regulaciones y presionar a otros gobiernos para que hagan lo mismo; a cambio, ellos le ofrecen la mercancía más preciada para todo autócrata: la manipulación del ciudadano y la destrucción de la realidad común. Es decir, un mundo donde la verdad no existe.
Hace unos días, Bill Gates le dio a Ezra Klein una entrevista espeluznante: “Esto es lo más peligroso a lo que nos hemos acercado. Un modelo abierto puede producir armas biológicas y desactivar cualquier monitoreo. Fuera de la industria, la conciencia de los peligros de la IA es extremadamente baja. Y eso se puede decir de la academia, de los think tanks, de los políticos. La razón por la que estoy tratando de hablar alto es que no podemos confiar en la industria para que se autorregule. La pregunta es: ¿Esperamos a que un ciberataque cause un daño inmenso, a que un ataque biológico cause un daño inmenso, y entonces ponemos las salvaguardas y el monitoreo necesarios para que eso no vuelva a pasar muchas veces? ¿O la tendremos la sabiduría de implementar estas regulaciones antes de que haya millones de muertes?”
En 1928, hace casi cien años, un novelista austriaco, Hermann Broch, comenzó a escribir una novela llamada Los sonámbulos. Los sonámbulos del título son los europeos que, entre la década de 1880 y la de 1910, vieron la desaparición de todo un mundo, un sistema de valores, y el nacimiento de otro sistema de valores y de visiones del mundo que los llevaría a la catástrofe de la Primera Guerra Mundial. Cada vez me parece más claro que nosotros, los ciudadanos del año 2026, somos nuevos sonámbulos: vamos caminando hacia nuestra propia destrucción, incapaces de ver el futuro y reconocer la urgencia de que actuemos. Nos hace falta clarividencia. Pero yo creo que la clarividencia es posible. Los movimientos ciudadanos fueron determinantes para conquistar por caminos indirectos el final de la Guerra Fría y llegar al momento de 1991 en que los científicos del Boletín hicieron retroceder las manecillas hasta aquellos 17 minutos, lo más alejados que hemos estado de nuestra destrucción. Yo los invito a que reaccionemos: a que exijamos a quienes tienen el poder para hacerlo que tomen medidas para evitar lo peor. Para que dejemos de caminar hacia al precipicio, como los sonámbulos de Broch, y el futuro vuelva a ser lo que era hace unos años.
World In Progress (WIP) es un foro internacional de reflexión y debate organizado por PRISA, EL PAÍS y, como medio colaborador, la Cadena SER. Tiene el apoyo del Ajuntament de Barcelona, Generalitat de Catalunya, Abertis, Fundación la Caixa, Glovo, Iberdrola, Indra Group, Limak, Mango, Moeve, Sabadell, Santander, Telefónica, Veolia y Vueling. Juan Gabriel Vásquez es escritor. Publicado en El País.
ENTRADA NO NUMERADA
