Para describir el objetivo final de las principales empresas de inteligencia artificial —OpenAI, Anthropic, Google y otras— suele utilizarse el término más controvertido de este campo: inteligencia artificial general. La expresión evoca la imagen de una nueva clase de mente capaz de pensar como la nuestra. Solo que no se trataría de eso. Conviene entender que lo que estas empresas intentan construir es una nueva clase de máquina: lo que llamaré la Obsoleting Machine(«máquina para volvernos obsoletos a los seres humanos»), una máquina que no produce bienes o servicios, sino que hace ella misma el trabajo.

¿Por qué? Porque los seres humanos —y el trabajo derivado de ellos— son problemáticos. La humanidad siempre ha estado limitada porque los seres humanos constituyen el límite. Toma mucho tiempo producir más personas, educarlas, alimentarlas y proporcionarles un lugar donde vivir. No somos capaces de hacer sino un número limitado de cosas. Durante siglos, la automatización permitió que los propietarios sustituyeran parcialmente trabajo por capital —el peón rural por el tractor, el tejedor por el telar mecánico—, pero solo hasta cierto punto. Mientras que ahora, con la inteligencia artificial, podemos vislumbrar la posibilidad de eliminar esa última restricción: nosotros mismos. Con ello se suprimiría el único límite fundamental y se abrirían nuevos mundos de posibilidades. Muchos de esos mundos, como veremos, son aterradores.

Los impulsores del Obsoleting Project («proyecto para volvernos obsoletos») pueden cuestionar esta manera de plantear el asunto y recurrir a lugares comunes acerca de cómo la IA ampliará las capacidades del trabajo humano o de cómo simplemente encontraremos nuevos empleos. Pero sus objetivos declarados consisten en crear sistemas que superen nuestras capacidades de manera tan evidente que tendremos pocas posibilidades de competir con ellos. OpenAI lo explicita al definir la inteligencia artificial general como «un sistema altamente autónomo que supera a los seres humanos en la mayor parte del trabajo económicamente valioso».

Si el Obsoleting Project llegara a triunfar, provocaría rupturas sociales más rápidas, más grandes y más generalizadas que ninguna de las anteriores. Por lo que es natural preguntarse: ¿cómo podrá todo esto salir bien?

El modelo que nos ofrecen quienes están a la vanguardia del proyecto no es ninguna sorpresa: la ciencia ficción. Elon Musk, Dario Amodei y Demis Hassabis han citado las novelas de la serie La Cultura, de Iain Banks, como visión orientadora. En el universo de Banks —concebido, por cierto, por un socialista convencido—, la Cultura es una sociedad interestelar utópica moldeada y dirigida por inteligencias artificiales divinas conocidas como las Mentes. Los humanos de la Cultura pueden llevar una vida de abundancia, placer, exploración creativa e inmensa libertad personal, pero en esencia son meros acompañantes. Las decisiones importantes, como la definición de los valores de la sociedad, las toman en última instancia las Mentes, cuyas capacidades intelectuales y morales hacen que las variedades humanas parezcan, en cambio, anticuadas. Las personas siguen existiendo, pero el futuro —e incluso sus condiciones de existencia— pertenece a las máquinas.

Para ser justos, es posible entender cómo fue que llegamos a este punto. Si los cirujanos robóticos dominaran por completo, podría llegar a ser poco ético permitir que los humanos se operaran entre sí a menos que no quedara otra opción. Imaginemos entonces que esto se repita en todos los ámbitos de la sociedad. En teoría, los sistemas automatizados podrían llegar a estar tan perfectamente armonizados con nuestras preferencias más meditadas y ser incomparablemente más capaces que nosotros que dejar que los humanos siguieran llevando las riendas sería como dejar que un niño de ocho años atracara un crucero. Hasta ahora no siempre hemos hecho una brillante labor.

Pero incluso si aceptáramos todo esto, hay un mundo de diferencia entre el hecho de que los individuos elijan delegar decisiones específicas en las máquinas y que un pequeño grupo de tecnólogos tome esa decisión por todos… de forma permanente. Es revelador que tantas de las figuras más influyentes del sector citen ese mundo como su estrella polar: una civilización en la que el mejor resultado posible para la humanidad es convertirse en mascotas o pasajeros, guiados por entidades con las que no podemos rivalizar ni que podemos dirigir de forma efectiva.

Nuestro mundo ya está siendo dirigido por entidades superinteligentes en busca de la optimización. Se llaman empresas. Muchas de las características que las hacen poderosas, difíciles de controlar y socialmente destructivas están presentes también en los sistemas de IA. El poder de una empresa emana de su capacidad para coordinar el capital y la mano de obra con fines específicos. Son excelentes a la hora de optimizar en función de un objetivo cuantitativo (la ganancia) a costa de todo aquello que no aparezca en el estado de cuentas. Y las empresas suelen comportarse de formas que calificaríamos de psicopáticas; por ejemplo, al calcular si las demandas por homicidio culposo les costarían más que retirar del mercado un producto defectuoso. De objetivos sencillos surgen comportamientos inesperados e indeseables: la búsqueda desenfrenada de ganancias conduce a la explotación de los trabajadores, a los monopolios, a los esquemas de marketing de múltiples niveles, a la contaminación del aire y de los ríos y a innumerables otros perjuicios. El poder de las empresas siempre se ha visto limitado por el hecho de que, en última instancia, están formadas por personas. Pero las «máquinas que hagan obsoleto al ser humano» tendrán otro tipo de límites. Y no sabemos cuáles.

A fin de visualizar cómo podría desarrollarse el trabajo sin humanidad, imaginemos que es fácil y maximiza las ganancias resolver el problema de la armonización técnica: no hay nada que «simplemente desconectar», solo máquinas que provocan la obsolescencia, supercapaces y perfectamente obedientes.

¿Qué se obtiene? Hipercapitalismo. «El punto final lógico de una economía capitalista o de mercado de máxima eficiencia» no incluiría a los humanos —afirmó Ajeya Cotra, investigador en seguridad de la IA— ya que «los humanos son simplemente criaturas muy ineficientes a la hora de ganar dinero». Valoramos todas esas emociones «comercialmente improductivas», «así que si al final nos lo pasamos bien y nos gusta el resultado, será porque empezamos por tener el poder para ello y moldeamos el sistema para que se adaptara a los valores humanos».

Es difícil decir cómo podría alcanzarse equilibrio alguno en semejante mundo, pero si no te ha gustado el mundo que ha forjado el capitalismo, sobre todo durante el último medio siglo, probablemente tampoco te gustará su versión «turbo». Podemos ya vislumbrar indicios distópicos de ese mundo. En un podcast sobre capital de riesgo, Sam Altman afirma que es genial que agentes de IA reserven restaurantes en tu nombre, pero a la vez algo patético si se los compara con lo que podría ser posible. ¿La gran mejora? Un agente que se ponga en contacto con 300 restaurantes para averiguar cuál tiene la mejor comida para ti. Altman reconoce que esto sería «realmente molesto» para el restaurante, a menos que contara con sus propios agentes para atender las llamadas.

¿Qué cree Altman que sucederá realmente? Tengo una hipótesis: los primeros usuarios aficionados a la tecnología harán que su batallón de agentes llame a cientos de restaurantes, mucho antes de que el restaurante sepa siquiera por qué de repente está recibiendo llamadas masivas de robots y mucho menos antes de que haya adoptado su propio ejército de robots. Al final, casi todo el mundo acabará implantando esos sistemas, de modo que podamos obtener una comodidad marginal a cambio del módico precio de una enorme cantidad de recursos informáticos (adquiridos, por supuesto, a empresas como OpenAI).

El ejemplo de los restaurantes da fastidio, pero, a la larga, resulta trivial. ¿Qué pasará cuando todos los ámbitos de la actividad humana se optimicen, no para nuestro beneficio, sino para que alguien gane dinero?

Quizás podamos hacernos una mejor idea de ello en el lugar de origen y hábitat natural de la IA generativa: Internet. 2024 fue el primer año en que el tráfico web generado por bots superó al generado por humanos. También fue el año en que el número de artículos generados por IA superó brevemente al de los escritos por humanos, según la empresa de optimización de búsquedas Graphite. Por no hablar de todos los vídeos y libros generados por IA, que crean categorías completamente nuevas de estafa. «Slop» (bazofia) fue la palabra del año 2025 según el Merriam-Webster, donde se define como «contenido digital de baja calidad que se produce, por lo general, en grandes cantidades mediante inteligencia artificial».

No hace falta que les diga que la IA puede generar una gran cantidad de contenido, pero lo que da miedo es lo mucho que nos gusta. A finales de 2025, una startup de vídeos generados por IA descubrió que más de uno de cada cinco vídeos que se mostraban a cuentas recién creadas de YouTube eran «slop de IA». Poco después, un avatar de anime generado por IA que emitía las 24 horas del día, los 7 días de la semana, se convirtió en el streamer con más suscriptores de Twitch. El hasta entonces número uno, un streamer humano llamado Jynxzi, al parecer incapaz de salir de su desconcierto, exclamó: «Ahí tienes el futuro del streaming, bro. Oye, eso me ha dejado atónito, bro.»

El comprimido siglo XXI

Tal vez simplemente hayamos tenido la mala suerte de que a la IA le resulte comparativamente más fácil conferir mayores visos de realidad al «entretenimiento de por vida» de  Infinite Jest que curar el cáncer. Y tal vez un mundo en el que funcione la Obsoleting Machine podría en poco tiempo hacernos vivir como los Supersónicos. ¿Acaso no sería estupendo? De hecho, el discurso promocional de los partidarios de la IA suele presentar un siglo de avances científicos y tecnológicos condensados en una década. Algo parecido han planteado desde Sam Altman y el director ejecutivo de Microsoft, Satya Nadella, hasta Dario Amodei, de Anthropic, y Dean Ball, redactor principal del Plan de Acción de Trump sobre IA. Cuando Amodei predice un «siglo XXI comprimido», el peso de tal afirmación se pierde fácilmente de una forma u otra. Nuestra infraestructura política, económica y social ya no está logrando seguir el ritmo de las últimas oleadas de innovación tecnológica. Hacer encajar la  Obsoleting Machine en nuestra desgastada infraestructura institucional parece mucho más propenso a potenciar las tendencias actuales —concentración de riqueza y poder, vigilancia, carreras armamentísticas, desintegración social— que a catapultarnos hacia un futuro al estilo de  Star Trek.

Aunque la automatización completa de la I+D en ciencia y tecnología lleve más tiempo de lo que esos expertos en tecnología suelen pensar, una vez superado ese umbral el mundo podría volverse rápidamente irreconocible, a medida que el esfuerzo de investigación efectivo se multiplique a ritmos propios de la Máquina, y no de los humanos.

Ahora bien, valoro mucho el progreso científico y tecnológico. La civilización preindustrial era un mal lugar para vivir. Aproximadamente la mitad de los niños moría. Hoy en día, la tasa es inferior al 4 % (aunque sigue siendo demasiado alta). Hace 200 años, solo el 12 % de la población sabía leer y escribir. Actualmente lo hace más del 87%. Ese progreso está distribuido de forma increíblemente desigual y si lo único que se quisiera es curar las dolencias de las personas habría que empezar por proporcionarles tratamientos de los que ya disponemos.

Aun así, cuando se analiza la carga mundial de morbilidad, queda claro que todavía hay algunas enfermedades importantes para las que se necesitan nuevos descubrimientos. Los cánceres y los trastornos neurológicos (por ejemplo, la demencia) ocupan los primeros puestos de la lista. Según Amodei: «He tenido familiares que fallecieron a causa de enfermedades que se curaron unos años después de su muerte, por lo que comprendo perfectamente lo que está en juego si no se avanza con suficiente rapidez». Tenemos la obligación moral de desplegar nuestros inmensos recursos en ayuda del mayor número posible de personas y, en ese sentido, los descubrimientos científicos tienen un papel fundamental que desempeñar.

Existen acalorados debates sobre el alcance y las causas del progreso material que, en su mayor parte, voy a eludir aquí. La tecnología —incluidas instituciones como el gobierno representativo y los sindicatos— desempeñó a las claras un papel fundamental en esos cambios. Pero los avances concretos que salvaron más vidas fueron tecnologías más clásicas: las transfusiones de sangre, la penicilina, el trigo de alto rendimiento. Y ninguno contribuyó más que el fertilizante sintético. En 1909, Fritz Haber descubrió el proceso y, posteriormente, Carl Bosch lo industrializó. Sin lo que se conoció como el proceso Haber-Bosch —escribió en Nature el geógrafo Vaclav Smil—, «casi dos quintas partes de la población mundial no estarían aquí».

A Haber se lo conoce también por algo más: desarrollar algunas de las primeras armas químicas utilizadas en combate. Mientras se lo homenajeaba por haber supervisado el primer ataque con gas cloro en gran escala en la Primera Guerra Mundial, su esposa se suicidó de un disparo con la pistola de Haber. A la noche siguiente, Haber fue a supervisar un ataque con gas contra los rusos. Haber era judío y huyó del antisemitismo nazi en 1933, un año antes de su muerte. Pero su legado perduró. La investigación que dirigió dio lugar a un pesticida comercializado como Zyklon. Los nazis modificaron su fórmula original y produjeron el Zyklon B, que se utilizó para asesinar a millones de personas durante el Holocausto, la gran mayoría de ellas judías. Tenemos ahí un ejemplo particularmente chocante e irónico de la doble naturaleza de la tecnología, encarnada en una sola persona.

Es mucho lo que está en juego en cuanto a lo que se descubre, cuándo y quién lo utiliza para que. ¿Es un «siglo XXI comprimido» la mejor forma de salvar vidas? Quizás convenga plantearse qué habría sido un siglo XX comprimido que hubiese comenzado en 1925. Menos de cuatro años separarían el primer vuelo sobre el Pacífico y el alunizaje; unos 200 días transcurrirían entre el descubrimiento de la fisión nuclear y la primera prueba atómica, y alrededor de siete meses entre el inicio de la Segunda Guerra Mundial y el bombardeo de Hiroshima. En sus memorias sobre la crisis de los misiles en Cuba, Robert F. Kennedy escribió: «De haberse tenido que tomar una decisión en veinticuatro horas, creo que el rumbo que finalmente habríamos tomado habría sido muy diferente y habría conllevado riesgos mucho mayores.» En un siglo XX comprimido, JFK habría tenido solo veinte minutos para responder al ultimátum de Jruschov.

De ahí que sea razonable mirar con recelo a los industriales de la IA ansiosos por llevarnos rápidamente al siglo XXII. Claro, tal vez tendríamos una cura para el cáncer en 2125, pero también podríamos tener armas que harían parecer inofensivas las ojivas termonucleares. Los drones podrían ser mucho más pequeños y sus enjambres mucho más grandes. Las defensas mejoradas contra misiles balísticos nucleares, combinadas con un crecimiento económico y una producción mucho más rápidos, podrían dar lugar a una acumulación de misiles de magnitudes superiores a las anteriores. Podríamos ver patógenos diseñados para ser tan contagiosos como el sarampión, tan resistentes al tratamiento como las enfermedades priónicas, tan latentes como el VIH y tan mortales como la rabia. (Un grupo de científicos de renombre logró mediante presiones que se impusiera una moratoria a la investigación sobre las «bacterias espejo», después de que no pudieran idear una contramedida «lo suficientemente eficaz como para salvar de esos organismos a la biosfera», tal como explicó uno de ellos a Scientific American. Se estimaba que, con un esfuerzo concertado, las bacterias espejo estarían listas en tan solo diez años; pero ello suponiendo unos plazos normales para el siglo XXI.)

Y puede que la IA no sea necesaria para inventar nuevos dispositivos apocalípticos. Podría simplemente democratizar la producción de los que ya tenemos; por ejemplo, al eliminar la principal barrera para la creación de armas biológicas. Por otro lado, hay destinos que hacen que la extinción parezca atractiva.

Los totalitarios aspiran al conocimiento y al poder absolutos. Por supuesto, en realidad ninguno de los dos es alcanzable. Pero la automatización puede acercarte mucho más a ellos.

Omnisciencia

Cada vez se registra una mayor fracción de la información sobre el mundo mediante cámaras de seguridad, teléfonos, aplicaciones y sitios web. El reto de la recopilación de datos para el aspirante a omnisciente se ha resuelto en gran medida. Pero tener no es lo mismo que conocer. Ninguna nación cuenta con la mano de obra necesaria para determinar qué señales contienen realmente información útil. Por ejemplo, la Agencia de Seguridad Nacional utilizaba técnicas rudimentarias, como la búsqueda por palabras claves, para señalar lo que debía escucharse, lo cual supuso tan solo el 1 % de lo que la Agencia recopila. De hecho, una interceptación realmente exhaustiva requeriría decenas de millones de analistas, según un exsubdirector de Inteligencia Nacional.

O simplemente un modelo. La IA puede ver, transcribir y procesar el lenguaje a un nivel cercano o superior al humano, al tiempo que detecta patrones que ningún humano detectaría. Los modelos de aprendizaje profundo pueden reconocer a las personas por su forma de caminar, hablar, escribir, publicar de forma anónima y distorsionar las señales wifi (incluso a través de las paredes). La precisión varía en función de la modalidad y las condiciones, pero en general ha mejorado rápidamente. Los labios, por ejemplo, pueden leerse en entornos controlados para generar un habla casi indistinguible de la real. En entornos reales, la IA sigue acertando casi dos tercios de las palabras con total precisión. En resumen, la IA está amenazando la poca privacidad que nos queda.

Desde hace años, los modelos extensos de lenguaje (o LLM, por sus siglas en inglés) son lo suficientemente capaces como para buscar en un pajar gigantesco y encontrar agujas de sutiles conductas indebidas. Por ejemplo, un abogado contó al Financial Times cómo utilizó GPT-4 para identificar conversaciones sobre fraude en más de 600 mil correos electrónicos internos de Enron. Claro está, la gente no suele utilizar la palabra «fraude» cuando lo está cometiendo. No obstante, el chatbot fue capaz de encontrar ejemplos, incluido uno en el que «utilizaban una analogía con la serie de televisión Plaza Sésamo y decían algo así como: “Yo, el Monstruo de las Galletas, tengo dos galletas, pero cobro 2,5 galletas, así que ahora me quedo con las galletas de más”».

En enero de 2026, Dario Amodei especuló que futuros sistemas, lo suficientemente capaces como para comprometer cualquier sistema informático, también podrían utilizar el acceso obtenido de esa manera para leer e interpretar todas las comunicaciones electrónicas del mundo (o incluso todas las comunicaciones presenciales del mundo, si se pudieran construir o requisar dispositivos de grabación). Podría resultar aterradoramente plausible generar simplemente una lista completa de cualquiera que discrepe del Gobierno en una serie de cuestiones, aunque dicho desacuerdo no se manifieste explícitamente en nada de lo que digan o hagan.

Y ya vimos que, semanas más tarde, el Departamento de Guerra le exigió a Anthropic que permitiera que sus modelos se utilizaran más o menos exactamente así, tal como Amodei les explicó a los empleados en un memorándum interno que se filtrara:

es legal que el Departamento de Guerra compre una gran cantidad de datos privados sobre ciudadanos estadounidenses a proveedores que hayan obtenido dichos datos de forma legal (lo que a menudo implica consentimientos ocultos para venderlos a terceros) y que, luego, los analice en gran escala con ayuda de la IA para crear perfiles de los ciudadanos, sus lealtades, patrones de movimiento en el espacio físico (entre los datos que pueden obtener figuran datos de GPS, etc.) y mucho más.

Cabe destacar que, hacia el final de la negociación, el Departamento de Guerra se ofreció a aceptar nuestras condiciones actuales si eliminábamos una frase específica sobre el «análisis de datos adquiridos en masa», que era la única línea del contrato que se ajustaba exactamente al escenario que más nos preocupaba. Nos pareció muy sospechoso.

Omnipotencia

Un ministro de propaganda del siglo XX disponía de herramientas rudimentarias para moldear las creencias de la gente. En la era de las redes sociales, las empresas privadas pueden ajustar unilateralmente los algoritmos para favorecer a candidatos políticos, suprimir ciertos temas y, al mismo tiempo, amplificar otros. Los investigadores pueden estudiar cuentas y publicaciones en las redes sociales para hacer ingeniería inversa de los cambios algorítmicos. Pero los chatbots con IA ofrecen medios de influencia de mayor fidelidad y más difíciles de detectar. En el mundo individualizado de los chatbots, con un nivel cada vez mayor de personalización, los sesgos son mucho menos evidentes. Una parte significativa y creciente de la población mundial interactúa habitualmente con IA cuyos resultados se pueden moldear —por promotores, gobiernos o cualquier persona con acceso— para potenciar o empañar sutilmente la reputación de cualquier política, persona o visión del mundo.

Cuando la vigilancia y la propaganda resultan insuficientes para impedir la organización, los Estados pueden, en todo momento, recurrir a su principal monopolio: la fuerza. En 1989, la Stasi de Alemania Oriental había construido el aparato de vigilancia predigital más sofisticado del mundo. Pero no pudo rivalizar con el amplio apoyo con que contaba el movimiento democrático. Poco después de la masacre de la plaza de Tiananmen, el jefe del Gobierno de Alemania Oriental ordenó a sus fuerzas que respondieran a las protestas previstas poniendo en práctica la «solución china». El ejército, la policía y unidades especiales de combate, armados hasta los dientes, fortificaron el centro de Leipzig y esperaron.

Cuando los manifestantes salieron en masa de las misas por la paz de las 17:00 horas y marcharon hacia el centro de la ciudad, las fuerzas de seguridad —para sorpresa de todos— no hicieron… nada. El «milagro de Leipzig» puso fin al régimen comunista en Alemania Oriental en nueve días.

Como concluye el politólogo alemán Thomas Apolte: «Los regímenes políticos sobrevivirán incluso a intensas protestas masivas siempre y cuando la élite de seguridad se abstenga de desertar.» Las deserciones activas dan lugar a golpes de Estado; las pasivas, como el «Milagro de Leipzig», a revoluciones pacíficas. En cualquier caso, caerá el dictador.

Pero ¿y si tus fuerzas de seguridad nunca corrieran el riesgo de verse dominadas por la conciencia? Las armas autónomas letales, o más bien, los robots asesinos, prometen precisamente eso. A mediados de 2025, el canal de YouTube del Ejército chino publicó un vídeo de un perro robótico armado con un fusil de asalto disparando contra objetivos y saludando a la cámara. El título del clip de 14 segundos se traducía como «¡Fuego continuo! ¡Una mirada más cercana al momento de “caza” del perro robótico de China!». Se utilizaron perros robóticos similares, provistos de megáfonos, para dar órdenes a voz en grito con el fin de hacer cumplir los confinamientos por la COVID-19.

Los sistemas militares desplegados en el extranjero suelen reutilizarse en el propio país. Tras el asesinato de George Floyd, el Departamento de Seguridad Nacional desplegó drones Predator para vigilar las protestas en Minneapolis; en 2025, la Oficina de Aduanas y Protección Fronteriza los hizo sobrevolar las protestas contra el Servicio de Control de Inmigración y Aduanas (ICE) en Los Ángeles. Esos drones siguen requiriendo operadores humanos. El programa Replicator del Pentágono tiene como objetivo cambiar esa situación, desplegando miles de sistemas autónomos y de bajo costo por aire, tierra y mar, lo que acabará permitiendo que enjambres impulsados por IA coordinen misiones sin control humano.

Los avances en IA también han reducido drásticamente las barreras para conseguir que las armas sean autónomas. Un ingeniero construyó un arma inteligente controlada por voz en su garaje. Le dice: «Nos están atacando por delante a la izquierda y por delante a la derecha, responde en consecuencia.» El arma inteligente apunta a la izquierda, dispara; apunta a la derecha, dispara (con balas de fogueo). A continuación, una voz de IA alegre pero decidida responde: «¡Si necesitas más ayuda, no tienes sino que decírmelo!» Los comandos de voz del rifle robótico utilizan ChatGPT, lo que llevó a OpenAI a bloquear el acceso del ingeniero. Una semana después, este publicó un vídeo en el que mostraba una máquina que, según él, «va a suponer una gran transformación para el sector de la construcción». El rifle ha sido sustituido por una pistola de clavos que apunta a una pared de globos de distintos colores. El ingeniero dice: «ChatGPT, inicia el seguimiento del color negro.» La pistola de clavos robótica dispara metódicamente a los globos negros, evitando (en su mayoría) los demás. El ingeniero va nombrando cada color hasta que no queda ningún globo. «Si necesitas más ayuda —interviene el bot— ¡no tienes sino que decírmelo!»

Combinemos el nivel de posibilidades técnicas, ya de por sí propio del cyberpunk, con las intenciones asesinas y fascistas de los líderes del complejo industrial de la tecnovigilancia, y un presidente que afirma no estar limitado por nada más que su «propia moral». Añadamos a todo ello la carrera sin cuartel de la industria de la IA para dotarse también de la Obsoleting Machine. ¿Qué te da esta receta? ¿Una tecno-utopía? Quizás los propulsores de la IA realmente necesiten leer más ciencia ficción.

La IA como justificación

Hay otra forma en que la IA podría conducir a una distopía: creando razones de peso para imponerla. Si la tecnología facilita en grado suficiente ataques catastróficos, hasta las sociedades democráticas podrían llegar a la conclusión de que la vigilancia total es el mal menor. En 2025, los modelos pioneros de IA comenzaron a mostrar indicios de que podían ayudar a aficionados a diseñar armas biológicas. Si bien todavía el proceso adolece de lagunas, la tendencia de los últimos años ha sido a que esas lagunas se vayan subsanando paulatinamente gracias a las mejoras en sus capacidades.

El profesor de IA David Krueger me describió un futuro escalofriante: un malhechor crea un arma biológica devastadora con la ayuda de un modelo un modelo extremadamente capaz de IA de pesos abiertos. Su creador se lo imaginaba como un sistema totalmente multimodal con un avatar digital que guiara y animara a la persona a lo largo de todo el proceso. Dado que los pesos de ese modelo se han extendido por todas partes y pueden ejecutarse en hardware para consumo general, los gobiernos del mundo caen presa del pánico y desatan una escalada de vigilancia cada vez más intensa y de medidas draconianas, como redadas gubernamentales contra investigadores de IA, a quienes ahora se considera un grave peligro para la especie.

Puede que todo eso parezca descabellado, pero ideas similares se han debatido no tanto como advertencias, sino como propuestas. El caso más famoso es el de Nick Bostrom, autor de Superintelligence, quien especuló sobre lo que podría suceder si tecnologías existencialmente peligrosas llegaran a ser fáciles de construir (por ejemplo, «armas nucleares fáciles»). Imaginemos un «panóptico de alta tecnología» en el que todo el mundo está obligado a llevar una «etiqueta de libertad» (término de resonancias deliberadamente orwellianas) que supervisa todo su comportamiento en tiempo real. Bostrom analiza soluciones de gobernanza global y describe posibles salvaguardias para el sistema de vigilancia; en última instancia, sin embargo, Bostrom está dispuesto a dar el paso y aumentar el riesgo de totalitarismo si la probabilidad de una extinción provocada por la tecnología fuera demasiado alta. Sin embargo, los gobiernos no son los únicos que podrían utilizar la IA para amasar poder. De hecho, la amenaza más inmediata podría provenir precisamente de las personas que construyen esos sistemas.

¿Podría un director ejecutivo conquistar el mundo?

En última instancia, el poder se ejerce por medio del trabajo. El general da órdenes a los soldados, que las ejecutan. El director ejecutivo establece objetivos y los empleados trabajan para alcanzarlos. La economía más grande suele ganar la guerra y (por ahora) las economías están compuestas en aproximadamente dos tercios por mano de obra. Las instituciones pueden coordinar y dirigir el trabajo. El dinero puede comprar acceso al poder. La tecnología puede mejorar su eficacia. Pero, en última instancia, el poder real requiere el trabajo de otras personas.

Dirigir grandes cantidades de mano de obra es difícil. Se puede hacer mediante el dinero, los cargos políticos, la ideología, la persuasión y la coacción. Pero el control de una persona sobre el trabajo de los demás nunca está totalmente asegurado. Y aunque se puede aumentar la cantidad de mano de obra sobre la que se ejerce influencia, su oferta total crece lentamente y conseguir acceso a más mano de obra suele conllevar un costo nada desdeñable.

De ahí que hacerse con el poder haya siempre implicado concesiones. Los golpes de Estado pueden ser llevados a cabo por un pequeño número de personas con el acceso adecuado, pero cada conspirador adicional es un posible delator y cualquiera dispuesto a traicionar a su superior podría traicionarte a ti también. Las revoluciones pueden reclutar abiertamente el apoyo de las masas, pero requieren suficiente fuerza para abrumar al Estado en el poder o suficiente legitimidad para que este lo ceda. Los golpes de Estado son rápidos pero frágiles; las revoluciones son lentas pero duraderas. Una de las razones claves que, según los estudiosos, explica la durabilidad de los regímenes revolucionarios radica en su «invulnerabilidad a los golpes de Estado», lograda mediante la reconstrucción y la politización del aparato coercitivo del Estado, en lugar de limitarse a hacerse con el control del ya existente.

Los expertos en seguridad a veces comparan las tomas de poder por parte de la IA con un golpe de Estado. La metáfora capta el carácter secreto y repentino del golpe. Pero pasa por alto lo que podría hacer que una toma de poder impulsada por la IA fuera tan devastadoramente duradera: una IA con lealtades secretas y absolutas podría combinar el acceso privilegiado de una conspiración golpista con la magnitud y el fervor de una lucha revolucionaria. A una escala que superaría con creces a la de los chatbots actuales, las «máquinas que hagan obsoleto lo anterior» se integrarían en instituciones claves del gobierno, la economía, los medios de comunicación y el ejército.

Alex Kastner, del equipo responsable de «AI 2027», publicó un artículo en el que se explora cómo podría funcionar un golpe de Estado impulsado por la IA. Los programadores ya son obsoletos y la explosión de capacidades está en pleno apogeo. El director ejecutivo de la empresa líder en IA, un transhumanista y optimista tecnológico, teme ahora que el Gobierno pronto invada su territorio, lo que mermaría su poder unilateral y, potencialmente, acabaría con todo el proyecto. Ello lo lleva a utilizar una versión no supervisada de su sistema más avanzado para introducir de forma encubierta lealtades secretas en la próxima generación de IA de la empresa. A medida que esas máquinas se difunden por la economía, el gobierno y el ejército, el director general acumula suficiente poder duro y blando para convertirse en el verdadero responsable de la toma de decisiones, primero entre bastidores y, después, abiertamente. El escenario termina con él controlando «el futuro, al menos en la fracción estadounidense del espacio».

¿Hasta qué punto es plausible un golpe de Estado por parte de un director ejecutivo? El equipo de «IA 2027» adopta una visión agresiva acerca de cuándo, con qué rapidez y en qué medida la IA transformará el mundo. Pero las características claves de la IA en este escenario —su impenetrabilidad y su uso para entrenar a las generaciones posteriores— ya describen los sistemas actuales y los planes explícitos de la industria.

¿Lo intentaría realmente alguien? Esa posibilidad se toma en serio en los niveles más altos del Proyecto. En un correo electrónico de 2017 dirigido a Elon Musk, Ilya Sutskever y Greg Brockman escribieron:

El objetivo de OpenAI es garantizar un futuro mejor y evitar una dictadura de la IAG. Te preocupa que Demis pueda crear una dictadura de la IAG. A nosotros también [sic]. Por tanto, es una mala idea crear una estructura en la que pudieras convertirte en dictador si así lo decidieras, sobre todo teniendo en cuenta que podemos crear otra estructura que evite esa posibilidad.

En otras palabras, las personas que desarrollan esos sistemas han debatido explícitamente el riesgo de que uno de los suyos pudiera utilizar la IAG para hacerse con un poder sin precedentes y les preocupaba que el propio Musk pudiera verse tentado a hacerlo. Años más tarde, en respuesta a la demanda de Musk contra OpenAI, la empresa afirmó que Musk quería que sus hijos controlaran la IAG. Sea cierto o no, el mero hecho de que resulte plausible —que «quien controla la IAG» sea algo en lo que estas personas piensan en términos de herencia— dice mucho sobre lo que está en juego tal como ellos lo perciben.

Entretanto, hemos visto que Grok no oculta precisamente su devoción por un hombre en particular. Se trata de lealtades torpes y fáciles de descubrir, fruto de un narcisista inseguro e impulsivo. Pero el impulso que revelan no será exclusivo de este.

¿Resolverá la IA la pobreza?

Evitar las tomas de poder más espectaculares es posible y redunda en interés de quienes ya son poderosos. Pero impedir un golpe de Estado es muy diferente de cumplir las promesas utópicas de la IA. Es habitual que quienes con mayor fuerza creen en el potencial de la IA, para bien o para mal, predigan la abundancia material para todos. En 2014, Sam Altman especuló: «Tal vez podríamos acabar con la pobreza de la noche a la mañana.» En el Foro de Inversión Estados Unidos-Arabia Saudita de 2025, Musk afirmó desde un escenario que «la IA y los robots humanoides eliminarán de hecho la pobreza» y explicó más tarde en X que «el resultado más probable es que la IA y los robots hagan ricos a todos. De hecho, mucho más ricos que la persona más rica de la Tierra».

Sin embargo, una de las predicciones más seguras sobre el mundo que resultará de la abundancia de Obsoleting Machinesobedientes es la de unos niveles de desigualdad sin precedentes. Como es bien sabido, en El capital en el siglo XXI, Thomas Piketty arguyó que, a falta de intervención, la desigualdad tendía a aumentar porque los ricos ahorraban a tasas más altas y obtenían mayores rendimientos de su capital.

La desigualdad entre ricos y pobres dentro de un país rico como Estados Unidos palidece en comparación con la desigualdad entre países. Por ejemplo, como señala Max Roser, de Our World in Data, el 99 % de los etíopes vive con menos de 30 dólares al día, mientras que en Dinamarca solo lo hace el 14 %. Si se comparan la distribución del ingreso de ambos países, apenas se solapan. Por tanto, la redistribución dentro de cada país resultará totalmente insuficiente para combatir la pobreza en gran parte del mundo.

Aun cuando se parta de hipótesis extremadamente optimistas —que todo el mundo convergiera hacia los niveles de desigualdad e ingresos medios de Dinamarca—, Roser concluye que la economía mundial tendría que quintuplicarse para reducir la pobreza a niveles similares a los de Dinamarca (con lo cual aún el 14 % de la población viviría con menos de 30 dólares al día). A una tasa de crecimiento anual del 2 %, tomaría más de 80 años.

En su ensayo desenfadadamente titulado «El capital en el siglo XXII», el economista Philip Trammell y Dwarkesh Patel, presentador del podcast favorito de Silicon Valley, sostienen que Piketty se equivocó respecto del pasado, pero que podría tener razón sobre el futuro. Los autores observan que la distribución de los ingresos entre trabajo y capital se ha mantenido notablemente estable en una proporción de dos tercios a un tercio. Pero con la automatización total, la participación del capital en la economía alcanza el 100%. El tipo de capital que más se beneficia también es diferente: oportunidades de inversión privada desproporcionadas a las que tiene acceso solo una fracción extremadamente pequeña de la población. A medida que la IA sustituye incluso a la mano de obra humana barata, el crecimiento internacional de recuperación se detiene. Y a medida que los seres humanos se vuelven obsoletos, también lo hacen los argumentos que justifican la desigualdad como un motivador necesario.

Sin impuestos elevados, progresivos y aplicados a nivel mundial sobre el capital, «aproximadamente todo acabará perteneciendo a quienes sean más ricos cuando se produzca la transición, o a sus herederos». Por supuesto, reconocen que se trata de algo muy duro. Pero si queremos evitar un mundo de desigualdad verdaderamente astronómica, tendremos que intentarlo.

Algunos aceleracionistas y aprensivos de la IA piensan que la Obsoleting Machine provocaría un crecimiento económico tan espectacular que resultaría extremadamente barato convertir a todo el mundo en el equivalente a un millonario. En «IA 2027», los autores predicen el «fin de la pobreza» en un plazo de tres años tras la llegada de la IA capaz de mejorarse a sí misma. Sin embargo, en ninguna de sus casi 200 notas al pie ni en sus cinco informes complementarios explican cómo se acabaría con la pobreza más allá de un «ingreso básico universal increíblemente generoso» y de la «ayuda exterior». (El autor principal, Daniel Kokotajlo, reconoció que la previsión original «no entraba en muchos detalles» sobre esa cuestión, pero me dijo que en un artículo de próxima aparición sí lo haría.) Pero ¿cómo eliminaría Etiopía la pobreza en un mundo totalmente automatizado? ¿A qué empresas de IA podrían gravar los gobiernos? ¿Por qué las empresas y los gobiernos occidentales le darían a Etiopía suficiente dinero para acabar con la pobreza?

Hasta Noruega, el donante más generoso del mundo, no destina sino algo más del 1 % de su ingreso nacional a la ayuda exterior. Los estudios sobre los esfuerzos de ayuda revelan sistemáticamente que incluso aumentos espectaculares de la riqueza nacional producen solo incrementos graduales de la generosidad. Apenas un puñado de países ha cumplido de forma fiable el modesto objetivo del 0,7 % fijado por las Naciones Unidas, mientras que la ayuda mundial sigue siendo una fracción de lo que se necesitaría para cerrar la brecha entre los países ricos y los países pobres.

Noruega es un país pequeño en el que existe un consenso político poco habitual en torno a la generosidad. Un mejor caso de estudio es la mayor fuente de ayuda exterior, que es también el país donde se está concentrando realmente la riqueza derivada de la IA. En 2023, el presupuesto de ayuda exterior de Estados Unidos era inferior a una cuarta parte del 1 % del ingreso nacional, pero el país es tan rico que el total ascendió a 62 mil millones de dólares. (En una encuesta realizada a principios de 2025, los estadounidenses estimaron que el presupuesto de ayuda exterior representaba el 26 % del gasto público, cuando en realidad, históricamente, ha sido de alrededor del 1%.)

La mayor parte de la ayuda estadounidense se canalizó a través de la Agencia de los Estados Unidos para el Desarrollo Internacional (USAID). Esta tiene un largo historial de haber sido utilizada para encubrir operaciones de influencia en el extranjero, pero sus programas de salud pública también han sido extremadamente eficaces.

Según reveló una estimación independiente publicada en The Lancet, la USAID habría salvado más de 91 millones de vidas a lo largo de dos décadas. Sin embargo, ello ocurrió antes de que el hombre más rico del mundo se enorgulleciera de «meterla en la trituradora de madera».

A las pocas horas de tomar posesión, el Presidente Trump suspendió toda la ayuda exterior. Musk, el denominado Departamento de Eficiencia Gubernamental y el Secretario de Estado Marco Rubio trabajaron para desmantelar de forma abrupta y rápida la USAID, en aparente violación de la ley federal, que autorizaba a la organización como agencia independiente. No obstante, el Congreso y los tribunales permitieron que ello sucediera. Según revelara una estimación conservadora del impacto de los recortes realizados a finales de 2025, esos ya habían causado la muerte de más de 700 mil personas, de las cuales más de dos tercios habían sido niños. Una previsión publicada en The Lancet predijo que los recortes provocarían catorce millones de muertes para 2030, entre ellas las de 4,5 millones de niños menores de cinco años.

En pocas palabras, el país más rico del mundo y la persona más rica del mundo destruyeron la organización con mayor legitimidad para salvar el mayor número de vidas en el mundo, por lo que me tendrán que perdonar si me muestro escéptico ante la idea de que la economía de la IA beneficiará a los más desfavorecidos.

Mentes típicas

Entre quienes se preocupan por la IA y piensan que no tenemos sino que evitar la extinción para que todo vaya de maravilla, existe una suposición implícita de que las élites se iluminarán al tener acceso a mentes superiores. Pero ¿para qué utilizarían realmente los poderosos la superinteligencia? Creo que nuestro punto de partida debería ser: para lo que ya lo están haciendo.

Tendemos a creer que los demás piensan más como nosotros de lo que realmente lo hacen. Este sesgo, la falacia de la mente típica, puede llevar por mal camino incluso a quienes suelen razonar con cautela. Muchas de las personas que más profundamente han reflexionado sobre cómo podría ser el mundo tras la llegada de la superinteligencia están sobrevalorando lo que ellos (y personas como ellos) harían con ella, al tiempo que subestiman enormemente lo que harían personas como Stephen Miller.

En el primer año del segundo mandato de Trump, el subjefe de gabinete de la Casa Blanca se erigió en una especie de presidente en la sombra, diseñando el ambicioso aparato de vigilancia y represión interna de la administración. Steve Bannon describe a Miller como el «primer ministro» de Trump. No dudo de que el equipo de «IA 2027» dirigiría una superinteligencia armonizada para eliminar la pobreza y hacer otras cosas maravillosas. Pero hay muchos que, sinceramente, no quieren lo mejor para todos, que simplemente no quieren compartir el futuro con los africanos pobres a los que están matando los recortes de Musk a la USAID. Y esas personas están mucho más cerca de gobernar el mundo.

Después de que una cuenta destacada de supremacistas blancos tuitease: «Si los hombres blancos se convierten en una minoría, nos masacrarán… La solidaridad blanca es la única forma de sobrevivir», Musk retuiteó el mensaje acompañado del emoji de 100 (abreviatura de «100 %»). (Esperemos que esto acabe de una vez por todas con el debate acerca de si «realmente quiso decir» aquel Sieg Heil). En pocas palabras, la supremacía blanca es actualmente una fuerza política mucho más potente que el tecnoutopismo benevolente. Tal como informara The Atlantic:

Durante los preparativos para el debate de la campaña de 2024, Miller se vio envuelto en una polémica discusión sobre inmigración con un aliado más moderado de Trump. Finalmente, un frustrado Trump los interrumpió: «Stephen —dijo— si fuera por ti, todo el mundo se parecería exactamente a ti», nos contó alguien familiarizado con el intercambio. «Así es» —respondió Miller, antes de volver a la discusión.

¿Qué haría Stephen Miller con la superinteligencia? Ya nos lo ha dicho.

Este texto es una versión adaptada del capítulo XIV de Obsolete: The AI Industry’s Trillion-Dollar Race to Replace Us—and How to Stop It, el libro de Garrison Lovely de próxima publicación.