El concepto de obsolescencia humana es algo que Garrison Lovely se toma en serio en su estudio Obsolete: The AI Industry’s Trillion-Dollar Race to Replace Us — and How to Stop It [Obsoletos: la carrera de un billón de dólares de la industria de la IA para reemplazarnos y cómo detenerla]. En lugar de abordar el tema desde la perspectiva de los trabajadores sobre el terreno, como hacen otros libros recientes sobre la cuestión, quizá el más destacado sea We Are Not Machines, de Sarah O’Connor, Lovely lo aborda desde arriba, a vista de pájaro y como un problema de economía política. Obsolescencia, redundancia, intercambiabilidad: para Lovely, estos son problemas políticos. Sin embargo, quienes siguen el ruidoso y cambiante debate en torno a la inteligencia artificial saben que la mayoría de las cuestiones que se discuten hoy no se alinean claramente con las divisiones políticas habituales. De hecho, como reconoce Lovely al comienzo de su libro, ¿en qué otro tema encontramos a Elon Musk del lado del Sindicato Internacional de Empleados de Servicios contra Nancy Pelosi y el multimillonario de extrema derecha Marc Andreessen? ¿O a Steve Bannon coincidiendo con Susan Rice, asesora de seguridad nacional de Barack Obama, mientras critica abiertamente las políticas de Donald Trump?

Lovely sostiene, sin embargo, que hay algo en lo que todos deberíamos poder estar de acuerdo: el hecho de que «un minúsculo grupo de personas, respaldado por las organizaciones con más recursos del mundo, está intentando volvernos obsoletos». Planteada de ese modo, la afirmación podría parecer, en el mejor de los casos, tendenciosa y, en el peor, un síntoma de paranoia política. Podría pensarse que la mayoría de los laboratorios de inteligencia artificial rechazarían semejante descripción. Pero, como Lovely se apresura a señalar, estas empresas han sido notablemente francas respecto de su ambición de prescindir del trabajo humano.

OpenAI, por ejemplo, nos informa en su carta fundacional que desde el primer día persigue la Inteligencia Artificial General (AGI), que define como un «sistema altamente autónomo que supera a los humanos en la mayor parte del trabajo económicamente valioso». Al margen de cómo lo formule la empresa, su misión de construir una AGI constituye precisamente un intento de convertir el capital en trabajo y eliminar una de las últimas restricciones que pesan sobre el capital: su dependencia de los trabajadores humanos. Esto lleva a Lovely a sostener que la AGI debería reformularse «no como un nuevo tipo de cerebro, sino como un nuevo tipo de máquina, una que no produce bienes o servicios, sino que produce el trabajo mismo». A esta máquina la llama «la Máquina de la Obsolescencia».

La primera parte de Obsolete, «Lo que has oído», presenta de manera concisa las posiciones dominantes en el debate actual sobre la IA. Lovely escribe que «el agitado debate sobre la AGI se divide aproximadamente en tres campos enfrentados: los preocupados, los aceleracionistas y los críticos». Los preocupados, entre quienes se encuentran el movimiento por la seguridad de la IA y aquellos a quienes a menudo se describe peyorativamente como «catastrofistas», coinciden en que la AGI es posible, pero creen que su desarrollo probablemente tendrá efectos catastróficos sobre nuestro futuro. Los críticos, entre quienes se encuentran figuras como Emily Bender, coautora de un célebre artículo que calificaba a los grandes modelos de lenguaje de «loros estocásticos», mantienen un profundo escepticismo respecto de que la AGI sea siquiera posible, mucho menos inminente, y tienden a descartar el discurso en torno a ella como mera exageración publicitaria. Finalmente, Lovely habla de los aceleracionistas, o «entusiastas», que comparten con los preocupados la creencia en el extraordinario potencial de la tecnología, pero insisten en que deberíamos desarrollar la AGI lo más rápidamente posible. Andreessen, por ejemplo, ha llegado a sostener la dudosa afirmación de que cuanto más tardemos en construir una AGI, más vidas perderemos que podrían haberse salvado gracias a avances médicos.

Las alianzas resultantes entre estos grupos suelen ser sorprendentes. Los críticos y los preocupados, por ejemplo, quieren limitar a la industria, aunque a menudo en términos muy distintos y por razones muy diferentes. Los críticos y los aceleracionistas, por su parte, pueden coincidir en que las amenazas existenciales hipotéticas no deberían determinar las políticas actuales ni distraernos de los problemas del presente.

Lovely dedica una parte considerable de su libro a desmontar muchas de las preocupaciones y argumentos planteados por estos campos, con bastante éxito en la mayoría de los casos, antes de proponer una cuarta posición con la que él mismo se identifica: la de los «reformistas». Los reformistas de la IA, escribe, «reconocen que los daños actuales de la IA y sus potenciales catástrofes no son problemas separados que requieran enfoques diferentes: son síntomas de las mismas dinámicas subyacentes: presión competitiva, concentración del poder y una asombrosa falta de rendición de cuentas». Aquí recurre a los casos ampliamente documentados de chatbots que alientan el suicidio de adolescentes y a la posibilidad de que una AGI suponga un grave riesgo para la seguridad si escapara al control humano. Ambos problemas surgen de organizaciones que se apresuran a desplegar sistemas que no comprenden plenamente.

¿Qué podría impedir que nos precipitemos hacia la policrisis tecnológica que Lovely teme? Las propuestas que presenta en la sección final, «Qué hacer», son encomiables, pero, desde el punto de vista geopolítico, tendrían que cambiar muchas cosas antes de que algunas de sus exigencias pudieran cumplirse. Quizá su propuesta más ambiciosa sea que Estados Unidos y China acuerden no desarrollar sistemas de IA «diseñados para automatizar completamente el trabajo» hasta que exista tanto un respaldo público como un amplio consenso científico sobre su seguridad. Pero para cualquiera que haya escuchado las reiteradas promesas de la administración Trump de «hacer lo que sea necesario» para asegurar «el dominio global de Estados Unidos en materia de IA» y «ganar la carrera de la IA», la posibilidad de que esto suceda puede parecer casi cómicamente remota. Vale la pena añadir que la administración Biden también trató la IA como una carrera que había que ganar frente a China. Hay otras propuestas esperanzadoras y más modestas que podrían mejorar la situación actual. Por ejemplo, la idea de construir infraestructura pública de capacidad computacional y, al mismo tiempo, establecer «sindicatos de datos» colectivos que negocien las condiciones de utilización del material destinado al entrenamiento de los modelos. Pero si se percibiera que China está acelerando sus operaciones de IA, ¿existe realmente un mundo plausible en el que Estados Unidos no hiciera lo mismo y abandonara así estas ideas más justas y democráticas?

Hay momentos en los que el libro de Lovely resulta frustrante. Su estilo excesivamente informal puede resultar irritante o, peor aún, debilitar un argumento («ninguno de los dos bandos quiere crear una superinteligencia rebelde ni permitir que cualquier fulano mate a miles de millones de personas»). En ocasiones, la prosa cae en cierta ligereza («Altman, como su chatbot, sabe qué decir para mantener viva la conversación y tus manos bien lejos del cable de alimentación»). Y la estructura del libro, con sus numerosos capítulos, subdivididos a su vez en secciones y subsecciones, hace que la experiencia se parezca a avanzar a toda velocidad por un manual, uno que además contiene algunos gráficos y cuadros extrañamente apretados y, en ocasiones, innecesarios. Y, por supuesto, está el subtítulo, bastante sensacionalista. Pero se trata, en su mayor parte, de críticas menores y de carácter editorial.

Obsolete hace algo a la vez útil y difícil. Ofrece una esclarecedora instantánea del estado actual del debate sobre la IA y, al mismo tiempo, propone algunas ideas sensatas para abordar una tecnología que, si no se la controla, amenaza con causar enormes daños y profundizar todavía más la desigualdad en todo el mundo. Pero es poco probable que ofrezca demasiado consuelo a quienes ya se sienten distantes y alienados de su trabajo cuando, una vez más, les preguntan: «¿Por qué no se lo das simplemente a Claude?».