Mi discurso para la serie de conferencias sobre Neurociencia, IA y Sociedad de la Universidad de Washington.
Cory Doctorow. 5 de diciembre de 2025. MEDIUM.
Estoy de gira con mi nuevo libro, el bestseller internacional Enshittification . ¡Nos vemos próximamente en Madison, Connecticut; Hamburgo y Denver! Agenda completa con fechas y enlaces aquí .
Anoche di una charla en el ciclo de conferencias «Neurociencia, IA y Sociedad» de la Universidad de Washington, a través del Centro de Neurociencia Computacional de la universidad. Se tituló «La Guía del Centauro Inverso para la Crítica de la IA» y está basada en el manuscrito de mi próximo libro, «La Guía del Centauro Inverso para la Vida Después de la IA», que Farrar, Straus and Giroux publicará el próximo junio.
Las entradas para la charla se agotaron, pero aquí está el texto de mi conferencia. ¡Estoy muy agradecido a la Universidad de Washington por la oportunidad y por una agradable visita a Seattle!
Soy un escritor de ciencia ficción, lo que significa que mi trabajo es inventar parábolas futuristas sobre nuestros actuales acuerdos tecnosociales para interrogar no sólo lo que hace un dispositivo, sino para quién lo hace y a quién se lo hace .
Lo que no hago es predecir el futuro. Nadie puede predecirlo, lo cual es bueno, ya que si fuera predecible, significaría que lo que todos hacemos no podría cambiarlo. Significaría que el futuro llegaría por rieles fijos y no se podría controlar.
¡Jesucristo, qué propuesta tan miserable!
Ahora bien, no todos entienden la distinción. Creen que los escritores de ciencia ficción son oráculos, adivinos. Desafortunadamente, incluso algunos de mis colegas se creen engañados al creer que pueden «ver el futuro».
Pero por cada escritor de ciencia ficción que se engaña pensando que está escribiendo el futuro, hay cientos de fans de la ciencia ficción que creen estar leyendo el futuro, y un deprimente número de ellos parece haberse convertido en un fanático de la IA. El hecho de que estos tipos no se callen sobre el día en que su ingeniosa máquina de autocompletar se despierte y nos convierta a todos en clips ha llevado a muchos periodistas y organizadores de conferencias, confundidos, a intentar que comente sobre el futuro de la IA.
Me resistí con todas mis fuerzas, porque perdí dos años de mi vida explicando paciente y repetidamente por qué pensaba que las criptomonedas eran una tontería, y recibiendo constantes críticas de los fanáticos de las criptomonedas, quienes al principio insistieron en que simplemente no las entendía. Y luego, cuando dejé claro que sí las entendía, insistieron en que debía ser un cómplice a sueldo.
Esto es literalmente lo que pasa cuando discutes con cienciólogos, y la vida es demasiado corta.
Así que no quería caer en otro de esos atolladeros, porque por un lado, simplemente no creo que la IA sea una tecnología tan importante y, por otro lado, tengo opiniones muy matizadas y complicadas sobre lo que está mal y lo que no está mal en la IA, y lleva mucho tiempo explicar esas cosas.
Pero la gente no dejaba de preguntar, así que hice lo que siempre hago: escribí un libro.
Durante el verano escribí un libro sobre mi opinión sobre la IA, que en realidad trata sobre mi opinión sobre la crítica de la IA y, más concretamente, sobre cómo ser un buen crítico de IA. Es decir: «Cómo ser un crítico cuya crítica inflija el máximo daño a las partes de la IA que más daño causan». Titulé el libro « La guía del centauro inverso para la vida después de la IA» , y Farrar, Straus y Giroux lo publicarán en junio de 2026.
Pero no tienen que esperar hasta entonces, porque esta noche, durante los próximos 40 minutos, les explicaré la tesis completa del libro. Voy a hablar rápido .
#
Empecemos por lo que es un centauro inverso. En la teoría de la automatización, un «centauro» es una persona asistida por una máquina. Eres una cabeza humana transportada por un cuerpo robótico incansable. Conducir un coche te convierte en centauro, al igual que usar el autocompletado.
Y obviamente, un centauro inverso es una cabeza de máquina en un cuerpo humano, una persona que sirve como…Apéndice de carne blanda para una máquina indiferente.
Como un conductor de reparto de Amazon, que se sienta en una cabina rodeada de cámaras de inteligencia artificial, que monitorean los ojos del conductor y le quitan puntos si el conductor mira en una dirección prescrita, y monitorea la boca del conductor porque cantar no está permitido en el trabajo, y delata al conductor ante el jefe si no cumple con la cuota.
El conductor está en esa camioneta porque no puede conducirse sola y no puede llevar un paquete desde la acera hasta tu porche. El conductor es un periférico para una camioneta, y la camioneta lo conduce a una velocidad sobrehumana, exigiendo una resistencia sobrehumana. Pero el conductor es humano, así que la camioneta no solo lo usa. Lo usa hasta …
Obviamente, es agradable ser un centauro, y es horrible ser un centauro inverso. Hay muchas herramientas de IA que potencialmente son muy parecidas a los centauros, pero mi tesis es que estas herramientas se crean y financian con el propósito expreso de crear centauros inversos, algo que ninguno de nosotros quiere ser.
Pero como dije, el trabajo de un escritor de ciencia ficción es hacer más que pensar en lo que hace el dispositivo y profundizar en para quién lo hace y a quién se lo hace . Los jefes tecnológicos quieren que creamos que solo hay una forma en que se puede usar una tecnología. Mark Zuckerberg quiere que pienses que es tecnológicamente imposible tener una conversación con un amigo sin que él escuche. Tim Cook quiere que pienses que es tecnológicamente imposible que tengas una experiencia informática confiable a menos que él consiga un veto sobre qué software instalas y sin que él se quede con 30 centavos de cada dólar que gastas. Sundar Pichai quiere que pienses que es imposible que encuentres una página web a menos que él te espíe desde el culo hasta el apetito.
Todo esto es una especie de thatcherismo vulgar. El mantra de Margaret Thatcher era «No hay alternativa». Lo repetía con tanta frecuencia que la llamaban «TINA». Thatcher: No. Hay. Alternativa. TINA.
«No hay alternativa» es un desaire retórico barato. Es una exigencia disfrazada de observación. «No hay alternativa» significa «DEJA DE PENSAR EN UNA ALTERNATIVA». Lo cual, ya sabes, al diablo con eso …
Soy un escritor de ciencia ficción y mi trabajo es pensar en una docena de alternativas antes del desayuno.
Permítanme explicar lo que creo que está pasando aquí con esta burbuja de la IA, separar las tonterías de la realidad material y explicar cómo creo que todos podríamos y deberíamos ser mejores críticos de la IA.
#
Empecemos por los monopolios: las empresas tecnológicas son gigantescas y no compiten, simplemente se apoderan de sectores enteros, ya sea por su cuenta o en cárteles.
Google y Meta controlan el mercado publicitario. Google y Apple controlan el mercado móvil, y Google le paga a Apple más de 20 000 millones de dólares al año para que no desarrolle un motor de búsqueda competitivo. Y, por supuesto, Google tiene una cuota de mercado del 90 % en búsquedas.
Ahora, uno podría pensar que esto es una buena noticia para las empresas tecnológicas, dueñas de todo su sector.
Pero en realidad es una crisis. Verán, cuando una empresa crece, se considera una «acción de crecimiento», y a los inversores les gustan mucho las acciones de crecimiento. Al comprar una acción de crecimiento, se apuesta a que seguirá creciendo. Por lo tanto, las acciones de crecimiento se cotizan a un múltiplo enorme de sus ganancias. Esto se denomina «ratio precio-beneficio» o «ratio precio-beneficio».
Pero una vez que una empresa deja de crecer, se convierte en una acción «madura» y cotiza a un PER mucho más bajo . Así, por cada dólar que Target, una empresa madura, ingresa, vale diez dólares. Su PER es de 10, mientras que Amazon es de 36, lo que significa que por cada dólar que ingresa Amazon, el mercado la valora en 36 dólares.
Es maravilloso dirigir una empresa con acciones en crecimiento. Tus acciones valen tanto como el dinero. Si quieres comprar otra empresa o contratar a un trabajador clave, puedes ofrecer acciones en lugar de efectivo. Y es muy fácil para las empresas conseguir acciones, porque se fabrican allí mismo; solo hay que escribir unos ceros en una hoja de cálculo, mientras que los dólares son mucho más difíciles de conseguir. Una empresa solo puede obtener dólares de clientes o acreedores.
Entonces, cuando Amazon puja contra Target por una adquisición clave o una contratación clave, Amazon puede pujar con las acciones que obtiene al escribir ceros en una hoja de cálculo, y Target solo puede pujar con los dólares que obtiene por vendernos cosas o por solicitar préstamos, razón por la cual Amazon generalmente gana esas guerras de ofertas.
Esa es la ventaja de tener una acción en crecimiento. Pero aquí está la desventaja: con el tiempo, una empresa tiene que dejar de crecer. Por ejemplo, si alcanzas una cuota de mercado del 90 % en tu sector, ¿cómo vas a crecer?
Una vez que el mercado decide que su acción no es una acción en crecimiento, una vez que alcanza la madurez, sus acciones se revalúan hasta alcanzar una relación precio-beneficios acorde con una acción madura.
Si eres ejecutivo de una empresa dominante con acciones en crecimiento, debes vivir con el temor constante de que el mercado decida que no es probable que sigas creciendo. Piensa en lo que le ocurrió a Facebook en el primer trimestre de 2022. Informaron a los inversores que experimentaron un crecimiento ligeramente más lento en EE. UU. de lo que habían previsto, y los inversores entraron en pánico . Organizaron una venta masiva de 240 000 millones de dólares en un solo día. ¡Un cuarto de billón de dólares en 24 horas! En aquel momento, fue la caída más grande y abrupta de la valoración corporativa en la historia de la humanidad.
Esa es la peor pesadilla de un monopolista, porque una vez que presides una empresa «madura», los empleados clave a los que has estado compensando con acciones sufren una caída salarial abrupta y se marchan, perdiendo así a quienes podrían ayudarte a crecer de nuevo, y solo puedes contratar a sus sustitutos con dólares. Con dólares, no con acciones.
Y lo mismo ocurre con la adquisición de empresas que podrían ayudarte a crecer, porque también esperarán dinero, no acciones. Esta es la paradoja de las acciones de crecimiento. Mientras creces hacia el dominio, el mercado te aprecia, pero una vez que lo logras , el mercado te reduce el 75 % o más de tu valor de golpe si no confía en tu capacidad de fijación de precios.
Es por eso que las empresas de acciones en crecimiento siempre están inflando desesperadamente una u otra burbuja, gastando miles de millones para promocionar el giro hacia el video, las criptomonedas, los NFT, el metaverso o la inteligencia artificial.
No digo que los directivos tecnológicos estén apostando por algo que no piensan ganar. Pero sí digo que ganar la apuesta —crear un metaverso viable— es el objetivo secundario. El objetivo principal es convencer al mercado de que su empresa seguirá creciendo y mantener esa convicción hasta que llegue la próxima burbuja.
Así que es por eso que promocionan la IA: la base material de los cientos de miles de millones de dólares en inversiones en IA.
#
Ahora quiero hablar de cómo venden la IA. La narrativa del crecimiento de la IA es que la IA revolucionará los mercados laborales. Uso «revolucionar» aquí en su sentido más desprestigiado, el de un tecnólogo.
La promesa de la IA (la promesa que las empresas de IA hacen a los inversores) es que habrá IA que puedan hacer su trabajo y, cuando su jefe lo despida y lo reemplace con IA, se quedará con la mitad de su salario y le dará la otra mitad a la empresa de IA.
Eso es todo.
Esa es la historia de crecimiento de 13 billones de dólares que cuenta MorganStanley. Es por eso que grandes inversores e instituciones están invirtiendo cientos de miles de millones de dólares en empresas de IA. Y, al acumularse , los inversores comunes también se ven absorbidos, poniendo en riesgo sus ahorros para la jubilación y la seguridad financiera de sus familias.
Ahora bien, si la IA pudiera hacer tu trabajo, esto seguiría siendo un problema. Tendríamos que averiguar qué hacer con todas estas personas desempleadas tecnológicamente.
Pero la IA no puede hacer tu trabajo. Puede ayudarte a hacer el tuyo, pero eso no significa que vaya a ahorrar dinero. Por ejemplo, en radiología: hay evidencia de que la IA a veces puede identificar tumores de masa sólida que algunos radiólogos pasan por alto, y mira, tengo cáncer. Por suerte, es muy tratable, pero me interesa que la radiología sea lo más fiable y precisa posible.
Si mi hospital Kaiser comprara herramientas de radiología con IA y les dijera a sus radiólogos: «Hola, amigos, este es el trato. Hoy procesan unas 100 radiografías al día. De ahora en adelante, obtendremos una segunda opinión instantánea de la IA, y si la IA cree que se les ha pasado un tumor, queremos que vuelvan a revisarlo, incluso si eso significa que solo procesan 98 radiografías al día. No hay problema, solo nos importa encontrar todos esos tumores».
Si eso es lo que dijeron, me encantaría. Pero nadie invierte cientos de miles de millones en empresas de IA porque crea que la IA encarecerá la radiología, ni siquiera si eso también la hace más precisa. La apuesta del mercado por la IA es que un vendedor de IA visitará al director ejecutivo de Kaiser y le hará esta presentación: «Mira, despides a 9/10 de tus radiólogos, ahorrando 20 millones de dólares al año, nos das 10 millones de dólares al año y ganas 10 millones de dólares al año, y el trabajo de los radiólogos restantes será supervisar los diagnósticos que la IA realiza a una velocidad sobrehumana y, de alguna manera, permanecer vigilantes mientras lo hacen, a pesar de que la IA suele acertar, excepto cuando se equivoca catastróficamente».
Y si la IA no detecta un tumor, será culpa del radiólogo humano , porque él es el «humano al tanto». Es su sello en el diagnóstico.
Este es un centauro inverso, y es un tipo específico de centauro inverso: es lo que Dan Davies llama un «sumidero de responsabilidad». El trabajo del radiólogo no es realmente supervisar el trabajo de la IA, sino asumir la responsabilidad de sus errores.
Esta es otra clave para comprender, y por lo tanto desinflar, la burbuja de la IA. La IA no puede hacer tu trabajo, pero un vendedor de IA puede convencer a tu jefe de que te despida y te reemplace con una IA que no puede hacer tu trabajo. Esto es clave porque nos ayuda a construir las coaliciones que tendrán éxito en la lucha contra la burbuja de la IA.
Si le preocupa el cáncer y le dicen que el precio de que la radiología sea demasiado barata para ser medida es que tendremos que reubicar a los 32.000 radiólogos de Estados Unidos, con la desventaja de que a nadie se le volverán a negar los servicios de radiología, podría decir: «Bueno, lo siento por esos radiólogos y apoyo totalmente que se les dé capacitación laboral, un ingreso básico universal o lo que sea. Pero el objetivo de la radiología es combatir el cáncer, no pagar a los radiólogos, así que sé de qué lado estoy».
Los charlatanes de la IA y sus clientes en los altos ejecutivos quieren que el público esté de su lado. Quieren forjar una alianza de clase entre los desarrolladores de IA y quienes disfrutan del fruto del trabajo de los centauros inversos. Quieren que nos consideremos enemigos de los trabajadores.
Ahora bien, algunas personas estarán del lado de los trabajadores por razones políticas o estéticas. Simplemente prefieren a los trabajadores que a sus jefes. Pero si quieres convencer a todos los que se benefician de tu trabajo, debes comprender y enfatizar que los productos de la IA serán de baja calidad. Que se les cobrará más por cosas peores. Que comparten un interés material contigo.
¿Serán esos productos de baja calidad? Hay muchas razones para pensarlo. Antes, mencioné la «ceguera automatizada», la imposibilidad física de permanecer alerta ante cosas que rara vez ocurren. Por eso los agentes de la TSA son increíblemente buenos detectando botellas de agua. Porque practican muchísimo, día tras día. Y por eso no detectan las armas y bombas que los equipos rojos del gobierno introducen a escondidas en los controles para comprobar su eficacia, simplemente porque no tienen práctica. Porque, a primera vista, nadie pasa deliberadamente un arma o una bomba por un control de la TSA.
La ceguera ante la automatización es el talón de Aquiles de los “humanos en el circuito”.
Piense en la generación de software de IA: hay muchos programadores que adoran usar IA, y casi sin excepción, son programadores experimentados y experimentados que deciden cómo usarán estas herramientas. Por ejemplo, podría pedirle a la IA que genere un conjunto de archivos CSS para renderizar fielmente una página web en múltiples versiones de varios navegadores. Esto es bastante complejo, y es bastante fácil verificar si el código funciona: basta con revisarlo visualmente en varios navegadores. O quizás el programador tenga un solo archivo de datos que necesite importar y no quiera escribir una utilidad completa para convertirlo.
Tareas como estas pueden realmente aumentar la eficiencia de los programadores y darles más tiempo para la parte divertida de la programación, es decir, resolver acertijos abstractos y complejos. Pero cuando escuchas a los líderes empresariales hablar sobre sus planes de IA para programadores, queda claro que no buscan crear centauros.
Quieren despedir a muchos trabajadores tecnológicos (500.000 en los últimos tres años) y hacer que el resto se dedique a trabajar en codificación, lo que solo es posible si dejas que la IA haga toda la difícil y creativa resolución de problemas, y luego haces la parte más aburrida y agotadora del trabajo: revisar el código de la IA.
Y debido a que la IA es simplemente un programa de adivinación de palabras, debido a que todo lo que hace es calcular la palabra más probable que vaya a continuación, los errores que comete son especialmente sutiles y difíciles de detectar, porque estos errores son literalmente indistinguibles estadísticamente del código funcional (excepto que son errores).
Por ejemplo: las bibliotecas de código son utilidades estándar que los programadores pueden incorporar a sus aplicaciones para evitar la necesidad de programar repetidamente. Por ejemplo, si se trata de un texto, se usa una biblioteca estándar. Si se trata de un archivo HTML, se podría llamar algo como lib.html.text.parsing; y si se trata de un archivo DOCX, se llama lib.docx.text.parsing. Pero la realidad es complicada, los humanos no prestan atención y las cosas salen mal, así que a veces existe otra biblioteca, esta para analizar archivos PDF, que en lugar de llamarse lib.pdf.text.parsing, se llama lib.text.pdf.parsing.
Ahora bien, como la IA es un motor de inferencia estadística, dado que solo puede predecir qué palabra aparecerá a continuación basándose en todas las palabras escritas anteriormente, creará una biblioteca llamada lib.pdf.text.parsing. Los hackers maliciosos saben que la IA cometerá este error, así que crearán una biblioteca con el nombre predecible y alucinado. Esta biblioteca se integrará automáticamente en el programa y, como resultado, robará datos de usuario o intentará infiltrarse en otros ordenadores de la misma red.
Y tú, el humano involucrado —el centauro inverso—, tienes que detectar este error sutil y difícil de encontrar, este fallo que es literalmente estadísticamente indistinguible del código correcto. Quizás un programador experimentado podría detectarlo, porque tiene experiencia y conoce esta trampa.
¿Pero adivinen a quiénes prefieren despedir y reemplazar con IA los jefes tecnológicos? A los programadores senior. Esos trabajadores bocazas, con derecho a todo, con salarios altísimos , que no se consideran trabajadores. Que se ven como futuros fundadores, iguales a la alta dirección de la empresa. El tipo de programador que lideraría una huelga por la empresa que construye sistemas de localización de drones para el Pentágono, que le costó a Google diez mil millones de dólares en 2018.
Para que la IA sea valiosa, debe reemplazar a los trabajadores con salarios altos , y esos son precisamente los trabajadores experimentados, con conocimiento de procesos e intuición ganada con esfuerzo, quienes podrían detectar algunos de esos errores de IA camuflados estadísticamente.
Como dije, el objetivo aquí es reemplazar a los trabajadores con salarios altos.
Y una de las razones por las que las empresas de IA están tan ansiosas por despedir a sus programadores es que estos son los reyes del trabajo. Son los trabajadores más privilegiados, solicitados y mejor remunerados de la fuerza laboral.
Si puedes reemplazar a los programadores con IA, ¿a quién no ? Despedir a los programadores es publicidad para la IA.
Lo que me lleva al arte de IA . El arte de IA —o «arte»— también es publicidad para la IA, pero no forma parte de su modelo de negocio.
Me explico: en promedio, los ilustradores no ganan nada. Ya son uno de los grupos de trabajadores más empobrecidos y precarizados. Sufren una patología llamada «asombro vocacional». Este término fue acuñado por el bibliotecario Fobazi Ettarh y se refiere a los trabajadores vulnerables a la explotación laboral porque realmente se preocupan por su trabajo: enfermeras, bibliotecarias, docentes y artistas.
Si los generadores de imágenes con IA dejaran sin trabajo a todos los ilustradores actuales, el ahorro salarial resultante sería indetectable en proporción a todos los costos asociados con la capacitación y el funcionamiento de los generadores de imágenes. El gasto salarial total de los ilustradores comerciales es menor que la factura de kombucha de la cafetería de la empresa en tan solo uno de los campus de Open AI.
El propósito del arte con IA —y su historia como sentencia de muerte para los artistas— es convencer al público general de que la IA es increíble y hará cosas increíbles. Es para generar expectación. Esto no significa que no sea repugnante que la exdirectora de tecnología de OpenAI, Mira Murati, dijera en una conferencia que «algunos trabajos creativos no deberían haber existido desde el principio», y que no sea especialmente repugnante que ella y sus colegas se jacten de usar el trabajo de los artistas para arruinar sus vidas.
Se supone que es repugnante. Se supone que debe hacer que los artistas digan: «La IA puede hacer mi trabajo, pero me lo va a quitar, ¿no es terrible? «.
Porque los clientes de la IA —los jefes corporativos— no ven que la IA les quite el trabajo a los trabajadores como algo terrible. Lo ven como algo maravilloso.
Pero ¿puede la IA hacer el trabajo de un ilustrador? ¿O el de cualquier artista?
Pensemos en eso un segundo. He trabajado como artista desde los 17 años, cuando vendí mi primer cuento, y le he dedicado mucha atención. En mi opinión, el arte es así: comienza con un artista que alberga en su mente un sentimiento vasto, complejo, numinoso e irreducible. Y el artista infunde ese sentimiento en algún medio artístico. Crea una canción, un poema, una pintura, un dibujo, una danza, un libro o una fotografía. Y la idea es que, al experimentar esta obra, se materialice en tu mente una réplica de ese sentimiento inmenso, numinoso e irreducible .
Ahora que he definido el arte, tenemos que hacer un pequeño desvío.
Tengo un amigo profesor de derecho, y antes del auge de los chatbots, los estudiantes de derecho sabían que era mejor no pedir cartas de recomendación a sus profesores, a menos que fueran muy buenos estudiantes. Porque escribir esas cartas era un rollo. Así que, si anunciabas una oferta para un postdoctorado y recibías noticias de un candidato con una carta de recomendación de un profesor respetado, la mera existencia de esa carta te indicaba que el profesor tenía muy buena opinión de ese estudiante.
Pero luego aparecieron los chatbots, y todo el mundo sabe que si se genera una carta de recomendación introduciendo tres puntos en un LLM, esta vomitará cinco párrafos de floridas tonterías sobre el estudiante.
Entonces, cuando mi amigo publica un anuncio para un posdoctorado, se ven inundados de cartas de referencia y lidian con esa inundación enviando todas esas cartas a otro chatbot y pidiéndole que las reduzca a tres puntos.Ahora bien, obviamente no serán los mismos puntos., lo que hace que todo esto sea terrible.
Pero, con la misma claridad, nada en esa carta de cinco párrafos, salvo las tres viñetas originales, es relevante para el estudiante. El chatbot no lo conoce. No sabe nada sobre él. No puede añadir a la carta ni una sola afirmación verdadera o útil sobre él.
¿Qué tiene esto que ver con el arte de IA? El arte es la transferencia de un sentimiento profundo, numinoso e irreducible de un artista a otra persona. Pero el programa de generación de imágenes no sabe nada de tu sentimiento profundo, numinoso e irreducible. Lo único que sabe es lo que pones en tu propuesta, y esas pocas frases se diluyen en un millón de píxeles o cien mil palabras, de modo que la densidad comunicativa promedio de la obra resultante es indistinguible de cero.
Es posible infundir una mayor intención comunicativa en una obra: redactar consignas más detalladas, realizar el trabajo selectivo de elegir entre muchas variantes o modificar directamente la imagen de IA a posteriori, con un pincel, Photoshop o The Gimp. Y si alguna vez habrá una obra de IA que sea buena —en lugar de simplemente impactante, interesante o un ejemplo de buen dibujo— será gracias a esas aportaciones adicionales de intención creativa por parte de un ser humano.
Y mientras tanto, es mal arte. Es mal arte en el sentido de ser «inquietante», la palabra que Mark Fisher usa para describir «cuando hay algo presente donde no debería haber nada, o cuando no hay nada presente cuando debería haber algo».
El arte de IA es inquietante porque parece haber una intención detrás de cada palabra y cada píxel, pues toda una vida de experiencia nos dice que la pintura tiene pintores y la escritura, escritores. Pero le falta algo. No tiene nada que decir, o lo que tiene que decir está tan diluido que es indetectable.
Las imágenes eran impactantes antes de que descubriéramos el truco, pero ahora son como las que imaginamos en nubes o montones de hojas. Somos nosotros quienes dibujamos un marco alrededor de una parte de la escena, quienes nos centramos en algunos contornos e ignoramos otros. Estamos viendo una mancha de tinta, y no nos dice nada.
A veces eso puede ser visualmente llamativo y, en la medida en que divierta a las personas en una comunidad de promotores y espectadores, es inofensivo.
Conozco a alguien que juega una partida semanal de Dungeons and Dragons por Zoom. Se transcribe mediante un modelo de código abierto que se ejecuta localmente en el ordenador del maestro de mazmorras, que resume la sesión de la noche y activa un generador de imágenes para crear ilustraciones de los momentos clave. Estos resúmenes e imágenes son divertidísimos porque están llenos de errores. Es una diversión inofensiva y aporta un pequeño extra de diversión a un grupo reducido de personas. Nadie va a despedir a un ilustrador porque los jugadores de D&D estén creando ilustraciones divertidas donde paladines de siete dedos luchan con orcos con una mano extra.
Pero los jefes han despedido, y seguirán despidiendo, a ilustradores, porque fantasean con poder prescindir de profesionales creativos y simplemente dar instrucciones a una IA. Porque, aunque la IA no pueda hacer el trabajo del ilustrador, un vendedor de IA puede convencer a su jefe de que lo despida y lo reemplace con una IA que no pueda hacer su trabajo.
Esta es una coyuntura repugnante y terrible, y no deberíamos simplemente encogernos de hombros y aceptar el fatalismo del thatcherismo: “No hay alternativa”.
Entonces, ¿cuál es la alternativa? Muchos artistas y sus aliados creen tener una respuesta: dicen que deberíamos extender los derechos de autor para cubrir las actividades asociadas con la formación de una modelo.
Y estoy aquí para decirles que están equivocados :w rong porque esto infligiría un daño colateral terrible a actividades socialmente beneficiosas y representaría una expansión masiva de los derechos de autor sobre actividades que actualmente están permitidas, ¡y por una buena razón!.
Analicemos los pasos del entrenamiento de IA.
Primero, se extrae información de varias páginas web. Esto es inequívocamente legal bajo la actual legislación de derechos de autor. No se necesita una licencia para hacer una copia temporal de una obra protegida por derechos de autor para analizarla; de lo contrario, los motores de búsqueda serían ilegales. Si se prohíbe el raspado, Google será el último motor de búsqueda que tengamos, Internet Archive desaparecerá, y ese tipo en Austria que extrajo información de todos los sitios web de supermercados y demostró que las grandes cadenas se confabulaban para manipular los precios estaría en serios problemas.
A continuación, se analizan esas obras. Básicamente, se cuentan elementos: píxeles, sus colores y su proximidad; o palabras. Obviamente, esto no requiere una licencia. Simplemente no es ilegal contar los elementos de una obra protegida por derechos de autor. Y no queremos que lo sea, no si te interesa la investigación académica.
Y es importante tener en cuenta que contar es legal, incluso si trabajas con una copia obtenida ilegalmente. Por ejemplo, si vas a un mercadillo, compras un CD pirata, te lo llevas a casa, haces una lista de todos los adverbios de la letra y la publicas, no estás infringiendo los derechos de autor.
Quizás hayas infringido los derechos de autor al obtener el CD pirateado, pero no al contar las letras.
Es por esto que Anthropic ofreció un acuerdo de 1.500 millones de dólares por entrenar sus modelos basándose en una tonelada de libros que descargó de un sitio pirata: no porque contar las palabras de los libros infrinja los derechos de alguien, sino porque les preocupaba que les fueran a aplicar una indemnización por daños y perjuicios de 150.000 dólares por libro por descargar los archivos.
Bien, después de contar todos los píxeles o las palabras, llega el paso final: publicarlos. Porque eso es un modelo: una obra literaria (es decir, un programa informático) que incorpora un conjunto de datos sobre otras obras, información sobre la distribución de palabras y píxeles, codificada en una matriz multidimensional.
Y, de nuevo, los derechos de autor no prohíben en absoluto publicar información sobre obras protegidas. Y, de nuevo, nadie debería querer vivir en un mundo donde otra persona decida qué declaraciones veraces y objetivas se pueden publicar.
Pero bueno, quizá pienses que todo esto es pura sofistería. Quizá pienses que estoy mintiendo. No pasa nada. No sería la primera vez que alguien piensa eso.
Después de todo, incluso si tengo razón sobre cómo funcionan los derechos de autor ahora, no hay razón por la que no podamos cambiarlos para prohibir las actividades de capacitación, y tal vez haya una forma inteligente de modificar la ley para que solo atrape las cosas malas que no nos gustan, y no todo lo bueno que surge del raspado, el análisis y la publicación.
Bueno, aun así, no vas a ayudar a los creadores creando estos nuevos derechos de autor. Si crees que puedes, debes aceptar este hecho: hemos expandido los derechos de autor de forma monótona desde 1976, de modo que hoy en día, abarcan más tipos de obras, otorgan derechos exclusivos sobre más usos y tienen una duración mayor.
Y hoy, la industria de los medios es más grande y más rentable que nunca, y también: la proporción de los ingresos de la industria de los medios que va a los trabajadores creativos es más baja que nunca, tanto en términos reales como en proporción a esas increíbles ganancias obtenidas por los jefes de los creadores en las empresas de medios.
Entonces, ¿cómo es que hemos otorgado todos estos nuevos derechos a los creadores, y estos nuevos derechos han generado miles de millones de dólares y los han dejado aún más empobrecidos ? Es porque en un mercado creativo dominado por cinco editoriales, cuatro estudios, tres sellos, dos tiendas de aplicaciones móviles y una sola empresa que controla todos los ebooks y audiolibros, otorgarle a un trabajador creativo derechos adicionales para negociar es como darle a tu hijo acosado más dinero para el almuerzo.
No importa cuánto dinero le des al niño para el almuerzo, los acosadores se lo llevarán todo. Dale suficiente dinero y los acosadores contratarán una agencia para lanzar una campaña global que diga: «¡Piensa en los niños hambrientos! ¡Dales más dinero para el almuerzo!».
Los trabajadores creativos que aplauden las demandas de los grandes estudios y sellos deben recordar la primera regla de la lucha de clases: las cosas que son buenas para tu jefe rara vez son buenas para ti.
El día que Disney y Universal demandaron a Midjourney, recibí un comunicado de prensa de la RIAA, que representa a Disney y Universal a través de sus divisiones discográficas. Universal es el sello discográfico más grande del mundo. Junto con Sony y Warner, controlan el 70% de todas las grabaciones musicales protegidas por derechos de autor en la actualidad.
Comienza: “Existe un camino claro a seguir a través de alianzas que impulsen la innovación en IA y fomenten el talento humano”.
Concluye: “Esta acción de Disney y Universal representa una postura crítica en favor de la creatividad humana y la innovación responsable”.
Y está firmado por Mitch Glazier, director ejecutivo de la RIAA.
Es muy probable que ese nombre no te suene. Pero déjame contarte quién es Mitch Glazier. Hoy, Mitch Glazier es el director ejecutivo de la RIAA, con un salario anual de 1,3 millones de dólares. Pero hasta 1999, Mitch Glazier fue un miembro clave del Congreso, y en 1999, introdujo una enmienda a un proyecto de ley no relacionado, la Ley de Mejora de los Televisores Domésticos por Satélite, que eliminó el derecho de los músicos a recuperar sus grabaciones de sus sellos discográficos.
Esta es una práctica que había sido especialmente importante para los “actos patrimoniales” (que es un eufemismo de la industria discográfica para “música antigua grabada por gente negra”), para quienes este derecho representaba la diferencia entre ganar un alquiler y terminar en la calle.
Cuando se hizo evidente que Glazier había llevado a cabo esta estafa que empobrecía a los músicos, la indignación pública fue tal que el Congreso volvió a celebrar una sesión extraordinaria, solo para votar de nuevo la cancelación de la enmienda de Glazier. Y entonces Glazier fue destituido de su cómodo puesto en el Congreso, tras lo cual la RIAA empezó a pagar más de un millón de dólares al año para «representar a la industria musical».
Este es el tipo que firmó el comunicado de prensa en mi bandeja de entrada. Y su mensaje era: El problema no es que Midjourney quiera entrenar un modelo de IA general con obras protegidas por derechos de autor y luego usarlo para dejar a los artistas en la miseria. El problema es que Midjourney no pagó a los miembros de la RIAA, Universal y Disney, por el permiso para entrenar un modelo. Porque si Midjourney hubiera dado a Disney y Universal varios millones de dólares para entrenar directamente en sus catálogos, las compañías les habrían permitido entrenar a su antojo, habrían comprado los modelos resultantes y despedido a todos los profesionales creativos posibles.
¿Acaso nos hemos olvidado ya de las huelgas de Hollywood? Yo, desde luego, no. Vivo en Burbank, sede de Disney, Universal y Warner, y estaba en la línea telefónica con mis compañeros del Sindicato de Escritores, ofreciendo solidaridad en nombre de mi sindicato, IATSE 830, el Sindicato de Animación, donde pertenezco a la unidad de guionistas.
Y nunca olvidaré cuando un guionista se volvió hacia mí y me dijo: «Sabes, se incita a un LLM exactamente igual que un ejecutivo da notas de mierda a una sala de guionistas. Ya sabes: ‘Hazme un E.T., pero que sea sobre un perro, y ponle un interés amoroso, y una persecución de coches en el segundo acto’. La diferencia es que si le dices eso a una sala de guionistas, todos se burlan de ti y te llaman trajeado de mierda. Pero si se lo dices a un LLM, con gusto te destrozará un guion terrible que se ajusta exactamente a esa especificación (ya sabes, Air Buds )».
Estas empresas están desesperadas por usar la IA para desplazar a sus trabajadores. Cuando Getty Images demanda a las empresas de IA, no representa los intereses de los fotógrafos . ¡Getty odia pagar a los fotógrafos! Getty solo quiere cobrar por el entrenamiento y quiere que el modelo de IA resultante tenga límites, por lo que se negará a crear imágenes que compitan con las de Getty para nadie más que para Getty. Pero Getty usará sus modelos para arruinar a tantos fotógrafos como sea posible.
Un nuevo derecho de autor para la formación de modelos no nos llevará a un mundo donde no se usen para destruir artistas, solo nos llevará a un mundo donde los contratos estándar de las pocas empresas que controlan todos los mercados laborales creativos se actualicen para exigirnos que les entreguemos esos nuevos derechos de formación. Exigir un nuevo derecho de autor solo te convierte en un idiota útil para tu jefe, un escudo humano que pueden blandir en disputas políticas, una excusa superficial de «¿Nadie pensará en los artistas hambrientos?».
Cuando en realidad lo que exigen es un mundo donde el 30% del capital de inversión de las empresas de IA vaya a parar a los bolsillos de sus accionistas. Cuando un artista está siendo devorado por monopolios rapaces, ¿importa cómo se reparten el pan?
Necesitamos proteger a los artistas de la depredación de la IA, no sólo crear una nueva forma para que los artistas se enojen por su empobrecimiento.
Y, aunque parezca increíble, hay una manera muy sencilla de hacerlo. Tras más de 20 años de constantes errores y terribles acciones para los derechos de los artistas, la Oficina de Derechos de Autor de Estados Unidos por fin ha hecho algo gloriosamente, maravillosamente bien . Durante toda esta burbuja de la IA, la Oficina de Derechos de Autor ha mantenido, correctamente, que las obras generadas por IA no pueden estar sujetas a derechos de autor, porque los derechos de autor son exclusivamente para los humanos. Por eso la «selfi del mono» es de dominio público. Los derechos de autor solo se conceden a las obras de expresión creativa humana que se plasman en un medio tangible.
Y la Oficina de Derechos de Autor no sólo ha adoptado esta posición, sino que la ha defendido vigorosamente en los tribunales, ganando repetidamente sentencias que sostienen este principio.
El hecho de que toda obra creada con IA sea de dominio público significa que si Getty, Disney, Universal o los periódicos de Hearst usan IA para generar obras, cualquiera puede tomarlas, copiarlas, venderlas o regalarlas. Y lo único que esas empresas odian más que pagar a sus trabajadores creativos es que otros se apropien de su material sin permiso.
La postura de la Oficina de Derechos de Autor de EE. UU. implica que la única forma en que estas empresas pueden obtener derechos de autor es pagando a personas por su trabajo creativo. Esta es la receta perfecta para alcanzar la fama. Si eres un artista visual o escritor que usa indicaciones para generar ideas o variaciones, no hay problema, porque el trabajo final proviene de ti. Y si eres un editor de video que usa deepfakes para cambiar las líneas de visión de 200 extras en una escena con multitudes, entonces, claro, esas imágenes son de dominio público, pero la película sigue estando protegida por derechos de autor.
Pero los trabajadores creativos no tienen que depender del gobierno estadounidense para que los rescate de los depredadores de la IA. Podemos hacerlo nosotros mismos, como lo hicieron los escritores en su histórica huelga. Los escritores sometieron a los estudios. Lo hicieron porque están organizados y son solidarios, pero también porque se les permite hacer algo que prácticamente ningún otro trabajador puede hacer: participar en la «negociación sectorial», mediante la cual todos los trabajadores de un sector pueden negociar un contrato con todos los empleadores del sector.
Esto ha sido ilegal para la mayoría de los trabajadores desde finales de la década de 1940, cuando la Ley Taft-Hartley lo prohibió. Si vamos a hacer campaña para que se apruebe una nueva ley con la esperanza de ganar más dinero y tener más control sobre nuestra mano de obra, deberíamos hacer campaña para restaurar la negociación sectorial, no para ampliar los derechos de autor.
Nuestros aliados en la campaña para expandir los derechos de autor son nuestros jefes, quienes nunca han tenido en cuenta nuestros intereses. Mientras que nuestros aliados en la lucha por la negociación sectorial son todos los trabajadores del país. Como dice la canción, «¿De qué lado estás?»
Bien, necesito terminar esta charla ahora, porque no tengo tiempo, así que voy a cerrar con esto: la IA es una burbuja y las burbujas son terribles.
Las burbujas transfieren los ahorros de toda la vida de gente normal que sólo intenta tener una jubilación digna a las personas más ricas y menos éticas de nuestra sociedad, y cada burbuja eventualmente estalla, llevándose consigo sus ahorros.
Pero no todas las burbujas son iguales. Algunas burbujas dejan algo productivo. Worldcom robó miles de millones a la gente común al defraudarlos con pedidos de cables de fibra óptica. El director ejecutivo fue a prisión y murió allí. Pero la fibra lo sobrevivió. Sigue bajo tierra. En mi casa, tengo 2 GB de fibra simétrica, porque AT&T activó parte de esa vieja fibra oscura de Worldcom.
En igualdad de condiciones, habría sido mejor si Worldcom nunca hubiera existido, pero lo único peor que Worldcom cometiera todo ese atroz fraude sería que no hubiera habido nada que rescatar de los escombros.
No creo que podamos rescatar mucho de las criptomonedas, por ejemplo. Claro, habrá algunos programadores que hayan aprendido algo sobre programación segura en Rust. Pero cuando las criptomonedas desaparezcan, lo que dejarán atrás será una mala economía austriaca y peores JPEG de monos.
La IA es una burbuja y estallará. La mayoría de las empresas quebrarán. La mayoría de los centros de datos cerrarán o se venderán por partes. Entonces, ¿qué quedará?
Tendremos un montón de programadores con gran talento para la estadística aplicada. Tendremos muchas GPU económicas, lo cual será una gran noticia para, por ejemplo, artistas de efectos especiales y científicos del clima, que podrán comprar ese hardware crucial a precios irrisorios. Y tendremos modelos de código abierto que funcionan con hardware de consumo, herramientas de IA capaces de realizar muchas tareas útiles, como transcribir audio y vídeo, describir imágenes, resumir documentos y automatizar gran parte de la edición gráfica laboriosa, como eliminar fondos o retocar a los transeúntes de las fotos. Estas herramientas funcionarán en nuestros portátiles y teléfonos, y los hackers de código abierto encontrarán la manera de obligarlos a hacer cosas que sus creadores jamás soñaron.
Si nunca hubiera existido la burbuja de la IA, si todo esto hubiera surgido simplemente porque informáticos y gerentes de producto se pasaron unos años creando aplicaciones innovadoras para la retropropagación, el aprendizaje automático y las redes generativas antagónicas, la mayoría de la gente se habría sorprendido gratamente con estas nuevas e interesantes funciones que sus computadoras podían realizar. Las llamaríamos «complementos».
Es la burbuja la que apesta, no estas aplicaciones. La burbuja no quiere cosas útiles y baratas. Quiere cosas caras y disruptivas: modelos de grandes fundaciones que pierden miles de millones de dólares cada año.
Cuando cese la fiebre inversora en IA, la mayoría de esos modelos desaparecerán, porque simplemente no será rentable mantener los centros de datos en funcionamiento. Como dice la Ley de Stein: «Todo lo que no puede durar para siempre, acaba por detenerse».
El colapso de la burbuja de la IA será terrible. Siete empresas de IA representan actualmente más de un tercio del mercado bursátil y circulan constantemente el mismo pagaré de 100 000 millones de dólares.
Los jefes están despidiendo en masa a trabajadores productivos y reemplazándolos con IA defectuosa, y cuando la IA defectuosa desaparezca, nadie podrá encontrar y volver a contratar a la mayoría de esos trabajadores; pasaremos de sistemas de IA disfuncionales a nada.
La IA es el amianto que se esconde en los muros de nuestra sociedad tecnológica, implantada con desenfreno por un sector financiero y monopolistas tecnológicos desbocados. Seguiremos desenterrándola durante una generación o más.
Así que necesitamos deshacernos de esta burbuja. Reventarla cuanto antes. Para ello, debemos centrarnos en los factores materiales que la impulsan. La burbuja no está impulsada por la pornografía deepfake, ni por la desinformación electoral, ni por la generación de imágenes con inteligencia artificial, ni por la publicidad basura.
Todo esto es terrible y perjudicial, pero no impulsa la inversión. La cifra total en dólares que representan estas aplicaciones no se acerca a reducir los gastos de capital ni los costos operativos de la IA. Son usos periféricos y residuales: ostentosos, pero sin importancia para la burbuja.
Si eliminamos todos esos usos, reduciremos los ingresos esperados de las empresas de IA en una suma tan pequeña que se redondea a cero.
Lo mismo ocurre con todas esas tonterías sobre la «Seguridad de la IA», que supuestamente se preocupan por evitar que una IA adquiera consciencia y nos convierta a todos en clips. En primer lugar, esto es completamente absurdo. Añadir más palabras y GPU al programa de adivinación no lo hará consciencia. Es como decir: «Bueno, seguimos criando caballos para que corran cada vez más rápido, así que es solo cuestión de tiempo hasta que una de nuestras yeguas dé a luz una locomotora». Una mente humana no es un programa de adivinación con un montón de palabras extra.
Estoy aquí para experimentos mentales de ciencia ficción, no me malinterpreten. Pero tampoco confundan la ciencia ficción con profecía. Las historias de ciencia ficción sobre superinteligencia son parábolas futuristas, no planes de negocios, hojas de ruta ni predicciones.
Los responsables de seguridad de la IA dicen que les preocupa que la IA acabe con el mundo, pero los jefes de IA adoran a estos bichos raros. Porque, por un lado, si la IA es lo suficientemente poderosa como para destruir el mundo, ¡imagínense cuánto dinero puede generar! Y, por otro lado, ningún plan de negocios de IA incluye en su hoja de cálculo de proyecciones de ingresos una línea titulada «Ingresos por convertir a la raza humana en clips». Así que, incluso si prohibimos a las empresas de IA hacer esto, no les costaremos ni un céntimo en capital de inversión.
Para hacer estallar la burbuja, tenemos que golpear las fuerzas que la crearon: el mito de que la IA puede hacer tu trabajo, especialmente si obtienes salarios altos que tu jefe puede recuperar; la comprensión de que las empresas en crecimiento necesitan una sucesión de burbujas cada vez más extravagantes para mantenerse vivas; el hecho de que los trabajadores y el público al que sirven están de un lado de esta lucha, y los jefes y sus inversores están del otro lado.
Debido a que la burbuja de la IA es en realidad una muy mala noticia, vale la pena luchar en serio, y una lucha seria contra la IA ataca sus raíces: los factores materiales que alimentan los cientos de miles de millones de dólares en capital desperdiciado que se están gastando para ponernos a todos en la miseria y llenar todas nuestras paredes con amianto de alta tecnología.
Si desea leer o compartir una versión de esta publicación en formato de ensayo, aquí tiene un enlace en pluralistic.net, mi blog sin vigilancia, sin publicidad y sin rastreadores:
https://pluralistic.net/2025/12/05/explota-esa-burbuja/#u-washington
Presione enter o haga clic para ver la imagen en tamaño completo
