Para entonces, debería ser obvio que la IA es como un libro de "elige tu propia aventura" donde cada camino lleva al desastre. ¿Emisiones de carbono en aumento y colapso ecológico? Ve a la página 37. Otros resultados posibles incluyen algunos o todos los siguientes: la burbuja estallando y desencadenando una crisis financiera; desempleo masivo por la automatización; el fin de la democracia y el auge de estados autoritarios de vigilancia; sectas fanáticas que creen que un algoritmo de coincidencia de patrones es consciente; terroristas creando bioweapons devastadores; naciones desplegando armas autónomas que operan en escalas de tiempo que los humanos no pueden comprender; naciones o terroristas hackeando los innumerables sistemas de los que dependemos; o una IA que, consciente o no, persigue objetivos que chocan con el bienestar humano.
Imaginar que figuras como Elon Musk, Sam Altman de OpenAI, Peter Thiel de Palantir, o el asesor tecnológico de Trump, Marc Andreessen, nos llevarán a un futuro utópico de armonía ambiental, paz social y ocio infinito requiere una ilusión y adulación tan extremas que solo un libro de "elige tu propia aventura" escrito por ChatGPT podría conjurarlo.
Hay un reconocimiento creciente, aunque muy tardío, de que nos dirigimos hacia una catástrofe, junto con llamados a frenar, regular, o incluso pausar todo esto mientras lo resolvemos. Estos llamados no vienen solo de activistas, sino de una mezcla amplia de políticos, expertos y personas internas de las grandes tecnológicas demasiado variada para ignorarla, desde Bernie Sanders hasta Bill Gates, quien dijo recientemente: "Si alguien tuviera un plan creíble para frenar los avances de la IA a nivel global, probablemente lo apoyaría". Es solo el último interno en admitir lo que la empresa de IA Anthropic reconoció a principios de este verano cuando pidió un "freno". La autorrestricción de la industria no funcionará. Si ha de haber una pausa, debe imponerse desde fuera.
A pesar de esto, un acuerdo internacional es tristemente poco probable. La IA es como las armas nucleares y sigue la misma lógica: cada jugador se ve empujado a correr esta carrera imprudente, con la única justificación de que no quieren estar a merced de quien gane. La mejor oportunidad de frenar las cosas, parece, sería que un actor controlara un cuello de botella crítico y tuviera una razón para cerrarlo. Curiosamente, la UE tiene esa carta, e incluso tiene un motivo para jugarla, si se atreve.
Ver imagen en pantalla completa
La fábrica del fabricante de chips taiwanés TSMC en Nanjing, China. Fotografía: Sipa US/Alamy
La empresa tecnológica neerlandesa ASML es la empresa más valiosa de Europa, gracias a su producción de máquinas de litografía ultravioleta extrema (EUV). Estas son esenciales para la fabricación de los chips más avanzados del mundo y son uno de los pocos puntos de estrangulamiento posibles en toda la industria de la IA. ASML ha dominado la tecnología y la compleja cadena de suministro necesarias para construir estas máquinas de 400 millones de dólares, que graban patrones en silicio enfocando luz a una longitud de onda de 13,5 nanómetros (aproximadamente 1/10,000 del ancho de un cabello humano). Sin sus máquinas, no hay chips; sin chips, no hay más centros de datos. Eso afecta todo, desde la inversión de 265 mil millones de dólares del fabricante de chips taiwanés TSMC en futuras plantas de fabricación (conocidas como "fabs") hasta los 7 billones de dólares en centros de datos que se espera que la industria construya a nivel global (principalmente en EE. UU.) para 2030. Sin más centros de datos que utilicen estos chips actuales y de próxima generación, el crecimiento exponencial de la IA, y su riesgo, se detendría en seco.
Por eso el gobierno de EE. UU. impone controles de exportación extraterritoriales a ASML, bloqueando las ventas de sus máquinas EUV más avanzadas a China para frenar sus capacidades de fabricación de chips. Al imponer esas restricciones a ASML, EE. UU. ha expuesto su propia debilidad en este punto de estrangulamiento: tanto como Europa depende de servicios financieros y de software de EE. UU. (en última instancia reemplazables), el futuro de toda la tecnología basada en chips depende completamente de ASML. Una prohibición directa de las exportaciones de las máquinas de ASML obligaría a la industria global de la IA a, en efecto, mantenerse a flote o correr en el lugar. La escasez de chips resultante y la desaceleración del desarrollo de la IA darían a los reguladores tiempo para ponerse al día con la tecnología, a los legisladores tiempo para actualizar todo, desde los derechos de autor hasta la ley fiscal, y a las sociedades tiempo para tener debates reales sobre el papel que queremos que la IA juegue en nuestras vidas.
¿Por qué haría la UE tal cosa? No solo por razones humanistas, sino por razones de interés propio. En el mejor de los casos, una prohibición de exportación total llevaría a una reorganización de la cadena de suministro y traería más decisiones clave bajo el control de la UE, donde estarían sujetas a la supervisión del único jugador que ha demostrado que regulará la IA de manera extensa. Por supuesto, el mejor caso es una exageración: es más probable que EE. UU. tome represalias bloqueando el acceso de ASML a proveedores con sede en EE. UU. Pero incluso si eso sucediera, seguiría siendo del interés de la UE provocar tal enfrentamiento, basándose en la lógica estrecha del interés económico y geopolítico puro, porque la UE dejaría de quedarse atrás en términos relativos en modelos de IA y en la "computación" (potencia de procesamiento) de centros de datos necesaria para ejecutarlos.
Los propios defensores de la IA en Europa están de acuerdo, aunque lo que les preocupa es la desventaja relativa de la UE, no la amplia gama de riesgos de la IA. El proyecto Europa 2031 es un pronóstico tecno-político, elaborado por un grupo de expertos de la industria, sobre lo que podría sucederle a la UE si la IA transforma radicalmente la economía y la UE se queda muy atrás de EE. UU. Argumentan que Europa debe verter cientos de miles de millones en la carrera armamentista de la IA antes de que tanto los modelos frontera como la "computación" se conviertan en lo que TSMC y ASML son hoy: beneficiarios de una brecha demasiado grande para que cualquier competidor la cierre.
En su escenario, en algún momento del futuro cercano, la UE se verá obligada a poner el acceso a ASML sobre la mesa para asegurar el acceso a modelos y computación controlados por EE. UU. de los que dependerán su economía y seguridad, solo para descubrir que el dominio de ASML se ha debilitado con el tiempo. (Cuantas más máquinas EUV se exporten, más fabs se construyen en otros lugares, y más tiempo tienen China y EE. UU. para replicar la tecnología de ASML).
Los teóricos de las armas nucleares se preocupan de que, si lo impensable ocurriera, los estados podrían verse empujados a lanzar debido a un cálculo de "úsalo o piérdelo". La misma lógica exacta se aplica a la única cosa que puede detener el desarrollo vertiginoso de la industria de la IA: la UE puede usar la influencia que ASML le da ahora, o arriesgarse a perder esa oportunidad por completo. Es raro que grupos tan diferentes lleguen a la misma conclusión: hay una sola carta europea que jugar, y debe jugarse. En lugar de correr hacia la locura, detengamos la carrera. Ahora mismo, y para todos.
Alexander Hurst escribe para Guardian Europe desde París. Su memoria Generation Desperation ya está disponible.
**Preguntas Frecuentes**
Aquí hay una lista de preguntas frecuentes basadas en la premisa del artículo, que van desde principiante hasta avanzado.
**Preguntas para Principiantes**
1. **¿Qué es exactamente la carrera armamentista de la IA?**
Es la competencia frenética entre gigantes tecnológicos para construir la IA más poderosa primero. En lugar de priorizar la seguridad o la ética, se apresuran a lanzar nuevos modelos para vencer a sus rivales y capturar cuota de mercado.
2. **¿Por qué Bill Gates y Bernie Sanders están de acuerdo en esto?**
Provienen de lados políticos completamente diferentes, pero ambos ven el mismo peligro. A Gates le preocupa que la IA se salga del control humano y cause un desplazamiento masivo de empleos. A Sanders le preocupa el poder corporativo sin control y que la IA se use para explotar a los trabajadores o manipular al público. Ambos coinciden en que los motivos de pura ganancia no deberían dictar el futuro de la humanidad.
3. **¿Por qué se menciona específicamente a Europa como la única que puede detenerlo?**
Porque EE. UU. y China están encerrados en una guerra tecnológica de "el ganador se lo lleva todo" y no se detendrán. Europa, sin embargo, no lidera la carrera de la IA, por lo que tiene menos que perder. Más importante aún, la UE tiene un historial de aprobar regulaciones estrictas que se aplican a todo el mundo: si quieres hacer negocios en Europa, tienes que seguir sus reglas.
4. **¿Qué significa realmente "ponerle un alto"?**
No significa prohibir la IA por completo. Significa detener la carrera peligrosa. Significa imponer pruebas de seguridad estrictas, exigir transparencia sobre lo que la IA puede hacer, y multar fuertemente a las empresas si lanzan productos inseguros. Se trata de forzar una desaceleración para asegurar que la seguridad alcance a la velocidad.
5. **¿Es realmente un desastre la carrera armamentista de la IA?**
El argumento es que lo es. El desastre no es que la IA exista, sino la velocidad. Las empresas están sacando herramientas poderosas antes de que entendamos cómo afectarán las elecciones, los empleos o la salud mental. El desastre es la imprudencia, no la tecnología en sí.
**Preguntas Avanzadas**
6. **¿Cómo detendría realmente la regulación europea a las empresas estadounidenses?**
La UE tiene un "Efecto Bruselas". Si una empresa estadounidense como Meta u OpenAI quiere atender a 450 millones de consumidores europeos, debe cumplir con las leyes de la UE. Si la UE dice que no puedes implementar un modelo superinteligente sin una auditoría de seguridad de terceros, la empresa tiene que hacer esa auditoría a nivel global para
