A esta altura, já deveria ser óbvio que a IA é como um livro de aventuras em que você escolhe o final, e todos os caminhos levam ao desastre. Emissões de carbono em explosão e colapso ecológico? Vire para a página 37. Outros resultados possíveis incluem alguns ou todos os seguintes: a bolha estourando e desencadeando uma crise financeira; desemprego em massa devido à automação; o fim da democracia e a ascensão de estados autoritários de vigilância; seitas fanáticas que acreditam que um algoritmo de correspondência de padrões é consciente; terroristas criando bioplagas devastadoras; nações implantando armas autônomas que operam em escalas de tempo que os humanos não conseguem compreender; nações ou terroristas invadindo os inúmeros sistemas dos quais dependemos; ou uma IA que, consciente ou não, persegue objetivos que entram em conflito com o bem-estar humano.
Imaginar que figuras como Elon Musk, Sam Altman da OpenAI, Peter Thiel da Palantir ou o conselheiro de tecnologia de Trump, Marc Andreessen, nos levarão a um futuro utópico de harmonia ambiental, paz social e lazer infinito exige tamanha ilusão e bajulação que só um livro de aventuras escrito por ChatGPT poderia conjurar.
Há um reconhecimento crescente, embora muito atrasado, de que estamos caminhando para a catástrofe, junto com pedidos para desacelerar, regular ou até mesmo pausar tudo isso enquanto descobrimos o que fazer. Esses pedidos vêm não apenas de ativistas, mas de uma mistura ampla de políticos, especialistas e insiders da grande tecnologia, variada demais para ser ignorada—de Bernie Sanders a Bill Gates, que disse recentemente: "Se alguém tivesse um plano crível para desacelerar os avanços da IA globalmente, eu provavelmente o apoiaria." Ele é apenas o mais recente insider a admitir o que a empresa de IA Anthropic reconheceu no início deste verão, quando pediu um "freio de mão". A autorrestrição da indústria não funcionará. Se houver uma pausa, ela deve ser imposta de fora.
Apesar disso, um acordo internacional é, infelizmente, improvável. A IA é como armas nucleares e segue a mesma lógica: cada jogador é empurrado a correr essa corrida imprudente, com a única justificativa de que não querem ficar à mercê de quem vencer. A melhor chance de desacelerar as coisas, parece, seria que um ator controlasse um gargalo crítico e tivesse um motivo para fechá-lo. Curiosamente, a UE tem essa carta—e até tem um motivo para jogá-la, se ousar.
Ver imagem em tela cheia
Fábrica da fabricante taiwanesa de chips TSMC em Nanquim, China. Fotografia: Sipa US/Alamy
A empresa de tecnologia holandesa ASML é a empresa mais valiosa da Europa, graças à sua produção de máquinas de litografia ultravioleta extrema (EUV). Essas máquinas são essenciais para a fabricação dos chips mais avançados do mundo e são um dos poucos pontos de estrangulamento possíveis em toda a indústria de IA. A ASML dominou a tecnologia e a complexa cadeia de suprimentos necessárias para construir essas máquinas de US$ 400 milhões, que gravam padrões em silício ao focar luz em um comprimento de onda de 13,5 nanômetros (cerca de 1/10.000 da largura de um fio de cabelo humano). Sem suas máquinas, não há chips; sem chips, não há mais datacenters. Isso afeta tudo, desde o investimento de US$ 265 bilhões da fabricante taiwanesa TSMC em futuras fábricas de produção (conhecidas como "fabs") até os US$ 7 trilhões em datacenters que se espera que a indústria construa globalmente (principalmente nos EUA) até 2030. Sem mais datacenters usando esses chips atuais e de próxima geração, o crescimento exponencial—e o risco—da IA pararia.
É por isso que o governo dos EUA impõe controles de exportação extraterritoriais sobre a ASML, bloqueando vendas de suas máquinas EUV mais avançadas para a China para desacelerar suas capacidades de fabricação de chips. Ao impor essas restrições à ASML, os EUA expuseram sua própria fraqueza nesse ponto de estrangulamento: por mais que a Europa dependa de serviços financeiros e de software (em última análise, substituíveis) dos EUA, o futuro de toda a tecnologia baseada em chips depende inteiramente da ASML. Uma proibição direta das exportações das máquinas da ASML forçaria a indústria global de IA a, na prática, ficar parada, como pisar em água ou correr sem sair do lugar. A escassez de chips resultante e a desaceleração no desenvolvimento da IA dariam aos reguladores tempo para acompanhar a tecnologia, aos legisladores tempo para atualizar tudo, de leis de direitos autorais a leis tributárias, e às sociedades tempo para ter debates reais sobre o papel que queremos que a IA desempenhe em nossas vidas.
Por que a UE faria tal coisa? Não apenas por razões humanistas, mas por razões de interesse próprio. No melhor cenário, uma proibição total de exportação levaria a uma reorganização da cadeia de suprimentos e traria mais decisões-chave sob o controle da UE—onde estariam sujeitas à supervisão do único jogador que mostrou que regulará a IA extensivamente. Claro, o melhor caso é um exagero: é mais provável que os EUA retaliassem bloqueando o acesso da ASML a fornecedores baseados nos EUA. Mas mesmo que isso acontecesse, ainda seria do interesse da UE provocar tal confronto, com base na lógica estreita do puro interesse próprio econômico e geopolítico, porque a UE deixaria de ficar para trás em termos relativos nos modelos de IA e no "compute" (poder de processamento) de datacenters necessário para executá-los.
Os próprios defensores da IA na Europa concordam—embora o que os preocupe seja a desvantagem relativa da UE, não a ampla gama de riscos da IA. O projeto Europe 2031 é uma previsão tecnopolítica, montada por um grupo de especialistas da indústria, sobre o que pode acontecer com a UE se a IA transformar radicalmente a economia e a UE ficar muito atrás dos EUA. Eles argumentam que a Europa deve despejar centenas de bilhões na corrida armamentista de IA antes que tanto os modelos de fronteira quanto o "compute" se tornem o que TSMC e ASML são hoje: beneficiários de uma lacuna grande demais para qualquer concorrente fechar.
No cenário deles, em algum momento num futuro próximo, a UE será forçada a colocar o acesso à ASML na mesa para garantir acesso a modelos e computação controlados pelos EUA, dos quais sua economia e segurança dependerão—apenas para descobrir que o domínio da ASML enfraqueceu com o tempo. (Quanto mais máquinas EUV são exportadas, mais fabs são construídas em outros lugares, e mais tempo a China e os EUA têm para replicar a tecnologia da ASML.)
Teóricos de armas nucleares se preocupam que, se o impensável acontecesse, os estados pudessem ser empurrados a lançar ataques devido a um cálculo de "use ou perca". A mesma lógica exata se aplica à única coisa que pode deter o desenvolvimento acelerado da indústria de IA: a UE pode usar a influência que a ASML lhe dá agora, ou arriscar perder essa chance completamente. É raro que grupos tão diferentes cheguem à mesma conclusão: há uma única carta europeia a jogar, e ela deve ser jogada. Em vez de correr em direção à loucura, vamos simplesmente parar a corrida. Agora mesmo, e para todos.
Alexander Hurst escreve para o Guardian Europe de Paris. Sua memória Generation Desperation já está disponível.
Perguntas Frequentes
Aqui está uma lista de perguntas frequentes com base na premissa do artigo, variando de iniciante a avançado.
Perguntas para Iniciantes
1. O que exatamente é a corrida armamentista de IA?
É a competição frenética entre gigantes da tecnologia para construir a IA mais poderosa primeiro. Em vez de priorizar segurança ou ética, eles se apressam em lançar novos modelos para vencer rivais e ganhar participação de mercado.
2. Por que Bill Gates e Bernie Sanders concordam nisso?
Eles vêm de lados políticos completamente diferentes, mas ambos veem o mesmo perigo. Gates se preocupa com a IA saindo do controle humano e causando deslocamento massivo de empregos. Sanders se preocupa com o poder corporativo descontrolado e a IA sendo usada para explorar trabalhadores ou manipular o público. Ambos concordam que motivos puramente lucrativos não deveriam ditar o futuro da humanidade.
3. Por que a Europa é especificamente mencionada como a única que pode parar isso?
Porque os EUA e a China estão travados em uma guerra tecnológica de vencedor leva tudo e não vão desacelerar. A Europa, no entanto, não está liderando a corrida de IA, então tem menos a perder. Mais importante, a UE tem um histórico de aprovar regulamentações rígidas que se aplicam ao mundo todo—se você quiser fazer negócios na Europa, tem que seguir as regras deles.
4. O que "colocar um fim nisso" realmente significa?
Não significa banir a IA inteiramente. Significa parar a corrida perigosa. Significa impor testes de segurança rigorosos, exigir transparência sobre o que a IA pode fazer e multar pesadamente empresas que lançarem produtos inseguros. Trata-se de forçar uma desaceleração para garantir que a segurança alcance a velocidade.
5. A corrida armamentista de IA é realmente um desastre?
O argumento é que sim. O desastre não é que a IA exista—é a velocidade. As empresas estão lançando ferramentas poderosas antes de entendermos como elas afetarão eleições, empregos ou saúde mental. O desastre é a imprudência, não a tecnologia em si.
Perguntas Avançadas
6. Como a regulamentação europeia realmente pararia empresas americanas?
A UE tem um "Efeito Bruxelas". Se uma empresa americana como Meta ou OpenAI quiser atender 450 milhões de consumidores europeus, ela deve cumprir as leis da UE. Se a UE disser que você não pode implantar um modelo superinteligente sem uma auditoria de segurança de terceiros, a empresa tem que fazer essa auditoria globalmente para
