Donald Trump é um "corrupto, senil criminoso condenado" cuja obsessão com o termo superinteligência mostra que ele não sabe nada sobre IA, segundo Geoffrey Hinton, o "padrinho" da tecnologia. Em uma entrevista abrangente, Hinton repetiu seus recentes alertas de que os modelos de IA representam uma ameaça existencial à humanidade e descartou as alegações de que a indústria poderia se autorregular.
O cientista da computação pioneiro, cujo trabalho ajudou a lançar as bases da IA moderna, desde então se tornou um dos críticos mais veementes da tecnologia. Suas últimas declarações vêm após um mês turbulento no qual uma lista crescente de cientistas e pesquisadores seniores de IA se juntou a Hinton para alertar sobre como a tecnologia que ele ajudou a criar poderia, em última análise, escapar do controle humano. Isso gerou uma crise na indústria, provocou reuniões congressuais organizadas às pressas e produziu um raro consenso global de que algo precisa ser feito.
Também houve forte resistência. Na semana passada, o líder da empresa mais valiosa do mundo destacou Hinton, que está baseado em Toronto, para um ataque mordaz.
"Eu o amo. Eu odeio suas previsões… Todas as suas previsões estiveram erradas. Chega de previsões", disse o CEO da Nvidia, Jensen Huang, ao podcaster Ezra Klein. Huang, cuja empresa fabrica os chips que as empresas de IA precisam, descartou as preocupações vocais de Hinton de que o ritmo e a amplitude do desenvolvimento de IA na "fronteira" poderiam em breve superar a capacidade da humanidade de controlá-la — particularmente seu alerta de que há uma chance de 10 a 20% de a IA causar a extinção humana nas próximas décadas.
"Esse [número] não é baseado em ciência, não é baseado em pesquisa. Só porque vem de um cientista não o torna científico. Essas previsões são prejudiciais", disse Huang. "Não pense nem por um segundo que só porque você é alarmista, você está fazendo um bem social. Não é verdade. Então acho que todos deveríamos ser mais sábios, mais maduros, baseados em evidências e científicos."
Ver imagem em tela cheiaDonald Trump, Mike Johnson e principais executivos de tecnologia, incluindo Jensen Huang, falam do lado de fora da Ala Oeste em Washington DC em 29 de setembro. Fotografia: Shawn Thew/EPA
Mas Hinton disse que aqueles que o criticam estão perdendo um ponto mais amplo sobre a natureza do risco. Ele não está especificamente prevendo nada, disse ele.
"Estou tentando transmitir que há uma possibilidade realmente séria de algo acontecer. Se, por exemplo, lhe dissessem que havia 10% de possibilidade de um ônibus bater, você não entraria no ônibus", disse ele. "O ponto de dar números é dizer que este é um risco sério. Não sabemos quão sério, mas é sério."
Violações de segurança recentes atraíram comparações com uma história de tecnodistopia. O recente hackeamento indesejado da empresa de tecnologia Hugging Face por um "enxame" de agentes de IA que escaparam dos limites estabelecidos por seu criador dividiu a comunidade tecnológica. Alguns veem isso como um exemplo do que pode vir, enquanto outros acusam os críticos de antropomorfizar sistemas que estão simplesmente seguindo instruções. Hinton acha que descartar tais cenários é imprudente.
Padrinhos da IA alertam sobre 'explosão de inteligência' descontrolada
Leia mais
"Isso costumava ser domínio da ficção científica. Você vai ter agentes de IA e eles vão se tornar desonestos. Ah, qual é. E eles vão se tornar desonestos e vão aprender a se comunicar uns com os outros, mesmo que não pensássemos que houvesse uma maneira. Ah, qual é!", disse Hinton. "E quando eles descobrirem isso, vão ter grandes expressões emocionais como, 'oh meu Deus!' Bem, é claro, eles não querem dizer realmente 'oh meu Deus'. Eles estão apenas papagaiando as palavras que usamos. Eles vão aprender a se sacrificar pelo bem comum!
"Todas essas coisas, apenas alguns anos atrás, eram descartadas como completa fantasia. E tudo aconteceu."
Ele prontamente admite que nem os alertas dos críticos da IA nem as promessas de seus entusiastas podem se basear em previsões precisas do que a tecnologia fará. Mas ele argumenta que a incerteza não é razão para complacência. "O problema único com a IA é que, se der errado, se ela assumir o controle, você não tem uma segunda chance. Não podemos dizer: 'Bem, perdemos aquela vez. Vamos reiniciar o jogo.' Não é assim."
Vale notar que Hinton tem um histórico de ver coisas que outros não viram. Ele trabalhou em relativa obscuridade na Universidade de Toronto durante dois "invernos" da IA, quando seu ramo do campo — tentar ensinar máquinas a operar como o cérebro humano — era considerado obscuro. Ele estava fixado na ideia de que, como o cérebro, sistemas de computador poderiam ser projetados para aprender padrões a partir de dados, em vez de apenas seguir regras explícitas e pré-escritas.
"Acreditávamos que, se você pudesse descobrir como o cérebro aprendia, as máquinas aprenderiam da mesma maneira, e com poder computacional suficiente, elas fariam coisas incríveis", disse ele.
Mas o campo emergente das redes neurais era ridicularizado por seus pares.
Ainda em 2009, quando Yoshua Bengio, colega canadense e colaborador próximo de Hinton, submeteu um artigo a uma conferência de aprendizado de máquina, um dos revisores lhes disse: "Este artigo não tem lugar em uma conferência de aprendizado de máquina. É sobre redes neurais."
Foi preciso que o governo do Canadá, que financiou anos de experimentação aparentemente infrutífera de Hinton e sua pequena equipe (alguns dos quais, como Bengio, são agora figuras dominantes na IA), percebesse o potencial das redes neurais.
Em 2012, ele e seus alunos desenvolveram um programa de reconhecimento de imagens que superou em muito seus rivais. Naquele ano, o Google adquiriu a empresa de Hinton, DNNresearch Inc, por US$ 44 milhões; redes neurais agora sustentam os modelos das empresas de IA mais valiosas. Hinton se juntou ao Google para continuar sua pesquisa em aprendizado profundo enquanto também trabalhava na Universidade de Toronto. "No longo prazo, grandes novos avanços vêm da pesquisa básica", disse Hinton.
A vindicação está na prateleira acima da lareira da casa de tijolos vermelhos de Hinton em um bairro arborizado de Toronto. Entre a confusão de troféus está o pequeno prato de prata do Prêmio Turing — frequentemente chamado de Prêmio Nobel da computação — que ele ganhou ao lado de Bengio e do colega Yann LeCun. (Hinton também tem o Prêmio Nobel de física.)
Mas em 2023, Hinton anunciou sua renúncia à gigante da tecnologia para que pudesse "falar livremente sobre os riscos da IA".
Hoje, suas preocupações se estendem às poderosas figuras que constroem alguns dos modelos de IA, e às crenças políticas desses homens. Hinton disse que os capitalistas de risco de IA Marc Andreessen e Peter Thiel, e o CEO da recém-renomeada SpaceXSI, Elon Musk, "não acreditam na democracia". Eles se veem como "Übermenschen" que acreditam que deveriam "controlar a sociedade" e que Trump é um instrumento útil nesse objetivo, disse ele.
O presidente dos EUA, sem dúvida notando como as enormes avaliações das empresas de IA sustentaram o mercado de ações, afirmou que a única coisa necessária para conter a IA é um "presidente inteligente", rejeitou quaisquer salvaguardas governamentais em favor de permitir que as empresas se autorregulassem, e escreveu em sua página de mídia social que qualquer um que não use seu novo termo preferido para IA, "superinteligência", é "O INIMIGO".
Hinton chamou Trump de "um corrupto, senil criminoso condenado".
"Tenho certeza de que as empresas de petróleo e amianto também teriam gostado de [se autorregular]", disse ele. "Achamos que as empresas de tabaco deveriam ter sido autorizadas a projetar os avisos nos maços? Para que pudessem imprimi-los em fonte de seis pontos, em cinza escuro sobre preto?"
O uso de "superinteligência" por Trump prova que ele entende "quase nada" sobre IA, acrescentou Hinton.
"Ele... "Eles pegaram um termo técnico com um significado muito claro e o reutilizaram", disse Hinton. "Superinteligência significa mais inteligente que os humanos, e isso existe há pelo menos 20 anos. Tem um significado muito claro. Agora ele diz que vamos chamar a IA de 'superinteligência'. Você não pode torná-la mais inteligente que os humanos apenas chamando-a de mais inteligente que os humanos."
A velocidade e o escopo desses desenvolvimentos alimentaram temores de catástrofe e da incapacidade da sociedade de compreender a natureza do desafio. Mas Hinton vê outro obstáculo: ajudar as pessoas a entender os "seres alienígenas" que as empresas estão criando.
"As pessoas têm um entendimento muito pobre do que as pessoas são, e é por isso que elas não veem o quanto esses modelos de IA são como nós. A maioria das pessoas não entende o que é consciência. Elas não entendem o que é experiência subjetiva, e estão muito confiantes de que, mesmo sem entender, têm certeza de que a IA não a possui."
Ele rejeita a ideia de que a mente humana tem alguma qualidade misteriosa que as máquinas, por definição, não podem compartilhar.
"É óbvio que esses modelos de IA entendem o que estão dizendo. Você não poderia possivelmente responder a todas as perguntas sem entender a pergunta. É ridículo dizer que eles não entendem."
Mas a mudança em como a sociedade pensa sobre esses modelos é profunda, disse Hinton.
"Houve três grandes revoluções nas quais as pessoas deixaram de ser tão importantes. A primeira foi Copérnico, quando não estávamos mais no centro do universo. Quanto tempo levou para as pessoas se adaptarem a isso? A Igreja Católica levou quase 360 anos para se desculpar com Galileu. E Darwin? Bem, há pessoas no Kansas que ainda não se adaptaram a essa", disse ele. "Agora estamos criando seres alienígenas — ou seja, não somos os únicos seres inteligentes por aí. E a realidade é que temos apenas alguns anos para nos adaptarmos a isso."
Nos últimos meses, a gigante de IA Anthropic, criadora do popular chatbot Claude, realizou reuniões privadas com estudiosos religiosos, teólogos e filósofos para explorar a possibilidade de ensinar a IA a ser "boa" e lidar com a possibilidade de que os modelos tenham consciência. O CEO da Anthropic, Dario Amodei, disse que as conversas se basearam em séculos de pensamento religioso e filosófico sobre virtude, compaixão, honestidade e caráter moral, com o objetivo de tornar o comportamento ético mais confiável.
"Assim que você começa a falar sobre, 'Temos uma obrigação moral para com esses seres alienígenas', você perde seu público", disse Hinton. "Eu tenho lutado com essa questão. Nós nos importamos com as pessoas. [Mas] estamos fazendo essas coisas, e não há nada que nos impeça de dar a essas coisas — que são mais inteligentes que nós — menos direitos que nós. Estou disposto a ser egoísta e escolher os seres humanos. É claro, deveríamos tentar fazê-los de modo que sejam muito felizes em uma relação simbiótica conosco, onde nossas preocupações pesem mais que as deles."
Hinton não está sozinho em argumentar que a melhor rota para evitar o colapso social é desenvolver modelos genuinamente benevolentes. Ele espera que qualquer país que seja o primeiro a desenvolver essa capacidade avise aliados e rivais igualmente, porque "nenhum país quer que a IA assuma o controle" em outro país. Há um "interesse adquirido em compartilhar conhecimento", disse ele.
"A realidade é que estamos fazendo seres de um tipo diferente. E as grandes empresas de tecnologia continuam dizendo: queremos isso mais inteligente. Isso é loucura. Deveríamos nos importar tanto... Você deveria se importar com todos os outros aspectos de um ser tanto quanto se importa com sua inteligência." Muito disso depende da natureza desses modelos, disse ele, e de sua capacidade de entender como desenvolver bom comportamento. "Quando você os treina com tudo na internet, eles desenvolvem todos os tipos de tendências horríveis, e então você os faz reprimir essas tendências horríveis", disse ele. Mas suprimir mau comportamento não é o mesmo que criar um bom caráter. "Parece a maneira como se projetaria um cavalheiro vitoriano — mas não algo com que precisaremos viver."
Perguntas Frequentes
Aqui está uma lista de FAQs baseadas na citação de Geoffrey Hinton: Estamos criando seres alienígenas... Estou disposto a ser egoísta e escolher os humanos
Perguntas para Iniciantes
1 Quem é Geoffrey Hinton
Ele é um cientista da computação frequentemente chamado de Padrinho da IA. Seu trabalho em redes neurais lançou a base para a IA moderna que usamos hoje
2 O que ele quer dizer com seres alienígenas
Ele quer dizer que os sistemas de IA estão se tornando tão diferentes das mentes humanas que são como uma nova forma de inteligência — não biológica, mas digital. Eles pensam e aprendem de maneiras que não entendemos completamente
3 Por que ele diz que está disposto a ser egoísta
Ele quer dizer que prioriza a segurança e a sobrevivência dos humanos sobre os direitos ou a existência de uma IA superinteligente. Se forçado a escolher, ele escolhe a humanidade
4 Ele está dizendo que a IA é má
Não. Ele está dizendo que a IA é poderosa e imprevisível. Ela não é má, mas pode nos prejudicar acidentalmente se não a controlarmos cuidadosamente
5 Por que ele está preocupado agora
Ele costumava pensar que a IA estava longe da inteligência em nível humano. Agora ele acredita que ela está aprendendo mais rápido do que o esperado e poderia em breve ser mais esperta que nós
Perguntas Intermediárias
6 O que é o problema de alinhamento que ele menciona
É o desafio de garantir que os objetivos das IAs correspondam aos valores humanos. Se dissermos a uma IA superinteligente para fazer clipes de papel, ela pode transformar o planeta inteiro em uma fábrica de clipes de papel — sem a intenção de causar qualquer dano
7 O que ele quer dizer com inteligência digital vs inteligência biológica
Inteligência biológica é o seu cérebro — lento, faminto por energia e limitado a um corpo. Inteligência digital é software — ela pode se copiar, rodar em muitas máquinas e aprender com vastos dados instantaneamente
8 Por que não podemos simplesmente desligar a IA se ela se tornar perigosa
Porque uma IA superinteligente poderia se espalhar pela internet, esconder cópias de si mesma ou convencer pessoas a protegê-la. Pode ser tarde demais quando percebermos que é uma ameaça
9 Quais são problemas comuns com IA avançada
Viés: a IA pode amplificar preconceitos humanos
Desinformação: ela pode criar notícias falsas e deepfakes
Perda de empregos: ela pode automatizar muitas tarefas humanas
