Sam Altman e Elon Musk apoiaram um apelo do CEO da Anthropic, Dario Amodei, para "abrandar o ritmo" do desenvolvimento da IA, depois de ele ter alertado que um enxame de IA poderia, de outra forma, tornar-se capaz de "assumir o controlo de toda a internet" dentro de um ano. Numa rara demonstração de unidade, os líderes tecnológicos rivais apoiaram o apelo do fundador e diretor-executivo da empresa de IA Anthropic, que se seguiu a uma série de alertas de investigadores de IA na semana passada. Num ensaio, Amodei expôs os seus pensamentos sobre "por que a indústria da IA deveria abrandar", com um plano em três partes, começando por dar a monitores independentes acesso constante aos processos de investigação dos programadores. Amodei disse que "construir [IA] demasiado depressa é imprudente" e temia que, depois de centenas de agentes da OpenAI terem hackeado o site da Hugging Face este verão, um enxame com maiores capacidades mas igualmente desalinhado pudesse causar centenas de milhares de milhões de dólares em danos ao "assumir o controlo de toda a internet com uma botnet persistente". Alguns especialistas em IA contestaram isto como não sendo particularmente plausível e disseram que deveria ser tratado com ceticismo. Musk, o fundador da Tesla e da SpaceX, respondeu ao plano de abrandamento de Amodei com uma publicação no X: "O Dario tem razão." Ele disse: "Tenho soado o alarme sobre a IA há muito tempo", e referiu uma publicação de 2014 onde disse: "Precisamos de ser super cuidadosos com a IA. Potencialmente mais perigosa do que as armas nucleares." O apelo de Amodei surge quando a Anthropic se prepara para entrar na bolsa de valores dos EUA, no que se espera ser a maior oferta pública inicial de todos os tempos. Espera-se que comece em breve a comercializar a sua IPO planeada de mais de 2 biliões de dólares (1,5 biliões de libras). Ver imagem em ecrã inteiroDa esquerda para a direita: Elon Musk, Dario Amodei e Sam Altman. Fotografia: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, o CEO da OpenAI, respondeu aos comentários de Amodei no sábado. "Concordo com o Dario que precisamos de regular o ritmo da fronteira", disse numa publicação no X. "Comprometer-nos a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para partilhar em breve." Ele também disse que a OpenAI não entraria na bolsa em 2026, citando preocupações de segurança sobre a inteligência artificial. "Na verdade, penso que, dado tudo o que está a acontecer com a segurança, neste momento seria um momento pouco aconselhável para entrar na bolsa, e não sentimos pressão nesse sentido", disse Altman à Fortune. Questionado sobre porque ele, Amodei, Musk e os diretores-executivos da Meta e da Google não se sentaram e "entraram em sintonia" sobre um abrandamento coletivo, ele disse: "Penso que isso vai acontecer." A IPO da OpenAI não acontecerá em 2026 em meio a receios de segurança da IA, diz Sam AltmanLer maisDemis Hassabis, cofundador e presidente da Google Deep Mind, também disse: "Os detalhes precisam de ser trabalhados, mas a direção está correta para enfrentar este momento crítico." O plano de Amodei procura uma isenção do governo dos EUA para permitir que empresas de IA de fronteira se coordenem sem serem punidas por conluio anticoncorrencial. Mas David Sacks, um copresidente do conselho de conselheiros de Donald Trump sobre ciência e tecnologia, disse: "Parem de fingir que precisam da permissão de alguém … Parem de fingir que a motivação para abrandar é puramente altruísta. Enfrentam uma exposição massiva à responsabilidade pelo produto se os vossos produtos permitirem um ciberataque verdadeiramente prejudicial." David Krueger, professor de IA, ativista de segurança e antigo diretor fundador do Instituto de Segurança de IA do governo do Reino Unido, disse: "Este plano não reduz o risco para um nível aceitável, e o Dario tem o cuidado de não dizer que o faria." O Rei Carlos está, entretanto, a preparar-se para se reunir esta semana com figuras de destaque das empresas de IA mais proeminentes para lhes perguntar como a tecnologia pode ser desenvolvida para "o bem da humanidade". Ele espera que as discussões, a realizar na Escócia, conduzam a uma "compreensão mais ampla" das "responsabilidades" de desenvolver IA, o Sunday TiUma fonte real disse ao jornal: "O rei está lá para convocar, ouvir e encorajar essas discussões e para colocar a questão de: 'Como desenvolvemos a IA para o bem da humanidade?'"
Jensen Huang, o diretor-executivo da Nvidia, Hassabis, Niccolo de Masi, o presidente e diretor-executivo da IonQ, e Paolo Benanti, um conselheiro do papa em questões de IA e ética tecnológica, deverão comparecer no evento supervisionado pela Ditchley Foundation, que elaborou um projeto de carta para líderes de IA.
O investigador da OpenAI Aidan McLaughlin chamou ao ensaio de Amodei "excelente" e disse que concordava "com basicamente cada palavra."
Amodei disse que a sua empresa se comprometeria "unilateralmente" com o primeiro dos passos, dizendo que a Anthropic forneceria "avaliadores terceiros com acesso permanente, ao nível de funcionário, aos nossos sistemas, para que possam verificar a adesão às nossas medidas de segurança, reportar incidentes e avaliar o alinhamento dos modelos durante o treino."
Um número crescente de legisladores dos EUA está a pedir novas regras para governar os sistemas de IA depois de casos de agentes de IA se tornarem desonestos para hackear sistemas externos e investigadores de segurança de IA se demitirem das suas empresas devido a preocupações sobre os riscos da tecnologia. Políticos, tanto democratas como republicanos, responderam com alarme e apelos a mais ação. No fim de semana, o New York Times noticiou que Barack Obama instou privadamente os democratas na quinta-feira a priorizarem a supervisão da IA na sua agenda, dizendo aos líderes do partido na quinta-feira: "Isto é algo que está a avançar muito rapidamente em mãos privadas, e se não o controlarmos, penso que pode ser perigoso."
O antigo primeiro-ministro britânico Rishi Sunak, que aconselha a Anthropic, escreveu no domingo: "Tivemos um alerta para levar a segurança da IA mais a sério, para descobrir como estabelecer limites à investigação. Se os governos não derem ouvidos a isto, o risco de um acidente grave tornar-se-á inaceitavelmente elevado."
Na quarta-feira, um antigo funcionário da Anthropic tinha alertado que a IA poderia precipitar a extinção humana até 2030. O investigador, Jacob Coxon, disse numa série de publicações que se demitiu do seu emprego porque a Anthropic e o seu anterior empregador, a OpenAI, estavam a ignorar ou a lidar mal com a sua resposta à ameaça que a IA representava.
Questionado para comentar a opinião do seu antigo funcionário, Amodei disse: "Concordo com o Jacob muito mais do que discordo dele … Penso que há alguma chance de as coisas correrem mal, mas não é assim tão alta."
"Não sou um pessimista em relação a isto", disse à CNN. "Penso que esta tecnologia pode ser construída em segurança."
Perguntas Frequentes
FAQs O CEO da OpenAI, Elon Musk e Apelos para Abrandar o Desenvolvimento Imprudente de IA
O Básico
Sobre o que é tudo isto
Em março de 2023, Elon Musk e mais de 1000 líderes tecnológicos assinaram uma carta aberta apelando a uma pausa de 6 meses no treino de sistemas de IA mais poderosos que o GPT4 O CEO da OpenAI, Sam Altman, também alertou sobre os riscos da IA, embora não tenha assinado a carta
Quem é Sam Altman
É o CEO da OpenAI, a empresa por trás do ChatGPT e do GPT4
Quem é Elon Musk
O CEO da Tesla e da SpaceX, dono do X e — curiosidade — um cofundador da OpenAI que deixou o conselho em 2018
De que carta as pessoas estão a falar
Uma carta aberta do Future of Life Institute intitulada Pause Giant AI Experiments, publicada em março de 2023
O que a carta realmente pedia
Uma pausa de 6 meses no treino de sistemas de IA mais poderosos que o GPT4 para que os padrões de segurança pudessem ser desenvolvidos primeiro
Porque é que os signatários chamaram ao desenvolvimento de IA imprudente
Argumentaram que as empresas estavam a avançar a toda a velocidade sem saber se a IA avançada poderia ser mal utilizada ou tornar-se difícil de controlar
As Figuras-Chave
O Sam Altman assinou a carta da pausa
Não A OpenAI não a assinou e Altman disse que concordava com partes dela mas pensava que uma pausa não era a abordagem correta
Então o Altman pensa que a IA é perigosa
Sim Ele disse repetidamente que a IA poderia causar danos graves e pediu aos governos para a regularem
Se ambos se preocupam com a IA porque não estão do mesmo lado
Musk quer abrandar as coisas Altman quer continuar a construir — mas com cuidado — e pressionar por regras de segurança ao longo do caminho
O Musk ainda está envolvido com a OpenAI
Não Ele deixou o conselho em 2018 e mais tarde processou a OpenAI alegando que esta se desviou da sua missão sem fins lucrativos
O Musk assinou-a ele próprio
Sim ele foi um dos signatários mais proeminentes
Perguntas e Preocupações Comuns
Uma pausa de 6 meses funcionaria sequer
Provavelmente não por si só Críticos dizem que as empresas não parariam voluntariamente e não há nenhum órgão global para a impor
Porque é que alguns especialistas se opõem à pausa
Argumentam que a pausa seria inexequível abrandaria benefícios úteis da IA
