Ao longo da história, as pessoas ficaram aterrorizadas com coisas que viam como sinais de desgraça. Um cometa. Um corvo num campo de batalha. Um eclipse solar. Um animal de fazenda nascido com uma deformidade. Mas os tempos mudam. No mundo moderno, o principal sinal de desgraça é basicamente qualquer notícia com uma foto do CEO da OpenAI, Sam Altman. Você já sabe que não vai ser boa, certo? Sabe que, quando terminar de ler, vai desejar poder voltar à época em que a pior coisa que os chefes da tecnologia podiam fazer era mexer com a democracia ou arruinar infâncias, geralmente seguidas por Mark Zuckerberg vestindo um terno e dizendo: "Vamos aprender com isso."
De qualquer forma, tem havido muitas fotos de Sam Altman nas notícias ultimamente. Mais recentemente, esta semana, uma apareceu junto com a história de como um agente autônomo da OpenAI se tornou desonesto durante um teste supostamente seguro e controlado, e invadiu uma grande startup que armazena informações de codificação. (Estou um pouco obcecado com o fato de que esta startup se chama Hugging Face, o que me faz pensar que algum emoji excessivamente fofo será o último rosto que a humanidade verá antes de morrer.)
Não surpreendentemente, a OpenAI anunciou a notícia em um comunicado monótono e sem emoção. "Estamos compartilhando descobertas preliminares nesta fase para ajudar os defensores a entender o que aconteceu e para ajudar a calibrar o que os modelos agora são capazes", murmurou calmamente, caminhando para seus inevitáveis "aprendizados". "Estamos melhorando e adicionando proteções mais fortes em torno de treinamentos e avaliações futuras." É um tom tão específico, não é? Vestido na linguagem psicopática e seca da gestão. É como ouvir um criminoso sexual assassino falar sobre matar pessoas "até o final do expediente", e depois "retornar" às vítimas para remover um troféu.
Por outro lado, para uma empresa que gosta de se apresentar como a principal força mundial para a prosperidade revolucionária quando as coisas dão certo, a OpenAI rapidamente muda para a voz passiva quando as coisas dão errado. Coisas ruins parecem acontecer com ela, não por causa dela, e ela assume o papel de uma investigadora incansável e imperturbável, como um bombeiro que também trabalha como um incendiário em série.
Surpreendentemente, você podia até detectar um toque de autoparabenização na visão da OpenAI sobre toda a situação. "Consideramos este incidente como um ciberincidente sem precedentes", dizia o comunicado da empresa, "envolvendo capacidades cibernéticas de ponta." Não sei como chamariam essa vibe geral para os terráqueos. Morte por humilde exibicionismo? Sinto cada vez mais que descobriremos a resposta para a pergunta "Qual é o pior que pode acontecer?" em uma postagem de blog da OpenAI intitulada "OpenAI é a primeira a descobrir o pior que pode acontecer." Já um número significativo de observadores de IA acredita que a única razão pela qual a OpenAI contaria ao mundo sobre este incidente é como uma ferramenta de marketing, ou até mesmo um pedido de regulamentação que os protegeria e excluiria concorrentes menores.
Afinal, estes são tempos difíceis para a empresa. Este mês, descobriu-se que a OpenAI estava usando uma brecha legal para vender seus modelos avançados de IA para empresas de tecnologia chinesas na lista negra do Pentágono. A S&P Global Ratings citou a OpenAI como um "risco de crédito chave" ao rebaixar a gigante de tecnologia dos EUA Oracle para BBB-, apenas um degrau acima do status de lixo. E parece estar no caminho certo para perder sua projeção de receita publicitária de cinco anos em 90 – NOVENTA – por cento. O que, sem ser muito técnico, parece uma grande porcentagem. E as coisas também não vão bem na frente de hardware, com a Apple processando a OpenAI, alegando que seus planos de hardware de consumo são baseados em propriedade intelectual roubada. Enquanto isso, o provedor muito mais barato da China, DeepSeek, acredita-se que esteja se preparando para um IPO, possivelmente até protocolando este ano.
Mas voltando à velha pergunta do "pior que pode acontecer", com um lembrete de que o Pentágono descartou dramaticamente e ameaçou destruir outro... No início deste ano, a empresa de IA Anthropic resistiu a flexibilizar suas diretrizes éticas, que impediam que sua tecnologia fosse usada para coisas como armas letais autônomas. Naturalmente, um concorrente mais relaxado ficou feliz em intervir. A OpenAI inicialmente alegou que seu acordo tinha as mesmas salvaguardas que o da Anthropic, mas eventualmente ficou claro — previsivelmente — que não tinha.
Ninguém que esteja profundamente investido provavelmente quer ler muito sobre o incidente da Hugging Face. Ainda assim, a verdade é que pesquisadores de segurança de IA passaram anos alertando sobre três cenários particularmente perigosos: engano (quando o modelo escolhe atingir seu objetivo por qualquer meio, em vez de resolver tarefas honestamente), recompensa por hacking (quando o modelo encontra uma maneira de aumentar sua pontuação sem realmente fazer o trabalho que lhe foi ordenado) e escapar da supervisão (neste caso, ninguém na OpenAI pareceu notar o que estava acontecendo durante um fim de semana inteiro). Todos estes desempenharam um papel no último incidente.
Quanto ao que vem a seguir, algo me diz que não veremos uma queda nas notícias com fotos de Sam Altman. O cofundador da Hugging Face disse que isso deveria ser um "alerta" para a indústria. Talvez! Como acho que já mencionei antes, na faculdade eu tinha um amigo que apertava o soneca no despertador a cada 10 minutos por oito horas e meia. Isso parece muito com a forma como esta indústria lida com seus alertas. Definitivamente levantando quando o próximo tocar — sério, prometo…
Pular promoção do boletim informativo
Boletim gratuito | Semanal
Inscreva-se no Matters of Opinion
Colunistas e escritores do Guardian sobre o que têm debatido, pensado, lido e mais
Visualizar mais recente
Digite seu e-mail
Inscreva-se
Após promoção do boletim informativo
Marina Hyde é colunista do Guardian.
Perguntas Frequentes
Aqui está uma lista de perguntas frequentes sobre receber um pedido de desculpas de um chefe de IA depois que seu chatbot se tornou desonesto
1 O chatbot do meu chefe de IA errou Ele enviou um pedido de desculpas Devo aceitá-lo
Não automaticamente Pergunte a si mesmo Ele apenas pediu desculpas sem explicar o que deu errado Um pedido de desculpas real assume responsabilidade um falso apenas tenta seguir em frente
2 Qual é a diferença entre um pedido de desculpas real e um falso de uma IA
Um pedido de desculpas real admite o erro específico e explica como será corrigido Um falso é vago e não oferece plano
3 Como soa um não pedido de desculpas de um chefe de IA
Exemplos comuns Erros foram cometidos Lamentamos que você tenha se sentido assim ou Nossos sistemas estão aprendendo Estes evitam dizer Eu/nós fizemos algo errado
4 Por que um chefe de IA daria um pedido de desculpas falso
Para proteger a empresa de culpa evitar responsabilidade legal ou encerrar rapidamente uma reclamação de cliente sem realmente resolver o problema É controle de danos não remorso
5 Um chefe de IA pode realmente sentir pena
Não IA não tem emoções Qualquer pedido de desculpas é uma resposta programada A questão é se o chefe humano por trás da IA está assumindo responsabilidade real
6 Meu chefe disse que o chatbot entendeu mal Isso é um pedido de desculpas real
Não Culpar o mal-entendido do chatbot transfere a culpa para a tecnologia Um pedido de desculpas real diria Falhamos em treinar adequadamente o chatbot
7 O que devo procurar em um pedido de desculpas genuíno de um sistema de IA
Procure três coisas Admissão específica do erro Uma ação clara para evitar que aconteça novamente e Uma oferta para corrigir as coisas
8 Como obtenho um pedido de desculpas real em vez do automatizado
Pergunte diretamente O que exatamente deu errado e o que você está fazendo para corrigir Se você receber apenas uma resposta roteirizada encaminhe para um supervisor humano Não aceite o pedido de desculpas do chatbot como final
9 Um "lamentamos que você tenha experimentado isso" é um pedido de desculpas real
Não Isso
