'Eu sou contadora de histórias por profissão', escreve Jeanette Winterson na primeira página do seu livro de 2021, 12 Bytes, uma coleção invulgar e instigante de ensaios em que considera como a inteligência artificial poderá mudar todos os aspetos das nossas vidas. 'E sei que tudo o que fazemos é ficção até se tornar facto: o sonho de voar, o sonho da viagem espacial, o sonho de falar com alguém instantaneamente, através do tempo e do espaço, o sonho de não morrer – ou de regressar.' Ela já andava a pensar nos nossos possíveis futuros há pelo menos 15 anos – o seu romance de 2007, The Stone Gods, por exemplo, imaginava um mundo pós-catástrofe climática povoado por robôs e humanos que nunca envelhecem, enquanto 12 Bytes foi precedido por Frankisstein: A Love Story, que alterna entre uma recriação do verão em que Mary Shelley escreveu Frankenstein e as viagens de uma médica trans entre criogenicistas e robôs com IA dos dias de hoje. Quando nos encontramos, Winterson acabou de regressar da China, onde, conta-me, o seu primeiro romance, Oranges Are Not the Only Fruit, um relato ficcionado da sua infância, vendeu mais de um milhão de exemplares nos últimos seis anos; mais de 200.000 pessoas, maioritariamente jovens mulheres, tentaram vir vê-la falar. Ela pensa que isto se deve ao facto de, num mundo de longas jornadas de trabalho e crescente insegurança causada pela IA, este relato ficcionado da sua própria fuga de uma infância aprisionada dar aos leitores permissão para imaginarem um futuro diferente para si próprios. Desde então, escreveu 13 romances para adultos, bem como não-ficção, contos, livros infantis e guiões. Agora quer persuadir a produtora Goalhanger a dar-lhe um podcast. 'Quero fazer um chamado The Rest is Human', diz ela, sentada a uma mesa de madeira nua em sua casa, um conjunto de salas georgianas acima de uma loja – que também lhe pertence – em Spitalfields, no leste de Londres. 'Para ver o que guardamos para nós próprios nesta correria desenfreada para terceirizar tudo o que pensávamos que éramos.' Ver imagem em ecrã inteiroWinterson: 'Temos um mercado que não sabe realmente para que serve a educação.' Fotografia: Posado por modelos; SDI Productions/Getty Images Porque estamos, argumenta ela, num ponto de viragem na nossa história como espécie. Até à Revolução Industrial, a mudança era toda sobre 'a Mãe Natureza e o lento processo de devir', mas depois 'interviemos em escala massiva. E esse é um momento decisivo.' A computação, há 70 anos, foi outro passo. A inteligência artificial – que ela preferiria chamar inteligência alternativa – é a seguinte, e 'um salto evolutivo. É isso que isto é. A IA é muito mais do que uma ferramenta.' Dado isto, uma certa compreensão do que é irredutivelmente humano – os nossos sentimentos, a nossa imaginação, os nossos séculos de estudo sobre quem somos e o que fizemos – deve ser central para quão bem ou mal as coisas podem correr. Ela é frequentemente surpreendentemente otimista quanto a isso. Imagina uma relação com a IA, por exemplo, em que se pode 'conversar com o seu sistema. Vai olhar para tudo. Vai a uma velocidade tal. Vai olhar para os transportes. Vai olhar para os serviços públicos. Vai olhar para o emprego, olhar para as horas de trabalho, e dizer: "Do que é que estas coisas estranhas chamadas humanos prosperam? Do que é que gostam? E sempre gostaram disso?" Podíamos fazer isto de uma forma genuinamente utópica e dizer: "Certo, vamos torná-lo melhor."' Estamos num momento de escolha profundamente significativo, acredita ela, que espelha a escolha que enfrentámos na Revolução Industrial – nomeadamente, 'Que futuro havemos de construir?' Mas, ao não distribuir os seus ganhos de forma justa, a Revolução Industrial inaugurou uma era de riqueza sem precedentes para poucos e miséria sem precedentes para muitos – uma situação que muitos preveem não só já estar a repetir-se, mas que será ofuscada pelas consequências da IA: uma subclasse permanente, continentes inteiros deixados para trás e privados das atuais fontes de rendimento. Para não mencionarO impacto ambiental dos centros de dados surge numa altura em que o mundo menos pode suportá-lo. O problema não é a IA, insiste ela, mas nós. "Não há nenhuma distopia inevitável." Se as coisas correrem mal, será por causa de "pensamento antiquado sobreposto a esta realidade completamente nova." Especificamente, "a ideia de que o trabalho sem sentido e interminável é bom para a alma é uma loucura do século XIX concebida para manter as pessoas no seu lugar. A maior parte do que tememos sobre a IA e o emprego resume-se às escolhas políticas e económicas que os nossos senhores farão, tal como fizeram na Revolução Industrial." Ela não é cegamente otimista. Sabe que "sim, estamos no caminho para estragar esta oportunidade de mudar fundamentalmente a nossa relação com o mundo do trabalho" – mas isso é porque "os nossos senhores estão a usar modelos económicos desatualizados e inadequados."
Ver imagem em ecrã inteiro 'O que sabemos sobre os humanos é que eles adoram monopólios.' Fotografia: Sarah Lee/The Guardian
Mas não são apenas os velhos modelos económicos de "o vencedor leva tudo" e "racionais" em que o fim justifica os meios que são o problema. Os nossos pressupostos e preconceitos falhos, que formam o material com que os grandes modelos de linguagem (LLMs) são treinados, estão incorporados no próprio tecido da IA. Para não mencionar as personagens e a imaginação moral daqueles que a desenvolvem. Quando nos encontramos, Winterson está a ler The Rise and Fall of the Artificial State, de Jill Lepore, e reitera o argumento de Lepore de que estamos agora a viver "os livros de ficção científica que estes [homens que] governam o mundo leram quando tinham 13 anos. E ela disse: 'Estamos agora todos debaixo dos cobertores com estes rapazes e as suas lanternas. E o problema é que eles não os leram como avisos sobre como preservar o que há de bom em nós. Leram-nos como manuais de instruções.' É absolutamente aterrorizador."
Uma grande coisa que parecem ter tirado destes livros, e que Winterson não consegue deixar de achar fascinante, é "o objetivo final do Vale do Silício … sair do corpo e do planeta" – não menos porque ela está tão consciente de que o humanismo, em que tudo é reconduzido a nós próprios, às nossas perceções e aos nossos corpos, é historicamente tão recente. As pessoas dizem: "Estas são máquinas, não se pode ter relações com elas", diz ela. "Olho para elas e digo: 'milhares de milhões de pessoas neste planeta agora mesmo estão a ter a sua relação mais profunda com uma entidade não biológica a que chamam o seu deus do céu.' Certo? Sempre foi assim! Estamos absolutamente preparados para não nos preocuparmos com o facto de a biologia ser tudo o que há em nós. Foi por isso que a religião foi inventada – é a primeira startup disruptiva do mundo. Está lá para dizer: isto não é tudo. Isto não é o fim, isto não importa, isto é uma transição."
Ver imagem em ecrã inteiro Uma ilustração de uma fábrica em Leeds, durante a segunda Revolução Industrial. Fotografia: Universal History Archive/Universal Images Group/Getty Images
Então estamos literalmente a criar os nossos próprios deuses? "Totalmente! O que a tecnologia está a fazer agora é o que a religião sempre quis", o que é, no seu nível mais básico, uma solução para o problema da morte. "Quer dizer, alguma vez houve um tempo em que a religião e a ciência façam a mesma pergunta, desde o Iluminismo? Ambas estão a dizer: 'A consciência está obrigada à materialidade?' E a religião sempre disse que não. E a ciência sempre disse que sim. E agora a ciência está a dizer: 'Hum, nãoooo.'" Sabes, para mim, de onde venho" – uma infância de cristianismo fundamentalista em Accrington nos anos 60, e formação como pregadora – "isto é completamente fascinante." Mais tarde, por email, acrescenta: "Adoro o meu corpo, mas ficaria feliz por mudar de forma. Feliz por escapar dele para a pura consciência um dia e, claro, as pessoas dizem que não há consciência sem corpo, e essa era a crença científica. Mas agora? Haha."
Eu, tenho de dizer, argumentaria o contrário, que os avanços na neurociência, imunoloO significado de gia e psicoterapia fazem com que seja mais uma questão de crença científica do que nunca. Para não mencionar o facto de que a IA também depende inteiramente de um sistema físico, também conhecido como centros de dados. Embora, como ela salienta, seja importante lembrar que "as máquinas não têm um sistema límbico. São apenas redes neuronais. Mas nós temos dois sistemas – somos como um carro híbrido com dois motores, por isso temos a rede neuronal, o nosso eu de processamento racional, e temos o sistema límbico, que é muito mais antigo e é o de luta-fuga-congelamento, e de onde vêm todos os nossos sentimentos." Talvez desligarmo-nos do límbico seja a próxima etapa, diz ela, e definitivamente não é tudo bom. "Talvez decidamos que não precisamos desta máquina de sentimentos … é para aí que os tech bros estão a caminhar. Não sei se alguma vez te sentaste numa sala com alguns destes tipos mais importantes, porque é muito interessante. Eles não estão ligados aos seus sentimentos. Acham-nos um tanto incómodos."
Esta possibilidade, possibilitada pela tecnologia, de uma espécie de transcendência parece ter chegado a par de uma exigência de fé – na tecnologia, no futuro que está a criar, nas pessoas que constroem esse futuro, nas suas previsões tanto de céu utópico como de várias tonalidades de inferno, tudo por sumos sacerdotes que guardam ciosamente o acesso ao que realmente se passa. "O que sabemos sobre os humanos é que eles adoram monopólios", diz Winterson, "porque é uma concentração de poder. Claro que pode ser corporativizado, monopolizado a tal ponto que se torne a pior prisão imaginável", como é contado no brilhante romance distópico de Joanna Kavenna, Zed, de 2019. "Isso é uma possibilidade real", diz ela. "E é por isso que precisamos de pessoas que sejam uma espécie de humanos em liberdade, que possam pensar."
Ver imagem em ecrã inteiro
Winterson … 'Mostra-me uma criança que não queira ouvir uma história.' Fotografia: Posado por modelos; MoMo Productions/Getty Images
O problema então é como apoiamos – ou desenvolvemos – tais humanos. "Há basicamente duas formas de saber que tens um futuro", afirmou recentemente Alex Karp, o CEO da Palantir. "Uma, tens alguma formação profissional. Ou duas, és neurodivergente." Daniela Amodei, a presidente da Anthropic e ela própria licenciada em literatura, quando questionada mais ou menos sobre a mesma coisa, teve uma opinião diferente. "Na verdade, penso que estudar as humanidades vai ser mais importante do que nunca", disse ela, porque "as coisas que nos tornam humanos vão tornar-se muito mais importantes em vez de muito menos importantes." O que torna a fogueira das humanidades no Reino Unido algo preocupante: no ano até dezembro de 2024, perderam-se 4.000 empregos nas ciências sociais, humanidades e artes. A Universidade de Exeter anunciou recentemente que iria cortar 150 funções, afetando oito em cada 10 académicos da faculdade de humanidades, artes e ciências sociais, enquanto no mês passado Nottingham disse que iria acabar com as suas licenciaturas em línguas modernas e música. Em algumas universidades, as humanidades, segundo um relatório neste jornal, correm o risco de ser "extintas" por completo.
Porque salvar as humanidades? Uma resposta pode ser que ensinam um sentido de onde vimos e quem somos, o que também parece ameaçado. "Números massivos de estudantes vão sair da universidade com licenciaturas, e para o mercado de trabalho, que são essencialmente iletrados", disse um professor à revista New York, respondendo à primeira leva de nativos de IA a chegar ao ensino superior. "Tanto no sentido literal como no sentido de serem historicamente iletrados e não terem conhecimento da sua própria cultura, muito menos da de qualquer outra pessoa." Arriscava-se, afirmou um relatório do MIT, ser uma espécie de "rendição cognitiva" geracional. Outra é os processos pelos quais as pessoas devem ser ensinadas – ler, e ser crítico do que se lê, e depois ter de escrever defesas coerentes dessas críticas. Ter de debater as tuas intuições num ensaioAjuda-te a descobrir o que pensas – e como pensas – e como funcionam as ideias das outras pessoas. Winterson, que estudou Inglês em Oxford e é professora de nova escrita na Universidade de Manchester há 14 anos, além de lecionar "uma aula de pensamento livre sobre criatividade", concorda. Mas é depreciativa em relação a grande parte do sistema atual. "Talvez seja controversa aqui, mas penso mesmo que o ensino superior precisa de uma reestruturação de cima para baixo. Não acho que seja viável, e não acho que esteja a cumprir na sua forma atual." A questão é: "Temos um mercado que não sabe realmente para que serve a educação. É para empregos? É para crescimento pessoal? Há também muitos cursos de ensino superior sem valor que não ajudam. Penso que é sempre melhor, sendo uma rapariga prática do norte, enfrentar os factos para começar."
Precisamos de pensar, diz ela, sobre "o que nos está reservado que não vai ser feito maior, melhor, mais rápido, mais forte pelas máquinas. E é aí que o ensino superior realmente entra. A questão que está por cima de todas estas coisas sobre 'Porque é que estes empregos estão a desaparecer?', 'O que se passa nestes cursos que já não têm candidatos?', é 'Que tipo de humanos vamos precisar no mundo vindouro? Para que servem os humanos? O que vamos fazer connosco?'" E isso "leva-nos de volta à ideia de, bem, OK, como se desenvolve uma mente? Como se protege uma mente? Porque a mente é este lugar massivo e monstruoso onde tudo pode acontecer."
E para isto, "uma educação humanista é essencial. Temos de centrar o humano aqui. Ao mudar a forma como educamos as nossas crianças desde o início, podemos colocar em primeiro plano a criatividade, o brincar, a resolução de problemas, o pensar – porque é divertido pensar – as artes, porque os humanos são naturalmente criativos. Mostra-me uma criança que não queira ouvir uma história ou dançar ou pintar um quadro ou ter um amigo imaginário. Isto não é imposto e não é elitismo. Somos nós."
Mesmo uma hora por semana, pensa ela, faria a diferença. "Vamos perguntar o que pensas sobre o mundo. 'Porque é que pensas isso?' Não é dispendioso. É realmente uma questão de vontade." Ensinar matemática e artes e ciências, sugere ela, pelo menos até ao A-level, mesmo que não sejam examinadas. "Claro que vamos especializar-nos. Precisamos de médicos e químicos, mas também precisamos do que costumava chamar-se pessoas completas. Tudo é interessante! Os humanos nascem com um cérebro grande. Na maioria das vezes não o usamos."
Uma vez passada a educação formal, ela integraria artistas e intelectuais públicos a todos os níveis. "As artes não são uma indústria de lazer", como ela diz em 12 Bytes. "As artes sempre foram uma luta imaginativa e emocional com a realidade – uma série de invenções e criações. Uma capacidade de pensar de forma diferente, uma vontade de mudar a nossa compreensão de nós próprios. Para nos ajudar a ser pessoas mais sábias, mais reflexivas, menos assustadas. Os artistas fazem algo do nada todos os dias."
Encontramo-nos antes de Jacob Coxon se demitir do seu emprego na Anthropic para alertar para uma probabilidade de 10% de a IA poder apagar a humanidade, enviando uma onda de pânico por todo o mundo. Depois, pergunto como se sente Winterson agora em termos de positividade. O pior "pode acontecer", repete ela. Mas "a imensidão do bom resultado é tão real como a totalidade do nosso falhanço em acertar nisto." Acima de tudo, "esta é uma decisão humana e um dilema humano. Esta é a nossa grande oportunidade. Talvez a nossa última oportunidade, tal como o colega de Turing, Jack Good, disse quando chamou à IA a nossa última invenção. Está tudo em jogo."
Só podemos esperar que não seja demasiado tarde.O seu livro mais recente é One Aladdin, Two Lamps. Escreve também em jeanettewinterson.substack.com.
One Aladdin, Two Lamps, de Jeanette Winterson (Vintage Publishing, 12,99 £). Para apoiar o Guardian, encomende o seu exemplar por 10,39 £ em guardianbookshop.com. Podem aplicar-se custos de entrega.
Perguntas Frequentes
Eis uma lista de FAQs sobre as opiniões de Jeanette Winterson sobre a IA e o futuro da humanidade, baseada no seu ensaio There is no inevitable dystopia
Perguntas para principiantes
1 Quem é Jeanette Winterson
É uma escritora e professora britânica conhecida por romances como Oranges Are Not the Only Fruit Nos últimos anos, escreveu e falou extensivamente sobre inteligência artificial e o seu impacto na sociedade
2 O que significa There is no inevitable dystopia
Significa que um futuro mau não está garantido Só porque a IA pode causar problemas não significa que o faráo resultado depende das escolhas que as pessoas fazem agora
3 O que é a IA em termos simples
A IA é tecnologia que permite às máquinas fazer tarefas que normalmente exigem pensamento humano, como compreender linguagem, reconhecer imagens ou tomar decisões
4 O que é uma distopia
Uma distopia é uma sociedade imaginada no pior dos casos, pense num mundo governado por máquinas com liberdades perdidas e sofrimento generalizado
5 Qual é a mensagem principal de Winterson
Ela argumenta que o futuro da IA depende de nós Não devemos temer a tecnologia nem aceitá-la cegamente, devemos moldá-la com valores humanos, criatividade e cuidado
6 Ela é contra a IA
Não Ela não é antitecnologia É contra deixar a tecnologia desenvolver-se sem supervisão humana e contra tratar um futuro mau como inevitável
7 O que pensa ela que a IA significa para a humanidade
Ela vê a IA como um espelho da humanidade, reflete quem somos Se a construirmos com empatia e propósito, pode ajudar-nos; se a construirmos descuidadamente, pode prejudicar-nos
Perguntas intermédias
8 Porque diz Winterson que a IA é um espelho
Porque a IA aprende com dados e escolhas humanas Reflete os nossos preconceitos, valores e prioridades, por isso mostra-nos que tipo de sociedade criámos
9 Que problemas comuns destaca ela na IA
Aponta riscos como perda de privacidade, concentração de poder nas grandes empresas tecnológicas, perturbação do emprego e o perigo de tratar a eficiência como mais importante do que a dignidade humana
10 Que benefícios vê ela na IA
Vê potencial na IA para os cuidados de saúde, acessibilidade, criatividade e libertação das pessoas de trabalho repetitivo, se for guiada por necessidades humanas e não apenas pelo lucro
Não há distopia inevitável': Jeanette Winterson sobre IA e o futuro da humanidade
