As pessoas frequentemente me perguntam se acho que todos os romances futuros serão escritos por IA. É menos uma pergunta real e mais um desafio. Eles estão perguntando se me preocupo que uma máquina possa fazer meu trabalho, e fazê-lo melhor? Eu geralmente ignoro com algo como: "Nenhum algoritmo vai escrever Anna Karenina!" Mas isso também não é uma resposta real.
Então, sou grato ao Papa Leão XIV, o papa americano, por sua recente carta ao mundo, Magnifica Humanitas: Sobre a Salvaguarda da Pessoa Humana no Tempo da Inteligência Artificial. É um documento longo (mais de 40.000 palavras), inteligente e ponderado, onde o papa aborda como essa tecnologia de rápido crescimento pode ser usada e mal utilizada. Agora, quando alguém pede minha opinião sobre IA, posso simplesmente apontar para a carta do papa—ou pelo menos para o capítulo três.
A carta começa com uma referência bíblica adequada aos resultados trágicos de uma ruptura na comunicação humana. A humanidade enfrenta uma "escolha crucial: ou construir uma nova Torre de Babel ou edificar uma cidade na qual Deus e a humanidade habitem juntos." O que se segue é uma análise detalhada de como os predecessores do Papa Leão pensavam sobre as coisas, e as ideias do Vaticano sobre trabalho, autoridade, governo, ciência, poder e nosso dever moral uns para com os outros. Também destaca o trabalho da igreja na defesa da dignidade e liberdade humanas.
O terceiro capítulo, Tecnologia e Dominação: A Grandeza da Humanidade à Luz das Promessas da IA, faz jus ao título da carta. Em uma passagem poderosa (e frequentemente citada) explicando o que a IA não é, o papa essencialmente define o que significa ser humano. "As chamadas inteligências artificiais não passam por experiências, não possuem um corpo, não sentem alegria ou dor, não amadurecem através de relacionamentos e não sabem por dentro o que amor, trabalho, amizade ou responsabilidade significam." A IA não tem consciência moral e não demonstra preocupação real com o bem maior da humanidade.
A carta então diz as coisas mais importantes e necessárias sobre o que pode ser a maior ameaça da IA: ela pode ser programada unicamente para maximizar o lucro, o que só pode levar a muitos sofrerem em benefício de poucos. O papa adverte contra a "manipulação da privacidade" e o "uso indevido da informação", contra o uso de algoritmos para gerenciar o emprego, controlar o acesso a serviços públicos e crédito, e para impulsionar ou prejudicar a reputação pessoal de alguém.
Compaixão, misericórdia e perdão—não são prioridades altas na lista de uma máquina—podem se tornar obsoletos. "'Sacrifícios necessários' podem começar a ser justificados, colocando o fardo sobre os mais vulneráveis em busca da suposta otimização da espécie." Se as ferramentas desse novo poder acabarem nas mãos daqueles que já possuem riqueza e influência, elas serão usadas para melhorar o conforto, a saúde e o bem-estar de nossos cidadãos mais ricos e privilegiados.
O papa não está condenando a IA diretamente, mas sim a forma como ela pode ser usada como ferramenta de repressão política e para piorar ainda mais a desigualdade econômica.
Ao final da carta, o papa nos exorta a permanecer fiéis à verdade, investir em educação, construir relacionamentos e viver em justiça e paz—para resistir a como as novas tecnologias podem "explorar os mais vulneráveis, criar novas formas de escravidão e obter lucro com conflitos." Fica claro que o papa não está condenando a IA diretamente, mas sim a forma como ela pode ser usada como ferramenta de repressão política e para agravar a desigualdade econômica.
Em teoria, você poderia criticar a carta por não ir longe o suficiente, por não usar outra metáfora bíblica—o bezerro de ouro—para condenar a IA porque ela prioriza a economia de dinheiro em detrimento do bem-estar espiritual, individual e comunitário. Crescimento. Mas esse navio já partiu, e não há muito que Leão XIV—ou qualquer líder religioso—possa fazer para condenar esses novos avanços como uma forma de idolatria do século XXI.
Ainda assim, a visão da encíclica sobre a natureza humana, o espírito de justiça e empatia que deve prevalecer, e a importância essencial dos mais altos valores morais—é, em última análise, tão gentil, tão positiva, tão generosa e tão claramente correta sobre nosso dever de proteger os fracos e os pobres que é difícil encontrar razões para descartá-la.
Mas essa é a parte assustadora. Aparentemente, houve alguma resistência do Vale do Silício, onde os criadores e mestres da mais recente tecnologia sugeriram que o papa não sabe do que está falando.
A visão do Guardian sobre o Papa e Claude: A encíclica de Leão XIV sobre IA está certa ao colocar a humanidade em primeiro lugar | Editorial
Leia mais
Jeremy Nixon, fundador da AGI House—um grupo focado em provar que a IA é essencialmente igual ao cérebro humano—foi citado no New York Times dizendo que a igreja não havia "pensado profundamente sobre... IA", acrescentando: "Eles não poderiam ter uma posição sobre isso, porque não entendem." E parece haver uma crença generalizada de que o resultado final da pesquisa atual será, com efeito, um novo Deus, ou pelo menos uma imitação convincente. Preocupada com os perigos do futuro, nossa sociedade está escolhendo ignorar as evidências de que os aspectos negativos da IA já estão aqui. A filha de um amigo, uma estudante universitária formanda em publicidade, foi informada recentemente por seu orientador que, quando ela se formar, todos os empregos em publicidade terão sido assumidos pela IA.
Se os mestres dessa nova tecnologia não conseguem concordar com o que o papa vê como seus perigos e desvantagens, estamos em apuros muito profundos. O problema não é que teremos um robô escrevendo Anna Karenina. O problema é que ninguém verá necessidade de um romance que capte tão lindamente o sofrimento de uma mulher, um ser humano único.
Não haveria sentido em um livro assim, a menos que essa história de um erro que muda a vida pudesse ser transformada em lucro por um tech bro visionário e usada para comprar um iate maior e melhor—presumivelmente atendido por uma subclasse permanente, por trabalhadores cuja dignidade, cujos empregos outrora valorizados e valiosos, foram roubados pelas formas gananciosas de inteligência artificial.
Francine Prose é ex-presidente do PEN American Center e membro da Academia Americana de Artes e Letras e da Academia Americana de Artes e Ciências. Seu novo romance, Five Weeks in the Country, foi publicado em maio.
Perguntas Frequentes
Aqui está uma lista de perguntas frequentes com base na declaração Sou grato ao Papa por sua encíclica sobre IA. Eis por quê
Perguntas de Nível Iniciante
P O que é uma encíclica
R É uma carta formal do Papa para toda a Igreja Católica sobre um tópico importante. Ela tem o objetivo de ensinar e orientar as pessoas.
P Por que o Papa escreveu uma encíclica sobre Inteligência Artificial
R Porque a IA está mudando rapidamente como vivemos, trabalhamos e interagimos. O Papa acredita que ela levanta questões morais e éticas profundas sobre dignidade humana, justiça e paz, então ele quis oferecer orientação.
P O Papa está dizendo que a IA é ruim
R Não. Ele não é contra a tecnologia. Ele está dizendo que precisamos ter cuidado e usar a IA de maneiras que respeitem a vida humana, protejam os vulneráveis e promovam o bem comum, não apenas o lucro ou o poder.
P Qual é a mensagem principal da encíclica sobre IA
R A ideia central é que a IA deve servir à humanidade, não substituí-la ou controlá-la. Ela pede uma conversa global para garantir que a IA seja desenvolvida e usada eticamente, com foco na paz, verdade e dignidade humana.
P Como isso me afeta como pessoa comum
R Isso importa porque a IA já está na sua vida—em mecanismos de busca, redes sociais, bancos e até diagnósticos médicos. O Papa está pedindo a todos que pensem sobre justiça, privacidade e se essas ferramentas estão ajudando ou prejudicando a sociedade.
Perguntas de Nível Intermediário
P Quais perigos específicos o Papa alerta sobre a IA
R Ele alerta sobre uma sociedade algorítmica onde máquinas tomam decisões que afetam a vida das pessoas sem justiça ou transparência. Ele também destaca riscos de vigilância, desinformação e aumento da desigualdade entre aqueles que controlam a IA e aqueles que não controlam.
P A encíclica fala sobre IA em armas ou guerra
R Sim. Ela condena fortemente o desenvolvimento de sistemas de armas autônomas—máquinas que podem matar sem decisão humana. O Papa argumenta que isso tira qualquer responsabilidade moral da guerra e pode levar a conflitos catastróficos.
P Como a visão da Igreja sobre IA difere das visões das empresas de tecnologia
