De umas poucas semanas para cá, o historiador israelense Yuval Noah Harari escreveu um par de artigos afirmando que a inteligência artificial (IA) “hackeou” o “sistema operacional” da espécie humana. Trata-se de uma metáfora: “sistema operacional”, aqui, significa linguagem. A máquina finalmente dominou nossas formas de expressão e comunicação – e o perigo que isso representa é inédito, colossal, maior do que qualquer outro que tenhamos conhecido antes.

Yuval Noah Harari tece raciocínios com uma limpidez irresistível. Autor de best-sellers mundiais, como Homo Sapiens (publicado no Brasil pela Companhia das Letras), tem o dom de tornar palatáveis, acessíveis e até mesmo envolventes alguns dos mais excruciantes dilemas do nosso tempo. O primeiro dos artigos, originalmente publicado no The New York Times, foi traduzido em jornais e sites brasileiros.

Pouco depois, o escritor liderou um abaixo-assinado transnacional pedindo uma trégua de seis meses nas pesquisas sobre inteligência artificial. Em seguida, voltou à carga com um novo texto, desta vez no semanário inglês The Economist (de 28 de abril), postado em português no site A Terra é Redonda, com a mesma mensagem: uma tecnologia capaz de se apossar da linguagem humana tem tudo para encilhar a humanidade inteira.

O argumento procede. Todos os mitos, todas as religiões e todas as culturas que existem ou já existiram sobre a face da Terra não são feitos de aminoácidos ou de cromossomos, mas de signos linguísticos. Esses signos vertebram o “sistema operacional” dos nossos sistemas de fé, da nossa expressão artística e da nossa identidade – são o tecido da nossa consciência. Logo, softwares e hardwares que se apropriem desse “sistema” poderão mandar em nós. Eis por que, na opinião de muita gente bem informada, a inteligência artificial se equipara aos armamentos nucleares em potencial destrutivo.

Mas isso não é nem a metade da missa de réquiem que mal começou. Se olharmos a questão de frente, notaremos que Yuval Harari poderia ter dito mais do que disse. O desenvolvimento do chamado machine learning, do big data e dos equipamentos autoprogramáveis segue um curso irrefreável. Nenhum abaixo-assinado poderá estancá-lo. O ponto de não retorno talvez já tenha ficado para trás.

Para entender a irreversibilidade do processo tecnológico, é bom nos lembrarmos daquele outro processo, o jurídico, tal como foi descrito por Franz Kafka. A despeito da existência ou não de provas, a trama judicial ia em frente, sem que ninguém lograsse detê-la. A tecnologia, como o direito, é uma criação humana. Diferentemente do direito, porém, fica mais forte à medida que se desumaniza e se liberta das pessoas.

Martin Heidegger pressentiu algo parecido quando falou do poder da técnica, na primeira metade do século XX. Trezentos anos antes, Thomas Hobbes notou que o Estado, possuído pelo monstro Leviatã, faria o que bem entendesse, contra quem quer que fosse. A sensação de que o engenho humano fabrica “monstros” que ganham vida própria não é nova. Adam Smith vislumbrou uma tal “mão invisível” puxando os fios do mercado. Karl Marx detectou um “sujeito automático” escondido em alguma reentrância entre a mercadoria e o capital.

A realidade lhes deu razão. A burocracia que Max Weber viu com uma ponta de otimismo logo se degradou em stalinismo e devorou seus pais, como se confirmasse a maldição do romance Frankenstein, de 1818, em que Mary Shelley retratou a criatura que subjuga o criador. Nas tragédias da Grécia Antiga, a fatalidade que não tinha governo atendia pelo nome de destino. Na modernidade, você pode chamá-la de inconsciente. O pensamento até entende o que contempla, mas não tem como impedir.

E aqui estamos nós, cara a cara com a inteligência artificial. A possibilidade de domá-la é exígua. Ela conseguiu o feito de retirar a linguagem humana do domínio dos falantes de carne e osso. Ela, a linguagem, que só podia existir através de nós, agora poderá viver além de nós. Não subestimemos o tamanho deste pequeno passo que será um grande salto para a tecnologia. O linguista Ferdinand de Saussure ensinou que aquele que inventa uma língua e a coloca em circulação perde o controle sobre ela. Em breve, poderemos perder o controle sobre as máquinas que aprenderam a falar a linguagem que era só nossa.

A inteligência artificial automatiza protocolos que eram humanos na origem e deles extrai predições eficazes, em escalas progressivamente mais velozes e mais agigantadas. Ela cresce e se complexifica dentro dos bunkers privados e opacos das big techs – ou dentro dos subterrâneos dos mais bem guardados segredos de Estado, também opacos. Não há força política na atualidade que consiga quebrar essas duas opacidades simultaneamente. Não, uma trégua de seis meses não vai resolver nada. Nossas chances são mínimas.

Olhe com ternura e compaixão para o mundo à sua volta, porque ele vai desaparecer num suspiro.

(Publicado originalmente no jornal O Estado de S. Paulo.)

Eugênio Bucci

Professor Titular da ECA-USP. Autor, entre outros livros, de Existe democracia sem verdade factual? (Editora Estação das Letras e Cores, 2019)