As ideias precisam circular. Ajude A Terra é Redonda a seguir fazendo isso.

O inexorável

Imagem: Joan-Josep Tharrats
Whatsapp
Facebook
Twitter
Instagram
Telegram

Por EUGÊNIO BUCCI*

Trégua de seis meses nas pesquisas sobre Inteligência artificial não vai resolver nada. Olhe com ternura e compaixão para o mundo à sua volta, pois ele vai desaparecer num suspiro.

De umas poucas semanas para cá, o historiador israelense Yuval Noah Harari escreveu um par de artigos afirmando que a inteligência artificial (IA) “hackeou” o “sistema operacional” da espécie humana. Trata-se de uma metáfora: “sistema operacional”, aqui, significa linguagem. A máquina finalmente dominou nossas formas de expressão e comunicação – e o perigo que isso representa é inédito, colossal, maior do que qualquer outro que tenhamos conhecido antes.

Yuval Noah Harari tece raciocínios com uma limpidez irresistível. Autor de best-sellers mundiais, como Homo Sapiens (publicado no Brasil pela Companhia das Letras), tem o dom de tornar palatáveis, acessíveis e até mesmo envolventes alguns dos mais excruciantes dilemas do nosso tempo. O primeiro dos artigos, originalmente publicado no The New York Times, foi traduzido em jornais e sites brasileiros.

Pouco depois, o escritor liderou um abaixo-assinado transnacional pedindo uma trégua de seis meses nas pesquisas sobre inteligência artificial. Em seguida, voltou à carga com um novo texto, desta vez no semanário inglês The Economist (de 28 de abril), postado em português no site A Terra é Redonda, com a mesma mensagem: uma tecnologia capaz de se apossar da linguagem humana tem tudo para encilhar a humanidade inteira.

O argumento procede. Todos os mitos, todas as religiões e todas as culturas que existem ou já existiram sobre a face da Terra não são feitos de aminoácidos ou de cromossomos, mas de signos linguísticos. Esses signos vertebram o “sistema operacional” dos nossos sistemas de fé, da nossa expressão artística e da nossa identidade – são o tecido da nossa consciência. Logo, softwares e hardwares que se apropriem desse “sistema” poderão mandar em nós. Eis por que, na opinião de muita gente bem informada, a inteligência artificial se equipara aos armamentos nucleares em potencial destrutivo.

Mas isso não é nem a metade da missa de réquiem que mal começou. Se olharmos a questão de frente, notaremos que Yuval Harari poderia ter dito mais do que disse. O desenvolvimento do chamado machine learning, do big data e dos equipamentos autoprogramáveis segue um curso irrefreável. Nenhum abaixo-assinado poderá estancá-lo. O ponto de não retorno talvez já tenha ficado para trás.

Para entender a irreversibilidade do processo tecnológico, é bom nos lembrarmos daquele outro processo, o jurídico, tal como foi descrito por Franz Kafka. A despeito da existência ou não de provas, a trama judicial ia em frente, sem que ninguém lograsse detê-la. A tecnologia, como o direito, é uma criação humana. Diferentemente do direito, porém, fica mais forte à medida que se desumaniza e se liberta das pessoas.

Martin Heidegger pressentiu algo parecido quando falou do poder da técnica, na primeira metade do século XX. Trezentos anos antes, Thomas Hobbes notou que o Estado, possuído pelo monstro Leviatã, faria o que bem entendesse, contra quem quer que fosse. A sensação de que o engenho humano fabrica “monstros” que ganham vida própria não é nova. Adam Smith vislumbrou uma tal “mão invisível” puxando os fios do mercado. Karl Marx detectou um “sujeito automático” escondido em alguma reentrância entre a mercadoria e o capital.

A realidade lhes deu razão. A burocracia que Max Weber viu com uma ponta de otimismo logo se degradou em stalinismo e devorou seus pais, como se confirmasse a maldição do romance Frankenstein, de 1818, em que Mary Shelley retratou a criatura que subjuga o criador. Nas tragédias da Grécia Antiga, a fatalidade que não tinha governo atendia pelo nome de destino. Na modernidade, você pode chamá-la de inconsciente. O pensamento até entende o que contempla, mas não tem como impedir.

E aqui estamos nós, cara a cara com a inteligência artificial. A possibilidade de domá-la é exígua. Ela conseguiu o feito de retirar a linguagem humana do domínio dos falantes de carne e osso. Ela, a linguagem, que só podia existir através de nós, agora poderá viver além de nós. Não subestimemos o tamanho deste pequeno passo que será um grande salto para a tecnologia. O linguista Ferdinand de Saussure ensinou que aquele que inventa uma língua e a coloca em circulação perde o controle sobre ela. Em breve, poderemos perder o controle sobre as máquinas que aprenderam a falar a linguagem que era só nossa.

A inteligência artificial automatiza protocolos que eram humanos na origem e deles extrai predições eficazes, em escalas progressivamente mais velozes e mais agigantadas. Ela cresce e se complexifica dentro dos bunkers privados e opacos das big techs – ou dentro dos subterrâneos dos mais bem guardados segredos de Estado, também opacos. Não há força política na atualidade que consiga quebrar essas duas opacidades simultaneamente. Não, uma trégua de seis meses não vai resolver nada. Nossas chances são mínimas.

Olhe com ternura e compaixão para o mundo à sua volta, porque ele vai desaparecer num suspiro.

*Eugênio Bucci é professor titular na Escola de Comunicações e Artes da USP. Autor, entre outros livros, de Incerteza, um ensaio (Autêntica).

Publicado originalmente no jornal O Estado de S. Paulo.


A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA

AUTORES

TEMAS

MAIS AUTORES

Lista aleatória de 160 entre mais de 1.900 autores.
Valério Arcary Luciano Nascimento João Paulo Ayub Fonseca Celso Favaretto Jean Marc Von Der Weid Eugênio Bucci Everaldo de Oliveira Andrade Eleonora Albano Luiz Eduardo Soares Luiz Roberto Alves Tarso Genro Alysson Leandro Mascaro Tales Ab'Sáber Luiz Renato Martins Roberto Noritomi João Feres Júnior Ricardo Antunes Paulo Martins Luiz Costa Lima José Machado Moita Neto Annateresa Fabris José Geraldo Couto Plínio de Arruda Sampaio Jr. André Márcio Neves Soares Marcus Ianoni Lincoln Secco Celso Frederico Chico Alencar Igor Felippe Santos Ricardo Abramovay Slavoj Žižek Luiz Carlos Bresser-Pereira Luiz Werneck Vianna Atilio A. Boron Bruno Machado Andrew Korybko Walnice Nogueira Galvão Remy José Fontana Bento Prado Jr. Daniel Costa Denilson Cordeiro Jorge Branco Marilia Pacheco Fiorillo Vladimir Safatle João Carlos Salles Ronald Rocha Carlos Tautz Ronaldo Tadeu de Souza Marilena Chauí Heraldo Campos José Luís Fiori Juarez Guimarães Caio Bugiato Anderson Alves Esteves Marcos Silva Francisco de Oliveira Barros Júnior Fernão Pessoa Ramos José Dirceu Renato Dagnino Sergio Amadeu da Silveira Leonardo Sacramento Osvaldo Coggiola Armando Boito Anselm Jappe Paulo Capel Narvai Daniel Brazil Dennis Oliveira João Lanari Bo Paulo Fernandes Silveira Eugênio Trivinho Roberto Bueno Flávio R. Kothe Luiz Bernardo Pericás Leonardo Boff Marcos Aurélio da Silva Michael Roberts Marcelo Módolo André Singer Maria Rita Kehl Marcelo Guimarães Lima Gilberto Maringoni Benicio Viero Schmidt Valerio Arcary Salem Nasser Paulo Nogueira Batista Jr Lucas Fiaschetti Estevez Alexandre Aragão de Albuquerque Milton Pinheiro Luís Fernando Vitagliano Ari Marcelo Solon Manuel Domingos Neto Ricardo Fabbrini Gilberto Lopes José Micaelson Lacerda Morais Dênis de Moraes Elias Jabbour Ronald León Núñez Luiz Marques Fernando Nogueira da Costa Jean Pierre Chauvin Érico Andrade Otaviano Helene Liszt Vieira Berenice Bento Bruno Fabricio Alcebino da Silva Vanderlei Tenório Flávio Aguiar Michael Löwy Fábio Konder Comparato Henry Burnett João Sette Whitaker Ferreira José Costa Júnior Leda Maria Paulani José Raimundo Trindade Eduardo Borges Yuri Martins-Fontes Kátia Gerab Baggio Francisco Pereira de Farias Jorge Luiz Souto Maior Samuel Kilsztajn Afrânio Catani Alexandre de Lima Castro Tranjan Gerson Almeida Vinício Carrilho Martinez Rodrigo de Faria Claudio Katz Bernardo Ricupero Luis Felipe Miguel Ladislau Dowbor Boaventura de Sousa Santos Alexandre de Freitas Barbosa Eliziário Andrade Rafael R. Ioris Chico Whitaker Priscila Figueiredo Antonino Infranca Leonardo Avritzer Manchetômetro João Adolfo Hansen Tadeu Valadares Rubens Pinto Lyra Sandra Bitencourt Marjorie C. Marona Antonio Martins Mário Maestri Lorenzo Vitral Carla Teixeira Henri Acselrad João Carlos Loebens Gabriel Cohn Mariarosaria Fabris Daniel Afonso da Silva Eleutério F. S. Prado Ricardo Musse Airton Paschoa Julian Rodrigues Thomas Piketty Francisco Fernandes Ladeira Paulo Sérgio Pinheiro Antônio Sales Rios Neto

NOVAS PUBLICAÇÕES

Pesquisa detalhada