O deserto pós-humano

Imagem: Pavel Danilyuk
Whatsapp
Facebook
Twitter
Instagram
Telegram

Por SLAVOJ ŽIŽEK*

O desenvolvimento da Inteligência Artificial levará ao fim do capitalismo tal como o conhecemos

A carta aberta do instituto The Future of Life exigindo uma pausa cautelar de seis meses no desenvolvimento de inteligências artificiais já foi assinada por milhares de figuras de alto escalão, incluindo Elon Musk. Os signatários temem que os laboratórios de IA estejam “presos em uma corrida descontrolada” pelo desenvolvimento e pela implementação de sistemas cada vez mais poderosos que ninguém – inclusive seus criadores – pode compreender, prever ou controlar.

O que explica a explosão de pânico dentre certo setor das elites? O controle e a regulação estão, obviamente, no centro da história. Mas por parte de quem? Durante a pausa proposta de um semestre, quando a humanidade poderá fazer um balanço dos riscos, quem a defenderá? Uma vez que os laboratórios de Inteligência Artificial na China, na Índia e na Rússia continuarão trabalhando (possivelmente em segredo), um debate público global acerca do problema é inconcebível.

Apesar disso, devemos considerar o que está em jogo aqui. Em seu livro de 2015, Homo Deus, o historiador Yuval Harari previu que a consequência mais provável da Inteligência Artificial seria uma divisão radical – muito mais forte do que a divisão de classes – no interior da sociedade humana. Muito em breve, a biotecnologia e os algoritmos computacionais unirão forças na produção de “corpos, cérebros e mentes,” resultando em um aumento na lacuna “entre aqueles que sabem como desenvolver corpos e cérebros e aqueles que não sabem”. Neste mundo, “aqueles que tomaram o trem do progresso irão adquirir capacidades divinas de criação e destruição, enquanto os que foram deixados para trás serão condenados à extinção”.

O pânico que a carta sobre a Inteligência Artificial reflete parte do medo de que até mesmo aqueles que estão no “trem do progresso” serão incapazes de conduzi-lo. Nossos mestres feudais digitais contemporâneos estão assustados. O que eles querem, no entanto, não é o debate público, mas um acordo entre governos e empresas de tecnologia para que o poder seja mantido em seu lugar.

A expansão massiva das capacidades da Inteligência Artificial é uma ameaça séria àqueles no poder – incluindo os que desenvolvem, possuem e controlam a Inteligência Artificial. Ela aponta para nada menos do que o fim do capitalismo tal como o conhecemos, que se manifesta no prospecto de um sistema de Inteligência Artificial auto reprodutor que requererá cada vez menos inputs dos agentes humanos (as negociações algorítmicas no mercado são apenas o primeiro passo nesta direção). A escolha que nos resta será entre uma nova forma de comunismo e o caos incontrolável.

Os novos chatbots oferecerão a muitas pessoas solitárias (ou não tão solitárias) infindáveis noites de conversa amigável sobre filmes, livros, culinária ou política. Reaproveitando uma velha metáfora minha, o que as pessoas terão é a versão Inteligência Artificial do café descafeinado, do refrigerante sem açúcar: um vizinho amigável sem segredos obscuros, um Outro que simplesmente se acomodará às suas necessidades. Há uma estrutura de negação fetichista aqui: “Eu sei muito bem que não estou falando com uma pessoa real, mas sinto que estou – e sem qualquer um dos riscos que isso implica!”

De qualquer forma, um exame cuidadoso da carta sobre as Inteligência Artificial mostra que estamos diante de mais uma tentativa de proibir o impossível. Trata-se um velho paradoxo: é impossível que nós, enquanto humanos, participemos em um futuro pós-humano, logo, devemos proibir seu desenvolvimento. Para nos orientarmos diante destas tecnologias, devemos fazer a velha pergunta de Lênin: Liberdade para quem fazer o quê? Em qual sentido éramos livres antes? Já não éramos muito mais controlados do que percebíamos? Em vez de reclamar da ameaça à nossa liberdade e dignidade no futuro, talvez devamos antes considerar o que liberdade significa agora. Enquanto não fizermos isso, agiremos como histéricos que, de acordo com o psicanalista francês Jacques Lacan, estão desesperados em busca de um mestre, mas um que possamos dominar.

O futurista Ray Kurzweil prevê que, devido à natureza exponencial do progresso tecnológico, em breve teremos de lidar com máquinas “espirituais” que não apenas demonstrarão todos os sinais de autoconsciência, mas irão superar, e muito, a inteligência humana. Todavia, não devemos confundir este posicionamento “pós-humano” com a preocupação paradigmaticamente moderna de conquistar um domínio tecnológico total sobre a natureza. O que estamos testemunhando, em vez disso, é uma inversão dialética deste processo.

As ciências “pós-humanas” de hoje não estão mais atrás de dominação. Sua crença é a surpresa: que tipo de propriedades emergentes, contingentes e não planejadas os modelos de Inteligência Artificial “caixa-preta” poderão adquirir? Ninguém sabe, e aqui está a emoção – ou, na verdade, a banalidade – de todo este empreendimento.

Assim sendo, no início deste século, o filósofo-engenheiro francês Jean-Pierre Dupuy detectou nas novas robótica, genética, nanotecnologia, vida artificial e Inteligência Artificial uma inversão estranha da arrogância antropocêntrica tradicional que a tecnologia permite: “Como podemos explicar que a ciência se tornou uma atividade tão ‘arriscada’ que, de acordo com alguns cientistas de alto nível, ela é, hoje, a principal ameaça à sobrevivência da humanidade? Alguns filósofos respondem a esta pergunta dizendo que o sonho de Descartes – ‘tornar-se o mestre e possuidor da natureza’ – deu errado, e que devemos urgentemente retornar ao ‘domínio do domínio’. Eles não entenderam nada. Não veem que a tecnologia que se conforma em nosso horizonte através da ‘convergência’ de todas as disciplinas visa justamente o não domínio. O engenheiro de amanhã não será um aprendiz de feiticeiro por sua negligência ou ignorância, mas por escolha”.

A humanidade está criando seu próprio deus ou diabo. Enquanto o resultado não puder ser previsto, uma coisa é certa. Se algo semelhante a essa “pós-humanidade” emerge enquanto um fato coletivo, nossa visão de mundo perderá todos os três de seus sujeitos definidores e sobrepostos: humanidade, natureza e divindade. Nossa identidade enquanto humanos pode apenas existir sobre o pano de fundo de uma natureza impenetrável, mas se a vida se torna algo que pode ser completamente manipulado pela tecnologia, ela perderá seu caráter “natural”. Uma existência plenamente controlada é uma existência desprovida de sentido, sem mencionar o acaso e o encanto.

O mesmo, é claro, vale para qualquer sentido de divino. A experiência humana de “deus” tem sentido apenas a partir do ponto de vista da finitude e da mortalidade humana. Quando nos transformarmos em homo deus e criarmos propriedades que parecem ser “supernaturais” a partir de nosso velho ponto de vista humano, os “deuses”, tal como os conhecemos, desaparecerão. A questão é o que restará, se é que algo restará. Iremos venerar as inteligências artificias que criamos?

Temos todas as razões para temer que as visões tecno-gnósticas de um futuro pós-humano sejam fantasias ideológicas ofuscando o abismo que nos aguarda. Não é preciso dizer que será preciso muito mais do que uma pausa de seis meses para garantir que os humanos não se tornem irrelevantes, e suas vidas desprovidas de sentido, em um futuro não tão distante.

*Slavoj Žižek, professor de filosofia na European Graduate School, é diretor internacional do Birkbeck Institute for the Humanities da Universidade de Londres. Autor, entre outros livros, de Em defesa das causas perdidas (Boitempo).

Tradução: Daniel Pavan.

Publicado originalmente no portal Project Syndicate.


O site A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
Clique aqui e veja como

Veja neste link todos artigos de

AUTORES

TEMAS

MAIS AUTORES

Lista aleatória de 160 entre mais de 1.900 autores.
Chico Alencar Rafael R. Ioris Ricardo Musse Michael Roberts Salem Nasser Jean Pierre Chauvin Sandra Bitencourt Rubens Pinto Lyra Carla Teixeira José Dirceu Ladislau Dowbor Marcus Ianoni Valerio Arcary Henry Burnett Priscila Figueiredo João Carlos Loebens Chico Whitaker Ari Marcelo Solon João Sette Whitaker Ferreira Lincoln Secco Flávio Aguiar José Machado Moita Neto Renato Dagnino Alexandre Aragão de Albuquerque Ronaldo Tadeu de Souza Francisco de Oliveira Barros Júnior Igor Felippe Santos Andrés del Río Bruno Fabricio Alcebino da Silva Alexandre de Freitas Barbosa José Costa Júnior Paulo Martins Benicio Viero Schmidt Gilberto Lopes Dennis Oliveira Plínio de Arruda Sampaio Jr. Eliziário Andrade Daniel Afonso da Silva Bruno Machado Claudio Katz Paulo Nogueira Batista Jr Rodrigo de Faria Antônio Sales Rios Neto Yuri Martins-Fontes Gerson Almeida Caio Bugiato José Raimundo Trindade Leonardo Sacramento Eugênio Trivinho Marcos Aurélio da Silva Leonardo Avritzer Marcos Silva Michel Goulart da Silva Celso Favaretto Eduardo Borges José Geraldo Couto Manuel Domingos Neto João Paulo Ayub Fonseca Denilson Cordeiro Ricardo Abramovay Juarez Guimarães Tadeu Valadares Daniel Costa Vanderlei Tenório Paulo Capel Narvai Remy José Fontana Luis Felipe Miguel Elias Jabbour Everaldo de Oliveira Andrade Annateresa Fabris Fábio Konder Comparato Armando Boito Anselm Jappe Fernando Nogueira da Costa João Feres Júnior Paulo Fernandes Silveira Marilia Pacheco Fiorillo Daniel Brazil Berenice Bento Bento Prado Jr. André Singer João Carlos Salles Manchetômetro Kátia Gerab Baggio Jorge Luiz Souto Maior Luiz Bernardo Pericás Flávio R. Kothe Mário Maestri Leonardo Boff Walnice Nogueira Galvão Atilio A. Boron Slavoj Žižek Celso Frederico Jorge Branco Matheus Silveira de Souza Francisco Fernandes Ladeira Érico Andrade Luiz Werneck Vianna Ronald Rocha Ricardo Fabbrini Michael Löwy Luiz Carlos Bresser-Pereira Sergio Amadeu da Silveira João Adolfo Hansen Fernão Pessoa Ramos Marjorie C. Marona Francisco Pereira de Farias Gabriel Cohn Henri Acselrad João Lanari Bo Dênis de Moraes Gilberto Maringoni Marcelo Módolo Milton Pinheiro Eugênio Bucci Alexandre de Lima Castro Tranjan Paulo Sérgio Pinheiro Osvaldo Coggiola Maria Rita Kehl Thomas Piketty Mariarosaria Fabris Liszt Vieira Vladimir Safatle André Márcio Neves Soares Bernardo Ricupero Luciano Nascimento Eleonora Albano Valerio Arcary Eleutério F. S. Prado Heraldo Campos Ricardo Antunes Vinício Carrilho Martinez Afrânio Catani Marcelo Guimarães Lima Andrew Korybko Lucas Fiaschetti Estevez Luiz Marques Leda Maria Paulani Tales Ab'Sáber Carlos Tautz Otaviano Helene Samuel Kilsztajn Luiz Eduardo Soares Airton Paschoa Anderson Alves Esteves José Micaelson Lacerda Morais Antonino Infranca Lorenzo Vitral Luís Fernando Vitagliano Boaventura de Sousa Santos Ronald León Núñez José Luís Fiori Alysson Leandro Mascaro Antonio Martins Julian Rodrigues Luiz Roberto Alves Luiz Renato Martins Jean Marc Von Der Weid Tarso Genro Marilena Chauí

NOVAS PUBLICAÇÕES

Pesquisa detalhada