As ideias precisam circular. Ajude A Terra é Redonda a seguir fazendo isso.

Riscos sobrepostos

Imagem: Tara Winstead
Whatsapp
Facebook
Twitter
Instagram
Telegram

Por EUGÊNIO BUCCI*

Se os processos decisórios das sociedades democráticas forem abduzidos pela ignorância fabricada por Inteligência Artificial, a humanidade estará seriamente ameaçada

No final da semana passada, tivemos mais uma notícia sobre o uso sombrio de tecnologias luminosas. Desta vez, uma quadrilha usou ferramentas de deep fake para dar um golpe milionário, que foi muito bem-sucedido. Deep fake, você bem sabe, é o nome que se dá esses vídeos adulterados que parecem tão genuínos como a fala metálica dos âncoras do Jornal Nacional. São vídeos fraudados, mas tão primorosamente fraudados, tão cristalinos, que tornam verossímeis, fidedignas, perfeitas e irrefutáveis imagens de fatos que jamais aconteceram.

Estão em toda parte. Na telinha do celular, celebridades dizem frases que não pronunciaram no mundo real, isso sem falar em figuras públicas estrelando meneios orgiásticos que – feliz ou infelizmente – nunca existiram de verdade. Pois o que sucedeu agora é que os mesmos recursos de ilusionismo convenceram um funcionário do setor financeiro de uma multinacional em Hong Kong que o chefe dele, por teleconferência, ordenava a transferência imediata de 25,6 milhões de dólares para uma conta desconhecida. O sujeito obedeceu, a fortuna se escafedeu e a polícia local corre atrás do prejuízo e dos larápios. Consta que já foram feitas algumas prisões.

Você talvez ache que isso é pouco. Talvez diga não há nada de surpreendente num crime high tech e que desde que o mundo é imundo o malfeito requisita os préstimos de inovações, seja um caco de pedra lascada, seja o curare, seja a máquina de escrever ou, mais presentemente, o smartphone. Mesmo assim, seria prudente examinarmos outro episódio, este um pouco mais intrigante.

Em dezembro, um robô agrediu um engenheiro na linha de montagem de uma das instalações da Tesla, nos Estados Unidos. A máquina chegou a cravar as garras de aço no braço do incauto ser humano. As explicações vieram de viés, de má vontade e, até agora, pairam dúvidas sobre o que se passou e como. O que houve ali? Foi uma falha de programação? Se a hipótese for verdadeira, o monstrengo lubrificado não estava a serviço de um criminoso sem escrúpulos, mas teria agido por sua conta, como se tivesse livre arbítrio, ou, no mínimo, uma arbitrariedade insana. Isso, de fato, é mais intrigante.

Imagine agora uma combinação, ou uma sobreposição, entre a primeira e a segunda notícia. Imagine um robô virtual (um bot, como dizem) que comande a confecção de imagens artificiais que satisfaçam a curiosidades sequiosas da plateia. Às vezes, esse ente imaterial trabalharia sob os comandos de seres supostamente humanos.

Outras vezes, porém, graças aos feitos admiráveis da automatização, o nosso ente cibernético seria capaz de, com autonomia, urdir proezas arrebatadoras, mais ou menos como o algoritmo do Spotify, com seus automatismos bem treinados, consegue escolher a música que você vai ouvir na sequência, e acerta. Imagine, então, um bot que manipule a deep fake para agradar as retinas perversas das multidões mais raivosas, que se deliciam com o padecimento daqueles a quem dedicam o seu ódio mais peçonhento e que, em nome de seu ódio incondicional, tomam por verdade definitiva todo ultraje que confirme seus preconceitos e suas taras.

Imaginou? Agora vá mais longe. É preciso. O Fórum Econômico Mundial (WEF, na sigla em inglês) foi mais longe. Em janeiro, o Fórum Econômico Mundial apontou a desinformação e as ferramentas para disseminá-la como o maior risco que a humanidade enfrentará nos próximos dois anos. Esse risco é real, insidioso e ruge logo aí, na esquina da sua casa. Em 2024, mais de dois bilhões de eleitores serão chamados a decidir os destinos de 58 países, entre eles Rússia, México, Índia e Estados Unidos. Metade do planeta irá às urnas somente em 2024, o maior ano eleitoral de todos os tempos, segundo as estatísticas. Se a mentira industrializada continuar a fazer os estragos que já faz, sobrevirão desastres cumulativos.

Não há mais como não ver. Se os processos decisórios das sociedades democráticas forem abduzidos pela ignorância fabricada por Inteligência Artificial, a humanidade estará, sim, seriamente ameaçada. O Fórum Mundial tem razão, não dá para negar. Por enquanto, é verdade, estamos falando apenas de um risco, mas esse risco não tem nada de uma “gripezinha”. É pra valer. Se a desinformação triunfar, a democracia vai gerar o seu oposto e será tragada por ele. E não nos faltam ensaios práticos que comprovam a iminência do pior cenário. Nos nossos dias, tenho insistido nisso, desinformação é poder.

Circuitos eletrônicos e mídias digitais podem servir para o bem? Sim, é óbvio que podem. Estão aí a contabilidade das Campanhas da Fraternidade, as consultas virtuais da telemedicina, os modelos ultracomplexos de previsão do tempo. Toda técnica pode servir a boas causas. Mas, desgovernada ou entregue aos caprichos do capital, a técnica sem lei vai nos levar à pior das ribanceiras. Pensadores como Günther Anders, que entenderam as inversões do Iluminismo, pressentiram o semblante do apocalipse produzido pela técnica. Mas o que vem vindo aí, se não fizermos nada, é ainda mais assombroso.

*Eugênio Bucci é  professor titular na Escola de Comunicações e Artes da USP. Autor, entre outros livros, de Incerteza, um ensaio: como pensamos a ideia que nos desorienta (e oriente o mundo digital) (Autêntica). [https://amzn.to/3SytDKl]

Publicado originalmente no jornal O Estado de S. Paulo.


A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA

AUTORES

TEMAS

MAIS AUTORES

Lista aleatória de 160 entre mais de 1.900 autores.
Sandra Bitencourt Rubens Pinto Lyra Manchetômetro Leonardo Avritzer Henri Acselrad Renato Dagnino Igor Felippe Santos Marcus Ianoni João Carlos Loebens Afrânio Catani Maria Rita Kehl Valério Arcary Gilberto Lopes Érico Andrade Thomas Piketty Luiz Bernardo Pericás André Singer Priscila Figueiredo José Micaelson Lacerda Morais Celso Frederico Ari Marcelo Solon Antônio Sales Rios Neto Ricardo Abramovay Antonio Martins Gabriel Cohn Leonardo Sacramento José Costa Júnior Manuel Domingos Neto Jean Marc Von Der Weid Eugênio Bucci Rafael R. Ioris Ricardo Antunes Luiz Renato Martins Jorge Branco Heraldo Campos Fernão Pessoa Ramos Gilberto Maringoni Chico Whitaker Flávio Aguiar Michael Roberts Luis Felipe Miguel Leda Maria Paulani Eduardo Borges Francisco Pereira de Farias Andrew Korybko Anderson Alves Esteves José Machado Moita Neto Fábio Konder Comparato Gerson Almeida Samuel Kilsztajn Francisco de Oliveira Barros Júnior Ronald Rocha Vladimir Safatle Luiz Carlos Bresser-Pereira Marcos Aurélio da Silva Francisco Fernandes Ladeira Dennis Oliveira Fernando Nogueira da Costa Rodrigo de Faria Daniel Afonso da Silva Valerio Arcary Luciano Nascimento José Luís Fiori Berenice Bento Carlos Tautz Annateresa Fabris Marcos Silva Daniel Costa Marilena Chauí Jean Pierre Chauvin Paulo Capel Narvai Jorge Luiz Souto Maior Julian Rodrigues Chico Alencar Vinício Carrilho Martinez Alysson Leandro Mascaro Claudio Katz Benicio Viero Schmidt Leonardo Boff Everaldo de Oliveira Andrade Mariarosaria Fabris Boaventura de Sousa Santos Marilia Pacheco Fiorillo Dênis de Moraes Anselm Jappe André Márcio Neves Soares Remy José Fontana Ronaldo Tadeu de Souza Eliziário Andrade Luiz Costa Lima José Geraldo Couto Ronald León Núñez Bruno Machado Paulo Martins Armando Boito Bernardo Ricupero Celso Favaretto Luiz Marques Marcelo Guimarães Lima Alexandre Aragão de Albuquerque Slavoj Žižek Bento Prado Jr. José Raimundo Trindade Osvaldo Coggiola Kátia Gerab Baggio Lincoln Secco Luís Fernando Vitagliano Alexandre de Lima Castro Tranjan Otaviano Helene Caio Bugiato Tales Ab'Sáber Ladislau Dowbor Airton Paschoa Lorenzo Vitral João Paulo Ayub Fonseca João Sette Whitaker Ferreira Eleonora Albano Luiz Werneck Vianna Atilio A. Boron Paulo Fernandes Silveira Paulo Nogueira Batista Jr Ricardo Musse Daniel Brazil Michael Löwy Roberto Bueno Walnice Nogueira Galvão Plínio de Arruda Sampaio Jr. Carla Teixeira Sergio Amadeu da Silveira Elias Jabbour João Adolfo Hansen Vanderlei Tenório Luiz Roberto Alves Alexandre de Freitas Barbosa João Feres Júnior Eleutério F. S. Prado Tadeu Valadares Marjorie C. Marona Paulo Sérgio Pinheiro Juarez Guimarães Lucas Fiaschetti Estevez Salem Nasser Roberto Noritomi Ricardo Fabbrini Milton Pinheiro José Dirceu Liszt Vieira Mário Maestri Henry Burnett João Lanari Bo Eugênio Trivinho Antonino Infranca Luiz Eduardo Soares Yuri Martins-Fontes Flávio R. Kothe Bruno Fabricio Alcebino da Silva Tarso Genro Marcelo Módolo Denilson Cordeiro João Carlos Salles

NOVAS PUBLICAÇÕES

Pesquisa detalhada