Riscos sobrepostos

Imagem: Tara Winstead
Whatsapp
Facebook
Twitter
Instagram
Telegram

Por EUGÊNIO BUCCI*

Se os processos decisórios das sociedades democráticas forem abduzidos pela ignorância fabricada por Inteligência Artificial, a humanidade estará seriamente ameaçada

No final da semana passada, tivemos mais uma notícia sobre o uso sombrio de tecnologias luminosas. Desta vez, uma quadrilha usou ferramentas de deep fake para dar um golpe milionário, que foi muito bem-sucedido. Deep fake, você bem sabe, é o nome que se dá esses vídeos adulterados que parecem tão genuínos como a fala metálica dos âncoras do Jornal Nacional. São vídeos fraudados, mas tão primorosamente fraudados, tão cristalinos, que tornam verossímeis, fidedignas, perfeitas e irrefutáveis imagens de fatos que jamais aconteceram.

Estão em toda parte. Na telinha do celular, celebridades dizem frases que não pronunciaram no mundo real, isso sem falar em figuras públicas estrelando meneios orgiásticos que – feliz ou infelizmente – nunca existiram de verdade. Pois o que sucedeu agora é que os mesmos recursos de ilusionismo convenceram um funcionário do setor financeiro de uma multinacional em Hong Kong que o chefe dele, por teleconferência, ordenava a transferência imediata de 25,6 milhões de dólares para uma conta desconhecida. O sujeito obedeceu, a fortuna se escafedeu e a polícia local corre atrás do prejuízo e dos larápios. Consta que já foram feitas algumas prisões.

Você talvez ache que isso é pouco. Talvez diga não há nada de surpreendente num crime high tech e que desde que o mundo é imundo o malfeito requisita os préstimos de inovações, seja um caco de pedra lascada, seja o curare, seja a máquina de escrever ou, mais presentemente, o smartphone. Mesmo assim, seria prudente examinarmos outro episódio, este um pouco mais intrigante.

Em dezembro, um robô agrediu um engenheiro na linha de montagem de uma das instalações da Tesla, nos Estados Unidos. A máquina chegou a cravar as garras de aço no braço do incauto ser humano. As explicações vieram de viés, de má vontade e, até agora, pairam dúvidas sobre o que se passou e como. O que houve ali? Foi uma falha de programação? Se a hipótese for verdadeira, o monstrengo lubrificado não estava a serviço de um criminoso sem escrúpulos, mas teria agido por sua conta, como se tivesse livre arbítrio, ou, no mínimo, uma arbitrariedade insana. Isso, de fato, é mais intrigante.

Imagine agora uma combinação, ou uma sobreposição, entre a primeira e a segunda notícia. Imagine um robô virtual (um bot, como dizem) que comande a confecção de imagens artificiais que satisfaçam a curiosidades sequiosas da plateia. Às vezes, esse ente imaterial trabalharia sob os comandos de seres supostamente humanos.

Outras vezes, porém, graças aos feitos admiráveis da automatização, o nosso ente cibernético seria capaz de, com autonomia, urdir proezas arrebatadoras, mais ou menos como o algoritmo do Spotify, com seus automatismos bem treinados, consegue escolher a música que você vai ouvir na sequência, e acerta. Imagine, então, um bot que manipule a deep fake para agradar as retinas perversas das multidões mais raivosas, que se deliciam com o padecimento daqueles a quem dedicam o seu ódio mais peçonhento e que, em nome de seu ódio incondicional, tomam por verdade definitiva todo ultraje que confirme seus preconceitos e suas taras.

Imaginou? Agora vá mais longe. É preciso. O Fórum Econômico Mundial (WEF, na sigla em inglês) foi mais longe. Em janeiro, o Fórum Econômico Mundial apontou a desinformação e as ferramentas para disseminá-la como o maior risco que a humanidade enfrentará nos próximos dois anos. Esse risco é real, insidioso e ruge logo aí, na esquina da sua casa. Em 2024, mais de dois bilhões de eleitores serão chamados a decidir os destinos de 58 países, entre eles Rússia, México, Índia e Estados Unidos. Metade do planeta irá às urnas somente em 2024, o maior ano eleitoral de todos os tempos, segundo as estatísticas. Se a mentira industrializada continuar a fazer os estragos que já faz, sobrevirão desastres cumulativos.

Não há mais como não ver. Se os processos decisórios das sociedades democráticas forem abduzidos pela ignorância fabricada por Inteligência Artificial, a humanidade estará, sim, seriamente ameaçada. O Fórum Mundial tem razão, não dá para negar. Por enquanto, é verdade, estamos falando apenas de um risco, mas esse risco não tem nada de uma “gripezinha”. É pra valer. Se a desinformação triunfar, a democracia vai gerar o seu oposto e será tragada por ele. E não nos faltam ensaios práticos que comprovam a iminência do pior cenário. Nos nossos dias, tenho insistido nisso, desinformação é poder.

Circuitos eletrônicos e mídias digitais podem servir para o bem? Sim, é óbvio que podem. Estão aí a contabilidade das Campanhas da Fraternidade, as consultas virtuais da telemedicina, os modelos ultracomplexos de previsão do tempo. Toda técnica pode servir a boas causas. Mas, desgovernada ou entregue aos caprichos do capital, a técnica sem lei vai nos levar à pior das ribanceiras. Pensadores como Günther Anders, que entenderam as inversões do Iluminismo, pressentiram o semblante do apocalipse produzido pela técnica. Mas o que vem vindo aí, se não fizermos nada, é ainda mais assombroso.

*Eugênio Bucci é  professor titular na Escola de Comunicações e Artes da USP. Autor, entre outros livros, de Incerteza, um ensaio: como pensamos a ideia que nos desorienta (e oriente o mundo digital) (Autêntica). [https://amzn.to/3SytDKl]

Publicado originalmente no jornal O Estado de S. Paulo.


A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA

Veja neste link todos artigos de

10 MAIS LIDOS NOS ÚLTIMOS 7 DIAS

__________________
  • Sobre a ignorância artificialEugenio Bucci 15/06/2024 Por EUGÊNIO BUCCI: Hoje, a ignorância não é uma casa inabitada, desprovida de ideias, mas uma edificação repleta de baboseiras desarticuladas, uma gosma de densidade pesada que ocupa todos os espaços
  • Franz Kafka, espírito libertárioFranz Kafka, espírito libertário 13/06/2024 Por MICHAEL LÖWY: Notas por ocasião do centenário da morte do escritor tcheco
  • A sociedade da história mortasala de aula parecida com a da história usp 16/06/2024 Por ANTONIO SIMPLICIO DE ALMEIDA NETO: A disciplina de história foi inserida numa área genérica chamada de Ciências Humanas e Sociais Aplicadas e, por fim, desapareceu no ralo curricular
  • Carta ao presidenteLula 59mk,g 18/06/2024 Por FRANCISCO ALVES, JOÃO DOS REIS SILVA JÚNIOR & VALDEMAR SGUISSARDI: “Concordamos plenamente com V. Exa. quando afirma e reafirma que ‘Educação é investimento, não é gasto’”
  • Um olhar sobre a greve das federais de 2024lula haddad 20/06/2024 Por IAEL DE SOUZA: Com alguns meses de governo, comprovou-se o estelionato eleitoral de Lula, acompanhado do seu “fiel escudeiro”, o Ministro da Fazenda, Fernando Haddad
  • Fortalecer o PROIFESsala de aula 54mf 15/06/2024 Por GIL VICENTE REIS DE FIGUEIREDO: A tentativa de cancelar o PROIFES e, ao mesmo tempo, fechar os olhos para os erros da direção da ANDES é um desserviço à construção de um novo cenário de representação
  • A PEC-65: independência ou patrimonialismo no Banco Central?campos neto cavalo de troia 17/06/2024 Por PEDRO PAULO ZAHLUTH BASTOS: O que Roberto Campos Neto propõe é a emenda constitucional do almoço grátis para a futura elite do Banco Central
  • Chico Buarque, 80 anoschico 19/06/2024 Por ROGÉRIO RUFINO DE OLIVEIRA: A luta de classes, universal, particulariza-se no requinte da intenção construtiva, na tônica de proparoxítonas proletárias
  • A armadilha de Volodymyr Zelenskystar wars 15/06/2024 Por HUGO DIONÍSIO: Quer Zelensky consiga o seu copo cheio – a entrada dos EUA na guerra – ou seu copo meio cheio – a entrada da Europa na guerra –, qualquer das soluções é devastadora para as nossas vidas
  • O melancólico fim do Estadãocarros abandonados 17/06/2024 Por JULIAN RODRIGUES: Péssima notícia: o quase sesquicentenário diário paulista ( e melhor jornal brasileiro) definha aceleradamente

AUTORES

TEMAS

NOVAS PUBLICAÇÕES