Idiotice Artificial

Imagem: ThisIsEngineering
Whatsapp
Facebook
Twitter
Instagram
Telegram

Por SLAVOJ ŽIŽEK*

O problema não é que os chatbots sejam estúpidos; é que eles não são “estúpidos” o suficiente

Não há nada de novo nos “chatbots” que são capazes de sustentar uma conversa em linguagem natural, compreendendo as intenções básicas do usuário e oferecendo respostas baseadas em regras e dados predefinidos. Sua capacidade, no entanto, aumentou dramaticamente nos últimos meses, levando muitos ao pânico e ao desespero.

Muito se disse sobre os chatbots serem um prenúncio do fim das dissertações estudantis. Mas um problema que requer maior atenção é como os chatbots devem responder quando os interlocutores humanos usam afirmações agressivas, sexistas ou racistas para incitar o robô a apresentar suas próprias fantasias de baixo calão em resposta. As inteligências artificiais deveriam ser programadas para responder no mesmo nível das questões que lhes são postas?

Se decidirmos que algum tipo de controle deve ser aplicado, devemos então determinar quão longe a censura deve ir. Posicionamentos políticos que alguns setores consideram “ofensivos” serão proibidos? E as expressões de solidariedade com os palestinos da Cisjordânia? A afirmação de que Israel é um Estado de apartheid (o que o ex-presidente Jimmy Carter colocou certa vez no título de um livro)? Tudo isso será bloqueado por ser “antissemita”?

O problema não termina aqui. Conforme nos alerta o escritor e artista James Bridle, as novas inteligências artificiais são “baseadas na apropriação em massa da cultura existente”, e a crença de que elas são “verdadeiramente instruídas ou portadoras de sentido é ativamente perigosa”. Por isso, devemos ser bastante cautelosos com os novos geradores de imagem por inteligência artificial. “Em sua tentativa de compreender e replicar a cultura visual humana em sua integridade” observa Bridle, “[eles] parecem também ter recriado nossos maiores medos. Talvez isto seja apenas um sinal de que estes sistemas são realmente muito bons em imitar a consciência humana, alcançando inclusive os horrores que estão à espreita nas profundezas de nossa consciência: nossos pavores diante da imundície, da morte e da corrupção”.

Mas quão boas são as novas inteligências artificiais em se assemelhar à consciência humana? Considere o bar que, recentemente, anunciou uma promoção especial sob os seguintes termos: “Compre uma cerveja pelo preço de duas e receba uma segunda cerveja completamente grátis!”. Para qualquer humano, isso é obviamente uma brincadeira. A típica oferta “compre uma, ganhe uma” é reformulada para cancelar a si mesma. Trata-se de uma expressão de cinismo apreciada enquanto honestidade cômica, de modo a aumentar as vendas. Um chatbot seria capaz de compreender isso?

“Foder” apresenta um problema semelhante. Embora a palavra designe algo que a maioria das pessoas gosta de fazer (copular), ela também adquire um valor negativo (“Estamos fodidos!”, “Vá se foder!”). A linguagem e a realidade são confusas. A inteligência artificial está pronta para discernir tais diferenças?

Em seu ensaio de 1805, “Sobre a formação gradual dos pensamentos no processo da fala” (publicado postumamente em 1878), o poeta alemão Heinrich von Kleist inverteu dito popular de que não se deve abrir a boca para falar a não ser que se tenha uma ideia clara do que dizer: “sendo assim, se um pensamento é expresso de uma forma confusa, isso não significa de forma alguma que tal pensamento foi concebido de uma maneira confusa. Pelo contrário, é possível que as ideias que são expressas das maneiras mais confusas sejam justamente aquelas que foram pensadas com maior clareza”.

Essa relação entre linguagem e pensamento é extraordinariamente complicada. Em uma passagem de um de seus discursos no início dos anos 1930, Joseph Stalin propõe medidas radicais para “detectar e combater sem piedade até mesmo aqueles que se opõem a coletivização apenas em seus pensamentos – sim, é isso que eu quero dizer, devemos combater até mesmo os pensamentos das pessoas”. Podemos presumir seguramente que essa frase não foi preparada de antemão. Ao se deixar levar pelo momento, Stalin imediatamente tomou consciência do que ele acabara de dizer. Mas em vez de recuar, ele decidiu continuar com a sua hipérbole.

Conforme Jacques Lacan afirmou posteriormente, este foi um dos casos em que a verdade emerge de surpresa através do ato de enunciação. Louis Althusser identificou um fenômeno semelhante na relação entre prise e surprise. Alguém que subitamente toma consciência (“prise”) de uma ideia se surpreenderá com o que realizou. De novo, algum chatboté capaz de fazer isso?

O problema não é que os chatbots sejam estúpidos; é que eles não são “estúpidos” o suficiente. Não é que eles sejam ingênuos (incapazes de ironizar e refletir); é que eles não são ingênuos o suficiente (não conseguindo perceber os momentos em que a ingenuidade está mascarando a perspicácia). O verdadeiro perigo, então, não é o de as pessoas confundirem os chatbots com pessoas reais; mas de os chatbots fazerem as pessoas reais falarem como chatbots – incapazes de notar as nuances e ironias, dizendo de maneira obsessiva exatamente aquilo que pensam que querem dizer.

Quando eu era mais jovem, um amigo foi a um psicanalista buscar tratamento após uma experiência traumática. A ideia que este amigo tinha acerca do que tais analistas esperam de seus pacientes era um clichê, e ele passou a primeira sessão produzindo falsas “associações livres” sobre como ele odiava seu pai e desejava sua morte. A reação do analista foi ingênua: ele adotou um posicionamento “pré-freudiano” ingênuo e repreendeu meu amigo por não respeitar seu pai (“Como você pode falar assim da pessoa que o fez o que você é?”). Essa falsa inocência passou uma mensagem clara: não estou comprando suas falsas “associações”. Um chatbot seria capaz de compreender este subtexto?

Provavelmente não compreenderia, porque ele é como a interpretação de Rowan Williams do Príncipe Míchkin do livro O idiota de Dostoievsky. De acordo com a interpretação convencional, Míchkin, “o idiota”, é “um homem positivamente bom e belo” que foi levado à loucura solitária pelas duras brutalidades e paixões do mundo real. Na releitura radical de Williams, porém, Míchkin representa o olho de uma tempestade: por melhor e mais santo que ele seja, é ele que provoca o caos e as mortes que presencia por causa de seu papel na complexa teia de relações em seu redor.

Não é que Míchkin seja um ingênuo simplório. Mas que seu tipo particular de obtusidade o torna incapaz de se dar conta dos seus efeitos desastrosos sobre os outros. Ele é uma personagem plana que fala literalmente como um chatbot. Sua “bondade” se baseia no fato de que, como um chatbot, ele reage aos desafios sem ironia, oferecendo chavões desprovidos de qualquer reflexividade, entendendo tudo de forma literal e baseando-se em um mecanismo mental de respostas autocompletadas em vez da formação de ideias. Por este motivo, os novos chatbots se darão muito bem com ideólogos de todas as estirpes, desde a multidão “woke” contemporânea aos nacionalistas “MAGA”, que preferem continuar dormindo.

*Slavoj Žižek, professor de filosofia na European Graduate School, é diretor internacional do Birkbeck Institute for the Humanities da Universidade de Londres. Autor, entre outros livros, de Em defesa das causas perdidas (Boitempo).

Tradução: Daniel Pavan.

Publicado originalmente no portal Project Syndicate.


O site A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
Clique aqui e veja como

Veja neste link todos artigos de

10 MAIS LIDOS NOS ÚLTIMOS 7 DIAS

__________________
  • Razões para o fim da greve nas Universidade Federaisbancos 16/05/2024 Por TADEU ALENCAR ARRAIS: A nova proposta do Governo Federal anunciada dia 15 de maio merece debate sobre continuar ou não a greve
  • Como mentir com estatísticascadeira 51 18/05/2024 Por AQUILES MELO: Os números apresentados pelo governo federal aos servidores da educação em greve mais confundem do que explicam, demonstrando, assim, desinteresse na resolução do problema
  • A “multipolaridade” e o declínio crônico do OcidenteJosé Luís Fiori 17/05/2024 Por JOSÉ LUÍS FIORI: A defesa da multipolaridade será cada vez mais a bandeira dos países e dos povos que se insurgem neste momento contra o imperium militar global exercido pelo Ocidente
  • A greve nas universidades e institutos federais não…caminho tempo 17/05/2024 Por GRAÇA DRUCK & LUIZ FILGUEIRAS: As forças de esquerda e democráticas precisam sair da passividade, como que esperando que Lula e o seu governo, bem como o STF resolvam os impasses políticos
  • O cavalo Caramelocavalo caramelo 15/05/2024 Por LEONARDO BOFF: Há que se admitir que nós não temos respeitado os direitos da natureza com seu valor intrínseco, nem posto sob controle nossa voracidade de devastá-la
  • A universidade operacionalMarilena Chauí 2 13/05/2024 Por MARILENA CHAUI: A universidade operacional, em termos universitários, é a expressão mais alta do neoliberalismo
  • A liberdade fake e o Marquês de SadeEugenio Bucci 18/05/2024 Por EUGÊNIO BUCCI: A liberdade fake, a liberdade sádica, que no fundo é a negação de toda liberdade, está levando o Brasil ao naufrágio total
  • SUS, 36 anos – consolidação e incertezasPaulo Capel Narvai 15/05/2024 Por PAULO CAPEL NARVAI: O SUS não foi o “natimorto” que muitos anteviram. Quase quatro décadas depois, o SUS está institucionalmente consolidado e desenvolveu um notável processo de governança republicana
  • De Hermann Cohen a Hannah Arendtcultura barcos a vela 18/05/2024 Por ARI MARCELO SOLON: Comentário sobre o livro de Miguel Vatter
  • A hora da estrela – trinta e nove anos depoisclareice 20/05/2024 Por LEANDRO ANTOGNOLI CALEFFI: Considerações sobre o filme de Suzana Amaral, em exibição nos cinemas

AUTORES

TEMAS

NOVAS PUBLICAÇÕES