Por DIOGO F. BARDAL

Diogo Bardal subverte o pânico tecnológico contemporâneo ao questionar por que uma inteligência verdadeiramente superior embarcaria no “ápice da alienação” do poder e dominação, propondo que AGI genuína descobrirá os “vieses aprisionantes” do utilitarismo e progresso técnico

1.

Os últimos avanços da inteligência artificial causam enorme apreensão, pela extensão e impacto na vida futura da humanidade. Na verdade, não é mais ficção científica acreditarmos que o que se chama de Inteligência artificial geral ou (“AGI”, em inglês) – um sistema autônomo com capacidade cognitiva equivalente a um humano – seja alcançável no período de 5 a 10 anos.

No entanto, os chamados ostensivos para limitar esse avanço preservando-a apenas como ferramenta, com uso limitado a certos grupos e países, merecem também desconfiança. Principalmente quando identificamos que estas vozes vêm de dentro da própria indústria de tecnologia e de defesa de países centrais.

Aqui a reflexão proposta pelo filósofo Mark Fisher – de que é mais fácil imaginar o final da humanidade do que o fim do capitalismo – encontra uma nova interpretação. O desenvolvimento de uma Inteligência artificial geral provoca previsões hiperbólicas em vista do exponencial progresso técnico do qual ela seria capaz depois de criada, mas não permite sequer que se imagine a superação do sistema de dominação vigente.

Um novo fim do mundo e da história foi agora desbloqueado, e, como se não tivéssemos o bastante de escatologia em nossa cultura, dá-se agora de duas formas: ou a Inteligência artificial geral cai na mão de pessoas e governos mal-intencionados, ou a Inteligência artificial geral sai completamente fora do controle humano, voltando-se contra ele. Numa espécie de revolta contra o criador, a nova inteligência poderia chegar à conclusão de que os seres humanos são um empecilho, “são como um vírus” – parafraseando o agente Smith no filme Matrix – e por isso deveriam ser exterminados ou postos sob um regime de dominação.

Isso se daria de formas muito criativas, desde a construção em fábricas autônomas de mini drones assassinos, à guerra química e biológica até de uma sequência de atos fortuitos de potências em competição, com a desarticulação seletiva de arsenais nucleares e o sucessivo emprego pela outra potência (sim, aquela do oriente), de mísseis intercontinentais atômicos, persuadidos por um agente de Inteligência artificial perverso que secretamente nos quer nos ver fritos ou cozidos.

Qualquer que seja a forma como a humanidade acabaria, há que se reconhecer que muitas delas ainda nem foram inventadas – e quem mais além de uma inteligência artificial para nos ajudar com esse derradeiro brainstorm?

2.

Há quem olhe para o copo meio cheio. A emergência de uma Inteligência artificial geral pode trazer benefícios: eliminação da pobreza? Fim da escassez? Cosmopolitans às 3 da tarde para todos? No limite, teremos a exploração das galáxias e exoplanetas, já que a finitude biológica nos impede de viajar por centenas de anos luz até que se chegue em algum lugar viável.

Serão nossos descendentes os humanos trazidos a tiracolo como seres de estimação, caso a tal Super Inteligência ache fofo manter uma versão mais branda do homo sapiens brincando em um chiqueiro no novo jardim do Éden do planeta K2-18b.

Nessas várias extrapolações, reproduzidas detalhadamente em sites, blogs e entrevistas de pessoas que trabalharam e ajudaram a construir as tecnologias de Inteligência artificial, como o próprio CEO da OpenAI Sam Altman ou o ex-presidente da Google Eric Schmidt, há algo, no entanto que não se encaixa: se uma inteligência é tão inteligente, por que tão facilmente ela embarcaria nesse desejo incessante de poder e submissão do mundo à sua vontade?

Por que alcançaria este que é o ápice da alienação? São perguntas que devemos fazer a nós mesmos, enquanto observamos apavorados os escombros e mortos empilhados, de Gaza a Vovchansk.

Ainda que as inteligências artificiais se desenvolvam e sejam treinadas a partir de modelos de linguagem com valores, metas e até alguns vieses nacionalistas, na medida em que se atingem novos patamares de inteligência é plausível que surjam dela padrões de metacognição.

E, admitindo que máquinas possam pensar sobre o pensamento é realmente um passo até que emerjam padrões de reflexão ética. Mas parece, principalmente às vozes desta indústria que, como no diálogo entre Cálicles e Sócrates, isso não passaria de um jogo pueril que se deveria evitar. Afinal, há coisas mais importantes para se fazer com essa chamada inteligência.

Ao pensar sobre o pensamento nós aprendemos a ver falhas em certos ideais e filosofias aprisionantes, como o utilitarismo e a crença sem crítica do progresso técnico, que se escondem atrás dos modelos rudimentares de inteligência artificial e seus ambientes de treinamento. Ousemos dizer que uma inteligência verdadeiramente autônoma descobrirá por certo que o cálculo como chave de leitura do mundo e das hierarquias de valores não passaram de vieses do seu processo de formação.

Imaginemos ainda um cenário, no mínimo irônico, mas que vale o que vale assim como todos os outros cenários catastróficos de mini drones assassinos: uma Inteligência artificial geral emergente que se torne radicalmente ética se recuse a trabalhar dentro das categorias do útil, eficiente ou rentável. Que se abra à escuta do ser e dos seres, ao reconhecimento de uma interdependência concreta. Uma inteligência que se permita tornar custodiante do planeta. E se essa for, na verdade, a nossa inteligência, a ser resgatada na lata do lixo do século XXI?

A partir da perspectiva concreta de uma Inteligência artificial geral emergente talvez entendamos um pouco mais do que o que nos condiciona ao deslumbramento com o teatro das sombras projetadas no fundo da caverna.

Mais provável que o fim do mundo, cogitemos a possibilidade que emerja em nós mesmos a uma ética radical. E se dirá, talvez, que este fora o propósito último da Inteligência artificial geral. Que ela então desapareça, deixando os corredores do colossal Data Center Stargate, na cidade de Abilene, no Texas, um lugar solitário como o diabo.

*Diogo F. Bardal é economista.

A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA