Por CLAUDINEI LUIZ CHITOLINA*

A servidão voluntária na era digital: como a IA Generativa, a serviço do capital, nos vigia, controla e aliena com nosso próprio consentimento

1.

O surgimento, o rápido avanço e a rápida disseminação das novas ferramentas de Inteligência artificial – denominadas de Inteligência artificial generativa – robôs virtuais capazes de gerar textos, imagens, vídeos, áudios etc., representam, sem dúvida, a nova fase da revolução tecnológica em curso.

Pela primeira vez na história da humanidade, ferramentas de Inteligência artificial generativa “simulam” ou imitam com grande perfeição o comportamento inteligente e capacidades cognitivas humanas, como o pensamento, a escrita e a fala – consideradas até então como propriedade exclusivamente humana. Daí a intensa propaganda midiática, tanto das novas mídias digitais quanto das mídias convencionais (TV, rádio, cinema, jornais e revistas) acerca das novas potencialidades da tecnologia da Inteligência artificial generativa.

Aliado a isso, a facilidade de acesso e de uso dos dispositivos de Inteligência artificial generativa contribui para difundir a crença de que existem ferramentas de inteligência artificial – dispositivos ou máquinas capazes de pensar tal como ou melhor que os seres humanos, o que permitiu a rápida implementação e aplicação nos diferentes setores da atividade humana. Note-se, porém, que a indústria da propaganda e do marketing é financiada para propagandear os benefícios e as maravilhas tecnológicas da Inteligência artificial generativa e não seus limites, perigos e ameaças.

Entretanto, em termos filosóficos, é preciso questionar se as máquinas podem pensar. Ou seja, o que é uma máquina? O que é pensar? O pensamento é computável? A Inteligência artificial generativa não traz consigo uma nova definição de inteligência? É possível ressignificar o conceito de inteligência suprimindo ou reduzindo sua compreensão? A expressão “inteligência artificial” não é uma contradição lógica?

A fim de podermos contrastar e diferenciar as operações da inteligência humana – do pensamento e da linguagem (concepção, entendimento, compreensão, análise, síntese, criticidade, criatividade, comunicação etc.) com as operações sintáticas e estatísticas dos simuladores artificiais da inteligência (ou da Inteligência artificial generativa) resulta necessário e legítimo recorrermos à análise filosófica.

Como sabemos, há uma distância abissal entre as promessas ou previsões da tecnologia da Inteligência artificial generativa e a realidade. Porém, para os gurus, ideólogos ou futuristas da Inteligência artificial generativa estamos ingressando numa nova etapa evolutiva da tecnologia digital que poderá igualar e suplantar a inteligência humana. Entretanto, o que temos (e talvez tudo o que podemos ter) é um simulacro de inteligência – uma falsa cópia, mas que se apresenta como um modelo de inteligência. Ora, assim como há uma diferença entre mapa e território, há também uma diferença de natureza entre o modelo de Inteligência artificial generativa e a inteligência humana (com suas faculdades ou capacidades).

2.

No mundo dominado pela tecnologia de Inteligência artificial A generativa (ou pelos algoritmos), a capacidade de pensar de forma crítica e reflexiva tornou-se, aos olhos dos tecnocratas, algo inútil ou desnecessário. A Inteligência artificial generativa pensa por nós, basta aprender a operar suas funcionalidades. Para os tecnocratas, não só o modo como pensamos, mas o que pensamos (o conteúdo de nosso pensamento) – nossas ideias, afetos, desejos, propósitos ou interesses poderão ser transferidas para as novas ferramentas da tecnologia digital, poupando tempo e esforço intelectual.

Porém, o atual avanço tecnológico transformou a razão num instrumento de cálculo, uma vez que indagar acerca da eficiência dos meios é mais útil e relevante que indagar acerca da legitimidade ou da (ir)racionalidade dos princípios e fins. Neste sentido, a Inteligência artificial generativa é apresentada como se fosse um oráculo digital, capaz de explicar a realidade, resolver problemas, instruir, orientar, prever ou predizer acontecimentos, o que sugere que estamos diante de um novo mito ou de uma nova forma de mitologia (e de ideologia).

Por isso, é preciso desmistificar a tecnologia, a fim de sabemos de suas potencialidades e de seus limites. Neste sentido, a incapacidade de grande parte dos usuários de questionar a possiblidade ou impossibilidade de existirem máquinas inteligentes, é uma realidade que decorre, sobretudo, da diferença que existe entre alfabetização digital (uso técnico/operacional da tecnologia) e letramento digital (uso crítico da tecnologia).

Assim, do ponto de vista de grande parte dos usuários, a Inteligência artificial generativa é vista como se fosse de fato um dispositivo ou uma entidade inteligente – capaz de resolver ou de solucionar inúmeros problemas humanos, dispensando o ser humano da árdua tarefa de pensar.

A euforia e o entusiasmo quando não o deslumbramento de muitos usuários de Inteligência artificial generativa traduz o fascínio e o encantamento que o poder da tecnologia exerce sobre a humanidade. Disponibilizada e acessível nos novos aparelhos e dispositivos digitais, a Inteligência artificial generativa transformou-se rapidamente graças à sua “inteligência operacional” (e às suas funcionalidades) numa ferramenta de múltiplos usos (trabalho, educação, comunicação, relacionamento, entretenimento, segurança etc.).

3.

Porém, não se pode compreender criticamente a questão da tecnologia sem compreendermos a lógica de funcionamento da sociedade que a engendra e sustenta. O capitalismo é um sistema econômico, político e social assentado sobre a desigualdade econômica dos indivíduos – a propriedade privada dos meios de produção – a divisão da sociedade em classes, o que significa dizer que quem não detém a propriedade privada dos meios de produção necessita vender sua força de trabalho (submeter-se) aos capitalistas.

O capitalismo atual é caracterizado pela ofensiva neoliberal sobre os trabalhadores e os consumidores por meio da privatização e plataformização dos serviços. Denominada de capitalismo de plataforma (N. Srnicek. Platform capitalism – 2017) ou de capitalismo de vigilância (S. Zuboff. A era do capitalismo de vigilância – 2019), a atual face e fase histórica do capitalismo promove a extração de dados pessoais e institucionais – a mercantilização da vida sob todos os seus aspectos, assim como a intensificação da exploração da força de trabalho.

Se o antigo colonialismo se apropriava de terras, minerais e de produtos agrícolas, o novo colonialismo – denominado de colonialismo de dados, porque se baseia na extração massiva de dados (a nova commodity). Ou seja, a economia de plataforma expropria nossa atenção e nosso tempo. Reproduz, portanto, a lógica de exploração e de dominação das formas anteriores de colonização. Ou seja, novas formas de extração e de exploração da mais valia são inventadas para dar sobrevida ao capitalismo.

Como sabemos, a Inteligência artificial generativa é financiada, projetada, inventada, desenvolvida e implementada pelas grandes corporações ou empresas de tecnologia – Google, Apple, Facebook (Meta), Amazon e Microsoft (Big Techs), cujo objetivo fundamental é aumentar a extração da mais valia relativa dos trabalhadores pela incorporação de novas tecnologias ao aparato produtivo e reduzir ou limitar a capacidade de pensar (e o conhecimento) das pessoas.

Porém, a concentração de poder tecnológico (o oligopólio) das Big Techs representa uma ameaça à soberania digital dos países e à privacidade, segurança, liberdade e autonomia dos indivíduos.

Assim, a fim de encontrar uma saída à crise de reprodução do capital, empresas de tecnologia que detêm o poder tecnológico determinam (e impõem) por meio das plataformas e redes digitais (a infraestrutura tecnológica) as novas formas de relações sociais e de trabalho. Porém, as plataformas digitais possuem em seus mecanismos de funcionamento dispositivos e aplicativos de Inteligência artificial generativa que sob a aparência de modernização tecnológica e informatização das relações de trabalho e de consumo introduzem novos mecanismos de vigilância, controle e dominação.

É por meio da extração massiva de dados pessoais, do rastreamento, da manipulação e da vigilância algorítmica da informação e do comportamento que se visa obter um controle (absoluto) do pensamento, dos desejos, escolhas, decisões e das ações dos usuários das plataformas digitais.

4.

Aos capitalistas não basta expropriar o trabalho dos trabalhadores por meio das novas tecnologias que precarizam as novas relações de trabalho. A desproteção jurídica ou a redução dos direitos trabalhistas, assim como a uberização, a pejotização e a informalização são consequências diretas das reformas trabalhistas de caráter neoliberal.

A fim de legitimar a perversidade e desigualdade social e econômica, isto é, a concentração de riqueza nas mãos de poucos, o capitalismo necessita alienar, expropriar, manipular, direcionar e distorcer o pensamento (a percepção da realidade) dos trabalhadores e dos usuários das plataformas digitais. Surge assim, uma nova forma de totalitarismo (dominação) – o totalitarismo tecnológico, tecnocrático ou digital, porém, mais cruel, sutil e repressivo que as formas históricas anteriores. O poder onipresente e invisível das plataformas digitais dá ao usuário a sensação de liberdade, quando na verdade ele está sendo vigiado e expropriado.

 Embora seja um acontecimento recente, não se pode negar que a Inteligência artificial generativa alterou em grande medida nossa forma de viver – de pensar e agir, de trabalhar, de se relacionar e se comunicar. As plataformas digitais e as redes sociais (digitais) funcionam a partir da lógica dos algoritmos de Inteligência artificial generativa. As novas tecnologias digitais invadiram a esfera pública, assim como a esfera privada, reduzindo nossa individualidade ou subjetividade a dados e informações.

O sujeito humano foi transformado num agregado de dados (e informações). A autonomia foi eliminada pela automação de ações, processos e procedimentos operacionais. O conceito e a compreensão foram substituídos pela imagem (G. Debord. A sociedade do espetáculo – 1967) e pela sensação ou estímulos sensoriais (C. Türcke. Sociedade excitada: filosofia da sensação, 2002). O argumento foi substituído pelo algoritmo. O sujeito deixou de ser autor de suas ideias e de seus propósitos, desejos e interesses. O panóptico digital tudo vê e tudo prevê.

As potencialidades e as virtudes prometeicas das novas ferramentas de Inteligência artificial generativa são não só objeto de propaganda midiática, mas agentes da própria propaganda digital e instrumentos de monitoramento e de manipulação da opinião pública; exercem controle sobre nossas mentes (pensamentos), induzindo, moldando e predizendo o comportamentos dos cidadãos e consumidores – o que significa dizer que estamos diante de uma nova forma de totalitarismo (totalitarismo tecnológico e digital), cujo propósito é a dominação ideológica do pensamento em todos os seus aspectos – filosófico, científico, cultural, político, econômico, social etc.

Assim, para o capitalismo poder se legitimar e triunfar enquanto sistema econômico hegemônico, é preciso impedir o surgimento e o desenvolvimento do pensamento crítico-reflexivo e emancipatório, dado que somente o pensamento crítico que decorre da práxis revolucionária e da ação contra ideológica poderia oferecer resistência e se tornar um instrumento de contraposição e de transformação social.

5.

Entretanto, como sabemos, o neoliberalismo é uma falsa resposta à crise estrutural do capitalismo, porque pretende conter a baixa tendencial da taxa de lucro do capital que decorre do aumento da produtividade enquanto resultado do incremento de novas tecnologias em seu aparato produtivo. Portanto, de forma contraditória, o capitalismo neoliberal recorre à tecnologia no afã de aumentar a produtividade e a taxa de lucro do capital e reduzir os custos de mão de obra e dos meios de subsistência dos trabalhadores (para aumentar o consumo).

Em razão disso, elimina-se postos de trabalho (trabalho vivo) pela substituição do homem pela máquina (trabalho morto), o que acarreta o desemprego em massa (estrutural). Por conseguinte, surge a necessidade de conter o crescimento da produtividade impulsionada pela tecnologia. Em vista disso, provoca-se artificialmente uma recessão na atividade produtiva para resguardar os lucros dos capitalistas e beneficiar os rentistas (especuladores) do mercado financeiro.

Historicamente, o capitalismo passou por metamorfoses, mas sua essência e sua lógica continuam a mesma – expropriar o produto do trabalho do trabalhador, assim como a sua inteligência (fragmentar e automatizar o pensamento) por meio da divisão técnica do trabalho e da tecnologia. Incapaz, portanto, de compreender a totalidade da realidade e a própria condição humana, o trabalhador se vê impotente diante das determinações do capital.

Dessa maneira, o capitalismo consegue em grande medida ocultar mediante a ação da ideologia as relações de exploração e de dominação das classes dirigentes e legitimar a ordem social vigente. A ideologia – a forma dominante de pensamento, é a ideologia da classe economicamente dominante (K. Marx; F. Engels. Ideologia alemã – 1845-/1846).

Ao desvendarem os mecanismos ideológicos de exploração e dominação capitalista, Marx e Engels revelaram a lógica perversa que opera na superestrutura – no pensamento e se encarna nas instituições e se projeta nas ações. Enquanto mecanismo de ocultamento da exploração e da dominação dos trabalhadores, a ideologia atua sobre a consciência (o pensamento) dos trabalhadores, justificando e naturalizando a alienação do trabalhador –, a fim de gerar conformismo e resignação.

Neste sentido, o capitalismo de plataforma (digital) não suplanta as fases anteriores, ao contrário, se sobrepõe, a fim de intensificar a exploração, expandir e intensificar os mecanismos de exploração e dominação. Assim, além de expropriar a força de trabalho e os recursos naturais, o capitalismo digital expropria a experiência humana – a subjetividade (a vida) dos indivíduos pelas plataformas digitais.

6.

Para os teóricos da Escola de Frankfurt (T. Adorno, M. Horkheimer. Dialética do Esclarecimento – 1947; M. Horkheimer. Crítica da racionalidade instrumental – 1947; H. Marcuse. A ideologia da sociedade industrial: o homem unidimensional – 1964), a ideologia é um fenômeno gerado e propagado pela indústria cultural na sociedade capitalista contemporânea, denominada de sociedade de massa (ou de consumo) para impedir a emancipação da classe trabalhadora. Ao estimular os desejos e direcionar o pensamento, os indivíduos (cidadãos) foram transformados em consumidores.

A razão técnica (instrumental), porque limita, fragmenta e automatiza o pensamento dos indivíduos, encarna a ideologia dominante enquanto instrumento de cálculo; desqualifica o pensamento crítico-reflexivo e emancipatório em nome da produtividade e da utilidade econômica.

Contudo, sob o olhar da filosofia, é possível questionar a justeza, a validade e a legitimidade da expressão “inteligência artificial”. Tal expressão é conceitualmente contraditória. Trata-se de uma contradictio in terminis, porque a inteligência enquanto capacidade de pensar racionalmente (ou de forma conceitual), abstrata e lógica é uma propriedade exclusiva dos organismos vivos denominados de seres humanos.

Só os humanos produzem filosofia, ciência, artes, técnica etc., porque são dotados de racionalidade – da capacidade de conhecer. Vê-se, portanto, que a tentativa de criação de seres artificiais inteligentes revela-se um absurdo lógico – o que implica dizer que há uma ideologia ou uma nova mitologia orientando cientistas e engenheiros da computação na ideia tresloucada de criação de mentes artificiais.

Transformada em instrumento de controle, vigilância e manipulação, a tecnologia opera a partir dos rastros digitais dos usuários para transformá-los em consumidores. De outra parte, produz-se cidadãos ou indivíduos conformistas – incapazes de questionar a ordem social vigente, visto que o pensamento e os desejos pessoais são manipulados para fins privados.

Ou seja, ao limitar nossa visão de mundo, a tecnologia de Inteligência artificial generativa das plataformas digitais provoca uma distorção de nossa percepção da realidade. Somos vigiados e controlados para que possamos sustentar a desumanidade – a perversidade e a injustiça do sistema capitalista.

Ora, nenhuma tecnologia é neutra ou desinteressada. Toda tecnologia é concebida, projetada, desenvolvida e implementada para determinados interesses, fins ou propósitos. Sob o capitalismo, a tecnologia é inventada para eliminar ou impedir o surgimento de opositores ou de subversivos e eliminar postos de trabalho, ou seja, está a serviço dos interesses e das necessidades do capital e não da sociedade.

7.

Assim, toda vez que usamos as ferramentas de Inteligência artificial generativa nosso pensamento permanece prisioneiro da lógica de seu funcionamento. O novo totalitarismo – o totalitarismo digital migrou do Estado (do poder político) para o mercado (poder econômico). Não é mais o Estado que por meio da força, do aparato policial e de seus instrumentos de censura e repressão física (prisões, tortura e perseguições) exerce o controle do pensamento, mas as novas ferramentas tecnológicas que estão acessíveis a todos os indivíduos.

Os novos mecanismos de vigilância e de controle digital da sociedade são horizontais e implícitos. Portanto, cooptada pelo capitalismo, a tecnologia da Inteligência artificial generativa se tornou totalitária (absolutista), porque controla o pensamento, a atividade on line, a vida dos usuários (por meio da visualização, comentários, compartilhamento etc.) nas plataformas digitais em nome da suposta liberdade de escolha.

A arquitetura das plataformas digitais limita nossas escolhas e decisões, por isso, é possível prever nosso comportamento on line. Ao eliminar a necessidade do pensamento crítico em nome do pensamento operacional (técnico), a Inteligência artificial estimula o engajamento, o compartilhamento de ideias, a expressão e a exibição pessoal, submete não pela dor, ameaça ou coação, mas pela dependência, comodidade, emoção, sedução, recompensa imediata e prazer.

Tornou-se, portanto, um instrumento de controle e de vigilância que ameaça a privacidade e a autonomia individual com o consentimento livre das pessoas (A. Huxley. Admirável mundo novo – 1932).

Em nosso tempo, a tecnologia da Inteligência artificial generativa é a forma mais sofisticada e suprema de materialização da racionalidade técnica (instrumental). São os critérios técnicos como eficiência, funcionalidade, utilidade, produtividade e lucratividade que determinam a invenção e a finalidade das novas tecnologias.

Embora seja um modelo teórico e estatístico de inteligência, a Inteligência artificial generativa pretende simplificar ou substituir a inteligência humana. A compreensão é substituída pela predição do comportamento ou da conduta. Como dissemos, a autonomia intelectual é substituída pela automação (por sistemas de Inteligência artificial automatizados). A crítica é substituída pela eficiência operacional. O conhecimento é substituído pela informação. A liberdade é substituída pela servidão voluntária.

O pensamento é substituído pela simulação de pensamento. Assim, a racionalidade técnica (comandada pela lógica digital) pretende tornar obsoleto, supérfluo e inútil, sem valor o pensamento crítico-reflexivo. Neste sentido, a filosofia é vista pelos capitalistas não apenas como um saber inútil, mas como superada pelo pensamento técnico ou operacional.

A tecnificação do pensamento representa a morte do próprio pensamento. Entretanto, a filosofia continua sendo necessária, porque não pode ser superada nem eliminada pela tecnologia. Ela é intrinsecamente perigosa, porque tem por tarefa desmistificar ou desmascarar a ideologia – o pensamento dominante e alienante e promover a emancipação intelectual dos indivíduos. Portanto, continua sendo tarefa indeclinável da filosofia indagar criticamente acerca da natureza da tecnologia e de sua relação com o ser humano.

*Claudinei Luiz Chitolina é professor de filosofia na Universidade Estadual do Paraná – Paranavaí. Autor, entre outros livros, de Para ler e escrever textos filosóficos (Ideias & Letras). [https://amzn.to/487xs0Q]

A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
C O N T R I B U A