Por CLAUDINEI LUIZ CHITOLINA*
Com a IA generativa o pensamento original e sua cópia – réplica e reprodução tornaram-se indistinguíveis. Por isso, o pensamento autônomo e autoral corre o risco de desaparecer
1.
É inegável que a ascensão da Inteligência artificial generativa trouxe novos recursos tecnológicos e novas possibilidades – geração de textos, imagens, áudios, vídeos, códigos para os diferentes setores da atividade humana, como comunicação, produção, comércio (negócios), segurança, transporte, educação, saúde, artes, esportes, saúde, direito, política, relacionamentos etc.
Por outro lado, não se pode negar que as ferramentas de Inteligência artificial generativa trouxeram consigo novos problemas, riscos e desafios para a humanidade. Dado seu caráter pervasivo, a Inteligência artificial generativa está alterando profundamente a forma de viver, pensar, agir, produzir e se comunicar do homem contemporâneo.
Ora, a determinação técnica do pensamento é regida por critérios da razão instrumental extraídos da lógica mercantil. A sobreposição da utilidade e da eficiência produtiva sobre outros aspectos ou critérios do pensamento evidencia a hegemonia da racionalidade econômica sobre outras formas de racionalidade – o que torna o pensamento um procedimento acrítico e irreflexivo. Neste caso, o pensamento torna-se unidimensional (uniforme).
O cálculo – a operação formal do pensamento constitui a estrutura lógica da razão técnica, dado que a eficiência dos meios é mais relevante que a legitimidade dos fins de nossas ações. Ou seja, o pensamento técnico é utilitário e operacional – dado que o saber-fazer/saber operar constitui o critério,
Ora, se a primeira Revolução Industrial transferiu para as máquinas muitas tarefas manuais, a revolução digital em curso pretende transferir para as máquinas físicas e robôs virtuais (chatbots) grande parte das funções mentais do ser humano.
Neste sentido, o entusiasmo eufórico dos defensores da Inteligência artificial generativa é responsável por disseminar na grande mídia e na sociedade a falsa ideia (crença) de que é possível num futuro próximo, equiparar ou superar a inteligência humana mediante a invenção de dispositivos tecnológicos ou de réplicas humanas – máquinas pensantes (inteligentes). Ao combinar ciência e ficção científica, os prometeicos vislumbram um futuro em que a humanidade será dominada ou submetida às máquinas inteligentes que ela inventou.
As ferramentas de tecnologia de Inteligência artificial generativa nos dão a impressão que realizam tarefas cognitivas; parecem pensar, ler, entender, falar e escrever, mas, neste caso, o comportamento inteligente é simulação de inteligência. Ora, manipular símbolos e signos ou proferir palavras não é o mesmo que pensar, falar e escrever.
Embora promissora em suas possibilidades ou potencialidades tecnológicas, a Inteligência artificial gerativa é, por sua natureza inorgânica, mecânica e eletroeletrônica, incapaz de pensar, dado que pensar pressupõe não apenas a existência da matéria orgânica, mas a existência de um sujeito dotado de consciência e de liberdade.
Se os novos dispositivos de Inteligência artificial generativa parecem capazes de escolher ou de decidir, sabemos, entretanto, que o determinismo explícito ou implícito do software e de seus algoritmos, de seu funcionamento constitui uma prova cabal contra a ilusória ideia de que Inteligência artificial generativa é capaz de escolher e decidir livremente. Projetadas e programadas para executar determinadas funções ou tarefas, as ferramentas de Inteligência artificial A generativa deixam transparecer o abismo que separa a inteligência humana e a simulação artificial da inteligência pelas máquinas.
Os supostos agentes de Inteligência artificial reproduzem o que está depositado nos Big Data – combinando ou recombinando dados e informações para burlar os mecanismos de identificação de plágio. Ou seja, destituída da condição suficiente para pensar, a Inteligência artificial generativa é tão somente um assistente ou agente artificial da inteligência.
2.
Por sua vez, o otimismo, o encantamento e o fascínio que as novas tecnologias exercem no imaginário social nos induzem a pensar que a solução dos problemas da humanidade depende, em grande medida, ou exclusivamente dos meios tecnológicos. Porém, a tecnologia não é neutra, mas orientada por interesses econômicos e ideológicos.
Elevada à condição de mito, a tecnologia se apresenta revestida de poderes mágicos e sobre-humanos. Os robôs humanoides – com feições ou aparência humana realizam inúmeras tarefas que até então realizadas exclusivamente por seres humanos, i.e., por seres dotados de inteligência. Tal feito, porém, fez ressurgir a ideia de que é possível construir uma réplica humana que poderia, em tese, equiparar ou superar a capacidade humana de pensar.
Contudo, apesar da capacidade dos dispositivos de Inteligência artificial generativa de realizarem tarefas que quando realizadas por seres humanos requerem inteligência, tal fato por si só não só demonstra que não possuem inteligência, mas que são comandados ou funcionam segundo princípios e mecanismos operacionais inventados, implantados e controlados por seres inteligentes. Daí dizer que o avanço da Inteligência artificial generativa tem limites intrínsecos e intransponíveis que inviabilizam (lógica e tecnicamente) este sonho, esta crença ou esta promessa de seus gurus.
Contudo, não se pode compreender criticamente a natureza e o sentido da tecnologia e seu desenvolvimento histórico desvinculados da sociedade que a engendra ou produz. Ora, a sociedade capitalista submete não somente o trabalho humano ao lucro e a reprodução do capital, mas a própria ciência e a técnica. A serviço do capital, a ciência e a técnica tornam-se forças produtivas regidas pela lógica mercantil do próprio capital.
Aparentemente, o avanço tecnológico segue sua própria lógica – interna ou inerente à tecnologia, como se fosse uma realidade independente da ordem ou estrutura social e econômica vigente. Assim, o determinismo tecnológico oculta ou ignora as complexas e profundas relações entre tecnologia e sociedade, entre as relações de produção e as forças produtivas.
Entretanto, sabemos que nenhuma tecnologia é neutra ou desinteressada, porque é concebida e desenvolvida para determinados fins ou propósitos. Ou seja, os possíveis riscos ou malefícios da tecnologia não dependem apenas do seu uso, mas de sua concepção (projeto), planejamento e desenvolvimento. Daí a pergunta: a serviço de que(m) está a Inteligência artificial generativa?
3.
Ora, se o grande capital não só financia, mas determina, em grande medida, o rumo do desenvolvimento tecnológico, então, é de se supor que todo dispositivo tecnológico possui um componente ideológico capaz de se transformar num instrumento de dominação e de exploração dos seres humanos em favor dos detentores do capital.
Por isso, a pergunta: o avanço da Inteligência artificial generativa acarretará inevitavelmente a regressão da inteligência humana (natural)? Noutros termos, os seres humanos estão se tornando subinteligentes? A tecnologia digital é uma tecnologia de extensão e de ampliação ou de limitação, controle e domínio de nosso pensamento?
De um ponto de vista filosófico, as novas ferramentas de Inteligência artificial operam sob um conceito controverso e deficitário de inteligência. Por isso, perguntar: O que significa pensar? O que significa ensinar e aprender na era da tecnologia digital? Quais impactos as novas formas de leitura e de escrita possibilitadas pelas mídias digitais estão causando no processo de ensino e de aprendizagem? Qual é o papel da escola e do professor em face das tecnologias digitais? As ferramentas de “inteligência artificial” promovem ou impedem o desenvolvimento do pensamento crítico e criativo? Ou seja, as novas ferramentas de Inteligência artificial expandem ou comprimem (encurtam) a inteligência humana? Ou seja, em que medida, a tecnologia digital está alterando os meios e os fins da educação?
Diferentemente da cultura escrita, em que o ato de leitura e da escrita possibilitam a formação e o desenvolvimento do pensamento crítico-reflexivo, a cultura digital favorece a dispersão e a irreflexão do pensamento. A revolução digital permite transferir a tarefa de leitura e de análise de textos para as ferramentas de “inteligência artificial” generativa, o que pode inviabilizar o sentido e a tarefa fundamental da educação, que é a formação para a autonomia (intelectual e ético-moral); ou seja, pode comprometer a autoria e a autonomia do pensamento.
Se ensinar a pensar melhor sempre foi um dos objetivos da educação, atualmente, o ofício de pensar que era visto como intransferível pela tradição filosófica (e pedagógica) parece ser passível de transferência para dispositivos digitais.
A emergência e o avanço das tecnologias digitais tornaram o exercício do pensamento uma questão essencialmente técnica. Ora, se o problema fundamental da formação do pensamento é técnico, presume-se que sua solução também seja técnica. A plataformização do ensino traz consigo uma nova concepção do ato educativo. Neste sentido, a educação mediada pelas novas ferramentas digitais sofre uma ressignificação – uma mutação (ou redução) semântica.
Se, por um lado, ensinar e aprender transcendem o espaço e o tempo da sala de aula pela ubiquidade das tecnologias digitais, por outro lado, o processo de ensino e de aprendizagem passa a ser orientado pela lógica mercantil das plataformas de ensino, i.e., por princípios e valores econômicos, confiscando da educação seu valor cultural e seu potencial formativo e emancipatório.
Em face disso, o adestramento intelectual é uma consequência imediata e inevitável da educação digital, não só porque muitas atividades ou tarefas de ensino e de aprendizagem são automatizadas ou realizadas por algoritmos de inteligência artificial, mas porque a educação deixou de ter como princípio e propósito a humanização do homem. A preparação precária (de formação de mão de obra) para o mercado de trabalho precário é o novo princípio econômico que rege a educação atual.
Ora, como se pode depreender, a era digital é um subproduto e a expressão tecnológica e ideológica do atual estágio de desenvolvimento histórico do capitalismo – que se configura como uma nova revolução tecnológica consubstanciada nas novas ferramentas de Inteligência artificial (generativa) capazes de alterar nossa percepção da realidade – modificar nossa forma de pensar, produzir, trabalhar e de se comunicar, assim como o processo de ensino e de aprendizagem.
É, sobretudo, uma nova tecnologia de reprodução e ampliação do capital, ao mesmo tempo que é a materialização da lógica operacional da racionalidade instrumental (limitada à relação entre meios e fins) – que domina a economia mercantil e se estende a todos dos âmbitos da vida humana. Como se pode depreender, a invenção, a difusão, o uso ou a aplicação das ferramentas da tecnologia digital é uma imposição do sistema econômico capitalista. Ou seja, a obsessão dos capitalistas pelo lucro instrumentaliza a razão, a ciência, a técnica e a educação a serviço do capital.
Em face disso, a nova revolução tecnológica em curso assume um caráter mistificador, porque se apresenta dotada de qualidades divinas (onipresença, onisciência e onipotência). Funções mentais ou cognitivas são instanciadas ou transferidas para as máquinas e suscitam a esperança de que possam nos liberar ou nos dispensar da árdua tarefa de pensar.
Os aparatos técnicos que ao longo da história da humanidade eram vistos como meios (instrumentos ou ferramentas) do fazer humano, aparecem agora revestidos de novos poderes (mistificados), porque orientam ou determinam os fins de nossas ações. Opera-se, deste modo, um deslocamento de ênfase da formação para a instrução técnica e do ensino para a aprendizagem (o aluno como protagonista), o que implica reduzir a educação a um processo de transmissão de informação e de aquisição de habilidades técnicas.
4.
As tecnologias digitais são incorporadas à educação não tanto porque trazem novas possibilidades e novos recursos de ensino e aprendizagem (a fim de tornar o trabalho educativo mais efetivo, personalizado e produtivo), mas porque é preciso impedir de acordo com a lógica de reprodução do capital e sua ideologia de dominação que a educação se torne um instrumento de formação do pensamento crítico e de emancipação humana.
A cultura escrita possibilitou uma nova forma de ensino e de aprendizagem, diferentemente da cultura oral – fundada na memorização e na reprodução do conhecimento herdado da tradição. O ato de ler e de escrever requer a atenção e a concentração pensamento, a fim de poder compreender e interpretar o que está dito e escrito, ao mesmo tempo em que impõe uma ordem lógica às ideias, possibilitando a produção de argumentos mais consistentes, coerentes e consequentes.
No ambiente virtual de aprendizagem das plataformas digitais, o pensamento linear (sequencial) dos textos escritos é atravessado e sobreposto pelo pensamento ilógico dos hipertextos linkados na tela, o que acarreta a fragmentação e a dispersão do pensamento. Na era digital, i.e., na era da linguagem híbrida (escrita e falada), visual ou imagética, a reflexão cede lugar à visão (ao olhar de superfície).
A estimulação sensorial aliada aos estímulos de nossos desejos substitui o juízo crítico pelo senso comum, a ideia pela opinião. Ora, se as imagens dos textos digitais substituem os conceitos – o pensar reflexivo e conceitual – a reflexão pela visão – o ser pelo parecer – pela aparência das coisas, então ocorre uma regressão no pensamento que resulta na impossibilidade de compreensão crítica da realidade.
No uso das ferramentas digitais, o pensamento tende a ser superficial, irrefletido e simplificado, porque segue a lógica digital das imagens. Na superficialidade das imagens é o algoritmo que toma o lugar do argumento, i.e., do pensamento conceitual, crítico e reflexivo. A formação e o conhecimento – que resultam da mediação pedagógica do professor e da construção intersubjetiva são substituídos pela instrução (que consiste no aprendizado das habilidades da racionalidade tecnológica) e pela informação (percepção sensorial).
Neste contexto, a educação deixa de ser um instrumento de formação crítica do pensamento e de emancipação humana para se tornar um instrumento de dominação ideológica e de subordinação à lógica da razão técnica – que não questiona os princípios e os fins da ação humana e da educação, mas apenas a eficiências dos meios.
Assim, enquanto a cultura escrita traz consigo um potencial emancipatório – capaz de alargar e expandir a inteligência, formar e desenvolver o pensamento, a cultura digital pode fazer regredir a inteligência do ser humano, porque substitui os conceitos pelas imagens – contrai, limita ou reduz o modo de pensar e de se comunicar das novas gerações.
O atrofiamento cognitivo – o empobrecimento do pensamento que se manifesta na incapacidade de ler e de entender textos mais complexos ou elaborados, é um claro sintoma de que a tecnologia digital traz consigo problemas e desafios que precisam ser problematizados, enfrentados e superados.
5.
Resulta evidente que a utilização das ferramentas de Inteligência artificial generativa trazem benefícios (como, p.ex., o acesso à informação), mas as plataformas digitais são o exemplo mais eloquente da mercantilização da informação e da educação. O ambiente virtual de aprendizagem ao invés de personalizar, pode despersonalizar o ensino e o aprendizado, porque automatiza processos e tarefas educacionais.
Neste contexto, o exercício do pensamento crítico-reflexivo cede lugar ao pensamento automatizado (irreflexivo, acrítico, repetitivo e funcional), i.e., a aquisição das operações da racionalidade técnica (instrumental) se configura como a mais nova demanda da educação.
De outra parte, se a educação existe para socializar os indivíduos, o uso não pedagógico das novas tecnologias digitais promove, em grande medida, o isolamento social, a baixa interação entre os indivíduos – o individualismo e a dependência tecnológica das telas (denominada de nomofobia).
Portanto, não se pode compreender o fenômeno tecnológico sem vinculá-lo à lógica de produção e de reprodução da sociedade capitalista. Ao suprimir o passado, a evolução tecnológica produz a falsa ideia de que o novo sempre supera e suplanta o antigo (o velho) – que é imperfeito e ultrapassado (ou obsoleto). Ou seja, a tecnologia é uma forma de ideologia ou de dominação que rompe com o passado em nome do presente e ao fazê-lo impede-nos de compreender a própria técnica (e a tecnologia) como processos históricos e sociais contraditórios e que expressam interesses de classe.
O progresso técnico-científico não é comandado ou determinado pelos cientistas nem pela sociedade, mas pelos tecnocratas (magnatas digitais), isto é, pelas grandes empresas de tecnologia (Big Techs). Sob o capitalismo a tecnologia se tornou uma força produtiva – instrumento de exploração e de dominação. Por isso, os artefatos tecnológicos são produzidos e funcionam segundo a lógica mercantil, dado que se transformam em mercadorias (em que o valor de uso está subordinado ao valor de troca). Ou seja, nada é inventado ou produzido se não for lucrativo.
A ascensão da Inteligência artificial generativa orientada pela racionalidade técnica representa uma ameaça ao pensamento crítico-reflexivo e criativo, dado que as máquinas pretendem substituir o ser humano naquilo que ele tem de mais essencial – a capacidade de pensar (compreender, interpretar, entender, analisar, raciocinar, inferir, julgar, relacionar, escolher, decidir e criar etc.).
A automação de tarefas intelectuais pode comprometer o desenvolvimento da inteligência humana uma vez que a dependência da máquina torna ocioso o nosso pensamento. Ao invés de serem usadas como ferramentas auxiliares de nosso pensamento, tais tecnologias de Inteligência artificial generativa são usadas como próteses de nossa inteligência.
Se, por um lado, é justificável que as tarefas do pensamento operacional (da razão técnica) sejam transferidas para as máquinas, por outro lado, o fetichismo e o totalitarismo tecnológico das mídias digitais impedem o desenvolvimento do pensamento crítico-criativo. Dado seu grande apelo visual, as tecnologias digitais operam a substituição do conceito pela imagem – o que acarreta o estreitamento e o empobrecimento do pensamento.
A superficialidade das imagens e a simplificação da realidade impedem o surgimento e o desenvolvimento do pensamento crítico-reflexivo. Ao substituíram a razão pelos sentidos (e pelas emoções) as novas tecnologias digitais substituem a compreensão pela sensação, o pensar conceitual pelo sentir.
Reduzido, portanto, à condição de usuário e de consumidor de informações, o indivíduo perde a autonomia – a capacidade de pensar por si mesmo. As sensações, as emoções e os desejos individuais se sobrepõem ao pensamento racional e aos interesses coletivos. O pensamento crítico-reflexivo necessário para o exercício filosófico é substituído pelo pensamento operacional, acelerado e encurtado das plataformas digitais; a concentração, a pausa, a lentidão, o silêncio e a reflexão são substituídos pela dispersão, aceleração e distração. O pensamento é reduzido a um cálculo ou a um procedimento operacional (matemático e computacional).
Porém, a razão instrumental (calculadora), diferentemente da razão crítico-reflexivo não indaga acerca dos princípios e dos fins de nossas ações, mas apenas acerca da eficiência dos meios. Assim, a reflexão e a crítica foram suprimidas em nome da operacionalidade técnica do pensamento.
O pensamento autônomo é substituído pelo pensamento assistido, i.e., pelos chatbots da Inteligência artificial generativa. Assim, ao eliminar a diferença entre o original e cópia, as tecnologias digitais comprometem a autoria e a autonomia do pensamento. Ou seja, o pensamento original e sua cópia – réplica e reprodução tornaram-se indistinguíveis. Por isso, o pensamento autônomo e autoral corre o risco de desaparecer.
*Claudinei Luiz Chitolina é professor de filosofia na Universidade Estadual do Paraná – Paranavaí. Autor dentre outros livros, de Para ler e escrever textos filosóficos (Ideias & Letras).
CONTRIBUA