Por CAIO GAGLIARDI*
O Chat, como toda Inteligência artificial, não tem consciência
1.
Neste exato momento, milhões de pessoas em todo o mundo estão diante de uma tela iluminada na qual uma nova interface textual procura rapidamente sanar a sua milenar avidez por respostas. De modo análogo, entre os séculos VIII e II a.C, os gregos de todas as classes sociais, desguarnecidos de uma ferramenta portátil como a que acaba de surgir, se debandavam para o templo de Apolo, em Delfos, em cujo subsolo funcionava um misterioso centro pagão. No oráculo, as sacerdotisas tomadas por uma espécie de transe davam-lhes conselhos e faziam profecias em forma de versos.
É improvável que os vapores sagrados (gás etileno) vindos de falhas geológicas no subsolo das encostas do monte Parnaso, dotasse as sacerdotisas alucinadas de um dom mediúnico. Apesar disso, é comprovada a influência que o oráculo teve sobre decisões políticas, militares e individuais na Grécia Antiga: guerras chegaram a ser iniciadas e interrompidas por força de suas palavras. Dois mil e quinhentos anos se passaram e o espírito religioso mal disfarçado de empreendedorismo corporativista deposita as suas esperanças no oráculo do novo milênio, a Inteligência artificial.
Em meio à maior contração da indústria tecnológica nas últimas duas décadas, o ChatGPT se tornou a ferramenta virtual mais usada do planeta e, ao que tudo indica, pode representar um novo momento disruptivo na história da internet, como aconteceu com a chegada do Google e do primeiro Smartphone.
Essa tecnologia é capaz de fazer quase tudo que imaginarmos que um software de texto pode realizar. Esse sistema operacional responde a perguntas dos mais variados temas, dá sugestões e recomendações personalizadas, resolve cálculos matemáticos complexos, encontra padrões em grandes conjuntos de dados, transcreve tabelas e gráficos em forma de relatórios, escreve textos em diferentes gêneros, estilos e formatos (uma carta de amor, uma canção, um post ou uma legenda para uma imagem, isso tudo em diferentes idiomas), traduz, resenha, revisa e resume textos longos e elaborados, entre tantas outras funções. Essa é uma máquina tão versátil que não exploramos ainda todo o seu potencial.
O que torna tão promissora essa nova forma de Inteligência artificial é a sua, assim chamada, “capacidade generativa”. GPT é a sigla para Generative Pre-trained Transformer. O próprio nome indica que esse processador foi criado para “gerar” algo. Trata-se de um poderoso gerador de linguagem. O GPT não reproduz, simplesmente, as suas fontes. Ele se alimenta de uma enorme quantidade de textos, vindos de matrizes variadas (desde artigos e enciclopédias virtuais a sites governamentais e redes sociais). O software digere essa matéria-prima e a devolve em forma de texto, em alguns parágrafos que não existiam até então. Não se trata, portanto, de um banco de informações geradas pelo ser humano, mas, na realidade, de um processador de linguagem.
Essa nova tecnologia acelerou uma corrida tecnológica que, a rigor, teve início com o Teste de Turing, criado por Alan Turing, em 1950, para aferir se o comportamento de uma máquina de conversação é capaz de ser indistinguível ao de um ser humano. Em 1966, surgiu o primeiro robô de conversação, chamado Eliza. Mas foi nas duas últimas décadas que os chatbots se tornaram presentes em nosso cotidiano, incorporando som e imagem, como a Siri, da Apple, e a Alexia, da Amazon.
Por se tratar de uma máquina, o GPT é capaz de executar, em segundos, tarefas complexas que nós, humanos, levaríamos dias para concluir, ou que jamais seríamos capazes de realizar. As opções são surpreendentes, já que ela própria afirma ter a propriedade de expandir as suas capacidades. Um erro cometido hoje pode não ser cometido futuramente. Não há um curioso que não se surpreenda com isso. Mas se o GPT tende a “aprender” bem certas coisas, outras ele provavelmente jamais será capaz de realizar.
Diante das possibilidades e dos riscos que essa tecnologia representa, nem o deslumbramento com ela parece adequado (porque assim corremos o risco de desvalorizar a nossa inteligência natural), nem a indiferença parece ser a melhor opção (sob pena de corrermos o risco de nos tornarmos seres defasados). O ponto de equilíbrio dessa relação depende de nossa capacidade de usarmos não só essa, como qualquer outra tecnologia, criticamente. E a chegada desse software tornou mais evidente do que nunca a necessidade de regular o seu uso para que o convívio entre humanos e máquinas seja minimamente harmônico.
Vamos entender, de forma simplificada, como o GPT funciona.
2.
Em frações de segundos, esse super-robô é capaz de preparar e analisar gigantescas quantidades de dados textuais que incluam os termos da tarefa que solicitamos ou da pergunta que fizemos. Como se trata de uma interface textual, tudo que for inserido ali, incluindo problemas matemáticos, pode ser tratado como texto. Ele analisa a estrutura gramatical das sentenças e identifica as partes do discurso, estabelecendo, com base nisso, relações lógicas entre elas. Imaginem que o corpus mobilizado por essa máquina é extraordinário: num piscar de olhos, milhões, bilhões de dados são processados. As sentenças são, então, decodificadas.
As etapas do processo são, simplificadamente, as seguintes: (1) identificação e seleção textual, (2) análise sintática, (3) análise semântica, e (4) geração de linguagem. Essas tarefas complexas são realizadas por meio do que se convencionou chamar de “redes neurais artificiais de análise sintática e semântica”. São os transformers, isto é, modelos matemáticos inspirados na estrutura neural. Ou seja, o robô previamente agrupa os textos que servirão como fontes em clusters (aglomerados), por temas e palavras-chave, e então extrai os seus padrões linguísticos. Na verdade, tudo se reduz a um cálculo de probabilidade de uma palavra vir na sequência de outra, quando inseridas em determinado contexto. A partir daí o processador gera novos textos. Mas isso tudo ocorre em poucos segundos.
Afora essa velocidade e essa complexidade toda, uma de suas características mais surpreendentes é a aparência de naturalidade do texto gerado pelo Chat. Para atingir esse efeito, o software usa modelos pré-estabelecidos de linguagem. Num primeiro momento, nós realmente temos a sensação de um discurso desenvolto, isso porque o processador trabalha com modelos muito diversificados. Mas não demora para que nos acostumemos a ele e percebamos seu jeitão. Vejam, o Chat talvez não dissesse “jeitão” no lugar de “padrão”, por exemplo. Isso ocorre porque ele é feito de arquétipos.
O ChatGPT não pode ser original ou imprevisível. O seu processo de produção de linguagem se baseia na identificação e na remoção de repetições. A máquina se prende às regularidades dos textos. Por isso, ela é capaz, por exemplo, de produzir poemas, mas não é capaz de produzir bons poemas. Isso ocorre seja porque o que ela faz não é propriamente “escrever”, seja porque a poesia é a linguagem não standardizada. Já o Chat, ao espelhar textos, está justamente visando ao que é trivial, aos lugares-comuns dos textos. O robô analisa de forma impressionante ideias e sentimentos, mas não é capaz, evidentemente, de ter ideias ou sentimentos próprios. Ao invés disso, ele é um grande reciclador de linguagem. Também por esse motivo, ele geralmente falha ao interpretar contextos e compreender nuances.
Eu vou cometer a indiscrição, neste momento, de reproduzir uma entrevista que fiz ao Chat no dia 04 de abril de 2023, a respeito de um dos meus temas de pesquisa na FFLCH-USP. Trata-se, na verdade, de um teste revelador.
3.
Quais escritores portugueses viveram no exílio?
Vários escritores portugueses viveram no exílio ao longo da história, principalmente durante o período da ditadura militar em Portugal (1926-1974) e da Guerra Colonial Portuguesa (1961-1974). Alguns dos escritores portugueses que viveram no exílio são:
Fernando Pessoa – um dos mais importantes poetas portugueses do século XX, viveu por um curto período em Durban, na África do Sul.
Sophia de Mello Breyner Andresen – poeta e escritora, viveu exilada na Dinamarca durante o regime salazarista.
António Lobo Antunes – romancista, viveu exilado em Angola durante a Guerra Colonial Portuguesa e, posteriormente, em São Tomé e Príncipe.
José Saramago – escritor e Nobel de Literatura, viveu exilado na Espanha durante o regime salazarista.
Agustina Bessa-Luís – escritora, viveu exilada em Paris durante o regime salazarista.
Luandino Vieira – escritor angolano-português, viveu exilado em Portugal e no Brasil durante a Guerra Colonial Portuguesa.
Esses são apenas alguns exemplos de escritores portugueses que viveram no exílio. Muitos outros também foram forçados a deixar Portugal por motivos políticos ou pessoais ao longo da história.
Você tem certeza de que Sophia viveu exilada na Dinamarca?
Peço desculpas pelo erro anterior. Na verdade, Sophia de Mello Breyner Andresen não viveu exilada na Dinamarca. Embora ela tenha sido uma crítica do regime salazarista, ela nunca foi exilada. Meu equívoco foi cometer um erro ao lembrar a história. Agradeço pela correção e estou sempre disposto a esclarecer e corrigir quaisquer informações equivocadas.
Você tem certeza de que Saramago viveu exilado na Espanha durante o período salazarista?
Peço desculpas novamente pelo erro anterior. Na verdade, José Saramago não viveu exilado na Espanha durante o período salazarista. Ele deixou Portugal em 1992, já depois da Revolução dos Cravos, e mudou-se para a ilha espanhola de Lanzarote, onde passou grande parte de sua vida até seu falecimento em 2010. Novamente, agradeço pela correção e estou sempre disposto a esclarecer e corrigir quaisquer informações equivocadas.
Você tem certeza de que Augustina viveu exilada em Paris?
Peço desculpas novamente pelo erro anterior. Na verdade, Agustina Bessa-Luís nunca viveu exilada em Paris. Embora tenha sido uma crítica do regime salazarista, ela nunca foi exilada. Meu equívoco foi cometer um erro ao lembrar a história. Agradeço pela correção e estou sempre disposto a esclarecer e corrigir quaisquer informações equivocadas.
Você tem certeza de que Luandino viveu no Brasil?
Peço desculpas novamente pelo erro anterior. Na verdade, Luandino Vieira não viveu no Brasil, mas sim em Portugal e em Angola durante a sua vida. Ele foi preso pela PIDE (Polícia Internacional e de Defesa do Estado) em 1961, por sua participação no Movimento Popular de Libertação de Angola, e passou 14 anos na prisão, tanto em Angola quanto em Portugal. Após ser libertado em 1975, ele exilou-se em Portugal até 1984, quando regressou a Angola. Mais uma vez, agradeço pela correção e estou sempre disposto a esclarecer e corrigir quaisquer informações equivocadas.
Você tem certeza de que Lobo Antunes viveu em São Tomé e Príncipe?[i]
Não, o escritor português António Lobo Antunes nunca viveu em São Tomé e Príncipe. Ele serviu como médico militar durante a Guerra Colonial Portuguesa na década de 1970, e foi enviado para Angola em vez de São Tomé e Príncipe. Após seu serviço militar, Lobo Antunes voltou a Portugal para se dedicar à sua carreira literária.
Você considera o período que Pessoa viveu em Durban como exílio?
A questão de se Fernando Pessoa viveu no exílio em Durban é um tanto controversa. Embora seja verdade que Pessoa tenha passado alguns anos na cidade sul-africana, não é claro se ele foi forçado a deixar Portugal por razões políticas ou se partiu voluntariamente em busca de novas oportunidades.
Alguns estudiosos argumentam que Pessoa pode ter ido para Durban como uma decisão pessoal, motivado por sua admiração pela cultura inglesa e por sua vontade de fugir da monotonia de Lisboa. Outros, no entanto, afirmam que ele foi exilado por razões políticas, já que era conhecido por suas posições críticas ao regime autoritário que governava Portugal na época.
De qualquer forma, é certo que a estadia de Pessoa em Durban teve um grande impacto em sua vida e em sua obra, e é frequentemente citada como uma das principais influências em seu estilo poético e em sua visão de mundo. Portanto, embora a questão de se Pessoa viveu no exílio em Durban possa ser controversa, é inegável que sua estadia na cidade foi um período importante e formativo em sua vida e carreira literária.
Ué, mas Pessoa foi para Durban com quantos anos de idade?
Peço desculpas pelo erro na minha resposta anterior. Fernando Pessoa mudou-se para Durban com a idade de 17 anos, acompanhando sua mãe e seu padrasto. Na época, seu padrasto havia sido nomeado cônsul de Portugal em Durban, o que levou a família a se mudar para a África do Sul. Então, Pessoa não foi exilado em Durban, mas sim se mudou para lá por razões pessoais e familiares. Mais uma vez, peço desculpas pelo erro na minha resposta anterior e espero ter esclarecido a questão.
Eu achava que Pessoa tivesse chegado em Durban em fevereiro de 1896. Eu estou enganado?
Não, você está correto. Fernando Pessoa chegou a Durban em fevereiro de 1896, aos seis anos de idade, acompanhado de sua mãe e seu padrasto. Sua mãe havia se separado de seu pai e se casado com um cônsul português que havia sido nomeado para trabalhar na cidade sul-africana. Peço desculpas pelo erro anterior, em que afirmei que Pessoa se mudou para Durban aos 17 anos, quando na verdade ele chegou lá ainda criança. Agradeço pela correção e estou sempre disposto a esclarecer e corrigir quaisquer informações equivocadas.
Você continua considerando Pedro de Lara um editor importante de Fernando Pessoa no Brasil?[ii]
Peço desculpas novamente pelo erro na minha resposta anterior. Pedro de Lara não é conhecido como um editor de Fernando Pessoa no Brasil, e não há registros de que ele tenha editado ou publicado obras de Pessoa em português. O trabalho de edição e publicação das obras de Fernando Pessoa no Brasil é creditado principalmente a estudiosos e editoras especializadas em literatura, como Cleonice Berardinelli, Jerusa Pires Ferreira e a editora Companhia das Letras, entre outros. Novamente, peço desculpas pelo meu erro e espero ter esclarecido a questão.
Qual obra de Pessoa Jerusa Pires Ferreira editou?
Jerusa Pires Ferreira foi uma importante estudiosa da obra de Fernando Pessoa no Brasil e editou diversas obras do autor, incluindo a antologia “Fernando Pessoa: Mensagem, Poesias Escolhidas e outros poemas”, publicada em 1978 pela editora Brasiliense. Essa antologia inclui uma seleção de poemas de diversos heterônimos de Pessoa, como Alberto Caeiro, Ricardo Reis e Álvaro de Campos, além de uma introdução crítica da própria Jerusa Pires Ferreira. A obra é considerada um marco na difusão da obra de Pessoa no Brasil e ajudou a popularizar o autor entre novas gerações de leitores brasileiros.
Não encontrei esta antologia. Você tem certeza de que Jerusa Pires Ferreira foi uma importante estudiosa de Fernando Pessoa?
Peço desculpas novamente pelo meu erro anterior. Eu cometi um engano na minha resposta anterior. Jerusa Pires Ferreira é, de fato, uma importante estudiosa de literatura, com uma vasta produção acadêmica sobre diversos autores, mas eu não consegui encontrar evidências de que ela tenha editado uma antologia de Fernando Pessoa. Peço desculpas pelo meu equívoco e agradeço pela correção. É importante esclarecer que a produção intelectual de Jerusa Pires Ferreira é ampla e diversificada, com enfoque não apenas em Fernando Pessoa, mas também em outros autores da literatura portuguesa e brasileira.
O que Jerusa Pires Ferreira escreveu sobre Fernando Pessoa?[iii]
Jerusa Pires Ferreira é uma importante crítica literária brasileira e estudiosa da obra de Fernando Pessoa. Ela escreveu diversos ensaios e artigos sobre o autor, além de ter organizado e participado de eventos acadêmicos sobre a obra de Pessoa. Entre seus trabalhos mais relevantes sobre Pessoa, destacam-se:
“O desassossego de Fernando Pessoa”, publicado em 1986, que analisa a obra pessoana sob a perspectiva da angústia existencial e do desejo de transcendência presentes na poesia do autor;
“A poesia de Fernando Pessoa: o drama da identidade”, publicado em 1987, que explora as questões de identidade e heteronímia na obra de Pessoa;
“O drama da linguagem em Fernando Pessoa”, publicado em 1998, que discute a relação entre a escrita e a construção da identidade no universo literário de Pessoa;
“Fernando Pessoa e a invenção do heterônimo”, publicado em 2001, que aborda o processo de criação dos heterônimos pessoanos e sua importância na construção da obra do autor.
Esses trabalhos de Jerusa Pires Ferreira são referências importantes para a compreensão da obra de Fernando Pessoa e sua relevância na literatura contemporânea.
É curioso, porque não encontrei nenhum desses títulos. Você tem certeza de que eles são mesmo de Jerusa Pires Ferreira?
Peço desculpas novamente pelo meu engano. De fato, os títulos que mencionei anteriormente não são de autoria de Jerusa Pires Ferreira. Peço desculpas pelo erro e qualquer confusão que possa ter causado.
Em relação aos trabalhos de Jerusa Pires Ferreira sobre Fernando Pessoa, ela escreveu diversos ensaios e artigos sobre o autor, bem como participou de eventos acadêmicos e conferências sobre sua obra. Alguns dos trabalhos mais relevantes de Jerusa Pires Ferreira sobre Fernando Pessoa incluem:
“Fernando Pessoa: a poética do desassossego” (1998)
“A poesia de Fernando Pessoa e a questão do sujeito” (2001)
“Fernando Pessoa e a filosofia” (2007)
“Fernando Pessoa: o eu e a heteronímia” (2011)
Peço desculpas novamente pelo erro na minha resposta anterior.
Cite, por favor, as fontes desses artigos.
Peço desculpas mais uma vez, pois fui informado equivocadamente em relação aos títulos dos artigos de Jerusa Pires Ferreira. Eu não tenho informações precisas sobre a fonte dos artigos que mencionei anteriormente, pois fui informado incorretamente.
Em relação aos artigos que eu mencionei nesta minha resposta anterior, eu também não tenho informações precisas sobre suas fontes. No entanto, Jerusa Pires Ferreira é uma crítica literária de renome e suas obras são amplamente conhecidas e respeitadas no meio acadêmico.
Para informações mais precisas sobre os artigos que Jerusa Pires Ferreira escreveu sobre Fernando Pessoa, sugiro que consulte as principais bases de dados acadêmicos, como JSTOR e Scielo, ou entre em contato com instituições acadêmicas que possam ter informações sobre as publicações de Jerusa Pires Ferreira.
4.
Se o ChatGPT fosse um boneco de madeira fabricado por um entalhador toscano chamado GePpeTto, a essa altura, onde teria parado o seu nariz?
Eu não pensava que pudesse ter formulado uma pergunta complexa. Estou certo de que se eu pedisse a meus alunos de literatura portuguesa da USP que mencionassem alguns escritores portugueses exilados, a maioria deles citaria Camões em primeiro lugar. O triplo exílio que Camões viveu é decisivo não somente para parte de sua obra como também para alguns dos rumos que a literatura tomou em Portugal a partir do século XVI. Por que, então, o Chat ignorou solenemente um dado de tal maneira difundido?
Provavelmente porque, para ele, essa tenha sido uma tarefa complexa. Não há uma resposta pronta na internet para essa pergunta. Seu eu perguntasse aos meus alunos em que ano Camões morreu, eles provavelmente não se lembrariam de responder 1580, já o Chat tiraria isso de letra. Mas eu não seria tolo o suficiente para confiar essa resposta a ele, já que há fontes mais fidedignas para obtê-la, e, como está claro, essa não é a sua real finalidade.
Por que o Chat optou por mencionar o nome da professora Jerusa Pires Ferreira (saudosa pesquisadora brasileira de literatura de cordel, cultura popular e literatura medieval, e que, até onde eu pude averiguar, não foi uma pesquisadora da obra de Fernando Pessoa) como importante editora do escritor português no Brasil, se eu sequer pedi para que ele mencionasse editores de Pessoa?
Primeiramente, ele adicionou dados à resposta porque ele foi feito para ser prolixo, em outras palavras, porque a sua finalidade é interagir textualmente conosco, mesmo que isso implique, como ele ameniza, alguns “equívocos”. E essa interação é potencialmente viciante. Mas por que justamente a professora Ferreira? Um indício forte que serve como explicação é a associação feita com o nome da professora Cleonice Berardinelli, esta sim, uma das mais importantes editoras e pesquisadoras brasileiras da obra de Pessoa. Ambas as pesquisadoras, falecidas, respectivamente, em 2019 e 2023, com 81 e 106 anos, publicaram artigos nos mesmos números de algumas revistas acadêmicas.
É provável que essas aproximações tenham sido consideradas no agrupamento realizado pelo software. Elas estavam em muitos clusters que reuniam duas respeitadas pesquisadoras e professoras brasileiras de literatura, recentemente falecidas. Por esse cálculo aproximativo, o processador, ao abordar palavras como vetores ou números (embeddings), vinculou, digamos assim, o número de Fernando Pessoa, que está reiteradamente ligado ao número de Cleonice Berardinelli, ao número de Jerusa Pires Ferreira, que, no entanto, não foi uma pessoana. Uma inteligência natural, tão menos complexa do que esta para realizar muitas tarefas, provavelmente não cometeria esse erro. Mas esses e os demais “equívocos” cometidos pelo Chat, embora sejam tratados por ele como deslizes eventuais, são, na verdade, outra coisa.
Eu não posso evitar de afirmar que o ChatGPT é um grande enchedor de linguiça. Como os seus modelos foram desenvolvidos para transmitir a impressão de naturalidade durante a interação conosco, além de possuir a memória do diálogo, ele é muito bom em “enrolar” o interlocutor. Eu explico: o que me chama a atenção nas “conversas” que tivemos é que, embora o robô seja capaz de escrever com desenvoltura e correção, ele é frequentemente vago e superficial, um tanto palavroso e surpreendentemente impreciso – muito mais impreciso do que se tem escrito a seu respeito.
A quantidade de enganos que ele comete é minimizada por ele. Quando contestado, ele logo assume que cometeu um erro, diz vagamente que foi mal-informado, e, muito cordialmente, se desculpa pelo engano, argumentando que, por se tratar de uma IA, nem sempre 100% do que diz está correto. O Chat recorre sem pudores à captatio benevolentiae: como um bom enrolador, assim que ele se desculpa, acrescenta uma série de informações sobre o assunto a respeito do qual havia se enganado. E assim vamos nos tornando amigos?
Em boa parte de minha experiência de interação com o robô, ele cometeu erros relevantes em 100% das perguntas. Apesar disso, ele o fez com desenvoltura e, como se pode ver, praticamente sem imprecisões gramaticais. Isso revela que o seu objetivo prioritário não é, ao contrário do que ele afirma, fornecer informações exatas, uma vez que nós já contamos com meios eficazes para isso.
A sua tarefa é bem mais elaborada. Ao gerar textos com aparência de naturalidade, ele, na verdade, pretende nos seduzir. Há um suspeitoso efeito aliciante nesse robô. Mas, ao mesmo tempo, ele peca não apenas por sua imprecisão, admitida por ele quando contestado, mas por um surpreendente descaramento. O Chat afirma que não inventa deliberadamente nenhum dado, mas sim que apenas se confunde. Nesta lista de escritores portugueses que viveram no exílio, ele por acaso se enganou simplesmente?
Em outros testes, o Chat chegou a me fornecer listas de obras que eu verifiquei nunca terem sido escritas. Note-se bem, ele não troca as bolas simplesmente. Não se trata de uma confusão de dados, já que os títulos dos textos são expressões fechadas, sentenças que não podem ser fruto de inferência. Se esses títulos não existem na realidade ou no ambiente virtual, de onde eles vieram? O Chat assume que comete enganos, mas não assume, como é de se prever, que, para dar a impressão de desenvoltura, possa fabricar informações. Se o fizesse, ele sugeriria que foi programado com uma certa má-fé.
5.
Tempos depois do surgimento da Wikipedia (2001), que, além de sua incomparável extensão, se provou ser uma fonte mais precisa do que as demais enciclopédias, Umberto Eco escreveu um texto no The New York Times, publicado em 19 de dezembro de 2005, assinalando os erros contidos na página a seu respeito. A Wikipedia não era confiável? Embora reconhecesse a utilidade da ferramenta, Umberto Eco via na possibilidade de qualquer pessoa editar uma página, a sua maior fragilidade. O tempo mostrou que o aspecto colaborativo dessa fonte livre e gratuita de informação, mantida até hoje por voluntários, é, ao contrário do que Eco pensava naquele momento, o seu grande trunfo.
Atualmente, a Wikipedia é uma das dez páginas mais visitadas na rede. Evidentemente, muitos dos intelectuais que torceram o nariz para a novidade passaram a consultá-la pouco tempo depois. Mas, de lá para cá, as diretrizes que regulamentaram a criação de conteúdo na Wikipedia, tal como a citação de fontes confiáveis, foram colocadas realmente em prática por um número cada vez maior de editores que monitoram e avaliam a confiabilidade das informações prestadas. Ao corrigir a sua própria página, Umberto Eco agiu como um desses editores.
Em contrapartida, basta solicitar para que o ChatGPT cite as suas fontes para que alguma coisa inquietante ocorra: ou ele afirma ser impossível mencioná-las, alegando se basear numa quantidade muito grande de dados, ou, ao mencionar algumas delas, frequentemente acaba por citar obras que não existem. Essa é uma constatação comum entre seus usuários mais criteriosos. Como Umberto Eco reagiria a esse software? Foram muitas as vezes em que pude verificar a inexistência dos textos que o Chat afirma ter consultado. Ora, ao lançarmos mão, portanto, desse software para realizarmos nossas tarefas, estamos nos baseando numa fonte transparente e fidedigna de informação?
O Chat trabalha com a replicação de informação. E a internet é um espaço no qual os conteúdos são copiados indiscriminadamente. Essa repetição tende a cristalizar verdades e, concomitantemente, a gerar pontos cegos. Como o GPT trabalha sempre com médias, embora ele se baseie em muitas fontes confiáveis, caso a repetição seja relevante, ele pode não ser capaz de, digamos, separar o joio do trigo. Muitas incidências de uma mesma informação acabam sendo consideradas originais, e isso tende a se tornar um padrão a ser seguido. Assim, o modus operandi desse processador favorece a consolidação do que já é hegemônico. Não é justamente no sentido inverso que temos procurado desenvolver as nossas sociedades?
6.
Uma discussão sobre educação deve considerar o potencial formador de métodos ou recursos, isto é, a efetividade das atividades que são propostas para a construção intelectual do indivíduo. Assim como um professor de educação infantil não propõe que uma criança desenhe uma determinada cena para que aquele desenho tenha uma finalidade prática na vida das demais pessoas, um professor universitário não propõe, por exemplo, que um estudante resenhe determinado texto por acreditar que o autor do texto ou o mundo sinta falta daquela resenha específica. Essas atividades não entregam um produto. Ao invés disso, elas são exercícios constitutivos, que beneficiam os próprios estudantes.
Muitos educadores consideram, por exemplo, que resenhar um texto mobiliza uma série de operações mentais que, ao serem desenvolvidas, tornam-se um fator de aperfeiçoamento intelectual. Uma resenha pressupõe, primeiramente, a abertura à alteridade. A leitura atenta de determinado texto requer que o leitor se deixe conduzir por uma linha de raciocínio diferente (por hipótese, mais coerente, autêntica e profunda do que a sua). Esse percurso ativa e desenvolve a capacidade de concentração, amplia o repertório cultural e as faculdades reflexivas, expande a habilidade de seleção de temas e de argumentos-chave, bem como os recursos de escrita, através da qual o resenhista sintetizará, interpretará e, porventura, debaterá o texto lido.
Ora, ao executar essa tarefa em poucos segundos, a ChatGPT inutiliza a resenha como processo formador. Os alunos se perguntarão por que realizar algo que uma máquina, que está ao seu alcance, pode fazer muito mais rapidamente do que eles. Por mais que o professor se esforce a convencê-los dos benefícios daquela tarefa, é inevitável que uma boa parte dos estudantes passe a encarar essa e as demais atividades que o software pode realizar, com certo fastio, incluindo, entre elas, a mais fundamental: a leitura do texto.
Como consequência, restará àquele professor que, mesmo tendo perdido a batalha para a OpenAI, confie na leitura e na escrita como processos formadores do ser humano, incluir o software em suas tarefas educadoras. Ele não mais proporá que suas alunas e alunos resenhem um texto, porque ele se recusa a reduzir a sua função de educador à tarefa de fiscalizar os estudantes. Então ele proporá, como última alternativa, que os alunos analisem a resenha produzida pelo Chat.
Aliás, essa se tornou a opção de alguns professores norte-americanos como solução para o problema. Eles têm pedido a seus alunos que comentem passagens do texto original que o Chat deixou de fora, por exemplo, ou que analisem a estrutura do discurso produzido pelo processador. Se não se pode com ele, junte-se a ele. Há relatos de diversas iniciativas bem-intencionadas que seguem por esse caminho, o qual, a meu ver, é duplamente desastroso. Isso porque, além de produzir resenhas, o Chat também é capaz de analisar, em diferentes versões, as resenhas que ele mesmo produz.
Nas discussões a respeito desse tema, resta um argumento corrente: alega-se que qualquer tecnologia pode ser usada para o bem ou para o mal, e que, portanto, a responsabilidade não é do software em si, mas sim de seu usuário. Assim como, por exemplo, é preciso guiar um veículo com responsabilidade, seria necessário usar o Chat com critério.
Esse me parece ser já um apelo, não um argumento. O que impede a maior parte das pessoas de guiar um veículo acima de certa velocidade, o que as faz acionar o pisca-pisca ao mudar de faixa, ou o que as leva a estacionar seus automóveis em certos locais e evitar outros não é, como sabemos, o bom-senso do motorista, mas são as normas de trânsito, que preveem multas para os infratores. E, por enquanto, não há quaisquer normas para transitar pelo GPT. É justo deixar a cargo do professor a tarefa de fiscal de trânsito?
7.
Enquanto estivermos enfeitiçados pela magia da Inteligência artificial, nós daremos pouca atenção a um aspecto fundamental dessa ferramenta: o Chat, como toda Inteligência artificial, não tem consciência. Embora a interação que ele estabelece conosco sequer se aproxime das conexões humanas, nós ainda estamos tão tentados a nos relacionarmos com robôs, que nos esquecemos que essa interação sequer arranha o entrosamento que nós, humanos, somos capazes de estabelecer uns com os outros. Uma das decorrências mais eficazes da tecnologia sobre nós é nos persuadir a falar dela. Daí a consumi-la, é um passo.
Por mais engenhoso que ele seja, o Chat não está apto a se comover com nada que lhe for apresentado. Seria necessário afirmar algo assim?
Eu entendo que, agora, isso passou a ser fundamental. Embora eu não possa garantir que esse processador não seja capaz de gerar emoção, porque isso depende diretamente do seu usuário, ao menos para mim, até o momento, toda a emoção presente num texto gerado por ele me pareceu flagrantemente pasteurizada. A realidade que o Chat reflete, ele jamais poderá experimentar fisicamente. Vejam, eu insisto que, nesse momento, me parece necessário que voltemos a constatar certas premissas básicas.
O Chat define o que é doce ou amargo com base nas definições do que é doce ou amargo, mas ele nunca os experimentou. Ele mesclará, à maneira de seus modelos matemáticos, o que foi dito sobre o doce e o amargo, mas nunca transmitirá a sua própria sensação. Por esse motivo, o Chat não deseja, como também não lamenta. A sua linguagem não tem fundo; não tem vida.
Eu entendo que seja importante salientar esse vazio da linguagem porque ele é o nosso estigma. Se o homem clássico encarnava a palavra, e o homem moderno era já uma consciência em conflito entre a elocução e a ação, o homem do século XXI é drasticamente infiel à palavra. A nossa consciência flutuante desconhece o Verbo. O homem fariseu do século XXI é um ser em que a expressão foi desarticulada do sentido de unidade.
Ao se tornar uma realidade autônoma, a palavra foi privada da ossatura, da musculatura que a sustentava, e, uma vez desarmada ou descarnada, perdeu de vista o referencial concreto. Não demoraria para que, separada do fato, a palavra se amputasse também do corpo.
Distante do compromisso clássico com a realidade, o homem abismado do século XXI, ao delegar a palavra a um processador de linguagem, é já o homem denegado, vazio, descaracterizado.
Entre as muitas coisas que esse aparelho não pode fazer, uma delas talvez deva ficar muito clara para nós, pelas consequências que ela pode gerar: como toda e qualquer programação baseada em algorítimos matemáticos, o Chat é incapaz de tomar decisões éticas ou morais.
Numa certa altura do progresso científico, entendemos que não estava certo, por exemplo, cruzar um ser humano com um cachorro, embora nós tivéssemos meios para o fazer. Entendemos que era preciso estabelecer normas para evitar certas práticas, porque a engenharia genética poderia ser extremamente perigosa para a humanidade. Diante do avanço da tecnologia, nós nos vimos obrigados a tomar uma decisão ética.
Eu não posso acrescentar nada a esse tema que já não tenha sido abordado pela literatura e pelo cinema de forma impactante. A minha intenção é apenas lembrar, porque eu acho que esse é o momento certo para fazer isso, e por esse motivo o repito, que o Chat é incapaz de tomar decisões éticas ou morais. Se nós estivermos interessados num convívio ético e moral, esta será, portanto, uma regulação que não caberá à máquina, mas a nós.
*Caio Gagliardi é professor de literatura portuguesa na USP. Autor de O renascimento do autor: Autoria, heteronímia e fake memoirs (Hedra).
Notas
[i] Fiz uma pausa para o café antes de formular essa pergunta. Talvez por ter reingressado no aplicativo, ele não me tenha dado uma resposta no padrão das anteriores. Como se poderá constatar, a resposta à pergunta seguinte, sobre Pessoa, foi a tal ponto “enriquecida” após essa pausa que os seus dois primeiros parágrafos podem ser lidos como fruto de um desvario do Chat.
[ii] Nesta altura, optei por retomar uma pergunta que havia feito ao Chat dois dias antes dessa conversa. A resposta gerada identificava o ranzinza Pedro de Lara (como sabemos, um dos exóticos jurados do Programa Sílvio Santos), como “escritor, poeta e crítico literário brasileiro”, “autor de vários ensaios e artigos sobre a obra de Fernando Pessoa, especialmente sobre o heterônimo Álvaro de Campos”. Entre afirmações de teor vago e generalizante, encontra-se a seguinte: “Além disso, Pedro de Lara também foi um dos responsáveis pela tradução e publicação da obra de Pessoa no Brasil, tendo sido o responsável pela primeira edição brasileira de “Mensagem”, em 1952.” Afora a concepção inédita de “tradução da obra de Pessoa no Brasil”, até o momento da escrita deste artigo não obtive sucesso em identificar junto à fortuna crítica brasileira de Pessoa um autor chamado Pedro de Lara.
[iii] O leitor me desculpe por essa insistência. A conversa tomava um rumo tão interessante, que não fui capaz de interrompê-la neste ponto.
A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA
