Por JOSÉ MACHADO MOITA NETO*
Não há inteligência artificial que não tenha consequências educacionais, culturais, sociais, econômicas e políticas
Controvérsias em torno do ChatGPT, que parecem alimentar uma jogada de marketing, provocam uma reflexão que vai além dessa aplicação tecnológica específica, direcionando o olhar ao campo mais amplo da Inteligência Artificial (IA). Quem teve a oportunidade de ler Inteligência artificial de Kai-Fu Lee pode ter sido arrastado pelo otimismo tecnológico ou ter refletido sobre as questões de poder, dominação e transformações educacionais e culturais ausentes naquele texto.
A posição de um educador é sempre, diante de quase tudo, de otimismo contido. Nada há de espetacular que não mereça uma crítica ou, pelo menos, um alerta para desdobramentos possíveis e indesejáveis. O objetivo desse texto é navegar por possibilidades da Inteligência Artificial, enquanto algumas aplicações podem ser consideradas inúteis ou perigosas.
Bots humanos
O primeiro ponto dessa reflexão é a existência de “bots” humanos: pessoas que se comportam, em algumas práticas, como se fossem robôs. Isso vem de um treino, de uma uniformização, de uma padronização de comportamentos, inclusive, exigido por empresas. Como exemplo, alguns já sofreram o dissabor de querer adquirir rapidamente um item em supermercado, antecipando as informações que serão solicitadas. Entrega-se o item avisando que será pago com cartão de crédito (uma vez ou à vista), pensando que isso vai poupar tempo e, também, auxiliar o profissional do caixa a fazer o seu trabalho mais rápido. Isso não é verdade. Ele vai processar a compra e depois fará a pergunta: crédito ou débito? Se a resposta for crédito, em seguida, perguntará se é a vista ou parcelado. Essas informações já tinham sido fornecidas anteriormente, mas ele não prestou atenção ou, se prestou atenção, deve seguir um protocolo bastante rígido, que o torna um verdadeiro “bot” humano (robô humano).
Então, se temos esse comportamento admissível na sociedade, essa super uniformização, e esse é apenas um dos exemplos, não é de se estranhar o enorme sucesso que uma Inteligência Artificial pode conseguir justamente porque rapidamente os humanos se padronizam. Comportamentos uniformes e padrões são facilmente captados e aprendidos por máquinas. É o caso, por exemplo, do ChatGPT. A inteligência artificial irá substituir de modo avassalador os “bots humanos”.
Padronização do comportamento humano
Existem técnicas em engenharia social de padronização. É comum, por exemplo, os slogans comerciais ou as manifestações emocionais seguirem um determinado padrão ditado por alguém, por um conjunto de discursos, de tal modo que se uniformiza/formata comportamentos de pessoas tão diferentes em torno de um mesmo tipo de discurso, de uma mesma abordagem, de um mesmo ídolo e até de um mesmo produto ou marca. Criar um comportamento padrão, de massa, é excelente do ponto de vista do mercado para diversos negócios.
Transparência pós-ChatGPT
Não há inteligência artificial que não tenha consequências educacionais, culturais, sociais, econômicas e políticas. Caso existisse, seria irrelevante. Desse modo, discutir a transparência técnico-construtiva de cada mecanismo utilizado numa IA define como a sociedade quer ser por ela transformada, inclusive, traçando-se os limites éticos. Nessa provocação pós-chatGPT, há uma questão de transparência que pode ser simplificada por um bordão que no passado se ouvia para ostentar uma posição social “você sabe com quem está falando?”.
O que deveria se exigir de qualquer Inteligência Artificial é que sua primeira resposta fosse uma pergunta ao usuário feito pela própria Inteligência Artificial: “você sabe com quem está falando?”. O usuário que respondesse “não” ouviria uma rápida introdução, na qual seria indicado o conjunto de dados com o qual a Inteligência Artificial foi treinada e o período que a base de dados usada compreende. Além dos casos de indicações e contraindicações de seu uso, tal qual uma bula de medicamento. Tudo aquilo que sair de certo ou errado na resposta vai depender obviamente desta base de dados ou das suas características. Qualquer Inteligência Artificial que fosse evolutiva e continuasse aprendendo com os seus usuários deveria conter um aviso especial pelo risco já experimentado de evoluções indesejadas que levam a incorporar ataques programados de usuários para alterá-la.
Vamos supor que uma base de dados seja treinada a partir da programação da Rede Globo entre as décadas de 1970 e 1980. Fazendo isso, pode-se armazenar toda essa programação e, a partir da mesma, treinar uma Inteligência Artificial. Desse modo, ela incluirá toda a programação daquele período determinado. Uma pergunta sobre mudanças climáticas pode ter como resposta: “não fui treinado para isso” ou, ainda, para uma pergunta que envolva mudanças culturais recentes pode ser apresentada uma resposta preconceituosa que seria perfeitamente adequada naquela década. Logo, podemos classificar como anacrônica uma resposta sobre o papel da mulher na sociedade; pois sabemos que, naquele período histórico, era daquela maneira como se dizia e era assim que se tratava determinada questão.
Com isso, o argumento que adianto é que a Inteligência Artificial na atualidade, justamente por querer abarcar uma amplitude muito grande, está muito preocupada com problemas que envolve muitos conjuntos de dados. Assim, enfrenta todos os tipos de problemas partindo da definição do próprio conjunto de dados e da sua representatividade. Desse modo, os modelos de IA estão enfrentando os mesmos problemas como todas as demais áreas das ciências enfrentaram de modelos extremamente grandes/largos.
Caminho teórico de outras ciências
Na Química, temos teorias para Cinética que até hoje são ensinadas, mais pelo seu caráter histórico, e são aplicáveis a todas as reações químicas. Hoje, sabemos que uma única teoria que seja capaz de explicar quali e quantitativamente a cinética de uma reação química é inviável. Também, agora sabemos que as teorias do passado foram importantes para explicar os aspectos qualitativos envolvidos na velocidade de uma reação, mas não atendem do ponto de vista quantitativo. E para isso existem outras teorias, mas para reações muito específicas. Isso vale para as teorias sobre o comportamento dos gases, as teorias gerais fazem parte do arcabouço histórico e dão informações qualitativas a respeito da pressão, temperatura, volume sob o comportamento gasoso. Porém, estão longe de representar um modelo para um gás específico numa situação aplicável com resultados quantitativos significativos/precisos. Em todas as ciências, é possível demonstrar que as teorias inicialmente utilizadas tinham uma abrangência desmedida.
Atualmente, os modelos de Inteligência Artificial correspondem a essas teorias genéricas e só vão ficar bons e precisos quando perderem a sua generalidade e partirem para uma especialização. Imaginem que poderíamos ter uma Inteligência Artificial baseada em toda obra de Machado de Assis, juntando na base de dados, além da sua obra, todos os jornais da sua época e tudo aquilo que corresponde à vivência dele. Então, essa Inteligência Artificial, de certo modo passará o universo de Machado de Assis. E, portanto, a uma pergunta que se fizesse a essa Inteligência Artificial, se reportaria a linguagem de Machado de Assis, nos aspectos, inclusive, semânticos do tempo de Machado de Assis e com as categorias que ele utilizava, sua diferenciação em termos de classe social e de ambiente em que vivia. Uma Inteligência Artificial dessa teria um potencial didático impressionante para o estudante que perguntasse a Machado de Assis sobre aquele período histórico. Seria ter um ancestral vivo contando histórias de seu tempo.
Criação de Inteligência Artificial sob medida
Hoje, está ao alcance de qualquer pesquisador, por exemplo, criar modelos estatísticos bastante complexos, do qual muitas vezes não se compreende a álgebra por trás, mas é possível interpretá-los em conformidade com o que se deseja. Do mesmo modo, é possível criar uma IDLE (Integrated Development and Learning Environment) para estudantes criarem as suas Inteligências Artificiais. Nesse caso, o modelo de negócio não seria a venda de uma Inteligência Artificial, mas sim dos bancos de dados adaptados à importação nas IDLE construtoras de Inteligências Artificiais. A etapa de treinamento seria simplificada por esses algoritmos, tal como hoje é no caso da estatística, desde que os bancos de dados tivessem sidos cuidadosamente pré-tratados.
O futuro possível de uma inteligência artificial
O futuro da Inteligência Artificial será construído sob a medida do usuário, na qual o próprio usuário providencia e a utiliza como deseja, treinando a partir do banco de dados que deseja. Imagine acessarmos uma Inteligência Artificial que vai trabalhar com toda a programação da Rádio Pioneira de Teresina com as entrevistas feitas, músicas tocadas, em todo o período histórico que a mesma possui base de dados. Vamos supor que seja da década de 1960 até 2010 ou 2020. Assim, poderíamos ter uma IA de todo esse período ou, ainda, termos uma IA até de um período mais restrito como das décadas de 60-80, 80-90, 90-2000 e assim por diante nessa fragmentação. Isso significa dizer que cada pessoa construiria a sua própria Inteligência Artificial a partir de um determinado banco de dados que escolheria.
Inclusive, essa especialização teria um valor muito grande porque também teríamos os “fenômenos de bolha”. Alguém que fizesse uma IA da década de 80-90 não iria ter todas as respostas necessárias para o mundo de hoje, mas a IA lhe colocaria dentro daquela bolha cognitiva que corresponderia àquele período. Mas, nada impediria que aquela pessoa, não acessando o conhecimento da IA daquela década, lançasse mão da década seguinte. Logo, pode ser que alguém prefira ficar consultando sempre a Inteligência Artificial da década de 60-80, outro da década 2000-2010, e assim por diante, porque são pessoas que são paradas no tempo, que se fixaram naquelas músicas que foram tocadas naquele período, na maneira de ver o mundo daquele período.
Fundamentos da comunicação para a Inteligência Artificial
Diante do exposto, a coisa mais importante, também do ponto de vista ético, ao responder a pergunta: “você sabe com quem está falando?” seria a emissão da resposta: “você está falando com a Inteligência Artificial baseada em tal banco de dados que foi treinado e produzido a partir de tais informações, em determinado período de tempo.” Dessa maneira, aquelas informações básicas do jornalismo 5W2H (What, Why, Who, Where, When, How, How much) estariam na informação dada pela Inteligência Artificial que cada um poderia criar ou pegar uma já criada dentro do mercado de Inteligência Artificial, esse é o futuro possível. Isso resolveria os atuais problemas da Inteligência Artificial, mas traria uma outra dimensão ética e confinaria num determinado período histórico todos os anacronismos que as Inteligências Artificiais possuem na atualidade.
Qual o problema da Inteligência Artificial que não satisfaz os requerimentos da maioria das pessoas? O rápido modo que elas podem ficar politicamente corretas ou discriminatórias por serem baseadas em determinadas visões do passado. Uma Inteligência Artificial sempre vai olhar para o passado, pois treina a partir do que lhe foi posto. Desse modo, quando declaramos qual é a base de dados e não se tem a pretensão da generalidade, se especializa em determinado tempo histórico, dentro de um contexto, pode-se chegar ao alcance de qualquer um, como hoje não precisamos de um profissional chamado fotógrafo. Cada indivíduo pode elaborar suas próprias fotografias, assim como não precisamos dos laboratórios para revelação de imagens, podemos projetá-las e mostrarmos em todos os lugares.
Proposta de uso de Inteligência Artificial na educação
Creio que a Inteligência Artificial terá esse outro viés e, quando chegar em um ambiente escolar, uma prática que poderia ser feita seria pedir aos alunos para criar um banco de dados para treinar uma Inteligência Artificial baseada no Romantismo. Então, cada aluno iria procurar todos os elementos possíveis do Romantismo, o seu período histórico, as principais obras, compilaria todos esses bancos de dados e cada um agregaria na sua base de treinamento uma coisa ou outra que os diferenciaria. Isso sim que estaríamos incorporando verdadeiramente às características da Inteligência Artificial no modelo de Educação e não seríamos apenas simples usuários de apertar botões para obter simples respostas. Isso significa dizer que deveríamos ter professores melhores, mais treinados para essas possibilidades, algoritmos mais fáceis e populares de serem utilizados e, também, teríamos uma regulação bem própria que seria essa necessária documentação de cada Inteligência Artificial.
Entre a criatividade e a uniformização
O homem nunca vai deixar de ser duas coisas ao mesmo tempo: ele vai sempre tender a uma uniformização a partir do seu convívio social, o que favorece muito as Inteligências Artificiais e, também, será criativo, diferente do outro/vizinho, o que deixará sempre uma lacuna nas Inteligências Artificiais. Contudo, é claro que ela vai trazer vantagens para toda sociedade como trouxe o fato da imprensa, como trouxeram as grandes enciclopédias, os dicionários e os diversos meios que a comunidade tem para acessar e interpretar a informação. Obviamente, ela nunca deixará de ser um mimetismo de um determinado período e sempre vai precisar que o usuário use a sua capacidade de interpretação.
Ao solicitar que uma Inteligência Artificial baseada em dados de Machado de Assis escreva um texto sobre mudanças climáticas, esse texto terá o estilo de Machado de Assis e a profundidade correspondente à sua época. Talvez, narre alguma situação, associada às mudanças climáticas, acontecida em um determinado período, que simplesmente seria retratada como cheia ou enchente, frio intenso ou apenas ao final declararia que as informações apresentadas são insuficientes para completar a ideia, uma vez que essa categoria inexistia naquele período histórico. Contudo, teríamos muitas outras coisas interessantes para explorar.
Conclusão
A explosão de textos, notícias e informações sobre o uso do ChatGPT se qualifica mais como um grande lançamento de marketing do que uma mudança de rumo na pesquisa e desenvolvimento de inteligência artificial. Os desenvolvimentos substanciais em inteligência artificial só acontecerão quando os modelos genéricos, que atingiriam de igual modo todos os mercados consumidores de determinada língua, forem abandonados.[1]
*José Machado Moita Neto é professor aposentado da Universidade Federal do Piauí (UFPI) e pesquisador da UFDPar.
Referências
Ainda é cedo para dizer que sou a maior revolução desde a internet, diz ChatGPT, https://impactomais.com.br/ciencia-e-tecnologia/ainda-e-cedo-para-dizer-que-sou-a-maior-revolucao-desde-a-internet-diz-chatgpt/.
Avanço da IA com ChatGPT alerta sobre trapaça de estudantes, https://www1.folha.uol.com.br/mercado/2022/12/avanco-da-ia-com-chatgpt-alerta-sobre-trapaca-de-estudantes.shtml.
ChatGPT: como usar o robô no dia a dia, https://g1.globo.com/economia/tecnologia/video/chatgpt-como-usar-o-robo-no-dia-a-dia-11287993.ghtml.
ChatGPT: ferramenta controlada por inteligência artificial gera polêmica ao criar textos, poemas e até letras de músicas,
https://g1.globo.com/fantastico/noticia/2023/01/29/chatgpt-ferramenta-controlada-por-inteligencia-
artificial-gera-polemica-ao-criar-textos-poemas-e-ate-letras-de-musicas.ghtml.
Laboratório que criou ChatGPT foi fundado sem visar lucro e pode valer US$ 29-bi, https://www1.folha.uol.com.br/mercado/2023/01/laboratorio-que-criou-chatgpt-foi-fundado-sem-visar-lucro-e-pode-valer-us-29-bi.shtml.
Nature 613, 612 (2023), https://doi.org/10.1038/d41586-023-00191-1
NYC education department blocks ChatGPT on school devices, networks, https://ny.chalkbeat.org/2023/1/3/23537987/nyc-schools-ban-chatgpt-writing-artificial-intelligence#:~:text=%E2%80%9CDue%20to%20concerns%20about%20negative,education%20department%20spokesperson%20Jenna%20Lyle.
O ChatGPT e o debate sobre os avanços no campo da inteligência artificial – Ao Ponto – podcast do jornal O Globo,
Preocupadas com ChatGPT universidades começam a rever métodos de ensino, https://www1.folha.uol.com.br/mundo/2023/01/preocupadas-com-chatgpt-universidades-comecam-a-rever-metodos-de-ensino.shtml.
Quando a tecnologia pode atrapalhar. https://cidadeverde.com/cienciaviva/121159/quando-a-tecnologia-pode-atrapalhar.
Tentar proibir ChatGPT nas escolas será perda de tempo, dizem especialistas.
Nota
[1] Agradeço ao amigo e colaborador Prof.Dr. Regis Casimiro (IFRN) que fez a leitura e contribuiu com indicações de fontes recentes de discussão sobre o tema.
O site A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
Clique aqui e veja como
