Por LEANDRO OLIVEIRA DA SILVA*
A sociedade precisa estar ciente das questões críticas relacionadas à privacidade, ao viés, à discriminação e às desigualdades que a Inteligência artificial pode acentuar
“O espírito humano precisa prevalecer sobre a tecnologia” (Albert Einstein)
A interação humano-computador está avançando cada vez mais, o que traz mais facilidade para o dia a dia. Um exemplo disso é a praticidade obtida com a Inteligência artificial (IA), que possibilita maior agilidade no acesso a conhecimento aliado a uma menor burocracia. A Inteligência artificial é uma tecnologia que possui aplicações desde tarefas das mais simples, como a busca por um conceito trabalhado em sala de aula, às mais complexas, como o planejamento estratégico empresarial.
No entanto, esta revolução tecnológica traz consigo alguns problemas de ordem ética e social que impactam negativamente na sociedade. Com todo este poder é preciso ter a responsabilidade de saber como utilizar esta tecnologia de forma positiva e sensata. Se for delegado aos algoritmos a responsabilidade de interagir com os humanos, tomar decisões e executar tarefas, como garantir que será realizado de forma ética?
Toda tecnologia que surge para beneficiar a sociedade traz consigo riscos e problemas quando utilizada de maneira errada, assim ocorre com as redes sociais, a biotecnologia, as armas e a energia nuclear. A Inteligência artificial se trata de um conjunto de tecnologias que criam sistemas encarregados de executar tarefas que, até então, eram executadas por seres humanos. As implicações éticas do uso da Inteligência artificial são profundas e complexas, considerando os danos que podem ser causados na configuração da sociedade atual. Dentre as principais questões relacionadas com a ética, existem diversos problemas relacionados à privacidade, diversidade, transparência, segurança etc.
As Inteligências artificiais necessitam de um treinamento para que funcionem corretamente, que pode ser realizado através de variadas técnicas e ferramentas, de acordo com a tarefa que a Inteligência artificial deve desempenhar. Por exemplo, nos modelos de linguagem (que é uma das aplicações mais populares da Inteligência artificial) o treinamento é realizado através de uma coleta de dados. Esta coleta é feita através de textos que são extraídos de diversas fontes, como livros, sites, redes sociais, artigos etc.
Inúmeras aplicações de Inteligência artificial necessitam de um enorme volume de dados que pode levar à uma coleta excessiva de dados das pessoas, como informações sobre localização, histórico de busca, dados de familiares ou até mesmo dados biométricos. A coleta de dados levanta muitas questões relevantes sobre privacidade, devido a maneira que os dados são armazenados, utilizados e protegidos. Isso se torna uma questão crítica, pois um possível vazamento de dados sensíveis pode resultar em crimes como furto de identidade e fraudes.
Outra questão crítica associada ao uso da Inteligência artificial está relacionada ao Bias e a discriminação. O Bias é o viés ou a distorção de informações que o sistema apresenta levando a resultados injustos ou imprecisos. A coleta de dados para o treinamento pode reproduzir preconceitos históricos das diversas fontes consultadas. Para exemplificar, imagine que uma empresa decide utilizar uma Inteligência artificial para contratar novos funcionários e que os dados utilizados para treinar o sistema mostraram um viés de gênero (homens ocupando cargos de liderança).
A partir disso, a Inteligência artificial pode aprender a favorecer candidatos do sexo masculino nas seleções de cargos semelhantes. A discriminação está presente em resultados que reproduzem preconceitos, quanto ao gênero, a orientação sexual, a religião, a raça, a origem ou outras particularidades, tratando pessoas e grupos sociais de forma desigual.
Essas questões críticas estão ligadas a um longo processo histórico, envolvendo fatores econômicos, sociais e políticos, em que as nações mais ricas possuem maior rapidez no desenvolvimento de avanços tecnológicos em relação às nações mais pobres. Assim, o uso de Inteligência artificial pode afetar a economia global e continuar a reproduzir as desigualdades entre as nações, visto que países que possuem mais recursos e avançada infraestrutura em Pesquisa e Desenvolvimento possuem vantagem na criação de tecnologias de ponta. O resultado será um vão tecnológico entre as nações mais desenvolvidas e menos desenvolvidas, que influencia na renda da população e na capacidade de lidar com problemas nacionais.
Diante disso, a promoção de uma educação aplicada ao desenvolvimento de habilidades tecnológicas deve ser incentivada pelo Estado, principalmente em países menos favorecidos. Isso tem potencial de reduzir o vazio tecnológico entre países ao passo que desenvolve nas pessoas a conscientização sobre como as IAs são feitas e como o uso de dados pessoais ocorre. Isso é importante para que se quebre o ciclo de reprodução de desigualdades e de discriminação. Conforme avançamos na interação humano-computador, é imperativo que garantamos que o progresso tecnológico seja acompanhado por um progresso ético e educacional.
A sociedade precisa estar ciente das questões críticas relacionadas à privacidade, ao viés, à discriminação e às desigualdades que a Inteligência artificial pode acentuar. Ao investir na promoção de uma educação voltada para o desenvolvimento de habilidades tecnológicas, especialmente em nações menos favorecidas, podemos criar um caminho mais equitativo e consciente. Dessa forma, poderemos assegurar que o espírito humano não apenas prevaleça sobre a tecnologia, mas também a direcione para um futuro mais justo, inclusivo e ético.
Leandro Oliveira da Silva é mestrando em ciência da computação na Universidade Federal de São Paulo (Unifesp).
A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA
