As ideias precisam circular. Ajude A Terra é Redonda a seguir fazendo isso.

Interagindo com a Inteligência artificial

Imagem: Pavel Danilyuk
Whatsapp
Facebook
Twitter
Instagram
Telegram

Por LEANDRO OLIVEIRA DA SILVA*

A sociedade precisa estar ciente das questões críticas relacionadas à privacidade, ao viés, à discriminação e às desigualdades que a Inteligência artificial pode acentuar

“O espírito humano precisa prevalecer sobre a tecnologia” (Albert Einstein)

A interação humano-computador está avançando cada vez mais, o que traz mais facilidade para o dia a dia. Um exemplo disso é a praticidade obtida com a Inteligência artificial (IA), que possibilita maior agilidade no acesso a conhecimento aliado a uma menor burocracia. A Inteligência artificial é uma tecnologia que possui aplicações desde tarefas das mais simples, como a busca por um conceito trabalhado em sala de aula, às mais complexas, como o planejamento estratégico empresarial.

No entanto, esta revolução tecnológica traz consigo alguns problemas de ordem ética e social que impactam negativamente na sociedade. Com todo este poder é preciso ter a responsabilidade de saber como utilizar esta tecnologia de forma positiva e sensata. Se for delegado aos algoritmos a responsabilidade de interagir com os humanos, tomar decisões e executar tarefas, como garantir que será realizado de forma ética?

Toda tecnologia que surge para beneficiar a sociedade traz consigo riscos e problemas quando utilizada de maneira errada, assim ocorre com as redes sociais, a biotecnologia, as armas e a energia nuclear. A Inteligência artificial se trata de um conjunto de tecnologias que criam sistemas encarregados de executar tarefas que, até então, eram executadas por seres humanos. As implicações éticas do uso da Inteligência artificial são profundas e complexas, considerando os danos que podem ser causados na configuração da sociedade atual. Dentre as principais questões relacionadas com a ética, existem diversos problemas relacionados à privacidade, diversidade, transparência, segurança etc.

As Inteligências artificiais necessitam de um treinamento para que funcionem corretamente, que pode ser realizado através de variadas técnicas e ferramentas, de acordo com a tarefa que a Inteligência artificial deve desempenhar. Por exemplo, nos modelos de linguagem (que é uma das aplicações mais populares da Inteligência artificial) o treinamento é realizado através de uma coleta de dados. Esta coleta é feita através de textos que são extraídos de diversas fontes, como livros, sites, redes sociais, artigos etc.

Inúmeras aplicações de Inteligência artificial necessitam de um enorme volume de dados que pode levar à uma coleta excessiva de dados das pessoas, como informações sobre localização, histórico de busca, dados de familiares ou até mesmo dados biométricos. A coleta de dados levanta muitas questões relevantes sobre privacidade, devido a maneira que os dados são armazenados, utilizados e protegidos. Isso se torna uma questão crítica, pois um possível vazamento de dados sensíveis pode resultar em crimes como furto de identidade e fraudes.

Outra questão crítica associada ao uso da Inteligência artificial está relacionada ao Bias e a discriminação. O Bias é o viés ou a distorção de informações que o sistema apresenta levando a resultados injustos ou imprecisos. A coleta de dados para o treinamento pode reproduzir preconceitos históricos das diversas fontes consultadas. Para exemplificar, imagine que uma empresa decide utilizar uma Inteligência artificial para contratar novos funcionários e que os dados utilizados para treinar o sistema mostraram um viés de gênero (homens ocupando cargos de liderança).

A partir disso, a Inteligência artificial pode aprender a favorecer candidatos do sexo masculino nas seleções de cargos semelhantes. A discriminação está presente em resultados que reproduzem preconceitos, quanto ao gênero, a orientação sexual, a religião, a raça, a origem ou outras particularidades, tratando pessoas e grupos sociais de forma desigual.

Essas questões críticas estão ligadas a um longo processo histórico, envolvendo fatores econômicos, sociais e políticos, em que as nações mais ricas possuem maior rapidez no desenvolvimento de avanços tecnológicos em relação às nações mais pobres. Assim, o uso de Inteligência artificial pode afetar a economia global e continuar a reproduzir as desigualdades entre as nações, visto que países que possuem mais recursos e avançada infraestrutura em Pesquisa e Desenvolvimento possuem vantagem na criação de tecnologias de ponta. O resultado será um vão tecnológico entre as nações mais desenvolvidas e menos desenvolvidas, que influencia na renda da população e na capacidade de lidar com problemas nacionais.

Diante disso, a promoção de uma educação aplicada ao desenvolvimento de habilidades tecnológicas deve ser incentivada pelo Estado, principalmente em países menos favorecidos. Isso tem potencial de reduzir o vazio tecnológico entre países ao passo que desenvolve nas pessoas a conscientização sobre como as IAs são feitas e como o uso de dados pessoais ocorre. Isso é importante para que se quebre o ciclo de reprodução de desigualdades e de discriminação. Conforme avançamos na interação humano-computador, é imperativo que garantamos que o progresso tecnológico seja acompanhado por um progresso ético e educacional.

A sociedade precisa estar ciente das questões críticas relacionadas à privacidade, ao viés, à discriminação e às desigualdades que a Inteligência artificial pode acentuar. Ao investir na promoção de uma educação voltada para o desenvolvimento de habilidades tecnológicas, especialmente em nações menos favorecidas, podemos criar um caminho mais equitativo e consciente. Dessa forma, poderemos assegurar que o espírito humano não apenas prevaleça sobre a tecnologia, mas também a direcione para um futuro mais justo, inclusivo e ético.

Leandro Oliveira da Silva é mestrando em ciência da computação na Universidade Federal de São Paulo (Unifesp).


A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA

AUTORES

TEMAS

MAIS AUTORES

Lista aleatória de 160 entre mais de 1.900 autores.
Anselm Jappe Rodrigo de Faria Paulo Fernandes Silveira Manuel Domingos Neto Airton Paschoa Everaldo de Oliveira Andrade Renato Dagnino Ronaldo Tadeu de Souza João Paulo Ayub Fonseca Atilio A. Boron Elias Jabbour Luiz Roberto Alves Dennis Oliveira Luís Fernando Vitagliano Alexandre de Freitas Barbosa Samuel Kilsztajn José Luís Fiori Tarso Genro José Raimundo Trindade Luiz Costa Lima João Carlos Loebens Ricardo Musse Ricardo Fabbrini Bento Prado Jr. Otaviano Helene João Sette Whitaker Ferreira Paulo Sérgio Pinheiro Ricardo Antunes José Geraldo Couto Lucas Fiaschetti Estevez Afrânio Catani Marilena Chauí Jean Pierre Chauvin Mário Maestri Marcus Ianoni Juarez Guimarães Andrew Korybko Vinício Carrilho Martinez Valerio Arcary Bruno Fabricio Alcebino da Silva Rafael R. Ioris Daniel Costa Carla Teixeira Chico Whitaker Tales Ab'Sáber Caio Bugiato Marilia Pacheco Fiorillo Érico Andrade Salem Nasser Ricardo Abramovay Manchetômetro Luiz Marques Antonino Infranca Michael Roberts Tadeu Valadares Marcelo Módolo Gilberto Maringoni Sandra Bitencourt José Machado Moita Neto Eugênio Trivinho Mariarosaria Fabris Francisco Fernandes Ladeira Ladislau Dowbor Francisco Pereira de Farias Berenice Bento Flávio Aguiar Eleutério F. S. Prado Anderson Alves Esteves Celso Frederico Denilson Cordeiro André Márcio Neves Soares Remy José Fontana José Micaelson Lacerda Morais Sergio Amadeu da Silveira Ronald Rocha Eleonora Albano Ari Marcelo Solon Eliziário Andrade Plínio de Arruda Sampaio Jr. Alexandre Aragão de Albuquerque Benicio Viero Schmidt Luis Felipe Miguel Marcos Silva Marcelo Guimarães Lima Luiz Eduardo Soares Vanderlei Tenório Marcos Aurélio da Silva André Singer Antônio Sales Rios Neto Annateresa Fabris Antonio Martins Luiz Renato Martins Luiz Werneck Vianna Boaventura de Sousa Santos Walnice Nogueira Galvão Yuri Martins-Fontes Leonardo Boff Alysson Leandro Mascaro Fernão Pessoa Ramos Dênis de Moraes Lorenzo Vitral Eugênio Bucci Gabriel Cohn Igor Felippe Santos Flávio R. Kothe João Feres Júnior Daniel Afonso da Silva Rubens Pinto Lyra Armando Boito Priscila Figueiredo Luciano Nascimento Michael Löwy Vladimir Safatle Heraldo Campos José Dirceu Paulo Martins Slavoj Žižek Liszt Vieira Valério Arcary Alexandre de Lima Castro Tranjan Luiz Carlos Bresser-Pereira Maria Rita Kehl Celso Favaretto Luiz Bernardo Pericás Leonardo Avritzer Roberto Noritomi Carlos Tautz Leda Maria Paulani Roberto Bueno Chico Alencar Osvaldo Coggiola Eduardo Borges Thomas Piketty Henri Acselrad Fábio Konder Comparato Marjorie C. Marona José Costa Júnior Paulo Nogueira Batista Jr Bernardo Ricupero Ronald León Núñez Henry Burnett Leonardo Sacramento Francisco de Oliveira Barros Júnior Daniel Brazil João Carlos Salles Milton Pinheiro Paulo Capel Narvai Jorge Luiz Souto Maior Jean Marc Von Der Weid Julian Rodrigues Lincoln Secco João Lanari Bo Kátia Gerab Baggio Gerson Almeida Jorge Branco Bruno Machado João Adolfo Hansen Fernando Nogueira da Costa Gilberto Lopes Claudio Katz

NOVAS PUBLICAÇÕES

Pesquisa detalhada