Por SÉRGIO AMADEU DA SILVEIRA*
A catástrofe algorítmica e a nuvem do “apagão”
1.
A sociologia da modernidade produziu um conjunto de reflexões que precisam ser aprofundadas, principalmente nestes tempos de espraiamento das ondas reacionárias que convivem e se alimentam da ascensão de tecnologias que se propõe mediadoras de todas as atividades humanas. O sociólogo Ulrich Beck em Sociedade do risco, publicado na Alemanha em 1986, alertava que os riscos e as incertezas haviam se tornado centrais nas sociedades modernas embaladas pelo progresso tecnológico e industrial.
Ulrich Beck já apontava que tais riscos seriam cada vez mais invisíveis e sua percepção seria conformada pelas instituições científicas e pela mídia. A dinâmica do risco seria incorporada e a busca constante por responsáveis e culpados pelos desastres nos conduziria para certa política sustentada pela gestão de riscos.
A percepção de Ulrich Beck não poderia ser mais realista, uma vez que as tecnologias digitais dominaram a economia e grandes empresas que as controlam e comandam o seu desenvolvimento impuseram um estilo de gestão de riscos. O filósofo Yuk Hui abriu seu texto Algorithmic catastrophe – the revenge of contingency, de 2020, as catástrofes tecnológicas não são simplemente falhas materiais, mas são falhas da razão. Inspirando-se em Paul Virilio, Yuk Hui pensa os sistemas tecnológicos contemporâneos como portadores de catástrofes e de técnicas de mitigação das próprias tragédias que suas dinâmicas e finalidades geram.
As catástrofes são inevitáveis pela própria natureza das tecnologias de automação e automatização. Nossos sistemas caminham para o uso crescente de soluções de inteligência maquínica baseadas em estatística e probabilidade convertidos em sistemas algorítmicos que operam a partir de um gigantesco poder computacional gerando modelos que são utilizados para automatizar atividades e o risco das mesmas.
Norbert Wiener, no texto Some moral and technical consequences of automation, publicado em maio de 1960 na revista Science, declarou que se as máquinas poderiam desenvolver estratégias imprevistas, uma vez que portavam algoritmos de aprendizado o que nem sempre poderia ser compreendido e acompanhado por seus programadores.
2.
O que aconteceu no dia 18 e 19 de julho de 2024 é exemplo de uma catástrofe algorítmica. O sistema de gestão de risco, mais precisamente de mitigação de ataques cibernéticos falhou. Uma incorreção na atualização de software da empresa de segurança cibernética CrowdStrike que é aplicada no sistema operacional da Microsoft gerou o que a imprensa mundial nomeou de apagão cibernético ou digital. Uma mensagem da Microsoft no antigo Twitter, atual X, dizia: “Estamos cientes de um problema com os PCs em nuvem do Windows 365 causado por uma atualização recente do software CrowdStrike Falcon Sensor”.
Todo sistema digital incorpora de alguma forma a tentativa de detecção e de contenção de erro, falha, ataque, ou seja, de riscos e incidentes. Por isso, existem outros sistemas algorítmicos que atuam o tempo todo para analisar falhas, erros e ataques. Antivírus são um exemplo de atuação preventiva para proteger um sistema de envio de arquivos maliciosos que podem destruir informações e até encriptar base de dados para a obtenção de resgate pelos criminosos que detenham a chave para decifrar as informações. Curiosamente, o problema ocorrido e chamado de “apagão” se deu quando o sistema de proteção ou de prevenção de ataques acabou promovendo um ataque ao sistema de deveria defender.
Anthony Giddens e Ulrich Beck escreveram que na modernidade tardia, os riscos são, em grande parte, produzidos pela própria sociedade, principalmente pela tecnologia, industrialização e globalização. Todavia já estamos há muito tempo na modernidade tardia, estamos em um sistema capitalista em putrefação. O sonho do capitalista é distópico e busca substituir ao extremo o trabalho humano pelos sistemas automatizados com o objetivo de reduzir custos e aumentar a qualidade e a precisão dos serviços e produtos com a elevação da produtividade.
Assim, no capitalismo contemporâneo as grandes empresas de tecnologia avançam na coleta incessante de dados para aprimorar a extração de padrões dos processos humanos, sociais e maquínicos. Mas, esse sonho tem consequências sociotécnicas não previsíveis e não controláveis.
É importante destacar aqui que os riscos se amalgamam com objetivos que os ampliam, entre os quais, está a busca pelo domínio do mercado promovida pelos oligopólios digitais, as chamadas Big Techs. Já na primeira década do século XXI, o modelo de negócios baseado na chamada computação em nuvem se alastrou acelerando a concentração de poder computacional, de armazenamento de dados, e consequentemente, ampliando a concentração econômica.
Como é o negócio de nuvem? O que significa a frase “meus dados estão na nuvem”? Nuvem é uma metáfora para o negócio de armazenamento e processamento de dados e sistemas que estão localizados em data centers que são acessados remotamente pela internet. Como diz a piada “nuvem é o computador dos outros”.
Algumas poucas empresas se especializaram e acabaram dominando o negócio de provimento de nuvem. A Amazon Web Server e a Microsoft Azure, em 2021, detinham 60% do mercado mundial de nuvem que ofereciam a infraestrutura como serviço. O que isso quer dizer. Que diversas empresas, instituições, governos substituíram suas próprias infraestruturas de processamento e armazenamento de dados locais por contratos para que a Amazon e a Microsoft “cuidassem” e “alugassem” espaço de armazenamento de dados e serviços computacionais.
Os custos de contratação da nuvem para as empresas e governos eram convidativos. Isso levou a um crescimento gigantesco desse mercado. A consequência foi mais concentração econômica.
Segundo o Gartner Group, a concentração no mercado de Infraestrutura de nuvem como serviço (IaaS) era a seguinte em 2023: a Amazon detinha 39%, a Microsoft 23 %, o Google 8,2%, o Alibaba 7,9%, a Huawei 4,3%. Essas cinco empresas dominavam 82,4% do mercado global de nuvem. Além disso, esse cenário está se agravando devido ao treinamento dos grandes modelos de linguagem, o LLMs, que necessitam de muitos computadores disponíveis com altíssima capacidade de processamento ou poder computacional. Portanto, a Inteligência Artificial Generativa baseada na extração de padrões de grande quantidade de dados está contribuindo para a concentração de poder computacional que implica em poder econômico.
3.
No dia do apagão, muitas empresas foram acessar seus aplicativos e sistemas na nuvem da Microsoft e deram de cara com a famosa tela azul, ou seja, o sistema operacional não conseguia funcionar. Muitas pessoas que tinham o Microsoft 365 também tiveram o acesso aos seus arquivos bloqueados. O Microsoft 365 é como um serviço de assinatura que dá aos usuários o acesso ao pacote Office e demais serviços pela internet, em vez de instalá-los localmente em suas próprias máquinas.
Isso significa que os dados e arquivos dos usuários são armazenados na nuvem da Microsoft, permitindo que eles acessem seus documentos e informações de qualquer lugar com uma conexão à internet. Exceto quando a própria empresa que oferece o serviço tenha uma falha, um ataque ou promova um bloqueio, intencional ou não.
O apagão demonstrou o poder gigantesco que possui um mediador das relações digitais e um operador de tratamento de dados como a Microsoft. Sem dúvida, a falha não intencional gerou o apagão. Mas, fica evidente que a Microsoft tem o poder de bloquear o acesso de empresas e instituições a seus próprios dados localizados nos seus data centers, bem distante da nossa jurisdição e de nossa capacidade de acesso físico.
Temos aí um problema de soberania digital. Os dirigentes do Estado brasileiro precisam avaliar os riscos de continuar hospedando seus dados estratégicos e usando softwares de uso cotidiano em infraestruturas fora do nosso país. Nossas universidades precisam debater se não seria fundamental manter os dados de sua comunicação e de suas pesquisas em infraestruturas instaladas em nosso país, em nossa jurisdição e submetidas aos nossos comitês de ética. A autonomia necessária ao desenvolvimento cada vez mais passa pela soberania digital.
*Sergio Amadeu da Silveira é professor da Universidade Federal do ABC. Autor, entre outros livros, de Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal (Autonomia Literária). [https://amzn.to/3ZZjDfb]
Referências
BECK, Ulrich; GIDDENS, Anthony; LASH, Scott. The reinvention of politics: Towards a theory of reflexive modernization. Staford University Press, 1994.
BECK, Ulrich. Sociedade de risco. São Paulo: Editora 34, 2010.
GARTNER Says Worldwide IaaS Public Cloud Services Revenue Grew 16.2% in 2023
STAMFORD, Conn., July 22, 2024. Link: https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023
HUI, Yuk. Algorithmic catastrophe. The revenge of contingency. Parrhesia: A Journal of Critical Philosophy, n. 34, 2020.
WIENER, Norbert. Some Moral and Technical Consequences of Automation: As machines learn they may develop unforeseen strategies at rates that baffle their programmers. Science, v. 131, n. 3410, p. 1355-1358, 1960.
A Terra é Redonda existe graças aos nossos leitores e apoiadores.
Ajude-nos a manter esta ideia.
CONTRIBUA
