Lançado em 2020 e publicado este ano no Brasil, o livro ‘Algoritmos de Destruição em Massa’, de Cathy O’Neil, traça um panorama geral (e assustador) de como os dispositivos da chamada “inteligência artificial” vêm sendo utilizados para não somente regular as vidas das pessoas, mas também para disseminar e potencializar preconceitos contra trabalhadores, populações negras e moradores de regiões periféricas.
Após demonstrar que os algoritmos do Google e das principais redes sociais — como Facebook, Twitter, Instagram e Youtube — são programados para abordar os internautas de forma customizada (personalizada), separando-os em grupos ou “ilhas” sem que os próprios internautas percebam, a autora também levanta a hipótese da manipulação direta da opinião pública, citando o caso do próprio Facebook. “Embora o Facebook pareça uma moderna praça de cidade, a empresa determina, de acordo com seus próprios interesses, o que vemos e aprendemos em sua rede social. Ao ajustar seu algoritmo e moldar as notícias que vemos, poderá o Facebook manipular o sistema político?”, pergunda Cathy O’Neil, que em outro trecho do livro afirma: “Essa é uma quantia significativa de poder. E o Facebook não é a única empresa a empunhá-lo. Outras corporações de capital aberto, incluindo Google, Apple, Microsoft, Amazon e operadoras de telefonia como Verizon e AT&T têm vasta informação sobre grande parte da humanidade — e os meios para nos guiar da forma que quiserem”.
O uso de inteligência artificial programada com visões de mundo preconceituosas e discriminadoras é outro perigo apontado por Cathy O’Neil em relação aos algoritmos. Entre vários exemplos contidos no livro, a autora faz referência ao uso de algoritmos por parte de empresas interessadas na contratação de trabalhadores, citando casos em que candidatos negros e moradores de periferias foram preteridos e barrados.
Exemplos semelhantes são apontados no uso de algoritmos parte das forças de segurança, a partir de informações que discriminada ainda mais os moradores de áreas geográficas mais violentas.
Para Cathy O’Neil, a forma como os algoritmos são usados e programados por grandes corporações e governos contribui para aumentar a desigualdade, sendo também uma ameaça à democracia.
A leitura de ‘Algoritmos de Destruição em Massa’ é essencial para pesquisadores, profissionais de Tecnologia da Informação (TI), jornalistas, gestores corporativos, agentes públicos, advogados e operadores de mídias sociais.
Ph.D. em Matemática pela Universidade de Harvard, Cathy O’Neil é pós-doutora pelo MIT (Massachusetts Institute of Technology). Atualmente, é professora no Barnard College, de Nova York.
