Cathy O’Neil, Weapons of Math Destruction

Arquivos em inglês:

• PDF
• epub

Resenha:
outraspalavras.net/destaques/a-silenciosa-dominacao-por-algoritmos
Armas de Destruição Matemática (WMD, em inglẽs), da pesquisadoras de dados Cathy O’Neil, oferece uma visão mais cética dos algoritmos, com foco em seus custos e consequências sociais negativas. O’Neil documenta como os algoritmos – WMDs – podem punir os pobres e promover os privilegiados, num círculo que piora as desigualdades de raça e de classe do capitalismo. Por exemplo, acredita-se amplamente, nos Estados Unidos, que prisioneiros não-brancos de bairros pobres têm maior probabilidade de cometer crimes, e também estão mais dispostos a cometer outros crimes e voltar à prisão. Os modelos de reincidência que seguem a tendência de um criminoso condenado a reincidir sugerem que essas pessoas são mais propensas a estar desempregadas, não possuem diploma do ensino médio e tiveram, com os amigos, passagens anteriores pela polícia. Uma outra maneira de olhar para os mesmos dados, contudo, é que essas pessoas vieram de áreas pobres com péssimas escolas e poucas oportunidades. “Então as chances de um ex-prisioneiro que volta ao mesmo bairro ter outra encrenca com a lei é sem dúvida maior do que a de um sonegador de impostos que é solto e volta a um subúrbio frondoso.” Nesse sistema, observa O’Neil, “os pobres e não-brancos são punidos mais por serem quem são e viverem onde vivem.”

Armas de Destruição Matemática oferece vários exemplos inspiradores de como os algoritmos podem ser instalados como uma ferramenta muito poderosa, embora invisível, para dominar a vida cotidiana da pessoas. O livro é melhor escrito do que se pode esperar de um quant. As fontes humanas de O’Neil oferecem material vívido que ilumina histórias de dor e sofrimento infligidas às pessoas por empresas de crédito com as estratégias predatórias de empréstimo alimentadas por algoritmos. A partir de sua experiência como uma pesquisadora de dados, ela revela problemas com a entrada destes em algoritmos e explica como esses problemas podem levar à destruição de comunidades inteiras, desde a avaliação de professores até aqueles que enviam seus currículos à procura de empregos. A organização de O’Neil das experiências de pensamento para imaginar como os algoritmos poderiam informar as táticas da polícia em bairros brancos e ricos e para combater crimes de colarinho branco traz à tona o privilégio e a imunidade de que essas comunidades desfrutam quanto às consequências da pobreza. Ela propõe exemplos de como os algoritmos poderiam ser auditados e mantidos em padrões de responsabilidade. O livro de O’Neil tem muita força, ressaltando os problemas estruturais dos algoritmos como uma tecnologia e a obscena realidade de hoje, em que os ricos ainda são verificados por pessoas, enquanto a vasta maioria é cada vez mais gerida por máquinas.