Para ex-analista de Wall Street, fórmulas matemáticas fomentam a desigualdade

Cathy O’Neil afirma que “algoritmos que regem nossas vidas” acabam disseminando informações negativas que podem influenciar decisões

Como ciência exata, a matemática é admirada por muitos, mas uma estudiosa do tema levanta surpreendentes críticas a fórmulas que sempre pensamos serem “inofensivas”. Cathy O’Neil garante: elas são parte da causa da desigualdade e discriminação do mundo.

A ex-professora da prestigiada Barnard College, na Universidade de Columbia, nos Estados Unidos, trabalhou como analista de dados de Wall Street. Ela deixou o mundo acadêmico e financeiro para se tornar uma das representantes mais ativas do movimento Ocuppy Wall Street (OWS), que denuncia os excessos do sistema financeiro americano desde 2011.
Cinco anos depois do surgimento do movimento, O’Neil publicou seu livro Weapons of Math Destruction (Armas de Destruição Matemática, na tradução livre), em que descreve como algoritmos matemáticos “governam” nossas vidas (e tendem a prejudicar os mais desfavorecidos).
“Vivemos na era dos algoritmos. Cada vez mais, as decisões que afetam as nossas vidas – como qual escola estudar, se podemos ou não fazer um empréstimo, quanto pagamos por um seguro de saúde – não são tomadas por humanos, e sim por matemáticos”, escreveu ela.
Na teoria, explica a especialista, isso deveria levar a uma maior igualdade, para que todo mundo fosse julgado sob as mesmas regras – e a discriminação não existisse. Mas segundo O’Neil, o que ocorre é exatamente o contrário.
O lado obscuro
Os algoritmos funcionam como “receitas” criadas por computadores para analisar grande quantidade de dados. Um algoritmo pode nos recomendar um filme ou proteger de um vírus no computador – mas isso não é tudo.
Há certos algoritmos que O’Neil define como “opacos, desregulados e irrefutáveis”. Mas o mais preocupante, diz ela, é que eles reforçam a discriminação. A primeira característica desses algoritmos, conta O’Neil à BBC Mundo, o serviço em espanhol da BBC, é que eles “tomam decisões muito importantes na vida das pessoas”.

Por exemplo: se um jovem pobre nos Estados Unidos quer pedir um empréstimo para pagar seus estudos, o sistema irá rejeitá-lo porque será considerado “muito arriscado” emprestar dinheiro a ele (por causa de sua raça ou pela região onde ele vive). Sendo assim, esse estudante ficará isolado do sistema educativo que poderia tirá-lo da pobreza – e isso alimenta um ciclo vicioso.
Esse é só um exemplo de como esses algoritmos respaldam os que já são “mais afortunados” e castigam ainda mais os desfavorecidos, criando um “coquetel tóxico para a democracia”, explica O’Neil. Esse é o lado obscuro da matemática e dos algoritmos, segundo ela.
Além disso, a analista aponta que “esses algoritmos são, em certo sentido, opacos: as pessoas não entendem de onde eles vêm, como são calculados e computados. Às vezes, eles até são secretos.”
“Uma das coisas que mais me preocupa é que essas pontuações – os algoritmos que nos avaliam e pontuam o tempo todo – não são visíveis para nós”, explica.
Fonte: Último Segundo/Ciência/BBC BRASIL