Algoritmo é um assunto que parece distante, mas está aí toda vez que acessamos o Google, o Spotify, o Youtube, o Facebook...A gente encontra o que gosta nas pesquisas sem mesmo terminar de informar o que procura. Se depara com vídeos de acordo com nossas afinidades e ouve playlist de música como se fosse feito sob medida não é verdade?
A tecnologia artificial nos conhece mais do que mãe e pai! Mas e quando os algoritmos falham? Quando a leitura facial, por exemplo, não reconhece traços negros ou asiáticos? Cadê a mágica? É meramente um acaso? Não, não é mágica nem acaso, já que quem desenvolve esta tecnologia são pessoas caucasianas e que se sentem confortáveis no seu status de grupo aceitável na sociedade. Testes são feitos com seus próprios rostos caucasianos deixando de lado a diversidade. Não importa, desde que o sistema funcione e dê resultado. Um exemplo que parece bobo - mas de bobagem não tem nada - é o site pt.meow-share.com, que aparece aqui no Facebook mesmo, com aqueles testes que a gente fica matando o tempo quando espera ser chamado pra consulta ou algo do tipo: "Qual celebridade você se parece?", "Quem você era na sua vida passada?", "Quem você parecerá quando for avó/avó?", "Como você seria se fosse uma Barbie?"...Vejam aí as fotos e tirem suas conclusões...
O ponta pé já foi dado e estamos aí frente a um racismo e segregação tecnológicos que por enquanto não temos noção da proporção que irá tomar. Google e Flickr já mostraram resultados de reconhecimentos de imagens temerosos, como gorilas e chimpanzés quando deparados com imagens de pessoas negras. E o que eles fizeram? Retiraram o resultado de pesquisa. Tipo uma gambiarra. E assim está tudo certo? Não, não está, porque reconhecimento de face é uma tecnologia que estará cada vez mais presente no nosso dia a dia e que trará falhas irreversíveis por falta de interesse dos CEOs, que acham que os 5% de erro estão dentro de um padrão aceitável. E é justamente dentro deste 5% (na conta deles) que entram as "minorias".
Quando você negro(a) fizer um teste bobo do tipo "Qual celebridade você se parece?" e o resultado for uma Marilyn Monroe ou um Leo DiCaprio, não ache isso engraçadinho. Isso na verdade é uma reprodução do racismo interno de quem produziu o teste e que não incluiu você como target para este tipo de produto.
A tecnologia que era para resolver e ajudar reforça ainda mais os estereótipos e preconceitos. Isso que nem toquei no assunto de gênero porque a situação só piora...
