Sabemos que os algoritmos são uma série de instruções para resolver um determinado problema. Isto é, um raciocínio matemático para executar uma ação. E é por meio dessa “língua dos algoritmos” que ensinamos e exportamos informações das máquinas. Dessa forma, máquinas são programadas por algoritmos e algoritmos são escritos por pessoas (ou por grupos de pessoas ou empresas). Por isso, eles acabam por refletir interesses da sociedade onde são escritos. Trazem consigo vieses dessa sociedade.
Eles estão por todos os lados, resolvendo problemas na Wall Street, nas sugestões do Netflix ou no reconhecimento facial das suas fotos no Facebook. Os algoritmos são a base da matemática contemporânea, da internet e da relação homem-máquina. Por isso tamanha importância na sociedade digital em que vivemos. O problema está no que ensinamos a esses algoritmos. Escritos em uma sociedade em que somente alguns têm privilégios, eles acabam por reforçar estereótipos e desigualdades em relação a cor e gênero, por exemplo.
Como isso acontece na prática: Joy Buolamwini, estudante de pós-graduação de MIT, trabalhava com um software de reconhecimento facial quando notou um problema: o software não reconhecia o seu rosto, porque as pessoas que tinham codificado o algoritmo não tinham pensado em identificar uma ampla variedade de tons de pele e de estruturas faciais. E por que o rosto de Joy não era reconhecido? Porque Joy é negra. Hoje, ela luta contra o preconceito que os algoritmos reproduzem.
Se o algoritmo discrimina, o problema é, na verdade, de quem o escreve. E quais as soluções para esse problema? Corrigir os algoritmos a fim de eliminar desigualdades ou uma mudança de comportamento na sociedade? Se um é o espelho do outro, onde a mudança deve acontecer primeiro?
Algumas dessas respostas você pode encontrar na palestra “Algoritmos Racistas e Sexistas” da conferência Web.br 2017, que será realizada dias 24 e 25 de outubro em São Paulo.
Wagner Meira Jr., da Inweb, irá debater o assunto no 1º dia da programação. PhD em Ciência da Computação pela University of Rochester, Meira é professor da Universidade Federal de Minas Gerais. Sua área de estudo é Computação Paralela e Distribuída e Computação Heurística. Para ver essa e muitas outras atividades, inscreva-se agora em: http://conferenciaweb.w3c.br.