Como um algoritmo pode ser racista?
A revolucdo industrial inseriu no nosso
cotidiano a Inteligéncia artificial e ela
basicamente trabalha utilizando uma base
de dados, essa base pode conter fotos de
pessoas, objetos, livros, musicas, e etc.
Quando alimentamos essa base de dados
com um padrdo de imagens, objetos, ficara
mais facil para aquela Inteligéncia
Artificial reconhecer se a imagem em
questdo faz parte daquele padrdo pois ele
aprendeu a reconhecer o padrdo que mais
se repete!
Um exemplo claro, se a sua base de dados
estiver alimentada de musicas dos anos 90
o seu algoritmo ird aprender a identificar
padrées e semelhangas entre essas
musicas e ira formar categorias entre elas!
Ainda utilizando o exemplo das musicas,
quando colocado uma musica que foge dos"padrdes" essa musica sera descartada ou
sera identificada de uma outra forma que
na seja a forma "padrdo"
Dai nds temos um grande problema,
quando uma base de dados esta
alimentada com um viés racista ela tende a
permanecer racista. Em 2015 um
dispositivo de reconhecimento facial do
Google identificou mulheres e Homens
negros como Chimpanzés e nem mesmos
grandes celebridades negras foram
reconhecidas, eles pediram desculpas
porém podemos ver o quanto o racismo
esta inserido na base de dados dessas
plataformas. Quando se alimenta essa
base de dados com padroes de pessoas de
pele branca, ela tera dificuldade em
reconhecer as pessoas de pele escura!
A tecnologia pode ser usada como umaaliada, porém precisamos conscientizar os
programadores para que eles incluam
dados mais representativos e a propria
sociedade civil afim de que elas engajem
nessa causa!