27/12/2021 22:20 Algoritmos racistas e vieses inconscientes nas redes sociais

(https://treediversidade.com.br)

Algoritmos racistas e vieses

inconscientes: o que nos revelam
as redes sociais
Temos inúmeras situações que mostram que as redes sociais, em diferentes
plataformas, têm algoritmos racistas. O assunto não é novidade, mas está
novamente em pauta, trazendo, assim, mais uma oportunidade para
olharmos para a questão, que precisa, urgentemente, ser debatida.

Afinal, se conjuntos de códigos estão cortando pessoas negras de imagens

ou ocultando postagens de usuários negros do feed de seus seguidores,
algo bem errado está acontecendo, não é mesmo?

https://treediversidade.com.br/algoritmos-racistas/ 1/7
27/12/2021 22:20 Algoritmos racistas e vieses inconscientes nas redes sociais

Uma vez que privilegiam pessoas brancas em detrimento de pessoas de

outras raças — mostrando somente rostos brancos, dando maior alcance a
publicações de brancos e (https://treediversidade.com.br)
ocultando pessoas pretas, indígenas e asiáticas —,
práticas desse tipo são muito mais do que simples “falhas” dos programas.
Elas podem, sim, ser consideradas ações discriminatórias.

Ocorre que a semelhança com a realidade aqui não é mera coincidência: os

vieses desses sistemas refletem o racismo estrutural que existe na nossa
sociedade. E o pior: podem ajudar a alimentá-lo e disseminá-lo. Nesse
cenário, é fundamental que empresas de tecnologia invistam em promover
maior representatividade e diversidade nas suas equipes
(https://treediversidade.com.br/diversidade-e-inclusao-nas-empresas/).

Falhas ou algoritmos racistas?

Nos últimos anos, diversos episódios trouxeram à tona a existência do
racismo algorítmico em softwares que utilizam a Inteligência Artificial. Há,
por exemplo, vídeos na internet mostrando sistemas de reconhecimento
facial que não conseguem identificar rostos negros.

https://treediversidade.com.br/algoritmos-racistas/ 2/7
27/12/2021 22:20 Algoritmos racistas e vieses inconscientes nas redes sociais

No entanto, a questão ganhou mais destaque quando a sua presença ficou

evidente também nas redes sociais.
(https://treediversidade.com.br)
Mais recentemente, o estopim da nova discussão sobre algoritmos racistas
foi uma constatação de usuários do Twitter. Depois de inúmeros testes, eles
perceberam que o recurso de corte automático de fotos da rede social
privilegia rostos brancos
(https://www.uol.com.br/tilt/noticias/redacao/2020/09/21/algoritmo-
racista-twitter-pode-estar-escondendo-rostos-negros-nos-posts.htm). A
ferramenta foi criada para ajustar as imagens no feed principal focando,
supostamente, na sua parte mais importante e cortando o restante. 

Contudo, o que se concluiu depois de várias publicações feitas justamente

para avaliar o funcionamento do algoritmo da plataforma, é que o sistema
simplesmente costuma cortar rostos negros, independentemente do
número de indivíduos negros presentes nas fotos.

Estimulados por essas “denúncias”, usuários do Instagram também

começaram a realizar testes nesse sentido. O comportamento
discriminatório nos experimentos se repetiu: a rede social parece ocultar da
linha do tempo dos seguidores as postagens de usuários negros e as
publicações nas quais aparecem pessoas não brancas.

Com a intenção de revelar as supostas “falhas” e, de alguma forma,

subverter o algoritmo racista, usuários negros do Instagram passaram a
fazer posts com imagens aleatórias de indivíduos brancos. O resultado foi
um engajamento muito maior do que nas demais postagens, além de
seguidores confirmando que os posts desses perfis apareceram apenas
agora pela primeira vez no seu feed.

Mas essas constatações não são levantadas apenas de experiências de

usuários. Este post no Twitter, do Tarcizio Silva, traz estudos e casos que
demostram o quanto os algoritmos privilegiam pessoas brancas:

Tarcizio Silva
@tarciziosilva

Vamos fazer uma thread com 20 artigos sobre racismo algorítmico, visão
computacional e reconhecimento facial?

https://treediversidade.com.br/algoritmos-racistas/ 3/7
27/12/2021 22:20 Algoritmos racistas e vieses inconscientes nas redes sociais

Chega aí ->

(https://treediversidade.com.br)

11:16 PM · 19 de set de 2020

Leia a conversa completa no Twitter

24,3 mil Responder Compartilhar este Tweet

Ler 210 respostas

Os algoritmos e os vieses
É possível chamar de “falha” uma ação automática de um sistema que está
se comportando exatamente do modo como foi programado? O ponto
crucial aqui não está nos algoritmos em si, mas na forma como são
construídos — e, veja bem, pelos seres humanos.

Os algoritmos solucionam problemas fundamentando-se em um conjunto

fechado de instruções previamente definidas por programadores. De fato,
por trás da criação da IA, estão pessoas — e os seus atos. Estes, por sua vez,
são guiados por vieses inconscientes
(https://treediversidade.com.br/cursos-capacitacoes-e-
treinamentos/vieses-implicitos/).

Eles são preconceitos incorporados e sistêmicos que controlam e

condicionam pensamentos e julgamentos automáticos. Além disso, são
baseados em estereótipos de raça, gênero, classe, idade e de outros grupos

https://treediversidade.com.br/algoritmos-racistas/ 4/7
27/12/2021 22:20 Algoritmos racistas e vieses inconscientes nas redes sociais

minorizados.

Em outras palavras, sendo modelos construídos por humanos, os algoritmos

(https://treediversidade.com.br)
não são neutros, mas, sim, enviesados. Isso significa, portanto, que essas
ferramentas refletem, na verdade, os problemas estruturais da nossa
sociedade.

Viés da afinidade e viés da confirmação

Para entendermos melhor como os vieses atuam e se fazem presente,
vamos falar um pouco sobre dois tipos comuns de vieses, que também estão
associados aos algoritmos racistas das redes sociais.

O viés da afinidade revela a tendência que temos de avaliar melhor e de dar

preferência às pessoas parecidas conosco, seja em termos de raça, gênero,
história de vida ou características pessoais.

Levando para o contexto corporativo, é extremamente comum, por

exemplo, que gestores contratem profissionais nos quais identificam
atitudes e backgrounds semelhantes aos seus. Essa prática faz com que
equipes sejam formadas por pessoas muito parecidas, o que, na verdade,
“enfraquece” o time em vez de fortalecê-lo.

Existe também o chamado viés da confirmação, que nos induz a buscar

automaticamente fatos que confirmem as nossas crenças pré-estabelecidas.
Logo, em diferentes situações, ele orienta o nosso olhar para informações
que representam essas confirmações e “apaga” ou desconsidera os outros
dados, que, muitas vezes, seriam bem mais relevantes do que aqueles que
foram considerados.

Diversidade e inclusão no setor de

tecnologia podem mudar algoritmos
racistas
Visto que entendemos que as falhas não estão nas ferramentas utilizadas
pelas plataformas digitais e que os algoritmos racistas refletem um
problema social, a pergunta é: de que forma podemos evitar a reprodução
https://treediversidade.com.br/algoritmos-racistas/ 5/7
27/12/2021 22:20 Algoritmos racistas e vieses inconscientes nas redes sociais

desses vieses no mundo digital?

Infelizmente, a ausência de representatividade negra

(https://treediversidade.com.br)
(https://treediversidade.com.br/politicas-de-inclusao-racial/) no setor de
tecnologia é, ainda, mais marcante do que no mercado de trabalho em geral.
A falta de participação dos negros na produção de recursos tecnológicos,
evidentemente, é um dos principais fatores a incentivar a construção de
algoritmos enviesados.

É por isso que a diversidade e a inclusão nesse setor precisam ser

fortemente incentivadas. Nesse sentido, são necessárias ações concretas
que resultem em times mais diversos e inclusivos nas empresas de
tecnologia.

E mais: por vários motivos, há urgência nessa mudança. Os algoritmos estão

cada vez mais presentes em todos os âmbitos da nossa vida. Portanto,
engana-se quem acredita que ações desse tipo se restringem às redes
sociais.

O certo é que, enquanto não forem tomadas as medidas adequadas, a

tecnologia seguirá disseminando vieses e estimulando preconceitos. E, em
tempos de polarização, as consequências podem ser bem mais graves do
que imaginamos.

Posts recentes
O que é o movimento Afrofuturista? (https://treediversidade.com.br/o-
que-e-afrofuturismo/)

O que é uma liderança inclusiva e como se tornar uma?

(https://treediversidade.com.br/o-que-e-uma-lideranca-inclusiva-e-
como-se-tornar-uma/)

Lista de 20 filmes e séries sobre Racismo

(https://treediversidade.com.br/lista-filmes-e-series-sobre-racismo/)

Diversidade é convidar para a festa, inclusão é chamar para dançar

(https://treediversidade.com.br/seis-tipos-deacessibilidade-segundo-
romeu sassaki/)
https://treediversidade.com.br/algoritmos-racistas/ 6/7
27/12/2021 22:20 Algoritmos racistas e vieses inconscientes nas redes sociais
romeu-sassaki/)

Como preparar um mês temático de Diversidade em empresas?

(https://treediversidade.com.br/palestras-sobre-diversidade-e-meses-
(https://treediversidade.com.br)
tematicos/)

Política de privacidade (https://treediversidade.com.br/wp-

content/uploads/2021/02/Pol%C3%ADtica-de-privacidade.pdf)

Termo e condição do site (https://treediversidade.com.br/wp-content/uploads/2021/02/Termo-e-

condi%C3%A7%C3%A3o-do-site.pdf)

 55 11 2649.9689
 55 11 95671.4128
 Alameda Santos , 1773 - Cerqueira César - São(htt
(htt Paulo – SP
ps:/
 contato@treediversidade.com.br ps:/ (htt /w
/w
ps:/ ww.
ww.
/w inst
link ww. agr
2021 Tree –edi
Todos os direitos reservados.
fac am.
n.co
ebo co
 m/c ok.c m/t
om
om/ ree
pan tre _div
y/tr
edi ersi
ee-
ver dad
div
sida e/?
ersi
de) hl=
dad pt-
e/)
br)

https://treediversidade.com.br/algoritmos-racistas/ 7/7