Algoritmos Parciais

Boa parte das inteligências artificiais são desenvolvidas para

identificar padrões a fim de automatizar as decisões e facilitar a vida das
pessoas. Entretanto, por serem programados para captar modelos de
comportamentos que se repetem, podem replicar comportamentos
indesejados, como racismo, a misoginia e a homofobia.
O YOUTUBE
 No Youtube, o algoritmo tem um importante papel para realizar
recomendações.
 A plataforma tem se mostrado um “terreno fértil” para proliferação de
comunidades obscuras relacionadas a direta alternativa, cujas ideias são
intimamente relacionadas à supremacia branca.
 Um grupo de pesquisadores da UFMG realizou uma pesquisa para
entender como isso acontecia.
 Vasculharam, por conta disso, milhares de vídeos e
comentários.
 Os resultados foram: os canais supremacistas brancos atraem
apreciadores de canais politicamente conservadores e menos
radicais.
 Segundo o grupo, três razões contribuem para o fenômeno: o
formato da plataforma, que permite interações diretas entre os
criadores e os espectadores, o atual cenário político mundial e o
algoritmo que auxilia no processo de consumo de conteúdos
extremistas por essas pessoas por meio do sistema de
recomendação.
Análise de discurso de ódio em vídeos postados no Youtube por grupos
de direta norte-americanos

 Utilizaram-se as ferramentas:
 Linguistic Inquiry Word Count (LIWC): permite a classificação
de palavras em categorias correspondentes às estruturas das frases.
 Latent Dirichlet Allocation (LDA): busca palavras que possam
definir os principais tópicos de uma conversa.
 + Ferramenta baseada em um teste psicológico que se baseia na
comparação das distâncias entre palavras situadas em um mesmo
contexto
 Resultado:
 Algoritmos Parciais
“’Palavras como cristianismo apareciam no texto associadas com
atributos de valor positivo, como bom ou honesto, enquanto islamismo era
frequentemente relacionada a terrorismo e morte’, exemplifica Ottoni.”
 Essas técnicas foram aplicadas à conjuntura brasileira no período das
eleições presidências de 2018
 Resultado: Mensagens de ódio e teorias conspiratórias foram
identificadas com mais frequência nos canais de extrema direita – e
foram esses que tiveram maior crescimento no número de
visualizações.
Outros pontos
 Os algoritmos de recomendação de notícias e vídeos atraem pessoas por
meio de notícias negativas e teorias conspiratórias para aumentar o
engajamento dos usuários com a plataforma.
 Os usuários recebem informações que envolvem suas opiniões prévias

DISCRIMINAÇÃO ALGORÍTIMICA
Pesquisa da cientista da computação Elizabeth Sucupira Furtado:
 A eficácia dos assistentes de voz, como da Apple e da Google, varia
conforme o sotaque e o nível de escolaridade dos usuários.
 Dois grupos foram colocados para testar os assistentes de voz: os
de usuários nascidos nas regiões sudeste e sul eram mais
compreendidos pelos softwares do que os moradores da capital
cearense.
 Questões como: erros de pronúncia, gagueira, repetição de palavras
e truncamentos prejudicam o desempenho dos assistentes.
 É importante que as empresas percebam que há públicos
que estão sendo excluídos.
Pesquisa da cientista da computação Camilia Souza Araújo:
Quando procurados os termos “mulheres bonitas” e “mulheres feias”
em buscadores como Google e Bing, percebeu-se que havia um preconceito
de raça e idade: as mulheres identificadas como bonitas eram,
majoritariamente, brancas e jovens.
Fred Benenson:
 Algoritmos Parciais
Segundo o engenheiro de dados, a sociedade corre o risco de
perpetuar preconceitos, quando utilizam sistemas de aprendizagem de
máquinas, porque a matemática NÃO é neutra, algo que contraria o senso
comum.
Os sistemas de IA são alimentados por dados que são selecionados
pelos próprios humanos, que podem ser movidos por preconceitos
inconscientemente ou intencionalmente. Sendo assim, a tese dos
“algoritmos neutros” beneficia e isenta a responsabilidade de quem usa.
Caso de um hospital nos Estados Unidos:
O algoritmo responsável pela classificação de riscos privilegiava
brancos em detrimento de negros, uma vez que o sistema se baseava nos
pagamentos aos planos de saúde e não na probabilidade de cada um ter
doenças graves ou crônicas.

A IMPORTÂNCIA DA EDUCAÇÃO
Através da Educação, a sociedade poderá se proteger da
desinformação e do preconceito disseminados pela inteligência artificial.
Deve-se, portanto: incentivar a população de desenvolver um espírito
crítico para identificar fake News e educar os programadores.
“’Sentíamos que o curso de ciência da computação estava muito afastado
da sociedade’, conta o ex-aluno Luiz Fernando Galati,”
“pesquisadores da USP e da Universidade Federal de São Carlos (UFSCar)
lançaram a versão piloto de uma ferramenta digital com objetivo de
identificar fake News”

Matriz de referência
“A capacidade de interação não se restringe às relações entre
seres humanos, mas sofre diretamente os impactos das tecnologias, tendo,
como exemplo, as mudanças de interação decorrentes de fenômenos
como as redes sociais. No artigo Algoritmos parciais, Revista Fapesp
edição - jan/2020, é apresentada a forma como as grandes empresas
gerenciam dados dos usuários e incitam o consumo de produtos e de
conteúdo.”
 Algoritmos Parciais
“As diferentes possibilidades de construção textual refletem nas
várias estruturas das linguagens (...)”
“A análise das tensões entre as narrativas do passado que distorcem
fatos históricos e utilizam versões revisionistas podem fundamentar
discursos autoritários de caráter militarista. Portanto, é fundamental nesse
contexto, discutir, à luz da ciência histórica, as possíveis falsificações do
passado que indicam negacionismo científico, Anti-intelectualismo,
manipulação da realidade e notícias falsas em diversos espaços virtuais
e editoriais. Essas questões dialogam com a obras Algoritmos parciais,
Revista Fapesp edição - jan/2020 (...)”
“O conhecimento das possibilidades de ação e das suas limitações é
fator relevante no entendimento futuro de manutenção da vida na Terra.
Essa compreensão é facilitada pelo uso dos princípios de contagem. O
exercício de contar, ao qual se aplicam princípios e métodos estatísticos ou
probabilísticos, auxilia a compreensão de ações relevantes e necessárias
que devem ser realizadas no presente, com o intuito de viabilizar contextos
futuros. (...)”
“Ciências produzem dados que necessitam de interpretação
dentro de um contexto. Assim, são necessários conceitos estatísticos,
como médias (aritmética, geométrica e harmônica), moda, mediana,
desvios e variância, que auxiliarão na intervenção da realidade, exigindo o
uso e a leitura adequados de gráficos e tabelas. Esses conceitos, seus usos
e interpretações são importantes na análise de dados a fim de uma
avaliação sobre a responsabilidade atribuída à ciência. É importante
também relacioná-los à diversidade cultural, como podemos observar no
texto Algoritmos Parciais, da Revista Fapesp.”