CADERNO DE CIÊNCIAS EXATAS E

TECNOLOGIA

As Falhas da Inteligência Artificial no Reconhecimento Facial

The Failures of Artificial Intelligence in Facial Recognition

Gabrieli Christine Ramos da Silva1, Luna de Melo Sousa1, Welton Dias

1 Centro Universitário do Distrito Federal UDF, Departemento de Tecnologia da Informação, Brasília, DF

RESUMO:
Introdução: O reconhecimento facial é uma ferramenta muita utilizada nos dias atuais, porém não é uma
tecnologia perfeita, ainda apresenta erros que acabam por comprometer as próximas etapas de um
processo de biometria facial. Objetivo: Ressaltar a importância de se desenvolver sistemas de IA
responsáveis, éticos, para minimizar os riscos de danos para a sociedade. Métodos: Realizar uma
pesquisa abrangente sobre o tema em questão, analisar dados coletados e identificar as principais falhas
apresentadas pela IA, discutir as principais conclusões obtidas a partir da análise de dados. Resultados:
Conclusão: É essencial que os desenvolvedores dessa tecnologia trabalhem para aprimorar a precisão e
transparência dos algoritmos, bem como garantir o uso ético e justo dessa tecnologia.

Palavras-chave: reconhecimento facial, tecnologia, IA, algoritmo.

ABSTRACT:
Introduction: Facial recognition is a widley used tool nowadays, but it is not a perfect technology and still
presents errors that compromise the subsequent steps of a facial biometrics process. Objective: To
highlight the importance of developing responsible and ethical AI systems to minimize the risks of harm to
society. Methods: To conduct a comprehensive research on the topic at hand, analyze collected data,
identify the main flaws presented by AI, and discuss the main conclusions obtained from data analysis.
Results: Conclusion: It is essential for the developers of this technology to work towards improving the
accuracy and transparency of the algorithms, as well as ensuring the ethical and fair use of this
technology.

Keywords: facial recognition, technology, AI, algorithm.

Orientador: Prof. Welton Dias / e-mail: 2.2020, pp.5-17.

welton.lima@udf.edu.br

1
INTRODUÇÃO

A inteligência artificial (IA) é uma tecnologia poderosa que tem o potencial de mudar
o mundo em muitos aspectos. Uma das áreas mais promissoras em que a IA pode ser
aplicada é o reconhecimento facial. O reconhecimento facial tem muitas aplicações, como
segurança, vigilância, controle de acesso, marketing e até mesmo na medicina. No entanto,
a IA no reconhecimento facial ainda tem muitas falhas, que podem ter consequências
graves.
Uma das principais falhas é a sua precisão limitada. A IA é treinada em conjuntos de
dados limitados e pode ter dificuldades para distinguir pessoas de raças diferentes ou que
têm características faciais distintas. Isso pode levar a erros de identificação e a possíveis
consequências prejudiciais, como a detenção injusta de pessoas inocentes.
Outra falha da IA no reconhecimento facial é a sua vulnerabilidade a ataques
maliciosos. Os hackers podem comprometer a segurança dos sistemas de recohecimento
facial, seja por meio de engenharia social, por meio de malware ou por outras técnicas, e
pode alterar as imagens de referência para evitar detecção.
Além disso, a IA no reconhecimento facial é muitas vezes utilizada sem o
conhecimento ou consentimento das pessoas envolvidas, o que pode levar a violações da
privacidade. As imagens de reconhecimento facial podem ser usadas para rastrear os
movimentos das pessoas, identificar seus amigos e familiares, ou mesmo ser vendidas
para empresas de marketing.
Outro problema é a possibilidade de discriminação. Como a IA é treinada em dados
históricos, ela pode perpetuar vieses e preconceitos existentes, como a discriminação
racial, de gênero ou de idade. Isso pode levar a um tratamento desigual e injusto de grupos
inteiros de pessoas.
Outra falha é a falta de regulamentação. A falta de diretrizes claras e
regulamentação sobre o uso da IA no reconhecimento facial pode levar a um uso
inadequado e até mesmo abusivo da tecnologia. As empresas e governos podem coletar e
usar dados de reconhecimento facial sem supervisão ou consentimento, o que pode levar a
violações da privacidade e outras consequências negativas.
Por fim, a falta de transparência é outra falha importante da IA no reconhecimento
facial. A IA é frequentemente usada em sistemas opacos, onde não é possível verificar
como os dados são coletados e usados. Isso pode levar a perda de confiança nos sistemas

2
de IA, o que pode ter consequências negativas para a adoção dessa tecnologia em outras
áreas.

METODOLOGIA

A primeira etapa da metodologia é a realização de uma pesquisa abrangente sobre

o tema em questão. É importante coletar informações sobre as falhas mais comuns da IA
em reconhecimento facial, bem como as principais causas dessas falhas. Nesta etapa, é
recomendado consultar artigos acadêmicos, relatórios de empresas de tecnologia, notícias,
fóruns e comunidades online.
Após coletar informações suficientes, é importante identificar as principais falhas que
a IA pode apresentar no reconhecimento facial. Essas falhas podem incluir reconhecimento
impreciso, viés de gênero, etnia ou idade, entre outras.
Para ilustrar as falhas identificadas, é importante selecionar alguns casos de estudo
que exemplifiquem essas falhas. Esses casos podem ser extraídos de notícias recentes ou
de relatórios publicados por empresas de tecnologia.
Após a seleção dos casos de estudo, é importante analisar cada um deles e
identificar as principais causas das falhas apresentadas pela IA. É importante avaliar o
impacto dessas falhas nos indivíduos afetados e na sociedade em geral.
A última etapa da metodologia é a discussão das principais conclusões obtidas a
partir da análise dos casos de estudo. Nesta etapa, é importante discutir as
recomendações que podem ser feitas para melhorar o desempenho da IA no
reconhecimento facial. Essas recomendações podem incluir o uso de conjuntos de dados
mais diversos, o aumento da transparência nos algoritmos e a necessidade de
regulamentação governamental.
Por fim, é importante concluir a pesquisa destacando as principais conclusões e
recomendações. É importante ressaltar a importância de se desenvolver sistemas de IA
responsáveis e éticos para minimizar os riscos de danos para a sociedade.

3
RESULTADOS

O quadro mostra o resultado de pesquisas sobre reconhecimento facial.

Quadro 1 – resultados de pesquisas sobre As Falhas da IA no Reconhecimento Facial.

Ano/Lugar Tipo do Estudo Resultados

Londres Estudo de precisão: avaliam a O sistema de reconhecimento facial
(2018-2019) capacidade do sistema de teve uma taxa de acerto de apenas
reconhecimento facial em 19%, resultando na detenção
identificar corretamente as equivocada de 42 pessoas e na
pessoas. Esse tipo de estudo pode captura de apenas 8 pessoas que
ser feito comparando as previsões estavam sendo procuradas pela polícia.
do sistema com identidade real das
pessoas.
Estádio Olímpico Estudos de viés em Durante a final da UEFA Champions
em Kiev na Ucrânia. reconhecimento facial que visam League em 2017, foi realizado um teste
(2017) identificar se a tecnologia é com um sistema de reconhecimento
tendenciosa em relação a grupos facial, o qual identificou erroneamente
específicos de pessoas, tais como 2.470 pessoas como criminosos, sendo
mulheres, minorias étnicas ou apenas 173 dessas identificações
pessoas com deficiência. Esses corretas. Isso resultou em um alto
estudos buscam avaliar se o índice de erro de 92%, o que evidencia
sistema de reconhecimento facial a falta de precisão da tecnologia
pode estar discriminando ou naquela ocasião.
prejudicando injustamente esses
grupos, e quais medidas podem
ser tomadas para minimizar esses
efeitos negativos.
Brasil Os estudos de precisão em Durante o carnaval carioca de 2019, as
(2019) reconhecimento facial visam autoridades brasileiras realizaram
avaliar a cpacidade da tecnologia testes em um sistema de
em identificar corretamente as reconhecimento facial que, de acordo
pessoas, com base na com Joana Varon, fundadora da
comparação entre as previões do Coding Rights, apresentou um índice
sistema e a identidade real das de erro de 90%. Isso significa que o
pessoas. Essa metodologia sistema falhou em identificar

4
 permite avaliar a precisão do corretamente a grande maioria das
sistema em identificar pessoas analisadas, o que levanta
corretamente os indivíduos, preocupações sobre a confiabilidade e
fornecendo informações valiosas eficácia da tecnologia em situações
para o aperfeiçoamento da reais de uso.
tecnologia e aumento de sua
confiabilidade e eficácia.

DISCUSSÃO

Sabe-se a inteligência artificial (IA) tem se tornado cada vez mais presente na vida
cotidiana dos indivíduos. Ela é utilizada em diversas áreas, desde segurança pública até o
desbloqueio de dispositivos eletrônicos. Entretanto, a implementação dessa tecnologia não
é insenta de falhas.
No que diz respeito a utilização do reconhecimento facial na segurança pública,
percebe-se que a tecnologia pode falhar em identificar corretamente indivíduos,
especialmente de grupos minoritários. Isso ocorre porque muitos algoritmos de
reconhecimento facial são treinados em bases de dados que não representam a
diversidade da população, levando a resultados imprecisos e injustos.
A IA no reconhecimento facial pode ter um impacto negativo na sociedade, isso
porque a tecnologia pode ser usada para fins discriminatórios reforçando preconceitos
existentes. Isso pode levar a percepção de que a tecnologia é injusta ou que não é
confiável, o que pode ter consequências negativas para a adoção e utilização da
Inteligência Artificial (IA) em outras áreas.

CONCLUSÃO

Em conclusão, as falhas da IA no reconhecimento facial são um grave problema que

deve ser enfrentado pelas empresas e governos que utilizam essa tecnologia. A falta de
precisão da IA pode levar a consequências negativas e injustiças, como o risco de
identificar erroneamente pessoas inocentes como criminosas, ou a discriminação contra
certos grupos étnicos ou de gênero. Além disso, a coleta de dados biométricos sem o
consentimento das pessoas pode representar uma violação da privacidade e dos direitos
5
humanos.
É essencial que os desenvolvedores da tecnologia de reconhecimento facial
trabalhem para aprimorar a precisão e transparência dos algoritmos, bem como garantir o
uso ético e justo dessa tecnologia. A regulamentação governamental também pode ser
necessária para proteger as pessoas contra o uso indevido da IA no reconhecimento facial.

REFERÊNCIAS BIBLIOGRÁFICAS

1. Hanna F. Menezes, Arthur S C Ferreira, Eanes T. Pereira, Herman M. Gomes(2021).

Bias and Fairness in Face Detection.
2. Shalini Kantayya (2020). Coded Bias. Produções Netflix.
3. COSTA, R.S; KREMER, B. Inteligência artificial e discriminação: desafios e
perspectivas para a proteção de grupos vulneráveis frente às tecnologias de
reconhecimento facial. Revista Brasileira de Direitos Fundamentais & Justiças.
4. ABBAS DA SILVA, L; FRANQUEIRA B.D; HARTMANN, I.A. O que os olhos não
veem, as câmeras monitoram: reconhecimento facial para a segurança e regulação
na América Latina. Revista Digital de Direito Administrativo.
5. PERES, J.; ELAINE DOS SANTOS LÉON, M; LEMOS OLIVEIRA, P.
IDENTIFICAÇÃO FACIAL E INTELIGÊNCIA ARTIFICIAL: PRECONCEITO RACIAL
ALGORITMICO. Anais do Salão Internacional de Ensino, Pesquisa e Extensão, v.10,
n.1, 14 fev. 2020.