Escolar Documentos
Profissional Documentos
Cultura Documentos
contestadas
As ferramentas de inteligência artificial são tão boas quanto o banco de dados que usam para
funcionar, mas e se essas informações foram enviesadas?
Por BBC
AWS afirma que deve haver um aviso quando a tecnologia de reconhecimento facial são usadas em
conjunto em locais públicos ou comerciais. — Foto: REUTERS/Thomas Peter
Timnit Gebru, cientista da computação e co-líder técnico da Equipe de Inteligência Artificial Ética do
Google, afirma que o reconhecimento facial tem mais dificuldade de diferenciar homens e mulheres
quanto mais escuro for o tom de pele. É muito mais provável que uma mulher de pele escura seja
confundida com um homem do que outra de pele mais clara.
Mas há problemas também na escolha das informações usadas para treinar esses algoritmos. "Os
conjuntos de dados originais são em sua maioria brancos e masculinos, muito enviesados contra os
tipos de pele mais escuros - há enormes taxas de erro por tom de pele e gênero."
Segundo ela, "cerca de 130 milhões de adultos dos EUA já estão em bancos de dados de
reconhecimento de rostos". O país tem 327 milhões de habitantes.
Em razão desses problemas, a cidade californiana de São Francisco baniu recentemente o uso da
tecnologia por agências de transporte e forças policiais. A medida sinaliza uma admissão de
imperfeições e ameaças às liberdades civis. Mas outras cidades americanas e países ao redor do
mundo estão cada vez mais testando a ferramenta.
Um exemplo são as forças policiais em South Wales, Londres. Manchester e Leicester também têm
testado a tecnologia sob críticas de organizações de liberdades civis, como Liberty e Big Brother
Watch, ambas preocupadas com o número de falsos positivos gerados pelos sistemas.
Não é preciso ser um gênio para descobrir que implicações isso pode ter para o policiamento e as
políticas sociais.
Mas tais preocupações não impediram a Amazon de vender sua ferramenta Rekognition FR para
forças policiais nos EUA, apesar da revolta - infrutíera - de parte dos acionistas.
A Amazon diz que não tem responsabilidade sobre como os clientes usam o instrumento. Mas basta
comparar essa atitude com a da Salesforce, uma empresa de tecnologia que desenvolveu sua própria
ferramenta de reconhecimento chamada Einstein Vision, para perceber que é necessário um
envolvimento maior das empresas.
"A tecnologia de reconhecimento facial pode ser adotada em uma prisão para rastrear prisioneiros
ou evitar a violência entre gangues", disse Kathy Baxter, gerente de prática ética de Inteligência
Artificial da Salesforce, à BBC. "Mas quando a polícia quis usá-la ao prender pessoas, consideramos
isso inadequado."
"A guerra é de alta tecnologia nos dias de hoje - temos drones autônomos, armas autônomas,
tomando decisões entre combatentes e não combatentes. Suas decisões estarão corretas? Eles
poderiam ter um impacto de destruição em massa", alerta.
De todo modo, parece haver um crescente consenso global de que a tecnologia de reconhecimento
está longe de ser perfeita e precisa ser regulada.
"Não é uma boa ideia deixar a Inteligência Artificial nas mãos do setor privado, porque ela pode ter
uma grande influência", conclui o Chaesub Lee, diretor do escritório de padronização de
telecomunicações da União Internacional de Telecomunicações.
"O uso de dados de boa qualidade é essencial, mas quem garante que esses são bons dados? Quem
garante que os algoritmos não são tendenciosos? Precisamos de uma abordagem multidisciplinar das
várias partes interessadas."
Até lá, o reconhecimento facial permanece sob suspeita.