Nove algoritmos que podem estar tomando

decisões sobre sua vida - sem você saber

Fernando Duarte BBC

• 4 fevereiro 2018

Um vídeo que mostra o médico David Dao sendo removido de um voo da United Airlines em um aeroporto de Chicago,
nos Estados Unidos, viralizou em abril passado.

O episódio gerou prejuízos à imagem da empresa americana, cuja tripulação queria que Dao cedesse seu lugar a um
funcionário para que ele fosse ao destino do voo, Louisville, para render a equipe local. Mas quase nenhuma das críticas
tratou de um elemento crucial do ocorrido: a necessidade de retirar o médico do voo foi decidida por uma máquina,
mais especificamente por um programa de computador.

É exemplo clássico de como esses programas, conhecidos como algoritmos, estão tomando decisões que afetam nossas
vidas, muitas vezes sem que a gente sequer saiba disso.

Especialistas já manifestaram sua preocupação com a falta de transparência no uso de sistemas de inteligência artificial
nesta tomada de decisões. Mesmo assim, seu uso está se popularizando: um algoritmo já pode decidir se você será
escolhido para uma entrevista de emprego ou se conseguirá um empréstimo, com quem você se relacionará e até mesmo
quanto tempo de prisão um criminoso "merece".

Reunimos a seguir alguns exemplos de como sua vida já pode estar sendo afetada por algoritmos.

1. O computador decide se você fará ou não uma entrevista de emprego

Currículos são cada vez mais descartados sem sequer passar por mãos humanas. Isso porque as empresas estão
empregando sistemas automatizados em seus processos seletivos, principalmente na análise de centenas de milhares de
inscrições.

Direito de imagem Getty Images Image caption Seu próximo empréstimo provavelmente será aprovado (ou recusado)
por um algoritmo

Nos Estados Unidos, estima-se que mais de 70% dos candidatos sejam eliminados antes de serem avaliados por pessoas.
Para as companhias, isso economiza dinheiro e tempo, mas alguns questionam a neutralidade dos algoritmos.

Em um artigo na revista Harvard Business Review, Gideon Mann e Cathy O'Neil argumentam que esses programas não
são desprovidos de preconceitos humanos, então, isso pode levar a decisões tendenciosas por parte da inteligência
artificial.

2. Quer dinheiro emprestado? Seu perfil na rede social pode

afetar isso
Historicamente, quando alguém pede dinheiro a uma instituição financeira, a resposta vai depender da análise das
chances do empréstimo ser pago, com base na proporção entre a dívida e a renda desta pessoa e seu histórico de crédito.

Não é mais assim: agora, algoritmos reúnem e analisam dados de múltiplas fontes, que vão desde padrões de compra a
buscas na internet e sua atividade em redes sociais.

O problema é que esse método usa informações coletadas sem o conhecimento ou colaboração de quem pede o
dinheiro. Também há uma questão em torno da transparência do código do algoritmo e seu comportamento tendencioso.
3. Um algoritmo pode te ajudar a achar um amor, mas pode
não ser quem você espera
Não é uma surpresa que sites de namoro usam algoritmos para identificar duas pessoas compatíveis. É um dos seus
principais apelos para o público, na verdade.

Mas a forma como isso é feito não é muito clara, especialmente após o eHarmony, um dos principais deste mercado, ter
revelado no ano passado que fez ajustes na preferências de seus clientes para aumentar suas chances de encontrar um
par ideal, algo que pode incomodar quem perdeu tempo para respoder às 400 perguntas necessárias para se ter um perfil
no site.

Mas até mesmo em alternativas como o aplicativo Tinder, em que as variáveis são bem menos complexas (geografia,
idade e orientação sexual), as combinações não são tão simples assim.

Quem usa o serviço recebe uma nota secreta sobre o quanto essa pessoa é "desejável", calculada para "permitir
melhores combinações", segundo o Tinder. A fórmula é mantida em segredo, mas os executivos da empresa por trás do
aplicativo já indicaram que o número de vezes que o perfil de alguém é curtido ou rejeitado tem um papel crucial sobre
isso.

4. Um programa pode determinar se você é viciado em drogas

e se conseguirá contratar um plano de saúde
O mal uso de medicamentos e drogas é a principal causa de mortes acidentais nos Estados Unidos, e especialistas com
frequência se referem a esse problema como uma epidemia.

Para lidar com isso, cientistas e autoridades estão se unindo em projetos baseados em dados. Recentemente, no Estado
do Tennessee, nos Estados Unidos, a operadora de planos de saúde Blue Cross e a empresa de tecnologia Fuzzy Logix
anunciaram a criação de um algoritmo para analisar nada menos do que 742 variáveis e, assim, avaliar o risco de um
comportamento abusivo com medicamentos.

Direito de imagem Getty Images Image caption Mais de 40 mil pessoas morreram por uso abusivo de opioides nos EUA
em 2016

Isso levantou uma questão ética: os dados analisados incluem o histórico médico e até mesmo o endereço residencial. O
argumento a favor desse tipo de intervenção é que isso pode salvar vidas e mitigar prejuízos ao sistema de saúde -
viciados em opioides têm, por exemplo, 59% mais chances de serem usuários de alto custo.

O mercado de inteligência artificial em saúde deve crescer de US$ 670 milhões (R$ 2,13 bilhões) em 2016 para quase
US$ 8 bilhões (R$ 25,4 bilhões) até 2022, segundo um estudo feito pela consultoria MarketsandMarkets, e essa
previsão foi feita antes do anúncio de que a gigante do varejo Amazon entrará neste mercado.

Acredita-se que o uso de algoritmos e da inteligência artificial nesta área deve tornar a tomada de decisões mais
eficiente e reduzir o número de erros humanos.

5. Eles determinam até se um filme será feito

Essa não é a primeira vez que alguém dirá que Hollywood tem uma fórmula para produzir sucessos. Mas é diferente do
processo baseado na experiência e instinto de produtores ao selecionar um roteiro ou elenco.

Algoritmos são usados para analisar não só as chances de um filme ir bem nas bilheterias, mas também quanto dinheiro
ele fará. Esse serviço é oferecido por várias empresas, e Paramount, Universal e Warner Bros, alguns dos principais
estúdios de Hollywood, contratam essas consultorias.

Além de comparar um novo filme com uma base de dados de produções passadas, esses serviços afirmam que podem
detectar o impacto de mudanças na história e até mesmo entre os atores.
6. Algoritmos influenciam em quem você vota e quem será
presidente
Em uma época em que dados tornaram-se mais importantes do que empatia e carisma no mundo da política, algoritmos
são cruciais para candidatos em busca de votos.

Não foi só a retórica de Barack Obama que impressionou em sua ascensão rumo à indicação do Partido Democrata para
disputar a Presidência dos Estados Unidos em 2008, mas também seu uso desta tecnologia.

A campanha de Obama mirou incessantemente nos eleitores indecisos, usando uma série de informações para
individualizar ao máximo os perfis do eleitorado.

Direito de imagem Getty Images Image caption O carisma de Barack Obama não foi sua única arma na campanha de
2008

Quase dez anos depois, Emmanuel Macron conseguiu uma vitória inesperada na França com uma estratégia similar -
algoritmos ajudaram a identificar distritos e bairros que eram os mais representativos do país como um todo. Isso
ajudou a guiar sua equipe na realização de 25 mil entrevistas usadas para estabelecer as prioridades e estratégias de sua
campanha.

7. A polícia usa algoritmos para prever se você será um

criminoso
O sistema de vigilância da China sobre seus 1,3 bilhão de habitantes é bem conhecido, mas parece haver espaço para
expandi-lo. O governo anunciou em 2015 o desenvolvimento de um sistema capaz de "prever crimes" com base em
dados pessoais, como o histórico médico e entregas de compras.

Grupos de direitos humanos acusaram as autoridades chinesas de violar a privacidade dos cidadãos, dizendo que o real
propósito do sistema é monitorar dissidentes.

A China não é, no entanto, o único país a usar algoritmos para prever crimes: o policiamento baseado em dados é
aplicado nos Estados Unidos há mais de uma década, e algumas forças de segurança britânicas começaram em 2012 a
usar softwares de mapeamento e previsão de crimes.

O programa é bem simples em comparação com algo como o mundo retratado pelo filme Minority Report (2002): dados
sobre os tipos de crimes, sua localização, data e hora geram um mapa identificando as áreas onde eles provavelmente
voltarão a ocorrer.

Segundo uma pesquisa do centro britânico Royal United Services Institute for Defence and Security Studies, algoritmos
podem ter até dez vezes mais chances de prever a localização de um crime futuro em comparação com o policiamento
comum.

No entanto, um destes sistemas, o PredPol, usado pela polícia da Grande Manchester, no Reino Unido, gerou uma
polêmica. Pesquisas mostraram que ele criava uma distorção em que policiais eram enviados para os mesmos bairros
repetidamente, independentemente das reais taxas de criminalidade nestas áreas.

8. Um computador pode te mandar para a prisão

Juízes em ao menos dez Estados americanos estão tomando decisões em casos criminais com a ajuda de um sistema
automatizado chamado COMPAS, baseado em um algoritmo de análise de risco para prever a probabilidade de uma
pessoa cometer um novo crime.

Um caso famoso nesse sentido ocorreu em 2013, quando um homem chamado Eric Loomis foi condenado a sete anos
de prisão por fugir da polícia e dirigir um carro sem a permissão do dono no Estado de Wisconsin.

Antes de a sentença ser proferida, autoridades apresentaram uma avaliação, feita com base em uma entrevista com
Loomis e informações fornecidas pelo algoritmo sobre sua probabilidade de reincidência - o resultado indicava que ele
tinha um "alto risco de cometer novos crimes".
Direito de imagem Getty Images Image caption Cortes americanas usam um sistema de avaliação de risco de
reincidência criminal com base em algoritmo

Seus advogados questionaram a condenação usando vários argumentos, entre eles que o COMPAS foi criado por uma
empresa privada e que informações sobre o algoritmo não foram reveladas. Também afirmaram que os direitos de
Loomis foram violados, porque a avaliação levava em conta fatores como gênero e raça.

De fato, uma análise de mais de 10 mil casos na Flórida ao longo de dois anos, publicado em 2016 pela ONG ProPublic,
mostrou que a previsão de alto risco de reincidência era mais comum para negros do que para brancos.

9. Eles podem influenciar seu dinheiro

Esqueça as imagens de pessoas gritando na bolsa de valores com telefones nos ouvidos. Transações no mercado de
ações estão se tornando cada vez mais um produto de cálculos feitos por algoritmos, que são mais rápidos do que
qualquer humano e compram e vendem papéis em questão de segundos.

Defensores desta tecnologia afirmam que uma máquina é imune à volatilidade emocional do mercado e investe mais
racionalmente. Isso, no entanto, foi questionado em 2010, quando algoritmos foram apontados como os culpados pelo
crash que fez desaparecer temporariamente do mercado de ações americano US$ 1 trilhão.

Um relatório do banco JP Morgan estimou que, em 2017, investimentos com base em algoritmos ou fórmulas
computacionais responderam por quase 90% do volume de transações com ações nos Estados Unidos.