Nome: Keren Mendes Novaes

Controle Social, Guerra Fria tecnológica e os impactos

1. Introdução.

Graças ao avanço da tecnologia, o mundo está passando por sua terceira

revolução: a digital. As novas ferramentas sendo desenvolvidas como a inteligência
artificial, machine learning, big data e muitas outras têm mudado a forma de atuação
das empresas, desde governança até futuras estratégias. De acordo com recentes
pesquisas, as empresas que não adotarem essas ferramentas não terão capacidade de
competir no mercado futuro. Por isso, em todos os setores da economia, desde
educação até produção, essas novas ferramentas gradualmente serão adotadas.

Nesse sentido, é possível observar que a revolução digital irá impactar na

ordem econômica mundial. Essas novas tecnologias vão impactar a forma de vida de
uma maneira nunca vista antes, nunca foi tão barato, fácil e rápido fazer predições, o
que impacta na acurácia dos negócios, política, vida social e tudo conhecido pelo ser
humano, devido a facilidade em se obter dados das pessoas e deixar essas
inteligências rodarem análises.

Por esse motivo, a grande preocupação com o avanço da inteligência é o

controle da população, a restrição daquilo que a população poderá ver e a
manipulação de cada decisão do indivíduo, quebrando qualquer meio de privacidade
de um cidadão do século XXI.

Ademais, a capacidade de conhecer, controlar e manipular as pessoas leva a

guerra fria tecnológica, a corrida para o desenvolvimento e aplicação dessa
inteligência afinal aqueles que obtiverem aderência total a essa nova tecnologia será
capaz de controlar o mundo.

2. Desenvolvimento.

O capitalismo de vigilância definido pela acadêmica Shoshana Zuboff, escritora

do livro “The age of surveillance capitalismo: The fight for a human future at the new
frontier of power.”, é uma nova ramificação do capitalismo que monetiza dados
adquiridos por vigilância. De acordo com essa autora, o mundo digital começou com
intuito de melhorar as propagandas, tendo um alcance melhor, mas atualmente já
chega ser uma ameaça a democracia e a liberdade individual. Por esse motivo, as
decisões tomadas nos próximos anos quanto a privacidade de cada um irá definir se
nosso futuro digital vai melhorar ou a ameaça só se tornará mais forte.
Ao pensar na sociedade industrial do século XX, temos uma clara organização
de divisão de trabalho e o poder concentrado nas mãos dos donos dos meios de
produção. Por outro lado, ao focar nas mudanças que a revolução digital trouxe, fica
muito claro a mudança de poder para aqueles que dominavam os meios do saber, no
sentido de aprendizado e conhecimento, aqueles que escolhiam quem poderia
adquirir tal conhecimento eram os detentores do poder, essa diferenciação agora
determinava as desigualdades sociais.
 A grande crítica feita as grandes companhias de tecnologia, como Google,
Facebook e IBM, por exemplo, é a grande persuasão utilizada para que seus
consumidores desistam de sua privacidade e informações pessoais. Porém, o acesso a
esses dados não está sendo utilizado apenas para prever o comportamento daquele
grupo de pessoas, também para influenciar e modificar tais comportamentos.
Desse modo, é possível perceber que os grandes detentores de poder nessa
última década foram essas grandes companhias que obtiveram o conhecimento ao
conseguir dados sem perguntar ou discretamente conseguindo a permissão de seus
usuários sem chamar atenção para a violação da privacidade de cada indivíduo.
Em 2014, o Google acrescentou aos termos de serviço do usuário que um
sistema automático analisaria o conteúdo de cada e-mail recebido pelo Gmail. A
justificativa dada pela empresa era escanear o conteúdo para poder identificar spams
e outras detecções de malware, mas além disso também seria utilizado para
publicidade e propaganda. O Google Adds acaba usando essa informação vinda do
Gmail somada com o perfil do usuário no Google como um todo, como pesquisas,
vídeos no Youtube e outros serviços para poder sugerir com mais acuracidade o
conteúdo. A maior crítica dessa coleta é que o usuário não poderia desligar
completamente essa função ao utilizar a plataforma, inclusive podendo ser encarada
como uma violação da lei americana “Family Educational Rights and Privacy Act”.
Dessa forma, o acúmulo dessa grande quantidade de dados pode ser uma
preocupação ao pensar no vazamento ou utilização deles por outras companhias.
O capitalismo de vigilância acaba vendendo esses dados armazenados para
companhias que precisam analisar o comportamento do consumidor graças aos
algoritmos preditivos sobre o comportamento humano. Por exemplo, companhias de
seguro que precisam calcular o valor pago pelo seguro, conseguem usar esses dados
capturados pelo Google para descobrir ou pelo menos ter uma boa predição do
quanto cada um é um bom motorista. Porém, a melhor maneira de tornar essa
vigilância o melhor negócio e cobrar mais caro pelo uso de dados é a garantia que as
probabilidades estão corretas, levando a manipulação de dados.
Em 2012, o Facebook realizou um teste psicológico com aproximadamente
700.000 usuários, que consistia em esconder um pequeno range de palavras
emocionais do feed das pessoas, sem que elas tivessem conhecimento, para testar
como elas iriam reagir em seus status e likes. Houve uma grande discussão na época
pois muitas pessoas achavam que a plataforma deveria ter sido mais transparente
informando que testes psicológicos seriam feitos, porém o Facebook e outros
pesquisadores independentes disseram que isso já estava implícito nos termos de uso.
Os resultados foram que a emoção era algo contagioso, as pessoas tendiam a
expressar o mesmo tipo de emoção que estava aparecendo em seu feed, sendo de
uma forma influenciadas por aquilo que estavam consumindo. Depois dessa ocasião, o
Facebook adicionou esse tipo de pesquisa em sua política de termos e serviços. A
grande pergunta que esse caso trouxe foi se o Facebook pode influenciar e manipular
nossas emoções, que outras coisas podem ser manipuladas nessa plataforma.
Assim, esses dados são coletados e armazenados pelas máquinas desses
grandes players, logo sendo utilizada a inteligência artificial para fazer as predições,
que como observado anteriormente não são para os usuários, mas para outras
empresas. Essa é uma nova forma de negócio, uma nova ordem econômica sendo
estabelecida. Entre 2004, quando o Google abriu capital, as receitas tiveram um
aumento de 3,590%, representando o resultado da vigilância, chamando atenção de
outros negócios a também rumarem na direção da vigilância, pois gerava alto retorno.
Assim, hoje vemos nessa nova economia a importância do serviço personalizado, que
na verdade são os serviços inteligentes baseados na predição do comportamento dos
usuários.
De acordo com a Zuboff, “A era do capitalismo de vigilância é uma luta titânica
entre o capital e cada um de nós. É uma intervenção direta no livre arbítrio, um assalto
à autonomia humana”. O ponto levantado pela acadêmica é que no começo era sobre
o volume de dados, mas logo entendeu-se que bom algoritmos dependiam de uma
grande variedade de dados, como câmeras, microfones, condições médicas,
localização, voz, alimentação, face, emoções, absolutamente nada deveria ficar de
fora, garantindo a melhor predição possível e o preço mais alto por essas informações.
Segundo Zuckerberg, fundador do Facebook, “Privacidade não é mais uma
norma social”, enquanto para o CEO do Google “Se você está fazendo algo que
ninguém deveria saber, então não deveria estar fazendo em primeiro lugar”. Não é a
primeira vez que essas afirmações são feitas, não é algo novo para o mundo, diversos
governos tiveram a expectativa de controlar as ideias de seus cidadãos e ter total
influência em suas ações. Novamente, podemos ver o direito de individualidade de
cada um sendo suprimida, enquanto no passado governos foram derrubados por essas
mesmas ações, durante muitos anos nada acontece com esses big players, que
conseguem driblar leis de privacidade e ainda que alguns usuários demonstrem
insatisfação, nada concreto é feito para parar o coleta de dados e manipulação de
decisões.
O livro 1984, por George Orwell, retrata uma sociedade que é vigiada 100% do
tempo por câmeras, quando essa vigilância é utilizada para controlar as ações das
pessoas. Durante o livro, é apresentado o Ministério da Verdade, órgão responsável
por alterar dados para que todo o documento refletisse apenas informações que
davam suporte ao partido que estava no poder na época. Caso alguém questionasse o
partido no poder e suas ações, essa pessoa era eliminada. A história foi feita para
criticar os regimes totalitários das décadas de 1930 e 1940, quando o estado tentava
vigiar e ter o controle total dos cidadãos, suprimindo a individualidade e a liberdade de
expressão. Porém, ao analisarmos o capitalismo de vigilância, podemos ver que a
mensagem principal não tem mudado, apenas uma instituição diferente acabou
tomando o papel do estado. Hoje, vemos os grandes players do setor da vigilância
monitorando cada um de seus usuários, fazendo análises, vendendo suas informações
e controlando suas emoções, opiniões políticas, crenças, não muito diferente do que o
estado fazia antigamente. A maior diferença entre essas duas formas de controle é a
maneira que o individuo percebe cada uma, sendo a primeira claramente agressiva em
seus métodos, enquanto a vigilância digital chega na surdina, a maioria dos seus
usuários nem se dá conta o quanto de suas decisões na verdade são tomadas
indiretamente por terceiros, sutilmente levando as pessoas pela direção que as
empresas querem, sem ter a necessidade de ameaçar ou levantar um dedo.
Alguns dos pontos defendidos por esses grandes players para não ter travas
quanto o acesso a esses dados é o atraso a inovação, colocar travas seria também
impedir avanços tecnológicos que trariam grandes de benefícios a todos. Porém,
segundo o artigo “you are now remotely controlled”, esses grandes players não estão
focando em grandes desafios como o controle de carbono, fim da fome, cura do
câncer e outros pontos importantes para humanidade, em vez disso o foco tem sido
especificamente na lucratividade em cima do comportamento humano.
 O documentário “In the Age of AI”, comenta um pouco sobre como a
inteligência artificial conseguiu ganhar três de quatro jogos do melhor jogador de
Game Go por pensar em movimentos nunca pensados antes pela mente humana.
Analisando mais profundamente o significado disso, o primeiro ponto é que essa
inteligência conhece inúmeros jogos, as jogadas e contra jogadas possíveis, assim
como a probabilidade de cada uma delas, por isso é razoável acreditar que caso a
pessoa controlando essa inteligência quisesse manipular o jogo para terminar de uma
determinada, de quatro vezes, três poderia ser possível. Esse racional pode ser usado
no pensamento humano, quando jogamos o famoso jogo da velha a mente humana
pensa sobre cada jogada analisando o possível próximo movimento do oponente,
agora com a inteligência artificial, esse mecanismo consegue fazer essas predições
imensamente rápido durante o jogo e com muito mais acurácia, devido a quantidade
de dados obtidos sobre jogos passados, podendo trazer para o jogo movimentos nunca
pensados anteriormente, assim como aconteceu com o jogo “Go”. Nesse simples
exemplo, conseguimos ver que no jogo das empresas, a inteligência artificial poderia
ser facilmente aplicada caso tivessem os dados de usuários como input para calcular as
probabilidades, buscando um resultado e manipulando as decisões dos indivíduos para
chegar nesse resultado.
Nesse sentido, com o poder se encaminhando para aqueles que detêm esse
poderio tecnológico, o mundo tem se encaminhado pela segunda guerra fria, dessa
vez sendo tecnológica/digital. O plano da China era alcançar os Estados Unidos na
aplicação da inteligência artificial até 2025 e liderar o mundo até 2030, essas metas
foram postas quando a liderança do país percebeu que se não se adaptassem aos
avanços tecnológicos da era dos dados, logo outros países teriam o acesso aos dados e
poderiam manipular os cidadãos chineses.
Em comparação com os Estados Unidos, a China é um país que tem um
potencial de uso de inteligência muito maior, pois a quantidade da população
utilizando pagamentos digitais, delivery, bicicletas alugadas e vários outros serviços
que dependem da inserção de dados é muito maior que os Estados Unidos. Como dito
anteriormente, a inteligência artificial funciona cada vez melhor com a inserção de
mais dados e mais usuários, por isso na era em que o dado é o novo petróleo, a China
já pode ser considerada a nova Arábia Saudita.
Um exemplo de como a China está usando o dado de seus cidadãos é o
onipresente sistema de crédito social analisando o comportamento de 1,3 bilhões de
cidadãos e classificando num ranking de confiança. O projeto está tendo o suporte de
quatro empresas, além do próprio governo Chinês, uma delas sendo a Sesame Credit,
parte financeira do Alibaba, deixando claro que o cálculo do crédito leva em conta
diversas variáveis, como por exemplo uma pessoa jogando videogame por horas seria
considerada uma pessoa ociosa, enquanto pessoas comprando fraldas com frequência
seriam consideradas pais e mães, por isso teria um sentido de responsabilidade maior.
Uma grande pontuação no sistema de crédito garante uma série de benefícios como
descontos em certos hotéis, aluguéis de carros, acessos a apólices de seguros, entre
outros.
Sendo assim, o primeiro questionamento seria o quanto desses descontos
atrelados a uma boa pontuação também não poderia ser considerado uma forma de
manipulação da população, afinal o governo tem incentivado essa análise de crédito
fortemente, encorajando a esse tipo de coisa a ser compartilhado com seus pares
amorosos e família, como algo a ser provado, incentivando a população a compactuar
com esse tipo de vigilância voluntariamente, além de direcionar para as empresas de
descontos e promoções que tenham o acordo com o governo, arrochando assim as
medidas de controle e direcionamento dos usuários.
Além disso, ao obter uma pontuação ruim, a vida dessa pessoa sofreria grande
impacto quanto a sua liberdade de escolha, como restringir que tipo de lugares você e
sua família poderia frequentar, como a escola de seus filhos ou seus empréstimos,
tendo a ação de um individuo hoje interferir no futuro de sua família por de décadas a
frente. Novamente, a vigilância constante direcionando as pessoas para onde deseja
ao coletar dados que violam a privacidade e individualidade de cada indivíduo.
Porém, ainda que os pontos levantados tenham trazido essa questão
complicada da manipulação de dados, ainda existem diversos usos da inteligência
artificial que realmente podem trazer inovações e benefícios para a sociedade. No
vídeo é comentado o estudo de mamografias pela inteligência, podendo prever o
desenvolvimento do câncer de mama muito mais cedo do que um médico seria capaz,
também entendo quando a mulher precisaria de uma cirurgia e quando não, isso tudo
só sendo possível pelo estudo de casos anteriores, utilizando os diagnósticos e
históricos dos clientes. No final, o uso da inteligência artificial vai ser incorporado em
todas as companhias, pois é uma forma de alavancar o conhecimento da mente
humana e trazer benefícios nunca alcançados antes, as empresas que não se
adaptarem não terão capacidade de oferecer os mesmos serviços que as outras,
incapazes de competirem no mercado.
Ainda assim, existe uma grande preocupação relacionado a quantos trabalhos
humanos o uso da inteligência artificial vai acabar substituindo. Ao olhar para a
revolução industrial britânica, o mundo passou pelo primeiro estágio da automação,
superando as barreiras físicas do ser humano, enquanto na revolução digital o mundo
está superando as barreiras mentais. Nesse sentido, agora é o momento que os
trabalhadores de “White-collar” podem ter seus empregos ameaçados.
Por exemplo, dentro do próprio mercado financeiro, montar uma carteira de
investimentos diversificada e balanceada era uma tarefa que requeria muito esforço
de um trabalhador de um banco. Assim, a automatização trata de montar uma carteira
para um investidor analisando seu perfil de risco, a inteligência também é capaz de
fazer um balanceamento entendendo quais são as perspectivas de investimentos em
tempos de crise. A preocupação é que assim que um algoritmo está montado e a
inteligência aprende como agir diante de cada cenário, a necessidade por ter diversos
analistas montando essas algoritmos já não existiria mais, esse setor seria capaz de
atuar com pouquíssimos funcionários para atualizar o algoritmo e gerar novos inputs
para a inteligência. Nesse ponto, podemos entender por que ao longo dos anos o
aumento de produtividade não tem significado também o aumento de renda para a
população, já que ano após ano as empresas vão se tornando mais eficientes sem
precisar do capital humano como antes.
Ademais, o capitalismo vigilante também incentiva o monopólio dos grandes
players, pois maximizando as funções das grandes empresas que podem usar os dados
a seu favor, fica difícil para um novo player ganhar mercado. Adentrando na
competição global por mercado, o presidente russo Vladmir Putin disse em uma
entrevista que o país que conseguir ter o monopólio das tecnologias de inteligência
artificial será dono do mundo. Durante a guerra fria, os Estados Unidos e a União
Soviética estavam numa corrida armamentista, pois acreditavam que quem detivesse
maior poderio de fogo seria o dono do mundo. Hoje, temos uma corrida pela
 inteligência artificial, principalmente entre a China e os Estados Unidos, porque fica
muito claro que quem dominar essa tecnologia, tem o poder de influenciar o resto do
mundo para qualquer direção desejada.
Ao investir em outros países como Argentina, Venezuela, Senegal, a China tem
usado desses momentos para poder também ter uma iniciativa de vigilância em outros
países, utilizando a tecnologia chinesa, câmeras e outros tipos de monitoramento.
Sendo assim, a China avança com o controle de dados e predições não só da
população chinesa, mas também pouco a pouco vai levando sua influência para outros
países. Com o surgimento da internet, a expectativa era que o mundo ficaria mais
democrático devido ao fácil acesso da informação pelo Google, redes sociais e as
diversas ferramentas. Porém, na era da inteligência artificial fica cada vez mais claro
que a tecnologia está sendo usada como mais uma forma de controle, manipulando as
pessoas para a direção desejada.

3. Conclusão.

O capitalismo de vigilância traz uma preocupação real quanto a privacidade e

o futuro de cada indivíduo. Nos últimos anos, foi defendido a liberdade de expressão e
o direito de decidir sobre as nossas vidas, sobretudo nos Estados Unidos. Porém, esses
estudos recentes comprovam que a compra de nossos dados, que muitas vezes nem
percebemos as vendas, é aquilo que nos deixa vulneráveis e faz com que percamos o
controle de nossas vidas. Ficará cada vez mais difícil de ter a certeza de que ao tomar
uma decisão, é uma escolha individual ou manipulada através do uso de nossos dados.

Ademais, a preocupação quanto a substituição dos trabalhos humanos é real.

O futuro é incerto para todos os trabalhadores, não só aqueles concentrados em
trabalhos manuais, mas também aqueles que usavam de sua capacidade mental para
executa-lo. Ainda que exista a necessidade de ter pessoas por trás dos algoritmos
sendo criados, a eficiência está com a redução em massa no número de trabalhadores
necessários para fazer a mesma tarefa, graças ao uso da inteligência artificial.

Por fim, podemos ver a corrida pela incorporação dessa tecnologia, a China já
tendo uma estratégia para ser o líder tecnológico até 2020. Com a expectativa de que
essa tecnologia vá além do foco em vigilância e lucratividade, ainda é esperado que
seja aplicada nas áreas da saúde, educação, transporte para trazer valor as
experiências humanas.

4. Fontes:

https://www.theguardian.com/books/2019/oct/04/shoshana-zuboff-surveillance-
capitalism-assault-human-automomy-digital-privacy
https://www.theguardian.com/books/2016/apr/15/neoliberalism-ideology-problem-
george-monbiot
https://www.theguardian.com/technology/2014/jul/02/facebook-apologises-
psychological-experiments-on-users
https://www.theguardian.com/technology/2014/apr/15/gmail-scans-all-emails-new-
google-terms-clarify
https://www.pbs.org/wgbh/frontline/film/in-the-age-of-ai/
https://www.bbc.com/portuguese/internacional-42033007
https://www.trt.net.tr/portuguese/ciencia-e-tecnologia/2019/05/31/o-pais-que-
conseguir-ter-o-monopolio-das-tecnologias-de-inteligencia-artificial-sera-dono-do-
mundo-1211754