Escolar Documentos
Profissional Documentos
Cultura Documentos
A TIRANIA DOS
ALGORITMOS
A INTELIGÊNCIA ARTIFICIAL A SERVIÇO DO
TOTALITARISMO TECNOCRÁTICO
A TIRANIA DOS ALGORITMOS
Miklos Lukacs Pereny1
1
Professor da Universidade San Martín de Porres.
2
Referência a George Orwell (1903 – 1950), autor conhecido pela publicação
de livros como “A Revolução dos bichos” e a distopia “1984”.
O problema é que hoje é o coronavírus, mas amanhã poderão ser
nossas opiniões ou crenças que nos colocarão na mira de
tecnocracias com vocação totalitária.
Mas, afinal, o que é a Inteligência Artificial? Tradicionalmente, a
capacidade de processamento dos computadores foi utilizada para
otimizar resultados. Desde folhas de cálculos até programas de desenho
industrial, o software convencional é programado para executar tarefas
específicas.
Entretanto, a IA toma um caminho muito distinto. Através do uso de
algoritmos – instruções precisas, só que mais complexas que as do
software convencional – os sistemas de IA podem processar uma enorme
quantidade de dados para categorizar elementos, estabelecer associações
e identificar padrões que lhes permitem aprender por si mesmos,
potencializando gradativamente suas capacidades de predições. Diferente
do software convencional, os algoritmos de IA podem adaptar-se para
realizar tarefas distintas sem a necessidade de ser reprogramados por
pessoas. Por isso se diz que os sistemas de IA, especialmente os
sistemas de Aprendizado Autônomo e Aprendizado Profundo,
“aprendem”, “raciocinam” e “tomam decisões” de maneira independente,
imitando as inteligências dos seres humanos. Esta incrível plasticidade
oferece uma infinidade de potenciais usos e aplicações que, inclusive, já
levaram alguns a atribuir a esta tecnologia o posto de último invento do
homem.
Governos, empresas e centros de pesquisa continuam desenvolvendo
sistemas de IA, mas a predominância mundial é amplamente dominada
pelos Estados Unidos e pela China. A China lidera o desenvolvimento dos
drones, sistema de reconhecimento de voz, tradução por máquinas e
tecnologias de reconhecimento facial, enquanto os Estados Unidos
apresenta maiores avanços em robótica, veículos autônomos e IA aplicada
aos negócios, especialmente a tecnologia financeira ou Fintech.
Os sistemas de IA já intervém de maneira cotidiana em nossas vidas.
Quando fazemos buscas na internet ou usamos aplicativos para evitar o
trânsito, comprar produtos ou pagar boletos online, são os algoritmos que
otimizam essas funções. Não obstante, estes mesmos algoritmos também
poderiam demitir-nos de nossos empregos, revogar nossa privacidade e
suprimir nossas liberdades com absoluta impunidade.
Em “capitalismo de vigilância”, Shoshana Zuboff descreve com
meticulosidade e fartas evidências os mecanismos que gigantes
tecnológicos como Google, Facebook, Amazon, Apple e Microsoft utilizam
para minar nossos direitos mais fundamentais com fins comerciais. Todas
estas empresas – que somadas à IBM formam o acrônimo GMAFIA
(Google Microsoft Aplle Facebook IBM e Amazon) – se localizam na
fronteira tecnológica mais avançada da IA. Através do conceito “Plus valia
do comportamento”, Zuboff explica como cada termo que consultamos em
seus aplicativos de busca e cada foto, comentário ou “curtida” que
compartilhamos em suas redes é armazenada, processada e transformada
em informação que é vendida a terceiros com fins publicitários. Este
anúncio não solicitado de uma sonhada viagem devemos aos algoritmos
vigilantes.
De todas as empresas mencionadas por Zuboff, o Facebook aparece
como a mais invasiva, predatória e inescrupulosa de todas. Já em 2016, o
Facebook desenvolvia algoritmos com capacidade para processar 100.000
pontos de vigilância. Toda informação que é inocentemente compartilhada
nas redes permite ao Facebook construir perfis de personalidade e
comportamento de cada uma das mais de 2 bilhões de pessoas
registradas em sua plataforma. Além disso, seu motor de predições
FBLearner Flow pode reutilizar os algoritmos para diferentes funções,
incluindo experimentos para manipular o comportamento de seus usuários.
Deste modo, se busca “personalizar” a experiência, gerando tendências
e censurando conteúdos incômodos para a agenda da empresa.
Entretanto, a descoberta mais perturbadora de Zuboff é a capacidade
preditiva alcançada por estes algoritmos que podem predizer alguns de
nossos comportamentos e decisões com 80 a 90% de certeza. Fica claro
que “ler o futuro” já não é mais uma utopia.
Se o petróleo marcou o caminho para a riqueza no século XX, os dados
e a informação farão o mesmo no século XXI. Prova disso é que em
janeiro deste ano, a Alphabet – empresa matriz do Google – superou uma
capitalização de mercado de 1 trilhão de dólares, juntando-se ao exclusivo
“Trillion Club”, formado por Amazon, Apple e Microsoft. Já no primeiro
trimestre de 2019, entre as 10 empresas com maior capitalização de
mercado a nível mundial, se encontravam as quatro mencionadas acima,
acompanhadas do Facebook e das empresas chinesas Ali Baba e
Tencent.
As sete, todas líderes em desenvolvimento de IA, alcançaram uma
capitalização de mercado agregada de 4.9 bilhões de dólares. Esta cifra
descomunal equivale a 20% do PIB dos Estados Unidos, 36% do PIB da
China e 98% do PIB do Japão e explica, em grande medida, o enorme
poder político e econômico que acumularam pessoas como Bill Gates3,
Jeff Bezos4, Sergey Brin5, Larry Page6 e o próprio Mark Zuckerberg7. É um
poder que exercem sem pudor para defender e promover causas e
interesses particulares.
O filósofo brasileiro Olavo de Carvalho os define como
metacapitalistas8 ou capitalistas com esteroides que são capazes de agir
para além da lei.
A visão de sociedade mediadas pela IA – visão exposta pelo guru tecno-
progressista Alex Pentland em “Física Social – não apenas é comum entre
os metacapitalistas tecnológicos norte-americanos mas também encontra
no Partido Comunista Chinês (PCC) um surpreendente aliado. Os
interesses e relações entre ambas partes transcendem o tecnológico e
remontam à primeira visita que Bill Gates fez à China em março de
1994, durante a qual – com tratamentos próprios de um Chefe de Estado –
se reuniu com o presidente Jiang Zemin para explorar mecanismos de
transferência tecnológica.
As expectativas de ambos se materializaram em 1998 com a
inauguração da Microsoft Research em Pequim, laboratório responsável
pela capacitação dos primeiros engenheiros de software, hardware e
programadores que posteriormente liderariam a revolução de IA na China.
Desde então, Gates se reuniu com os presidentes Hu Jintao, Xi Jinping
e altos funcionários do PCC em Seattle, Davos9, Fórum de Boao para Ásia
e outros eventos internacionais, logrando um nível de aproximação e
confiança inimagináveis para qualquer outro líder político do Ocidente.
Gates explorou essa aproximação ao máximo, recebendo a luz verde do
PCC para organizar o gigante tecnológico paraestatal United States –
China Internet Industry Forum (USCIIF)
A primeira de suas oito edições ocorreu em 2007 e a última em 2015, na
sede da Microsoft, com a participação de Xi Jinping, representantes da
3
Fundador da Microsoft
4
Fundador da Amazon.
5
Co-fundador do Google.
6
Co-fundador do Google, junto a Sergey Brin.
7
Fundador do Facebook.
8
Olavo de Carvalho explica o que são os metacapitalistas:
https://www.youtube.com/watch?v=6ivgioFAAI4
9
Fórum Econômico Mundial de Davos.
GMAFIA e BAT (Baidu, Ali Baba e Tencent) e outras empresas
importantes. Apesar de a Amazon, o Facebook e o Google terem
fracassado no mercado chinês, isso não os impediu de obterem contratos
com o país, por exemplo, para o desenvolvimento de algoritmos de
censura, uma de suas especialidades. Além disso, sua relação com o PCC
é muito mais fluida (e proveitosa) que a que mantém com o atual
presidente dos Estados Unidos, Donald Trump.
Não resta dúvida que GMAFIA, encabeçada por Bill Gates,
desempenhou um papel decisivo no espetacular desenvolvimento
tecnológico da China – especialmente no campo da IA – pondo em
discussão a lealdade dos “filantropos” com os interesses dos Estados
Unidos e do mundo ocidental.
Mas a China não deve grande parte de sua proeminência tecnológica ao
GMAFIA, mas também ao ex-presidente americano Barack Obama.
Chama atenção que o presidente da paz e os metacapitalistas “amantes
dos direitos humanos” tenham facilitado ao PCC a criação e consolidação
do primeiro Estado de controle total governado por sistemas de IA.
O que começou em Pequim há uma década como um programa piloto
de geolocalização para, supostamente, ordenar o trânsito, é hoje
Tianwang – ou Skynet10, como se conhece no Ocidente – um sistema de
vigilância cidadã em tempo real que aspira controlar os corpos, mentes e
almas de 1.4 bilhões de chineses.
Dita distopia conta com 200 milhões de câmeras instaladas em todo
país – serão mais de 600 milhões ao fim do ano – fabricadas pelas
empresas nacionais Dahua e Hickvision. Seus algoritmos de vigilância são
codificados por ByteDance (proprietária do TikTok) e SenseTime, o
reconhecimento facial pelo MEVII e o aplicativo de mensagens Wechat – o
aplicativo mais popular da China – pela Tencent. Todas essas empresas
operam sob controle do PCC e só poderão seguir enquanto cumprirem
todas suas exigências.
Tianwang está integrado a um sistema de crédito social que transforma
a teoria sociométrica de Pentland em realidade. Avançar o sinal vermelho
– sorria, você está sendo filmado! – não botar o lixo no lugar adequado ou
ouvir música alto diminuem automaticamente a pontuação de reputação
social e econômica. Não pagar dívidas ou cometer furtos menores
10
Referência ao supercomputador protagonista da série de filmes O
Exterminador do Futuro.
acarretam numa maior perda de pontos enquanto crimes mais graves
como referir-se ao regime comunista em termos negativos pode acarretar
na impossibilidade de comprar produtos não essenciais ou passagens de
trem e, inclusive, não obter documentos como o passaporte.
Se chegar a ser incluído na lista negra, o mau cidadão deverá esperar
entre dois e cinco anos para ser removido dela, enquanto os “bons
cidadãos” poderão desfrutar de descontos ou ser melhor classificados nas
plataformas de namoro virtual, um grande incentivo para um país com 34
milhões de homens a mais do que mulheres. Com 1.16 bilhões de usuários
ativos no fim de 2019, o Wechat faz o PCC economizar com os custos de
sanção, já que opera como plataforma de doutrinação, meio de
identificação, carteira digital e depósito de dados. Nas cidades
completamente digitalizadas, basta desabilitar estas funções para que o
castigo seja efetivo.
O Estado de vigilância chinês não seria possível sem uma infraestrutura
capaz de transmitir rapidamente tão grande quantidade de dados. Por
essa razão, em novembro do ano passado a China inaugurou oficialmente
a rede 5G.
Com capacidade de transferência que alcança picos de 20 GB por
segundo, as redes 5G alcançam uma velocidade 100 vezes superior às
atuais redes 4G.
As redes 5G possibilitam não apenas a Internet de Todas as Coisas,
mas também oferecem suporte técnico necessário para monitorar em
tempo real as atividades diárias de bilhões de pessoas. Reafirmar a
impossibilidade de um Estado de vigilância orientado ao controle total sem
incorporar as tecnologias e infraestruturas mencionadas não é “teoria da
conspiração”, mas uma verdade gigantesca, verificável e irrefutável.
Tianwang também confirma que as tiranias tecnocráticas respaldadas com
sistemas de IA abandonaram o mundo da ficção científica.