Governar humanamente as máquinas que nos governam

Rafael Evangelista*

O ano de 2016, com a eleição de Donald Trump e o referendo do Brexit pela saída do Reino Unido
da União Europeia, marca o que tem sido chamado em círculos especializados de techlash. O termo
busca captar um sentimento geral do público, mas que agora passa a ecoar cada vez mais sobre
autoridades reguladoras, com relação ao ambiente de excessiva liberdade e consequente crescente
poder das grandes empresas de tecnologia da informação. A lua de mel com as utopias sobre a
Internet já havia acabado alguns anos antes, com as revelações de Snowden sobre o conluio entre
governos e grandes empresas na sustentação de esquemas de vigilância. Mas o evidente papel da
desinformação nos dois processos de consulta popular de 2016 elevou o nível do mal-estar ao limite
do tolerável. Na sequência, explode ainda o escândalo da Cambridge Analytica, que revelou a
parceria entre o Facebook e a campanha de Trump e do Brexit na confecção de anúncios micro-
segmentados, direcionados a partir de violação da privacidade dos usuários. O consenso
definitivamente mudou e a ideia de que é necessário ter algum tipo de regulação mais efetiva sobre
a Internet, em especial sobre as plataformas que operam sobre a rede mundial, passou de um tabu a
uma quase unanimidade.

A controvérsia, porém, se dá em como fazer isso, e é aí que Governance for the Digital World
encontra seu lugar. No jogo de oposições globais, a China aparece como exemplo mais proeminente
de país que, no limite do possível, dita as suas próprias regras na relação com as gigantes das
tecnologias da informação, sejam dos EUA ou da própria China. O que não exclui o país de parte
dos efeitos negativos das tecnologias aplicadas, como a vigilância indiscriminada, a discriminação
algoritmica e as violações de direitos humanos. Além disso, a fórmula chinesa claramente tem
menos chances políticas de prosperar nos países de tradição política e econômica liberal. Neither
more state nor more market, o subtítulo de Governance for the Digital World, é completamente
consistente com a proposta dos autores de encontrar uma saída que nem implique em municiar
possíveis Estados autoritários e nem em deixar que o mercado cuide tudo com suas injustiças
tradicionais. Nem mais Estado nem mais mercado.

Seria incorreto apontar, como pode parecer, que essa é uma solução simplista intermediária, a qual
busca um caminho do meio feito da soma e divisão das outras duas partes. Governance for the
Digital World se junta a outras obras contemporâneas, como The age of surveillance capitalism, de
Shoshana Zuboff, ao dar a entender que o atual estado de relações entre as democracias liberais e as
grandes empresas de tecnologia, em que impera um ambiente regulatório tímido, tende a ameaçar as
próprias democracias liberais. Ao mesmo tempo, o livro se constrói a partir de posicionamentos
solidamente ligados à justiça social, como o respeito aos direitos humanos, a construção de
oportunidades reais a todos e a noção de comum (bens comuns, os commons). Ou seja, trata-se de
agir politicamente com relação à governança da Internet e de seus provedores de aplicação de modo
a evitar tanto o colapso da democracia liberal quanto dar margem a violações democráticas
advindas de um Estado que concentra poder demais.

Os bens comuns ou comum, tradução para commons, é um conceito da economia popularizado no

contexto de discussões sobre o meio ambiente, no final da década de 1960. Ele se refere ao uso
compartilhado de recursos comuns e a um problema que foi naquele momento enquadrado como a
“tragédia dos comuns”. Se os indivíduos atuam egoisticamente, sem coordenação, o recurso
compartilhado tende a se exaurir. Mais tarde, a discussão sobre o comum foi amplamente utilizada
no contexto do ambiente de co-produção participativa da internet. O software livre e de código
aberto foi entendido como uma iniciativa em torno da produção de um bem comum, assim como
ações no campo da produção cultural, como o Creative Commons e a Wikipedia.

Os autores partem dessa discussão e a ampliam, de maneira muito apropriada, para o que chamam
de Mundo Digital. Por um lado, o comum seria visto como grande recurso compartilhado do Mundo
Digital, feito a partir da colaboração e interação de diversos agentes, públicos e privados, coletivos
e indivíduos, operando em regime de co-produção no espaço cibernético. Por outro, alguns poucos
conglomerados e países controlam a oferta de produtos e serviços. O Mundo Digital então é
entendido como tendo várias camadas, de infra-estrutura comunicacional, software, protocolos,
dispositivos e dados. A governança desse mundo vai além das leis e das regras formais, passa por
uma série de relações de poder, entre atores de setores e com interesses diferentes, que precisam se
relacionar para organizar processos que pautam o desenvolvimento das tecnologias e seus usos pela
sociedade. Pensemos, por exemplo, no desenvolvimento de padrões técnicos do 5G, que precisam
ser acordados por diferentes fabricantes de equipamentos, assim como devem se enquadrar nas
normas que regem o uso do espectro eletromagnético. Mas pensemos também nas políticas de
combate à desinformação, esta que é impulsionada e viralizada a partir das grandes plataformas de
redes sociais.

O paralelo mais importante desenvolvido sobre o Mundo Digital é com o meio ambiente. Só que em
lugar de o maior patrimônio serem os ecossistemas naturais, que devem ser defendidos contra o uso
predatório e não sustentado, o grande capital do Mundo Digital é o conhecimento e a informação.
Governar o Mundo Digital significa criar uma ordem institucional que promova ações coletivas
direcionadas a resultados benéficos para a sociedade. A desinformação, por exemplo, poderia ser
entendida como uma poluição do Mundo Digital, uma substância tóxica que envenena as conexões
e que, podemos adicionar, é um subproduto muito fácil de conectar com o império da economia da
atenção, que hoje governa os lucros das grandes plataformas de redes sociais. Sensacionalismo já
vendia jornais e dava audiência televisiva no passado, hoje gera cliques e engajamento.

Se a sustentabilidade ambiental é importante para a proteção da vida na Terra, a governança da

Internet se destaca para o equilíbrio de poder. “Quem controla o conhecimento e a informação
influencia as decisões coletivas e estabelece novas estruturas de poder”, escrevem os autores. De
fato, no livro abundam exemplos concretos de rupturas impulsionadas pelas tecnologias que
eventualmente se tornam problemas no campo da política (desinformação), da sociedade (novos
meios de socialização), das leis (flexibilidade e velocidade contra tradição e rigidez) e da
comunicação (liberdade de expressão e bolhas informacionais). O Mundo Digital ameaça o próprio
liberalismo ao dotar as plataformas, que amealham dados de todo o globo, dos meios para prever e
modificar comportamentos de pessoas e mercados. No campo governamental, os serviços públicos
vão progressivamente sendo digitalizados, consequentemente reunindo diversos tipos de dados dos
cidadãos, assemelhando governos a plataformas. Essa não é uma questão trivial e envolve a
ambiguidade típica da vigilância, ameaça de controle social confrontada com a promessa de mais
direitos.

Para resolver essas dilemas, Governing the Digital World propõe um arranjo que seja internacional
e multissetorial, mesmas qualidades do Mundo Digital. Essa estrutura não é exatamente uma
novidade, o Brasil mesmo tem uma experiência exitosa em termos de governança da Internet, o
Comitê Gestor da Internet no Brasil (cgi.br). Criado nos anos 1990, o CGI.br ganhou sua forma
atual na década de 200 e foi importantíssimo para a instituição do Marco Civil da Internet, elogiado
por especialistas do mundo todo. No campo internacional, são exemplos de fóruns multissetoriais
diversas instâncias das Nações Unidas, como a Comissão para o Desenvolvimento Sustentável ou a
Aliança das Vacinas. Não são exemplos isentos de problemas, por isso os autores se aprofundam no
que chamam de desenho de instituições, se debruçando numa extensa bibliografia. E apontam que
não basta a governança multissetorial, é preciso trazer elementos de uma governança colaborativa.

Uma das vantagens desse mergulho que fazem Filgueiras e Almeida no processo de moldar
instituições, contido no capítulo 4, é o detalhamento dos elementos e das condições de colaboração
que precisam ser consideradas. Um problema central do multissetorialismo é a assimetria de poder
entre os diversos atores, cada um dispondo de recursos muito distintos. Na União Europeia, por
exemplo, onde há a tentativa de se regular as grandes companhias de tecnologia da informação, hoje
há uma enxurrada de organizações da sociedade civil eivadas de conflitos de interesses, que
recebem financiamento e fazem lobby pelas empresas que deveriam fiscalizar. Os autores não
tratam desse problema especificamente, mas defendem estruturas policêntricas, sem autoridade
central, que requerem processos decisórios sobrepostos, para então gerarem uma combinação
complexa de organizações em múltiplos níveis. Trata-se de uma retomada da ideia da capacidade de
intervenção humana e planejamento, se não diretamente das tecnologias, mas das diferentes
instituições que vão propiciar seu fomento, aplicações e uso justo. O arranjo institucional proposto,
policêntrico, também preza e aposta na capacidade de concertações e entendimento de grupos
humanos culturalmente diferentes, numa clara fuga das armadilhas etnocêntricas de uma
tecnocracia que se pretende acima dos corpos e vidas reais.

As propostas feitas no livro não são considerações genéricas, com aplicação enigmática. Estão
bastante especificadas e maduras. Tome-se como exemplo as propostas em torno da transparência
algoritmica. É um assunto intangível para aqueles de fora da computação e dessaboroso para as
empresas, que fazem do segredo desses códigos um dos seus principais ativos financeiros. Mas a
abordagem no livro é bastante razoável e inteligente.

Obras recentes, adotadas no livro como referência, como Black Box Society, de Frank Pasquale, e
Automating Inequality, de Virginia Eubanks, já apontaram como as decisões tomadas por sistemas
autônomos, sem intervenção humana, podem prejudicar indivíduos e a sociedade. Esses sistemas já
são amplamente utilizados hoje e fazem previsões, ranqueamentos, e classificações, sejam de
pessoas que usam ferramentas digitais ou incidindo no conjunto amplo da sociedade. Os governos
utilizam cada vez mais esses sistemas em seus processos decisórios, os quais atingem ainda mais
desigualmente aqueles que precisam de proteção social. Se distanciando da ideia equivocada de
neutralidade algorítmica, os autores apontam como processos de aprendizagem de máquina,
baseados em dados históricos, podem reforçar e amplificar vieses já existentes, como racismo,
sexismo e desigualdades de classe. Um sistema que defina quando fazer abordagens policiais, por
exemplo, se baseado no comportamento histórico da polícia, fatalmente se voltará contra a
população negra.

Porém, simplesmente expor os algoritmos, permitindo a leitura pública do código, não é suficiente,
mostram os autores, além de ser uma batalha politicamente difícil, dado o zelo das companhias
pelos seus segredos industriais. Por um lado, algoritmos podem ter a capacidade de modificar
variáveis e dados pela sua capacidade de aprender. Por outro, há limitações cognitivas sérias para o
entendimento dos códigos envolvidos, não restritas ao desconhecimento técnico dos cidadãos
comuns, mas afetando até mesmo os especialistas. Há várias camadas complexas de sistemas que se
sobrepõem e que dificultam uma reflexão adequada sobre o funcionamento desse maquinário.

Para combater essa complexidade e promover uma transparência algoritmica mais efetiva, os
autores propõem um conjunto de elementos que, se somados, podem oferecer, a governos e à
sociedade, justificativas e explicações fornecidas pelos atores responsáveis pelos sistemas. Entre
esse conjunto complexo de medidas estão: a supervisão por parte de atores independentes;
informações sobre a origem, os processos de coleta de dados e as variáveis usadas para se chegar a
resultados; respostas sobre porque os algoritmos tomaram determinadas decisões; informações
sobre como o sistema calcula, processa e racionaliza variáveis, além de como classifica, prediz e
aprende com os dados; entre outras. Uma transparência desse tipo permitiria, por exemplo, saber
que variáveis foram usadas para que um sistema recomendasse determinada postagem ou vídeo a
um certo indivíduo numa rede social. Seria um passo importante para equilibrar um pouco a balança
nessa relação em que as redes sabem tudo sobre nós e nós quase nadas sobre elas. Um avanço muito
necessário no combate à desinformação, tão abundante nessa era de visualização de conteúdos
diretamente amarrada aos lucros.

Com capítulos que podem ser lidos de maneira independente, Governance for the Digital World é
um livro importante tanto para os interessados em discussões conceituais sobre a internet e o digital
(capítulos 2), para os especialistas em políticas públicas digitais (capítulo 3), como para aqueles que
pensam o futuro da governança da Internet de forma ampla (capítulo 4). A importância política das
propostas contidas no livro é bastante grande, se o que desejamos é retomar o controle humano e
democrático das máquinas que hoje nos governam.

* Rafael Evangelista é doutor em antropologia, pesquisador do Laboratório de Estudos Avançados

em Jornalismo (Labjor) da Unicamp e conselheiro do Comitê Gestor da Internet (CGI.BR)
representando o setor técnico científico