See discussions, stats, and author profiles for this publication at: https://www.researchgate.

net/publication/375769557

PLATAFORMIZAÇÃO, INTELIGÊNCIA ARTIFICIAL E SOBERANIA DE DADOS

Book · November 2023

CITATIONS READS

0 264

5 authors, including:

Nina Da Hora
University of Campinas
10 PUBLICATIONS 2 CITATIONS

SEE PROFILE

All content following this page was uploaded by Nina Da Hora on 20 November 2023.

The user has requested enhancement of the downloaded file.

PLATAFORMIZAÇÃO,
INTELIGÊNCIA ARTIFICIAL
E SOBERANIA DE DADOS:
TECNOLOGIA NO BRASIL 2020-2030

Organização

Cláudio Penteado
Jerônimo Pellegrini
Sérgio Amadeu da Silveira

1
 PLATAFORMIZAÇÃO,
INTELIGÊNCIA ARTIFICIAL
E SOBERANIA DE DADOS:
TECNOLOGIA NO BRASIL 2020-2030

Organização

Cláudio Penteado
Jerônimo Pellegrini
Sérgio Amadeu da Silveira

2 3
 O financiamento desta publicação integra o Termo de Fomento
PLATAFORMIZAÇÃO,
CDRT n° 01/2020 Processo n° 0134/2020, realizado pelo Coletivo 660
representado pela Ação Educativa em convênio com a Secretaria INTELIGÊNCIA ARTIFICIAL
de Desenvolvimento Econômico, Ciência, Tecnologia (SDECTI)
E SOBERANIA DE DADOS:
TECNOLOGIA NO BRASIL 2020-2030
Coletivo 660:
Chico Whitaker
Pe. Dário Bossi
Janaina Uemura André Lemos
Jorge Abrahão Cláudio Penteado
José Corrêa Leite Débora Salles
Luiz Marques Fernanda Bruno
Mauri Cruz Fernanda Campagnucci
Moema Miranda Fernanda Rosa
Oded Grajew Glenda Dantas
Salete Valesan Helena Martins
Sérgio Haddad Jader Gama
Stella Whitaker
Jerônimo Pellegrini
José Correa Leite
José Paulo Guedes Pinto
Licença Creative Commons Juliane Cintra
CC BY-NC Atribuição-NãoComercial (ou [cc] Ação Educativa, 2023) Larissa Ambrosano Packer
Esta obra pode ser livremente compartilhada, copiada, distribuída Nelson Pretto
e transmitida, desde que as autorias sejam citadas e não se faça Nina da Hora
nenhum tipo de uso comercial ou institucional não autorizado de Paulo Faltay
seu conteúdo. Paula Cardoso Pereira
Rafael Evangelista
Rafael Grohmann
Sérgio Amadeu da Silveira
Sivaldo Pereira da Silva
Tarcízio Silva
Wagner Meira Jr.

4 5
PLATAFORMIZAÇÃO, INTELIGÊNCIA ARTIFICIAL E
SOBERANIA DE DADOS: TECNOLOGIA NO BRASIL 2020-2030

Organização Editor: Coletivo 660:

Cláudio Penteado Janaina Uemura Chico Whitaker
Jerônimo Pellegrini Pe. Dário Bossi
Sérgio Amadeu da Silveira Prefácio: Janaina Uemura
José Correa Leite Jorge Abrahão
Autores: José Corrêa Leite
André Lemos Projeto gráfico, Luiz Marques
Cláudio Penteado ilustrações e Mauri Cruz
Débora Salles diagramação: Moema Miranda
Fernanda Bruno Juliana Vieira Oded Grajew
Fernanda Campagnucci Salete Valesan
Fernanda Rosa Revisão de texto: Sérgio Haddad
Glenda Dantas Madrigais Produção Editorial Stella Whitaker
Helena Martins
Jader Gama Realização:
José Correa Leite Ação Educativa e Coletivo 660 Edição:
José Paulo Guedes Pinto
Juliane Cintra Parceria/apoio:
Larissa Ambrosano Packer Secretaria de Desenvolvimento
Nelson Pretto Econômico, Ciência, Tecnologia do
Nina da Hora Estado de São Paulo (SDECTI), parte
Paulo Faltay do projeto de emenda parlamentar
Paula Cardoso Pereira “Inovação, desenvolvimento e
Rafael Evangelista resiliência nas políticas públicas
Rafael Grohman em São Paulo: um mapa para os
Sivaldo Pereira da Silva desafios entre 2020 e 2030”
Tarcízio Silva
Wagner Meira Jr.

Palavras-chave: tecnologia, plataformas, inteligência artificial, soberania de dados,

políticas públicas

Licença Creative Commons

CC BY-NC Atribuição-NãoComercial (ou [cc] Ação Educativa, 2023)
Esta obra pode ser livremente compartilhada, copiada, distribuída e transmitida, desde que
as autorias sejam citadas e não se faça nenhum tipo de uso comercial ou institucional não
autorizado de seu conteúdo.

6 7
 Agradecemos a todas as pessoas que participaram
dos seminários, tanto as que fizeram exposições,
quanto as equipes da Ação Educativa e membros
do Coletivo 660.

8 9
 SUMÁRIO
15 | Prólogo | José Corrêa Leite, Coletivo 660

21 | Apresentação
Dataficação, Plataformas Digitais, Regulação e
Políticas Anticoloniais | Claudio Luis de Camargo
Penteado, Jerônimo Pellegrini e Sérgio Amadeu da
Silveira

35 | Seminário Tecnologia no Brasil 2020-2030

| Primeiro Encontro |

37 | Plataformas digitais: o que incentivar, o que limi-

tar e o que vetar | Cláudio Penteado, André Lemos, Rafael
Grohman, Larissa Ambrosano Packer e Helena Martins

60 | Inteligência local, soberania digital e soberania de

dados | Jerônimo Pellegrini, Rafael Evangelista, Sérgio Amadeu
da Silveira, Nina da Hora, Fernanda Rosa

| Segundo Encontro |

85 | Inteligência Artificial, democracia e regulação | Glen-

da Dantas, Fernanda Bruno, Tarcízio Silva, Sivaldo Pereira da
Silva, Débora Salles

106 | Devemos apostar em tecnologias livres diante das

infraestruturas de IA | Juliane Cintra, Nelson Pretto, Jader
Gama, Fernanda Campagnucci e Wagner Meira

10 11
 127 | Capitalismo preditivo e os sistemas
algorítmicos | Sérgio Amadeu da Silveira (UFABC)

153 | O velho com cara de novo: subordinação

intelectual do trabalho ao capital e o capitalismo
monopolista de plataformas | José Paulo Guedes
Pinto (UFABC)

171 | Automatização e Desemprego: o uso de

Inteligência Artificial no Sistema Nacional de
Emprego | Fernanda Bruno (UFRJ), Paulo Faltay (UFRJ)
e Paula Cardoso Pereira (UFRJ)

194 | Quem escreveu este livro

12 13
14
15

PRÓLOGO
 PRÓLOGO
E
ste livro trata de um dos
processos mais críticos por que
passa a humanidade. Vivemos
uma mutação da sociedade sem rival desde
a Revolução Industrial. O computador,
desenvolvido na II GM para quebrar códigos
militares, transformou-se, com a invenção
do circuito integrado (o chip), no aparato
definidor das relações de poder no mundo
– da Guerra Fria à corrida espacial, das
previsões meteorológicas às especulações
financeiras. A abertura da internet, em
1994, permitiu que essa máquina de
armazenamento e processamento de
informações codificadas em linguagem
binária se transformasse em eficiente
meio de comunicação. Mas foi a difusão
dos smartphones, pequenos computadores
e terminais da internet transformados
em telefones celulares, que permitiu, já
neste século, que as tecnologias digitais
ganhassem capilaridade e chegassem
ao cotidiano de bilhões de pessoas. Elas
revolvem a economia, as relações sociais
e a política pelo mundo.
Se as tecnologias industriais
representavam uma extensão dos membros
e dos sentidos humanos, próteses que
potencializam os poderes de nosso corpo
na simbiose com máquinas, as tecnologias
digitais amplificam as capacidades de
nosso cérebro, permitindo o tratamento
de informações transformadas em dados
16
em volumes avassaladores. Estamos
não apenas diante de uma extensão
horizontal da cultura mas de uma
introdução de uma nova mediação nas
conexões entre os seres humanos, um
meio que redefine, de forma qualitativa,
o que entendemos ser parte do nosso
universo simbólico.
Como qualquer tecnologia, a digital
entra nas sociedades nos marcos das
relações de poder preestabelecidas. Ela
potencializa a capacidade humana de
coordenação, cooperação e compreensão
do mundo e poderia permitir que
vivêssemos vidas melhores. Mas, no
capitalismo, ela é apropriada e, na prática,
quase monopolizada pelos detentores do
poder econômico e político. Tecnologias
digitais passam a ser primariamente
desenvolvidas e utilizadas para que
a classe capitalista amealhe ainda
mais poder e amplie a dominação dos
subalternos. Elas estabelecem o meio
por onde circulam, hoje, as finanças
globais, aprofundando a precarização
e a informalidade do trabalho – sua
“uberização” ou plataformização –,
concentrando riquezas e ampliando
a distância entre ricos e pobres.
As redes e empresas digitais do
início do século XXI deram origem, em
menos de duas décadas, ao capitalismo
de plataformas das corporações de
17
PRÓLOGO
tecnologia estadunidenses e chinesas,
as big techs, que vigiam cada aspecto
de nossa vida e buscam modular nosso
comportamento de forma cada vez mais
eficaz. Os algoritmos das plataformas
varrem grandes e abrangentes bancos
de dados, mapeando desejos, medos e
fantasias, seduzindo-nos. As plataformas
buscam, como afirma Sérgio Amadeu,
desenvolver um capitalismo preditivo.
As redes sociais passam a ser o meio por
onde circulam ideias e valores, se afirmam
bolhas de autoidentificação e onde são
travadas disputas eleitorais, com uma
grande dianteira para as correntes de
extrema-direita.
Os seminários que estão na origem
deste livro foram propostos antes da
pandemia, já buscando compreender
a onda bolsonarista. Mas eles foram
realizados de forma remota. Teletrabalho,
teleconferências, aulas remotas e explosão
de consumo de entretenimento on-line;
tivemos, em três anos, o amadurecimento
de tendências que poderiam ter levado,
em outras circunstâncias, dez ou vinte
anos para se difundirem pela sociedade. E,
coroando essa aceleração das inovações na
área, vieram à luz programas de inteligência
artificial generativa (Chatgpt, Bard). Os
grandes modelos de linguagem já foram
chamados, por sua capacidade de simular
textos escritos pelos seres humanos, de
“papagaios estocásticos”, isto é, aleatórios.
Apoiando-se em gigantescos bancos de
18
exemplo, recriam conexões e padrões públicos, submetido ao controle político
mais valorizados, sem discernir realidade e democratizado em nosso país e no
e fantasia, vieses e preconceitos. Mas mundo. Este livro é uma contribuição
estão sendo aprimorados e começam a muito valiosa para isso.
ser utilizados nas mais variadas áreas;
dessa forma, crescem as demandas pela José Corrêa Leite
regulamentação de seu uso.
As tecnologias digitais de ponta,
como os programas de inteligência
artificial, são também resultado de uma
hiperespecialização e concentração de
poderes inédita nas cadeias produtivas
globais, que tornam o processo bastante
caro e vulnerável. Um processador de
iPhone de ponta pode ter hoje 8.5 bilhões
de transistores. Apenas uma empresa no
mundo, a ASML da Holanda, produz as
máquinas de litografia ultravioleta extrema
capazes de imprimir os transistores de
dois nanômetros (2nm), quase o tamanho
da fita do ADN, no silício desses chips.
Uma única máquina desse tipo pode
custar US$ 350 milhões. E são poucas
as empresas que podem produzir chips
como os utilizados pela Nvidia em seus
programas de inteligência artificial, sendo a
principal delas a TSMC, sediada em Taiwan.
É desnecessário dizer que isso acrescenta
uma nota de urgência ao conflito geopolítico
entre os EUA e a China.
Para além dos alertas correntes sobre
os riscos do uso da inteligência artificial,
trata-se de reconhecer nas tecnologias
digitais um enorme poder que precisa
ser colocado a serviço dos interesses
19
20
21

APRESENTAÇÃO
 Dataficação, Plataformas
Digitais, Regulação e
Políticas Anticoloniais
Claudio Luis de Camargo Penteado
Jerônimo Pellegrini
Sérgio Amadeu da Silveira
Introdução
Testemunhamos, nas últimas décadas,
um crescente processo de digitalização
da sociedade. Como qualquer processo
social, o uso massivo de tecnologias digitais
pela população apresenta importantes
oportunidades, mas também desafios,
perigos e contradições que precisam
ser debatidos. O desenvolvimento das
Tecnologias Digitais de Informação e
Comunicação (TDICs) trouxe profundas
transformações para as estruturas e
dinâmicas sociais. Essas transformações
podem ser sentidas e vivenciadas em
diversas áreas das atividades humanas
ao promoverem novas formas de
sociabilidade, produção de cultura, práticas
políticas, relações de trabalho e dinâmicas
econômicas.
As tecnologias sempre fizeram parte
da configuração do tecido social, e não é
possível dissociar o desenvolvimento e
práxis sociais de suas tecnologias. Evitando
cair no discurso tecnodeterminista, de
22
determinação social direcionada pela
tecnologia, é possível verificar que as
tecnologias fazem parte das dinâmicas
sociais que envolvem relações de poder,
controle e resistência, nos diferentes
períodos das diversas sociedades que
compõem a história da humanidade.
A gênese das TDICs está associada à
expansão da cibernética, microinformática e
da Internet, contando com forte investimento
financeiro militar do governo estadunidense
(projeto ARPAnet), com apoio da Big
Science e da contracultura hippie presente
na Califórnia, principalmente no Vale do
Silício (CASTELLS, 2003). Com o ideal e
discurso libertário de criar um livre fluxo das
informações, dentro de uma arquitetura de
redes distribuídas, regulada pela economia
das redes (BENKLER, 2008), as TDICs
tiveram uma rápida expansão apoiada
na ideia de neutralidade tecnológica, na
figura do empreendedor e de startups
que ocultam a expressão da ideologia
californiana altamente individualista e
neoliberal (BARBROOK; CAMERON, 2017).
O clima otimista das potencialidades
e possibilidades das TDICs para expansão
da ciberdemocracia (LEMOS; LÉVY, 2010)
e novas formas de práticas colaborativas
(SHIRKY, 2008) possibilitou a emergência
de novos formatos de ativismo digital e
hackers (SILVEIRA; BRAGA; PENTEADO,
2014) e a florescência de uma cultura digital
inovadora, aberta para novas experiências,
formação de comunidades de conhecimento
e do individualismo colaborativo (SILVEIRA,
2010).
23
 Por outro lado, a expansão da Internet
também está associada à formação de
redes de controle e vigilância, controladas
por protocolos de comunicação em rede
(GALLOWAY, 2006). A capacidade de
monitoramento dos fluxos informacionais
permitiu a criação de complexos sistemas
de vigilância por parte de governos e de
empresas privadas de segurança de violação
de dados pessoais (BRUNO, 2008), que
também influenciaram (e ainda influenciam)
os processos eleitorais, como ilustra o caso
da Cambridge Analytica nas votações do
Brexit e das eleições estadunidense de
2018 (CADWALLADR; GRAHAM-HARRISON,
2018), sendo, hoje, uma ameaça real à
democracia.
Com o aumento da conexão digital,
principalmente por meio de smartphones,
e a explosão das plataformas privadas de
redes e mídias sociais (Orkut, Facebook,
Instagram, Youtube, Twitter, TikTok etc.),
milhares de pessoas passaram a utilizar os
diferentes canais de comunicação da web
em suas práticas cotidianas, criando novas
sociabilidades e aplicações tecnológicas (os
famosos apps) para mediar (e controlar)
as diversas tarefas do dia a dia das pessoas
na escola, nos deslocamentos, na compra
de produtos, busca de informações e tantas
outras atividades humanas, perfilando
um modelo de “servidão maquínica”
(LAZZARATO, 2014) na consolidação de
uma sofisticada e tecnológica sociedade
de controle, escamoteado pelo discurso
da neutralidade da tecnologia (SOUZA;
AVELINO; SILVEIRA, 2018).
O uso cotidiano das TDICs abriu
espaço para a emergência de modelos de
negócios baseados na coleta e tratamento
da imensa quantidade de dados digitais
(que ficaram popularizados pelo termo Big
24
Data) com informações pessoais e registro
de atividades dos usuários, formando perfis
de consumidores, criando uma robusta
economia de dados pessoais (SILVEIRA,
2017). Esses dados são apropriados e
processados por grandes empresas de
tecnologia (Big Techs) na consolidação
do capitalismo de vigilância (ZUBOFF,
2021) e de plataformas (SRNICEK, 2017),
operado por técnicas de aprendizado de
máquina, algoritmos de interatividade,
processamento de linguagem natural e
outras técnicas de Inteligência Artificial na
implementação de uma governamentalidade
algorítmica (ROUVROY; BERNS, 2015) por
meio do uso intensivo das informações
coletadas (extraídas) nas plataformas
digitais.
As plataformas digitais emergem
como espaços digitais controlados por
empresas privadas que concentram o fluxo
de informação e geração de valor na atual
configuração da sociedade. O crescente
poder das plataformas digitais leva a um
processo de “plataformização da sociedade”,
que, segundo Poell, Nieborg e van Dijck
(2020), pode ser compreendido como um
processo econômico, político e cultural
que influencia os processos econômicos de
geração de valor, as estruturas e dinâmicas
dos Estados nacionais e reorganiza as
práticas e os imaginários culturais da
sociedade conectada nessas plataformas.
O cenário de plataformização se
intensifica a cada ano e se acelerou com
a pandemia de covid-19 e a necessidade de
medidas de isolamento social. As plataformas
e aplicativos digitais que já dominavam a
economia do entretenimento e diversos
segmentos do mercado (SRNICEK, 2017)
avançaram ainda mais nas mediações da
vida social. Relações de trabalho (e renda),
aluguel de imóveis, conteúdos educacionais,
compras, entretenimento (principalmente
games e streaming) e até mesmo as relações
pessoais e amorosas são mediadas por
plataformas e suas affordances. Essas
plataformas se colocam como mediadoras
de relações sociais, econômicas e políticas
coletando dados da oferta e demanda de
segmentos do mercado, consolidando sua
centralidade nas práxis sociais.
Por meio da oferta de interfaces
atrativas e serviços gratuitos, as plataformas
conseguem reunir bilhões de usuários em
todo o mundo, o que possibilita a coleta
massiva e processamento permanente
dos dados extraídos das interações nas
plataformas digitais. Esse processo converte
todos os fluxos da vida em dados para
sofisticados dispositivos de controle,
modulação e captura da atenção, operados
por algoritmos e estruturas de Inteligência
Artificial.
Os dados extraídos e minerados
pelas plataformas digitais, controladas por
grandes corporações de tecnologia do Norte
global, constituem um importante ativo
do capitalismo financeiro global. Dados
produzidos por usuários dos países do
Sul global são processados, tratados e
armazenados em data centers localizados
em outras regiões (não em um espaço
comum, conforme sugere a metáfora da
Nuvem), fora da jurisdição da origem do
dado, sem que possa decidir de modo
autônomo sobre seus usos, convertendo-se
em um novo processo de colonização: o
colonialismo de dados (SILVEIRA, 2020).
O colonialismo de dados produz
novas relações de subjugação dos Estados
nacionais e do mundo ao poderio das grandes
empresas. O Estado é capturado pela lógica
das grandes empresas de tecnologia. Além
de controlar os dados, essas corporações
dominam o processo de desenvolvimento
tecnológico, definindo os padrões e os
modelos de soluções tecnológicas. Um
exemplo simples, que já foi naturalizado, é
o uso do sistema operacional Windows da
Microsoft Corporation. Além de não ser o
sistema operacional mais eficiente – como
o é uma alternativa para ele, o GNU/Linux
e suas distribuições, como Debian –, cria
a dependência tecnológica desse sistema
proprietário, que funciona como um potente
terminal de extração de dados, vigilância
e modulação dos seus usuários, inclusive
das próprias Instituições e Agências do
Estado, que usam, por exemplo, perfis nessas
plataformas privadas, para a comunicação
pública, sem reflexão dos impactos desses
usos.
Por mais que as plataformas
digitais ofereçam importantes serviços e
oportunidades de renda para uma crescente
parcela da população (motoristas de
aplicativo, entregadores, desempregados e
outras atividades), principalmente em um
contexto de austeridade fiscal e aumento
do desemprego, a opacidade dos algoritmos
(como operam? o que fazem com os dados?)
e a falta de legislação específica criam sérios
problemas para as economias nacionais,
relações de emprego e até o bem-estar da
população. Muitos arranjos de plataformas
acabam por precarizar as relações de
trabalho, criar dispositivos para burlar
os sistemas fiscais nacionais e concentrar
o lucro em empresas de Tecnologias da
Informação do Norte global (ABÍLIO, 2020).
Nesse contexto, visando entender
esse processo, o Laboratório de Tecnologias
Livres (LabLivre/ UFABC), em parceria com
o Coletivo 660, organizou o “Seminário
Tecnologia no Brasil 2020-2030:
25
plataformização, Inteligência Artificial
e soberania de dados”, em setembro e
outubro de 2021, com pesquisador@s
e especialistas de diferentes campos do
conhecimento, para analisar o cenário
tecnopolítico e propor um conjunto de
ações e políticas imprescindíveis em
relação às tecnologias digitais, com foco
nas plataformas, na Inteligência Artificial
e na soberania de dados que preparem o
país para 2030.
O Seminário Tecnologia no Brasil
2020-2030
O Seminário fez parte do projeto
“Inovação, desenvolvimento e resiliência
para as políticas públicas em São Paulo:
um mapa para os desafios entre 2020-
2030. A proposta surgiu de uma Emenda
Parlamentar executada pela Secretaria de
Desenvolvimento Econômico do Estado de
São Paulo para cartografar os multifacetados
desafios e turbulências relacionados à
emergência socioambiental com os quais
o Estado de São Paulo se confrontará, em
especial na década de 2020-2030, e as
alternativas que se apresentam em relação a
esses aspectos tendo em mente os Objetivos
de Desenvolvimento Sustentável (ODSs).
O Seminário contou, ao todo, com
quatro mesas de debate. A primeira mesa
foi direcionada para a discussão sobre as
plataformas digitais, com a participação
do professor André Lemos da UFBA, do
professor Rafael Grohmann (Unisinos
e DigiLabour), Larissa Packer (GRAIN
– América Latina) e Helena Martins
(Intervozes). Nessa mesa, os palestrantes
destacaram a centralidade das plataformas
como dispositivo de mediação da vida
26
digital, que produzem impactos políticos,
econômicos, culturais e sociais, havendo a
necessidade de pensar formas de regulação
de seu funcionamento. A influência das
plataformas e das tecnologias digitais
controladas por grandes empresas
estrangeiras acaba atingindo diversas
atividades, como o agronegócio, e incorpora
profundas transformações no mercado de
trabalho, manipula processos políticos e
outras formas de impacto nas dinâmicas
da sociedade. Todos convergiram para um
posicionamento da necessidade de se buscar
mecanismos para regulação, transparência,
taxação das empresas e desconcentração
do poderio das Big Techs.
A segunda mesa, em setembro de
2022, debateu o tema da Inteligência local,
soberania digital e soberania de dados.
Com a participação do professor Rafael
Evangelista (Unicamp), professor Sérgio
Amadeu da Silveira (UFABC), Nina da Hora
(Computação Antirracista) e Fernanda Rosa
(Virginia Tech), a mesa realçou problemas
relacionados à expansão do capitalismo
informacional por meio da consolidação do
colonialismo digital, que coloca em xeque a
soberania dos Estados Nacionais. A ausência
de dispositivos de regulação e políticas
públicas para Ciência e Tecnologia para o
desenvolvimento de IA no Brasil aumenta
a assimetria no uso das ferramentas
digitais e a dependência de soluções
proprietárias controladas pelas grandes
corporações de TI. Os convidados apontaram
a indispensabilidade de se debater mais
sobre os códigos de funcionamento das
IAs e olhar criticamente como os dados
estão circulando pelas redes e plataformas,
para combater práticas algorítmicas de
racismo e sexismo.
Nos encontros de outubro, a terceira
mesa, “Inteligência Artificial, democracia e
regulação”, contou com a presença de Tarcízio
Silva (Mozilla Foundation), da professora
Fernanda Bruno (UFRJ), do professor Sivaldo
Pereira (UnB) e Débora Salles (IBICT/ UFRJ).
Segundo as apresentações, o tema da IA
envolve um certo grau de complexidade
técnica e também mobiliza narrativas
que vislumbram futuros automatizados
e o “solucionismo tecnológico” dos
aplicativos, que dificulta o debate sobre
os problemas sociais, trabalhistas, políticos
e até ambientais do uso massivo de IA,
assim como o desenvolvimento de políticas
públicas e, principalmente, de sua regulação.
Outro ponto destacado envolve uma
dimensão ética em torno da IA: quem
faz o treinamento dos algoritmos de IA?
Existe alguma preocupação social? Qual
o limite do processamento de dados? O
desenvolvimento da IA está contribuindo
para o bem-estar social ou para consolidar
estruturas de desigualdade? Qual a
responsabilidade das empresas e seus
desenvolvedores?
Nessa mesa, a professora Fernanda
Bruno trouxe uma avaliação de seu estudo
sobre o uso da IA no Sistema Nacional
de Emprego (Sine), do Governo Federal,
em acordo de cooperação técnica com a
Microsoft. O estudo ilustra o cenário de
dependência tecnológica e colonialismo
de dados, com transferência de dados
sensíveis (mercado de trabalho) para
empresas estrangeiras. Segundo Bruno,
é possível identificar uma “lógica colonial”
no desenho de políticas públicas de IA
no Brasil.
O último encontro, a mesa “Devemos
apostar em tecnologias livres diante das
infraestruturas de IA?”, teve a participação
do professor Nelson Pretto (UFBA), Jader
Gama (Núcleo de Altos Estudos Amazônicos
da UFPA), Fernanda Campagnucci (Open
Knowledge Brazil) e Wagner Meira (UFMG).
Essa mesa realçou que as tecnologias
digitais proprietárias reproduzem ideais
neoliberais, que possibilitam a captura
do Estado por empresas que fornecem
tecnologias, representadas pelo rótulo:
Smart Cities (Cidades Inteligentes), por
exemplo. Outro exemplo ilustrado foi
a digitalização (e plataformização) da
educação, intensificadas pela pandemia,
na qual os processos educacionais passaram
a ser mediados (e controlados) por
empresas de TI, como observou Pretto.
Contudo, emergem também possibilidades
de uso comum das tecnologias digitais,
principalmente pelo uso de softwares livres,
como no trabalho desenvolvido por Jader
Gama no estado do Pará. Além do uso de
tecnologias livres, o projeto desenvolve
um processo de consciência tecnopolítica
na produção de soluções que combinam
os saberes ambientais, tradicionais e
tecnológicos (não proprietários). Outra
experiência interessante apresentada na
mesa foi o desenvolvimento de legislação e
políticas públicas na Nova Zelândia voltadas
para a responsabilidade e transparência
algorítmicas, para criar dispositivos para
explicar o funcionamento dos algoritmos
para os usuários e identificação de alguma
violação por parte destes.
Wagner Meira lembra que a força
das tecnologias digitais e das plataformas
advém de sua enorme eficácia em atender
não somente interesses corporativos,
mas também de facilitar e melhorar
processos cotidianos. Assim, é fundamental
que a regulação das plataformas e das
tecnologias seja pensada com projetos
e experimentos que possam conduzir as
27
tecnologias para outros caminhos. Além
disso, é preciso inserir os criadores de
grupos marginalizados pelas dinâmicas do
grande capital na invenção, reconfiguração
e desenvolvimento das tecnologias digitais e
de inteligência de máquina. Talvez o caminho
principal no qual devemos apostar seja
recarregar o digital com novas cosmovisões.
Caminhos para políticas públicas
de Tecnologia na próxima década
Um ponto comum emergiu na fala de
todos os participantes dos encontros:
a necessidade URGENTE de regulação
das atividades de funcionamento das
plataformas, algoritmos e Inteligência
Artificial.
Como já estão em operação, seus
mecanismos de funcionamento vão
naturalizando práticas nocivas para a
democracia, meio ambiente e para a
própria sociedade, dificultando qualquer
tentativa de regulação social e cidadã da
atuação dessas plataformas e empresas
de tecnologia.
Por mais que o termo regulação
mobilize um imaginário negativo em torno
de si, a criação de dispositivos e marcos
públicos regulatórios são essenciais para
a manutenção da própria “liberdade na
e da rede” diante da captura dos fluxos
e dependência tecnológica das grandes
empresas de tecnologia do Norte global.
É necessário criar limites diante do poder
dessas empresas, garantindo que a cidadania
das pessoas seja respeitada.
Outro caminho estratégico é apostar
no desenvolvimento de políticas de
incentivo e apoio para o desenvolvimento de
28
capacidade computacional (processamento
de dados), avanço de aplicações tecnológicas
e de Inteligência Artificial livres e públicas
capazes de oferecer alternativas às soluções
proprietárias, para criar uma política
nacional de soberania digital. Criar uma
legislação e marco regulatório que, além
de responsabilizar as empresas por seus
códigos, fazer com que esses códigos sejam
“explicáveis” para seus usuários, isto é,
ir além do modelo de termos de aceite
existentes e desenvolver metodologias e
processos informativos do funcionamento
dos aplicativos para o público comum.
A experiência da atual Agência
Nacional de Proteção de Dados, subordinada
ao Poder Executivo, mostra as limitações
de uma regulação realizada apenas pelo
Estado. A agência se paralisa diante das
medidas do governo, tais como o envio
de dados de servidores públicos federais
para criar modelos de aprendizado para
os sistemas algorítmicos de uma empresa
norte-americana. É preciso envolver a
sociedade civil organizada nos processos
de supervisão e definição de regulamentos
mais flexíveis, mais ágeis e profundamente
mais democráticos. Para isso, além de
representantes escolhidos pela própria
sociedade civil, as instituições de regulação
devem ter uma composição em que a
sociedade seja majoritária ou participe de
modo paritário com os poderes de Estado.
No médio prazo, deve-se apostar
no processo de “desmistificação” das
tecnologias digitais, quebrar a “caixa-preta”
que envolve as dinâmicas de funcionamento
do universo digital. O funcionamento das
aplicações não pode ser um “mistério” ou
“mágica”, elas devem fazer sentido para
seus usuários, de forma que possam
promover reflexões e debates públicos
sobre seus benefícios e seus efeitos. As Por fim, há uma imprescindibilidade
pessoas precisam entender quais são as da criação de uma infraestrutura
implicações dos usos das tecnologias. O pública comum de dados digitais, para
que representa usar uma aplicação, quais criar alternativas de armazenamento,
informações pessoais são apropriadas? processamento e transmissão de pacote
Qual o impacto e os riscos do uso de data de dados. Essa infraestrutura possibilitará
centers (a chamada nuvem) de empresas diminuir as assimetrias no desenvolvimento
estrangeiras? O conhecimento dessas de softwares e aplicações e, principalmente,
dinâmicas possibilita o desenvolvimento de romper com o colonialismo digital, bloqueio
aperfeiçoamento reflexivo e crítico dessas criativo e dependência tecnológica.
tecnologias e o combate de práticas nocivas.
Outra trilha importante para
pensar o futuro da tecnologia no Brasil
é a incorporação, na grade dos Ensinos
Fundamental e Médio, de uma formação
interdisciplinar na área de tecnologia. Uma
formação que vise não o aprendizado (e
captura) de ferramentas proprietárias,
pelo contrário, nossas crianças precisam
aprender a desenvolver seus códigos,
processar e minerar dados, criar aplicações
e, ao mesmo tempo, ter uma visão crítica (e
social) e ética da implicação do uso dessas
tecnologias, sabendo identificar, além
das possibilidades, quais as implicações
sociais, políticas, econômicas, culturais,
ambientais e éticas das aplicações que
estão desenvolvendo e estão utilizando.
Será preciso avançar simultaneamente
na defesa da tecnodiversidade. Nossa cultura
e as cosmovisões que nosso território partilha
devem poder se expressar nas tecnologias
da informação e no desenvolvimento dos
sistemas e dispositivos de Inteligência
Artificial. Um dos grandes problemas
da proposta neoliberal de construir um
país moderno e avançado pelo consumo
de produtos e serviços de alta tecnologia,
independentemente da sua origem, está
no bloqueio de nossa inventividade local e
no desenvolvimento de nossa inteligência
coletiva.
29
Referências
AALST, W. van der; HINZ, O.; WEINHARDT, C. Big Digital Platforms. Business & Information
Systems Engineering, [s. l.], v. 61, n. 6, p. 645-648, 10 set. 2019. Disponível em: https://
link.springer.com/content/pdf/10.1007/s12599-019-00618-y.pdf?pdf=button. Acesso
em: 17 jul. 2021.
ABÍLIO, L. C. Breque no despotismo algorítmico: uberização, trabalho sob demanda e
insubordinação. Blog da Boitempo, [S. l.], p. 1-2, 30 jul. 2020. Disponível em: https://
blogdaboitempo.com.br/2020/07/30/breque-no-despotismo-algoritmico-uberizacao-
trabalho-sob-demanda-e-insubordinacao/. Acesso em: 16 jul. 2021.
BARBROOK, R.; CAMERON, A. The Californian ideology. Science as Culture, [s. l.], v. 6,
n. 1, p. 44-72, 1996. Disponível em: https://monoskop.org/images/d/dc/Barbrook_
Richard_Cameron_Andy_1996_The_Californian_Ideology.pdf. Acesso em: 20 ago. 2022.
BENKLER, Y. The Wealth of Networks: How Social Production Transforms Markets
and Freedom. Yale, EUA: Yale University Press, 2007. 528 p.
BRUNO, F. Estética do flagrante: Controle e prazer nos dispositivos de vigilância
contemporâneos. Revista Cinética, [s. l.], p. 1-14, 2008. Disponível em: http://www.
revistacinetica.com.br/cep/fernanda_bruno.pdf. Acesso em: 8 abr. 2022.
BRUNO, F.; CARDOSO, B.; KANASHIRO, M.; GUILHON, L.; MELGAÇO, L. Tecnopolíticas
da vigilância: Perspectivas da margem. 1. ed. São Paulo: Boitempo, 2018. 432 p.
CADWALLADR, C.; GRAHAM-HARRISON, E. Revealed: 50 million Facebook profiles
harvested for Cambridge Analytica in major data breach. The Guardian, Londres,
Inglaterra, p. 1-2, 17 mar. 2018. Disponível em: https://www.theguardian.com/
news/2018/mar/17/cambridge-analytica-facebook-influence-us-election. Acesso
em: 18 mar. 2022.
CASTELLS, M. A galáxia da internet: Reflexões sobre a Internet, os negócios e a
sociedade. 1. ed. São Paulo: Zahar, 2003. 339 p.
GALLOWAY, A. R. Protocol. Theory, Culture and Society, [s. l.], v. 22, n. 2-3, p. 317-
320, 2006.
LAZZARATO, M. Signs and Machines: Capitalism and the Production of Subjectivity.
Tradução: J. D. Jordan. [S. l.]: Semiotext(e), 2014. 279 p.
LEMOS, A.; LÉVY, P. O Futuro da Internet: Em Direção a uma Ciberdemocracia Planetária.
30
1. ed. São Paulo: Paulus Editora, 2010. 264 p.
POELL, T.; NIEBORG, D.; VAN DIJCK, J. Plataformização. Fronteiras – estudos midiáticos,
[s. l.], v. 22, n. 1, p. 1-10, jan/abr 2020. Disponível em: https://revistas.unisinos.br/
index.php/fronteiras/article/view/fem.2020.221.01/60747734. Acesso em: 17 mar.
2022.
ROUVROY, A.; BERNS, T. Governamentalidade algorítmica e perspectivas de emancipação::
o díspar como condição de individuação pela relação?. Eco-pós, [s. l.], v. 18, n. 2, p.
36-56, 2015.
SHIRKY, C. Here Comes Everybody: The Power of Organizing Without Organizations.
1. ed. Londres, Inglaterra: Penguin Books, 2009. 344 p.
SILVEIRA, S. A. da. Ciberativismo, cultura hacker e o individualismo colaborativo.
Revista USP, São Paulo, v. 86, p. 28-39, 2010. Disponível em: https://www.revistas.
usp.br/revusp/article/view/13811/15629. Acesso em: 17 dez. 2021.
SILVEIRA, S. A. da. Tudo sobre tod@s: Redes digitais, privacidade e venda de dados
pessoais. 1. ed. São Paulo: Edições Sesc SP, 2017. 119 p.
SILVEIRA, S. A. da. Colonialismo de dados: como opera a trincheira algorítmica na
guerra neoliberal. 1. ed. [S. l.]: Autonomia Literária, 2022. 238 p.
SILVEIRA, S. A. da. Inteligência artificial baseada em dados e as operações do capital.
PAULUS: Revista de Comunicação da FAPCOM, São Paulo, v. 5, n. 10, p. 16-29, 2021.
Disponível em: https://fapcom.edu.br/revista/index.php/revista-paulus/article/
view/480/440. Acesso em: 5 jan. 2023.
SILVEIRA, S. A. da; BRAGA, S.; PENTEADO, C. (org.). Cultura, política e ativismo nas
redes digitais. 1. ed. São Paulo: Fundação Perseu Abramo, 2014. 346 p. Disponível
em: https://fpabramo.org.br/publicacoes/wp-content/uploads/sites/5/2019/03/
RedesDigitais-web.pdf. Acesso em: 8 jul. 2021.
SOUZA, J.; AVELINO, R.; SILVEIRA, S. A. da (org.). A sociedade de controle: Manipulação
e modulação nas redes digitais. 1. ed. São Paulo: Editora Hedra, 2019. 160 p.
SRNICEK, N. Platform Capitalism. 1. ed. Cambridge, EUA: Polity Press, 2016. 120 p.
VAN DIJCK, J. Datafication, dataism and dataveillance: Big Data between scientific
paradigm and ideology. Surveillance & Society, [s. l.], v. 12, n. 2, p. 197-208, 2014.
Disponível em: https://ojs.library.queensu.ca/index.php/surveillance-and-society/
31
article/view/datafication/datafic. Acesso em: 11 mar. 2021.

ZUBOFF, S. A Era do Capitalismo de Vigilância. Tradução: G. Schlesinger. 1. ed. São

Paulo: Intrínseca, 2021. 800 p.

32 33
 PLATAFORMIZAÇÃO, I.A. E SOBERANIA DE DADOS

Seminário Tecnologia
no Brasil 2020-2030
34 35

Primeiro Encontro
Parte 1
“Plataformas digitais: o que
incentivar, o que limitar e o que
vetar”, Cláudio Penteado, André Lemos,
Rafael Grohman, Larissa Ambrosano
Packer e Helena Martins
Cláudio Penteado
Esta é uma publicação que faz parte
do projeto “Inovação, desenvolvimento
e resiliência nas políticas públicas em
São Paulo: um mapa para os desafios
entre 2020 e 2030”, iniciativa da emenda
parlamentar desenvolvida pelo Coletivo
660, representado pela Ação Educativa,
em convênio com a Secretaria de
Desenvolvimento Econômico, Ciência,
Tecnologia e Inovação do Estado de São
Paulo. Com esse projeto, o Coletivo 660
buscou prospectar o contexto com o qual
o estado de São Paulo se confrontará nas
próximas décadas e como vai organizá-lo
com base em uma visão sistemática que
possa auxiliar na produção de políticas
públicas, tendo em vista os objetivos do
desenvolvimento sustentável. Estes textos
são resultantes das mesas de debate
desenvolvidas com base neste projeto,
nas quais discutimos diversos temas
relacionados à tecnologia no Brasil na
próxima década. Além de pensar em São
Paulo, também é possível, portanto, pensar
no Brasil e na colocação desse país sul-
36
Textos baseados nas falas apresentadas
durante o encontro virtual que pode ser
assistido na íntegra no canal da Ação
Educativa: https://www.youtube.com/
acaoeducativa
americano frente a esse desafio que se
apresenta no atual contexto da sociedade,
concebendo também políticas públicas
para a área de tecnologia no estado de
São Paulo e no Brasil. Durante o primeiro
encontro de tecnologia, contamos com a
presença do professor André Lemos, da
Universidade Federal da Bahia - ele é
formado em Sociologia pela Université
René Descartes, Paris V; é mestre em
Política, Ciência e Tecnologia pelo COPPE, da
Universidade Federal do Rio de Janeiro, bem
como pós-doutor pelas Universidades de
Alberta e McGill, no Canadá, e pela National
University of Ireland, na República da
Irlanda; é professor titular da Faculdade
de Comunicação da Universidade Federal
da Bahia e pesquisador nível 1A do CNPq;
atualmente, é coordenador do LAb404
– Laboratório de Pesquisa em Mídia
Digital, Redes e Espaço, Lemos é uma
importante referência nos estudos sobre
internet no Brasil. Também compôs este
encontro Larissa Packer, que é advogada
socioambiental, mestra em Filosofia do
Direito e integrante da Equipe Grain para a
América Latina; Helena Martins, doutora em
Comunicação pela Universidade de Brasília,
mestra em Comunicação pela Universidade
Federal do Ceará e, atualmente, é docente
da Universidade Federal do Ceará. Ademais,
também contamos com a contribuição
do professor Rafael Grohmann, do
DigiLabour, doutor e mestre em Ciências
da Comunicação pela USP de São Paulo.
Atualmente, é professor da Universidade do
37
Vale do Rio dos Sinos, a famosa Unisinos.
Além disso, é coordenador do Laboratório
Digital Labour, coordenador, no Brasil,
do Projeto Fairwork e diretor científico
da COMPÓS. Então, nossa dinâmica foi
dividida em duas rodadas. Na primeira,
deixamos nossos expositores e expositoras
apresentarem suas ideias, tentando
responder o que seria imprescindível
para discutir a plataformização no Brasil,
pensando essa questão para daqui a 10
anos. E, na segunda rodada, cada expositor
e expositora pôde fazer suas considerações
finais. Agora, teremos a introdução feita
pelo professor André Lemos. Boa mesa
para todos nós e bom livro para você, leitor!
André Lemos
É um prazer estar aqui com vocês,
com o Rafael, com a Helena, com a Larissa,
com todos que estão nos lendo e nos
ouvindo. Obrigado pelo convite. Bom,
eu vou, primeiro, tratar do futuro, que é
sempre uma coisa muito complicada. Não
é? Dez anos nem é tão longe assim, mas
eu tive o privilégio de estar no início da
formação dessa cultura digital; comecei a
estudar isso em 1991, quando a internet
estava apenas decolando.
E se me dissessem que a internet
iria se transformar nessa sociedade
de plataforma e nesse capitalismo
de vigilância, eu diria que isso
seria impossível, dada a dinâmica
libertária e emancipadora da
internet.
Mas o que nós temos hoje é uma cultura
digital muito diferente daquela que emergia
nos anos 1990. Então, falar do futuro é
sempre muito complicado. Para não me
38
estender muito, vou falar de 30 pontos.
Argumentarei sobre 10 pontos referentes
à atualidade; 10 sobre o futuro e 10 sobre
o que devemos fazer. Em primeiro lugar, é
necessário fazer um diagnóstico da coisa,
pois são 10 pontos bem precisos sobre o
nosso diagnóstico atual. Antes de mais
nada, essas plataformas constituem a
infraestrutura da vida contemporânea,
sendo que isso não é uma coisa de nerds,
nem de geeks, também não é apenas
referente ao Facebook e ao YouTube, é
toda uma infraestrutura social que está em
implementação no planeta; esse é o primeiro
ponto da atualidade. Em segundo lugar,
isso se configura com um amplo domínio
de rastreamento de dados. Então, isso vale
para os rastreamentos feitos nas esferas
econômica, social, política, industrial,
publicitária, de segurança etc. Essas
plataformas funcionam com base nessa
dataficação expandida. O terceiro ponto é
o controle empresarial feito por grandes
conglomerados privados. No Ocidente, nós
temos o nosso Big Five, mas temos um Big
Five, um Big Three, também, na China.
Então, a esfera pública está controlada, e
quem controla essa infraestrutura é uma
infraestrutura privada. O quarto ponto, que
é muito importante, é o funcionamento
dessas plataformas, um funcionamento
performativo. Ou seja, ele é aberto,
generativo, assimétrico. Por exemplo,
um like de uma pessoa nunca é igual ao
de outra. Quando estamos assistindo a
um filme, as plataformas de streaming
não estão apenas difundindo-o, estão
também coletando metadados sobre o
que nós estamos fazendo, sobre as nossas
apreciações etc. Então, sempre há um texto
dentro de outro texto. Isso é algo importante
para a compreensão do funcionamento
dessas plataformas, pois são metatextos
performativos. O quinto ponto refere-se
a como essas plataformas configuram
nossa atual esfera pública midiática, com
consequências importantes nas relações
sociais e nas formas de veiculação das
informações. O sexto ponto é que sempre
que se fala de controle, tenta-se barrar o
controle em prol da inovação; essa desculpa
de falta de controle em prol da inovação
tem gerado uma massa manipulada,
algoritmicamente, de usuários no mundo
inteiro. O sétimo ponto aborda uma ampla
estrutura de vigilância de ameaça à vida
privada. O oitavo ponto fala da mudança
significativa nas formas de trabalho,
tanto novas formas de trabalho como
as formas tradicionais de trabalho. Hoje
em dia, trabalhamos na plataforma, pela
plataforma ou potencializados por elas,
como estamos fazendo aqui e agora (o
encontro do seminário se deu virtualmente).
O nono ponto é que tudo isso é comandado
por uma tecnocracia, ou o que John
Danaher vai chamar de “algocracia”, que
é uma burocracia algoritmizada. Por fim,
temos o décimo ponto, que é importante
também, pois há ganhos sociais com essas
plataformas. Estamos aqui, neste espaço
virtual, podemos nos encontrar a distância
porque temos uma plataforma. Eu posso
dar aulas on-line, porque temos plataforma.
Podemos nos socializar virtualmente
etc. Então, há ganhos sociais com o uso
das plataformas. Apresentei esses meus
10 pontos, para configurar, assim, a
atualidade do problema. Em relação ao
futuro, o que vai acontecer daqui para a
frente, em primeiro lugar, acho que em
10 anos não vai mudar muita coisa. Esse
não é um futuro tão longínquo assim, mas
será um mundo pós-covid, na melhor das
hipóteses. Essa é a primeira constatação. Em
segundo lugar, acho que essas plataformas
vão continuar controladas por grandes
empresas transnacionais: as Big Five, ou
as grandes empresas chinesas, com ação e
tentáculos mundiais. Em terceiro lugar, elas
continuarão a ser a infraestrutura e, cada
vez mais, isso vai se configurar como uma
infraestrutura da sociedade. Em quarto
lugar, acho que os usuários tenderão a
migrar para plataformas mais específicas.
Alguns dados mostram, por exemplo, o
Facebook perdendo usuários, e outras
plataformas crescendo, como TikTok,
WhatsApp, Instagram etc. Então, há uma
tendência de migração para plataformas
mais específicas. O cansaço das telas, que nós
vivenciamos hoje, devido à pandemia, vai
gerar certa descontinuidade no uso dessas
plataformas, no curto prazo, e contribuir
para uma ação ainda mais agressiva dessas
plataformas, para não que elas não percam
usuários nem engajamento. Com o mundo
voltando à normalidade pós-covid, talvez
as pessoas passem a usá-las menos. A
polarização política e as fake news vão
aumentar, e não acho que elas vão diminuir
nos próximos 10 anos; mas isso tudo são
suposições, obviamente. O sétimo ponto
é que a autorregulação vai crescer por
causa das pressões sociais/políticas que
temos visto, pois ocorrerá uma tendência
de que as plataformas se autorregularão,
para evitar uma regulação maior do Estado.
Vamos aumentar o uso dessas ferramentas,
também, para o trabalho e para a educação,
sendo que, por um lado, as pessoas vão criar
um certo distanciamento delas, mas, por
outro, vai haver um uso mais continuado
disso em algumas áreas. O trabalho remoto
vai ser instituído, de alguma maneira,
porque funcionou bem. Vamos adotar
39
determinados tipos de práticas na educação,
nas universidades, nas escolas. Então, algo
que não era utilizado vai passar a ser mais
utilizado depois da pandemia. Já estamos
vendo isso, na realidade – esse é o meu oitavo
ponto –, com o aparecimento de plataformas
bottom-up. Isso já pode ser visto na gig
economy, por exemplo, em aplicativos de
transporte, de entregas etc. As pessoas
estão começando a fugir do controle total
dessas grandes plataformas e criando suas
próprias. E o décimo ponto, para terminar
de tecer ideias sobre esse pequeno futuro,
é que continuaremos pilotados por uma
tecnocracia. Bom, dado esse estado atual
e esse futuro não tão diferente do que está
acontecendo hoje, o que nós precisamos
fazer? Creio que algumas ações devem ser
pensadas, mas não sei exatamente como
elaborá-las, mas penso que essas ações
devem ser pensadas; e acho que é essa a
ideia, de que se pense na prospecção de
ideias. Então, vou focar os 10 pontos. A
primeira coisa a ser pensada é estudar
seriamente formas de regulação. Creio
que pode ser uma autorregulação, uma
regulação do Estado, uma corregulação.
Mas, efetivamente, como as plataformas
se configuram como uma nova esfera
pública, essa regulação deve incluir quadros
jurídicos, tecnológicos, educacionais,
ações antitruste e a garantia de que esse
sistema continue inovando. Um desafio é
achar uma regulação que seja, ao mesmo
tempo, ágil e flexível para acompanhar
a dinâmica do setor, não o congelando
completamente, sem gerar desestímulo,
pois essa é uma questão fundamental.
Mas eu acho que pela ação política e
social dessas plataformas, constituindo
a esfera pública contemporânea, não existe
nenhuma forma de ação que não passe por
40
algum tipo de sua regulação, com papel
mais responsável dos governos. Assim,
é fundamental, principalmente, que haja
plataformas com ação no espaço público
e plataformas de interesse público, como
a Plataforma Lattes, as de conhecimento,
a do SUS, a da transparência etc. Esse é o
primeiro ponto. O segundo é monitorar
e frear processos que ampliem as formas
de vigilância e de discriminação. Temos
que criar mecanismos para bloquear a
sociedade de vigilância. É preciso investir,
de acordo com o que Demi Getschko disse,
recentemente, em um evento de que eu
participei, no que é muito falado, que é
o viés do algoritmo, da discriminação
algorítmica. E aponta-se, às vezes, que o
algoritmo não pode ter viés.
Ora, não existe nada neutro, tudo
tem viés, tudo é uma construção.
Dessa forma, temos que ter um
viés dos algoritmos, um viés de
garantia de estruturas que sejam
libertárias,emancipadoras,
democráticas e não discriminatórias.
Precisamos frear esse tipo de vigilância
e de discriminação. Ligado a esse ponto,
temos de frear os abusos da biometria.
Isso já está sendo feito em alguns estados
brasileiros, no mundo. Em alguns locais, isso
já tem sido proibido, mas é preciso fazê-lo
no Brasil. Na Bahia, o governo estadual
está implementando o reconhecimento
facial pesadamente, com câmeras de
reconhecimento facial; em São Paulo,
também. É importante que tenhamos leis
claras que garantam a proteção dos dados
pessoais. O banimento é fundamental, o
banimento de sistemas e impedimento de
outros. O importante é que nem tudo deve
ser feito porque pode ser feito. Esse é um
norte interessante. Penso que deveríamos
criar algo como “estudos prévios de impactos
discriminatórios” para pensar lógicas
algorítmicas. Assim, se alguma empresa
ou instituição for implantar uma câmera de
vigilância, uma câmera de reconhecimento
facial, devemos questionar: Quais são os
impactos discriminatórios dessa ação? Não,
não podemos fazer isso, ou por que vamos
fazer isso? Que estudos nos dão suporte
para essa implementação? Estou falando
de algo de interesse público, implementado
na esfera pública, obviamente. Dessa
forma, precisamos criar esse estudo
prévio de impactos discriminatórios. Outro
ponto importante – o quarto ponto – é
a discussão sobre agência. Isso é muito
pouco pensado na formatação dos dados.
Aquisições de informações, formulários,
enquetes, classificações, obrigatoriedade
de fornecer dados para que o sistema
funcione. Tudo isso vai constituir o que
o Colin Koopman chama de Info-power. E
isso vai produzir o cidadão. Uma vez, eu
fui a uma universidade dar uma palestra e
tive que preencher um formulário dizendo
qual era meu sexo. Por que, para eu dar uma
palestra, tenho de preencher um formulário
que tenha esse tipo de informação? Isso
pode, obviamente, gerar ações afirmativas,
mas pode gerar ações discriminatórias.
Por um lado, ou pelo outro, isso vai me
constituir enquanto cidadão. Precisamos
pensar que todo sistema de dados produz
um cidadão. Somos os dados? Sim. No
entanto, não somos apenas os dados, mas,
ao mesmo tempo, somos também os dados.
Precisamos pensar nessa formatação. Isso
é fundamental. O quinto ponto trata da
Auditoria Algorítmica para sistemas de
relevância pública. Estou me referindo ao
sistema, talvez não à sua centralização. Isso
tudo tem de ser pensado com muita atenção.
Não gosto de nada muito centralizado, mas
um sistema flexível de consultores ad hoc,
para pareceres sobre sistemas públicos
e público-privados, compulsórios, seria
fundamental. Por exemplo, o SouGov.br,
atualmente, lançado para nós, funcionários
públicos, é compulsório. O Currículo Lattes
é compulsório. O ConecteSUS também.
Estacionamentos são compulsórios: se
eu não tiver esse sistema, se não tiver
uma pessoa vendendo a cartela de
estacionamento, eu vou ser multado. Então,
precisamos, sim, ter sistemas de auditoria
algorítmica para detectar esses impactos
prévios; e necessitamos de estudos prévios
desses impactos. O sexto ponto concerne à
ampliação das diferenças e da pluralidade
na representatividade da constituição dessa
algocracia. Esse ponto foi abordado no
diagnóstico atual. É sempre uma burocracia
quem vai cuidar disso, que é alguém da
informática. E o pessoal da informática –
me desculpem aí o pessoal da computação,
mas falo isso com muita tranquilidade,
porque eu sou engenheiro de formação
–, normalmente dizem assim: “Não, nós
implementamos”. Mas precisamos de vocês
nas Humanidades para pensar as coisas.
Ora, se as pessoas que implementam não
sabem nada sobre as Humanidades, por que
vamos deixar a nossa vida na mão dessas
pessoas para implementarem sistemas?
Da mesma forma, nós, das Humanidades,
temos que entender esses procedimentos
também. Então, o quadro de profissionais
que lida com isso deve ser mais plural –
produzem datasets, produzem os códigos,
lidam com a analítica dos dados. “Plural” no
sentido de representatividade de gênero,
de raça, de classe. Precisamos explodir isso,
41
porque os vieses estão nessa constituição
da algocracia, que vai decidir o que é que
se vai fazer com o dado, que modelo será
implementado, como é que vamos montar
um dataset etc. Isso é fundamental para
o futuro próximo. Então, são coisas que
precisamos começar a fazer agora; todos
esses pontos são para garantir melhorias
daqui a 10 anos. Bom, obviamente, estamos
sob ameaça hoje, mas a defesa do Marco
Civil da Internet e a atenção à Lei Geral
de Proteção de Dados, ambos estão sob
ameaça. O primeiro, por um Projeto de Lei,
agora, do afrouxamento do Marco Civil; e
o segundo, também, por esse governo, por
meio da LGPD, para justamente esconder
dados públicos. Essa é a desculpa, com
base na LGPD. É necessário, efetivamente,
reforçar e defender dois projetos, duas
leis, que são fundamentais. O Marco Civil,
fruto de um debate público muito forte; e
a LGPD, que chegou bem atrasada. O Brasil
foi um dos últimos a implementar uma Lei
Geral de Proteção de Dados Pessoais na
América Latina. É preciso garantir, também,
a portabilidade dos nossos dados entre
sistemas e plataformas: se eu saio de um
operador de dados e vou para outro, eu
quero pegar os meus dados e levar junto.
Isso seria algo que garantiria um quadro
jurídico de proteção dos dados pessoais.
Eu estou terminando, mas tenho mais três
pontos. O oitavo ponto, que acho que o
Rafael também vai entrar, é a discussão
sobre direitos trabalhistas. Precisamos
encarar seriamente isso. Alguns países
já implementam, dão garantia aos usuários
de Uber, 99 etc., dão direitos trabalhistas,
como se a pessoa fosse empregada da
empresa. Então, isso precisa ser enfrentado,
efetivamente. O nono ponto é a formação.
Temos de investir em formação. As
42
universidades, bem como os centros de
pesquisa, estão sob ataque, hoje, neste
país. Tudo o que está relacionado à cultura
e à educação está sob ataque. Precisamos
garantir uma formação em Computação,
em Digital Humanities. Nós, sociólogos,
precisamos entender como funcionam os
dados. Os engenheiros precisam entender
como funciona a sociedade, as questões
éticas, morais e políticas. Precisamos
investir na formação, na educação, na
ciência, na tecnologia, com políticas
sérias de Inteligência Artificial e de TI. O
plano de Inteligência Artificial que temos
é realmente uma brincadeira. Precisamos,
efetivamente, ter políticas sérias para
enfrentar os problemas. E, por último,
vou abordar a sustentabilidade ambiental,
também muito pouco pensada.
Normalmente, pensa-se nesses
sistemas como na esfera
virtual, como a cloud, a nuvem,
a desmaterialização. Todo esse
sistema, nos datacenters, gera não
só pegada de carbono para nosso
uso mas consumo de petróleo e
carvão ao redor do planeta, para
que a internet funcione.
Além disso, esse sistema gera autoconsumo
de minerais para a confecção desses
dispositivos (smartphones, tablets etc.).
Isso não acaba nunca. O Jussi Parikka, um
pesquisador que escreveu um livro muito
interessante sobre Geologia da Mídia,
tem uma expressão que eu acho muito
feliz; ele diz que as mídias viram zumbis,
porque isso nunca acaba. A mídia não é
uma extensão do corpo, uma extensão
da Terra, porque vai voltar sob forma de
lixo, que vai precisar ser reciclado; e vai
retirando, de novo, material, e consumindo
energia. Portanto, o consumo de energia não
é apenas da indústria petrolífera. Os dados
são um novo petróleo, mas, materialmente,
isso é verdade, porque para gerar dados
consumimos ainda petróleo e carvão.
Então, a sustentabilidade ambiental é
fundamental para limitar a pegada de
carbono e a extração de minerais desses
datacenters.
Cláudio Penteado
Excelente. O professor André Lemos
colocou questões interessantes, que, às
vezes, não aparecem. A questão, por exemplo,
da sustentabilidade praticamente inexiste.
É interessante falar da nuvem como se
fosse algo virtual, e é realmente importante
entendermos que, em algum lugar, os dados
estão armazenados. Continuando o debate,
temos agora a Larissa.
Larissa Paker
O professor André abordou diversas
questões em uma exposição incrível, então
irei mediar minha apresentação a partir
do que ele nos trouxe, aprofundando o
debate em alguns pontos no que diz respeito
ao meu campo de atuação. Sou advogada
socioambiental e monitoro cotidianamente
a cadeia global de valor do agronegócio,
ou os sistemas globais de produção de
commodities agroalimentares. A partir
desse acompanhamento, fica claro o quanto
é necessário tratar da entrada das big
techs nessa cadeia de valor por meio de
diversos mecanismos como a blockchain
e os novos contratos virtuais na rede; de
algoritmos sendo utilizados cada vez mais
para capturar dados do solo, clima,
meteorológicos, de recursos naturais,
quantidade de oferta e demanda global
por determinados produtos, até mesmo
por meio da criação de cadastros digitais
sendo utilizados como base para a afirmação
de direitos de propriedade da terra, sem
qualquer verificação pelo Estado, como
vem ocorrendo com o Cadastro Ambiental
Rural, atualmente. Esta nova aplicação
tecnológica vem sendo denominada por
alguns de uma quarta revolução industrial,
e no contexto agroalimentar, de Agricultura
4.0, mas os impactos de toda essa
infraestrutura digital ainda estão para ser
mensurados, como por exemplo, a escala
extrativa de demandas por novas matérias-
primas, justamente o último ponto que o
professor André coloca. A pandemia causou
uma aceleração dos processos de
digitalização da sociedade em um momento
em que estava se intensificando a
sobreposição de crises (financeira, ecológica,
climática) que já demandava uma
reorganização das cadeias de valor para
gerar um menor impacto sobre o meio
ambiente, o que veio, então, estimulando
uma transição para o modo 4.0 da Indústria,
como se fosse uma solução. Contudo, o
que houve foi a busca por uma maior
produtividade, com maior uso de recursos
naturais, mas que se mantivesse a
possibilidade de extrair esses recursos
de forma barata, com baixo custo de
produção. Com a pandemia, vimos limites
sendo impostos ao livre comércio, à livre
circulação de pessoas e mercadorias, assim
como temos visto uma disruptura nas
cadeias longas de valor (de mineração,
agrícolas e de suprimento de alimentos).
Temos acompanhado o incremento da
inflação e dos preços dos alimentos,
justamente por estas rupturas que se
deram em várias etapas: desde a extração
das matérias-primas até a chegada do
43
produto ao consumidor do outro lado do
mundo. E é preciso levar em conta que
essas cadeias complexificadas abastecem
diversas populações no mundo todo. Por
outro lado, vimos a aceleração dos processos
de digitalização dessas cadeias, que vem
promovendo uma reorganização delas
em torno de novos atores. Então, pensando
nos Big Five da tecnologia, notamos que,
em 2020, quatro empresas atingiram um
valor de mercado de trilhões, que são
justamente Apple, Microsoft, Amazon (em
quarto lugar, vem a Tesla,que também
trabalha com tecnologia no setor de
transportes). Assim, a pandemia acabou
por se somar às demais crises, e vem
havendo uma reorganização importante
de cadeias de valor e dos atores que
organizam essas cadeias, a entrada das
grandes empresas de tecnologia, em várias
etapas das cadeias, para dar maior eficiência
e manter o suprimento. Por exemplo, é
notória a batalha geopolítica em torno
dos semicondutores; antes, os
microprocessadores eram de domínio de
IBM, Intel etc; agora, há uma especialização
na cadeia para a construção de chips,
porque eles cada vez mais são a base dessas
cadeias digitalizadas. Dessa forma,
assistimos a uma crise de desabastecimento,
tanto no setor automobilístico quanto no
setor de alta tecnologia, de celulares e de
computadores, o que agrava a competição
corporativa e entre Estados pela hegemonia
tecnológica da próxima etapa do modo
de produção, o que também significa uma
disputa geopolítica. Algo que vem sendo
chamado por alguns analistas de uma
“nova guerra fria” em torno da infraestrutura
da conectividade e da era digital. Os países
ocidentais e a China também travam
verdadeira batalha pela hegemonia do 5G
44
em torno de Huawei, Ericsson, Samsung
e Nokia. Desse modo, é possível identificar
uma tendência para daqui a 10 anos, que
seria a de superconcentração de cadeias
(que já são demasiadamente concentradas),
com a entrada dessas grandes empresas
de tecnologia e dados que provém a
infraestrutura essencial para esta
digitalização das cadeias e da sociedade.
Muitas empresas procuram o blockchain
e a digitalização de suas atividades
exatamente para se prevenir de futuras
crises, tanto financeiras quanto decorrentes
de eventos extremos (climáticos, sanitários,
guerras), que limitem a circulação de
trabalhadores e mercadorias, impactando
oferta e demanda global. Mas não é de
hoje que soluções tecnológicas e
proprietárias são adotadas como fórmula
econômica do modo de produção capitalista
para a superação dos diversos ciclos de
crise do capitalismo. Então, geralmente,
quando há uma crise, vem um pacote
tecnológico associado a uma solução
proprietária: a tecnologia vem associada
a direitos de propriedade intelectual, o
direito de monopólio. Isso aconteceu em
diversos momentos da histórica recente
do capitalismo, por exemplo, a Revolução
Verde, que introduziu um pacote tecnológico,
a partir das inovações militares do contexto
da chamada Guerra Fria, gerando o
denominado desenvolvimento conservador
da agricultura. Agricultores passam a ficar
dependentes de sementes, agrotóxicos e
maquinários com propriedade intelectual;
pequenos aviões de guerra se tornaram
pulverizadores aéreos de agrotóxicos de
monocultivos monopolizados por poucas
empresas desenvolvedoras do pacote
tecnológico. No início dos anos 80, empresas
de sementes eram majoritariamente
familiares e não chegavam a dominar 1%
do mercado global; com os direitos de
monopólio sobre uso de sementes e
agrotóxicos Bayer/Monsanto (Alemanha),
ChemChina/Syngenta (China); Corteva,
fusão da Dupont e Dow (EUA) e Basf
(Alemanha) dominam metade do mercado
mundial de sementes e 75% do mercado
de agrotóxicos em 2022, apontou relatório
do GRAIN. Agora, com a sobreposição de
crises, vemos, mais uma vez, a mesma
solução em novas roupagens, um pacote
tecnológico ligado à alta tecnologia digital
e de inteligência artificial da era digital,
trazendo uma série de medidas de coleta
e processamento massivo de dados - o
setor mais lucrativo da era digital, com a
negociação da nova mercadoria da
informação, cujos direitos de monopólio
estão em franca disputa. Toda essa
infraestrutura leva ao desenvolvimento
da eletricidade em informação e gera várias
cadeias de valor sobre as Terras Raras
(elementos químicos que geram o
eletromagnetismo), que hoje estão sob o
domínio da China. Ainda no que diz respeito
à geopolítica dos recursos naturais, essa
sociedade da era digital e o desenvolvimento
da Indústria 4.0 gera, para daqui a 10 anos,
uma reorganização dos Estados fornecedores
das novas matéria-prima. O Brasil tem
reservas significativas de Terras Raras;
mas é a China, hoje, que detém as maiores
reservas em operação, e é o país em maior
intensidade de extração de areia para a
construção de silício, que é a base dos
chips e dos semicondutores. Essa
reconfiguração geopolítica também vale
para uma maior extração de nióbio e lítio,
além do ferro e aço que continuam
importantes para a construção dessa nova
infraestrutura de conectividade e
robotização com a aplicação de Inteligência
Artificial. Qualquer solução real, em
períodos de crise, não virá de uma
tecnocracia, governada por inovação
tecnológica monopolizada por poucas
corporações e investidores, que [proponhaa
mesma divisão internacional do trabalho
entre países do Sul global fornecedores
de recursos naturais e matérias primas
de baixo valor agregado e os países do
Norte desenvolvedores de tecnologia. Um
novo ajuste colonial 4.0 que pretende
salvar as corporações e investimentos das
economias centrais às custas da expropriação
de trabalho e recursos dos países
reproduzidos como periféricos, em uma
história que se repete como tragédia e
como farsa, parafraseando Marx. O que
temos testemunhado na pequena história
do capitalismo é uma transição dos âmbitos
comuns da humanidade, essenciais ao
mínimo existencial das pessoas, do regime
jurídico dos bens comuns - que não
pertencem a ninguém justamente porque
são destinados a todos das presentes e
futuras gerações, para o regime proprietário,
inserindo bens, conhecimentos, informações
no comércio para circular como qualquer
outra mercadoria. Hoje, funções
ecossistêmicas são apresentadas como
uma forma de prestação de “serviço”, os
serviços ambientais, como o serviço de
fornecimento de água potável, ou a
capacidade de sequestrar carbono por
bases naturais - solos e florestas -
introduzindo-os no regime jurídico
proprietário, ou seja, excluindo todos os
que não podem pagar do acesso a tais
bens. E as soluções tecnológicas estão aí
para garantir a criação e funcionamento
destes novos mercados, com a contabilidade
e monitoramento das novas mercadorias,
45
através dos pacotes de dataficação, medição
do tempo, da meteorologia, umidade do
solo, toneladas de carbono evitada, metros
cúbicos de água, etc., por meio de sensores,
drones e satélites conectados aos novos
hardwares (maquinários) e softwares em
aplicativos de celulares, desenvolvidos
para agricultura. Infraestrutura que parece
estar se democratizando nas mãos de todos
através de um celular e conexão, mas que
na realidade está nas mãos de poucas
corporações e seus investidores. Quando
se mapeia o setor público, os Estados, cada
vez mais, fazem contratos com a Microsoft
e outras Big Techs, inclusive, toda a base
dos info.org dos governos depende de
soluções tecnológicas destas corporações,
cujo acesso depende do pagamento de
direitos de propriedade intelectual. Então,
a cada ano, os governos têm de pagar para
a Microsoft, por exemplo, para manter os
documentos, processos e funcionamento
da burocracia do Estado digitalizada. Assim,
existe um gasto muito grande, sendo que
as compras públicas poderiam privilegiar
soluções tecnológicas que não fossem
proprietárias e detidas por poucas
corporações.
Pensarmos em formas de livre
uso, de investimentos públicos em
soluções tecnológicas com base
em software livre, infraestruturas
de conexão e armazenamento de
informação públicas e seguras a fim
de preservar a soberania nacional e
o regime jurídico dos bens comuns,
seria algo fundamental para
evitar esse ajuste neocolonial e de
integração subordinada dos países
do Sul na ordem internacional.
46
Ao passo que se analisa outros problemas
específicos, temos, de um lado, a reescrita
da história dos fatos, com base na criação
de realidades paralelas, que são as fake
news; e, de outro, a tentativa de regulação
do Estado sobre a produção de informação.
Mas de quem são os dados? Quem está
lucrando com a compra e venda da nova
moeda digital? O Projeto de Lei do PL
sobre fake news, no 2.630, de 2020,
afirma: “Olha, vamos controlar esse
combate à desinformação das fake news
e regular as plataformas digitais”. Porém,
a regulação acaba legitimando a captura
e mercado de dados e a censura prévia e
autorregulada dessas plataformas sobre a
sociedade. Por exemplo, eu tenho amigos
que tiveram conteúdos excluídos: fizeram
o upload de um vídeo com o título “Fora,
Monsanto, das Malvinas Argentinas”; o
YouTube, simplesmente, excluiu esse
vídeo, afirmando que o conteúdo ia contra
as diretrizes da comunidade e contra
a classificação etária da audiência da
plataforma. O Projeto de Lei do Partido
Liberal traz justamente essa possibilidade,
com a necessidade de identificar todos os
conteúdos impulsionados. Por um lado,
isso parece interessante para fazer uma
mediação das informações falsas contra
a captura da democracia, mas, por outro,
ratifica a governança privada e vigilância
das Big Techs sobre todas as esferas sociais.
Com ela, movimentos sociais que fazem
compartilhamentos com mais de cinco
grupos, por exemplo, teriam de se identificar
e passam a ser vigiados como potenciais
geradores de fake news. Não obstante, existe
ainda a questão da captura dos dados das
pessoas, uma nova mercadoria que tem o
potencial de conformar gostos, preferências
e comportamentos dos indivíduos, como
se referiu o professor André. Há ainda a
captura de dados biológicos, que é feita a
partir do próprio corpo das pessoas, por
meio da leitura facial, da íris, da biometria,
identificação utilizada para garantir a
propriedade é muito utilizada pelas polícias,
sem consentimento, podendo servir de
base para inquéritos civis e criminais
Isso tudo é propiciado por ferramentas
majoritariamente fornecidas pelas Big
Techs, principalmente pela Microsoft,
o que causa um problema de soberania
tecnológica, de captura dos investimentos
públicos em soluções tecnológicas que não
estão voltadas à satisfação das necessidades
sociais, mas do lucro corporativo Saímos
do corpo, da identificação facial, da leitura
óptica e chegamos, ao monitoramento
dos territórios. Formas de controle
do desmatamento, de identificação da
localização de recursos naturais, minerais,
água, biodiversidade nos territórios. Estes
dados massivos capturados e armazenados
em infraestruturas de poucas corporações
de tecnologia, vem significando uma
transferência das informações - das novas
mercadorias da era digital -
de plataformas públicas para
plataformas privadas, com um
deslocamento ainda mais intenso
do lugar do poder nas mãos destas
corporações.
Cada vez mais, para termos acesso a esse
tipo de informação, precisamos negociar
esse tipo de dado com as empresas que
detêm esse controle. E, por último, o
próprio Banco Mundial coloca esse vínculo
entre a digitalização e a financeirização
da economia,afirmando: “Olha, em uma
crise do sistema financeiro, precisamos
aumentar a escala do sistema financeiro”.
Para aumentar essa escala, precisamos
incluir os “sem banco”, que são, mais ou
menos 1,7 bilhão de pessoas - para incluir a
economia informal parar dentro do sistema
financeiro por meio das plataformas digitais
e de moedas digitais, e que não precisam
de uma conta bancária. As fintechs, as
plataformas financeiras e tecnológicas
pretendem democratizar as finanças por
meio do acesso a um celular e à internet,
fazendo com que seja possível a compra
e a venda - por consumidores e entre
fornecedores das cadeias de produção
- por plataforma e moedas digitais. Se
há 1,7 bilhão de pessoas sem banco,
mas 1,1 bilhão de pessoas com acesso à
internet, falta a lacuna da conectividade
para a inclusão de uma fatia importante
da economia pelos serviços financeiros.
Sendo assim, vamos ver, cada vez mais,
bilhões de pessoas no mundo sendo
incorporadas às transações financeiras
para que se tente ganhar escala e superar a
crise financeira; e isso vai passar, de novo,
pela mediação de poucos atores, e as Big
Techs saem na frente. Vemos, novamente,
uma reorganização das cadeias de valor e
uma grande relevância de cinco empresas,
que podem gerar novas fusões e aquisições,
criando oligopólios verticais destas cadeias
de valor. Dessa forma, teremos que lidar – os
países do sul global, principalmente – com
o enfrentamento a estas ditas “soluções
corporativas” em torno de inovação
tecnológica e sua decorrente propriedade
intelectual, que leva uma renovada pressão
sobre suas terras e recursos. Travar o
controle monopolístico de corporações
e investidores das cadeias sobre terras
e tecnológica continua sendo o desafio
para os próximos anos.
47
Cláudio Penteado
Agradecemos muito sua participação,
Larissa, você levantou pontos centrais
para discutir esse poder das plataformas,
muitas vezes, superior ao poder dos
Estados. Isso supera, inclusive, o Estado e
transfere o papel de fiscalização para essas
companhias, que regulam os processos
de financeirização. Enfim, vários desafios
surgem. Agora, teremos as considerações
do professor Rafael Grohmann.
Rafael Grohmann
Temos tentado contribuir com esse
debate e fico muito feliz em estar neste
debate, com a Larissa, que não conhecia, com
a Helena e com o André, que são lideranças
na nossa área. Como diretor científico
da Associação Nacional de Programas
de Pós-Graduação em Comunicação,
fico feliz que tenha muita gente da área
da Comunicação levando e liderando os
esforços em relação às políticas públicas
de tecnologia. O André fez um esforço
inigualável de elencar esses desafios que
temos, de forma superorganizada. Vou pegar
alguns dos pontos que ele trouxe em relação
à plataformização do trabalho; ele apontou
a dificuldade de enfrentar, mesmo daqui
a 10 anos, essas infraestruturas.
Em um momento em que as
próprias infraestruturas estão
plataformizadas, pensando desde
cabos submarinos e centros de
dados, é realmente um grande
desafio enfrentar isso, e não existe
solução fácil para esses problemas.
Focarei as plataformas digitais de trabalho,
nas quais temos a plataformização do
trabalho, sabendo que também esse é
48
um universo muito grande, que vai desde
entregadores até o trabalho que alimenta
os dados para a Inteligência Artificial,
seja em plataformas como a Amazon
Mechanical Turk, seja em plataformas para
trabalho freelancer e demais trabalhos.
Abordarei duas áreas. Primeiro, vou
falar sobre a noção de trabalho decente
em plataformas digitais; e, depois, vou
falar do cooperativismo de plataforma. É
necessário ter uma regulação do trabalho
por plataformas digitais, e existem várias
discussões no mundo, como o André
pontuou. Recentemente, houve uma última
decisão, na Holanda, que foi um debate
muito difícil, legislativo, juridicamente
falando. Considerando, inclusive, a própria
Câmara dos Deputados, que temos hoje, e
o tanto de projetos que existem lá, sendo
a maioria deles, hoje, regressivo. Apesar
disso, é importante avançar nessa questão.
Eu tenho coordenado, no Brasil, um projeto
chamado Fairwork, que institui princípios
para o trabalho decente por plataformas
digitais, em consonância com a OIT. Primeiro,
uma limitação. Esses princípios de trabalho
decente são, a meu ver, o início do que
eu imaginaria como economia digital,
que eu queria ver daqui a 10 anos. Ele
é o mínimo do mínimo. E temos visto,
avaliando grandes plataformas pelo mundo
– estamos presentes, hoje, em 20 países,
de Estados Unidos a Tanzânia –, que, na
América Latina, nenhuma das plataformas
avaliadas, até o momento, conseguiu atingir
nota acima de 3, de zero a 10. E quais são
esses princípios? É importante pensar tanto
a regulação dessas plataformas digitais de
trabalho quanto fazer pressão por esses
princípios, e também ajudar na construção
de plataformas locais, plataformas
comunitárias ou plataformas cooperativas.
São cinco princípios. O primeiro é de uma
remuneração que seja decente. O Fairwork
trabalha com dois indicadores, sempre, um
básico e um avançado. O básico é que as
plataformas, no mínimo, demonstrem que
todos os trabalhadores recebem o salário-
mínimo local, considerando o número de
horas trabalhadas. Sabemos que isso é
um grande desafio. O ponto avançado
da questão da remuneração seria que as
plataformas garantissem o salário-mínimo
ideal de cada país; que, no Brasil, o mais
conhecido é o do DIEESE, que está em
torno de R$ 5.000,00. E tem, no mundo,
o Global Living Wage, que, no Brasil, não
tem tanta penetração, inclusive porque
não existem muitos estudos. É algo que
precisamos enfrentar, no sentido do que
seria esse salário-mínimo ideal, de uma
garantia das plataformas em relação a uma
remuneração que seja decente. O segundo
ponto são as condições de trabalho, que
precisam ser justas e que tenham a ver com
segurança, com saúde. O ponto básico que
trabalhamos é que as plataformas possam
mitigar riscos específicos da tarefa, com
políticas que protejam a segurança de
trabalhadores contra riscos específicos
da tarefa; que as plataformas adotem
medidas adequadas e éticas de proteção
e gerenciamento de dados, principalmente
dos trabalhadores; que tenham uma política
de gerenciamento de dados; e que os
trabalhadores não sejam prejudicados
com essas medidas. No ponto avançado,
as plataformas precisam oferecer uma rede
de segurança, com medidas significativas
para compensar os trabalhadores que
perdem renda devido à incapacidade de
trabalhar por algum motivo, seja uma lesão,
seja alguma outra coisa; e quando eles são
impossibilitados de trabalhar por um longo
período, se a sua posição, na plataforma,
não é afetada negativamente. Tem outro
ponto que é interessante, no qual alguns
agentes públicos pensam em algo assim:
Quando um trabalhador, por
exemplo, um entregador de
bicicleta, sofre um acidente fazendo
uma entrega, isso se configura ou
não como acidente de trabalho?
E se chamar o SAMU, as empresas devem
uma indenização para o Poder Público? Quer
dizer, há discussões em torno desse sentido
e de as plataformas precisarem cumprir
esses princípios. O terceiro princípio é o
de contratos que sejam justos, em que se
defina claramente a legislação brasileira,
em que o contrato seja comunicado em
linguagem clara e compreensível para os
trabalhadores e que esteja sempre acessível
a eles; e que eles sejam notificados quando
alguma mudança acontecer, a fim de não
serem prejudicados por uma mudança
na plataforma. Além dessas questões,
é preciso que o contrato não exclua a
responsabilidade da plataforma. É muito
comum isso, pois temos plataformas, no
Brasil, que dizem claramente no contrato:
“A plataforma não se responsabiliza se
tiver transporte de drogas”. Coisas nesse
sentido, as plataformas sempre excluem
suas responsabilidades. Nesse ponto, as
plataformas também não podem incluir
cláusulas que impeçam os trabalhadores de
buscar reparação por queixas decorrentes
da relação de trabalho. O quarto princípio
é o princípio de uma gestão decente. Ou
seja, se a plataforma é capaz de fornecer
o devido processo para as decisões que
afetam os trabalhadores; se eles conseguem
apelar para decisões injustas, em relação a
49
bloqueios, desativações, falta de pagamento;
se eles conseguem ter acesso a todo esse
processo, se esse processo é transparente,
se o processo de apelação está disponível
para os trabalhadores, e se eles não são
prejudicados por entrarem com alguma
ação disciplinar. Mais do que isso, se as
plataformas são capazes de promover
igualdade e diversidade no processo de
gestão, uma real diversidade, com políticas
que garantam uma não discriminação entre
trabalhadores; e também garantindo,
ou prevenindo, que usuários possam
discriminar trabalhadores por quaisquer
razões. E se existe um grupo desfavorecido
na plataforma, se existem políticas para
identificar e remover barreiras do acesso
desse grupo a determinadas plataformas.
Também entra nesse quesito a questão
que envolve se a plataforma usa algoritmo
para determinar o acesso ao trabalho, à
remuneração, que eles não resultem em
resultados injustos para as minorias. Isso
é também algo que consideramos um
ponto muito importante. Por fim, uma
representação que seja justa, decente,
com a plataforma, com um mecanismo
documentado, que possa expressar a voz
coletiva dos trabalhadores, que a liberdade
de associação não seja inibida, inclusive em
sindicatos e associações; e se a plataforma
apoia, ou não, a governança democrática.
Quanto a plataforma reconhece esses direitos
e os publica, formalizando um corpo coletivo
de trabalhadores e buscando implementar
mecanismos significativos de representação
e de negociação coletiva. Sabemos que os
usuários têm avaliado as plataformas no
Brasil – no fim do ano, vamos lançar um
relatório – e as dificuldades que temos em
relação a esses princípios. Remuneração,
condições de trabalho, contrato, gestão e
50
representação são o mínimo. Todavia, ainda
não conseguimos chegar a esses pontos
no Brasil, na América Latina. Sabemos
que existe um movimento por parte das
empresas, muitas delas têm conversado
conosco pensando nesses princípios, como
também nos mecanismos de pressão; mas
não dá para baixar o sarrafo ou pensar
em algo menor, porque isso é o mínimo
que se espera de um trabalho decente,
que envolva, seja em plataformas digitais
diretamente de trabalho, ou de outro tipo.
Porém, sabemos que essa regulação chega
ao limite, e que não é possível imaginar o
Fairwork. Em outros países, tem algumas
plataformas, principalmente as locais, que
têm, a partir dessas pressões, melhorado
suas pontuações, suas condições de
trabalho, ao longo dos tempos. Mas existe
um limite para isso, e é por isso que temos
falado muito sobre o “cooperativismo de
plataforma” ou “plataformas de propriedade
de trabalhadores” e estudado bastante isso.
Não é possível pensar no fomento
a esse tipo de plataforma sem
indução de políticas públicas, ou
fomentos ligados a governos locais,
estaduais, nacionais; e é preciso
um olhar público, também, para
a construção dessas plataformas
de propriedade de trabalhadores,
que podem ter diferentes tipos
de soluções tecnológicas.
Por exemplo, temos no Brasil o caso do
Contrate Quem Luta, do MTST, que é um
assistente virtual, não necessariamente
uma plataforma, com as infraestruturas;
e também não vão resolver todos os
problemas, mas podem ajudar no
desenvolvimento local e, de alguma
maneira, construir circuitos alternativos
de produção e consumo, com base nas
nossas cidades. Quais seriam algumas
características, a nosso ver, para que também
não se construa: Ah, vamos construir uma
plataforma cooperativa para X. Entraríamos
em um tecnosolucionismo, que é o que
queremos evitar, de uma ideologia do Vale do
Silício, que justamente estamos criticando.
Então, esse é um grande desafio: como
fomentar organizações de trabalhadores,
de comunidades, de maneira geral, desde
baixo, sem recairmos em um elefante branco,
ou em um tecnosolucionismo? Algumas
características que temos colocado, além
dessa questão toda do trabalho decente, que
é central para a construção de plataformas
cooperativas, é a governança democrática,
como um elemento central, governança das
próprias comunidades, dos trabalhadores,
dados para o bem comum. Temos uma
série, inclusive, um subtítulo que se chama
“Do cooperativismo de plataforma”, que
são cooperativas de dados. Tem exemplos
pelo mundo, como a Driver’s Seat, em que
os motoristas trabalham para a Uber, mas
coletam os dados deles mesmos e revendem
para as agências públicas, para que elas, os
órgãos públicos, dependam menos das Big
Techs, em relação a dados de geolocalização,
de tráfego urbano; e que as prefeituras e
outros órgãos públicos possam planejar
melhor suas políticas urbanas com base
nesses dados.
Então, é preciso pensar em
dados para o bem comum e
em infraestruturas que sejam
comunitárias.
Eu e uma professora do México, a Paola
Ricalde, estamos terminando, agora, um
relatório sobre Economia de Dados no
Brasil e no México. Sabemos da dificuldade
de se pensar em infraestrutura de dados
comunitários, mas é possível pensar nessas
brechas. Tecnologias que sejam livres e
abertas, com licença de dados abertos; no
Brasil, tem um histórico muito importante
de política de software livre, de movimentos
de software livre, não precisaria inventar
nada, pois tem algo em andamento que
daria para conectar as diferentes partes.
Recentemente, o Leonardo Foletto lançou
um livro muito legal, chamado A cultura é
livre, com prefácio do Gilberto Gil, falando
dessas políticas de cultura digital nos
anos 2000, e como isso foi importante
para o Brasil em termos de soberania
digital. Então, pensar essa articulação
de trabalho decente, dados para o bem
comum, tecnologias abertas e organização
desde baixo, é um grande desafio, mas
é necessário. Recentemente, o exemplo,
para terminar, sobre o qual temos falado
muito, é o caso na França, em que uma
cooperativa de entregadores se juntou a uma
Federação de Cooperativas de Entregadores,
a CoopCycle, e criou um software livre
para várias cooperativas de entregadores
na Europa, e agora isso está chegando na
Argentina; pode-se estar em qualquer
cidade, e é o mesmo aplicativo, só muda
a cooperativa local. Juntou-se isso a um
Selo de Alimentação Saudável, da França,
financiado pela Câmara Municipal de Paris.
Ou seja, é uma política pública, ao mesmo
tempo de trabalho decente e de alimentação
saudável, porque a cooperativa vai fazer
entregas de restaurantes locais, e não de
redes de fast-food. Então, isso é entendido
como uma política pública urbana e também
de saúde da população. Isso vai um pouco
ao encontro do que o André Lemos falou,
51
de se pensar a sustentabilidade, tanto das
plataformas e das próprias infraestruturas
como também do tipo de sociedade que
fomentamos, de ter fomento para essas
plataformas. Obviamente, são muitos os
desafios que temos enfrentado, tanto
acompanhando essas iniciativas quanto
pensando no futuro delas. Mas tanto o
trabalho decente como o cooperativismo
de plataforma, seja em qual nomenclatura a
usamos, são apostas que fazemos, pensando
tecnologia e soberania digital, no Brasil,
em 2030.
Cláudio Penteado
O Rafael desenvolve um trabalho
muito importante com essa discussão sobre
o trabalho decente e o cooperativismo de
plataforma como a solução alternativa.
Sua exposição de ideias passou pela
Larissa e pelo André, é uma coisa a se
pensar; não é uma forma de demonizar as
plataformas, mas sim de entender como as
políticas públicas podem contribuir. Então,
agora, teremos a oportunidade de ouvir/
ler a Helena Martins, que representa um
importante grupo que atua há muitos anos
em defesa de uma comunicação realmente
democrática.
Helena Martins
Pretendo trazer contribuições que
resultam dos espaços em que estou inserida:
dos grupos Telas e OBSCOM/CEPOS, da
Revista EPTIC e da militância pelo direito
à comunicação. Quero começar a partir
de um diagnóstico, que talvez seja uma
contribuição, que se conecta também com
outras exposições de ideias. Primeiro, tenho
lido muito a parte da Economia Política
da Comunicação, que é o ponto teórico ao
qual me vinculo mais; essa ampliação da
52
integração da tecnologia, da informação
e do conhecimento ao capitalismo é o
que tem marcado o tempo presente. Isso
significa uma série de questões, como o
aprofundamento da Divisão Internacional
do Trabalho. A lógica imperialista, já
mencionada aqui. E, de forma geral, a
transformação de tudo em mercadoria,
com profundos impactos ambientais,
culturais, políticos, que também foram
mencionados. Coloco isso porque é claro
que há resistências, é claro que há usos
diferentes das plataformas, mas, para mim,
é fundamental ter em vista tendências
hegemônicas associadas: a intensificação e
precarização do trabalho, a constituição de
uma esfera pública fragmentada. Ao passo
que, ao mesmo tempo, unida em torno
de uma vida baseada no consumo, com a
ampliação de mecanismos de vigilância
e controle social, com o reforço das mais
diversas opressões, e, também, a lógica
da própria tecnociência, que coloca o
desenvolvimento do conhecimento a serviço
do capital e para uma instrumentalização
que, muitas vezes, significa uma lógica que
vai de encontro à proteção ambiental, às
populações e culturas tradicionais etc. Então,
esse é um pouco do movimento que levou
ao problema que estamos encontrando
agora, que é o dessa plataformização da
sociedade, como já mencionaram.
Essa plataformização facilita a
aderência das tecnologias, da
informação, do conhecimento,
ao próprio sistema. Valendo-se,
para tanto, de maior concentração
e centralização de capital.
Os números já foram também apresentados
aqui, em torno das Big Techs etc. Com base
nessa leitura, uma primeira questão em que
podemos tentar avançar é o reconhecimento
de que a luta contra o monopólio/oligopólio,
nesse setor, marcará o século XXI. O século
já iniciou com a bolha.com, e essa é uma
agenda, que, sem dúvida alguma, vai ser
tão importante quanto as agendas que
anteriormente levaram ao desenvolvimento
de mecanismos antitruste. Então, vamos
ter que atualizar esses mecanismos,
considerando a luta fundamental, que é
contra o monopólio/oligopólio em torno
de poucas corporações tecnológicas, que se
espraiam para as mais diversas áreas da vida
em sociedade. Bom, como uma tendência
geral, isso se revela nos mais diversos
campos sociais, de forma extremamente
acelerada; e, por essa diversidade, demanda
abordadas e enfrentamentos diversos.
Ao mesmo tempo que essas abordagens
encontram alguma resistência para serem
desenvolvidas, até mesmo no próprio
campo da esquerda, seja por conta do
tecnosolucionismo reinante, de uma ideia
ainda muito presente de neutralidade, de
uma expectativa otimista, que acompanhou
muito o desenvolvimento das próprias
tecnologias, de uma perspectiva também
muito comum, inclusive na Academia, da
ênfase nos usos sociais, na exploração das
fissuras. Partindo do reconhecimento de
que se trata de um processo mais amplo,
geral, e que encontra esses desafios todos
já mencionados aqui, parece fundamental
desenharmos outro futuro, enfrentarmos
esse tema tendo em vista uma perspectiva
de totalidade. Quero resgatar Raymond
Williams: Não como uma junção apenas,
mas como uma totalidade que reconhece
os atravessamentos da hegemonia. Quais
são as formas sociais hegemônicas? Quais
instituições operam essa hegemonia? Tudo
isso é fundamental para termos em vista um
novo programa para as comunicações, que
se faz absolutamente necessário. Tentando
contribuir, um pouquinho, com o que
seriam áreas – porque o próprio tempo
e minha capacidade não me permitiriam
desenvolver todos esses pontos –, quero
elencar aqui algumas questões do que
poderiam ser abordagens nesse programa
das comunicações. Dividi em curto, e dei o
nome “de imediato”; médio prazo, e dei o
nome de “paralelamente”, pois são processos
síncronos; e longo prazo, e dei o nome de
“tendo em vista”, porque todos os nossos
enfrentamentos, sejam mais imediatos
ou um pouco mais espaçados no tempo,
têm de estar muito orientados para uma
visão sobre comunicação, tecnologia e
direitos. Invertendo um pouco a ordem,
a longo prazo, o que temos que retomar
é a afirmação da dimensão dos direitos, a
dimensão da comunicação e das tecnologias
como algo público, no sentido mesmo mais
profundo da palavra, e que rompa com
todo esse processo de mercantilização
da vida. Temos de desenvolver nosso
olhar para isso; ainda que, obviamente,
reconhecendo os enfrentamentos que
componham distintas temporalidades. No
curto prazo, mencionarei uma questão, que,
muitas vezes, acabamos não contemplando,
que é da universalização do acesso. Não
é possível que mantenhamos índices
de desconexão, ou de conexão precária,
que registramos, especialmente, em um
país como o Brasil. Isso é fundamental
para enfrentarmos a desigualdade. Se
reconhecemos que a plataformização e
a mediação tecnológica marcam o tempo
presente, é fundamental que as pessoas
possam participar desse universo. Agora,
53
 além de ter o acesso, ele deve
ser acompanhado também por
políticas públicas de formação
para uma leitura crítica da mídia,
para programação, de modo que
não sejamos apenas consumidores,
mas, sim, produtores e produtoras
de tecnologia.
Acho que essa dimensão é muito importante,
e há, inclusive, alguns exemplos de
desenvolvimento disso, como o Plan Ceibal,
no Uruguai. Em outros países, também,
além do Brasil, com software livre. Enfim,
há uma preocupação para que não sejamos
apenas consumidores. Isso é muito urgente,
até porque a própria pandemia levou a
uma superintrodução das plataformas, em
diversas esferas. Então, na universidade
mesmo, em vez de discutirmos a elaboração
de tecnologias, fazemos contrato para usar
o Google. Essas são questões que carecem
de um enfrentamento imediato e devem
ganhar mais centralidade na agenda
política nacional. Bom, casado a isso,
ainda nesse curto prazo, devemos evitar
as medidas de Bolsonaro, em torno da
moderação de conteúdo, e os ataques, em
geral, massivos, da internet, que o André
também já comentou. Ao mesmo tempo, é
preciso fortalecer os espaços de governança
multisetorial, até porque, no Brasil, não
temos uma tradição de ter uma Agência,
ou um Conselho de Comunicação que seria,
inclusive, mais adequado; e, hoje, temos
um problema, de fato, de passar, de termos
sempre discussões sobre quais são os órgãos
que vão acompanhar, por exemplo, questões
sobre desinformação etc. Há o CGI, muito
importante, mas também sabemos que o
CGI é frequentemente atacado pelo próprio
Governo Bolsonaro. Então, essas questões,
54
elas têm implicações para o debate sobre
desinformação, discurso de ódio e, de forma
geral, para a própria conversação social.
Também, no curto prazo, é fundamental
que avancemos na reivindicação em torno
da transparência algorítmica e dessa
corregulação. Cito um documento que foi
elaborado por diversas organizações latino-
americanas, chamado Smart Regulation:
Designing Environmental Policy, bem como
pesquisas do Observacom, do Intervozes e
outros, nos quais há várias propostas em
torno de transparência algorítmica. Outra
questão é pensar que a incidência em relação
à regulamentação dos usos da Inteligência
Artificial é muito importante. O André
também mencionou que o governo fez um
plano medíocre sobre Inteligência Artificial,
mas é preciso também que debatamos o
que queremos com isso, sem ter muitas
ilusões em torno de aceleracionismo,
pois essa não é a perspectiva que abraço.
Creio que temos de discutir, inclusive, se
queremos Inteligência para tudo, para
que é que a queremos; e, obviamente,
discutindo os vieses, o controle social e
a proteção de dados, que são questões que
devem atravessar e pautar todos os usos
que venhamos a fazer sobre Inteligência
Artificial, que, sem dúvida alguma,
também pode ser muito importante para
outras questões. Também, no imediato, é
fundamental fortalecer a mobilização em
curso para banir o uso de reconhecimento
facial no Brasil. A Coalizão Direitos na
Rede está iniciando uma campanha em
torno do banimento; essa pauta já foi
vitoriosa em várias cidades; e aqui, ela
ainda ganha mais importância devido à
conhecida política racista de segurança
pública. Então, é fundamental barrar o
uso do reconhecimento facial, de forma
geral, e especialmente, também, no campo
da segurança pública. E um outro debate,
imediato, que já tem sido feito, inclusive
pela OCDE e por outros órgãos e grupos,
é sobre a taxação das plataformas; temos
de desenvolver mecanismos que evitem
que elas sigam acumulando riqueza em
paraísos fiscais, isso é fundamental. No
médio prazo, é fundamental avançarmos
em uma proposição latino-americana, em
crítica, de enfrentamento à concentração
de propriedade das plataformas digitais.
Medidas antitruste já têm sido discutidas
na Europa e nos Estados Unidos, inclusive
por parte de setores liberais; e, aqui,
ainda carecemos de uma abordagem que
considere, inclusive, as desigualdades
Norte e Sul etc. Mas quero deixar
algumas propostas para discutirmos no
debate, em outros momentos, em torno
do enfrentamento a essa concentração.
É preciso desmembrar a propriedade já
existente e evitar novas fusões e aquisições.
Por exemplo, é preciso desmembrar o
Marketplace da Amazon, impedir que o
Google tenha busca, o YouTube, e tudo mais.
Temos que limitar a apropriação de dados
e o compartilhamento entre empresas,
algo fundamental para a obtenção das
vantagens competitivas, e para que elas
sejam vistas como necessárias, porque
garantem serviços bons. Esses serviços
bons são prestados porque a coleta de
dados é importante para romper com essa
naturalização. Ampliar a interoperabilidade
dos sistemas já foi comentado. É preciso
impedir mecanismos de aprisionamento,
como os desenvolvidos pela Apple. Temos
que impedir a concentração de publicidade,
pois, hoje, Google e Facebook controlam
cerca de 80% do mercado de publicidade
digital. E tudo isso não será suficiente sem
termos a promoção da soberania de dados,
individual e coletivamente.
Por outro lado, muitos dos serviços
que são, hoje, comercializados,
direta ou indiretamente, pelas
Big Techs, são importantes, mas
precisam ser reorientados, desde
seu modelo de negócio até seus
sentidos mais profundos, que
orientam desde a sua elaboração
passando pelo design tecnológico. Podemos
pensar no impacto do Uber em relação às
cidades, o Airbnb também, em todas as
plataformas; e questões sobre trabalho.
Então, dentro desse reconhecimento de
que alguns serviços são importantes, é
fundamental que pensemos em uma solução,
em vez do solucionismo tecnológico, no
planejamento democrático. Essa dimensão
do planejamento já foi muito debatida;
inclusive, há o planejamento socialista, o
planejamento, enfim, da experiência chilena,
sobre isso. Usar tecnologias é algo que temos
que, novamente, trazer à tona, contando
com os algoritmos, de forma democrática,
dentro de um processo de planejamento
que estimule a criação de serviços por
parte de agentes públicos, os mais diversos,
não apenas do Estado; e que também dê
centralidade à construção e ampliação, em
alguns casos, de uma infraestrutura pública.
Isso já foi mencionado também; e foi muito
interessante a abordagem da companheira
em relação à infraestrutura; essa é uma
dinâmica material, fundamental, não há
nuvem sem infraestrutura, e temos que
fazer esse enfrentamento. Para finalizar,
nas questões de longo prazo, temos que
reorientar nosso olhar, desnaturalizando
essa ampla comercialização da internet e da
55
vida, retomando a dimensão pública. Houve,
inclusive, recentemente, o lançamento de um
manifesto pela mídia pública e pela internet
pública, assinado por vários intelectuais,
movimentos. Acho que é importante
para trazer essa dimensão do público à
tona, para a desmercantilização de tudo.
Enfim, isso significa dar centralidade ao
enfrentamento da propriedade intelectual,
defender o conhecimento livre. Sérgio
Amadeu está aqui, e é fundamental nessa
história aqui no Brasil. É preciso renovar
aquela aposta, na produção compartilhada
de tecnologias. Para finalizar, um último
comentário, isso se trata da necessidade de
movimentar a imaginação política a serviço
do desenvolvimento de novas técnicas, como
parte de processos que objetivem superação
de elementos fundantes da sociedade
capitalista, como a divisão do trabalho
e a alienação em relação à coordenação
da sociedade. É com mais participação,
e com esse sentido público radical, que
podemos reinventar a tecnologia.
Cláudio Penteado
Helena, excelente, você citou pontos
centrais, para pensarmos em políticas
públicas e o papel do Estado, o Estado
Democrático; e fornecermos, pensarmos
alternativas para essa tecnologia que
nasce trazendo muitas possibilidades;
e, em pouco tempo, será capturada por
uma lógica capitalista de concentração. Eu
vou passar agora para uma última rodada
de observações finais.
André Lemos
Eu queria, primeiro, agradecer a
oportunidade, o debate foi muito rico,
muito interessante. O formato, também,
bem propício para irmos direto ao ponto;
56
então, foi bem interessante. Quero agradecer,
tivemos visões bem complementares,
também plurais, da crise, de uma visão
geral sobre economia política, sobre o
trabalho.
Cláudio Penteado
Larissa, você que trouxe considerações
que não aparecem nesses debates, um
olhar até um pouco de fora da Academia,
que é sempre bom. Às vezes, ficamos
muito fechados na Academia, achamos
que sabemos de tudo e, na verdade, não
sabemos de nada.
Larissa Packer
Não faço acompanhamento do tema
da digitalização em si, mas vemos impactos
significativos desta transição tecnológica em
curso, inclusive no campo energético, como
os Parques Eólicos, Agrocombustíveis, tidas
como energias limpas, menos emissoras
de gases efeito estufa, mas que necessitam
de extensas áreas. Imaginem os conflitos
por terras (e a quantidade de terras em
disputa) que essa transição energética
pode causar, principalmente nos países
do Sul Global. Então, temos que falar um
pouco dessa migração das sociedades
para esse modo de produção 4.0, e os seus
impactos, antes de, simplesmente, sair dos
combustíveis fósseis e imigrar para outras
alternativas que podem até mesmo significar
uma nova oportunidade de acumulação
primitiva do capital - principalmente
ao passo que se observa esse arranjo
corporativo e a governança corporativa
por trás. Então, realmente, para os próximos
10 anos, veremos muito dos temas da
regulação corporativa, da autorregulação,
de instrumentos como a certificação
sustentável de cadeias produtivas através
do monitoramento digital. Pensando nisso,
uma alternativa é caminhar para sistemas
de compartilhamento de governança, mas
não a partir da propriedade e do mercado. É
imprescindível falarmos do papel da OMC, do
TRIPS, Acordo sobre Aspectos dos Direitos
de Propriedade Intelectual, que permite
a apropriação sobre formas de vida, das
informações genéticas que são a base do
desenvolvimento de vacinas, sementes etc.
O que significou isso para as sociedades,
e principalmente para os mais pobres?
Mais ou menos acesso? O que significa a
apropriação do conhecimento imaterial e
material? Para onde vão esses dados? As
compras públicas estão fomentando essa
nova engenharia corporativa. Bancos de
desenvolvimento, financiamento público, as
chamadas finanças verdes, têm buscado, cada
vez mais, sustentar aparatos sustentáveis,
o que significa infraestrutura digital, e um
novo pacote tecnológico corporativo. Assim,
as políticas públicas, necessariamente, têm
essa discussão de imediato, médio e de
longo prazo - mas eu acredito que é para
agora, não adianta uma regulamentação
hoje, baseada em uma autorregulação do
setor, ou uma corregulação; precisamos
realmente começar a falar sobre dados e o
que deve permanecer na esfera individual,
no âmbito comum pertencente a todos,
no âmbito da segurança pública, contra
a propriedade intelectual corporativa.
Existem bens imateriais e materiais
que são base para as possibilidades de
vida humana e do planeta: precisamos
começar a colocar esses bens sob formas
não proprietárias; começar a falar o que
é a gestão desses bens e âmbitos comuns.
A apropriação privada de bens essenciais
à vida é algo fundamental a ser discutido,
minérios, recursos naturais, terras cuja
captura vem sendo facilitada por essas
estruturas digitais. Temos de explicitar em
nossos debates a primordial interconexão
entre essas áreas. Muitos agricultores já
estão construindo plataformas baseadas
no comum no compartilhamento entre
os trabalhadores, encontrando formas de
união entre consumidores e produtores -
inclusive, através de plataformas digitais.
Essas soluções também estão reverberando
nos territórios, e é bom compartilhar isso
para fomentar cada vez mais discussões e
apoio de políticas públicas a essas soluções
não proprietárias.
Cláudio Penteado
Então, novamente, foi excelente,
eu acho que trouxe até um gancho para
o Rafael, que trabalha estudando essas
plataformas que surgem em um modelo
contra-hegemônico, contra esse modelo
de acumulação e contra o poder das Big
Techs.
Rafael Grohmann
Ótimo. Tenho três ou quatro
observações a fazer. A primeira é esse papel
de universidades, trabalhadores, políticas
públicas, formuladores de políticas. Ainda
mais em um momento muito estranho,
no mínimo, da Capes, e com tudo o que
envolve o próprio Sistema de Pós-Graduação
e de como as pesquisas são fundamentais
nesse momento. O segundo sobre o uso de
blockchain. Eu tenho visto pipocar muito a
questão de tokens comunitários, e a dispensa
do uso de blockchain em plataformas
cooperativas. Tem um movimento muito
interessante, que nasceu de uma cooperativa
de tradutores, na Espanha, chamado DisCO.
coop; estamos para traduzir o relatório
deles. Mas confesso que preciso de mais
57
estudo nisso. Tem coisa que é um eterno
aprendizado. Estamos fazendo uma
série de vídeos sobre cooperativismo
de plataforma e emperramos no roteiro
sobre blockchain, que não conseguimos
ainda capturar o que seria isso, mas temos
procurado acompanhar. Temos falado muito,
conectado agora com as ideias da Helena.
A frase que eu vou falar virou quase um
chavão das minhas lives:
Se, por um lado, o capital tem
experimentado novas formas
de exploração e controle do
trabalhador, precisamos construir
novos laboratórios para pensar o
trabalho por plataformas.
E até isso que a Helena coloca, dos perigos
do aceleracionismo, se quisermos mesmo
isso. Mas o ponto que eu ia conectar
com a exposição de ideias da Helena é
a questão da imaginação política. Esses
laboratórios possíveis para se construir
plataformas não proprietárias, plataformas
de propriedade da comunidade, dados de
propriedade de trabalhadores, e por aí vai;
não é algo que seja um elefante branco, ou
algo importado, ou que vire um risco de
uma hipsterização de tudo isso, ou mesmo
de um embranquecimento e de criação de
falsas cooperativas, que temos visto por aí.
Tenho visto assim: Ah, somos um aplicativo
que parece cooperativa. Você vai ver, é algo
quase como uma Startup 2.0. Temos de
aprender com o que já existe e aprender
com o passado. A Helena discorreu sobre o
trabalho fantástico, e histórico, do Serginho,
na Academia e fora da Academia. Precisamos
traduzir para o português um texto, de um
brasileiro, que foi escrito em inglês, que é o
do Rodrigo Ochigame, chamado “Informática
58
do Oprimido”. Nele, ele vai recuperar a
experiência de uma bibliotecária cubana,
que vai revolucionar também o modo como
Cuba pensa a tecnologia. E ele termina
o texto de maneira muito interessante:
Vamos experimentar táticas, tecnologias,
algoritmos e novas possibilidades. E como
a Helena expôs, pensar fissuras, pensar
brechas, pois não existe fórmula pronta.
O que colocamos aqui, como guias, como
princípios, é que é nesse aprendizado
cotidiano que avançamos.
Cláudio Penteado
Helena, você trouxe a necessidade
de usarmos a imaginação política para
pensarmos novas formas, não somente
de resistências mas de transformações
das relações existentes e dominação das
Big Techs. A proposta desta mesa é isso.
Além de pensarmos o diagnóstico, olharmos
para frente e pensar: Bom, o que podemos
fazer? E estão surgindo algumas ideias,
algumas questões. Eu gostaria de ouvir
suas observações finais.
Helena Martins
Nossa necessidade de imaginação
política é para superar um certo
horizonte do possibilismo, que nos
aprisiona
em um sistema, que é essa lógica do
progressismo, que vai ser ambientalmente
incorreta, que vai ser degradante do ponto
de vista das condições dos trabalhadores
etc. Eu, no Ceará, ontem, acompanhei o
anúncio do governador Camilo Santana,
do PT, da parceria com a Amazon para
digitalizar todo o serviço público, criar
um datacenter da Amazon etc. O Ceará
também tem utilizado tecnologias de
reconhecimento facial. É isso. Se não
conseguirmos colocar essa discussão em
outro patamar, um patamar de projeto de
sociedade, será muito difícil sair disso,
porque a lógica dessas empresas, e desse
sistema, é uma lógica de aprisionamento
de tudo. Inclusive, conecto isso com a
pergunta que chegou aqui no chat, do Zé
Correa, sobre a financeirização. É claro
que por que tem que ter um (Pay-per
Uol, PayPal) se o Google pode fazer? O
Google já faz, inclusive, quando pagamos
um monte de coisas para ele, com algum
tipo de intermediário. Mas se ele puder
fazer diretamente, acho que ele fará. E
se eles puderem criar rede social para
coletar mais dados, farão. A lógica é essa, de
plataformas. Então, realmente temos que
romper com esse modelo e pensar outras
coisas. E conectando, também, com essa
discussão que o Kenzo colocou aqui no chat,
sobre os limites da regulação. Sem dúvida
alguma, são limites. Há muitos limites.
Mas a existência desse mecanismo, por
exemplo, da LGPD, constitui um entrave,
a facilitação da lógica de funcionamento
das plataformas. As disputas todas,
como processos cumulativos de criação
de mecanismo de resistência, são mais
potentes se orientadas por uma visão,
por uma estratégia política, que ajude,
inclusive, a conectar as lutas. Como
conectamos a luta de quem está fazendo
cooperativismo de plataformas com quem
está lá no Congresso Nacional, brigando
pela LGPD? E vice-versa: Como conectamos
quem está discutindo dados pessoais e
quem está, na prática, servindo, usando,
sendo explorado por plataformas, como
Uber e outras tantas? É essa perspectiva
que a imaginação política deve fomentar:
qual é o instrumento que vai coordenar
isso, que vai reunir, que vai estimular esses
encontros? Essa experiência que vocês
estão propondo é parte desse processo.
Superobrigada, e fico aqui para escutar/
ler a outra mesa, que vai ser muito bacana
também.
Cláudio Penteado
Bom, pessoal, temos que abrir
espaço para a outra mesa, que tem outras
contribuições muito bacanas. Quero
comentar, na verdade, deixar no ar, uma
questão que chegou: Google, Facebook e
Amazon já fizeram muito mais pesquisa do
que a ciência e a capacidade de produção.
E o pior, nós, pesquisadores, universidades,
dando os dados das nossas pesquisas para
eles, de graça. O André gostaria de fazer
um comentário.
André Lemos
É em relação a essa pergunta. Quer
dizer, ela é injusta em relação ao Brasil.
Quem mais faz pesquisa nesse país são as
universidades, e o que está se interpretando
como pesquisa? É importante que tenhamos
a Digital Humanities como um aliado
das Ciências Humanas. Tem um texto
do Richard Grusin em que ele faz uma
crítica da Digital Humanities. Ele vai dizer:
Há uma separação dizendo assim: Olha,
vocês ficam estudando Foucault, Deleuze,
Heidegger, isso não serve para nada. Agora,
se minerarmos dados, isso sim é útil. Ele
vai dizer: Olha, isso vai fazer a felicidade
das empresas, de todo neoliberalismo que
quer aniquilar com a universidade. Essa
seria uma pergunta que poderia ter sido
feita pelo nosso Ministro de Estado: Para
que vocês servem, se o Google e o Facebook
fazem mais coisas do que vocês? Primeiro,
59
não é verdade. Segundo, de que pesquisa
nós estamos falando? E terceiro, que tipo
de pesquisa temos que ter para entender?
Toda nossa discussão foi uma discussão
política, filosófica, social, que dificilmente
é feita dentro dessas empresas. Então, é
preciso valorizar um pouco o que fazemos.
Cláudio Penteado
Só para complementar, André,
temos de pensar que, muitas vezes, elas
se apropriam do trabalho produzido
pelas pessoas, eles não ajudam, pelo
contrário, somente complicam nossa
vida e se apropriam do conhecimento
que é produzido pelos pesquisadores,
que são financiados, muitas vezes, pelo
próprio dinheiro, ou o que você tinha
ainda de incentivo à pesquisa no Brasil.
Bom, agradeço a toda a audiência/leitores,
mas, principalmente, aos expositores e às
expositoras desta mesa, que colocaram
vários temas interessantes, várias soluções
e caminhos, para pensarmos e avançarmos
na discussão sobre a tecnologia no Brasil e
o desafio de enfrentar a plataformização.
Passo, agora, para nossos próximos
companheiros e companheiras. Professor
Jerônimo.
Parte 2
“Inteligência local, soberania
digital e soberania de dados”,
Jerônimo Pellegrini, Rafael Evangelista,
Sérgio Amadeu da Silveira, Nina da Hora,
Fernanda Rosa
Jerônimo Pellegrini
Agradeço a todos que nos assistem/
leem. Agradeço, e elogio, o Coletivo 660,
60
a Ação Educativa, pela iniciativa, por
viabilizar este seminário. O tema, agora,
vai ser: Inteligência local, soberania digital
e soberania de dados, que vai ser abordado
por Rafael Evangelista, docente e membro
do Laboratório de Estudos Avançados em
Jornalismo da UNICAMP, coordenador
do Grupo de Pesquisa Informação,
Comunicação, Tecnologia e Sociedade,
e membro da Rede Latino-Americana
de Estudos em Vigilância, Tecnologia e
Sociedade. Nina da Hora, pesquisadora em
Ética da Inteligência Artificial, Privacidade
e Educação, hacker antirracista e líder de
iniciativas em Inclusão Digital. Sobre a
Nina, ela está desenvolvendo um curso de
Cibersegurança para o Centro de Formação
da Ação Educativa. Eles têm, também, vários
outros cursos gratuitos disponíveis relativos
aos temas de Tecnologia.
Para mais informações, é só acessar
https://acaoeducativa.org.br/projeto/
tecla-tecnologia-em-acao/
Fernanda Rosa, professora do Departamento
de Ciência, Tecnologia e Sociedade da
Virginia Tech; pesquisa Governança da
Internet, Infraestrutura de Comunicação,
Tecnologia da Informação e Comunicação,
Educação e Direitos Humanos. E Sérgio
Amadeu da Silveira, docente e membro do
Laboratório de Tecnologias Livres da UFABC,
sendo que ele tem vasta experiência em
políticas públicas relacionadas à Tecnologia.
Integrou o CGI.Br. Presidiu o ITI. E pesquisa
diversos temas relacionados à Tecnologia
e Sociedade. Então, começamos com a
apresentação das ideias feitas pelo Rafael.
Rafael Evangelista
Agradeço o convite, espero contribuir
satisfatoriamente. Estava acompanhando
as exposições de ideias iniciais e penso que
temos um desafio importante pela frente.
Quero começar utilizando dois termos que
estão postos no título desta mesa: Soberania
de Dados e Soberania Digital. Quero citar
dois autores em especial que tenho lido,
entre outros, mas esses autores usam
algumas palavras citadas no título desta
mesa e acredito que o título referencie esse
debate. É uma discussão ampla, que traz
elementos que podem ser úteis para além
de controvérsias conceituais acadêmicas.
Estou me referindo aos termos “colonialismo
de dados” e “colonialismo digital”. O termo
“colonialismo de dados” é empregado por
Ulises Mejias e Nick Couldry no livro The
Costs of Connection, que tem se mostrado
bastante influente em debates aqui na
periferia do sistema. O termo “colonialismo
digital” é tratado por Michael Kwet, um
pesquisador sul-africano.
Colonialismo de dados, como tratado
por Couldry e Mejias, refere-se a um
processo histórico de continuidade lógica
do colonialismo. Aquele colonialismo que
se casa com o período de nascimento do
capitalismo, que coloca condições históricas
para a ascensão do capitalismo industrial,
condições que derivam do movimento
expansionista europeu. Couldry e Mejias
veem um processo não de continuidade
histórica de colonialismo territorial, mas
em que se refaz um tipo de movimento
de exploração. Não se trataria mais de um
mero processo de colonização, a partir dos
países europeus, que fazem esse movimento
expansionista para o Sul e produzem
relações de submissão territorial. Eles
entendem o colonialismo de dados como
um processo em que somos todos nós, os
humanos, que passamos a ser objeto de
um processo de colonização via dados.
O que temos então seriam processos de
extração e de leitura dos dados, dados
produzidos por nós, mas lidos pelas
grandes corporações de tecnologia, que
colocam nossa experiência vital como fonte
de insumos. Do mesmo modo como o Sul
foi fonte, os territórios colonizados foram
fonte de insumos no processo colonial
histórico. Essa ideia do colonialismo, para
falar desse nosso momento em que as
grandes plataformas ganham protagonismo
na estruturação de uma economia baseada
em dados, uma economia que procura fazer,
do esquadrinhamento da nossa vida, da
coleta de dados, de tudo que escrevemos nas
redes sociais, do que dispositivos vestíveis
capturam do nosso corpo e tudo mais, tudo
isso é objeto de práticas de apropriação.
O processo está analogamente ligado
a algo muito parecido com o que teria
acontecido no começo do capitalismo
industrial, ou como base para o capitalismo
industrial, como condição emergente. Essa
condição é referida como acumulação por
despossessão, cuja marca histórica é o
processo de acumulação primitiva. Ou
seja, quando, antes da estruturação do
capitalismo industrial, da concentração de
propriedade, passamos de um período de
uso comunal da terra para a terra se tornando
um capital; e uma subtração das pessoas,
da capacidade delas de sobreviverem, de
garantirem sua subsistência. Um processo
histórico da passagem do feudalismo, do
fim do feudalismo, fazendo o que o Marx
vai chamar de acumulação primitiva.
Couldry e Mejias enxergam esse momento
de maneira análoga à acumulação primitiva
e ao que David Harvey vai entender como
61
processo contínuo do capitalismo de
acumulação por despossessão. Agora, em
vez de ser a terra, ou os recursos naturais
do colonialismo histórico, são os dados que
estão sendo extraídos e explorados e sobre
os quais vamos perdendo a soberania. Uma
coisa interessante a ser explorada é que
esse é um processo tanto de acumulação
quanto de despossessão. Quer dizer,
tanto você tem concentração de
riqueza quanto você tem uma
massa de pessoas, que é obrigada
a vender sua força de trabalho no
mercado, oferecer seus dados,
como condição de sobrevivência.
Pensar nessa imagem e nessa continuidade
trabalho-dados é algo muito interessante.
O termo “colonialismo de dados”, por
fazer referência ao colonialismo, acabou
sendo muito entendido, muito ligado à
denúncia de uma assimetria política entre
os países do Norte e do Sul. Mas não é
esse o cerne da ideia, embora a diferença
geopolítica esteja, em certa medida, até
contemplada no livro. É nesse sentido que
penso que o termo “colonialismo digital”
ajuda a entender melhor, ou de maneira
complementar, as assimetrias. Porque
Michael Kwet está falando de fenômenos
muito semelhantes aos apontados por
Couldry e Mejias, inclusive incorporando
o termo “capitalismo de vigilância”, o
qual também contempla o fenômeno da
despossessão por meio dos dados, ainda
que a referência de Kwet seja o uso original
do termo “capitalismo de vigilância”,
ainda antes do uso do termo usado por
Shoshana Zuboff. Kwet dá relevo, contudo,
ao fenômeno social de prolongamento da
relação de dominação do Norte Global sobre
62
o Sul Global. Couldry e Mejias, quando falam
em colonialismo de dados, falam de um
processo que está incidindo não só sobre
as populações do Sul mas atinge também
populações do Norte, que seriam alvo de
uma despossessão análoga à colonização.
Kwet fala: Olha, o que está acontecendo
vitima, especialmente, as populações do Sul;
porque nessa nova estrutura geopolítica
que está se desenhando no mundo, há um
polo de poder, que são os Estados Unidos;
e, mais especificamente, o Vale do Silício.
Nessa análise, é importante destacar, Kwet
contempla uma dimensão da materialidade
da exploração, que é a infraestrutura digital
– os cabos, as máquinas, o hardware e o
software – sobre a qual não temos mais
controle, o Sul não tem soberania. É a partir
do controle dessa infraestrutura que há
a coleta dos dados.
Assim, Kwet vai tocar em temas como quanto
as iniciativas em software livre têm sido
atacadas pelas corporações Big Techs. Como
as infraestruturas públicas de informática
estão sendo atacadas também por esses
atores. E quanto estão concentradas nas
mãos de empresas do Vale do Silício. Um
ponto interessante é que Kwet recusa a ideia
de nova polarização, que seria agora entre
Estados Unidos e China. Ele vai falar: Você
pode ter uma ou outra empresa chinesas
praticando o mesmo modelo, mas a lógica
interna, o desenvolvimento das tecnologias,
o centro do poder continuam nos Estados
Unidos. E é interessante para se pensar no
nosso contexto, em que há um movimento
do Estado chinês para fazer uma maior
regulação das suas próprias empresas
baseadas em dados.
De qualquer forma, tanto colonialismo de
dados como colonialismo digital dialogam
muito bem com a ideia de capitalismo de
vigilância. Como afirma Shoshana Zuboff,
estamos em uma nova fase do capitalismo
informacional, baseada no Big Data, em que
algumas grandes empresas estabelecem
uma liderança global no controle dos dados
para praticar a predição e modificação de
comportamentos.
O domínio dessas empresas sobre
as infraestruturas e sobre as bases
de dados é um domínio voltado
a capturar inteligência. Ou seja,
nosso interior, nossa vida mais
íntima, é objeto de práticas de
acumulação via dados para, a partir
deles, produzir uma Inteligência
que permita a prática de previsão
de comportamentos e de técnicas
que incidam sobre nós – no que ela
chama de “poder instrumentário”
–, técnicas que alteram nosso
comportamento.
Trata-se não de uma mudança de
comportamento baseada em convencimento
racional dos indivíduos, os quais são
convencidos de que se comportar de
maneira X ou Y seria vantajoso, mas da
alteração no nosso comportamento pela
submissão a uma arquitetura de softwares,
de plataformas, de estruturas, que nos
conduzem a partir de algoritmos etc.
Penso que esses itens citados são
importantes antes de falar sobre problemas
concretos que vivemos hoje e que precisam
ser analisados de um ponto de vista local.
Acima de tudo, um ponto de vista do Sul
Global, das populações que não estão só
localizadas no Sul do mundo, mas são
aquelas que têm condições de vida mais
precárias, que estão fazendo os trabalhos
em plataforma, que estão centrais nos
processos de exploração. Nesse sentido,
Sul Global é uma categoria histórica de
submissão, pode englobar o imigrante do
Sul, que hoje vive no Norte, mas que é
marginalizado, ou as próprias populações
marginalizadas do Norte, e definitivamente
inclui as populações marginalizadas que
vivem no Sul. Vou tratar, brevemente, da
migração de infraestruturas educacionais,
das universidades e das escolas públicas,
em direção às grandes empresas, às grandes
plataformas, Microsoft, Google etc., migração
das plataformas educacionais. Sou membro
também do Comitê Gestor da Internet, e
estamos com um grupo de trabalho para
debater esse problema, acumular dados
sobre o uso das plataformas educacionais das
Big Techs, por escolas e por universidades,
e propor algumas soluções. Há um processo
que se intensificou muito com a pandemia,
mas que já vinha acontecendo há algum
tempo. Penso ser importante trazer
elementos para a mesa, para não discutir
isso de forma solta, pensando somente
na tecnologia. Tem algumas condições
políticas e ideológicas que fundamentam
esses movimentos; estou falando, muito
precisamente, no neoliberalismo, em um
processo de enxugamento do Estado, que
já dá para chamarmos de histórico, porque
vem desde os anos 1980. É também uma
mentalidade, um movimento de redução de
gastos, que quando atinge infraestruturas
educacionais, o Estado sempre se declara
sem dinheiro, sem verba, e se coloca
como obrigado a ter de recorrer aos
serviços dessas plataformas. Estas, muito
estranhamente, nos oferecem tudo isso
de graça, como se fossem beneméritas.
Omitem o fato de que elas, na verdade,
estão coletando nossos dados; esse é o
modelo de negócios.
63
Pois bem, existem demandas da própria
evolução tecnológica para que as
universidades e as escolas utilizem, cada
vez mais, recursos informacionais para suas
práticas de aula etc. Em paralelo a isso, há
a redução de verba. Toda infraestrutura
que antes existia vai se desfazendo. As
escolas nem tanto, mas as universidades
vinham construindo uma infraestrutura
autônoma e própria, para, por exemplo, ter
seus serviços de e-mail, seus ambientes de
relação com os alunos. Com a intensificação
de uso derivada da pandemia, e com a
oferta de serviços “gratuitos” por parte das
Big Techs, as universidades abandonaram
suas infraestruturas e estabeleceram
contratos com empresas, como Google e
Microsoft, que passaram a administrar toda
a infraestrutura e todas as comunicações.
É muito incrível não ter havido oposição,
muito mais sólida, com relação a esse
processo. Imaginem só, toda a comunicação
entre professores e pesquisadores, das
universidades brasileiras, hoje está
correndo pelas redes das Big Techs. Não
é que ninguém saiba, que, por exemplo, o
Google faz mineração de dados em cima de
comunicação de e-mail. Todo mundo sabe
disso. Isso não é segredo. A empresa pode
não sair batendo no peito, nos lembrando
a todo momento que faz isso, mas sabemos
que o modelo de negócios dela é baseado
nisso, que ela lê nossas comunicações. É
um carteiro que lê nossas cartas, para nos
entregar, com o conteúdo daquela carta, um
panfletinho de anúncio. Isso no retrato mais
ingênuo e superficial, pois, na verdade, eles
estão ali capturando inteligência. Vigiando
a inteligência, relacionada, por exemplo, se
falamos de universidades, inteligência de
uma parte da população que trabalha com
algo muito sensível e de muito interesse,
64
que são as pesquisas científicas.
Por tudo isso, o caso da Educação é
muito bom para discutirmos a relação
entre Norte e Sul, de soberania – e
esses processos de captura de dados,
informações, comportamento, essa leitura
que as empresas têm feito sobre o social,
o corpo social, de maneira geral. Tenho
trabalhado com um recorte de pesquisa
que chamo de Capitalismo de Vigilância
no Sul Global. Coloco esse problema, que
é o problema do capitalismo de vigilância
e, consequentemente, as plataformas
educacionais e como elas praticam o
capitalismo de vigilância no Sul Global.
Postulo o problema em três dimensões.
Pensando o capitalismo de vigilância no
Sul Global, a partir do Sul Global e pelo Sul
Global. No Sul Global, por quê? Porque é
um dado que aparece muito pouco, mas
o Sul Global é essencial para as Big Techs.
Estamos entre os maiores canais de YouTube.
Somos grandes usuários dos serviços de
delivery; uma grande parte da população
brasileira, hoje, é altamente dependente
como trabalhadora de serviços de delivery,
ou motorista de aplicativos, um grande
contingente está nisso. O Sul Global tem
uma participação enorme nesse mercado
das Big Techs. E uma das hipóteses para
essa grande participação é justamente o
grande efeito que o neoliberalismo teve
sobre o Sul, desmontando instituições.
Consequentemente, como várias
das nossas instituições foram
desmontadas pelo neoliberalismo,
ou são muito frágeis porque nossa
democracia é sempre atacada, é
por isso que as populações são
obrigadas a recorrer ao trabalho
de plataforma.
Ou, por exemplo, algo que é forte na
diferença entre a vida no Norte e no Sul,
que é a questão da segurança. Muitas vezes,
as populações são levadas a usar vários
aplicativos de rastreamento para informar
se estão em segurança, para saber onde
tem tiroteio, para os pais saberem onde
os filhos estão, porque se tem condições
de segurança mais precárias no Sul.
E o que acontece? Essas plataformas
acabam ocupando um espaço que seria
de algumas instituições, que deveriam,
por exemplo, garantir a segurança, ou que
deveriam regular mercado de trabalho
etc. Outra chave importante é pensar o
capitalismo de vigilância a partir do Sul
Global. Quer dizer, a crítica que temos de
fazer ao capitalismo de vigilância não é
necessariamente a mesma do Norte. Temos,
vivemos condições específicas e temos
problemas que são diferentes, e por isso
temos uma perspectiva diferente. Então,
isso significa que alguns problemas, para
eles, são muito importantes; e, para nós,
nem tanto. Alguns são muito importantes
para nós, e, para eles, são menos. Como
periferia do capitalismo, a questão
geopolítica para nós se destaca. Como país
que carrega a chaga histórica da escravidão,
a discriminação é um problema relevante
para nós. O último ponto é o capitalismo
de vigilância pelo Sul Global. É importante
formularmos quanto essa dominação por
parte das Big Techs, e o colonialismo
digital do Vale do Silício, que afeta o Sul,
não acontecem somente em uma relação
entre regiões geográficas estanques, Norte
e Sul. O fato é que, no Sul, há fragmentos
da sociedade que são altamente parceiros
dos atores do Norte e realizam localmente
processos de dominação. Em uma chave
que é muito parecida com o que você tinha
com processos coloniais históricos, que
se perpetuam ou se constroem sobre
essas bases. Na colônia, os colonizadores
produzem uma elite local que intermedeia
essa relação. Isso, na questão das plataformas
educacionais, é bastante presente. Não é
somente o Google fazendo contato com
universidades e escolas, você tem um
conjunto de instituições; capitaneadas
por atores que vivem no Sul, que estão
fazendo a intermediação, facilitando
o processo de colonialismo digital. É
importante identificarmos esses atores,
percebermos quanto os interesses desses
atores não necessariamente espelham o
que seriam os interesses da maior parte da
população dos países do Sul. Na verdade,
esses atores locais representam interesses
do Norte Global e ajudam a transmitir
relações que o Alberto Quijano descreveria
como de colonialidade. O capitalismo de
vigilância e o colonialismo digital precisam
de parceiros locais. Quanto a propostas,
para encerrar, dei o exemplo da Educação,
mas acredito que tanto nesse campo como
em outros temos de pensar na construção
de infraestruturas públicas ou de controle
público – não necessariamente uma empresa
estatal pública –, mas infraestruturas que
sirvam aos interesses da coletividade. O
Estado é importante porque apenas como
sociedade civil não vamos conseguir fazer
isso, precisamos do financiamento do
Estado.
Se para as grandes empresas
o financiamento do Estado é
importante para o desenvolvimento
de tecnologias, por que não seria
para nós?
65
É balela que as empresas tirem da
cartola, do seu próprio financiamento o
desenvolvimento de tecnologias. Está aí
a Tesla para mostrar quanto ela acumula
de financiamento do Estado americano.
Precisamos construir infraestruturas, que
podem ser estatais, ou praticar modelos
multissetoriais de gerenciamento,
ou públicos, transparentes. Assim, se
falarmos em cooperativas de plataformas,
por exemplo, que estas não tenham de
hospedar sua base de dados na Amazon,
como frequentemente é feito. Às vezes,
hospedam-se serviços web imaginando
ter praticidade e economia, mas é uma
relação de dependência e submissão,
possivelmente de vulnerabilidade à
vigilância. São problemas complexos.
Jerônimo Pellegrini
Rafael, é importantíssima a sua
colocação, especialmente essa visão
de colonialismo de dados, que é uma
continuidade do colonialismo que já existia
no capitalismo. Isso é muito importante,
as pessoas não percebem isso. E sobre sua
argumentação toda na Educação, também,
é extremamente importante, eu tenho visto
bastante isso. E o fato, como você expôs,
daquilo ser trazido como se fosse uma
doação, como se estivesse sendo entregue
de graça, mostra que, na verdade, esses
dados têm valor; tem muito mais valor do
que as pessoas, normalmente, acreditam o
suficiente para que eles sejam entregues,
para que o serviço seja entregue de graça.
E agora, teremos as considerações de Nina
da Hora.
Nina da Hora
Este tema chama muito a atenção,
pelo título, do que estamos tratando
66
aqui no debate, no geral: “Tecnologia no
Brasil 2020-2030”, nos próximos 10 anos.
“Plataformização, I.A.”. No nosso caso, aqui,
“as elites locais”. Penso que sabemos nomear
muito bem algumas palestras, algumas
publicações, até para chamar a atenção
do público que vai ler, ou ver; é necessário
nomeá-las também para as pessoas que
não estão nesses espaços. Pensei: Elites
Locais. Tecnologia. Inteligência Artificial.
Todos esses nomes que estão na mídia,
hoje; mesmo que estejam na mídia, nem
sempre estão bem explicados. Precisamos
entender que somos parte desse problema,
estamos dentro desse problema. Na
apresentação, apareceu o nome “hacker
antirracista”, apareceu a “decolonialidade
do Estado”, ou melhor, a “decolonialidade
da Inteligência Artificial”, “os algoritmos”.
Mas para eu chegar, estar caminhando,
fazendo esse processo, estou sendo
parte do problema, também; porque se
olharmos historicamente, como o professor
Rafael trouxe, temos ali o capitalismo,
lado a lado, ou, até um pouco antes de
começar, a colonização, porque ele foi
fundamentando os ideais que seriam
aplicados na colonização.
Nascemos em uma sociedade assim;
podemos estar buscando outras
alternativas e outros olhares, mas
ainda assim contribuímos para o
que está acontecendo hoje.
Então, quando penso e falo do Brasil
especificamente, abro um pouquinho
para a América Latina. Todas as guerras,
todas as tentativas e as vitórias que os
colonizadores tiveram aqui, neste território,
querendo ou não, fundamentaram alguns
pensamentos, alguns ideais e algumas ações,
que continuam na nossa sociedade, que
ainda praticamos. E quando se pensa a
palavra “decolonialidade”, antes de pensar
a tecnologia, ela também é uma dor para
pessoas brancas e para pessoas não brancas,
sobretudo, para as pessoas brancas, porque
ainda há uma dificuldade de se reconhecer
como parte desse problema e como parte
do que estamos chamando hoje de “racismo
algorítmico”. Essa barreira, que ainda existe,
acaba fazendo com que na hora que sejam
pensados os projetos, as tecnologias, as
ferramentas, por mais que se tenha boa
intenção, e por mais críticas que sejam
as pessoas, sempre se vai esbarrar nessa
barreira, contribuindo para outro tipo de
continuidade de colonização algorítmica.
Um exemplo, agora saindo um pouco do
Ocidente, é o que acontece no continente
africano. Vemos as Big Techs fazendo o
seguinte: Ah, olha só, nesse território aqui
tem dificuldade de acesso. Tem dificuldade
de acesso tecnológico, de conectividade.
Bom, eu tenho a grana, eu tenho os dados
desse território, eu rastreei as pessoas
que estão aqui e eu sei qual é a dor delas.
Aquela linguagem bem de marketing. Foi o
que aconteceu, em 2019, eu acho, quando o
Facebook fez um projeto de conectividade
em um território do continente africano.
Um dos textos, que traz esse título muito
forte da colonização algorítmica, é o artigo
da Abeba Birhane, que foi traduzido pelo
Tarcízio Silva, e está no livro Comunidades,
Ativismos Digitais: olhares afrodiaspóricos.
Leiam esse livro e o artigo, em que Abeba
traz esse processo. Eles fomentaram, ou os
ancestrais dessas pessoas fomentaram, o
que, hoje, olhamos; e o olhar que nós, aqui,
no Ocidente, temos do continente africano,
que é sempre, na maioria das vezes, um
olhar de coitados; quando, na verdade, a
origem e a riqueza partiu de lá. Primeiro,
tudo isso aconteceu, todo esse processo,
para depois chegar, hoje, no século que
estamos, as Big Techs oferecendo soluções,
que estão partindo somente de um olhar
tecnológico. Outro ponto para abordar é
o solucionismo tecnológico. Vou voltar ao
racismo algorítmico, mas estou começando
a entender que seja melhor usar uma
outra nomenclatura, que é a reparação
algorítmica, mas que as pessoas querem
resolver olhando somente para os dados
e dizendo o seguinte: Ah, não. Mas a base
de dados é diversa. Tem brancos e não
brancos. Tem pessoas com cabelos crespos
e pessoas com cabelos lisos. Tem outra
corrente dizendo: Não, mas investigamos
o algoritmo e mudamos tudo, treinamos
ele de uma forma, que é impossível ter
viés agora. Gente, o viés, ele é humano.
Parece que o algoritmo é uma
entidade, o algoritmo virou um
ser humano, agora. O algoritmo
tem características nossas.
Olha que doideira, como as pessoas
acabam distorcendo o discurso! E aí
começam a validar, também pensando
muito no mercado hoje, que o viés vai
acabar, se trouxerem essas ferramentas
tecnológicas, ou essas novas ferramentas
tecnológicas. Então, hoje investigo muito
mais, depois de um processo muito intenso
com o reconhecimento facial, questões
raciais, nessa tecnologia. Entendendo
que, na Segurança Pública, ela tem de
ser, sim, revista, repensada e não usada,
porque não estão sabendo, não estão
sabendo manusear, e é uma tecnologia
que já traz a vigilância na sua essência.
Nas outras instâncias, eu, pelo menos, na
67
minha concepção de pesquisa, penso que
precisamos ir hackeando, entendendo e
apontando alguns equívocos, como a falta
de transparência; e, depois, apontar os
equívocos, em como o algoritmo está
funcionando; apontar os equívocos entre
crianças e adolescentes. É óbvio que não
vou conseguir – não estou aqui na Terra
para isso; nesta vida, ou nesta missão,
para isso –, brigar com uma empresa de
3 trilhões, brigar com uma Apple da vida:
Tire o reconhecimento facial do iPhone. Não,
porque precisamos escolher as batalhas,
e como vamos usar as estratégias. Agora,
posso comprar iPhone, enquanto usuária
da ferramenta, e quero saber o que está
acontecendo. A partir do momento que
mexemos nessa ferida, mexemos em outra
elite, antes de chegar ao local, que é a elite
tecnológica do Vale do Silício. Querendo
ou não, além de ter uma concentração
de homens brancos muito grande, eles
ainda estão pautando algumas novidades
tecnológicas; eles ainda estão pautando:
Como vamos decidir, no meio digital, as
questões raciais, as questões de identidade
de gênero? Sabe por que eles ainda estão
nessa liderança? Porque vemos isso refletido
na moderação de conteúdo, por exemplo,
hoje, nas plataformas; e as plataformas que
usamos, que são redes sociais; sobretudo,
as que foram pensadas por homens brancos
heteronormativos, em sua maioria, e que
vieram dos Estados Unidos. Por mais que
eles leiam, por mais que eles coloquem,
que eles estão apoiando causas, e isso, e
aquilo; se você, enquanto pessoa branca,
não se vê parte do problema do que está
acontecendo, fica muito difícil entender
qual é realmente a reparação que precisa
acontecer, porque ela acaba mexendo na
estrutura que você se sente confortável.
68
E quando chegamos às elites locais, a
dificuldade que eu visualizo, de fazer a
transição, ficar transitando entre elite,
uma elite soberana, uma elite tecnológica
maior, para as elites tecnológicas locais,
olhando território por território, é que cada
território tem seu contexto, e isso não é
levado em consideração quando se pensa
a tecnologia; porque existe o tempo, na
sociedade capitalista que vivemos; existe o
tempo e existe o custo. Ah, eu tenho tempo
de elaboração; tecnologia, não pode levar…
se ela for uma tecnologia urgente, se for
aquela tecnologia do momento, eu não
posso demorar muito, eu tenho de colocar
ela da forma que ela está, porque ela vai
me gerar o lucro, ela vai ser procurada,
ela vai ser engajada. Então, a dificuldade
que eu visualizo nessa transição, aqui,
nesse pensamento, é que as elites… essa
palavra até é uma palavra muito forte;
mas, esses territórios, eles acabam criando
suas próprias tecnologias, sem uma certa
visibilidade e engajamento; mas as elites
tecnológicas, as elites maiores, elas estão
sempre transitando entre os territórios
que elas conquistaram; eles estão sempre
olhando, eles estão sempre observando.
Se um conhecimento dali for benéfico, e
já vimos isso acontecer com Portugal e
com os indígenas:
Se aquilo for benéfico, vou pegar
para mim e vou reformular, trocar
o nome, vou engajar, colocar um
olhar meu; mas sabendo que aquele
conhecimento não se originou com
aquelas pessoas.
Então, vejam, na tecnologia isso acontece
muito, aconteceu e acontece; e vou adicionar
uma preocupação dos conteúdos, as pessoas
estão um pouco perdidas de como estão
entendendo o conteúdo, e como estão
entendendo referências de quem está
criando o conteúdo, e de como estão
entendendo o plágio, até mesmo chegando
ao plágio. No sentido de que está aberto,
as plataformas dizem o seguinte: Tudo o
que você colocar aqui é de todo mundo. O
que estamos visualizando? Criadores de
conteúdo, que agora estão se tornando,
cada vez mais, profissionais, não apenas
um hobby; estão entrando em um lugar
sem ter amparo, quando eles visualizam
conteúdos sendo copiados entre pessoas
e plataformas, nas quais aquilo mexe
diretamente com o que eles vão ganhar,
monetariamente falando, com o trabalho
que eles pesquisaram e colocaram na rede.
Então, para mim, é outra problemática
de fazer essa transição das elites maiores
para os territórios locais. E elites locais,
para mim, para finalizar, e pontuando,
estão muito no que chamamos das
pessoas mais críticas, em determinadas
comunidades e territórios, que acabam
ganhando uma visibilidade maior, de
elas não repassarem essa visibilidade,
repartir, entre os territórios de que elas
estão fazendo parte; e aí elas entram e
são sempre o ponto de contato de todo
mundo, é sempre ela, você não consegue ver
uma descolonização em alguns territórios
locais; principalmente, quando colocamos
internet e tecnologia no meio. Mas esse foi
o caminho, a primeira provocação que eu
pensei para este momento. Espero que,
de alguma forma, contribua. Eu não sabia
de que o professor ia tratar, mas acho
que algumas coisas foram talvez dando
continuidade ao que ele levantou, também.
Jerônimo Pellegrini
Nina, sua reflexão foi importantíssima;
e, me parece, única, original, é uma coisa
importante; realmente, se fala muito do
solucionismo; se fala muito do Vale do Silício
e da ideologia da Califórnia que permeia
tudo aquilo; mas sua exposição é diferente,
pois tudo isso tem de ser propagado. Agora,
passamos para o nosso próximo convidado,
Sérgio Amadeu da Silveira.
Sérgio Amadeu da Silveira
Agradeço a possibilidade de participar
deste debate. Vou partir de uma questão
que acho muito importante, que é fazer
a definição de alguns termos, não muito
pelo fato de que eles podem descrever
os fenômenos; mas, principalmente, a
definição, o conceito, pois permite olharmos
para coisas que não olhávamos, incorporar
na nossa análise elementos que estávamos,
por exemplo, deixando de fora; e sinto
uma profusão enorme de tentativas de
conceituação do momento que estamos
vivendo; e, inclusive, esta mesa, ela tem um
título que coloca uma série de questões que
não são pacíficas, são controversas. Mas
quero expor que me lembrei de um texto
do Dan Schiller, em que ele falava que o
capitalismo se tornou não só informacional,
mas caminhava para ser digital; e acho que
o capitalismo digital, quando pensamos
na nomeação do capitalismo mercantil,
industrial e digital, é bastante consistente;
estou discorrendo sobre isso mais de 10
anos depois do Dan Schiller tê-lo feito.
E acho que há outras nomeações, outras
tentativas de melhorar a aproximação com
o fenômeno. Então, por exemplo, cheguei a
avaliar a ideia de feudalismo informacional,
do Peter Drahos; em que ele enaltecia a
questão da apropriação intelectual que
69
estava sendo feita por grandes corporações
pelo sistema patentário, e isso geraria uma
desagregação, porque o conhecimento
passou a ter grande valor. E, recentemente,
vejo uma mudança disso, que envolve isso,
em relação às plataformas, a nomeação
do tecnofeudalismo. Não acho adequada,
apesar de achar que as plataformas são
gigantescas, e elas são um problema que
precisamos pensar; elas constituem, hoje,
um conúbio entre capital financeiro, e não
mais simplesmente a indústria;
é o capital financeiro, o financismo,
que se interligou com as
plataformas, essas gigantes. E elas,
com esses investimentos, são o
setor mais dinâmico do capital;
mas nomear o capitalismo dessa forma,
talvez possa ser interessante se quisermos
falar do elemento mais dinâmico dele, mais
importante; mas não conseguimos abarcar o
conjunto dos processos que estão existindo;
os processos são pela digitalização, que
adquiriu, por causa de modelos, que a
própria Zuboff mostra, a hegemonia da
dataficação. Então, vivemos um capitalismo
digital dataficado; que Shoshana Zuboff,
de maneira brilhante, colocou a questão
como um procedimento de extração, que
é a vigilância. Qual é o problema disso?
Ainda penso que o capitalismo que estamos
vivenciando é um capitalismo de controle,
pois utiliza técnicas de vigilância, mas o
controle é uma definição muito maior
do que a vigilância, esta é utilizada pelo
controle. Mas isso não é importante, porque
os dispositivos de extração de dados, que
são o centro do pensamento de Zuboff,
e de predição, e de modulação, estão
colocados, e estão fazendo esse capitalismo
70
girar, mas ele continua capitalista; mas os
efeitos disso, no Norte e no Sul, não são os
mesmos. Precisamos colocar o problema
da soberania, o problema da soberania
digital, que eu não me contraponho à
soberania de dados, e também não me
contraponho à soberania tecnológica. A ideia
de soberania tecnológica não conseguiu
consolidar, e também não conseguimos
consolidar a soberania digital; e não estamos
conseguindo consolidar uma soberania, que
não é só de ter infraestruturas que sirvam
à Inteligência Local, mas não conseguimos
mais manter os dados no Brasil. Eu estava
em um evento do software livre, e uma
pessoa disse: Professor, o senhor está
dizendo, então, que eu, como gestor da
minha empresa – ele era gestor de uma
empresa pequena –, devo hospedar
meus dados no Brasil, pagando cinco, sei
vezes, mais caro; do que hospedá-los na
infraestrutura lá fora, como da Amazon?
Falei: Não, não propus que você tome essa
atitude microeconômica. Propus a você
pensar que em uma situação em que
o digital é tão importante, os
dados têm alto valor, não somos
mais capazes nem de hospedar
os dados no nosso próprio país.
Essa é que é a questão. Quando vejo que
o governo do Estado de São Paulo, em vez
de montar uma infraestrutura tecnológica
própria, ou em conjunto com prefeituras, em
conjunto com universidades, desenvolver
a Inteligência local, a Inteligência coletiva
regional, a Inteligência coletiva nossa;
quando vejo ele abrir mão disso e contratar
o Google para definir os endereços
georreferenciados e rurais de São Paulo,
eu digo: Tem algo acontecendo. E o que
é isso? Creio que estamos combinando,
e essa combinação reforça a
subordinação tecnológica, que
reforça a submissão digital, e
combina com uma alienação
técnica.
É um termo que vem do Simondon, é mais
do que a alienação do trabalho, é achar que
podemos ser uma sociedade sem a cultura
tecnológica, é achar que podemos viver
só falando: Ah, a tecnologia é como uma
caneta, eu compro a melhor. É esquecer que
somos elementos, sociedades, pessoas que
produzem tecnologia o tempo todo. E isso
está combinado com processos que vêm
do colonialismo histórico, que reforçam a
colonialidade, que é uma mentalidade da
elite. Como diz Quijano: O colonialismo
histórico acabou em alguns lugares do
mundo na década de 1950, 1960. Mas
a colonialidade, os traços de submissão
continuam. E eu vejo isso nessa elite. Que
combina, portanto, alienação técnica,
colonialidade das elites com o dataísmo;
que é uma crença absurda, que os dados são
naturais, e, portanto, podem ser extraídos a
bel-prazer. A segunda crença do dataísmo,
que é um termo de José van Dijck, é a de
pensarmos que as empresas querem nosso
bem, mas elas só querem se beneficiar
daquilo que seria a melhoria das nossas
experiências. Então, eu poderia arrebentar
isso com milhões de exemplos, pois é uma
crença absurda. Em terceiro lugar, essas
três ações, essas três análises que faço –
alienação técnica, colonialidade da elite
e dataísmo –, reforçam o neoliberalismo,
a doutrina principal do capitalismo. Se
tivesse que definir o capitalismo hoje,
definiria como um capitalismo neoliberal,
digital, dataficado. Precisamos perguntar
o seguinte: O que vai gerar e pôr nossa
criatividade e inventividade local na
nossa sociedade? O que gera apostar
integralmente em desenvolver Inteligência
Artificial para a IBM e a Microsoft? O que
aprendemos aqui? Ah, aprendemos usando.
Mas quando vamos começar a aprender
fazendo, desenvolvendo?
Precisamos trazer o conceito de
soberania digital e soberania de
dados, e ampliá-lo, colocá-lo no
conjunto do movimento social, dos
governos, das forças democráticas;
porque o fluxo de dados e de riqueza que
o acompanha nunca é do Norte para o
Sul, é sempre do Sul para o Norte. Temos,
portanto, que ampliar esse conceito de
soberania e tirar somente a ideia de que
ele é algo estatal. A soberania digital, à qual
me refiro, é uma soberania da sociedade
local em controlar sua criatividade e
inventividade e seus dados. É essa a ideia.
Quando esse dado vai lá para a IBM, dos
Estados Unidos, perdemos soberania sobre
ele, perdemos jurisdição, ele passa a estar
subordinado a outra lógica de poder, a
outra jurisdição. E quando o Tribunal de
Justiça de São Paulo faz um acordo para
desenvolver a Inteligência Artificial, em
nuvem, com a Microsoft, é exatamente nisso
que penso: Falta a ideia de soberania. O
Conselho Nacional de Justiça proibiu isso,
dizendo que dados sensíveis, dados de
processos judiciais e da relação entre juízes
e técnicos, clientes e advogados do TJ São
Paulo seriam entregues para aperfeiçoar os
algoritmos de Inteligência, de Deep Learning,
de Machine Learning, de aprendizagem
de máquina, da Microsoft. E isso não é
71
um escândalo. Para finalizar, proponho:
Precisamos trazer a questão da soberania,
inserir princípios de precaução ao nosso
debate; que eu retiro, tomo emprestado
do ambientalismo, como muito bem nos
mostrou a Larissa Parker; tomo emprestada,
também, a ideia de proteção, o princípio de
proteção das futuras gerações. Se entrego
os dados do DNA, como queria o Sérgio
Moro, para essas grandes corporações,
comprometo todas as gerações futuras e
as vinculo a lógicas, que o André Lemos
mostrou, performativas, que passam a ser
aplicadas como se fossem verdades. Essa é
a questão. Precisamos colocar a questão da
soberania digital, da soberania de dados,
compreender que é preciso ter alternativas,
a gestão algorítmica, e não apenas impedir
que os fluxos internacionais de dados sejam
liberados, a partir do Sul, para gerar riqueza
no Norte. É preciso avaliar o fluxo de dados;
é preciso observar se o dado pode ser pedido
de volta, e analisar o treinamento que gerou
no algoritmo da IBM. O Governo Federal,
depois de uma denúncia que fizemos, disse:
Olha, o aplicativo SouGov, nós erramos,
ele não vai levar os dados dos servidores
públicos federais para treinar o algoritmo
do Watson; ele apenas vai usar o sistema
de, provavelmente, linguagem natural do
Watson, quando usar o chat do aplicativo.
Dessa forma, na hora que se usar o chat
do aplicativo, a pessoa treinará, em língua
portuguesa, os algoritmos da IBM. Podemos
até destruir o dado, trazer o dado de volta,
mas o padrão sobre a pessoa, sobre sua
coletividade, sobre a localidade já estará
incorporado nos algoritmos, e esse padrão
ninguém retira. Então, é preciso pensar
melhor, simplesmente que: Ah, basta
controlar o dado, que controlo a Inteligência
Artificial. Não é verdade. Crio treinamentos-
72
padrão, que, depois, ficam difíceis de retirar,
não consigo retirar; e quando crio Inteligência,
deixo de desenvolvê-la também aqui. E é isso
que está acontecendo. Precisamos de soberania
digital. Por que esta segunda mesa? Porque
não basta regulação, é preciso criar
tecnologias, criar soluções, criar
arranjos sociotécnicos. É preciso criar
agregadores, incentivos locais, que
envolvam universidades, prefeituras,
governos, ONGs.
Precisamos criar até modelos jurídicos para
viabilizar infraestruturas digitais aqui embaixo;
porque falar de Inteligência Artificial, que
vamos desenvolver aqui – duas coisas, e finalizo
–, primeiro, temos uma diversidade cultural,
e quando deixamos de desenvolvê-la aqui,
abandonamos, abandonamos as cosmovisões
que temos; abandonamos, na verdade, a
criação de uma Inteligência Artificial, que
não é baseada em dados; abandonamos as
várias possibilidades que temos, incluindo
nossa riqueza cultural. Falamos: Tecnologia
é uma caneta, vamos usar a deles que é mais
barata. E o neoliberalismo vai se impondo.
Então, termino com essa ideia: A soberania
digital e a soberania de dados devem virar
arranjos específicos de infraestrutura e de
desenvolvimento, devem envolver o Estado; e
não acredito só em uma ONG para enfrentar
essa situação. Nos próximos 10 anos, ou 8 anos,
vamos precisar refazer as políticas públicas
incorporando esses conceitos. Essa é a minha
contribuição.
Jerônimo Pellegrini
Sérgio, suas colocações foram
importantíssimas. A primeira coisa que me
veio à cabeça depois da sua elaboração, foi
o episódio da espionagem da Presidência
da República. Então, a mesma empresa
que esteve espionando a Presidência da
República continua prestando serviço; e um
Tribunal estava disposto a entregar dados
sensíveis a ela. Isso é impressionante. E,
agora, recentemente, também, o GitHub,
que é controlado pela Microsoft, começou
a usar dados e todos os códigos livres que
estavam ali para treinar um copiloto, e
eles dizem: Esses dados são minerados.
Então, a saída da rede neural não tem
copyright; isso é um argumento terrível.
Eles estão chamando: Olha, venham brigar
se quiserem. E isso vai ser muito difícil.
Vamos prosseguir, agora, com as colocações
da Fernanda Rosa.
Fernanda Rosa
Acho difícil não concordar com várias
coisas que foram expostas aqui; é difícil
não pensar, por exemplo, que as críticas
que temos feito aos trabalhos que Rafael
colocou, as críticas que temos feito a Mejias
e a Couldry, falando: É, mas você não está
olhando, você está falando que Sul Global
é como o Norte Global. Não é? Essa é uma
crítica, não é? A outra crítica é aquela que
a Nina trouxe: Como vamos usar a palavra
“colonialismo” sem pensarmos em corpos,
sem pensar em violência de corpos? Porque
colonialismo é sobre violência, violência
sobre corpos de mulheres, sobre indígenas,
sobre negras e negros.
Então, como é que vamos falar de
colonialismo de dados sem pensar
em questões de identidade?
É uma questão problemática para as Ciências
Sociais; sou formada em Ciências Sociais
brasileiras e é uma questão que temos que
enfrentar, e somente vamos enfrentá-la
com professores e professoras diferentes;
porque, nós, nas Ciências Sociais, não temos
aulas de feminismo, por exemplo, nos 4
anos. Como é isso? Como você não conhece
um social, uma social negra? Como você não
lê autoras que estavam discutindo o que o
Brasil era, como Carolina de Jesus, em um
curso de Ciências Sociais? Então, acho que
essas são questões que temos que pensar,
mas o nosso debate aqui é bastante prático.
Então, vou partir de tudo o que vocês estão
falando para dizer que: Bom, com base
em tudo, em toda essa desigualdade que
vocês estão colocando, que já foi colocado
aqui, dá para reformar isso? Vou falar com
base em três artigos que estão colocados.
Dois já estão disponíveis, e um está em
avaliação de pares. Um artigo é sobre as Big
Techs e a forma como elas distribuem sua
infraestrutura no mundo. Big Techs, aqui,
estou falando, principalmente, de quatro:
Google, Amazon, Facebook e Apple; mas,
às vezes, também a Microsoft; então, esse é
um artigo. O outro é sobre a Infraestrutura
como um bem público, os limites da
governança local e uma Internet Global.
E o terceiro artigo, que está sob avaliação
de pares, trata da etnografia do código. Tem
como reformar isso? Se temos um olhar
sobre a internet, a partir do código; esse
código está produzindo esses resultados.
Não são apenas as instituições detrás dos
códigos, trata-se desse código atrelado às
instituições, atrelado às intenções. E aí é
outra crítica às Ciências Sociais, que olha
para as instituições, mas não olha para
os não humanos. Os não humanos são a
forma como eles foram codificados, eles
também estão tendo uma ação; porque é
como a Nina falou, os algoritmos. Podemos
falar em algoritmo e em antirracismo no
algoritmo, porque esse algoritmo está
73
tendo uma ação. E aí a questão é: Como,
então, fazemos para mudar tudo isso se
vamos continuar usando o mesmo código?
Estou perguntando com base em dados
quantitativos que estão nesse artigo, que
ainda não está público, que se chama
“Etnografia do Código”. Porque olhamos
como os dados estão circulando, e aí,
usando as categorias que Rafael e Sérgio
colocaram aqui, de Sul e Norte Global. Os
dados, vamos pensar assim, podemos ter
dados circulando do Norte para o Sul, e do
Sul para o Norte; mas quando olhamos para
um protocolo específico, que é chamado
BGP, que é o protocolo que permite os
nossos pacotes de dados circularem na
internet, é isso que esse artigo faz. Vamos
olhar esse BGP e ver como esses dados estão
circulando na internet. Quando olhamos
isso, comparando dois pontos, dois deles
da internet, comparo o nó do Brasil, que
fica em São Paulo; chamamos tecnicamente
de Ponto de Troca de Tráfego, ou PTT; em
inglês, IX, Internet Exchange Point. Então,
quando se compara o PTT do Brasil com
o PTT de Frankfurt e da Alemanha, que
são os maiores nós da internet, o maior
do Sul Global é o de São Paulo – e hoje,
depois da pandemia, se tornou o maior do
mundo, por questões outras –, e o maior
do Norte Global, que é o de Frankfurt; fica
muito claro que tem uma disparidade muito
grande. Os dados do Norte circulam entre
o Norte, e não é para o Sul; e os dados do
Sul, os pequenos provedores do Brasil, eles
precisam, inclusive, se interconectar na
Alemanha. Com o mesmo argumento que
o Sérgio ouviu de uma empresa, dizendo:
Como não vou hospedar o meu dado lá
fora, se é mais barato? Ouvi a mesma coisa
de um pequeno provedor; na verdade,
de um professor de BGP, no Brasil. Falei:
74
Como fica a soberania de dados quando… ,
como fica a questão da soberania nacional?
Porque quando esses nossos pequenos
provedores estão passando os nossos
pacotes de dados para a Alemanha, e a
Alemanha tem questões de vigilância, nesse
nó de internet, como fica essa questão
da soberania nacional? E a resposta que
eu tive foi: “Uhn. Antes da soberania
nacional, tem a soberania dos provedores
de internet. Somos sistemas autônomos”.
Onde fica nossa autonomia? E tinha um
outro técnico de um pequeno provedor, no
Brasil, que disse: “Bom, tem vigilância, mas
está afetando a qualidade? Está afetando
a latência?”. Isso não é uma alienação, é o
código tendo um papel fundamental na
continuidade de interdependência, não
apenas a dependência do Sul com o Norte,
mas uma interdependência entre Sul e Norte;
porque o nó global maior do Norte Global,
na Alemanha, só existe, também, daquele
tamanho, daquela magnitude, pela falta de
recursos no Sul, pela falta de datacenters
no Sul, pela falta de cabos e fibra óptica no
Sul. Então, não é apenas uma dependência,
é uma interdependência. O Norte só existe
como tal pela exploração que faz do Sul; e
quando olhamos o código da internet, isso
está acontecendo também. Estou olhando só
um, o do BGP, um protocolo de internet; mas
estou dizendo: Se o reformarmos, vamos
ter que não só falar de instituição mas
dos códigos. E fazemos como? Essa é uma
pergunta que podemos fazer para a Nina,
diretamente; e trabalhar também com o
que o Sérgio discorreu sobre. Tudo o que
expus, apesar de ter esse artigo ainda em
revisão de par, está na tese de doutorado
que está publicada. Se vocês buscarem,
também, é uma tese defendida em 2019.
Mas está em inglês. Pensando que nossos
pequenos provedores de internet também
fazem parte disso, porque o código está
fazendo com que eles façam parte disso.
Ao mesmo tempo, não é só falar, podemos
falar das grandes Big Techs. Por quê?
Porque parte dessas empresas, hoje, são
responsáveis por mais de 60% do tráfego,
nos pontos de troca de tráfego, no Brasil,
de acordo com entrevista também.
Quando um provedor de internet
que nos atende em nossa casa
precisa se conectar com essas
empresas; se a infraestrutura
delas está em um país do Norte,
necessariamente, você tem que
ir para o Norte, mesmo se no
Brasil tivermos o maior sistema
de interconexão de internet,
do mundo público; nós temos, hoje,
por causa do CGI, que Rafael é um dos
membros. Então, apesar de uma ótima
política pública – e isso está em um dos
artigos que eu coloquei aqui –, se os dados
que você está buscando estão fora, você
vai levar os dados dos brasileiros para
fora. Falar de soberania nacional, quando
estamos falando de digital, é muito mais
complexo; de novo, por causa do código.
Mas, para além das Big Techs, gostaria
de colocar a questão dos governos, que
também não estão ajudando. Então,
no Brasil, especificamente no Governo
Bolsonaro, temos uma política feita por
decreto, literalmente falando.
Quando se tem políticas digitais
implementadas por decreto, perde-
se a possibilidade de discussão
pública.
Eu estava estudando alguns decretos
porque tinha uma fala no Ministério da
Infraestrutura, esse ano, e aí eu descobri
que o Brasil tem uma das maiores redes
de organizações sociais, organizadas para
tratar de internet, a Coalizão Direitos na
Rede; então, fui conversar com pessoas
da Coalizão. Falei: O que vocês fizeram em
relação a esse decreto aqui? Também, entrei
em contato com pessoas do Comitê Gestor
da Internet no Brasil, porque, pela forma
multisetorial com que ele é construído,
é possível falar com representantes;
vou tratar de governança daqui a pouco.
Fui atrás de pessoas da Academia, que
fazem parte do CGI: Ei, vocês discutiram
esses decretos? – Não, não dá tempo de
discutir decreto. Vou citar dois decretos, o
Decreto no 10.332, de 2020; o Decreto no
9.319, também. Onde está se tratando de
questões de nuvem, onde está se tratando
de questões de Inteligência Artificial, de
Big Data, tudo junto e misturado; feito
por pessoas que não sabemos quem
são, e sem pensar as consequências das
ações que estão sendo propostas lá? Por
exemplo, o Decreto no 10.332 indica “a
intenção de adotar tecnologia de processos
e serviços governamentais, em nuvem”.
Então, pergunto: O que temos de refletir
nesses próximos 10 anos? Qualquer política
que seja feita precisa ter um diálogo com a
sociedade. Nós, no Brasil, chamamos isso
de governança da internet. Temos uma
tradição nisso, é multissetorial, precisa
ter discussão. Não importa se é Governo
Estadual, se é Governo Municipal, se vai ser
Governo Federal, temos que olhar para o
que já foi feito e deu certo; e a governança
multissetorial é uma dessas coisas. Temos
como contrabalançar poder, da democracia,
no contexto da internet, porque a internet
75
é regulada pelo mercado, precisamos de
outras fontes. A governança multissetorial é,
até o momento, a melhor que conseguimos.
Então, necessariamente, diante de uma
política dessa, temos que pensar: Quem
está tomando essa decisão? Como vai se
dar essa governança? Não é só falar de
nuvem, temos de entrar nos meandros
dessas coisas; e não é só burocrata que
vai conseguir decidir isso. Do Decreto no
10.332, também, a intenção de promover
“serviços preditivos e personalizados com
a utilização de tecnologias emergentes”.
Tem um determinismo tecnológico aí.
Queremos tudo inteligente. Uma das pessoas
da mesa, na qual eu estava, inclusive, falou
que a grande expectativa era quando não
precisássemos mais fazer check-in dos
nossos voos, que a ANAC, ou outro órgão,
conseguisse fazer esse controle para todos.
Como assim? Você vai controlar minha
mobilidade? Tivemos essa discussão em
São Paulo com o Bilhete Único, para quem
conhece essa discussão. Quando temos os
dados do Bilhete Único, na prefeitura, se
a prefeitura decidir vender esses dados
para uma organização privada. Você está
vendendo os dados de mobilidade da sua
população para um ente privado? Então,
é disso que estamos falando aqui. Nesses
decretos, também, tem uma intenção
de integrar bases de dados de esferas
municipais, federais e estaduais. O perigo da
centralização na mão de um governo, não
importa qual governo. Não é só o Governo
Bolsonaro, é qualquer Governo. Temos de
ter muito cuidado com isso, pois, depois de
fazer isso, não tem como desfazer. “Cuidado”,
estou usando uma palavra bem fraca para
o que eu gostaria de estar falando. Então,
finalmente, gostaria de expressar que se
estamos falando de internet, vamos precisar
76
falar de código.
E se estamos falando de governança
de dados, qualquer política de
governança de dados, vamos
precisar parar para pensar em
termos de pilares; e esses pilares
vão ter que envolver gênero, vão
ter que envolver raça, vão ter
que envolver etnia, vão ter que
envolver questões de pessoas com
deficiência.
Não dá para pensar um modelo, de novo,
das Ciências Sociais, que usa aquele modelo
do indivíduo liberal, que é aquele indivíduo
transparente, que não tem cor, não tem
sexo, não tem nada, e uma política vai para
todo mundo. Não, não é mais isso. Em 2021,
temos que pensar em termos de categorias
identitárias também. Por causa disso, até
fiquei pensando: Que políticas atingem
mais pessoas pobres, negras, por exemplo?
Políticas de segurança. São Paulo, de novo,
Estado e Município, com programas de City
Câmeras. Colocam câmeras em todos os
lugares. Quem está fazendo a governança
desses dados? E aí você está na internet,
sem nem mesmo saber, porque você está
andando na rua, e o prédio do seu vizinho
fez um acordo com a Polícia Militar de
São Paulo para compartilhar os dados que
estão coletando dessas câmeras. Todas
essas coisas estão acontecendo; então, se
estamos pensando em 2030, precisamos
também pensar em 2020, realidade que
já é um problema, pois temos coisas para
consertar a partir de agora. E por que temos
que pensar em código? Necessariamente,
temos que pensar em currículo, temos que
pensar em currículo educacional. Se temos
que produzir tecnologia, temos que utilizar
nossas universidades públicas, porque
elas são atacadas justamente porque têm
poder. Não é? Porque se não fossem, se não
tivessem poder, não seriam tão atacadas.
Pensei aqui em apenas alguns cursos, mas
eu acho que tem tantos outros: Ciência de
Dados, Ciência da Computação, Design,
Sistema de Informação; necessariamente,
é preciso ter componentes de inclusão em
diversidade, é preciso se pensar em gênero,
raça, etnia; é preciso colocar essas questões
nesses currículos. É preciso criar cursos
novos com esse olhar, porque precisamos
de mais pessoas, de grupos, que não preciso
nem falar que não são minoritários, não
é? São pessoas de grupos vulneráveis que
deveriam estar fazendo o design desses
códigos, que deveriam estar dando aula
sobre isso. E aí, finalizando, além da questão
do currículo, pensando em inovação, design
e inclusão, tem a questão da governança
dos recursos críticos. E no caso, por
exemplo, da internet, ela existe sobre a
camada de Telecom. Existem recursos de
telecomunicações que são necessários
para a internet funcionar, por exemplo, o
espectro. E aí faço pesquisa em comunidades
indígenas, faço pesquisa sobre design de
infraestrutura para comunicação. Ouvi de
um entrevistado, o Mariano Gomes, ele é
um entrevistado do México. Estávamos
falando sobre como eles constroem a
própria internet usando o espectro; eles
usam espectro não licenciado de Wi-Fi;
ele me falou assim: “É, mas você sabe que
as pessoas chamam isso de espectro? Mas,
assim, isso é ar, não é? E se é ar, está no meu
território”. “No meu território”, não com o
olhar nosso, de propriedade, é outro olhar,
ele não estava falando de propriedade, não,
ele estava falando de outra coisa. “Mas está
aqui no nosso território; então, podemos
usar”. Só que o espectro tem a regulação
federal, no Brasil, inclusive.
Precisamos, para ter inovação local,
de soberania local; permitindo
que, inclusive, comunidades
indígenas tenham, criem coisas;
nós, necessariamente, precisamos
de espectro não licenciado. E, nesse
contexto, não é só o espectro,
precisamos dos hardwares
livres, não é? Precisamos de leis
de incentivo para a produção de
hardware livre, de laboratórios
de criação de hardware nas
universidades.
Onde está o dinheiro da FAPESP, que não
é aplicado nisso? Onde está o dinheiro
da CAPES, que não está aplicado nessas
questões? Todo mundo, ou a maioria,
deve ter visto aquela foto de várias
pessoas brancas no alto de um prédio
de uma empresa de finanças no Brasil.
Se pegarmos as empresas de tecnologia,
quem está produzindo as tecnologias
que usamos não deve ser muito diferente
daquela foto; então, precisamos de leis
de incentivo para ter mais diversidade
nessas empresas, também. Precisamos
abrir o canal de novas tecnologias, de
novas coisas, e novas, sabe-se lá o quê!
Precisamos simplesmente ficar com essa
internet que foi criada; e, ao mesmo tempo,
precisamos amenizar, ou, seja, minimizar
os danos que estão acontecendo com o
que criamos até agora; e aí, pelas rabeiras,
fazendo ações pelas rabeiras, e uma delas
é pensar em diversidade nessas estruturas,
em inclusão, nessas estruturas que temos.
Então, é isso. Obrigada.
77
Jerônimo Pellegrini
Fernanda, é importantíssimo
isso tudo que você colocou, o papel da
infraestrutura, o papel da tecnologia, não
só como um objeto passivo. E, finalmente,
achei importante o que você expôs sobre
a reversibilidade de algumas ações, pois
tem coisas que não podem acontecer. Mas
elas acontecem e não tem volta. Já vimos
muitas vezes acontecendo. E, realmente,
é importante, essa centralização de dados
teria de ser feita com todo o cuidado; e
não existe uma maneira de fazer sem que
se tenha todo o cuidado, não dá. Agradeço
a você por ter mencionado o hardware
livre, as tecnologias livres, porque isso
realmente é importante. Muitos têm se
dado conta de que isso é um impeditivo
também, do ponto de vista de segurança; a
tecnologia não tem como ser segura se ela
não for livre. Esperamos que isso melhore.
Agradeço a participação. E agora vamos para
a segunda etapa, na qual vocês todos farão
suas considerações finais. Começaremos
com o Rafael.
Rafael Evangelista
Acho muito interessante, Fernanda,
esse seu relato sobre o modo como… e até
falando como alguém que está dialogando
ali, no CGI, o modo como o Governo tem
governado por decreto. Isso é uma coisa
que estamos vivendo, vivemos com relação
à MP, que altera o Marco Civil; e, tentando
fazer esse diálogo ali dentro, e esse diálogo
sendo bloqueado antes disso ter virado
MP; e, depois, vimos o projeto de lei sendo
enviado em um domingo, logo depois que
foi derrubado. Quer dizer, estamos lidando
com um método de Governo que é totalitário,
no sentido de ignorar as hierarquias e as
instituições que foram construídas ao longo
78
dos anos, que tenta sempre forçar isso em
várias instâncias. Estamos falando aqui
de tecnologia, mas em outras instâncias
também; mas fazer muito essa coisa, de
uma cúpula tentando impor sua vontade,
ignorando essas estruturas e os processos
democráticos. Vimos todo processo que
levou para a construção do Marco Civil, e
isso está sendo alterado da noite para o dia.
Por isso, falei um pouco de “instituições”;
estou pensando no fortalecimento desses
mecanismos multilaterais e multissetoriais,
porque eles mesmos estão fragilizados, ou
sendo ignorados, ou sendo atropelados. Isso
é parte importante do próprio problema,
para podermos regular tudo isso, interferir
nesse ambiente, e acho que isso é um desafio
para nós. E acho que é legal alguém ter
mencionado a questão das semelhanças
com a discussão ambiental. Acho que tem
algumas coisas interessantes, que passam
pelos processos de desapropriação; é, não sei
se essa é a melhor palavra, mas justamente
dados que passam por esses mecanismos de
leitura sobre nós e as comunidades; e que
é algo muito parecido com a biopirataria,
que foi muito questionada; luta-se muito
contra esses processos, que são processos
de roubo de propriedade intelectual, no
limite, de populações tradicionais.
E acho interessante a metáfora
ambiental também, para pensarmos
nos efeitos, quanto isso afeta não só
indivíduos em pontos específicos,
isso afeta um ecossistema, se é que
podemos falar em ecossistema,
que é social, e que precisamos de
regulações que sejam sociais.
Acho importante esse dataísmo, que o
Sérgio comentou; penso que isso faz parte
de um conjunto, de uma leitura neoliberal.
Quer dizer, não dá para pensar nisso
separadamente, porque é um desejo de
administrar o corpo social de determinada
forma; e acho que é importante olhar, saber
usar os dados. Acho que os dados são
superimportantes para orientar políticas
públicas etc., mas não podemos ser reféns
ideológicos nem do neoliberalismo nem
desse dataísmo.
Jerônimo Pellegrini
Rafael, você resumiu bastante bem; e
a apropriação de biopirataria é mais antiga
que isso. Por exemplo, você vai a algum
lugar, toma o que quer, e, depois, põe no
seu museuzinho de gente superior, e é
assim que se faz; infelizmente, isso é uma
coisa terrível, mas acontece. Agora, Nina,
novamente, elabore seus comentários.
Nina da Hora
Primeiro, fiquei pensando que não
estamos separando mais tecnologia de
política, e acho que nunca essas coisas
nunca deveriam ter sido separadas; mas por
um bom tempo tivemos que lidar com essa
visão da neutralidade entre tecnologia e
política. Eu ficava vendo alguns professores
falando e ficava pensando: Nossa, está sendo
criado por nós, temos nossos ideais, nossas
políticas, mas a tecnologia está imune. Que
beleza, alguma coisa imune no território
político. Isso é bom, é bom ver cada vez mais
conteúdos saindo da Academia e entrando
em outras esferas, com uma linguagem mais
acessível, para tornar cada vez mais possível
o que estamos falando aqui; porque o que
estamos falando está em várias instâncias:
de Governo, do setor privado, da Academia
e tudo mais. Todavia, e a sociedade civil,
que é impactada de diversas formas?
Formas que nunca se consegue testar
o suficiente; estou falando de um lugar,
também, de cientista da computação. Ah,
vamos testar o software para sempre.
Sim. E não vai ser suficiente. Não vai ser
suficiente porque o contexto social evolui,
às vezes, muito mais rapidamente do que
a construção tecnológica, não do que é a
inovação tecnológica, mas a construção e o
desenvolvimento. Então, fiquei pensando
muito nisso. Falar de um software livre;
quando penso software livre, ou quando
vejo a galera levantar a ideia da cultura
hacker, novamente; levantar essa questão,
novamente; penso muito na palavra
“colaboração”; e pensando nos problemas
que estamos enfrentando hoje, sobretudo
no Brasil, a tensão política, é… e aí não vou
entrar em mais detalhes, mas não vamos
sair daqui, sobre o que está acontecendo
aqui; é, vamos precisar, cada vez mais,
entender a colaboração, como também
uma forma de repensar as estruturas que
estamos pautando hoje, todos os temas
que nós trouxemos aqui. E aí isso é uma
provocação para a outra mesa, para outro
evento, sei lá, para 2022, visualizando isso
na moderação de conteúdo.
Vejo que a moderação está
chegando em um nível que não
está suportando tudo o que está
acontecendo; é tudo muito rápido,
as ferramentas tecnológicas não
estão conseguindo lidar com a
quantidade de dados gerados;
e as mãos humanas não estão
conseguindo lidar com a quantidade
de conteúdos e mecanismos, de
esconder violência, enquanto
se está compartilhando nas
plataformas, nas redes sociais.
79
 Vejo a colaboração contribuindo,
uma moderação, cada vez mais,
colaborativa.
As redes sociais, hoje, mesmo com a equipe
que elas estão treinando, e a equipe que
tem de segurança, de moderação etc.
Só essa equipe é capaz de julgar casos
LGBTfóbicos e casos racistas? Temos
organizações, estudiosos, temos todo
um movimento dessas causas. É isso que
estou pensando de colaborativo, porque
precisamos chamar a responsabilidade para
essas redes. Tenho responsabilidade, temos
responsabilidade sobre o que postamos,
sobre o que compartilhamos e sobre o que
engajamos; então, visualizo a colaboração
em um lugar, para também tentar nos tirar
desse olhar de que sempre vai ter esse
olhar de que as hierarquias que existem
hoje vão resolver esse problema, de cima
para baixo. Isso não será resolvido, vamos
ter de mudar essa forma de pensar como
resolver problemas complexos da sociedade.
Muito obrigada.
Jerônimo Pellegrini
Nina, é importantíssima sua
colaboração. Temos um laboratório
dedicado a isso. E sobre a neutralidade
da tecnologia também, que nunca foi
neutra, não tem como ser neutra. Não é
neutra nem perfeita, infelizmente. Muito
bem colocado. Agradeço. E, agora, teremos
as considerações de Sérgio Amadeu.
Sérgio Amadeu da Silveira
É um aprendizado tratar de temas
tão complexos. Li sobre a estratégia
de Inteligência Artificial do Brasil; me
chamou muito a atenção que na introdução
daquela estratégia fala-se de vantagens
80
competitivas do Brasil. Quero chamar a
atenção disso. Temos um grande mercado
consumidor, um ruralismo potente, uma
indústria desenvolvida. E uma diversidade
cultural; que é a grande questão, mas não
tem consequência depois. Mas sabe qual é
a grande ausência? Porque sabemos que a
ausência é tão importante quanto a presença.
A ausência é das universidades brasileiras.
Eles não acham que as universidades e os
institutos brasileiros são importantes para
desenvolver uma estratégia de Inteligência
Artificial. Por quê? Porque tudo indica que
temos que ser consumidores. A estratégia
é: desenvolvem-se produtos e tecnologias
de Inteligência Artificial, no Norte; e
consomem-se muito bem aqui, no Sul, os
serviços e aplicativos e tudo mais. Mas,
ao fazer isso, é um pouco pior, por causa
do que a Fernanda e a Nina colocaram
bastante; o Rafael também tocou nisso.
Quando deixamos de desenvolver aqui,
deixamos de fora nossas características,
nossa cultura, não tem tecnologia.
A tecnologia que usamos é
impregnada pela ideologia, pela
doutrina, pela cultura californiana.
Não adianta tentar se eximir disso.
Mas onde está nossa cultura? Onde
estão os desenvolvedores negros,
as mulheres, e tal?
Toda vez que colocamos novas possibilidades
criativas, alteramos a tecnologia, se
acharmos que ela é neutra. Quando
deixamos de desenvolvê-la, quando não
trabalhamos o conceito de soberania
digital e de soberania de dados, passamos
a transferir coisas; e o neoliberalismo
quer isso, o neoliberalismo é outra coisa,
o neoliberalismo contribui com a doutrina
das empresas. Não existe sociedade, como
diria Margaret Thatcher. Essa é a questão.
E o neoliberalismo, quando chega com
sistemas algorítmicos no Estado, o Estado
fica mais opaco, menos democrático; e é o
que está acontecendo. Quando se fala de
decretos, imagine quando isso for agilizado a
partir de mais e mais sistemas algorítmicos,
também. Isso se junta a um pensamento
autoritário com a tecnologia autoritária, e
temos um suprassumo do neoliberalismo,
que substitui todos os servidores públicos
por sistemas; aí eles vão chegar nisso e
aplaudir. A diversidade é um conceito, a
ideia de diversidade criativa/inventiva é um
conceito que está ligado à ideia de soberania.
Nessa acepção, não da Ciência Política.
Porque a acepção da Ciência Política, a
partir de Jean Bodin, a partir de Thomas
Hobbes, a partir da ideia weberiana, é outra
coisa. Mas existe algo a ser feito? Existe.
Temos que criar arranjos inventivos digitais
locais. Local não é no sentido de ter essa
Inteligência representada, precisamos
fazer isso. Não estou falando, não gosto
do termo “nacional”, porque ele está
comprometido pela extrema-direita, por
isso não uso o “nacional”. Escrevi um paper,
agora, sobre a nova eugenia a partir da
Inteligência Artificial; vou apresentá-lo na
ANPOCS. Mas me preocupam muito esses
desenvolvimentos, nos quais os dados vão
ser cada vez mais usados pelas grandes
corporações para mudar o hardware
humano. Pode-se questionar: Isso é ficção
científica? Não é. Não tratamos disso nesta
mesa, nem na anterior, porque não dá;
mas chamo a atenção de vocês: vem aí
um racismo 2.0, 4.0 bem grave. E temos
de trabalhar isso se conseguirmos trazer
as tecnologias e o digital para a discussão.
Não somos só compradores, somos de uma
cultura, que é de desenvolver tecnologias
que nos interessem e nos sirvam.
Jerônimo Pellegrini
Sérgio, é importantíssima a sua reflexão.
Ela se encaixa bem no que a Nina apresentou,
também, sobre a neutralidade tecnológica;
e vejo isso, claramente, acontecendo. Então,
vamos prosseguir, agora, com a Fernanda.
Fernanda Rosa
Ótimo. É difícil olhar com olhos
otimistas quando vemos para onde está
indo a Inteligência Artificial. O fato de que,
uma vez que produzimos o código, o código
se reproduz assim mesmo. Tem o novo livro
da Laura DeNardis, de 2020, explicando a
autonomia do que está acontecendo; então,
quando falamos com uma engenheira, um
engenheiro, que produziu o código, ouvimos:
Ah, como está sendo esse… por que está
saindo esse resultado? Já não dá para ver
como foi feito. Então, delegamos certas coisas
para a máquina, e a máquina está tomando
decisões por si mesma, a partir dos valores
que foram colocados ali. Então, isso é algo
complicado. Mas, por outro lado, se não
temos esperança, é imperialismo, se não
temos esperança, também. Como assim,
não conseguimos acreditar nas pessoas?
Como assim, não conseguimos acreditar
na capacidade de renovação, de inovação?
Não a inovação capturada pelo mercado,
a inovação que vem da necessidade. No
Brasil mesmo, diante da pandemia, quantas
inovações não ocorreram para a sobrevivência
em comunidades? Não tem como não ter
esperança, porque a capacidade está nas
pessoas. A questão é: Estamos ouvindo as
pessoas, dando espaço para essas pessoas
criarem. Não é?
81
 E devemos chamar a atenção para
o poder fundamental da educação,
porque acho que puxando a
sardinha para o lado, para o
nosso lado, não desacreditando
de nenhuma força social, se
tem um lugar que conseguimos
produzir com autonomia e com o
dinheiro obrigatório do Governo,
são as escolas públicas, são as
universidades; então, esses espaços
são espaços de transformação.

Então, vamos acreditar nisso; e acreditar

em quem está lá fazendo gerar a partir
dali. Muito obrigada pela oportunidade.

Jerônimo Pellegrini
Realmente, as universidades têm um
papel importante; foi o que o Sérgio expôs
também, que elas estão ausentes em um
documento que é importantíssimo. Não,
não precisa de universidades. É uma coisa
terrível isso, elas foram feitas para isso.
Tudo bem, o que podemos fazer? Vamos
brigar e tentar mudar isso.

82 83
 Textos baseados nas falas apresentadas
Segundo Encontro durante o encontro virtual que pode ser
assistido na íntegra no link https://www.
Parte 1 youtube.com/live/bmxTSC37PpU?si=NV-
ppTfQikR245l6

“Inteligência Artificial,
democracia e regulação”, Glenda
Dantas, Fernanda Bruno, Tarcizio Silva, Tarcízio Silva
Sivaldo Pereira da Silva, Débora Salles “Imaginem uma fábrica. No chão
dessa fábrica temos um único trabalhador;
na verdade, uma jovem garota. Em torno
Glenda Dantas
dela, estão as pesadas estruturas de tear.
A reunião desses especialistas
Quatro delas em ação mecânica turbulenta.
possui um objetivo muito bem definido,
A garota não opera as máquinas; em vez
que é nortear ações e políticas públicas
disso, elas se operam sozinhas. O tecido mais
para a preparação para essa década;
perfeito e uniforme do que mãos humanas
principalmente tendo como base os objetivos
poderiam conseguir, se tece sozinho. O
para o desenvolvimento sustentável. Mas,
trabalho da garota, o único trabalho, é
para além disso, colabora para a troca
observar as máquinas, garantindo que
de conhecimentos e potencialização
nada ameace seu funcionamento; ela
destes, tanto para pressionar o Poder
limpa a seda, remenda um fio quebrado
Público como sociedade civil quanto para
ou recarrega uma lançadeira vazia. Para
analisar com mais criticidade os usos
fazer, ela para a máquina apertando
que fazemos das tecnologias, que estão
apenas um único botão. Quando finaliza,
além das redes sociais. A experiência e
aperta o botão novamente e o mecanismo
prospectiva dos expositores vai permitir
estremece, de volta à vida, exatamente
que a gente encontre pontos de consenso,
de onde parou”. Esse texto poderia ser
para formular ações e proposições para
uma descrição que poderíamos ler em
o desenvolvimento e uso da inteligência
alguma matéria da Forbes, talvez, falando
tecnológica local. Para começar nosso debate
de alguma inovação do Jeff Bezos, ou do
sobre “Inteligência Artificial, Democracia
Elon Musk, e suas empresas; mas, talvez,
e Regulação”, teremos o Tarcízio Silva,
os mais atentos consigam perceber, pelas
pesquisador, produtor musical, mestre em
referências à indústria têxtil, que não é um
Comunicação e Cultura Contemporânea pela
texto novo. Na verdade, esse texto é uma
UFBA, faz doutorado em Ciências Humanas
visão de futuro proposta por Jacques de
e Sociais na Universidade Federal do ABC,
Vaucanson, na revista Mercure de France,
onde estuda o Imaginário sociotécnico de
em 1745, no século XVIII. Vaucanson foi
resistência. Atualmente, é Tech + Society
um dos inventores de autômatos, seja
Fellow na Fundação Mozilla, atuando na
autômatos para entretenimento, ou algumas
promoção de segurança digital e defesa
máquinas para a indústria mais famosas
contra danos algorítmicos.
dessa época; e herdou do pai, a profissão.
Esse caso foi levantado por Edward Jones-
Imhotep, em um artigo muito interessante,
84 85
que argumenta que um dos grandes desafios
para se pensar a história da tecnologia
e automação e a Inteligência Artificial,
hoje, é o modo pelo qual falamos sobre
tecnologia; o que falamos sobre automação
foi construído há bastante tempo, por volta
do século XVIII, ligado a esses imaginários
sociotécnicos de futuro sobre automação e
sobre tecnologia. Edward Jones-Imhotep,
historiador da tecnologia, argumenta que
os modos de falar sobre o futuro acabam
direcionando muito as decisões que temos
ligadas a políticas públicas e regulação
sobre tecnologia; e, sobretudo, a partir
de duas táticas. Adaptando um pouco a
pesquisa do historiador, um pouco, ao nosso
contexto, essa tática permite pensar em duas
coisas: que esse tipo de discurso que tenta
posicionar os mecanismos autômatos, como
totalmente desvinculados de trabalho, ou
desvinculados de outras redes de insumos,
que se materializam naquele sistema, ou
naquela máquina, no caso de uma máquina
industrial, permite duas coisas. A primeira,
seria retirar a ênfase e a valorização social
de outras atividades e insumos, que fazem
parte dessas redes de produção, mas que
não são facilmente automatizáveis. Então,
quando se pensa em plataformização, por
exemplo, a ênfase em ideias questionáveis
de gig economy, em aplicativos, como Uber,
iFood etc.; seria um exemplo desse tipo
de lógica.
O holofote vai para a suposta
inovação no aplicativo, na interface,
e tenta apagar o trabalho efetivo
que está sendo precarizado.
E o segundo ponto é que esse tipo de
discurso oferece, continuamente, promessas
de invenções e inovações futuras para
86
convencer investidores; e para convencer,
continuamente, o capital a colocar mais
e mais dinheiro relativo a promessas de
futuros mais automatizados e lucrativos
para investidores. Um caso de hoje, na
contemporaneidade, é a ideia de carros
autômatos, que ainda está muito longe, por
diversos motivos, de ser uma realidade,
pensando toda a complexidade dos sistemas
de mobilidade. Mas esse discurso, ao mesmo
tempo, também tem seu papel em termos de
consensos públicos sobre o que é aceitável,
em troca de inovação, em troca de futuros
desejáveis. Então, quando pensamos sobre
sociedade, eleitores e parlamentares que
decidem, direta ou indiretamente, acreditar
sobre quais são essas tecnologias do futuro,
temos a manutenção de imaginários que
transformam, literalmente, CEOs de Big
Tech, atualmente, em líderes públicos;
que, desde a expropriação mais violenta
de trabalho, até a destruição de recursos
naturais, em prol de ideários neocoloniais,
espaciais até, como se vê hoje. Minha
pesquisa, citando especificamente o racismo
algorítmico, tem dialogado um pouco com
essas táticas de invisibilização de fatores
e de opacidade; com base, sobretudo, em
Ruha Benjamin, que propôs inicialmente
esse conceito de racismo algorítmico. Eu
tenho tentado entender – isso tem reflexos
nos debates sobre regulação – quais tipos
de variáveis, em camadas, na tecnologia, na
relação tecnologia e sociedade, são apagadas
ou ocultas nos processos de firmação de
contratos sociais, de referências regulatórias
e afins. Especificamente, tenho trabalhado
o conceito de dupla opacidade, quando se
pensa em racismo algorítmico.
Por um lado, para tratar da
denegação do racismo, que, no
caso do Brasil e dos Estados
Unidos, é um fenômeno fundante
da manutenção do racismo e da
supremacia branca. E por outro,
da noção de neutralidade da
tecnologia, que, se na Academia,
em grande medida, pelo menos
em nossas áreas, essa noção de
neutralidade foi bastante superada;
não acontece o mesmo em outras disciplinas,
em outras áreas, ou no discurso público,
ou no discurso empresarial, ou da mídia
empresarial, sobre a tecnologia. Isso permite,
de certa forma, explicar a permanência de
alguns casos de impactos da Inteligência
Artificial, quando se pensa em processos
de racialização e racismo.
Vou citar, rapidamente, dois casos que são
um pouco mais famosos. Um deles é o caso
dos buscadores. Tem um livro famoso,
e outras pesquisas que se debruçaram
sobre esse objeto, o livro é Algoritmos da
Opressão, da professora Safiya Noble, que
estudou como os buscadores representam
minorias raciais, minorias em termos de
origem, de forma muito mais negativa.
E, frequentemente, a lógica contida na
permanência é a de que apenas representa
e reflete a sociedade; então, seria justo
algum tipo de intervenção. O segundo caso,
um pouco mais recente, foi um estudo
publicado na revista Nation, final de 2019,
salvo engano, onde pesquisadores de Saúde
Coletiva, Ziad Obermeyer e colaboradores,
descobriram como planos de saúde, que
previam níveis de cuidados a diferentes
pacientes, discriminaram, de forma
sistemática, pacientes negros e outras
minorias, nos Estados Unidos. Ao realizar
auditoria desses sistemas, o Obermeyer
identificou, que, na verdade, há inserção de
dados completamente enviesada, porque
ela reflete milhares de decisões discretas,
individuais, de pessoas nas filtragens dos
sistemas, sejam – do Sistema de Saúde,
não é de saúde privada, sobretudo – sejam
médicos que priorizam determinados
tipos de paciente, no momento de fazer
a triagem; sejam profissionais de planos
de saúde, que vão ser mais insensíveis
a dores de pessoas não brancas, nos
Estados Unidos. Então, isso leva a uma
ideia que eu tenho trabalhado, de redes
difusas de agência. Na medida em que a
lógica de aprendizado de máquina, que é
relativamente consolidada na construção
de sistemas automatizados, parte da ideia
de aprender com histórico de dados, com
histórico de pontos de informação sobre
determinado domínio, que aquele sistema
algorítmico está trabalhando.
Isso significa, na maior parte
das vezes, uma exacerbação das
relações de poder que já existiam.
E para fechar, o que isso tem a ver com
regulação? Do meu ponto de vista, não é?
Estamos testemunhando diversas iniciativas
de regulação da Inteligência Artificial, de
forma direta ou indireta; então, tem a PL,
que está em tramitação no Senado, ou a
própria Lei Geral de Proteção de Dados,
que tem um artigo que fala de revisão
de decisões automatizadas; o artigo 20,
da LGPD, diz, atualmente: “O titular dos
dados tem direito a solicitar a revisão de
decisões tomadas unicamente com base
em tratamento automatizado de dados
pessoais que afetem seus interesses,
incluídas as decisões destinadas a definir
o seu perfil pessoal, profissional, de
consumo e de crédito, ou os aspectos de
87
sua personalidade”. Essa atual redação,
modificada através de MP, originalmente,
tinha como início: “O titular dos dados
tem direito a solicitar a revisão por pessoa
natural”. O que já era um tipo de barreira,
onde a revisão da decisão tomada, com
o sistema automatizado, seria realizada
por uma pessoa, você teria esse aspecto
humano. Quando esse trecho é retirado,
abrimos outros referenciais “a revisão de
decisões automatizadas por outros sistemas
automatizados”. O que acaba sendo um loop,
um jogo de gato e rato, em cima de como
essas decisões são realizadas por sistemas,
aparentemente, automatizados, mas que,
na verdade, apenas mediam decisões
construídas pelos seus desenvolvedores.
Então, temos alguns desafios na
regulação e na implementação,
seja por meio dessa lógica legalista,
seja por meio das relações
entre os atores vinculados, do
que, efetivamente, podem ser
mecanismos de controle da
Inteligência Artificial, por futuros
mais justos e mais distribuídos.
Trouxe aqui um texto, do recente
documento chamado Novo Código de
Ética de Inteligência Artificial, proposto
pela China – incluí alguns itens que foram
considerados por especialistas, mais
rigorosos, que outros referenciais em
torno do mundo. Um deles é o terceiro
artigo, que enfatiza a responsabilidade
humana, de forma muito mais densa e
forte, do que as atuais redações do PL
brasileiro; ele diz o seguinte: “É preciso
fortalecer a responsabilidade, e insistir que
os seres humanos são sujeitos final dessa
responsabilidade, que sejam esclarecidas as
88
responsabilidades das partes interessadas; e
aprimorar, de forma abrangente, esse senso
de responsabilidade, a análise cuidadosa
e autodisciplina em todos os aspectos do
ciclo de vida da inteligência artificial”. E o
artigo reforça, novamente, até de forma
redundante, estabelecendo mecanismos de
responsabilização da Inteligência Artificial,
que não fuja da definição e atribuição de
responsabilidades de seus criadores. Por
fim, o artigo 8 inclui como padrão de gestão:
“Realizar monitoramento e avaliação
de risco sistemático, em tempo hábil, e
estabelecer um mecanismo de alerta precoce
de risco eficaz, e aumentar a capacidade
de inteligência artificial, de gerenciar e
controlar seus próprios riscos éticos”.
Então, há uma tendência, obviamente,
controversa, sobretudo devido à sua origem
de forçar atores, sejam privados, sejam
atores públicos, a implementar mecanismos
ativos de controle, antes do processo de
remediação ou de revisão. Até que ponto
conseguimos tentar promover isso; e que
atores podemos trazer como aliados
para promover essa responsabilidade
ética, distribuída pelo controle social da
tecnologia?
Glenda Dantas
Tarcízio apresenta um panorama
bem fundamentado sobre os impactos da
plataformização, dos mecanismos autômatos
para a manutenção de estruturas de poder,
essas estruturas que estão fundamentadas
em opressões; especialmente, por meio da
exploração da mão de obra, de recursos
naturais, que intensificam essas estruturas
interseccionais de desigualdade. Um dos
objetivos deste projeto, pensar alternativas
possíveis de desenvolvimento, que,
principalmente, nos libertem dessas
amarras do colonialismo;
é fundamental se pensar na
discussão sobre o desenvolvimento
tecnológico, chamando mesmo esse
senso de responsabilidade em
todos os âmbitos; principalmente,
tendo como base as desigualdades
interseccionais que compõem as
estruturas de poder, aqui, no Brasil.
A seguir, vamos conhecer os comentários de
Débora Salles, pós-doutoranda no Grupo de
Pesquisa NetLab, da Escola de Comunicação,
da Universidade Federal do Rio de Janeiro;
doutora em Ciência da Informação no Instituto
Brasileiro de Informação, Ciência e Tecnologia,
o IBCT, da UFRJ.
Débora Salles
Foi ótimo ouvir o Tarcízio, e pensar,
como que o que eu preparei está relacionado
com algumas questões que ele colocou.
Irei apresentar, resumidamente, o que é
Inteligência Artificial, do ponto de vista de
uma pesquisadora que tenho acompanhado,
e que acho que pode acrescentar muito para
o debate. O nome dela é Kate Crawford, e
ela lançou, recentemente, um livro chamado
O Atlas da IA: Poder, Política e os Custos
Planetários da Inteligência Artificial. Com
base nessa leitura e de algumas discussões
sobre a pesquisa dela, a minha ideia é tratar
um pouco sobre como
essas redes globais, que sustentam as
tecnologias de Inteligência Artificial,
estão prejudicando o meio ambiente,
consolidando as desigualdades e
impulsionando uma tendência de
governança antidemocrática.
Vou falar do principal argumento da
Kate Crawford, uma provocação muito
interessante, que é a Inteligência Artificial,
que não é nem inteligente nem artificial.
Com base nisso, abordarei a questão da
materialidade da Inteligência Artificial e o
que tem sido feito para regular isso, e sobre
das limitações dessas regulações. Quando
pensamos: O que é a Inteligência Artificial?
Sabemos que ela está em todos os lugares,
mas poucas pessoas sabem os detalhes
técnicos do que é a Inteligência Artificial;
porque, normalmente, ela é apresentada
como algo etéreo, é a nuvem, é algo que
está flutuando fora de nós, totalmente
suspenso e sem grandes consequências e
custos. Normalmente, quando pensamos em
Inteligência Artificial, ou é um robô branco,
ou é uma imagem com um fundo azul e linhas
brancas, com números suspensos, e coisas
muito hightech. E o que Crawford tenta
argumentar é que esses imaginários dessa
Inteligência Artificial etérea, de alguma
forma, são fora da nossa realidade; ela é
um imaginário, que, de alguma forma, nos
impede de entender o mundo material da
Inteligência Artificial. Precisamos levar em
consideração que todos esses sistemas, em
escala, de Inteligência Artificial, dependem
da exploração de recursos minerais e de
energia, necessitam de mão de obra e de
dados; e esse tripé é justamente o que ela
tenta mapear de forma bem interessante.
Quando ela fala que a Inteligência Artificial
não é nem artificial nem inteligente, ela
diz, que ela não é inteligente, porque não
se parece com nenhum tipo de inteligência
humana. Um dos grandes erros, de acordo
com ela, do desenvolvimento da Inteligência
Artificial, é que acreditar que as mentes,
a cognição, seriam com computadores, e
vice-versa. O que ela diz, é que, na verdade,
89
as máquinas são treinadas humanamente
para assumir tarefas que para nós seriam
muito custosas, seja em termos de tempo
ou de trabalho. Mas, além disso, ela não
é artificial, porque está dentro dessa
materialidade do planeta, em que estamos
lidando com recursos naturais escassos,
com combustível e trabalho humano. Então,
com base nessa ideia, precisamos pensar
por que achamos que é inteligente. E, assim,
como a Inteligência Artificial funciona?
Ela é diferente de um simples processo
de automação, não é? Na automação, um
programador faz um código, e sempre dá a
mesma coisa, digamos assim. O algoritmo
de Inteligência Artificial, teoricamente,
sabe qual é o resultado pretendido, e ele
cria uma forma de atingir esse resultado.
Assim, esse resultado pretendido, esse
conhecimento que a Inteligência Artificial
tem, nós o ensinamos a ela; e o fazemos a
partir de conjuntos de dados; e esse é um
dos principais problemas, quando se pensa
em Inteligência Artificial. Que dados são
esses? E como se categoriza esses dados?
Porque nós, humanos, estamos dando input
para esses sistemas.
Então, quando pensamos em
conjunto de dados que não
representam a sociedade, ou que são
baseados em exemplos anteriores,
que reforçam preconceitos e
lógicas de discriminação, temos
um problema; que, na verdade,
não é exatamente novo, mas que
assume uma faceta,
de alguma forma, ele se torna possível
de ser solucionado, apesar de já ter sido
abandonado pelas Humanidades. Então,
quando pensamos sobre a possibilidade de
90
saber o sentimento de alguém a partir da
expressão facial, isso é algo que a Psicologia
já abandonou, mas a Inteligência Artificial
acha que isso é um problema solucionável.
Quando pensamos sobre essas questões de
discriminação e preconceito, e os dados,
temos de pensar que é com base nesse
treinamento, desses inputs que damos,
dos nossos próprios dados, que eles são
ressignificados e reutilizados para outros
fins. Então, nossas imagens servem para
treinar algoritmos que detectam imagens
de todos os tipos. Só que precisamos pensar
que quando estamos desenvolvendo um
algoritmo para detectar alguma coisa,
temos de dar muito input para ele, muita
imagem, muito dado. E como categorizar
isso ainda é um problema. Como eu estava
falando, a questão da Inteligência Artificial
é mais do que uma automatização de um
processo, essa ideia de que a Inteligência
Artificial vai ajudar a resolver um problema
complicado; mas, mais que isso, temos
usado termos complicados para lidar com
as limitações desses algoritmos e desses
conjuntos de dados. Muitas vezes, falamos
em viés, e não em erro. Muitas vezes, se
fala em falta de dados, e não em dados de
baixa qualidade. Mas a grande questão é
que estamos considerando categorizar
fenômenos sociais e pessoas, e achando
que na tecnologia vamos resolver extraindo
dados em massa. Mas, além do problema
dos dados, a Crawford indica que temos
de lidar com o problema ambiental, o uso
de recursos energéticos, então, grandes
sistemas de Inteligência Artificial consomem
enormes quantidades de energia; mas, esses
dados, o quanto isso está sendo usado em
termos de recurso material, ainda é muito
opaco. Enquanto nossas interações são
extremamente visíveis, estamos sendo
rastreados e mercantilizados, e essa
noção do quanto gastamos de energia
para ativar um sistema de Inteligência
Artificial, não é clara e não é simples de
ser quantificada. Mas, além de pensar
nessa perspectiva individual, temos de
olhar para os grandes centros de dados,
para os grandes servidores. A Amazon, a
maior empresa de computação em nuvem,
é completamente opaca em relação à
pegada de carbono, enquanto continua
com operações massivas, de forma não
transparente. Além do consumo de energia,
o que Crawford coloca, é que temos de
levar em conta a mineração de recursos
naturais, que são usados para produzir
esses dispositivos; ela traz a questão do
lítio, dos depósitos de lixo eletrônico, dos
volumes de água que são usados para
resfriar os servidores. Assim, são vários
custos ambientais, que são invisíveis para os
usuários; muitas vezes, quando pensamos,
por exemplo, “vou acionar a Alexia para
ligar um eletrodoméstico”; isso requer,
muitas vezes, mais energia do que se eu
simplesmente ligar o eletrodoméstico.
Isso é uma conta que não conseguimos
fazer, não é clara, as empresas não
liberam esse tipo de informação; mas é
importante que entendemos que existe
toda uma escala, uma grande rede, quando
tentamos entender como governar essas
infraestruturas técnicas de forma mais
sustentável. Em relação a essa questão da
materialidade, Crawford coloca também o
problema do trabalho; e aí eu acho que tem
duas perspectivas que são interessantes
para olhar. Uma delas tem a ver com a
terceirização e com a precarização de alguns
trabalhos cognitivos, digamos assim. Então,
quando pensamos nos moderadores de
conteúdo, do Facebook, teoricamente, 90%
do material questionável, das imagens
problemáticas e dos posts censuráveis, são
detectados e excluídos por algoritmos de
Inteligência Artificial. Mas tem 10% desse
conteúdo, que, teoricamente, fica na mão
de pessoas, de funcionários que têm um
trabalho extremamente desafiador; são
turnos de 8 horas, vendo e categorizando
imagens e definindo quão inaceitáveis elas
são socialmente, e para os termos de uso
do Facebook. Mas além desse problema,
desse trabalhador precarizado, que está
ali limpando esse lixo das plataformas;
também temos que pensar, por exemplo,
na tentativa da Amazon de automatizar
a agenda dos funcionários para que os
distúrbios físicos causados lá dentro dos
seus grandes armazéns sejam minimizados.
A ideia é a seguinte: não vamos
melhorar as condições de trabalho,
vamos usar mais tecnologia de
vigilância, mais inteligência, para
extrair ainda mais valor desses
corpos, dessas pessoas.
E quando olharmos para esse cenário, em
que estamos lidando com questões materiais
e questões que envolvem o trabalho das
pessoas, que envolvem os dados, vamos
deparar com propostas de regulação que
ainda não dão conta dessa complexidade.
Nos últimos anos, aproximadamente, acho
que diria que, pelo menos, 50 países, têm
debatido a criação de políticas públicas
para fomentar o desenvolvimento da
Inteligência Artificial e, também, de alguma
forma, regular. A União Europeia tem sido
a principal referência, nos últimos meses,
isso já está bem avançado; desde o início
do ano, tem trabalhado, com a sociedade
civil, mas ainda apresenta muitos desafios.
91
A regulação proposta pela União Europeia
tenta olhar a possibilidade de risco desses
sistemas; então, a possibilidade de um
sistema criar um problema e, dependendo
do tipo de risco e do tipo de problema, as
ações vão ser tomadas de forma específica.
Só que ainda é uma proposta pouco clara,
pouco definida, ainda está em tramitação;
mas ela é, atualmente, a mais avançada
e, teoricamente, que tem dado conta de,
pelo menos, estabelecer um diálogo com
a sociedade civil. O que não é o caso do
que aconteceu aqui, no Brasil, como já
comentado anteriormente. Aprovamos,
em regime de urgência, sem nenhum debate
com a sociedade civil, o marco legal do
desenvolvimento e uso da Inteligência
Artificial. Nos Estados Unidos, vemos um
movimento de tentar um diálogo, a Casa
Branca, o Escritório de Política Científica
e Tecnológica da Casa Branca, tem feito
anúncios convocando a sociedade civil
e os especialistas para dialogar com o
Governo; mas ainda é muito incipiente.
E o que vemos aqui, no Brasil, é ainda
um projeto aprovado a toque de caixa e,
aparentemente, com pouca usabilidade;
assim, fazendo pouca diferença, definindo
pouca coisa. Mas não quero entrar muito
nesse tema, queria só finalizar reforçando a
necessidade de regularmos esses efeitos da
Inteligência Artificial; mas não podemos cair
no que Crawford chama de “determinismo
fantástico”, que é a crença de que esses
sistemas são sobre-humanos; sabe, eles são
incríveis, eles são mais que nós; e nós, por
isso, não podemos entender, nem regular;
mas eles são sobre-humanos, também, do
ponto de vista em que podemos confiar
neles, as previsões que eles fazem dão
sentido para nossa vida. Ficamos muito
otimistas, de que ignoramos o perigo que a
92
vida das pessoas é colocada diante desses
sistemas. Pensando em um exemplo, eu
estava lendo, outro dia, sobre uma revisão
de literatura de algoritmos de Inteligência
Artificial usados para diagnosticar e prever
resultados para pacientes com covid.
Eles revisaram mais de 200 artigos e
descobriram que nenhum desses sistemas
era adequado para uso clínico; mas, diante
da pandemia, eles foram aplicados, foram
utilizados. Então, um dos autores do estudo
comenta, que ele teve medo de que isso
possa ter prejudicado alguns pacientes. Isto
é, essa ideia de que precisamos trabalhar
a toque de caixa é um problema. Mas a
grande questão, que Crawford coloca, e
espero ter contribuído, é que
com essas práticas que nos
distanciam de todo esse sistema,
desumanizando a Inteligência
Artificial e colocando essa parte
material à distância, acabamos
ignorando alguns dos principais
impactos e os principais envolvidos.
Glenda Dantas
Débora provoca, com base na
perspectiva da pesquisadora Crawford
sobre como a Inteligência Artificial não
é nem inteligente nem artificial. Tendo
em vista que as máquinas são treinadas
humanamente para executar as ações, que,
tecnicamente, nos seriam muito difíceis de
executar. Nesse processo, ela também nos
provocou a refletir sobre quais são os limites
éticos e de regulação dessas tecnologias;
como se dá a exploração dos recursos
naturais, que, muitas vezes, parece invisível
para nós, usuários, e, principalmente, a
exploração também da mão de obra, além
da opacidade em relação aos destinos
finais, ao que tem sido feito da giganteza
de informações que deixamos por meio
das tecnologias. Agradeço muito a sua fala,
foi fundamental a sua contribuição. Agora
teremos o Sivaldo Pereira, professor da
Faculdade de Comunicação e do Programa
de Pós-Graduação em Comunicação da
UnB; PhD em Comunicação e Cultura
Contemporâneas pela Universidade Federal
da Bahia; possui pós-doutorado no Centro de
Estudos Avançados em Democracia Digital
e Governo Eletrônico, na UFBA; é fundador
e coordenador do grupo de pesquisa Centro
de Estudos em Comunicação, Tecnologia
e Política e pesquisador do INCT-DD.
Sivaldo Pereira
A Inteligência Artificial tem várias
dimensões, diversas faces para se abordar;
vou me concentrar em questões éticas,
questões sociais e questões políticas;
enfim, vou me concentrar em três pilares:
questões materiais, que envolvem I.A.;
dimensão cultural e depois a política,
que está relacionada a essas duas. A
primeira coisa que precisamos entender
é a seguinte: quando falamos de sistemas
de I.A., estamos falando, na verdade, de
uma série de mudanças importantes em
termos de economias materiais. Estamos
no começo histórico deste processo. Então,
dimensões que envolvem, por exemplo, a
Revolução 4.0 de que tanto falamos, mas,
na verdade, os sistemas de I.A., tendem a
alterar diversas dimensões econômicas
e, principalmente, três dimensões muito
importantes. Primeiro, otimizando recursos,
fazendo recursos valerem mais. Segundo,
reduzindo os custos, fazendo com que você
consiga fazer mais com menos. E, terceiro,
e isso é muito importante, aumentando
controle. Então, imaginem, o capitalismo
sonhou sempre com isso: otimizar recursos,
reduzir custos e aumentar o controle.
Aumentar controle significa você ter uma
previsibilidade, ou seja, prever coisas, ter
um pouco de domínio sobre o futuro. Então,
esse é o elemento mais importante em
termos de I.A., que é justamente a ideia
do controle sobre o que vem, o controle
sobre o futuro. A ideia de racionalizar a
produção, isto é, racionalizar não quer
dizer você fazer de forma mais inteligente,
quer dizer você saber o que vai acontecer
depois; saber racionalmente qual o próximo
passo, em termos de racionalidade
humana. Racionalidade, quer dizer que é,
necessariamente, bom ou ruim – isso pode
ser bem ruim, inclusive, quando usamos
isso para outros fins; esses elementos são
muito importantes, porque eles têm vários
impactos. Então, para que esse sonho do
capitalismo funcione bem, é necessário que
algumas coisas se concretizem: a primeira
delas é a matéria-prima; porque a matéria-
prima, em sistemas de I.A., é uma coisa
muito simples, chamada dados. Não existem
sistemas de I.A. sem dados, muitos dados.
Os dados é que fazem os algoritmos serem
treinados, e esse treinamento é que os faz
perceberem padrões e agirem a partir daí,
de forma autônoma. Sem dados, não existem
sistemas de I.A. Quando falo de dados, é um
elemento muito importante, e, na verdade,
os dados são matérias-primas para que o
sistema de I.A. funcione. E quem produz
esses dados somos nós. Nós, e também
outros sistemas; mas também somos parte
dessa engrenagem. Então, para que essa
matéria-prima funcione, é preciso que
haja muita coleta de dados; e a pandemia
ajudou bastante nesse processo de coleta
de dados, sobretudo, tudo está registrado.
Com base nisso, podemos fazer os sistemas
93
funcionarem. E os impactos disso não vão
ser vistos agora, eles vão ser vistos daqui
a 20, 30, 40 anos – quando você tiver, por
exemplo, 30 anos de dados coletados sobre
coisas. A tendência, por exemplo, o sistema
de I.A., de você não mais saber a diferença
entre, se você está conversando com o
sistema de chatbot ou com uma pessoa;
que é uma tendência dos sistemas de I.A.,
de imitarem, inclusive, nossas imperfeições,
que são naturais. Assim, várias vezes,
Projetos de Lei de discussões sobre isso
falam que a máquina, no futuro, tem que
dizer que ela é máquina, porque não vamos
saber com quem estamos conversando.
Vamos ter o direito de saber se estamos
conversando com a máquina ou com um
agente humano – vou falar sobre a expressão
da humanidade, na máquina, mais a frente.
Então, há uma alteração na forma, o dado,
está sendo um alvo importante, porque,
na verdade, o dado, tem de ser visto como
uma commodity, assim como o petróleo foi.
Imaginem, como o petróleo, de forma tão
crua, é uma commodity, porque precisamos
dessa coisa crua, dos dados, para fazermos
coisas mais sofisticadas. Logo, as leis de
proteção de dados pessoais, por exemplo,
não são leis que proíbem essa coleta de
dados; elas, na verdade, regulam como
se pode processar esses dados. Por quê?
Porque há uma grande pressão econômica
de que precisamos desses dados para
os sistemas de I.A. funcionarem. Como
comentei, sem dados, não há I.A. E quanto
mais dados tivermos, mais o sistema vai
ter capacidade de previsibilidade, de
controle. Isso perpassa diversas dimensões:
materiais, porque as máquinas vão passar
a funcionar com base nessa estrutura; isso
impacta em empregos. Há vários institutos
que mostram isso. Analisaram 702 tipos
94
de atividades profissionais nos Estados
Unidos, e eles previram que o sistema de
I.A. vai ter impacto em 47% dos postos
de trabalho. Isso quer dizer alto risco
de substituição, ou seja, alto risco de
desaparecerem os postos de trabalho.
O que isso vai gerar? Muitas questões.
Primeiro, isso vai redimensionar a forma
como a força de trabalho existe dentro do
sistema capitalista. O que vai fazer com
que, também, haja mais concentração;
e assim, vamos ter mais camadas muito
mais complicadas em termos de controle.
Sivaldo
O que isso vai gerar? Muitas questões.
Primeiro, isso vai redimensionar a forma
como a força de trabalho existe dentro do
sistema capitalista. O que vai fazer com
que, também, haja mais concentração; e
assim, vamos ter mais camadas muito mais
complicadas em termos de controle. Logo,
precisamos pensar que os sistemas de I.A.
têm impacto material, econômico, nos médio
e longo prazos, e isso é importantíssimo,
e esses impactos vão ser gradativamente
construídos de forma muito sutil. Não vai
ser um impacto em que vamos perceber que
tudo, como tudo mudou, as coisas vão mudar
de forma gradativa. E esse movimento
vai acontecer de forma muito gradativa,
e vai acontecer de forma muito, digamos,
sedutora. Essa sedução é irresistível. Tanto
é que já somos apaixonados por sistemas
de I.A. e geralmente não percebemos isso,
que, não sabemos viver sem eles. Então,
a tendência é, cada vez mais, ficarmos
afetivamente vinculados a esses sistemas
de I.A. Isso é importante, do ponto de
vista material. Vou falar um pouco dos
próximos passos, e vamos entender um
pouco mais o que isso significa, como
esses impactos econômico-materiais vão,
de algum modo, ser concretizados. Vou
falar agora da dimensão cultural. Essa
dimensão é muito importante. A primeira
coisa que precisamos entender, isso está
muito claro no debate sobre tecnologia,
é que não existe nada mais humano do
que a máquina. Certo? Então, a máquina
não é algo extraterrestre, nem foi feita
pelo João de Barro. A máquina é algo
extremamente humano, só nós podemos
construir máquinas; e as máquinas são, na
verdade, dispositivos culturais, engrenam
na cultura, entram na cultura. Vivemos
em uma cultura automotiva nas cidades,
porque as máquinas, os carros invadiram
as cidades a partir do século XX. Vivemos
uma cultura, por exemplo, de celulares. Na
prática, as máquinas são extremamente
humanas, são objetos e as máquinas
tecnológicas mais ainda, porque lidam
justamente com essa camada fina, que
é muito mais do que a questão manual,
braçal. Os sistemas de I.A. são treinados a
partir de dados; e esses dados nada mais
são do que registros da cultura; então, a
cultura é registrada, de forma sistemática,
em estruturas DataFrame, ou estruturas de
base de dados suscetíveis para leitura de
algoritmos; e essa cultura organizada em
estruturas de Frame passa a ser muito mais
manipulada e muito mais compreensiva,
do ponto de vista estatístico, do ponto
de vista também de efeitos práticos em
relação a isso. Então, há um caráter muito
utilitarista, inerente a essa tecnologia. É
útil, é algo no sentido de que esses sistemas
de I.A. tendem a gerar muito bem-estar,
comodidade.
Quanto menos privacidade
você tem, mais conforto terá; se
optarmos por não sermos vigiados
de forma alguma, vamos ter uma
vida extremamente dura, no
mundo de hoje, quase isso.
Tendemos a bloquear todos os sistemas de
I.A., todos os sistemas de I.A. que usamos,
sistemas tecnológicos, celulares. Não
vamos conseguir nem pedir uma pizza,
por exemplo, até porque, daqui a pouco,
você nem vai mais conseguir usar telefone.
Esses sistemas são altamente sedutores,
em termos de nos dar conforto. Vamos
nos apaixonando pelos sistemas, porque,
na verdade, vamos viver melhor com os
sistemas. Temos duas opções, por exemplo,
quando usamos o Waze. Arriscamos não ser
vigiados, desligamos todos os aparelhos.
E vamos arriscar pegar um trânsito, ficar
parado no trânsito, durante 1 hora, para
chegar ao ponto X, ou vamos preferir usar
o Waze para chegar mais rapidamente no
lugar e evitar, por exemplo, problemas no
percurso? Certamente, vamos preferir a
segunda opção, mais conforto. É uma
escolha, e não é justa; porque, na verdade,
estamos mexendo com algo que é conforto
e uma maneira de viver bem.
Há uma dimensão cultural em
torno dos sistemas de I.A., que é
justamente os sistemas que vão se
conectar a uma grande quantidade
de dados, visando eficiência lá na
frente, o sistema, em linhas gerais.
Dando algo que é tempo de vida, por
exemplo, aplicativos como o Waze. O
Waze não dá um trajeto, ele dá tempo
de vida. Ele deixa viver mais, porque
perdemos menos tempo, digamos, em um
congestionamento. O que um aplicativo,
95
como o iFood, dá, não é a comida, ele dá
tempo de vida, e previsibilidade, não é?
Temos uma comida muito mais rápida,
chegando, conseguimos acompanhar o
trajeto do entregador, ele chega de forma
muito rápida, não precisamos ligar para a
empresa até a comida chegar. Todas essas
aplicações lidam com esse tipo de coisa. Só
que isso tem um preço, que é justamente
o aumento do controle. Eu adoraria ter
controle sobre minha filha de 2 anos. O
controle não é um problema. O problema
é que tipo de controle e quem controla
o quê. É outro elemento importante, em
termos culturais, que é esse controle, ele
gera uma coisa muito importante, que é
estabilidade. Então, os sistemas de I.A.
tendem a nos deixar muito estáveis, eles
minam o problema de instabilidade e nos
dão elementos de estabilidade. Então,
teremos nossa vida muito mais estável
se nos conectarmos, se nos cercarmos de
sistemas de I.A. eficientes, aplicativos, muito
mais… nossa vida será muito mais estável
do que instável. Se resolvermos desligar
todos os aparelhos, seremos altamente
instáveis. Essa estabilidade significa, na
verdade, uma estabilidade que nos afeta,
nos seduz, de algum modo, do ponto de
vista ontológico; mas, ao mesmo tempo,
gera uma estabilidade do ponto de vista
da conservação. Ou seja, o mundo tende a
ser algo um tanto quanto conservador, no
sentido de conservar mesmo, algo mais
conservador. Tendemos a manter o mundo
dentro de uma estrutura que se repete,
a ideia do loop, a ideia da repetição, da
imitação. Então, são sistemas que se repetem,
e eles tendem a eliminar elementos, que
são elementos de estabilidade, e também
eliminam elementos de mudança desse
sistema; até porque, se olharmos do ponto
96
de vista técnico, os sistemas de I.A. são
aqueles… eles trabalham com dados; e os
dados, eles fazem, inclusive, previsão do que
vai acontecer. Pegamos uma série de dados
que aconteceram no passado, prevemos
que se as condições acontecerem daquela
forma, a probabilidade de aquilo acontecer
é Y. Prevemos coisas nesse sentido. A ideia
de futuro, por exemplo, de que os sistemas
de I.A. provocam é, na verdade, uma ideia
conservadora, porque é uma ideia de que
eles colhem dados do passado; e esses
dados são projetados no futuro. O passado
passa para o futuro, em termos práticos. O
passado passa a se repetir indefinidamente,
quando não olhamos para os sistemas de
I.A., como um todo.
No médio e longo prazos é que os
sistemas de I.A. geram estruturas
culturais. Em relação às estruturas
culturais, é difícil sair delas, a não
ser que façamos alguma coisa.
Pegando a metáfora do filme Matrix, então,
um pouco de Heidegger, a metáfora do
filme não é um corpo conectado, com
energia sendo retirada para manter as
máquinas funcionando. Na verdade, é um
corpo conectado gerando dados para que
os sistemas de I.A. funcionem; os corpos
precisam ser estáveis, domesticados,
domados, para que esses dados façam o
sistema ficar sempre estável, ad infinitum.
E o Heidegger fala algo muito interessante,
ele fala da tese sobre Trilogia, ele fala que,
no passado, por exemplo, construíamos
dispositivos técnicos, instalando-os nas
pontes, que eram instalados nos rios. Fala
que as hidrelétricas passaram a transformar
o rio em um dispositivo. Se as fontes eram
dispositivos do rio, as hidrelétricas fizeram
o inverso, transformaram o rio em um
dispositivo que alimenta a hidrelétrica;
então, o sistema de I.A. tende a nos
transformar também em dispositivo, nesse
sentido. Ou seja, tendemos a ser dispositivos
dos sistemas de I.A. Agora, falando um pouco
sobre esse sistema, da finalidade política…
Isso em vários impactos políticos. Certo?
Primeiro, toda essa estrutura gera uma
capacidade enorme de imitação, de algo
que está dado, e que gera uma estrutura
de reforço e repetição. Há uma tendência
dos sistemas de I.A. criarem estruturas
prontas que se repetem. Nada mais poderoso
do mundo do que fazermos as coisas se
repetirem, em larga escala. Assim, os
sistemas de I.A. criam estruturas, grandes
estruturas de repetição. Passamos a nos
comportar de acordo com os sistemas,
porque alimentamos esses sistemas de
forma repetitiva; o sistema não precisa
mais mandar alguém policiar nossa casa
para nos mandar fazer alguma coisa; ele
simplesmente nos coloca no sistema, e faz.
Se quisermos ter algum tipo de conforto,
ou vida melhor, teremos de entrar nesse
loop do sistema. Então, politicamente,
temos também um elemento, que é um
elemento de repetição do que estava dado,
de concentração de poder; assim, o poder
passa a ser mais concentrado, porque são
poucas empresas que terão essa capacidade
enorme de gerar essas estruturas, de coletar
esses dados, de forma ampla; então, na
prática, temos uma capacidade significativa
de Estados, também de organizações, de
empresas, de repetir estruturas, repetir
procedimentos e repetir visões de mundo.
Isso dentro de uma estrutura de maior
estabilidade e maior controle, baseada
na ideia de desejo. Ou seja, o controle
que as máquinas tendem a gerar é uma
ideia baseada no que desejamos que elas
façam por nós. Então, para finalizar, acho
que, na prática, temos que entender essas
dimensões, que são para além de algo muito
superficial, e pensarmos que os sistemas de
I.A. não podem apenas repetir as coisas, eles
precisam não apenas refletir, não apenas ser
representativos do que as coisas são mas
também, na verdade, ser pensados como
sistemas críticos, que não olhem para o
majoritário, mas para o diferente. Ou seja,
os sistemas de I.A. precisam ser sistemas
que corrijam a realidade, não que repitam a
realidade; que não olhem para a realidade
do passado e repitam-na, mas olhem para a
realidade do passado, percebam distorções e
tenham caráter normativo, que é melhorar a
realidade; inclusive, percebendo distorções,
percebendo desigualdades, e olhem para
essas desigualdades. Mais importante
do que os sistemas de I.A., hoje, é o que
acontece, é olhar para a coisa majoritária, é
olhar para o minoritário, é tentar justamente
reverter, alterar a realidade, e não apenas
repetir a realidade.
Glenda Dantas
Professor, as três dimensões que
você apresentou são fundamentais para
pensarmos essas estratégias, para esses
próximos 9 anos, no quesito material.
Você falou sobre como esses recursos,
dentro do capitalismo, sobre a intenção,
na verdade, do capitalismo, de que esses
recursos valham mais, para pensar em como
produzir mais com menos; e aumentando
o controle por meio da previsibilidade. E
é fundamental pensarmos nesse quesito
material; porque, de fato, se pensarmos nas
estratégias para dirimir esses problemas
relacionados a tecnologias, para os próximos
9 anos, temos de nos atentar, a como, no
97
longo prazo, essa coleta massiva de dados
vai gerar impactos muito grandes, muito
graves. Da perspectiva cultural, você falou
sobre como esses dispositivos culturais
geram a afetividade, a estabilidade; e, por
conseguinte, reproduzem também uma
ideia conservadora, tendo em vista que
o passado vai acabar gerando o futuro; e
aí vem a necessidade de pensarmos nisso
estruturalmente. E essa estrutura, com
base na perspectiva política, vai gerar
um esforço de capacidade de reforço e
repetição; então, há a necessidade de
pensarmos criticamente para melhorar essa
realidade, percebendo as desigualdades,
e isso é fundamental; e é o que estamos
fazendo aqui, hoje. Então, obrigada, mais
uma vez, pela sua contribuição. E eu convido,
agora, a pesquisadora Fernanda Bruno,
doutora em Comunicação pela Universidade
Federal do Rio de Janeiro; pós-doutora
pela Sciences Po de Paris e professora da
Universidade Federal do Rio de Janeiro.
Fernanda Bruno
As intervenções foram excelentes,
e creio que minha contribuição será
bastante complementar a tudo que foi
exposto. A melhor contribuição posso
fazer na discussão de hoje, tentando
pensar as agendas que podemos construir
para a Inteligência Artificial em termos
regulatórios e de governança, é apresentar
uma pesquisa recente. Essa pesquisa foi
realizada no MediaLab da UFRJ, laboratório
que coordeno em parceria com a Rede
Lavits e com a Derechos Digitales, que
capitaneou a pesquisa no âmbito de um
projeto intitulado “Inteligência Artificial e
inclusão na América Latina”, envolvendo
estudos de caso em quatro países: Brasil,
Chile, Uruguai e Colômbia. Ficamos
98
responsáveis pelo estudo de caso no
Brasil e tanto nosso relatório quanto os
três outros casos estão disponíveis no site
da Derechos Digitales – https://www.
derechosdigitales.org/.
Inicio, portanto, com uma primeira sugestão
de agenda baseada nessa experiência que
foi muito rica:
fomentar estudos locais e estudos
comparativos sobre casos
concretos de implementação
ou de utilização de Inteligência
Artificial, em diferentes campos,
pois isso é fundamental, permite
que consigamos acompanhar as
trajetórias dessas tecnologias em
ação.
Essa é uma perspectiva muito comum no
campo de estudos em Ciência, Tecnologia
e Sociedade (STS studies, em inglês):
pesquisar a ciência em ação, e não a ciência
feita, a ciência se fazendo, e também a
tecnologia se fazendo, pois nessa trajetória
é possível perceber uma série de efeitos e
de problemas, que na escala do projeto e
na escala de algo que já está implementado
não percebemos mais.
Voltando à pesquisa, nosso estudo de
caso tratou do Sistema Nacional de
Emprego, conhecido como SINE, e, mais
especificamente, da implementação de
Inteligência Artificial nesse sistema.
Para quem não sabe, o SINE é um órgão
público fundado em 1975, administrado
pelo Ministério da Economia e responsável
por três serviços no Sistema Público de
Emprego: i) intermediação de mão de obra,
no sentido de encaminhar trabalhadores que
estejam desempregados para vagas que lhes
sejam adequadas e que estejam disponíveis
no mercado laboral; ii) o segundo serviço
é orientar essa massa de trabalhadores
para a qualificação profissional; iii) o
terceiro é a concessão de benefício de
seguro-desemprego. O SINE atende cerca
de 15 milhões de trabalhadores por ano e
cerca de 1,5 milhão de empregadores. Para
tanto, mantém uma base de dados bastante
grande, de aproximadamente 65 milhões de
registros de trabalhadores, sendo um dos
maiores sistemas de intermediação de mão
de obra do mundo. Em 2019, iniciou-se um
processo de reestruturação do SINE, que faz
parte da grande estratégia de transformação
digital do governo brasileiro, que já tinha
se iniciado antes, mas que, no caso do SINE,
ocorreu a partir de 2019. Nesse processo
de transformação digital, dois aspectos
foram relevantes para a nossa pesquisa:
i) a criação do chamado SINE Aberto,
que consistiu na abertura dessa imensa
base de dados para empresas privadas
que atuam no segmento da intermediação
de mão de obra; e ii) a implementação de
ferramenta de Inteligência Artificial (IA)
no Portal de Vagas do SINE, que foi o foco
da nossa pesquisa. Essa implementação
de I.A. foi estabelecida por meio de um
acordo de cooperação técnica entre o
Governo Federal brasileiro e a Microsoft,
firmado em 2020, em plena pandemia.
O acordo faz parte de um projeto mais
amplo, intitulado Microsoft Mais Brasil, que
consiste no uso de Inteligência Artificial
tanto no Setor de Emprego no Brasil quanto
no Setor de Sustentabilidade, prevenção de
desmatamento e queimada na Amazônia.
O foco do nosso estudo, então, foi Inteligência
Artificial no Setor Público, que é uma das
questões ou inquietações que vivemos
tanto globalmente quanto localmente,
de modos distintos. Identificamos que o
Sistema de Inteligência Artificial fornecido
pela Microsoft para o SINE envolve duas
ferramentas centrais. A primeira é uma
ferramenta de “match” (sim, como no
Tinder!), isto é, de cruzamento automatizado
das vagas que estão registradas no Portal
com os trabalhadores considerados mais
aptos e mais adequados para preencher
essas vagas. A segunda ferramenta é de
perfilização, voltada para a segmentação
dos trabalhadores em perfis, segundo a
capacidade de reincorporação no mercado
de trabalho. Essa perfilização, por sua
vez, vai apoiar tanto a recomendação de
vagas no Portal quanto orientar a política
pública para qualificação profissional.
Aqui abro um parêntese importante para
contextualizar essa última informação: a
Microsoft também está oferecendo cursos
de capacitação profissional para o setor
público.Quando realizamos a pesquisa, o
uso dessas duas ferramentas de Inteligência
Artificial no Portal de Vagas do SINE ainda
estava sendo implementado. Assim, nosso
estudo de caso, que terminou no fim de
2020, não se voltou para a avaliação dos
impactos (ainda impossíveis de mensurar),
mas para a identificação de alguns riscos,
os quais, inclusive, reverberam algumas
preocupações que já foram levantadas nesta
mesa. Um primeiro risco está relacionado ao
modo como essa ferramenta automatizada
de pareamento (a ferramenta que produz
o match do trabalhador com a vaga
disponível) afeta o campo de oportunidades
do trabalhador desempregado ou incide
nele. Chamou nossa atenção o fato
de o processamento algorítmico para
recomendação do trabalhador para a vaga
dar ênfase ao passado, ao histórico das
contratações anteriores do trabalhador. Ao
nosso ver, isso implica risco de privilegiar
99
aqueles que têm um bom desempenho
no passado, impactando negativamente
aqueles que têm mais dificuldade de se
recolocar no mercado de trabalho; e que
seriam justamente o público-alvo, ou seja,
aqueles que deveriam ser mais favorecidos
por essa política pública de emprego. Assim,
pensando em uma sugestão, a partir desse
risco identificado, é essencial produzir
relatórios prévios de impacto ou testagem
desse tipo de ferramenta, para se avaliar
quanto esse risco é ou não palpável, ou
efetivo. Infelizmente, não existe nenhum
relatório ou testagem no projeto. Existe
uma prova de conceito, que é extremamente
vaga e não permite dimensionar, nem esse
nem qualquer outro tipo de viés potencial
nas ferramentas de I.A. implementadas.
Desse modo, é fundamental haver relatórios
prévios de impacto e testagem antes da
implementação, sobretudo, quando se trata
de uma política de acesso a direitos, como
é o caso aqui. Um segundo problema que
identificamos
é estrutural nesses mecanismos
de Inteligência Artificial: eles
promovem uma enorme assimetria
de poder e são caracterizados
por grande falta de clareza e
transparência.
O trabalhador que utiliza o Portal tem uma
enorme dificuldade de entender quais são
as regras de funcionamento tanto dessa
perfilização quanto do match a que ele
também está sujeito. Além de ter ínfima
clareza sobre o modo como o sistema
funciona, há pouquíssima margem para que
o trabalhador possa interferir em qualquer
resultado de intermediação ali presente,
ou de perfilização, questionando-o. Isso é
100
grave, pois estamos falando de algo que
impacta diretamente a oportunidade
de conseguir uma vaga no mercado de
trabalho. Tal assimetria, mais uma vez,
poderia ter sido minimizada se tivesse
havido uma maior participação da classe
trabalhadora na elaboração do sistema,
coisa que não ocorreu. Daqui encaminho
outra sugestão: sobretudo, quando se
trata de política pública, a população
beneficiária dessa política pública tem
que ter participação no processo de
implementação da I.A. Considerando os
marcos legais que temos hoje no Brasil, tanto
essa dificuldade de o trabalhador entender
as normas às quais está sujeito quanto de
contestar qualquer resultado ou qualquer
prejuízo que ele venha a ter, com base
nessa I.A., acabam sendo agravadas pelo
absurdo veto à revisão humana de decisões
automatizadas. Assim, é fundamental que
a supervisão humana e o direito à revisão
humana sejam garantidos, assim como
a compreensão dos impactos que tais
ferramentas podem ter sobre os direitos. Um
terceiro risco potencial que identificamos
é um pouco mais abstrato, mais amplo. Ao
final da pesquisa, perguntamos quanto a
automação da gestão de desemprego no
país pode acabar automatizando certas
políticas neoliberais que podem ampliar
a desigualdade, em vez de reduzi-la. Esse
risco, claro, está associado à transferência
de dados estratégicos sobre a economia
e o mercado de trabalho, no Brasil, para
estruturas de processamento de dados de
uma grande corporação como a Microsoft.
O acesso a essa base de dados, processada
nas máquinas da própria Microsoft (que,
aliás, é dona da LinkedIn, que também
desenvolve ferramentas de match de
emprego no setor privado) permite
identificar tendências no setor ocupacional
do Brasil, o que possibilita influenciar uma
política pública e desenhar oportunidades
de negócios em várias frentes. Ou seja, todos
esses riscos se agravam diante da enorme
fragilidade dos mecanismos de controle
público previstos na implementação dessas
ferramentas. Além disso, não identificamos
nenhuma discussão, ao longo do processo
de contratação e implementação, sobre
soberania tecnológica e soberania de
dados, no contexto de acesso a uma base
de dados extremamente estratégica.Vou
levantar alguns pontos para reflexão, de
caráter mais especulativo, pensando no
debate sobre possíveis ações coletivas
sobre o uso de I.A. no Setor Público. Um
primeiro ponto a se levar adiante como
pauta importante é estarmos atentos
a possíveis reinscrições de uma lógica
colonial no desenho de políticas públicas.
Especialmente quando estas se baseiam em
soluções tecnológicas e em epistemologias,
que são guiadas por dados e formuladas
dentro de uma lógica de mercado.
Hoje, a atenção ao debate
decolonial no campo da tecnologia
é uma oportunidade fundamental
para que não se repita algo que
foi muito presente na discussão
sobre cultura digital e sobre os
direitos digitais no passado, que
foi a completa incorporação, com
pouca nuance e questionamento, da
agenda do Norte Global, inclusive
quando se tratava de uma agenda
de garantia de direitos. Construir
uma agenda própria, a meu ver, é,
portanto, algo fundamental.
Pois o caso que apresentei não é um caso
isolado. Na geopolítica do colonialismo
digital, do que se chama controversamente
de colonialismo digital, o Sul Global é região
de fonte fácil e barata de dados para extração
de saberes estratégicos ao treinamento
algorítmico que, por sua vez, vai acabar
atuando sobre populações vulneráveis.
Precisamos discutir isso fora das caixinhas,
que são úteis, que são importantes, mas
que já estão pensadas no âmbito do Norte
Global.
Uma segunda reflexão ou recomendação
importante é oferecer ou criar algum
tipo de fórum, de cursos ou campos de
formação sobre tecnopolítica e perspectivas
sociotécnicas no âmbito da gestão pública.
Ao longo da pesquisa, fizemos algumas
entrevistas com gestores públicos e notamos
que a adesão ao tecnosolucionismo é
muito forte. Vigora na gestão pública
uma perspectiva de que a tecnologia é
uma ferramenta neutra, que traz consigo
uma eficácia quase mágica, apta a resolver
o problema de um serviço que, agora, é
pouco eficiente. Investir em uma formação
sociotécnica que problematize essa
perspectiva no âmbito da gestão pública
é, a meu ver, fundamental.
Por fim, o último ponto de reflexão toca
na questão da abstração.
A adoção de soluções de Inteligência
Artificial no âmbito de serviços
públicos que visam ao acesso a
direitos acaba por produzir certo
tipo de abstração e exclusão, que
são próprios da racionalidade
algorítmica orientada por dados.
É parte dessa racionalidade a ideia de redução
de uma série de aspectos complexos (no
nosso caso, aspectos relativos ao contexto
101
do emprego e do desemprego no Brasil)
a critérios e mecanismos que possam ser
legíveis pelos mecanismos automatizados
de tomada de decisão. Achille Mbembe
comenta algo que se aplica nesse contexto:
para a racionalidade computacional, diz
ele, o que não é computável não existe.
Assim, no caso que analisamos, há uma
série de elementos, como a dificuldade
na compreensão das regras de jogo, dos
ganhos e das perdas envolvidos, dos meios
de contestação, elementos que podem
impactar o acesso pleno a esse direito e
a esse serviço não são computáveis por
aquele sistema de Inteligência Artificial,
e, portanto, não entram na discussão
tampouco no desenho da ferramenta. De que
maneira, então, podemos criar mecanismos
de participação e de controle público que
permitam que essas dimensões que não
são contempladas pela racionalidade
maquínica possam entrar na conversa?
Tudo isso que mencionei é decisivo para
evitar um risco maior, que vem sendo
identificado em várias iniciativas de uso
de Inteligência Artificial na gestão pública.
A saber, o risco de que essa tecnologia
automatize um tecnosolucionismo
neoliberal, que acabe por precarizar
serviços que deveriam ser otimizados,
reservando aos poucos favorecidos o
acesso a negociações presenciais e deixando
uma parte enorme da população sujeita
a uma negociação muito assimétrica e
muito opaca com sistemas de I.A., que
elas não conseguem compreender e que
não conseguem contestar. O sujeito de
direito é aí reduzido a um usuário de
serviço digitalizado que não consegue nem
decifrar nem contestar. Um risco que está
colocado, mas que não é incontornável.
102
Glenda Dantas
Professora, sua contribuição foi
fundamental, inclusive, para fechar essa
primeira rodada. A perspectiva que você traz
a partir da sua própria experiência, pensando
o uso de Inteligência Artificial pelo Poder
Público, foi muito fundamental; inclusive,
porque você já traz essa perspectiva das
problemáticas que aparecem ao longo
desse processo. E, como você trouxe,
essas ferramentas automatizadas, no
match, em relação ao empregador, ao
desocupado e às vagas, geram alguns
riscos, passam a privilegiar pessoas que
já têm uma experiência maior em relação
ao trabalho. E, depois, você traz como é
fundamental perceber as assimetrias e a
dificuldade de transparência nesse uso,
porque o usuário final acaba não tendo
conhecimento de como essas ferramentas
são utilizadas, de como esses dados estão
sendo utilizados, por esse match, entre
a vaga e o desocupado. E, no fim, você
trouxe que a gestão desse desemprego,
a partir do uso de automatização, pode
gerar, reificar políticas neoliberais, que
geram uma série de impactos. Em suas
ponderações finais, mas isso já responde,
inclusive, algumas perguntas que estão
muito relacionadas a: Como podemos
pensar e construir sociedades democráticas
com as pessoas que acabam desejando a
vigilância e o controle, porque eles fornecem
comodidade e estabilidade? Acho que a
partir dessa provocação podemos partir
para esse momento final. Vamos começar
pelo Tarcízio.
Tarcízio Silva
Vou resgatar alguns pontos, que
talvez valham reenfatizar, sublinhar o
que os colegas mencionaram, como essa
ideia do sujeito de direito reduzido ao
usuário, que a professora Fernanda acabou
de mencionar. Acho que, talvez, seja um
dos pontos mais interessantes, quando
pensamos a capacidade de imaginarmos um
futuro diferente, e como isso se desdobra
em regulação; por exemplo, há um número
crescente de campanhas e tentativas,
inclusive legislativas, em torno do mundo,
para impedir, ou limitar, publicidade
hipercustomizada; e isso por causa de
várias experiências negativas e desastrosas,
que vimos em campanhas do Trump, em
outros tipos de uso nocivo de publicidade
hipercustomizada. E eu menciono isso,
porque, 10 anos atrás, cogitar, proibir ou
se controlar, socialmente, esse tipo de
publicidade era quase impensável, devido
à empolgação e ao tecnosolucionismo, na
década passada. Então, acho importante
mencionar que
temos possibilidades de regulação,
seja do ponto de vista legislativo,
seja do ponto de vista de articulação
pelo controle social da tecnologia,
que pode questionar os pilares
que temos hoje.
Então, reforço as preocupações sobre
Fenologia, sobre Inteligência Artificial,
tentando identificar características das
pessoas; e convoco todos os ouvintes/
leitores e colegas, a repensar: O que
pensamos, puxando o gancho do debate,
para 2030? Pode ser muito diferente do
que temos hoje, e algumas possibilidades,
que talvez vejamos como sonho, podem
ser reais. Então, vamos nos atentar, a isso
na Academia, na sociedade civil, e assim
por diante.
Débora Salles
Vou ser superbreve. Quero agradecer,
mais uma vez, a oportunidade, foi ótimo
ouvir todos vocês. Acho que gostaria de
terminar, assim, reforçando a necessidade de
desmistificar, um pouco, o que é Inteligência
Artificial e como ela é usada; e entender que,
hoje em dia, falar de Inteligência Artificial
é falar de uma diversidade muito grande
de aplicações. Mas, basicamente, eu quero
terminar debatendo a questão ética. Ela
é necessária, mas ainda não é suficiente;
talvez precisemos falar mais de poder e
menos de princípios éticos:
Quem está ganhando? Quem está
se tornando mais poderoso? Quem
está capacitando esse poder de
circular desse jeito? Acho que
a questão dos princípios éticos
tem sido uma resposta muito
recorrente dessas plataformas e
desses sistemas; mas eles ficam,
normalmente, bem distantes da
implementação.
O que vemos implementadas são lógicas de
poder, que temos certa dificuldade ainda
de questionar e de olhar; do ponto de vista
mais amplo e dos desdobramentos que
isso tem no mundo.
Sivaldo Pereira
Temos diversos debates, várias
questões para discutir. Precisaríamos de
várias outras páginas para discorrer sobre
tudo isso, caro leitor. Bom, tentando corrigir
o mundo em dois minutos… Impossível,
certo? Na prática, é o seguinte. Primeiro,
I.A. é inevitável, é irreversível. I.A. não é
algo que vamos conseguir evitar. Certo?
Isso é dado. Isso é fato. Então, a questão
103
é como fazê-la funcionar. Essa é a grande
questão: De que forma vai funcionar?
Segundo, I.A. é desejável, não acho que
é um problema. Alguém perguntou no
chat: Como fazer com que as pessoas –
pensando democracia –, como as pessoas
desejam ser controladas? A questão é que
a I.A. afeta a ideia de eficiência; então, a
questão é que a eficiência pode ser de várias
formas. Podemos tornar o Estado mais
eficientemente autoritário, ou podemos
tornar o Estado mais eficientemente
democrático; depende de como aplicamos
essa eficiência, e para isso é necessário
criar regras. Acho que são duas dimensões
importantes para pensarmos, no futuro,
da I.A. e de como isso vai funcionar para o
mundo. São três questões, digamos assim.
Primeiro, I.A. não é uma questão técnica,
isso não é um problema tecnológico, isso é
um problema político e de fundo ontológico,
inclusive, que muda nossa relação com as
coisas. Temos que entender, por exemplo,
inclusive na Área de Comunicação, estou
até escrevendo um artigo sobre isso: a
I.A. gera novos intermediários; então,
novos atores de comunicação estão sendo
criados. Começamos com algoritmos, e isso
é um elemento importante do ponto de
vista geral da Comunicação e da Cultura.
Então, não é uma questão apenas técnica,
tecnológica, é uma questão política e
ontológica. Precisamos ter essas dimensões.
E, para isso, precisamos pensar duas coisas:
Regulação e Normatividade. A regulação
é necessária, e tem de ser, precisa ser
ampla, não pode ser debatida apenas por
quem trabalha a computação; é isso que
impacta vários ambientes. A regulação
é algo importante para se pensar, e isso
tem que se pensar agora, antes que os
sistemas sejam, digamos, sedimentados;
104
depois que a coisa se sedimenta, é difícil
ser mudada. Então, por exemplo, depois
que a indústria do petróleo sedimentou
de que a lógica do transporte ia ser de
combustão, por meio de combustível fóssil,
acabou. Isso fez com que se levasse um
século para pensarmos em carro elétrico.
Leva muito tempo mudar essas estruturas
mudar essas estruturas.
Então, é preciso fazer regulação
prévia, pensar o problema agora,
porque depois que as estruturas
são criadas, é muito difícil sair
delas.
Depois que o Google foi criado, será
difícil sair do Google, será difícil sair do
Facebook, será difícil largar um deles.
Então, temos que pensar as coisas, não
podemos deixar as coisas serem criadas e
depois regular. Temos de pensar em regular
agora; e o debate é profundo, porque ele
envolve questões filosóficas, ontológicas,
políticas, sociais, culturais, econômicas. E
na questão da normatividade, na minha
opinião, os sistemas de I.A. precisam ser
sistemas normativos. O foco é pensar em
consertar a humanidade. Está tudo errado,
não é? Estamos vendo, está tudo errado
em termos gerais, se analisarmos. O Brasil
é um excelente exemplo disso. De como
as tecnologias, de algum modo, ajudaram,
não só elas, mas como elas ajudaram a
tornar as coisas piores do que já eram.
Em vários países do mundo isso acontece;
e em outros países tem algumas coisas
que são intensificadas. Então, precisamos
ver questões normativas. O que pode?
O que deve ser? Questões ontológicas?
Como deveria ser? E o que não deveria
ser? E, para isso, o Estado é importante. O
Estado precisa se impor; porque, daqui a
pouco, o Estado vai ser, inclusive, peça da
engrenagem de sistemas de corporações.
Então, algo importante está relacionado a
essa questão dessas duas dimensões. Uma
regulação ampla, plural e prévia. E um
debate sobre normatividade, que não vai
acabar agora, vamos passar os próximos
séculos discutindo I.A. Então, não é algo
que vai acabar agora e terminar agora,
é algo que vamos seguir por um longo
tempo. E se não discutirmos isso, as pessoas
ainda continuarão discutindo I.A. como
se fosse tecnologia. As pessoas, em linhas
gerais, dizem “Ah, isso é tecnologia. Não é
tecnologia apenas, é um sistema de forma
de viver. Certo? Então, precisamos pensar
bastante nisso, no médio e longo prazos.
Fernanda Bruno
Quero retomar uma coisa que acho
que está nas tessituras de todo mundo, que
é quanto precisamos resistir, no sentido de
ir mais devagar, com essa lógica disruptiva
das tecnologias, esse bordão do Vale do
Silício, que pegou. Que convenceu todo
mundo em determinado momento; e que é
isso, bota no mundo e depois vê o que dá.
Estamos construindo esses laboratórios,
e estão testando. O nosso mundo, a nossa
sociedade virou um laboratório, onde essas
corporações estão testando uma série de
tecnologias extremamente disruptivas,
inclusive, para a democracia, para uma
série de processos absolutamente centrais,
e sem responder por elas.
É preciso encontrar um novo
equilíbrio entre essa lógica, um
novo equilíbrio entre essa lógica
da transformação, da mudança
tecnológica e a responsabilidade,
temos que repensar um pacto de
responsabilidade, que faça frente
a essa dinâmica que aposta na
disrupção, sem responsabilidade
alguma.
Esse é um ponto que precisamos aprender
com a história, com os últimos 20, 30 anos,
de cultura digital, e que precisamos colocar
em uma pauta sem esperar o estrago, ou
a dependência, para que passemos a falar
de regulação, de governança, de fóruns,
de formação de debate, do que quer que
seja, que possamos fazer avançar nesse
sentido. Em relação à pesquisa que fiz, que
me sinto mais à vontade para falar, quero
retomar o que Sérgio Amadeu já resumiu; ele
falou sobre minha apresentação, que é um
pouco isso mesmo: De que maneira saímos
dessa situação, no caso da I.A. aplicada ao
serviço público, ao setor público? De que
maneira o tecnosolucionismo e a redução
do cidadão à condição de sujeito de direitos,
à condição de usuário de uma ferramenta,
de uma plataforma que ele não consegue
contestar ou compreender, e da qual ele
pode ficar dependente nesse sentido
ruim, como que saímos disso? Acho que
fóruns continuados, de corregulação, são
fundamentais; porque também precisamos
ampliar a diversidade desses processos
regulatórios. Como falei, acho que temos de
aproveitar essa tensão, que esse momento
do mundo tem; e esse lugar do mundo, que
é o Brasil, tem lógicas coloniais para criar
fóruns de governança e de corregulação,
que é um termo que eu aprendi com o
pessoal do Uruguai, que está pensando
isso no âmbito da regulação de vigilância
automatizada, para fazer avançar a agenda
que queremos em termos de sociedade
e tecnologia.
105
Glenda Dantas
Acho importante reiterar que o
objetivo deste seminário é analisar o cenário
tecnopolítico e propor um conjunto de
ações e políticas que são imprescindíveis
em relação às tecnologias digitais, com foco
nas Plataformas, na Inteligência Artificial e
na Soberania de Dados, que prepare o país
para 2030. Sem dúvida, as contribuições
aqui trazidas serão fundamentais para a
concretização desse objetivo. E o que me
chamou muito a atenção, e que ilustra esses
objetivos, é
a necessidade de pensarmos
isso de forma multissetorial e
multidisciplinar, para que, assim,
todos os setores da sociedade
estejam implicados nisso.
Este encontro “Tecnologia no Brasil:
2020-2030 – Plataformização e I.A. e
Soberania de Dados” continuará por meio
de uma mesa de tema intitulada “Devemos
apostar em tecnologias livres diante das
infraestruturas de Inteligência Artificial”;
com os pesquisadores Nelson Pretto,
Jader Gama, Wagner Meira e Fernanda
Campagnucci. Agradeço, mais uma vez, a
contribuição de vocês. Obrigada por terem
aceitado o convite e por nos presentear
brilhantemente com suas contribuições. E
também, a todo mundo que acompanhou a
mesa, do início ao fim, as contribuições, no
chat, foram fundamentais para enriquecer
o debate; e convidamos você, leitor, a
continuar acompanhando a próxima mesa.
106
Parte 2
“Devemos apostar em tecnologias
livres diante das infraestruturas
de IA”, Juliane Cintra, Nelson Pretto, Jader
Gama, Fernanda Campagnucci e Wagner
Meira
Juliane Cintra
Quero agradecer a oportunidade, a
mesa inicial foi uma mesa muito rica. Acho
que pensar essa estrutura de continuidade
é muito enriquecedor, na verdade, porque
vemos as complementações, e, também, os
aprendizados que vamos depreendendo
de cada apresentação, de cada insight,
enfim. Estamos fazendo uma discussão
dentro da Ação Educativa sobre o campo
de direitos digitais, tentando fortalecer o
debate e contribuir com todos os atores
que lidam com essas questões há muito
tempo, como a Fernanda Campagnucci,
que está aqui. Para além da Fernanda,
como referência e inspiração, também,
temos atores que, desde muito tempo,
vêm pautando a necessidade de olhar para
esse campo da tecnologia, olhar para esse
cenário de plataformização, sobre o qual
debatemos agora, nessa primeira rodada;
também, como parte desse campo de defesa
e promoção de direitos, estamos tratando
de uma dimensão de direitos digitais; e
é esse o lugar no qual a Ação Educativa
tem procurado se localizar, nesse debate.
Para além de se aproximar, ter, adotar uma
abordagem, uma perspectiva interseccional
dessa reflexão, que considere, também,
todos aqueles acúmulos que temos no
campo, nesse quadro, nesse cenário de
defesa de direitos humanos, também para
esse debate das tecnologias, com esse ideal
emancipatório, com essa perspectiva.
Acho que o professor Sivaldo trouxe
muito isso – isso me marcou bastante, do
primeiro encontro. Essa perspectiva de
que estamos falando de relações sociais
e de que a tecnologia, como mediadora
dessas relações sociais, também contribui
para a construção dessa organização
social, do modo como nos relacionamos,
do modo como compreendemos estar
na sociedade. Assim, é fundamental que
esse debate esteja, cada vez mais, dentro
do nosso campo, não como algo à parte,
mas como algo que influencia, se impõe e
transforma nossas construções. Agradeço
a oportunidade de estar aqui construindo
isso com vocês, dizendo que temos uma
dinâmica de trocas. Nesta segunda parte,
vamos debater ideias mais diretamente:
“Devemos apostar em tecnologias livres
diante das infraestruturas de Inteligência
Artificial”. Então, na primeira parte,
pudemos ter um olhar mais direcionado
para o que são essas infraestruturas de
Inteligência Artificial. Vamos pensar, um
pouco, como isso se correlaciona com
as tecnologias livres. Isso tem muito a
ver com o que eu disse, inicialmente;
do lugar que abordamos enquanto Ação
Educativa, nesse debate; que é justamente
a possibilidade de olhar para o campo dos
direitos digitais, como parte dos direitos
humanos e, também, como parte do debate
que é necessário para construirmos novas
utopias, para pensarmos novas formas
de compreensão das subjetividades e
como elas se colocam na sociedade. Vou
apresentar agora, o currículo da Fernanda
que tem uma larga trajetória no campo da
tecnologia. É diretora-executiva da Open
Knowledge Brasil, graduada em Jornalismo
e mestra em Educação; coordenou o Pátio
Digital, iniciativa do Governo Aberto, da
Secretaria Municipal de Educação da Cidade
de São Paulo; é fellow do Governo Aberto,
da OEA, e integrante da Rede de Líderes
em Dados Abertos, da Open Data Institute,
de Londres. Teve larga trajetória, também,
aqui conosco, na Ação Educativa.
Fernanda Campagnucci
Essas mesas são muito
complementares, e a abordagem que vocês
propuseram está totalmente conectada
com a linha dos direitos digitais. Não
podia ser diferente, com a Ação Educativa
e os parceiros que pensam justiça social.
É preciso falar de justiça de dados e de
todas suas implicações. Também fico
muito feliz de ter a oportunidade de
discutir infraestrutura de tecnologia de
informação, porque é um tema mais raro
no debate, por não ser tão convidativo.
Mas tudo de importante que foi discutido
anteriormente — discriminação, viés,
opacidade, soberania de dados — decorre
do modo como essas infraestruturas estão
constituídas. Então, é muito importante
discutir e compreender isso. Sabemos
que existe um problema de opacidade das
infraestruturas, no setor público e privado,
e que isso tem efeitos muito nefastos. A
proposta da mesa é justamente discutir as
tecnologias livres como alternativa a esse
sistema de opacidade. E, na minha visão,
em uma democracia, podemos fazer isso
de duas formas. Usando o Estado, por um
lado, para regular, o que também já foi tema
neste seminário. E, por outro, construir
um Estado aberto, que use tecnologias
livres, em que as pessoas participem dessa
construção. Portanto, vou focar minha
contribuição nesse segundo ponto, que
pode ser resumido nesta pergunta: Como
107
as tecnologias abertas se relacionam com
a democracia e com essa ideia de governo
aberto? Pensando governo a partir de uma
noção mais ampla de Estado, abarcando
o Legislativo, o Judiciário, enfim, as
instituições públicas. Uma característica
das infraestruturas é que quanto mais
funcionais elas forem, mais invisíveis elas
ficam para as pessoas. Alguém levantou
uma questão sobre isso na outra mesa:
Como convencer as pessoas a usar
infraestruturas livres se elas têm
alguma vantagem, algum conforto
para elas, em infraestruturas
proprietárias? E fica mais difícil
quando essas infraestruturas
são, de certa forma, “funcionais”
e invisíveis.
Pensem em uma rodovia. Se essa rodovia
não apresenta nenhum problema visível,
a maior parte das pessoas que estão lá
trafegando não vai notá-la. Mas basta cair
em um buraco que se vai lembrar que ela
existe e que essa infraestrutura precisa
de manutenção, que tem responsáveis
por isso, que há autoridades cuidando ou
não daquela infraestrutura. E aí a questão
com as infraestruturas de tecnologia da
informação, e esse debate que estamos
fazendo aqui, é que os problemas existem,
mas podem não ficar tão visíveis quanto
um buraco. Quando há um problema
com o Facebook e suas aplicações, como
o Instagram, o WhatsApp, que caíram e
permaneceram fora do ar por um tempo,
recentemente. Ficou muito evidente o grau
de dependência, o problema de termos
infraestruturas concentradas como essas,
essa questão fica mais óbvia. Quando um
sistema de Governo, por exemplo, do SUS,
108
é invadido, ou os dados de 200 milhões
de pessoas ficam expostos, não porque os
hackers, pessoas que invadem sistemas, são
geniais, mas porque os sistemas estavam
muito inseguros, sem técnicas básicas
de proteção de dados, o que também é
um ponto bem tangível da questão da
infraestrutura. Mas,
na maioria dos casos, a questão
das infraestruturas fechadas é algo
que vai minando silenciosamente
as capacidades do Estado, vai
corroendo a democracia, e não
é uma questão imediata, vamos
lidar com as consequências mais
adiante. Uma hora essa fatura vai
chegar.
E o que queremos dizer quando falamos
em infraestrutura? Na minha visão,
estamos falando de múltiplos aspectos:
de um conjunto de hardware, de cabos,
de computadores, de redes, e também
de software, de códigos, algoritmos. Há
ainda os dados que se relacionam com
esses algoritmos. É uma infraestrutura
sociotécnica, então também tem uma
dimensão social e política. Há normas,
padrões, escolhas. E as práticas das pessoas
que estão em torno daquela tecnologia, que
tomam decisões sobre compartilhamento,
ou o que fazer diante de vazamentos. Em
torno dessas infraestruturas, no Estado,
existe um discurso de inovação e de uso
de dados mais intensivo; o debate tem
muitos nomes e faces: transformação
digital, inovação, cidades inteligentes, ou,
um que já usei aqui, “governo aberto”. Já
estive do lado de dentro do Governo, já
estive em diálogo com muitos atores que
usam esses termos, e muitos deles têm
problemas, porque refletem uma matriz
neoliberal de pensamento. Principalmente,
o termo “cidades inteligentes”, que, por
ter raiz neoliberal, tem a tendência de
pensar dados como commodities, e não
como bens públicos. A gênese do termo
“cidades inteligentes” vem de corporações
e grandes empresas de consultoria, que
querem vender serviços e criar dependência
tecnológica. Geralmente, enfatizam a
eficiência, como também foi dito em
intervenções na mesa anterior, e não
participação, por exemplo. De todos esses
termos, o que acho que tem mais potencial
de diálogo com o campo das tecnologias
abertas é o conceito de governo aberto.
Alguns podem dizer: “Mas, Fernanda,
você está sendo tecnosolucionista, você
está achando que o governo aberto vai
resolver a democracia”. Não é essa a ideia.
O que estou propondo é que busquemos
dialogar com esse campo, pois o padrão,
hoje, é o Estado ficar capturado por atores
com poder econômico que já fornecem
grandes sistemas e tecnologias.
A melhor forma para promover a
transformação dessas estruturas,
na minha opinião, é com políticas
públicas de governo aberto,
com esse ou outros nomes, mas que
considerem alguns dos princípios que
vou mencionar aqui. Escrevi um artigo
recentemente para desenvolver essa
questão, porque, apesar de estar muitos
anos nesse campo do governo aberto, penso
que ele não dialoga como seria necessário
com o tema das tecnologias abertas. Nesse
artigo, levantei todos os documentos
oficiais e manifestos da Parceria para o
Governo Aberto. Minha conclusão é que
o último cadeado do governo aberto é a
questão das tecnologias livres. O conceito
de governo aberto, normalmente, tem três
pilares: transparência, accountability e
prestação de contas e participação social.
Por isso, considero que esse movimento
tem muito potencial, porque coloca no
centro a participação social como questão
de abertura. Mas a tecnologia é pautada de
forma pretensamente neutra, transversal
a esses outros eixos. Tratar a tecnologia
apenas como ferramenta, sem sua dimensão
política, tem uma implicação: deixamos de
qualificar como essa tecnologia deve ser.
No caso da transparência, por exemplo, não
achamos aceitável PDF escaneado, queremos
dados abertos, e então desenvolvemos esses
padrões de dados abertos. Na questão de
participação, também podemos qualificar,
dizer que uma consulta pública, que não
tem devolutiva, é muito diferente de um
processo de orçamento participativo, que
pode ser deliberativo, em que as pessoas
podem decidir sobre a destinação de
recursos.
Da mesma forma, não podemos
ignorar a dimensão política da
tecnologia. A tecnologia fechada
mina o potencial dos outros eixos.
Pensem em um sistema de distribuição
de vagas para universidades baseado em
Inteligência Artificial. Se ele não for aberto, é
confiável? Terá capacidade de ser justo? Ou,
ainda, no tema de participação, um sistema
de votação, como a urna eletrônica. Se o
código não for completamente aberto, ele
é plenamente confiável? São questões que
surgem quando tratamos da questão da
democracia. E, no entanto, as cidades seguem
com tecnologias fechadas, infraestruturas
109
fechadas. Outra metáfora que pode ajudar
a aumentar a compreensão sobre o tema
é pensar em um encanamento pelo qual
está passando água, e os responsáveis por
esse encanamento são corporações que
podem se servir da água. Os dados seriam
o equivalente a essa água. Não é à toa que
organizações como a Amazon não estão se
limitando a fazer as infraestruturas mas
também os meios de coleta de dados e
aplicativos, por exemplo, na Área de Saúde,
softwares de coleta e diversas aplicações;
estamos falando de uma infraestrutura
que está carregando dados, que podem
também ser apropriados por aqueles que
estão cuidando dessas infraestruturas. Em
2018, o Reino Unido, que tem um sistema
nacional de Saúde, o NHS, fez uma parceria
com o Google, com o sistema DeepMind,
de Inteligência Artificial, para prevenir e
predizer a ocorrência de doenças, com base
nos dados de 4 milhões de pessoas. Esse
é um problema que o pessoal dos estudos
críticos de dados tem apontado sobre esses
fluxos de dados em infraestruturas fechadas.
A Francesca Bria, que foi Secretária de
Tecnologia, em Barcelona, e o Morozov; eles
têm um ensaio crítico muito interessante
sobre cidades inteligentes, em que abordam
casos como esse. Então, para fechar o tema
“como tecnologias livres e democracia se
relacionam?”, quero discorrer rapidamente
sobre três problemas que decorrem dessas
infraestruturas fechadas, desse cenário que
eu construí. Além da questão da privacidade,
que já está bem colocada nas mesas deste
seminário. Um problema é a acumulação.
Não é só uma questão de direcionamento
de publicidade, que muitos pensam que
é o único interesse de atores privados.
110
Quem controla os meios de
produção de dados também
consegue a melhor Inteligência
Artificial.
As empresas que têm acesso a grandes
volumes de dados para treinar suas
inteligências artificiais, como o Google,
conseguem automatizar processos que
dependem de interação humana; desde
classificar imagens, veículos autoguiados.
Isso é muito valioso para eles, mais do
que direcionamento de publicidade. O
segundo problema é que essa situação
gera dependência; porque se apenas
alguns atores têm acesso a dados, eles
desenvolvem essa capacidade de fazer
tecnologias precisas e oferecer isso como
um serviço a custos mais acessíveis.
Contratá-los passa a parecer barato, não
parece que é um grande investimento
que o Estado tem que fazer, e construir a
própria infraestrutura passa a ser visto
como uma loucura, um investimento muito
grande. Só que as condições para os outros
fazerem isso, muitas vezes, vêm do próprio
Estado, dos acessos a dados custodiados
pelo próprio Estado.
São dados que devem ser vistos
de forma mais ampla, como um
bem público, um bem comum.
E, por fim, tem o terceiro e último problema,
que é a opacidade sobre esses fluxos. Esse é o
meu tema de pesquisa. O compartilhamento
de dados entre setor público e privado, esses
fluxos, acontecem de forma muito caótica,
que sequer podemos ver, porque não existe
transparência dessas infraestruturas. Então,
o que tem de aplicativos e serviços sendo
doados em troca de acesso a dados, e isso
nem é colocado dessa forma, não está “no
gibi”. Com a covid isso ficou muito explícito
– e a Educação a Distância –, tem muitos
casos para serem estudados ainda. Esses
são os principais pontos para iniciarmos
a conversa, vamos para a discussão.
Juliane Cintra
Fernanda, acho que você nos traz a
possibilidade, primeiro, de compreender
do que se trata quando estamos falando
de infraestrutura. Gostei muito dessa
sistematização de hardware, de software,
de dados para olharmos para essa
dimensão como uma infraestrutura, de
fato, sociotécnica. E, também, de todo o
seu chamado para a atenção de que
precisamos refutar essas novas
formas de naturalização, de
normalização, das construções
tecnológicas, que também são
construções humanas.
Então, partimos de um debate que tem um
fundo filosófico, como olhamos para isso
na primeira mesa. E, nesta mesa, olhamos
para a dimensão das alternativas, de como
começamos a intervir nessa realidade,
como é possível alterar e transformar
essa realidade, a partir dessas reflexões.
E a possibilidade de começar com o
governo aberto, como um primeiro passo,
garantindo a pluralidade na participação,
sobretudo, social, é bem interessante, e
aponta horizontes e possibilidades de
construção. Então, muito obrigada pelas
suas contribuições e pelo excelente
início, como disse aqui, no chat, o Sérgio
Amadeu. Concordo, também. E para
continuarmos nossas reflexões, agora
teremos as considerações do professor
Nelson Pretto, da UFBA. Seja bem-vindo,
professor. Ele é licenciado em Física pela
Universidade Federal da Bahia, é doutor em
Ciências da Comunicação pela Universidade
de São Paulo, professor da Faculdade de
Educação da Universidade Federal da Bahia,
pós-doutor pela Universidade Trent, de
Nottingham, Inglaterra, e pela Universidade
de Londres/Goldsmiths College; também
é coordenador do grupo de pesquisa
Educação, Comunicação e Tecnologias.
Nelson Pretto
Acho que a primeira mesa nos deu
uma leitura mais ampla, e agora vamos
tentar dar uma aprofundada e uma afunilada
na questão; vou tentar me concentrar um
pouquinho naquilo que é o meu pedaço
de atuação mais forte, que é a questão da
Educação. E pensar, então, um pouquinho,
esse momento, de todas essas questões que
foram trazidas e que certamente ainda vão
ser trazidas por Wagner e Jader. Tarcízio
nos colocou a questão do passado gerando
um futuro; e eu fico pensando nesse futuro,
olhando muito para o passado; porque, afinal
de contas, as grandes questões que estão
postas agora, pelo menos nesse grupo que
está aqui, dos mais velhos, e não só dos mais
velhos, já há um bom tempo temos pensado
sobre essas questões, e, particularmente,
hoje, falamos na Inteligência Artificial
como estruturante, não é? Falamos nas
tecnologias como estruturantes, e não como
apenas ferramentas que iam ser utilizadas;
e estamos falando isso, da década de 1990.
Isso, para não ir lá atrás, nos teóricos mais
antigos. E, desde aquele primeiro momento
– os dois Sérgios, aqui, acompanham isso
e Wagner também –, da implantação da
internet. Entendíamos que isso não podia
ser compreendido como ferramenta
111
auxiliar da Educação, ela era muito mais
do que isso; e, infelizmente, ao longo
desse tempo inteiro, as políticas públicas
terminaram não focando essa perspectiva
mais ampla; e foram acreditando que íamos
botando tecnologias, como no passado se
colocaram o lápis e a caneta, e elas iam
entrando na escola e iam se amoldando, e
a escola se amoldando a elas; e vimos que
esse diálogo não aconteceu, justamente
porque havia um hiato entre a formação
e a própria tecnologia. Isso que é o triste
desse momento. Havia uma concepção de
Ciência e de Tecnologia que não estava
clara. Podemos pegar os conceitos que
foram trazidos na primeira mesa, Débora
e Tarcízio falando da nuvem. Na Educação,
a nuvem continua sendo imaginada como
aquela coisa ali, de namorados que olham
a nuvem, uma coisa leve que vai para lá.
Quer dizer, não tem clareza do impacto
ambiental, do poder computacional que está
por ali. Falando em Inteligência Artificial,
dentro da Educação, terminamos olhando
mecanismos mais primários de automação,
ou aquela automação que vai pela chamada
customização, que vai preparando a próxima
música, o próximo texto, o próximo livro
que você vai ler, sem entender que aquilo
ali – como falado muito bem por Débora,
por Tarcízio, por Sivaldo –, são algoritmos
que são absolutamente opacos, que não
correspondem a qualquer perspectiva
de educação que saia fora da caixinha.
Falamos de plataforma, e entendem a
plataforma como algo auxiliar aos processos
educacionais; e vamos chegar um pouquinho
no que Fernanda estava colocando.
E o que é mais grave de tudo
isso, a educação pública, em uma
perspectiva que vai sendo atacada,
112
vai sendo privatizada por dentro,
e isso vai naturalizando, como se
foi naturalizando, como tendo sido
naturalizado todos os processos
de incorporação das tecnologias
na nossa vida.
Quer dizer, usamos o Waze, como conforto
e tempo, sem entender nada do que que
ele está representando ali. Usamos o iFood,
e tudo isso aí colocado por Tarcízio, por
Sivaldo. Vamos usando, vamos usando,
vamos usando. Quer dizer, entramos de
gaiato no navio. E o que é mais grave de
tudo isso é que não percebemos que todas
essas questões estão tratando, em última
instância, de formas de viver, de modelo de
sociedade. E aí eu entro, especificamente, no
campo da Educação. Mais de 50 milhões de
crianças e jovens na Educação Básica; quer
dizer, é muita gente para ser descuidado
do jeito que está sendo descuidado. E
aí, claro, você, a Débora falaram sobre a
tecnologia de vigilância, dos funcionários
da Amazon; e começamos a observar essas
tecnologias de vigilância nas escolas. Nas
escolas e na sociedade. Deixe lhes dar duas
informações sobre a situação aqui na Bahia.
Foi anunciada pelo Governo do Estado e
pela Prefeitura de Salvador a ampliação
do número de câmeras de reconhecimento
facial nos pontos turísticos. Não houve
nenhum debate sobre todos esses problemas
que nós já conhecemos sobre as câmeras
de reconhecimento facial. Nas escolas, há
a adoção de câmeras de reconhecimento
facial para acesso aos alunos, na perspectiva
de poder mandar informações para os pais,
sobre a chegada, a saída dos estudantes etc.
Essa adoção vem sempre na perspectiva
de conforto e praticidade; e essa ideia
entrou na Educação, na pandemia, como
tecnosolucionismo. Ou seja, a situação é
dramática. São 680 mil mortes, trata-
se da necessidade de ficar em casa. E a
pandemia, então, chegou para fortalecer
essa perspectiva da plataformização. Ou
seja, há o argumento, e esse argumento
é dito em entrevistas e diálogos; temos
um prefeito e secretário de Educação
que afirmam que não podemos perder
as crianças e os jovens; e deixam de lado o
problema da proteção de dados pessoais,
deixam de lado o problema do vigilantismo;
precisamos usar o que temos disponível.
Essa doação de softwares está sendo
algo absolutamente adotado, inclusive
nos sistemas universitários públicos do
Ensino Superior. Ou seja, muitas vezes, isso
é intermediado pela própria RNP. Estamos,
simplesmente, fazendo acordos, porque
nem a formalização desses acordos está
sendo explicitada entre Google Suite, Google
for Education, Microsoft e Universidades e
Institutos Federais. Além disso, não tivemos,
ao longo desses últimos anos, investimentos
nos Setores de TI, nas Universidades,
nos Institutos Federais; portanto, agora
a solução é adotar essas plataformas. E
é perfeita, Tarcízio, é exatamente o que
estamos vivendo na Educação. “Não,
estamos fazendo isso aqui agora, depois
vamos resolver”. Digo com todas as letras:
Essa lógica de plataformização
privada da educação pública está
adentrando de tal forma, em todos
os níveis, que de lá nunca mais
sairá.
Então, imaginem o que são meninos e
meninas de 4, 5, 6, 7, 8, 9 anos de idade,
começando, já inseridos dentro dessas
plataformas, mais particularmente Google
for Education, recebendo, portanto,
imediatamente, compras milionárias
de Chromebooks, para viver navegando
plenamente nessas plataformas. Nossos
colegas professores, muitas vezes, nem dizem
mais “procura na internet”, dizem: “Põe no
Google”, como se fosse o verbo “procurar”
substituído. Portanto, quero mostrar
que esse processo de plataformização
está adentrando a educação pública e
promovendo uma verdadeira colonização
dela. E, como a Fernanda Bruno comentou,
que “o sujeito de direito é reduzido a um
usuário”; lembro que em nossos debates – e
Sérgio Haddad deve se lembrar também,
porque a Ação Educativa, os nossos fóruns
mundiais sempre debateram esse tema, com
os movimentos privatistas adentrando a
educação pública – dizíamos que o sujeito,
o cidadão, era reduzido a cliente, o aluno
passou a ser cliente; e, hoje, ele é um cliente
reduzido a seus dados, a ser um usuário;
e isso vai fazer com que não só possibilite
que a publicidade seja montada em torno
desses interesses. O mais grave disso é que
isso está associado aos grandes grupos
empresariais que ocupam, hoje, através
dessas fundações e movimentos, como
Lemann, Instituto Ayrton Senna, Todos
pela Educação, que começam a formatar
esses conteúdos a serem distribuídos.
Então, essa perspectiva do aberto, que a
Fernanda destacou, para o governo aberto;
eu destaco, ampliando-a, achando que é
fundamental pensarmos no aberto em todas
as perspectivas: na educação, nos recursos
educacionais, no acesso, no parlamento
aberto, nos dados abertos, no hardware
aberto, no software livre e aberto. Ou
seja, essa ampliação é fundamental para
que recuperemos a dimensão pública, da
formação cidadã centrada nos direitos
113
humanos. Parece que esses desafios que
temos são enormes, porque estamos
vendo uma ausência, com esse ataque,
com redução de 92% do orçamento para
a Ciência Brasileira; estamos vendo um
ataque ao desenvolvimento científico e
tecnológico.
E, com isso, a adesão a essas
tecnologias inviabiliza uma
perspectiva soberana de dados;
porém, mais do que tudo,
inviabiliza a soberania de país.
Ou seja, estamos trabalhando em
uma perspectiva absolutamente
reducionista do que é a formação
cidadã.
E isso, no meu ponto de vista, é grave;
e, obviamente, adentrando o campo da
Inteligência Artificial, se agrava de forma
muito mais intensa.
Juliane Cintra
Acho que continuando essa trajetória
que estamos construindo, a Fernanda nos
apresenta a possibilidade do governo aberto
como primeiro passo para confrontarmos
essa estrutura fatalista, quando olhamos
para a tecnologia. Quando o professor
Nelson traz essa perspectiva para a
Educação, quando olhamos para essa
dimensão que ele apresentou, a dimensão
pública da formação cidadã, isso é muito
importante,
é um chamado para recuperarmos
os sentidos, os significados da
tecnologia; e estamos falando que
nem todo discurso sobre tecnologia
é necessariamente inovador;
muitas vezes, ele guarda em si o
114
conservadorismo e a manutenção
das desigualdades, das assimetrias.
Então, é sobre isso, também, que
debatemos quando citamos a necessidade
de ressignificar alguns pressupostos,
que é o que a Fernanda trouxe e tem a
ver com a pesquisa; estou trabalhando
com essa dimensão da teoria crítica de
direitos humanos, que reside na origem
do pensamento moderno. Então, tudo
faz muito sentido, esse caminho que
estamos construindo, de que para ser uma
perspectiva, de fato, vinculada a um ideal
emancipador, tem de refutar essa abordagem
colonialista, que é um pouco do que está
acontecendo, são essas novas formas de se
organizar e de se manter essas assimetrias.
Creio que o debate está bem interessante,
abordando tecnologias livres e alternativas,
apontando horizontes e também chamando
a atenção para questões importantes, que
precisamos manter em nosso horizonte.
Então, para continuarmos nossa troca de
ideias, que coloca o pé no chão, quando
pensamos em infraestrutura e Inteligência
Artificial, contamos com a presença do
professor Wagner Meira, da UFMG. Ele
é professor titular do Departamento de
Ciência da Computação da Universidade
Federal de Minas Gerais, Ph.D. em Ciência
da Computação pela University of Rochester,
pesquisador em Produtividade CNPq, nível
1B e subcoordenador do INCT-Cyber –
Instituto Nacional de Ciência e Tecnologia
para uma Sociedade Massivamente
Conectada.
Wagner Meira
É um prazer estar aqui nesta
mesa com a Fernanda, o Nelson, o
Cláudio. É muito bom revê-los neste
momento ainda muito precário
da nossa vida.
Acho que até pela minha origem, vocês
já devem esperar que eu vou trazer um
contraponto aqui. Não um contraponto,
porque eu concordo com o que foi dialogado,
mas outra perspectiva, que eu sempre
brinco que é a perspectiva desumana.
Ou seja, venho das Ciências Exatas, e elas
são sempre meio desumanas. Em minha
apresentação, tem algumas coisas que
quero mostrar.
Na verdade, quero discutir um pouco
essa questão da Inteligência Artificial; e,
talvez, dar algumas boas-novas; outras,
nem tanto; e colocar alguns aspectos mais
amplos em discussão. Acho que algumas
coisas que vocês articularam sobre governo
aberto, sobre plataformas, do ponto de vista
técnico, obviamente, estou à disposição para
discutir; mas, do ponto de vista estratégico,
político, tenho uma certa limitação. Bom, já
foi bastante falado sobre a questão de que
temos uma conjunção diferente. Lá atrás,
nas épocas de software livre, falávamos de
software livre e olhávamos para o horizonte,
víamos a questão dos dados, que estavam
se concentrando em alguns provedores,
como um problema. Essa coisa cresceu,
esses provedores, simplesmente
eles não só acumulam dados como
os processam massivamente; eles
são os maiores detentores de
poder computacional do mundo;
e isso, hoje, recebeu esse nome de
Inteligência Artificial, Aprendizado
de Máquina, ou coisa parecida.
Apesar do horizonte sombrio, tem algumas
coisas acontecendo, não só em termos de
Academia como fora da Academia, que são
bem interessantes. Vou mostrar duas para
vocês. Recentemente, vi o artigo do The
Verge que fala sobre os entregadores de
Nova York, que estão se revoltando. Eles
começam a questionar “se vale a pena
trabalhar sujeito a decisões algorítmicas”.
Os algoritmos são firewalls; eles põem
medidas de produtividade brutais,
exigem compromissos de dedicação
impressionantes, e assim sucessivamente. A
mesma coisa acontece com a Amazon, que,
hoje em dia, é a maior empresa de logística
dos Estados Unidos; ela tem uma proposta
de microgerenciamento dos funcionários,
inclusive, indicando por onde eles devem
passar para fazer suas atividades. E, nesse
caso, eles estão dizendo o seguinte, “que
não é possível que não possamos escolher
por onde passar”. E tem vários outros
exemplos, peguei dois exemplos que achei.
Vamos tentar entender o que pode estar
acontecendo aqui, e como é que isso nos
afeta em grau amplo? O modelo baseado
em Inteligência Artificial e otimização
de critérios normalmente associados ao
negócio começa a mostrar fraturas, que
vêm exatamente na hora que a percepção
humana começa a superar a percepção de
máquina. Não acredito em singularidade,
não no curto prazo; não acredito que a
tecnologia vai superar alguém; acredito
que, provavelmente, essa tecnologia, por
questões pragmáticas, vai ter de se curvar
às praxes dos homens, antes de realmente
se distorcerem, transformar-se em figuras
futuristas. Tem três aspectos que quero
trazer para essa discussão e que estão
sendo amplamente divulgados, com seus
impactos sendo discutidos. O primeiro é a
justiça algorítmica. Por exemplo, modelos de
115
reincidência criminal, nos Estados Unidos,
já foram completamente execrados, por
eles serem racistas etc.; e
há toda uma preocupação, hoje
em dia, no sentido de que esses
grandes provedores de informação
dizem não ser racistas, que são
os dados que são racistas, por
exemplo. Eles não assumem essa
responsabilidade.
Uma segunda coisa é a responsabilidade
algorítmica, ou seja, quem, ou o que, é
responsável por uma violação étnica.
Então, temos o caso clássico de utilização
de Inteligência Artificial para recolocação
profissional; e, normalmente, aparecem
distorções, por exemplo, entre homens e
mulheres, entre distorções de raça, étnicas
etc. E quem é responsável quando isso
acontece? É a pessoa que usa o algoritmo?
É a pessoa que desenvolveu o algoritmo?
São os dados que foram utilizados pelo
algoritmo? É uma diretriz do contratante?
É uma junção disso tudo? E, na hora que
fazemos um acionamento legal, quem que
vai ser acionado? Então, existe uma fricção
grande nesse processo, associada a essa
responsabilidade algorítmica. Ela é ampla?
Ainda não. Por fim, temos a transparência
algorítmica. Esse é um movimento muito
forte, por quê? Porque pressupõe que o
humano deve entender a saída do modelo,
deve concordar com a saída do modelo.
E, nesse caso, tem o exemplo de quando
temos o modelo “caixa-preta”, ou seja, ele
simplesmente fala “esse é um husky”; e
aí temos o outro modelo dizendo “que
ele é um husky por causa dos olhos e das
orelhas”. Isso é fundamental. Na verdade,
transformou-se em um impedimento a
116
ampla adoção da Inteligência Artificial.
Certos nichos profissionais se recusam a
usar os chamados “modelos caixa-preta”.
Recusam-se a não entender, minimamente,
qual é a linha de raciocínio desses modelos
e de onde eles vêm, com aquelas sugestões,
recomendações e previsões. E aí vejo uma
oportunidade. Porque nos dois casos
anteriores, em um caso de responsabilização,
em um caso de injustiça, vamos enxugar
gelo resolvendo distorções e problemas
que tínhamos anteriormente na sociedade.
Aqui, temos uma oportunidade, vou tentar
explicar por quê. Onde está o problema
nos três casos e/ou as dificuldade? Os
algoritmos foram todos implementados
baseados em métricas de negócio, como
acurácia, revocação, retorno de investimento
etc., e não consideraram as questões de
aspectos éticos e valores humanos, como
justiça, responsabilidade, transparência. À
medida que esses aspectos éticos e valores
humanos passam a ser valorizados como
um mecanismo de negócio e de utilização, a
coisa começa a mudar de patamar. Para as
pessoas de tecnologia, qual é a diferença?
É um critério a mais, é um quesito a mais a
ser trabalhado. Entretanto, para as pessoas
de negócios, pode não ser; mas acontece
que eles já entraram no redemoinho da
imagem e do impacto desses aspectos em
vários outros cenários. Então, o problema
é: Como nossas funções objetivas dessas
várias técnicas passam a considerar aspectos
éticos e valores humanos? Na verdade,
considerar isso é um aspecto muito mais
amplo. Porque temos de entender a natureza
das violações, temos de olhar os dados,
se eles não estão comprometendo aquele
processo, se eles não são enviesados, se
eles não são sexistas, se eles não são
racistas. Temos de incorporar aspectos
éticos e valores humanos nos critérios
das funções objetivas dessas técnicas, e
temos que fazer isso continuamente. Porque
novas fontes de ruído e de distorção podem
aparecer e atrapalhar esse processo. Aí vem
a questão da oportunidade, que, em vez de
negarmos os benefícios da tecnologia, as
possibilidades que ela propõe, na verdade,
temos de mostrar suas deficiências, e
mostrar como elas podem ser melhores,
ou, pelo menos, tentar fazer isso, senão fica
aquele discurso, um discurso simplesmente
de reação, e não de proposição no processo.
O resultado mais interessante disso é
que, na prática, os sistemas atuais, em
sua grande maioria, têm de ser refeitos,
têm de ser reconstruídos; eles não são
capazes de, por exemplo, trabalhar as três
dimensões que coloquei. E aí tem uma
oportunidade nesse sentido. O que isso
tem a ver com o software livre? Primeiro,
há uma mudança de patamar no seguinte
sentido: a base dos sistemas de Inteligência
Artificial já está ancorada em softwares
livres e abertos. Se pegarmos as grandes
plataformas que são utilizadas, hoje em
dia, como Python Scikit-Learn, Apache
Spark MLlib, PyTorch, Keras, vemos que
todas usam códigos abertos. Essa questão
do código proprietário é importante para
que evitemos ter ações maliciosas dentro
do código, mas ela é necessária, ela não é
suficiente. Ela continua sendo necessária,
mas isso é uma batalha que aconteceu. Tanto
que vemos, hoje em dia, o que a Microsoft
está entregando. Ela entrega serviço, ela
quer vender serviço; ela não quer vender
software, ela não vende mais licença de
software, isso é passado. E como é serviço,
eles não estão preocupados se o software
é livre. Eles estão publicando coisas no
GitHub. Na verdade, eles querem o serviço.
E, nesse âmbito de Inteligência Artificial,
tem uma mudança técnica que é a seguinte:
o código não é suficiente, porque quem
rege o comportamento desses algoritmos
são os dados. E daí temos um nó, porque
a abertura indiscriminada de dados viola
a privacidade, entre outros requisitos; e,
inclusive, aspectos legais, nesse momento
do país, com a LGPD. Por outro lado, vemos
que a transparência algorítmica é cada vez
mais exigida e expõe o caráter dinâmico do
software. Então, a Nova Zelândia baixou
uma ordem de que todos os softwares
devem ser transparentes. Ela não está
nem preocupada se o software é livre, mas
todas as decisões, ao cidadão, devem ser
explicadas de forma transparente.
É um novo patamar de
transparência, é a transparência
de que não estamos sendo
manipulados pelo algoritmo; de
que, de alguma forma, temos de
explicar por que estamos dizendo
que aquele é o emprego que
devemos conseguir, por exemplo.
Acredito que dados e algoritmos vieram
para ficar, mas eles realmente só vão ser
um promotor efetivo, do ponto de vista de
melhoria social, se as questões de ética e
valores humanos forem consideradas, pois
elas são fundamentais. Contudo, sabemos
que os sistemas atuais são insatisfatórios.
Notem que sempre questionamos muito a
Inteligência Artificial substitutiva, que vai
substituir o homem. Porém, não acredito
nisso. Acredito na possibilidade de que
o homem vai ser reinserido no loop em
outro patamar, não naquele patamar da
realização de tarefas braçais, mas naquele
patamar no qual, em última instância, estará
117
o encargo de verificar o cumprimento de
aspectos éticos e valores humanos etc.
Assim, o entendimento, o conhecimento
dos funcionamentos desses sistemas e da
utilização desses sistemas é exatamente
o que se mostra como oportunidade de
construir um paralelo ao que foram as
questões de software livre e aberto, dados
abertos, em termos do uso dessas técnicas
no âmbito da sociedade. Acredito nisso
pessoalmente, embora possa ser uma visão
otimista, mas acho que é um pouco do meu
contraponto aqui, que há oportunidades
em todos os níveis e em todas as áreas.
Esse tipo de tecnologia de propósito geral,
como é o caso da Inteligência Artificial,
como foi o automóvel, como foi a energia
elétrica etc., tem um efeito potencial
transformador tão grande na sociedade
que ficamos discutindo “se não deveria
ser”, na verdade, acredito que estamos
perdendo tempo em exatamente partir
para cima e tentar buscar o melhor uso
dessa tecnologia, apesar de que, como
qualquer tecnologia, ela sempre vai ter
alguém pensando alguma coisa maliciosa
para fazer com ela. Muito obrigado.
Juliane Cintra
Acredito que a apresentação do
professor Wagner, assim como a do
professor Nelson e da Fernanda, foram muito
provocativas. Apresentar a transparência
algorítmica como algo em um novo patamar,
com essa necessidade da revisão constante,
essa revisão ética constante dos sistemas,
é bem interessante para analisar essa
perspectiva como oportunidade; acho que
tem um debate por trás dessa reflexão, a
depender da abordagem escolhida,
118
definimos quem incluímos e quem
excluímos dessas reflexões, quando
apresentamos a possibilidade de
transparência como possibilidade
da compreensão das escolhas
e da partilha coletiva dessas escolhas; e
da possibilidade, também, de dar escolha
para aquele que era cliente e agora é
usuário, tudo isso que está sendo reduzido
a dados é bem interessante e traz questões
bastante provocativas. Tem muita coisa aqui
fervilhando para pensarmos. Convido a
participar conosco o professor Jader Gama,
do Núcleo de Altos Estudos Amazônicos,
da Universidade Federal do Pará. Jader é
doutor em Desenvolvimento Socioambiental
pelo Programa de Pós-Graduação em
Desenvolvimento Sustentável do Trópico
Úmido, e mestre em Planejamento do
Desenvolvimento pelo Núcleo de Altos
Estudos Amazônicos, na Universidade
Federal do Pará, bem como professor da
Faculdade Pan Amazônica e pesquisador
da Incubadora de Políticas Públicas da
Amazônia.
Jader Gama
Estou em uma ilha chamada
Caratateua, na região insular de Belém,
na foz do rio Amazonas, e estou me
arriscando a trabalhar com professoras.
Estou trabalhando com professoras e
o Nelson também já esteve dando uma
contribuição ao debate com as professoras
da Escola Bosque. Trabalho na Ilha, em uma
escola cercada por um bosque enorme, e
estou contribuindo no que nós estamos
chamando de Incubadora Educativa,
Tecnológica, Socioambiental. Estamos
buscando, com base em temas geradores, e
começando a organizar, com a comunidade
escolar, proposições de intervenção no
território. Esse é o meu trabalho. A pergunta
que me foi feita é: Devemos apostar em
tecnologias livres diante das infraestruturas
de Inteligência Artificial? Vou ler o último
parágrafo da apresentação da minha defesa
de doutorado. “O processo de consolidação
do acervo digital do Herbário do Museu
Emílio Goeldi evidencia que fazemos
parte de uma engrenagem do processo
global de dominação cultural, científica
e econômica, que marca a chamada Era
do Conhecimento. Então, se mantivermos
os protocolos que nos são impostos nesse
contexto de capitalismo de vigilância e
economia do conhecimento, continuaremos
em uma posição de grande importância
subalterna”.
Se mantivermos o jogo como está,
vamos manter nossa importância
subalterna, no que tange a ser
um grande celeiro de dados, que
são utilizados no capitalismo de
vigilância.
Então, se eu fosse dar uma contribuição
para o Governo do Estado de São Paulo,
no debate sobre essas tecnologias digitais,
diria que teríamos de retomar, e refundar,
uma política pública de inclusão digital.
Acho que teríamos de pegar e fundar,
refundar, um movimento de inclusão
digital; e esse movimento de inclusão
digital deveria ser fundado no cultivo de
uma cidadania digital; e essa cidadania
digital deveria promover uma consciência
tecnopolítica, que combatesse o processo
colonial de alienação técnica promovido
pelas Big Techs. Acho que o grande desafio
nosso, enquanto cientistas, pesquisadores
políticos e cidadãos comuns, é compreender
que os dados estão na centralidade do
processo econômico e político mundial;
e que vivemos um processo de alienação
técnica. Creio que devemos fazer uma
política pública de inclusão digital, que
traga para o debate uma cidadania digital,
e que, inclusive, essa cidadania digital leve
em consideração os humanos e os não
humanos; porque o meu ponto aqui é a
Amazônia, estou falando de humanos e não
humanos porque o processo de rapinagem
dos dados não é um processo de rapinagem
somente das pessoas, mas é um processo
de rapinagem de dados e informações do
território, materializados em plantas, em
bactérias, em vírus, em genes e princípios
ativos, ou seja, em toda uma miríade de
informações que estão sendo capturadas e
que nós nem estamos percebendo, porque
estamos na engrenagem que colabora para
esse processo.
Acho que o nosso desafio é esse,
pensarmos e termos a ousadia
de cortar esse processo de
dependência tecnológica.
Estamos colocados nesse processo de
dependência tecnológica, e eles nos
colocam – as grandes corporações – no
que os teóricos chamam de monopólio
natural. Dizem assim: “Olha, já está feito.
Vocês não precisam fazer, é só usar”. Mas
quando nos colocamos em uma posição
de meros utilizadores, não conseguimos
transformar a realidade. Então, o debate
que trago é simples, de um cara que está
trabalhando em uma instituição, em
uma escola pública municipal, que é da
Prefeitura Municipal de Belém; trabalho
nessa Fundação, que é uma escola que tem
como princípio a educação ambiental, e
119
levamos para dentro da escola, nesse debate
freiriano, uma proposta de cultivar um
território digital educativo; estamos com
uma proposta de construir nossa própria
infraestrutura. E só para temos uma visão
mais pragmática do que estamos fazendo,
por exemplo: Agora, estamos fazendo um
debate sobre a questão climática nas escolas,
e estamos usando como tema gerador a
água. Com base nesse tema gerador “Água”,
estamos discutindo, por meio de todas as
disciplinas, um processo de catalogação e
georreferenciamento dos corpos de água
das ilhas, que são nascentes, igarapés,
poços, furos e praias. E nossos alunos estão
coletando esses dados em uma plataforma
livre; estamos fazendo o mapeamento, no
território, de onde estão os dados, de onde
estão localizados os poços utilizados pela
população, onde estão localizadas as fossas,
porque fossa com poço não dá certo; e
estamos levando os alunos a buscar os
dados da Secretaria Municipal de Saúde;
dessa forma, descobrimos que 80% das
doenças, que são tratadas nos Postos de
Saúde, das ilhas, são relacionadas à questão
da água; é diarreia, infecção intestinal,
coisas assim, que acometem a população.
Com base nessa junção de
informações, afirmo a vocês que
uma cidadania digital centrada
nos dados leva o cidadão a
compreender que os dados
relacionados independem das
tecnologias usadas, que podem
ser, inclusive, Inteligência Artificial.
Participo de um Laboratório de Suporte
à decisão, o foco é em Santarém, e
trabalhamos com essa perspectiva de
fazer essa cidadania digital, no sentido
120
de juntar dados e traçar cenários. A partir
desses cenários, as pessoas podem tomar
uma atitude ou não. Isso é uma consciência
tecnopolítica. Um projeto de inclusão digital,
que traga os dados para a centralidade da
cidadania digital; levando em consideração
que precisamos quebrar essa dicotomia,
essa cosmovisão eurocêntrica, que coloca
as pessoas na centralidade de tudo; e levar
em consideração que somos mais, uma
comunidade de seres em uma comunidade
muito maior; e que os dados podem ser
um instrumento de comunicação entre o
mundo humano e não humano, que pode
nos levar a um processo de economia que
abra possibilidades de se fazer uma gestão
inteligente do território. Acho que temos a
consciência tecnopolítica de que estamos
imersos em um processo de alienação
técnica, principalmente nós, enquanto
cientistas; e os tomadores de decisões,
os políticos. Podemos compreender que é
necessário começar a montar infraestrutura,
que não sirva só para grandes empresas,
ou corporações, ou governos; mas que
esses dados coletados, organizados e
transformados em conhecimento façam
parte da vida das pessoas, das comunidades.
Com base nesse processo que estamos
realizando, que é um processo freiriano,
no Centenário de Paulo Freire, chegamos
à conclusão de que podemos, utilizando
os conhecimentos científicos, atacar esse
problema da água; primeiro, cuidando da
questão das fossas, criando condições para
que os dejetos sejam bem acondicionados;
mas, imediatamente, estamos trabalhando
uma questão relacionada à construção de
filtros de carvão ativado, que vai resolver
o problema. É uma coisa muito louca;
vivemos no Brasil, na Amazônia, em cima
de água, e as pessoas bebem uma água
que não presta, uma água ruim. Quero,
assim, provocar vocês, no sentido de que,
para além da Inteligência Artificial, acho
que a questão da facilidade do uso das
ferramentas proprietárias nos encantam
pela sua comodidade; portanto, podemos
pegar e começar a criar uma inteligência
coletiva, com uso de ferramentas livres,
nas quais podemos, inclusive, modificar
essas ferramentas; e eu não digo que me
refiro a desafios gigantescos,
mas desafios do cotidiano das
pessoas. Temos a possibilidade de
abrir uma cidadania digital, que
saia desse processo de alienação
técnica, a fim de que possamos
realmente transformar a realidade.
Em Belém, estamos fazendo um debate
muito profundo, com as professoras,
sobre esse processo do avanço das Big
Techs na educação; e a participação do
Nelson, a participação do Sérgio Amadeu,
foi fundamental. Elas entenderam que
os dados delas e os dados das crianças
que elas ensinam, e dos jovens, são
dados públicos; tanto é que, em vez de
utilizarmos, na Funbosque, o Google
Classroom, criamos uma instância, com
colegas da UFSCar, do Moodle; porque o
Moodle abre a possibilidade, inclusive, de
fazermos formação off-line, porque temos
uma condição de internet muito grande.
Outra ferramenta que estamos utilizando
é uma plataforma livre, a Plataforma Tá
Selado, de participação social da Prefeitura
de Belém, feita no Decidim, que tem uma
comunidade pujante, em Barcelona, na
Europa. Com base no software livre, estamos
fazendo um remix do que podemos utilizar
como ferramenta de participação social.
Estamos, agora, utilizando uma ferramenta
de mapeamento do território para gestão,
para governança do território, de forma
comunitária. Quero dizer para os governantes
que vão nos escutar, para as pessoas, que
existe uma miríade de possibilidades de
uso de ferramentas livres; e que tem um
princípio filosófico muito importante, que
nos leva a compreender que toda ferramenta
técnica tem uma condicionante política; e
que o fato de utilizarmos software livre já
mostra determinado tipo de pensamento.
Creio que esse processo de inclusão digital
4.0, esse processo de inclusão digital traga
os dados para a centralidade das pessoas,
e as pessoas comecem a utilizar essas
informações para melhorar sua condição
de vida, e isso é um elemento no qual os
governos têm de investir, até para que
o Brasil tenha uma posição global, que
quebre esse paradigma da dependência
tecnológica.
Juliane Cintra
As experiências trazidas por todos
são incríveis. De fato, é uma esperança
realista, vemos uma apropriação criativa,
que permite ampliar a capacidade dessas
alternativas, da potência dessas alternativas,
por meio dessa apropriação criativa. Agora,
a pergunta: “Como podemos utilizar uma
rede neural de modo transparente?”.
Wagner Meira
Temos dois tipos de modelos
interpretáveis. Temos os “modelos
interpretáveis” e os “modelos agnósticos”,
que são modelos construídos em volta
desses modelos caixa-preta. É meio que uma
lógica de teste de hipóteses. Percorremos o
espaço de busca de dados daquele modelo,
verificamos quais perturbações afetam
121
a resposta do modelo e, com base nisso,
criamos um modelo agnóstico, como se
fizéssemos uma tomografia do modelo.
E, mais recentemente, temos algumas
redes neuronais, que possuem alguns
mecanismos de transparência dentro da
mesma lógica. Ou seja, decompomos o sinal
que vai percorrer a rede em uma estrutura
descentralizada que ela é, e recompomos
esse sinal, dependendo dos pesos, fazendo
analogia cerebral; a excitação que aquele
dado gera em uma’ parte ou em outra da
rede. Então, já temos soluções técnicas
para isso. Acho que o caso neozelandês é o
primeiro no mundo, acho que ele deveria
ser olhado com mais cuidado, porque ele
foca a questão da cidadania e a utilização de
algoritmos, pelo Estado, que é o que deve
ser seguido em termos de pressupostos
e requisitos de transparência.
Juliane Cintra
Agora, vamos retomar a ordem da
mesa, começando pela Fernanda.
Fernanda Campagnucci
Foi ótimo acompanhar todas as
contribuições. O problema de se apresentar
primeiro é que atiramos em um ponto,
depois acompanhamos todo o universo,
e ficamos com vontade de contribuir
mais. Porém, eu estava em outro evento,
da Comunidade Dados Abertos Latino-
Americana, e o exercício era de falar de
futuro, mais ou menos como estamos
fazendo aqui. Quando falamos de futuro,
temos a visão distópica que é fundamental
imaginar; mas é muito importante projetar
cenários com aquilo que queremos. E uma
das coisas que debati,
122
se fosse para imaginar uma
manchete de 2050: Governos
do mundo decidem um tratado
internacional, depois de anos
de negociação, para que só
infraestruturas abertas sejam
implementadas em governos, e
que os protocolos de troca de dados
sejam todos transparentes, e os
modelos de Inteligência Artificial
tenham transparência.
Enfim, sabemos que, pela tendência, está
muito difícil vencer essa batalha, mas se
não imaginarmos esses futuros, não vamos
buscar isso. Então, de tudo o que extraio
aqui das colaborações dos outros autores, o
principal é essa necessidade de seguirmos
com os debates, que já fazemos isso desde
os anos 1990, ou antes, mas ressignificando
e tentando aplicar isso nas nossas mais
variadas frentes de ação.
Nelson Pretto
Acho que, de certa forma, como eu
disse, elas terminam se complementando e
não acredito que tenhamos um contraponto
tão grande assim; acho que não existe dúvida
de que precisamos pensar em uma regulação
dessas empresas donas das plataformas.
Quero dizer, da melhor forma que fizemos
isso com a grande mídia, não é possível a
concentração econômica da forma que está
se configurando. Estou de pleno acordo
com a necessidade de uma transparência
algorítmica, de tal forma que se tenha
responsabilidade, transparência e justiça em
tudo isso. Não tenho dúvida, também, de que
precisamos fortalecer o desenvolvimento
de soluções em infraestrutura pública.
Isso temos trabalhado intensamente, e
acho que isso equivale a pensarmos em
políticas públicas de indústria e comércio,
de ciência e tecnologia e de formação. Quer
dizer, é diferente de imaginar que esse
desenvolvimento significa um afastamento
de relações com outros países, Sul-
Norte, Sul-Sul; acho que, ao contrário, o
desenvolvimento dessas plataformas em
rede nos possibilitaria um fortalecimento,
exatamente, da formação tecnopolítica
ampla, e que isso viria desde a mais tenra
idade. Ou seja, não imaginar que possamos
esperar um futuro para isso acontecer,
mas desde os primeiros anos de vida,
nas aproximações que estão fazendo com
essas tecnologias, ela já pode trabalhar,
e já deveria trabalhar nessa perspectiva.
Wagner Meira
Não é só reafirmar que eu acredito
que essa questão da transparência
complementa a discussão do software
livre; ela, ao mesmo tempo, promove a
cidadania e o conhecimento, o entendimento
dessas tecnologias e das possibilidades.
Acho que simplesmente desqualificarmos
a tecnologia, porque ela é fechada, vai nos
dar um caminho muito mais íngreme do
que, na verdade, colocar condições mais
razoáveis para seu funcionamento. Ficamos
muito tempo discutindo o que o Google
podia armazenar e não armazenar de dados,
e quando chegamos em um ponto no qual
não havia uma legislação para isso, eles já
estavam em outra dimensão. Então, esse
é o ponto que eu gostaria de colocar.
Jader Gama
Os governos têm uma responsabilidade
de fortalecer as empresas públicas de
processamento de dados; então, acho que
fazer esse investimento para criar carreiras,
bons salários, condições de trabalho, é muito
importante para que possamos, inclusive,
pensar em federações tecnológicas que
possam compartilhar infraestrutura e
compartilhar orçamento. Acho que essa
é uma questão também muito importante
para se pensar. Creio que quando fomos
implementar a Plataforma de Participação
Social, em Belém, que é uma plataforma
livre, estávamos com alguns problemas
burocráticos. Dessa forma, uma pessoa da
prefeitura disse para o nosso time: “Instalem
isso em qualquer lugar, mas ponham para
funcionar”. E fomos contundentes em dizer
que precisávamos enfrentar a questão
burocrática em parceria com os técnicos
da CINBESA, para instalar a Plataforma de
Participação Social dentro dos servidores
públicos da Prefeitura Municipal de Belém.
E assim foi feito, porque estávamos lidando
com dados públicos da cidadania de uma
cidade. Creio que esse pensamento tem
de ser levado em consideração. Sei que
parece mais barato comprar nuvem; que
é mais caro investir em infraestrutura
pública; mas, na conta final, investiremos
em gente, e mantendo pessoas capazes
trabalhando pela transformação social e
por uma cidadania digital, que leve em
consideração a centralidade dos dados e
o cultivo de um território digital baseado
em uma consciência tecnopolítica.
Juliane Cintra
Saímos deste encontro com um
programa pronto, de investigação,
intervenção pública; assim, temos várias
opções de implementação de alternativas.
Acho que é muito interessante pensar que
o nosso ponto de partida é daqueles que
acreditam justamente que
123
 o discurso sobre tecnologia é
um elemento muito importante,
fundamental, quando pensamos
a consolidação das democracias.

Então, é por isso que se faz necessário

dialogarmos com as críticas, porque
precisamos recuperar justamente esse
potencial de emancipação que reside na
tecnologia, que reside quando pensamos
na construção de uma cidadania digital;
porque estamos pensando no limite, no fim,
na concepção de um novo mundo, de novas
formas, de respeito a novas subjetividades
emanadas com a natureza.

124 125
 Capitalismo preditivo e os
sistemas algorítmicos
DR. SERGIO AMADEU DA SILVEIRA
PROFESSOR DA UNIVERSIDADE FEDERAL DO ABC - (UFABC)
126 127
 Capitalismo preditivo e os sistemas algorítmicos1
Dr. Sergio Amadeu da Silveira
Professor da Universidade Federal do ABC - (UFABC)

Resumo

Quais discursos estão sendo produzidos sobre o mundo mediado e efetuado

por algoritmos? Seus efeitos expostos ou almejados possuem objetivos e finalidades
performativas, formatadoras e moduladoras de ações sociais, processos políticos e
instituições? A partir dCom base nessas perguntas, serão apresentadas as pretensões
algorítmicas do mundo corporativo e dos gestores públicos em um cenário de
ordenamento neoliberal do capitalismo informacional. Será exposto um levantamento
das expectativas de reprogramação das práticas sociais e governamentais nos discursos
sobre os algoritmos em cenário de expansão do Big Data, do Machine Learning e da
Inteligência Artificial. Os algoritmos de aprendizado de máquina e outros dispositivos
de Inteligência Artificial integram o conjunto de tecnologias de gestão, de controle e de
predição que aprofundam e superdimensionam os efeitos biopolíticos e noopolíticos
em uma sociedade levada a viver cotidianamente em funçãoa serviço dos futuros
prováveis.

Palavras-chave: governamentalidade algorítmica; prática discursiva; neoliberalismo;

Machine Learning; Inteligência Artificial; tecnologias preditivas.

Introdução

O desenvolvimento e a criação das tecnologias da informação, a partir do último

quarto do século XX, ocorreu em um cenário neoliberal. Como um regime de verdade
avassalador, o neoliberalismo pode ser definido como um modo de governar ou uma
governamentalidade que atua pelo Estado máximo na organização de uma sociedade
das empresas. Seu epicentro é a concorrência, mesmo onde ela não exista (FOUCAULT,
2008a). Para alguns, o neoliberalismo conforma uma nova ordem (LAVAL, ; DARDOT,
2017). Para outros, é a expressão de um novo e intenso processo reprodução do capital
na tentativa de recuperar as taxas de crescimento perdidas após a crise do welfare

1
Este texto é um dos resultados parciais do Projeto de Pesquisa regular, 2017/14412-0, financiado pela FAPESP,
com o título Regulação Algorítmica no setor público: mapeamento teórico e programático. As opiniões,
hipóteses e conclusões ou recomendações expressas neste material são de responsabilidade do(s) autor(es) e
não necessariamente refletem a visão da FAPESP. Foi apresentado no Simpósio da LAVITS (Rede Latino-A-
mericana de Estudos sobre Vigilância, Tecnologia e Sociedade), em 2019. Grande parte dos dados presentes
neste texto foram coletadosfoi coletada pelos pesquisadores de graduação Lucas do Vale Moura (Políticas
Públicas – UFABC) e Lucas Theodoro Guimarães de Almeida (Ciência e Tecnologia – UFABC).

128 129
state, intensificando os processos de concentração e confisco de renda das camadas
médias e baixas da sociedade (HARVEY, 2007).
Nesse período, os Estados desenvolveram diferentes políticas de uso e houve
a expansão das tecnologias da informação na sociedade e no mercado. Entretanto,
conforme os parâmetros da governamentalidade neoliberal e suas práticas discursivas,
não caberia aos Estados desenvolver tecnologias2. Assim, as políticas tecnológicas são
principalmente originadas nas corporações e nas empresas de consultoria.
Governos Eletrônicos, Data Warehouse, Business Intelligence, Big Data, Transformação
Digital, entre outros, são denominações para arranjos negociais-tecnológicos, originados
fora dos governos, que foram se sucedendo e se disseminam pelos Estados em todo o
planeta como um vírus inoculado pelas consultorias e empresas. Por isso, é possível
encontrar planos similares de Transformação Digital em países tão díspares como a
Inglaterra, Austrália, Canadá e Brasil, dentre outros. Sua estrutura e ideias-força são
similares ou idênticas, mesmo com as grandes diferenças entre a cultura, a economia
e as necessidades de cada país.
Nos últimos anos, principalmente a partir de 2016, “a bola da vez” tem sido
a “digital transformation”, expressão que ganha força e serve de parâmetro para
comparações feitas pelas consultorias e corporações globais para incentivar a adesão
de governos e empresas aos seus produtos. Por exemplo, o Canadá consolidou o Digital
Transformation Office (DTO) como o setor de Comunicações Estratégicas e Assuntos
Ministeriais da Secretaria do Conselho do Tesouro3. A Inglaterra afirma que quer
transformar o governo em uma única plataforma digital, em seu documento de 2017, The
new New Government Transformation Strategy4. A Austrália e seu Minister for Human
Services and Digital Transformation, Michael Keenan, declarou que para acelerar a
transformação digital o governo deve estar aberto aos negócios5. Em 2018, o Brasil
lança o documento Estratégia Brasileira para a Transformação Digital6.
É difícil de não observar a força homogeneizadora das corporações. McKinsey,
Gartner Group, IBM, Microsoft, Amazon, Google, Tecent, Oracle, entre outras, formam
o discurso dos gestores públicos e delimitam as compras do Estado. As consultorias
criam métricas e premiações que fortalecem os produtos e serviços dos chamados
ecossistemas das corporações aliadas. Um produto chama um serviço
2
Obviamente, mesmo os EUA, um dos principais propagadores da doutrina neoliberal, não deixam de aplicar
bilhões de dólares nas suas agências de pesquisa de tecnologia estatais. Um exemplo é a NASA. Todavia, esse
fato não pode ser confundido com as práticas discursivas. Os neoliberais discursam pela entrega das empresas
estatais e dos institutos tecnológicos para o setor privado ou defendem sua extinção.
3
GOVERNMENT of Canada. The Digital Transformation Office (DTO). Disponível em: https://www.canada.
ca/en/government/about/about-digital-transformation-office.html. Acesso em: 30 nov. 2022.
4
CABINET Office, UK. Government Transformation Strategy 2017 to 2020. February 2017. Dispo-
nível em: https://www.gov.uk/government/publications/government-transformation-strategy-2017-to-2020/
government-transformation-strategy. Acesso em: 30 nov. 2022.
5
AUSTRALIAN Government. Digital Transformation Agency. Vison 2025. We will deliver world-leading
digital services for the benefit of all Australians. 2018.
6
MCTIC. Estratégia Brasileira Para a Transformação Digital, 2018. Link:Disponível em: http://www.mctic.
gov.br/mctic/export/sites/institucional/estrategiadigital.pdf. Acesso em: 30 nov. 2022.
130
que puxa outro produto e, assim, sucessivamente, a “fidelização” dos clientes estatais
e corporativos vai se consolidando. Em junho de 2016, o McKinsey Global Institute
lançou o relatório Digital Europe: Pushing The Frontier, Capturing The Benefits, no qual
criou um índice para analisar o avanço da transformação digital na Europa, com a
finalidade de influenciar as autoridades e os técnicos do setor público, o empresariado
e os veículos de comunicação. Ressaltemos duas passagens do relatório:
O que queremos dizer com intensidade digital? É o grau em que a
digitalização impulsiona setores e empresas. O Índice de Digitalização
Industrial do McKinsey Global Institute usa dezenas de indicadores
para fornecer um instantâneo dos ativos, usos e trabalhadores digitais,
e nossas descobertas sobre a Europa são preocupantes. Hoje, a Europa
opera apenas com cerca de 12% do seu potencial digital, em comparação
com os 18% dos Estados Unidos. Além disso, há uma enorme variação
entre os países da Europa: enquanto a França opera com 12% de seu
potencial digital, a Alemanha está com 10% e o Reino Unido com 17%.
(...)[...]
Os líderes empresariais, os decisores políticos nacionais e europeus
e todos os indivíduos têm um papel a desempenhar na aceleração
da transição digital da Europa. As empresas devem avaliar até que
ponto o digital importa para elas e como elas podem transformar seus
modelos de negócios. Eles também devem adaptar suas organizações,
digitalizar suas operações e promover a inovação aberta ao longo do
caminho. Os governos devem estar ativos em três frentes: destravando
investimentos e acesso a capital, abrindo fluxos de dados e abordando
questões que envolvem habilidades e o mercado de trabalho. Em última
análise, eles terão que gerenciar a transição social e econômica trazida
pela digitalização, inclusive mitigando seu impacto no deslocamento
de empregos. Finalmente, os indivíduos precisam desenvolver suas
habilidades e abraçar a flexibilidade e as novas oportunidades que
a digitalização lhes oferece7. (MGI, 2016).
Quando analisamos a expansão dos discursos e regimes discursivos sobre as
tecnologias, também é preciso considerar instituições internacionais como o Banco
Mundial (WB), a Organização para a Cooperação e Desenvolvimento Econômico (OECD)
e o Fórum Econômico Mundial (WEF). Recentemente, em fevereiro de 2019, um o
relatório denominado Platforms and Ecosystems: Enabling the Digital Economy, nos
indica como os formuladores das tendências tecnológicas estão pensando os rumos
da digitalização. Corroborando com as análises de Nick Srnicek, o WEF considera que
vivemos um momento de predomínio da economia de plataforma:
A Quarta Revolução Industrial é possibilitada por novas tecnologias físicas e
digitais com aplicabilidade quase ilimitada ilimitada –- e enormes implicações
7
O Relatório do MGI pode ser encontrado, em inglês, no seguinte endereço eletrônico: https://www.mckinsey.
com/business-functions/digital-mckinsey/our-insights/digital-europe-realizing-the-continents-potential . O
acesso ocorreuAcesso em: 10 maio 2019. 10/05/2019.
131
 para a economia e a sociedade. Novos modelos de negócios estão sendo são imprescindíveis. Os indícios levam-nos à hipótese de que seus efeitos expostos ou
alavancados não apenas por organizações emergentes, mas também por almejados possuem objetivos e finalidades performativas, formatadoras e moduladoras
entidades tradicionais, que as veem como complementares a modelos bem
estabelecidos ou como potenciais substitutos de seus principais negócios.
de ações sociais, processos políticos e instituições.
A subsequente ruptura econômica foi de fato revolucionária. Em poucos
anos, o ranking das empresas mais valiosas por Algoritmos nunca agem sozinhos
capitalização de mercado mudou totalmente e está dominado por um modelo
de negócio – - plataformas digitais e seus ecossistemas.
O Fórum Econômico Mundial lançou a iniciativa Plataformas Digitais e Nos últimos anos, seja pelos agentes do mercado ou por funcionários da administração
Ecossistemas não apenas porque é um tópico em quase todas as agendas pública, os algoritmos surgem nos discursos relacionados a uma das três expressões:
do conselho corporativo, mas também porque os modelos de plataforma Big Data, Machine Learning e Inteligência Artificial (I.A.). E com essas tecnologias, os
digital já dominam nosso dia a dia e nossas experiências como consumidores, algoritmos são exibidos como motores ou como componentes de softwares, quase
funcionários, membros da comunidade e cidadãos . Considerando as implicações
dos modelos de plataforma e ecossistema para a sociedade, bem como as
nunca estando isolados.
oportunidades e riscos que poderiam apresentar no futuro, parece óbvio visar Para compreender melhor o discurso corporativo, foram coletados, e analisados
uma ampla colaboração entre os setores público e privado, entre empresas textos de empresas, instituições estatais, interestatais e não- governamentais, que
gigantes e start-ups, e com grupos de defesa dos direitos dos consumidores tratam das três expressões. Para fugir do modelo de relatório científico, propositalmente
e da sociedade civil. (WEF, 2019, p. 5). foram deixados de fora os detalhes de cada documento analisado, utilizando citações
ou referências indispensáveis para a explanação das práticas discursivas sobre a
No livro Platform Capitalism (2016), Nick Srnicek havia constatado que uma
reprogramação algorítmica da sociedade. Para uma melhor compreensão deste texto,
economia de dados em um cenário neoliberal tornaria o modelo de negócios baseado
é necessário definir as três expressões.
nas plataformas altamente viável. As plataformas são intermediárias entre aqueles
pode ser compreendido como uma expressão para as novas infraestruturas capazes
que tem têm um produto ou serviço a oferecer e aqueles que precisam do que será
de lidar com grande volume de dados heterogêneos, estruturados ou não, capturados,
oferecido. São estruturas de intermediação que passam a obter dados fundamentais
processados e analisados em grande velocidade. Não há uma única definição, mas
sobre o mercado em que atuam. Assim, podem estruturar melhor as ofertas e atingir de
existem elementos integrantes dos enunciados aceitos sobre que trabalham com a
modo bem mais preciso a demanda. Como o documento do WEF deixou claro, “A Uber
abundância de dados e que são caracterizadas por três palavras iniciadas com a letra
não possui carros. O Airbnb não possui quartos. O Facebook não produz seu próprio
“v”: volume, variedade, velocidade. Mais recentemente se agregou a elas mais duas
conteúdo” (WEF, 2019, p. 8). A força da plataforma vem do efeito de rede que gera.
palavras: valor e veracidade.
Quanto mais facilidades oferece, maior ela fica. Quanto mais é utilizada, mais valor
No Relatório da Organização para a Cooperação e Desenvolvimento Económico
gera. Quanto mais concentra as atenções, mais visitas gera, mais dados são coletados
(OECD), A brief history of everyone should read, seu o autor, Bernard Marr, afirma que
de quem dela participou e de quem desistiu de participar.
a expressão apareceu pela primeira vez na forma como é utilizada atualmente em um
As plataformas são vorazes coletoras de dados. Elas organizam velhos e novos
artigo da Harpers Magazine, no qual o escritor Erik Larson escreveu sobre a origem
mercados e, como intermediárias das transações e dos relacionamentos, obtêm dados
do lixo eletrônico que recebia. Em 1999, o paper Paper Visually Exploring Gigabyte
das interações. As plataformas são gerenciadas por algoritmos. Devido às dimensões
Datasets in Real Time, publicado pela Association for Computing Machinery, trazia a
que adquiriram, por causa da velocidade e do volume de transações que realizam, seria
expressão para lamentar a propensão para de armazenar grandes quantidades de dados
impossível um gerenciamento humano. Não há como gerenciar tantas interações, realizar
sem nenhuma maneira de analisá-los adequadamente. Em 2001, com a publicação do
tantos negócios e coletar tantos dados sem a presença dos sistemas automatizados
artigo 3D Data Management: Controlling Data Volume, Velocity and Variety, Doug Laney,
cujo coração são os algoritmos. O modelo das plataformas se tornou paradigmático
analista do Gartner Group, vai definirdefine as três das características definidoras do ,
e os dados ganharam ainda mais valor, tornaram-se os insumos fundamentais para
os três “Vs”. Segundo Pedro Domingos, a expressão vai se popularizar definitivamente
o capitalismo atual.
a partir dacom base na publicação do Relatório de 2011 do McKinsey Global Institute,
Quais discursos estão sendo produzidos sobre o mundo operado por algoritmos?
chamado de : The Next Frontier for Innovation, Competition, and Productivity (Domingos,
Os dados da população e o conhecimento estatístico já eram importantes na constituição
2015, p. 298).
da biopolítica durante o capitalismo liberal (FOUCAULT, 2008b, 365). No atual cenário
A expressão Inteligência Artificial é mais difícil de definir. Em suas diversas acepções,
neoliberal, a estatística adquiriu outras possibilidades, ao encontrar as tecnologias
encontramos a ambiciosa tentativa de compreender e reproduzir a cognição humana.
da informação, as redes digitais, a crescente capacidade de captura, o processamento
Para outros, como Nills Nilsson, a Inteligência Artificial é a atividade dedicada a tornar
e o armazenamento dos dados. O biopoder é a base do que Zuboff denominou de
as máquinas inteligentes, sendo a inteligência, a qualidade que permite uma entidade
capitalismo de vigilância (ZUBOFF, 2015). Esse poder sobre a vida depende de uma
funcionar apropriadamente e com capacidade de previsão em seu ambiente (NILSSON,
grande capacidade de análise ou de um poder de análise. Para tal, os sistemas algorítmicos
2009, p. 1). Nessa perspectiva, a Inteligência Artificial pode ser igual ou superior a
132 133
à inteligência humana. Warren McCulloch e Walter Pitts, em 1943, apresentaram o Sempre ligados a uma estrutura de dados, os algoritmos são os operadores do Big
primeiro trabalho reconhecido como de Inteligência Artificial. Sugeriram um modelo Data, do Machine Learning e da Inteligência Artificial. Algoritmos são utilizados para
de neurônios artificiais que estariam ligados ou desligados. Um neurônio alteraria seu fazer cálculos, para traduzir um idioma por outro, para controlar os semáforos de uma
estado conforme os estímulos dos outros neurônios. McCulloch e Pitts defenderam que cidade fazendo o trânsito fluir melhor, para comprimir uma música em bits para que
qualquer função computacional poderia ser realizada “por alguma rede de neurônios possa ser enviada mais rapidamente pela internet. Também podem analisar milhões
conectados e que todos os conectivos lógicos (e , ou, não, etc.) poderiam ser implementados de imagens em busca da identificação de um rosto, entre diversas outras aplicações.
por estruturas simples de redes” (RUSSELL; NORVIG, 2010, p. 16). A Figura 1 mostra O conceito de um algoritmo é uma das principais ideias da cibernética e da ciência
as expectativas e algumas definições importantes da Inteligência Artificial. da computação. Tarleton Gillespie escreveu que os algoritmos são frequentemente
definidos como “procedimentos codificados” ou “com base em cálculos específicos,
Figura 1: Algumas definições de Inteligência Artificial, organizadas em quatro categorias transformam dados em resultados desejados” (2018, p. 97). São regras, finitas e não-
ambíguas, que partem de dados para produzir um produto, uma resposta, uma solução.
Sistemas que Os algoritmos estão crescendo em diversidade e aplicação à medida que os governos
pensam como Sistemas
mudam para a tomada de decisões baseadas em evidências. Com montanhas de
humanos que pensam dados esperando para serem exploradas e a poderosa capacidade dos algoritmos
"O empolgante novo esforço para fazer os
racionalmente de fazer previsões e recomendações estatísticas, não é surpresa que os atores do
computadores pensarem ... máquinas com mentes, setor público estejam recorrendo a algoritmos para resolver problemas complexos
“O estudo das faculdades mentais através do uso
no sentido pleno e literal.” (HAUGELAND, 1985).
de modelos computacionais” (Charniak; e
nos limites da tomada de decisões em humanos. (WORLD Wide Web Foundation,
"[[A automação de] atividades que associamos ao McDermott, 1985). 2017, p. 6).
pensamento humano, atividades como tomada de
decisões, resolução de problemas, aprendizado ..." "O estudo das computações que possibilitam
...” (BELLMAN, 1978). perceber, raciocinar e agir” (WINSTON, 1992).
Os discursos sobre os algoritmos de Machine Learning, alimentados pelo Big Data,
estão prometendo encontrar uma maneira de prever o comportamento futuro de pessoas,
populações, e das classes de eventos, sejam culturais, econômicos, sociais ou políticos.
Sistemas que
"A arte de criar máquinas que executam funções
que exigem inteligência quando executadas por
“Inteligência Computacional é o estudo do design
de agentes inteligentes”. (POOLE et al., 1998). Vivemos uma nova fase do biopoder na sociedade de controle, que encontrou tecnologias
pessoas” (KURZWEIL, 1990). preditivas jamais vistas, que colocam as ciências da probabilidade e da predição em outro
agem como “AI. . .... está preocupado com o comportamento
"O estudo de como fazer computadores realizar inteligente em artefatos”. (NILSSON, 1998). patamar, qualitativamente distinto, do século em que começou a ser utilizada pelos Estados.
humanos coisas que, no momento, as pessoas fazem melhor”
(RICH and; KNIGHT, 1991).
Sistemas
que agem Economia de dados e poder de análise
racionalmente
Os documentos da OECD, em geral, expressam uma grande concordância entre
Fonte: RUSSELL, Stuart J.; NORVIG, Peter. Artificial intelligence: a modern approach. dirigentes dos países ricos e das grandes corporações do planeta, com a finalidade de
Upper Saddle River: Prentice Hall, 2010, pg p. 2. (Recombinação com edição de 1999.) influenciar as políticas governamentais. O Relatório Data-Driven Innovation: Big Data
for Growth and Well-Being, lançado em 2015, faz uma série de prescrições apresentadas
a partir decom base em um diagnóstico da realidade econômica e tecnológica mundial.
Machine Learning ou aprendizado de máquina é uma área da Inteligência Artificial, A inovação deve ser orientada pelos dados coletados, armazenados e analisados. Mais
sendo recentemente a que mais se desenvolveu. Em 1959, o engenheiro do MIT Arthur do que isso, a verdade discursiva indica que não será mais possível inovar sem a
Samuel descreveu o aprendizado de máquina como um “campo de estudo que dá aos análise de Big Data.
computadores a capacidade de aprender sem serem programados explicitamente”
(BERNARD, 2017, on-line). No mesmo artigo, What does Machine Learning actually A análise de Big Data, cada vez mais em tempo real, está impulsionando
o conhecimeno e a criação de valor em toda a sociedade; fomentar novos
Actually meanMean?, publicado pelo World Economic Forum, Bernard alerta que a produtos, processos e mercados; estimulando inteiramente novos modelos
Inteligência Artificial e o aprendizado de máquina geralmente são confundidos. Entretanto, de negócios; transformar a maioria, se não todos os setores, nos países da
“a Inteligência Artificial refere-se à capacidade de uma máquina de realizar tarefas OECD e nas economias parceiras; e, assim, aumentar a competitividade
inteligentes, enquanto a aprendizagem de máquina se refere ao processo automatizado econômica e o crescimento da produtividade. (OECD, 2015, p. 20).
pelo qual as máquinas extraem padrões significativos nos dados” (BERNARD, 2017,
on-line). O objetivo final da ampla e persistente coleta de dados é aumentar a competitividade
econômica e o crescimento da produtividade. Tais finalidades corroboram enormemente

134 135
com a doutrina neoliberal. Dados variados e massivos são indispensáveis fontes para
o funcionamento dos algoritmos de Machine Learning, de redes neurais e dos demais
tipos de Inteligência Artificial, que devem servir a “inovação orientada por dados”.
Sem dúvida, objetivos gerais, como a melhoria das condições de vida da população
e do bem- estar social, são apontados com destaque no conjunto dos documentos e
relatórios de organizações internacionais, principalmente da OECD, mas as recomendações
que implicam em práticas efetivas de baixo custo de implementação são, quase que
integralmente, benéficas às corporações.
Fatores negativos ou riscos são relatados na quase totalidade dos textos dos
organismos internacionais e governos, tais como o problema da privacidade e as
possíveis injustiças originadas no viés algorítmico, além de destacar a necessidade
de enfrentar as profundas mudanças no mercado de trabalho e na Educação. Todavia, é
comum que dois enunciados apareçam como as primeiras preocupações: “as barreiras
ao livre fluxo de dados”, “erosão da base e da transferência de lucros” (OECD, 2015,
p. 21). Se os dados não puderem ser extraídos das populações dos países pobres, dos
continentes asiático, africano, do Leste Europeu e da América Latina, para as corporações
dos países que comandam o capitalismo de dados, o sistema, sem dúvida, teria uma
perda de rentabilidade, uma vez que se reduziria a possibilidade de tratamento livre
dos dados de quase 3 bilhões de pessoas e de seus dispositivos.
Evitar um controle tributário maior aos detentores das plataformas se torna
uma preocupação das consultorias e dos Estados-sede dos gigantes informacionais.
O ecossistema de dados teria uma natureza globalmente distribuída, uma extrema
interconexão e interdependências de seus atores, tecnologias e recursos. Assim, os
consultores advogam que uma tributação agressiva das multinacionais de dados
poderia minar a inovação. Por outro lado, os discursos da OECD incorporam a crítica
da conhecida prática de muitas corporações de transferência artificial de lucros para
países com baixa tributação, nas quais pouca ou nenhuma atividade econômica é
realizada.
O capitalismo neoliberal se estruturou nos últimos anos em modelos de negócios
que dependem do livre fluxo de dados. A maior expressão do empreendimento
capitalista, atualmente, são as plataformas e os dados são seu sistema circulatório,
seu coração. O livre fluxo de dados é apresentado como um importante elemento da
competição global e da queda de barreiras de entrada às pequenas e médias empresas
de tecnologia. O bloqueio ou a forte regulamentação da extração de dados de um país
não integram o discurso dos consultores e dos agentes dos organismos internacionais,
sendo apresentados como medidas contrárias ao comércio, à concorrência e à inovação
dirigida pelos dados. O poder ou a capacidade de análise de uma corporação depende
da capacidade de obter uma vasta e diversificada base de dados do mercado em que
atua. Os algoritmos de I.A. não podem aprender sem a abundância de dados.
Em uma resposta oficial do Governo Britânico à Câmara dos Lordes, ficou claro
a preocupação com o poder de coleta e análise de dados bem maior das grandes
empresas e plataformas norte-americanas, ao afirmar que seria extremamente difícil
para as pequenas e médias empresas do país competirem com essas corporações
(GOVERNMENT response, 2018, p. 8). Sinais da grande assimetria no mundo dos
dados e das tecnologias de inteligência também podem ser sentidos na França. O mais
136
importante documento governamental sobre a I.A. na França, o Relatório Villani, traz
a clara menção de que “a França e a Europa já podem ser consideradas ‘cibercolônias’
em muitos aspectos” da economia de dados e das tecnologias de I.A.” (VILLANI, 2018,
p. 6) .
A colônia digital, a cibercolônia, pode ser entendida como a metáfora de um
país ou região que não é capaz de proteger seus dados, de armazená-los, de processá-
los e analisá-los com tecnologias de I.A., de Machine Learning. Nessas regiões, sem
poder de análise, sem infraestruturas adequadas de armazenamento de dados, sem
tecnologias inteligentes, as elites e empresas locais, ao buscarem os menores custos
de hospedagem e de tratamento de seus dados, acabam os entregando-os às matrizes
tecnoeconômicas da atualidade, aos Estados Unidos e à China.
Viés Algorítmico, responsabilização e regulação
Os folders e os papers das consultorias, os relatórios de grandes empresas, como
Microsoft e IBM, os planos de I.A. dos governos reconhecem, de modo variado, o
chamado viés algorítmico. Esse é um dos principais temas tanto da literatura acadêmica
(DIAKOPOULOS, 2014; BAROCAS, ; SELBST, 2016; ROUVROY, ; STIEGLER, 2016); quanto
das ONGs envolvidas no debate tecnológico, tais como, a Electronic Frontier Foundation
(EFF), a Electronic Privacy Information Center (EPIC) ou The Algorithmic Justice League,
entre outras. Existem diversos casos relatados de preconceito racial relacionados ao
modo como os algoritmos de aprendizado de máquina foram “treinados” ou sobre como
captou o padrão de uma base de dados racista, que foi utilizada e reproduzida. Também
podem existir falhas e equívocos nos modelos dos algoritmos ou nas codificações de
alguma linguagem de programação.
Gillespie escreveu que a suposta objetividade algorítmica é apresentada como
uma arma contra as controvérsias, além de poder mascarar seus possíveis equívocos
(GILLESPIE, 2018, p. 98). Casos como o do software Compas, utilizados pela Justiça norte-
americana para definir as penas de condenados conforme as projeções de reincidência
criminal, demonstram que há riscos do preconceito ser ampliado e reproduzido pelo
algoritmo (ANGWIN, ; LARSON, ; MATTU, ; KIRCHNE, 2016).
(…) o poder algorítmico não é necessariamente prejudicial para as pessoas;
Ele ele também pode atuar como uma força positiva. A intenção aqui não é
demonizar algoritmos, mas reconhecer que eles operam com vieses como
o resto de nós. E eles podem cometer erros. O que geralmente falta para o
público é a clareza sobre como os algoritmos exercitam seu poder sobre nós.
Com essa clareza, surge uma capacidade crescente de debater e dialogar
publicamente sobre os méritos de qualquer poder algorítmico específico.
Enquanto códigos legais estão disponíveis para nós, códigos algorítmicos
são mais opacos, escondidos atrás de camadas de complexidade técnica.
Como podemos caracterizar o poder que vários algoritmos podem exercer
sobre nós? E como podemos entender melhor quando os algoritmos podem
estar nos prejudicando? (DIAKOPOULOS, 2014, p. 2).
Em 2011, um algoritmo da Amazon elevou o preço do livro de Biologia, The Making
of a Fly, a estratosférica quantia de US$ 23,698,655.93 (COUTS, 2011). O algoritmo
137
estava programado para ajustar automaticamente o preço dos livros de um vendedor
da plataforma (Profnath) em função dos preços de um outro vendedor (Bordeebooks).
Sem limites corretamente fixados, o algoritmo iniciou uma competição entre os dois
vendedores e foi escalando os preços. O algoritmo não tinha parâmetros, nem verificava
a razoabilidade e a viabilidade econômica dos preços definidos. O erro foi corrigido.
O caso não era grave, pois ninguém adquiriu um exemplar por mais de 23 milhões de
dólares. Todavia, o caso alertou os pesquisadores e desenvolvedores.
Os discursos das corporações, consultorias e governos incorporaram a dimensão do
viés e do erro muito ligadas a à necessidade de confiabilidade dos sistemas algorítmicos.
O argumento baseado no fato de que as pessoas cometem erros e, portanto, algoritmos
também cometerão, não tem avançado, talvez devido a à responsabilização, a à
reputação e a à confiança que se estrutura em torno de agentes humanos. Assim, a
existência do viés e do erro exigem procedimentos e a necessidade de reparos, de
prazos, de aferição da extensão dos equívocos, de indenizar possíveis prejuízos e
sanar injustiças.
Às vezes, o viés pode ser introduzido por meio dos dados nos quais os algoritmos
baseados em redes neurais são treinados. Em julho deste ano [2016], por
exemplo, Rachael Tatman, bolsista de pesquisa de pós-graduação da National
Science Foundation no Departamento de Linguística da Universidade de
Washington, descobriu que o sistema de reconhecimento de voz do Google
funcionava melhor para vozes masculinas do que para as femininas. Ela atribuiu
esse resultado aos ‘conjuntos “conjuntos de treinamento desequilibrado’
desequilibrado” com uma preponderância de vozes masculinos. Como
Tatman observou, algumas legendas incorretas do YouTube não causarão
nenhum dano, mas vieses semelhantes de reconhecimento de fala em carros
autônomos, por exemplo, seria uma questão completamente diferente. (HOW
to implement AI and Machine Learning, 2016, p. 5).
Em 10 de maio de 2018, a Casa Branca sediou a cúpula da Inteligência Artificial
para a indústria norte-americana, reunindo mais de 100 altos funcionários do governo,
especialistas técnicos das principais instituições acadêmicas, chefes de laboratórios de
pesquisa industrial e líderes empresariais. O principal objetivo do encontro foi propor
ações para manter a liderança mundial dos EUA na era da I.A. O relatório final trouxe
uma breve menção aos problemas de privacidade e segurança das informações. Seu
foco era a eficiência e a remoção das barreiras à inovação, o que incluí a minimização
e até a recusa da necessidade de regulamentação do Machine Learning e da IA.
Regulamentações excessivamente onerosas não impedem a inovação
inovação – a- apenas a transferem para o exterior. Os participantes desta
sessão abordaram a importância de manter a liderança americana em IA,
em tecnologias emergentes e de promover a colaboração em P&D da I.A.
entre os aliados dos Estados Unidos. Os participantes também levantaram a
necessidade de promover a conscientização sobre a I.A., para que o público
possa entender melhor como essas tecnologias funcionam e como elas podem
beneficiar nossas vidas diárias. (THE WHITE House Office, 2018).
O discurso considerado correto e ponderado sobre a I.A., o Machine Learning
e as redes neurais, reconhece a possibilidade de viés e falhas, mas ameniza suas
138
consequências. O importante é abrir os caminhos para a inovação. Esta seria impedida
por amarras legais ou sociais que viriam com a regulamentação precoce. Algumas
iniciativas empresariais, que reprovam veementemente a regulação e a regulamentação
dessas tecnologias, propõem que empresas e governos assumam uma postura ética.
Por exemplo, em dezembro de 2015 foi criada a Open AI8 pelo empresário Elon Musk e
outros dirigentes de corporações tecnológicas. Sua missão é “garantir que a Inteligência
Artificial beneficie toda a humanidade”9. Em setembro de 2016, as megacorporações
Google, Amazon, Facebook, IBM e Microsoft criaram a Partnership on AI, que pretende
apoiar pesquisas e melhores práticas para a conscientização pública sobre a A.I.
Seus pilares temáticos são a A.I. justa, transparente e responsável, com benefícios
sociais com e geração de trabalho. A Partnership on AI propõe “onde a AI substituir
a tomada de decisões humanas, devemos ter certeza de que as decisões de máquina
serão seguras, confiáveis e alinhadas com a ética e com as preferências das pessoas
que são influenciadas por suas ações”10.
O discurso da ética é assumido por praticamente todas as plataformas, consultorias,
empresas, governos e ONGs. Não há ninguém contrário que ao desenvolvimento
das tecnologias de modo ético. Os princípios éticos ainda não são consensuais, mas
começam a ser desenhados. A necessidade de transparência, explicabilidade, segurança,
responsabilidade pelos efeitos e justiça contra discriminações socialmente inaceitáveis,
estão presentes em boa parte dos discursos. Esse cenário nos remete a importante
reflexão de Langdon Winner, que nos permite compreender o contexto em que se
dissemina a preferência pelo debate ético:
A falta de qualquer identidade coerente com o ‘público’ “público” ou de
canais legítimos e bem organizados para a participação pública contribui
para duas características distintas dos debates políticos sobre tecnologia,
(1) rituais fúteis de consultoria especializada e (2) intermináveis desacordos
sobre quais escolhas são moralmente justificadas. (WINNER, 1995, p. 185).
Diante da inevitabilidade das tecnologias, de sua “força sobre-humana”, da ideia
de que elas sempre resultarão no progresso e em melhorias, restaria debater o seu
uso de modo ético. A verdade discursiva coloca fora de questão outro tipo de demanda
que implique na restrição ou em limitações às tecnologias.
Opacidade e explicabilidade
As redes neurais, também conhecidas como redes neurais artificiais, são inspiradas
no modo como se acredita-se que o cérebro humano está estruturado. É composta de
“nós” ou ““neurônios artificiais”, ”, conectados em camadas, uma de entrada e outra
de saída, e uma ou mais camadas intermediárias, que são conhecidas como camadas
8
Open AI. Disponível em:: https://openai.com/. Acesso em: 30 nov. 2022.
9
Disponível em: https://openai.com/about/. Acesso em: 30 nov. 2022.
10
PARTNERSHIP on AI – -Thematic Pillars. Disponível em: : https://www.partnershiponai.org/about/.
Acesso em: 30 nov. 2022.
139
ocultas. Os nós atribuem valor aos dados, ou seja, eles recebem pesos e limites quando
o seu algoritmo é treinado. Os nós realizam operações matemáticas relativamente
simples, mas, após o treinamento que recebem, podem criam soluções não previstas
para se obter os resultados esperados.
Reconhecimento de imagem, de voz, tradução automática, soluções para a
compreensão de linguagem natural, em geral, são realizadas pelos algoritmos de rede
neurais. São um dos principais exemplos das chamadas caixas pretas. Uma vez treinados
e colocados em operação, dificilmente será possível tornar compreensível como seus
resultados foram gerados. Desse modo, suas as operações não são explicáveis, não
podem ser desvendadas. Tal fato, tem sido apontado como um dos maiores obstáculos
para a confiança nesses sistemas algorítmicos.
Em meio a uma grande controvérsia, duas reações radicalmente opostas estão
em curso, entre tantas outras intermediárias. A primeira aceita a opacidade desses
algoritmos, mas não aceita suas consequências sociais, judiciais e econômicas. A
segunda busca criar soluções para dissipar a obscuridade, tais como sugerir modelos
de desenvolvimento explicáveis. Um dos grandes exemplos da primeira solução é a
proposta de criação de uma nova figura jurídica, a chamada pessoa eletrônica. Um
exemplo da segunda é o projeto XAI (Explainable Artificial Intelligence) da Defense
Advanced Research Projects Agency (DARPA), agência ligada ao Departamento de Defesa
norte-americano.
A pessoa eletrônica aparece como uma solução diante da opacidade e inexplicabilidade
da Inteligência Artificial. Ela estreia com relativa repercussão, no parágrafo 59, da
recomendação à Comissão Europeia sobre as Regras do Direito Civil sobre Robótica:
Criar um status legal específico para robôs no longo prazo, de modo que pelo
menos os robôs autônomos mais sofisticados possam ser estabelecidos como
tendo o status de pessoa eletrônica responsável por remediar qualquer dano
que possam causar e, possivelmente, aplicando personalidade eletrônica
aos casos em que os robôs tomam decisões autônomas ou interagem com
terceiros de modo independente. (PROPOSTA de Resolução do Parlamento
Europeu, 2017).
A ideia principal da criação de um status jurídico para algoritmos, sistemas e
robôs baseados na imprevisibilidade e impossibilidade de prever todas suas operações
é a desresponsabilização das corporações que o desenvolvem. Dezenas de cientistas,
filósofos e intelectuais assinaram a Open Letter To The European Commission Artificial
Intelligence And Robotics, em que se opõem frontalmente à criação dessa figura por
distorcer e superdimensionar as reais capacidades da I.A., pelo grave equívoco ético
de transformar máquinas em humanos e por despreparar a sociedade para os desafios
tecnológicos.
Em sentido oposto, o projeto XAI busca criar um conjunto de técnicas de aprendizado
de máquina para gerar modelos explicáveis que não reduzam o nível de desempenho
do aprendizado profundo das redes neurais. O propósito é desenvolver metodologias
de desenvolvimento que terão a capacidade de esclarecer o seu raciocínio, mostrar seus
pontos fortes e fracos. O programa tem como produto final uma série de bibliotecas e
módulos que poderão ser usados para desenvolver futuros sistemas de I.A. explicáveis.
140
Neoliberalismo: Concorrência e eficiência exigem a predição
O cenário aqui descrito aponta para o emprego dos algoritmos de Machine Learning
e outros variantes da I.A. em todos os segmentos da economia e da administração
privada e pública, obviamente de modo assimétrico e com ritmos distintos. As exigências
da competição intercapitalista e do novo cenário geopolítico global em que os EUA
enfrentam a grande capacidade tecnológica chinesa, trazem consequências profundas
para o conjunto das sociedades submetidas ao neoliberalismo.
A primeira constatação a partir dacom base na análise dos folders empresariais
e documentos governamentais sobre Big Data, Machine Learning e I.A. apontam para
a supremacia das plataformas digitais, gerenciadas por algoritmos que travam uma
guerra pela matéria-prima essencial para alimentar seus sistemas, ou seja, os dados
pessoais ou de máquinas.
Nas competições por dados cada vez mais intensas haverá outra competição
para o estabelecimento de uma plataforma para obter dados coletados de
sensores das várias atividades na vida real. Nesse caso, os robôs formarão o
núcleo em uma plataforma de coleta de dados no futuro devido ao seu enorme
potencial de utilização em todos os campos da sociedade. Eles funcionarão
como um dispositivo fundamental para vencer a concorrência na coleta de
dados em uma sociedade orientada por dados. (THE HEADQUARTERS for,
2015, p. 15).
A segunda constatação é a de que as grandes plataformas se empenham em
criar frameworks ou estruturas de maneira mais amigável possível, para que qualquer
pequena ou média empresa possa utilizar os serviços de I.A., sem ter que desenvolver
nenhum código ou algoritmo. O indispensável será apenas entregar os dados de seu
negócio e dos seus clientes às plataformas. ““Há uma corrida armamentista entre
provedores de nuvem pública para criar os melhores recursos de aprendizado de
máquina para empresas”” (SPECIAL Report, 2016, p. 23).
Um dos mais destacados exemplos vem da Amazon Machine Learning (AML), que
propicia às empresas um acesso fácil e altamente escalável para interpretar dados.
Integrada à Amazon Web Services (AWS), a AML oferece interfaces visuais e análises
de fácil acesso para tornar o aprendizado de máquina acessível aos desenvolvedores
sem experiência em Ciência de Dados. Segundo a Amazon, a plataforma pode ““gerar
bilhões de previsões diariamente, em tempo real e com alto rendimento”” (SPECIAL
Report, 2016, p. 12).
A Microsoft também aposta fortemente em popularizar a I.A. a partir doscom
base nos serviços de aprendizado de máquina baseados na sua plataforma de nuvem
Azure. Para a corporação, a Azure é o pilar central da reinvenção contínua da Microsoft
como uma empresa em nuvem. “A Microsoft entende que, no futuro, os aplicativos terão
inteligência e, assim, eles precisam ser capazes de agir estrategicamente. Este não é
um investimento casual, é um investimento pesado” (SPECIAL Report, 2016, p. 22).”
A adesão da sociedade ao Machine Learning é facilitada a tal ponto que os
consultores discursam que as organizações que não querem ou não sabem treinar
seus próprios modelos de aprendizado de máquina podem usar o Azure Cognitive
Services. Assim, a Microsoft oferece um conjunto de serviços, via web, sob demanda
141
para o processamento de fala, visão, linguagem natural e conhecimento que podem
ser incorporados em aplicativos e bots. A ideia da Microsoft e demais plataformas é a
de que as pessoas não devem perder tempo e dinheiro desenvolvendo sua inteligência.
A inteligência passa a ser o serviço da plataforma, só será necessário contratá-los e
entregar os dados de seu negócio. Essa operação promete ser mais econômica.
O Grupo Alphabet, holding do Google, possui um portfólio de aprendizado de
máquina que inclui uma variedade de serviços e ferramentas em nuvem. Em 2015,
o Google decidiu acelerar a expansão de seus serviços de I.A. e abriu sua própria
biblioteca de aprendizado de máquina chamada TensorFlow. Com isso, o TensorFlow
se tornou o aprendizado de máquina mais popular no repositório de software GitHub,
com contribuições e melhorias vindas principalmente de fora do Google. O serviço de
nuvem do Google lançou um conjunto dedicado de interfaces de programação (APIs)
abertas aberto ao público, com base nos em modelos de aprendizado de máquina pré-
treinados destinados a fornecer aos desenvolvedores o acesso a serviços cognitivos
de alta qualidade. O conjunto de interfaces inclui as APIs Translation, Cloud Vision,
Natural Language, Speech e Jobs. De um lado, elas facilitam o trabalho das empresas,
reduzindo custos de pesquisa e criação; de outro, concentram o conhecimento e o
desenvolvimento na plataforma Google (SPECIAL Report, 2016, p. 24).
A IBM também aposta na API aberta para atrair o trabalho de fora da empresa
para a melhoria de sua plataforma, bem como, para aprimorar seus processos de
Inteligência Artificial que dependem de uma grande variedade e volume de dados. A IBM
percebeu que não seria possível construir endogenamente a quantidade de aplicativos
necessários. Então, utilizam as APIs abertas “para atrair e nutrir um ecossistema maior
de desenvolvedores que podem construir muitos aplicativos que a IBM não poderia
desenvolver ela própria” (SPECIAL Report, 2016, p. 26).
A terceira constatação é que a competição entre as plataformas e a luta pela
fidelização de grandes contingentes da população no uso de Machine Learning está
reconfigurando as práticas cotidianas para um cenário de primazia das tecnologias de
predição11. Vivemos cada vez mais para saber o que ocorrerá no momento seguinte.
O poder de análise foi se transformando em sinônimo de capacidade de predição. As
verdades discursivas indicam que as empresas devem se digitalizar e se preparar
para utilizar o Machine Learning diante da intensa concorrência. Ser apto a vencer a
concorrência é o ethos do sistema econômico.
Prevemos um futuro em que o aprendizado de máquina oferece benefícios em
muitos setores diferentes. O próximo passo é criar modelos de aprendizado
de máquina mais detalhados e personalizados para casos específicos de uso
do setor. Esperamos continuar a construir nosso portfólio e serviços para
todos… ... afirmou Rob Craft, líder de produto do Google Cloud para o Cloud
Machine Learning (SPECIAL Report, 2016, p. 26).
(…)
Andrew Ng, vice-presidente e cientista-chefe da Baidu está otimista sobre
o futuro da IA. ‘… “… Acho que a Inteligência Artificial nos alivia de muito
Essas habilidades preditivas dependem de complexos arranjos tecnocientíficos e são completamente assi-
11
métricas.
142
trabalho mental, assim como a revolução industrial nos livrou de muito
esforço físico’. (SPECIAL Report, 2016, p. 29).
As práticas discursivas do aliviar e do aprimorar o trabalho mental cada vez
mais apontam para a transferência de determinadas atividades da inteligência para
as corporações. Há uma noopolítica em curso, uma tecnopolítica de controle de
determinadas atividades do cérebro. Maurizio Lazzarato escreveu que a noopolítica
se exerce “em primeiro lugar sobre a atenção, para controlar a memória e sua potência
virtual. A modulação da memória será então a função mais importante da noopolítica”
(LAZZARATO, 2006, p. 86). As poderosas plataformas operadas e gerenciadas pelos
algoritmos de Machine Learning, das redes neurais e de I.A., nos modelos de negócios
neoliberais, servem também para justificar a entrega para as corporações de importantes
funções do raciocínio, por serem mais velozes e bem menos onerosas do que nossos
próprios esforços pessoais, locais ou nacionais. Os discursos propõem como verdade
a necessidade de cada vivente prever e dominar o futuro. Isso só será acessível, no
tempo e nos custos exigidos, pelo uso da infraestrutura algorítmica das plataformas.
De certo modo, também nesse sentido, Byung-Chul Han acredita que a mineração
de dados, uma das técnicas mais empregadas no universo do Big Data, torna visível os
modelos de comportamento coletivo, e torna visível também as dinâmicas psicológicas
a partir de suas com base nas expressões digitais. Por isso, Han defende que o biopoder
foi superado em eficiência por um psicopoder “que vigia, controla e influencia o ser
humano não de fora, mas sim a partir de dentro”. […] “A sociedade digital da vigilância,
que tem acesso ao inconsciente- coletivo, ao comportamento social futuro das massas,
desenvolve traços totalitários. Ela nos entrega à programação e ao controle psicopolíticos”
(HAN, 2018, p. 134).
As tecnologias de predição estão salvando vidas quando conseguem evitar doenças.
Estão permitindo atuar de modo mais incisivo na segurança pública e na prevenção
de fraudes, entre outros exemplos. Mas transformam probabilidades em verdades
absolutas. Praticamente buscam converter as incertezas em certezas, submeter o
imponderável ao calculável, o aleatório ao previsível. O futuro está sendo antecipado
e o presente vai perdendo sentido, exceto se for o tempo gasto para antever, pressentir,
presumir o que virá. Mas, o uso da I.A. nessa direção não é originado em sua natureza
técnica, mas pelas exigências do neoliberalismo, que quer transformar a sociedade
em um aglomerado de empresas em intensa competição.
143
Referências
AI FORUM NEW ZEALAND (2018). Artificial Intelligence: Shaping a Future New Zealand.
Disponível em:
https://aiforum.org.nz/wp-content/uploads/2018/07/AI-Report-2018_web-version.
pdf. Acesso em: 30 nov. 2022.
ANDERSON, Christopher W. (2011). Understanding the role played by algorithms and
computational practices in the collection, evaluation, presentation, and dissemination
of journalistic evidence. In: st St. Berlin Symposium on the Internet and Society, Berlin.
ANDREWS, Leighton (2018). Public administration, public leadership and the construction
of public value in the age of the algorithm and ‘“big data’data”. Public Administration.
ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNE, Lauren (2016). Machine Bias.
Pro Publica, May may 23. Disponível em: https://www.propublica.org/article/machine-
bias-risk-assessments-in-criminal-sentencing. Acesso em: 30 nov. 2022.
AUSTRALIAN GOVERNMENT (2018). Digital Transformation Agency. Vison 2025. We
will deliver world-leading digital services for the benefit of all Australians.
BAROCAS, Solon; HOOD, Sophie; ZIEWITZ, Malte (2013). Governing algorithms: A
provocation piece. Available at SSRN 2245322.
BAROCAS, Solon; SELBST, Andrew D. (2016). Big data’s data’s disparate impact. Calif.
L. Rev., v. 104, p. 671.
BAYAMLIOĞLU, Emre; LEENES, Ronald (2018). The ‘“rule of law’implications law”
implications of data-driven decision-making: atechno-regulatory perspective. Law,
Innovation and Technology, v. 10, n. 2, p. 295-313.
BEER, David (2017). The social power of algorithms. Information, . Communication
& Society, 20:1, 1-13.
BERNARD, Zoë (2017). What does Machine Learning actually mean? World Economic
Forum, 28 nov. OnlineDisponível em: https://www.weforum.org/agenda/2017/11/
heres-what-machine-learning-actually-is. Acesso em: 30 nov. 2022.
BRITISH EMBASSY in Mexico (2017); OXFORD Insights; MINDS C Minds. Mexico Towards
an AI Strategy in Mexico: Harnessing the AI Revolution. Disponível em:
http://go.wizeline.com/rs/571-SRN-279/images/Towards-an-AI-strategy-in-Mexico.
pdf. Acesso em: 30 nov. 2022.
144
BRYSON, Steve et al. (1999). Visually exploring gigabyte data sets in real time.
Communications of the ACM, v. 42, n. 8, p. 82-90.
BURRELL, Jenna (2016). How the machine ‘“thinks’thinks”: Understanding opacity
in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 2053951715622512.
CABINET OFFICE, UK (2017). Government Transformation Strategy 2017 to 2020. .
February fev. 2017. LinkDisponível em: https://www.gov.uk/government/publications/
government-transformation-strategy-2017-to-2020/government-transformation-
strategy. Acesso em: 30 nov. 2022.
CATH, Corinne et al. (2018). Artificial Intelligence and the ‘“Good Society’Society”:
the US, EU, and UK approach. Science and engineering Engineering ethicsEthics, v.
24, n. 2, p. 505-528.
CHENEY-LIPPOLD, John (2011). A new algorithmic identity: Soft biopolitics and the
modulation of control. Theory, Culture & Society, v. 28, n. 6, p. 164-181.
CHINA INSTITUTE FOR Science and Technology Policy at Tsinghua University (2018).
China AI Development Report , 2018. Disponível em:
http://www.sppm.tsinghua.edu.cn/eWebEditor/UploadFile/China_AI_development_
report_2018.pdf. Acesso em: 30 nov. 2022.
CITRON, D.; PASQUALE, F. (2014). The scored society: Due process for automated
predictions. Washington Law Review 86.
COMMUNICATION FROM the Commission to the European Parliament, the European
Council, the Council, the European Economic And Social Committee and the Committee
of the Regions (2018). Artificial Intelligence for Europe. , Brussels. Disponível em:
https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=51625. Acesso em: 30
nov. 2022.
COUTS, Andrew (2011). Why did Amazon charge $23,698,655.93 for a textbook? Digital
Trends, April abr. 23, 2011. OnlineDisponível em:: https://www.digitaltrends.com/
computing/why-did-amazon-charge-23698655-93-for-a-textbook/. Acesso em: 30
nov. 2022.
CRAWFORD, Kate (2016). Can an algorithm be agonistic? Ten scenes from life in
calculated publics. Science, Technology, & Human Values, v. 41, n. 1, p. 77-92.
DARDOT, Pierre; LAVAL, Christian (2017). . A nova razão do mundo. São Paulo: Boitempo
Editorial., 2017.
145
DAWSON D. et all. (2019). Artificial Intelligence: Australia’s Ethics Framework. Data61
CSIRO, AustraliaAustrália.
DEPARTMENT OF BUSINESS, Energy & Industrial Strategy; Department for Digital,
Culture, Media & Sport. (2019). AI Sector Deal. May, maio 2019. Disponível em:
https://www.gov.uk/government/publications/artificial-intelligence-sector-deal/
ai-sector-deal. Acesso em: 30 nov. 2022.
DEPARTMENT OF FINANCE and Deregulation (2013). The Australian Public Service
Big Data Strategy.
DIAKOPOULOS, Nicholas (2014). Algorithmic accountability reporting: On the investigation
of black boxes.
DOMINGOS, Pedro (2015). The master algorithm: How the quest for the ultimate
learning machine will remake our world. Basic Books.
EXECUTIVE OFFICE OF THE PRESIDENT – US. (2016). Artificial Intelligence, Automation,
and the Economy. December 2016. Disponível em:
https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/
Artificial-Intelligence-Automation-Economy.PDF. Acesso em: 30 nov. 2022.
EXECUTIVE OFFICE OF THE PRESIDENT PRESIDENT – U-USS. (2016). Preparing for
the Future of Artificial Intelligence National Science and Technology Council Committee
on Technology. October 2016. Disponível em: https://obamawhitehouse.archives.gov/
sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_
of_ai.pdf. Acesso em: 30 nov. 2022.
FEDERAL MINISTRY OF ECONOMIC Affairs and Energy (2016). A Digital Strategy
2025. LinkDisponível em:: www.de.digital. Acesso em: 30 nov. 2022.
FOUCAULT, Michel (2008 a). Nascimento da Biopolítica: curso dado no Collège de
France (1977-1978). São Paulo: Martins Fontes.
FOUCAULT, Michel (2008 b). Segurança, território, população. São Paulo: Martins Fontes.
GILLESPIE, Tarleton (2018). A relevância dos algoritmos. Parágrafo, v. 6, n. 1, p. 95-121.
GOVERNMENT OF CANADA (2019). The Digital Transformation Office (DTO). LinkDisponível
em: https://www.canada.ca/en/government/about/about-digital-transformation-
office.html. Acesso em: 30 nov. 2022.
146
GOVERNMENT OF THE REPUBLIC of Korea (2017). Mid-to Long-Term Master Plan in
Preparation for the Intelligent Information Society.
GOVERNMENT OFFICES OF SWEDEN (2018). National Approach for Artificial Intelligence.
Disponível em:
h t t p s : / / w w w. g ove r n m e n t . s e / 4 9 1 fa 7 / c o n t e n t a s s e t s /
fe2ba005fb49433587574c513a837fac/national-approach-to-artificial-intelligence.
pdf. Acesso em: 30 nov. 2022.
GOVERNMENT RESPONSE to House of Lords Artificial Intelligence Select Committee’s
Report on AI in the UK: Ready, Willing and Able? Presented to Parliament by the
Secretary of State for Business, Energy and Industrial Strategy by Command of Her
Majesty, June 2018.
HAN, Byung-Chul (2018). No enxame: Perspectivas do digital. São Paulo: Editora Vozes
Limitada..
HARVEY, David (2007). A brief history of neoliberalism. USA: Oxford University Press,
USA..
IBRAHIM, Ghida. How the future of computing can make or break the AI revolution.
World Economic Forum. 2019. LinkDisponível em: https://www.weforum.org/
agenda/2019/06/how-the-future-of-computing-can-make-or-break-the-ai-revolution.
Acesso em: 30 nov. 2022.
LANEY, Doug (2001). 3D data management: Controlling data volume, velocity and
variety. META group research note, v. 6, n. 70, p. 1.
LAZZARATO, Maurizio (2006). As revoluções do capitalismo. Rio de janeiroJaneiro:
Civilização Brasileira. (A Política no Império).
MANYIKA, James et al. (2011). Big data: The next frontier for innovation, competition,
and productivity.
McKinsey Global Institute (2016). Digital Europe: Pushing The Frontier, Capturing
The Benefits. June 2016. OnlineDisponível em: https://www.mckinsey.com/business-
functions/digital-mckinsey/our-insights/digital-europe-realizing-the-continents-
potential . Acesso em: 10 maio 2019.
O acesso ocorreu em 10/05/2019.
MCTIC (2018). Estratégia Brasileira Para a Transformação Digital. LinkDisponível
em: http://www.mctic.gov.br/mctic/export/sites/institucional/estrategiadigital.pdf.
147
Acesso em: 30 nov. 2022.
MINISTERIO DE HACIENDA y Administraciones Públicas Públicas – G- Gobierno de
España (2015). Plan de Transformación Digital de la Administración General del Estado
y sus organismos públicos (Estrategia TIC 2015 -2020).
MINISTRY OF ECONOMIC Affairs and Employment (2017). Finland’s Age of Artificial
Intelligence. Turning Finland into a leading country in the application of artificial
intelligence. Helsinki. Disponível em: http://julkaisut.valtioneuvosto.fi/bitstream/
handle/10024/160391/TEMrap_47_2017_verkkojulkaisu.pdf?sequence=1&isAllowed=y.
Acesso em: 30 nov. 2022.
MINISTRY OF INDUSTRY, Business and Financial Affairs (2018). - The Danish Government.
Denmark’s Strategy for Denmark’s Digital Growth. Disponível em: https://eng.em.dk/
media/10566/digital-growth-strategy-report_uk_web-2.pdf. Acesso em: 30 nov. 2022.
NATIONAL SCIENCE AND TECHNOLOGY COUNCIL, US. (2016). National Artificial
Intelligence Research and Development Strategic Plan. October 2016. Disponível em:
https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf. Acesso em: 30 nov.
2022.
NILSSON, Nils J. (2009). The quest for artificial intelligence. Cambridge University Press.
NITI Aayog (2018). National Strategy for Artificial Intelligence. Discussion Paper. June
2018. Disponível em:
https://niti.gov.in/writereaddata/files/document_publication/NationalStrategy-for-
AI-Discussion-Paper.pdf. Acesso em: 30 nov. 2022.
NORDIC COUNCIL OF MINISTERS (2018). Declaration on AI in the Nordic-Baltic Region.
14 May 2018. Disponível em:
https://www.regeringen.se/49a602/globalassets/regeringen/dokument/
naringsdepartementet/20180514_nmr_deklaration-slutlig-webb.pdf. Acesso em:
30 nov. 2022.
OECD (2015). Data-driven Innovation Big Data for Growth and Well-being (electronic
Resource). OECD Publishing.
OPEN LETTER To to The the European Commission Artificial Intelligence And and
Robotics. (2017). LinkDisponível em:: http://www.robotics-openletter.eu/. Acesso
em: 30 nov. 2022.
PASQUALE, Frank. (2015). Black Box Society: The Secret Algorithms That that Control
148
Money and Information. Cambridge, MA: Harvard University Press.
PROPOSTA DE RESOLUÇÃO DO PARLAMENTO EUROPEU sobre as Regras de Robótica
do Direito Civil (2017). Disponível em: http://www.europarl.europa.eu/doceo/
document/A-8-2017-0005_PT.html. Acesso em: 30 nov. 2022.
REPORT ON ARTIFICIAL INTELLIGENCE and Human Society (2017). Advisory Board
on Artificial Intelligence and Human Society. Japan: March 24th, 2017. Disponível em
Link:: https://www8.cao.go.jp/cstp/tyousakai/ai/summary/aisociety_en.pdf. Acesso
em: 30 nov. 2022.
RIEDER, B. (2017). Scrutinizing an algorithmic technique: the Bayes classifier as
interested reading of reality. Information, Communication & Society, 2 jan. 2017. v.
20, n. 1, p. 100–117.
ROUVROY, Antoinette; STIEGLER, Bernard (2016). The digital regime of truth: From
the algorithmic governmentality to a new rule of law. La Deleuziana: On-line Journal
of Philosophy, v. 3, p. 6-29.
RUSSELL, Stuart J.; NORVIG, Peter. (2010). Artificial intelligence: a modern approach.
Upper Saddle River: Prentice Hall, 2010.
SPECIAL REPORT (2016). How to implement AI and Machine Learning. TechRepublic;
ZDNet.
SRNICEK, Nick. (2016). Platform Capitalism. John Wiley & Sons.
TASK FORCE ON Artificial Intelligence of the Agency for Digital Italy. (2018). White
Paper on Artificial Intelligence at the service of citizens. Version 1.0 March 2018.
Disponível em: https://ia.italia.it/assets/whitepaper.pdf. Acesso em: 30 nov. 2022.
TECHAMERICA FOUNDATION. (2012). Demystifying Big Data. A Practical Guide To
Transforming The Business of Government. USA.
THE HEADQUARTERS FOR Japan’s Economic Revitalization. (2015). New Robot Strategy
Strategy – J- Japan’s Robot Strategy: Vision, Strategy, Action Plan.
THE WHITE HOUSE OFFICE OF SCIENCE AND TECHNOLOGY POLICY. (2018). White
House summit on artificial intelligence for american industry. MAY May 10, 2018.
TOTARO, Paolo; NINNO, Domenico. (2014). The concept of algorithm as an interpretative
key of modern rationality. Theory, Culture & Society, v. 31, n. 4, p. 29-49.
149
VILLANI, Cédric et al. (2018). For a meaningful artificial intelligence. A French
Parliamentary Mission.

WAGNER, Ben. (2016). Algorithmic regulation and the global default: Shifting norms in
Internet technology. Etikk i praksis-Nordic Journal of Applied Ethics, v. 10, n. 1, p. 5-13.

WINNER, Langdon. (1995). Citizen Virtues in a Technological Order. In: Andrew

Feenberg and Alastair Hannay (org.) /. Technology and the Politics of Knowledge.
Indiana University Press.

WORLD ECONOMIC FORUM (2019). Platforms and Ecosystems: Enabling the Digital
Economy. LinkDisponível em: http://www3.weforum.org/docs/WEF_Digital_
Platforms_and_Ecosystems_2019.pdf. Acesso em: 30 nov. 2022.

WORLD WIDE WEB FOUNDATION. (2017). Algorithmic Accountability: Applying the

concept to different country contexts.

ZUBOFF, Shoshana. (2015). Big other: surveillance capitalism and the prospects of
an information civilization. Journal of Information Technology, v. 30, n. 1, p. 75-89.

150 151
 O velho com cara de
novo: subordinação intelectual
do trabalho ao capital e o
capitalismo monopolista de
plataformas
JOSÉ PAULO GUEDES PINTO
152 153
 O velho com cara de novo: subordinação intelectual
do trabalho ao capital e o capitalismo monopolista de
plataformas
José Paulo Guedes Pinto

Introdução

Hoje é cada vez mais comum namorar, trabalhar, locomover-se, entreter-se, marcar um
encontro com os amigos, informar-se, alimentar-se, alugar um imóvel e, até mesmo, chamar
o encanador utilizando aplicativos instalados em um smartphone conectado à internet. O
Brasil, mesmo sendo uma economia subdesenvolvida (segundo a ONU), de renda média
(segundo o Banco Mundial) e extremamente desigual, não é exceção à regra: 70% da sua
população esteve conectada à rede mundial, em 2018; destas, 97% utilizaram para tanto
um smartphone1.
A forma como nos socializamos cotidianamente – seja consumindo, seja trabalhando,
seja entretendo-nos – ainda que as nossas necessidades tenham continuado basicamente
as mesmas – mudou rapidamente. E isso vem se refletindo na economia mundial. Grandes
empresas da economia digital, que, no passado, eram tidas como apostas incertas (o que
foram mesmo depois do estouro da bolha financeira das chamadas empresas “ponto com”,
em 2000), aparecem agora em sete das dez primeiras colocações no ranking da Forbes.
Essas empresas estão ocupando agora os lugares que pertenciam à montadoras de
automóveis, fábricas de bens de consumo de massa, empresas de energia e bancos, grandes
multinacionais que emergiram em sua maioria após a Segunda Guerra Mundial.
Comparando as tabelas 1 e 2 a seguir, podemos notar que apenas a Microsoft era parte
desse grupo exclusivo no início do milênio. Como o valor total de ações de uma empresa
mede, em geral, a antecipação dos fluxos de lucros futuros, pode-se dizer que estas empresas
da economia digital estão indicando os caminhos futuros dos investimentos, ou seja, da
acumulação capitalista (DURAND, 2018).

Tabela 1: As maiores empresas do mundo segundo o valor de mercado (2000)

Valor de Mercado/
Rank Empresa Setor País Bilhões de dólares
1 Exxon Mobile Hidrocarburetos Estados Unidos 362,53
2 General Electric Conglomera Estados Unidos 348,45
3 Microsoft Tech/software Estados Unidos 279,02
4 Citigroup Fianças Estados Unidos 230,93
5 BP Hidrocarbonos Reino Unido 225,93
6 Royal Dutch Shell Hidrocarnos Holands 203,52

1
Desses cidadãos conectados, 48% adquiriram ou usaram algum tipo de serviço on-line, como aplicativos de
carros, serviços de streaming de filmes e música, ou pedido de comida (CETIC, 2019).
154 155
 7 Procter & Gamble Saúde Estados Unidos 197,12 (escritórios e lojas). Assim, os principais ativos dessa companhia são, além dos seus produtos,
8 HSBC Group Finanças Estados Unidos 193,32
o “capital humano” – ou seja, o conjunto dos cérebros dos mais de cem mil empregados
que trabalham diretamente na empresa (Apple, 2019) –, um ativo muito valioso, uma vez
9 Pfizer Farmacêutica Estados Unidos 192,05
que parte importante do preço (valor) dos produtos da Apple é contrapartida do trabalho
10 Wal Mart Comércio Estados Unidos 188,86 intelectual dos funcionários que criam o design, desenvolvem novos produtos, softwares e
Fonte: Forbes apud Durand, 2018. sistemas operacionais, criam o marketing ou definem as informações técnicas das partes
que compõem seus produtos2 (GEREFFI, 2013, p. 21).
Tabela 2: As maiores empresas do mundo segundo o valor de mercado (2019) No entanto, apesar de representar a emergência do novo, a Apple ainda é uma grande
vendedora de mercadorias tangíveis (físicas), que agora terceiriza grande parte (ou a totalidade)
da sua atividade fabril. Independente da sua aura “cool”, veremos que a Apple precisa ser
Valor de Mercado/ uma empresa tão ou até mais despótica que, por exemplo, as antigas montadoras de veículos
Rank Empresa Setor País Bilhões de dólares
verticalizadas do século passado, já que ela precisa evitar a todo o custo a pirataria dos seus
1 Apple Tech/Hardware Estados Unidos 961,3
produtos mundo afora, além de gerenciar à mão de ferro um ecossistema fechado e quase
2 Microsoft Tech/Software Estados Unidos 946,5 todas as partes da cadeia de suprimentos dos seus produtos, do design à loja de varejo
3 Amazon Tech/Comércio Estados Unidos 916,1 (SATARIANO; BURROWS, 2011).
4 Alphabet Berkshire Tech/Mídia Estados Unidos 863,2 Neste capítulo, procuraremos argumentar3 que a emergência da nova e poderosa
5 Hathaway Finanças Estados Unidos 516,4 economia digital traz consigo uma necessidade cada vez maior de controle, dominação e
6 Facebook Tech/Mídia Estados Unidos 512 coerção social por parte de empresas e Estados. Isso porque as empresas, que produzem
informação e conhecimento científico e tecnológico, são criadas e crescem sob um capital
7 Alibaba Tech/Comércio China 480,8
de alto risco, que depende da venda de mercadorias sui generis, difícil e muitas vezes cara
8 Tencent Holdings Tech/Comércio China 472,1 para serem produzidas e que podem, ao mesmo tempo e facilmente, serem “roubadas” ou
9 JPMorgan Chase Finanças Estados Unidos 368,5 utilizadas de graça.
10 Johnson & Johnson Saúde Estados Unidos 366,2

Fonte: Forbes (2019). Elaboração própria com base em Durand (2018). Quanto vale a informação?

Segundo a economia política clássica (Smith, Ricardo e, de forma crítica, Marx),

Apesar de indicarem o futuro da acumulação de capital, este é um caminho nada tranquilo.
Isso porque essas empresas, ao produzirem basicamente informação e conhecimento (como
designs, marcas, softwares, jogos, fórmulas químicas, propagandas, redes sociais, plataformas
de comércio etc.), estão sujeitas a todo momento, e mais do que nunca, à concorrência, à
obsolescência ou até ao “roubo” de suas mercadorias.
Do comércio generalizado de produtos piratas (ou mesmo dos chamados legal fakes) às
plataformas concorrentes de delivery, transporte ou comércio; da migração em massa para
redes sociais concorrentes (ou alternativas) à potencial utilização generalizada de softwares
livres, passando pela quebra de patentes de fármacos etc., essas empresas podem, em um
piscar de olhos, perder suas fontes de lucro e poder.
Além disso, a comparação entre as duas tabelas anteriores, revela outra nuance importante
do capitalismo avançado: o fato do capital físico (como as fábricas) estar perdendo importância
em relação ao (vulgarmente) chamado “capital humano”. Embora ainda sejam extremamente
necessários, os sistemas de máquinas e equipamentos estão se tornando cada vez menos
centrais em relação à própria atividade intelectual presente na cabeça dos trabalhadores, que
– ainda na condição de cidadãos “livres” – criam, desenvolvem e capturam as informações.
A Apple, líder da tabela 2, é um dos exemplos mais radicais dessa nova economia. A
vitrine da empresa, longe de ser as várias fábricas chinesas (terceirizadas) cheias de operários
montando iPhones, iPads, iMacs, MacBooks ou Apple Watchs, é, de fato, seus headquarters
156
as diferenças entre os preços das mercadorias produzidas em larga escala (milhares
ou milhões de quantidades) podem ser explicadas pelo tempo de trabalho médio
socialmente necessário para produzir a primeira delas e reproduzi-las.
Assim, se uma cadeira anunciada na loja on-line tem, em média, um preço (R$
300, por exemplo) cem vezes maior que uma lata de cerveja no supermercado (R$
3) é porque a sociedade gasta cem vezes mais tempo de trabalho social, em média
e em determinado momento do tempo, para produzir cadeiras que latas de cerveja.
Da mesma forma, se o preço de um automóvel popular (R$ 30.000, por exemplo) na
concessionária tem um preço cem vezes maior que a cadeira do nosso exemplo, é
porque a sociedade gasta em média cem vezes mais tempo de trabalho para produzir
automóveis que cadeiras e, seguindo a mesma lógica, dez mil vezes mais tempo para
produzir automóveis que latas de cerveja4. E, assim por diante, se nada mais mudar5,
essas diferenças tendem a se perpetuar.
2
Sem falar do trabalho financeiro, da organização e gestão da sua cadeia produtiva mundial e, inclusive, da
melhoria dos meios de produção desses produtos.
3
A partir da tese sobre a desmedida do valor e a emergência da chamada pós-grande indústria desenvolvida
por Eleutério Prado de forma brilhante no longínquo ano de 2005.
157
 Resumindo, o tempo socialmente necessário (Marx, 1983) para produzir e
reproduzir uma mercadoria é a medida do seu valor, ou seja, é o que baliza os preços
nas lojas, nos sites de compras on-line, na feira, nos supermercados etc.
Essa regra, no entanto, não vale para todo tipo de mercadorias. Bens como
informação, conhecimento científico, conhecimento tecnológico etc. podem demandar
até muito (ou pouco) tempo da sociedade para serem produzidos, porém, eles possuem
características que os tornam diferentes, únicos, sui generis, no mundo das mercadorias.
São elas: o custo de reprodução nulo, ou seja, o fato de que o conhecimento
pode até custar muito para ser produzido, porém, pode ser infinitamente copiado
de graça; o caráter não rival ou não excludente, que significa que o conhecimento
pode ser utilizado por todas e todos ao mesmo tempo, sem que isso ameace o uso
do seu portador original; e a incerteza ou risco inerente a esse tipo de bem, já que é
impossível avaliar o valor de um conhecimento/informação antes de conhecê-lo, ou
seja, qualquer comprador pode destruir seu monopólio, por exemplo, ouvindo sua
ideia (para uma propaganda, por exemplo) antes de comprá-la.
Por conta dessas características, economistas como Arrow (1959) e Nelson
(1952) argumentaram em seus artigos pioneiros sobre inovação e pesquisa básica
que a melhor solução em termos do bem-estar econômico era manter esses tipos de
bens como públicos7, com acesso gratuito. Além disso, afirmaram, já na década de
1950, que eventuais barreiras ao acesso desse tipo de bem, impostas, por exemplo,
por direitos de propriedade intelectual, poderiam provocar uma subutilização destes,
fazendo com que a sociedade “se reproduzisse em um nível econômico ‘não ótimo’”
(ARROW, 1959, p. 617).
4
Rigorosamente falando, você deve considerar o custo da produção do primeiro protótipo de cadeira e das
demais cadeiras que serão vendidas em massa. O seja, para estipular o preço, você deve considerar o trabalho
da designer, a construção da primeira cadeira, dos moldes e do processo industrial inicial. Caso você produza
milhões de cadeiras iguais, esse custo inicial tende a diminuir a algo próximo de zero por unidade, ao longo
do tempo.
5
Por exemplo, se não houver aumento da produtividade do setor automobilístico. Já se houver alteração na
produtividade, ou seja, se com a mesma quantidade de tempo de trabalho se produzir mais ou menos auto-
móveis, a relação entre os preços muda.
6
É como um atrator gravitacional, os preços podem variar de acordo com a propaganda, a escassez momen-
tânea do produto, entre outros diferenciais de mercado, mas, na média, eles giram em torno desse valor,
assim como a Terra gira em torno do Sol ou a Lua gira em torno da Terra. A relação entre preços e valores,
no entanto, é instável. Marx resolveu essa questão dialeticamente, ou seja, pondo a contradição entre preço e
valor, ao afirmar que “a divergência entre preço e a grandeza do valor é (...) inerente à forma preço. Isso não é
um defeito dessa forma, mas a torna, ao contrário, a forma adequada a um modo de produção em que a regra
somente pode impor-se como lei cega da média à falta de qualquer regra” (MARX, 1983, p. 92).
7
Na economia, um bem público, não exclusivo e não rival, é um tipo de bem que pode ser efetivamente
consumido simultaneamente por mais de uma pessoa. É diferente do bem comum, como os peixes selvagens
no oceano, que não são exclusivos, mas são rivais até certo ponto, já que se muitos peixes forem pescados, os
estoques podem acabar. São exemplos de bens públicos: conhecimento, estatísticas oficiais, segurança nacional,
idiomas comuns, sistemas de controle de inundações, faróis e iluminação pública. Bens públicos que estão
disponíveis em todos os lugares, às vezes, são chamados de bens públicos globais, como: a conscientização da
saúde de homens, mulheres e jovens, as questões ambientais, a história e a cultura locais (patrimônio cultural
da humanidade), as atrações turísticas e os entretenimentos populares, as bibliotecas e universidades.
158
No entanto, não é possível definir um bem como “público” apenas a partir de seus
atributos intrínsecos; essa denominação depende, essencialmente, das instituições
que regulam sua produção e seu emprego, o que confere à definição de “bem público”
um caráter não só econômico mas também político. Mesmo a defesa nacional, por
exemplo (caso clássico de um bem de uso não exclusivo e, portanto, público), sob certas
circunstâncias, pode favorecer apenas um grupo determinado dentro do território de
uma nação. Assim, quase todos os bens podem ser privatizados por meio de leis, ou
seja, por meio de decisões políticas, se a sociedade assim o desejar.
Sendo assim, se sabemos que a informação e o conhecimento não são de graça,
o que baliza os preços desses tipos de bem? Como estabelecer seus valores?
Pense, por exemplo, no caso de programas de computador, como os programas
“vendidos” pela Microsoft (Office, Windows, Jogos eletrônicos etc.). Esses programas de
uso muito geral podem ser copiados e espalhados na sociedade a um custo praticamente
nulo. Por isso, a empresa não os trata como mercadorias comuns, pois não pretende
vendê-los no mercado, ou seja, repassar para outrem a propriedade privada da mercadoria.
Se o faz, a Microsoft tem imediatamente uma perda de capital.
Porém, o preço dessa mercadoria virtual não é expressão imaginária, já que há
trabalho objetivado em sua produção; entretanto, a relação entre valor e preço é de
certo modo arbitrária, não só em virtude do fato de que o bem é único mas também
porque, na produção dessa mercadoria virtual, há desmedida do valor (Prado, 2005)..
Assim, a empresa possuidora do programa não irá vendê-lo como mercadoria.
Mas poderá alugá-lo para todas as pessoas ou empresas interessadas, já que, nessa
modalidade de transação, ela poderá manter para si a propriedade do valor (do capital)
objetivado no programa, cobrando pelo acesso a esse objeto.
Todos os consumidores poderão, assim, dispor do seu valor de uso, mantendo uma
cópia numerada do programa em seus próprios computadores (ou tablets, smartphones)
pessoais, desde que paguem para tanto. Cada consumidor, seja ele apenas um usuário
comum ou também um produtor, uma empresa, terá de contribuir com uma quota cuja
soma, ao final da vida útil do programa, represente o retorno do capital adiantado e
do mais-capital.
Esse tipo de produção capitalista só consegue ter êxito, portanto, se a empresa,
o Estado e outros pilares do sistema garantirem, por diversos meios – entre eles a
ideologia na forma de marketing, mas também a coerção e a força –, que os consumidores
paguem pelo acesso a algo que pode ser adquirido a custo nulo.
Note que o exemplo vale para softwares proprietários, mas poderia se aplicar para
outros tipos de bens que no limite são conjuntos de informação: como as plataformas
de cultura e entretenimento (como Netflix, Spotify), de trabalho (Uber etc.), as fórmulas
de medicamentos, as redes sociais (na verdade, o acesso às propagandas ou aos dados
pessoais produzidos por milhões de usuários nas redes) etc.
Em suma, por terem essas características, os valores desses tipos de bem são
desmedidos, não se balizam pelo tempo de trabalho socialmente necessário para
produzi-los e reproduzi-los e dependem, portanto, do poder social das empresas em
impor pagamentos pelo acesso a esse tipo de bem. As empresas que vendem informação,
conhecimentos científicos e tecnológicos etc. dependem necessariamente, portanto,
de verdadeiros monopólios do conhecimento (PAGANO, 2014).
159
 Monopólios internacionais A emergência dessa “economia do conhecimento” trouxe, assim, a difusão mundial
da propriedade privada de recursos que hoje são essenciais para a reprodução da
Se dependem de monopólios para dar lucro, esses bens tendem inexoravelmente sociedade contemporânea, como os programas de computador, as fórmulas para a
a se concentrar no controle de poucas grandes corporações multinacionais, cujo poder fabricação de remédios, as tecnologias para a produção de sementes etc.
tende a ultrapassar o da grande maioria dos estados nacionais. Além disso, o surgimento das redes sociais fez emergir também um novo e poderoso
Como o berço dessa recente revolução tecnológica foram os Estados Unidos da canal de veiculação de propaganda para a venda de todo o tipo de mercadorias em
América, este vem sendo o Estado que lidera o processo mundial para o estabelecimento conjunto com o negócio baseado na apropriação privada dos nossos dados pessoais
de uma “segurança jurídica” mínima, que garanta o retorno dos investimentos realizados – como detalhes de cartões de crédito, preferências políticas, históricos médicos,
nas indústrias baseadas em informação e conhecimento. Essa ação culminou no papel históricos de compras, de navegação na internet – os quais são vendidos (por altos
central que o país desempenhou na aprovação do Acordo sobre os Aspectos da Propriedade valores) e utilizados para influenciar nosso comportamento (AMER; NOUJAIM, 2019;
Intelectual (o chamado TRIPS), que deram base à fundação da Organização Mundial DURAND, 2018; SADOWSKI, 2019; SOUZA et al., 2019).
do Comércio, em 1995. Esse acordo deve-se diretamente à pressão das empresas
norte-americanas baseadas em propriedade intelectual, em especial do setor de Empresas sem fábricas
entretenimento, tecnologia da informação e fármacos, sobre o governo norte-americano
para que ele, por meio do fortalecimento do sistema internacional de propriedade A tabela 2 e o gráfico 1 mostram, também, a consolidação de modelos limites de
intelectual, minimizasse a crise econômica vivida pelo país nos anos 1970 e 1980 por empreendimentos capitalistas que englobam desde empresas sem fábricas (Microsoft,
meio do incentivo à chamada “nova economia”. Alphabet – Google, Facebook) até empresas com fábricas que concentram, porém,
Por enquanto, do ponto de vista internacional, essa estratégia liderada pela atividades tipicamente pós-industriais (Apple, Amazon, Alibaba, Tencent Holdings,
hegemonia norte-americana foi bastante benéfica para os chamados países desenvolvidos. Johnson & Johnson etc.).
O gráfico 1, a seguir, mostra os fluxos financeiros registrados como “cobranças pelo As empresas sem fábricas levam à cabo apenas atividades financeiras e atividades
uso de propriedade intelectual” na balança de pagamentos de dois conjuntos de países de pesquisa e de criação de bens culturais, científicos e tecnológicos. São empresas
agrupados de acordo com o nível de desenvolvimento (segundo as Nações Unidas). A que dependem direta ou indiretamente da restrição à propriedade monopolista do
soma dos fluxos líquidos mostra que os superávits dessa conta sempre foram para o conhecimento criado socialmente. Ainda que nessas empresas haja processo de trabalho
conjunto dos países desenvolvidos, com seu pico em 2007 (US$ 71,05 bilhões) enquanto (assalariado) e produção de bens socialmente úteis, os ativos desse tipo de empresa
os países em desenvolvimento seguem contabilizando conjuntamente importantes são principalmente dinheiro, títulos públicos e privados, ações, dados privados, assim
déficits nessa conta, sendo o pior ano 2016 (US$ 66,4 bilhões), o último observado como direitos de propriedade intelectual (patentes, direitos autorais etc.).
por nós na série. Rigorosamente, esse tipo de empresa não produz e não vende diretamente
mercadorias de modo ordinário: ela comercializa o direito de acesso às suas patentes,
Gráfico 1: Soma dos fluxos líquidos (exportações menos importações) da conta “cobranças direitos autorais, marcas, softwares, projetos e processos de produtos, dados pessoais,
pelo uso de propriedade intelectual” do balanço de pagamento dos países desenvolvidos espaço para propaganda em suas plataformas, bens e serviços cujos preços não têm
(developed) e em desenvolvimento (developing) classificados de acordo com o nível necessariamente relação com os custos de produção e reprodução dessas “mercadorias”.
de desenvolvimento da ONU (1980-2018 medidos em milhões de dólares de 2016) Pode-se dizer que são empresas rentistas, que recebem seus lucros a partir dos
seus monopólios. Ainda que nessa espécie de empresa tenha trabalho e, portanto,
60000
geração de novos valores (e de mais-valia, ou lucros), estes valores são desmedidos
40000 enquanto tais. São empresas que buscam captar rendas, ou seja, firmas “rent seeker”.
20000 (PRADO, 2005, p. 109).
0 Note, empresas líderes como o Google (Alphabet) podem ter um enorme e
desmedido lucro porque a quantidade de anúncios (e de dados pessoais vendidos
1980
1981
1982
1982
1983
1984
1985
1986
1987
1988
1989
1990
1991
1992
1993
1994
1995
1996
1997
1998
1999
2000
2001
2002
2003
2004
2005
2006
2007
2008
2009
2010
2011
2012
2013
2014
2015
2016
2017
2018

-20000
para influenciar comportamentos) que essa empresa vende não tem relação direta
-40000 com os custos da empresa (salários, por exemplo) para criar e manter suas plataformas
-60000 digitais (como o Google Search, o Gmail, o YouTube etc.) on-line, por meio das quais
-80000 os usuários navegam, se comunicam e criam conteúdo.
Empresas como a Uber auferem seus lucros ou prejuízos independente dos
Trips Developed (net) Developing (net)
custos de criação e manutenção da sua plataforma, custos que não variam diretamente
Fonte: FMI; ONU; UNCTAD. Elaboração própria. com a quantidade de “serviços de transporte” vendidas pelos seus “colaboradores”
160 161
precarizados por meio do aplicativo. O lucro ou prejuízo do Facebook é alto ou pequeno,
independente do custo de produção, manutenção e aprimoramento da sua rede social.
Por outro lado, essas empresas, e outras, como Microsoft, Netflix, Spotify, Oracle,
podem ser reduzidas a pó do dia para a noite se todos os usuários, em vez de pagarem
pelo acesso, resolverem “piratear” os softwares (filmes, músicas etc.) ou “usar de graça”
as plataformas contando com a anuência de legislações e governos (um cenário pouco
provável, mas bastante possível).
Ademais, mesmo as empresas que ainda têm por objetivo produzir e/ou vender
mercadorias tangíveis (Apple, Amazon, Alibaba, Tencent Holdings, Johnson & Johnson
etc.) tendem a manter internamente todas as atividades típicas pós-industriais,
procurando terceirizar para empresas com menor poder de barganha (situadas na
China, por exemplo) todas as operações tipicamente industriais, as quais dão um
retorno menor ao capital investido. Assim, o montante de lucro que conseguem obter
depende amplamente do poder de monopólio que detêm. Poder que está associado
também à propriedade intelectual, à propriedade dos dados dos usuários, enfim, a
monopólios informacionais.
Em consequência, essa espécie de empreendimento não segue mais a
lógica da eficiência competitiva da grande indústria que consiste em buscar
obter lucros e superlucros produzindo uma dada quantidade de produto
minimizando o tempo de trabalho, o período de rotação do capital fixo e os
custos das matérias primas. A lógica desse tipo de empresa se manifesta
no fato de que ela organiza todas as suas atividades em função de uma
explícita “agregação de valor”, ou seja, da contribuição possível que ações
qualitativamente diferenciadas levadas a efeito em seu âmbito engendram
na produção, no trato com os clientes e fornecedores, na imagem da empresa
junto aos consumidores, as quais supostamente contribuem para uma melhor
rentabilidade do capital investido (PRADO, 2005, p. 110-111).
Tanto empresas sem, quanto empresas com fábricas, vão seguir, portanto, uma
lógica de captação de renda, típica dos monopólios de outrora, porém, agora, tendo
como atividade fim a criação de bens não rivais cujo o custo de reprodução tende a zero.
Além disso, esses dois tipos de empresas mostram de forma clara que a força
produtiva decisiva é cada vez mais atributo da atividade humana coletiva e social. As
máquinas continuam existindo, mas, na medida que a robotização e a automação (e a
inteligência artificial) avançam, elas se tornam cada vez mais instrumentos de atuação
desse saber científico e tecnológico coletivo. A humanidade, tal como foi previsto por
Marx na sua obra máxima, passa a criar (pelo menos potencialmente) uma enorme
quantidade de riqueza efetiva com relativamente pouco tempo de trabalho humano vivo.
Como a informação e o conhecimento podem existir quase que naturalmente de
forma livre e acessível, ou seja, de forma desmercantilizada, isso se torna um grande
risco para a reprodução dessa forma de capital (que depende desses ativos); assim, o
resultado da evolução dessa economia informacional vem se tornando uma enorme
ampliação do domínio do capital, que vai ultrapassar todas as barreiras tradicionais e
avançar sobre toda a vida social, transformando tudo o que conseguir em mercadoria.
Assim, além da ciência e da tecnologia, a lógica da valorização capitalista vai
subordinar esferas que outrora (pelo menos no período do pós-Segunda Guerra) foram
162
públicas e gratuitas, como a educação, a arte, a cultura e outras esferas relacionadas
ao próprio indivíduo social, como as esferas afetivas, comunitárias (como a religião
e a política) e até nosso sono (CRARY, 2014)
Quem ganha com a privatização da informação e do conhecimento?
Do ponto de vista das classes sociais, quem se beneficia desse admirável mundo
novo são, rigorosamente, os proprietários do capital e os altos gerentes (estes últimos
ganham salários astronômicos, mas ainda assim são funcionários do capital): o chamado
1%. A grande maioria dos trabalhadores dessas empresas são, em geral, razoavelmente
bem remunerados, mas têm de encarar uma realidade extremamente competitiva no
mercado de força de trabalho. Como trabalham com a cabeça, eles devem cooperar
intelectualmente, mas estão obrigados permanentemente a participar de uma paradoxal
corrida de ratos competitiva, porém cooperativa.
Ainda que possuam uma ampla competência técnica e científica e que tenham
de assumir grandes responsabilidades na manutenção das atividades da
empresa, não são de modo algum insubstituíveis, já que detêm um conhecimento
padrão que pode ser adquirido hoje por um grande número de pessoas
na sociedade. Assim, a própria pós-grande indústria não lhes garante um
emprego estável, mas, ao contrário, mantém-nos sob risco permanente,
classificando-os no plano ideológico como detentores de “capital humano”
e de “donos do próprio futuro” que têm de se aperfeiçoar incessantemente
(PRADO, 2005).
O capitalismo chega agora em uma situação limite, pois os capitalistas (como classe
e indivíduos) continuam proprietários dos meios de produção em geral e, portanto, das
condições do trabalho, mesmo quando estas se encontram na cabeça dos trabalhadores.
Assim, a dominação do capital, longe de se abrandar, tem de se tornar intransigente
e totalizadora, estendendo-se não apenas sobre o tempo de trabalho mas também
para além desse tempo, avançando para a vida social do trabalhador como um todo.
Como é difícil dominar a complexidade das interações do corpo de funcionários,
assim como suas relações com o ambiente econômico e social externo – pois os
trabalhadores (sendo ainda livres) podem, a todo o momento, levar sua cabeça (o
seu “capital humano”) para outra empresa, ou mesmo abrir seus próprios negócios –
a exploração intensificada do trabalho vai exigir que os trabalhadores pertencentes
aos seus exércitos cooperem ou até sejam devotos do trabalho.
O paradoxo é notório: mesmo se o tempo de trabalho enquanto tal deixou
de ser crucial para o aumento da produtividade ou da geração de riqueza
efetiva, cresce a jornada de trabalho para que os trabalhadores possam, assim,
se dedicar de corpo e alma à empresa, “agregando valor”, ou mesmo porque
agora eles são obrigados a sinalizar para a gerência a própria fidelidade aos
propósitos da empresa. Por outro lado, com a finalidade de subsumir ao
máximo os trabalhadores aos procedimentos e às estratégias da empresa,
cria-se um ambiente interno em que o trabalho se configura como “uma
nova ideologia, uma nova religião” (WARDE, 2002).
Desse modo, a empresa “pós-moderna” – comunicativa! – submete à máxima
163
 tensão e à exaustão psicológica os seus empregados, de tal maneira que qualificação e onde as relações de emprego costumam ser informais e precárias, muitas
doenças como o vício de trabalhar, o cansaço crônico e a depressão tornam- delas, inclusive, sendo mediadas pelas plataformas10.
se cada vez mais difundidas nos ambientes de trabalhos em que aí se criam
A riqueza obscena ostentada pelo CEO da Amazon, Jeff Bezos (avaliada, em setembro
(PRADO, 2005, p. 114).
de 2019, em US$ 114,4 bilhões) se liga, assim, umbilicalmente com os irrisórios salários
dos seus trabalhadores, que recebem, em média, US$ 11 dólares por hora – sem falar
das péssimas, cansativas e deprimentes condições de trabalho que eles enfrentam:
Segundo o último relatório da Organização Internacional do Trabalho, intitulado
como falta de ar-condicionado, interrupções cronometradas no banheiro, vigilância
“Condições de trabalho em perspectiva global”, cerca de 89% de todos os trabalhadores
constante por vídeo etc. (LIEBER, 2018). Essas condições não são tão diferentes em
considerados na pesquisa relatam pelo menos um tipo de condição adversa de saúde
outras empresas que utilizam as plataformas para explorar a força de trabalho, como
mental durante o trabalho (OIT, 2019, p. 151).
a Uber, a iFood, a Rappi, a Amazon (e seu Mechanical Turk) etc.
Os paradoxos vão tornando o capitalismo cada vez mais esquizofrênico com as
Ainda que o trabalho industrial tenha se deslocado para empresas dependentes,
empresas propagandeando a imagem de serem participativas, cooperativas, éticas, mas
geralmente situadas em países do terceiro mundo, por conta da crescente mecanização,
sendo, no fundo, empresas cada vez mais centralizadoras, competitivas e irrestritas
automação e robotização das empresas fabris, cresce no mundo um contingente cada
na busca de lucro, não hesitando em submeter os trabalhadores aos seus propósitos,
vez mais expressivo da força de trabalho, que não pode mais ser aproveitado para a
durante as vinte e quatro horas do dia, de um modo totalizador.
valorização do capital nem mesmo nessas empresas.
Como núcleo da sociabilidade capitalista, a empresa é já uma instituição total.
As tendências previstas um século e meio atrás, quando Marx escreveu sua obra
Se a fábrica de outrora dominava e ainda domina o indivíduo integralmente durante o
máxima, se concretizam historicamente. Cresce a exclusão completa daquela parte da
tempo de trabalho, “a empresa da pós-grande indústria vem submeter o trabalhador
população que não está minimamente qualificada, o que culmina de modo dramático
de um modo total, envolvente, hipócrita ou mesmo cínico, inclusive fora do tempo de
em uma tendência concentradora de riqueza11 inerente ao processo de acumulação
trabalho” (PRADO, 2005, p. 114).
baseado na inteligência coletiva, na exploração rentista das formas subalternas de
O grande símbolo dessa lógica totalizadora são os smartphones. Verdadeiras panaceias
organização empresarial e na hegemonia do mundo da finança sobre o mundo da
da comunicação humana8, esses aparelhos se interpõem como intermediários de boa
produção.
parte da socialização humana, e se tornam, cada vez mais, ferramentas fundamentais
Além disso, à medida que a mecanização e a robotização penetram na produção
para a reprodução da vida moderna.
agrícola, o mundo se torna urbanizado, pois se reduz o contingente de força de trabalho
O smartphone se torna, assim como o dinheiro, um importante meio que promove
necessário nas áreas rurais. As cidades, especialmente as do terceiro mundo, tornam-
o metabolismo social9, porém agora em um mundo (de lucros e valores) desmedido
se, então, depósitos de população excedente para o capital, desenvolvendo-se aí “não
e desregrado. Se por um lado o smartphone é hoje uma ferramenta fundamental para
apenas uma cultura da insegurança, mas uma cultura da barbárie(mas também, talvez,
boa parte dos cidadãos (sejam eles consumidores e/ou trabalhadores informacionais,
da revolução”). (PRADO, 2005, p. 116).
sejam eles programadores de software, sejam eles solucionadores de problemas, sejam
Por fim, é importante lembrar que, desde a desregulamentação dos mercados
eles motoristas de Uber), ao mesmo tempo, ele vem se tornando uma ferramenta de
financeiros nos anos 1980, o capital nunca esteve tão livre: ele pode (como podia até
vigilância em massa e também de controle social e individual (BARROS et al., 2018).
o imediato pós-guerra) atravessar continentes e oceanos em frações de segundos
Se essa nova economia digital significa a intensificação absurda do trabalho para
(e ir embora). Os estados nacionais, assim como as forças políticas, como governos,
um conjunto de trabalhadores intelectuais, ela cria, ao mesmo tempo, uma situação de
parlamentos, sindicatos etc., prisioneiros de suas limitações territoriais e institucionais,
falta de trabalho para um grande número de outros trabalhadores não tão qualificados.
passam a enfrentar dilemas shakespearianos: continuar ou não aceitando as reformas
O capitalismo tem se tornado crescentemente incapaz de oferecer empregos estáveis
que desregulam e flexibilizam o mercado de trabalho, reduzem os benefícios do
e bem remunerados para muitos, talvez até mesmo para a grande maioria da força
sistema de seguro social, abrem os mercados de capitais para os fluxos de capital de
de trabalho mundial.
curto e longo prazo etc. Se a acumulação de capital entra em estagnação, aprofunda-
Apesar de os países mais ricos e desenvolvidos concentrarem as atividades mais
criativas, mesmo nesses países, desenvolve-se um conjunto de setores industriais,
comerciais e de serviços em que as ocupações exigem pouca ou quase nenhuma
10
Nos Estados Unidos, apesar da taxa de desemprego em 2019 estar em um patamar muito baixo (4%), os
salários reais estão estagnados desde 2008, e um contingente razoável possui trabalho considerado precário
8
Porque incorporam em um pequeno dispositivo grande parte dos aparelhos eletroeletrônicos de comuni- (14%), instável (10%), sendo esse setor precário o maior responsável pelo crescimento recente dos empregos
cação de outrora (computador pessoal, conexão com a internet, gravação de som, vídeo, microfone, telefone, (94%) (UETRICHT, 2019).
câmera de filmagem, edição de vídeo, ilhas de edição, efeitos). 11
Segundo o banco Credit Suisse (2018), em 2018, apenas 0,7% da população adulta mundial possuía uma
9
Marx (1983, p. 227) define metabolismo social como “o processo de troca que transfere mercadorias da mão riqueza acima de US$ 1 milhão. Essa elite, apesar de pequena, controla coletivamente 46% da riqueza do
em que elas são não valores de uso para a mão em que elas são valores de uso”. mundo, avaliada em aproximadamente US$ 128,7 trilhões.
164 165
se a degradação da sociedade; se a acumulação prossegue, cresce a desigualdade, a Referências
exploração, o desregramento do mundo (PRADO, 2005).
O capitalismo ainda é aquele, a busca incessante de lucro a qualquer custo está
AMER, Karim; NOUJAIM, Jehane. The Great Hack (Privacidade Hackeada). Disponível
nos precarizando, nos excluindo ou nos esgotando física e mentalmente. A sociedade
no Netflix Brasil, 2019.
está cansada, mas como as alternativas existentes dentro dos limites da propriedade
privada dos meios de produção não representam mais do que o aprofundamento
do caos social, impõe-se como necessidade um projeto alternativo de sociedade que Apple. Third Quarter Results, 2019. Disponível em: https://www.apple.com/
promova uma verdadeira desintoxicação pós-capitalista das esferas de produção e newsroom/2019/07/apple-reports-third-quarter-results/. Acesso em: 4 dez. 2022.
reprodução da vida no Planeta Terra, ou seja, que traga uma boa vida para o conjunto
da população mundial. ARROW, Kenneth J. Economic Welfare and the Allocation of Resources for Invention.
Da renovação do projeto socialista à luta pelos espaços comunais, esse projeto Santa Monica, CA: RAND Corporation, 1959. Disponível em: http://www.rand.org/
necessariamente deve fundar-se na organização da produção com base na inteligência pubs/papers/P1856. Acesso em: 4 dez. 2022.
coletiva e na abolição da relação de capital. Um bom início poderia ser a criação de
plataformas como o Uber, porém cooperativas ou estatais, que garantissem uma remuneração BARROS, Julinano; ANGELI, Caue; FILHO, Maurício Monteiro. Filme “GIG – A Uberização
mínima digna para a atividade de transporte de passageiros; a migração da utilização do Trabalho”. Repórter Brasil, [s.l.], 2019. Disponível em: https://reporterbrasil.org.
estatal de softwares proprietários para livres; a abolição da propriedade intelectual br/gig/. Acesso em: 4 dez. 2022.
de conhecimentos relativos à saúde; a luta pela autogestão efetiva nos ambientes de
trabalho cooperativos; a luta pela propriedade cooperativa de empresas falidas; o
fortalecimento de redes sociais federadas e controladas de forma descentralizada
CETIC. Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação.
pelos usuários etc. Pesquisa TIC Domicílios, 2019. Disponível em: https://cetic.br/pesquisa/domicilios/
indicadores. Acesso em: 4 dez. 2022.

CRARY, Jonathan. 24/7 – Capitalismo tardio e os fins do sono. São Paulo: Cosac Naify,
2014.

CREDIT Suisse. Global Wealth Report 2018. Research Institute, 2018.

DURAND, Cédric. L’envers de l’économie numérique: um capitalisme intellectuel

monopoliste. In: CNRS, Paris 13 note de recherche ifris, 2018. Disponível em: http://
ifris.org/wp-content/blogs.dir/1/files/2018/05/WP7-C%C3%A9dric-Durand.pdf.
Acesso em: 4 dez. 2022.

GEREFFI, Garry. Global value chains in a post-Washington Consensus world. Review

of International Political Economy, 21(1), 9-37, 2014.

LIEBER, Chave. Bernie Sanders called out Jeff Bezos for poor treatment of Amazon
workers. In a rare move, the company fired back. In: VOX, 2018. Disponível em: https://
www.vox.com/2018/8/30/17797786/amazon-warehouse-conditions-bernie-sanders.
Acesso em: 4 dez. 2022.

MARX, Karl. O capital − Crítica da Economia Política, vol. I, Tomo I. São Paulo: Abril
Cultural, 1983.

NELSON, Richard. The simple economics of basic scientific research. Journal of Political
166 167
Economy, pp. 297-306, 1959.

PAGANO, Ugo. The crisis of intellectual monopoly capitalism. Cambridge Journal of

Economics, 38, pp. 1409-1429, 2014. Disponível em: doi:10.1093/cje/beu025. Acesso
em: 4 dez. 2022.

PRADO, Eleutério F. S. Desmedida do valor: crítica da pós-grande indústria. São Paulo:

Xamã, 2005.

SADOWSKI, Jathan. When data is capital: Datafication, accumulation, and extraction. Big
Data & Society, [s.l.] 2019. Disponível em: https://doi.org/10.1177/2053951718820549.
Acesso em: 4 dez. 2022.

SATARIANO, Adam; BORROWS, Peter. Apple’s Supply-Chain Secret? Hoard Lasers. In:
Bloomberg Businessweek, [s.l.], 2011. Disponível em: https://www.bloomberg.com/
news/articles/2011-11-03/apples-supply-chain-secret-hoard-lasers. Acesso em: 4
dez. 2022.

SOUZA, Joyce; SILVEIRA, Sérgio Amadeu da; AVELINO, Rodolfo (orgs.). A sociedade de
controle: Manipulação e modulação nas redes digitais. Editora Hedra: São Paulo, 2019.

UETRICHT, Micah. Just How Precarious Is the US Economy? Jacobim Magazine, on-line,
[s.l.], 2019. Disponível em: https://jacobinmag.com/2019/03/precarity-temp-work-
workplace-protections-contractors/. Acesso em: 4 dez. 2022.

168 169
 Automatização e
Desemprego: o uso de
Inteligência Artificial no
Sistema Nacional de Emprego
FERNANDA BRUNO (UFRJ)

PAULO FALTAY (UFRJ)

PAULA CARDOSO PEREIRA (UFRJ)

170 171
 Automatização e Desemprego: o uso de Inteligência
Artificial no Sistema Nacional de Emprego
Fernanda Bruno (UFRJ)
Paulo Faltay (UFRJ)
Paula Cardoso Pereira (UFRJ)

Introdução

Neste texto apresentamos um estudo de caso sobre o processo de concepção e

implementação de ferramentas de Inteligência Artificial (IA) para intermediação de mão
de obra e perfilização automatizadas no Sistema Nacional de Emprego do Brasil (SINE). A
investigação foi realizada entre agosto e dezembro de 2020 e se baseou em: levantamento e
análise de materiais normativos e documentos oficiais direta ou indiretamente relacionados
ao projeto; revisão bibliográfica; navegação no portal Emprega Brasil para simulação da
jornada do usuário; pedidos de informação pública via Lei de Acesso à Informação; entrevistas
com 11 (onze) atores direta ou indiretamente envolvidos na concepção e implementação da
solução e/ou em temas relacionados à proteção de dados pessoais, mercado de trabalho e
defesa de direitos trabalhistas1.
A adoção de tais ferramentas tecnológicas no SINE ocorre no contexto de uma
reestruturação do órgão realizada pelo governo Bolsonaro que prevê, além do uso de IA
no portal de vagas Emprega Brasil2, o compartilhamento do banco de dados do SINE com
a iniciativa privada. A implementação das ferramentas de IA é viabilizada por meio de um
Acordo de Cooperação Técnica (ACT), firmado entre a Secretaria Especial de Produtividade,
Emprego e Competitividade (SEPEC) e a Microsoft e publicado no Diário Oficial da União em
12 de novembro de 2020.
O SINE é um órgão público fundado em 1975 e, atualmente, administrado pelo Ministério
do Trabalho e Previdência3. O órgão é responsável por coordenar três importantes políticas do
sistema público de emprego: a) a intermediação de mão de obra (encaminhar trabalhadores
para vagas adequadas e disponíveis no mercado laboral); b) a orientação para qualificação
profissional; c) a concessão de benefício de seguro-desemprego. Os três eixos do SINE englobam
um conjunto de políticas públicas que busca maior efetividade na colocação dos trabalhadores
na atividade produtiva, visando a inclusão social, via emprego, trabalho e renda, bem como
por meio da promoção de atividades autônomas e de pequenos empreendimentos individuais
ou coletivos (LOBO; ANZE, 2016).
Atualmente, o SINE é um dos maiores serviços públicos de emprego do mundo

1
A investigação é fruto da parceria entre o MediaLab, UFRJ, Rede Lavits e Derechos Digitales. A pesquisa
foi realizada no âmbito do estudo comparado “Inteligencia Artificial e inclusión en América Latina: estudios
de caso y análisis comparado”, que analisou quatro casos de adoção de sistemas de decisão automatizados
(Automated Decision-Making ou ADM, em inglês) pelo setor público em quatro países latino-americanos,
com ênfase nos impactos para os direitos humanos. O resultado completo da pesquisa pode ser acessado em:
https://ia.derechosdigitales.org/. Acesso em: 2 fev.2023.
2
https://empregabrasil.mte.gov.br/
3
Durante o governo Bolsonaro, o SINE esteve sob a competência do Ministério da Economia até 2021, quando
foi recriada a pasta do Ministério do Trabalho e o sistema foi realocado.
172 173
(MARRA; OLIVEIRA; MARTINS, 2019). O sistema atende, por ano, aproximadamente 15
milhões de trabalhadores e um milhão e meio de empregadores, nos 1.600 postos físicos de
atendimento e pelo Portal Emprega Brasil. Com uma base única de dados para toda a rede
de atendimento4, composta de aproximadamente 65 milhões de cadastros de trabalhadores,
o portal disponibiliza diversos serviços sem a necessidade de comparecer presencialmente
a um posto de atendimento.
Dois objetivos principais são valorizados entre as atribuições do SINE desde o seu
início: o serviço de intermediação de mão de obra (IMO) e a produção de informações sobre
o mercado de trabalho (MATOS, 2011; ROSSETTO, 2019). Oferecido de maneira gratuita pelo
sistema, o serviço de IMO realiza a mediação entre oferta e demanda de trabalho e consiste
na correspondência (match) dos perfis de trabalhadores cadastrados no sistema com as
categorias e requisitos das vagas de emprego oferecidas pelas empresas no SINE. Com base
na correspondência dessas variáveis, o sistema encaminha as pessoas para entrevistas de
emprego e, por fim, registra o resultado do direcionamento.
Sobre a produção de dados e informações, ao cadastrar uma pessoa, seja nos postos
físicos, seja nos serviços digitais, o sistema coleta uma grande quantidade de dados pessoais
e do perfil profissional de quem deseja um novo emprego. Por sua vez, ao oferecer vagas
disponíveis, as empresas fornecem um conjunto de informações sobre postos de trabalho
que estão sendo criados e ofertados no mundo do trabalho. Há, por fim, dados referentes aos
programas de seguro-desemprego, de capacitação e qualificação profissional e de microcrédito
produtivo (MORETTO, 2018). Atualmente, a base de dados do SINE é gerida pela Dataprev5.
Em 2019, houve um processo de reestruturação do Sistema Nacional de Emprego, visando
a criação do chamado Novo SINE, parte de uma ampla Estratégia Brasileira para Transformação
Digital, aprovada em 2018. Anunciada em 27 de fevereiro de 2019, a mudança não é apenas
cosmética. No texto “O Novo Sine: mudanças do modelo brasileiro de intermediação de mão
de obra” (BARBOSA FILHO; FERREIRA; ARAÚJO, 2020), destaca-se que o sistema passará
por “mudanças estruturais a fim de incorporar práticas e mecanismos de IMO alinhados
aos adotados nos países da Organização para a Cooperação e Desenvolvimento Econômico
(OCDE)”. A implementação de ferramentas de IA, o uso e a importância de dados digitais com
informações do mercado de trabalho e a parceria com a iniciativa privada são elementos
centrais do Novo Sine.
Nesse processo de reestruturação, identificamos duas mudanças relevantes:
a) A criação do chamado SINE Aberto6, uma plataforma que compartilha a base de
dados dos trabalhadores cadastrados no SINE com empresas privadas do segmento de
intermediação de mão de obra;
4
https://dados.gov.br/dataset/postos-do-sistema-nacional-de-emprego-sine.
5
Criada por meio da Lei 6.125, de 4 de novembro de 1974, que a instituiu com personalidade jurídica de
direito privado, patrimônio próprio e autonomia administrativa e financeira, a Empresa de Tecnologia e
Informações da Previdência (Dataprev) é uma empresa pública vinculada ao Ministério da Economia. A
Dataprev é a responsável pela gestão da Base de Dados Sociais Brasileira e fornece serviços de Tecnologia da
Informação e Comunicação para a execução de políticas sociais do Estado brasileiro.
6
http://sineaberto.economia.gov.br/#/
174
b) A implementação de ferramentas de Inteligência Artificial no Portal Emprega Brasil
para job matching e perfilização, que foram focaram o estudo de caso e são o escopo deste
texto.
Esse segundo item foi viabilizado pela parceria entre o governo federal e a Microsoft,
anunciada publicamente com o lançamento do projeto Microsoft Mais Brasil, em outubro
de 20207. O projeto envolve o uso de ferramentas de Inteligência Artificial fornecidas pela
Microsoft para o Governo para os setores de emprego e de sustentabilidade. A oferta da
Microsoft para o setor de emprego, além do uso de IA para a intermediação de mão de
obra e perfilização dos trabalhadores, envolve também qualificação profissional por meio
da Escola do Trabalhador 4.0, que ofertará cursos nas áreas de tecnologia e produtividade
disponibilizados pela empresa8. A implementação do projeto por parte do Governo é liderada
pela Coordenação Geral de Projetos Especiais da Secretaria de Políticas Públicas para o
Emprego (SPPE).
Os principais documentos que detalham como se dará a implementação de ferramentas
de IA no Novo SINE, fontes privilegiadas de consulta para a pesquisa a qual originou este
texto, são o Acordo de Cooperação Técnica (ACT) nº 110/2020 e o Plano de Trabalho que
integra o dito acordo.
O referido ACT foi constituído a partir do Edital de Chamamento Público nº 5/20209
que tinha como objetivo
[…] selecionar pessoa(s) jurídica(s) de direito privado, com ou sem fins lucrativos,
interessada(s) em propor e realizar ações de apoio à SEPEC para enfrentamento dos
impactos negativos causados no setor produtivo brasileiro em razão da pandemia
do covid-19, sem o desembolso ou a transferência de recursos públicos financeiros
ou patrimoniais. (grifos nossos)
Dentre as justificativas que embasam a adoção da solução, destaca-se ainda a ênfase
dada aos custos do SINE, relatando o valor de aproximadamente R$ 150 milhões por ano aos
cofres públicos10. Além disso, menciona-se a defasagem tecnológica da plataforma, a baixa
integração com políticas públicas do trabalho e o baixo índice de alocações realizadas por
intermédio do SINE.
As informações públicas mais recentes sobre o andamento da adoção das ferramentas
automatizadas e do ACT são de abril de 2021 e foram publicadas pela assessoria de comunicação
da Microsoft11. O post relata que, a partir daquele mês, as ferramentas de IA começaram a
7
Na divulgação, também se menciona a empresa de solução em tecnologia da informação Bizapp, que repre-
senta a Microsoft Dynamics 365 (Plataforma CRM) como líder na atualização do Portal do SINE.
8
A Escola do Trabalhador é um programa criado em 2017 pelo Ministério do Trabalho em parceria com a
Universidade de Brasília. Quando anunciado o projeto Microsoft Mais Brasil, afirmou-se que a Escola do
Trabalhador 4.0 atenderia até 5,5 milhões de candidatos a emprego até 2023 e disponibilizaria 58 instrutores
para oferecer orientação personalizada para até 315 mil pessoas. Com a parceria, a iniciativa passou a integrar
o programa Caminho Digital e tem como foco a “capacitação em habilidades digitais e inserção profissional
voltados para a Economia 4.0”, ofertando cursos, em sua imensa maioria, relacionados ao uso de softwares e
tecnologias da própria Microsoft. Mais informações em: https://escoladotrabalhador40.org.br/.
9
Publicado pela SEPEC no Diário Oficial da União do dia 1º de julho de 2020.
10
Sendo R$ 25 milhões para o Governo Federal e R$ 125 milhões para os Estados e Municípios.
11
https://news.microsoft.com/pt-br/features/ministerio-da-economia-moderniza-o-sine/
175
ser implementadas também nos postos físicos do SINE e seriam direcionadas ao uso dos
atendentes que poderiam, segundo o texto, “oferecer um atendimento individualizado focado
nas dificuldades individuais de empregabilidade daqueles que buscam uma (re)colocação
profissional, além de prover informações de Inteligência de negócio aos gestores regionais e
nacionais do sistema SINE”. A adoção da ferramenta na rede física se dará de maneira gradual,
iniciando pelos estados do Paraná, Minas Gerais, Ceará e Bahia, informa ainda o texto.
Esse texto, entretanto, concerne ao período da nossa investigação, ou seja, entre agosto
e dezembro de 2020, como dito anteriormente. Para tanto, inicialmente apresentaremos um
breve levantamento do uso de ferramentas de Inteligência Artificial para intermediação de mão
de obra no mundo, com ênfase no contexto público, pontuando alguns efeitos potencialmente
nocivos já identificados na adoção de tais tecnologias. Na sequência, detalhamos o design do
sistema implementado, descrevendo o funcionamento das duas ferramentas algorítmicas
utilizadas. Em seguida, faremos uma análise dos mecanismos de accountability previstos no
projeto, enfatizando suas fragilidades e a urgência da construção de um marco regulatório para
IA voltada para o interesse público. No tópico seguinte, apontamos alguns riscos e impactos
potenciais da implementação de ferramentas de IA no SINE identificados durante nossa
pesquisa, momento em que o projeto ainda estava em fase de execução. Por fim, elaboramos
sugestões e pontos de atenção para o debate sobre o uso de IA em políticas públicas e tecemos
algumas reflexões de caráter mais especulativo, visando ao debate e à ação coletiva sobre o
uso de Inteligência Artificial no setor público, especialmente na América Latina.
IA e a intermediação de mão de obra pelo mundo
Nos últimos anos, vem se espraiando a implementação e utilização de Inteligência
Artificial na intermediação de emprego, recrutamento e contratação de profissionais tanto no
setor público quanto no setor privado. Na iniciativa privada, pesquisa realizada em fevereiro
de 2022 pela Society for Human Resource Management12 apontou que 25% das organizações
e entidades filiadas à instituição faziam uso de alguma ferramenta de IA em seus processos.
Já no setor público, há uma lacuna de pesquisas e informações consolidadas sobre o
número exato de serviços públicos, em diferentes escalas de administração, que utilizam ou
estão implementando ferramentas de IA na intermediação de mão de obra ao redor do mundo.
Relatórios de organizações internacionais, como o BID (URQUIDI; ORTEGA, 2020) e a OCDE
(DESIERE; LANGENBUCHER; STRUYVEN, 2019) e pesquisas de entidades da sociedade civil
e da academia13, no entanto, nos trazem alguns exemplos e pistas do estágio de utilização da
IA no setor público de emprego.
Na Europa, destaca-se o projeto de 2014 de perfilamento automatizado pelo Publiczne
Służby Zatrudnienia (PSZ)14, serviço público de emprego da Polônia, e a introdução de ferramentas
12
hhttps://www.shrm.org/about-shrm/press-room/press-releases/pages/fresh-shrm-research-explores-use-
-of-automation-and-ai-in-hr.aspx
13
Neste sentido, ver: ALGORITHM WATCH (2020). Automating Society Report 2020. Disponível em: https://
automatingsociety.algorithmwatch.org/wp-content/uploads/2020/10/Automating-Society-Report-2020.pdf.
Acesso em: 30 nov.2022.
14
Mais informações sobre isso podem ser encontradas em: https://psz.praca.gov.pl/. Para uma análise da auto-
matização de perfilamento e dos problemas de transparência e riscos de discriminação, ver o relatório produ-
zido pela Fundação Panoptykon em 2015: NIKLAS, J.; SZTANDAR-SZTANDERSKA, K.; SZYMIELEWICZ,
176
automatizadas pelo Pôle Emploi15, da França, e pelo VDAB16, de Flandres/Bélgica. Na Ásia,
é muito discutido o projeto The Work17, do Korea Employment Information Service (KEIS),
da Coreia do Sul. Já no contexto da América Latina, anterior à iniciativa que relatamos no
Brasil, foi lançado no Paraguai, em 2017, o ParaEmpleo18, uma plataforma de job matching
e perfilização automatizados.
É importante destacar que relatórios de entidades como o Banco Interamericano de
Desenvolvimento (BID) e a Organização para a Cooperação e Desenvolvimento Econômico
(OCDE) não são peças desinteressadas nesse cenário. A introdução de ferramentas de IA no
setor público de emprego é amplamente defendida por essas organizações, que ressaltam a
otimização do tempo – para o sistema e para os usuários –, maior precisão na recomendação
de vagas e maior eficácia no número de contratações. O otimismo desse receituário, entretanto,
contrasta com as poucas evidências para respaldar as afirmações feitas pelas Big Techs e pelos
desenvolvedores sobre os benefícios de suas ferramentas de IA. Muitas das suposições nas
quais tais afirmações se baseiam permanecem não testadas e não escrutinadas, tornando-se
mais estratégias de publicidade e de vendas de produtos do que diagnósticos.
A esse cenário de incerteza somam-se os potenciais riscos de discriminações a grupos
populacionais já vulnerabilizados. Um dos casos rumorosos de preconceito aconteceu com
a ferramenta interna de contratação da Amazon que, por ter sido treinada para reconhecer
padrões de currículos enviados para a empresa nos anos anteriores, em sua imensa maioria de
homens, considerava as candidatas mulheres automaticamente menos aptas para as vagas19.
Já no caso do sistema de emprego da Polônia, ele também se tornou paradigmático pelos
K.. Profiling The Unemployed In Poland: Social And Political Implications Of Algorithmic Decision Making.
Fundacja Panoptykon. 2015. Disponível em:
https://panoptykon.org/sites/default/files/leadimage-biblioteka/panoptykon_profiling_report_final.pdf. Acesso
em: 29 nov. 2022.
15
https://www.pole-emploi.fr/accueil/. Para um detalhamento maior dos serviços automatizados do órgão,
ver o artigo de seu diretor de inovação aqui:
https://www.annales.org/enjeux-numeriques/DG/2018/DG-2018-01/Enj18a8_Chapuis.pdf. Acesso em: 28
nov.2022.
16
O serviço público belga fundou um laboratório de inovação em 2014 que é responsável por desenvolver
novas aplicações digitais e elaborar análises a partir dos dados gerados pelo serviço. Usando um modelo de
aprendizado de máquina com centenas de variáveis, o laboratório desenvolveu um modelo de perfil estatístico,
chamado Próximos Passos, que estima a probabilidade de uma pessoa ficar desempregada por um período
maior que seis meses. Veja mais em: https://www.vdab.be. Acesso em: 28 nov.2022.
17
O serviço consiste em oferecer seis recomendações personalizadas de informações relacionadas a empregos
para os usuários registrados no órgão. As recomendações de vagas são realizadas por meio de ferramentas
de IA que analisam o currículo da pessoa registrada, a experiência anterior dela, financiamentos ou bolsas já
recebidas e as próprias áreas de interesse dela. Veja mais em: https://www.keis.or.kr. Acesso em: 20 out.2022.
18
Fruto de uma parceria do governo paraguaio com o BID, a plataforma digital faz o pareamento das “com-
petências” dos usuários com as ofertas de vagas, apresentando uma porcentagem aproximada de match,
levando em conta também a proximidade do emprego da residência do usuário. Na página do projeto no site
do BID, eles argumentam que o projeto “aplica processos livres de discriminação”, mas não detalham como
isso é realizado. Ver mais em: https://fairlac.iadb.org/en/paraempleo e https://paraempleo.mtess.gov.py/es/.
Acessos em: 12 set.2022.
19
Disponível em: https://tecnoblog.net/meiobit/391571/ferramenta-de-recrutamento-amazon-ai-discrimi-
nava-mulheres/. Acesso em: 12 out.2022.
177
efeitos potencialmente nocivos. Após diversas críticas e pesquisas mostrando que o sistema
tinha tendências discriminatórias, não tinha transparência adequada e violava leis de proteção
de dados, após uma decisão contrária da corte constitucional do país em relação ao uso dos
dados, a ferramenta de perfilização foi interrompida pelo governo polonês em 201920.
O caso da Polônia atesta não apenas os perigos da implementação de ferramentas
automatizadas pelo poder público sem critérios e parâmetros definidos, mas também a
possibilidade de intervenção e a necessidade da regulação da IA no setor público. No mundo,
o debate e as disputas estão em aberto. Em abril de 2021, a União Europeia21 apresentou
proposta de regulação da IA na qual o uso dessas tecnologias para o emprego é classificado
como de “alto risco”, o que implica medidas e requisitos mais rígidos de confiabilidade e de
auditorias e avaliações dos procedimentos decisórios. Por sua vez, em novembro de 2021, o
Conselho da Cidade de Nova York proibiu a venda de “ferramentas automatizadas de decisão
de emprego” sem auditorias anuais de discriminação22.
Design do sistema algorítmico
Como descrito anteriormente, o sistema de Inteligência Artificial para o portal de vagas
do SINE consiste em duas ferramentas:
1) Uma ferramenta de job matching, que promove o cruzamento automatizado de vagas
registradas no portal com os trabalhadores considerados mais adequados para preenchê-las;
2) Uma ferramenta de profiling, que faz uma segmentação dos trabalhadores por “perfis
de risco” segundo critérios de capacidade de reinserção no mercado laboral, apoiando tanto
a recomendação de vagas no portal como a orientação de políticas públicas de qualificação
profissional.
Por meio de um pedido de Lei de Acesso à Informação23 sobre que critérios serão
utilizados para a intermediação inteligente, a Coordenação-Geral de Projetos Especiais da
SPPE respondeu que
[s]erão utilizadas técnicas para identificar vagas mais adequadas para os trabalhadores
a partir das experiências anteriores de trabalhos, encaminhamentos com e sem
sucesso, perfil de consultas de vagas, perfil profissional e dados da utilização
das plataformas digitais do Sine. No que se refere à indicação de habilidades,
será utilizado um mapeamento de ocupações para competências [SIC] a fim de
recomendar cursos de qualificação que desenvolverão as habilidades demandadas
para o exercício de determinadas atividades de interesse dos trabalhadores.
20
Disponível em: https://algorithmwatch.org/en/poland-government-to-scrap-controversial-unemploymen-
t-scoring-system/. Acesso em 3 jan.2022.
21
Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021PC0206&-
from=EM. Acesso em 3 jan.2022.
22
Disponível em: https://news.bloomberglaw.com/daily-labor-report/nyc-targets-artificial-intelligence-bias-
-in-hiring-under-new-law. Acesso em 3 jan.2022.
23
Protocolo 03005.184809/2020-85, respondido em 01/12/2020.
178
Mesmo com a explanação dos critérios de processamento algorítmico para ambos
os módulos, ainda permanecem opacos maiores detalhes sobre a lógica operativa dos
modelos algorítmicos que serão utilizados para cada tarefa. Nesse sentido, as regras
algorítmicas mais explícitas a que esta investigação teve acesso são as divulgadas
quando da realização de uma prova de conceito24, realizada durante o segundo semestre
de 2019 e conduzida pela Microsoft e a EloGroup25. Por isso, as regras mencionadas
nessa prova foram tomadas como base para algumas considerações que fazemos sobre
riscos e impactos potenciais.
Segundo nota de divulgação veiculada pela Microsoft26, o principal objetivo da
prova foi “validar a melhora de assertividade de job-matching do sistema” (MICROSOFT
NEWS CENTER, 2020). A divulgação também afirma que a IA utilizada no teste
apresentou um índice de assertividade superior a 70% para recomendação de vagas
supostamente mais apropriadas para o perfil do trabalhador, ainda que não se detalhe
como a “probabilidade de match” é calculada. No texto, descreve-se que:
Com o cruzamento de informações históricas dessas bases e análise por meio
de algoritmos de IA, o índice mostrou uma assertividade superior a 70%.
Em termos práticos, isso significa que, a cada 10 casos de trabalhadores
que já haviam conseguido uma oportunidade no passado, com o uso do
algoritmo de IA, em sete dos casos ele seria capaz de recomendar a vaga mais
adequada ao perfil do profissional, bem como a melhor recomendação do
trabalhador para a vaga. Os outros 30% correspondem a profissionais que,
com base no histórico, foram empregados, mas que, segundo o modelo de
IA, teriam menor probabilidade de conquistar aquela posição. O algoritmo
recomenda trabalhadores que tenham mais de 60% de probabilidade de
match (combinação) com a vaga. (Idem., 2020)
Para sugerir quais vagas têm mais chance de se encaixar no perfil de um determinado
trabalhador, o algoritmo de IA considerou tanto as situações que se reverteram em
contratação quanto as que não tiveram sucesso. Um dos diferenciais do modelo proposto,
afirma-se, é que ele “permite recomendar vagas de emprego para indivíduos com o perfil
profissional semelhante ao de trabalhadores que foram aceitos em processos seletivos
anteriores” (Ibidem) e não opera a partir da Classificação Brasileira de Ocupações (CBO).
Essa classificação é, hoje, a base do pareamento entre currículos e vagas no SINE e é
descrita como um problema por vários atores envolvidos na defesa da implementação
do novo sistema por ser complexa e, com frequência, pouco assertiva. Algumas das
implicações relacionadas à ênfase que o novo modelo de intermediação dá para o
histórico de contratações – ao que informações disponíveis indicam –, sobretudo na
24
Para a prova, foram usados dados históricos de três bases: do próprio SINE, do Cadastro Geral de Empre-
gados e Desempregados (CAGED) e da Relação Anual de Informações Sociais (RAIS).
25
Empresa privada brasileira baseada no Rio de Janeiro. Com escritórios em quatro cidades no país, atua em
12 países no desenvolvimento e licenciamento de softwares e em consultoria de gestão e TI para organizações
públicas, privadas e do terceiro setor. Veja mais sobre isso em: https://elogroup.com.br/. Acesso em: 20 mar.2022
26
Disponível em: https://news.microsoft.com/pt-br/sistema-nacional-de-emprego-sine-testa-uso-de-inteli-
gencia-artificial-para-aumentar-eficiencia-na-oferta-de-oportunidades-de-trabalho/. Acesso em: 20 mar.2022.
179
regulação do campo de oportunidades do trabalhador, serão abordadas no tópico 5.
Fontes da Secretaria de Políticas Públicas para o Emprego entrevistadas afirmaram
que, apesar da prova de conceito ter apresentado bons resultados para a ferramenta
de job matching, “os resultados de perfilização não foram tão bons”, sem detalhar
números mais precisos ou critérios específicos sobre a avaliação.
Em entrevista realizada por e-mail, a Microsoft afirmou que “[n]a prova de conceito
mencionada […] conseguimos aumentar a assertividade desse casamento entre vagas
disponíveis e pessoas buscando emprego para 70%, um número muito expressivo
quando comparado à eficiência do SINE.27”. Entretanto, também foi relatado na entrevista
que “[o] estudo não foi utilizado em produção e, portanto, não gerou contratações”,
tornando metodologicamente infundada a comparação entre a efetividade declarada
do algoritmo de job matching da prova de conceito e o modelo de intermediação
atual do SINE. Como pontua um representante entrevistado da classe trabalhista no
Conselho Deliberativo do Fundo de Amparo ao Trabalhador (CODEFAT), o sistema
de avaliação das ferramentas de intermediação no contexto das mudanças em cursos
no SINE deveria priorizar não apenas “números soltos”, mas, sobretudo, informar os
perfis a que tais números se referem e quem está sendo beneficiado com as mudanças
em curso.
Mecanismos de accountability no SINE: a importância da regulação
da IA guiada pelo interesse público
Um aspecto bastante evidente durante a investigação foi a fragilidade dos
mecanismos usualmente designados por accountability (responsabilização e prestação
de contas) previstos no projeto. Identificamos também outras fragilidades correlatas,
relacionadas ao campo regulatório, conforme detalharemos a seguir.
Na documentação a que tivemos acesso sobre a implementação, a única menção
a dispositivos de prestação de contas é feita no Plano de Trabalho, quando se descreve,
dentre as obrigações da SPPE, “Elaborar relatórios periódicos sobre os impactos da
iniciativa na política pública de intermediação de mão de obra”. Porém, não foram
dados mais detalhes acerca dos critérios ou periodicidade de tais relatórios.
Em resposta a pedido de informação via LAI sobre que mecanismos de revisão
de erro estão sendo considerados no desenho do sistema, a Coordenação de Projetos
Especiais da SPPE respondeu que “a revisão de erros dos algoritmos de inteligência
artificial pode ser avaliada sob o ponto de vista de vieses indesejados ou sobre o risco
de pareamentos equivocados”. Além disso, o órgão afirma que “serão tomados cuidados
na avaliação dos algoritmos de forma que não sejam permitidas discriminações que
não sejam positivas”, mas não há qualquer detalhamento sobre como tais questões
serão concretamente enfrentadas.
27
O dado também figura entre as justificativas apresentadas no Plano de Trabalho do Acordo de Cooperação
Técnica: “A Microsoft desenvolveu, em 2019, uma prova de conceito utilizando inteligência artificial junto
à Secretaria de Políticas Públicas de Emprego, SPPE, demonstrando a capacidade de elevar o potencial de
intermediação de mão de obra do sistema para o percentual de 70% comparado com taxas significativamente
inferiores do sistema em uso.”
180
No mesmo pedido de informação, questionada se a implementação do novo sistema
no SINE prevê a realização de auditorias, e, caso positivo, como seriam realizadas, a
Coordenação de Projetos Especiais da SPPE respondeu que, “tendo em vista que a
plataforma é mantida pela Dataprev, os procedimentos de auditoria daquela empresa
pública serão empregados também no portal de vagas do Sine.28”
Porém, ainda que o projeto seja frágil nesse sentido, convém pontuar que ele
está sujeito aos mecanismos previstos na LGPD (Lei nº 13.709/2018), entre os quais
ressaltamos o direito à explicação e o direito à revisão. Sobre o primeiro, o §1º do
art. 20 da LGPD define que “[o] controlador deverá fornecer, sempre que solicitadas,
informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados
para a decisão automatizada, observados os segredos comercial e industrial.” Já quanto
ao direito à revisão, também no art. 20, está previsto que o titular dos dados tem
direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento
automatizado de dados pessoais que afetem seus interesses. Esse direito, no entanto, foi
duramente limitado, uma vez que, quando a lei foi publicada, houve veto presidencial à
possibilidade de revisão humana de decisões automatizadas29. O veto tornou bastante
limitados os efeitos da possibilidade de reparação de erros por meio do exercício do
direito à revisão no contexto brasileiro e abriu a possibilidade de que, na prática,
um pedido de revisão de decisão automatizada poderia resultar em outra decisão
igualmente automatizada (SILVA; MEDEIROS, 2019), em um ciclo que beira o absurdo.
A LGPD também é o melhor mecanismo de que dispomos até o momento para
reparação de vítimas de erros de sistemas que envolvam tratamento de dados, como
o implementado no SINE. O art. 42 define que “o controlador ou o operador que, em
razão do exercício de atividade de tratamento de dados pessoais, causar a outrem
dano patrimonial, moral, individual ou coletivo, em violação à legislação de proteção
de dados pessoais, é obrigado a repará-lo”. O artigo também prevê que as ações
de reparação por danos coletivos que tenham por objeto a responsabilização dos
operadores e controladores dos dados podem ser exercidas coletivamente. Nesses
casos, órgãos como o Ministério Público, a Defensoria Pública ou mesmo organizações
não governamentais poderiam representar toda uma coletividade diante do Poder
Judiciário para defender tais direitos.
Além dos dispositivos mencionados da LGPD, convém mencionar ainda o princípio
da não discriminação e o princípio da responsabilização e prestação de contas como
princípios relevantes para orientar o desenvolvimento de políticas públicas de governança
em IA baseadas em direitos humanos.
28
Recordamos também que está entre as atribuições da Autoridade Nacional de Proteção de Dados (ANPD)
requerer realização de auditoria para verificação de aspectos discriminatórios em tratamento automatizado
de dados pessoais e a elaboração do relatório de impacto à proteção de dados pessoais.
29
É bastante significativa a justificativa utilizada pelo presidente Jair Bolsonaro para o veto, ao afirmar que
a revisão humana de decisões automatizadas “contraria o interesse público”, uma vez que “inviabilizará os
modelos atuais de planos de negócios de muitas empresas, notadamente das startups, bem como impacta a
análise de risco de crédito e de novos modelos de negócios de instituições financeiras, gerando efeito nega-
tivo na oferta de crédito aos consumidores. A justificativa completa ao veto está disponível em: http://www.
planalto.gov.br/ccivil_03/_ato2019-2022/2019/Msg/VEP/VEP-288.htm. Acesso em: 28 fev.2022.
181
 O que a fragilidade dos mecanismos de accountability do projeto do SINE deixa
explícito é que, alinhada ao que vários especialistas vêm ressaltando, a urgência da
construção de um marco regulatório para IA, focando o contexto brasileiro e que
evite que interesses mercadológicos, frequentemente associados a um discurso
tecnosolucionista que encontra na tecnologia a solução para problemas de ordem
estrutural, se sobreponham a interesses públicos e à necessária precaução aos potenciais
riscos e impactos, sobretudo sociais, da ampla adoção de ferramentas de IA para os
mais variados fins em contextos públicos e/ou privados.
Nesse sentido, é importante destacar que está em curso, nesse momento, no
Senado do Brasil, a realização de uma série de audiências públicas por uma comissão
de juristas responsável por subsidiar a elaboração de substitutivo aos Projetos de Lei
nº 5.051 (2019), PL 21 (2020) e PL 872 (2021), que buscam estabelecer as regras,
diretrizes e fundamentos para regular o desenvolvimento e a aplicação da IA no Brasil. As
audiências públicas foram organizadas a partir de quatro eixos temáticos: (i) conceitos,
compreensão e classificação de IA; (ii) impactos da IA; (iii) direitos e deveres; e (iv)
accountability (prestação de contas), governança e fiscalização30.
Além dessa iniciativa, destacamos a elaboração da Estratégia Brasileira de Inteligência
Artificial (EBIA), concebida entre os anos de 2019 e 2020, liderada pelo Ministério de
Ciência, Tecnologia e Inovação (MCTI31). Alinhada às diretrizes da OCDE endossadas
pelo Brasil, a EBIA fundamenta-se nos cinco princípios definidos pela Organização
para uma gestão responsável dos sistemas de IA, quais sejam: (i) crescimento inclusivo,
desenvolvimento sustentável e bem-estar; (ii) valores centrados no ser humano e na
equidade; (iii) transparência e explicabilidade; (iv) robustez, segurança e proteção;
e (v) a responsabilização ou a prestação de contas (accountability).
No eixo Legislação, Regulação e Uso Ético, a EBIA toca em questões importantes,
como a necessidade de intervenção humana em contextos de IA em que o resultado de
uma decisão automatizada implica um alto risco de dano para o indivíduo. O documento
afirma ser desejável que tais decisões sejam passíveis de explicação e interpretação,
que os indivíduos devem ter ciência de suas interações com sistemas de IA e que a
regulamentação da IA deve ser seguida por princípios como: (i) desenvolvimento
de estruturas legais existentes; (ii) adoção de abordagem regulatória baseada em
princípios e resultados; (iii) realização de um “teste de equilíbrio de riscos/benefícios”
centrado no indivíduo humano; e (iv) avaliação de impacto contextual. Propõe-se
também que a IA não deve criar ou reforçar preconceitos que impactem indivíduos por
motivos relacionados a características sensíveis como raça, etnia, gênero, nacionalidade,
renda, orientação sexual, deficiência, crença religiosa ou inclinação política. Já no eixo
Governança de IA, destacamos as seguintes indicações: que a ideia de accountability
deve ser guiada pelo princípio da precaução; a intervenção regulatória deve ser
30
A comissão, formada por 18 juristas, convocou 60 especialistas da academia, da comunidade técnica, da
sociedade civil, do mercado e do poder público para 12 painéis que se realizarão do dia 28 de abril a 13 de
maio de 2022.
31
A EBIA foi construída em três etapas: (i) contratação de consultoria especializada em IA, (ii) benchmarking
nacional e internacional, e (iii) processo de consulta pública.
182
proporcional ao grau de risco que a aplicação oferece; realização de análise de risco
por meio da elaboração de relatórios de impacto; controle de qualidade por meio de
testes e validações periódicos; adoção de metodologias transparentes e auditáveis
quanto ao desenvolvimento dos sistemas, às fontes de dados e aos procedimentos e
documentação do projeto em questão.
Contudo, o tom geral da EBIA, sobretudo sobre questões regulatórias, responsabilização
e prestação de contas, é bastante brando e/ou vago, e, em diversos momentos, orienta
que se deve evitar ações regulatórias que possam limitar a inovação, a adoção e o
desenvolvimento de IA. O estímulo ao desenvolvimento da chamada “IA ética” (termo em
si mesmo passível de discussão), apesar de constar como parte das ações estratégicas, é
visado, sobretudo, em termos de parcerias com corporações que desenvolvem “soluções
comerciais dessas tecnologias de IA ética” (EBIA, 2021, p. 23). Além disso, cabe destacar
o incentivo, em diversos pontos, à abertura de bases de dados do Governo para o
desenvolvimento de estudos e aplicações brasileiras que envolvam IA, sugerindo o uso
de sandboxes regulatórios para a operacionalização desse modelo32. Essa frente torna
explícito que iniciativas como o SINE Aberto, descrito na introdução deste trabalho,
integra uma estratégia mais ampla de estímulo ao acesso privado a dados públicos.
Riscos e potenciais impactos
Apesar de, na ocasião da realização desta pesquisa, o projeto ainda estar em fase
de execução, de modo que não era possível avaliar seus impactos efetivos, a investigação
e análise do processo de implementação permitiu apontar alguns riscos e impactos
potenciais, detalhados a seguir.
1) Regulação do campo de oportunidades do trabalhador desocupado
Um dos maiores riscos potenciais do uso de ferramentas de Inteligência Artificial
para intermediação de mão de obra e perfilização automatizadas no contexto do SINE se
relaciona ao modo como o funcionamento dessas ferramentas incide e regula o campo
de oportunidades do trabalhador desempregado. Chamou-nos especialmente a atenção
o fato de o processamento algorítmico para recomendação dar ênfase ao histórico de
contratações anteriores do trabalhador, o que implica um risco de privilegiar aqueles
com bom desempenho no passado ou que possuem características inferidas como
positivas pelo treinamento dos algoritmos, impactando potencial e negativamente
aqueles que têm mais dificuldade de se recolocar no mercado de trabalho e que são,
justamente, o público-alvo declarado dessa política de emprego.
Ao utilizar como um dos principais critérios de filtro de recomendação das
vagas os padrões de processos seletivos anteriores contidos no banco de dados e as
projeções de probabilidades de contratação traçadas a partir disso, o sistema pode
32
Sandboxes regulatórios podem ser descritos como a criação de ambientes experimentais para teste de inova-
ções no mercado por um determinado período sem a necessidade de cumprimento de requisitos regulatórios
tradicionais. O modelo tem origem no mercado financeiro.
183
tender a repetir e reforçar seu próprio histórico. Na prática, isso significa que o sistema
possuiria a tendência de recomendar vagas para – e, consequentemente, contratar
– os trabalhadores cujo perfil se assemelha aos já contratados (provavelmente, mais
qualificados), diminuindo a probabilidade de contratação dos trabalhadores que diferem
desse perfil (provavelmente, menos qualificados), que tenderiam a ser menos visíveis
para os contratantes dentro do sistema.
Autores vêm destacando que, dentre o público atendido pelo SINE, aquele com
maior dificuldade de inserção em um posto de trabalho é o de jovens, mulheres e
negros, geralmente com baixa escolaridade, falta de experiência e pouca qualificação
(ROSSETO, 2019; MORETTO, 2018). Esses seriam, portanto, os grupos de trabalhadores
potencialmente mais vulneráveis a serem prejudicados pela lógica descrita de exibição
de vagas. Assim, a almejada melhoria na eficiência e otimização da intermediação de
mão de obra corre o risco de ser prejudicada pelas próprias lógicas que orientam o
sistema: seja na ênfase do histórico de contratações no algoritmo de intermediação
inteligente, seja na liberação da consulta prévia ao currículo completo do trabalhador33,
há uma tendência a selecionar, do modo mais antecipado possível, os perfis mais
qualificados do banco de dados. Nesse sentido, há um risco de que a performatividade
do próprio sistema impacte negativamente uma parcela de trabalhadores que tem
mais dificuldade de conseguir vagas.
2) Assimetria de poder e falta de transparência
Um ponto crucial das implicações do uso de IA para intermediação de mão de obra
no contexto do SINE é a intensa assimetria de poder envolvida nesse tipo de modelo e a
dificuldade, por parte do trabalhador, de entender e conhecer minimamente as regras
de funcionamento do sistema. Além disso, há pouca ou nenhuma margem para que
ele possa interferir ou questionar os resultados da intermediação e do perfilamento
aos quais está sujeito, já que o sistema opera segundo regras e critérios que lhe são
opacos, como é recorrente na mediação algorítmica (ALGORITHM WATCH, 2020;
NIKLAS et al., 2015).
Até o momento, não há indícios, por exemplo, de que se deixará claro aos usuários
do sistema informações como: os critérios utilizados para a exibição (ou não) das
vagas; a forma como é calculada a probabilidade de contratação de um trabalhador; a
existência de um sistema de perfilização “por trás” do portal de vagas; o tipo de perfil
em que o trabalhador está classificado segundo esse sistema; os critérios utilizados
para a segmentação dos trabalhadores em determinados perfis, para citar apenas
alguns aspectos que permanecerão opacos para o trabalhador.
33
Antes da implementação das novas ferramentas tecnológicas no portal de vagas, as empresas não conseguiam
acessar o currículo completo do trabalhador antes da entrevista. Segundo fontes entrevistadas, a regra integrava
os protocolos de intermediação tradicional do SINE visando evitar discriminações, sobretudo baseadas em
gênero, raça e faixa etária durante o processo seletivo. Essa impossibilidade foi apontada como um problema
do atual sistema tanto no diagnóstico documentado no Plano de Transformação Digital do SINE quanto no
Plano de Trabalho do ACT firmado com a Microsoft. Entre as mudanças a serem implementadas no portal, está
a liberação da consulta dos currículos completos dos candidatos antes da entrevista por parte das empresas.
184
Dado que o sistema recomenda apenas as vagas supostamente mais compatíveis
com suas habilidades – e é somente para essas que ele pode manifestar interesse34 –,
o trabalhador não chega a ter consciência da diferença entre as oportunidades totais
e aquelas a que tem acesso. O discurso sobre as vantagens da personalização das
recomendações, seja no âmbito das políticas públicas ou na paisagem midiática das
grandes plataformas digitais, costuma ofuscar os problemas relacionados aos critérios
utilizados na filtragem de conteúdo para personalização em contextos algoritmicamente
regulados e segmentados.
Essa assimetria poderia ser minimizada se tivesse havido uma maior participação
da classe trabalhadora na elaboração e implementação desse sistema, mas não foi o
que ocorreu. Apenas houve participação de alguns trabalhadores usuários do SINE
na fase de diagnóstico do problema, durante a elaboração do Plano de Transformação
Digital do SINE35. Esse risco é particularmente preocupante no contexto brasileiro atual,
uma vez que, como mencionado anteriormente, houve o veto presidencial à revisão
humana de decisões automatizadas na ocasião da aprovação da LGPD. A possibilidade
de revisão humana na LGPD, caso tivesse permanecido no texto final da lei, poderia
reduzir alguns danos provocados pelas características sistêmicas relacionadas à falta de
transparência e assimetria de poder em processos decisórios mediados por algoritmos.
3) Big Techs no setor público
O terceiro e último risco que identificamos está associado à transferência de dados
estratégicos sobre a economia e o mercado de trabalho no Brasil para infraestruturas
de processamento de dados de grandes corporações de tecnologia como a Microsoft.
Tal transferência não é apenas restrita aos dados pessoais dos cadastrados no SINE,
como abre a possibilidade de a empresa identificar tendências no setor ocupacional
formal, influenciar políticas públicas (como a Escola do Trabalhador 4.0 atesta) e
desenhar oportunidades de negócios em várias frentes.
O conjunto dos dados do SINE, um dos maiores do mundo, constitui uma fonte
rica de informações não apenas em relação às ações efetivamente realizadas pelo
sistema ou observadas no mercado de trabalho, mas também por fornecer indicativos
de tendências potenciais (LOBO; ANZE, 2014). Assim, as informações geradas na
operacionalização das ações do SINE permitem um diagnóstico conjuntural do mercado
de trabalho formal, possibilitando também uma análise de mais longo prazo, para
verificar tendências de transformações estruturais no setor ocupacional formal e,
ainda, subsidiar “a tomada de decisão no âmbito das políticas públicas que não se
restringe apenas às relacionadas ao trabalho” (MORETTO, 2018, p. 225).
34
Segundo fontes entrevistadas da SPPE, com as mudanças em curso no portal, o empregador passará a ter a
possibilidade de convocar para um processo mesmo os trabalhadores que não manifestaram interesse na vaga.
Este poderá aceitar ou negar o convite. Contudo, o inverso não está declaradamente previsto para ocorrer,
ou seja, que o trabalhador possa manifestar interesse em uma vaga que o sistema não considera compatível
com suas habilidades.
35
Para mais detalhes, conferir o relatório completo da pesquisa, disponível em: https://ia.derechosdigitales.
org/casos/brasil-sistema-nacional-de-empleo/. Acesso em: 22 jan.20022.
185
 Apesar de constar no ACT a vedação de transferência para a Microsoft de “informações
protegidas por sigilo fiscal, empresarial e comercial”, as cláusulas não parecem garantir
resguardos a respeito da transferência de informações que não estejam protegidas por
esses sigilos, como as informações e conhecimentos conjunturais e estruturais sobre
o mercado de trabalho descritas anteriormente. É importante frisar esse aspecto, uma
vez que é significativo para o âmbito dessa parceria que a Microsoft tenha, nos últimos
anos, adquirido empresas relacionadas ao uso de dados e ferramentas automatizadas
de intermediação de mão de obra, como a Bright Media Corporation e o LinkedIn.
Todos os riscos que identificamos se agravam diante da fragilidade dos mecanismos
de controle público e social previstos na implementação dessas ferramentas, evidenciada
no tópico anterior. Outra questão a se observar é como os atores envolvidos na
concepção e implementação da ferramenta decisória tendem a minimizar os efeitos
materiais do sistema, uma vez que o que é automatizado não é a decisão sobre quais
trabalhadores serão ou não contratados, mas “apenas” quais serão recomendados para
determinada vaga. Em outros termos, a decisão final cabe sempre ao empregador. O
relatório Automating Society 2020, que sintetiza os resultados de pesquisa realizada
em 11 países europeus sobre o uso de sistemas automatizados de decisão em diversos
âmbitos, dentre eles a intermediação de mão de obra, descreve uma postura similar
por parte desses atores (ALGORITHM WATCH, 2020). Uma argumentação comum,
segundo o relatório, é afirmar que a contratação não é realizada pelo sistema de decisão
automatizada, e que este apenas automatiza o processo de avaliação, que fornece uma
base para que empregadores tomem a decisão sobre a contratação.
Sugestões para o debate sobre o uso de IA em políticas públicas
Considerando os potenciais riscos e impactos identificados por nossa pesquisa,
algumas recomendações presentes na Estratégia Brasileira de IA e uma perspectiva
tecnopolítica ancorada em necessidades e realidade locais36, elaboramos algumas
sugestões e pontos de atenção para o debate sobre o uso de IA em políticas públicas:
1) Elaboração de relatórios prévios de impacto e testagem que permitam análise de
riscos antes da implementação de sistemas de decisão automatizada. No caso analisado,
a prova de conceito era extremamente vaga e não permitia dimensionar os impactos,
sobretudo em relação a direitos humanos, no âmbito do SINE.
2) Utilização de metodologias transparentes e auditáveis quanto ao desenvolvimento
dos sistemas de IA, às fontes de dados e à documentação de implementação e utilização
de mecanismos continuados de controle público, com validações periódicas, que
permitam o monitoramento dos efeitos de tais sistemas;
36
Além da importância de abordagens situadas no contexto brasileiro, cabe uma atenção a iniciativas regionais,
focalizando especialmente a América Latina, ou, mais amplamente, o Sul global.
186
3) Utilização de supervisão humana de decisões automatizadas quando aplicadas
a políticas públicas e direito à revisão humana de tais decisões. Reiteramos a gravidade
do veto presidencial ao direito de revisão humana de decisões automatizadas previsto
originalmente na LGPD;
4) Construção de abordagens situadas em contextos locais que ampliem efetivamente
a participação das populações que são beneficiárias da política pública proposta, para
construir um cuidado coletivo na formulação dessas políticas e evitar o risco que hoje
se encontra colocado no caso que estudamos: de que o uso de Inteligência Artificial na
gestão pública do desemprego seja um proxy para automação de políticas neoliberais
que acabam por precarizar os serviços que alegam otimizar;
5) Construção de um debate decolonial sobre Inteligência Artificial. A elaboração
coletiva de uma agenda decolonial para o desenvolvimento, uso e avaliação de IA é central
para que o ativismo, a pesquisa e as entidades de defesa de direitos não reproduzam
uma tendência que marcou parte da história dos direitos digitais na América Latina,
cuja agenda foi, durante muito tempo, fortemente espelhada no Norte global37.
6) Fomentar iniciativas de formação tecnopolítica no âmbito da gestão pública com
o objetivo de qualificar o debate e problematizar a perspectiva de que as tecnologias
são ferramentas neutras, ainda em vigor, conforme identificamos no discurso dos
responsáveis pela implementação do projeto do SINE;
7) Promover fóruns que discutam princípios de governança e regulação para
o uso de Inteligência Artificial no setor público. No contexto latino-americano, o
Uruguai possui uma iniciativa interessante de Fóruns de corregulação (Laboratorio
de Datos y Sociedad), como a proposta de Mesas de diálogo sobre o uso de sistemas de
vigilância38 automatizada. Cabe mencionar, novamente, a importância da comissão de
juristas atualmente em atividade, responsável por subsidiar a proposta de um marco
regulatório da IA no Brasil;
8) Instituir agendas para fomentar estudos locais e comparativos sobre casos
concretos de implementação e utilização de IA em diferentes domínios, com a possível
criação de um observatório de Inteligência Artificial no Brasil, conforme indicado na
EBIA. Acompanhar trajetórias de tecnologias em ação é essencial para compreender
os efeitos e os problemas que emergem nessa trajetória;
9) Por fim, vale discutir abordagens que considerem seriamente o princípio de
precaução no uso de dispositivos algorítmicos e/ou IA em políticas públicas, especialmente
37
Destacamos algumas iniciativas no âmbito da América Latina, Índia e África: https://www.tierracomun.net/;
https://aplusalliance.org/; https://notmy.ai/; https://deeplearningindaba.com/; https://www.colectivasos.com/
38
Disponível em: https://quinto-plan.gobiernoabierto.gub.uy/proposals/24-mesas-de-dialogo-sobre-uso-de-
-sistemas-de-vigilancia automatizada. Acesso em: 28 fev.2022.
187
quando se trata de populações vulneráveis. Isso implica inverter os termos com que
esses dispositivos vêm sendo implementados: em vez de caber à sociedade civil e a
órgãos de defesa de direitos fundamentais mostrar que tais aplicações podem causar
(ou já causaram) danos, caberia aos responsáveis pela implementação (governos e
corporações envolvidas) tomar medidas concretas para avaliação e redução de potenciais
danos, mesmo em cenários de incerteza.
Considerações finais
Tendo em vista o debate e a ação coletiva sobre o uso de Inteligência Artificial
no setor público, especialmente na América Latina, seguem algumas reflexões finais,
todas de caráter mais especulativo.
Um primeiro ponto diz respeito às possíveis reinscrições da lógica colonial quando a
implementação de políticas públicas é formulada dentro da lógica de mercado e baseada
na importação de sistemas tecnológicos e de epistemologias centradas em dados, como
assinala Paola Ricaurte (2019). Sabemos que a racionalidade algorítmica vai de par
com o avanço do cálculo computacional nos mais diversos setores da vida pessoal,
social e política, expandindo as fronteiras extrativas: relações sociais convertidas em
relações entre dados se tornam meios privilegiados de extração de valor econômico e
epistemológico (COULDRY; MEJIAS, 2019; RICAURTE, 2019; GAGO; MEZZADRA, 2017).
É bastante preocupante que essa mesma racionalidade, que está concentrada
em um número bastante restrito de corporações com agendas, sobretudo, comerciais,
seja aplicada como solução para serviços públicos voltados para o acesso e garantia
de direitos. Achille Mbembe (2021) reconhece a continuidade do processo colonial na
conversão do mundo em um vasto terreno de dados esperando por extração, reduzindo
o conhecimento a uma tarefa em que governos, corporações e burocracias coletam
e analisam dados. Essa reinscrição de práticas extrativistas e coloniais no âmbito
do capitalismo de plataforma produz efeitos que não são homogêneos, atualizando
assimetrias históricas.
O caso que apresentamos não é um caso isolado. Na geopolítica do colonialismo
digital, o Sul global tem ocupado, cada vez mais, o lugar de fonte de dados mais acessível,
abundante e barata para extração de saberes estratégicos e treinamento de algoritmos
que atuam sobre populações vulneráveis. O projeto Microsoft Mais Brasil é um dentre
tantos outros que oferecem “soluções ou inovações tecnológicas” para problemas
sociais na África e na América Latina (BIHANE, 2020; OBSERVATÓRIO EDUCAÇÃO
VIGIADA, 2021). Não é raro que governos dessas regiões recebam tais soluções sem
o devido questionamento e cuidado, transferindo a gestão de infraestruturas e bases
de dados de seus países para monopólios como Facebook, Microsoft, Google, Uber e
Netflix (KWET, 2019).
Isso nos encaminha para um segundo ponto de reflexão, levantado por Beatriz
Busaniche (2019), pesquisadora da Universidade de Buenos Aires e da Fundación Vía
Libre. Referindo-se às preocupações recorrentes no debate sobre políticas públicas e
ameaças à privacidade, Beatriz aponta que, muitas vezes, se perde de vista o perigo mais
iminente relacionado ao “solucionismo” tecnológico: a negligência por parte de quem tem
nas mãos o desenvolvimento da implementação. Para ela, no contexto latino-americano,
188
“o risco iminente em matéria de privacidade não é tanto a construção de um Estado
autoritário, mas a existência real, palpável, evidente, de um Estado negligente”. Esse
Estado negligente acolhe sem restrições o tecnosolucionismo das grandes corporações
de tecnologia, que “ofertam” ferramentas para serviços considerados pouco eficientes
no Sul global. No caso da nossa investigação, essa negligência se relaciona menos aos
riscos para a privacidade do que para o conhecimento extraído de dados estratégicos,
bem como para o potencial direcionamento de políticas públicas por parte de entes
privados, sobretudo Big Techs.
Ainda que possamos perceber, em âmbito global, a crescente influência de
grandes corporações de tecnologia em diferentes esferas – saúde, medicina, educação,
administração pública, segurança pública, entretenimento, transporte e mobilidade
urbana, política ambiental etc. –, os efeitos, mais uma vez, não são os mesmos em todos os
lugares. O problema mais amplo de se utilizar os mesmos modelos epistemológicos e os
mesmos princípios de governamentalidade para esferas sociais tão diversas39 se agrava
ainda mais quando esses modelos e princípios, concebidos para operar em contextos
específicos do Norte global e segundo uma agenda corporativa também específica,
são acolhidos como soluções para problemas sociais complexos em contextos muito
distintos, como o desemprego no Brasil, impactando o desenho de políticas públicas.
A esse problema, soma-se um terceiro ponto, que é o tipo de abstração próprio
à racionalidade algorítmica orientada por dados. No processo de automação da
intermediação de mão de obra e perfilização de trabalhadores em busca de emprego,
tal abstração vai de par com a assimetria de poder própria a esses e muitos outros
sistemas de Inteligência Artificial. No caso que estudamos, o trabalhador que utiliza esse
serviço tem dificuldade de compreender minimamente as normas de funcionamento
do sistema. Além disso, há pouca ou nenhuma margem para que ele possa interferir
nos resultados da intermediação e do perfilamento aos quais está sujeito ou questioná-
los. Para tal racionalidade, só conta o que é legível pelos mecanismos automatizados
de tomada de decisão. Nesse contexto, o que não é computável não existe (MBEMBE,
2021).
No caso que analisamos, a inteligência artificial é dirigida a um conjunto de
efeitos e resultados, sendo indiferente a importantes aspectos que podem impactar
o pleno acesso ao serviço que oferecem, como a dificuldade de compreensão das
regras em jogo, dos ganhos e perdas envolvidos, dos meios possíveis de contestação.
Nenhum desses elementos é computável pelo sistema de inteligência artificial em jogo.
Trata-se, assim, da concretização tecnológica de um programa político de governo que
coloca os trabalhadores em um lugar em que eles tendem a se ver como candidatos
a serviços, e não como sujeitos de direito (ALSTON, 2019). O problema, que fique
claro, não é a agência maquínica per se, mas o tipo de racionalidade que vigora nesse
domínio, muito pouco permeável a avaliações, negociações e contestações por parte
dos usuários desses serviços e de outros atores. O que, tratando-se de uma política
pública, pode ter impactos sociais desastrosos.
Conferir uma interessante pesquisa sobre a penetração das Big Techs em diversas esferas sociais, disponível
39
em: https://www.sphere-transgression-watch.org/. Acesso em 12 mar.2022.
189
 Uma última questão importante ao se avaliar criticamente como a implementação
de tecnologias de automatização de decisões ou a abertura de grandes bancos de dados
públicos para a iniciativa privada impactam, de modo desigual, distintos segmentos
populacionais, é que essa assimetria não está necessariamente vinculada a aspectos
internos do sistema tecnológico (embora isso também possa ocorrer), mas sim no modo
como distintos grupos têm ou não o privilégio de aderir a tais ferramentas. No caso do
SINE, o público potencialmente mais afetado é aquele que vai aderir às ferramentas
de decisão automatizada não (só) porque não lhe foi pedido o consentimento do uso
de dados em termos legais, mas por sua vulnerabilidade social e econômica. Assim,
uma pergunta fundamental que deveríamos nos fazer, nesses casos, é quem ou quais
grupos podem abrir mão de “estar dentro” desse tipo de sistema. Ou seja, quem tem
o privilégio de fazer o “opt-out40”
A avaliação da questão sob esse viés implica também uma inflexão na perspectiva
sobre o impacto de tecnologias digitais para os direitos humanos. Além da necessária
atenção à proteção de dados pessoais e a efeitos específicos de discriminação decorrentes
da automatização de decisões, os pontos de reflexão anteriormente levantados demandam
outra ordem de cuidados. Ou seja, é necessário um olhar atento aos aspectos sistêmicos e
estruturais, sobretudo àqueles relacionados às múltiplas formas de assimetria, abstração
e opacidade implicadas na adoção massiva de tecnologias como a Inteligência Artificial,
que modifica não apenas a escala, mas a natureza dos problemas decorrentes do uso
de tais tecnologias.
40
Devemos essa questão a Simone Browne que, em conversa com David Lyon sobre sistemas de vigilância no
IV Simpósio Internacional LAVITS, questionou-o: “who can opt out?”.
190
Referências
BUSANICHE, B. Negligencia, la primera amenaza a nuestra privacidad. Apresen-
tação no Webinar LAVITS 2020. Acesso em: 10 dez.2020, Disponível em: https://
www.youtube.com/ watch?v=f9hJxmfsSac.
COULDRY, N.; MEJIAS, U. Data Colonialism: Rethinking Big Data’s Relation to the
Contemporary Subject. Television & New Media, [s. l.], v. 20, n. 4, p. 336-349, 2019.
DESIERE, S.; LANGENBUCHER, K.; STRUYVEN, L. Statistical profiling in public
employment services: An international comparison. OECD Social, Employment and
Migration Working Papers, [s. l.], v. 224, p. 1-29, 2019. Disponível em: https://www.
oecd-ilibrary.org/docserver/b5e5f16e-en.pdf?expires=1680203749&id=id&acc-
name=guest&checksum=530DB3E68B4FFB1A8357ECB70184F9D5. Acesso em: 8
maio 2022.
FILHO, F. H. B.; FERREIRA, M. L.; ARAÚJO, P. L. da C. P. O novo SINE: mudanças do
modelo brasileiro de intermediação de mão de obra. In: CORSEUIL, C. H. L. (ed.).
Mercado de Trabalho: conjuntura e análise. Brasília: IPEA, 2020. cap. 1, p. 3-8.
Disponível em: https://repositorio.ipea.gov.br/bitstream/11058/9994/1/bmt_68_
novo_sine.pdf. Acesso em: 30 mar. 2021.
GAGO, V.; MEZZADRA, S. A Critique of the Extractive Operations of Capital: Toward
an Expanded Concept of Extractivism. Rethinking Marxism, [s. l.], v. 29, n. 4, p.
574-591, 2018. Disponível em: https://ctheory.sitehost.iu.edu/img/Gago&Mezza-
dra&_A_Critique-of-the-Extractive-Operations-of-Capital_Toward-an-expanded-
-concept-of-extractivism.pdf. Acesso em: 13 ago. 2021.
KWET, M. Digital colonialism: US empire and the new imperialism in the Global
South. Race & Class, [s. l.], v. 60, n. 4, p. 3-26, 2019.
LOBO, V. G.; ANZE, V. R. Duas diretrizes para a reestruturação do sistema nacional
de emprego. Mercado de Trabalho, [s. l.], v. 61, p. 43-48, 20116. Disponível em:
https://repositorio.ipea.gov.br/bitstream/11058/7315/1/bmt61_duasdiretrizes.
pdf. Acesso em: 10 dez. 2020.
MARRA, E. C. de O.; OLIVEIRA, K. M. A. de; JÚNIOR, L. A. M. O serviço de intermedia-
ção de mão de obra da administração pública estadual de Minas Gerais entre 2015
e 2018: efetividade, públicos e perspectivas. Mercado de Trabalho: conjuntura e
análise, Brasília, ano 26, p. 99-100, abril 2020. Disponível em: https://repositorio.
ipea.gov.br/bitstream/11058/10000/1/bmt_68__servico_intermediacao.pdf. Aces-
so em: 10 dez. 2020.
MATOS, F. de (coord.). Boas práticas dos serviços públicos de emprego no Brasil.
Brasília: Ministério do Trabalho e Emprego, 2011. 112 p. Disponível em: http://
191
acesso.mte.gov.br/data/files/8A7C816A350AC882013558C444B32BC4/BOAS- -pol%C3%AAmica-da-revis%C3%A3o-humana-sobre-decis%C3%B5es-automati-
-PRATICAS-SERVPUBLICO-web.pdf. Acesso em: 15 jul. 2021. zadas-a81592886345. Acesso em: 10 dez. 2020.

MBEMPE, A. Futures of Life and Futures of Reason. Public Culture, [s. l.], v. 33, n. 1,
p. 11-33, 2021.
MICROSOFT, Microsoft. Sistema Nacional de Emprego (SINE) testa uso de Inteli-
gência Artificial para aumentar eficiência na oferta de oportunidades de trabalho.
Microsoft News Center Brasil, [S. l.], p. 1-2, 13 abr. 2020. Disponível em: https://
news.microsoft.com/pt-br/sistema-nacional-de-emprego-sine-testa-uso-de-inte-
ligencia-artificial-para-aumentar-eficiencia-na-oferta-de-oportunidades-de-traba-
lho/. Acesso em: 10 dez. 2020.
MORETTO, A. J. O SINE no século XXI: Informação, tecnologia e políticas públicas
de trabalho. In: MORETTO, A. J.; MATOS, F. de; MACAMBIRA, J.; CACCIAMALI, M. C.
(org.). As transformações no mundo do trabalho e o Sistema Público de Emprego
como instrumento de inclusão social. Fortaleza: Instituto de Desenvolvimento do
Trabalho (IDT), 2018. cap. 9, p. 213-231. Disponível em: https://sites.usp.br/pro-
lam/wp-content/uploads/sites/35/2021/01/mundo-do-trabalho.pdf. Acesso em:
9 jul. 2020.
UN, United Nations. Report of the Special Rapporteur on extreme poverty and
human rights, Philip Alston*. [S. l.]: United Nations, 2015. 19 p. Disponível em:
https://digitallibrary.un.org/record/798707/files/A_HRC_29_31-EN.pdf?ln=en.
Acesso em: 21 jul. 2021.
URQUIDI, M.; ORTEGA, G. Inteligência artificial para a busca de emprego: Como
melhorar a intermediação de mão de obra nos Serviços Públicos de Emprego. Nota
técnica do BID, [s. l.], p. 1-16, 2020. Disponível em: https://webcache.googleu-
sercontent.com/search?q=cache:FIndYhbRpdEJ:https://publications.iadb.org/
publications/portuguese/document/Inteligencia-artificial-para-a-busca-de-em-
prego-Como-melhorar-a-intermediacao-de-mao-de-obra-nos-Servicos-Publicos-
-de-Emprego.pdf&cd=1&hl=pt-BR&ct=clnk&gl=br. Acesso em: 21 jan. 2022.

NIKLAS, J.; SZTANDAR-SZTANDERSKA, K.; SZYMIELEWICZ, K. Profiling the unem-

ployed in Poland: social and political implications of algorithmic decision making.
Varsóvia, Polônia: Fundacja Panoptykon, 2015. 51 p. Disponível em: https://panop-
tykon.org/sites/default/files/leadimage-biblioteka/panoptykon_profiling_report_
final.pdf. Acesso em: 19 jul. 2020.

OBSERVATÓRIO EDUCAÇÃO VIGIADA. Observatório Educação Vigiada. [S. l.], 2022.

Disponível em: https://educacaovigiada.org.br/pt/sobre.html. Acesso em: 11 maio
2022.

RICARTE, P. Data Epistemologies, The Coloniality of Power, and Resistance. Televi-

sion & New Media, [s. l.], v. 20, n. 4, p. 350-365, 2019.

ROSSETTO, M. S. O Sistema Nacional de Emprego (SINE): As fragilidades de um

grande sistema público. Orientadora: Luciana Lima Leite. 2019. 94 f. Dissertação de
mestrado (Mestrado em Políticas Públicas) - Universidade Federal do Rio Grande
do Sul – Instituto de Filosofia e Ciências Humanas, Porto Alegre, 2019. Disponível
em: https://lume.ufrgs.br/handle/10183/197723. Acesso em: 11 maio 2022.

SILVA, T. Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos. 1.

ed. São Paulo: LiteraRUA, 2020. 280 p.

SILVA, P.; MEDEIROS, J. A polêmica da revisão (humana) sobre decisões automatiza-

das. ITS Feed, [S. l.], p. 1-2, 10 out. 2019. Disponível em: https://feed.itsrio.org/a-

192 193
 Organizadores

Cláudio Penteado
Cientista Social. Professor Titular da UFABC. Doutor em Ciências Sociais pela PUC/
SP, é pesquisador do Laboratório de Tecnologias Livre (LabLivre/UFABC), do Núcleo
de Estudos em Arte, Mídia e Política (NEAMP - PUC/SP) e do Instituto Nacional de
Ciência e Tecnologia em Democracia Digital (INCT.DD), desenvolve pesquisas sobre
política e as novas tecnologias.

Jerônimo Pellegrini
Bacharel em Ciência da Computação. Professor da UFABC. Doutor em Ciência da
Computação pela Unicamp, pesquisador nas áreas de Inteligência Artificial (raciocínio
com incerteza) e Segurança da Informação (programação segura e criptografia aplicada).

Sérgio Amadeu da Silveira

Sociólogo. Professor da UFABC. Pesquisador das redes digitais e Inteligência Artificial.
Bolsista-produtividade CNPq. Membro da comunidade do software livre. Integra o
Laboratório de Tecnologias Livre (LabLivre/UFABC). Foi membro do Comitê Gestor
da Internet no Brasil e presidente do Instituto Nacional de Tecnologia da Informação.
Criador e apresentador do podcast Tecnopolítica.

Autoras e autores

André Lemos
Escritor, professor Titular da Faculdade de Comunicação da UFBA e Pesquisador 1A do
CNPq. Doutor em Sociologia pela Université Paris V, Sorbonne. Pós-Doutorado pelas
Universidades McGill e Alberta (Canadá), National University of Ireland (Irlanda) e
TIDD-PUC-SP (São Paulo). É diretor do Lab404 - Laboratório de Pesquisa em Mídia
Digital, Redes e Espaço. Sua pesquisa atual é sobre “erros na cultura digital”.

Débora Salles
Coordenadora geral de pesquisa no NetLab, o Laboratório de Estudos de Internet e
Redes Sociais da UFRJ, e pesquisadora em estágio pós-doutoral no Programa de Pós-
Graduação em Ciência da Informação IBICT/UFRJ. Atuou como Professora substituta
na Escola de Comunicação da UFRJ. Doutora em Ciência da Informação pelo Instituto
Brasileiro de Informação Ciência e Tecnologia (IBICT) em convênio com a Universidade
Federal do Rio de Janeiro.
QUEM ESCREVEU O LIVRO Fernanda Bruno
Coordenadora do Programa de Pós-Graduação em Comunicação e Cultura da UFRJ e
do MediaLab.UFRJ. Pesquisadora do CNPq, co-fundadora da Rede latino-americana de
estudos em vigilância, tecnologia e sociedade/LAVITS e Pesquisadora colaboradora

194 195
do Surveillance Studies Centre da Queens University, Canadá.
Fernanda Campagnucci
Diretora executiva da Open Knowledge Brasil. Doutora em Administração Pública
e Governo pela Escola de Administração de Empresas da Fundação Getúlio Vargas
(EAESP-FGV). Atuou na Prefeitura de São Paulo liderando políticas e iniciativas de
transparência, dados abertos e inovação aberta.
Fernanda Rosa
Socióloga e Professora Assistente de Estudos de Ciência e Tecnologia na Virginia Tech
(EUA). Ph.D. em Comunicação, com pós-doutorado no Center for Advanced Research
in Global Communication da Universidade da Pensilvânia (EUA).
Glenda Dantas
Jornalista, é cofundadora da Conexão Malunga, plataforma de discussão sobre TICs
para a autonomia. É editora geral da Agenda Arte e Cultura (UFBA), pós-graduanda
em Comunicação Estratégica e Gestão de Marcas (UFBA) e membra voluntária do
Laboratório de Identidades Digitais e Diversidade (LIDD/UFRJ).
Helena Martins
Professora da Universidade Federal do Ceará (UFC), jornalista e doutora em Comunicação
Social pela UnB. Editora da Revista Eptic, é pesquisadora do GT Economía política
de la información, la comunicación y la cultura da Clacso, coordenadora do Telas
(UFC) e integrante do OBSCOM/CEPOS (UFS). Atua na luta pelo direito à comunicação,
integrando atualmente o DiraCom - Direito à Comunicação e Democracia.
Jader Gama
Doutor em Desenvolvimento Socioambiental pelo Programa de Pós-Graduação em
Desenvolvimento Sustentável do Trópico Úmido (PPGDSTU). Especialista em Tecnologias
em Educação pela PUC - RJ (2010). Atualmente é professor da FAPAN (Faculdade Pan
Amazônica) e pesquisador da Incubadora de Políticas Públicas da Amazônia (IPPA).
José Corrêa Leite
Membro do Coletivo 660. Doutor em Ciências Sociais pela Pontifícia Universidade
Católica de São Paulo (2005) e pós-doutor pela Faculdade de Filosofia Letras e Ciências
Humanas da Universidade de São Paulo. Professor no Centro Universitário Armando
Alvares Penteado.
José Paulo Guedes Pinto
Mestre em Filosofia do Direito pela Universidade Federal do Paraná (2010), doutoranda
no Programa de pós-graduação de Ciências Sociais e Desenvolvimento, agricultura
e sociedade da UFRRJ. Atualmente trabalha na Organização internacional GRAIN no
programa América Latina realizando pesquisas em torno do monitoramento dos agentes
das cadeias agroalimentares e seus impactos na captura de terras e recursos naturais
(land grabbing e resources grabbing) para a soberania alimentar.
196
Juliane Cintra
Coordenadora Institucional (das unidades de Eventos, Comunicação e Tecnologia)
da Ação Educativa, lidera o projeto TECLA - Tecnologia em Ação, uma iniciativa da
instituição dedicada à promoção e defesa de direitos humanos associados ao ambiente
digital. Mestranda em Direitos Humanos pela Faculdade de Direito da USP.
Larissa Ambrosano Packer
Advogada da organização Terra de Direitos e membro do coletivo Carta de Belém.
Pesquisadora da Grain sediada no Rio de Janeiro. Mestre em filosofia.
Nelson Pretto
Doutor em Ciências da Comunicação pela Universidade de São Paulo, é professor
associado da Faculdade de Educação da Universidade Federal da Bahia. Coordenador
do grupo de pesquisa “Educação, Comunicação e Tecnologias”, da UFBA, é professor e
ativista militante da relação da educação com a cultura e com a ciência e a tecnologia.
Nina da Hora
Cientista da Computação, Pesquisadora, e HackerAntirracista. Diretora do Instituto
da Hora - Centro de pesquisa e tecnologia com incidência na sociedade. Mestranda
em Inteligência Artificial na Unicamp, colunista da revista MIT Technology Review e
integrante do Conselho de Segurança do TikTok.
Paulo Faltay
Doutor em Comunicação e Cultura pela Escola de Comunicação da Universidade Federal
do Rio de Janeiro (ECO/UFRJ). Pesquisador do MediaLab.UFRJ e da Rede Latino-americana
de estudos em vigilância, tecnologia e sociedade/LAVITS.
Paula Cardoso Pereira
Doutoranda em Comunicação e Cultura pela Escola de Comunicação da Universidade
Federal do Rio de Janeiro (ECO/UFRJ), pesquisadora e designer do laboratório
interdisciplinar MediaLab.UFRJ, membro da Rede Latino-Americana de Estudos em
Vigilância, Tecnologia e Sociedade (Lavits).
Rafael Evangelista
Antropólogo. Pesquisador do Labjor/Unicamp. Professor do PPG em Divulgação
Científica e Cultural. Conselheiro do Comitê Gestor da Internet no Brasil. Doutor
em Antropologia Social (Unicamp), co-coordena o grupo de pesquisa Informação,
Comunicação, Tecnologia e Sociedade (ICTS) e é membro da Rede Latino-Americana
de Estudos em Vigilância, Tecnologia e Sociedade (Lavits).
Rafael Grohmann
Rafael Grohmann é professor de estudos criticos de plataformas da Universidade
de Toronto, Canadá. Lider do DigiLabour e do Observatorio do Cooperativismo de
Plataforma. Co-diretor do Critical Digital Methods Institute. Pesquisador dos projetos
197
Fairwork e Platform Work Inclusion Living Lab. Atualmente, coordena pesquisa sobre
plataformas de propriedade de trabalhadores e interseccionalidades na America Latina.

Sivaldo Pereira da Silva

Professor da Faculdade de Comunicação (FAC) e do Programa de Pós-Graduação em
Comunicação da Universidade de Brasília (UnB). PhD em Comunicação e Cultura
Contemporâneas pela Universidade Federal da Bahia. Foi pesquisador visitante no
IPEA, consultor da UNESCO e professor visitante na Technische Universität Dortmund
(Alemanha). Atualmente é coordenador do Programa de Pós-Graduação em Comunicação
da UnB e presidente da Associação Brasileira de Pesquisadores em Comunicação e
Política (Compolítica).

Tarcízio Silva
Senior Tech Policy Fellow pela Fundação Mozilla, produzindo pesquisa e incidência
sobre transparência, responsabilidade e antirracismo na inteligência artificial. Curador
na Desvelar, colaborador na Tecla / Ação Educativa e no Instituto Sumaúma. Doutorando
em Ciências Humanas e Sociais na UFABC.

Wagner Meira Jr.

Professor titular da Universidade Federal de Minas Gerais. doutor em Ciência da
Computação pela University of Rochester (1997). Coautor dos livros Data Mining
and Analysis - Fundamental Concepts and Algorithms e Data Mining and Machine
Learning - Fundamental Concepts and Algorithms.

198 199
200
View publication stats