10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

CIDADES VIGIADAS

Safe city, ou o governo

dos algoritmos
EDIÇÃO 143 | FRANÇA

por Félix Tréguer

31 de Maio de 2019

Imagem por Reuters

As ferramentas de vigilância policial com base no Big Data e na

inteligência artificial se multiplicam em várias cidades
francesas. Graças a experiências lideradas por grupos privados
que procuram alcançar o nível da concorrência norte-
americana ou chinesa, a smart city revela seu verdadeiro rosto:
o de uma cidade vigiada

No dia 28 de dezembro de 1948, no Le Monde, o lógico Henri Dubarle

publicou um dos primeiros artigos consagrados aos novos computadores
aperfeiçoados nos Estados Unidos durante a Segunda Guerra Mundial. De
https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 1/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

início, tentou antecipar os efeitos políticos daquilo que logo seria chamado
de informática. A cibernética balbuciava e o capitalismo de vigilância ainda
não era uma realidade,1 mas ele compreendeu que, no fim, essa tecnologia
acabaria transformada em uma “máquina de governar”: “Imaginemos”,
escreveu, “uma máquina de coletar este ou aquele tipo de informação,
dados sobre a produção e o mercado, por exemplo, para depois determinar,
em função da psicologia média dos homens e das medidas passíveis de
tomar em determinado instante, quais serão os desdobramentos mais
prováveis da situação”. Dubarle predisse que, à medida que as
capacidades de armazenamento e tratamento de dados aumentassem, a
informática conduziria ao “surgimento de um prodigioso Leviatã político”.

Setenta anos depois, projetos de “cidade inteligente” (smart city) se

espalham pelo mundo. Depois de Estados Unidos, China, países do Golfo e
Reino Unido, é na França que grandes grupos industriais ocupam esses
mercados em aliança com escolhidos locais, adeptos do solucionismo
tecnológico.2 Como que ecoando as predições de Dubarle, eles pretendem
multiplicar as ferramentas informáticas no espaço público urbano para
supervisionar, analisar, prever e controlar os fluxos de pessoas e
mercadorias. O governo das cidades entra, assim, na era do controle
algorítmico. E, afora algumas iniciativas em matéria de abertura de dados e
de gestão “inteligente” da iluminação pública ou da coleta de lixo, a smart
city se define sobretudo por sua vertente securitária, a tal ponto de os
industriais já falarem em safe city: cidade segura.

Os documentos administrativos ligados a esses projetos revelam a

porosidade entre administração urbana e doutrinas saídas do mundo militar.
Assim, a convenção de experimentação concluída em junho de 2018 entre
a prefeitura de Nice e um consórcio de quinze empresas dirigidas pela
Thales parte da constatação de uma “urbanização galopante na superfície

https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 2/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

do mundo”. Evocando “ameaças cada vez mais graves”, coloca no mesmo

plano “riscos naturais”, como mudanças climáticas, e “riscos de origem
humana” (criminalidade, terrorismo etc.). Nada de indagar a respeito das
consequências econômicas, sociais e políticas desses fenômenos, e menos
ainda de agir para combatê-las. O que importa, antes de tudo, é “avaliar
cada situação para antecipar incidentes e crises”, “identificar os sinais
fracos” para propiciar uma “ajuda à planificação”, fazer “predições com base
em cenários”, tudo isso no quadro de uma “gestão em tempo real” por meio
da exploração do “máximo de dados existentes” em um “centro de
hipervisão e comando”.3
Os “riscos” são assim reduzidos a uma situação de fato, com o poder
público se contentando em controlar os efeitos. Entre os planejadores
da safe city, a polícia retoma sua antiga função teorizada no século XVIII:
gerar um saber sobre a população, orientar sua conduta agindo sobre as
variáveis que a determinam, assegurar sua docilidade e produtividade. A
novidade está no abandono do horizonte decididamente fugidio da “ordem
pública”. Agora, basta gerir a desordem. Graças à escalada tecnológica, os
tecnocratas acreditam poder detectar na nuvem do caos certas
características ou regularidades estatísticas com base nas quais se possa
categorizar, classificar, correlacionar e, finalmente, antecipar, prever,
prevenir e ajustar – mas também, quando necessário, vigiar e reprimir.

Para tanto, a safe city se apoia em duas grandes inovações tecnológicas.

Primeira: a possibilidade de reunir e analisar diversos conjuntos de dados,
como arquivos de polícia, informações pessoais compiladas na internet –
principalmente nas redes sociais – etc., a fim de produzir estatísticas e
ajudar na tomada de decisões segundo a lógica da polícia preventiva. As
ferramentas de vigilância testadas nos últimos dez anos pelas grandes
agências de informação vão dominando o conjunto das atividades
policiais…
https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 3/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

Em Marselha, o projeto do “observatório Big Data da tranquilidade pública”,

confiado desde janeiro de 2018 à empresa Engie Ineo, pretende integrar
fontes oriundas dos serviços públicos municipais (polícia, transporte,
hospitais etc.), mas também de “parceiros externos”, como o Ministério do
Interior, que centraliza numerosos arquivos e dados estatísticos, ou das
operadoras de telecomunicações, cujos dados relativos à localização de
aparelhos celulares permitem cartografar em tempo real os “fluxos de
população”.

Os cidadãos também serão chamados a contribuir, fornecendo diretamente

informações (textos, vídeos, fotografias, rapidez de deslocamento, nível de
estresse…) por meio de “um aplicativo no smartphone ou objetos
conectados”. Haverá igualmente a vigilância de conversas em redes sociais
como Twitter e Facebook, para “recuperar publicações cujos temas tenham
interesse para a segurança da cidade”, a fim de “antecipar ameaças”,
avaliar o “risco de reuniões perigosas por meio da análise de tuítes” ou,
ainda, proceder à “identificação dos atores”, descobrindo “quem fala, quem
age, quem interage com quem”. Para hospedar e tratar esses imensos
volumes de dados, a cidade de Marselha adquiriu vários servidores da
empresa Oracle. Ela dispõe agora de um espaço de armazenamento de
600 terabytes, capacidade equivalente à da Biblioteca Nacional da França,
para sua política de arquivamento de dados da internet.

Segundo fundamento técnico da safe city: a análise automática dos fluxos

de videovigilância. Agora que o Estado e as coletividades francesas
investiram perto de 200 milhões de euros na compra de câmeras, desde
2007 (tendo tido com isso resultados irrisórios),4 a automatização promete
uma pletora de maravilhas – e, cereja do bolo, sem contratar funcionários

https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 4/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

para a visualização. Projetos de videovigilância dita “inteligente” pululam em

Toulouse,
O prefeito Nice, Marselha,
de Nice, Valenciennes,
Christian Estrosi, estáParis
entreeos
até nos departamentos
responsáveis políticosde
Gard e Yvelines.
mais entusiasmados com as potencialidades dessas tecnologias. Em
dezembro de 2018, ele fez o Conselho Regional da Região Sul assinar uma
deliberação que autorizava o teste de equipamentos de reconhecimento
facial em dois colégios, a fim de vigiar as entradas e saídas, em
colaboração com a empresa norte-americana Cisco. O último Carnaval da
cidade, aliás, serviu de laboratório para testes de dispositivos semelhantes.

Nice é uma das municipalidades francesas que pretendem associar a

videovigilância a algoritmos de reconhecimento de emoções. Os vereadores
entraram em contato com a start-up Two-I para adotar sua solução nos
bondes da cidade. Em Nancy e Metz, a Two-I trabalha com um financiador
para avaliar os sentimentos dos habitantes. Em Irigny, perto de Lyon, a
polícia preferiu uma concorrente, a DC Communication, para analisar o
“estado de espírito” do público que frequenta seus espaços. Essas
ferramentas, nascidas do neuromarketing, detectam as expressões faciais
associadas à alegria, à tristeza, ao medo e ao desprezo. “O algoritmo
depois passa a medir essas emoções a fim de destacar a que está mais
presente”, explica Rémy Millescamps, fundador da DC Communication e
policial da reserva.

Embora os usos potenciais da videovigilância “inteligente” sejam muitos, a

prioridade é a identificação automática de indivíduos ou comportamentos
suspeitos. Em junho de 2018, em um discurso sobre as doutrinas de
manutenção da ordem, o ex-ministro do Interior Gérard Collomb anunciava
ferramentas de inteligência artificial que logo seriam capazes de “detectar
na multidão indivíduos de comportamento bizarro” – perspectiva de novo
invocada no Parlamento francês neste inverno, por ocasião do debate sobre
a lei antimanifestação adotada pelo governo em resposta ao movimento dos
https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 5/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

“coletes amarelos”. Por meio de emendas finalmente rejeitadas, deputados

do partido Os Republicanos tentaram legalizar a comparação das imagens
de videovigilância com diversos arquivos a fim de automatizar “a
identificação de indivíduos perigosos no seio de uma manifestação”. Afora o
caso de militantes políticos considerados perigosos ou suspeitos de
atividades terroristas, a multiplicação de arquivos biométricos –
notadamente os ligados à imigração ou o arquivo dos títulos eletrônicos de
segurança (TES), que desde 2016 reúne dados de todos os solicitantes de
carteiras de identidade ou passaportes – torna possível uma extensão
rápida do reconhecimento facial a categorias cada vez mais vastas.5

Juntamente com o Reino Unido, a França hoje lidera na Europa a utilização

dessas tecnologias de controle social. Se, em 2016, seus serviços de
informação precisavam adquirir ferramentas de análise de dados da
empresa norte-americana Palantir, o aparecimento de paladinos nacionais
em matéria de Big Data de segurança se tornou agora uma prioridade. Os
projetos de safe city permitem às empresas prestadoras de serviços às
coletividades, tal como a Engie Ineo, ou de defesa e segurança, como a
Thales, posicionar-se nesses novos mercados diante da concorrência norte-
americana ou chinesa, apoiadas pelo Estado acionista que está presente
nesses grupos com 32,8% e 26,4%, respectivamente.

A man points at a screen showing a traffic surveillance software at the stall of the video surveillance products maker Tiandy
Technologies at the Security China 2018 exhibition on public safety and security in Beijing, China October 24, 2018.
REUTERS/Thomas Peter – RC1EFE3F8EE0

Além das coletividades comanditárias, numerosos organismos públicos

participam dos novos desdobramentos. Desse ponto de vista, o projeto
de safe city conduzido pela Thales em Nice é emblemático. Concebido para
seguir os eixos temáticos identificados pelo Comitê do Setor Industrial de
Segurança – que assegura o contato entre governo e setor privado –, ele se
beneficia de um rótulo outorgado por esse mesmo organismo. Dentro do

https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 6/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

Programa de Investimento para o Futuro, o Banco Público de Investimento

lhe concedeu uma ajuda de 11 milhões de euros sob a forma de
subvenções e adiantamentos recuperáveis, sendo o custo total do projeto
de 25 milhões em três anos. Enfim, várias tecnologias propostas foram
aperfeiçoadas graças a projetos de pesquisa que associaram atores
industriais e organismos públicos, como o Instituto Nacional de Pesquisa
em Informática e Automação (Inria), por meio de financiamentos da Agência
Nacional de Pesquisa ou da Comissão Europeia.
No mesmo sentido, a safe city pressupõe uma privatização nunca vista das
políticas de segurança. A capacidade técnica está inteiramente confiada
aos atores privados, enquanto os parâmetros que regem seus algoritmos
permanecerão, segundo todas as aparências, submetidos ao segredo
empresarial. No plano jurídico, ainda não existe nenhuma análise séria da
conformação desses dispositivos ao direito à vida privada ou à liberdade de
expressão e consciência que, no entanto, são aqui postos em causa. Por
enquanto, apenas os advogados das empresas envolvidas procuram, sem
zelo excessivo, respeitar a legislação vigente, revista em 2018, mas já
ultrapassada. Os efeitos políticos desses desdobramentos anunciam-se
bastante significativos: excessos no tratamento policial de certos bairros,
agravamento nas discriminações que já afetam algumas categorias de
pessoas, repressão dos movimentos sociais. Nada disso, obviamente, é
invocado pelos defensores da ideia.

Já a Comissão Nacional de Informática e Liberdades (CNIL) se atém a

um laissez-faire indolente. Abrigada por trás de sua penúria de meios e
alegando que o regulamento europeu sobre a proteção de dados pessoais
lhe tirou o poder de autorização a priori, ela clama por um “debate
democrático” que “defina os enquadramentos apropriados”6. No entanto,
reconhece, pela ausência de um quadro jurídico específico, aquilo que, em
virtude da jurisprudência da Corte Europeia de Direitos Humanos, basta

https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 7/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

para demonstrar a ilegalidade pura e simples desses projetos. O governo,

que anunciou uma revisão da lei relativa à informação para 2020, poderia
se valer desse texto para viabilizar no plano legislativo as experiências em
curso e preparar a generalização dos dispositivos de vigilância policial – a
menos que as mobilizações de cidadãos não contestem essas
experiências.

Félix Tréguer é pesquisador e membro de La Quadrature du Net.

1 Ver Shoshana Zuboff, “Un capitalisme de surveillance” [Um capitalismo de

vigilância], Le Monde Diplomatique, jan. 2019.

2 Cf. Evgeny Morozov, Pour tout résoudre, cliquez ici. L’Aberration du

solutionnisme technologique [Clique aqui para resolver tudo. A aberração
do solucionismo tecnológico], FYP Éditions, Lyon, 2014.

3 Referências do documento.

4 Cf. Laurent Mucchielli, Vous êtes filmés! Enquête sur le bluff de la

videosurveillance [Você está sendo filmado! Pesquisa sobre o blefe da
videovigilância], Armand Colin, Paris, 2018.

5 Ver François Pellegrini e André Vitalis, “L’Ère du fichage généralisé” [A era

do fichamento generalizado], Le Monde Diplomatique, abr. 2018.

6 “La CNIL apele à la tenue d’un débat démocratique sur les nouveaux
usages des caméras vidéo” [A CNIL convoca para um debate democrático
sobre os novos usos das câmeras de vídeo], CNIL, Paris, 19 set. 2018.

https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 8/9
10/08/2019 Safe city, ou o governo dos algoritmos - Le Monde Diplomatique

https://diplomatique.org.br/safe-city-ou-o-governo-dos-algoritmos/ 9/9