Você está na página 1de 20

O FIM(S) DA CRTICA: BEHAVIORISMO DE DADOS VERSUS DEVIDO PROCESSO1

Antoinette Rouvroy

INTRODUO
As operaes de coleta, processamento e estruturao de dados com o propsito2 de
datamining (minerao de dados) e profiling (criao de perfis), ajudando indivduos e organizaes
a lidar com circunstncias de incertezas ou alivi-los do fardo da interpretao de eventos e tomada
de decises no cotidiano, situaes triviais tornaram-se cruciais para atividades dos setores pblicos
e privados em domnios to variados quanto a preveno da criminalidade, a gesto da sade, o
marketing ou mesmo o entretenimento.3
A disponibilidade de novas interfaces de TIC em perfis refinados e produzidos
algoritmicamente, permitindo indiscriminadamente a personalizao (e a imerso til, segura e
confortvel de usurios no mundo digital)4 e a preveno (e no a regulao) de comportamentos
individuais e coletivos e de trajetrias parece providencial para lidar com as complexidades de um
mundo de fluxos macios de pessoas, objetos e informaes, bem como para compensar as
dificuldades de governar pela lei num mundo complexo e globalizado. A crena implcita que
acompanha o crescimento do Big Data que, desde que se tenha acesso a enormes quantidades de
dados brutos (e o mundo est atualmente submerso em uma quantidade astronmica de dados
digitais), possvel antecipar a maioria dos fenmenos (incluindo os comportamentos humanos) do
mundo fsico e do mundo digital, graas a algoritmos relativamente simples que permitem, numa base
estatstica puramente indutiva, construir modelos de comportamentos ou padres, sem ter que
considerar causas ou intenes. Chamarei de behaviorismo de dados essa nova maneira de produzir
conhecimentos sobre atitudes preferenciais futuras, comportamentos ou eventos sem considerar as
motivaes psicolgicas, os discursos ou as narrativas do sujeito, mas sim com base em dados. A
operacionalidade em tempo real dos dispositivos que funcionam em tal lgica algortmica dispensa
os atores humanos do nus e da responsabilidade de transcrever, interpretar e avaliar os eventos do
mundo. Poupa-lhes os processos de produo de sentido da transformao ou representao,
institucionalizao, conveno e simbolizao.

1
In: HILDEBRANDT M., DE VRIES K. (eds), Privacy, Due Process and the Computational Turn. Philosophers of
Law Meet Philosophers of Technology. Routledge, 2013, captulo 6.
2
O termo propsito pode parecer contra-intuitivo neste contexto, falando de data-warehouses (armazns de dados)
que, por definio, contm quantidades macias de dados recolhidos em contextos heterogneos, para uma variedade de
propsitos iniciais que, na fase de armazenamento nos data-warehouses, tornaram-se irrelevantes. Ao contrrio das
estatsticas tradicionais que foram realizadas tendo em vista confirmar ou infirmar hipteses especficas sobre o real,
ou foram realizadas por funcionrios do governo para que o Estado obtenha conhecimento especfico e quantificado de
seus recursos humanos e materiais o objetivo do datamining muito menos pr-orientado para qualquer fim especfico.
3
O Escritrio Geral de Contabilidade dos Estado Unidos define o datamining como a aplicao de tcnicas e tecnologia
de bancos de dados (tais como anlise estatstica e modelagem) para descobrir padres ocultos e relaes sutis nos
dados e inferir regras que permitam a previso de resultados futuros. Como tem sido amplamente divulgado, muitos
esforos federais de datamining envolvem o uso de informaes pessoais extradas de bancos de dados mantidos tanto
por organizaes pblicas quanto por privadas. Os objetivos do datamining, de acordo com o mesmo relatrio incluem
o melhoramento do servio ou do desempenho; a deteco de fraude, desperdcio e abuso; a anlise de informaes
cientficas e de pesquisa; a gesto de recursos humanos; a deteco de atividades ou padres criminosos; e a anlise de
inteligncia e deteco de atividades terroristas (General Accounting Office: 2004).
4
Farecast, por exemplo, uma parte do motor de busca Bing da Microsoft, aconselha seus usurios sobre o momento ideal
para comprar suas passagens de avio, prevendo quando os preos so os mais baixos, examinando 225 bilhes de
registros de vo e de preo.
A questo de saber se os poderes preemptivos dos algoritmos so superestimados, se os
algoritmos produzem previses vlidas ou no, ou, em outras palavras, se funciona ou no no
realmente crucial para o que me interessa aqui; o que quer dizer que, independentemente da validade
de tudo isso, o que mais importa identificar em que medida confiar na aparente operacionalidade
dos algoritmos nos poupa uma srie de percepes individuais, coletivas, cognitivas, avaliativas,
convencionais, institucionais, esforos lingusticos ou tarefas, e, a que preo.
Os impactos da virada computacional sobre a governamentalidade esto longe de serem
triviais. A constante adaptao dos ambientes aos perfis individuais e coletivos produzidos pela
inteligncia de dados seja ela chamada personalizao ou tecnologia de segurana um
modo de governo sem precedentes.5 O tipo de conhecimento que consome e produz, as modalidades
atravs das quais impacta os comportamentos individuais e coletivos, os modos de individuao que
podem influenciar ou resistir governamentalidade algortmica6 merecem um exame cuidadoso. O
objetivo deste captulo precisamente inaugurar tal investigao.
Este captulo , assim, sobre uma questo vertiginosa. Formulada como uma indagao sobre
o estado do conhecimento, do poder e dos sujeitos aps a virada computacional, ela se transforma em
reformulao da questo da possibilidade de crtica, recalcitrncia e subjetivao 7 em um universo
epistmico e poltico gradualmente abandonado pela experincia emprica e dedutiva, lgica causal,
e no que diz respeito a um modo de governo que parece ignorar as capacidades reflexivas e discursivas
(assim como suas capacidades morais) de agentes humanos, em favor do computacional,
preventivo, contextual e sensvel aos comportamentos de risco e oportunidades. Em outras palavras,
quero saber se ainda possvel praticar o pensamento crtico aps uma virada computacional que, a
despeito de sua pretenso objetividade, aparece como um afastamento das ambies da
racionalidade moderna ancoradas em experimentos empricos e lgica dedutiva-causal, e, apesar de
suas promessas de personalizao e de uma melhor tomada em considerao de mritos individuais,
necessidades, habilidades, preferncias, no aborda os indivduos atravs de suas capacidades
reflexivas, nem atravs de sua inscrio dentro das estruturas coletivas, mas meramente atravs de
seus perfis.
Ser ento argumentado que o que torna a crtica to difcil de praticar em relao virada
computacional que estamos experimentando agora com a generalizao gradual e quase viral de
minerao de dados (datamining) e criao de perfis (profiling) :
- primeiramente, o fato de que produz uma zona onde a realidade (construda) e (o fundo do)
mundo em toda espontaneidade e incerteza se tornam indistintas;
- em segundo lugar, o fato de que a dimenso transversal essencial nos domnios cientfico,
judicial e mesmo existencial do teste, da experimentao, do exame, da avaliao
ou da prova, ou mesmo da experincia, se torna obsoleta no tempo real, produo
preventiva de realidade algortmica;
- em terceiro lugar, o fato de que a governamentalidade algortmica no permite processos de
subjetivao e, portanto, recalcitrncia, mas ignora e evita qualquer encontro com sujeitos
reflexivos humanos. A governamentalidade algortmica no tem sujeito: opera com dados

5
Por governo eu quero dizer a prtica de enquadrar os campos de ao dos outros. Nesse sentido, o governo no o
monoplio das autoridades pblicas. Os agentes privados prestadores de servios de internet, operadores de motores de
busca e redes sociais, ou, de um modo mais geral, comerciantes, empregadores, seguradores, pais, professores, etc., na
medida em que enquadram o possvel campo de percepes e aes dos outros, governam.
6
Para uma descrio detalhada da governamentalidade algortmica, ver Rouvroy e Bens (2010).
7
Ver, por exemplo, Boltanski e Thvenot (2005).
infra-individuais e padres supra-individuais sem, a qualquer momento, chamar o sujeito a se
dar conta de si mesmo.
O captulo apresentar, portanto, uma defesa de todas essas coisas que geralmente aparecem
como as fraquezas da regulao pela lei e da adjudicao pelo sistema judicial ou seja, da construo
legal da realidade em comparao com a regulao pelos algoritmos: ineficcia, ineficincia,
atrasos, etc., que so todos criao de espao temporal e cena (judicial) onde o sentido recupera a
autonomia face factualidade pura do behaviorismo de dados, onde as normas podem ser
negociadas e contestadas, onde os sujeitos (legais) podem materializar, construindo suas motivaes
e, chamando-se mutuamente em conta atravs da linguagem, criam ocasies para individuaes
individuais e coletivas que so sempre desvios de padres e perfis conhecidos.

A PRODUO ALGORTMICA DA "REALIDADE": O BEHAVIORISMO DE DADOS


Descobrindo uma realidade imanente ao mundo dos dados
Cada poca tem seus prprios meios privilegiados de construir evidncias e tornar o mundo
significativo. Como explica Pierre Legendre, o mundo no dado ao homem. O homem somente
pode acessar o mundo atravs da mediao da linguagem e, portanto, da representao (LEGENDRE,
2001: 17). Com base no que est presente e disponvel aos sentidos humanos, a representao atesta
a presena do que no est imediatamente disponvel para os nossos sentidos: as causas (ocultas) dos
fenmenos, as motivaes psicolgicas das aes, o seu potencial para desenvolver ou dar luz outros
fenmenos ou aes,... Boltanski (2009: 93-94) indica a este respeito uma distino interessante entre
a realidade (o resultado da representao) e o mundo:
A questo da relao entre, por um lado, o que parece manter-se firme, ser consistente e, de
outro, aquilo que est repleto de incerteza e abre caminho para a crtica, no pode ser
plenamente implantada se se situa no solo da realidade. De fato, em um espao de coordenadas
bidimensionais, a realidade tende a ser confundida com o que parece permanecer, de algum
modo, por sua prpria fora, isto , com a ordem, e nada, ento, permite compreender os
desafios contra essa ordem, pelo menos em suas formas mais radicais. (...) Mas falar da
realidade nestes termos equivale a relativizar seu alcance e, assim, sugerir que est separada
de um fundo distinto que no esgota. Chamaremos a este fundo o mundo, considerado,
parafraseando Wittgenstein, como o que quer que acontea. Pode-se, a fim de tornar
palpvel esta distino entre a realidade e o mundo, fazer uma analogia com a maneira
pela qual se pode distinguir entre o risco e a incerteza. O risco, na medida em que
probabilizvel, constitui, precisamente, um dos instrumentos inventados no sculo XVIII para
construir a realidade. (...) Mas todos os eventos no so controlveis na lgica do risco, de
modo que permanece uma parte desconhecida da incerteza radical. E, assim como se pode
fazer o projeto de conhecer e representar a realidade, o objetivo de descrever o mundo, no que
seria sua totalidade, no est no alcance de ningum. No entanto, algo do mundo manifesta-se
precisamente cada vez que acontecimentos ou experincias cuja possibilidade (...), ou
probabilidade, no tinham sido inseridos no desenho da realidade, surgem na fala e/ou na
superfcie do campo da ao individual ou coletiva.
A distncia entre o mundo e a realidade esta parte desconhecida da incerteza radical
sempre foi um desafio para as instituies e, ao mesmo tempo, uma pr-condio para a possibilidade
de crtica se, por crtica ns consideramos, como Foucault (1990): a virtude que consiste em desafiar
as prprias categorias atravs das quais se est predisposto a perceber e avaliar as pessoas e as
situaes do mundo, em vez de simplesmente julg-las de acordo com essas mesmas categorias.
Crtica :
a prtica que suspende o julgamento e a oportunidade de praticar novos valores, precisamente
com base nessa suspenso. Nesta perspectiva, a crtica visa a construo de um campo de
categorias oclusivas em si mesmas, e no a subsuno de um caso particular sob uma categoria
pr-constituda.
Datamining e profiling, baseando-se na disponibilidade efetiva de quantidades enormes de
dados digitais brutos, instauram um novo regime de verdade que eu chamo de behaviorismo de
dados criando a mais ampla zona de indistino possvel entre a realidade e o mundo, e erodindo
a parte desconhecida da incerteza radical, reduzindo, igualmente, o alcance da crtica. O resultado
da necessidade ressentida de automatizar os processos, que vo dos dados brutos ao conhecimento,
resulta na descoberta do que conta como real dentro dos exponencialmente crescentes depsito de
dados tomados como a verso digital do mundo; uma factualidade pura dos perfis gerados, de
acordo com um processo diagnosticado por Alain Supiot (2010: 81) como a
metamorfose de toda qualidade singular em quantidade mensurvel pela qual estamos ligados
a um ciclo especulativo em que a crena nessas imagens numricas substituem o contato com
a realidade que essas imagens pretendem representar.
Como j sugerido, os perfis aparecem ao pblico em geral pelo menos como uma
germinao espontnea8 da transcrio digital e da anlise estatstica da realidade (atravs da do
dataminig preditivo), resistindo caracterizao como espontnea ou artefactual e ignorando a
interpretao humana.9 O uso de dataminig e profiling geralmente justificado por argumentos de
racionalizao. A triturao de nmeros aparece como uma vitria do pensamento racional sobre a
emocionalmente, politicamente e racialmente tendenciosa percepo humana.10 Com a virada
computacional, nossa relao com o conhecimento parece realmente estar mudando. Em Managing
Information, uma reportagem especial publicada pela The Economist na edio de 25/02/2010, l-se
que
epistemologicamente falando, a informao constituda por uma coleo de dados e o
conhecimento constitudo por diferentes vertentes de informao. Mas esta reportagem
especial usa dados e informaes de forma intercambivel porque, como argumentar, os
dois so cada vez mais difceis de distinguir. Obtendo bastante dados brutos, os algoritmos de
atuais e os computadores poderosos podem revelar novos insights que anteriormente
permaneciam ocultos. (CUKIER: 2010)
Dados, informao, conhecimento so, assim, mais ou menos considerados as mesmas coisas.
Tal conhecimento no aparece assim como uma produo da mente, com toda a artificialidade e
preconceitos cognitivos e emocionais que, inevitavelmente, sugerem as produes mentais, mas como
sempre j dado, imanente ao mundo (gravado digitalmente), no qual ele meramente descoberto
automaticamente, ou do qual literalmente floresce graas e operaes algortmicas que tornam
correlaes invisveis operacionais.

8
Apesar do fato de que a interveno humana est, claro, envolvida no projeto inicial, na formao (no caso de algoritmos
de aprendizagem) e na superviso de algoritmos, a natureza e a extenso desta interveno humana gradualmente
indefinida com sua crescente capacidade autonmica de algoritmos.
9
Sobre a interpretao como papel ou funo essencial das humanidades, e sobre a necessidade absoluta de pensar a
interpretao como etapa essencial na produo do conhecimento, ver Citton (2010).
10
Ver, por exemplo, Zarsky (2011: 327): se a minerao de dados [datamining] for aceita pela legislao, poder exigir
apenas uma reviso judicial limitada. Isto o oposto do uso de perfis e do critrio dos oficiais de campo, que exige um
exame mais minucioso.
A que categoria de signos ou de sinais pertencem os big datas brutos que formam a textura
da racionalidade algortmica? Qual sua relao com as coisas do mundo das quais elas so
consideradas um signo ou sinal? Os dados brutos no se assemelham, nem mantm sequer ligao
fsica indireta com qualquer coisa do mundo,11 e tampouco so smbolos convencionais dele. , no
entanto, essa quantidade macia de dados brutos, esses enormes dados estatsticos impessoais, em
constante evoluo, que hoje constituem o mundo, no qual os algoritmos desvendam o que a
governamentalidade algortmica leva para a realidade. Realidade esse conhecimento parece
manter-se, no parece mais produzido, mas sempre j l, imanente s bases de dados, espera de ser
descoberto por processos algortmicos estatsticos. O conhecimento no produzido mais sobre o
mundo, mas a partir do mundo digital. Um tipo de conhecimento que no testado por nem testando
o mundo que descreve e do qual emana: a realidade algortmica formada dentro da realidade digital
sem qualquer contato direto com o mundo que pretende representar. Em vez da validade de seus
modelos preditivos,12 sua operacionalidade sua plasticidade, sua contribuio para a fluidificao
da vida econmica e social (e, portanto, do capitalismo), sua eficincia em poupar de agentes humanos
tempo e esforos de interpretao e avaliao das pessoas e eventos do mundo que caracterizam a
inteligncia dos big datas. Dados brutos funcionam como sinais desterritorializados,13 induzindo
respostas reflexas em sistemas computacionais, e no como sinais portadores de significados e que
exigem interpretao. Tudo se passa como se a criao de significados no fosse mais necessria, 14
como se o mundo j estivesse, sem nenhuma interpretao, saturado de significado.15
Ns no falaramos no porque tudo teria sido dito, mas teria sido previsto, sempre j escrito,
decretado, editado, mas em uma escrita que seria a prpria escrita das coisas. No a assinatura
das coisas, mas um pouco como sinais-coisas, e signos, esta doena do pregado, palavra fixa,
nunca removida de sua eternidade, presa em um topos. (NEYRAT: 2011)

Atopia da realidade algortmica


Esse conhecimento imanente tambm atpico, no sentido de que no est mais vinculada a
nenhuma ncora temporal ou geogrfica. A partir da realidade eterna dos depsitos de dados,
alimentada por dados gravados em contextos heterogneos, as produes do behaviorismo de dados
esto em desacordo com a idia de conhecimento interessado (Spinoza), ou do conhecimento como
a promulgao e o resultado de relaes de poder (Foucault). Os padres descobertos nos depsitos

11
Os eventos do mundo fsico podem deixar traos (marcas de passos na areia, feromnios de animais ou de plantas
deixados para trs e que servem como mensagens para outros indivduos da mesma espcie, impresso fotogrfica da luz
sobre o papel fotogrfico,...). Esses traos podem bem ser traduzidos em dados, mas os prprios dados no so, de forma
alguma, traos por si mesmos. Eles podem representar traos, mas no so em si mesmos uma impresso de algum evento
do mundo fsico em uma superfcie reativa. claro que uma objeo poderia ser levantada com base no fato de que o
terreno sobre o qual os usurios deixam traos na internet. Aqui novamente eu sugiro que, de um ponto de vista
algortmico, ns no existimos como sujeitos nesse contexto, mas simplesmente como uma rede de pontos de dados
transindividuais em constante evoluo. Os dados que divulgamos na internet, assim que so descontextualizados,
anonimizados e agregados com dados divulgados por outros em uma infinidade de contextos geogrficos e temporais
heterogneos so, no individualmente, traos nossos, mas funcionam como sinais puros que provocam diferentes tipos
de agregaes e reconstrues de significados operacionais.
12
A triturao de nmeros pode muito bem ser uma nova maneira de ser inteligente (Ian Ayres), mas como triturar
nmeros fornece apenas uma conta quantitativa (do potencial) da realidade, o conhecimento que produz
inevitavelmente reducionista, somente levando em considerao aspectos do mundo que podem ser traduzidos em
dados-sinais, e inscritos no clculo algortmico.
13
Os sinais podem ser calculados quantitativamente, independente do seu significado (ECO, 1976: 20). Ver tambm
GENOSKO (2008).
14
Traduo da autora.
15
A governamentalidade algortmica aparece, ento, como a materializao perfeita do mundo capitalista cuja textura
feita de fluxos liberados de sinais desterritorializados, descodificados e neutralizados. Ver GUATTARI (1977: 264).
de dados tm uma aura de conhecimento puro, autnomo em relao aos poderes e suas influncias.
Refinando-se em tempo real, construindo e reconstruindo-se a partir das enormes memrias
numricas, onde cada bit, no importa no importa quando e onde gravado e armazenado, flutua na
superfcie plana da pura atualidade e da pura presena,16 o corpo estatstico parece ter expurgado cada
bit [pedao] de obscuridade: tudo est sempre disponvel, se encaixa perfeitamente em uma esttica
da luminosidade total e da transparncia intemporal ou acronolgica. Consequentemente, a
informao a partir da qual o novo conhecimento produzido no ser avaliada com base em
critrios tradicionais de autenticidade, de coerncia histrica ou apercepo crtica, mas meramente
sobre os mritos de operacionalidade imediata, plasticidade, adaptao flexvel a circunstncias em
mudanas e disponibilidade imediata.
Esta atitude coloca algumas dvidas sobre a possibilidade de falar sobre conhecimento e, neste
caso, conhecer, como argumenta Didi-Huberman (2009: 11), exige tomar posio, isto ,
situar-se duas vezes pelo menos, sobre duas frentes pelo menos que cada posio compreende
porque qualquer posio , necessariamente, relativa. Isso acontece, por exemplo, com o
afrontamento de alguma coisa, mas, diante dessa coisa tambm preciso levar em
considerao tudo o que deixado de lado, o que est fora do quadro e fica para trs, o que se
pode recusar, mas que, para uma parte substancial, afeta nosso prprio movimento, assim
como nossa posio. Tomar posio implica em estar desejando, solicitando algo, situando-se
no presente e visando o futuro.17

Um uso distinto das estatsticas


O behaviorismo de dados diferente da quantificao estatstica
O behaviorismo de dados muito diferente de outras estratgias governamentais baseadas
em estatsticas e que, na maioria das vezes, so sistemas de quantificao que tornam as situaes
heterogneas e as realizaes comensurveis. Como explicado por Desrosires (2010) a anlise
comparativa [benchmarking] tambm contribui para reduzir ou administrar a incerteza, mas tem como
objetivo a construo e a negociao de espaos de comensurabilidade, alcanando acordos sobre
procedimentos de medio e permitindo a arbitragem dos meios e finalidades. A anlise comparativa
traduz objetos e situaes, de outra maneira incomensurveis, em nmeros. Esse mecanismo de
quantificao resolve uma srie de dificuldades de avaliao (de aes e produes humanas). A
quantificao uma maneira de construir objetos com um valor (idealmente) negociado,
convencional. O processo de quantificao vincula os indivduos em um determinado sistema de
avaliao e os obriga a usar a linguagem da quantificao na comparao de seus respectivos
mritos, necessidades, etc. Isso faz com que a anlise comparativa seja uma estratgia perfeitamente
articulada com o ideal de devido processo.
As lgicas de quantificao criam comunidades epistmicas e permitem processos de
avaliao humana, enquanto que a razo algortmica simplesmente isenta do fardo de criar qualquer
tipo de comunidade, de organizao de processos de interpretao ou avaliao. A racionalidade
algortmica que regula os processos de datamining [minerao de dados] e profiling [criao de
perfis], e a lgica do data-behaviourism [behaviorismo de dados] realizado simplesmente
incompatvel com a ideia de (devido) processo ou mesmo, simplesmente, com a ideia de aparncia
(no laboratrio, no tribunal judicial, ...) de pessoas, situaes ou objetos reais. Como ser

16
Isso pode mesmo tornar-se mais verdadeiro na era da computao em nuvem.
17
Traduo da autora.
desenvolvido mais adiante, a governamentalidade algortmica evita cuidadosamente todos os tipos de
confrontaes, especialmente com aqueles que so afetados por seus efeitos governamentais. O
behaviorismo de dados economiza o fardo de testar, questionar, examinar, avaliar fatos reais e
pessoas de carne e osso; bem como evita que objetos ou pessoas apaream em laboratrios ou
tribunais para testar ou questionar suas causas ou intenes.

O behaviorismo de dados no pressupe nem testa hipteses sobre o mundo


Ao contrrio de outros usos das estatsticas como usos em epidemiologia o datamining
no pressupe nem refora ou invalida qualquer hiptese sobre o mundo,18 mas simplesmente aparece
como uma maneira agnstica, pragmtica, altamente operacional e efetiva de estruturar, de forma
antecipada, o campo possvel de ao dos corpos. Este agnosticismo contribui para que aparea
uma maneira inofensiva e universalmente vlida de tornar o mundo significativo. Em particular, o
abandono da causalidade no reavivou a metafsica determinista que acompanha os primeiros usos
das estatsticas, apesar das possveis interpretaes erradas da ideia de que, em um ambiente rico em
dados como o nosso, qualquer coisa pode ser prevista por triturao de nmeros (AYRES: 2007).
A virada computacional no de forma alguma um retorno metafsica determinista que acompanhou
o advento das estatsticas no sculo XIX e exibido, por exemplo, nos escritos de Laplace (1814)
defendendo a ideia de que as aes humanas, mesmo aquelas que parecem resultar do acaso ou da
liberdade humana so, de fato, governadas por leis to necessrias quanto as leis que governam
fenmenos fsicos , ou Quetelet (1835) que construiu a ideia de homem mdio. Pelo contrrio,
precisamente porque o pensamento determinista no parece mais plausvel, e porque as motivaes
e singularidades psicolgicas humanas aparecem talvez mais do que nunca incomensurveis e
imprevisveis devido complexificao e massificao de fluxos de pessoas, dados e objetos que os
sistemas algortmicos de criao de perfil estatstico parecem hoje to atraentes, aliviando os seres
humanos das difceis tarefas de interpretao e avaliao de fatos em um universo epistmico
desprovido de testes comuns e critrios de avaliao.

A reduo da taxa de intencionalidade, da causalidade, da experincia e do discurso


Traindo as ambies da racionalidade moderna, dedutiva, que relaciona fenmenos
observveis (ou seja, fenmenos pr-selecionados como objetos de observao e avaliao em vista
dos interesses explcitos e determinados) s suas causas, a racionalidade algortmica segue uma
lgica indutiva. Indiferente s causas dos fenmenos, o behaviorismo de dados est ancorado na
observao puramente estatstica de correlaes (independentemente de qualquer tipo de lgica) entre
os dados coletados em uma variedade de contextos heterogneos. Isso no significa, claro, que a
virada computacional tenha um impacto direto na existncia/inexistncia emprica de interaes
causais entre fenmenos, ou na natureza e grau de intencionalidade, ou na racionalidade das aes
humanas.19 Eu apenas sugiro, comparando ao que Benjamin (2000: 115) observou em relao
experincia:

18
Criaes de perfis na Unio Europia: uma prtica de alto risco, nota poltica INEX, N 10, junho de 2010: enquanto
outras abordagens estatsticas clssicas visam validar ou invalidar as correlaes propostas que se consideram respostas
pertinentes s questes existentes, com a criao de perfis no existem questes preliminares. As correlaes como tal
tornam-se a informao pertinente, provocando perguntas e suposies. (GONZALEZ-FUSTER, GUTWIRTH,
ELLYNE: 2010).
19
E possvel, claro, discutir se as relaes causais existem por si mesmas ou so meramente atribudas pelos homens,
mas isso realmente no importa para nossa atual discusso, j que a existncia ou inexistncia de relaes causais
naturais no so afetadas pela virada computacional.
como se tivssemos sido privados de uma faculdade que parecia inalienvel, a mais
assegurada a todos: a faculdade de trocar experincias. Uma das razes desse fenmeno
bvia: a taxa de experincia caiu. E continua a cair indefinidamente.20
Agora, as taxas de causalidade e intencionalidade por taxa quero designar nossa
capacidade ou vontade de usar essas categorias para prever, regular e dar conta dos fenmenos
tambm caram. Algumas vezes, os recursos de significados ficam indisponveis. Walter Benjamin,
em 1933, identificou a incapacidade de transmitir uma experincia e, portanto, a fraqueza da
experincia em consequncia da guerra mundial (os sobreviventes dos campos de batalha voltaram
mudos, no enriqueceram com a experincia que poderiam compartilhar, mas empobreceram pelo
irrepresentvel). O funcionamento da experincia como recurso para a produo de significado
tambm pode ser prejudicado em situaes em que ocorre a diminuio do valor de verdade
atribudo experincia ou ao experimento. Giorgio Agamben, por exemplo, articula a queda da taxa
de experincia com o declnio da autoridade para falar:
Porque a experincia encontra sua correlao necessria menos no conhecimento do que na
autoridade, isto , no discurso e na narrativa, hoje ningum parece ter autoridade suficiente
para garantir uma experincia; se algum o tivesse no seria tocado pela ideia de estabelecer
uma experincia com base nessa autoridade. Aquilo que caracteriza o tempo presente , pelo
contrrio, que toda autoridade se baseia no que no pode ser experimentado; a uma autoridade
que fosse legitimada apenas por uma experincia, ningum concederia qualquer crdito
(AGAMBEN, 2002: 26).21
No contexto da minerao de dados [datamining] e de criao de perfis [profiling] acontece a
mesma coisa: os padres e os perfis no esto meramente competindo com o testemunho, a
experincia, os discursos de autoridade ou a confisso; eles tornam obsoletas as modalidades
lingusticas de evidncia em relao operacionalidade, imediaticidade e objetividade do
behaviorismo de dados. Assim, se a virada computacional no tiver nenhum impacto nos fenmenos
da causalidade e agenciamento humano e das capacidades reflexivas que ela pressupe, e as deixa
intocadas, no obstante desvia interesses ou atenes para longe dessas perspectivas previamente
privilegiadas de causalidade e agenciamento intencional ou autoridade individual e coletiva (isto ,
para nosso propsito, a capacidade de algum ser autor de suas aes, para ter a autoridade de
dar conta dos significados de suas aes).

Desafios e obsolescncia dos testes


A razo algortmica, imanente ao real gravado digitalmente, escapa aos tipos de ensaios,
testes, exames, experimentos e outras provas [preuves] ou desafios que geralmente parecem
essenciais para testar a robustez, a verdade, a validade ou a legitimidade das solicitaes e hipteses
formuladas sobre a realidade nos domnios cientfico, judicial e at mesmo existencial (RONELL:
2005). O behaviorismo de dados simplesmente parece ter tornado irrelevante o tempo e espao
interpretativos do julgamento ou processo. um regime de verdade avaliado em funo de critrios

20
Traduo da autora.
21
Traduo da autora. Verso traduo em portugus: Porque a experincia tem o seu necessrio correlato no no
conhecimento, mas na autoridade, ou seja, na palavra e no conto, e hoje ningum mais parece dispor de autoridade
suficiente para garantir uma experincia, e se dela dispe, nem ao menos o aflora a idia de fundamentar em uma
experincia a prpria autoridade. Ao contrrio, o que caracteriza o tempo presente que toda autoridade tem o seu
fundamento no inexperiencivel, e ningum admitiria aceitar como vlida uma autoridade cujo nico ttulo de
legitimao fosse uma experincia (AGAMBEN, Giorgio. Infncia e histria: destruio da experincia e origem da
histria. Belo Horizonte: Editora UFMG, 2005, pg. 23).
de rentabilidade e operacionalidade. A virada computacional atesta, assim, o declnio da
interpretao em benefcio de algo muito mais imediato (e o imediatismo uma das conotaes
geralmente associadas eficincia), que a inferncia estatstica com base em correlaes, enquanto
a validao de padres ou perfis ocorre atravs de uma espcie de performatividade regressiva:
qualquer coisa que acontea e seja gravada, no importa se ela se encaixa em um padro ou perfil
pr-existente ou no, contribuir para o refinamento e a melhoria do corpo estatstico e validar22
os mtodos de interpretao automtica ou correlao a que esto sujeitos. Isso no significa que os
sistemas no sejam de todo verificados, que eles no sejam monitorados para assegurar que trabalhem
em funo do que devem alcanar: apenas que esses tipos de verificaes e testes se limitam a
verificar a operacionalidade do sistema. A operacionalidade, o carter de tempo real, a plasticidade
da razo algortmica, esto em desacordo com a interrupo, a distncia, os atrasos que so pr-
condies para uma avaliao crtica de qualquer tipo de conhecimento produzido. Se a minerao
de dados preditiva no representa a realidade, sua operacionalidade em tempo real, o fato de que
as decises so cada vez mais tomadas com base em perfis, a relativa performatividade desses perfis
levam, de fato, a uma situao de quase indistino entre a realidade produzida algoritmicamente
e o mundo do qual se supe que emana, visto que a distino, a falta de coincidncia das coisas e
suas representaes so necessrias para deixar aberto o espao da crtica.
Este regime de verdade frequentemente elogiado por sua objetividade no em razo de
que seria robusto o suficiente para passar nos testes habituais de validade cientfica ou legitimidade
poltica. Pelo contrrio, a fora do conhecimento produzido por algoritmos proporcional
dificuldade de submet-lo a qualquer conveno de quantificao ou a qualquer tipo de teste. A
fora da governamentalidade algortmica , portanto, proporcional sua no-robustez (se se toma
como robustez a capacidade de sustentar desafios e crticas). Esta no-robustez tambm o que
compe a esttica da governamentalidade algortmica: uma esttica da fluidez, continuidade,
adaptao em tempo real, imediatismo, dinamismo, plasticidade, no-obstruo, transparncia...
Comparado a uma esttica to poderosa, a interpretao humana e a descrio subjetiva da realidade
parecem bastante inestticos (demorados, sempre atrasados, talvez mais autnticos mas menos
confiveis, talvez mais crticos mas menos operacionais, etc.).

GOVERNAMENTALIDADE ALGORTMICA
A disseminao do behaviorismo de dados que acompanha a implementao de sistemas de
minerao de dados [datamining] e criao de perfis [profiling] em uma diversidade de aplicaes
inaugura um regime de poder sem precedentes que denomino governamentalidade algortmica.

O governo algortmico espectral


O foco na antecipao e na prioridade muda o alvo do poder da realidade da atual natureza
selvagem dos fatos para a potencialidade, os riscos, as oportunidades (que so a dimenso virtual do
aqui e agora, isto , a poro de incerteza irredutvel que se desistiu de tentar transformar em algo
comensurvel23), o futuro que tenta dominar atravs do enquadramento antecipativo de contextos
informativos e fsicos. O behaviorismo de dados , portanto, uma coincidncia antecipativa com

22
Embora esta no seja uma verdadeira validao. A validao verdadeira pressupe algum ponto externo a partir do
qual a avaliao realizada. Aqui, a validao imanente ao sistema que espera a validao.
23
Qualquer coisa que seja real est sempre cercada por uma nuvem de imagens virtuais. A realidade pura no existe.
(DELEUZE e PARNET, 1996: 179).
um real que se objetiva prevenir e que, se o sistema funcionar corretamente, nunca acontecer24
(este o caso quando minerao de dados [datamining] e criao de perfis [profiling] so usados em
cenrios de segurana); ou com um real com o qual manter relaes de performatividade
regressiva (ou performatividade de ciclos de retorno [feedback loop]). O sujeito probabilstico no
o mesmo que o sujeito real, experiencial, presente e senciente.
O governo algortmico contrasta, portanto, com o que conhecemos sobre o modo liberal de
governo que produz os sujeitos que precisa. Atravs da injuno onipresente e sua internalizao
por temas de maximizao do desempenho (produo) e do prazer (consumo), o neoliberalismo
produz hiper-sujeitos que tm, como horizonte normativo, o projeto continuamente reiterado de
tornar-se eles mesmos e engajou-os apaixonadamente no auto-controle, auto-empreendimento,
auto-avaliao.25 A governamentalidade algortmica no produz nenhum tipo de sujeito. Isso afeta,
sem abord-las, pessoas em todas as situaes de possvel criminalidade, fraude, decepo,
consumo,... que so situaes em que no requisitado que produzam nada e, certamente, no a
subjetivao. Em vez disso, a governamentalidade algortmica ignora a conscincia e a reflexividade
e opera no modo de alertas e reflexos.

Ao contrrio do governo pela lei, o governo algortmico afeta potencialidades em vez de pessoas e
comportamentos reais
Na viso clssica, governar, isto , produzir uma certa regularidade de comportamentos
(entre cidados, clientes, pacientes, estudantes, funcionrios, etc.) consiste pelo menos em pases
liberais em induzir os indivduos a escolherem, na gama de coisas que podem fazer ou podem se
abster de fazer, as coisas que melhor se adequam aos interesses da comunidade. Em Nomografia, ou
A arte de ditar Leis, Bentham (1834) explica o processo atravs do qual o cumprimento das leis
produzido:
(...) para ser produtor de alguns dos efeitos pretendidos por ela, a lei do legislador exige um
apndice que, para a produo de seus efeitos, nunca ser necessrio para o chefe de uma
famlia privada. Com referncia lei que acabamos de mencionar este apndice pode ser
denominado lei subsidiria: desta lei subsidiria, o negcio e o objeto consistem na
apresentao parte ou partes sujeitas, incentivo dirigido ao propsito de produzir em suas
partes conformidade com a lei principal.
E aqui, ento, temos existncia em cada ocasio, em conexo necessria uns com os outros,
duas espcies distintas de leis; a saber: 1)- a principal, ou diga-se a lei de fornecimento de
direo [direction-giving law]; 2)- a subsidiria, ou diga-se a lei de fornecimento de incentivo
[inducement-giving law].
Estas espcies distintas de leis so dirigidas a duas classes distintas de pessoas: a lei de
fornecimento de direo [direction-giving law] dirigida pessoa ou s pessoas em cujas
mos o cumprimento constantemente procurado em primeiro lugar; endereada sempre a
uma pessoa ou a um conjunto de pessoas diferentes das anteriores a subsidiria, ou seja, a a
lei de fornecimento de incentivo [inducement-giving law].

24
Isso no significa que o sistema no detectar falsos positivos. Contudo, a proporo desses falsos positivos ser
impossvel de avaliar.
25
Ver LEBLANC (2007).
Esta pessoa, ou conjunto de pessoas, diferente, de acordo com a incentivo empregado pelo
legislador da natureza do mal ou da natureza do bem.
Se for da natureza do mal, o incentivo denominado punio; e o tipo de pessoa a quem esta
lei subsidiria endereada o juiz: e o ato que ele calcula para executar, em caso de no
cumprimento da vontade expressada pela lei principal, um ato de punio um ato a que o
exerccio dado produzindo o mal, ou para dizer de outro modo, a dor por parte de quem o
cumprimento da vontade expressada pela lei principal no foi feito.
Esses incentivos/desincentivos no afetam de forma alguma as potencialidades (ou a potncia
de agir [puissance dagir]) dos indivduos, das pessoas a que se dirige o primeiro tipo de leis.26
Descrever as potencialidades do sujeito jurdico isto , para descrever o campo de possibilidades
imunes, do que permanece imune s conciliaes pela lei exigiria uma anlise de vrios nveis.
Deveria, por um lado, descrever como as operaes da lei impactam as condutas individuais. Os
preceitos legais merecem uma ateno muito mais cuidadosa do que a ateno que posso dedicar ao
tema no presente captulo. Alm da declarao contundente de que as restries legais no so as
mesmas que as restries fsicas ou restries pr-conscientes deixando aos indivduos a escolha
final de obedecer ou desobedecer a lei, seja por seus prprios riscos, existem distines na lei entre
direitos a e direitos a no. Que os (presumidos) seres calculadores obedecem lei porque, aps
uma deliberao racional, eles acreditam que as desvantagens decorrentes do risco de ser punido por
desobedincia se forem superadas pelos ganhos ou vantagens que ele pode esperar por desobedecer27
no impacta por si s (aumento ou diminuio) a faculdade individual de cumprir ou no cumprir a
lei. No sistema jurdico liberal, a integrao da norma pelos sujeitos pressupe e depende de suas
capacidades reflexivas e suas capacidades de equilibrar os prazeres e dores esperados decorrentes do
cumprimento ou violao das leis. Mas escolher o cumprimento no afeta suas faculdades (tericas e
prticas) para violar a lei. Essa potencialidade que , segundo Giorgio Agamben, uma faculdade,
algo que no precisa ser atualizado para existir, mas que no desaparece nem em caso de atualizao,28
pode ser um elemento crucial para definir sobre o que a subjetividade, em uma perspectiva que
leva em considerao a herana da erudio crtica dos anos sessenta e setenta. Desde ento, o
sujeito no mais definido por sua possibilidade de auto posicionamento, mas por sua capacidade
de descobrir de forma contnua e interativa uma realidade de maneira apropriada; capacidade de
estar presente nessa realidade, isto , abrir-se e expor-se nela mesma enquanto se mantm como eu,
isto , como projeto para ser e tornar-se ele mesmo (HABER, 2007: 213). Isso o que
aproximadamente a virtualidade do sujeito, e se v que a virtualidade certamente de modo
paradoxal a definio do sujeito.29
Em situaes em que existe uma (privada ou pblica) necessidade ou desejo de governo,30
o sucesso da razo algortmica proporcional sua capacidade de ajudar as burocracias pblicas

26
Ver HOHFELD (1913).
27
Existem, claro, muitas outras razes que explicam o cumprimento da lei, incluindo a coerncia entre o contedo legal
e as normas sociais e expectativas, hbitos, respeito autoridade, etc.
28
Ver AGAMBEN (2002).
29
Sobre a dimenso virtual do sujeito e sua relao com a utopia coletiva, ver ROUVROY (2011a).
30
Por governo quero dizer qualquer ao, realizada por agentes pblicos ou privados, com o objetivo de estruturar ou
enquadrar o campo possvel de aes de terceiros, no importa para quais propsitos especficos, e no importa o sucesso
ou fracasso de tal empreendimento. Governar, portanto, pressupe uma certa quantidade de conhecimento sobre o que os
outros poderiam fazer, do que os impediria ou incitaria a se comportar de certa forma ou a escolher certas trajetrias
em vez de outras. Alternativamente, quando esse conhecimento no est disponvel e est cada vez mais indisponvel
devido dissipao de microcosmos sociais homogneos e ao declnio correlativo de normas sociais implcitas
governar requer a implantao de novas lgicas, estratgias e tticas. Minha hiptese que a virada computacional
contribui para a renovao dessas lgicas, estratgias e tticas de governo.
e privadas a antecipar o que os corpos e pessoas poderiam fazer,31 permitindo perceber (ao invs de
entender) o que no (ainda) perceptvel aos sentidos comuns sem ter que testar, experimentar,
interrogar corpos32 materiais (humanos ou no humanos), nem confiar em testemunhos, confisses,
conhecimentos ou outro discurso de autoridade. A virada computacional torna as pessoas e situaes
imediatamente e operacionalmente significativas atravs de sua subsuno automtica em
(oportunidade ou riscos futuros) padres e perfis, sem o desvio interpretativo do julgamento ou do
processo e mesmo sem confronto concreto e material e o concernente encontro com os objetos e
pessoas reais. Essas prticas estatsticas algortmicas sem precedentes combinam com o domnio
contemporneo de novos princpios reguladores (muitas vezes inspirados por um novo conjunto de
medos de catstrofes iminentes), como precauo e minimizao de riscos, deteco de privilgios,
classificao, avaliao antecipativa e preveno ou precedncia do que os corpos poderiam fazer,
sobre esforo pontual para remediar as causas de situaes presentes e realidades inferiores.33 Ao
contrrio do governo pela lei, a fora do governo algortmico consiste em separar os sujeitos de sua
capacidade de fazer ou no fazer certas coisas. Seu alvo como atesta seu foco em previso e
precedncia contingncia como tal, o modo condicional da frmula o que um corpo poderia
fazer,34 visto que este modo condicional a definio de agncia como tal:
Mais que problemas, que maneiras de ser, sentir e agir a palavra agncia resume ou sinaliza?
De que forma poderia nos ajudar? Isso poderia nos ajudar a suspender a oposio metafsica
e escolstica entre liberdade e necessidade, afastando-se da oposio entre sociologias do
determinismo e filosofias do milagre, do ato ou do evento. Poderia nos ajudar a perceber
a liberdade como o outro do poder e da dominao. Para no pressupor que a liberdade tem
sua origem em um sujeito absolutamente soberano. Para pensar na liberdade como produo
e como relao, e, indissociavelmente, pensar na liberdade como produtividade: como
capacidade prtica para ser afetada e produzir efeitos. Para orientar o pensamento para uma
abordagem emprica e pragmtica da questo da emancipao: uma arte da agncia. (VIDAL,
2008: 17-23).35
A governamentalidade algortmica, portanto, apresenta uma nova estratgia de gerenciamento
da incerteza que consiste em minimizar a incerteza associada agncia humana: a capacidade dos
seres humanos de fazer ou no fazer tudo aquilo que so fisicamente capazes de fazer. Efetuado
atravs da reconfigurao de arquiteturas informacionais e fsicas e/ou ambientes dentro dos quais
certas coisas se tornam impossveis ou impensveis, e lanando alertas ou estmulos produzindo
respostas reflexas ao invs de interpretao e reflexo; isso afeta indivduos em sua agncia que ,
em sua inatualidade, dimenso virtual da potencialidade e da espontaneidade (quais incentivos e
dissuases legais deixam intactos), incluindo no que diz respeito desobedincia potencial.
Aplicaes tais como a biometria dinmica, videovigilncia inteligente, sistemas de
recomendaes individualizadas, ambientes inteligentes, inteligncia ambiental e computao
autnoma aparecem, primeiramente, como solues para um problema governamental epistmico: a
indeterminao radical e a incomensurabilidade dos contextos e comportamentos. Contudo, esses
novos tipos de tratamento estatstico de dados brutos, no menos do que as estatsticas clssicas

31
Um projeto que pareceria impossvel para Espinosa. Segundo ele, no se sabe o que um corpo pode fazer.... Ver
ESPINOSA (1990) e DELEUZE (2003: 28).
32
No contexto da aprendizagem em mquina os testes no so direcionados a corpos, mas a dados.
33
Ver, por exemplo, NEYRAT (2008).
34
DELEUZE e GUATTARI (1980: 318): Um corpo definido apenas pela longitude e latitude, isto , por todos os
elementos materiais que lhe pertencem conforme relaes de movimentos e repouso, velocidade e lentido (longitude), o
conjunto de afetos intensivos que capaz sob um determinado poder ou grau de potncia ou melhor, de acordo com os
limites desta extenso. [Traduo da autora].
35
Traduo da autora.
(DOSROSIRES, 2008), so ao mesmo tempo interfaces cognitivas produzindo tipos especficos
de conhecimento operacional (no caso de datamining e profiling, conhecimentos probabilsticos
sobre intenes, propenses, preferncias, riscos e oportunidades efetuados ambos por indivduos ou
situaes), e instrumentos de direcionamento governamental (em vez de regulamentar ou
coordenar) das atividades sociais e de orientao das intervenes pblicas. Esta virada
computacional subverte as modalidades tradicionais de produo poltica, jurdica e social e a
aplicao de normas. Como tal, as normas resultantes (padres e perfis) escapam dos testes usuais de
validade epistmica e de legitimidade poltica, apesar de ter, quando incorporadas em sistemas de
deteco, classificao e avaliao antecipativa de comportamentos humanos, os efeitos
governamentais nas diversas esferas onde so aplicadas. Essa governamentalidade algortmica e
suas normas auto executadas, implcitas, estatisticamente estabelecidas que emanam, em tempo real,
da realidade digitalizada, contrastam com a governamentalidade poltica, e o imperfeitamente
aplicado, explcito, deliberado carter das leis resultantes do tempo desgastante da deliberao
poltica. Portanto, dependendo do contexto e das circunstncias, a adjuno ou substituio da
governamentalidade algortmica pela governamentalidade poltica pode ser sentida como uma bem-
vinda, eficiente objetivao e a automatizao da aplicao e produo normativa, ou como uma
evoluo perigosa para uma posterior despolitizao da produo normativa e como uma eroso
ameaadora do papel protetivo e recursivo do processo judicial.

ASSUNTO EM QUESTO: POTNCIA


A governamentalidade algortmica evita todo tipo de confrontao com sujeitos humanos
O carter preventivo da governamentalidade algortmica, o fato de que ele opera
frequentemente em uma fase pr-consciente (enquadramento de condutas por lanamento de avisos
e nada menos intencional, no sentido de direo consciente da ateno, do que ser alertado ou
ter sua ateno atrada por alguma coisa), seguindo a avaliao automtica e antecipativa do que os
corpos poderiam fazer (potencialidades) em vez do que as pessoas realmente esto fazendo; o fato de
que a criao de perfil [profiling] poupa o fardo de fazer as pessoas aparecerem como agentes no
deixa nenhuma ocasio para que as pessoas tornem-se sujeitos da governamentalidade
algortmica. A governamentalidade algortmica no permite que o processo de subjetivao ocorra
porque no encara os sujeitos como agentes morais (evitando question-los sobre suas preferncias
e intenes, sobre as razes e motivaes de suas aes), mas concilia seu futuro informativo e
ambiente fsico de acordo com as previses contidas no corpo estatstico. A governamentalidade
algortmica precisa somente de um sujeito nico, supra-individual, corpo estatstico
constantemente reconfigurado feito de traos digitais infra-pessoais de facetas e interaes
impessoais, dspares, heterogneas e divididas da vida diria. Este corpo estatstico infra- e supra-
individual traz uma espcie de memria do futuro visto que a estratgia da governamentalidade
algortmica consiste em garantir ou impedir sua atualizao.
A governamentalidade algortmica no precisa dominar a regio selvagem dos fatos e
comportamentos, nem visar produzir sujeitos dceis. Pode-se at mesmo dizer contra parte da
comunidade de estudos de vigilncia que a governamentalidade algortmica diminui os riscos de
conformidade antecipativa dos comportamentos ou os efeitos inibidores associados vigilncia
ubqua. Isso ocorre porque ao contrrio da visvel, escpica vigilncia gerando normas que
permanecem, amplamente, inteligveis aos indivduos e disponvel para que comparem e sintonizem
seus comportamentos, a governamentalidade algortmica evita cuidadosamente qualquer
confrontao e impacto direto com pessoas de carne e osso. possvel at mesmo dizer que a
governamentalidade algortmica simplesmente ignora os indivduos incorporados que afeta e tem
como nico sujeito um corpo estatstico, ou seja, um corpo de dados constantemente crescente
ou uma rede de localizaes em tabelas atuariais.
Em um contexto to governamental as singularidades subjetivas dos indivduos, suas
motivaes ou intenes psicolgicas pessoais no so importantes. O que importa a possibilidade
de vincular qualquer informao ou dado trivial deixado para trs ou divulgado voluntariamente pelos
indivduos com outros dados coletados em contextos heterogneos e estabelecer correlaes
estatisticamente significativas. O processo ignora a conscincia individual e a racionalidade (no
somente porque as operaes de minerao de dados [datamining] so invisveis, mas tambm porque
seus resultados so incompreensveis para os instrumentos da racionalidade moderna), e produz seus
efeitos de governo por adaptao antecipativa do ambiente informacional e fsico das pessoas de
acordo com o que essas pessoas so susceptveis de fazer ou desejar; e no adaptando as pessoas s
normas que so dominantes em um determinado ambiente.

Alm do sujeito jurdico como fico funcional: repensando a potncia do sujeito


No pretendo reabilitar o sujeito autnomo, unitrio, perfeitamente intencional e racional que
a unidade fundamental do liberalismo. Quanto ao sujeito, ou a pessoa, minha hiptese de que
nunca houve qualquer coisa de nostlgico. O sujeito racional, liberal e individual, ou o sujeito jurdico
autnomo, nunca foram mais do que teis ou mesmo necessrias fices funcionais sem correlaes
empricas e fenomenais, apesar de seus mritos e do fato de que, em uma srie de domnios, eles
precisam ser pressupostos. No entanto, o sujeito legal deve ser pressuposto pela lei, mesmo que este
sujeito no seja de modo algum uma entidade emprica. Isso poderosamente explicado por CLRO
(2007: 76):
Pode-se, por exemplo, desafiar a existncia do Eu, de mim, desafiar as caractersticas que, de
forma espontnea ou tradicional, se atribuem ao Eu ou a mim, a de ser uma substncia, de ser
algo, de existir individualmente e como uma pessoa, pode-se igualmente refutar os
paralogismos que pretendem demonstrar suas caractersticas. Ainda assim, pode-se usar a
fico do eu para orientar comportamentos morais, finalizar condutas legais, organizar
sistemas de valores. A pessoa, desafiada no nvel ontolgico, reabilitada no nvel
deontolgico: isso razovel? Mas tambm: temos a possibilidade de fazer de outro modo?
Poderamos, subitamente, reorganizar nossa Lei, nossa tica, sem a ajuda da noo de pessoa,
no obstante a fraqueza de seu valor ontolgico? Incapaz de operar tal mudana prevejo minha
vida como a realizao de minha pessoa, a vida dos outros como promovendo valor no mesmo
terreno ou, pelo menos, digna do mesmo respeito. Digamos que a noo de pessoa uma
fico.
Assim, eu, felizmente, endosso a postura anti-humanista de Althusser (os sujeitos so
constitudos atravs da interpelao ideolgica e no preexistem a tais interpelaes); Butler (os
sujeitos se constituem dando conta de si mesmos e este gesto do dar conta, no a verdade
ou falsidade do que eles esto dizendo, que constitui os sujeitos); ou Derrida (1990) 36, de acordo
com quem a lei pressupe e constri o sujeito do direito (surgimos antes da lei com nossa vontade e
imaginao, mas sem a lei no seramos sujeitos); ou, de modo mais geral, na nica perspectiva
possvel levando em conta a herana da crtica dos anos sessenta e setenta:
De agora em diante, temos que operar com um sujeito definido no pela possibilidade de se
auto-postular, mas pela capacidade contnua de descobrir interativamente uma realidade, de

36
Ver tambm SARAT (1995).
maneiras ad hoc, e estar presente nela ao interpretar este presente real, ou, dito de outra
maneira, abrir e expor-se nela enquanto se mantm como eu, isto , como um projeto de ser
e tornar-se a si mesmo. (HABER, 2007: 213)
Essas consideraes pragmticas compreendem o eu como um processo, em vez de um
fenmeno, um processo que acontece entre os indivduos, em um espao que pressupe e constitui
o comum.37 O self como processos de subjetivao e individuao uma questo intersticial e
uma contribuio para o contnuo; nunca conseguido do esforo de recomposio individual e
coletiva da totalidade perdida no importa a natureza simblica de tal totalidade (BOURRIAUD,
1994).
Compreender que o objetivo da governamentalidade algortmica a inatual, a potencial
dimenso da existncia humana, suas dimenses da virtualidade, o modo condicional do que as
pessoas podem fazer, sua potncia ou agncia permite-nos compreender o que est em jogo aqui:
uma privao que no tem o seu oposto, a posse de si mesmo.38
Certamente, o que nos interessa no uma transparncia mtica do sujeito para si mesmo, sua
pr-existncia fingida, como uma entidade fixa, mas, ao invs disso, os processos contnuos atravs
dos quais ocorre a subjetivao e a individuao e, assim, as dimenses virtuais e utpicas da
existncia humana.39 Walter Benjamin descreveu a utopia como uma antecipao excessiva, ou uma
antecipao sempre em excesso, como o gesto de uma criana aprendendo como agarrar coisas
jogando sua mo na direo da lua (ADENSOUR, 2010: 99). Esses tipos de gestos em excesso so
modelos [design]. Eles do forma aos nossos projetos. Eles desenham motivos. Por esses gestos
tambm tomamos posio, isto , situamo-nos, apesar da atopia da governamentalidade
algortmica, tomamos consistncia (tanto como entidades fsicas quanto como trajetrias
autobiogrficas) em um exterior aberto por nosso gesto (ou enunciao), como portadores de
eventos (que no so nada mais que o encontro de circunstncias [imprevisveis] e o significado
dos gestos feitos). A motivao o desenho do motivo, a singularidade do modelo [design], para
alm da verdade e da falsidade. Tomando posio, fazendo tal gesto, no se exige tanto informao
igual, tecnologias de aprimoramento de privacidade ou transparncia, etc., que nos mantm fechados
dentro da realidade algortmica, porque exigem espaos e tempos externos para modos
heterogneos de criao de realidade.
As tecnologias de melhoria da transparncia (TETs) e as tecnologias de aprimoramento da
privacidade (PETs), etc., pretendem capacitar os indivduos e permitir a contestao, mas como eles
esto operando dentro da governamentalidade algortmica, so incapacitados porque a
governamentalidade algortmica um modo de governamentalidade sem negatividade (nenhuma
organizao do questionamento ou ameaa de produes cognitivas ou normativas). No h espao
nem tempo para contestar (mesmo que se chegue ao ponto em que tudo se torne transparente para
todos). A recalcitrncia deve vir de fora, do consistente [consistant], isto , dos corpos sensveis
animados com uma vida perceptiva (intensidade) cuja extenso no se limita infosfera.
Como encontramos um exterior, um excesso do mundo sobre a realidade, um espao de
recalcitrncia a partir do qual ganhar solidez e praticar a crtica?40 Em vez de ressuscitar as abordagens
personolgicas (simbolizadas pelo individualismo possessivo dos regimes de proteo de dados) que

37
Para uma elaborao mais detalhada da ideia de que o comum o que ameaado e o recurso privilegiado para uma
crtica da racionalidade algortmica, ver ROUVROY (2012).
38
O desafio tambm consiste em encontrar uma perspectiva crtica aps o declnio do conceito de alienao. Sobre isso,
ver HABER (2007: 151).
39
Para desenvolvimentos adicionais em torno desta idia, ver ROUVROY (2011a).
40
Ver ROUVROY (2011b).
seriam mal fundamentadas e ineficazes, devemos alcanar a participao fundamental o que deve
ser preservado como um recurso que antecede tanto o sujeito quanto a sociedade, como um excesso
do mundo sobre a realidade algortmica, o comum, esse intermdio, esse espao de surgimento
comum (comparecimento [comparution]) dentro do qual somos mutualmente tratados uns pelos
outros. O modo de tratamento que nos liga essencialmente lingustico. 41 A linguagem a forma
polifnica de nossa unio, de nossas projees comuns de transformao. Mas como algum pode
voltar a ser o que nunca foi?, perguntou Frdric Neyrat em seu magnfico livro sobre Artaud e o
encantamento ocidental.
Aqui, no / desenho / no sentido prprio da palavra, de alguma incorporao / da realidade
no desenho,42 no se trata da incorporao de uma realidade (a comum), que seria antecedente
ao desenho, porque esta realidade (do comum) precisamente aquilo que falta. (NEYRAT,
2009: 54)43
Na medida em que os sujeitos tm de dar conta de si mesmos, apesar do fato de que podem
no ter dominado as circunstncias que os fizeram agir de uma certa maneira, o motivo ou
desenho que fazem, no re-apresentam a realidade antecedente tanto quanto abre novas
possibilidades polticas no prprio lugar onde os limites da re-apresentao e representabilidade so
expostos: neste interstcio entre o mundo e a realidade, e este o exterior que ns procurvamos
(BUTLER, 2000).
Aqui se percebe, enfim, que o processo devido, a subjetivao e a crtica podem ser trs
nomes diferentes para uma mesma exigncia: falamos, precisamente, porque estamos no limite do
abismo, porque nenhum sujeito antecedente de sua enunciao e, portanto, para voltar a se juntar a
um comum que se desmorona sob nossas palavras, que nunca adquirido de forma segura, que
acontece somente como fulgurao inesperada. A exigncia esta: convocar esta forma impessoal do
comum atravs de uma linguagem que nos d consistncia individual e coletiva na distncia segura
tanto da criao de perfil [profiling] algortmico como das injunes neoliberais de desempenho e
maximizao do prazer [jouissance].
Ento, como poderamos usar as tecnologias da sociedade da informao de modo a reencantar
o comum? Fazendo deste reencantamento do comum seu principal objetivo, reconfigurando seu
projeto adequadamente quando necessrio, protegendo este objetivo por lei, buscando este objetivo
em nossas prticas. Colocar o homem na mquina, seguindo o convite de Flix Guattari, poderia
significar apenas isso: produzir interstcios em que o comum pode acontecer mesmo que estes
interstcios interrompam ou segurem a fluidez de nossa realidade tecno-capitalista produzindo
realmente a crise e, enfim, permitindo uma recomposio do que, para os seres humanos, para o
comum, aparece uma realidade humanamente consistente.
Essas consistncias precisam, para acontecer, de espaos heterotpicos espao-temporais que
interrompem fluxos digitais e capitalistas tais como as cenas judiciais, teatrais, literrias e

41
NANCY (2010: 12): O comum no associa nem dissocia, no rene nem separa, no nem substncia nem sujeito.
O comum o que ns somos tomando este termo em seu completo teor ontolgico em referncia ao outro (mais ainda,
concede existncia ao outro). O elemento desta referncia a linguagem. Esta nos dirige uns aos outros e nos dirige
todos juntos a aquilo que essencialmente faz surgir: o infinito de sentido que nenhuma significao preenche, e que,
digamos desta vez, reveste com os homens a totalidade do mundo com todo seu vigor. (...) O sentido do mundo no
garantido, nem perdido de antemo: ele desempenhado inteiramente na referncia comum que, de alguma forma, nos
proposta. Ele no sentido naquilo que levaria referncias, axiomas ou semiologias fora do mundo. desempenhado
naquilo que os existentes os falantes e os outros fazem circular a possibilidade de uma abertura, de uma respirao,
de um direcionamento que propriamente o ser-mundo do mundo.
42
ARTAUD (2004: 16) citado por NEYRAT (2009: 54).
43
Traduo da autora.
laboratoriais. Estas cenas garantem uma certa heterogeneidade dos modos de construo das
realidades contra o desenvolvimento onipresente de uma racionalidade algortmica operacional, mas
neutralizante e sem sentido.

CONCLUSO
O governo algortmico, no reconhecendo nada alm de dados infra-individuais e perfis supra-
individuais, e evitando confrontos com sujeitos, tanto fsica quanto linguisticamente (testemunho,
declarao e outras formas de representao biogrfica esto se tornando inteis na era do Big Data),
pode ser compreendido como o ponto culminante de um processo de dissipao das condies
institucionais, espaciais, temporais e lingusticas de subjetivao por causa do objetivo e
antecipao operacional de comportamentos potenciais. Um governo algortmico que molda o futuro,
afetando indivduos e grupos sobre o modo de lanar alertas e respostas reflexas, mas que nunca os
confronta nem se expe a ser desafiado pela liberdade humana, erradica as condies de crtica, priva
os seres humanos de sua potncia fundamental, que sua capacidade de emergir como sujeito
individual e coletivo em um comum que intersticial entre o mundo e a realidade. As diferenas
muito fundamentais entre o governo pela lei e o governo por algoritmos so, certamente, as seguintes:
a lei preserva agncias ou potncias individuais e coletivas, enquanto que a postura
preventiva do governo algoritmo e sua afetao de indivduos em uma fase pr-consciente ou
por reconfigurao de seus ambientes para que certos cursos de ao se tornem impraticveis,
no preserva essa agncia ou potncia;
porque organiza o desafio de suas prprias produes normativas (atravs do processo
judicial e dos processos legislativos), a lei abre o tempo e os espaos (com rituais especficos,
etc.) interrompendo a fluidez e o metabolismo em tempo real dos processos algortmicos, e
fornece uma srie de cenas onde as normas podem ser visveis, inteligveis e contestveis,
onde os sujeitos individuais e coletivos podem se tornar consistentes e dar forma ao comum.
talvez, de modo mais fundamental, porque requer que as pessoas conversem, que faam
uso da linguagem, depois dos fatos, que recordem, que relembrem os fatos, que recapitulem
os motivos de seus atos, a lei (assim como o teatro ou a literatura) especialmente no contexto
do processo judicial fornece um cenrio onde os sujeitos podem desempenhar sua autoria,
com autoridade para falar, para dar conta de si mesmo. Tornando-se sujeitos as pessoas podem,
desse modo, re-historicizar o tempo contra a total sincronizao de um espao digital do
mundo do qual todos os pontos so imediatamente contemporneos (FISCHBACH, 2011: 11-
112) em um tempo real, privando as pessoas da durao (o tempo real no uma dimenso
da vida porque a vida sempre experimentada ao longo do tempo e no como uma justaposio
de instncias sucessivas de agora). Os sujeitos contribuem para uma construo legal da
realidade em desacordo com a construo algortmica de seus perfis, bem como com
injunes de produtividade neoliberal e maximizaes de prazer. Estes cenrios privilegiados
(judicial, legislativo, teatral, literrio,...) no so ameaados hoje por tecnologias (elas tambm
poderiam ser usadas para reencantar o comum, facilitar as enunciaes e a emancipao), mas
por aquela pela qual o sucesso da governamentalidade algortmica mais do que um sintoma.
Um modo de governo motivado quase que exclusivamente pelo objetivo de fluidificao (ou
liquidao) das existncias, exigindo a supresso de tudo aquilo que se oponha indistino
do mundo e de uma realidade numrica e calculvel. Percebendo a magnitude do fenmeno e
encontrando, coletivamente, novas configuraes entre existncias humanas, leis e
tecnologias, estas seriam nossas tarefas para o presente e para o futuro, pois no existe
nenhuma necessidade de minerao de dados (datamining) para adivinhar que essas tarefas
esto destinadas a nunca ser alcanadas.

BIBLIOGRAFIA
ABENSOUR, Miguel. Lhomme est um animal utopique. Paris: Les Editions de la Nuit, 2010.
AGAMBEN, Giorgio. Enfance et histoire. Destruction de lexprience et origine de lhistoire. Paris:
Payot & Rivages, 2002. [Edio em portugus: AGAMBEN, Giorgio. Infncia e histria: destruio
da experincia e origem da histria. Belo Horizonte: Editora UFMG, 2005].
ARTAUD, Antonin. 50 dessins pour assasiner la magie. Prface dEvelyne Grossman. Paris:
Gallimard, 2004.
AYRES, Ian. Super Crunchers: why thinking-by-numbers is the new way to be smart. Random House
Publishing Group, 2007. [Edio em portugus: AYRES, Ian. Super Crunchers: por que pensar com
nmeros a nova maneira de ser inteligente. Rio de Janeiro: Editora Ediouro, 2008].
BENJAMIN, Walter. Oeuvres, III. Paris: Gallimard (Coll. Folio Essais), 2000.
BENTHAM, Jeremy. Nomography: the art of Inditing Laws. In: The Works of Jeremy Bentham,
published under the superintendence of his executor, John Bowring. Edinburgh: Willian Tait, 1838-
1843, 11 vols, Vol.3, 1843.
BOLTANSKI, Luc. De la critique. Prcis de sociologie de lmancipation. Paris: Gallimard, 2009.
BOLTANSKI, Luc; THVENOT, Laurent. De la justification. Les conomies de la grandeur. Paris:
Gallimard, 1991.
BOURRIAUD, Nicolas. Le paradigme esthtique. Revue Chimres, n 21, 1994.
BOUVERESSE, Jacques. Lhomme probable. Robert Musil, le hasard, la moyenne et lescargot de
lhistoire. Paris: Lclat, 1993.
BUTLER, Judith. Antigones Claim, Kinship Between Life and Death. New York: Columbia
University Press, 2000. [Edio em portugus: BUTLER, Judith. O clamor de Antgona: parentesco
entre a vida e a morte. Florianpolis: Editora da UFSC, 2014].
CITTON, Yves. Lavenir des humanits. Economie de la connaissance ou cultures de
linterpretation. Paris: La Dcouverte, 2010.
CLRO, Jean-Pierre. Quelques difficults symptomatiques de la thorie benthamienne des fictions.
Cahiers critiques de philosophie, n 04, 2007.
CUKIER, Kenneth. Data, data everywhere. Interview with Kenneth Cukier. The Economist, Feb.
25th, 2010. See in: https://www.economist.com/node/15557443.
DELEUZE, Gilles. Spinoza. Philosophie pratique. Paris: Editions de Minuit, 2003. [Edio em
portugus: DELEUZE, Gilles. Espinosa: filosofia prtica. So Paulo: Escuta, 2002].
DELEUZE, Gilles.; GUATTARI, Flix. Mille plateaux. Paris: Editions de Minuit, 1980. [Edio em
portugus: DELEUZE, Gilles; GUATTARI, Flix. Mil Plats (5 volumes). Rio de Janeiro: Editora
34, 1995 (Coleo Trans)].
DELEUZE, Gilles.; PARNET, Claire. Dialogues. Paris: Flammarion (Coll. Champs), 1996. [Edio
em portugus: DELEUZE, Gilles; PARNET, Claire. Dilogos. So Paulo: Escuta, 1998].
DERRIDA, Jacques. Force of Law: the Mystical Foundation of Authority. Cardozo Law Review,
n 11, p. 919-1045. [Edio em portugus: DERRIDA, Jacques. Fora de Lei: o fundamento mstico
da autoridade. So Paulo: Editora Martins Fontes, 2002].
DESROSIRES, Alain. Gouverner par les nombres. LArgument statistique II. Paris: Presses de
lEcole des Mines, 2008.
DESROSIRES, Alain. Est-il bom, est-il mchant? Le role du nombre dans le gouvernement de la
cite nolibrale. Communication at the workshop Linformazione prima dellinformazione.
Conoscenza e scelte pubbliche. Universit de Milan Bicocca, 27 mai 2010.
DIDI-HUBERMAN, Georges. Quand les images prennent position. Loeil de lhistoire, I. Paris:
Editions de Minuit, 2009. [Edio em portugus: DIDI-HUBERMAN, Georges. Quando as imagens
tomam posio: o olho da histria, I. Belo Horizonte: Editora UFMG, 2017].
ECO, Umberto. A Theory of Semiotics. Bloomington: Indiana University Press, 1976.
FISCHBACH, Franck. La privation du monde. Temps, espace et capital. Paris: Vrin, 2011.
FOUCAULT, Michel. Quest-ce que la critique?. Proceedings of the session of 27 May 1978,
Bulletin de la Socite Franaise de Philosophie, 1990.
GENERAL ACCOUNTING OFFICE. Data Mining: Federal Efforts Cover a Wide Range of Uses.
Reports & Testimony Newsletter. Stonehenge International, 2004.
GENOSKO, Gary. Banco sur Flix. Signes partiels a-signifiants et technologie de linformation.
Revue Multitudes, n 34, p. 63-73, 2008.
GONZALEZ FUSTER, Gloria; GUTWIRTH, Serge and ELLYNE, Erika. Profiling in the European
Union: a high-risk practice, INEX Policy Brief, n 10, Centre for European Studies (CEPS), INEX,
2010.
GUATTARI, Flix. Rvolution molculaire. Paris: Recherches, 1977 (Coll. Encres). [Edio em
portugus: GUATTARI, Flix. Revoluo molecular: pulsaes polticas do desejo. So Paulo:
Editora Brasiliense, 1985].
HABER, Stphane. Lalination. Vie sociale et exprience de la dpossession. Paris: PUF, 2007.
HENMAN, Paul. Conditional Citizenship? Electronic Networks and the New Conditionality in
Public Policy. Policy & Internet, Vol. 03, Issue 03, Article 05. See in:
http://www.psocommons.org/policyandinternet/vol3/iss3/art5/?sending=11513
HOHFELD, Wesley. Some Fundamental Legal Conceptions as Applied in Judicial Reasoning. Yale
Law Journal, vol. 23, n 16, 1913.
LAPLACE, Pierre-Simon. Essai philosophique sur les probabilits. Paris: Courcier, 1814.
LEBLANC, Guillaume. Les maladies de lhomme normal. Paris: Editions du Passant, 2007 (Coll.
Poches de Rsistance).
LEGENDRE, Pierre. De la Socit comme texte. Linaments dune anthropologie dogmatique. Paris:
Fayard, 2001.
NANCY, Jean-Luc. Ladoration (Dconstruction du Christianisme, II). Paris: Galile, 2010. [Edio
em portugus: NANCY, Jean-Luc. A adorao (Desconstruo do Cristianismo, II). Coimbra: Terra
Ocre Edies, 2014].
NEYRAT, Frdric. Biopolitique des catastrophes. Paris: Editions MF, 2008 (Coll. Dehors).
NEYRAT, Frdric. Instructions pour une prise dmes. Artaud et lenvotement occidental. Paris:
La Phocide, 2009.
NEYRAT, Frdric. Dsajointement: lexistence, son amour et as haine. Revue Variations [online],
n 15, 2011. In: https://variations.revues.org/91
QUETELET, Adolphe. Sur lhomme et le dveloppement de ses facultes, ou Essai de physique
sociale. Paris: Bachelier, 1835.
RONELL, Avital. Teste Drive. Chicago: University of Illinois Press, 2005.
ROUVROY, Antoinette. Face la gouvernementalit algorithmique, repenser le sujet de droit
comme puissance, 2012. In: https://works.bepress.com/antoinette_rouvroy/43
ROUVROY, Antoinette. Epilogue Technological mediation and human agency as recalcitrance.
In: HILDEBRANDT, Mireille; ROUVROY, Antoinette (eds.). Law, Human Agency and Autonomic
Computing: the philosophy of law meets the philosophy of technology. New York: Routledge, 2011.
ROUVROY, Antoinette. Technology, virtuality and utopia: governmentality in na age of autonomic
computing. In: HILDEBRANDT, Mireille; ROUVROY, Antoinette (eds.). Law, Human Agency and
Autonomic Computing: the philosophy of law meets the philosophy of technology. New York:
Routledge, 2011.
ROUVROY, Antoinette; BERNS, Thomas. Le nouveau pouvoir statistique: ou quando le contrle
sexerce sur um rel norm, docile et sans vnement car constitu de corps numriques.... Revue
Multitudes, n 40, p. 88-103, 2010.
SARAT, Austin. A Prophecy of Possibility: Metaphorical Explorations of Postmodern Legal
Subjectivity. Law and Society Review, vol. 29, n 04, p. 615-630, 1995.
SPINOZA, Baruch. thique. Livre III, scolie 2. Paris: PUF, 1990. [Edio em portugus: Espinosa,
Baruch de. tica. So Paulo: EDUSP, 2015].
SUPIOT, Alain. Lesprit de Philadelphie. La justice sociale face au march total. Paris: Seuil, 2010.
[Edio em portugus: SUPIOT, Alain. O Esprito de Filadlfia: a justia social diante do mercado
total. Porto Alegre: Sulina, 2014].
VIDAL, Jrome. La fabrique de limpuissance 1. La gauche, les intellectuels et le libralisme
scuritaire. Paris: ditions Amsterdam, 2008.
ZARSKY, Tal Z. Governmental Data Mining and its Alternatives. Penn Stat Law Review, vol 116,
n 02, p. 285-330, 2011.