Big Other: surveillance capitalism and the prospects of an information civilization

Shoshana Zuboff

O artigo descreve uma lógica emergente de acumulação na esfera em rede, o “capitalismo

de vigilância”, e considera suas implicações para uma ‘civilização da informação’. A lente
pela qual se olhará esse fenômeno são as práticas institucionais e as premissas operacionais
da Google Inc. A autora analisa dois artigos publicados pelo economista chefe da empresa,
Hal Varian. Varian afirma 4 usos que seguem às transações mediadas por computadores:
1) extração e análise de dados;
2) novas formas contratuais devido ao monitoramento mais eficaz das transações via
computador;
3) personalização e customização dessas transações;
4) experimentos contínuos.

O exame da natureza e das consequências desses usos joga luz na lógica implícita no
capitalismo de vigilância e na arquitetura global da mediação por computadores sobre a
qual se assenta o capitalismo de vigilância. Essa arquitetura produz uma nova expressão de
poder não contestada que eu batizei de Big Other, constituída por mecanismos
frequentemente ilegíveis (porque não somos informados a esse respeito) e inesperados de
extração, comodificação e controle que eficientemente exila as pessoas de seus próprios
comportamentos enquanto produz novos mercados de predição e modificação do
comportamento. O capitalismo de vigilância desafia as normas democráticas e se afasta de
maneira importante do capitalismo de mercado desenvolvido ao longo de séculos.

Introdução

Ela abre essa parte com uma citação de um relatório da Casa Branca de 2014 em que se lê:
“A trajetória tecnológica é clara: mais e mais dados serão gerados sobre indivíduos e irão
persistir sob o controle de outros”. Essa frase a fez lembrar-se de um artigo de Varian em
que ele dizia a respeito da descoberta de que o Google retinha o histórico de buscas
individuais e que também os disponibilizava para agências de segurança e law enforcement
estatais. Ele dizia: “Se você tem algo que não queira que ninguém saiba talvez você não
devesse, em primeiro lugar, nem fazer isso, mas se você realmente precisa desse tipo de
privacidade a realidade é que ferramentas de busca, incluindo o Google, retêm sim essas
informações por algum tempo... é possível que essas informações possam ser
disponibilizadas às autoridades.”
Para a autora, essas afirmações têm em comum é a atribuição de agência à ‘tecnologia’: “O
Big Data é apresentado como a inevitável consequência de um superpoder (a juggernaut)
tecnológico com vida própria inteiramente fora do social. Nós não somos nada a não ser
espectadores.”
Para ela Big Data é não é uma tecnologia ou um efeito inevitável da tecnologia, não é um
processo autônomo como outros gostariam de nos fazer pensar. Nesse artigo exploro a
proposição de que big data é acima de todos os seus componentes fundacionais uma nova
lógica de acumulação profundamente intencional e altamente cheia de consequências que
eu chamo de capitalismo de vigilância. Essa nova forma de capitalismo da informação deseja
predizer e modificar o comportamento humano como um meio de produzir receita/lucro e
controlar o mercado.
Ela localiza a constituição gradual desse tipo de capitalismo na última década (artigo é de
2015) incorporando novas relações sociais e políticas. Enquanto big data pode ter outros
usos, esses outros usos não apagam suas origens num projeto de extração fundado na
‘indiferença formal’ às populações que são ao mesmo tempo fontes de dados e alvos finais
da big data.
O artigo se propõe a delinear as características epistêmicas do big data, que ela considera
que são heterogêneas, não estruturadas, trans-semióticas, descontextualizadas e
agnósticas, e também iluminar as descontinuidades epistemológicas que tais dados trazem
para os métodos e a mentalidade das corporações.
Ela cita Constantiou e Kallinikos que falam dos mistérios da black box e de como haveria
uma transformação da economia e da sociedade contemporânea que fazem da
cotidianidade (everydayness) dos dados um componente intrínseco da vida organizacional e
institucional.
O objetivo é mostrar em que transformações o ‘big data’ está embebido: “the migration of
everydayness as a commercialization strategy; the blurring of divisions; the nature of the
firm and its relation to populations.”
Ela começa com: “a close examination of two articles by Google Chief Economist Hal Varian
that disclose the logic and implications of surveillance capitalism as well as ‘big data’s’
foundational role in this new regime.”
Computer mediation meets the logic of accumulation

Ela começa por definir o que chama de ‘computer mediation’ que não se trata de uma
simples substituição do trabalho humano pela máquina, mas de isso + produção incessante
de dados:

“I distinguished ‘computer-mediated’ work from earlier generations of mechanization and

automation designed to substitute for or simplify human labor (e.g. Zuboff, 1988, 1985,
1982). I observed that information technology is characterized by a fundamental duality that
had not yet been fully appreciated. It can be applied to automate operations according to a
logic that hardly differs from that of centuries past: replace the human body with machines
that enable more continuity and control. But when it comes to information technology,
automation simultaneously generates information that provides a deeper level of
transparency to activities that had been either partially or completely opaque. It not only
imposes information (in the form of programmed instructions), but it also produces
information. The action of a machine is entirely invested in its object, but information
technology also reflects back on its activities and on the system of activities to which it is
related. This produces action linked to a reflexive voice, as computer-mediation symbolically
renders events, objects, and processes that become visible, knowable, and shareable in a
new way. This distinction, to put it simply, marks the difference between ‘smart’ and
‘dumb.’” P 76
Mais a frente ela diz: tecnologia da informação tem a capacidade de ao mesmo tempo
automatizar e informar, ela chama isso de informate. Para ela o que informate faz por meio
do trabalho mediado por computadores é estender a codificação organizacional resultando
em uma textualização compreensiva do ambiente de trabalho, o que ela chama de texto
eletrônico. Esse texto eletrônico do mundo do trabalho cria novas formas de aprendizado e
mais importante que a divisão do trabalho passa a ser a divisão do aprendizado que conta.
“That text created new opportunities for learning and therefore new contests over who
would learn, how, and what. Once a firm is imbued with computer mediation, this new
‘division of learning’ becomes more salient than the traditional division of labor. Even at the
early stages of these developments in the 1980s, the text was somewhat heterogeneous. It
reflected production flows and administrative processes along with customer interfaces, but
it also revealed human behavior: phone calls, keystrokes, bathroom breaks and other signals
of attentional continuity, actions, locations, conversations, net- works, specific engagements
with people and equipment, and so forth.”

Sobre essa nova divisão de aprendizado no mundo do trabalho ela também diz:
“Realtime information-based computer-mediated learning has become so endogenous to
everyday business activities that the two domains are more or less conflated. This is what
most of us do now as work. These new facts are institutionalized in thousands, if not
millions, of new species of action within firms. Some of these are more formal: continuous
improvement methodologies, enterprise integration, employee monitoring, ICT systems
that enable the global coordination of distributed manufacturing operations, professional
activities, teams, customers, supply chains, inter-firm projects, mobile and temporary
workforces, and marketing approaches to diverse configurations of consumers. Some are
less formal: the unceasing flow of email, online search, smartphone activities, apps, texts,
video meetings, social media interactions, and so forth.”

Ela reafirma que nada disso são ‘coisas em si mesmas’, mas estão embebidas no social, suas
possibilidades são circunscritas pela autoridade e pelo poder. O ponto chave para ela aqui é
que quando se trata da esfera do mercado o texto eletrônico já é organizado pela lógica da
acumulação em que está embebido e com os conflitos inerentes a essa lógica. A lógica da
acumulação produz suas próprias relações sociais e com isso concepções de usos de
autoridade e poder.

Na história do capitalismo cada era correu na direção de uma lógica dominante de

acumulação. E em cada lógica dominante de acumulação tem de haver a emergência de
novas formas de mercado para suprir as necessidades sempre em evolução das populações
e as mudanças na demanda.
“This helps to explain why there is so little real competitive differentiation within industries. Airlines, for
example, have immense information flows that are interpreted along more or less similar lines toward similar
aims and metrics, because firms are all evaluated according to the terms of a single shared logic of
accumulation. The same could be said for banks, hospitals, telecommunications companies, and so forth.

Still, capitalism’s success over the longue durée has depended upon the emergence of new market forms
expressing new logics of accumulation that are more successful at meeting the ever-evolving needs of
populations and their expression in the changing nature of demand.”

Com as interações sendo mediadas por computadores entre 3 dos 7 bilhões de pessoas no
mundo (pervasive computer mediation) cada aspecto do mundo é processado em uma nova
dimensão simbólica quando eventos, processos e pessoas se tornam visíveis, conhecíveis e
compartilháveis de um novo modo. O mundo renasce como dados e o texto eletrônico é
universal em escala e escopo.
Continua a autora: minha ambição é começar a tarefa de iluminar uma lógica emergente de
acumulação que disputa por hegemonia nos espaços das redes hoje em dia. Sua lente
primária no artigo é o Google, que é amplamente considerada a pioneira do big data e
também do que ela chama de capitalismo de vigilância, essa lógica ampla de acumulação.
Essa lógica de acumulação de informação não é apenas compartilhada por Facebook e
outras firmas baseadas na Internet, mas parece ter se tornado o modelo padrão da maior
parte das start-ups e aplicativos.
Começa a discussão com as características dos dados na big data e como eles são gerados.
Ela afirma que quer considerar seus significados individuais, sociais e políticos.

A informatização da economia é constituída por um registro penetrante e contínuo dos

detalhes de cada transação. Nessa visão, a mediação por computadores torna a economia
transparente e conhecível, é um contraste afiado à ideal liberal clássica do mercado como
intrinsicamente inefável e desconhecido. Dada essa nova natureza do mercado de ser
conhecível, Varian afirma 4 novos usos que se seguem as transações mediadas por
computador: extração e análise de dados; novas formas contratuais devido ao melhor
monitoramento; personalização e customização; e experimentação contínua. Cada um
desses usos oferece insights para uma lógica de acumulação emergente, a divisão do
aprendizado que ela forma e o caráter de civilização informacional na direção que isso leva.

Em seguida ela analisa cada uma em separado, nessa ordem: dados, extração e análises.
Dados:

A primeira fonte de dados são as transações econômicas que hoje em dia são
completamente mediadas por computadores. Para ela, outra fonte de produção de dados
para big data são os sensores em objetos, corpos e lugares, os quais ela acredita que
crescerão exponencialmente. Uma terceira fonte de dados flui das datas-bases corporativas
e governamentais, incluindo aquelas associadas com bancos, intermediários de
pagamentos, agencias de avaliação de crédito, empresas aéreas, registros de censo e
impostos, operadoras de saúde, cartão de crédito, seguros, laboratórios farmacêuticos,
telecomunicações e mais…
os dados produzidos por todas essas fontes são comprados, agregados, analisados,
empacotados e vendidos por corretores de dados (data brokers) que operam em segredo,
fora dos códigos de defesa do consumidor e sem o conhecimento, autorização ou direitos
de privacidade do consumidor. Uma quarta fonte de dados flui das câmeras de segurança
públicas e privadas, incluindo smartphones, satélites, Google Earth etc. Ela lembra aqui que
carros do Google Street View estavam equipados com dispositivos que permitiam roubar
dados de redes wifi particulares residenciais. Ela afirma que muito processos judiciais ainda
correm nas cortes de diferentes países contra o Google por conta disso. E para ela esse é o
modus operandi de empresas como Google: entrar em territórios privados sem defesa até
que alguma resistência é encontrada. Nas palavras de um consumidor: “o Google coloca a
inovação acima de qualquer coisa e resiste a pedir permissão.” O Google cansa seus
adversários em longas batalhas judiciais e até concorda em pagar multas que são irrisórias
perto de seus lucros. Quanto a isso ela diz que esse modus operandi do Google e outas
empresas foi chamado de imperialismo de infraestrutura, conceito de Siva Vaihyanathan.

Haveria um ponto de encontro entre demanda e oferta na curva dos fluxos de dados.

“These institutionally produced data flows represent the ‘supply’ side of the computer-mediated interface. With
these data alone it is possible to construct detailed individual profiles. But the universality of computer-
mediation has occurred through a complex process of causation that includes subjective activities too – the
demand side of computer-mediation. Individual needs drove the accelerated penetration curves of the Internet.”

Existe, portanto, a oferta e a demanda de dados. O fluxo de dados produzidos

institucionalmente representa a oferta. O lado da demanda está ligado ao complexo
processo de causalidade que inclui atividades subjetivas também, necessidades individuais
dirigiram as aceleradas curvas de penetração da Internet. Em 2010 uma pesquisa da BBC
mostrou que 76% das pessoas em 26 países consideravam acesso a internet como um
direito humano fundamental.

Abaixo ela fala da esfera individual em rede caracterizada por formas não mercadológicas
de produção social, e me parece que ela está se referindo as redes sociais e que essa seria a
quinta fonte de dados. O big data é constituído da captura de pequenos dados de ações de
indivíduos mediadas por computador e enunciados em suas buscas de vida efetiva.

“These subjectivities of self-determination [busca das pessoas por expressar sua voz, sua opinião, suas agências
políticas etc.] found expression in a new networked individual sphere characterized by what Benkler (2006)
aptly summarized as non-market forms of ‘social production.’ These non-market activities are a fifth principal
source of ‘big data’ and the origin of what Constantiou and Kallinikos (2014) refer to as its ‘everydayness.’ ‘Big
data’ are constituted by capturing small data from individuals’ computer-mediated actions and utterances in
their pursuit of effective life. Nothing is too trivial or ephemeral for this harvesting: Facebook ‘likes,’ Google
searches, emails, texts, photos, songs, and videos, location, communication patterns, networks, purchases,
movements, every click, misspelled word, page view, and more. Such data are acquired, data fied, abstracted,
aggregated, analyzed, packaged, sold, further analyzed and sold again. These data flows have been labeled by
technologists as ‘data exhaust.’ Presumably, once the data are redefined as waste material, their extraction and
eventual monetization are less likely to be contested.”

Pela importância de todos esses dados aparentemente insignificantes é que a Google fez
questão, por exemplo, de prover wifi grátis nas cafeterias Starbucks do mundo todo com
exclusividade. Como a autora nota, é preciso ter uma quantidade enorme desses dados para
fazê-los funcionar em modelos de predição. Segundo ela, mais do que qualidade é preciso
qualidade e isso tem um efeito, que seria a indiferença formal aos usuários:

“What matters is quantity not quality. Another way of saying this is that Google is ‘formally indifferent’ to what
its users say or do, as long as they say it and do it in ways that Google can capture and convert into data.”

Extração

O que importa é quantidade e não qualidade para os modelos de predição, então Google é
formalmente indiferente ao que os usuários dizem ou fazem, contando que eles digam o
façam de modo que o google possa capturar e converter em dados. Essa indiferença formal
é uma característica proeminente, talvez decisiva, da lógica de acumulação emergente sob
análise aqui. Isso nos leva à ideia de extração dos dados que por sua vez ilumina as relações
sociais implicados pela indiferença formal.
Sobre o processo de extração ela diz que é um processo de mão única, não uma relação.
Extração conota ‘retirar de’ em vez de ‘dar a’ ou uma reciprocidade de ‘dar e receber’. O
processo extrativo que faz a big data tipicamente ocorre na ausência de diálogo ou
consenso a despeito do fato de serem sinais de fatos e da subjetividade de vidas individuais.

“These subjectivities travel a hidden path to aggregation and decontextualization, despite the fact that they are
produced as intimate and immediate, tied to individual projects and contexts (Nissembaum, 2011).”

Noção de sinais de subjetividades individuais: é isso que é extraído pelo Google. E decorre
dessa extração uma comodificação da subjetividade.

“Indeed, it is the status of such data as signals of subjectivities that makes them most valuable for advertisers.
For Google and other ‘big data’ aggregators, however, the data are merely bits. Subjectivities are converted into
objects that repurpose the subjective for commodification. Individual users’ meanings are of no interest to
Google or other firms in this chain.”

Para ela, o modo como o Google extrai esses sinais de subjetividade é violento, pois é
baseado sempre naquele modus operandi de ir até onde for e só parar se encontrar
resistências/defesas dos usuários ou da lei. Se não fosse por Edward Snowden ainda não
saberíamos de como as operações dessas empresas se dão e se misturam com ações dos
governos.
A longa lista de aspectos pelos quais a Google é processada judicialmente inclui:

“Google has faced legal opposition and social protest in relation to claims of (1) the scanning of email, including
those of non-Gmail users and those of students using its educational apps (Herold, 2014; Plummer, 2014), (2)
the capture of voice communications (Menn et al., 2010), (3) bypassing privacy settings (Angwin, 2012; Owen,
2014), (4) unilateral practices of data bundling across its online services (CNIL, 2014; Doyle, 2013), (5) its
extensive retention of search data (Anderson, 2010; O’Brien and Crampton, 2007), (6) its tracking of
smartphone location data (Mick, 2011; Snelling, 2014), and (7) its wearable technologies and facial recognition
capabilities (EPIC, 2014a, https://epic. org/privacy/google/glass/). These contested data gathering moves face
substantial opposition in the EU as well as the US (Barker and Fontanella-Khan, 2014; Gabriel, 2014; Garside,
2014; Kopczynski, 2014; Mance et al., 2014; Steingart, 2014; Vasagar, 2014).”

Ela conclui que os processos de extração resumem a ausência estrutural de reciprocidade

entre a firma e suas populações. Para ela, isso coloca Google e empresas como ela, que
fazem parte desse tipo de acumulação, fora da curva da história das democracias de
mercado no ocidente.

“That market form intrinsically valued its populations of newly modernizing individuals as its source of
employees and customers; it depended upon its populations in ways that led over time to institutionalized
reciprocities. In return for its rigors, the form offered a quid pro quo that was consistent with the self-
understanding and demand characteristics of its populations.”
Ou seja, ela localiza nessa ideia de indiferença formal uma mudança nas formas de
capitalismo, no capitalismo de vigilância essa indiferença com as populações é bastante
característica do novo modo de acumulação. Ela recorre à Henry Ford e Adam Smith para
aclarar seu ponto de vista de que uma certa reciprocidade existia em formas anteriores do
capitalismo. Tal reciprocidade teria sido o que permitiu o surgimento de uma ampla classe
média.

“The firm, Ford realized, had to value the worker-consumer as a fundamental unity and the essential component
of a new mass production capitalism. This social contract hearkened back to Adam Smith’s original insights into
the productive reciprocities of capitalism, in which price increases were balanced with wage increases, ‘so that
the labourer may still be able to purchase that quantity of those necessary articles which the state of the demand
for labour ... requires that he should have’ (Smith, 1994: 939–940). It was these reciprocities that helped
constitute a broad middle class with steady income growth and a rising standard of living.”

Diferentemente desse capitalismo do passado, Google e congêneres têm pouco interesse

em seus usuários como empregados. Esse padrão é verdadeiro em escala de companhias de
alta tecnologia que atingem crescimento principalmente por alavancar a automação. Para
finalizar essa sessão ela diz que essa independência da empresa de sua população é um
assunto de importância excepcional à luz da relação histórica entre mercado capitalista e
democracia. Ela cita o modo como democracia e capitalismo estiveram entrelaçados no
passado.

“Acemoglu and Robinson elaborate the mutual structuring of (1) early industrial capitalism’s dependency on the
masses, (2) prosperity, and (3) the rise of democracy in 19th-century Britain.”

No caso da lógica de acumulação do capitalismo de vigilância o que se tem é o contrário,

não só uma ausência de supervisão dos estados democráticos quanto ameaça à democracia
quando os estados propõem algum controle:

On the contrary, despite its [da Google] role as the ‘chief utility for the World Wide Web’ (Vaidhyanathan,
2011: 17) and its substantial investments in technologies with explosive social consequences such as arti ficial
intelligence, robotics, facial recognition, wearables, nanotechnology, smart devices, and drones, Google has not
been subject to any meaningful public oversight (see e.g. the discussion in Vaidhyanathan, 2011: 44– 50; see
also Finamore and Dutta, 2014; Gibbs, 2014; Trotman, 2014; Waters, 2014). In an open letter to Europe, Google
Chairperson Eric Schmidt recently expressed his frustration with the prospect of public oversight, characterizing
it as ‘heavy-handed regulation’ and threatening that it would create ‘serious economic dangers’ for Europe
(Schmidt, 2014).”

Essa tensão me parece semelhante ao que você viu das falas dos governos nos eventos de
inovação que você assistiu.
Análises:
A indiferença formal e a distância funcional em relação às populações na acumulação no
capitalismo de vigilância são ainda mais institucionalizadas no processo de análise dos
dados.
Ela caracteriza as empresas como Google, alibaba, facebook etc. como de hiper-escala.

“... data centers require millions of ‘virtual servers’ that exponentially increase computing capabilities without
requiring substantial expansion of physical space, cooling, or electrical power demands. Hyperscale businesses
exploit digital marginal cost economics to achieve scale quickly at costs that approach zero.”

Por outro lado, esse tipo de empresa requer materiais e conhecimentos altamente
especializados que são necessários para a análise dos dados e separam o significado
subjetivo do resultado objetivo ainda mais.
Ao analisar as afirmações de Varian sobre a conjunção de dados, extração e análise, a
autora acredita encontrar algumas características chave do novo tipo de acumulação
capitalista associada a big data:

“First, revenues depend upon data assets appropriated through ubiquitous automated operations. These
constitute a new asset class: surveillance assets. Critics of surveillance capitalism might characterize such assets
as ‘stolen goods’ or ‘contraband’ as they were taken, not given, and do not produce, as I shall argue below,
appropriate reciprocities. (…) These surveillance assets attract significant investment that can be called
surveillance capital. Google has, so far, triumphed in the networked world through the pioneering construction
of this new market form that is a radically disembedded and extractive variant of information capitalism, one
that can be identified as surveillance capitalism.”

Aqui ela faz a passagem do capitalismo de informação para o capitalismo de vigilância.

Monitoramento e Contratos
“Varian says, ‘Because transactions are now computer mediated, we can observe behavior
that was previously unobservable and write contracts on it. This enables transactions that
were simply not feasible before... Computer-mediated transactions have enabled new
business models ...’”
Ela cita exemplos dados por Varian sobre o tema em que ele fala de seguradoras de carro
que poderiam contar com sistemas de monitoramento para checar se motoristas estariam
dirigindo de modo seguro; carros que poderiam ser rastreados e impedidos de funcionar
remotamente pelas vendedoras caso o cliente pare de pagar as mensalidades etc. A autora
declara: “Varian does not appear to realize that what he is celebrating here is not new
contract forms but rather the ‘un-contract.’”
Para a autora, a visão de Varian dos usos das transações mediadas por computadores
esvaziam os contratos de incertezas e eliminam a necessidade, ou mesmo a possibilidade,
de confiança. “Outro modo de dizer isso é que contratos são suspensos do social e
reimaginados como processos de máquinas.”
Evocando autores como Durkheim, Weber e Hanna Arendt que falam sobre contrato social,
confiança, solidariedade orgânica e etc. ela diz que Varian vai na contramão de tudo isso e
que em sua visão de futuro a comunidade humana já falhou e a confiança já morreu. Ao
contrário do que afirmaria VArian, isto é, a possibilidade de novos contratos, os arranjos que
Varian propõe descrevem o surgimento de uma nova arquitetura universal existindo entre a
natureza e Deus, o que ela chama de Big Other:

“It is a place adapted to the normalization of chaos and terror where the last vestiges of trust have long since
withered and died. Human replenishment from the failures and triumphs of asserting predictability and
exercising over will in the face of natural uncertainty gives way to the blankness of perpetual compliance.
Rather than enabling new contractual forms, these arrangements describe the rise of a new universal architecture
existing somewhere between nature and God that I christen Big Other. It is a ubiquitous networked institutional
regime that records, modifies, and commodifies everyday experience from toasters to bodies, communication to
thought, all with a view to establishing new pathways to monetization and profit. Big Other is the sovereign
power of a near future that annihilates the freedom achieved by the rule of law.”

A autora segue em sua conceituação do Big Other que não só aniquila a liberdade individual
alcançada pelo espado democrático de direito como deseja encompassar os
comportamentos biológicos, físicos, sociais e mercadológicos.

“It is a new regime of independent and independently controlled facts that supplants the need for contracts,
governance, and the dynamism of a market democracy. Big Other is the 21st-century incarnation of the
electronic text that aspires to encompass and reveal the comprehensive immanent facts of market, social,
physical, and biological behaviors.”

A autora afirma que o Big Other reconfigura as estruturas de poder, a conformação ao

poder e as possíveis resistências a ele, o Big Other está além do Big Brother e do panóptico:

“The panopticon was a physical design that privileged a single point of observation. The anticipatory conformity
it induced required the cunning production of specific behaviors while one was inside the panopticon, but that
behavior could be set aside once one exited that physical place. In the 1980s it was an apt metaphor for the
hierarchical spaces of the workplace. In the world implied by Varian’s assumptions, habitats inside and outside
the human body are saturated with data and produce radically distributed opportunities for observation,
interpretation, communication, influence, prediction, and ultimately modification of the totality of action. Unlike
the centralized power of mass society, there is no escape from Big Other. There is no place to be where the
Other is not.”

A agência humana se torna uma questão de estímulo e resposta ao estímulo.

“Each one of us may follow a distinct path, but that path is already shaped by the financial and, or, ideological
interests that imbue Big Other and invade every aspect of ‘one’s own’ life.”

Pouco adiante a autora fala de como a comodificação do comportamento se dará. A

alienação nos termos marxistas não deriva mais da relação alienada com a produção mas da
alienação da modificação do comportamento tornado mercadoria. Não é mais a
propriedade dos meios de produção que importa, mas a propriedade dos meios de
modificação do comportamento.

“False consciousness is no longer produced by the hidden facts of class and their relation to production, but
rather by the hidden facts of commoditized behavior modification. If power was once identified with the
ownership of the means of production, it is now identified with ownership of the means of behavioral
modification.”

A autora prevê como resultado disso a redução de ‘pessoas humanas’ à condição de ‘meros
animais’ que apenas se curvam às novas leis do capitalismo. Ela cita Hanna Arendt
novamente, para quem era uma redução considerar o pensamento como algo que é
realizado por um cérebro e é transferível para um instrumento eletrônico.
Para ela, contratos e o estado democrático de direito são substituídos por um novo sistema
de punições e recompensas, algo tipo teoria behaviorista de adestramento de cães. Isso é o
que ela infere de passagens de Varian em que ele diz por exemplo:

“According to Varian, people agree to the ‘invasion of privacy’ represented by Big Other if they ‘get something
they want in return ... a mortgage, medical advice, legal advice – or advice from your personal digital assistant’
(2014: 30). He is quoted in a similar vein by a PEW Research report, ‘Digital Life in 2025:’ ‘There is no putting
the genie back in the bottle ... Everyone will expect to be tracked and monitored, since the advantages, in terms
of convenience, safety, and services, will be so great ... continuous monitoring will be the norm (PEW Research,
2014).”

E aqui a autora entra na questão da privacidade, para a qual ela não vê um fim, mas uma
transformação, uma redistribuição da privacidade com a concentração da mesma em
poucas mãos:

“This question opens the way to another radical, perhaps even revolutionary, aspect of the politics of
surveillance capitalism. This concerns the distribution of privacy rights and with it the knowledge of and choice
to accede to Big Other. Covert data capture is often regarded as a violation, invasion, or erosion of privacy
rights, as Varian’s language suggests. In the conventional narrative of the privacy threat, institutional secrecy
has grown, and individual privacy rights have been eroded. But that framing is misleading, because privacy and
secrecy are not opposites but rather moments in a sequence. (...) The work of surveillance, it appears, is not to
erode privacy rights but rather to redistribute them. Instead of many people having some privacy rights, these
rights have been concentrated within the surveillance regime. Surveillance capitalists have extensive privacy
rights and therefore many opportunities for secrets. These are increasingly used to deprive populations of choice
in the matter of what about their lives remains secret. This concentration of rights is accomplished in two ways.
In the case of Google, Facebook, and other exemplars of surveillance capitalism, many of their rights appear to
come from taking others’ without asking – in conformance with the Street View model. Surveillance capitalists
have skillfully exploited a lag in social evolution as the rapid development of their abilities to surveil for pro fit
outrun public understanding and the eventual development of law and regulation that it produces. In result,
privacy rights, once accumulated and asserted, can then be invoked as legitimation for maintaining the obscurity
of surveillance operations.”

Portanto, afirma a autora, o que se está a acumular nesse novo modo de acumulação
capitalista não é apenas capital e ativos, mas também direitos. O que a leva a qualificar o
capitalismo de vigilância como um golpe contra o estado de direito.

“Surveillance capitalism thus qualifies as a new logic of accumulation with a new politics and social relations
that replaces contracts, the rule of law, and social trust with the sovereignty of Big Other. It imposes a privately
administered compliance regime of rewards and punishments that is sustained by a unilateral redistribution of
rights. Big Other exists in the absence of legitimate authority and is largely free from detection or sanction. In
this sense Big Other may be described as an automated coup from above: not a coup d’état, but rather a coup
des gens.”

[segundo o Google um ‘coupe de gens’ é um golpe em que pessoas são substituídas por
sistemas de informação abstratos.]

Personalização e Comunicação

Nessa seção a autora fala dos planos do Google de ‘personalização’ que na verdade são
planos de adivinhar o que queremos e nos oferecer antes que pensemos nisso.

“Varian claims that ‘nowadays, people have come to expect personalized search results and ads.’ He says that
Google wants to do even more. Instead of having to ask Google questions, it should ‘know what you want and
tell you before you ask the question.’ ‘That vision,’ he asserts, ‘has now been realized by Google Now ...’
Varian concedes that ‘Google Now has to know a lot about you and your environment to provide these services.
This worries some people’ (2014: 28). However, Varian reasons that people share such knowledge with doctors,
lawyers, and accountants whom they trust. He then continues, ‘Why am I willing to share all this private
information? Because I get something in return ...’ (2014: 28).”

A autora diz que a confiança que tínhamos em advogados, médicos e etc. é justamente o
que falta em nossa relação com o Google, uma vez que essas informações nos são
subtraídas e não concedidas ao Google conscientemente. E que o Google conhece suas
populações mais que elas mesmas se conhecem e em vez da suposta reciprocidade
aventada por Varian o que de fato o que o Google introduz são novas assimetrias de poder e
conhecimento.
Em seguida ela faz uma digressão sobre como supérfluos/luxo são transformados em
necessidade pelo capitalismo pra falar de como nos tornamos dependentes de transações
mediadas por computador e assim entregamos nossa privacidade, dados e direitos como
Fausto entrega a alma ao diabo no conto de Goethe. Varian “regards this mechanism of
demand growth as the inevitable force that will push ordinary people into Google Now’s
Faustian pact of ‘necessaries’ in return for surveillance assets.”
A autora espera que a expectativa de Varian esteja errada que a demanda crescente por
necessidades que ajudam a nos vigiar diminua. Ela então cita superficialmente estudos que
diriam que as pessoas na Europa e EUA estariam mais cautelosas com o uso das redes e
preocupadas com sua privacidade.

“The PEW Research Center’s latest report on public perceptions of privacy in the post-Snowden Era indicates
that 91% of US adults agree or strongly agree that consumers have lost control over their personal data, while
only 55% agree or strongly agree that they are willing to ‘share some information about myself with companies
in order to use online services for free’ (Madden, 2014).”

Experimentos contínuos

Nesse tópico a autora faz alusão a experimentos do Google e do Facebook para predizer e
modificar comportamentos de seus usuários com base em algoritmos. Google e NSA seriam
a vanguarda desse movimento.

“As the White House report puts it, ‘there is a growing potential for big data analytics to have an immediate
effect on a person’s surrounding environment or decisions being made about his or her life’ (2014: 5).”

A autora cita Karl Polanyi e diz que há mais ou menos 70 anos o historiador afirmou que as
economias de mercado precisaram de três ficções pra se desenvolver nos séculos 19 e 20:

“The first was that human life can be subordinated to market dynamics and be reborn as ‘labor.’ Second, nature
can be subordinated and reborn as ‘real estate.’ Third, that exchange can be reborn as ‘money.’ The very
possibility of industrial capitalism depended upon the creation of these three critical ‘fictional commodities.’
Life, nature, and exchange were transformed into things, that they might be profitably bought and sold.”

A autora afirma que agora uma quarta ficção acontece no capitalismo de vigilância, a
metamorfose da realidade em “comportamento”, a transformação do comportamento em
mercadoria.

“Reality itself is undergoing the same kind of fictional metamorphosis as did persons, nature, and exchange.
Now ‘reality’ is subjugated to commodification and monetization and reborn as ‘behavior.’ Data about the
behaviors of bodies, minds, and things take their place in a universal real-time dynamic index of smart objects
within an infinite global domain of wired things. This new phenomenon produces the possibility of modifying
the behaviors of persons and things for profit and control. In the logic of surveillance capitalism there are no
individuals, only the world-spanning organism and all the tiniest elements within it.”
Conclusões

Aqui a autora reafirma sua ideia de que existe um novo regime de acumulação capitalista
que é o capitalismo de vigilância, caracterizado por uma arquitetura global de mediação de
computadores que torna o texto eletrônico [do trabalho, de nossas vidas etc.] em um
organismo inteligente espalhado pelo mundo que ela chama de Big Other.
O Big Other traz novas possibilidades de subjugar através de mecanismos inesperados e
ilegíveis de extração e controle que exila as pessoas de seus próprios comportamentos.
Reafirma que o que é chamado pelo economista da Google de novas formas de contrato é o
fim do contrato. A ideia do Google de civilização da informação substitui o estado de direito
e a necessidade de confiança social como a base para as comunidades humanas por um
novo mundo-vida de recompensas e punições, estímulos e respostas.
O capitalismo de vigilância é completamente anti-democrático. A democracia não mais
funciona como um meio para a prosperidade, ela ameaça as receitas/ganhos da vigilância.
Por fim a autora alerta para o fato de que estamos bem no início dessa narrativa que vai nos
conduzir a novas respostas e conclama estudiosos e cidadão a reconhecer que “ deception-
induced ignorance is no social contract, and freedom from uncertainty is no freedom.”