Big Tech: A ascensão dos dados e a morte da política
Nickielly Gomes do Nascimento - nº USP 11289535
Direito - Noturno - Turma 192/22 MOROZOV, Evgeny. Big Tech: A ascensão dos dados e a morte da política. 1ª ed. São Paulo: Ubu Editora, 2018.
O presente fichamento objetiva tratar criticamente dos pontos principais
expostos por Evgeny Morozov no seu livro "Big Tech: A ascensão dos dados e a morte da política". Na sua obra, Morozov investiga as diversas problemáticas atualmente existentes nessa nova fase do capitalismo: o digital, em que os dados são o novo petróleo, os direitos públicos são convertidos em serviços da iniciativa privada - sem garantia de prestação - e a ideologia neoliberal triunfa, manifestando seus traços mais reversos (p. 25). Dessa forma, objetiva demonstrar que os temas atuais sobre a tecnologia são, essencialmente, políticos. Inicialmente, o autor desdobra-se sobre o perigo da perspectiva ingênua sobre as redes sociais como inofensivas e sempre positivas. Atualmente, as tecnologias detêm poder capaz até mesmo de ditar os rumos da democracia, o que é preocupante visto que a lógica de funcionamento das Big Techs é guiada pelo lucro, de maneira que as escolhas são sempre feitas de maneira a maximizá-lo: viralização de notícias, na qual as fake news são as que mais geram cliques e compartilhamentos (p. 11), precificação dinâmica, precarização de direitos trabalhistas, dentre outras práticas. Dessa forma, Evgeny compara o mundo tecnológico em que vivemos a um feudalismo moderno (p. 15), uma vez que o poder é detido pelas Big Techs (a maior parte norte-americana) e os serviços de inteligência, enquanto os cidadãos não possuem qualquer autonomia - ou sequer conhecimento - desse processo. Para Morozov, o aspecto ideológico, com foco na figura do Vale do Silício, é de vital análise. Essas Big Techs, vistas como resultado de um movimento de desconfiança contra as instituições (p. 19), na realidade estão integradas a esse sistema e não fora dele. Nesse sentido, faz-se o novo no velho, exemplo citado pelo autor são os investidores dessas empresas, que continuam a ser grandes sujeitos ativos do "velho" sistema, vide o banco de investimentos Goldman Sachs ser um dos financiadores da Uber (p. 23). É do Vale do Silício que extraem-se promessas corriqueiras de que a tecnologia emancipa o cidadão (p. 31), entretanto o autor compara o estado do usuário de tecnologia ao de um condenado em prisão domiciliar: ainda permanece preso, apesar da ideia ilusória de liberdade por não estar trancado em uma cela. Por exemplo, apesar de termos à nossa disposição uma quantidade - supostamente - ilimitada de informações, bem como de recursos, ainda estamos presos em uma lógica na qual cada ato que realizamos dentro e fora das redes são convertidos em "conhecimento" no chamado capitalismo "dadocêntrico" (p. 33). Esses conhecimentos, por sua vez, são vendidos para anunciantes que escolherão - ironicamente - quais informações e recursos "ilimitados" aparecerão durante o acesso do usuário. Dessa forma, demonstra-se que, apesar de acreditarmos termos o poder de escolha, estamos na realidade à mercê de um jogo de interesses, no qual impera o "maior lance" (p. 33). Além disso, destaca que esse setor opera de maneira a neutralizar outras alternativas, com o falso pretexto de que não existiria outras formas de utilização da tecnologia e infraestrutura digital (i.e. nos quais haja de fato privacidade dos dados e descentralização do armazenamento dos dados). Pensar a não existência de outras opções é preocupante, pois estaremos deixando empresas guiadas especialmente pelo lucro definir o destino de diversos - senão todos - aspectos de nossas vidas. O autor ressalta esse caráter essencialmente lucrativo dessas empresas para ressaltar, que, apesar do discurso ideológico humanitário, a lógica de rentabilidade ainda persiste. Dessa forma, estamos sujeitos ao fim do oferecimento de serviços gratuitos e essenciais, como o Google Acadêmico (p. 36), ou até mesmo a eventual cobrança desses serviços, uma vez que as Big Techs podem alterar quando bem entender seus modelos de negócio quando os atuais deixarem de ser rentáveis. Esse aspecto ideológico também comporta a chamada regra de Varian, ou seja, a concepção de que os menos afortunados irão, paulatinamente, alcançar os benefícios tecnológicos que hoje são desfrutados pelos ricos (p. 52). Entretanto, o autor destaca que esse acesso é condicionado a dois requisitos: (i) o pagamento por meio do fornecimento dos dados, os quais precisam (ii) ser rentáveis. Isso significa que no momento em que estes dados deixarem de ser suficientes para cobrir os custos da operação, o acesso a essa tecnologia deixa de existir. Outro aspecto importante é o político, pois são as condições socioeconômicas e políticas que permitiram a ascensão das Big Techs. Por exemplo, o autor justifica a popularidade do financiamento coletivo com as políticas de austeridade propagadas pela ideologia neoliberal (p. 21) e as crises financeiras do século XXI, combinadas a uma precarização dos direitos trabalhistas, como decisivas para viabilizar sistemas de economia compartilhada como o Uber. Entretanto, essa ascensão é retratada como a solução para todos os problemas sociais, o que não dialoga com os pontos controvertidos apontados. Em outra perspectiva, essas decisões políticas e econômicas estimulam até mesmo a ausência de alternativas pelo setor público (p. 24), uma vez que este é cada vez mais sucateado em prol de investimentos e favorecimentos maiores concedidos ao setor privado. Para Morozov, esse cenário deve ser analisado a partir da ruptura do estado do bem-estar social, pois o Vale do Silício enxerga, de maneira distorcida, na tecnologia a solução para os problemas sociais, trazendo alternativas simplistas e ineficazes para mascarar os embaraços resultantes da falta de atuação de um estado do bem-estar social. Essas alternativas, por sua vez, possuem um denominador comum: a hiperinclusão, ou seja, a defesa de que todos os problemas podem ser solucionados por meio do aumento de coleta de dados ou a criação de aplicativos que individualizam problemas coletivos e sociais complexos (p. 39). A problemática óbvia desse solucionismo é que ela é incapaz de resolver os problemas estruturais, uma vez que oferece soluções insuficientes para resolver estas questões - como o próprio autor diz, "ainda é possível morrer por falta de comida, mas não por falta de conteúdo" (p. 49). O aumento do acesso aos meios de comunicação não significa que a desigualdade aumentará, pelo contrário. No mesmo sentido, defende-se que, mesmo amparados pelo estado regulador moderno, o próprio mercado se encarregará de punir os prestadores de serviços que, a sua maneira e no ramo em que atuem, se comportem mal perante os consumidores. Desta forma, conforme pensadores como Friedrich Hayek, a reputação que você semeia, reflete no que os outros operadores e participantes do mercado enxergam sobre você, assim, uma empresa mal organizada será, de certa forma, exposta para os consumidores que buscarem saber, e, no mesmo sentido, se você for um mal cliente, todos os fornecedores saberão com quem estão lidando (p. 57). Assim, tornam, em teoria, as leis regulatórias demasiadamente desnecessárias neste sentido, uma vez que as normas podem demorar muito para serem revistas, já as reputações podem ser revistas com maior agilidade. Mas, na realidade, isto não é uma ciência exata, tendo em vista que a reputação não precede a necessidade dos demais usuários, uma vez que se ela atende bem um e destrata outrem, pode ser que não haja esse sentimento de unidade por parte do consumidor. E é aí que as normas regulatórias e de defesa do consumidor deveriam ter voz, porém em muitos casos essas empresas de tecnologia, que fornecem serviços, se amparam pelo fato de serem apenas empresas tecnológicas, assim, não se sujeitando às normas - trabalhistas ou consumeristas, por exemplo - do ramo em que atuam (p. 58). Além disto, essa "economia de reputação" só reflete as desigualdades sociais e econômicas já existentes, pois naturaliza as diferenças entre os indivíduos, que têm frequentemente influência externa de aspectos que fogem do controle dos indivíduos (p. 155). Em se tratando de regulamentação de plataformas digitais, o Facebook defende a neutralidade de plataformas, ou seja, que não há diferença e que a internet é algo que não se pode controlar e que está sempre inovando. Desta forma, o autor expõe a preferência do mercado pela inovação em detrimento da justiça. Desta forma, podemos observar que, por exemplo, a Uber oferece atividades que os taxistas negligenciaram por muito tempo, quais sejam, infraestrutura de pagamento, identificação de passageiros e rastreamento instantâneo de viagens. Estas funcionalidades não são o objetivo principal de uma empresa de transportes, mas esse não é o caso da Uber, pois ela transformou o que eram apenas funcionalidades periféricas em essenciais para o fornecimento do serviço (p. 59). Desta maneira, Morozov analisa que muitos setores hoje fora das plataformas digitais serão afetados por elas, especialmente porque quase a integralidade das plataformas atuais mais populares são monopólios, condição que não deve ser entendida como inerente às plataformas, mas uma condição de disputa de mercado, pois, se não fosse esta, tais empresas de tecnologia não teriam mais recursos para investir em inovação (p. 60). Acerca do exposto acima, podemos ter a ideia de que estas plataformas digitais, mesmo que, de certa forma, nos forneçam serviços ora relevantes, são semelhantes a parasitas, as quais dependem das relações socioeconômicas captáveis para que possam crescer e alcançar mais pessoas com o objeto exclusivo de obter lucros (p. 61). Esse solucionismo manifesta-se especialmente na economia compartilhada, que permite até mesmo colocar novamente no mercado as mercadorias que tiverem sido retiradas dele, possibilitando que elas sempre possam ser objeto de troca (p. 77). A ideia é que sempre é possível ganhar mais dinheiro, seja alugando o seu quarto ou casa, a garagem, oferecer caronas, intermediação de entregas, dentre outros. Segundo o autor, transforma-se as patologias oriundas do nosso sistema, problemas estruturais, em escolhas de estilo de vida, sob a ótica de que se pode sobreviver com menos recursos. Em contrapartida, os ricos continuam usufruindo dos mesmos benefícios de sempre, distantes da economia compartilhada. Para o autor, verifica-se um Estado do bem-estar privatizado, pois diversas das atividades das nossas esferas da vida são permeadas, ou até mesmo subsidiadas, pelas Big Techs, com foco na coleta dos nossos dados, e pelas Startups ou empresas menores, nas quais existem o capital de risco que permite assegurar o domínio destas no longo prazo (p. 146). Na ótica deste aspecto político, desdobra-se sobre o domínio do capital perante todas as áreas da vida, onde tudo é mercantilizado e transformado em bem privado, seja aplicativos para monetizar idas à academia, como a FitCoin (p. 66), ou de reserva de filas, como o Shout (p. 68). Nesse novo cenário, a estimulação de comportamentos é feita estritamente com base financeira, reflexo da diminuição da solidariedade na sociedade. Sobre isso, Evgeny destaca a perda dessas camadas de caráter não utilitário em prol da de informação - a de saber exatamente as opções de escolha e as consequências de cada uma. Isso afeta tanto em uma esfera coletiva quanto individual, pois se um jornal deixa de publicar determinada notícia com base na lógica do mercado, diminui-se a quantidade de informações disponíveis para os cidadãos e, ainda, carece de legitimidade, pois não é o mercado que deve definir a relevância ou não de uma notícia (p. 69). Da mesma forma que comportamentos são estimulados de forma monetária, também há uma defesa de que outros comportamentos devem ser desestimulados por meio da punição dos sujeitos, principalmente pela via fiscal. O autor resgata, dessa forma, o solucionismo do Vale do Silício, manifestado nesse caso pela defesa de que os problemas estruturais podem ser resolvidos por meio do aumento da coleta e acumulação de dados (p. 92). Esse viés disciplinador também é presente na atribuição de reputação aos "empreendedores" dessa economia compartilhada, por meio da avaliação das partes de cada lado do serviço intermediado (i.e. o passageiro e o motorista). Essa concepção contrasta com a defesa do conhecimento tecnológico como apolítico e à parte dos conflitos sociais, como se beneficiasse a todos os indivíduos, pequenas e grandes empresas igualmente. Entretanto, guiar-se pela própria lógica do mercado já escancara quem são os principais beneficiários dessa dinâmica. Em consonância com o exposto, Carl Bildt (p. 71) identifica as barreiras de circulação de dados como barreiras contra o comércio. Ou seja, privilegia-se os interesses de lucro das grandes corporações em detrimento dos dados dos cidadãos, tratados como obstáculos à maximização desses lucros (p. 72). Ainda, essa lógica atua de maneira a identificar progresso com maior capacidade financeira dessas Big Techs, de maneira que quem seja contra esse cenário é contrário à inovação do país ou à segurança nacional (p. 75). Outra pauta resgatada é a utilização da regulação algorítmica como forma de governança, que, teoricamente, seria mais efetiva que as próprias leis, pois estariam fundadas em dados, evidências (p. 84), guiam-se para um resultado específico (o qual pode ser selecionado) e revisam-se periodicamente garantindo um aprendizado constante. Porém, essa afirmação encontra diversos problemas, os quais são analisados pelo autor. O primeiro deles é de que eles possuem aplicação desigual, pois, por exemplo, um sistema que possa identificar se sujeito gasta mais do que declara, não conseguirá identificar aqueles que escondem seu dinheiro em paraísos fiscais, tem poder político para aprovar isenções e utiliza "laranjas". Um segundo ponto é a ausência de deliberação para tomada dessas decisões, o "como", elemento tão importante para a democracia. Ignora, aliás, que as linhas de escolha são mais nebulosas, pois podem haver soluções incompatíveis entre si, e oferece explicações monocausais que não atacam a causa complexa, apenas os efeitos superficiais (p. 143). A utilização da eficiência como princípio supremo não é admissível, pois eficiência não é equivalente à qualidade de vida e, muito menos, democracia. Ainda, Evgeny destaca o perigo dos outros valores intrínsecos e essenciais à democracia serem perdidos por não seguirem a lógica de quantificação de eficiência (p. 95). Nesse sentido, muitas "imperfeições" - que são atacadas pelos defensores dos algoritmos - fazem parte do sistema político (p. 139). Além disso, as próprias soluções dadas pelos algoritmos podem estar equivocadas, como o Morozov demonstra nos casos de tendência de gripe com a Google (p. 98). No debate político, equívocos acontecem, mas o espaço para o debate é aberto - o mesmo não decorre no caso da regulação algorítmica, que pode gerar consequências nefastas como já observado no policiamento preditivo (p. 179). Para o autor, esses algoritmos não possuem um elemento essencial, que é a perspectiva histórica e ideológica de cada narrativa. Por fim, destaca a coleta de dados maciços para a execução desse tipo de governança, que cria um mal-estar no indivíduo por não ter acesso a quais informações da sua vida estão sendo utilizadas para tomar determinadas conclusões. Ainda, as ideias dos economistas comportamentais defendem que nem sempre atuaremos de acordo com os nossos melhores interesses e a razão disso é identificável e pode ser corrigida (p. 108). Diante disso, o autor analisa a concepção deles de problemas como a pobreza, pois, como é entendida como decorrente de escassez cognitiva causada pela ansiedade, bastaria ser combatida por meio de aplicativos de dividendos da vigilância. Mais uma vez, torna problemas estruturais em individuais e culpabiliza o sujeito pela sua própria condição. O autor trabalha a cooptação desses dados geridos pelas empresas pelas próprias cidades, de maneira a evitar que estes fiquem concentrados nas mãos de poucos agentes privados. Além disso, acabaria com a utilização dos dados como mercadoria dispendiosa (p. 63), das quais essas empresas privadas dispõem e vendem pelo o preço que bem entenderem às cidades, dados que, essencialmente, não são seus. Além disso, Morozov cita como benefício da desuberização das cidades, a oferta de outros meios de transporte pelas autoridades municipais, como foi realizada na parceria entre a prefeitura de Helsinque e a startup Ajelo (p. 64) que desenvolveram aplicativo com diversas opções de transporte existentes, comportando tanto o equivalente da Uber quanto o transporte público da cidade (ex. ônibus, ciclovias, etc.). Em consonância ao exposto acima, nota-se a necessidade de que o discurso contra o cenário atual esteja de acordo com os compromissos e objetivos do Estado de bem-estar social. Ainda, cita outras possibilidades de viabilização disto, tais quais como a oferta de renda mínima (com cuidado para não se tornar apenas uma forma de subsidiar secretamente as empresas de tecnologia com a destinação dessa renda para pagar os produtos e serviços ofertados por elas); o fornecimento de condições para o surgimento de grupos políticos sobre assuntos relevantes a eles; e a mudança do tipo de infraestrutura de comunicação para uma que realmente garanta a privacidade e anonimato dos cidadãos (p. 100) e não se funde na coleta de dados (p. 169). Para Morozov, esse comprometimento deve estar aliado com os objetivos de reforço da soberania do país, a fim de garantir que essa infraestrutura não fique integralmente sob o domínio de países/empresas estrangeiras (p. 119). Esse tema não pode ser restrito a um partido político, é dever de qualquer político comprometido com a democracia (p. 135). A respeito da renda básica, Morozov ainda problematiza as consequências para os cidadãos nos casos em que os entes privados atuam como comercializadores de bens e produtos e administram serviços públicos - o serviço público fica restrito até salvar a dívida? Em seguida, o autor critica o mito de que o espaço virtual e o físico são separados, de maneira que o primeiro não é isento das forças que operam sob o segundo, especialmente as políticas. Aponta, ainda, o risco de cooptação desses dados coletados pelo espaço virtual pelos governos para fins de segurança nacional (p. 122), o que demonstra a ironia das tecnologias, apesar de poderem ser criptografadas, serem tão seguras quanto as antigas. Essa consequência manifesta-se de maneira ainda mais perversa em países totalitários, pois seus cidadãos, além de lidarem com a vigilância, terão que suportar a censura dentro do próprio país - o que intensifica a limitação do surgimento de opiniões/opções contrárias a este cenário (p. 124). Ressalta, portanto, que a escolha por não criptografar nossas comunicações foi deliberada, com fins de gerar lucro em serviços teoricamente gratuitos. Outro ponto trazido pelo autor é do consumismo informacional e sua possível consequência de catástrofe internacional. Para ele, quando fazemos a escolha de comprar objetos que coletam dados e posteriormente vendê-los, não estamos apenas fazendo uma escolha comercial, mas também uma com impactos políticos, morais e coletivos (p. 133). Por exemplo, quando optamos por vender nossos dados para obter determinado desconto em um serviço (ex. apólice de seguro), estamos prejudicando aqueles que sejam menos cuidadosos ou não queiram fornecer essas informações, sendo forçados a pagar um valor mais caro. Principalmente em relação aos últimos, é como se estivéssemos rechaçando ainda mais sua privacidade (ou, no mínimo, contribuindo para tal processo). Não obstante, apresenta o risco de que o modelo de negócio dessas empresas seja alterado do fornecimento de bens e serviços gratuitos para o oferecimento de serviços e bens pagos e caros, uma demanda crescente dos investidores, especialmente no caso das startups (p. 149). Dessa forma, demonstra-se que há um perigo tão grande quanto termos nossos dados utilizados pelas empresas de tecnologia, pois isso pode ser só uma transição - até mesmo as Big Techs tem investido em serviços e bens pagos na área de inteligência artificial. O perigo reside justamente no fato delas posteriormente venderem esses produtos/bens a preços altíssimos às autoridades e aos cidadãos depois de décadas de investimentos militares, governamentais, dentre outros (p. 153). Finalmente, Evgeny analisa o fenômeno das fake news sob a ótica econômica, pois o capitalismo digital enxerga nessas notícias um ativo muito rentável, e a de corrupção como parte da expertise profissional, pois, diante de tantas decepções em relação aos especialistas, há um crescente movimento por parte dos cidadãos de ceticismo diante desse classe (p. 185). A solução para este problema é, portanto, delegarmos mais poder para os cidadãos, tanto para tomarem decisões, quanto para não sucumbirem diante do anseio dos cliques que dominam as redes sociais.
Sociedade de consumo hiperconectada: inteligência artificial, direitos humanos e o consumo: a vulnerabilidade da autonomia do consumidor e as novas tecnologias