Você está na página 1de 158

UNIVERSIDADE ESTADUAL DE CAMPINAS

INSTITUTO DE ESTUDOS DA LINGUAGEM


LABORATRIO DE ESTUDOS AVANADOS EM JORNALISMO

VITOR FRANA NETTO CHIODI

O SINGULARISMO COMO IDEOLOGIA E A RECONSTRUO


DA RELAO CENTRO-PERIFERIA NO CAPITALISMO
INFORMACIONAL

CAMPINAS,
2017
VITOR FRANA NETTO CHIODI

O SINGULARISMO COMO IDEOLOGIA E A RECONSTRUO


DA RELAO CENTRO-PERIFERIA NO CAPITALISMO
INFORMACIONAL

Dissertao de mestrado apresentada ao


Instituto de Estudos da Linguagem e
Laboratrio de Estudos Avanados em
Jornalismo da Universidade Estadual de
Campinas para obteno do ttulo de Mestre
em Divulgao Cientfica e Cultural, na rea
de Divulgao Cientfica e Cultural.

Orientador (a): Prof(a). Dr(a). Rafael de Almeida Evangelista

Este exemplar corresponde verso


final da Dissertao defendida pelo
aluno Vitor Frana Netto Chiodi e
orientada pelo Prof. Dr. Rafael de
Almeida Evangelista.

CAMPINAS,
2017
Agncia(s) de fomento e n(s) de processo(s): CAPES, 01p04374/2015
ORCID: http://orcid.org/0000-0002-9583-9495

Ficha catalogrfica
Universidade Estadual de Campinas
Biblioteca do Instituto de Estudos da Linguagem
Crisllene Queiroz Custdio - CRB 8/8624

Chiodi, Vitor Frana Netto, 1989-


C442s ChiO singularismo como ideologia e a reconstruo da relao centro-periferia
no capitalismo informacional / Vitor Frana Netto Chiodi. Campinas, SP :
[s.n.], 2017.

ChiOrientador: Rafael de Almeida Evangelista.


ChiDissertao (mestrado) Universidade Estadual de Campinas, Instituto de
Estudos da Linguagem.

Chi1. Singularismo (Movimento filosfico). 2. Transhumanismo (Movimento


filosfico). 3. Ideologia. 4. Ciberntica. 5. Capitalismo. 6. Santa Clara, Vale
(Estados Unidos). I. Evangelista, Rafael de Almeida,1975-. II. Universidade
Estadual de Campinas. Instituto de Estudos da Linguagem. III. Ttulo.

Informaes para Biblioteca Digital

Ttulo em outro idioma: Singularism as ideology and the reconstruction of the relation
center-periphery on informational capitalism
Palavras-chave em ingls:
Singularism (Philosophical movement)
Transhumanism (Philosophical movement)
Ideology
Cybernetics
Capitalism
Santa Clara Valley (Santa Clara County, Calif.)
rea de concentrao: Divulgao Cientfica e Cultural
Titulao: Mestre em Divulgao Cientfica e Cultural
Banca examinadora:
Rafael de Almeida Evangelista [Orientador]
Marta Mouro Kanashiro
Diego Jair Vicentin
Data de defesa: 10-02-2017
Programa de Ps-Graduao: Divulgao Cientfica e Cultural

Powered by TCPDF (www.tcpdf.org)


BANCA EXAMINADORA:

Rafael de Almeida Evangelista

Marta Mouro Kanashiro

Diego Jair Vicentin

SUPLENTES:

Mrcio Barreto

Ana Paula Camelo

IEL/UNICAMP

2017

Ata da defesa com as respectivas assinaturas dos membros encontra-se no processo de vida
acadmica do aluno.
Dedico esse trabalho a meus pais, Simone e talo.
AGRADECIMENTOS

S foi possvel concluir esse trabalho com a ajuda de muitas pessoas e instituies que cito
aqui. Em primeiro lugar, agradeo CAPES pelo financiamento da bolsa sem a qual seria
improvvel que eu pudesse estudar na UNICAMP.
Agradeo tambm aos amigos do Labjor e a meu orientador Rafael Evangelista pelo suporte
acadmico ao longo desses dois anos. Agradeo nominalmente tambm a Marko Monteiro e
Carolina Cantarino pela participao em minha qualificao, decisiva para o produto aqui presente.
Aos professores que tive ao longo do mestrado. Cito dois em particular. Meu muito obrigado Prof.
Marta Kanashiro, pela parceria poltica e constante apoio acadmico, em especial no ICTS.
Agradeo ao Prof. Marko Monteiro pela recepo na UNICAMP e no GEICT e pela disponibilidade
sempre que precisei. Ainda no Labjor, gostaria de agradecer nominalmente os amigos Tati, Rmulo
e Brau, sem os quais a estadia em Campinas teria sido muito mais dificil. Por fim, agradeo tambm
aos funcionrios do Labjor, em especial a Alessandra, pela simpatia e disposio para resolver
qualquer problema que surja.
A lista de amigos a agradecer pode ser grande, por isso tento ser objetivo. Comeo
agradecendo queles que dispuseram de seus tempos para revisar textos nessa reta final, mesmo
sendo irritantemente apressados por mim. Karen e Vitor, principalmente, mas tambm Dudu, Naty,
Aline, Felipe (Afonso), Tarcsio e Carol: muito obrigado, mais uma vez. Agradeo ao colega
Eduardo Lages por ser o melhor consultor de cincias naturais que algum pode ter, porque, alm
de saber muito, responde as mensagens rpido, ainda que elas sejam enviadas no meio da
madrugada (exemplo de pessoa) e nunca perde a pacincia, independente de quo estpidas sejam
as perguntas. Thais pela pareceria na academia nerd. Vanessa por ser a melhor mineira do
estado de So Paulo, levantando nossa auto-estima quando deixamos o mestrado acabar com a
gente. Ao pessoal ba(cana) da Sala 01, fs de (po)(es)(ia) (con)creta, e prpria sala 01, que
costuma combinar ar-condicionado, mesa grande, caf, gente boa e posio geogrfica estratgica
(ao lado do banheiro e do bebedouro). Em especial agradeo ao Felipe por ter comprado a pirao
com cones, fractais, modelos hologrficos e fngicos (que podem ser limpos com o mero uso de
bicarbonato de sdio). Karen que alm de amiga psicloga 24/7 e atende ligaes com a
velocidade com que Dudu responde mensagens.
Aos meus pais e irms (e cachorra), acima de todos, um profundo e sincero muito obrigado.
Vejo vrios amigos e conhecidos com dificuldades de lidar com seus problemas, at porque boa
parte desses problemas so familiares. extremamente reconfortante saber que, no importa qual
seja o problema e quando ele acontea, vocs do o suporte que eu preciso. Entendo que esse o
maior privilgio que posso ter e sou muito grato.
Por ltimo, agradeo ao Sci-Hub e outras plataformas de ativismo pirata, que permitem que
o conhecimento possa ser construdo e compartilhado com ao menos algumas das barreiras da
propriedade intelecutal derrubadas.
Bem, era verdade.
Ele deu um gole em seu drinque e fechou os olhos enquanto o
lquido frio corria por sua garganta e aquecia seu estmago. Era
verdade, pensou, mas ningum teve a chance de ficar sabendo
disso. Ah, todos sabiam que era alguma coisa, mas no podia ser
aquilo. Aquilo, no. Aquilo era coisa da imaginao, aquilo era
surpestio, aquilo no existia.
Ento, antes de a cincia ser arrebatada pela lenda, a lenda
engoliu a cincia e todo o resto.
Robert Neville, personagem de Eu sou a Lenda, de Richard
Matteson.
RESUMO

Essa dissertao de mestrado o resultado de uma pesquisa sobre o Singularismo tomado


enquanto ideologia. A partir do conceito de ideologia, e da relao cosmologia-ideologia, colocados
pelo antroplogo Eric Wolf, toma-se o movimento dos auto-intitulados singularitarians para pens-
los em termos de ideias e poder. Construda como uma complexa rede de instituies e pessoas, a
ideologia submetida a uma crtica poltica que a coloca como um movimento do contexto
contemporneo do Vale do Silcio. Nesse contexto ela constituda pela influncia inequvoca da
ciberntica, do transhumanismo e da ideologia da Califrnia. O Singularismo ser tomado a partir
de trs grandes temticas, a saber, i. inteligncia artificial amigvel; ii. guerra anti-envelhecimento e
iii. fuso homem-mquina; ligadas a uma relao autor-instituio, respectivamente, i. Elizer
Yudkowsky e o MIRI; ii. Aubrey deGrey e o SRF; iii. Ray Kurzweil e a Singularity University. A
dissertao sugere por fim, que o Singularismo como rede e ideologia uma das formas
contemporneas onde podemos observar a reconfigurao da relao centro-periferia, atravs do
conceito de rede vertical.

Palavras-chave: singularidade; vale do silcio; capitalismo; ideologia; transhumanismo;


ABSTRACT

The present masters dissertation is the result of a research about Singularism, thought of as an
ideology. Using the ideology concept, and the cosmology-ideology relation, as theorized by the
anthropologist Eric Wolf, the movement of the self-entitled singularitarians will be analyzed in
terms of ideas and power. Constructed as a complex web of persons and institutions, that ideology
is submitted to a political critique which shows it off as a movement, part of the contemporary
context of the Silicon Valley. This movement is constituted by the unequivocal influence of
cybernetics, transhumanism and the Californian Ideology. Singularism is going to be analyzed
through three major themes, i. Friendly Artificial Intelligence; ii. Anti-aging war; iii. Human-
machine merger; connected to an author-institution relation which brings, respectively, i. Eliezer
Yudkowsky and MIRI; ii. Aubrey deGrey and SRF; and iii. Ray Kurzweil and Singularity
University. The present dissertation suggests then that Singularism is, as network and ideology, a
contemporary form where we can see the center-periphery relation reconfigured as a vertical
network.

Key-words: Singularity; Silicon Valley; Capitalism; Ideology; transhumanism.


SUMRIO

PREFCIO..........................................................................................................................11
1 SOBRE O CONCEITO DE SINGULARIDADE.........................................................15
1.1. Singularidade, Singularismo e Singularitarians...............................................................15
1.2. A singularidade para Frederic Jameson..........................................................................16
1.3.Entre singularitarians: as vrias formas de entender a Singularidade..............................21

2 A RELAOENTRE IDEOLOGIA E COSMOLOGIA PARA ERIC WOLF........30


2.1. A contribuio de Eric Wolf............................................................................................30

2.2. Cultura e cosmologia : distines necessrias..................................................................33


2.3. Sobre o conceito de Ideologia..........................................................................................36
2.4. A relao entre cosmologia e ideologia............................................................................39
3 COSMOLOGIAS DO SINGULARISMO........................................................................43

3.1. Cibernticas......................................................................................................................43

3.2. Transhumanismos............................................................................................................50

3.3. Da contracultura cibercultura: Ideologia da Califrnia ................................................63

3.4. Cosmologias conectadas..................................................................................................74

4 O SINGULARISMO COMO REDE..............................................................................75

4.1. Vale do Silcio: a casa do Singularismo...........................................................................75

4.2. Aubrey de Grey e a SENS Research Foundation............................................................79

4.3. EliezerYudkowsky e Machine Intelligence Research Institute..92

4.4. Ray Kurzweil e a Singularity University....110

4.5. A Singularidade uma supermeta...........129

5 O SINGULARISMO COMO IDEOLOGIA..................................................................131

5.1. Cosmologias do Singularismo e o projeto de poder adjacente........................................132

5.2. Redes verticais e a reconfigurao da relao centro-periferia........................................144

POST SCRIPTUM...............................................................................................................149

REFERNCIAS BIBLIOGRFICAS .............................................................................154


11

Prefcio

As pginas que seguem so o resultado improvvel de uma pesquisa que foi


reformulada algumas vezes durante os ltimos dois anos. fato, portanto, que muitos dos
processos, leituras, textos e discusses fundamentais para sua criao no esto presentes
aqui. Um dos poucos traos que estavam desde o primeiro projeto e se manteve at essa
dissertao foi o desafio de trabalhar com um grupo nativo com o qual soube desde o
princpio ser para mim um antagonista poltico. Do ponto de vista tico, trata-se de um
trabalho que nos coloca numa posio complicada. Ainda que a pesquisa antropolgica exija
um campo externalizado, no qual o pesquisador questiona suas prprias certezas diante de um
objeto que comunica, as caractersticas desse objeto em especfico, no contexto dessa
pesquisa, colocaram uma situao adversa. Tomar um objeto urbano e contemporneo por si
s j coloca essa questo. O que torna a questo mais complicada a direo do olhar: parece
que todos os tabus ticos da antropologia foram construdos para um movimento clssico
disciplina: do centro para as margens. Os antroplogos costumam pesquisar grupos culturais
marginalizados, o que implica uma necessidade de certa horizontalizao que conceda voz aos
pesquisados e no apenas ao pesquisador. assim quando o branco vai pesquisar o ndio. E
assim quando o acadmico urbano vai pesquisar pobres comunidades rurais, ou as favelas, as
prises e os moradores de rua. O antroplogo deixa o centro para fazer campo nas margens.
Quando fazemos o movimento contrrio e o contexto da pesquisa tal que, na relao
pesquisador-objeto, quem est s margens o pesquisador, e o objeto ao centro, essa questo
tica fica estremecida.

(...) A antropologia apenas recentemente descobriu toda uma rea de


antropologicidade das sociedades complexas que at ento era reserva cativa de
epistemlogos, socilogos, cientistas polticos, historiadores das ideias.
Contentvamo-nos com o marginal, o no-oficial, o privado, o familiar, o domstico,
o alternativo. Fazia-se antropologia do candombl, mas no havia antropologia do
catolicismo. (...) O centro da nossa cultura o estado constitucional, a cincia, o
cristianismo. Ser capaz de estudar esses objetos uma conquista recente da
antropologia. A antropologia das sociedades complexas teve o inestimvel mrito de
mostrar que o perifrico e o marginal eram parte constitutiva da realidade
sociocultural do mundo urbano-moderno, desmontando assim a autoiamgem do
Ocidente com imprio da razo, do direito e do mercado. Mas o prximo passo
analisar essas realidades mais ou menos imaginrias que, de incio, empenhamo-nos
em deslegitimar. No mais to necessrio deslegitimas essas coisas; agora o que
preciso estudar seu funcionamento (Viveiros de Castro, 2011, p. 490-491).
12

Isso foi uma questo fundamental em especial porque trata-se de uma pesquisa que foi
planejada para ser uma etnografia in loco, e que pesquisasse o Singularismo a partir de sua
casa, o Vale do Silcio. Essa metodologia acabou sendo abandonada por uma srie de razes
que passam necessariamente pelo contexto de cortes na educao, mas tambm pela
dificuldade de fazer um trabalho de campo to distante do Brasil, em uma das regies mais
caras para se viver do mundo. Em suma, a medida em que a etnografia in loco foi
abandonada como metodologia, o paradoxo tico da relao antroplogo-nativo perdeu fora.
Trabalhando com um material que estava quase todo online, frequentemente protejido por
direitos autorais e paywalls, acabou-se estabelecida uma ironia: com a sada da etnografia,
acabei fazendo um trabalho que marca geograficamente a relao centro-periferia.

Para todos os efeitos, achei por bem comear essa dissertao mostrando que, embora
nem sempre seja claro, esse um trabalho com uma funo poltica explcita de ser uma
crtica ao Singularismo e ao capitalismo informacional a partir do sul. O leitor que seguir as
prximas pginas no vai encontrar um teste de hipteses, ou respostas para perguntas
supostamente neutras selecionadas previamente. No tenho compromisso algum com a
neturalidade. Como disse antes, desde o primeiro momento em que decidi pesquisar o
Singularismo, j estava claro que meu objeto representava para mim um incmodo. O que
moveu a pesquisa foi esse incmodo. Foi desse incmodo que surgiram as primeiras
peguntas: podemos acreditar em uma Singularidade? Quem vai ser beneficiado por ela? Quais
problemas uma Singularidade resolve e quais ela cria? Os efeitos de uma Singularidade so os
mesmos para todos os pases? E classes sociais? E raas? E gneros? Hoje est claro que
todas essas questes extrapolam o escopo de uma dissertao de mestrado. Meu objetivo
ento se transformou. Sem perder de vista todas essas questes, resolvi me dedicar a explorar
questes que cabiam no escopo desse trabalho e investigavam mais o objeto que as
consequncias possveis de seu projeto poltico. Basicamente, o resultado um
desenvolvimento terico e poltico daquele primeiro incmodo. As perguntas ficaram
menores e mais adequadas a uma dissertao. Que tipo de coletivo formam os apoiadores da
Singularidade? H um projeto poltico organizado entre eles? Se sim, qual a natureza desse
projeto? Como se conecta o Singularimo politicamente com o contexto de capitalismo
informacional? Porque instituies e pessoas do Singularismo se aglomeram em torno do
Vale do Silcio?

E so essas perguntas, ainda bastante abrangentes, que tento responder com esse
trabalho. Inspirado por Eric Wolf, antroplogo apresentado a mim por meu orientador no
13

incio do mestrado, percebi que podia tratar o coletivo apoiadores da Singularidade como
ideologia, que vim a chamar de Singularismo. O trabalho de Wolf postula uma conexo entre
histria e antropologia que oferece conceitos capazes de lidar com projetos de poder
histricos, mas tambm com aqueles em curso. por essa razo que seu livro Envisioning
Power, publicado em 1999, se tornou uma caixa de ferramentas, cheia de conceitos que se
mostravam muito teis para responder as perguntas necessrias para conhecer melhor o
projeto de poder do Sigularismo.

O livro de Wolf promove pontes tericas contemporneas que se mostram essenciais


para pesquisar ideologias contemporneas. O autor pretende resolver o problema terico que
existe entre antropologia e materialismo: se a primeira tradicionalmente desprezou a varivel
tempo e as relaes de poder, o segundo, preso s relaes de poder, desprezou o papel da
cultura e das ideias na construo e reconfigurao dessas relaes. Como se pode imaginar, o
que o autor chama de ideologia no o mesmo um marxismo mais tradicional chamaria. Para
ele, a ideologia denota uma conexo entre ideias e poder. E a forma conceitual da relao
entre ideias e poder dada em outra relao, a saber, cosmologia- ideologia. Esta forma
relacional to decisiva quanto o prprio conceito de ideologia nessa dissertao.

Para tentar responder os questionamentos que a pesquisa colocava, me baseei no


marco terico de Wolf e segui no seguinte caminho: no primeir captulo, intitulado Sobre o
conceito de Singularidade, abro a pesquisa tentando definir alguns conceitos que ajudam a
caracterizar o objeto e apresentar para o leitor que no est familiarizado com a noo de
Singularidade seus significados. No segundo captulo, A relao cosmologia-ideologia em
Eric Wolf, dedico-me a explicar com mais cuidado os conceitos de Wolf que utilizo na
construo da pesquisa. O terceiro captulo Cosmologias do Singularismo destinado a
apresentar uma espcie de histria das ideias que trata os conjuntos de imaginrios
culturalmente estruturados que julguei serem os mais importantes para compreender como
foi possvel a formulao do Singularismo enquanto ideologia. Para isso falarei de
Ciberntica, Transhumanismo e Ideologia da Califrnia. O quarto captulo, intitulado O
Singularismo como rede, visa fazer uma pequena etnografia no presencial da ideologia.
Primeiramente contextualizo o Vale do Silcio enquanto centro global para depois me dedicar
a descrever trs relaes chave que colocam lado-a-lado lderes e instituies singularistas.
Para tanto, trato, tambm de modo breve, de uma temtica central da obra de cada um desses
lderes, que ajude a fortalecer a conexo autor-instituio. Esses lderes e instituies so:
Aubrey deGrey e a SENS Reaserch Foundation; Elizer Yudkowsky e o Machine Intelligence
14

Research Institute; e Ray Kurzweil e a Singularity University. Todas essas instituies esto
na regio da baa de So Francisco e, sugiro no captulo, sua localizao parte da fora
geopoltica do projeto de poder singularista. O ttulo Singularismo como rede busca apontar
que a rede de relaes de autores, instituies, apoiadores e outros atores do Singularimo, tem
um formato especfico, que combina caractersticas da mquina vertical e da rede horizontal.
Para os propsitos desse trabalho, chamei essa malha de rede vertical.

Por fim, no quinto e ltimo captulo, ligo os pontos que corroboram o porqu do
Singularismo ser tratado como ideologia, e especulo as potenciais consequncias do
fortalecimento do seu projeto de poder. Do modo como vejo, o modelo de rede vertical acaba
propondo uma reedio da relao centro-periferia que caracterizou boa parte da histria do
capitalismo, mas em sua verso informacional, onde grandes empresas, instituies coringa e
polos como o Vale do Silcio substituem os Estados como principais controladores do
centro.
15

1. SOBRE O CONCEITO DE SINGULARIDADE

1.1. Singularidade, Singularismo e Singularitarians

Essa primeira seo visa discutir o conceito de singularidade. A partir de vrios


diferentes pensamentos, a ideia fazer uma discusso polifnica que amplie as dimenses
pelas quais o conceito pode ser tomado, at chegar no recorte que fazem os singularitarians
meu foco aqui. Em meio a vrios conceitos derivados da palavra singularismo, talvez seja
necessrio comear com um pequeno esclarecimento. H vrias formas de enxergar a
singularidade, pois trata-se de um conceito que j foi usado por diferentes pessoas, em
diferentes contextos e significando coisas diferentes. Nessa pesquisa falo de singularidade
como meio de chegar a ideologia que chamo de Singularismo. Tenho razes para acreditar
que nessa forma, com a raiz singular que vem de singularidade, somada ao sufixo ismo
que frequentemente faz as palavras se remeterem a correntes e ideologias, trata-se de um
neologismo. um neologismo que vem da necessidade da pesquisa de tratar o objeto
enquanto ideologia, pois no se trata de uma categoria mica. Portanto, Singularismo no se
refere ao sentido literal existente na lngua portuguesa, derivado de singular, nem a um
suposto movimento de arte portugus que leva esse nome. Tampouco se refere a uma
associao qualquer aos vrios sentidos que tem o termo singularidade. Singularismo aqui
um nome que vem necessariamente para designar a ideologia de um grupo que se
autodenomina singularitarians (Kurzweil, 2015;Yudkowsky, 2000B; entre outros). E a
definio em si? Singularitarians so adeptos da Singularidade. Um Singularitarian algum
que acredita que desejvel criar, por meio da tecnologia, uma forma de inteligncia superior
humana, e que trabalha para atingir esse fim. Um Singularitarian1 aliado, defensor, porta-
voz e agente do futuro conhecido como Singularidade.2 (Yudkowsky, 2000B, sem pgina).
Yudkowsky (2000A e 2000B) parece acreditar numa racionalidade que vai alm de qualquer
ideologia. Esse respeito pela inteligncia nosso escudo contra a cegueira da ideologia,
uma das protees primrias que previne que o Singularismo se torne apenas mais um

1
Singularitarianism seria o nome da ideologia em ingls. Opto aqui por usar o nome da ideologia em portugus,
porque uso o conceito de ideologia de Wolf (1999) e porque se trata de uma designao externa ao grupo.
2
Traduo livre de: And the definition itself? Singularitarians are the partisans of the Singularity. A
Singularitarian is someone who believes that technologically creating a greaterthanhuman intelligence is
desirable, and who works to that end. A Singularitarian is friend, advocate, defender, and agent of the future
known as the Singularity. (Yudkowsky, 2000B, sem pgina)
16

fanatismo banal3 (Yudkowsky 2000A, sem pgina). Ou seja, para o autor o Singularismo no
uma ideologia e se fosse poderia se tornar um fanatismo banal, o que j marca certo
jargo da direita poltica que associa o termo ideologia esquerda e oposio de verdade.
De modo anlogo, opto por manter singularitarian em ingls por trs razes. A
primeira que essa a forma pela qual esse grupo de pesquisadores e idelogos futuristas se
denomina, e se diferencia em meio a outros futuristas e transhumanistas. A segunda que sua
traduo traz uma complicao em portugus. O sufixo tarian remonta o libertarian, que
Yudkowsky (2000B) afirma ser caracterstica dos singularitarians, e designa um tipo de
anarquismo direita, abertamente capitalista, como mostra o trecho: Os Singularitarians se
desenvolveram a partir do anarcocapitalismo transhumanista, que veio da fico cientfica
libertariana, que veio da cincia e da engenharia, e ns todos nos opomos profundamente a
tentativas de impedir o desenvolvimento da tecnologia 4 (Yudkowsky, 2000B, sem pgina).
Em traduo direta, a palavra libertrio em portugus costuma estar associada a um
anarquismo de esquerda sendo a traduo mais adequada para libertarian a palavra
libertariano5. Para evitar essas ambiguidades e manter a referncia indireta que faz de
singularitarian a soma de Singularity + libertarian, manterei o termo em ingls. A terceira e
ltima razo para manter o termo em ingls para propositalmente marcar o estrangeirismo
de modo geral, e a lngua inglesa em especfico, o que ajuda a demonstrar linguisticamente se
tratar uma ideologia dos Estados Unidos e da globalizao. Mantendo o termo em ingls
tenho desde j uma oposio pretendida entre o lugar da pesquisa e aquele dos pesquisados.

1.2. A singularidade para Frederic Jameson

Comeo essa reflexo com Frederic Jameson, autor do hoje clssico Postmodernism
or the cultural logic of the late capitalism (Jameson, 1984). O autor publicou em 2015 um

3
Traduo livre de: This respect for intelligence is our shield against being blinded by ideology, one of the
primary safeguards that prevents Singularitarianism from turning into just another banal fanaticism
(Yudkowsky 2000A, sem pgina)
4
Traduo livre de: Singularitarian grew out of transhumanist anarchocapitalism, which grew out of libertarian
science fiction, which grew out of science and engineering, and we all tend to feel very strongly about attempts
to suppress the development of technology (Yudkowsky, 2000B, sem pgina).
5
Embora essa ambiguidade exista em alguma medida em lngua inglesa, o termo libertarian sem caracterizao
adicional mais comumente associada a uma ideologia pr-capitalismo. O Libertarian Party dos Estados
Unidos, por exemplo, prega o no-intervencionismo e o laissez-faire. O libertrio de esquerda seria o socialist
libertarian e o liberal o democrata, historicamente de centro-esquerda.
17

artigo que se prope a discutir a singularidade 6. Baseando-se no seu prprio texto que versava
sobre o ps-modernismo, Jameson (2015) faz uma discusso que revisa alguns pontos do seu
artigo dos anos 80. O autor julga que em sua obra oitentista, acima citada, o termo ps-
modernidade (postmodernity) teria sido mais adequado que ps-modernismo
(postmodernism). A inteno com essa reviso reforar a ideia de que a ps-modernidade
no apenas uma forma de pensar contempornea, ou um movimento artstico e cultural, ou
como diz o prprio autor, um estilo, mas sim um perodo histrico que comeou por volta
dos anos 80 e que marca a emergncia de um novo capitalismo. Em uma linha, esse perodo
histrico corresponde na economia emergncia do neoliberalismo, do capitalismo financeiro
e da globalizao, no qual esse novo capitalismo e as novas tecnologias criaram uma fluncia
muito particular.
O autor dedica ateno especial a definir o que seja singularidade em seu artigo e diz
que essa uma ideia que acompanha o contexto de ps-modernidade. A temporalidade ps-
moderna definida na espacializao do tempo. Conduzindo a reflexo por meio das artes
contemporneas, Jameson chegar concluso de que a instalao a representao ideal do
que seja a arte ps-moderna. Passado e futuro so compactados numa experincia do presente
que no se repete. O passado substitudo pela nostalgia e o futuro tomado por uma
previso. () agora podemos ver um pouco melhor o que elas realmente so: elas no so
objetos, porque so na realidade eventos. A instalao e as produes relacionadas so
realizadas, no para a posteridade, nem mesmo para a coleo permanente, mas para o agora7
(Jameson, 2015, p.111). Em oposio arte moderna onde forma e contedo se confundem,
na arte ps-moderna a forma se torna o contedo. Em meio ao pastiche que lhe
caracterstico, importa mais a forma de comunicao do que o que comunicado.

Eu devo ressaltar que em nossa era ps-modernista ns no apenas utilizamos a


tecnologia, ns a consumimos, e consumimos seu valor de troca, seu preo, alm de
sua carga puramente simblica. () o computador e a internet e suas ramificaes
j bem inseridas nas fantasias polticas Utpicas substituram um consumo artstico
e cultural antigo, que eles ao mesmo tempo modificaram e suplantaram. Agora
podemos consumir a prpria forma de comunicao, alm do seu contedo (Jameson,
2015, p.111).8

6
Note que a singularidade e a Singularidade denotam coisas diferentes. A com letra minscula acompanha a
discusso sobre o termo, ao passo que a com letra maiscula diz especificamente sobre a verso singularitarian
do termo.
7
Traduo livre de: "(...) now we can see a little better what they really are: they are not objects, because they
are in fact events. The installation and its kindred productions are made, not for posterity, nor even for the
permanent collection, but rather for the now () (Jameson, 2015, p.111).
8
Traduo livre de: I should add that in our postmodernist age we not only use technology, we consume it, and
we consume its exchange value, its price, along with its purely symbolic overtones. () the computer and
internet and their ramifications already well integrated into Utopian political fantasies have replaced an older
18

A importncia do evento como representao da temporalidade torna a


experimentao desse objeto nica, impossvel de se repetir, nos termos do autor: one-offs.
A temporalidade do evento a temporalidade do corpo: o evento s possvel quando
experienciado presencialmente. O passado reduzido experincia do presente. O futuro se
torna, tal como no capitalismo financeiro, guiado por apostas e apostas de apostas que so, na
verdade, novos presentes. Jameson diz sobre esses eventos que eles no produzem futuros de
si, apenas um presente diferente. O mundo do capitalismo financeiro esse presente perptuo
mas no uma continuidade; ele consiste em uma srie de eventos de singularidade9
(Jameson, 2015, p.122).
Esse efeito de tomar a temporalidade pelo evento um primeiro caminho encontrado
Jameson para falar de singularidade. O autor prope ainda, de modo mais objetivo, trs
formas de entender o que seja singularidade: uma cientfica, uma da fico-cientfica e uma da
filosofia ps-moderna. Essas trs verses da singularidade so na verdade complementares
Singularidade que eu quero chegar, aquela que d conta de representar o conceito chave no
qual inspirado o nome Singularismo.

a) Singularidade cientfica: Jameson diz que no est claro para ele se a singularidade
cientfica diz sobre algo que vai alm das leis da fsica como conhecemos hoje ou a uma
anomalia que eventualmente ser desvendada pelos cientistas, mas que ainda no
compreendida. Para o autor essa ambiguidade no importa muito porque sua preocupao
com o evento singularidade. () como um buraco negro que () se encontra na fronteira
entre uma espcie de evento que no pode se repetir no tempo e uma estrutura nica que pode
se unir apenas uma vez, mas que ainda assim um fenmeno suscetvel de anlise
cientfica10 (Jameson, 2015, p.123). Poderemos enxergar nessa verso certo sentido da
temporalidade ps-moderna num contexto cientfico, onde o evento one-off a centralidade
determinante.
b) Singularidade da fico cientfica: Trabalharei com cuidado em seguida com o
Singularismo. Mas desde j vale demarcar que uma das suas figuras mais proeminentes , ao

artistic and cultural consumption, which they have both modified and supplanted. We now consume the very
form of communication along with its content (Jameson, 2015, p.111).
9
Traduo livre de: it produces no future out of itself, only another and a different present. The world of
finance capital is that perpetual present but it is not continuity; it is a series of singularity-events (Jameson,
2015, p.122).
10
Traduo livre de: (...) like a black hole which (...) lies on the border between an unrepeatable event in time
of some sort and a unique structure that may come together just once, but which is nonetheless a phenomenon
susceptible to scientific analysis (Jameson, 2015, p.123).
19

menos na mdia, Ray Kurzweil. Jameson o cita como uma representao de singularidade da
fico cientfica. A ironia impossvel de ignorar que h um deslocamento entre o lugar que
Jameson coloca Kurzweil e aquele que o prprio futurista se coloca. Para Kurzweil (2005), a
singularidade uma certeza cientfica, tal como suas previses, ao passo que Jameson no
hesita em classificar a singularidade kurzweiliana como fico cientfica. As fronteiras entre
cincia e fico cientfica ficam mais penetrveis nos escritos dos singularitarians. De todo
modo, Jameson associa a singularidade da fico cientfica a um evento tal como na verso
cientfica, ou melhor, derivado dela. Esse evento est no horizonte da mutao no processo
evolutivo e tem a ver necessariamente com computadores e inteligncia artificial. A verso
kurzweiliana chamada pelo autor de uma verso muito especfica da singularidade, onde
previsto um evento que, tal como no filme Terminator (1984), a inteligncia artificial se
tornaria mais capaz que a humana. Temtica largamente popular na fico cientfica
contempornea, Jameson ainda acerta em perceber que h uma importante oposio na forma
de ver essa singularidade da fico cientfica: distopia x utopia.

A singularidade distpica seria a emergncia de uma espcie mecnica que transcende


a humana em termos de inteligncia (e malignidade), como em Terminator ou
Battlestar Galactica. A utpica seria a emergncia ps-humana na espcie at ento
humana, uma forma de mutao do humano em um novo tipo hbrido ou androide de
inteligncia super-humana dentro de nossa prpria natureza humana11 (Jameson,
2015, p. 123).

Essa oposio muito importante para a reflexo que faremos aqui. Se por um lado no
cinema hollywoodiano veremos com uma frequncia impressionante futuros distpicos para
uma potencial singularidade12, a ideologia singularista se concentra precisamente no utopismo
da chegada da singularidade. Os singularitarians no apenas acreditam na chegada da
singularidade, mas tambm desejam e fomentam esse one-off event. A singularidade utopista
carrega consigo, ainda, uma contradio particular de grande importncia. Embora a
singularidade seja um conceito de tempos ps-modernos, Jameson indica que podemos
identificar uma modernidade residual nesse utopismo singularista. Isso acontece porque
trata-se de um movimento ps-moderno alimentado pela utopia tipicamente moderna, que
acredita na evoluo e progresso da cincia como resoluo de todos os problemas humanos.

11
Traduo livre de: Dystopian singularity would be the emergence of a mechanical species that transcends the
human in its intelligence (and malignity) as in the Terminator series or Battlestar Galactica. Utopian would then
be the emergence of the posthuman in the hitherto human species, a kind of mutation of the human in a new
hybrid or android type of superhuman intelligence within our own human nature (Jameson, 2015, p. 123).
12
Dentre os muitos filmes com futuros distpicos criados a partir de uma revoluo das mquinas e/ou da
inteligncia artificial podemos citar: a srie Matrix, a srie Terminator, Eu rob, Ex-machina, a srie Tron,
Robocop, Vingadores: Era de Ultron, etc. A lista completa de filmes citados est nas referncias bibliogrficas.
20

Em certo sentido, o utopismo singularista , portanto, moderno e ps-moderno a um s tempo.


A forma pela qual ele ps-moderno merece ateno especfica, que nos leva diretamente
terceira forma de conceituar singularidade para Jameson.
c) Filosofia ps-moderna: falar de filosofia ou de cincia social ps-moderna
frequentemente uma armadilha porque esta pode se referir a muitas coisas, muito diferentes
entre si. Por isso necessrio um tipo de recorte, que Jameson tenta fazer. Diz o autor que h
dois princpios fundamentais aos quais est associada a noo de filosofia ps-moderna, a
saber, anti-essencialismo e o anti-fundacionalismo. O anti-essencialismo, de modo geral, se d
na recusa de estruturas ou definies colocadas aprioristicamente. Isto , a filosofia ps-
moderna recusa que verdades sejam do mbito da natureza e que sejam, assim, indiscutveis
ou imutveis. No caso da antropologia, o ps-moderno geralmente marca a recusa da
separao entre natureza e cultura, mas tambm a negao da ideia de que as coisas da
natureza sejam pr-determinadas, ou dadas, antes de passarem por interpretao. O anti-
fundacionalismo, por sua vez, se d na recusa de verdades fundadoras, ou de mitos de origem.
Na viso ps-moderna no h precedncia ontolgica entre causa e efeito, criador e criao,
mas uma co-relao. Diz o autor, ainda, que da perspectiva moderna o ps-modernismo a
filosofia do relativismo e acrescenta que possivelmente do construtivismo e do historicismo.
Se podemos generalizar todas essas descries na concluso que a filosofia ps-moderna
est associada negao dos universalismos. Tudo quanto universal passvel de
questionamento numa viso ps-moderna. Todo universalismo normativo para um ps-
moderno. Em oposio a esse universalismo que entra uma unicidade que pode ser pensada
enquanto singularidade.

A singularidade, em outras palavras, prope algo nico que resiste ao geral e


universalizao (sem mencionar a totalizao); nesse sentido, o conceito de
singularidade ele mesmo um conceito singular, pois ele no pode ter um contedo
geral, sendo meramente uma designao para tudo que resiste a qualquer definio
em categorias abstratas ou universais13 (Jameson, 2015, p.126).

Aqui no cabe aprofundar na discusso que faz o autor sobre as consequncias de uma
poltica de inspirao ps-moderna. Cabe, contudo, recuperar que uma ideia ps-moderna de
tecnologia tambm se vincula ao Singularismo e sua ideia utpica de Singularidade.

13
Traduo livre de: Singularity, in other words, proposes something unique which resists the general and the
universalizing (let alone the totalizing); in that sense, the concept of singularity is itself a singular one, for it can
have no general content, and is merely a designation for what resists all subsumption under abstract or universal
categories (Jameson, 2015, p.126).
21

(...) pode-se com alguma segurana pensar que se o moderno contemplado pela
tecnofobia, o ps-moderno caracterizado na tecnofilia. O ps-moderno, nesse
sentido, corresponderia crena de que o hbrido entre humano e mquina
emancipador e desejvel, porque, no limite, humano e mquina so apenas conceitos
transponveis (CHIODI, Vitor F. N., 2015, p.12).

A Singularidade que se relaciona ao Singularismo passa direta ou indiretamente pelas


quatro formas de definir singularidade que Jameson empreendeu. Ela por vezes derivada do
evento singular da cincia, e compartilha de um utopismo moderno (progresso da cincia),
mas tambm, e principalmente, calcada no utopismo, temporalidade e contexto histrico
ps-modernos, representados respectivamente pela transcedncia pela tecnologia e o ps-
humano; pelo presente e tempo do corpo (e o futuro como presente); e pela 3 fase do
capitalismo.

1.3. Entre singularitarians: as vrias formas de entender a Singularidade

Geralmente caracterizamos movimentos e ideologias primeiramente apontando o que


seus membros tm em comum. A partir de um texto de Yudkowsky (2007) farei, contudo, o
caminho reverso. Yudkowsky um proeminente pesquisador singularitarian. Alm de ser
fundador de organizaes de promoo do Singularismo, tem produo cientfica e poltica
sobre a Singularidade e suas questes adjacentes em especial a inteligncia artificial. Em
meio aos singularitarians h uma boa diversidade na conceituao do que seja a
Singularidade, e essa diferena frequentemente importante para a construo do argumento
dos autores. O objetivo nesse momento no aprofundar nas escolas da Singularidade, mas
to somente indicar como cada uma dessas escolas enxerga o que seja Singularidade (e como
chegar l). Alguns fatores comuns unem todas as escolas. Primeiramente, todas essas escolas
esto unidas pelo otimismo com a potencial chegada da Singularidade. Como ela chegar e o
que acontecer depois no consensual e alvo de disputa interna entre singularitarians. O
que nos leva a concluir que a prpria ideia de Singularidade no a mesma para todos eles,
como veremos a seguir. Yudkowsky (2007) associa cada uma das trs escolas a lideranas do
Singularismo. Aqui trabalharei com um autor proeminente para cada uma das escolas. Ray
Kurweil para Accelerating Change, Vernor Vinge para Event Horizon e o prprio Yudkowski
para Intelligence Explosion.
22

a) Event Horizon Vernor Vinge

A definio de Vernor Vinge para Singularidade bastante importante para entender o


Singularismo. Embora o prprio autor cite o uso anterior por John Von Neumann um dos
principais cientistas da ciberntica e provavelmente se refira de modo metafrico a um
conceito da fsica, o conceito de Singularidade frequentemente atribuido a Vinge (1993).
Seu artigo de 1993 The coming of Technological Singularity marca, talvez, o incio de uma
sistematizao de ideias que culminaria no Singularismo. No limite podemos assumir que
Vinge foi quem usou o conceito de maneira suficientemente especfica para ser considerado
um novo conceito. Quando John Von Neumann falava de technological singularity ele se
referia de modo geral ao progresso da tecnologia (Vinge, 1993). J a metfora apropriada da
fsica vem tanto do conceito de singularidade como de event horizon que d nome escola
singularista da qual Vinge referncia. No buraco negro, o Horizonte de Eventos (traduo de
Event Horizon) o limite onde est estabelecido o ponto de no-retorno. Ou seja, para alm
desse ponto tudo se torna singularidade. A singularidade uma regio de volume nulo e
densidade infinita e tudo que passa pelo Horizonte de Eventos se torna parte dela. Como
veremos adiante, essa uma metfora bastante apropriada para o conceito de Singularidade
com o qual trabalha Vinge.
Vinge (2008) diz que a Singularidade vir com uma combinao indeterminada de cinco
cenrios: i. A criao de inteligncia artificial (AI) super-humana em computadores; ii. A
conquista do melhoramento da inteligncia humana a partir de interfaces humanos-
computadores nas quais alcanar-se-ia a inteligncia amplificada (IA); iii. Aumento de
inteligncia a partir de melhoramento da operao neurolgica do crebro; iv. A humanidade,
computadores e bases de dados se tornam suficientemente poderosos para serem considerados
um super-ser-humano; v. A rede de microprocessadores incorporados se torna suficientemente
poderosa para ser considerada um super-ser-humano. Todos esses cenrios culminaro,
segundo o autor, num ponto de no-retorno, onde estar a Singularidade.

Eu acredito que podemos denominar esse evento uma singularidade (a


Singularidade, para os fins deste trabalho). um ponto em que nossos modelos
devem ser descartados e uma nova realidade reina. Ao nos aproximarmos desse
ponto, ele vai pairar com cada vez mais fora sobre as relaes humanas at se tornar
ordinrio14 (Vinge, 1993, p. 6).

14
Traduo livre de: I think it's fair to call this event a singularity ("the Singularity" for the purposes of this
paper). It is a point where our old models must be discarded and a new reality rules. As we move closer to this
point, it will loom vaster and vaster over human affairs till the notion becomes a commonplace (Vinge, 1993, p.
6).
23

A reflexo de Vinge (1993) faz uma associo entre a teoria da evoluo e a chamada lei
de Moore. Seu argumento central para a existncia potencial de um ps-humano a crena
que, tal como no passado os homens se tornaram os habitantes mais inteligentes do planeta,
est no nosso horizonte o momento em que os humanos sero evolutivamente superados. J a
lei de Moore diz respeito ao progresso tecnolgico. Argumentava seu autor Gordon E. Moore
j em 1965, que o nmero de transistores nos chips dobraria a cada dezoito meses mantendo,
contudo, seu preo (Vinge, 1993). O que na prtica signficava que a cada dezoito meses a
capacidade de processamento dos chips dobrava, ao passo que seu valor seria mantido. Com o
passar das dcadas finais do sculo XX essa previso se mostrou concretizada e argumento
central para quase todos os singularitarians na justificativa da proximidade da chegada da
Singularidade. Vinge v a lei de Moore amparada pela evoluo, de modo que, na sua viso, a
inteligncia ps-humana ser progresso natural da tecnologia como meio de melhoramento da
inteligncia humana. Mais tarde o autor vai atribuir internet um papel decisivo no processo
de aceleramento da inteligncia (Vinge, 2006).
O ttulo da escola se refere, seguindo a metfora com o buraco negro, absoluta incerteza
sobre o que vir aps a Singularidade. Yudkowsky (2007) argumenta que para Vinge no
possvel saber o que vir depois da Singularidade porque para saber sobre isso precisaramos
ser to inteligentes quanto a inteligncia ps-Singularidade. De modo formal, poderemos
concluir que para Vinge a Singularidade marca a passagem do humano para o ps-humano, e
o ponto crtico do hibridismo entre homem e mquina. A leitura que costuma estar ligada ao
conceito fundador de Vinge, contudo, geralmente presumida de modo resumido como o
grande evento ao qual se d o nome de Singularidade. Como e quando chegaremos a esse
evento e o que ocorrer depois dele , todavia, passvel de diferentes abordagens por
diferentes singularitarians. Vinge (1993; 2008) diz na dcada de 90 e reafirma ao final dos
anos 2000 que ficaria surpreso se a Singularidade no ocorresse antes de 2030. Abre, contudo,
a possibilidade desse evento no ocorrer. Bom, talvez ela no acontea () Mas se a
Singularidade puder acontecer, ela ir15 (Vinge, 1993, p. 10-11).

b) Intelligence Explosion

Defina uma mquina superinteligente como uma mquina que ultrapassa por muito
todas as atividades intelectuais de um homem, independentemente do quo inteligente

15
Traduo livre de: Well, maybe it won't happen at all (...) But if the technological Singularity can happen, it
will (Vinge, 1993, p. 10-11).
24

ele seja. Como o design de mquinas uma dessas atividades intelectuais, uma
mquina superinteligente poderia efetuar o design de mquinas ainda melhores;
haveria ento certamente uma exploso de inteligncia, e a inteligncia do homem
ficaria muito para trs. Dessa forma a primeira mquina superinteligente a ltima
inveno que o homem precisa realizar, contanto que a mquina seja dcil o
suficiente para nos dizer como mant-la sob controle (...) mais provvel que no
que, no sculo XX, uma mquina superinteligente vai ser construda e que ela ser a
ltima inveno que o homem precisar fazer16 (I. J. Good apud Vinge, 1993, p. 7).

Yudkowsky (2007) identifica na escola Intelligence Explosion ele prprio e I. J. Good.


Este foi um matemtico britnico que trabalhou com Alan Turing e, mais tarde, nos EUA.
Costuma ser creditado como criador do conceito de Intelligence Explosion. Good foi, ainda,
consultor para Stanley Kubrick na produo de 2001: Uma odisseia no espao 17. Fica claro
que a ideia de Singularidade de Yudkowsky se aproxima das previses de Good e a leva para
um outro lugar. Para Yudkowsky (2007) a inteligncia sempre foi a fonte da tecnologia. Para
o autor, diante da possibilidade de tecnologias que melhorem de modo significativo a
inteligncia humana, estar criado um loop com ciclo de feedback positivo. Isto , se houver
inteligncia mais capaz que a humana, essa nova inteligncia criar novas tecnologias ainda
mais capazes, num ciclo. Cada gerao trabalhar ciente que o melhoramento de
inteligncia possvel, o que leva o autor a caracaterizar esse loop como um ciclo de feedback
positivo. Yudkowsky compara esse ciclo reao em cadeia da exploso atmica. Esse
processo no necessariamente aumenta de modo exponencial, como argumenta Kurzweil
(2005), por exemplo. Para Yudkowsky, portanto, a Singularidade definida por esse ciclo
rumo a uma inteligncia greater-than-human. Diferente de Vinge, o autor no enxerga a
Singularidade como um evento, do tipo one-off, mas simplesmente como o possvel futuro do
mundo num futuro especulado a partir de evidncias cientficas. Assim sendo, o autor no
oferece datas, nem descries do futuro ps-Singularidade. Diferente de vrios de seus
companheiros singularitarians, Yudkowsky se porta muito mais como pesquisador engajado
na acelerao do processo de exploso de inteligncia do que como futurista. Porque acredita
que a Singularidade seja desejvel, e, por outro lado, baseado no ciclo de feedback positivo,

16
Traduo livre de: Let an ultraintelligent machine be defined as a machine that can far surpass all the
intellectual activities of any any man however clever. Since the design of machines is one of these intellectual
activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an
"intelligence explosion," and the intelligence of man would be left far behind. Thus the first ultraintelligent
machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how
to keep it under control (...) It is more probable than not that, within the twentieth century, an ultraintelligent
machine will be built and that it will be the last invention that man need make (I. J. Good apud Vinge, 1993, p.
7).
17
https://www.theguardian.com/science/2009/apr/29/jack-good-codebreaker-obituary
25

porque acredita que s haver Singularidade a partir do esforo da inteligncia humana de


melhorar as tecnologias e a prpria inteligncia humana e artificial.

c) Accelerating Change

Talvez essa seja a verso mais conhecida da Singularidade, em grande medida por causa
da figura de Ray Kurzweil. Autor de best-sellers e de filmes que divulgam os livros e uma
espcie de lder espiritual de toda uma rede de mdia tecnoutopista, Kurzweil a liderana
carismtica do Singularismo. Ainda falarei de autores singularitarians com mais cuidado
adiante, j que por ora meu objetivo apenas trabalhar com a noo de Singularidade. A
noo de Accelerating Change tambm est vinculada a uma leitura especfica da teoria da
evoluo associada a uma adaptao da Lei de Moore. Yudkowsky e Vinge discutem a
Sigularidade de modo muito mais contido que Kurzweil. Os dois primeiros colocam a
Singulariade no mbito da possibilidade e, ainda que acreditem que seja mais provvel que ela
acontea do que no, procuram ponderar limitaes e quais desenvolvimentos de tecnologias
tm de ser desenvolvidos antes de pensarmos em Singularidade. Kurweil, por outro lado, no
hesita em oferecer longas descries sobre como ser o futuro ps-Singularidade, tampouco
hesita em dar uma data exata para esse acontecimento: 2045 (Kurzweil, 2005).
Com Kurzweil a noo de Singularidade ganha contornos quase msticos. Muito embora a
noo de ps-humano e de transcendncia j esteja presente desde quando Vinge (1993)
definiu a Singularidade, Kurweil leva a transcendncia muito mais a fundo, com uma
radicalizao do processo de hibridizao entre homem e mquina, biologia e tecnologia, na
chamada kurzweilian merger (Miller, 2012) sobre a qual falo adiante.

Assim como o buraco negro no espao altera dramaticamente os padres de matria e


energia acelerando na direo de seu horizonte de possibilidades, essa Singularidade
iminente no nosso futuro est cada vez mais transformando todas as instituies e
aspectos da vida humana, da sexualidade espiritualidade. O que ento a
Singularidade? um perodo futuro em que o ritmo da mudana tecnolgica ser to
rpido e seus impactos to profundos que a vida humana ser transformada
irreversivelmente. Embora nem utpica nem distpica, essa poca transformar os
conceitos em que nos apoiamos e que do sentido a nossas vidas, dos nossos modelos
de negcios ao ciclo da vida humana, inclusive a prpria morte. Entender a
Singularidade vai alterar a nossa perspectiva sobre a relevncia do passado e as
ramificaes para o nosso futuro. Entend-la verdadeira e inerentemente muda a viso
da vida em geral e da prpria vida particular18 (Kurzweil, 2005, p. 22).

18
Traduo livre de: Just as a black hole in space dramatically alters the patterns of matter and energy
accelerating toward its event horizon, this impending Singularity in our future is increasingly transforming every
institution and aspect of human life, from sexuality to spirituality. What, then, is the Singularity? It's a future
period during which the pace of technological change will be so rapid, its impact so deep, that human life will be
26

Nessa citao podemos observar os contornos msticos que a Singularidade ganha nos
termos de Kurzweil. Ele fala explicitamente em transformao espiritual, modificao de
conceitos e, principalmente, superao da morte. Embora ele esteja dizendo que a
Singularidade no seja em si utpica ou distpica, mesmo uma leitura pouco aprofundada de
seus textos ou entrevistas capaz de mostrar como para Kurzweil a Singularidade a soluo
de quase todos os problemas do mundo. O autor afirma que com ela transcederemos as
limitaes do corpo e do crebro.
Yudkowsky (2007) diz que a escola de Kurzweil refuta o modo pelo qual
normalmente pensamos na mudana. De acordo com essa corrente, os humanos tenderiam a
pensar na mudana de modo linear, levando em conta as mudanas que ocorreram no prprio
tempo de vida. Apoiados numa extrapolao da lei de Moore, os partidrios dessa escola vo
argumentar que a diferena tecnolgica acelerada e que, hoje, ocorre mais rpida do que
ocorria no passado. Portanto, o passado de nossas prprias vidas sempre um guia ruim para
compreender a dinmica da mudana tecnolgica. A ideia chave subjacente Singularidade
iminente que o ritmo de mudana da nossa tecnologia criada por humanos est accelerando
e seus poderes esto expandindo de forma exponencial19 (Kurzweil, 2005, p.23).
Com o crescimento exponencial da tecnologia pode-se descrever e prescrever seu
futuro, de modo que seguindo o modelo poder se dizer com preciso quando a Singularidade
ocorrer. por acreditar e traar esse padro exponencial de acelerao inspirado tanto na lei
de Moore como nos escritos de von Neumann que essa escola se diferencia das outras. A
escola Intelligence Explosion no julga ser possvel estabelecer uma data exata para a
Singularidade, nem mesmo acredita ser possvel estabelecer que o progresso da tecnologia
cresce acelerado de modo exponencial. J a escola Event Horizon incisiva ao dizer que no
possvel saber o que acontecer na ps-Singularidade, de modo que as descries de futuro
ps-Singularidade seriam meramente especulativas.

A Singularidade representar a culminao da fuso da nossa existncia e pensamento


biolgico com a nossa tecnologia, resultando em um mundo que ainda humano mas

irreversibly transformed. Although neither utopian nor dystopian, this epoch will transform the concepts that we
rely on to give meaning to our lives, from our business models to the cycle of human life, including death itself.
Understanding the Singularity will alter our perspective on the significance of our past and the ramifications for
our future. To truly understand it inherently changes one's view of life in general and one's own particular life
(Kurzweil, 2005, p. 22).
19
Traduo livre de: The key idea underlying the impending Singularity is that the pace of change of our
human-created technology is accelerating and its powers are expanding at an exponential pace (Kurzweil, 2005,
p.23).
27

que transcende nossas razes biolgicas. No haver distino, ps-Singularidade,


entre humano e mquina ou entre realidade fsica e virtual. Se voc se perguntar o que
restar de claramente humano nesse mundo, simplesmente a seguinte qualidade:
nossa espcie a que inerentemente procura expandir seu alcance fsico e mental
alm das limitaes atuais20 (Kurzweil, 2005, p.23).

1.4. Afinal, o que a Singularidade?

I look at God and he looks at me


Resposta dada por um fiel catlico ao padre John
Vianney, quando perguntado de que modo rezava.

If you stare into the Singularity long enough, the


Singularity stares back into you
Eliezer Yudkowski The Singularitarian
Principles

As diferenciaes dadas por Yudkowsky pra as trs escolas do Singularismo no


esgotam a questo da Singularidade. Muito antes pelo contrrio, diante de um cenrio onde
inmeras verses do que seja a Singularidade existem, o texto de Yudkowsky marca uma
disputa de narrativa implcita. O pesquisador est de alguma forma separando quais noes de
singularidade servem para reconstruir um ideal de Singularismo. Dessa forma, essa separao
indica caminhos que o pesquisador tenta passar ao leitor.

Eu escutei (muitas) outras tentativas de definio da Singularidade, mas na maioria


das vezes considero que falta nelas premissas e concluses separadas. Por exemplo,
no antigo Extropian FAQ, a Singularidade estava definida como o Ponto de Inflexo,
o tempo em que o desenvolvimento tecnolgico atingir seu nvel mximo e
imediatamente antes de ele comear a se tornar mais devagar. Mas o que faz disso um
ponto interessante na histria, alm de sua definio? Quais so as consequncias
dessa suposio? Para ser considerado uma escola de pensamento ou mesmo uma
tese, necessria uma estrutura interna de argumentao, no apenas uma definio21
(Yudkowsky, 2007, sem pgina).

20
Traduo livre de: The Singularity will represent the culmination of the merger of our biological thinking and
existence with our technology, resulting in a world that is still human but that transcends our biological roots.
There will be no distinction, post-Singularity, between human and machine or between physical and virtual
reality. If you wonder what will remain unequivocally human in such a world, it's simply this quality: ours is the
species that inherently seeks to extend its physical and mental reach beyond current limitations (Kurzweil, 2005,
p.23).
21
Traduo livre de: Ive heard (many) other definitions of the Singularity attempted, but I usually find them to
lack separate premises and conclusions. For example, the old Extropian FAQ used to define the Singularity as
the Inflection Point, the time when technological development will be at its fastest and just before it starts
slowing down. But what makes this an interesting point in history apart from its definition? What are the
consequences of this assumption? To qualify as a school of thought or even a thesis, one needs an internal
structure of argument, not just a definition (Yudkowsky, 2007, sem pgina).
28

Algumas outras definies de Singularidade tocam em pontos diferentes mas acabam


podendo ser relacionadas s escolas. Parece ser o caso da proposta de Miller (2012) no livro
Singularity Rising. O autor fala da Singularidade a partir de uma cadeia de influncia mtua
entre prosperidade econmica, tecnologias e inteligncia, na qual a inteligncia necessria
para a criao de tecnologias, e as tecnologias necessrias para a prosperidade econmica.
Essas trs variveis traam entre si uma relao de proporo direta, de modo que ela se torna
mais uma das formas de justificar porque a chegada da Singularidade seria uma coisa boa. Ao
preconizar o modelo da Intelligence Explosion, por exemplo, chega-se pela reflexo de Miller
concluso que as tecnologias e a prosperidade econmica tambm tero uma exploso. Para
Miller (2012), a Singularidade o limite temporal em que a inteligncia artificial est ao
menos no mesmo nvel da humana, e/ou inteligncia humana aumentada, e recriar
radicalmente a civilizao22 (Miller, 2012, p. X). Essa definio mais curta nos faz pensar no
modelo de Vinge e da escola Event Horizon. Mais frente no mesmo livro, o autor dedica a
terceira e ltima parte justamente para fazer previses para o ps-Singulariade de um ponto de
vista econmico. Como observamos, o nico autor entre os trs singularitarians citados que
arrisca previses para o ps-Singularidade Kurzweil e a escola Accelerating Change. Miller
(2012) define a Singularidade como Vinge, para quem impossvel prever o futuro ps
singularidade, para logo em seguida fazer uma poro de previses. Eles podem ser evocados
ao mesmo tempo em torno de uma ideia mais geral de Singularidade. Essa ideia mais geral
aumenta as possibilidades dos processos que deflagraro sua chegada se houver chegada e
de que forma. Em resumo, poderemos dizer, no mnimo, que todos os singularitarians
acreditam na Singularidade e acham que ela ser positiva, independentemente de como se
chegar a ela. Valendo-me da epgrafe que abre essa sesso, parece-me o mesmo caso de
comparar, digamos, um esprita, um catlico e um evanglico. Todas essas religies acreditam
em um deus cristo e apostam nele para sua salvao da morte, dos problemas do mundo,
das limitaes humanas. Mas, a forma correta de se dedicar a esse deus e como a ele chegar
bastante diferente entre essas religies, e podem at se contradizer. Observe a seguinte citao
do texto de Yudkowsky (2000A, sem pgina):

A ideia central permanece a mesma: h uma descontinuidade imensa se aproximando,


uma Singularidade, dentro da histria humana. Isso est ligado emergncia de
inteligncia mais-que-humana, com a habilidade da tecnologia de alterar a natureza
humana, a conquista final da realidade material atravs da nanotecnologia, ou alguma

22
Traduo livre de: a threshold of time at which AIs that are at least as smart as humans, and/or augmented
human intelligence, radically remake civilization (Miller, 2012, p. X).
29

outra mudana fundamental nas regras. Um Singularitarian acredita que a


Singularidade possvel, que algo bom e que devemos agir para que ela acontea.23

Parece-me curioso que a troca de algumas palavras possa aproximar o discurso de um


movimento que se pretende cientfico (na mais dura e moderna acepo do termo) de um
religioso. Yudkowsky (2007) promove ao indicar as trs grandes escolas singularistas uma
espcie de oficializao que de grande ajuda para um primeiro passo da descrio do
Singularismo enquanto ideologia. Em suma, os conceitos podem divergir em alguns pontos,
mas sabemos de certo que se houver salvao... ou melhor, se houver Singularidade, l que
os singularitarians desejam chegar. De preferncia, tal como muitos religiosos, levando junto
quem for possvel.

23
Traduo livre de: The core idea remains the same: There is a massive discontinuity approaching, a
Singularity, within human history. This has to do with the rise of smarterthanhuman intelligence, the ability of
technology to alter human nature, the final conquest of material reality through nanotech, or some other
fundamental change in the rules. A Singularitarian believes that the Singularity is possible, that the Singularity is
a good thing, and that we should help make it happen.
30

2. A RELAOENTRE IDEOLOGIA E COSMOLOGIA PARA ERIC WOLF

2.1. A contribuio de Eric Wolf

No prefcio disse que usaria o conceito de ideologia construdo por Eric Wolf. Na
verdade, contudo, a contribuio do autor para a pesquisa bastante mais seminal que um
conceito. Isso se d porque vem do mesmo livro de Wolf, Envisioning Power, algumas das
ideias mais fundamentais nas quais se baseia essa pesquisa, incluindo o original constructo
terico que elabora uma conexo entre ideologia e cosmologia.

Constatando que a antropologia americana entre o sculo XIX e a primeira metade do


sculo XX sistematicamente negligenciou a problemtica do poder e, por conseguinte,
chegou a um impasse, Wolf sugeriu que uma forma de sermos educados nas
realidades do poder seria nos engajarmos na produo sistemtica de uma histria
do mundo moderno em que decifraramos os processos de poder que criaram os atuais
sistemas culturais e as ligaes entre eles (Feldman-Bianco; Ribeiro, 2003, p. 271).

O trecho destaca que a problemtica do poder e a abordagem histrica so solues


para os problemas de uma abordagem holista, pacificada e congelada da cultura. Eric Wolf
(...) foi crtico do conceito romntico de cultura, no somente devido sua homogeneidade e
atemporalidade, mas tambm por sua reduzida valia para a identificao das estruturas de
poder, j que o poder que permite s pessoas reivindicar o que elas so e o que controlam
(Feldman-Bianco; Ribeiro, 2003, p. 272).
Feldman-Bianco e Ribeiro (2003) dizem que o autor acabou se afastando do conceito
de cultura a partir da influncia de Leach e se aproximando do de sociedade conceito que
ele prprio passou a ser bastante crtico mais tarde.

Se os antroplogos privilegiaram uma perspectiva da cultura sem poder, outros


analistas sociais ofereceram um conceito de ideologia sem cultura, tomando como
dado as ideias das elites em defesa da dominao, sem levar em conta as
especificidades das configuraes culturais (Wolf apud Feldman-Bianco; Ribeiro,
2003, p. 273).

O trecho ajuda a corroborar a ideia de que Wolf prope uma antropologia centrada nas
relaes sociais, o que o coloca como construtor de pontes entre vrias influncias em disputa.
Ele espera construir uma relao entre cultura e poder, e ideias e poder, que vai dar origem ao
conceito de ideologia. Essa relao negocia, por exemplo, uma posio classicamente
marxista, apostando em um materialismo que leva em conta as expresses concretas da
comunicao, sem aderir a um idealismo onde as relaes de poder so ignoradas.
31

Em Envisioning Power, Wolf defende um conceito de poder que no seja uma fora
antropomrfica, como o Leviathan, nem uma mquina gigante e feroz, mas sim um poder que
um aspecto de todas relaes. Pensar o poder em termos relacionais permite enxergar vrios
tipos de relaes, sejam elas interpessoais, institucionais, ou ainda estruturais. O poder
pensado dessa forma designa para Wolf quatro modalidades: i. A fora, potncia ou
capacidade de um indivduo, como vemos na perspectiva nietzscheana; ii. A verso
weberiana, onde o poder se manifesta na interaes e transaes entre as pessoas e se refere
habilidade de um ego impor sua vontade em uma ao social sobre um outro 24 (p.5); iii. A
terceira modalidade diz do poder de controlar contextos em que as pessoas exibem suas
capacidades e interagem com outras, que Wolf chama de poder ttico ou organizacional; iv.
na quarta modalidade que Wolf est mais interessado, contudo: o poder estrutural.

Eu me refiro ao poder manifestado em relacionamentos que no apenas operam


dentro de configuraes e campos mas tambm organiza e orquestra as prprias
configuraes, e que especifica a direo e distribuio dos fluxos de energia. Em
termos Marxianos, isso se refere ao poder de utilizar e alocar trabalho social. Tambm
a modalidade de poder discutida por Michel Foucault quando ele falou de
governana, que significa o exerccio de ao sobre ao. () Marx abordou as
relaes estruturais de poder entre a classe dos capitalistas e a classe dos
trabalhadores, enquanto Foucault se preocupou com as relaes estruturais que
governam a conscincia25 (Wolf, 1999, p. 5).

Enxergar o poder de modo estrutural pode ser uma das formas de olhar para as redes,
com suas vrias malhas, e pens-las em termos de poder. Sendo o poder de Wolf relacional,
podemos olhar tanto para as conexes mais micro que surgem quando mais ampliada a escala,
mas tambm olhar para o desenho da malha, e perceber que uma complexa trama de jogos de
poder tem um efeito estrutural que no bvio. justamente o que tento fazer no quarto
captulo desse trabalho, chamado de O Singularismo como rede. Pensar o Singularismo
como rede olhar tanto para as pequenas conexes que conectam pessoas e instituies, como
tambm fazer uso da propriedade da escala e enxergar as conexes entre instituies do
Singularismo e Vale do Silcio, e, assim por diante, com a conexo entre Vale do Silcio e
capitalismo informacional, etc. Portanto, olhar para o poder de modo relacional e estrutural,

24
Traduo livre de: refers to the ability of an ego to impose it will in social action upon an alter (p.5).
25
Traduo livre de: By this I mean the power manifest in relationships that no only operates within settings and
domains but also organizes and orchestrates the settings themselves, and that specifies the direction and
distribution of the energy flows. In Marxian terms, this refers to the power to deploy and allocate social labor. It
is also de modality of power addressed by Michel Foucault when he spoke of governance, to mean the exercise
of action upon action.() Marx addressed the structural relations of power between the class of capitalists and
the class of workers, while Foucault was concerned rather with the structural relations that govern
consciousness (Wolf, 1999, p. 5)
32

d suporte terico para que possamos enxergar a malha da rede que caracterizarei como rede
vertical.
Portanto, alm do conceito de ideologia e do constructo terico que relaciona
ideologia e cosmologia, uma terceira contribuio do livro de Wolf para essa pesquisa foi uma
forma de antropologia fundada nas relaes sociais. Wolf critica a noo de sociedade
salientando que, na medida em que seu desenvolvimento histrico restringiu-se
especificamente ao mundo ocidental, a sua formulao etnocntrica impede a busca de um
conhecimento mais amplo (Feldman-Bianco; Ribeiro, 2003, p. 273). Essa crtica
fundamental para repensar a relao entre parte e todo 26. Contudo, h algo de especfico na
antropologia relacional de Envisioning Power que foi fundamental para a reformulao da
pesquisa desde seu incio como projeto. A combinao de mtodo etnogrfico e anlise
histrica era a pretenso inicial dessa pesquisa. Por razes diversas, de questes financeiras
viabilidade prtica de fazer uma etnografia em outro pas num curto tempo de mestrado,
acabei preconizando uma abordagem terica que, contudo, tem por princpio uma anlise que
ao mesmo tempo histrica e etnogrfica.

Procurar respostas para essas perguntas, entretanto, tambm requer ir alm do


presente etnogrfico () para localizar o nosso objeto de estudo no tempo. No so
os eventos da histria que buscamos, mas o processo que fundamenta e molda esses
eventos. Fazendo isso, podemos visualiz-los no fluxo de seu desenvolvimento, de
um tempo em que so ausentes ou incipientes at quando se tornam abrangentes e
gerais27 (Wolf, 1999, p. 6).

Mais do que implicar uma abordagem histrica numa anlise antropolgica, Wolf est
salientando a importncia de pensar o tempo como varivel fundamental para descongelar
as estruturas, culturas, sistemas sociais, sociedades, cosmologias e tantos outros conceitos
antropolgicos que tiveram forma atemporal no passado da disciplina. A abordagem histrica
no necessariamente historiogrfica, no sentido de que pode ser uma histria das ideias, que
ajuda a compreender o que constituiu determinada ideologia no presente etnogrfico. Essa

26
Parte e todo denotam a crtica de Strathern (2014) aos conceitos de sociedade e de indivduo que
antropologia e a sociologia usam com muita frequncia. Nem a sociedade um todo, nem o indivduo parte
desse todo, porque sociedade e indivduo interagem em uma relao complexa e hologrfica. Essas duas
caracterticas, complexidade e holografismo, que nos permite usar a propriedade da escala e tomar uma
determinada rede de diversos pontos de vista num mesmo trabalho. E quando digo pontos de vista no me refiro
s perspectivas mltiplas dos atores da rede, mas das diferentes concluses que uma anlise pode chegar olhando
para uma rede de diferentes escalas.
27
Traduo livre de: Seeking answers to such questions, however, also requires us to go beyond the
ethnographic present (...) to locate the object of our study in time. It is not the events of history we are after, but
the process that underlie and shape such events. By doing so, we can visualize them in the stream of their
development, unfolding from a time when they are absent or incipient, to when they become encompassing and
general (Wolf, 1999, p. 6).
33

histria das ideias fundamental para a construo de uma reflexo sobre cosmologias,
conceito sobre o qual falo a seguir. De toda forma, o captulo 3 dessa dissertao visa
justamente construir um recorte de uma histria das ideias que forjaram o Singularismo, ao se
propor a recuperar os imaginrios estruturados dos quais o Singularismo depende, que so
justamente suas cosmologias. O livro de Wolf, no fim, oferece tanto uma soluo alternativa
para uma antropologia contempornea como conceitos fundamentais para colocar essa
alternativa em prtica. Volto a essa questo ao falar com mais cuidado sobre o livro
Envisioning Power, a seguir.

2.2. Cultura e cosmologia em Wolf: distines necessrias

Wolf no se dedica ao conceito de cosmologia com o mesmo afinco com que tratou os
conceitos de cultura e ideologia. Em Wolf (1999) onde o conceito de cosmologia surge com
importncia na obra do autor, o propsito trabalhar na relao entre ideologia-cosmologia, e,
acaba funcionando como complemento ao conceito de ideologia. Para compreender os
caminhos tericos com os quais estamos lidando ser necessrio, contudo, recuperar o lugar
da cosmologia no livro de Wolf e de que maneira esse conceito se relaciona com o de cultura.
Wolf crtico do conceito de cultura o que j foi evidenciado anteriormente. Diz o
autor que
() o conceito de cultura no uma panaceia ele , se tanto, apenas um ponto de
partida para a investigao. Seu valor metodolgico: Procure pelas conexes!
Ainda precisa-se de trabalho e pensamento para descobrir o que podem ser essas
conexes e, de fato, se existem conexes28 (Wolf, 2001a, p. 308).

Na seo anterior associei o poder estrutural e a noo de rede, embora Wolf no faa
isso. Para os propsitos desse trabalho, a forma como o autor enxerga a cultura, com valor
metodolgico, parece tambm dar suporte para essa rede de relaes complexas. Procurar
pelas conexes se torna o mtodo antropolgico por excelncia, quando a cultura deixa de ser
um metaobjeto aprioristico e a passa a ser metodologia. Na histria da antropologia o conceito
de cultura foi uma soluo quase irrevogvel para os problemas de homogeneizar e fechar
fronteiras de sociedades e etnias. difcil aceitar hoje que um conceito que uniformiza e cria
uma massa coerente seja a soluo para os problemas da disciplina. Essa cultura homognea e
28
Traduo livre de: (...) the culture concept is no panacea it is, if anything, only a starting point of inquiry.
Its value is methodological: Look for connections! It still takes work and thought to discover what these
connections may be and, indeed, whether any connections exist (Wolf, 2001a, p. 308).
34

completa expe os problemas de um conceito que no leva em conta as variveis histria e


poder que marcam a crtica de Wolf antropologia.

() nem as sociedades nem as culturas devem ser vistas como dadas, integradas por
alguma essncia interna, princpio norteador organizacional ou plano-mestre. Ao invs
disso, arranjos culturais, e arranjos de arranjos, esto continuamente em construo,
sob o impacto de processos mltiplos operando em campos largos de conexes sociais
e culturais () A construo, desconstruo e reconstruo de arranjos culturais
tambm envolvem a construo e destruio de ideologias. E relaes ideolgicas
como ecolgicas, econmicas, sociais e polticas transcendem fronteiras29 (Wolf,
2001a, p. 313-314).

Para Wolf a cultura construda e transformada, de modo que sua histria e as


relaes de poder so parte fundamental de sua composio. As ideologias, que levam o poder
crtica, so responsveis por parte da dinmica e quebra de fronteias constantes da cultura.
Se a cosmologia fundamenta com imaginrios as ideologias, poderamos concluir que a noo
de cosmologia em Wolf se aproxima da de cultura. Levando em conta, contudo, a data de
publicao dos textos em que Wolf define cultura, o artigo Culture: Panacea or Problems?
de 1982, e o que define cosmologia, o livro Envisioning Power de 1999, poderemos
perceber que se j no eram conceitos distintos cultura e cosmologia, ao menos se tornaram.
Observado esse perodo de quase vinte anos entre os dois textos poderemos supor que Wolf
refinou a relao terica central do livro mais recente, que j aparecia naquele artigo da
dcada de 80. A relao entre cultura e ideologia no a mesma que entre cosmologia e
ideologia, porque cosmologia e cultura no so a mesma coisa para o autor. Em primeiro
lugar, a ideia de cosmologia mais especfica que a de cultura. Alm disso, a cosmologia s
faz sentido a partir da relao com a ideologia. Seja por interesse na histria da disciplina,
seja pela crtica empreendida generalidiade do conceito de cultura, a cultura em Wolf tem
certa independncia da noo de ideologia (o que no acontece no caso da cosmologia), ainda
que o autor estabelea a relao cultura-ideologia no artigo citado. Em ambos os casos est
em questo o problema terico de relacionar ideas e poder, e vises muito materialistas e
muito idealistas da abordagem de pesquisa das cincias sociais. Uma cultura sem poder e uma
cosmologia sem poder levariam a pesquisa ao idealismo. Uma histria sem cultura e uma

29
Traduo livre de: (...) neither societies nor cultures should be seen as givens, integrated by some inner
essence, organizational mainspring, or master plan. Rather, cultural sets, and sets of sets, are continuously in
construction, under the impact of multiple processes operative over wide fields of social and cultural connections
() The construction, deconstruction, and reconstruction of cultural sets also involve the construction and
destruction of ideologies. And ideological relations like ecological, economic, social and political relations
transcend boundaries (Wolf, 2001a, p. 313-314).
35

ideologia sem cosmologia levariam a pesquisa a um tipo de materialismo que no caracteriza


a teoria de Wolf.
Trabalho com mais cuidado com a relao entre ideologia e cosmologia adiante, mas
de pronto devemos levar em conta que para Wolf as cosmologias so material que se tornam
fontes de verdades histricas para justificar os jogos ideolgicos de manifestao de poder.
Como mostra o trecho que segue:

Ao mesmo tempo, essas funes ancoram o domnio em uma estrutura cultural de


imaginrios, que caracterizada por formas que no so diretamente explicveis em
termos funcionalistas. Esses imaginrios postulam cosmologias; cosmologias, por sua
vez, articulam com ideologias que conferem aos detentores do poder o papel de
mediadores ou executores de foras csmicas superiores que os concedem direitos
naturais de dominar a sociedade como delegados da ordem csmica. Representando
essa ordem, esses delegados csmicos tambm a adotam em suas prprias vidas30
(Wolf, 1999, p. 283-284).

As cosmologias, nesse sentido, no so todo o corpo material e ideal da cultura, mas


uma espcie de cultural structure of imaginings. So, ento, estruturas dos imaginrios de
uma cultura de uma cultura que no uma unidade impenetrvel. Para Wolf as
cosmologias marcam uma conexo especfica entre a ideologia e a cultura. se apoiando
numa interpretao especfica de ideias e imaginrios estruturados que a ideologia vai buscar
justificao para seu projeto de poder. Aspectos da cosmologia so ampliados e elaborados
em ideologias que explicam e justificam as aspiraes de poder sobre a sociedade de grupos
especficos31 (Wolf, 1999, p. 290). As cosmologias, portanto, so parte das conexes
culturais, assim como as ideologias. A relao entre cosmologia e ideologia o formato
conceitual da conexo entre ideias e poder, e o motor da transformao cultural. Em certo
sentido, a cultura um contexto espao-temporal varivel, dotado de histria e maleabilidade,
vinculado organizao do poder (e sua transformao). Essas caractersticas marcam o
conceito de cultura enquanto alicerce material e imaginrio do qual dependem ideologias e
cosmologias para existir.

30
Traduo livre de: At the same time, these functions anchor rulership in a cultural structure of imaginings,
which is characterized by forms that are not directly explicable in functionalist terms. These imaginings
postulate cosmologies; cosmologies, in turn, articulate with ideologies that assign to the wielders of power the
role of mediators or executors on behalf of larger cosmic forces and grant them natural rights to dominate
society as delegates of the cosmic order. Representing that order, these cosmic delegates also enact it in their
own lives. (Wolf, 1999, p. 283-284)
31
Traduo livre de: Aspects of cosmology are further extended and elaborate into ideologies that explain and
justify the aspirations of particular claimants to power over society (Wolf, 1999, p. 290).
36

2.3. Sobre o conceito de ideologia

Envisioning Power um livro de 1999 e o ltimo publicado por Wolf antes de morrer.
O captulo que abre Envisioning Power diz que a inteno do livro explorar as conexes
entre ideias e poder. Essa relao est presente no ttulo do livro de modo bastante
representativo. O dicionrio de Cambridge define Envision como imaginar ou esperar que
algo uma possibilidade provvel ou desejvel no futuro32. O ttulo pressupe uma relao
entre imaginrio e poder, mas tambm leva em considerao a expectativa de compreender o
poder. Isto , denota a crtica que Wolf faz antropologia uma vez que () a disciplina
tendeu a desconsiderar o papel do poder em como a cultura construda, mantida, modificada,
desfeita ou destruda33 (Wolf, 1999, p.19). Por outro lado o ttulo tambm explicita a lacuna
que fica nos estudos sobre poder, onde ideias ou um complexo de ideias pormenorizado.

Ns estamos no final de um sculo marcado pela expanso colonial, guerras


mundiais, revolues e conflitos religiosos que ocasionaram um enorme sofrimento
social e custaram milhes de vidas. As agitaes acarretaram grandes manifestaes
de poder, mas ideias tiveram um papel central em todas elas34 (Wolf, 1999, p.1).

Todos os arranjos sociais envolvem relaes de poder, o que tambm verdade para
ideias. Mais concretamente, preciso saber como tradio e variabildiade de ideias e sistemas
de ideias so forjados em termos de poder. Ideias e sistemas de ideias, claro, no esto em
um espao incorpreo; elas adquirem substncia atravs da comunicao no discurso e na
performance. Ns, portanto, devemos observar como as ideias so comunicadas, de quem
para quem e entre quem35 (Wolf, 1999, p. 6).
O livro uma discusso histrica e etnogrfica sobre a conexo de ideias e poder,
cosntruda a partir de trs estudos de caso: os Kwakiutl, os Aztecas e o Nazismo. Em cada um
dos casos o autor implica a anlise histria na anlise etnogrfica, buscando compreender de
que maneiras ideias e imaginrios foram utilizados para justificar e implementar projetos de

32
Traduo livre de:to imagine or expect that something is a likely or desirable possibility in the future.
Fonte: http://dictionary.cambridge.org/dictionary/english/envision
33
Traduo livre de: () the discipline has tended to disregard the role of power in how culture is built up,
maintained, modified, dismantled, or destroyed (Wolf, 1999, p.19).
34
Traduo livre de: We stand at the end of a century marked by colonial expansion, world wars, revolutions,
and conflicts over religion that have occasioned great social suffering and the cost millions of lives. The
upheavals have entailed massive plays and displays of power, but ideas have had a central role in all of them
(Wolf, 1999, p.1).
35
Traduo livre de: Ideas and systems of ideas do not, of course, float about in incorporeal space; they acquire
substance through communication in discourse and performance. We therefore need to attend also to how ideas
are communicated, from whom to whom and among whom (Wolf, 1999, p. 6).
37

poder. Wolf d nfase entre a comunicao e as formas de poder, o que fica mais claro a
medida em que os casos so discutidos. Diz o autor que, tanto no caso dos Kwakiutl, dos
Tenochcha e do Nazismo a comunicao teve papel fundamental no processo em que as ideias
eram colocadas na prtica par manifestar poder. necessrio nessa viso reforar que
construes mentais tm contedo e funo. Tanto cooperao como conflito evocam poder
nas relaes humanas, e as ideias so emblemas e instrumentos fundamentais nas relaes
em transformao contnua (Wolf, 1999). O esquema terico de Wolf abrangente porque
pode se colocar como mtodo em diferentes abordagens, e no necessariamente aquele
trabalhado pelo prprio autor em seu livro. No livro Wolf analisou a asceno de ideologias
sobre as quais j havia historiografia e etnografias, o que as fazem funcionar tanto como
crtica terica de um conjunto de trabalhos sobre determinada cultura e tempo, mas tambm
como formas contemporneas de trabalhar os conceitos. Esta segunda forma torna os
conceitos de Wolf contemporneos e com vida renovada, pois eles nos permitem analisar
projetos de poder no concretizados e a formulao de ideologias na contemporaneidade. E
precisamente o que fao nesse trabalho. Recorro relao entre cosmologia-ideologia de
Wolf para analisar um projeto de poder em curso, que o Singularismo. Essa abordagem no
retira o aspecto histrico da anlise, mas substitui um material historiogrfico por um poltico.
E tambm, substitui uma histria da asceno de determinada ideologia por uma histria das
ideias que fundamente cosmologias que, por sua vez, sustentam culturalmente uma ideologia
como projeto de poder.

eu acredito que ideologia deve ser usada de maneira mais restrita, j que ideologias
sugere esquemas unificados ou configuraes desenvolvidas para garantir ou
manifestar poder. Equacionar toda ideao como ideologia mascara as formas como
as ideias se relacionam com o poder 36 (Wolf, 1999, p. 4, grifo meu).

O conceito de ideologia de Wolf permite que possamos fazer uma reflexo na qual
poderemos pesquisar como se relacionaram ideias e poder para que uma determinada
ideologia conseguisse dominncia num perodo histrico e cultural especfico. Pensar o
poder em termos relacionais, ao invs de como um power-pack concentrado, tem a vantagem
adicional de permitir ver o poder como um aspecto de qualquer tipo de relao37 (Wolf,
1999, p. 5) Para Wolf, seguindo a tradio marxista de sua teoria, importante demarcar que
36
Traduo livre de: I believe that ideology needs to be used more restrictively, in that ideologies suggest
unified schemes or configurations developed to underwrite or manifest power. Equating all ideation with
ideology masks the ways in which ideas come to be linked to power (Wolf, 1999, p. 4, grifo meu).
37
Traduo livre de: Thinking the power in relational terms, rather than as a concentrated power-pack, has
the further advantage that it allows one to see power as an aspect of any kinds of relations (Wolf, 1999, p. 5).
38

a ideologia dominante tem o domnio sobre a forma de mobilizao do trabalho social. Essa
forma de poder estrutural que aloca pessoas em posies sociais de poder. Para observar as
mudanas sociais devemos olhar como o trabalho alocado e como ele coloca o exerccio do
poder e a comunicao de ideias. Essa perspectiva sugere que, observadas potenciais
mudanas importantes nas configuraes do trabalho, teremos bom indico de um projeto de
poder pesquisvel enquanto ideologia. Observando que o autor recupera tanto Marx como
Foucault para falar de poder estrutural, pode-se acrescentar ao trabalho os jogos mais
complexos que envolvem o controle do trabalho social. Quero dizer com isso que no so
apenas modificaes diretas no trabalho que influenciam projetos de poder que visam
controlar a produo. Se as ideias tem papel fundamental na composio das ideologias,
justamente porque os imaginrios que corroboram as ideologias so mais amplos que apenas
questes de trabalho. Usando da citao que o autor faz a Foucault, poderemos colocar em
questo por exemplo, o impacto de uma narrativa dominante que favorece a asceno de
determinados projetos de poder em detrimento de outros. Ainda que essas narrativas no
versem diretamente sobre o trabalho, elas podem corroborar um cenrio tal que o trabalho
emerja como questo central.
O autor indica por fim um desenho terico que define serem os momentos de crise, ou
de interrompimento das normalidades, os perodos onde novas ideologias ganham fora e se
colocam estruturalmente. O caso do Brasil contemporneo pode ser tomado como exemplo
dessa chave. Tentando olhar para a poltica brasileira recente por meio da teorizao de Wolf
tornar difcil ignorar a relao entre impeachment, como forma de crise poltica, e as
reformas trabalhista e previdenciria, que envidenciam um novo projeto de poder incutido nas
vrias instituies e poderes que compem o governo federal. Por outro lado, () devemos
reconhecer que a distino comumente aceita entre perodos de normalidade e perodos de
crise em grande medida fictcia 38 (Wolf, 1999, p. 17). Ainda assim, Wolf conclui que os
casos extremos apresentados em seu livro no so to distantes da experincia cotidiana como
gostaramos e imaginamos.

38
Traduo livre de: (...) we must recognize that the generally accepted distinction between periods of
normality and periods of crisis is to a large extent fictious (Wolf, 1999, p. 17).
39

2.4. A relao entre cosmologia e ideologia em Wolf

Aspects of cosmology are further extended and elaborated into


ideologies that explain and justify the aspirations of particular
claimants to power over society (Wolf, 1999, p. 290)

Wolf (1999), como vimos, elabora uma noo de ideologia que denota uma relao.
As conexes entre ideias e poder colocam um modo de reflexo em que questes materiais e
ideais se conectam e permitem tanto uma interpretao de problemas polticos
contemporneos como a reviso de conflitos e contextos histricos diversos. Essa abordagem
marca um tipo de reflexo marxista que no necessariamente trata a ideologia como
mascaramento da realidade ou desprovida de materialidade. Em outros termos, uma
soluo conceitual para lidar com a falta de poder na reflexo sobre cultura (ou na reflexo
antropolgica), mas tambm da falta de cultura nas reflexes sobre poder incluso o
conceito clssico de ideologia marxista.
Desse modo, a ideia de cosmologia para Wolf complementa a de ideologia em dois
sentidos. Por um lado, as cosmologias contribuem com material imaginrio 39 (ambiguidade
intencional), sendo portanto um dos parmetros para pensar como o poder se conecta com a
cultura e com as ideias de modo geral. Por outro, a cosmologia tem uma fora mais
importante, que conecta cultura e tempo, e pensada nos vnculos mltiplos entre histria,
tradio e prticas culturais. Esta cosmologia a que emerge quando tomada por fonte de
verdade e moral que alimenta as ideologias e usada como justificativa para o domnio por
aqueles que desejam manifestar poder. Em termos mais gerais, a noo de cosmologia tem pra
Wolf a dupla funo de problematizar o conceito de ideologia a partir de uma reflexo
histrica que observa a fabricao de poder a longo prazo - , mas tambm a partir da
demarcao de um imaginrio coletivo como aspecto fundamental da manifestao de poder.
quando o autor fundamenta a relao entre cosmologia e ideologia que fica mais
explcito que seu esforo terico parece ser o da construo de pontes, que podem se
manifestar entre materialismo e idealismo, antropologia e marxismo, relativismo e
39
Quando digo material imaginrio reforo um aspecto especfico da materialidade que entra em
complementariedade ao materialismo clssico, visto nas condies de produo e trabalho. Wolf est se
distanciando do idealismo em certo sentido porque entende que parte importante da materialidade expressa nas
formas concretas nas quais as ideias so comunicadas e relacionadas. O que chamo de material imaginrio ,
portanto, uma forma de marcar que os imaginrios so manifestados de formas concretas, por smbolos presentes
em textos, sons, imagens, etc. Ideas or system of ideas do not, of course, float about in incorporeal space; they
acquire substance through communication in discourse and performance (Wolf, 1999, p. 6). Ento a palavra
material na expresso material imaginrio, denota a materialidade das ideias comunicadas, mas tambm
denota substncia, tal como na expresso matria-prima.
40

materialismo, ou, nos termos do autor, materialistas e simbolistas (Wolf, 2001b). Para Wolf
(1999) as crises podem marcar a formulao de novas ideologias e essas ideologias reforam
alguns aspectos da cosmologia e modificam outros. Segundo o autor, todas as trs sociedades
por ele estudadas em Envisioning Power estavam sob estresse crescente, enfrentando uma
multiplicidade de tenses colocadas por crises ecolgicas, sociais, polticas ou psicolgicas 40
(p. 272). O prprio autor reconhece o quo problemtica pode ser uma abordagem histrica
que seleciona crises, mas ao mesmo tempo parecem pontos de partida importantes para
marcar a parcialidade do pesquisador. Perodos de instabilidade poltica, social, ecolgica e
psicolgica costumam marcar uma disputa mais acirrada para a proposio de mudanas,
calcadas na ideia da inevitabilidade da transformao ps-crise. Perodos de crise seriam
portanto espcies de portais espao-temporais onde os sistemas cosmolgicos so mais
maleveis no sentido de menos duro e passvel de transformaes. Em outros termos, os
perodos de crise so momentos histricos onde as disputas polticas se escancaram e se
tornam mais palpveis para a pesquisa humanstica. O que um objeto como o Singularismo
tende a mostrar, e que amplia a questo, que essas crises no necessariamente so histricas
ou do presente poltico: o exerccio de prever crises e apresentar solues apriorsticas
tambm constitui manifestao de poder. Em especial num cenrio de capitalismo
informacional, ou, para usar os termos de Jameson (2015), num contexto de ps-
modernidade, onde as apostas de apostas fazem grandes jogos de poder.
As cosmologias so, portanto, fontes recortadas e parciais de verdade para as
ideologias. Parciais e recortadas porque as ideologias enfatizam elementos especficos das
cosmologias, que tornam o projeto poltico mais prximo de um ideal de verdade e
inevitabilidade. A questo da verdade e inevitabilidade ganha uma porporo muito maior em
casos como o Singularismo. Previses radicais para futuros que nem sempre so to
prximos, quando tomadas por verdades inevitveis, fortalecem toda uma rede no sentido de
controle da narrativa e no projeto de controle do trabalho social.
Desenvolvidas em contextos diferentes, a anlise deve levar em conta que as
particularidades das ideologias em termos culturais so apenas parte do esforo analtico.
necessrio que consigamos relacionar as maneiras pelas quais essas especficas formas
culturais se cruzam com os imperativos materiais do mundo que as ideologias tentam
transformar (p.280).

40
Traduo livre de: under increasing stress, facing a multiplicity of tensions posed by ecological, social,
political, or psychological crises (p. 272).
41

Em todos os trs casos, o poder dos controladores do trabalho social sobre aqueles
sujeitos a esse controle foi formulado sob imperativos cosmolgicos, que ao mesmo
tempo requeriam o exerccio do poder e apoiavam a sua execuo. O poder foi ento
feito para depender no meramente da produo (o intercmbio ativo de humanos
com a natureza) e da sociedade (as interaes entre humanos governadas
normativamente) mas tambm das relaes com elementos imaginrios e sendo
projetados alm da experincia tangvel, at os mundos metafsicos 41 (Wolf, 1999, p.
280-81).

Essa passagem deixa muito claro como Wolf pretende frisar a importncia dos
imaginrios nas relaes materiais. E se imaginrios no respondem a falsificao e critrios
de verificao, eles so reais, contudo, em termos de consequncias (p.283). Por essa razo
dedico o captulo 3 a uma dupla funo no escopo terico do trabalho. O primeiro, e mais
bvio, marcar os imaginrios estruturados, e portanto, recortes cosmolgicos, que foram
fundamentais para um presente projeto de poder singularista. l que tento tratar sobre as
fontes de verdade para o Singularismo em termos de ideias. No mesmo captulo, contudo, e
diante do mesmo material, tento apresentar uma histria das ideias sem a qual o Singularismo
no seria possvel. Ciberntica, Transhumanismo e Ideologia da Califrnia so, portanto, no
apenas cosmologias sobre as quais se debrua o Singularismo, mas tambm parte da histria
das ideias sem as quais a prpria ideia de Singularidade no seria possvel.
Argumento aqui que, para compreender a cosmologia que sustenta uma ideologia,
precisaremos recorrer aos traos onde o discurso ideolgico marca as noes de verdade e de
inevitabilidade. So nesses traos que esto configurados as estruturas imaginrias que so as
cosmologias. E so esses traos que persigo no captulo 3.

Essas ideologias, levadas adiante pelas elites, foram formadas por materiais culturais
preexistentes, mas elas no devem ser entendidas como esquemas culturais
desinseridos. Elas abordam o prprio papel do poder na sociedade, especificamente o
poder que estruturou a diferenciao, mobilizao e utilizao do trabalho social, e
elas enraizaram esse poder na natureza do cosmos 42 (Wolf, 1999, p. 274).

41
Traduo livre de: In all three cases, the power of the controllers of social labor over those made subject to
these controls was formulated as cosmological imperatives, which at once required the exercise of power and
supported its execution. Power was thus made to depend not merely on production (the active interchange of
humans with nature) and on society (the normatively governed interactions among humans) but also on
relationships with imaginary elements and being projected beyond tangible experience into metaphysical worlds
(Wolf, 1999, p. 280-81).
42
Traduo livre de: These ideologies, carried forward by elites, were fashioned out of preexisting cultural
materials, but they are not to be understood as disembodied cultural schemata. They addressed the very character
of power in society, specifically the power that structured the differentiation, mobilization, and deployment of
social labor, and they rooted that power in the nature of the cosmos (Wolf, 1999, p. 274).
42

Esse jogo de reconfigurao das relaes de poder, onde uma ideologia se mostra
capaz de transformar as narrativas cosmolgicas, tem um efeito duplo onde velhas ideias so
reformuladas para se encaixar em contextos muito diferentes, e novas ideias so
apresentadas como verdades histricas (p.275). Argumento que, possivelmente, os
singularitarians tentam antever certa crise que vir com uma potencial Singularidade e j
oferecem solues para ela. Solues que j so empoderadas por inciativas silicianas. E
mais, oferecem desde j a Singularidade como soluo para todos os problemas do mundo.
Nesse sentido os singularitarians oferecem solues globais, mas falam de um lugar parecido
com que um laboratrio dono das patentes x, que curam a doena y, desejam essa cura: uma
cura com pedgio. Alm disso, em todos os casos estudados por Wolf a ideologia era
profundamente dependente de metdos eficazes de oratria e retrica - que remontam a
questo de poder e comunicao abordada pelo autor no primeiro captulo de seu livro. Por
essa razo, no captulo 4, alm de tentar indicar uma rede vertical, recupero argumentos
chave de trs expoentes singularitarians, levando em conta tambm, como esses discursos se
relacionam com as formas de comunicao contemporneas, em especial aps a
popularizao da internet.
43

3. COSMOLOGIAS DO SINGULARISMO

3.1. Cibernticas

A ciberntica foi um campo capaz de influenciar muitas reas do conhecimento e seu


desenvolvimento foi alvo de disputas polticas essenciais para a compreenso do advento da
computao e de uma sociedade informacional. O Singularismo certamente tem na ciberntica
um de seus fundamentos filosficos. No apenas pela importncia dos ideais cibernticos no
desenvolvimento do Vale do Silcio casa do Singularismo por excelncia. Para alm dessa
influncia indireta, autores como Wiener e von Neumann so frequentemente recuperados
tanto pelos singularitarians como pela reflexes contemporneas sobre tecnologia, contexto
histrico de formao do Singularismo.
Os primrdios da ciberntica foram discutidos e criados a partir das conferncias
Macy, realizadas em Nova Iorque entre 1941 e 1960. Nessas conferncias, intelectuais tanto
das cincias naturais como das cincias sociais se encontraram com o objetivo de criar pontes
interdisciplinares. Esses pesquisadores estavam dedicados a quebrar barreiras entre as vrias
disciplinas acadmicas e em busca de uma metateoria que pudesse ser aplicada tanto s
cincias naturais quanto s cincias sociais (Barbrook, 2009, p. 79). Uma linguagem comum
que rompesse as barreiras disciplinares renovaria a forma de conhecer o mundo.

A ciberntica tornou-se popular, simultaneamente, em duas direes: como um


ramo interdisciplinar do conhecimento cientfico, de influncia determinante tanto
para as cincias naturais quanto para as humanidades; e como veio principal de
alimentao de uma nova utopia, a da comunicao, que pautou o imaginrio da
segunda metade do sculo XX e do ainda nascente sculo XXI. (Kanashiro;
Evangelista, 2013, p.58).

Um dos intelectuais das conferncias Macy se tornou um grande expoente da


Ciberntica, ao propor essa linguagem interdisciplinar que passava necessariamente pela
equiparao do homem e da mquina, de certa forma como extenso da unificao das
cinciais sociais e naturais. Nobert Wiener foi justamente a figura responsvel pela elaborao
de uma primeira utopia da comunicao, que teria depois o sentido ampliado pela
mcluhanismo aplicado internet e s redes de computadores. A ciberntica compartilhou com
a indstria eletrnica do Vale do Silcio o contexto da Guerra Fria, onde o financiamento
militar e estatal era parte fundamental dos recursos para pesquisas sobre cincia e tecnologia.
Wiener, poca matemtico do MIT (Massachusetts Institute of Technology), estava bastante
inserido nesse contexto e trabalhou num projeto de melhora da preciso de armamentos
44

antireos para o governo dos Estados Unidos. Foi nessa pesquisa que o matemtico deu seus
primeiros passos na noo feedback, que se tornaria um marco dos estudos em ciberntica. Ao
mostrar a importncia de antecipar o movimento de uma aeronave, Wiener sustentou a
comparao (e a simbiose) entre homem e mquina que dava segunda um status
ontologicamente comum ao primeiro (Le Breton, 2015). A mira antev a posio do avio
inimigo, e se une ao piloto em simbiose que o torna mais preparado e mais eficaz (Barbrook,
2009).
Encontra-se uma semelhana fundamental entre o sistema nervoso e as mquinas
eletrnicas exatamente no fato de que suas decises so tomadas no passado (...). Da
mesma forma que o organismo vivo, a mquina pode ser considerada como um
dispositivo que parece resistir, local e temporariamente, tendncia geral do aumento
de entropia. Por sua capacidade de tomar decises, pode produzir ao seu redor uma
rea de organizao em um mundo cuja tendncia geral desorganizar-se (Wiener
apud Le Breton, 2015, p. 182).

J vimos na seo anterior que a noo de feedback fundamental para a escola


Intelligence Explosion. Yudkowsky no usa esse conceito de Wiener por acaso. Entre todos os
singularitarians citados at aqui, ele a figura mais ligada pesquisa cientfica da
inteligncia artifical (AI), campo dos estudos cuja histria comeou na ciberntica. A ideia de
inteligncia artificial, caracterizada pela artificialidade, assim caracterizada na comparao
entre natural e artificial. Comparada, portanto, com a inteligncia humana, a AI ideia
dependente do processo de hibridizao tipicamente ciberntico. Essa perspectiva que
equipara homem e mquina encontrou respaldo nos estudos realizados por Alan Turing.
Turing frequentemente creditado como o inventor do primeiro computador, mas a
importncia de seus estudos vai alm de um pionerismo na computao. Foi a partir de Turing
que a noo de inteligncia artificial comeou a ganhar forma, e claro, a ideia de que um
computador seria to capaz de pensar e tomar decises como os prprios seres humanos. Seus
jogos de imitao tinham esse efeito porque tornavam o estmulo-resposta tipicamente
comportamental, um fundamento para a racionalizao e tomada de deciso, de homens e
mquinas. Para Wiener, a ciberntica mostrava que havia uma interao contnua entre
informao e ao, que era a base do comportamento maqunico e humano, e funcionava com
uma mesma equao matemtica (Barbrook, 2009).
A relao homem-mquina apenas um dos princpios da ciberntica. Se observamos
a fundo seu desenvolvimento, em especial a maneira como ela atravessou a formao da
indstria de tecnologia no Vale do Silcio, chagaremos a outros lugares. Se a base do
comportamento a interao entre informao e ao, como disse Wiener, temos base para
45

supor que a contempornea importncia da informao na ps-modernidade, tomada por


perodo histrico como faz Jameson (2015), deve-se em alguma medida influncia estendida
da ciberntica. Por estas lentes poderemos dizer que a informao a base comum ao homem
e mquina que permite a equiparao. Essa precisamente a apropriao que Kurzweil
(2015) faz, por exemplo. Diz o autor singularitarian que Informao uma sequncia de
dados significativa num processo, como o cdigo DNA de um organismo, ou os bits em um
computador43 (Kurzweil, 2015, p.44). Com alguns saltos indutivos, Kurzweil (2015) vai
concluir que, se o DNA informao, o crebro uma espcie de computador biolgico. No
haveria razes, portanto, para duvidar que uma fuso de mtodos biolgicos e maqunicos de
interao de informaes possam ser conjugados. E esse hbrido que marca a chegada da
Singularidade para o autor o que Miller (2012) chamou de kurzwelian merger.
A ciberntica, contudo, no continuou dependente de Wiener. medida em que a
Guerra Fria e a corrida armamentista avanavam, Wiener foi se tornando avesso ao uso
militar da ciberntica, e se recusou a continuar pesquisas para fins militares. Segundo
Barbrook (2009), essa dissidncia poltica que separava a defesa da ciberntica com seu uso
militar inspirou uma espcie de ciberntica socialista. Essa interpretao socialista da
ciberntica fazia uma reviso tica na qual o status de equidade ontolgica entre homem e
mquina deixa de fazer sentido, pois a evoluo das mquinas deveria ser uma sobre a qual os
humanos no percam o controle. Isto , Wiener comeava a expressar enquanto cientista um
dos mais recorrentes medos da fico cientfica, que se arrasta desde o moderno prometeu
monstro de Frankstein at a fico cientfica mais contempornea: O mundo do futuro ser
uma batalha cada vez mais exigente contra as limitaes de nossa prpria inteligncia, e no
uma confortvel rede em que podemos nos deitar para esperar por robs escravos (Wiener
apud Barbrook, 2009, p. 81).
Em contraste notvel, havia outro importante matemtico muito inspirado pelo campo
da ciberntica e pelos estudos de Turing. Trata-se de John Von Neumann, cientista hngaro-
estadunidense e judeu, frenquentemente apontado como pai da teoria dos jogos. No difcil
de imaginar as conexes que o criador da teoria dos jogos encontraria na ciberntica, mas foi
seu posicionamento poltico que colocou em evidncia a disputa que a sua verso da
ciberntica faria com a de Wiener. Diferente deste, von Neumann no tinha qualquer
constrangimento com uso da ciberntica para fins militares e pessoalmente defendia

43
Traduo livre de: Information is a sequence of data that is meaningful in a process, such as the DNA code of
an organism or the bits in a computer program (Kurzweil, 2015, p.44).
46

abertamente o arrocho da corrida armamentista. Chegou a declarar-se favorvel a um ataque


nuclear preventivo Unio Sovitica (Barbrook, 2009).

No incio da dcada de 1950, von Neumann havia criado com sucesso a


ciberntica sem Wiener. A metfora da retroalimentao agora provava que
os computadores operavam como humanos. Como os jogadores racionais de
seus livros sobre a teoria dos jogos, ambos, seres vivos e mecnicos,
respondiam a estmulos do ambiente sua volta (Barbrook, 2009, p.84).

Esse mpeto belicista que, de algum modo, faz mais sentido se pensado no contexto de
Guerra Fria, no de todo abandonado. Miller (2012) levanta a possibilidade da
superinteligncia recriar um cenrio de corrida armentista ao ser aplicada s tecnologias
militares. O inimigo dos Estados Unidos no seria a Rssia, mas a China.

A criao com sucesso de uma ultra-inteligncia obediente daria a um pas


controle de tudo, fazer uma ultra-AI muito mais til militarmente que mero
armamento nuclear. A primeira nao a criar uma ultra-AI obediente ter
adquirido instantaneamente a capacidade de destruir o desenvolvimento de
projetos de AI rivais. Conhecendo os stakes, naes rivais podem pisar
fundo no acelerador para ganhar uma corrida pela ultra-AI, mesmo que eles
compreendam que essa pressa pode fazer com que eles criem uma ultra-AI
que uma ultra-inteligncia destruidora. Esses rivais podem perceber o
perigo e desesperadamente desejar fazer um acordo para reduzir o perigo,
mas eles podem descobrir que a lgica do largamente usado paradoxo do da
teoria dos jogos dilema dos prisioneiros contraria todos os esforos de
cooperao44 (Miller, 2012, p. 47, grifo meu).

Impossvel observar uma evocao blica da inteligncia artifical associada a um


dilema do prisioneiro e no pensar imeditamente em von Neumann, apesar do pensamento
que chega a ser uma caricatura da Guerra Fria num contexto atual. Analisando cenrios
hipotticos nos quais tanto um eventual pioneirismo chins, como uma exploso de
inteligncia fora do controle do exrcito so catastrficos, Miller (2012) sugere como soluo
que as foras militares estadunidenses preparem seus soldados: A melhor chance de evitar
esse perigo pode ser a fora militar Americana criar uma kurzwelian merger a partir de um
melhoramento constante de seus soldados humanos45 (Miller, 2012, p.53). Por ora, no vou

44
Traduo livre de: The Successfully creating an obedient ultra-intelligence would give a country control of
everything, making an ultra-AI far more military useful than mere atomic weapons. The first nation to create an
obedient ultra-AI would also instantly acquire the capacity to terminate its rivals AI development projects.
Knowing the stakes, rival nations might go full throttle to win an ultra-AI race, even if they understood that haste
could cause them to create an ultra-AI destroying ultra-intelligence. These rivals might realize the danger and
desperately wish to come to an agreement to reduce the peril, but they might find that the logic of the widely
used game theory paradox of the Priosoners Dilemma thwarts all cooperation efforts (Miller, 2012, p. 47, grifo
meu).
45
Traduo livre de: The best chance of avoiding this danger might be for the American military to create a
Kurzwelian merger by constantly upgrading its human soldiers (Miller, 2012, p.53).
47

entrar no mrito dos problemas ticos dessa soluo que passa por fazer soldados
estadunidenses de cobaias de uma Kurzwelian merger, tampouco dos problemas analticos de
espelhar a Unio Sovitica da Guerra Fria na China do sculo XXI. Fica a suspeita de que
Miller tenha sido um grande f do Capito Amrica em sua infncia 46. Mas podemos afirmar
que o autor enxerga desenhada uma possvel nova corrida armamentista e acredita que os
Estados Unidos deva estar preparado para lider-la caso venha a acontecer. Ainda sugere,
adicionalmente, que se os militares no investirem para fazer isso acontecer, o setor privado
ir. Contudo, parece claro pelo menos desde a Guerra Fria, e desde os primrdios da
ciberntica, que difcil separar o investimento militar em inteligncia artifical, robtica e
outras reas afins e setor privado. Mesmo antes do advento da ciberntica, Sturgeon (2000)
afirma que a rea do Vale do Silcio foi construda a partir de uma particular fuso de
investimento militar, plos de pesquisa das universidades locais e setor privado.
Um exemplo contemporneo emblemtico mostra que essa chave de desenvolvimento
ainda tem tudo a ver com o Vale do Silcio, com a ciberntica e com investimento militar. A
gigante dos dados Google, tem uma empresa chamada Google[x] que fica a poucos metros da
sede da empresa em Moutain View, no corao do Vale do Silcio como informa
reportagem da Wired 47. No ano de 2013, a Google[x] comprou a empresa Boston Dynamics,
de robtica aplicada. Um dos seus projetos mais famosos, o Bigdog, um rob com forma
de cachorro, atento a reflexos e que recupera o equilbrio mesmo aps ser chutado. Videos de
teste do bigdog podem facilmente ser encontrados com buscas simples na internet. O
principal aqui saber que trata-se de um projeto que foi bancado por investimento dos
militares dos EUA48. Ainda que as previses de Miller (2012) paream nascer datadas e
difceis de dar credibilidade, h nessas previses singularitarians um fundo de verdade de
algo que j est acontecendo e nos faz olhar para o Singularismo com outros olhos. Um olhar
que no pode desprezar o impacto da ciberntica, ainda que indireto, no Singularismo.

46
Ao leitor que desconhece o personagem Capito Amrica, talvez valha recuperar sua histria para entender a
referncia. Publicado primeiramente no ano de 1941, durante a 2 Guerra Mundial, o gibi conta a histria de
Steve Rogers, um soldado que se ofereceu como cobaia de um plano dos militares dos EUA para criar super-
soldados, capazes de derrotar os nazistas com mais facilidade. Por conta de um nazista infiltrado, a frmula para
a criao de super-soldados perdida e Steve Rogers acaba se tornando o nico a passar pelo procedimento.
Curiosidade adicional que aps o fim da Segunda Guerra, algumas histrias do Capito Amrica exibem o
personagem sendo congelado, para anos depois ser descongelado com vida pela iniciativa Vingadores, um
coletivo de super-heris da Marvel. Impossvel negar a relao desse fato com os processos de crinica, tcnica
encorajada por singularitarians e transhumanista de modo geral.
47
http://www.wired.co.uk/article/destination-moon
48
https://www.newscientist.com/article/dn8802-robotic-pack-mule-displays-stunning-reflexes/
48

Da comparao entre homem e mquina essa verso da ciberntica expandiu a


metfora para que instituies sociais pudessem ser estudadas como organismos cibernticos.
Por essa razo, e por sua franca adeso ao militarismo da Guerra Fria, Barbrook (2009)
considera que a ciberntica de von Neumann seja conservadora e de direita, fortemente
divulgada, e inspirao para vrias disciplinas, de modo que se tornou a verso pricipal da
ciberntica.

Para pesquisadores patrocinados pelos militares em universidades dos


Estados Unidos, a interpretao de von Neumann da ciberntica proveu uma
histria auto-congratulatria para encobertar suas atividades dbias.
Programar computadores para guiar msseis, controlar bombardeios,
direcionar exrcitos e se divertir com jogos de guerra no era mais o caminho
para planejar o holocausto nuclear. Ao contrrio, como Turing e von
Neumann provaram, essas aplicaes militares eram um passo essencial a
caminho do objetivo final da inteligncia artificial. O fetichismo tecnolgico
absolvera cientistas da computao de qualquer responsabilidade sobre a
conseqncia de suas aes (Barbrook, 2009, pag. 86).

Barbrook (2009) chegar, por fim, concluso que vendendo o imaginrio utpico da
inteligncia artifical, tal como as viagens espaciais lua e outras utopias tecnodeterministas
tipicamente estadunidenses, a ciberntica da Guerra Fria vendia uma coisa e oferecia outra. O
que movimentava as pesquisas e os financiamentos sem fim dos militares no era a
inteligncia artifical, mas a mquina de eficincia de guerra, cujo objetivo era criar artefatos
capazes de matar o maior nmero de pessoas possvel. Essa caracterstica blica, contudo,
parece ter sido varrida para baixo do tapete com a queda do muro de Berlim. Sobrou para os
plos de ciberntica os imaginrios utpicos dos quais sem dvida o Vale do Slicio usou de
trampolim para seu crescimento vertiginoso.
Kurzweil (2015) no seu livro Singularity is near no se mostra influenciado pela
ciberntica apenas pela definio de informao que equipara a troca de dados digitais ao
DNA e o crebro a um computador. A prpria noo de Accelerating Change, para alm da
lei de Moore, passa por citao explcita a von Neumann.

Nos anos 1950 John von Neumann, o lendrio terico da informao, foi citado
dizendo que o progresso contnuo de acelerao da tecnologia... d a aparncia de
estarmos alcanando uma singularidade essencial na histria da corrida, para alm da
qual questes humanas, como conhecimento, no podem continuar. Von Neumann
faz duas importantes observaes aqui: acelerao e singularidade. A primeira ideia
que o pogresso humano exponencial (...) e no linear (...). A segunda que
crescimento exponencial sedutor, comeando vagarosamente e virtualmente
imperceptvel, mas alm do ponto da curva se torna explosivo e profundamente
transformador49 (Kurzweil, 2005, p. 24).

49
Traduo livre de: In the 1950s John von Neumann, the legendary information theorist, was quoted as saying
that "the ever-accelerating progress of technology ... gives the appearance of approaching some essential
49

Kurzweil (2015) reconhece que o termo singularidade primeiro por von Neumann. E
atribui tambm a ele a noo de progresso exponencial da tecnologia. Outro pesquisado citado
aqui, I. J. Good, que tambm pesquisou junto a von Neumann, foi o criador da ideia de
Intelligence Explosion, que inspira Yudkowsky a dar nome escola do Singularismo com a
qual se identifica.
Vale demarcar que o embate que Barbrook (2009) argumenta para opor as cibernticas
de von Neumann e Wiener parece bastante importante aqui. Ambas as verses da cibernticas
produziram imaginrios. Se a ciberntica socialista de Wiener v uma superinteligncia
artifical como distpica, isto , como um perigo a todos os humanos, a ciberntica
conservadora de von Neumann iria no caminho contrrio, num utopismo onde essa
superinteligncia artificial desejvel e sua potencial nocividade aos humanos um fator
positivo no contexto de Guerra Fria. Ainda que preconizemos o embate das duas verses da
ciberntica, a contemporaneidade parece ter unido tanto a utopia comunicacional mcluhanista
de Wiener como a utopia da inteligncia artifical e dos robs escravos de von Neumann. A
aldeia global e a sociedade singularista parecem emergir para um mesmo espao-tempo, e no
so auto-excludentes num sentido ampliado.
Em artigo publicado na Nature em 2006, Vinge (2006) chama a internet de the
creativity machine. A partir de textos j revisados, princpalmente Vinge (2008), pudemos
notar que o autor d por certo dois cenrios que contam com a internet para a chegada na
Singularidade. O primeiro deles, chamado de Internet Scenario, especula se os seres
humanos ligados a suas mquinas em rede, com bases de dados infinitas, poderiam ser
considerados uma espcie de super-humano. O segundo cenrio, batizado por Vinge de The
Digital Gaia Scenario especula se a rede ela prpria poderia se tornar uma super-
inteligncia. Ambos esses cenrios, combinados com as descries do artigo da Nature citado,
trazem tona uma verso de Vernor Vinge profundamente encantado com as possibilidades
da internet e, indiretamente, com a ciberntica da comunicao.

Ns humanos construmos uma mquina da criatividade. Ela a soma de trs coisas:


algumas centenas de milhes de computadores, um sistema de comunicao
conectando esses computadores, e alguns milhes de seres humanos usando esses
computadores e comunicaes. Essa mquina da criatividade a Internet. () No
fim, computadores somados s redes somadas s pessoas acrescentam algo
significativamente maior que a soma das partes. O conjunto eventualmente cresce

singularity in the history of the race beyond which human affairs, as we know them, could not continue." Von
Neumann makes two important observations here: acceleration and singularity. The first idea is that human
progress is exponential () rather than linear (). The second is that exponential growth is seductive, starting
out slowly and virtually unnoticeably, but beyond the knee of the curve it turns explosive and profoundly
transformative (Kurzweil, 2005, p. 24).
50

alm da criatividade humana. Para se transformar no qu? No podemos saber at


chegar l50 (Vinge, 2006, p. 411).

No entro no mrito de interpretar o trabalho de fico de Vinge aqui. Em seus


escritos tericos e jornalsticos, contudo, h mais do que necessrio para enxergar uma
familiaridade com a utopia comunicacional mcluhanista. Embora parea mais coerente
associar o Singularismo a uma ideia de ciberntica de von Neumann, no podemos deixar de
notar que a contradio entre o belicismo de von Neumann e a aldeia global de Wiener so
capazes de conviver em conjunto. Talvez essa seja uma contradio da mesma ordem daquela
denunciada por Barbrook e Cameron (1995) na ideologia da Califrnia, que tratatei com
cuidado especfico adiante. preciso notar, no entanto, que a convivncia pacfica de uma
aparente contradio no apaga o efeito geral que ope von Neumann e Wiener. A
Singularidade como utopia ou como distopia um divisor de guas. Nesses termos no h
dvidas que poderemos atribuir uma Singularidade utpica, onde uma super-inteligncia
artificial desejvel, a uma verso da ciberntica de von Neumann. Como bem observou
Jameson (2015), o curioso tentar imaginar o porqu da fico cientfica hollywoodiana
abraar a verso distpica da Singularidade.

3.2. Transhumanismos

O transhumanismo uma filosofia contempornea (Hughes, 2002) e de vrias


ramificaes. Entre os tranhumanismos h representantes que se consideram de esquerda e de
direita, apolticos e com vises bastante distintas sobre o que seja ir alm do humano. O
Singularismo um tipo de transhumanismo, e como tal, compartilha de alguns princpios com
os outros tipos, mas se difere suficientemente para poder se tornar algo em separado. Parece
adequado dizer que nenhum tipo de transhumanismo seja to miditico quanto o
Singularismo, ao ponto de frequentemente serem tomados pela mesma coisa. Tento nessa
seo recuperar de modo breve as principais caractersticas do transhumanimo e fazer
algumas reflexes que ajudam a entender a sua importncia no processo de compreender o

50
Traduo livre de: We humans have built a creativity machine. Its the sum of three things: a few hundred
million computers, a communication system connecting those computers, and some millions of human beings
using those computers and communications. This creativity machine is the Internet. () In the end, computers
plus networks plus people add up to something significantly greater than the parts. The ensemble eventually
grows beyond human creativity. To become what? We cant know until we get there (Vinge, 2006, p. 411).
51

Singularismo. Para fins de didtica subdivido em duas partes. A primeira, que se preocupa
com a definio de transhumanismo e suas caractersticas mais gerais, e a segunda que
abordar de modo breve a organizao poltica dos transhumanistas. Fao aqui uma reflexo
breve e simples a partir de um recorte, com o objetivo especfico de aumentar a compreenso
sobre o Singularismo.

a) Transcender a humanidade

A espcie humana pode, se quiser, transcender a si mesma no apenas


esporadicamente, um indviduo aqui, outro ali mas na sua completude, enquanto
humanidade. Ns precisamos de um nome para essa nova crena. Talvez
transhumanismo servir: homem permanecendo homem, mas trasncendendo a si
mesmo ao realizar novas possibilidades de e para sua natureza humana51 (Huxley
apud Bostrom, 2005, p. 7).

O Huxley citado bilogo, irmo do clebre autor de fico cientfica, e foi diretor
geral da UNESCO e fundador da WWF. Bostrom (2005) o cita por considerar que esse tenha
sido o primeiro uso da palavra transhumanismo. Argumenta o mesmo autor que o desejo de
melhorar to antigo quanto a humanidade. Citando uma variedade de autores que enaltecem
essa filosofia, o que inclui Singularistas j citados como Kurzweil e Yudkowsky, Bostrom
(2005) traa na contemporaneidade ao menos quatro ideias mais especficas que tornam a
transcendncia do humano mais inteligvel. So elas: inteligncia artificial, nanotecnologia, a
Singularidade e o upload da mente humana para um computador. Essas ideias na verdade so
tecnologias radicais que marcariam a inequvoca chegada do ps-humano, no momento em
que sejam viveis. Contudo, pondera o autor que uma srie de tecnologias j existentes
mostram os caminhos da inevitabilidade da transformao humana. Se humanos so
constitudos de matria, obedecendo as mesmas leis da fsica que operam externamente, ento
deveria ser possvel em princpio aprender a manipular a natureza humana da mesma forma
como ns manipulamos objetos externos52 (Bostrom, 2005, p.4).
Hughes (2002) oferece uma definio bastante mais objetiva que diz:
Transhumanismo um emergente movimento filosfico que diz que humanos podem e

51
The human species can, if it wishes, transcend itself not just sporadically, an individual here in one way, an
individual there in another way but in its entirety, as humanity. We need a name for this new belief. Perhaps
transhumanism will serve: man remaining man, but transcending himself, by realizing new possibilities of and
for his human nature (Huxley apud Bostrom, 2005, p. 7).
52
If human beings are constituted of matter obeying the same laws of physics that operate outside us, then it
should in principle be possible to learn to manipulate human nature in the same way that we manipulate external
objects (Bostrom, 2005, p.4).
52

devem se tornar mais-que-humanos atravs de melhoramentos tecnolgicos53 (p.1). Sendo


Hughes e Bostrom dois eminentes pesquisadores auto-declarados transhumanistas, podemos
afirmar com alguma segurana que o transhumanismo traz consigo a cristalizao da ideia de
inevitabilidade da transcendncia ao humano tal como conhecemos hoje, e um determinismo
tecnolgico que confia na evoluo das tecnologias para que essa transcendncia seja
possvel. Essa trasncendncia vem de vrias formas. Num quadro tcnico vislumbra figuras
ps-humanas como ciborgues, isto , hbrido de homem e mquina, ou ainda como uma
espcie evolutivamente superior, mais inteligente e capaz. Num quadro ideolgico, os
transhumanistas oferecem um paradoxo religioso: por um lado so abertamente crticos das
explicaes religiosas, usando razo, cincia e tecnologias como alternativa anti-subjetivista e
anti-esotrica. Por outro lado, esses instrumentos anti-religio so usados para chegar no
mesmo lugar que explica de que forma a morte pode ser superada. Transcender tem o duplo
sentido de superar o humano e de superar a morte. Vrios transhumanistas so, a cargo de
exemplo, apoiadores das tcnicas de crinica 54. Max More, fundador da Extropian Institute,
uma dessas pessoas.

Transhumanismo uma classe de filosofias que buscam guiar-nos a uma condio


ps-humana. O transhumanismo compartilha de muitos elementos do humanismo,
inclusive um respeito pela razo e cincia, um comprometimento com o progresso, e
uma valorizao da existncia humana (ou transhumana) nessa vida ao invs de um
sobrenatural ps-vida. Transhumanismo se diferencia do humanismo ao reconhecer e
antecipar alteraes radicais na natureza e possibilidades de nossas vidas resultarem
de vrias cincias e tecnologias como a neurocincia e neurofarmacologia, extenso
da vida, nanotecnologia, superinteligncia artificial, e ocupao do espao,
combinadas com uma filosofia racional e sistema de valores 55 (More apud Hughes,
2002, p. 7).

Crticos como Fukuyama (2009) e Winner (2002) questionam no apenas a validade


dos pressupostos transhumanistas como a suposta inevitabilidade de suas grandiosas
previses. Fukuyama (2009) particularmente observa que superar a morte e o humano vem

53
Traduo livre de Transhumanism is an emergent philosophical movement which says that humans can and
should become more than human through technological enhancements (Hughes, 2002, p.1).
54
As tcnicas de crinica, ou a chamada criopreservao, consiste na preservao de corpos de pessoas mortas a
temperaturas baixssimas, na esperana que o avano tecnolgico possa tornar essas pessoas vivas novamente.
Se comparamos essse mtodo com os embalsamentos temos bom exemplo do paradoxo ao qual me referi.
55
Traduo livre de: Transhumanism is a class of philosophies that seek to guide us towards a posthuman
condition. Transhumanism shares many elements of humanism, including a respect for reason and science, a
commitment to progress, and a valuing of human (or transhuman) existence in this life rather than in some
supernatural "afterlife". Transhumanism differs from humanism in recognizing and anticipating the radical
alterations in the nature and possibilities of our lives resulting from various sciences and technologies such as
neuroscience and neuropharmacology, life extension, nanotechnology, artificial ultraintelligence, and space
habitation, combined with a rational philosophy and value system (More apud Hughes, 2002, p. 7).
53

em um conjunto que julga a morte como uma falha do corpo humano. Se o humano a morte
e a tecnologia a salvao, fica estabelecido uma espcie de condenao da separao entre
orgnico e tecnolgico, onde o orgnico significa a morte e o hbrido a transcendncia. Nos
termos do autor:

Eles querem nada menos que liberar a raa humana das suas restries biolgicas. Do
modo como veem transhumanistas, humanos tem que lutar contra seu destino
biolgico no processo evolutivo cego da variao e adaptao aleatria e mover-nos
para um novo estgio enquanto espcie 56 (Fukuyama, 2009, sem pgina).

O processo de enganar a morte vem tanto de uma busca pela imortalidade como pelo
prolongamento drstico da vida. O anti-envelhecimento a proposta de Aubrey de Grey, por
exemplo, mdico geriatra e um das mais conhecidas figuras pblicas transhumanistas, sobre
quem falo no prximo captulo.
De alguma forma, a teoria da evoluo darwiniana corroboraria a certeza de que o
homo sapiens no um estgio final de evoluo. Mais uma vez, uma combinao de teoria
da evoluo com as previses sobre as tecnologias da ciberntica marca o transhumanismo.
Seus alicerces filosficos passam por uma variada gama de autores que terminam por
fortalecer vrias de suas caractersticas. Bostrom (2005) diz que um engano associar o
transhumanismo a Nietzsche e seu bermensch. Para o autor o transhumanismo estaria muito
mais prximo de Stuart Mill57. Se pensamos a fundo as principais caractersticas
transhumanistas, mesmo difcil supor que um crtico da razo iluminista como Nietzsche
seja uma referncia filosfica. Fica claro, na verdade, como corrobora Hughes (2002), que o
movimento filosfico primordial para compreender o transhumanismo seja mesmo o
Iluminismo. A razo e o progresso cientfico como emancipadores da humanidade. Correntes
transhumanistas como o extropianism julgam reestabelecer o Verdadeiro Iluminismo ao
promulgar a razo e a cincia como instrumentos da liberdade. Hughes (2002) dir que essa

56
Traduo livre de: They want nothing less than to liberate the human race from its biological constraints. As
"transhumanists" see it, humans must wrest their biological destiny from evolutions blind process of random
variation and adaptation and move to the next stage as a species (Fukuyama, 2009, sem pgina).
57
bermensch uma alegoria descrita por Nietzsche na obra Assim Falou Zaratrusta. Sua traduo literal em
portugus, alm-do-homem, mostra porque Bostrom entende que o transhumanismo, defensor do ps-humano,
venha a ser associado com essa ideia. Considero que o autor trata a analogia como inadequada porque rechaa
partes fundametais da crtica de Nietzsche, em especial a crtica cincia. Ainda que tenha sido influncia
incontestvel de muitos anarquistas, compreensvel que Bostrom entenda o utilitarismo de Stuart Mill como
mais adequado ao transhumanismo. Mill foi um dos principais filsofos do liberalismo e a perspectiva
transhumanista costuma estar associada com o pensamento liberal. O filsofo usou de uma metfora hoje famosa
para explicar o princpio do utilitarismo: a nica prova que algo audvel que podemos ouvir o som. De modo
anlogo, algo s pode ser comprovado desejvel se pessoas desejarem, de fato, tal coisa. Em suma, do modo
como vejo, a associao entre transhumanismo e utilitarismo mais um alinhamento poltico que uma
proposio filosfica.
54

perspectiva, muito influenciada pelo libertarianismo e pelo objetivismo de Ayn Rand 58, ignora
2/3 do Iluminismo, a saber, a igualdade e a solidariedade. De toda forma, seja entre
libertarianos ou socialistas, o transhumanismo se revindica iluminista.
correto afirmar, portanto, que a premissa mxima do transhumanismo que o
humano, tal como hoje, est se tornando obsoleto e superar essa obsolescncia to
necessrio quanto desejvel. Hughes (2002) explicita que essa mxima pode ser usada por
ideologias muito distintas, que vo desde tecnoprogressistas como ele considera a si
prprio -, at o fascismo que segundo o autor ficou de alguma forma associado ideia de
transhumanismo, provavelmente pela potencial associao entre a ideia de ps-humano e a de
eugenia. A polifonia poltica e o embate entre transhumanistas e Bioconservadores sero
tratados a seguir.

b) Narrativas em disputa

James J. Hughes um socilogo estadunidense abertamente transhumanista, mas que est


numa posio chave. Como estudioso e promulgador da filosofia transhumanista, o
pesquisador pretende apresentar um rol de possibilidades polticas dentro dessa filosofia, que
visa desconstruir o senso-comum que geralmente a associa direita poltica e ao
libertarianismo. Abertamente de esquerda, ou melhor, progressista (Hughes, 2016), Hughes
(2002) oferece uma histria poltica do transhumanismo que visa desconstruir esse esteretipo
direitista e apresentar ideias que caracterizariam um tecnoprogressivismo. vlido dizer que
acompanho o trabalho de Hughes como uma forma de entender como os prprios
transhumanistas se pensam. Digo isso porque crticos como Winner (2002) no esto
convencidos de que uma suposta guinada esquerda ou o clamor por reflexes ticas mude de
modo importante o lugar poltico preferencial transhumanismo, direita. Esse embate marca a
primeira das duas oposies com as quais trabalho aqui. Nos termos de Hughes (2002) e
Bostrom (2005) trata-se da disputa entre transhumanistas e bioconservadores ou
bioluditas59. Essa uma disputa externa, que une grupos poucos provveis de se unirem

58
O termo se refere escritora e filsofa Ayn Rand, expoente do objetivismo. O objetivismo movimento
filosfico que prega o individualismo e o egosmo como princpios racionais e necessrios. Vrios dos livros de
Ayn Rand fornecem referncias para empresas e startups do Vale do Silcio, o que indica sua popularidade entre
os tecnoflicos (Borsook, 2001).
59
Uso o termo ludita como traduo livre de Luddite, que se refere a trabalhadores txteis do sculo XIX na
Inglaterra, que se revoltaram contra o uso de tecnologias que lhes tirariam o trabalho. O uso do termo por
transhumanistas no apenas uma referncia histrica mas uma ironia, uma vez que essas pensadores acreditam
que os temores dos Luddites no se concretizaram.
55

politicamente. Da mesma forma que leva tecnoprogressivistas a se colocar junto aos


objetivistas libertarianos, tambm coloca lado a lado ativistas de esquerda e parte da direita
religiosa, unidos pelo ceticismo quanto transcendncia por meio das tecnologias.
Internamente, a disputa de narrativa e poltica entre os prprios transhumanistas ser analisada
a seguir. A disputa externa nos coloca frente a um corpo crtico ao Singularismo de escopo
mais variado, de carter ctico com relao s suas promessas e premissas. A disputa interna
nos ajuda a entender como se posiciona o Singularismo entre os transhumanistas e mostra que
tanto entre transhumanistas como entre bioluditas h crticos de vrias vertentes ao
Singularismo.

I. Transhumanistas x Bioconservadores

O artigo de Hughes (2002) chamado The politics of transhumanism aborda tanto o


conflito externo como o interno citados. O objetivo do artigo passa pela relao entre os dois
conflitos de forma muito clara. Hughes estabelece o ganho da fora dos bioluditas na opinio
pblica como motivao principal para entrar na disputa de narrativa entre os
transhumanistas. Dessa forma, o autor se coloca a um s tempo na posio de rechaar o
pensamento bioconservador e conquistar eventuais leitores que se identifiquem com o
transhumanismo mas no com o extropianismo e com o libertarianismo de direita. Isto , seu
artigo tanto uma anlise poltica do transhumanismo que descreve vrias possibilidades
ideolgicas dentro do grupo, como tambm panfleto de uma verso especfica dessa
filosofia. Hughes se preocupa em contestar falsas dicotomias que associam transhumanismo e
direita, bioconservadorismo e esquerda. E h certo sentido nisso. H conservadores de direita
radicalmente contrrios s premissas transhumanistas, em especial os religiosos.

Pessoas atradas pelo bioconservadorismo vm de grupos que tradicionalmente tm


muito pouco em comum. Religiosos conservadores de direita e ambientalistas de
esquerda e globalistas encontraram causas comuns, por exemplo na oposio
modificao gentica de humanos60 (Bostrom, 2015, p. 23).

No acho que posso dar a mesma nfase quanto radicalidade ou a uma tendncia
esquerdista entre os transhumanistas. Embora Hughes seja um dos poucos que se colocam
nessa posio, em seus textos vejo argumentos que criticam efetivamente a direita
libertariana, o que no necessariamente o coloca numa posio de crtica ao capitalismo. O
60
Traduo livre de: People drawn to bioconservatism come from groups that traditionally have had little in
common. Rightwing religious conservatives and leftwing environmentalists and antiglobalists have found
common causes, for example in their opposition to the genetic modification of humans (Bostrom, 2015, p. 23).
56

autor faz uma crtica ao anarco-capitalismo e ao neoliberalismo que o leva a um lugar


prximo da social-democracia. Hughes (2002) est defendendo a regulao estatal com
relao s novas tecnologias, e tambm que haja debates sobre a tica na questo que envolva
a populao. A questo passa a ser se essas caractersticas so suficientemente impactantes
para produzir um transhumanismo esquerdista. Como ironiza Winner (2002, p. 28) De
qualquer forma, o ps-humanista nos assegura, ainda necessrio reflexo tica sobre os
eventos que viro. Ainda que essas transformaes no necessariamente ocorram, ns
devemos pensar cuidadosamente sobre o que tudo isso significa e como podemos adaptar com
graa a essas mudanas nos anos que seguem61. Dizer que preciso debater a questo tica
sobre o transhumanismo e ao mesmo que essa transio inevitvel deixa o debate bastante
limitado, para dizer o mnimo. Tal como Winner (2002) estou ctico que atores auto-
proclamados progressistas possam efetivamente ter um impacto na agenda do movimento
de modo geral, em especial no quadro geral das consequncias possveis de um mundo ps-
humano. Embora os transhumanistas do Vale do Silcio estejam atentos s crticas que
recebem, em especial no que tange a um egosmo randiano, e se adpatem a essas crticas,
parece muito improvvel que Hughes e seus parceiros tecnoprogessistas consigam convencer
empreendedores silicianos da necessidade de regulao das novas tecnologias pelo Estado.
Essa associao de bio e conservador vem de uma reflexo empreendida por Bostrom
(2005). O autor evoca o chamado yuck factor para explicar as razes pelas quais,
supostamente, h resistncia de conservadores em relao s mudanas tecnolgicas.

O inventor qumico ou fsico sempre um Prometeu. No h grandes invenes, do


fogo ao vo, que no tenha sido tratado como insulto a algum deus. Mas se toda
inveno qumica e fsica uma blasfmia, toda inveno biolgica uma perverso.
Dificilmente h uma invenao em que, primeiramente trazida ao conhecimento por
um observador de qualquer nao que no tenha ouvido falar sobre sua existncia,
no tenha parecido a ele indecente e anti-natural62 (Haldane apud Bostrom, 2005, p.
5).

O trecho citado, datado de 1923, indica que a inveno biolgica j era tomada por
perverso e a ideia de melhoramento de seres humanos se tornou facilmente associada aos

61
Traduo livre de: Nevertheless, the post-humanist assures us, there is still need for ethical reflection upon
the events unfolding. For although these transformations will necessarily occur, we should think carefully about
what it all means and how we can gracefully adapt to these changes in the years to come (Winner, 2002, p.28).
62
Traduo livre de The chemical or physical inventor is always a Prometheus. There is no great invention,
from fire to flying, which has not been hailed as an insult to some god. But if every physical and chemical
invention is a blasphemy, every biological invention is a perversion. There is hardly one which, on first being
brought to the notice of an observer from any nation which has not previously heard of their existence, would not
appear to him as indecent and unnatural (Haldane apud Bostrom, 2005, p. 5).
57

programas eugnicos desde pelo menos o final da segunda guerra mundial. Hughes (2002)
admite que no passado (um passado recente, diga-se de passagem, compreendido
principalmente no perodo de virada dos anos 90 para os anos 2000) houveram flertes de parte
da comunidade transhumanista com a ideia de eugenia, mas sugere que se tratavam de grupos
minoritrios, rapidamente rechaados. Os transhumanistas designam os bioconservadores,
portanto, como agentes do yuck factor, negadores dos avanos tecnolgicos, e crticos
presos associao entre inveno biolgica e eugenia.
A designao de um grupo bioconservador que se ope ao transhumanismo por
vezes me parece a criao de um espantalho. A questo no que no haja grupos e atores
defendendo a preservao biolgica dos seres humanos. Sabe-se que h. Nas cincias sociais,
por exemplo, Le Breton (2009) em seu Adeus ao Corpo e Virilio (1996) postulam narrativa
que preconiza a separao do humano e do tecnolgico, porque associam humano ao natural e
o tecnolgico ao artificial. Isto , o que chamei da perspectiva moderna sobre a relao entre
tecnologia e humano em outro trabalho (Chiodi, 2015). Para esses autores, s h humano
enquanto h o biolgico. Contudo, essa apenas uma das muitas frentes pelas quais o
transhumanismo criticado. As crticas de Fukuyama (2009) e Winner (2002) por exemplo,
se direcionam diretamente ao transhumanismo e no tm compromisso com uma necessria
separao entre humano e tecnolgico. No fim, me parece bastante retrica a organizao do
argumento de Hughes (2002) por duas razes principais. Primeiramente, porque no se pode
reduzir as crticas ao transhumanismo a uma suposta preservao da noo de que o humano
biolgico, junto com um rechao s transformaes tecnolgicas. A crtica ao potencial
eugnico do transhumanismo, por exemplo, no tem compromisso necessrio com essa viso
moderna da tecnologia.

A primeira vtima do transhumanismo pode ser a igualdade. (...) a viso que


indivduos portanto tm valor intrnseco, est no corao do liberalismo poltico.
Porm modificar essa essncia a parte central do projeto transhumanista. Se
comearmos a transformar ns mesmo em algo superior, que direitos cobraro essas
criaturas superiores, e que direitos eles tero em comparao com os que ficaram para
trs? Se alguns melhoram, algum poder no segui-los? Essas questes so
suficientemente perturbadoras entre sociedades ricas, desenvolvidas. Acrescente as
implicaes para cidados dos pases mais pobres do mundo para quem as
maravilhas da biotecnologia est fora de alcance e a ameaa a ideia de igualde se
tornar ainda mais ameaadora63 (Fukuyama, 2009, sem pgina).

63
Traduo livre de: The first victim of transhumanism might be equality. () the view that individuals
therefore have inherent value, is at the heart of political liberalism. But modifying that essence is the core of the
transhumanist project. If we start transforming ourselves into something superior, what rights will these
enhanced creatures claim, and what rights will they possess when compared to those left behind? If some move
ahead, can anyone afford not to follow? These questions are troubling enough within rich, developed societies.
Add in the implications for citizens of the worlds poorest countries for whom biotechnologys marvels likely
58

Como vemos na passagem, a questo colocada no a suposta organicidade do


humano, mas sua condio, quando serve de conceito para que diferentes grupos sociais
busquem acesso aos mesmos direitos. Impossvel negligenciar a questo da disparidade
tecnocientfica entre os diferentes pases tambm. Se por um lado j parece difcil acreditar na
distribuio das propriedades do ps-humano para alm dos estadunidenses ricos num
contexto capitalista, a questo se aprofunda na comparao com outros pases.
Em segundo lugar, de modo anlogo, no se pode pressupor que qualquer perspectiva
que aborde de modo favorvel, ou mesmo no explicitamente contrrio, o hibridismo de
humano e tecnolgico seja transhumanista. Como percebemos nas ltimas pginas, h muito
mais a caracterizar o transhumanismo que apenas uma viso ps-moderna da tecnologia64
(Chiodi, 2015). Em suma, a prpria ideia de um inimigo resumido em bioconservador me
parece redutiva. De toda forma, assim fundamentam Bostrom e Hugues a necessidade um
transhumanismo radicalmente democrtico. Tanto para combater o bioconservatismo como
para desconstruir a ideia de que o transhumanismo seja por princpio uma filosofia de direita
ou libertariana.

II. Tecnoprogressivismo x extropianismo

Como j disse anteriormente, Bostrom e Hughes so figuras chave para compreender


esse embate sobre o qual tratarei agora. Ambos so no apenas pesquisadores e divulgadores
do transhumanismo, mas ativistas do chamado transhumanismo democrtico. atribudo a
essas duas figuras a fundao de duas organizaes no governamentais para divulgao do
transhumanismo democrtico, respectivamente, a Humanity+ (antiga World Transhumanist
Association) e a IEET (Institute for Ethics and Emerging Technologies). Essas instituies
aparecem tanto como parte do processo de oficializao e institucionalizao dos
transhumanistas, como na crtica a vrios princpios que havia entre os extropianos como a
defesa de um anarco-capitalismo bastante individualista.

will be out of reach and the threat to the idea of equality becomes even more menacing (Fukuyama, 2009,
sem pgina).
64
Argumentei em outro trabalho que uma viso ps-moderna da relao entre humano e tecnologia rechaa a
diviso binria entre os termos. A relao entre humano e tecnolgico no da ordem do orgnico x artificial.
Uma viso ps-moderna de tecnologia entende que o humano tanto orgnico como artificial. Isto , se a viso
moderna preconiza a separao binria entre humano e tecnolgico, a ps-moderna preconiza o hbrido entre
essas duas ideias (CHIODI, 2015).
59

Bostrom (2005) observa que nas dcadas de 70 e 80 comearam a surgir grupos e


organizaes focados em tpicos especficos transhumanistas, como extenso da vida,
colonizao do espao, futurismo e outros. Esses grupos eram, contudo, isolados uns dos
outros. Os extropianos apareceram como essa primeira organizao. Max More e Tom
Morrow criaram em 1988 a Extropy Magazine e em 1992 o Extropy Institute. O nome
Extropy um neologismo que visa contradizer a noo de entropia (entropy em ingls).
creditada a Max More, um britnico radicado na Califrnia, a definio moderna (Bostrom,
2005) de transhumanismo que transcrevi antes neste mesmo texto. Segundo Hughes (2002),
More era um pioneiro em crinica no Reunio Unido e foi University of South Carolina fazer
um doutorado em filosofia. Max More e Tom Morrow criaram, alm da revista e da
instituio para extroprianos, uma lista de e-mails que Hughes (2002) e Bostrom (2005)
apontam como um marco inequvoco de uma primeira organizao, ainda muito informal, de
transhumanistas.

Em 1991 os extroprianos fundaram uma lista de email, aproveitando da dramtica


expanso de cultura da Internet. A lista de email Extropiana, e as listas regionais e de
tpicos associadas a ela, atraram milhares de seguidores e carregava um volume
extremamente alto de posts na ltima dcada. A maioria das pessoas que se
considerava extropiano nunca se encontrou com outros extropianos, e participou
somente nessa comunidade virtual65 (Hughes, 2002, p. 3).

Na lista havia transhumanistas de todos os tipos, mas a maioria deles seguiam os


principais fundamentos do extropianismo. E isto que nico sobre o movimento
Extropiano: a fuso de um otimismo tecnolgico radical com filosofia poltica libertariana...
pode-se chama-lo de transhumanismolibertariano66 (Goertzel apud Hughes, 2002, p. 2).
Hughes (2002) afirma que desde o incio as publicaes da Extropy Magazine mostravam seu
compromisso com uma perspectiva libertariana e randiana. (...) O principal smbolo da
filosofia e metas desse grupo: extenso da vida, expanso dos poderes e controle humano
sobre a natureza, expanso espacial, e a emergncia de uma ordem espontnea, inteligente 67.

65
Traduo livre de: In 1991 the extropians founded an email list, taking advantage of the dramatic expansion
of Internet culture. The Extropian email list, and its associated regional and topical email lists, have attracted
thousands of subscribers and have carried an extremely high volume of posts for the last decade. Most people
who consider themselves extropians have never met other extropians, and participate only in this virtual
community (Hughes, 2002, p. 3).
66
Traduo livre de: This is really what is unique about the Extropian movement: the fusion of radical
technological optimism with libertarian political philosophy one might call it libertarian transhumanism
(Goertzel apud Hughes, 2002, p. 2).
67
Traduo livre de: (...) The core symbol of their philosophy and goals: life extension, the expansion of human
powers and control over nature, expansion into space, and the emergence of intelligent, organic, spontaneous
order (Hughes, 2002, p.2).
60

(Hughes, 2002, p.2). O ultimo item, ordem espontnea, que marcava o carter libertariano de
modo mais explcito, sofreu transformaes a partir das crticas que o extropianismo comeou
a receber, e em verses mais recentes do documento The Extropians Principles acabou
sendo substitudo pela ideia de open society. Max More disse que essa modificao veio da
concluso que o extropianismo pode se conjugar com vrias ideologias e no
necessariamente libertrio.
O egosmo randiano no foi a nica caracterstica do extropianismo criticada nos
ciclos transhumanistas. Apesar da posio de destaque e importncia que a artista
transhumanista Natasha Vita-More (esposa de Max More) teve no grupo, a ausncia de
mulheres e outros grupos demogrficos que no homens brancos e jovens era notvel. Muito
embora essas crticas j fossem presentes desde os anos 90, um survey de 2002 com os
assinantes da lista dos extropianos mostrou que 80% da lista era composta por homens, e 50%
tinha menos de 30 anos. Alm disso, 56% dos participantes se identificaram como
libertarianos ou anarquistas, mesmo que o transhumanismo em si tivesse crescido com
alguma variedade durante os anos 1990 (Hughes, 2002).
Paulina Borsook uma jornalista de tecnologia e autora do livro Cyberselfish: A
Critical Romp Through the Terribly Libertarian Culture of High Tech. Ela marcou a crtica ao
extropianos em um debate com Max More para a Wired onde trabalhava em 1996. A
jornalista colocava em sua crtica tanto a proximidade do discurso transhumanista com uma
religio, como os acusava de ser uma espcie de culto libertariano e randiano.

Mas porque eu no sou muito de neologismos exceto onde absolutamente necessrio,


libertariano vem to preciso quanto eu consigo descrever uma cultura que passei a
ver como lunaticamente anti-governo. uma cultura que romatiza a si mesma como
fora-da-lei quando mais que nunca est na cama com Wall Street e enamorada com
aqueles que tm credenciais de elite em vigor. uma cultura que celebra a
individualidade (...) uma cultura que abraa um pensamento para-biolgico imbecil
que simples justificao para o laissez-faire68 (Borsook, 2001, p. 4).

Parece fundamental aqui levantar a comparao entre extropianismo e Singularismo.


Hughes (2002) associa sem maiores problemas autores singularitarians como Vinge e
Kurzweil e, de modo mais geral, aqueles otimistas com a Singularidade, ao extropianismo. O

68
Traduo livre de: But because I am not into neologisms except where absolutely needed, "libertarian" came
as close as I could think of to describe a culture I'd come to see as loonily anti-government. It is a culture that
romanticizes itself as outlaw when more than ever it's in bed with Wall Street and enamored of those who have
elite establishment credentials. It is a culture that celebrates individuality (). It's a culture that embraces a
crackpot para-biological thinking that's simple justification for laissez-faire (Borsook, 2001, p. 4).
61

survey que mencionei acima, citado por Hughes (2002), indicou tambm que apenas 21% dos
assinantes da lista extropiana acreditavam que a Singularidade no iria acontecer.

O apelo da Singularidade para libertarianos como os extropianos que no


requerido nenhuma ao coletiva. A Singularidade literalmente um deus ex-
machina. Ayn Rand previu a sociedade afundando no caos uma vez que a tecnoelite
se retirou para sua Valhalla. Mas a Singularidade elevar a elite technosavvy ao passo
que muit provavelmente aniquilando todos os outros 69 (Hughes, 2002, p.5).

Uma referncia comum entre singularitarians e extropianianos o matemtico Hans


Moravec, autor do muito citado When will computer hardware match the human brain? O
autor foi contribuidor para as primeiras edies da Extropian Magazine. Questionado sobre as
implicaes socioeconmicas da Singularidade e de um mundo ps humano o autor disse:

as implicaes socioeconomicas so... largamente irrelevantes. No importa o que as


pessoas faro, porque elas sero deixadas para trs como a segunda fase de um
foguete. Vidas tristes, mortes horrveis, e projetos fracassados fazem parte da histria
da vida na Terra desde que h vida,; o que realmente importante a longo prazo o que
sobra70 (Moravec apud Hughes, 2002, p. 6).

Sugiro aqui, contudo, que o Singularismo enquanto ideologia no o extropianismo.


As semelhanas so muitas, mas as histrias so distintas. O Singularismo contemporneo
ao extropianismo e fruto de um contexto histrico de disputa entre os transhumanistas, mas
tambm herdeiro da particular contradio que Barbrook e Cameron (1995) batizaram de
ideologia da Califrnia que trato com cuidado especfico na prxima sesso. Do modo como
vejo, as crticas ao extropianismo no passam despercebidas pelos singularitarians. Enquanto
os princpios libertariano e randiano so mantidos, nem sempre muito claramente, a
linguagem cuidadosa e a atuao ampliada de instituies como a Singularity University
sugerem mudanas importantes.
Como nos informa Hughes (2002), no decorrer da dcada de 1990 ficou mais claro
que o transhumanismo na Europa no tinha o mesmo apego ao libertarianismo como nos
Estados Unidos, em especial na Califrnia. Na Europa havia uma diversidade maior de
ideologias transhumanistas. Percebendo essa diferena, o filsofo sueco Nick Bostrom fundou
a World Transhumanist Association (que viria a se tornar a Humanity+). Desde o princpio a

69
Traduo livre de: The appeal of the Singularity for libertarians such as the extropians is that (...) it does not
require any specific collective action. The Singularity is literally a deus ex machina. Ayn Rand envisioned
society sinking into chaos once the technoelite withdrew into their Valhalla. But the Singularity will elevate the
technosavvy elite while most likely wiping out everybody else (Hughes, 2002, p.5).
70
Traduo livre de: the socioeconomic implications are largely irrelevant. It doesnt matter what people do,
because theyre going to be left behind like the second stage of a rocket. Unhappy lives, horrible deaths, and
failed projects have been part of the history of life on Earth ever since there was life; what really matters in the
long run is whats left over (Moravec apud Hughes, 2002, p. 6).
62

organizao foi pensada como uma alternativa ao Extropy Institute, capaz de aglutinar mais
formas de transhumanismo. Seus documentos de fundao, um FAQ (Frequently Asked
Questions) e a The Transhumanist Declaration faziam rompimentos explcitos com alguns
princpios extropinianos. Max More participou da confeco dos documentos, que tiveram
seus primeiros rascunhos publicados em 1999, mas ainda assim, outros expoentes foram mais
determinantes em colocar suas verses do transhumanismo. Hughes (2002) menciona Nick
Bostrom, Anders Sanberg, a feminista Kathryn Aegis e o pensador utilitarista David Pearce.
Hughes (2002) indica quatro pontos principais em que a Transhumanist Declaration
representa uma ruptura em relao ao extropianos em direo a um transhumanismo
democrtico: i. Mencionar e debater as possibilidades de catastrofes advindas das novas
tecnologias; ii. Envolver a sociedade nos debates e decises sobre o futuro das questes
concernentes ao transhumanismo; iii. tica utilitarista; iv. Nenhum comprometimento com
qualquer ideologia poltica especfica. Partindo para o FAQ, Hughes (2002) vai acrescentar
que so rupturas inequvocas chamada pela responsabilidade social dos transhumanistas, o
envolvimento do Estado no sentido de produzir regulaes especficas para as tecnologias
transformadoras e o apoio aos mecanismos democrticos. Segundo o autor, garantida a
democracia e seus princpios o que haver numa eventual sociedade ps-humana a
solidariedade entre humanos e ps-humanos, o que seria diametralmente oposto ao
individualismo libertariano e randiano. Em resumo, poderemos assumir sem problemas que a
principal marca de um transhumanismo democrtico fomentar a participao da sociedade
nas decises, e mais presena do Estado em regulaes especficas. Ambos pontos que
endossam a democracia liberal e as instituies democrticas. Num cenrio de oposio ao
extropianismo fica claro que trata-se de um movimentao esquerda no espectro poltico.
Por outro lado, os pontos apresentados por Hughes, em especial com sua associao explcita
ao utilitarismo, parecem ressoar ideologias polticas tradicionais como a social-democracia.
Considerando a particular conexo entre investimento estatal, pesquisa em tecnologia,
militarismo e capitalismo informacional, natural que venha tona questionar o quo
transformadora pode ser uma perspectiva que endossa essas relaes. Conquanto no seja uma
questo particularmente importante aqui se o transhumanismo democrtico pode ser tomado,
como supe Hughes, por uma verso de esquerda do transhumanismo, parece claro que esse
embate interno faz a discusso caminhar para um lugar esquerda do que estava no momento
em que o local de debate era a lista de e-mails dos extropianos.
63

O Extropian Institute afiliado Humanity+, o que nos faz pensar, a julgar pela
aderncia aos documentos da instituio, que seus expoentes como Max More cederam a
algumas crticas em prol da ideia mais geral e aglutinadora de transhumanismo, o que no
significa que tenham abandonado suas caractersticas originais. Esta questo me parece
particularmente importante para pensar no impacto desse debate interno para o Singularismo.
Como j disse anteriormente, o Singularismo no o extropianismo. Sistematizado e
institucionalizado de modo mais amplo apenas nos anos 2000, o Singularismo cresce na
opinio pblica j ciente que o libertarianismo randiano dos extropianos fora impopular e alvo
de muitas crticas. Yudkowski (2000A, 2000B) diz explicitamente que o Singularismo
derivado do transhumanismo. Enquanto ideologia bebeu de fontes transhumanistas variadas,
constituindo uma particularidade. Por um lado singularitarians afirmam ser libertarianos, e
algumas instituies ligadas a esses pesquisadores se recusam a estar atribudos a
universidades tradicionais ou a rgos do governo. So vrias as organizaes no
governamentais e pesquisadores independentes. Por outro lado, vemos a Singularity
University, instituio chave na promoo do Singularismo, estar localizada dentro de
territrio da NASA no Vale do Silcio, e pautar a maior parte de suas aes em programas que
ambicionam resolver problemas globais a partir da inovao tecnolgica. Em suma, h razes
para supor tanto uma aproximao dos extropinianos como dos democrticos entre
singularitarians e suas instituies. Ou melhor, h razes para supor que o Singularismo usa o
embate interno transhumanista como trampolim para sua prpria projeo. Por vezes veremos
o Singularismo soar democrtico, por vezes soar extropiniano. Como se relacionam esses
elementos se torna a grande questo.

3.3. Da contracultura cibercultura: ideologia da Califrnia

Uma relao improvvel entre cibercultura e contracultura o tema da terceira e


ltima parte deste captulo. De alguma forma essa uma sesso que passar necessariamente
pelas duas anteriores. A passagem da contracultura para a cibercultura marca uma
hibridizao improvvel entre hippies e yuppies (Cameron e Barbrook, 1995). A histria da
ciberntica fundamental para entendermos essa contradio improvvel, ao passo que esta
contradio reedita uma das tenses que apontei na ciberntica a partir da reflexo de
Barbrook (2009), que ope Wiener e von Neumman. J a partir da discusso feita sobre
64

transhumanismo, veremos que a tenso entre um transhumanismo democrtico e um


libertariano uma verso mais especfica e interna do mesmo debate. A verso libertria se
aproxima mais da chamada Ideologia da Califrnia, ao passo que a democrtica parece
disposta a discutir a parte yuppie da contradio. Volto a essas questes frente. Como
pretendo mostrar, o Singularismo na verdade um exemplo mais prximo da Ideologia da
Califrnia que outros transhumanismos, considerados o democrtico e o extropiano.
Apresento a complexa relao entre contracultura e cibercultura a partir de dois textos
seminais para compreender de modo mais especfico tanto o contexto histrico como o
filosfico de surgimento do Singularismo. Trata-se do ensaio de Barbrook e Cameron,
chamado Californian Ideology, e do livro de Fred Turner From Counterculture to
Ciberculture Stewart Brand, the Whole Earth Network, and the Rise of Digital Utopianism.
So duas abordagens que chegaro a concluses que, se no forem semelhantes, so ao menos
complementares. Ambos os textos oferecem a leitura de que h no utopismo
tecnodeterminista dos anos 1990, uma fuso improvvel entre contracultura e cibercultura.O
texto de Barbrook e Cameron tem por inteno identificar e caracterizar uma ideologia que
nasce e cresce no Vale do Silcio e irradia com facilidade num capitalismo globalizado. O
livro de Turner, por outro lado, apresenta uma reflexo quase historiogrfica, que pretende
explicar a partir de Stewart Brand71 sua empreitada com a Whole Earth Catalog como a
contracultura anti-guerra veio a se encontrar com as pesquisas de financiamento militar em
tecnologias da ciberntica que tanto desprezava. Os pontos de vistas dos autores so
complementares, mas funcionam em diferentes ordens. Barbrook e Cameron fazem uma
descrio de uma ideologia que cresce em importncia desde os anos 1990, e um argumento
poltico que nos d razes para ter receios de sua expanso. Turner, por outro lado, mostra
como foi possvel que essa ideologia existisse e abre nossos olhos para como podem ser
improvveis os caminhos para a formulao de uma ideologia.

a) O encontro improvvel entre ciberntica e contracultura

Os anos 60 so marcados, entre outras razes, pela emergncia do movimento cultural


que ficou conhecido como contracultura. A Guerra Fria teve seu pice na dcada de 1960 com

71
Stewart Brand um escritor estadunidense mais famoso por ter sido o criador e editor Whole Earth Catalog, a
revista que um marco inequvoco de publicao da contracultura estadunidense. Tambm foi um dos
fundadores da WELL (Whole Earth 'Lectronic Link), frequentemente tomada com uma das antigas comunidades
comunidades virtuais.
65

a crise dos msseis em Cuba, e foi tambm nessa dcada que aconteceu a maior parte da
Guerra do Vietn. A gerao de jovens que cresceu nesse perodo cada vez mais se aglutinava
em torno da repulsa a tudo que representava a mquina estatal da Guerra Fria. Essa repulsa
era marcada por uma ideologia pacifista que criticava no apenas a guerra em si, mas o
universo burocrtico e vertical sob o qual estavam construdas as pesquisas e as tecnologias.
A ciberntica representava, de certa forma, a reafirmao da burocracia, da censura e do
militarismo. Nesse contexto, os computadores so o smbolo fundamental que marca a
contradio da dcada de 1960 com a de 1990.

Para os marchantes do movimento Free Speech, assim como para outros Americanos
ao longo dos anos 1960, computadores soavam como tecnologias desumanizadores,
de burocracia centralizada e de racionalizao da vida social, e, finalmente, da Guerra
do Vietn. Ainda assim, nos anos 1990, as mesmas mquina que haviam servido
como definio dos devices da tecnocracia da Guerra Fria surgiram como smbolos de
sua transformao. Duas dcadas depois do fim da Guerra do Vietn e do
desaparecimento da Contracultura Americana, computadores de alguma forma deram
vida ao sonho contracultural do empoderamento individualista, comunidade
colaborativa, e comunho espiritual. Como o significado cultural da tecnologia da
informao mudou to drasticamente?72 (Turner, 2006, p.2).

justamente a pergunta que fecha a citao que Turner (2006) pretende responder
com seu livro. Para compreender essa passagem teremos que, antes de tudo, elaborar de que
forma a contracultura se encontrou com a ciberntica e isso que vou fazer nessa seo.
necessrio estabelecer de incio que esse encontro s foi possvel porque tanto a ciberntica
quanto a contracultura podem ser tomadas no plural. Esta pluralidade pode ajudar a
compreender ideologicamente como se deu a conexo improvvel. Vimos antes nesse
trabalho que Barbrook (2009) separou Wiener e von Neumann como perspectivas,
respectivamente, socialista e conservadora da ciberntica. Essa diferena crucial aqui. Uma
ciberntica belicista, que abraava a o investimento militar e jogava a Guerra Fria
voluntariamente muito mais prxima da ideia de mundo e de Estado que os hippies
desprezavam. A ciberntica de von Neumann est tomada pelo Estado e pela guerra, e
computadores so armas. Sua utopia a dos robs escravos. A ciberntica socialista, por outro
lado, por meio da mudana poltica de Wiener, que passou a desprezar a ciberntica usada

72
Traduo livre de: For the marchers of the Free Speech Movement, as for many other Americans throughout
the 1960s, computers loomed as technologies of dehumanization, of centralized bureaucracy and the
rationalization of social life, and, ultimately, of the Vietnam War. Yet, in the 1990s, the same machines that had
served as the defining devices of cold war technocracy emerged as the symbols of its transformation. Two
decades after the end of the Vietnam War and the fading of the American Counterculture, computers somehow
seemed poise to bring to life the countercultural dream of empowered individualism, collaborative community,
and spiritual communion. How did the cultural meaning of information technology shift so drastically? (Turner,
2006, p.2)
66

para fins blicos, concentrava sua utopia na comunicao e na crena de que a informao
poderia ser usada para unir as pessoas em detrimento de separ-las por meio de guerras.
Parece possvel que a ruptura de Wiener com a ciberntica militar que ele mesmo ajudou a
criar indique um caminho para compreender como cibercultura e contracultura puderam se
misturar.
Quanto pluraridade da contracultura, embaso-me no argumento de Turner (2006):
muito comum que a reviso da histria do ativismo sessentista acabe por tornar Nova
Esquerda, Novo Comunalismo e Contracultura a mesma coisa. Frequentemente a
contracultura lembrada pelo hedonismo, unificando e descaracterizando as importantes
diferenas entre a Nova Esquerda e o Novo Comunalismo. Ambos os movimentos tem a
peculiar caracterstica de ser ideologicamente contrrios s estruturas e instituies sociais da
Guerra Fria e, ao mesmo tempo, endossar algumas caractersticas dessas estruturas e
instituies. Ainda assim, essa crtica aparece de diferentes formas. A Nova Esquerda foi um
movimento que marcou o constante protesto poltico contra a Guerra do Vietn, formou novos
partidos e lutou por direito civis por vias do ativismo poltico grupos como o Free Speech
Moviment e o Black Power. O Novo Comunalismo, por outro lado, representava uma
introspeco poltica, onde as formas pblicas e tradicionais de protesto eram substitudos
por uma lgica concentrada na reforma individual, por meio da mente. Para os Novos
Comunalistas, a chave para a mudana social no era a poltica, mas a mente 73 (Turner,
2006, p.36).

Para eles, a expanso-da-mente seguia a direo da sexualidade e das tecnologias de


pequena-escala da psicodelia, e msica no era a nica dissociao do estilo cultural
da classe mdia americana na Guerra Fria; era uma guinada ao que eles imaginavam
que poderia se tornar uma nova nao, uma terra de pequenas, igualitrias
comunidades ligadas uma as outras por uma rede de crenas compartilhadas74
(Turner, 2006, p. 33).

Ironicamente, muitos dos Novos Comunalistas encontraram nas teorias da ciberntica


um mundo alternativo que reforava seus princpios. As teorias da informao forneciam uma
primeira imagem da rede, que trabalhava a um s tempo com a quebra da hierarquizao

73
Traduo livre de: For the New Communalists, the key to social change was not politics, but the mind
(Turner, 2006, p.36).
74
Traduo livre de: For them, the mind-expanding turn toward sexuality and toward the small-scale
technologies of psychedelia and music was not only a turn away from the constrained cultural style of middle-
class cold war America; it was a turn toward what they imagined could become a new nation, a land of small,
egalitarian communities linked to one another by a network of shared beliefs (Turner, 2006, p. 33).
67

vertical e com a distribuio de vrios ns que formavam uma malha. Por essa descrio
poderemos enxergar, desde j, um link entre a contracultura dos anos 1960 e uma utopia da
internet nos anos 1990. Mas antes de chegar l, retomo o argumento de Turner a partir de
Stewart Brand. O autor usa a biografia de Brand e sua empreitada na fundao da Whole
Earth Catalog e, mais tarde, da WELL75, como uma maneira prtica de entender como se
conectaram contracultura e cibercultura. Brand foi um jornalista muito influente, fundador e
participante de grupos e comunidades que na viso de Turner (2006) mudaram de modo
fundamental o modo como os Estados Unidos veriam as tecnologias da informao e os
computadores. Brand participou do coletivo de arte USCO, fortemente influenciado pela
teoria de Marshall McLuhan. Este foi um dos mais importantes tericos da comunicao no
sculo XX e, por sua vez, teorizou fortemente inspirado pela ciberntica. A ideia de aldeia
global desenvolvida por McLuhan capaz de mostrar essa conexo improvvel de
contracultura e ciberntica e porque ela agradou jovens influentes como Stewart Brand. Essa
mesma ideia pode facilmente ser realcionada ao lema da USCO que era Were all one.
Turner (2006) alega que McLuhan e Fuller 76 foram responsveis por incutir a ideia de que a
tecnologia era uma ferramenta de transformao social em grupos como o USCO. Nas
palavras do autor, McLuhan, e especialmente Fuller, ofereceriam a Stewart Brand meios de
imaginar a tecnologia como fonte de transformao social e modelos de como se tornar um
empreendedor cultural77 (Turner, 2006, p.52).
Em termos curtos, e provavelmente injustos, a ideia de aldeia global
importante aqui porque uma canalizao possvel do interesse de McLuhan na ciberntica e
no tribalismo. McLuhan dizia que os meios eletrnicos poderiam tribalizar uma sociedade
destribalizada pela imprensa. Esse elogio ao tribalismo remete diretamente s novas comunas
que se instalavam nos Estados Unidos como modo alternativo de viver em uma sociedade
passvel de destruio completa por bombas atmicas. J a compreenso dos meios
eletrnicos como forma de mudana social remete ciberntica. A famosa ideia de que o
meio a mensagem ressoa a descrio da temporalidade ps-moderna feita por Jameson
(2015), e talvez seja um modo indireto de ver a influncia da utopia mcluhanista no
Singularismo. A aldeia global um mundo onde tudo est conectado, em detrimento das

75
Whole Earth 'Lectronic Link, co-fundada por Brand, e tomada por uma das primeiras comunidades virtuais.
76
Buckminster Fuller foi um inventor, designer, arquiteto e escritor associado teria geral dos sistemas e tomado
como inventor do domos geodsico.
77
McLuhan, and specially Fuller, would offer Stewart Brand both ways of imagining technology as a source of
social transformation and living models of how to become a cultural entrepreneur (Turner, 2006, p.52).
68

separaes das guerras e cortinas de ferro. Essa ideia atraa Stewart Brand. E precisamente
essa ideia de um todo conectado, a um s tempo tribal e cosmopolita, que inspira o nome da
Whole Earth Catalog. A revista foi publicada originalmente de 68-72 e foi profundamente
influente. Ali estavam conectadas as ideias de ecologia, a atitude DIY78, a mente
transformadora e outras caractersticas culturais da contracultura e dos Novos Comunalistas,
mas tambm as noes de transformao do mundo pelas tecnologias e uma particular
conexo entre tecnologias e mentes, aldeias e cosmopolitismo, distribudas de forma
horizontal. Uma gerao profundamente inspirada pela contracultura, mas conquistada pelo
apelo de transformao pelas novas tecnologias, foi muito influenciada pela Whole Earth
Catalog. Essa nova gerao inclua os empreendedores das novas empresas daquele lugar que
viria a ser o Vale do Silcio, inclusos os membros do Homebrew Computer Club, dentre os
quais estavam Bill Gates e Steve Jobs. O ativismo online deve-se em enorme medida a essa
gerao. Indivduos empreendedores, com ideias inovadoras, mentes brilhantes e novas
tecnologias capazes de transformar o mundo. Parece uma ideia familiar?
Por meio dessa breve descrio, poderemos entender em alguma medida porque a
contradio entre contracultura e cibercultura deixa de ser impossvel em certo ponto. A
ciberntica, ainda que fosse a disciplina da Guerra Fria e da bomba atmica, do financiamento
militar e da estrutura vertical das instituies como as universidades, oferecia uma resposta e
uma alternativa ao mundo que a contracultura odiava e temia. Se a ciberntica belicista de von
Neumman, que pensava o computador como arma se aproximava do mundo da Guerra Fria, a
utopia comunicacional de Wiener, onde o computador passava a ser um instrumento pessoal
de transformao social, podia ser a ruptura que vrios jovens da contracultura esperavam.
Como veremos adiante, essas contradies forjaram o Vale do Silcio. Um lugar construdo a
partir de investimento governamental e militar que, ainda assim, a meca dos liberais que
rezam todos os dias para a mo invisvel retirar a interveno estatal (pelo menos at que a
interveno seja necessria para benefcio de suas empresas, claro).

b) Tecnoutopias e internet: os anos 90 e a formulao de uma ideologia da Califrnia

Em meio aos anos 1990, quando primeiro a Internet e depois a World Wide Web
ganharam visibilidade, conversas de revoluo estavam no ar. Poltca, economia, a
natureza do self tudo parecia estar beira da transformao. A Internet era sobre
organizaes horizontais, sociedade globalizada, controle descentrado, e ajudar a
harmonizar as pessoas (...) a Internet traria o nascimento de uma nova gerao

78
Do it yourself, que pode ser traduzido com Faa voc mesmo.
69

digital brincante, auto-suficiente, psicologicamente completa e veria essa gerao


se unir, como a Net ela mesma, em torno de redes colaborativas e peers
independentes79 (Turner, 2006, p.1).

O artigo The Californian Ideology foi publicado em 1995, momento em que o


crescimento e o otimismo com relao internet e ao barateamento dos computadores
pessoais parecia infinito. O desenvolvimento tecnolgico na dcada de 1990 mostrava para os
tecnodeterministas californianos, amplamente influenciados pelo pensamento de McLuhan,
que seus anseios se mostravam verdadeiros. Uma associao entre lei de Moore e a aldeia
global j no parecia uma previso para o futuro da humanidade, quase se podia toc-la. A
solidificao da globalizao e do neoliberalismo marcavam a emergncia de um Vale do
Silcio de importncia sem precedentes. Antes mais pensado como um espao de nicho das
tecnologias da informao, o Vale do Silcio dos anos 1990 fica mais prximo da figura de
microcosmo ideal do capitalismo, uma espcie de Jerusalm do capitalismo informacional.

Quando cai o Muro de Berlim em 1989, a utopia que emerge nos anos 1990, em
consonncia com o neoliberalismo, a de uma sociedade da comunicao. O novo
gs vem das assombrosas novas tecnologias de informao e comunicao, dos
computadores pessoais ligados em rede, que agora ocupam o lugar de eletrodomstico
popular (Evangelista e Kanashiro, 2013, p. 59).

nesse contexto que Cameron e Barbrook (1995) identificam a ideologia que leva o
nome da Califrnia porque no poderia mesmo ter sido elaborada em qualquer outro lugar do
planeta. Nas palavras de seus autores, uma fuso bizarra da bohemia cultural de So Francisco
com as indstrias da tecnologia do Vale do Silcio.

Promovidas em revistas, livros, programas de TV, Websites, grupos de notcias,


conferncia na Net, a Ideologia da Califrnia combinou prosmiscuamente o esprito
desgarrado dos hippies e o zelo empreendedor dos yuppies. Esse amlgama de
opostos foi alcanado atravs de uma profunda f no potencial emancipatrio das
novas tecnologias da informao. Na utopia digital, todo mundo ser descolado e
rico80 (Cameron e Barbrook, 1995, sem pgina).

79
Traduo livre de: In the mid-1990s, as first Internet and then the World Wide Web swung into public view,
talk of revolution filled the air. Politics, economics, the nature of the self all seemed to teeter on the edge of
transformation. The Internet was about to flatten organizations, globalize society, decentralize control, and help
harmonize people () the Internet would bring about the rise of a new digital generation playful, self-
sufficient, psychologically whole and it would see that generation gather, like the Net itself, into collaborative
networks of independent peers (Turner, 2006, p.1).
80
Traduo livre de: Promoted in magazines, books, TV programs, Web sites, news-groups, and Net
conferences, the Californian ideology promiscuously combines the free-whiling spirit of the hippies and the
entrepreneurial zeal of the yuppies. This amalgamation of opposites has been achieved through a profound faith
in the emancipatory potential of the new information technologies. In the digital utopia, everybody will be both
hip and rich (Cameron e Barbrook, 2001, p. 364).
70

Se a imprensa fora a destribalizadora para McLuhan no passado, ao menos num


nicho liderado pela Wired, boa parte da imprensa era agora grande divulgadora da aldeia
global. Se a Whole Earth Catalog representava um primeiro passo na conexo das ideias da
contracultura e da ciberntica, a Wired representa um ponto de chegada, onde essa conexo d
origem cibercultura e sua extensiva divulgao. De certa forma, como pode sugerir a leitura
do livro de Turner (2006), a Wired um marco da Ideologia da Califrnia.
Cameron e Barbrook (1995) dizem que essa viso utpica californiana s possvel a
partir da cegueira para uma srie de problemas da costa oeste dos EUA: racismo, pobreza e
degradao ambiental. A ironia que a bohemia artstica, vinculada crtica contracultural,
costumava justamente se atentar para estes problemas. Essa ironia foi possvel na prtica
porque na viso dos autores haviam dois tipos de hippies. Os que rejeitavam o progresso
cientfico e pregavam um retorno natureza, e aqueles que acreditavam profundamente no
progresso tecnolgico de tal forma seus princpios de liberdade poderiam ser atingidos atravs
deles. Se formos pensar no termos de Turner (2006) esses dois tipos de hippies estavam
integrados enquanto Novos Comunalistas, embora sejam os hippies tecnoflicos seu cone. De
toda forma, se tomarmos o grupo de Stewart Brand e todos aqueles que ele influenciou como
esse grupo, veremos atravs dele a mxima das utopias wienerianas e mcluhianas: a criao
da gora eletrnica foi o primeiro passo na implementao de uma democracia direta em
todas as instituies sociais 81 (Cameron e Barbrook, 1995, sem pgina).
Se parece muito abstrata essa contradio que formula a ideologia, h pequenos
exemplos prticos atravs dos quais poderemos enxerga-la na prtica. Os escritrios
divertidos e descolados do Google so famosos na internet82. A ideia de um local de trabalho
que no formal e tem atividades de lazer das mais variadas para seus empregados. Horas e
pontos so desnecessrios porque se trabalha com metas. Tudo bem que voc tenha passado a
ltima quarta-feira jogando FIFA com seu colega de trabalho, desde que entreguem o
relatrio na sexta. A promessa de uma revoluo na forma de trabalhar em nome da
produtividade mostra na prtica um exemplo torto do esprito desgarrado contracultural
hibridizado com estratgias neoliberais de trabalho. Enquanto esse exemplo pode soar
desejvel e inofensivo, poderemos ver que esse modelo de escritrio se espalha pelo mundo
de modo improvvel, de forma mimtica. Se esse modelo de empresa e trabalho coerente
com a cultura do Vale do Silcio, o que dizer quando uma empresa de Campinas, no interior
81
Traduo livre de: the creation of the electronic agora was the first step toward the implementation of direct
democracy within all social institutions (Cameron e Barbrook, 2001, p. 366).
82
https://www.fastcodesign.com/3028909/8-of-googles-craziest-offices
71

de So Paulo, estabelecesse as mesmas prticas? Uma reportagem83 ao vivo do jornal local da


Rede Globo trata a proposta com ares de inovao e otimismo. Evangelista (2011) aponta
acerca das implicaes da Ideologia da Califrnia no trabalho:

Sua nfase est mais na apropriao de uma viso neoliberal do funcionamento da


economia, uma crena no poder criador de indivduos isolados, somada com profunda
averso a qualquer interferncia do Estado, por herdeiros culturais de uma tradio de
costumes liberais. Apontam ainda a confluncia entre uma inquietude do trabalho
criativo e ideias de liberdade, que no se conforma a regras burocrticas do emprego
formal com horrios rgidos de trabalho, com a flexibilizao do mercado de trabalho,
em que o contrato por tempo determinado, as ligaes entre empregado e
empregador no so fixas (quase um relacionamento aberto, seria curioso
acrescentar), assim como no o o tempo de trabalho. Mas, pressionado pelas
exigncias, esse trabalhador criativo dedica-se a muito mais horas a seu ofcio,
ficando com escasso tempo livre; e, ento, precisa fazer do trabalho seu caminho de
autossatisfao. Uma intrincada combinao entre uma nova estrutura do mercado
de trabalho e a adoo de ideias que ligam prazer, diverso e dedicao obstinada ao
trabalho, que tambm uma construo de si mesmo como ativo de valor para as
empresas (Evangelista, 2011, p. 13-14).

Uma reflexo aprofundada poder sugerir que trata-se de um exemplo de expanso


global da Ideologia da Califrnia, mesmo em locais que no compartilham das mais bsicas
premissas culturais do Vale do Silcio. Esse , contudo, um exemplo sutil. A emergncia do
chamado capitalismo de plataforma mostra, em servios de grandes empresas silicianas como
o Uber o Airbnb, exemplos muito mais palpveis e aprofundados da conexo entre Ideologia
da Califrnia e globalizao. A medida em que se torna tendncia global, essa ideologia opera
transformando a forma de trabalho e tambm a relao entre o Estado e os servios prestados,
bem como a organizao da cidade. Essas empresas oferecem servios ao passo que fingem
no oferecer servios, mas apenas uma plataforma onde indivduos negociam entre si.
Como conclui em outro artigo,

O que est em voga no apenas a modificao e a concorrncia de servios, mas a


substituio de um tipo de servio por outro que tem por consequncia a
flexibilizao de direitos trabalhistas, o no recolhimento de impostos sobre servios
e o distanciamento do Estado de decises de organizao do transporte pblico no
caso do UBER. Est em operao no apenas uma flexibilizao dos servios
regulados, mas uma substituio do local pelo global nas prticas econmicas
expansvel para outros servios to tradicionais quanto os txis ou hotis (Chiodi e
Evangelista, 2016, p. 9).

A chamada sharing economy decorrente de uma ativismo p2p (peer to peer) que
remonta a utopia da rede dos anos 1990 a partir da ideia de compartilhamento (Schor,

83
A reportagem est disponvel na ntegra no link: <http://g1.globo.com/sp/campinas-regiao/jornal-da-
eptv/videos/t/edicoes/v/conheca-uma-empresa-que-tem-ate-academia-para-os-funcionarios-em-
campinas/5471113/>
72

2014). As pautas do ativismo p2p so sequestradas por gigantes plos especuladores do Vale
do Silcio como Uber e Airbnb, que encontram um modo de expanso globalizado. Essa
expanso escapa, de modo geral, todas as vias do debate pblico e acabam por operar
transformaes importantes da economia nos locais onde se instalam. O Airbnb, por exemplo,
tem causado a gentrificao de uma srie de vizinhanas, antes residenciais, e agora lugares
tursticos. Por consequncia, os antigos moradores da regio acabam tendo de deixar o local
onde viviam e saem para viver em locais mais baratos, como mostram reportagens do
NYTimes e The Guardian sobre a cidade de So Francisco 84. Como tentamos mostrar no
mesmo artigo acima citado, a cargo de exemplo, a presena do Uber nas cidades brasileiras
promove um afastamento do Estado na legislao e no planejamento urbano do transporte
pblico, alm de uma flexibilizao do trabalho tipicamente neoliberal que no foi debatida
em nenhuma instituio democrtica (Chiodi e Evangelista, 2016). A empresa, no entanto,
conquista a opinio pblica com um jogo de marketing agressivo, surfando na onda do anti-
politismo que parece assolar vrios dos protestos do Brasil nos ltimos anos. Tal como nos
escritrios divertidos do Google, o motorista de Uber ganha o quanto trabalha e pode no
ligar seu aplicativo na quarta e trabalhar 23h52m na sexta-feira. O excesso de trabalho dos
motoristas de Uber comea a ser percebido pela imprensa brasileira, como mostra reportagem
da Folha de So Paulo cuja manchete diz que Motoristas 'exaustos' do aplicativo Uber
assustam passageiros em SP 85. E ainda temos de levar em conta aqueles que colocam o
trabalho do Uber como complemento a seu trabalho original, geralmente formal, durante o
dia.
Observadas as caractersticas dessa controvrsia socio-tcnica contempornea
veremos: i. empresas do Vale do Silcio promovendo transformaes sociais a partir de
computadores (smartphones), ii. apoiadas na utopia da ideia de compartilhamento e iii.
operando na prtica um afastamento transnacional dos Estados dos servios oferecidos em seu
territrio. A ideologia da Califrnia enxergada a partir do capitalismo de plataforma mostra
que os receios sobre seu crescimento so muito reais. Ao que tudo indica, uma verso muito
especfica do que seja liberdade comea a se espalhar para o aprofundamento de uma
democracia de mercado, onde a verticalidade do Estado substituda por uma rede asfixiante,
cuja horizontalidade passvel de discusso.
84
https://www.theguardian.com/us-news/2016/jul/22/airbnb-san-francisco-wanted-posters-chinatown e
http://www.nytimes.com/2015/05/23/us/high-rents-elbow-latinos-from-san-franciscos-mission-
district.html?_r=0
85
http://www1.folha.uol.com.br/cotidiano/2016/09/1814456-motoristas-exaustos-do-aplicativo-uber-assustam-
passageiros-em-sp.shtml
73

Em perfeita sintonia com o contexto do capitalismo informacional e do capital


especulativo, a Ideologia da Califrnia acredita numa verso jeffersoniana da democracia e
carrega tambm as contradies de seu modelo de inspirao. Tal como Jefferson defendendo
a pauta liberal da liberdade para todos sendo proprietrio de muitos escravos, sua verso
californiana dos anos 1990 promete uma utopia que excludente na prtica. Uma elite
econmica e cultural tenta ditar da Califrnia tendncias globais, de olhos tapados para
problemas centrais de nosso tempo, como a pobreza e o racismo. A transformao do
capitalismo por vias da Ideologia da Califrnia reacionria e tende a aprofundar as
caractersticas desse modelo econmico, enfantizando a concentrao de renda e excluso
social. Membros abastados da sociedade desejam uma menor presena do Estado, ainda que,
ironicamente, recorram a ele na necessidade. Desconsideram, provavelmente, o impacto do
um Estado mnimo nas populaes mais pobres, em especial nos pases do Sul, onde no pode
dar-se ao luxo de ver nos computadores sua salvao pessoal. Ao invs de prever a
emancipao da humanidade, essa forma de determinismo tecnolgico pode apenas enxergar
um aprofundamente da segregao social86 (Cameron e Barbrook, 1995, sem pgina).
Cameron e Barbrook (1995) concluem que descrevem uma ideologia do
retrofuturismo. Isto , por um lado ela prope uma viso otimista de futuro tecnodeterminista
que conta com algumas reformas tradicionais como a superao da obsolncia do corpo
evocada pelos transhumanistas. Ainda sobre a utopia dos anos 90, diz Turner (2006) Mesmo
o self individual, h muito preso ao corpo humano, finalmente seria libertado para pisar fora
do seu confinamento de carne, explorar seus autnticos interesses, e encontrar outros com
quem se possa alcanar comunho87 (p. 1).
Por outro lado, a Ideologia da Califrnia reifica antigas estruturas sociais do
capitalismo que produzem a excluso e a manuteno de uma relao desigual de mestre e
escravo. Este cenrio mostra, portanto, um futuro pessimista e repressivo nas entrelinhas. O
apoio numa noo iluminista de igualdade, como mostra a histria, costuma garantir uma
igualdade limitada a sua elite formuladora. A simbiose to desejada entre homem e mquina
vem no fim na forma de ciborgue-mestre e rob-escravo. Enquanto os ciborgues-mestres j
tm sua existncia programada, a natureza desses novos robs-escravos controversa e um

86
Traduo livre de: Instead of predicting the emancipation of humanity, this form of technological
determinism can only envisage a deepening of social segregation (Cameron e Barbrook, 2001, p. 377).
87
Traduo livre de Even the individual self, so long trapped in the human body, would finally be free to step
outside its fleshy confines, explore its authentic interests, and find others with whom it might achieve
communion (p.1).
74

problema do futuro, embora ele j se manifeste no presente - como vimos na passagem sobre
o capitalismo de plataforma.

3.4. Cosmologias conectadas

Esse captulo retoma alguns dos aspectos fundamentais do argumento dessa


dissertao. As ideologias vistas a partir do conceito de Wolf se forjam em imaginrios
estruturados. Conhecer as fontes primordiais de verdade do Singularismo parte fundamental
para compreend-lo. Elas esto muito mais conectadas do que parecem primeira vista. E
somente a partir delas que poderemos entender a complexidade do Singularismo. Voltarei
nessa questo com cuidado especfico, mas desde j posso afirmar que todas as contradies
apontadas nesse captulo testemunham a complexidade a qual me refiro. O Singularismo por
vezes parece filho de uma ciberntica de von Neumann, mas ao mesmo tempo
indiscutivelmente mcluhanista e wieneriano. O Singularismo muito prximo do
extropianismo em vrios aspectos, mas j nasceu ciente da impopularidade de um
posicionamento pblico randiano e elitista, que o leva a ter caractersticas do transhumanismo
democrtico. Por ltimo, como filho legtimo da cibercultura, a contradio entre
contracultura e ciberntica fundamental para compreender como singularitarians podem ser
a um s tempo egostas e solidrios, extropianos e democrticos, hippies e yuppies, tribais e
cosmopolitas. Se pensarmos mais uma vez no Uber, uma enorme empresa multinacional
sediada no Vale do Silcio diz oferecer uma rede (plataforma) no qual pessoas podem se
conectar individualmente, sem a interferncia de instituies verticais como o Estado e
Universidade. Temos uma aldeia global torta e, talvez, muito distante do que previa McLuhan
que se concretiza frente de nossos olhos. Considerando, claro, que o Uber to rede
horizontal e democrtica quanto somos aldeos quando armados de smartphones com internet
mvel e GPS.
75

4. O SINGULARISMO COMO REDE

4.1. Vale do Silcio: a casa do Singularismo

O Vale do Silcio hoje uma figura central no imaginrio do capitalismo


contemporneo. No necessariamente o maior ou mais relevante polo econmico, mas um
centro econmico de importncia global e de protagonismo inquestionvel. Casa de boa parte
das maiores empresas do mundo, como Google, Apple e Facebook, em especial aquelas
associadas ao capitalismo informacional, essa regio da Califrnia tambm a casa de muitos
dos mitos do capitalismo contemporneo e aqui digo mitos no como opostos de verdade,
embora s vezes seja o caso, mas no sentido de dar suporte imaginrio a uma srie de ideias
fundamentais para o crescimento de um novo capitalismo. Dois desses mitos do o tom da
minha abordagem aqui: o mito dos self-made men e o mito da exploso econmica.
O primeiro refora a ideia de empreendedorismo individual como valor e cria uma
histria fantstica em cima de figuras como Steve Jobs e Bill Gates, como os mgicos que
criaram as maiores fortunas do mundo a partir do nada. Mora nesse mito a ideia de que, tal
como os magos do Vale do Silcio, qualquer um pode ser um bilionrio. Aqui podemos com
alguma segurana pensar que o mito se ope a algumas verdades. O mito do self-made man,
dos jovens inteligentes que fizeram fortunas a partir de empresas de garagem, desconsidera
contextos histricos, atores de enorme importncia poltica e econmica, e reduz todas as
complexidades histricas ao sucesso financeiro de alguns indivduos. Ainda que carente de
dados que o sustente, trata-se de um mito que funciona. Repetido inmeras vezes nos mais
diversos meios nas ltimas dcadas, uma macronarrativa ganha fora por trs da histria de
seus heris. Como num conto popular dotado de inteno moralizante, so reforadas as
ideias de meritocracia, competitividade e premiao de esforo individual e a prpria noo
de indivduo como centro de qualquer narrativa de sucesso.
O segundo mito ser objeto de discusso mais cuidadosa. O Vale do Silcio
frequentemente tomado como o santo graal do capitalismo informacional (Sturgeon, 2000). O
segundo mito vende a ideia de que, a partir do exemplo santo californiano, ficaria
demonstrado que qualquer regio do mundo poder desenvolver a exploso econmica que
teria feito em poucas dcadas uma locao quase rural se tornar um dos maiores polos
econmicos do mundo. Um estudo aprofundado do Vale do Silcio, contudo, desmantelar
76

essa afirmao com alguma facilidade. No apenas questionvel que o exemplo californiano
possa simplesmente ser aplicado a outras regies sem desenvolvimento industrial, mas a
prpria ideia de exploso econmica do Vale do Silcio pode ser colocada em xeque. Claro,
no se trata de negar que poucas dcadas foram decisivas para sua expanso e ganho de
importncia global. Mas como atestam Sturgeon (2000) e Willians (2013), o desenvolvimento
econmico da regio e mais particularmente sua relao especial com a indstria de
eletrnicos muito anterior exploso econmica da dcada de 1970. Retomo alguns
aspectos da histria do Vale do Silcio para corroborar esse argumento.
Sturgeon (2000) diz que a maior parte dos estudos consideram a chegada da empresa
de semicondutores de Schockley88 regio como o incio do Vale do Silcio, e diz que os
estudos mais cuidadosos vo dcadas atrs, incubadora da Universidade de Stanford, de
onde surgiram na dcada de 1930 a Hewlett-Packard e outras empresas de inovao
tecnolgica. O objetivo de seu artigo na verdade ir mais longe. Nem mesmo as abordagens
que tratam como marco inicial a dcada de 1930 parecem apropriadas ao autor.

H uma vibrante indstria de eletrnicos na baa de So Francisco desde os primeiros


dias de experimentao e inovao nos campos do rdio, televiso, e economia
militar. Meu objetivo destruir o mito da industrializao imediata que tem sido to
central histria do desenvolvimento do Vale do Silcio. O que emerge, ao contrrio,
um retrato muito mais tpico da geografia histria e econmica: desenvolvimento
industrial demora muito tempo para construir um momentum, e profundamente
estruturada a partir de um contexto histrico89 (Sturgeon, 2000, p. 16).

Willians (2013) vai ainda mais longe e diz que a histria do Vale do Silcio comeou
na Corrida do Ouro, em pleno sculo XIX. Independentemente do marco que se venha a
considerar como o inicial, o importante aqui marcar uma abordagem que est explcita
nesses dois estudos. Uma histria do Vale do Silcio no deveria ser a histria de um objeto
tecnolgico , dos semicondutores de silcio ou do multiprocessador mas a histria de um
lugar. Tomar os semicondutores como incio da narrativa tem uma inspirao no
determinismo tecnolgico que tende a enfraquecer outros elementos essenciais para a
compreenso do que hoje o Vale do Silcio, como por exemplo o amlgama muito
especfico de investimento financeiro militar, polos cientficos de pesquisa em tecnologia

88
William Bradford Shockley foi um fsico e inventor estadunidense, ganhador do prmio nobel de 1956 pela
sua participao na criao dos semicondutores e do chamado efeito transistor.
89
Traduo livre de: (...) there has been a vibrant electronics industry in the San Francisco Bay area since the
earliest days of experimentation and innovation in the fields of radio, television, and military economics. My aim
is to undermine the myth of instant industrialization that has been so central to the story of Silicon Valleys
development. What emerges instead is a portrait much more typical of economics and historical geography:
industrial development takes a long time to build up momentum, is profoundly structured by place and historical
context () (Sturgeon, 2000, p. 16).
77

integrados com a indstria local, economia liberal e interveno do governo. Mais


interessante nesse sentido, o estudo de Sturgeon (2000) demonstra que no meramente a
busca de um incio que o leva s pesquisas de rdio para a marinha que aconteceram na regio
muito antes dos semicondutores, mas o fato de que esse momento histrico anterior ajuda a
forjar muitas dessas caractersticas que fogem histria dos objetos tecnolgicos.

as caractersticas das primeiras empresas de eletrnica da rea da baa se aproximam


muito da estrutura de organizao industrial largamente enfatizadas no Vale do Silcio
de hoje, ainda que em uma escala menor. Um papel de liderana para o capital de
risco; um relacionamento prximo entre a indstria local e as grandes universidades
de pesquisa da rea; uma variedade de produtos, com foco em componentes
eletrnicos, equipamento produtivo, comunicaes avanadas, instrumentao, e
eletrnica militar (...) todas essas caractersticas bem conhecidas do Vale do Silcio
estavam em evidncia de 1910 na passagem para 1940, bem como nos anos 1960 e
em diante (Sturgeon, 2000, p. 16-17)90.

O artigo de Sturgeon (2000) vai concluir, por fim, que absolutamente equivocado
acreditar que outro lugar possa repetir o efeito de industrializao e crescimento econmico
imediato usando o Vale do Silcio de exemplo. A histria do Vale do Silcio e a construo
das caractersticas que hoje o definem no tm pouco mais de 50 anos - e no foi resultado de
duas dcadas de desenvolvimento exponencial - mas pelo menos 120 anos (Willian, 2013;
Strugeon, 2000).
Esses dois mitos esto intimamente ligados com o Singularismo. Isso se d porque o
Singularismo se apoia nos mitos do Vale do Silcio e de seus gnios

(...) foi no Vale do Silcio que o circuito integrado, o microprocessador e


microcomputador, entre outras tecnologias importantes foram desenvolvidas (...)
tambm participou do incio da engenharia gentica e , na virada do sculo, um dos
principais centros mundiais de software avanado, projetos e desenvolvimento da
internet, engenharia gentica e projetos de processamento de dados em multimdia. O
Vale do Silcio (...) foi transformado em meio de inovao pela convergncia de
vrios fatores, atuando no mesmo local: novos conhecimentos tecnolgicos; um
grande grupo de engenheiros e cientistas talentosos das principais universidades da
rea; fundos generosos vindos de um mercado garantido e do Departamento de
Defesa; a formao de uma rede eficiente de empresas de capital de risco; e, nos
primeiros estgios, liderana institucional da Universidade de Stanford (Castells, data,
p. 99-100).

90
Traduo livre de: (...) the characteristics of early Bay Area electronics companies closely match the structure
of industrial organization so widely hailed in Silicon Valley today, albeit on a much smaller scale. A leading role
for local venture capital; a close relationship between local industry and major research universities of the area; a
product mix with a focus on electronic components, production equipment, advanced communications,
instrumentation, and military electronics () all of these well-known characteristics of Silicon Valley were as
much in evidence from 1910 through 1940 as they have been from the 1960s onward (Sturgeon, 2000, p. 16-17).
78

O Vale fornece a vendedores de uma ideologia, caso dos singularitarians, uma histria
onde desenvolvimento tcnico se torna comprovao de um particular uso da lei de Moore. Os
promotores do Singularismo esperam que a percepo pblica olhe para o Vale e para seus
gnios bem-sucedidos como uma espcie de garantia de que a Singularidade pode fazer o
mesmo pelo resto do mundo. Se o desenvolvimento da lei de Moore fez com que o Vale do
Silcio se tornasse um polo global de economia e poltica, esse efeito poder ser multiplicado
com a acelerao da evoluo tecnolgica e da inteligncia artificial. Gostam do que
aconteceu por aqui? Pois repetiremos tudo isso em outros lugares, contando com aumento
exponencial.
No por acaso, ento, que boa parte das instituies chave do Singularismo estejam
localizadas no corao do Vale do Silcio. Nesse captulo pretendo explorar trs expoentes
singularitarians, e a respectiva instituio siliciana qual esto associados. Mais do que
demonstrar na prtica um desenvolvimento da ideologia num espao geogrfico especfico,
pretendo sugerir que o Singularismo se organiza como rede num formato bastante especfico,
que ressoa outras estratgias silicianas no necessariamente vinculadas diretamente com a
ideologia. Do modo como vejo, o Singularismo o representante de um modelo hbrido da
mquina vertical e da rede horizontal. Por um lado uma rede de inspirao p2p, que refora a
centralidade do indivduo na narrativa e se apoia na popularidade da ideia de
compartilhamentoe da suposta horizontalidade que essa ideia evoca. Por outro uma estrutura
que concentra muito poder em torno de atores chave do Vale do Silcio e que tende a se tornar
ainda mais desigual com o passar do tempo e com a popularizao da ideologia. Antes de
chegar a essa questo em si, me volto discusso das relaes entre trs lderes
singularitarians e as instituies associadas a eles, a saber: i. Aubey deGrey e a SENS
Research Foundation; ii. Eliezer Yudkowsky e o MIRI; iii. Ray Kurzweil e Singularity
University. Essas no so as nicas instituies associadas ao Singularismo, to pouco so
esses seus nicos trs lderes ou as nicas figuras importantes ligadas a essas instituies. As
trs instituies e os trs lderes associados a ela tm, contudo, um papel importante em
particular. As trs duplas representam redes de promoo das ideias singularistas para o resto
do mundo desde o Vale do Silcio. Alm dessa questo central, esse captulo abordar trs
grandes temticas relacionveis que ajudam a aprofundar na diversidade de ideias que
compem o Singularismo. Associadas a cada uma das duplas, essas grandes ideias so: i. A
guerra ao envelhecimento; ii. Inteligncia artificial amigvel e; iii. A fuso kurzweiliana.
79

4.2. Aubrey deGrey e a SENS Foundation

Aubrey de Grey91 se apresenta como


Biomdico Gerontlogo, ttulo que se refere ao
seu Ph.D. cursado na University of
Cambrigde92. A princpio parece um caminho
bastante distinto para algum visto dentro do
Singularismo. Se nos escritos de vrios dos
singularitarians vemos um foco nas
possibilidades computacionais, nfases na
inteligncia artficial e no aumento veloz das
tecnologias da informao, por meio de deGrey podemos enxergar uma outra face do
Singularismo, que carrega consigo outros aspectos do transhumanismo. A formao original
do autor foi na Cincia da Computao e antes de mudar sua rea de pesquisa para a
biomedicina deGrey chegou a pesquisar sobre inteligncia artificial. Ou seja, embora sua
formao original seja bastante coerente com a maioria daqueles que se identificam como
singularitarians, sua carreira como pesquisador o levou para outra direo, mas uma direo
que, ainda que menos bvia, de grande importncia para o Singularismo.

Aubrey deGrey um pesquisador dedicado ao estudo da chamada medicina


regenerativa e de estratgias de combate ao envelhecimento. Seu objetivo enquanto
pesquisador promover e desenvolver uma biomedicina capaz de curar o envelhecimento
(deGrey, 2007). Mas o envelhecimento curvel? Do modo como deGrey e vrios outros
pesquisadores da SENS Research Foudation pensam, sim, pois para esses pesquisadores o
envelhecimento uma doena, e uma doena tratvel. Os grandes avanos nessa rea do
conhecimento poderiam estabelecer a Methuselarity: o momento em que a velocidade de
cura das clulas ser maior que seu envelhecimento, e, por consequncia, o homem deixar de
envelhecer, no apenas prolongando sua vida, mas permanecendo jovem.

91
Imagem retirada do perfil oficial do autor no twitter, disponvel em < https://twitter.com/aubreydegrey >.
92 No link a seguir temos acesso ao CV divulgado pelo prprio autor: <
http://www.sens.org/about/leadership/executive-team > ltimo acesso: 18/01/2017
80

a) Methuselarity e Singularidade

Em artigo publicado em 2008 Aubrey deGrey se dedica a diferenciar a Methuselarity


da Singularidade. Os dois conceitos tm, segundo o autor, uma semelhana apenas superficial.
Um olhar cuidadoso, contudo, mostrar que se os conceitos no so apenas superficialmente
parecidos, e estabelecem relao que torna a aproximao entre eles quase inevitvel. Como
vimos no segundo captulo, existem diferentes abordagens sobre o que seja a Singularidade
que por vezes so at auto-excludentes. Apesar do autor trabalhar com um conceito diverso,
poderemos, talvez, enxergar a Methuselarity como um tipo de singularidade.
Antes de entrar nessa questo, contudo, uma pergunta emerge. O que torna um autor
parte do Singularismo? At aqui citei autores que frequentemente se colocam como
singularitarians. Kurzweil e Yudkowsky fazem isso explicitamente em vrios textos e
entrevistas. No o caso de deGrey. Embora se dedique a comentar a Singularidade em
inmeras entrevistas e textos prprios, e tenha participado de Singularity Summits e outros
eventos relacionados Singularidade, o biomdico no se coloca como singularitarian.
Defendo, contudo, que o autor parte indissocivel do Singularismo enquanto ideologia.
Trabalho, ento, com ideias e conexes para a descrio de uma ideologia e no
necessariamente com uma identidade. Afinal, so vrias as identidades que permeiam uma
ideologia. Para deGrey h um problema no corpo, mas no o fato de ele ser biolgico, e sim
a doena que acomete 100% dos seres vivos: o envelhecimento. Dependendo da forma como
encararmos a Singularidade, ela se comunicar de diferentes formas com a Methuselarity. Se
a maioria dos pesquisadores singularitarians voltam suas pesquisas para o melhoramento
tecnolgico que deixar o humano obsoleto, o biomdico vai na contramo e foca suas
pesquisas no melhoramento biolgico93. A dimenso do ps-humano continua comum, e o
marco da Methuselarity se aproxima em vrios pontos da Singularidade. O prprio autor diz
que a Methuselarity uma contrapartida biomdica da Singularidade (deGrey, 2008). O que
torna deGrey parte do Singularismo, no fim, o mesmo que aglutina os autores das diferentes
escolas da Singularidade defendidas por Yudkowsky. Ainda que com conceitos diferentes e
abordagens distintas, deGrey compartilha com os singularitarians a meta global de superar a
morte e a obsolescncia do corpo biolgico a partir de uma cincia e tecnologia evolutivas e
transformadoras. Alm disso, enquanto pesquisador, o biomdico tambm usa dos

93 O melhoramento biolgico que prope deGrey no diz respeito a transcender as fronteiras do orgnico e do
maqunico. Enquanto biomdico deGrey est propondo tecnologias mdicas de bioengenharia, distante da
proposta do uso de nanobots feita por Kurzweil, por exemplo.
81

imaginrios descritos no captulo 3 como forma de organizar a produo de verdade de seus


escritos. Um futurismo poltico que disputa poder em diferentes esferas.
Colocado esse esclarecimento, poderemos nos voltar comparao entre
Singularidade e Methuselarity feita pelo autor.

Eu sigo a seguinte definio: um crescimento assintticamente rpido na sofisticao


das tecnologias das quais o comportamento humano depende. Eu no uso a palavra
para dizer, por exemplo, a criao tecnolgica de inteligncia-mais-que-humana
(...) apesar da minha concordncia com a viso que a tecnologia mais provvel de
trazer uma singularidade (...) a inteligncia artificial capaz de auto-melhoramento
(...). Permaneo com a definio mais abstrata, em parte porque parece ela parece a
mim encapsular o principal ponto pelo qual a singularidade de fato unicamente
nica, e parte porque me ajudar a frisar o que distingue a singularidade da
Methuselarity94 (deGrey, 2008, sem pgina).

A definio de deGrey da Singularidade diferente das j abordadas at aqui de modo


importante, porque nega tanto o marco da inteligncia-artificial-mais-capaz-que-a-humana
como a viso central da escola Intelligence Explosion. Em entrevista concedida H+
Magazine, o autor diz que est de acordo com a inevitabilidade da mudana acelerada de
Kurzweil, que prope que a singularidade no passvel de compreenso numa viso de
mudana linear 95. Porm, tal como Yudkowsky, deGrey recusa que essa mudana acelerada
acontea necessariamente de modo exponencial. No entanto, diferente de Yudkowsky, deGrey
est falando de um crescimento assinttico96 da sofisticao da inteligncia, o que tambm
nega a hiptese da exploso de inteligncia. Na mesma entrevista citada acima, o biomdico
associa a Singularidade event horizon de Vernor Vinge possibilidade de existncia de
inteligncias artificiais capazes de auto-reproduo e se mostra ctico com as chances de algo
assim ser matematicamente possvel. Se preservarmos, contudo, a metfora qual o horizonte
de eventos se refere, isto , o ponto de no retorno da luz nos buracos negros, talvez essa seja
uma caracterstica aplicvel a Singularidade de deGrey, uma vez que o autor descreve um

94
Traduo livre de: I adhere to the following definition: an asymptotically rapid increase in the sophistication
of technology on whose behaviour humans depend. I do not use the word to mean, for example, the
technological creation of smarter-than-human intelligence () despite my agreement with the view that the
technology most likely to bring about the singularity (...) [is] recursively self-improving artificial intelligence
(). I am sticking to the more abstract definition partly because it seems to me to encapsulate the main point of
why the singularity is indeed uniquely unique, and partly because it will help me to highlight what distinguishes
the singularity from the Methuselarity (deGrey, 2008, sem pgina).
95 Entrevista concedida a Anissimov em 2009, disponvel em: < http://hplusmagazine.com/2009/09/28/aubrey-
de-grey-singularity-and-methuselarity/ > ltimo acesso em 18/01/2017.
96 O crescimento assinttico se refere a crescimentos que tm um limite. Diferente do exponencial que cresce
indefinidamente, o crescimento assinttico aquele que desacelera, apesar de crescer. A cargo de exemplo, se
em uma srie somado a n sempre sua metade (n + n/2 + n/4 + n/8 + n/16 ...) temos uma sequncia que sempre
vai crescer mas que nunca ultrapassar 2n, e em determinado momento ter crescimento quase desprezvel.
82

crescimento assinttico e, portanto, dotado de limite. Afinal, deGrey vislumbra um evento


singular, um marco de transformao extrema na vida humana. de nossa perspectiva, s
haver uma singularidade97 (deGrey, 2008, sem pgina).
A Methuselarity um conceito diferente para deGrey. O nome um neologismo usado
pelo autor como variao de Methuselah (o personagem bblico Matusalm em portugus),
que teria vivido por mais de 900 anos. Livro de divulgao cientfica assinado por deGrey,
Ending Aging promete desde a capa que o primeiro homem a chegar aos 1000 anos j
estaria vivo. Matusalm foi, segundo a histria bblica, um homem que teve a vida
interrompida somente pelo desastre do grande dilvio, e justamente essa caraterstica da
imortalidade que s pode ser interrompida por desastre que deGrey busca no personagem. Nas
palavras do autor: o ponto no nosso progresso antienvelhecimento no qual nossa
expectativa racional da idade com a qual podemos esperar viver sem declnio cognitivo e
fisiolgico relacionados idade vai de to somente trs dgitos ao infinito 98 (deGrey, 2008,
sem pgina). A Methuselarity diz, portanto, no apenas da longevidade, mas do que deGrey
chama de QALY, Quality-adjust life year, isto , anos de vida saudvel e jovem. por essa
razo que o autor acredita estar fazendo um trabalho de vanguarda na biomedicina, questo a
qual volto adiante. Posso dizer desde j que deGrey se prope a fazer o que chama de
medicina regenerativa em detrimento da atual que ele considera paliativa. A Methuselarity
seria alcanada quando a chamada LEV (longevity escape velocity) for zero ou prxima de
zero. Este seria o momento em que a capacidade de rejuvenescimento e regenerao do
envelhecimento mais veloz que o dano causado pelo envelhecimento. Isto , no momento
em que no haveria mais envelhecimento e a longevidade jovem seria alcanada.
Methuselarity e Singularidade so diferentes para o autor por vrias razes. A primeira
delas que, de acordo com ele, a acelerao da mudana tem impactos diferentes sobre cada
um desses conceitos (deGrey, 2008). Diferente da inteligncia artificial que tende a acelerar
uma vez que se torna auto-reprodutiva, uma vez que a LEV se aproxime de zero a tendncia
do progresso de desacelerao. De fato esta uma diferena importante, principalmente
porque marca onde deGrey e os outros singularitarians so mais diferentes entre si. Enquanto
Kurzweil coloca a fuso de orgnico e maqunico como condio para alcanar a
imortalidade, deGrey refora a separao do humano e maqunico ao propor que a

97
Traduo livre de: () from our perspective, there will only be one singularity (deGrey, 2008, sem pgina).
98
Traduo livre de It is the point in our progress against aging at which our rational expectation of the age to
which we can expect to live without age-related physiological and cognitive decline goes from the low three
digits to infinite (deGrey, 2008, sem pgina).
83

imortalidade seria alcanada mesmo sem uma Singularidade. Tratando o envelhecimento


como doena e as tecnologias regenerativas como remdio 99, deGrey soluciona o problema da
obsolescncia do corpo orgnico sem abrir mo dele. Contudo, ainda que sejam outras
tecnologias, h em comum entre deGrey e Kurzweil o papel transformador e emancipador das
tecnologias100.
A segunda diferena importante que demarca o autor que a Methuselarity teria um
papel muito mais importante na condio humana que a Singularidade. Isso se d porque a
Singularidade no garantiria o rejuvenescimento. Tratando o corpo como um tipo de hardware
orgnico, o autor indicar que todo hardware tem limitaes materiais. A Singularidade
sozinha no ser capaz de garantir que a vida seja expandida com QALYs.

Para resumir meu ponto de vista, ento: a singularidade nos levar de um ponto de
considervel poder de computao que est em sua maioria escondido de nossa
ateno, para um poder de computao astronmico que est um pouco mais
escondido. A Methuselarity, por contraste, nos levar de um ponto de um ponto de
considervel proeza mdica que beneficia apenas modestamente nossa expectativa
razovel de vida, para outro de proezas mdicas ligeiramente maiores, que nos
permitiro a confiana de podermos viver indefinidamente101 (deGrey, 2008, sem
pgina).

Ainda que estabelecidas as diferenas conceituais entre os dois termos, deGrey


contar, ao fim do seu artigo, com a possibilidade de ambos serem combinados. Combinadas,
Singularidade e Methuselarity multiplicaro as chances de uma vida longa e jovem. No fim,
ainda que deGrey no se coloque explicitamente como singularitarian ou no acredite na
Singularidade com o vigor de Kurzweil, poderemos dizer que o autor conhece bem os estudos
sobre Singularidade e certamente enxerga sua possvel chegada com bons olhos. Ou seja,
ainda que no seja uma identidade auto-atribuda, talvez poderemos sim tratar deGrey como
singularitarian, mesmo que as diferenas, se comparado com outros lderes do Singularismo,
sejam importantes.

99 Uso a palavra remdio aqui de forma bastante livre, para colocar a clssica relao entre doena e cura.
Talvez Aubrey deGrey associasse remdio geriatria que ele considera paliativa.
100 Em um outro momento talvez fosse o caso de recuperar as contradies entre as diferentes coisas s quais
deGrey se refere como tecnologia. Ora a tecnologia so os artefatos no-humanos associados Singularidade
em oposio ao corpo biolgico, como a inteligncia artifical ou os robs, ora a tecnologia se funde com a
cincia e descreve as tcnicas de bioengenharia, por exemplo. Seja associada s prticas cientficas ou aos
artefatos no-orgnicos a viso de uma tecnologia emancipadora permanece. E esta caracterstica que importa
aqui.
101
Traduo livre de: To summarise my view, then: the singularity will take us from a point of considerable
computing power that is mostly hidden from our concern to one of astronomical computing power that is just
slightly more hidden. The Methuselarity, by contrast, will take us from a point of considerable medical prowess
that only modestly benefits how long we can reasonably expect to live, to one of just slightly greater medical
prowess that allows us confidence that we can live indefinitely (deGrey, 2008, sem pgina).
84

b) SENS: exequibilidade e desejabilidade

Era uma vez, envelhecer era um fenmeno verdadeiramente misterioso, mas esse
tempo passou. Podemos agora raciocinar sobre o envelhecimento do corpo humano
no mesmo jeito, e com a mesma confiana, com que raciocinamos sobre o
envelhecimento de declnio de mquinas simples102 (deGrey, 2007, p. 30).

Em deGrey (2007) o autor explica que a geriatria e a medicina de modo geral tendem
a tratar o envelhecimento como consequncia do progresso da vida, de modo que a medicina
ofereceria apenas tratamentos paliativos para a condio da velhice. Diz ainda que
fundamental tomar a questo por outro vis, capaz de oferecer uma preveno ao
envelhecimento e no tratamento para suas consequncias. Seus estudos enquanto biomdico
gerontlogo pretendem subverter essa viso e tratar ao envelhecimento per se, em detrimento
das doenas causadas por ela, como fazem os geriatras. A gerontologia no escapa das crticas
de deGrey, contudo. Para o autor, a gerontologia tem se dedicado a tentar compreender o
metabolismo e suas infinitas questes, quando o necessrio seria olhar apenas ao dano
causado pelo envelhecimento. Enquanto muitos de meus colegas viam a biogerontologia
como um fenmeno para se estudar com objetivo de compreend-la, eu via o envelhecimento
como a crise humanitria que ele , os sinos fnebres de dezenas de milhares de mortos todos
os dias tocando em meus ouvidos103 (deGrey, 2007, p. 36). H uma alternativa que cruza a
gerontologia e a geriatria e lida diretamente com o dano.

Abandonando minha primeira carreira na pesquisa de inteligncia artificial, eu


comprometi minha vida no apenas em aliviar a morbidade e mortalidade de doenas
relacionadas idade, mas a colocar um fim no show de horror inteiro. Eu me dediquei
s engenharia da senescncia desprezvel, assim que eu determinei o objetivo na
minha tese de Ph.D. ao fim do envelhecimento104. (deGrey, 2007, p. 36).

Segundo deGrey (2007), seu livro Ending Aging tem por objetivo principal
apresentar a um pblico leigo as SENS (Strategies for Engineered Negligible Senescence),
que podem ser traduzidas como Estratgias para a Senescncia Neglgivel Engenheirada. O
autor tenta com a obra fazer uma distino que ele considera fundamental. Na primeira de trs

102
Traduo livre de Once upon a time, aging was a truly mysterious phenomenon, but that time has passed.
We can now reason about the aging of the human body in just the same way, and with just the same confidence,
as we can reason about the aging and decay of simple machines (deGrey, 2007, p. 30).
103
Traduo livre de "While many of my colleagues viewed biogerontology as a phenomenon to study for the
sake of understanding it, I saw aging for the humanitarian crisis that it is, the toll of tens of thousands of dead
every day ringing in my ears (deGrey, 2007, p. 36).
104
Traduo livre de: Abandoning my first career in artificial intelligence research, I had committed my life not
just to alleviating the worst of the morbidity and mortality of age-related disease, but to putting an end to the
entire horror show. I'd dedicated myself to the "engineering of negligible senescence," as I had first termed the
goal in my Ph.D. thesisto the end of aging (deGrey, 2007, p. 36).
85

partes do livro ele tenta discutir e demonstrar (com sucesso autoproclamado) que acabar com
o envelhecimento desejvel, apesar das crticas. Na segunda, ele descreve cada uma das sete
partes das SENS no intuito de comprovar aos leitores que seus objetivos so cientificamente
exequveis 105. A terceira e ltima, por fim, trata o leitor como j convencido que as SENS so
desejveis e exequveis e promove uma reflexo sobre financiamento da cincia que refora
algumas das caractersticas do Vale do Silcio em especial a crtica ao Estado e a busca por
financiamento pblico de pesquisa. A distino entre as SENS serem desejveis e exequveis
para o autor fundamental porque segundo ele o ceticismo com relao a seus projetos
cientficos diz muito mais respeito a uma opinio previamente desfavorvel e errada sobre o
envelhecimento que sobre sua viabilidade cientfica. Na entrevista concedida revista H+ j
citada anteriormente, deGrey chega a afirmar que suas metas trabalham com o crescimento
no linear como no Singularismo, mas os objetivos para atingir a Methuselarity so muito
menos especulativos que muitos daqueles usados para justificar a Singularidade.

(deGrey, 2007, p. 42)

Como mostra o grfico da imagem retirada de deGrey (2007), o projeto do autor usar
a bioengenharia para acabar com o dano causado pelo envelhecimento e, consequentemente,
com o envelhecimento per se. Em termos mais diretos podemos dizer sem grandes problemas
que o grande objetivo de deGrey e seus colegas da SENS Research Foundation , de fato,
alcanar uma espcie de imortalidade na qual todos os humanos permanecem jovens.

Eu espero que voc deixe o livro com um bom entendimento de que a derrota genuna
do envelhecimento uma meta exequvel. Se essa tambm uma meta desejvel
uma questo que voc ento poder considerar mais seriamente at mesmo, arrisco
dizer, mais responsvel e conscientemente do que voc poderia se ainda pensasse
que era fico cientfica106 (deGrey, 2007, p. 15).

105 Os termos usados pelo autor em ingls so desirable e feasible.


106
Traduo livre de: I hope you'll come away with a pretty good understanding that the genuine defeat of
aging is a feasible goal. Whether it's also a desirable goal is a question that you'll then be able to consider more
seriouslyeven, dare I say it, more responsibly and conscientiouslythan you could if you still thought it was
science fiction (deGrey, 2007, p. 15).
86

A separao to importante ao autor soa como uma estratgia de rechaar os


questionamentos ticos feitos s pesquisas que deseja realizar. Afinal, ainda que sejam
exequveis o que por si s algo polmico e que tem sido passvel de questionamentos na
comunidade cientfica no necessariamente as SENS e seus resultados so desejveis.
Emancipado por um racionalismo moderno, deGrey est convencido que, por uma lgica
impecavelmente racional, ele poder determinar que sua pesquisa de interesse pblico e
global. Em seu artigo Aging Is No Longer a First-World Problem de 2015, o autor vai
defender, por exemplo, que uma questo de tempo para que as necessidades de sade de
todos os pases do mundo sejam as mesmas. Ele chega a essa concluso ao considerar que
quando o envelhecimento tomado da forma correta, isto , como envelhecimento per se
(aging itself), responsvel por 2/3 de todas as mortes do mundo. Isso se d porque o
envelhecimento per se unificaria todas as doenas causadas pelo envelhecimento. Na sua
empreitada em busca de financiamentos e comprovao da objetividade de seus estudos,
deGrey acaba empreendendo anlises de polticas pblicas e crticas sociais que seriam
facilmente rechaadas se analisadas individualmente com o devido cuidado. A ideia de que
em breve todos os pases tero as mesmas necessidades de sade apenas uma delas. No
meu objetivo aqui, contudo, verificar esses problemas, mas sim mostrar ao leitor uma
abordagem distinta que ajude a tomar Singularismo em sua complexidade.

c) SENS Research Foundation

A SENS Research Foundation (SRF) , tal como a maioria das instituies


relacionadas ao Singularismo, uma organizao no-governamental sem fins lucrativos, com
aplicao tributria diferenciada e a premissa de ser uma instituio de interesse pblico. Mais
especficamente classificada como 501(c)(3)107, um tipo de designao para regulao
tributria nos Estados Unidos voltada para ONGs, que ficam isentas de alguns impostos
federais e, algumas vezes, tambm estaduais 108. Surgiu como a externalizao do projeto
SENS na Methuselah Foundation (MF), por iniciativa do futurista David Gobel 109, atual CEO

107 http://www.sens.org/about
108 https://en.wikipedia.org/wiki/501(c)_organization
109 Gobel um futurista que, tal como deGrey, faz parte do chamando life-extention movement. o autor de
conceitos chave nos estudos contra o envelhecimento, como o de LEV (Logenvity Escape Velocity) amplamente
difundido por Aubey deGrey em seus textos e entrevistas.
87

da MF, e Aubey deGrey. Existe desde 2009 e possui aspiraes bastante mais ambiciosas que
a instituio que lhe deu origem. Aubey deGrey , alm de fundador, ocupante do cargo de
CSO (Chief Science Officer). Muito embora a organizao possua dezenas de pesquisadores
de vrias reas, alm de diretores e administradores, no difcil de associ-la deGrey. Isso
se d tanto por ser deGrey um dos cientistas criadores do mtodo SENS que d nome a
instituio como, e principalmente, por ser a figura pblica de maior exposio nas diferentes
mdias, divulgando seus princpios e pedindo doaes. Tal como Kurzweil, deGrey uma
espcie de liderana carismtica. Em entrevista concedida Life Extension Magazine, deGrey
revela que doou SRF 13 dos 16 milhes que recebeu de herana aps a morte de sua me e
comentou:

Foi uma deciso fcil para mim: Eu dediquei minha vida a essa misso, e eu dediquei
meu tempo a ela, ento porque no meu dinheiro tambm? Eu mantive o suficiente
para comprar uma boa casa, mas alm disso eu tento gostos de custo baixo e no
tenho dvidas que esse o melhor uso do meu dinheiro 110 111.

Localizada em Mountain View, no Vale do Silcio, a SRF uma das instituies para
as quais devemos olhar levando em conta um Vale do Silcio historicizado. No se pode supor
que sua localizao no tenha sido escolhida com cuidado. Apenas alguns quilmetros
distante da Singularity University, a SRF compartilha com sua universidade vizinha 112 das
vrias vantagens geopolticas de estar no Vale do Silcio.

110 Entrevista completa disponvel em: < http://www.lifeextension.com/magazine/2013/7/Interview-with-


Aubrey-de-Grey-PhD/Page-01 > ltimo acesso em 18/01/2017.
111
Traduo livre de: It was pretty much a no-brainer for me: Ive dedicated my life to this mission, and I
dedicate all my time to it, so why not my money too? I retained enough to buy a nice house, but beyond that I
have inexpensive tastes and I have no doubt that this is the best use of my wealth.
112 Mapas produzidos por mim no Google maps, fotografados e reproduzidos aqui.
88

Observando a caracterizao que a SRF faz de si mesma em seu site, perceberemos


que h uma proximidade importante das metas e objetivos da instituio com aquelas
descritas por seu fundador Aubey deGrey em seu livro Ending Aging. A descrio que
consta no site SRF diz que: Nossa pesquisa enfatiza a aplicao de medicina regenerativa a
89

doenas causadas pela idade, com a inteno de reparar danos nas clulas, tecidos e molculas
do corpo. Nossa meta ajudar a construir a indstria que ir curar as doenas do
envelhecimento 113 114
. H na instituio um grupo de cientistas responsveis por revisar os
princpios ticos, objetivos de pesquisa e por distribuir os recursos recolhidos, chamado de
Research Advisory Board. No site da instituio est disponibilizado um documento que
apresenta explicitamente os princpios que devem guiar todas as pesquisas realizadas por
intermdio e/ou recursos da SRF. De modo resumido, a Carta de Princpios 115 passa pela
mesma argumentao que o livro de deGrey (2007). O primeiro pargrafo introduz a ideia de
que o envelhecimento-per-se uma doena e a mais importante de todas elas, responsvel
pelos danos que tornam o corpo suscetvel a inmeras outras doenas. O segundo pargrafo
sugere a medicina regenerativa como soluo para o envelhecimento e indica ser uma rea de
pesquisa que ainda sofre com o baixo oramento. O terceiro pargrafo afirma que h poucas
instituies trabalhando com o combate ao envelhecimento, e a SRF vem suprir essa carncia.
Por essa razo, o documento estabelece que os princpios que regem as decises sobre quais
pesquisas apoiar no SRF so trs: i. Ser demonstravelmente relevante no desenvolvimento de
medicina regenerativa focada no envelhecimento; ii. Apresentar dificuldade em conseguir
financiamento de outras fontes; iii. Outras fontes de investimento no futuro prximo parece
improvvel.
Por fim, o documento promete o aumento da longevidade jovem por muito anos, ou
at dcadas, para incontveis milhes de pessoas. E concluir ainda que essas milhes de
pessoas jovens e saudveis por mais tempo tero um impacto significativo na economia pelo
crescimento da produtividade. Observadas as limitaes da comparao de um documento de
5 pargrafos e 3 itens com um livro que quase chega s 400 pginas, quase poderemos tomar
o documento assinado por todos os membros da Research Advisory Board como uma espcie
de sinopse do livro de deGrey que foi publicado antes da criao da SRF.
A SRF utiliza seus recursos em vrios programas e atividades, dentro e fora de seus
muros. A instituio responsvel pela realizao das Conferncias SENS na Universidade de
Cambridge, a anual Rejuvenation Biotechnology Conference e muitas outras atividades
acadmicas e de divulgao de sua agenda anti-envelhecimento. Merecem destaque os

113 < http://www.sens.org/about/about-the-foundation > - ltimo acesso em 18/01/2017.


114
Traduao livre de: Our research emphasizes the application of regenerative medicine to age-related disease,
with the intent of repairing underlying damage to the body's tissues, cells, and molecules. Our goal is to help
build the industry that will cure the diseases of aging.
115 Disponvel na ntegra em: < http://www.sens.org/about/leadership/research-advisory-board > ltimo acesso:
20/01/2017.
90

recursos utilizados para a manuteno da SRF Education. O site do programa diz que ele foi
criado para promover material educacional para ajudar o pblico a entender a pesquisa em
medicina regenerativa e preparar estudantes para uma carreira futura nesse campo 116117. O
programa financia pesquisas e estgios para alunos de vrios pases do mundo e com vrios
nveis de formao desde o ensino mdio at diferentes graus de nvel superior. A SRF
Education produz contedo gratuito impresso e em vdeos disponveis online, com o objetivo
de informar o maior nmero de interessados possvel sobre as atividades e pesquisas da
instituio, alm de divulgar sua agenda poltica. Destaca-se contudo o Summer Scholars
Program. Atravs de aplicao no site da SRF Education, interessados podem se inscrever
para estgios e pesquisas fornecidos a cada vero em grandes universidades como a
Universidade de Cambrige e a Universidade da Califrnia, alm de institutos de pesquisa
independentes. A instituio tem um rol de atividades diversificado e financia tanto pesquisas
prprias como pesquisas anti-envelhecimento fora de seus muros em geral nos Estados
Unidos e Reino Unido.
Outro programa que vale mencionar o Projeto 21. Lanado em 2016, o objetivo do
programa conseguir 50 milhes de dlares para investimento em pesquisas que permitam,
ao fim do projeto, comear testes clnicos em humanos inspirados na metodologia SENS 118.
Na j citada entrevista concedida Life Extention Magazine, em 2013, deGrey diz que o
oramento anual do SRF aumentou de 2 para 4 milhes de dlares com a aplicao de sua
doao119. Levando esse dado em conta, poderemos concluir que o projeto 21 um esforo
sem precedentes, porque pretende elevar de modo muito importante os fundos da instituio
e voltado para um projeto especfico. O projeto est aberto para doaes e segue um formato
de financiamento coletivo, informando em seu site a porcentagem da meta de 50 milhes j
alcanada (que no incio de 2017 tem a marca de 10%). Porm, o que torna o projeto de
grande impacto para alm de seu alto custo a promessa de testes clnicos com humanos em
2021, algo que no aconteceu at aqui.
Por fim, importante refletir sobre as razes que teriam levado a SRF ao Vale do
Silcio. A Methuselah Foundation, origem indireta da SRF sequer fica na Califrnia. A ideia
de um centro de pesquisa em tecnologia privado, fora da universidade e no estatal, mas que

116 < http://www.sens.org/education/about-srf-education/srf-education-faq > ltimo acesso em 18/01/2017.


117
Traduo livre de: to provide educational material to help the public understand regenerative medicine
research and prepare students for a future career in this field
118 < http://sensproject21.org > ltimo acesso em 18/01/2017.
119 < http://www.lifeextension.com/magazine/2013/7/Interview-with-Aubrey-de-Grey-PhD/Page-01 > ltimo
acesso em 18/01/2017.
91

ao mesmo tempo busca grande parte do financiamento no Estado e estreitar relaes com as
universidades, ressoa uma empresa de caractersticas siliciana como sugere Sturgeon
(2000). Um centro de pesquisas em tecnologia absolutamente integrado com o setor privado
a ponto de dizer em seu site querer criar uma indstria do combate ao envelhecimento e que,
embora pea insistentemente por doaes de pessoas fsicas e jurdicas, diz abertamente
buscar recursos governamentais carrega consigo algumas das contradies chave do
desenvolvimento tipicamente siliciano. Contudo, sua estrutura de rede que associa a SRF e a
liderana de deGrey ao Singularismo.
Em vdeo divulgado no canal do YouTube da SRF, o CEO Mike Kope fala sobre os
objetivos e plano de negcios da instituio que dirige. As imagens que seguem so
fotografias do vdeo120.

120 < https://www.youtube.com/watch?v=8LEcOqSgU-0 > ltimo acesso em 18/01/2017.


92

No vdeo, Kope diz que SRF uma facilitadora e usa em sua apresentao uma
imagem onde um aparente grupo de telefonistas serve de metfora para a ideia de rede. Ou
melhor, para um tipo especfico de rede. Pblico, filantropos, governo, indstria, academia e
inventores so ns isolados, ao passo que a SRF os transforma em rede, contudo, ficando ao
centro e controlando os fluxos de informao. A associao da noo de rede com a de
horizontalidade e de fim da hierarquizao no deve ser tomada de modo automtico. Redes
so malhas que podem ter vrios formatos. Tal como as plataformas de servios como o Uber,
uma rede criada em volta de uma facilitadora vende a horizontalidade e supsota igualdade
dos pares das tecnlogias p2p mas reestabelece hierarquias tpicas do modelo vertical. Modelo
vertical que a ideia de rede e a lgica p2p supostamente contrapem.

4.2. Eliezer Yudkowsky e a Machine Intelligence Research Institute

difcil escrever sobre Eliezer Yudkowsky121 por uma srie de razes. H na rede poucos
dados sobre sua biografia. Em seu site oficial temos acesso a maior parte de seus textos, mas
os dados biogrficos se restrigem a citar sua esposa e uma enigmtica nota que diz que ele no
deve ser tratado como Doutor pois no tem Ph.D.122. Confesso ter sido uma surpresa a
princpio. Yudkowsky foi um dos fundadores da Singularity Institute for Artificial
121
Foto retirada do site da MIRI (intelligence.org), disponvel em: <
https://pbs.twimg.com/profile_images/706642709511966721/4cRlD__0.jpg > ltimo acesso em 18/01/2017.
122 < http://yudkowsky.net > ltimo acesso em 18/01/2017.
93

Intelligence (SIAI), frequentemente tomada


apenas por Singularity Institute, instituio
que mudou de nome para Machine
Intelligence Research Institute (MIRI).
Apresentando-se como pesquisador
independente, ainda hoje apontado como o
principal pesquisador do MIRI no site oficial
da instituio. Sua minibiografia no site da
MIRI diz que as pesquisas do instituto foram
formatadas em grande medida por seus
escritos123. A pgina dedicada a ele no
Wikipdia tambm no apresenta muitas
informaes sobre sua formao. Foi apenas por fontes indiretas e fruns de discusso sobre
inteligncia artificial e racionalidade humana onde, diga-se de passagem, ele costuma ser
tratado com gnio 124 - que encontrei, aqui e ali, a informao de que Yudkowsky no tem
qualquer educao formal e foi homeschooled. O site JewAge, que se pretende uma espcie
de enciclopdia de pessoas que so ou foram parte do judasmo, diz na pgina sobre
Yudkowsky que ele autodidata e sequer frequentou o ensino mdio 125. Em entrevista
concedida ao podcast CPBD 088126, podemos ouvir o autor falar sobre partes de sua biografia,
como sua criao judaica e a profisso dos pais, e at mesmo como foguetes decolando o
emocionavam mais do que qualquer experincia com judasmo.

Bem, como eu costumava pensar, e a em algum eu estava assistindo o lanamento


de um foguete na TV com lgrimas nos olhos e percebendo que eu no tinha lgrimas
nos olhos para nada relacionado ao Judasmo. Foi quando eu percebi que minha

123 < https://intelligence.org/team/ > ltimo acesso em 18/01/2017.


124 O culto ao gnio em torno da figura de Yudkowsky to grande em determinado nichos, que h postagens
no Less Wrong, frum que ele mesmo criou, com o meme Yudkowsky facts, muito parecido com Chuck
Norris facts que fez sucesso na internet brasileira num passado no muito distante. Eliezer Yudkowsky made a
mistake once - but only so he could calibrate his confidence level. Um exemplo desse tipo de postagem est no
link de copilados que segue: < http://lesswrong.com/lw/4g/eliezer_yudkowsky_facts/ > ltimo acesso em
18/01/2017.

125 Disponvel em: < http://www.jewage.org/wiki/ru/Article:Eliezer_Yudkowsky_-_Biography > ltimo acesso


em 18/01/2017.
126 Podcast disponvel na ntegra e com transcrio em: < http://commonsenseatheism.com/?p=12147 > Para
acessar diretamente o podcast use o link: <
http://ia902607.us.archive.org/6/items/ConversationsFromThePaleBlueDotepisodes078AndOnward/088-
EliezerYudkowsky.mp3 > ltimo acesso em 18/01/2017.
94

religio de infncia, que eu meio que deixei de lado com o tempo, mas que ainda me
dava lgrimas aos olhos, no era o Judasmo, mas viagens espaciais.127.

Sua formao enquanto pesquisador continua fora de pauta, ainda que esse fosse passo
esperado de uma entrevista com um especialista. Como veremos mais tarde ao falar da
Singularity University, esse deslocamento da educao formal faz de Yudkowsky um
candidato perfeito a gnio self-made man, que no depende do Estado ou das universidades
para ser um incrvel pesquisador. E um gnio prodgio. Eliezer Yudkowsky tem 36 anos e
tinha apenas 20 quando co-fundou o Singularity Institute. Colocado lado a lado com outros
expoentes aqui citados como Kurzweil, que tem 68 anos, e Vinge, que tem 72, podemos ter
uma dimenso de como Yudkowsky jovem, ainda que seja um dos mais antigos expoentes
do Singularismo.
Outra face da dificuldade de pesquisar Eliezer Yudkowsky referente ao contedo que o
autor produz. De modo geral, ele produz textos de contedo denso e pouco acessvel para
aqueles que, como eu, tm pouca ou nenhuma familiaridade com o campo da inteligncia
artifcial. verdade que alguns dos textos mais simples e objetivos sobre o Singularismo so
de autoria de Yudkowsky, como o que descreve as escolas da Singularidade (Yudkowsky,
2007) e os princpios dos singularitarians (Yudkowsky, 2000A e 2000B), fruto de postagens
feitas por ele em seu blog pessoal. Contudo, diferente de deGrey e Kurzweil, no h um
grande livro de referncia voltado ao pblico leigo e a maioria de suas pesquisas so
publicadas no site do MIRI que no parece ter muita preocupao com a produo de
contedo para leigos. Considerado este ponto, se torna desnecessrio trabalhar no vnculo
entre Yudkowsky e o MIRI. Essa relao to estreita que mal se pode trat-los
separadamente, ao ponto de documentos assinados pelo instituto como o SIAI Guidelines on
AI128 serem referenciados como obra escrita do autor.
Observadas todas essas questes, meu trabalho inicial foi selecionar qual grande temtica
merecia ser explorada por ao mesmo tempo ser importante ao Singularismo enquanto
ideologia, mas tambm marcar a relao entre gnio e instituio-siliciana. Depois de algumas

127
Traduo livre de: Well thats what I used to think, and then at one point I was watching a space shuttle
launch on TV and getting tears in my eyes and realizing that I didnt really get tears in my eyes for anything
Judaism-related. That was when I realized that my childhood religion that Id sort of grown away from over
time, but still had the power to bring tears to my eyes, wasnt Judaism so much as space travel.
128 <
http://web.archive.org/web/20110722000449/http://singinst.org/ourresearch/publications/guidelines.html >
ltimo acesso em 18/01/2017.
95

primeiras leituras ficou claro que essa temtica deveria ser o Friendly AI 129, que pode ser
traduzido como uma Inteligncia Artificial Amigvel. A noo de Friendly AI um conceito
criado por Yudkowsky e designa um recorte no conceito geral de AI. Embora separar uma AI
amigvel de uma no amigvel seja relativamente simples, o recorte que faz o autor no
para suprir a metade de um binrio, porque trata-se de um conceito bastante mais especfico e
sobre ele que trato com cuidado a seguir. Antes de ir ao trabalho de Yudkowsky contudo,
peo ao leitor observar com ateno que trao um caminho nesse captulo. Aubey deGrey
concentra suas pesquisas no melhoramento biolgico, isto , na bioengenharia e na medicina
regenerativa. Yudkowsky, por outro lado, concentra seus estudos nas mquinas (ainda que
trate da inteligncia humana e maqunica em equiparao). O transhumanismo de Yudkowsky
, sem dvida, do tipo que enxerga corpo e inteligncia humana como limitados, e pelas
tecnologias duras das mquinas que essa questo ser resolvida.

a) Inteligncia, exploso de inteligncia e Seed-AI

No FAQ sobre exploso de inteligncia disponvel em seu site, a MIRI defende o


conceito utilizado por Shane Legg em sua tese de doutorado que diz Inteligncia mede a
habilidade de um agente de alcanar metas num amplo rol de ambientes 130 (Legg, 2008, p.6).
Essa definio cara ao MIRI porque trata a inteligncia de forma a englobar tanto sua forma
humana como a maqunica ao menos da forma como Yudkowsky v essas duas
inteligncias. Abordei antes nesse mesmo trabalho o que consistiria a exploso de
inteligncia. Yudkowsky, em seu texto sobre as escolas da Singularidade, atribui e ele mesmo
e a I. J. Good a escola Intelligence Explosion. De modo simples, podemos dizer que a
exploso da inteligncia se refere primeiramente capacidade de auto-melhoramento das AIs
e, em segundo lugar, da dinmica em que cada nova inteligncia superior criar uma
inteligncia ainda mais superior, indefinidamente. Yudkowsky compara esta dinmica
reao em cadeia da exploso atmica (Yudkowsky, 2007).
Se a inteligncia est associada capacidade de atingir metas em diferentes cenrios,
uma inteligncia artificial seria um agente fabricado com essa capacidade. Essa viso muito

129 Decidi manter o termo em ingls no apenas por ser o termo na lngua original das fontes. AI a abreviao
de Artificial Intelligence. Em portugus, Inteligncia Artificial ficaria IA. Contudo, nesse campo de pesquisa IA
costuma estar associado a outro conceito, o de Intelligence Amplification. Para evitar que esses dois conceitos se
confundam, decidi manter o termo no original em ingls.
130
Traduo livre de Intelligence measures an agents ability to achieve goals in a wide range of environments
(Legg, 2008, p.6).
96

ampla, contudo. Yudkowsky coloca uma srie de outras caractersticas necessrias para que
determinado agente possa ser considerado uma inteligncia artificial o que no inclui coisas
que vemos hoje, como a Siri da Apple e outros softwares que sejam tratados por esse nome.
As AIs para o autor envolvem, pelo menos e necessariamente, um sistema de metas (Goal
system) e a capacidade de auto-melhoramento de software e hardware. Ao menos no sentido
de uma AI ps-Singularidade, isto , greater-than-human. o que o autor chama de seed-
AI, que define como An AI designed for self-understanding, self-improvement, and
recursive self-improvement (Yudkowsky, 2001, p. 266). A perspectiva de uma AI mais
inteligente que os humanos, que marca a chegada da Singularidade, num cenrio de exploso
de inteligncia gera, claro, preocupaes importantes. a partir dessas preocupaes que vem
a ideia de Friendly AI (FAI daqui em diante), campo da pesquisa em AI associado a
Yudkowsky, quem criou o termo.

b) Friendly Artificial Intelligence (FAI)

A maioria das ideias aqui descritas sobre FAI so oriundas de um longo e nico
documento elaborado por Yudkowsky e publicado no site da MIRI. Esse documento o
chamado Creating Friendly Artificial Intelligence (CFAI) e se pretende uma compilao
dos vrios estudos realizados pelo MIRI sobre a questo. No por acaso, boa parte dos
documentos publicados no site do MIRI linkam o CFAI com uma nota para mais
informaes. H algo curioso que marca a primeira pgina do CFAI. Evangelista (2011) diz
que Kurzweil publica livros que se atualizam como se fossem novas verses de softwares. Se
essa relao est apenas sugerida no caso de Kurzweil, esse documento escrito por
Yudkowsky se prope explicitamente a ser visto desta forma. Logo na primeira pgina, o
autor diz que aquela a verso 1.0, e que verses 0.9 circularam antes na internet. O
documento tem a extenso de um livro e funciona muito mais como handbook das pesquisas
do MIRI sobre a FAI do que algo que poderamos tomar por divulgao cientfica. O material
composto por uma variedade de formatos e contm descries tericas, devaneios literrios,
FAQs, glossrios e estranhas entrevistas imaginrias onde Yudkowsky assume o papel de
entrevistador e entrevistado, com o primeiro sendo um opositor mal-informado e o ltimo, o
prprio autor. De toda forma, o CFAI o material que tenta conectar as diversas pesquisas do
MIRI, razo pelo qual ser minha referncia para falar de FAI aqui.
97

A ideia de uma FAI vem do reconhecimento dos potenciais riscos de uma


superinteligncia ps-singularidade. Yudkowsky (2001) diz que quanto maior o poder de uma
AI, maior tambm a necessidade que ela seja amigvel. O autor a define de modo mais
objetivo da seguinte forma:

O campo de estudo preocupado com a produo de sistemas de Inteligncia Artificial


benficos ao humano e que no ponha humanos em risco e que avanaram ao ponto
de formar planos do mundo-real em busca de metas. O termo Friedly AI foi
escolhido no para implicar uma soluo interna particular, como duplicar instintos de
amizade humanos, mas antes para abraar qualquer conjunto de comportamentos que
um humano consideraria amigvel. Nesse sentido, FAI pode ser usado como um
termo-guarda-chuva para mltiplas metodologias de design. Uma AI construda para
ser amigvel 131 (Yudkowsky, 2001, p. 247).

O conceito acima descrito refora a noo de inteligncia que descrevi antes, mas
continua vago com relao ao que seja amigvel, afinal, h de se concordar que o o que um
humano consideraria amigvel no nada especfico. Vrias vezes durante o texto o autor se
refere de forma sarcstica s AI dos filmes hollywoodianos, como a Skynet em Terminator, e
as acusa de ser inverossmeis e sem compromisso com o pensamento cientfico sobre AI.
Contudo, fica claro que os filmes hollywoodianos ocupam um papel considervel na narrativa
do autor, porque so uma figura que d concretude a um imaginrio do que seria uma AI no-
amigvel. Isto , indiretamente o autor usa as AI da fico cientfica para conceituar a FAI
atravs da negao. Se est obscuro como seria na prtica uma FAI, h pelo menos o exemplo
contrrio como referncia do que ela no ser. Essa dualidade faz com que o autor defina
amigabilidade, mais tarde, como

O conjunto de aes, comportamentos, e resultados que um humano veria como mais


benevolente do que malevolente; mais bom do que malicioso; mais amigvel do que
no-amigvel; mais do bem do que do mal. Umx AI que faz o que voc pede a elx132,
desde que isso no machuque algum, ou conquanto seja um pedido que afeta seu
prprio espao/ matria/ propriedade; umx AI que no causa dor involuntria, morte,
134
alterao ou violao do ambiente pessoal133 (Yudkowsky, 2001, p. 247) .

131
The field of study concerned with the production of human-benefiting, non-human-harming actions in
Artificial Intelligence systems that have advanced to the point of making real-world plans in pursuit of goals.
The term Friendly AI was chosen not to imply a particular internal solution, such as duplicating the human
friendship instincts, but rather to embrace any set of external behaviors that a human would call friendly. In
this sense, Friendly AI can be used as an umbrella term for multiple design methodologies. () An AI which
was designed to be Friendly (Yudkowsky, 2001, p. 247).
132
Tento traduzir com o x a marca da neutralidade de gnero e de pessoa que o autor atribui s AIs. Ver nota 42.
133
Traduo livre de: The set of actions, behaviors, and outcomes that a human would view as benevolent,
rather than malevolent; nice, rather than malicious; friendly, rather than unfriendly; good, rather than evil. An AI
that does what you ask ver to, as long as it doesnt hurt anyone else, or as long as its a request to alter your own
matter/space/property; an AI which doesnt cause involuntary pain, death, alteration, or violation of personal
environment.
98

Particularmente, considero que ainda seja um conceito bastante obscuro. Alm disso,
trata-se de um conceito que levanta algumas questes acerca da FAI que Yudkowsky pretende
construir quando, por exemplo, um dos princpios de amigabilidade parece ser a proteo da
propriedade privada. Parece-me inevitvel pensar na possibilidade de uma FAI atuando como
polcia. De toda forma, o autor reconhece que uma AI no-amigvel no s possvel como
provvel se ela no for programada para ser amigvel, e argumenta que quando se trata de
amigabilidade, nosso mtodo deve ser, no apenas resolver o problema, mas resolv-lo em
excesso135 (Yudkowsky, 2001, p. 8). Se a AI pode ser to perigosa, o que a torna to
indispensvel de ser criada? O risco vale a pena? Para o autor essa questo simplesmente no
faz sentido. Em primeiro lugar, porque no poderemos escolher pela criao ou no de uma
seed-AI. Ela seria inevitvel, de modo que o que poderemos escolher acelerar o processo ou
no e de que forma. A questo do risco se torna retrica. Yudkowsky, como parte da escola da
Singularidade Intelligence Explosion, acredita que trata-se de uma questo evolutiva, e que a
seed-AI que marca a chegada da Singularidade o primeiro passo para a transhumanidade,
que garantiria a sobrevivncia infinita dos seres ps-humanos.

() x primeirx AI transhumana que se auto-modifica ter, pelo menos em potencial,


quase absoluto poder fsico sobre o mundo. A potencial existncia desse poder
absoluto inevitvel; a consequncia direta da mxima velocidade potencial de
auto-melhoramento. O propsito mximo dx AI transhumanx criar um Guia de
Transio; uma entidade que pode desenvolver de modo seguro nanotecnologias e
qualquer subsequente ultratecnologia que venha a ser possvel, usa a amigabilidade dx
AI transhumanx para ver o que vem a seguir, e usa essas ultratecnologias para ver a
humanidade a salvo na passagem para qualquer forma que seja a vida do outro lado
da Singularidade136 (Yudkowsky, 2001, p.10).
Uma das condies para que uma FAI seja possvel haver um sistema de metas
(Goal System). Nesse sistema, h uma meta global e principal, que deve ser definida pelo
contedo de amigabilidade (content of friendliness). Essa meta global chamada de

134 O pronome ver marca a neutralidade de gnero da inteligncia artificial. Yudkowsky (2001) diz que essa
neutralidade fundamental para que uma AI no assuma self tipicamente humano. Parte necessria de uma FAI
no ter um ponto de vista pessoal (obsever-focused), como fazem os humanos. Alm disso, ele argumenta que
o uso de it no seria suficiente pois poderia causar confuso com o it que demosntrativo e no pronome.
135
Traduo livre de: When it comes to Friendliness, our method should be, not just to solve the problem, but
to oversolve it (Yudkowsky, 2001, p. 8).
136
Traduo livre de () first self-modifying transhuman AI will have, at least in potential, nearly absolute
physical power over our world. The potential existence of this absolute power is unavoidable; its a direct
consequence of the maximum potential speed of self-improvement. The ultimate purpose of transhuman AI is to
create a Transition Guide; an entity that can safely develop nanotechnology and any subsequent
ultratechnologies that may be possible, use transhuman Friendliness to see what comes next, and use those
ultratechnologies to see humanity safely through to whatever life is like on the other side of the Singularity
(Yudkowsky, 2001, p.10).
99

supermeta (supergoal) e possui inmeras submetas (subgoals). Contudo, para que funcione, a
FAI vai precisar de mais do que apenas contedo de amigabilidade (Yudkowsky, 2001), e
sobre isso que falo a seguir.

c) Sistema de metas, complexidade e a arquitetura de uma FAI

Fao aqui uma descrio superficial do sistema de metas proposto por Yudkowsky,
pois meu propsito to somente fazer o leitor compreender como se conectam as FAIs
Singularidade. Antes de chegar ao sistema de metas necessrio passar por trs conceitos que
formulam o design necessrio para que uma AI possa ser uma FAI. So eles: contedo
(content), Aquisio (Acquisition) e Estrutura (Structure).

A tarefa de construir uma FAI que tome uma deciso corretamente um problema de
contedo de amigabilidade. A tarefa de construir uma FAI que possa aprender
amigabilidade um problema de aquisio. A tarefa de construir uma FAI que queria
aprender amigabilidades um problema de estrutura137 (Yudkowsky, 2001, p. 12).

O autor diz que com boas estrutura e aquisio o programador sequer tem que se
preocupar com a questo do contedo. Dada uma arquitetura (estrutura + aquisio) que seja
boa o suficiente, ela ser capaz de suprir todos os potenciais erros de contedo gerados pelo
programador. por isso que a arquitetura bem construda decisiva para a criao de uma
FAI. Se uma AI capaz de se reconstruir e tomar decises corretas, s uma arquitetura
projetada para amigabilidade pode garantir um contedo amigvel. Uma determinada AI
tomar decises amigveis consequncia de uma arquitetura que permite que ela possa e
queira aprender a ser amigvel. De nada adianta que uma AI ocasionalmente tome uma
deciso amigvel se ela no for arquiteturalmente determinada a ter o objetivo nico e
principal de tomar decises amigveis, a partir do qual todas as outras decises so tomadas.
O sistema de metas138 serve justamente para que esse formato de AI seja possvel.

O desafio dx FAI no sobre fazer umx AI completar alguns conjuntos de


comportamentos. Uma arquitetura amigvel um funil pelo qual certos tipos de
complexidades so colocados nx AI, de modo que x AI veja esse colocar como
desejvel em qualquer ponto ao longo do caminho. Um dos grandes erros clssicos da

137
Traduo livre de: The task of building a Friendly AI that makes a certain decision correctly is the problem
of Friendship content. The task of building a Friendly AI that can learn Friendliness is the problem of Friendship
acquisition. The task of building a Friendly AI that wants to learn Friendliness is the problem of Friendship
structure (Yudkowsky, 2001, p. 12).
138 vlido observar que todas as tradues para os conceitos de AI foram feitos de modo livre da literatura em
ingls, o que pode ocasionar em diferena da forma como a literatura em portugus sobre AI possa tratar os
mesmos conceitos.
100

AI focar nas habilidades que pensamos enquanto estereotipadamente inteligentes, e


no os processos cognitivos que ningum nota porque todos os humanos o tm em
comum139. (Yudkowsky, 2001, p.13)

O sistema de metas composto por uma rede complexa de metas de diferentes


importncias e cuja reconfigurao baseada em modelos de probabilidade. Yudkowsky
equipara o comportamento cognitivo em metas a um termostato e afirma que um
comportamento baseado em metas (goal-oriented behavior) aquele que transforma o
ambiente para um estado em particular. Do ponto de vista cognitivo, portanto, um sistema de
metas que tem como meta principal a amigabilidade tender a transformar toda meta ou
relao de metas no amigvel em uma amigvel ou uma meta que refora outras metas
essenciais para a amigabilidade. Haveria na arquitetura da AI um estado desejvel pr-
programado ao qual todas as metas se baseiam como princpio bsico. isso que o autor
chama de supermeta (supergoal). Para atingir uma supermeta, vrias submetas (subgoal) se
entrelaam de modo dinmico e complexo. Por exemplo, dada uma supermeta A e submetas
B e C onde B refora A, mas a submeta C atrapalha a submeta B, a arquitetura pr-
programada tende a destruir a submeta C como forma de endossar a submeta B, e,
consequentemente, a supermeta A. Cada nvel da rede mais prximo da supermeta tem uma
probabilidade maior de garantir um ambiente onde a supermeta prevalea. As submetas geram
outras submetas e estabelecem entre si uma rede que se assemelha a uma rvore genealgica.
No por acaso uma meta B, derivada de uma meta A, chamada de meta-filho (Childgoal) de
uma meta-pai A (ParentGoal). A referncia de parentesco serve para identificar partes
especficas de uma rede onde metas esto diretamente relacionadas. De modo anlogo, uma
meta Z da qual A derivada meta-pai de A e meta-av de B, e assim por diante. Essa
estrutura , contudo, dinmica, e da mesma forma que uma submeta pode ser destruda para o
equilbrio do sistema, uma submeta pode passar a se conectar com outras metas e criar novas
submetas. Uma arquitetura bem construda permitiria algum grau de interveno ao
programador em FAIs que ainda no sejam plenamente capazes de garantir um sistema
amigvel. Essa arquitetura de metas para uma supermeta da amigabilidade da AI , portanto,
uma soluo que leva em conta tanto os processos para se chegar a uma FAI, como para o
controle de uma FAI que j seja uma seed-AI.
139
Traduo livre de: The challenge of Friendly AI is not () about getting an AI to exhibit some specific set of
behaviors. A Friendship architecture is a funnel through which certain types of complexity are poured into the
AI, such that the AI sees that pouring as desirable at any given point along the pathway. One of the great
classical mistakes of AI is focusing on the skills that we think of as stereotypically intelligent, rather than the
underlying cognitive processes than nobody even notices because all humans have them in common
(Yudkowsky, 2001, p.13)
101

Na cognio goal-oriented, as aes escolhidas, e portanto os resultados finais, so


estritamente dependentes do modelo de realidade, bem como de estgio final
desejado. Uma mente que deseja uma esponja molhada, e sabe que colocando a
esponja na gua a faz molhada, escolher colocar a esponja na gua. Uma mente que
deseja uma esponja molhada, e acredita que colocando uma esponja no fogo a faz
molhada, escolher colocar no fogo. (...) Uma mente que observa a realidade, e
aprende que molhar uma esponja requer gua e no fogo, pode mudar suas aes140
(Yudkowsky, 2001, p. 16).

Boa parte das pesquisas do MIRI so voltadas para uma teoria da AI que torne uma
potencial seed-AI segura. E h estudos bastante mais especficos e de enorme complexidade
com os quais no trabalharei aqui. So os aspectos filosficos e ideolgicos que so
importantes para essa pesquisa. O leitor familiarizado com a literatura de fico cientfica
poder se perguntar se esse sistema de metas no se aproxima muito das leis da robtica
escritas por Asimov141 que sabemos que, ao menos na literatura, pode ter consequncias
catastrficas. Essa equiparao no passa despercebida por Yudkowsky, que diz que

Se as Leis de Asimov fosse de alguma forma tecnicamente exequveis, elas seriam


extremamente adversariais a questo criar uma vontade amigvel, no
controlar uma vontade no-amigvel e violariam quase todos os parmetros e
paradigmas bsicos de design discutidos no Creating Firendly AI 142 (Yudkowsky,
2001, p. 236, marco meu).

d) Egosmo e capitalismo

Yudkowsky est preocupado em dissociar as AIs de um antropomorfismo. Para o


autor as pessoas tendem a associar a prpria ideia do que representa a essncia humana s
AIs. Tal como algum que imagina que a essncia do humano amar estaria convencido de
que eventualmente as AIs o fariam, ou ao menos tentariam fazer. Contudo, o autor diz que o

140
Traduao livre de: In goal-oriented cognition, the actions chosen, and therefore the final results, are strictly
dependent on the model of reality, as well as the desired final state. A mind that desires a wet sponge, and knows
that placing a sponge in water makes it wet, will choose to place the sponge in water. A mind that desires a wet
sponge, and which believes that setting a sponge on fire makes it wet, will choose to set the sponge on fire. A
mind which observes reality, and learns that wetting a sponge requires water rather than fire, may change
actions (Yudkowsky, 2001, p. 16).
141 As trs leis da robtica de Asimov so descritas em seu artigo do Wikipdia assim:
1 Lei: Um rob no pode ferir um ser humano ou, por inao, permitir que um ser humano sofra algum mal. 2
Lei: Um rob deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais
ordens entrem em conflito com a Primeira Lei. 3 Lei: Um rob deve proteger sua prpria existncia desde que
tal proteo no entre em conflito com a Primeira ou Segunda Leis. Disponvel em: <
https://pt.wikipedia.org/wiki/Leis_da_Robtica > ltimo acesso em 18/01/2017.
142
Traduo livre de: If Asimov Laws were somehow technically feasible, they would be extremely
adversarialthe issue is creating a Friendly will, not controlling an unFriendly willand would violate almost
all the basic design patterns and paradigms discussed in Creating Friendly AI (Yudkowsky, 2001, p. 236, marco
meu).
102

qu relevante na comparao o que humanos e AI tm em comum, isto , a inteligncia.


So os processos que caracterizam a inteligncia que deveriam ser levados em conta, no
porque a inteligncia humana, mas porque a estrutura de qualquer pensamento.
Yudkowsky parece estar certo da neutralidade e objetividade de certas caracterstias das
mentes.
At aqui tenho me esforado para no ser muito crtico ou sarcstico com as ideias
supostamente neutras por trs da teorizao de Yudkowsky. Contudo, h certo ponto da
narrativa que impossvel passar despercebido. A inspirao ciberntica da narrativa do autor
bvia, no apenas pelo constante tributo a I. J. Good, mas pelo uso particular da lei de
Moore, pela constante equiparao entre inteligncia humana e artificial, a abordagem
supostamente interdisciplinar (embora fale constantemente de filosofias pessoais, imagino
que com medo de usar palavras mais adequadas como ideologia , Yudkowsky considera sua
abordagem filosfica e cientfica a um s tempo) e, como veremos logo adiante, a viso de
futuro de robs escravos associada por Barbrook (2009) ciberntica conservadora de von
Neumann. Alm disso, os caminhos que conectam ciberntica, transhumanismo e ideologia da
Califrnia so bastante claros nas promessas de transcedncia das FAIs e na trajetria pessoal
herica e independente das instituies burocrticas. Esse jogo de inspiraes cosmolgicas
parecem levar o autor a uma reflexo poltica que est to presa Guerra Fria como a prpria
ciberntica na qual se inspira. Digo isso pensando nas passagens do CFAI dedicadas a
explanar sobre a noo de egosmo e sua relao com a inteligncia artificial.
A reflexo sobre egosmo no CFAI vem como forma de reforar, mais uma vez pela
negao, o que seja a amigabilidade de uma AI. O egosmo, diz o autor, pode ser associado
aos humanos porque Selfishness is an Evolved Trait (p. 34), algo como O egosmo um
trao evoludo. Um sistema de metas do tipo orientada-pelo-observador (observer-oriented)
s pode ser encontrada em humanos. Tudo em volta do conceito de um sistema de metas
centrado no observador fundamentalmente antropomfico 143 (Yudkowsky, 2001, p.34).
Como vimos no pargrafo anterior, uma AI no pode ter traos antropomorfos de referncia,
com o risco de se tornar extremamente perigosa. Alm disso, tal sistema s seria possvel em
uma AI se fosse inserido na arquietura pelos seus programadores. Um sistema de metas
centrado no observador algo que se acrescenta a uma mente, no algo que se retira144

143
Traduo livre de: The entire concept of a goal system that centers around the observer is fundamentally
anthropomorphic (Yudkowsky, 2001, p.34).
144
Traduo livre de: An observer-centered goal system is something thats added to a mind, not something
thats taken away (Yudkowsky, 2001, p. 36).
103

(Yudkowsky, 2001, p. 36). No faria sentido portanto a ideia de que a inteligncia


necessariamente egosta, por preconizar o prazer e evitar a dor. Prazer e dor so feedbacks
positivos e negativos associados a um sistema de metas centrado no observador. A AI no
precisa desses feedbacks para buscar o equilbrio e supermeta. O autor usa como exemplo que
dar um soco na cara de uma AI no despertaria ressentimento como a um outro humano,
porque o ressentimento no faz sentido para uma AI. Seria apenas um desgaste energtico e
computacional que no reforaria a supermeta. Ao colocar que a FAI, ou cojunto de FAIs, se
opem ao egosmo pode-se levantar a hiptese de que as FAIs seriam dotadas de altrusmo,
ou de altrusmo recproco, e isso preocupa muito o autor. Umx AI pode parece mais um
humano altrusta que um egosta, mas umx AI no egosta ou altrusta; umx AI umx AI 145
(Yudkowsky, 2001, p. 36). a partir da que o argumento toma outro rumo.

Nas sociedades humanas, sociedades capitalistas so esmagadoramente mais efetivas


que civilizaes comunistas. H um sagrado dualismo separando invidualismo e
autoritarismo; auto-organizao e poder central; livre comrcio e controle
governamental. Isso leva alguns pensadores a postular que uma comunidade de AIs
com divergncias, metas observer-centered, seria mais competitiva que uma
comunidade de FAIs com metas compartilhadas. No caso humano, tanto sociedades
capitalistas como sociedades autoritrias so compostas de humanos com
divergncias e metas observer-centered. Sociedades capitalistas admitem isso, as
autoritrias no, ento ao menos algumas das ineficincias relativas s sociedades
autoritrias sero provocadas pela enorme disputa de valores que as pessoas
supostamente tm e os valores que as pessoas tm de fato146 (Yudkowsky, 2001,
p.40, grifo meu).

Essa passagem ilustra bem o que chamei de buscar referncias polticas na Guerra
Fria. A comear pelo escopo extremamente reduzido no qual a poltica reduzida a
comunismo x capitalismo, e na falsa dicotomia entre capitalismo e autoritarismo. Talvez o
autor no tenha estudado durante seus anos de auto-didatismo caseiro o que acontecia na
Amrica Latina durante a Guerra Fria e qual responsabilidade tiveram os Estados Unidos nas
ditaduras do sul. provvel que no esteja informado que no existe nenhuma contradio
entre capitalismo e sociedades autoritrias, mesmo que tome autoritarismo pela ausncia de

145
An AI may look more like an altruistic human than a selfish one, but an AI isnt selfish or altruistic; an AI is
an AI (Yudkowsky, 2001, p. 36).
146
Traduo livre de: In human society, capitalist civilizations are overwhelmingly more effective than
communist civilizations. There is a hallowed dualism separating individualism and authoritarianism; self-
organization and central command; free trade and government control. This has led some thinkers to postulate
that a community of AIs with divergent, observer-centered goals would outcompete a community of Friendly
AIs with shared goals. In the human case, both capitalist and authoritarian societies are composed of humans
with divergent, observer-centered goals. Capitalist societies admit this, and authoritarian societies dont, so at
least some of the relative inefficiency of authoritarian societies will stem from the enormous clash between the
values people are supposed to have and the values people actually do have (Yudkowsky, 2001, p.40, grifo
meu).
104

uma democracia liberal. No chega a ser exatamente uma surpresa que o autor se oriente
politicamente a partir de um posiconamento libertariano, ou anarcocapitalista. Em
Yudkowsky (2000B) ele diz abertamente ser o singularitarian um libertariano. O problema
que enquanto toda essa estrutura ideolgica orienta toda sua teoria sobre AIs, o autor insiste
em tratar os princpios das FAIs como neutros. Essa neutralidade , por suposto, emprestada
daquela viso de cincia emancipadora tipicamente moderna, caracterstica aos defensores do
Singularismo. E todas essas questes polticas colocam em cheque o problema que apontei no
incio dessa sesso, a saber, a ambiguidade e alta amplitude da noo da amigabilidade. O
autor continua:

Na medida em que o egosmo local conquista melhores resultados globais, umx FAI
pode se engajar em comportamento pseudoegosta com sibmeta de supermetas-
amigabilidade, incluindo o altrusmo recproco, trocas de recursos, e assim por diante.
Altrusmo recproco no um caso especfico de altrusmo; uma caso especfico de
egosmo. O capitalismo no uma caso especfico de eficincia global; um caso
especfico de eficincia local. Cooperao social do tipo comercial entre humanos
parece tornar egosmo em uma fonte de maravilhosa eficincia, e por qu? Porque
esta a nica maneira que a pobre e cega evoluo pode nos fazer trabalhar juntos!
Quando a evoluo ocasinalmente cria cooperao, a cooperao tem que ser baseada
no egosmo. Egosmo local no uma ingrediente milagroso que permite a maravilha
do comportamento capitalista global; egosmo local a limitao que faz o
capitalismo ser a nica forma vivel de comportamento prudutivo global. Na medida
em que algoritmos pseudocapitalistas conquistam bons resultados, FAIs podem
simular egosmo em suas reas de interao com xs outrxs FAIs (...) FAIs podem
interagir em qualquer padro que se mostre efetivo, incluindo de modo capitalista;
umx AI egosta s poder interagir de modo que se preserve o egosmo local 147
(Yudkowsky, 2001, p. 40-41, grifo meu).

Vimos antes que o prprio autor equipara os robs de Asimov s AIs. No seu livro ele
descreve o problema da abordagem da robtica de AI substituindo a palavra rob por AI
sem maiores problemas. O autor diz que as vantangens tradicionais de uma AI pr-
Singularidade so: A habilidade de performar tarefas repetitivas sem se cansar; a habilidade
de performar tarefas algortmicas em velocidade linear maior que nossos 200hz neurons

147
To the extent that local selfishness yields better global results, a Friendly AI can engage in pseudoselfish
behavior as a subgoal of the Friendliness supergoals, including reciprocal altruism, trading of resources, and so
on. Reciprocal altruism is not a special case of altruism; it is a special case of selfishness. Capitalism is not a
special case of global effectiveness; it is a special case of local effectiveness. Trade-based social cooperation
among humans appears to turn selfishness into a source of amazing efficiency, and why? Because thats the only
way poor blind evolution can get humans to work together at all! When evolution occasionally creates
cooperation, the cooperation must be grounded in selfishness. Local selfishness is not the miracle ingredient that
enables the marvel of globally capitalistic behavior; local selfishness is the constraint that makes capitalism the
only viable form of globally productive behavior. To the extent that pseudocapitalistic algorithms yield good
results, Friendly AIs can simulate selfishness in their interactions among themselves. () Friendly AIs can
interact in any pattern that proves effective, including capitalism; selfish AIs can only interact in ways that
preserve local selfishness. (Yudkowsky, 2001, p. 40-41, grifo meu)
105

permitem; e a habilidade de performar tarefas de algortmos complexos sem cometer erros 148
(Yudkowsky, 2001, p. 48). Um agente que no se cansa, produtivo e no comete erros
parece a descrio de um trabalhador perfeito (para os que so beneficiados pelo capitalismo).
A Singularidade ampliaria essas funes com uma seed-AI, isto , a AI superinteligente capaz
de se auto-reconfigurar. O mundo do futuro ser uma batalha cada vez mais exigente contra
as limitaes de nossa prpria inteligncia, e no uma confortvel rede em que podemos nos
deitar para esperar por robs escravos (Wiener apud Barbrook, ano, p. 81). associando a
viso liberal de mundo do autor com essa perspectiva de funcionalidade das AIs que vemos
um semblante da ciberntica que Wiener julgava ser a de von Neumman. Um imaginrio onde
robs sem self, sem um sistema de metas observer-oriented, podem ser os escravos perfeitos
que humanos no puderam ser.
Por fim podemos ter uma noo sobre a teorizao que Yudkowsky faz sobre as AIs e
como isso impacta na viso de Singularidade do autor. Em comum com deGrey ele tem a
sugesto de um caminho para a transcendncia e a superao da morte a partir da cincia e da
tecnologia. Enquanto deGrey sugere uma soluo pr-Singularidade de bioengenharia
humana, onde a potencial associao com a Singularidade seria benfica, Yudkowsky sugere
uma engenharia das mquinas para alcanar a Singularidade e, ento, vislumbrar
nanotecnologias capazes de ter efeitos sobre o corpo semelhantes ao que prometem as SENS.
Ainda que um autor esteja trabalhando com a parte biolgica e o outro com a parte maqunica
da supermeta superao da morte, parece claro que h um desenho terico comum aos dois:
no se poder falar rompimento de fronteiras entre o maqunico e o biolgico antes da
Singularidade. Nenhum dos dois autores arrisca previses muito descritivas sobre o futuro
ps-Singularidade, e, alm disso, se mostram bastante envolvidos com pesquisas que so
como submetas de uma supermeta Singularidade/ Methuselarity. Yudkowsky e deGrey
trabalham no mbito da preveno. Ray Kurzweil, sobre quem falo a seguir, segue uma linha
terica que funde os esforos de engenharia dos dois autores tratados at aqui, e trabalha no
mbito da projeo, utpica e futurista.

e) Machine Intelligence Research Foundation

148
Traduo livre de: The ability to perform repetitive tasks without getting bored; the ability to perform
algorithmic tasks at greater linear speeds than our 200 Hz neurons permit; and the ability to perform complex
algorithmic tasks without making mistakes (Yudkowsky, 2001, p. 48).
106

Tal como a SRF, a MIRI uma 501(c)(3), e, portanto, uma organizao no-
governamental sem fins lucrativos que, segundo o prprio site, aufere 100% de sua renda a
partir de doaes. Fundada em 2000 por Yudkowsky e por Brian e Sabine Atkins, foi
chamada de Singularity Institute for Artificial Intelligence, ou apenas Singularity Institute, at
o ano de 2013. Essa instituio de enorme importncia para uma possvel histria do
Singularismo porque representou o primeiro esforo de institucionalizao das ideias
singularitarians e tambm uma primeira tentativa sistemtica de pautar a Singularidade na
agenda cientfica e na imprensa. At o ano de 2005 a, at ento, SIAI funcionava em Atlanta,
no estado da Georgia. Ento se mudou para a Califrnia. Em documento disponvel no site
oficial a instituio se descreve assim:

Ainda que sistemas de AI no rivalizem com humanos em engenharia social,


programao, ou habilidade cientfica por muito anos a vir, parece prudente comear
a investigar questes bsicas de segurana desde j. H muitas organizaes focadas
no melhoramento de longo-prazo das capacidades das AIs, mas poucos focados em
acompanhar esse progresso de longo-prazo em termos de segurana e engenharia
150
segura. O MIRI existe para preencher essa lacuna149 .

verdade que o MIRI no fica dentro do territrio que geralmente se toma pelo Vale do
Silcio, a saber, a poro sul da baa e So Francisco. O instituto se localiza em Berkeley, a
apenas alguns metros do campus da famosa universidade. Para efeitos de caracterizao,
contudo, no ser inadequado tomar a MIRI por uma instituio siliciana. A histria do Vale
do Silcio mostra que umas da caractersticas essenciais para a formao do plo de eletrnica
e computao foi a proximidade no apenas geogrfica - das novas empresas com as
universidade locais (Sturgeon, 2000). A Universidade da Califrnia em Berkeley junto
Universidade de Stanford eram as universidades localizadas na regio da baa de So
Francisco, essenciais nesse processo. Enquanto a Universidade de Stanford se encontra dentro
da rea que geralmente se toma pelo Vale, a regio de influncia siliciana tem crescido em
direo ao norte. O professor da UC Berkeley David Patterson diz que h uma tendncia em
ampliar a rea das startups de tecnologia para a regio de So Francisco pela proximidade da

149
Traduo livre de: Although AI systems may not rival humans in social engineering, programming, or
scientific ability for many years to come, it seems prudent to begin investigating basic safety issues in advance.
There are many organizations focused on improving long-term AI capabilities, but few focused on matching this
with long-term progress in security and safety engineering. MIRI exists to help fill that gap.
150 Documento disponvel em: < https://intelligence.org/files/MIRI_Overview.pdf > ltimo acesso em
18/01/2017.
107

universidade onde leciona, entre outras razes 151. O mapa que segue fornecido pelo
professor:

De certa maneira, a Singularity University (sobre a qual falarei junto Ray Kurzweil a
seguir) surgiu como uma expanso da MIRI, de forma que a primeira pudesse ampliar as
temticas e atividades em torno da Singularidade e a ltima pudesse caminhar para uma
instituio focada na pesquisa sobre inteligncia artificial. A mudana de nome de SIAI para
MIRI teve a inteno de marcar essa relao de expanso e complementariedade entre as duas
instituies. Adicionalmente, o abandono do nome Singularity Institute ocorreu para que
fosse preservada a distino entre as duas instituies 152. O evento que provavelmente o
mais importante para os singularitarians, e que marca uma aglutinao de defensores da
Singularidade que nenhuma instituio consegue fazer, so os Singularity Summits. Os
Singularity Summits so eventos anuais que acontem desde 2006 e eram realizados pela SIAI,
mas que foram completamentamente assumidos pela Singularity University (SU) em 2012 153.

151 < https://amplab.cs.berkeley.edu/silicon-valley-is-migrating-north/ > ltimo acesso em 18/01/2017


152 < https://intelligence.org/2013/01/30/we-are-now-the-machine-intelligence-research-institute-miri/ > ltimo
acesso em 18/01/2017
153 < http://singularityu.org/2012/12/09/singularity-university-acquires-the-singularity-summit/ > ltimo acesso
em 18/01/2017
108

Observando as datas perceberemos que a SU passou a organizar os Singularity Summits em


dezembro de 2012, e a mudana de nome de SIAI para MIRI logo em seguida, janeiro de
2013, o que ajuda a corroborar a relao entre os dois acontecimentos. Uma medio feita no
google maps mostra que a distncia de carro entre a Universidade da Singularidade e a MIRI
de pouco mais que 70 Km.

Com a nova organizao, as duas instituies que abertamente defendem a Singularidade


criam uma espcie de dupla frente estratgica: enquanto a MIRI, que se tornou destinada
exclusivamente pesquisa, ficou geograficamente muito prxima da UC Berkeley, a SU com
a agenda abrangente e muitas atividades de extenso e promoo da Singularidade ficou no
Vale do Silcio - mais precisamente dentro de territrio da NASA, questo que volto adiante.
Alm disso, nessa distribuio de funes em torno da Singularidade foi criada tambm outra
instituio, a Center for Applied Rationality (CFAR), que divide o mesmo espao vizinho
UC Berkeley da MIRI, mas se dedica exclusivamente cincia cognitiva.
A estrutura da MIRI hoje no complexa como a SRF ou a SU, possuindo apenas alguns
projetos de extenso alm da sede do instituto. O frum j citado aqui, LessWrong, foi criado
por Yudkowsky e associado ao MIRI. Trata-se de uma comunidade bastante ativa, que
endeusa Yudkowsky e passa por controvrsias que espelham aquelas do frum dos
extropianos que descrevi no captulo 3. H na internet acusaes diversas que associam o
109

LessWrong ao movimento neoreacionrio 154 e ideias eugnicas. Em artigo publicado no ano


passado, Adam Riggio (2016) faz uma resenha sobre o livro Neoreaction: A Basilisk de
Phil Sandifer, financiado por crowndfunding155 no ano passado. O livro de Sandifer se dedica
a explicar a emergncia da nova direita e movimentos como o alt-right e a vitria de Trump
para a presidncia dos Estados Unidos. Em seu artigo, Riggio (2016) associa a comunidade do
LessWrong com essas ideias. Yudkowsky esteve atento a essa associao que comeou a
ganhar destaque em alguns meios de comunicao e publicou nota em seu blog 156 dizendo ser
contrrio ao movimento neoreacionrio e combatendo a associao entre suas ideias e o
movimento157.
Alm do frum e da relao estreita com a SU e CFAR, a MIRI promove
workshops temticos abertos ao pblico em diferentes instituies. Chama ateno, contudo,
o principal projeto de extenso do instituto, chamado de MIRIx. Trata-se de um formato de
workshop em que o instituto fomenta a discusso de seus documentos e agenda a partir do
financiamento de eventos de diferentes escopos. Sua descrio no site oficial diz:

Os workshops MIRIx podem ser simples como juntar alguns de seus amigos para ler artigos do
MIRI juntos, conversar sobre eles, comer alguns lanchinhos, escrever algumas ideias num
quadro branco, e sair para jantar juntos. Ou pode ser um workshop de pesquisa de vrios dias,
sobre uma linha especfica ou um problema particular. Vocs decidem158159.

Alm de oferecer financiamento, a MIRI diz que pode, ocasionalmente, oferecer


material e a presena de algum dos pesquisadores do instituto, a depender de disponibilidade e
do projeto. Por fim, embora a MIRI no tenha uma estrutura bvia de rede vertical como a
SRF, parece claro que ela tambm atua como facilitadora. Isto , como centro que controla
um fluxo de informaes privilegiadas em favor de um projeto de poder especfico.

154
Tambm chamados de Dark Enlightment, o movimento costuma estar associado anti-democracia e a
rejeio ao igualitarismo. So associados por crticos ao neofascismo. O grupo americano denominado Alt-Right
uma referncia de Dark Enlightment.
155 < https://www.kickstarter.com/projects/2027287602/neoreaction-a-basilisk > ltimo acesso em 18/01/2017
156 Embora no seja o foco aqui, vale trazer um detalhe sobre o blog de Yudkowsky: seu ttulo. Do modo como
vejo apenas pelo ttulo atribudo pelo prprio autor a sua pgina podemos ter uma dimenso do culto ao gnio
que o prprio autor faz de si mesmo, acompanhado da comunidade do LessWrong. O ttulo, e subttulo, de seu
blog : Optmize Literally Everything: the strange, vast thought of Elizer Yudkowsky.
157 < http://yudkowsky.tumblr.com/post/142497361345/this-isnt-going-to-work-but-for-the-record-and >
ltimo acesso em 18/01/2017
158 < https://intelligence.org/mirix/ > ltimo acesso em 18/01/2017
159
Traduo livre de: A MIRIx workshop can be as simple as gathering some of your friends to read MIRI
papers together, talk about them, eat some snacks, scribble some ideas on whiteboards, and go out to dinner
together. Or it can be a multi-day research workshop pursuing a specific line of attack on a particular problem.
Its up to you.
110

4.3. Ray Kurzweil e a Singularity University

Em certo sentido Ray Kurzweil160


o oposto de Elizer Yudkowsky: o que
falta de informao biogrfica do segundo
sobra do primeiro. E no apenas
informao biogrfica. Kurzweil j foi
tema de inmeras reportagens e entrevistas
em revistas e jornais como Time 161,
Forbes162, Wall Street Journal163,
Washington Post164, New York Times165, e claro, a muito californiana Wired 166, mas tambm
nos nacionais Folha de So Paulo167, Estado168 e Piau169 e esse so apenas alguns
exemplos; j foi tema de um documentrio chamado Transcendent Man 170 que foi exibido
em vrios festivais de cinema; recebeu de Bill Clinton a National Medal of Technology and
Innovation em 1999 e faz parte desde 2002 do National Inventors Hall of Fame; publicou
vrios livros que foram bestsellers e tambm produziu filmes que divulgam seus livros e vice-
versa; concedeu incontveis entrevistas e palestras disponveis nas plataformas de vdeo e
texto online; e, no se pode deixar esquecer, geralmente vende livros sob a alcunha de

160
Foto de Gene Driskell, for Idea City, disponibilizada pelo autor em seu site. Disponvel em <
http://www.kurzweilai.net/photos#!prettyPhoto > ltimo acesso em 18/01/2017
161 < http://content.time.com/time/magazine/article/0,9171,2048299,00.html > ltimo acesso em 18/01/2017
162 < http://www.forbes.com/sites/techonomy/2012/11/09/ray-kurzweil-on-using-exponential-thinking-to-
predict-the-future/#469713ae69f1 > ltimo acesso em 18/01/2017
163 < http://www.wsj.com/articles/ray-kurzweil-looks-into-the-future-1401490952 > ltimo acesso em
18/01/2017
164 <https://www.washingtonpost.com/national/on-innovations/ray-kurzweil-on-the-future-
workforce/2012/11/15/702dea90-292a-11e2-bab2-eda299503684_story.html > ltimo acesso em 18/01/2017
165 < http://www.nytimes.com/2013/01/27/magazine/ray-kurzweil-says-were-going-to-live-forever.html >
ltimo acesso em 18/01/2017
166 < https://www.wired.com/2008/03/ff-kurzweil/ > ltimo acesso em 18/01/2017
167 < http://www1.folha.uol.com.br/fsp/poder/69360-computadores-vao-se-equiparar-a-mente-humana-no-ano-
2029.shtml > ltimo acesso em 18/01/2017
168 < http://economia.estadao.com.br/noticias/geral,ray-kurzweil-o-cientista-que-sonha-com-a-imortalidade-
imp-,919009 > ltimo acesso em 18/01/2017
169 < http://piaui.folha.uol.com.br/materia/ray-kurzweil-e-o-mundo-que-nos-espera/ > ltimo acesso em
18/01/2017
170 < http://www.imdb.com/title/tt1117394/ > ltimo acesso em 18/01/2017
111

engenheiro do Google171. Independente de sua formao inicial e das conquistas de sua


carreira como inventor e escritor, Kurzweil uma figura miditica, mais conhecido que
qualquer dos seus colegas singularitarians, e talvez mais conhecido que a prpria ideia de
Singularidade. Evangelista (2011) afirma que sua figura se tornou associada com esta ideia.
De fato, a Singularidade ganhou espao na mdia atravs do autor. Sua biografia
multipremiada e geralmente construda em cima da narrativa do gnio serve de trampolim
para a Singularidade e suas previses. Se Yudkowsky teve uma importncia institucional
considervel, atuando nos bastidores pelo Singularismo, Kurzweil faz a funo de promotor
o que, diga-se de passagem, mais uma das faces da complementariedade entre MIRI e SU.
Ray Kurzweil tem uma pequena coletnea de fatos notveis que o elevam posio de
gnio e do credibilidade a suas radicais previses. Sua biografia em seu site diz que:

Kurzweil foi o principal inventor do primeiro scanner CCD flatbed, do primeiro


reconhecedor de caracteres tico omni-font, da primeira mquina de leitura texto-
para-fala para cegos, do primeiro sintetizador texto-para-fala, do primeiro sintetizador
musical capaz de recriar o Grand Piano e instrumetnos orquestrais, e do primeiro
reconhecedor de fala com grande vocabulrio comercial. 172173.

Um dos fatos notrios atribudos a Kurzweil de quando ele tinha apenas 17 anos.
Participando de um programa de televiso chamado Ive got a secret foi revelado no
programa o segredo do jovem Kurzweil: a msica que havia tocado foi composta por um
computador criado por ele (Evangelista, 2011). Evangelista (2011) cita reportagem da revista
Veja sobre o inventor que diz:

Convm prestar ateno, porque Kurzweil costuma acertar174. Em seus estudos,


premiados internacionalmente, ele antecipou a ubiquidade da internet e a vitria do
computador sobre o homem no xadrez. Dono de inmeras patentes, desenvolveu a
primeira mquina de leitura para deficientes visuais nos anos 1970, cujo cliente
nmero 1 foi o cantor Stevie Wonder. Criou tambm um sistema automtico para
avaliao do mercado financeiro, ferramenta usada pelos especuladores que mais
ganham dinheiro nos Estados Unidos. Para Bill Gates, o fundador da Microsoft,
Kurzweil a melhor pessoa que conheo na previso do futuro da inteligncia

171 A verso em do portugus do seu livro mais recente Como criar uma mente (Kurzweil, 2016) traz essa
informao desde a capa.
172
Traduo livre de: Kurzweil was the principal inventor of the first CCD flatbed scanner, the first omni-font
optical character recognition, the first print-to-speech reading machine for the blind, the first text-to-speech
synthesizer, the first music synthesizer capable of recreating the grand piano and other orchestral instruments,
and the first commercially marketed large-vocabulary speech recognition.
173 < http://www.kurzweilai.net/ray-kurzweil-biography > ltimo acesso em 18/01/2017
174 Apesar do texto da Veja dizer que ele costuma acertar, pode-se dizer tambm que ele erra com bastante
frequncia. Alex Knapp escreveu para a Forbes um balano de previses feitas por Kurzweil em 1999 para 2009.
E grande parte delas foram erros grosseiros de previso. Pode-se acessar o texto completo em:
< http://www.forbes.com/sites/alexknapp/2012/03/21/ray-kurzweil-defends-his-2009-
predictions/#78f5d15d7a11 > ltimo acesso em 18/01/2017
112

artificial. O fsico franzino, a altura mediana 1,70 metro e os olhos a piscar


incessantemente no fazem supor a rede de intricados raciocnios que saem de uma
mente privilegiada, de QI 140.

Todos esses fatos em conjunto com a exposio constante o colocam num lugar
privilegiado para fazer previses. O inventor formado no MIT e tem uma carreira como
inventor bastante slida. Foi o criador da famosa marca de instrumentos Kurzweil e, como
mostram os dados, foi bastante pioneiro nos inventos com computao sua participao no
programa de televiso citado foi no ano de 1965.
Auto-proclamado futurista, Kurzweil aposta numa literatura que busca o leitor leigo,
diferente de Yudkowsky e deGrey que, salvo um livro no caso de deGrey, no demonstram ter
essa preocupao. Considerada essa questo narrativa compreenderemos que seus livros (e
filmes) parecem na forma e pblico alvo com as publicaes de divulgao cientfica. No
necesariamente a divulgao cientfica jornalstica, mas certamente com o formato tornado
clssico por Carl Sagan, onde o cientista escreve para o leigo. Contudo, no contedo, as obras
de Kurzweil flertam com a fico cientfica e com o panfleto. A equiparao com a fico
cientfica fao pela constante estratgia de fazer previses e descries minuciosas de um
futuro absolutamente inalcanveis no momento em que so feitas, com datas definidas para
os acontecimentos e riquezas de detalhes . Seus colegas deGrey e Yudkowsky so bastante
mais cautelosos com as previses. Ambos afirmam acreditar em um futuro especfico e usam
seus trabalhos para garantir que esse futuro seja alcanado. Kurzweil apoia iniciativas de
pesquisas sobre nanotecnologia e est frequentemente associado s pesquisas da SU, mas seus
livros no tm um compromisso to claro com os meios para a Singularidade como fim. Seus
livros costumam fazer uma histria evolucionista da tecnologia e, de modo geral, se restrigem
a descrever as maravilhas do futuro para seu potencial leitor. Onde deGrey e Yudkowsky
parecem dizer possvel, desejvel, mostro como, Kurzweil aguarda dizendo Inevitvel,
independente de nossa vontade, digo como ser.
H muitos aspectos da obra de Kurzweil sobre os quais poderia me dedicar a escrever.
Optei, contudo, pelo que Miller (2012) chamou de Kurzweilian Merger. Essa escolha leva
conta a conexo que fao com os outros dois autores desse captulo. As trs grandes temticas
aqui trabalhadas, que so, guerra anti-envelhecimento, inteligncia artificial amigvel e fuso
homem-mquina, versam sobre a relao entre Singularismo e superao da morte. Kurzweil
no opta pelo aspecto biolgico ou maqunico da questo: a fuso, o hbrido, que lhe
interessa e marca a entrada da Singularidade.
113

a) Crescimento exponencial e as cinco pocas

No segundo captulo falei sobre a verso da Singularidade de Ray Kurzweil, atribuda


por Yudkowsky (2007) escola Accelerating Change. Nessa verso da Singularidade est a
crena na mudana acelerada, que leva em conta a exploso de inteligncia e uma
extrapolao de lei de Moore para outras tecnologias que no apenas os computadores. A
diferena fundamental da mudana acelerada de Kurzweil para a exploso de inteligncia
que a primeira traa uma mudana de ordem exponencial, ao passo que a segunda no
necessariamente. Essa diferena muito importante porque uma vez que h dados sobre a
histria do desenvolvimento tecnolgico e aplica-se a esses dados uma projeo exponencial,
ento o pesquisador poder determinar datas precisas para acontecimentos no futuro. por
isso que Ray Kurzweil se sente vontade para fazer previses muito descritivas dando datas
precisas.
O autor reconhece que difcil de enxergar as possibilidades que ele prev olhando
para o que temos hoje. Isso se d porque costumamos tomar a mudana de modo linear, isto ,
assumindo que a acelerao da mudana segue o mesmo ritmo do perodo em que vivemos.
Para compreender o advento da Singularidade, afirma ele, teremos de substituir a viso da
mudana linear pela mudana exponencial.
114

(Kurzweil, 2005, p. 28)

(Kurzweil, 2005, p. 22)


115

Pensando sobre o futuro, poucas pessoas levam em considerao o fato que o


progresso da cincia humana exponencial: aumenta por repeties que se
multiplicam por uma constante (10 vezes 10 vezes 10, e assim por diante) e no de
modo linear (10 mais 10 mais 10, e assim por diante). Eu enfatizo a perspectiva
exponencial x linear porque a falha mais importante que os prognosticadores
cometem ao falar sobre uma tendncia futura175 (Kurzweil, 2005, p. 40).

Podemos ver pela passagem a extrapolao da lei de Moore qual me referi. Kurzweil
vai argumentar que a cincia e as tecnologias tambm seguem um crescimento exponencial e
esse crescimento se torna complementar. Embora o autor defina de diferentes formas a
Singularidade em torno do seu texto, pode-se afirmar com segurana a partir de seu livro
Singularity is Near when humans transcends biology que a chegada desse evento dar-se-
quando o desenvolvimento das biotecnologias e das mquinas chegarem a um ponto
culminante comum, onde no se poder distinguir humano e tecnolgico, maqunico e
orgnico.

A Singularidade representar a culminao da fuso da nossa existncia e pensamento


biolgico com a nossa tecnologia, resultando em um mundo que ainda humano mas
que transcende nossas razes biolgicas. No haver distino, ps-Singularidade,
entre humano e mquina ou entre realidade fsica e virtual. Se voc se perguntar o que
restar de claramente humano nesse mundo, simplesmente a seguinte qualidade:
nossa espcie a que inerentemente procura expandir seu alcance fsico e mental
alm das limitaes atuais176 (Kurzweil, 2005, p.23).

A partir de uma histria evolucionista que tenta explicar a mudana atravs da


informao, Kurzweil apresenta grandes marcos que teriam revolucionado a poca seguinte.
Mais precisamente, o autor apresenta seis pocas. A singularidade comearia na quinta poca
e encontraria sua forma plena na sexta. Um grfico elaborado pelo autor mostra de modo
didtico a passagem entre cada uma das seis pocas.

175
Traduo livre de: In thinking about the future, few people take into consideration the fact that human
scientific progress is exponential: It expands by repeatedly multiplying by a constant (10 times 10 times 10, and
so on) rather than linear (10 plus 10 plus 10, and so on). I emphasize the exponential-versus-linear perspective
because its the most important failure that prognosticators make in considering future trends (Kurzweil, 2006,
p. 40).
176
Traduo livre de: The Singularity will represent the culmination of the merger of our biological thinking and
existence with our technology, resulting in a world that is still human but that transcends our biological roots.
There will be no distinction, post-Singularity, between human and machine or between physical and virtual
reality. If you wonder what will remain unequivocally human in such a world, it's simply this quality: ours is the
species that inherently seeks to extend its physical and mental reach beyond current limitations (Kurzweil, 2005,
p.23).
116

(Kurzweil, 2005, p. 26)

Cada uma dessas pocas deixou um resduo de evoluo fundamental para que
ocorresse a prxima revoluo evolutiva. Dessa forma, estruturas atmicas foram requisito
para que houvesse a informao em termos de DNA, que por sua vez foi pr-requisito para a
sofisticada forma com que crebros passaram a processar informaes. Sem o crebro, por sua
vez, nosso modelo de computao que passa por design de hardware e software no seria
possvel por duas razes: i. Somente seres com crebros suficientemente evoludos poderiam
ser suficiente inteligentes para criar computadores e; ii. O crebro uma mquina de
inteligncia biolgica e, como tal, metfora e garantia de que mquinas inteligentes de
outros de tipos de hardware so possveis.
O perodo atual em que vive a humanidade a passagem da quarta para a quinta
poca, e a Singularidade, isto , a entrada da fuso de homem e computador, biolgico e
maqunico, virtual e real, a prxima grande revoluo do processo evolutivo. justamente
essa poca que mais interessante para esse trabalho. Como aponta o grfico, Kurzweil a
denomina a poca da fuso entre inteligncia humana e tecnologia.
117

() A Singularidade comear com a quinta poca. Resultar na fuso do vasto


conhecimento de nossos prprios crebros com a substancialmente maior capacidade,
velocidade, e habilidade de compartilhamento de conhecimento da nossa tecnologia.
A quinta poca vai permitir que nossa civilizao humano-mquina transcenda as
limitaes do crebro humano de mera centena de trilho de conexes extremamente
lentas. (...) Ns preservaremos e melhoraremos a inteligncia que a evoluo nos
concedeu ao passo que superaremos as profundas limitaes da evoluo biolgica
(Kurzweil, 2005, p. 30)177.

b) GNR: Gentica, Nanotecnologia e Robtica

A chegada da Singularidade e do Kurweilian Merger marcada por trs grandes


marcos extraordinrios i. na gentica, ii. na nanotecnologia e iii. na robtica. Em termos
tericos podemos colocar que esses trs traam um caminho do biolgico ao maqunico. De
certa forma, portanto, os trabalhos de deGrey e Yudkowsky podem funcionar como partes
complementares da proposta de Kurzweil. Pelo menos num nvel mais abstrato, afinal, deGrey
no trabalha com a nanotecnologia como soluo anti-evelhecimento, embora ao falar de
gentica Kurzweil (2005) tenha deGrey como principal referncia. E do ponto de vista da
robtica, Yudkowsky trabalha com a noo de seed-AI ao passo que Kurzweil trabalha com
Strong-AI178, que, embora sejam conceitos diferentes, so oriundos de uma mesma lgica. De
toda forma, em ambos os casos, essas discrepncias revelam apenas abordagens diferentes
para um fim muito semelhante: a superao da morte. Alm disso, o trabalho de Kurzweil
bastante mais especulativo que o dos outros dois autores. Yudkowsky trabalha com FAIs
como forma de evitar um possvel cenrio catastrfico das AIs egostas e fora de controle.
Aubrey deGrey trabalha com a tentativa de soluo do envelhecimento, que j um problema
presente e que tende a permancer se nada mudar. Ou seja, para o autor o cenrio j
catastrfico e seus estudos se propem como possvel soluo. Kurzweil por outro lado, est
mais preocupado com as maravilhas do futuro do que com os potenciais problemas, e teoriza
sobre a importncia da complementariedade das abordagens futuristas biolgica e robtica 179.

177
() Singularity will begin with the fifth epoch. It will result from the merger of the vast knowledge
embedded in our own brains with the vastly greater capacity, speed, and knowledge-sharing ability of our
technology. The fifth epoch will enable our human-machine civilization to transcend the human brain's
limitations of a mere hundred trillion extremely slow connections. () We will preserve and enhance the
intelligence that evolution has bestowed on us while overcoming the profound limitations of biological evolution
(Kurzweil, 2005, p. 30) .
178 O conceito de Strong-AI se refere a Artificial general intelligence (AGI), isto , uma AI que tem habilidades
para realizar qualquer atividade dependente de inteligncia que um humano capaz. O conceito de seed-AI vai
alm e fala de AGIs capazes de modificar os prprios cdigos para melhoramento constante e infinito.
179 De maneira bastante mais simples poderemos dizer que tanto deGrey quanto Yudkowsky reconhecem a
possibilidade de um rompimento de fronteiras entre biologia e robtica. Contudo, ambos colocam essa fuso no
118

A primeira metade do sculo XXI ser caracterizada por trs revolues que se sobrepem
na gentica, na nanotecnologia, e na robtica. Essas revolues vo convergir no incio desse
perodo de tremenda mudana que eu me refiro como a Singularidade 180 (Kurzweil, 2005, p.
40). Como indica a citao, as trs revolues se sobrepem e sobre elas que falo a seguir.

G, a revoluo gentica: Para Kurzweil essa a revoluo que j comeou e que promete
apresentar num futuro prximo muitos avanos. O autor define essa revoluo como o
momento em que a gentica finalmente est interseccionada com a informao. O DNA no
mais que a parte digital das clulas, onde os dados so armazenados e transmitidos. Vale notar
que para Kurzweil isso no apenas uma metfora. Ele realmente est sugerindo que as
informaes celular e computacional so da mesma natureza, apenas em diferentes casas. A
revoluo gentica permite a emergncia das estratgias que visam desacelerar ou reverter o
processo do envelhecimento, ou que de alguma forma impeam que a biologia181 seja um
problema. No por acaso, dominante na abordagem citaes a Aubrey deGrey, s SENS e
medicina regenerativa de modo geral. Embora reconhea que muitas dessas estratgias j
sejam possveis hoje, Kurzweil faz vrias previses sobre o que acontecer quando a
revoluo G se concretizar. Enumero algumas delas: i. Uma cura definitiva para o cncer e
para as doenas do corao; ii. A superao completa do envelhecimento e,
consequentemente, das doenas causadas pelo envelhecimento; iii. A clonagem (inclusive
humana) como estratgia chave para a resoluo de uma srie de problemas da humanidade,
dentre os quais se destaca a fome, que o autor cita explicitamente.

Estamos nos primeiros estgios da revoluo gentica hoje. Entendendo os processos


informacionais subjacentes vida, estamos aprendendo a reprogramar nossa biologia
para alcanar a virtual eliminao de doenas, expanso dramtica do potencial
humano, e extenso radical de vida. Contudo, Hans Moravec do Instituto de Robtica
da Carnegie Mellon University aponta que, no importa quanto sucesso ns pudermos
alcanar com nossa biologia de DNA, a biologia nunca ser capaz de alcanar nossas
capacidades de engenharia quando entendermos completamente os princpios de
operao da vida. Em outras palavras, ns sempre seremos robs de segunda classe.
A revoluo nanotecnolgica nos permitir redesenhar e reconstruir molcula por

mbito da possibilidade de um futuro distante e ambos em seus presentes trabalhos operam uma separao
objetiva entre biologia e robtica, orgnico e artificial. Yudkowsky, como Kurzweil, aposta na robtica porque
acredita na obsolncia do corpo biolgico. Por outro lado, deGrey no abre mo do corpo e indica com
radicalidade e preciso que o problema o envelhecimento e no o corpo em si, de modo que no se abre mo
dele, da mesma forma que, digamos, trata-se uma mo ferida antes de que se cogite uma mo binica.
180
Traduo livre de: The first half of the twenty-first century will be characterized by three overlapping
revolutionsin genetics, nanotechnology, and robotics. These will usher in the beginning of this period of
tremendous change I refer to as the Singularity (Kurzweil, 2006, p. 40).
181 Em geral, quando o autor se refere a biologia ele no est falando da disciplina mas da organicidade dos
corpos animais.
119

molcula nossos corpos e crebros e o mundo com o qual interagimos, indo muito
alm das limitaes da biologia182 (Kurzweil, 2005, p. 40).

N, a revoluo nanotecnolgica: a primeira leitura das previses de Kurzweil bastante


curiosa. Uma parte de nossa conscincia nos informa que quem escreve um cientista,
inventor de longa carreira, chamado de gnio por boa quantidade de pessoas e meios de
comunicao. Outra parte claramente entra em conflito com previses que chegam a ser
esotricas. E esse conflito uma leitura muito particular porque nos coloca na estranha
posio de questionar a autoridade do autor pelo contedo, ao mesmo tempo em que, pela
autoridade do autor, legitimamos partes do contedo que no legitimaramos normalmente.
Coloco essa anedota aqui porque na revoluo do N que as coisas comeam a soar
especulativas demais para uma narrativa que se pretende cientfica. At aqui, dizer que
poderemos muito em breve acabar com o cncer ou com a fome atravs de novas tecnologias
parece esperanoso, utpico, mas objetivos que no envolvem dilemas ticos profundos
demais. Afinal, quem recusaria a possibilidade de acabar com a fome ou com o cncer?
Contudo, como explica o prprio autor, a revoluo gentica uma revoluo biolgica, e
jamais poder nos livrar da obsolncia do organismo. Apesar disso, ela pr-requisito para
que seja possvel uma revoluo nanotecolgica.
A lei de Moore passou por revises por parte de seu autor, mas tambm por releituras
aplicadas a outros contextos. Fato que concretizao da previso de crescimento
exponencial da capacidade de processamento dos chips tem sido usada como muleta para a
previso de crescimento exponencial de vrias outras tecnologias sob diversos aspectos. A lei
de Moore faz parte da argumentao de todos os autores singularitarians citados at aqui.
Para Kurzweil, contudo, ela bastante mais fundamental. Sua principal tese para sustentar
suas previses, chamada de lei dos retornos acelerados consiste justamente na aplicao de
projees exponencias para diferentes tecnologias da informao que se combinam at o
ponto culminante da Singularidade. Enquanto o prprio Moore previu uma saturao do
crescimento que antecipou, Kurzweil ignora essa parte, comprovando que usa a lei de Moore

182
Traduo livre de: We are in the early stages of the genetics revolution today. By understanding the
information processes underlying life, we are learning to reprogram our biology to achieve the virtual
elimination of disease, dramatic expansion of human potential, and radical life extension. However, Hans
Moravec of Carnegie Mellon Universitys Robotics Institute points out that, no matter how successfully we fine-
tune our DNA-based biology, biology will never be able to match what we will be able to engineer once we fully
understand lifes principles of operation. In other words, we will always be second class robots. The
nanotechnology revolution will enable us to redesign and rebuild molecule by moleculeour bodies and
brains and the world with which we interact, going far beyond the limitations of biology (Kurzweil, 2006, p. 40).
120

a partir de aspectos especficos e os expande. Um dos aspectos levados em conta por


Kurzweil a minituriarizao das tecnologias. a lgica da minuturiarizao exponencial que
o leva nanotecnologia.

A nanotecnologia promete as ferramentas para reconstruir o mundo fsico nossos


corpos e crebros inclusos fragmento de molcula por fragmento de molcula,
potencialmente tomo por tomo. Ns estamos escolhendo a dimenso chave para a
tecnologia, de acordo com a lei dos retornos acelerados, na taxa exponencial de
aproximadamente um fator de quatro por dimenso linear a cada dcada. Nessa
acelerao, os tamanhos chave para a maioria dos eletrnicos e muitas tecnologias
mecnicas sero do mbito da nanotecnologia geralmente considerado por menos
que cem nanmetros em 2020183 (Kurzweil, 2005, p. 179).

a passagem da revoluo G para a N que d suporte inicial macronarrativa da


fuso da maqunico e orgnico. Kurzweil argumenta que a nanotecnologia j usada hoje em
testes pela medicina. A partir do momento em que houverem nanobots pequenos o suficiente
para serem incorporados ao corpo como feita na nanotecnologia mdica, o mundo passar
por uma transformao profunda. Inicialmente a medicina seria revolucionada pela
possibilidade de consertar orgos internamente, ou levar drogas a regies especficas do
corpo. Contudo, a medida em que nanobots e molculas comeam a interagir
harmoniosamente, o que entra em pauta a transformao do corpo, e da matria de modo
geral, de acordo com as vontades pr-programadas.

A revoluo nanotecnolgica vai nos permitir fazer algo muito maior que
simplesmente tratar doenas. Em ltima instncia, a nanotec nos permitir redesenhar
e recosntruir no apenas nossos corpos e crebros, mas todo o mundo com o qual
interagimos. A realizao completa da nanotecnologia, contudo, acontecer cerca de
uma dcada depois da revoluo biotecnolgica. Em meados da dcada de 2020, os
efeitos da revoluo nanotecnolgica sero amplamente difundidos e bvios184
(Kurzweil, 2005, p.43).

no crebro, contudo, que Kurzweil acredita que haver as maiores mudanas


permitidas pelas nanotecnologias. Estas seriam capazes de se comunicar entre si e aumentar
infinitamente nossa capacidade de raciocnio e memria. Alm disso, a comunicao do

183
Nanotechnology promises the tools to rebuild the physical worldour bodies and brains included
molecular fragment by molecular fragment, potentially atom by atom. We are shrinking the key feature size of
technology, in accordance with the law of accelerating returns, at the exponential rate of approximately a factor
of four per linear dimension per decade. At this rate the key feature sizes for most electronic and many
mechanical technologies will be in the nanotechnology rangegenerally considered to be under one hundred
nanometersby the 2020s (Kurzweil, 2005, p. 179).
184
The revolution in nanotechnology will allow us to do a great deal more than simply treat disease. Ultimately,
nanotech will enable us to redesign and rebuild not only our bodies and brains, but also the world with which we
interact. The full realization of nanotechnology, however, will lag behind the biotechnology revolution by about
one decade. But by the mid to late 2020s, the effects of the nanotech revolution will be widespread and obvious
(Kurzweil, 2006, p.43).
121

crebro com computadores, mas tambm outros crebros, seria possvel sem fios. Kurzweil
est literalmente prevendo para a prxima dcada a comunicao teleptica entre humanos e
computadores e entre humanos e humanos por meios de super-crebros emancipados pelos
nanobots de ltima gerao.

A implementao de AI nos nossos sistemas biolgicos marca um salto evolutivo para


a humanidade, mas tamtm implica que seremos de fato mais mquinas que
humanos. Bilhes de nanobots viajaro na nossa corrente sangunea nos nossos
corpos e crebros. Nos nossos corpos, eles destruiro agentes patognicos, corrigiro
erros de DNA, eliminaro toxinas, e performaro muitas outras tarefas para melhorar
nosso bem-estar fsico. Como resultado, sereremos capazes de viver indefinidamente
sem envelhecer185 (Kurzweil, 2005, p. 43).

Para o autor seremos cada vez mais mquinas e menos humanos. Nesse sentido,
humano significa nossas razes orgnicas, a biologia. No sentido mais amplo de seu livro de
2005, Kurzweil deixa claro em mais de uma passagem que no define o humano pela
organicidade, mas antes, pela vontade e capacidade de produzir auto-melhoramento. Ento
talvez a nossa discordncia bsica sobre a natureza de ser humano. Para mim, a essncia de
ser humano no so as nossas limitaes apesar de termos muitas a nossa habilidade de
ultrapass-las186(Kurzweil, 2005, p. 229). Quando Kurzweil, 2005, afirma que o humano no
suas limitaes, ele se refere biologia. Ao dizer que o humano romper os limites, ele
insere na definio de humano o romprimento da separao entre orgnico e maqunico dos
corpos biolgicos. O maior perigo que reside nessa definio que a histria e materialidade
humana deixam de ter qualquer valor. O corpo passa a ser livremente transformvel, e no h
distino entre realidade virtual e um mundo real. Se o que define o humano essa
capacidade de auto-superao, ento praticaramos uma toro indita na evoluo, onde no
mais a seleo natural, mas a evoluo programada passa a acontecer. Tal como as AIs da
escola Intelligence Explosion, que criaro inteligncias cada vez mais superiores. Nesse
sentido, as seed-AIs amigveis de Yudkowsky so timas candidatas a novos humanos. O que
poderia representar para uma FAI que tem como supermeta ser amigvel com humanos se
tornar humana? Um plot twist com o retorno da AI egosta que Yudkowsky tanto teme?

185
The implementation of artificial intelligence in our biological systems will mark an evolutionary leap forward
for humanity, but it also implies we will indeed become more machine than human. Billions of nanobots
will travel through the bloodstream in our bodies and brains. In our bodies, they will destroy pathogens, correct
DNA errors, eliminate toxins, and perform many other tasks to enhance our physical well-being. As a result, we
will be able to live indefinitely without aging (Kurzweil, 2006, p. 43).
186
Traduo livre de: Then perhaps our basic disagreement is over the nature of being human. To me, the
essence of being human is not our limitationsalthough we do have manyit's our ability to reach beyond our
limitations (Kurzweil, 2005, p. 229).
122

Sabemos que Yudkowsky odeia as AIs de Hollywood por sua falta de conexo com a
realidade cientfica do campo da AI. A diferena fundamental aqui que as fices cientficas
de Hollywood, diferente de Kurzweil, no tm a pretenso de serem previses formais, muito
menos cientficas. Colocada a kurweilian merger e esse polmico ps (ou ex?) humano, fica
compreensvel porque Kurzweil entende que a revoluo R, da robtica, a mais importante e
responsvel por incutir em definitivo a Singularidade como novo universo.

R, a revoluo da robtica: O marco fundamental da entrada da revoluo robtica a


chegada de mquinas com inteligncia superior a dos humanos, ou nos termos do autor,
strong-AIs. A revoluo nano/robtica vai tambm nos forar a reconsiderar a prpria
definio de humano. No apenas estaremos rodeados de mquinas com caractersticas
humanas, como ns tambm seremos menos humanos de um ponto de vista literal 187
(Kurzweil, 2005, p. 44).
Quando o autor marca revoluo nano/robtica em conjunto ele est colocando uma
questo ontolgica de interesse filosfico sobre a questo. Revolues R e N formulam um
dilema do tipo ovo ou galinha. Embora Kurzweil considere mais provvel que a revoluo N
acontea antes, ele no desconsidera a possibilidade de que uma strong-AI seja criada antes da
nanotecnologia necessria para a revoluo N. De toda forma, uma revoluo apoia a outra,
no sentido de que s h Singularidade numa revoluo NGR completa. Qualquer que seja a
ordem, ovo ou galinha, nanobots ou strong-AI, o resultado fundamental da Singularidade de
Kurzweil a chegada de um ps-humano que honra o prefixo do termo. No sobrar nada do
antigo.

c) Singularity University

Dentre as trs instituies aqui citadas, a Singularity University (SU) de longe a mais
importante para o Singularismo enquanto ideolgia. Isso se d por uma srie de razes que
discuto a seguir. Nenhuma outra instituio analisada nesta pesquisa tem ambies e alcance
to grandes como a SU. Ela foi fundada em 2008, h pouco mais de 8 anos atrs, por Ray
Kurzweil e Peter Diamandis. Desde sua fundao, juntou-se ao MIRI, ento SIAI, para

187
Traduo livre de: The nano/robotic revolution will also force us to reconsider the very definition of human.
Not only will we be surrounded by machines that will display distinctly human characteristics, but also we will
be less human from a literal standpoint (Kurzweil, 2006, p. 44).
123

organizar os Singularity Summits, que assumiu sozinha em 2012 188. a nica entre as trs
instituies que no uma 501(c)(3), colocando-se na prtica como uma instituio que visa
lucros. Tal como os escritos de Kurzweil, nasceu com ambies grandiosas. Isso se d por
vrias frentes.
O nome universidade pode causar estranhamento a princpio, pois no se trata de
uma universidade tradicional. No so oferecidos diplomas e os alunos no precisam cumprir
crditos. H planos para que haja no futuro professores que so AIs, como mostra reportagem
da Wired189. H, na verdade, por trs da proposta, a noo de que a instituio seja uma
espcie de vanguarda do que viro a se tornar as universidades. Matria do Estado cobrindo
a SU d o tom de sua ambio: 'Universidade do futuro' desafia alunos a impactar vida de 1
bilho de pessoas190. Mas como poderia uma universidade impactar a vida de 1 bilho de
pessoas? E quais caractersticas permitem que ela seja classificada como uma universidade do
futuro?
A conexo entre a SU e as ideias de Kurzweil est desde os pequenos detalhes. A
primeira frase que lemos ao entrar em seu site Be exponential. Logo em seguida podemos
ler:

Na Singularity University acreditamos que nosso mundo tem pessoas, tecnologias e


recursos para resolver qualquer problema, mesmo os mais urgentes e presistentes
desafios da humanidade. Como uma catalisadora da mudana global, ns ajudamos
outros a alavancarem tecnologias de acelerao rpida incluindo inteligncia
artificial, nanotecnologia, robtica, e biologia digital de modos inovadores para
desbloquear solues que podem impactar postivamente a vida de bilhes.191 192

Consideradas as temticas, o apelo ao exponencial e as metas de impacto global,


fica claro que os princpios que regem a universidade esto em perfeita harmonia com a teoria
de seu fundador. Uma catalisadora da mudana global uma descrio que em certa medida
se aproxima da descrio da SRF como facilitadora. Com a universidade, contudo, esse
papel ganha uma dimenso muito maior. A SU , antes de tudo, uma instituio que prepara
pessoas e outras instituies para praticar e divulgar seus princpios, o que a torna uma

188 < http://singularityu.org/2012/12/09/singularity-university-acquires-the-singularity-summit/ > ltimo acesso


em 18/01/2017
189 < https://www.wired.com/2012/08/singularity-university-upgrade/ > ltimo acesso em 18/01/2017
190 < http://educacao.estadao.com.br/noticias/geral,universidade-do-futuro-desafia-alunos-a-impactar-vida-de-1-
bilhao-de-pessoas,849241 > ltimo acesso em 18/01/2017
191
Traduo livre de: At Singularity University we believe our world has the people, technology, and resources
to solve any problem, even humanitys most urgent, persistent challenges. As a catalyst for global change, we
help others leverage rapidly accelerating technologiesincluding artificial intelligence, nanotechnology,
robotics, and digital biologyin innovative ways to unlock solutions that can positively impact billions of lives.
192 < https://su.org > ltimo acesso em 18/01/2017
124

espcie de centro de influncia global, de onde os participantes levam um pouco do Vale do


Silcio para vrios lugares do mudo.
As ambies grandiosas da SU so resumidas a partir dos 12 Global Change
Challenges (GCC) 193. Os 12 GCC indicam princpios e problemas que a universidade se
prope a resolver. Eles so subdivididos em dois grupos: necesssidades de recursos e
necessidades sociais. No primeiro grupo esto: i. Energia ampla, sustentvel e acessvel para
toda a humanidade; ii. Sustentabilidade e igualdade no meio-ambiente para um
funcionamento perfeito local e globalmente; iii. Comida saudvel, segura e suficiente para
todas as pessoas, todo o tempo; iv. Moradia sustentvel para diverso, residncia e indstrias
para todas as pessoas, todo o tempo; v. Uso seguro e igualitrio do espao, visando o futuro
interplanetrio da humanidade; vi. gua limpa e potvel para todas as pessoas, todo o tempo.
O segundo grupo indica: i. Reduo de risco de desastres ambientais; ii. Participao
igualitria de todas as pessoas na governana, seguindo os princpios da justia e das
liberdades individuais, sem discriminao ou preconceito com identidades; iii. Sade fsica e
mental e acesso preveno, diagnstico e tratamento para todos; iv. Acesso informao e
conhecimento para todas as pessoas em todos os momentos para que possam contribuir com o
mundo; v. Igualdade e erradicao da pobreza para permitir que todas as pessoas tenham
acesso s oportunidades econmicas; vi. Proteo fsica e psicolgica no mundo real e virtual
para todas as pessoas.
Como podemos perceber os GCC no so desafios fceis de cumprir. Mas o mais
importante da amplitude desses desafios que colocam, desde j, a questo ontolgica que
envolve a instituio. Afinal, o que a universidade do futuro? J sabemos que ela no
como as outras universidades. David Roberts, empreendedor e professor da instituio, indica
em entrevista ao El Pas brasileiro que as universidades como conhecemos esto fadadas ao
desaparecimento. A SU ocupa, ento, essa lacuna. Mas se observamos com cuidado, h mais
por trs da previso do fim das universidades. Na mesma entrevista, Roberts afirma que
aprendeu quando criana que Thomas Edison havia feito mais pela humanidade do que
qualquer poltico. Embora esse discurso remeta diretamente a uma direita contempornea que
se pretende apoltica, o que quero mostrar aqui como a SU sai do escopo meramente
universitrio e passa a ocupar uma posio coringa. Olhando para seu funcionamento e
agressivo plano de expanso observamos que no so apenas as universidades que a SU
pretende substituir, mas sim toda aquela gama de instituies burocrticas que marcam a

193 < https://su.org/about/global-grand-challenges/ > ltimo acesso em 18/01/2017


125

crtica contracultural da ideologia da Califrnia. A SU quer atuar onde atuam as


universidades, os Estados e todo seu aparato institucional, as organizaes internacionais e
tambm as ONGs. Chamar-se de universidade pode tirar de vista que a SU se pretende ser
muito mais do que entedemos hoje como universidade.
Para conquistar esse difcil objetivo o mtodo parece claro: a SU educa pessoas de
todo o mundo para que elas levem os princpios da universidade de volta para suas cidades,
em uma espcie de corrente. O objetivo global e as estratgias globalizadas, mas as tticas
com efeitos de longo prazo so locais. Tal como o capitalismo, globalizado, mas tambm
construdo localmente, a estratgia poltica da SU mostra um ponto de vista neoliberal de
mundo. Dados do site da instituio mostram que at o momento eles j educaram mais de 10
mil pessoas de 95 pases diferentes, com a particular preocupao de ter um nmero prximo
de homens e mulheres, tanto entre os estudantes como no quadro de profissionais 194 - o que
mostra ateno com questes polticas contemporneas. As previses para 2020 so que eles
tenham educado um milho de estudantes de 150 pases195. Considerando que em sete anos de
existncia foram 10 mil (os dados so de 2015) e a expectativa para 2020 de um milho de
estudantes, fica claro o objetivo de grande expanso e tambm a lgica exponencial aplicada
em recurso humano para alm dos recursos tecnolgicos.
Dentre as trs instituies que trato aqui, nenhuma parece estar to harmonizada com o
Vale do Silcio. Como indiquei em mapa anterior, a SU fica em Mountain View, no corao
do Vale do Silcio. Seu programa de vero conta com patrocnio de grandes empresas, e
Nokia e Google j exerceram esse papel. Alm disso, a SU funciona como uma incubadora de
startups, fomentando com recursos, espao e pessoal, empresas de tecnologias que reafirmem
os princpios da instituio volto a esse tpico a seguir. Os professores da universidade
costumam estar associados a prticas empreendedoras e no necessariamente so escolhidos a
partir de formao acadmica slida. Quando seu professor trabalha no Google, diz
manchete de reportagem da Fortune 196. Mesmo com a perspectiva liberal, mesmo com
empreendorismo como meta, mesmo sendo a universidade do futuro, mesmo sendo a
instituio coringa que no precisa do Estado, a SU tem em si uma das mais antigas
contradies do Vale do Silcio: o discurso anti-Estado conjugado com uma estreita relao
com o mesmo Estado. No caso da SU, o fato mais notvel que demonstra essa contradio

194 < https://su.org/about/diversity-inclusion/ > ltimo acesso em 18/01/2017


195 < https://su.org/impact/ > ltimo acesso em 18/01/2017
196 < http://fortune.com/2013/09/16/when-the-professor-works-at-google/ > ltimo acesso em 18/01/2017
126

sua localizao, dentro do stio de pesquisa da NASA. Adiciona interesse a esse fato um
acontecimento de 2014: a NASA cedeu o territrio, chamado de NASAs Moffett Federal
Airfield por 60 anos para o Google. O objetivo que o Google realize pesquisas espaciais e
de robtica. Ento, para todos os efeitos, a SU hoje se encontra dentro do campus de parceria
entre Google e NASA para a pesquisa espacial e de robtica 197. O mapa que segue uma
fotografia tirada no Google Maps.

Por fim, comento os projetos da SU que ajudam a entender melhor todas essas
questes que coloquei. difcil cobrir todas as atividades da universidade, que vem crescendo
ano aps ano, de modo que preconizo aqui os principais programas e projetos que fazem da
SU uma facilitadora e uma aceleradora com intenes de expanso global.

SU Labs: a incubadora da SU. Recebe projetos de empresas, mas tambm startups e


empreendedores individuais. O Singularity University Labs (SU Labs) o local onde lderes
e agentes transformadores de todo o globo se renem para pensar, inovar e solucionar seus e
do mundo problemas mais intimidadores198199. Segundo a pgina inicial do programa, seu
objetivo criar uma rede de inovadores que transformem negcios comuns em exponenciais.

197 < http://www.nbcnews.com/science/space/google-takes-over-nasas-moffett-airfield-robot-space-research-


n245561 > ltimo acesso em 18/01/2017
198
Traduo livre de: Singularity University Labs (SU Labs) is the place where leaders and changemakers from
across the globe come to ideate and innovate solutions to theirand the worldsmost daunting problems
199 < https://su.org/su-labs/ > ltimo acesso em 18/01/2017
127

O lema do SU Labs Acelerando inovao para construir solues exponenciais. O Labs


fornece, alm da rede, laboratrios e financiamento, o que o torna um pequena fbrica de
startups alinhadas com os princpios da universidade.

SingularityU Global: Essa a iniciativa mais importante no sentido de tornar a SU um


instituio global. A inteno que a SingularityU Global seja uma rede de redes em cidades
locais e pases: uma combinao de comunidades, programas e parcerias em todo o
globo200.201. A SU cria parceiros em vrias cidades de todo o mundo para organizar
diferentes tipos de evento, cujo objetivo primrio educar pessoas para a criao de empresas
e buscar solues exponenciais para os GCCs. A principal unidade da SU Global so os
chapters, que so uma espcia de clula da SU funcionando localmente 202. Como mostra o
mapa que vemos a seguir, existem dezenas de chapters em cidades de todos os cotinentes.
Existem cinco chapters no Brasil no momento, em Belo Horizonte, Rio de Janeiro, So Paulo,
Florianpolis e Porto Alegre.

SingularityU Community Chapters so o primeiro passo para sustentar o ecossistema


de inovao da SU. Eles constroem uma comunidade. Com um alicerce forte na
comunidade, h oportunidades de fazer muito mais para apoiar inovao na regio.
Chapters facilitam networking com eventos locais e regionais, hospedando
competies, dando boas-vindas aos novos alunos e permitindo conexes e atividades
significantes. Cada Chapter criado por alunos voluntrios 203 204.

200
Traduo livre de: The intention is for SingularityU Global to be a network of networks in local cities and
countries: a combination of communities, programs, and partnerships all over the globe.
201 < http://singularityuglobal.org/about/the-global-plan > ltimo acesso em 18/01/2017
202 O mapa que segue disponibilizado no site da SU e marca todos os chapters funcionando atualmente com
link direto para o sites dos chapters, de modo que os visitantes do site possam entrar em contato com o mais
prximo de sua cidade. < http://singularityuglobal.org/community/chapters > ltimo acesso em 18/01/2017
203
Traduo livre de: SingularityU Community Chapters are a first step towards supporting SingularityU
innovation ecosystems. They build community. With a strong community foundation, there are opportunities to
do much more to support innovation in the region. Chapters facilitate networking through local and regional
events, host competitions, welcome new alumni, and enable meaningful connections and activities. Each Chapter
is created by alumni volunteers
204 < http://singularityuglobal.org/about/the-global-plan > ltimo acesso em 18/01/2017
128

Alm dos chapters, o SU Global prev a realizao de Salons, que so encontros


curtos e espordicos com palestras de empreendedores locais, e os summits, que so anuais e
acontecem em algumas cidades chave. Os summits possuem um carter mais oficial e, embora
sejam organizados pela chapters, tm contedo definido desde a sede no Vale do Silcio.
Ainda dentro do SU Global h o Innovation Hubs, que funcionam como incubadora da
universidade fora dos Labs e sua sede na Califrnia. Atualmente h um Innovation Hub
funcionando em Amsterd. Fora dessas estratgias comuns, a SU tem estabelecido parcerias
com universidades internacionais. A brasileira FIAP diz ser a primeira parceira brasileira da
universidade do futuro205. H pelo menos duas estratgias bastante divulgadas dessa
parceria. Uma o espao de coworking na avenida Paulista, onde pareceiros de ambas as
universidades podem criar um ambiente que se pretende como uma verso mais simples de
um SU Lab206. Alm disso, a FIAP organiza o executive program da SU, formando alunos
com material e metodologia importados da Califrnia e produzidos pela SU 207. Como
podemos ver, h razes slidas para acreditar na expanso global e na funo coringa da SU.
A SU oferece vrios outros tipos de cursos, voltados tanto a empresas como a
indivduos, e a oferta desses cursos cada vez mais global. Para os propsitos deste trabalho,
contudo, no necessrio trat-los com especificidade.

205 < https://www.fiap.com.br/institucional/#disrupcao > ltimo acesso em 18/01/2017


206 < https://www.fiap.com.br/imprensa/fiap-e-singularity-university-inauguram-coworking-space-na-avenida-
paulista/ > ltimo acesso em 18/01/2017
207 < https://www.fiap.com.br/2012/03/22/fiap-realiza-2-edicao-do-executive-program-da-singularity-
university/ > ltimo acesso em 18/01/2017
129

4.5 A Singularidade uma supermeta

Tive trs intenes principais com esse captulo. A primeira foi que o leitor tivesse
contato direto com o contedo dos trabalhos de singularitarians, apresentando trs grandes
ideias do escopo do Singularismo: i. Guerra anti-envelhecimento; ii. Friendly Artificial
Intelligence; iii. Kurzweilian Merger. A segunda foi associar esses autores a instituies
chave, com as quais comeam a formar a malha de uma rede e, tambm, criam uma relao de
gnio/Vale do Silcio que acompanha os dois mitos com os quais comecei este captulo. A
terceira e mais fundamental inteno deste captulo foi tentar mostrar o Singularismo
operando como rede, num desenho de rede bastante especfico.
Pegando emprestado a lgica do sistema de metas de Yudkowsky, podemos pensar que a
Singularidade, tomada pelos objetivos principais do Singularismo, funciona como uma
supermeta, na qual gnios e instituies, bem como pessoas e empresas que eles impactam,
so como submetas para esse fim. Se operarmos com complexidade poderemos pensar nessas
estatgias em vrios nveis. Os trs autores aqui retratados tm como um dos objetivos
comuns a superao da morte o que tambm os unifica como transhumanistas. Em um nvel
especfico de complexidade, ento, o anti-envelhecimento e a construo da FAIs podem se
relacionar como metasfilho para uma metapai superao da morte. Nesse sentido, enquanto
Yudkowsky e deGrey esto trabalhando cada um com uma metafilho, Kurzweil est traando
uma rede, onde indica que a metapai Singularidade s ser alcanada numa combinao das
metafilhos.
130

Some years ago, around the turn of the last century, a splinter
faction emerged among our people a coterie of disaffected
peculiars with dangerous ideas. They believed they had discovered a
method by which the function of time loops could be perverted to
confer upon the user a kind of immortality; not merely the
suspension of aging, but the reversal of it. They spoke of eternal
youth enjoyed outside the confines of loops, () suffering none of
the ill effects that have always prevented such recklessness in
other words, of mastering time without being mastered by death.
The whole notion was mad absolute bunkum a refutation of the
empirical laws the govern everything!

Miss Peregrine , personagem de Ramson Riggs em Miss Peregrine


home for peculiar Children, descreve os Wights figuras
mitolgicas geralmente traduzidas como Alma Penadas em
portugus.
131

5. O SINGULARISMO COMO IDEOLOGIA

O leitor que chega a esse ltimo captulo pode se perguntar: por que ideologia? Por
que no movimento, coletivo, ou outro nome que possa unir um grupo de ideias e pessoas? A
razo muito simples. O trabalho de Wolf (1999) nos d uma caixa de ferramentas para
trabalhar com objetos que so, ou foram, projetos de poder, concretizados ou no. claro que
h outras abordagens com as quais se poderia tomar projetos de poder como objeto. A
proposta de Wolf, contudo, atravessa duas vises que tm, historicamente, tratado esse objeto
separadamente. Na pesquisa cultural o poder estrutural foi por muitas vezes negligenciado, da
mesma forma que na pesquisa materialista a cultura, as ideias e as manifestaes materiais
dessas ideias, por vezes, passam despercebidas. No se trata portanto apenas de olhar para
projetos de poder, mas de olhar para esses projetos pensando na relao entre ideias e poder, e
no impacto dos imaginrios no mundo material.

Essa foi minha inteno nessa pesquisa. Distanciar-me de uma abordagem


antropolgica que fosse uma descrio de um presente congelado, no qual as relaes de
poder esto dadas nem passaram por transformaes, nem sugerem que passaro. Para isso
formulei um desenho terico que visou cumprir essa proposta. No primeiro captulo,
estabeleci alguns conceitos em torno do Singularismo que pudessem ajudar o leitor a conhecer
minimamente o objeto antes de adentrar a reflexo. Com o segundo captulo pretendi colocar
a caixa de ferramentas de Wolf aberta. Indiquei quais conceitos guiaram a anlise, desde o
princpio. O terceiro e quarto captulos merecem uma observao mais cuidadosa.

O terceiro captulo tem dupla funo: a primeira recuperar os imaginrios


estruturados que foram reinterpretados pelos singularitarians, para se tornarem fontes para
verdades e inevitabilidades de seus discursos e previses. Em suma, tentei mostrar
ciberntica, transhumanismo e ideologia da Califrnia como cosmologias do Singularismo. A
segunda era fazer uma breve histria social das ideias que foram fundamentais para a
construo da prpria noo de Singularidade, definida no primeiro captulo. Tratar as trs
partes do terceiro captulo como cosmologias exige que passemos de novo pelos conceitos de
Wolf, o que fao a seguir. No quarto captulo, o maior dessa dissertao, tentei esboar para o
leitor parmetros atuais que sugerem o projeto de poder do Singularismo. Para isso, descrevi
uma rede de autores e instituies e frisei a localidade do Vale do Silcio como centro
132

geopoltico. Alm disso, dediquei-me a apresentar com mais cuidado a proposta terica de
trs expoentes do Singularismo. Em certo sentido, o quarto captulo preenche a lacuna
temporal deixada pelo terceiro. Se no terceiro so contextos passados e uma breve histria das
ideias que culminaram no conceito de Singularidade, o quarto pretende ser ao mesmo tempo a
descrio do presente tipicamente antropolgico, e tambm um futuro traado atravs das
teorias futuristas dos autores singularitarians. Por fim, a noo de rede vertical marca tanto o
presente, porque j explorada por empresas e outras instituies silicianas, como um projeto
de futuro, onde instituies coringas como Singularity University seriam substitutas das
grandes instituies burocrticas com cara de sculo XX.

5.1. Cosmologias do Singularismo e o projeto de poder adjacente

Como expliquei no captulo 2, cosmologia para Wolf no o mesmo que a cultura. A


cosmologia composta por conexes feitas em arranjos culturais e histricos especficos. Sua
funo na narrativa terica de Wolf fornecer material imaginrio para as ideologias.
Aspectos da cosmologia so ampliados e elaborados em ideologias que explicam e justificam
208
as aspiraes de poder de grupos especficos sobre a sociedade (Wolf, 1999, p. 290). A
relao cosmologia-ideologia a forma terica com a qual Wolf tenta responder a questo de
como se conectam ideias e poder. Nesse sentido, tomar o Singularismo como ideologia exige
buscar quais ideias fundamentam seu projeto de poder. E essa justificao encontrada numa
interpretao muito particular desses imaginrios culturais estruturados. As cosmologias do
Singularismo so, portanto, uma colcha de retalhos feitas por singularitarians a partir de
imaginrios estruturados que tm a funo de operar como justificativa para seu projeto de
poder. Ou seja, a ciberntica no em si mesma necessariamente uma cosmologia do
Singularismo, mas um imaginrio estruturado para uma srie de ideologias, do passado, do
presente e do futuro. o que o Singularismo faz da ciberntica que se torna uma cosmologia
particular a essa ideologia. Como disse antes neste trabalho, as ideologias buscam nas
cosmologias justificao para verdades e inevitabilidades em seu projeto de poder.
Compreender como o Singularismo usa da ciberntica como justificao tentar compreender
quais aspectos da ciberntica foram selecionados e/ou reintepretados para conferir aos

208 Traduo livre de: Aspects of cosmology are further extended and elaborate into ideologies that explain
and justify the aspirations of particular claimants to power over society (Wolf, 1999, p. 290).
133

singularitarians o papel de delegados cosmolgicos e de porta-vozes das verdades inevitveis


sobre as quais se deve agir. nesse processo que acontece o duplo efeito da presena do
delegado do cosmos, onde Wolf diz que velhas ideias so reformuladas para se encaixar em
contextos muito diferentes, e novas ideias so apresentadas como verdades histricas (Wolf,
1999).

claro, e deve ser explicitado desde j, que as cosmologias do Singularismo no se


reduzem s trs sobre as quais escrevi no captulo 3. claro tambm que as cosmologias do
Singularismo podem mudar, afinal, a prpria ideologia no estvel. A escolha de
ciberntica, transhumanismo e ideologia da Califrnia um recorte desse trabalho, que no
decorrer da pesquisa pareceram ser as fontes seminais de verdade para o Singularismo. A
cargo de exemplo, no seria de todo inadequado ter tratado tambm no captulo 3 de um
evolucionismo, ou de um darwinismo social. Todos os singularitarians citados nessa
dissertao, sem exceo, citam diretamente a evoluo ou o darwinismo como argumento.
Acontece que esse darwinismo est inevitavelmente implicado com as cosmologias que citei.
esse evolucionismo darwinista associado lei de Moore que foi responsvel pelo conceito
de Singularidade tal como descrito por Vinge, por exemplo. Basta lembrar que em Vinge
(1993) o autor nos coloca que tal como o homo sapiens foi o mais evoludo em determinado
contexto, no futuro deixar de ser. E o autor no se refere a uma espcie biolgica mais
evoluda, mas sim, a um hbrido de mquina e humano por vir. tambm essa associao
entre lei de Moore e evolucionismo que faz Kurzweil se voltar ciberntica de von Neumann
e aplicar as progresses exponenciais para todas as tecnologias e no apenas capacidade
de processamento dos chips. Yudkowsky passar por reflexo semelhante para corroborar a
ideia de exploso de inteligncia. O autor vislumbra isso atravs da inteligncia artificial, e da
herana da expresso intelligence explosion tal como usada por I. J. Good. Isto , para
Yudkowsky a evoluo s entra em questo aplicada ciberntica. O mesmo acontece quando
o transhumanismo entra em pauta: para singularitarians a noo de ps-humano uma
combinao de evolucionismo e transhumanismo.

As cosmologias so conexes dinmicas e complexas, e, por essa razo, esto


implicadas em grande cadeia de imaginrios estruturados. No poderemos afirmar que a
ciberntica , per se, evolucionista ou impactada por uma espcie de darwinismo social no
ao menos sem um estudo especfico que possa colocar essa questo, o que no o caso desse.
Mas poderemos afirmar sem problemas que o Singularismo usa a ciberntica dessa forma.
134

por isso que cada uma das cosmologias do Singularismo existe de modo duplo: com certa
independncia, com nuances e complexidades histricas e culturais prprias, e numa verso
posterior, interpretada pela ideologia. No o caso de entrar no dilema relativista que
questionar se no toda verso, digamos, da ciberntica, uma interpretao. Est claro que
sim. Mas nem toda interpretao de uma cosmologia a transforma em justificao para um
projeto de poder. Continuando no uso da ciberntica como exemplo, vemos que von
Neumman no aparece no texto de Kurzweil como mera interpretao da ciberntica e seus
impactos, mas sim como uma justificativa que d efeito de verdade a duas das teses centrais
de Singularity is Near: a Singularidade como fuso homem-mquina e a Lei dos Retornos
Acelerados (Kurzweil, 2005).

Nos anos 1950, John von Neumann, o lendrio terico da informao, foi citado
dizendo que o progresso da tecnologia sempre se accelerando d a impresso da
aproximao de uma singularidade essencial na histria da raa, aps a qual as
relaes humanas como conhecemos no poderiam continuar. Von Neumann faz
duas observaes importantes aqui: acelerao e singularidade209 (Kurzweil, 2005,
p.22).

Essa citao seguida de um grfico, que foi reproduzido no captulo 4 (pgina 114),
e compara um desenvolvimento exponencial e um linear. Essa passagem mostra,
supostamente, que von Neumman acreditava na Singularidade e na acelerao exponencial
que levaria a ela. H dois saltos indutivos importantes, contudo. Kurzweil (2015) admite no
mesmo livro que o que von Neumann chamava de singularidade no o mesmo que ele ou
outros singularitarians chamam. Vinge (1993) indica isso explicitamente em seu artigo que
deu origem ao uso contemporneo do termo Singularidade: Von Neumann at usa o termo
singularidade, embora parea que ele est pensando em um progresso normal, no na criao
de intelecto superhumano 210 (p. 6). Esta passagem mostra, primeiro, que a singularidade do
autor da ciberntica no a mesma dos singularitarians. Seja o ps-humano superinteligente
de Vinge, ou a fuso de homem e mquina de Kurzweil, nenhuma dessas Singularidades
parecem ser as mesmas das de von Neumann. Ou seja, fundamentar uma singularidade
transhumanista a partir de von Neumann parece uma extrapolao importante do argumento.
A passagem mostra tambm que o criador da teoria dos jogos estaria falando sobre um
209
Traduo livre de: In the 1950s John von Neumann, the legendary information theorist, was quoted as saying
that "the ever-accelerating progress of technology ... gives the appearance of approaching some essential
singularity in the history of the race beyond which human affairs, as we know them, could not continue." Von
Neumann makes two important observations here: acceleration and singularity (Kurzweil, 2005, p.22).
210
Traduo livre de: Von Neumann even uses the term singularity, though it appears he is thinking of normal
progress, not the creation of superhuman intellect (p.6).
135

progresso normal e no de acelerao exponencial. Ainda que esse progresso normal seja
acelerado, nada indica, como nos induz Kurzweil a acreditar, que esse progresso seja
exponencial e que essa acelerao valha para todas as tecnologias. Kurzweil precisa
demonstrar uma dinmica exponencial no progresso tecnolgico, porque o fator
multiplicador constante na passagem do tempo (caracterstico do crescimento exponencial)
que o permite fazer previses rigorosamente datadas o que caracteriza a lei dos retornos
acelerados. O salto indutivo est no fato de que, embora o crescimento exponencial seja
acelerado, nem todo crescimento acelerado exponencial. Logo, no se poder por meio da
afirmao da acelerao da tecnologia de von Neumann inferir nada sobre a suposta
cientificidade das previses previamente datadas de Kurzweil. O autor leva o leitor a acreditar
que essa uma concluso lgica a partir dos estudos de von Neumann, porm est claro que o
primeiro extrapolou de modo importante o argumento do ltimo.

No se pode dizer que a apropriao feita por Kurzweil errada. O que importa aqui,
contudo, percebermos que von Neumann entra no argumento como parte importante de
forjar a veracidade e inevitabilidade acerca da Singularidade e da Lei dos Retornos
Acelerados. Este um pequeno exemplo que ajuda a mostrar como podem se conectar ideias
e poder. O que poderia ser apenas uma fonte, se transforma, quando conjugada com o
contexto ampliado da importncia da ciberntica, em cosmologia do Singularismo. Deixa de
ser apenas fonte e passa a ser verdade cosmolgica. Isso se d no apenas porque h uma
relao entre Singularismo e ciberntica, mas porque o processo que transforma as previses
de Kurzweil em verdades inevitveis, alimenta uma cadeia de relaes que pauta o projeto de
poder do Singularismo. No captulo anterior mostrei que Kurzweil foi um dos fundadores da
Singularity University, e mostrei tambm que, seguindo a influncia terica de seu fundador,
as polticas de expanso e educao da universidade so tomadas a partir do princpio do
crescimento exponencial das tecnologias como verdade. Com algum esforo poderemos traar
certo caminho que indica: uma interpretao especfica de von Neumann usada para
comprovar o crescimento exponencial das tecnologias; essa comprovao como forma de
reafirmar a Lei dos Retornos acelerados; tomada como verdadeira, a lei de Kurzweil vira
diretriz para uma instituio de pretenses enormes e de expanso global; por fim, vemos a
instituio aplicar para milhares pessoas de todo mundo uma extrapolao particular da leitura
de von Neumann, que no complexo caminho brevemente descrito ganhou fora de verdade
emancipadora de um dos aspectos do projeto de poder Singularista.
136

Buscando conexes nas bricolagens elaboradas por uma ideologia se encontra um bom
mtodo para inferir quais so as cosmologias que se relacionam com essa ideologia. Se
desejamos compeender quais aspectos de uma cosmologia esto sendo utilizados por um
projeto de poder, devemos buscar os elementos que conectam ideias de verdades e
inevitabilidades a tticas e estratgias ideolgicas. Um outro exemplo que relaciona, ainda,
Singularismo e Ciberntica est na oposio que Barbroook (2009) sugere entre as
cibernticas de von Neumann e Wiener. A primeira seria conservadora, caracterizada pela
utopia dos robs escravos e de mpetos belicistas caractersticas da Guerra Fria. A de Wiener,
por outro lado, seria socialista, onde a segurana humana prioridade, a guerra rechaada e
a utopia colocada aquela comunicacional, que veio a ganhar forma mais concreta na
influncia de McLuhan. Trata-se de programas de ciberntica que se contradizem por vrias
frentes. Acredito ser esperado que, a princpio, associssemos uma ideologia que se inspira na
ciberntica a um desses polos. Na prtica vemos diferentes autores enfatizarem pontos dessas
contradies com objetivos especficos. Olhando empreitada de Yudkowsky para a
construo de FAIs concluiramos que ele compartilharia da viso wieneriana que teme um
futuro no controlado das AIs. Ao mesmo tempo, seu elogio s AIs sem self, praticantes do
autrusmo recproco soa a utopia dos robs escravos de von Neumann. Isto , ideias que
foram contraditrias em um determinado momento histrico, de alguma forma se harmonizam
em outro contexto. Caso da ideologia da Califrnia, por exemplo. Fato que essas aparentes
contradies funcionam num projeto de poder j informado. Yudkowsky combina com sua
teoria e com a atuao do MIRI, ao mesmo tempo, traos do egosmo randiano e um altrusmo
quase iluminista que toma a humanidade como uma s. Projetos que prometem resolver
problemas coletivos so mais facilmente financiados e corroborados pela sociedade, e talvez
seja essa a razo pela qual o Singularismo diminua publicamente a importncia do egosmo
randiano que certamente faz parte de sua formao.

Os dois exemplos dados aqui so, na verdade, bastante pontuais. As cosmologias,


tomadas por imaginrios culturais estruturados, acabam contribuindo com ideias bastante
mais gerais para a ideologia em questo. Os exemplos dados mostram caminhos pelos quais
uma ideia pode se vincular com o poder. Pensando nas cosmologias como imaginrios mais
robustos poderemos estabelecer a partir desses imaginrios algumas das mais gerais e
principais caractersticas de uma ideologia. Essas caractersticas mais gerais tambm so
fundamentais no projeto de poder. A questo passa a ser ento: quais caractersticas das trs
137

cosmologias do Singularismo tratadas aqui so reelaboradas para a composio mais geral de


seu projeto de poder?

a) Ciberntica
Interdisciplinaridade

A interdisciplinaridade um dos pilares da ciberntica, e uma forma que o


Singularismo abraa. verdade que, de modo geral, uma interdisciplinariedade entre as
chamadas cincias duras, mas, ainda assim, uma caracterstica notvel. Individualmente,
talvez o trabalho de Kurzweil talvez seja o mais notvel nesse sentido. Isso se d porque o
autor est rompendo barreiras no apenas entre as disciplinas, mas tambm entre os objetos
que constumavam estar associados a disciplinas especficas. As revolues GNR so timos
exemplos. Seja tratando o DNA como dados digitais orgnicos, ou falando de nanobots
circulando na corrente sangunea humana, a quebra de fronteiras entre disciplinas, mas
tambm entre bioengeharia e computao, aspecto fundamental da teoria de Kurzweil. No
por acaso, a Singularity University tem por princpio aceitar alunos de qualquer rea. Seus
projetos consistem justamente em equipes de profissionais de reas diversas se unindo para
causar impacto positivo na humanidade.

Acelerao do progresso tecnolgico

A acelerao das tecnologias um dos marcos mais profundos de um imaginrio


tecno-cientfico do perodo da Guerra Fria. A corrida armamentista era tambm a corrida
espacial, e tanto a corrida armamentista como a espacial eram corridas cientficas e
tecnolgicas. O impacto na inovao tecnolgica levantava dvidas legtimas: e se ao invs de
apenas se somar de modo linear o progresso da tecnologia for acelerado? Era exatamente o
que imaginava von Neumann. Como vimos aqui antes, os singularitarians recuperam a
expectativa do progresso acelerado da ciberntica. A crena nesse progresso to profunda
que, de modo geral, onde h trabalhos singularistas h mais promessas do que resultados.
por isso que o verdadeiro e o inevitvel so figuras chave no Singularismo. Essas figuras so
a nica esperana de implementao de seu projeto de longo prazo.

Equiparao entre homem e mquina

No captulo quatro pudemos observar que deGrey e Yudkowsky trabalham com a


separao do homem e da mquina, de um jeito muito mais prximo da ciberntica do que faz
138

Kurzweil. Isso se d porque os dois autores trabalham com a equiparao entre homem e
mquina no nvel da metfora. Aubrey deGrey (2006) compara recorrentemente o corpo a um
carro, que se pode trocar peas, cuidar e renovar de modo que nunca deixe de funcionar bem.
Eliezer Yudkowsky (2001) afirma que pensando em termos de inteligncia, tomando mentes,
no h diferenas entre inteligncia humana e artificial. Ambas as mentes so processos
cognitivos construdos em torno da capacidade de cumprir metas. Tal como no conceito de
feedback de Wiener, a simbiose entre homem e mquina do mbito da metfora. Ray
Kurzweil, por outro lado, leva a relao homem-mquina tipicamente ciberntica do mbito
da metfora para o da materialidade. Ps-Singularidade no haver distino entre orgnico e
artificial, humano e mquina: s h o hbrido.

Moderno/ ps-moderno

No primeiro captulo tratei dessa questo atravs de Jameson (2015). H no Singularismo


uma contradio muito particular herdada da ciberntica e levada a cabo. Por um lado, uma
viso moderna de cincia, que trata o progesso cientfico e tecnolgicos como
transformadores e quase sagrados. Por outro um rompimento notvel com binrios
importantes que marcaram a modernidade, como a diviso entre cincias do esprito e cincias
da natureza, natural e artificial, homem e mquina. Do ponto de vista da filosofia
contempornea, a ciberntica, e tambm o Singularismo, guardam a complexidade e manter
caractersticas modernas e ps-modernas a um s tempo.

b) Transhumanismo
Apoteose: a cincia como religio

Caracterstica impossvel de ignorar do transhumanismo como a cincia idealizada


de modo a ocupar um lugar que geralmente pertence a religio. As melhores formas de
enganar a morte e o envelhecimento no so os parasos eternos nos cus distantes, mas a
material, objetiva e crua terra da cincia. No me deparei com um s singularitarian que no
tivesse como um dos objetivos a superao da morte, e a conqusita da imortalidade pela
cincia e pelo progresso tecnolgico. Poderamos pegar a questo da morte e elaborar um
trabalho inteiro sobre como h uma relao religiosa entre transhumanistas e cincia, mas esse
esforo se torna desnecessrio na medida em que os prprios transhumanistas acabam fazendo
essa relao. Aubrey deGrey (2007) diz explicitamente que sua religio a cincia. Eliezer
139

Yudkowsky diz em entrevista transcrita antes neste trabalho que o que o emocionava quando
criana no era o judasmo, mas foguetes levantando vo. Ray Kurzweil tem uma conversa
com Bill Gates transcrita em seu livro que merece ser compartilhada aqui:

Bill Gates: Eu concordo 99% com voc. O que eu gosto nas suas ideias que elas so
pautadas na cincia, mas seu otimismo quase uma f religiosa. Eu tambm sou
otimista.
RAY: Sim, ns todos precisamos de uma nova religio. Um papel principal da religio
de racionalizar a morte, j que at agora no tivemso muito o que fazer de
construtivo sobre ela.
BILL: Quais seriam os princpios da nova religio?
RAY: Ns gostaramos de manter dois princpios: um da religio tradicional e um das
artes e cincias laicas da religio tradicional, o respeito pela conscincia humana.
BILL: Ah sim, a Regra de Ouro.
RAY: Isso, a nossa moralidade e sistema legal so baseados no respeito pela
conscincia dos outros. Se eu machuco uma outra pessoa, isso considerado imoral, e
provavelmente ilegal, porque eu causei sofrimento a uma outra pessoa consciente. Se
eu destruo uma propriedade, normalmente no h problema se a minha propriedade,
e a razo primria para que seja imoral e ilegal caso seja a propriedade de outra pessoa
porque eu causei sofrimento no propriedade, mas pessoa que a detm.
BILL: E o princpio laico?
RAY: Das artes e cincias, a importncia do conhecimento. O conhecimento vi alm
da informao. uma informao que tem significado para entidades conscientes:
msica, arte, literatura, cincia, tecnologia. Essas so qualidades que vo se expandir
nas evolues sobre as quais eu falo.
BILL: Ns temos que nos afastar das histrias estranhas e floreadas das religies
contemporneas e nos concentrar em mensagens simples. Ns precisamos de um lder
carismtico para essa religio.
RAY: Um lder carismtico faz parte do modelo antigo. Ns queremos nos afastar
disso.
BILL: OK, um computador carismtico ento.
RAY: Por que no um sistema operacional carismtico?
BILL: H, isso ns j temos. Existe um Deus nessa religio?
RAY: Ainda no, mas vai ter um. Uma vez que saturarmos a matria e a energia do
universo com inteligncia, ele vai acordar, ser consciente e sublimemente
inteligente. Isso o que eu posso imaginar de mais prximo a Deus211. (Kurzweil,
2005, p. 272).

211
Traduo livre de: Bill Gates: I agree with you 99 percent. What I like about your ideas is that they are
grounded in science, but your optimism is almost a religious faith. I'm optimistic also.
RAY: Yes, well, we need a new religion. A principal role of religion has been to rationalize death, since up until
just now there was little else constructive we could do about it.
BILL: What would the principles of the new religion be?
RAY: We'd want to keep two principles: one from traditional religion and one from secular arts and sciences
from traditional religion, the respect for human consciousness.
BILL: Ah yes, the Golden Rule.
RAY: Right, our morality and legal system are based on respect for the consciousness of others. If I hurt another
person, that's considered immoral, and probably illegal, because I have caused suffering to another conscious
person. If I destroy property, it's generally okay if it's my property, and the primary reason it's immoral and
illegal if it's someone else's property is because I have caused suffering not to the property but to the person
owning it.
140

Ray Kurzweil diz querer se afastar dos lderes carismticos das antigas religies ao
mesmo tempo que claramente exerce essa funo.

Ps-humano

Se a cincia a religio, a Singularidade a salvao. Para Vinge e Kurzweil a


chegada da Singularidade marca tambm a chegada do ps-humano. Nesse sentido como se
Vinge e Kurzweil fossem pastores de diferentes Igrejas. O pastor Vinge se recusa a descrever
o paraso, porque nos diz que s as criaturas dignas do paraso seriam capazes de descrev-lo.
O pastor Kurzweil, por outro lado, descreve minuciosamente para seus fieis como ser o
paraso. O Singularismo leva a ideia de ps-humano do transhumanismo para outra dimenso.
Para alguns transhumanistas como Hughes (2002), a esperana por uma Singularidade um
delrio neoliberal. Embora seja ele prprio um tecnoprogessista, confiante no progresso da
tecnologia e na transformao do humano como conhecemos, o autor despreza o recorte
poltico que os singularitarians do para a questo. O ps-humano no Singularismo a
supermeta da qual todas as outras submetas so derivadas. Opera ento a relao entre
verdade e inevitabilidade atribudas Singularidade, que refora, mais uma vez, seu projeto
de longo prazo. O paraso verdadeiro e a morte inevitvel se converte em: a
Singularidade verdadeira, o ps-humano inevitvel.

As tecnologias como instrumentos sagrados

Se a cincia a religio e a Singularidade a salvao, as tecnologias so instrumentos


sagrados com os quais se atingir o ps-humano. H religiosos que lem a Bblia, escutam a

BILL: And the secular principle?


RAY: From the arts and sciences, it is the importance of knowledge. Knowledge goes beyond information. It's
information that has meaning for conscious entities: music, art, literature, science, technology. These are the
qualities that will expand from the trends I'm talking about.
BILL: We need to get away from the ornate and strange stories in contemporary religions and concentrate on
some simple messages. We need a charismatic leader for this new religion.
RAY: A charismatic leader is part of the old model. That's something we want to get away from.
BILL: Okay, a charismatic computer, then.
RAY: How about a charismatic operating system?
BILL: Ha, we've already got that. So is there a God in this religion?
RAY: Not yet, but there will be. Once we saturate the matter and energy in the universe with intelligence, it will
"wake up," be conscious, and sublimely intelligent. That's about as close to God as I can imagine (Kurzweil,
2005, p. 272).
141

pregao e espalham a palavra nas redes sociais. Outros lem John von Neumann, assistem
entrevistas dirias de Ray Kurzweil e postam Eliezer Yudkowsky facts no LessWrong.

Entre o extropiano e o democrtico

A principal disputa narrativa do transhumanismo de extrema importncia para o


Singularismo. Formalmente, enquanto movimento que se diz libertariano (Yudkowsky,
2000A), seria apenas natural que se associasse o Singularismo ao Extropianismo. Poderia ser
o Singularismo um tipo especfico de Extropianismo? A resposta no. Em meio ao debate
que ope transhumanistas extropianos e democrticos, o Singularismo flutua em torno das
duas correntes. H sinais claros de uma guinada contempornea do Singularismo ao
transhumanismo democrtico. Em primeiro lugar, autores como Yudkowsky reconhecem o
potencial destrutivo de uma AI no amigvel, diferente dos extropianos que evitavam a
temtica da catstrofe futurista (Hughes, 2002). Em segundo lugar, as instituies hoje
vinculadas ao Singularismo parecem cada vez mais prximas de um transhumanismo
democrtico ao propor solues para problemas coletivos globais como a fome, o acesso a
gua e as mudanas climticas. Evidncia importante desse fato que Nick Bostrom,
fundador da Humanity+ e cone acadmico do transhumanismo democrtico, hoje parte da
MIRI de Yudkowsky. Por outro lado, se Yudkowsky acredita que o autrusmo recproco um
tipo de egosmo, como afirma no CFAI, no ser essa guinada do Singularismo ao
transhumanismo democrtico uma estratgia de expanso? Cientes de que o egosmo randiano
outrora sucitado pelos extropianos tornou a corrente impopular fora dos meios do
transhumanismo, creio que h razes para se duvidar das boas intenes das aes globais
do Singularismo. De toda forma, no se pode negar o Singularismo continua abertamente
libertariano, o que o coloca numa posio que no s extropriana nem s democrtica.
Muito antes pelo contrrio, o Singularismo joga com as correntes do transhumanismo, algo
que se tornou caracterstica do seu projeto de poder.

c) Ideologia da Califrnia

Contracultura e utopia digital

H vrios nveis em que o Singularismo pode ser associado ao que Barbrook e


Cameron (1995) chamaram de ideologia da Califrnia. Se tormarmos esta ideologia como um
142

contexto contemporneo do Vale do Silcio, poderemos at arriscar a classificar o


Singularismo como um recorte especfico da ideologia da Califrnia. A crtica contracultural
absorvida pela cibercultura se manifesta nos autores e instituies do Singularismo. No
captulo quatro mostrei que boa parte das instituies singularistas se colocam aparte ao
governo, seja como ONGs sem fins lucrativos, ou no formato coringa da Singularity
University que j funciona mais como empresa. A ideia de institutos de pesquisa
independentes que substituam as agncias governamentais e as universidades remete
diretamente crtica que contra-cultura empreendeu s instituies burocrticas. De modo
anlogo, um pesquisador como Yudkowsky que no teve nenhuma educao formal ao
mesmo tempo um heri siliciano tpico, self-made man, e tambm uma figura que serve de
prova para mostrar que no necessrio se submeter s instituies burocrticas como as
universidades para ser um pesquisador/ empreendedor. So unidas numa mesma personagem
a aura do too cool for school com gnio empreendedor que se construiu sozinho. O impacto
especfico da ideologia da Califrnia atravs do Singularismo que suas instituies, em
especial a SU, chegam a lugares que empresas tradicionais do Vale do Silcio no chegariam.
Que o Google, lugar onde Kurzweil trabalha, frequentemente seja um apoiador financeiro da
SU dado relevante.

O Vale do Silcio

Ocupar o Vale do Silcio confere ao Singularismo posio estratgica do ponto de vista


geopoltico. Antes de qualquer questo prtica entrar em voga, como a proximidade das
empresas e a localizao da SU no territrio compartilhado de Google e NASA, mesmo um
imaginrio que envolve o Vale do Silcio que o Singularismo busca. O mito da
industrializao explosiva do Vale, por exemplo, agrega peso de veracidade s promessas de
inovao exponecial de Kurzweil e da SU. Quando a SU se chama de Universidade do Futuro,
e um de seus professores decreta o fim das universidades tradicionais, est atribuida
instituio uma aura de vanguarda que se apoia num imaginrio sobre o que seja o Vale do
Silcio. No captulo quatro usei os mapas para demarcar que a presena fsica do Singularismo
no Vale uma estratgia geopoltica. O caso da SU emblemtico. O plano de atuao da
universidade se tornar cada vez mais global, com clulas (Chapters) espalhadas por todos os
continentes. Com a sede em Mountain View, a universidade espalha suas clulas se apoiando
no imaginrio de industrializao explosiva a partir da inovao tecnolgica, ao mesmo tempo
em que propraga seus fundamentos de progresso exponencial e divulga sua agenda poltica. O
143

Singularismo vende uma verso ultra-interpretada que promete criar Vales do Silcio por todo
o mundo. Como Sturgeon (2000) mostrou, essa verso da histria falsa e nenhuma regio
replicar o boom econmico siliciano sem o background industrial, estatal, militar e
universitrio de mais de um sculo na baa de So Francisco.

Globalizao neoliberal e a questo da produo

Ainda que se apoie num imaginrio em torno do Vale do Silcio, o contexto


contemporneo da regio decisivo na estratgia geopoltica do Singularismo. Uma espcie
de meca do capitalismo informacional, atravs de empresas silicianas que surgem as apostas
mais slidas de transformao nas formas de trabalho e na produo. Como abordei no
captulo trs, a flexibilizao da jornada de trabalho, onde o trabalho passa a funcionar com
metas tal como as FAIs de Yudkowsky so vendidas com grande estusiasmo em
escritrios divertidos como os do Google. Por trs das plataformas controladas por
empresas silicianas est um lado ainda mais perverso dessa reorganizao da produo, pois o
risco e os nus do trabalho passam a ser todos dos trabalhadores. Ao mesmo tempo, h uma
macronarrativa que ensina aos indivduos que ser empreendedor melhor que ser empregado,
e que qualquer um pode ser um milionrio. Dessa forma, motoristas de uber, youtubers,
blogueiros e milhares de jovens desesperados para construir uma startup milionria, formam
uma massa de novos trabalhadores, completamente descolados dos direitos trabalhistas
outrora garantidos pelo Estado. Uma espcie de tica protestante do trabalho212 ganha ares de
vanguarda em mais um exemplo onde, como nos diz Wolf, velhas ideias so apresentadas em
novos contextos e novas ideias so apresentadas como verdades histricas. Quando as
instituies silicianas funcionam como facilitadoras, incubadoras, etc, so reforadas
algumas macronarrativas do capitalismo atual, como o empreendedorismo individual, a ideia
de que qualquer um com uma boa ideia pode se tornar um milionrio, a ideia de que ser
empreendedor ser chefe, que melhor do que ser empregado, etc. O que diferencia as
instituies singularistas das outras instituies silicianas que tambm j praticam essa
mudana na estrutura de produo que, enquanto facilitadoras, essas instituies
canalizam essas macronarrativas para uma agenda especfica. Essa canalizao pode
representar, a longo prazo, uma mudana significativa, interna, a essa nova organizao do

212
Com essa comparao tenho a inteno de relacionar o trabalho que dignifica, face do que Weber chamou
de tica protestante, com o workaholic contemporneo das startups. Embora esse empreendor das startups de
inovao tecnolgica se pense e se venda como a vanguarda do trabalho, esse processo laborial liberalizado, na
verdade, refora a muita antiga relao entre esforo invidual e prosperidade.
144

trabalho. Ao invs de produzir apenas empreendedores individuais em massa, essas


instituies acabam produzindo empreendedores que trabalham pela Singularidade.
Considerando que a previso da SU se concretize, ao final de 2020 a SU ter formado 1
milho de alunos. Se o nmero de alunos continuar crescendo exponencialmente, associados
influncia de toda rede de instituies e atores do Singularismo, parece sensato supor que a
ideologia passaria a ter um impacto importante no direcionamento do trabalho social, seja nas
questes que envolvem diretamente o trabalho, ou no impacto indireto causado pelo potencial
de colocar narrativas dominantes.

5.2 Redes verticais e a reconfigurao da relao centro-periferia

A rede serve para ajudar a compreender como se relacionam ideias, autores e


instituies, mas no essa sua funo principal. O conceito de rede aqui nos indica a
variedade de formas (malhas) com as quais peers (atores) podem ser organizados. E com o
Singularismo emerge uma malha especfica que no foi criada por ele, mas que lhe serve bem.
Foi essa malha especfica que chamei de rede vertical. Esse termo pressupe uma contradio,
pois normalmente a ideia de rede est associada distribuio e horizontalidade. Contudo,
pares distribudos horizontalmente podem ser parte da rede sem ser ela toda. E exatamente o
caso. A rede vertical uma rede que combina horizontalidade e verticalidade, trechos de
distribuio e trechos de concentrao. Tal como uma empresa siliciana que oferece uma
plataforma que se apoia no marketing da ideia de peer-to-peer, isto , da conexo horizontal
entre pares, mas cria bancos de dados valiosos aos quais s ela tem acesso, as redes verticais
tm um desenho onde o fluxo de informaes passa por toda a rede, mas possui centro ou
centros que controlam esses fluxos de informao.
145

A imagem acima reproduzida foi elaborada para tentar representar graficamente a rede
vertical213. A inteno do desenho que ele represente um modelo. Na prtica, significa que
ele pode ser tomado a partir de vrias escalas e dotado de complexidade. Isso significa que
ele pode representar uma empresa, mas pode tambm representar o Vale do Silcio ou os
Estados Unidos. Depende da escala com se trabalha. J do ponto de vista da complexidade,
quis representar duas formas: i. uma em que o pequeno centro pode repetir o modelo
infinitamente; ii. outro em que vrios desses modelos podem se cruzar para representar vrios
centros. A cargo de exemplo, o desenho pode representar a organizao SENS Research
Foundation. Na pgina 92 reproduzi uma imagem retirada de um video da SRF, que exibia o
modelo de negcio da ONG. Nele vemos uma ilustrao de uma central telefnica antiga,
onde cada uma das telefonistas um ator chave, recebendo ligaes de muitos outros atores.
A infraestrutura que une atores, telefones e telefonistas a instituio. No modelo acima

213
O modelo foi produzido a partir de um desenho a mo livre no papel feito por mim e a ilustrao criada pela
designer Natlia Anchieta (https://www.behance.net/nataliaalisboa)
146

reproduzido, como se as telefonistas fossem os pequenos pontos brancos e a SRF o ponto


branco grande. A intensidade da cor dos crculos indica que quanto mais prximo do centro,
maior o controle sobre o fluxo de informao. Isso se d porque o acesso aos dados
conjugados e, consequentemente, os cruzamentos e relaes diretas produzidas a partir deles,
obedecem um exofluxo. Isto , o fluxo de dados de dentro para fora. Embora dados circulem
por toda a rede, somente as posies centrais, as facilitadoras, tm controle sobre como so
combinados os dados. Um exemplo prtico o UBER tomado enquanto plataforma. Ainda
que milhares de pessoas se conectem por pare usurio-motorista atravs da plataforma, a
empresa UBER controla o design do ciberespao, de modo que define os limites e
possibilidades das conexes que podem ser feitas, e alm de tudo, o nico ator que tem o
controle sobre todos os dados. Como a empresa organiza sua base de dados para produzir
informao incerto, mas as combinaes de dados chegam aos usurios e motoristas em
forma de servios. A cargo de exemplo, a plataforma pode aumentar o valor da corrida
(preo dinmico) se h muitos chamados de usurios, mas nem os usurios nem os motoristas
tm qualquer ferramenta para ter acesso aos dados que, combinados, geraram o preo
dinmico.
O que sugiro aqui quando digo o Singularismo pode operar como uma rede
vertical que ele se estabelece como centro californiano, controlando fluxos de informao
que lhe conferem o poder de distribuir as informaes da maneira desejada. Quando olhamos
para a SU e suas estratgias de crescimento global, vemos no apenas um projeto ideolgico
crescendo apoiado em um contexto favorvel (globalizao, internet banda larga, capitalismo
de plataforma, etc), mas a divulgao de um projeto de poder que estabelece e solidifica uma
relao geopoltica desigual. A medida em que a o modelo de rede vertical representa o
Singularismo e pode ter a escala aumentada, o efeito de verticalidade dessa rede aumenta.
No importa o quanto os chapters cresam e se espalhem: a SU sempre ser o centro e a
controladora do fluxo de informaes ainda que os chapters possam operar como centros
locais. Como vimos no exemplo do UBER, esse no um modelo exclusivo do Singularismo
ou de uma de suas instituies. Na verdade parte da justificativa do Singularismo se
estabelecer no Vale do Silcio justamente que de uma escala ampliada, o Vale do Silcio
representa a infraestrutura da central telefnica. O Singularismo se posiciona estrategicamente
para que seja um dos pontos brancos desse centro siliciano.
Associados projeto de poder, rede vertical e o contexto do capitalismo
informacional, sugiro aqui que emerge uma nova forma de excluso geopoltica, que
147

reestabelece a relao centro-periferia tal como fazia o bom e velho capitalismo pr-internet,
que deixa de ser necessariamente uma relao Estado central Estado perifrico. O novo
centro-periferia complexo e denota dos dois lados da relao redes verticais. A curto-prazo
essa relao se torna cada vez mais bvia. A mdio prazo vemos ela crescer com fora para
enfraquecer decises do Estado, tal como a agressiva entrada do Uber nas cidades brasileiras
tem retirado das mos das prefeituras partes importantes do planejamento urbano. A longo
prazo, contudo, a maior preocupao que tipo de Singularidade comea a ser colocada nesse
contexto de desigualdade geopoltica. Levanto aqui uma preocupao que extrapola as
consequncias de uma Singularidade, e os meio para chegar nela, serem impostos
globalmente. Minha preocupao maior que, colocadas estas consequncias que exijam do
mundo concordar com a inevitabilidade da Singularidade, o cenrio seja bastante mais grave
para as periferias dessa rede vertical. Num universo de crescimento exponencial de
tecnologias, dominado pelo atual modelo de patentes e propriedade intelectual, os pases mais
pobres podem criar um tipo de dependncia indita dos centros tecnolgicos globais.
Vrias vezes j me disseram que, enquanto socilogo da tecnologia, eu me ocupo de
questes que no so relevantes para a maioria do povo brasileiro porque esta no tem
acesso ao caderno escolar, quanto mais ao computador. Mas defendo a idia de que
preciso sim discutir politicamente a tecnologia e conhecer as opes tecnolgicas
possveis para evitar que elas nos sejam apresentadas como inexorveis e enfiadas por
nossa goela abaixo (Garcia dos Santos, 2003, p. 33).

Tento reproduzir ideia semelhante a da citao. Conclui antes nesse captulo que o
Singularismo busca fontes cosmolgicas para sustentar seus projetos como verdadeiros e
inevitveis. A cada momento em que a rede vertical cresce no sentido da periferia, mais poder
ela concentra em seu centro. Dessa forma, decises tomadas no centro, a partir de cruzamento
de dados que s o centro possui, ganham cara de verdadeiro e inevitvel, ao passo que seus
lderes assumem a posio de delegados do cosmos. exatamente por isso que fundamental
perceber que a questo do poder no comea e termina no trabalho mas passa por ele. No
h dvidas de que esse modelo sugere uma modificao no trabalho e no ordenamento da
produo. Se o motorista do UBER passa a ser o trabalhador modelo, e a lgica do trabalho
por metas do Google se expande do centro s perferias, o trabalho social ter se transformado
com grande fora. A ironia que nos conecta ao Singularismo est posta: seria o trabalhador de
metas uma goal-oriented AI piorada, pois biolgica? Mais uma vez parece claro que o
Singularismo sonha o mais antigo sonho do capitalismo: o escravo dcil.
A minha preocupao em demarcar a presena do Singularismo do Vale do Silcio
foi tentar mostrar que ele tenta fazer uso geopoltico dessa localizao. Mesmo o mais ctico
148

com a possibilidade de crescimento exponencial do Singularismo haver de concordar que


concentrar a maior instituio coringa singularista dentro de um campus compartilhado por
NASA e Google no o mesmo de se estabelecer no interior do Mato Grosso. Embora tenha
endossado a posio geogrfica do Vale do Silcio, reafirmo que o modelo do desenho conta
com a cracterstica da complexidade214. Podemos supor, por exemplo, que um Chapter da
Singularity University localizado em So Paulo venha a funcionar como uma espcie de
centro local. Centros locais reforam centros globais. E essa caracterstica nos leva a outro
lado do poder estrutural. No veremos as redes verticais se manifestar apenas no nvel do
trabalho e da produo, mas, e talvez principalmente, no nvel de controle da narrativa. por
isso que fundamental para o singularitarians se estabelecerem como delegados do cosmos:
nessa posio, centralizados e manifestando o dom da produo de verdades e
inevitabilidades, a narrativa se torna nica e com sentido certo: do centro para as periferias.

impossvel falar sobre histria nica sem falar sobre poder. H uma palavra, uma
palavra da tribo Igbo, que eu lembro sempre que penso sobre as estruturas de poder do
mundo, e a palavra "nkali". um substantivo que livremente se traduz: "ser maior
do que o outro." Como nossos mundos econmico e poltico, histrias tambm so
definidas pelo princpio do "nkali". Como so contadas, quem as conta, quando e
quantas histrias so contadas, tudo realmente depende do poder. Poder a habilidade
de no s contar a histria de uma outra pessoa, mas de faz-la a histria definitiva
daquela pessoa. O poeta palestino Mourid Barghouti escreve que se voc quer
destituir uma pessoa, o jeito mais simples contar sua histria, e comear com "em
segundo lugar". Comece uma histria com as flechas dos nativos americanos, e no
com a chegada dos britnicos, e voc tem uma histria totalmente diferente. Comece a
histria com o fracasso do estado africano e no com a criao colonial do estado
africano e voc tem uma histria totalmente diferente215 (Chimamanda Ngozi Adichie,
2009)

Comece uma histria com uma Singularidade inevitvel e ela sempre ter sido.
Como disse Eric Wolf numa passagem j lembrada duas vezes nesse trabalho: as ideologias
podem fazer com que novas ideias se transformem em verdades histricas.

214
Fiz uma pequena animao que mostra em movimento uma das possbilidades de operar complexidade de rede
vertical, a saber, aquela que conta com uma cadeia infinita de redes dentro da rede. O vdeo est disponvel em:
< https://vimeo.com/200636342 >.
215
Transcrio de palestra disponvel no link: <
https://www.ted.com/talks/chimamanda_adichie_the_danger_of_a_single_story/transcript?language=pt-br >
ltimo acesso 23/01/2017).
149

POST SCRIPTUM

A razo de escrever uma nota final com comentrios adiconais vem das ideias e
respostas que surgem a partir das crticas que leitores da dissertao colocaram. Muitas delas
so to pertinentes que mereciam no apenas ser comentadas, mas que fossem canalizadas
num sentido de reformulao de partes da dissertao. Contudo, considero que importante
que o trabalho se mantenha fiel s proposies que foram defendidas em banca pblica e por
isso escrevo esse post-scriptum. Dentre as vrias abordagens possveis para esses comentrios
finais, optei em me concentrar nas duas crticas que achei mais importantes de serem
respondidas. Ambas as crticas foram feitas pelos professores presentes na banca de defesa.
Diego Vincentim apontou que a falta de cuidado com a qual me referi s tecnologias peer to
peer tornaram o modelo e o conceito de rede vertical problemticos. Marta Kanashiro, por sua
vez, apontou que apresentar o Singularismo a partir do modelo de rede vertical teria por efeito
o acatamento da inevitabilidade da Singularidade. Embora essas duas questes no tenham
aparecido durante a construo da dissertao, considero que elas so pertinentes e precisam
ser comentadas, porque existem respostas que valhem a pena ser ditas a estes
questionamentos.

Referir-me tecnologia p2p no foi uma escolha gratuita. No terceiro captulo,


onde procurei construir uma espcie de histria das ideias, trabalhei com essa questo na
terceira parte, que falava sobre Ideologia da Califrnia. L estabeleci uma relao entre o
otimismo com a popularizao dos computadores pessoais e do acesso internet, como uma
forma de concretizao da aldeia global de McLuhan, e o otimismo da sharing economy/
capitalismo de plataforma. A tecnologia p2p, que envolve a conexo onde no h distino
entre clientes e servidores, acabou se tornando um smbolo da conjugao destes otimismos.
Quando pensamos em uma rede na descrio de estrutura, de modo geral, uma
caracterizao que visa enfatizar a paridade entre atores em uma dada malha. Sem passagens
obrigatrias, cada ponto est em posio de equidade na rede. Quando Latour (2009) prope
o uso de redes, por exemplo, est diminuindo a distncia entre atores humanos e no-humanos
em termos de capacidade de agncia. Mas alm disso, recupero aqui a fora de marketing que
a ideia de compartilhamento ganha no capitalismo de plataforma. Quando digo que o UBER
vende um ideal p2p, no tenho a inteno de surgerir que o ambiente digital do aplicativo
executa de fato uma conexo p2p. Trata-se, na verdade, de reconhecer que a empresa se apoia
na popularidade sharing economy e se apropria dessa popularidade para vender seu produto.
150

Como sugeri em Chiodi (2016), a empresa classifica seu servio como transporte individual
privado e afirma fornecer apenas um ambiente para que motoristas que procuram passageiros
encontrem passageiros que procuram motoristas. Sabemos que alm de no ser de fato uma
tecnologia p2p, evocar a figurao simblica dessa tecnologia completamente equivocado.
A empresa no apenas cobra taxas abusivas (1/4 de todo valor pago pelos passageiros) como
constri enormes bases de dados para o controle do servio e para outros fins (como a venda
de informaes sobre movimentao nas cidades para prefeituras). Em outros termos,
enquanto a iluso do efeito p2p mantida entre motorista e passageiro, e, embora motorista e
passageiro se conectem diretamente por tecnologias vrias, h claramente um centro
controlador de dados que nega a suposta horizontalidade da rede. Em suma, fiz essa
comparao com o UBER para ilustrar que o modelo de rede vertical parte do princpio da
conjugao de dois modelos de organizao que se contradizem, para tentar representar uma
contradio que me parece muito importante e real no capitalismo informacional
contemporneo. O leitor poder se perguntar ento, no seria esse modelo apenas vertical? A
resposta para essa pergunta no. O modelo de rede vertical no est dizendo que as redes
no existem, mas afirmando que uma malha de rede no nenhuma garantia de equidade
entre os atores numa estrutura. Uma rede vertical uma malha dentre as muitas possveis
malhas de rede, e uma rede no precisa ser igual em todos os seus pontos. Existem pontos de
paridade espalhados na rede, e existem centros controladores, conjugados a um s tempo.

Do ponto de vista terico o que estou propondo , na verdade, uma tentativa de


equilibrar epistemologias muito micro e muito macro de anlise. O capitalismo de plataforma
vende a ideia de igualdade no hierrquica, afirmando o indivduo como clula livre e to
poderosa quanto qualquer outro indivduo no por acaso que a empresa UBER se apoie
nesse tipo de leitura. Esta forma de indivduo j protagoniza as explicaes liberais de mundo
h muito tempo e seria um erro ler o Singularismo a partir de indivduos livres. Por outro
lado, a crtica social evidencia h sculos, em especial a crtica de tradio marxista, as
contigncias estruturais das relaes sociais. Uma teoria contempornea no poder se
contentar com nenhuma dessas explicaes para entender fenmemos complexos.
Rechaamos o grande guarda-chuva macro-terico que faz com que diferentes atores e
diferentes agncias sejam completamente eclipsados, mas tambm a ideia de que no h
relaes de poder desiguais, simblicas e materiais, que limitam as possibilidades de agncia.
151

Construir redes uma boa forma de tentar entender estruturas e controvrsias


sociais, mas precisamos reconhecer que diferentes anlises e diferentes fenmenos geram
diferentes malhas. O que tentei mostrar foi que esse hbrido de estrutura vertical e horizontal
fundamental para o capitalismo informacional e diversos atores e ideologias percebem o
sucesso dessa organizao hibridizada. Sugiro, ento, como disse na concluso, que o
Singularismo no inventou a rede vertical, mas compreende e aposta nesse modelo para
executar seu projeto de poder. H uma mistura perigosa que acontece nesse limiar, entre
objeto e metodologia. O hbrido de vertical e horizontal verificado no objeto descritivo? O
que vem antes, o hbrido de vertical/horizontal do objeto ou de micro/macro da teoria? O que
chamo de rede vertical tem o propsito de nomear uma organizao que se verifica no objeto.
Isto significa dizer na prtica que operou-se uma relao entre objeto e esforo explicativo.
medida em que a pesquisa era construda, ficou claro que tradies muito micro ou muito
macro da teoria social no poderiam entender satisfatoriamente o objeto que me propus a
estudar. O movimento de leitura do objeto e de construo da pesquisa fluido e no um
exerccio de encaixar o objeto em uma teoria, embora tampouco seja possvel olhar para o
objeto teoricamente desinformado. O prprio recorte do objeto j sugere pressupostos
tericos. Em suma, o modelo de rede vertical aqui um conceito elaborado para explicar o
projeto de poder singularista. Ele no deve ser entendido como um mega-modelo para
explicar qualquer projeto de poder e tampouco deve se sugerir como uma contribuio terica
singularista. Que ele sirva para explicar qualquer outra coisa em outra pesquisa uma questo
que esta outra hipottica pesquisa ter de explicar.

Essa discusso sobre a tecnologia p2p nos leva a encontrar a questo de abraar a
inevitabilidade que o objeto suscita. Terminei a dissertao com um tom quase melanclico.
Mais uma vez caber perguntar se no sobraria pouco o que fazer em relao ao projeto de
poder singularista estamos reafirmando as verticalidades de novo? Admito que a dissertao
como um todo possa ser lida numa chave pessimista do ponto de vista das resistncias, mas
no do ponto de vista da possibilidade de refutar as verdades e inevitabilidades do
Singularismo. Digo isso porque concordo apenas parcialmente com a crtica apresentada pela
professora Kanashiro. Meu caminho na descrio do projeto pode ter culminado num modelo
claustrofbico, que no vislumbra a possibilidade de resistncia a um projeto de poder
encabeado por atores to poderosos. O primeiro porm que apresento crtica que o escopo
de uma dissertao limita bastante as possibilidades de apresentar solues tericas que
possam operar como solues polticas. Em segundo lugar, cabe notar que a dissertao tem
152

uma espcie de gnero narrativo. Algo como uma investigao-denncia, cujo objetivo
primordial mais entender como opera a ideologia que a prescrio de como lidar com ela
politicamente. O Singularismo tem fora notvel mas ainda largamente desconhecido pela
ampla maioria das pessoas, razo pela qual esse gnero narrativo fundamental. O tom da
dissertao pode ter, portanto, construdo junto ao leitor certo pessimismo que compre a
inevitabilidade da Singularidade. Um segundo olhar para a dissertao, contudo, mostrar que
talvez essa seja uma confuso que emana do modelo de rede vertical e de sua fluidez entre
objeto e metodologia. Quando atribuo ao modelo de rede vertical as caractersticas da escala e
da complexidade, estou justamente reafirmando a possibilidade de modificao interna e
tambm a possibilidade de retrao da rede, to possvel quanto a expanso. O modelo visa
explicitar uma preocupao com a reconfigurao de relaes de poder muito desiguais entre
norte e sul globais, dessa vez atravs das tecnologias da informao. Enquanto modelo a rede
vertical nesse trabalho pretende ser descritiva de uma operao no presente, mas, tambm, um
vislumbre de possibilidades futuras. O modelo no est no campo da previso mas na
tentativa de colocar no papel aquilo que entendo como pesquisador que descreve o projeto de
poder singularista. Essa argumentao no deve ser tomada como previso, tal como seria um
modelo de cincia econmica, mas como uma ilustrao particular ao gnero narrativo de
investigao-denncia. Embora esteja preparado para receber as crticas de potenciais
contradies que existem entre as intenes do trabalho e de seus efeitos prticos, termino
esse post scriptum defendendo tanto seu gnero narrativo como sua construo. O esforo de
revelar por pesquisa a fabricao das verdades e inevitabilidades de determinada ideologia ,
como vejo, por si s, parte necessria da resistncia a esse projeto de poder. Eu poderia ter
feito um trabalho que consistisse em refutar as previses de Kurzweil, ou em apontar as
muitas previses que o autor j errou no passado. Contudo o argumento aqui me parece mais
sofisticado. O Singularismo no mente crer na Singularidade em prol de seu projeto de poder,
o caminho contrrio. por acreditar muito que o projeto de poder ganha os contornos que
tem. Se teoria e objeto se misturam de vrias formas durante a pesquisa, esse me parece um
lugar onde no se poder inferir essa confuso a partir dessa dissertao. Disse em mais de
uma passagem que as previses de Kurzweil podem operar como teorias que se auto-
cumprem. Isso se d pelo fato de que atores de peso do Vale do Silcio compram o programa
de previses singularistas. Embora eu no v dizer que a Singularidade impossvel com a
mesma certeza com que Kurzweil diz que ela vai acontecer, usei esse trabalho para tentar
mostrar que os singularistas trabalham para que ela possa se concretizar. Se ela ir se
153

concretizar de fato uma pergunta que no cabe a esse trabalho e nem pesquisa social na
qual acredito. H algo de anti-ps-moderno (no sentido de Jameson) nessa dissertao. No
trabalho com uma cadeia de apostas. A denncia e a aposta mobilizam a luta poltica de
modos muito diversos. A denncia opera como um chamado para organizao coletiva em
torno de um interesse pblico comum. A aposta opera acionando redes de poder, que usam
das estruturas sociais dominantes de determinada escala e contexto para concretizar um ponto
vista. A denncia pensar-junto. A aposta uma ameaa. A denncia d espao para a
construo coletiva. A aposta conta com o indivduo racional. A denncia deixa os pontos
abertos. A aposta um modelo fechado. A defesa final de meu trabalho essa. uma
dissertao de mestrado, de gnero narrativo investigao-denncia. Redes verticais so
denncias e no apostas. Como tal, espero que o leitor possa pensar junto. A Singularidade
pode acontecer e h empresas, cientistas, governos, polticos, computadores, robs e atores de
toda espcie trabalhando para que ela se concretize. A Singularidade pode ser tanto aposta
como denncia. Na boca do singularitarians uma aposta, e nessa dissertao tem que ser
uma denncia. Nesse ponto precisaremos irredutivelmente separar pesquisa e objeto. Essa
dissertao no compra a inevitabilidade da Singularidade, mas denuncia uma rede vertical
em operao e expanso para concretiz-la. Ray Kurzweil faz apostas. Meu trabalho foi fazer
denncias.
154

Referncias bibliogrficas

BARBROOK, Richard e CAMERON, Andy. Californian Ideology. 1995. Disponvel em: <
http://www.alamut.com/subj/ideologies/pessimism/califIdeo_I.html > ltimo acesso:
20/01/2017.

BARBROOK, Richard. Futuros Imaginados: das mquinas pensantes aldeia global. So


Paulo: Peirpolis, 2009.

BORSOOK, Paulina (2001) "Cyberselfish: Ravers, Guilders, Cyberpunks, And Other Silicon
Valley LifeForms," Yale Journal of Law and Technology: Vol. 3: Iss. 1, Article 1. Disponvel
em: < http://digitalcommons.law.yale.edu/yjolt/vol3/iss1/1 > . ltimo acesso: 20/01/2017.

BROSTOM, Nick. The History of Transhumanist Thought. In: Journal of Evolution and
Technology Vol. 14 Issue 1 April 2005

CASTELLS, Manuel. A sociedade em rede: volume I. Paz e Terra, 1999.

CHIODI, Vitor F. N. Robs e ciborgues pensando materialidade e diferena: uma reflexo


poltica sobre Star Wars e Terminator. 30 reunio Brasileira de Antropologia. 2016.
Disponvel em: <
http://www.30rba.abant.org.br/simposio/view?ID_MODALIDADE_TRABALHO=2&ID_SI
MPOSIO=61 >.

_________________. Modernidade em disputa: natureza, cultura e tecnologia num estudo


comparativo entre Steven Spielberg e James Cameron. XI Reunin de Antropologia del
Mercosur. 2015. Disponvel em: < http://xiram.com.uy/ponencias/GT-
15/Vitor%20Fran%C3%A7a%20Netto%20Chiodi_Modernidade%20em%20disputa%20natur
eza,%20cultura%20e%20tecnologia%20num%20estudo%20comparativo%20entre%20Steven
%20Spielberg%20e%20James%20Cameron.pdf > ltimo acesso: 20/01/2017.

CHIODI, Vitor F. N. e EVANGELISTA, Rafael. O capitalismo de plataforma e a


controvrsia do UBER no Brasil: um estudo de caso a partir da cidade de Belo Horizonte.
Anais do XI ESOCITE. 2016 Disponvel em: <
http://www.esocite2016.esocite.net/resources/anais/6/1471460091_ARQUIVO_ESOCITE201
6.pdf > ltimo Acesso: 20/01/2017.

DE GREY, Aubrey. ENDING AGING, The Rejuvenation Breakthroughs That Could Reverse
Human Aging in Our Lifetime. St. Martin Pressa, New York, 2007.

________________. The singularity and the Methuselarity: similarities and differences. In:
Strategy for the Future (Bushko R, ed.), 2008. Disponvel em: <
https://www.ncbi.nlm.nih.gov/pubmed/19745482 >. ltimo acesso 22/01/2017.
155

EVANGELISTA, Rafael. Singularidade, transhumanismo e a ideologia da Califrnia. 35


encontro anual da ANPOCS, 2011. Disponvel em: <
http://www.anpocs.org/portal/index.php?option=com_docman&task=doc_details&gid=837&I
temid=217 >.

EVANGELISTA,Rafael e KANASHIRO, Marta. Ciberntica, Internet e a nova poltica dos


sistemas informacionais. In: GABINETE DIGITAL - Anlise de uma experincia, 2013.

FELDMAN-BIANCO, Bela; RIBEIRO, Gustavo Lins. Antropologia e Poder: contribuies


de Eric Wolf. Etnogrfica, Vol. VII (2), 2003.

FUKUYAMA, Francis. Tranhumanism. In: Foreign Police. 2009. Disponvel em: <
http://foreignpolicy.com/2009/10/23/transhumanism/ >. ltimo acesso: 20/01/2017.

GARCIA DOS SANTOS, Laymert. Tecnologia, natureza e a redescoberta do Brasil.


Tecnocincia e Cultura: ensaios sobre o tempo presente. So Paulo, Estao Liberdade, 1998

HUGHES, James D. The politics of Transhumanism. Presented at the 2001 Annual Meeting
of the Society for Social Studies of Science. 2002. Disponvel em: <
http://www.changesurfer.com/Acad/TranshumPolitics.htm > ltimo aceeso: 20/01/2017.

MILLER, James D. Singularity Rising: Surviving and Thriving in a Smarter, Richer, and
more dangerous world. BenBella Books, Dallas, 2012.

KURZWEIL, Ray. Singularity is near. Viking Penguin, 2005.

JAMESON, Frederic. The aesthetics of Singularity. In: New Left Review 92, 2015.
Disponvel em < https://newleftreview.org/II/92/fredric-jameson-the-aesthetics-of-singularity
> ltimo acesso: 20/01/2017.

_________________. Postmodernism or the cultural logic of the late capitalism. In: New Left
Review I/146, 1984. Disponvel em: < https://newleftreview.org/I/146/fredric-jameson-
postmodernism-or-the-cultural-logic-of-late-capitalism > ltimo acesso: 20/01/2017.

LE BRETON, David. Adeus ao corpo. So Paulo, Papirus, 2007.

LEGG, Shane. Machine Super Intelligence. Doctoral Dissertation submitted to theFaculty of


Informatics of the University of Lugano,2008. Disponvel em: <
http://www.vetta.org/documents/Machine_Super_Intelligence.pdf >. ltimo acesso:
21/01/2017.

RIGGIO, Adam. The Violence of Pure Reason: Neoreaction: A Basilisk. Social


Epistemology Review and Reply Collective 5, no. 9, 2016. Disponvel em: <
http://wp.me/p1Bfg0-3d1 >. ltimo acesso: 21/01/2017.

SCHOR, Juliet. Debating the Sharing Economy. Great Transition Initiative. Outubro de 2014.
Disponvel em <
http://www.greattransition.org/images/GTI_publications/Schor_Debating_the_Sharing_Econo
my.pdf > ltimo acesso: 21/01/2017.

STRATHERN, Marilyn. Partes e todos: refigurando relaes. In: O efeito etnogrfico, Cosac
Naify, 2014.
156

STURGEON, Timothy J. How Silicon Valley came to be. In: Understanding Silicon Valley.
Standford University Press. 2000.

WOLF, Eric R. Envisioning power: ideologies of dominance and crises. University of


California Press, 1999.

____________. Culture: Panacea or problem? In: Pathways of power: building an


anthropology of the modern world. University of California Press, Los Angeles, 2001A.

____________. Ideas and Power. In: Pathways of power: building an anthropology of the
modern world. University of California Press, Los Angeles, 2001B.

TURNER, From Counterculture to Cyberculture. University of Chicago Press, 2006.

VINGE, Vernor. The Coming Technological Singularity. NASA symposium 21, 1993.

______________. Signs of the Singularity - Hints of the singularity's approach can be found
in the arguments of its critics. IEEE Spectrum's SPECIAL REPORT: THE SINGULARITY.
2008. Disponvel em < http://spectrum.ieee.org/static/singularity >. ltimo acesso:
20/01/2017.

______________. The criativity Machine. In: Nature, Vol. 440. 2006. Disponvel em: <
http://www.nature.com/nature/journal/v440/n7083/full/440411a.html >. ltimo acesso:
20/01/2017.

VIRILIO, Paul. Os motores da histria. Tecnocincia e Cultura: ensaios sobre o tempo


presente. So Paulo, Estao Liberdade, 1998.

VIVEIROS DE CASTRO, Eduardo. Entrevista com Eduardo Viveiros de Castro. In: A


inscontncia da alma selvagem. Cosa & Naify, 2011.

WILLIAMS, James C. From white gold to silicon chips: Hydraulic technology, electric power
and Silicon Valley. In: Social Science Information. 2013

WINNER, Langdon. Are human obsolete? In: THE HEDGEHOG REVIEW / FALL 02
Disponvel em: < http://www.iasc-culture.org/THR/archives/Technology/4.3DWinner.pdf >
ltimo acesso: 20/01/2017

YUDKOWSKY, Eliezer. The singularitarian principles compact edition. 2000 A.


Disponvel em: < http://yudkowsky.net/obsolete/principles.html > ltimo acesso: 20/01/2017.

____________________. The singularitarian principles extended edition. 2000 B.


Disponvel em: < http://yudkowsky.net/obsolete/principles.ext.html > ltimo acesso:
20/01/2017.

____________________. Three Major Singularity Schools. In: MIRI Website, 2007.


Disponvel em < https://intelligence.org/2007/09/30/three-major-singularity-schools/ >
ltimo acesso: 20/01/2017
157

____________________. Creating Friendly AI 1.0: The Analysis and Design of Benevolent


Goal Architectures. MIRI articles. 2001. Disponvel em: <
https://intelligence.org/files/CFAI.pdf >. ltimo acesso: 21/01/2017.

Filmografia citada

Avengers: Age of Ultron (2015) Joss Whedon

Ex Machina (2015) Dirigido por Alex Garland

I, Robot (2004) Dirigido por Alex Proyas

Matrix (1999) Dirigdo por The Wachowskis

Matrix Reloaded (2003) Dirigdo por The Wachowskis

Matrix Revolution (2003) Dirigdo por The Wachowskis

Robocop (1987) Dirigido por Paul Verhoeven

Terminator (1984) Dirigido por James Cameron

Terminator 2: judgment day (1991) Dirigido por James Cameron

Tron (1982) Dirigido por Steven Lisberger

Tron Legacy (2010) Dirgido por Joseph Kosinski


158