Machine Translated by Google

VOCÊ ESTÁ VIVENDO EM UMA SIMULAÇÃO DE COMPUTADOR?

POR NICK BOSTROM

[Publicado em Philosophical Quarterly (2003) Vol. 53, nº 211, pp. (Primeira versão: 2001)]

Este artigo argumenta que pelo menos uma das seguintes proposições é verdadeira:
(1) é muito provável que a espécie humana se extinga antes de atingir um estágio
“pós-humano”; (2) é extremamente improvável que qualquer civilização pós-humana
execute um número significativo de simulações da sua história evolutiva (ou variações
dela); (3) é quase certo que estamos vivendo numa simulação computacional. Segue-
se que a crença de que existe uma probabilidade significativa de um dia nos
tornarmos pós-humanos que executam simulações de antepassados é falsa, a menos
que estejamos actualmente a viver numa simulação. Uma série de outras
consequências deste resultado também são discutidas.

I. INTRODUÇÃO

Muitas obras de ficção científica, bem como algumas previsões de tecnólogos e futurólogos
sérios, preveem que enormes quantidades de poder computacional estarão disponíveis no
futuro. Suponhamos por um momento que essas previsões estejam corretas. Uma coisa que
as gerações posteriores poderão fazer com os seus computadores superpoderosos é
executar simulações detalhadas dos seus antepassados ou de pessoas semelhantes aos
seus antepassados. Como seus computadores seriam tão poderosos, eles poderiam executar
muitas simulações desse tipo. Suponhamos que estas pessoas simuladas sejam conscientes
(como seriam se as simulações fossem suficientemente refinadas e se uma certa posição
amplamente aceite na filosofia da mente estivesse correta). Então poderia acontecer que a
grande maioria das mentes como a nossa não pertencesse à raça original, mas sim a
pessoas simuladas pelos descendentes avançados de uma raça original. É então possível
argumentar que, se este fosse o caso, seríamos racionais ao pensar que provavelmente
estamos entre as mentes simuladas e não entre as mentes biológicas originais. Portanto, se
não pensarmos que estamos actualmente a viver numa simulação computacional, não temos
o direito de acreditar que teremos descendentes que executarão muitas dessas simulações
dos seus antepassados.
Essa é a ideia básica. O restante deste artigo explicará isso com mais cuidado.

1
Machine Translated by Google

Além do interesse que esta tese pode ter para aqueles que estão envolvidos na
especulação futurística, há também recompensas mais puramente teóricas. O argumento
fornece um estímulo para a formulação de algumas questões metodológicas e metafísicas, e
sugere analogias naturalistas com certas concepções religiosas tradicionais, que alguns
podem achar divertidas ou instigantes.

A estrutura do artigo é a seguinte. Primeiro, formulamos uma suposição que

precisamos importar da filosofia da mente para iniciar o argumento. Em segundo lugar,
consideramos algumas razões empíricas para pensar que a execução de um grande número
de simulações de mentes humanas estaria dentro da capacidade de uma civilização futura
que desenvolveu muitas dessas tecnologias que já podem ser demonstradas como
compatíveis com as leis físicas e restrições de engenharia conhecidas. Esta parte não é
filosoficamente necessária, mas proporciona um incentivo para prestar atenção ao resto.
Segue-se então o núcleo do argumento, que faz uso de alguma teoria de probabilidade
simples, e uma seção que fornece suporte para um princípio de indiferença fraco que o
argumento emprega. Por fim, discutimos algumas interpretações da disjunção, mencionada
no resumo, que constitui a conclusão do argumento da simulação.

II. A ASSUNÇÃO DE INDEPENDÊNCIA DE SUBSTRATO

Uma suposição comum na filosofia da mente é a da independência do substrato. A ideia é

que os estados mentais podem sobrevir a qualquer uma de uma ampla classe de substratos
físicos. Desde que um sistema implemente o tipo certo de estruturas e processos
computacionais, ele pode ser associado a experiências conscientes. Não é uma propriedade
essencial da consciência que ela seja implementada em redes neurais biológicas baseadas
em carbono dentro de um crânio: processadores baseados em silício dentro de um computador
poderiam, em princípio, funcionar também.
Os argumentos para esta tese foram apresentados na literatura e, embora não sejam
totalmente incontroversos, vamos tomá-los aqui como um dado adquirido.
O argumento que apresentaremos não depende, contudo, de nenhuma versão muito
forte de funcionalismo ou computacionalismo. Por exemplo, não precisamos de assumir que
a tese da independência do substrato é necessariamente verdadeira (seja analiticamente ou
metafisicamente) – apenas que, de facto, um computador que execute um programa
adequado seria consciente. Além disso, não precisamos de assumir que, para criar uma
mente num computador, seria suficiente programá-lo de tal forma que se comportasse como
um ser humano em todas as situações, incluindo passar no teste de Turing, etc. que seria
suficiente para a geração de experiências subjetivas que os processos computacionais de um
cérebro humano fossem estruturalmente replicados com detalhes adequadamente refinados,
como no nível de

2
Machine Translated by Google

sinapses individuais. Esta versão atenuada da independência do substrato é amplamente aceita.

Neurotransmissores, fatores de crescimento nervoso e outras substâncias químicas menores

que uma sinapse desempenham claramente um papel na cognição e na aprendizagem humanas. A tese
da independência do substrato não é que os efeitos destes produtos químicos sejam pequenos ou
irrelevantes, mas sim que afectam a experiência subjectiva apenas através da sua influência directa ou
indirecta nas actividades computacionais. Por exemplo, se não pode haver diferença na experiência
subjetiva sem que também haja diferença nas descargas sinápticas, então o detalhe necessário da
simulação está no nível sináptico (ou superior).

III. OS LIMITES TECNOLÓGICOS DA COMPUTAÇÃO

No nosso atual estágio de desenvolvimento tecnológico, não temos nem hardware suficientemente
poderoso nem o software necessário para criar mentes conscientes em computadores. Mas foram
apresentados argumentos persuasivos no sentido de que, se o progresso tecnológico continuar inabalável ,
essas deficiências acabarão por ser ultrapassadas. Alguns autores argumentam que esta fase pode estar
apenas a algumas décadas de distância.1 No entanto, os objectivos actuais não exigem suposições
sobre a escala de tempo. O argumento da simulação funciona igualmente bem para aqueles que pensam
que serão necessárias centenas de milhares de anos para atingir um estágio “pós-humano” de civilização,
onde a humanidade adquiriu a maioria das capacidades tecnológicas que se pode atualmente mostrar
serem consistentes com as leis físicas e com restrições de materiais e energia.

Uma fase tão madura de desenvolvimento tecnológico tornará possível converter planetas e
outros recursos astronómicos em computadores extremamente poderosos. Atualmente é difícil ter
confiança em qualquer limite superior do poder computacional que possa estar disponível para civilizações
pós-humanas. Como ainda nos falta uma “teoria de tudo”, não podemos descartar a possibilidade de que
novos fenómenos físicos, não permitidos nas teorias físicas atuais, possam ser utilizados para transcender
as restrições2 que, no nosso entendimento atual, impõem .

1 Ver, por exemplo, KE Drexler, Engines of Creation: The Coming Era of Nanotechnology, Londres,
Forth Estate, 1985; N. Bostrom, “Quanto tempo antes da superinteligência?” Revista Internacional de
Estudos de Futuros, vol. 2, (1998); R. Kurzweil, A Era das Máquinas Espirituais: Quando os
computadores excedem a inteligência humana, Nova York, Viking Press, 1999; H. Moravec, Robot:
Mere Machine to Transcendent
Mind, Oxford University Press, 1999. 2 Tal como o limite de Bremermann-Bekenstein e o limite do
buraco negro (HJ Bremermann, “Minimum energy requirements of information transfer and computing.”
International Journal of Theoretical Physics 21: 203-217 (1982); JD Bekenstein, “Conteúdo de entropia
e fluxo de informação em sistemas com energia limitada.” Physical Review D 30: 1669-1679 (1984); A. Sandberg, “The Phys

3
Machine Translated by Google

limites teóricos sobre o processamento de informação alcançável em um determinado pedaço de

matéria. Podemos, com muito maior confiança, estabelecer limites inferiores para a computação
pós-humana, assumindo apenas mecanismos que já são compreendidos. Por exemplo, Eric Drexler
esboçou um projeto para um sistema do tamanho de um cubo de açúcar (excluindo resfriamento e
fonte de alimentação) que executaria 1.021 instruções por segundo.3 Outro autor fornece uma
estimativa aproximada de 1.042 operações por segundo para um computador com massa da ordem
de um grande planeta.4 (Se pudéssemos criar computadores quânticos, ou aprendermos a construir
computadores a partir de matéria nuclear ou plasma, poderíamos chegar mais perto dos limites
teóricos. Seth Lloyd calcula um limite superior para um computador de 1 kg de 5*1.050 operações
lógicas por segundo realizadas em aproximadamente 1.031 bits.5 No entanto, é suficiente para
nossos propósitos usar a estimativa mais conservadora que pressupõe apenas princípios de design
atualmente conhecidos.)
A quantidade de poder de computação necessária para emular uma mente humana
também pode ser estimada aproximadamente. Uma estimativa, baseada em quão caro é
computacionalmente replicar a funcionalidade de um pedaço de tecido nervoso que já entendemos
e cuja funcionalidade foi replicada in silico, aumento de contraste na retina, produz um número de
~1014 operações por segundo para todo o cérebro humano.6 Uma estimativa alternativa, baseada
no número de sinapses no cérebro e na sua frequência de disparo, dá um número de ~1016-1017
operações por segundo.7 É concebível que ainda mais possam ser necessárias se quisermos
simular em detalhe o funcionamento interno das sinapses e árvores dendríticas.

No entanto, é provável que o sistema nervoso central humano tenha um elevado grau de
redundância na microescala para compensar a falta de fiabilidade e o ruído dos seus componentes
neuronais. Seria de esperar, portanto, um ganho substancial de eficiência ao usar processadores
não biológicos mais confiáveis e versáteis.
A memória parece não ser uma restrição mais rigorosa do que o poder de processamento.8
Além disso, como a largura de banda sensorial humana máxima é de aproximadamente 108 bits
por segundo, a simulação de todos os eventos sensoriais incorre em um custo insignificante em
comparação com a simulação da atividade cortical. Podemos, portanto, usar o poder de processamento

de Superobjetos de Processamento de Informação: A Vida Diária entre os Cérebros de Júpiter.” Jornal de Evolução e
Tecnologia, vol. 5 (1999)).
3 KE Drexler, Nanosistemas: Máquinas Moleculares, Fabricação e Computação, Nova York, John Wiley & Sons, Inc., 1992.

4 R. J. “Matriochka
Bradbury, manuscrito Cérebros.
http://www.aeiveos.com/~bradbury/MatrioshkaBrains/
Trabalhando (2002),
MatrioshkaBrains.html.
5 S. Lloyd, “Limites físicos finais para a computação”. Natureza 406 (31 de agosto): 1047ÿ1054 (2000).
6 H. Moravec, Mind Children, Harvard University Press (1989).
7 Bostrom (1998), op. cit.
8 Ver referências nas notas de rodapé anteriores.

4
Machine Translated by Google

necessário para simular o sistema nervoso central como uma estimativa do custo computacional total
da simulação de uma mente humana.
Se o ambiente for incluído na simulação, isso exigirá poder computacional adicional – o
quanto depende do escopo e da granularidade da simulação. Simular todo o universo até ao nível
quântico é obviamente inviável, a menos que seja descoberta uma física radicalmente nova. Mas
para obter uma simulação realista da experiência humana, é necessário muito menos – apenas o
que for necessário para garantir que os humanos simulados, interagindo de forma humana normal
com o seu ambiente simulado, não notem quaisquer irregularidades.

A estrutura microscópica do interior da Terra pode ser omitida com segurança. Objetos astronômicos
distantes podem ter representações altamente comprimidas: a verossimilhança precisa se estender
à estreita faixa de propriedades que podemos observar do nosso planeta ou de uma espaçonave do
sistema solar. Na superfície da Terra, os objetos macroscópicos em áreas habitadas podem precisar
ser continuamente simulados, mas os fenômenos microscópicos provavelmente poderiam ser
preenchidos ad hoc. O que você vê através de um microscópio eletrônico precisa parecer insuspeito,
mas geralmente não há como confirmar sua coerência com partes não observadas do mundo
microscópico.
As exceções surgem quando projetamos deliberadamente sistemas para aproveitar fenômenos
microscópicos não observados que operam de acordo com princípios conhecidos para obter
resultados que possamos verificar de forma independente. O caso paradigmático disso é um
computador. A simulação pode, portanto, precisar incluir uma representação contínua de
computadores até o nível dos elementos lógicos individuais. Isto não representa nenhum problema,
uma vez que o nosso atual poder computacional é insignificante para os padrões pós-humanos.

Além disso, um simulador pós-humano teria poder computacional suficiente para acompanhar
os estados de crenças detalhados em todos os cérebros humanos em todos os momentos.
Portanto, quando visse que um ser humano estava prestes a fazer uma observação do mundo
microscópico, poderia preencher detalhes suficientes na simulação no domínio apropriado, conforme
necessário. Caso ocorresse algum erro, o diretor poderia facilmente editar os estados de qualquer
cérebro que tomasse conhecimento de uma anomalia antes que ela estragasse a simulação.
Alternativamente, o diretor pode voltar alguns segundos e executar novamente a simulação de uma
forma que evite o problema.
Parece, portanto, plausível que o principal custo computacional na criação de simulações
que são indistinguíveis da realidade física para as mentes humanas na simulação resida na simulação
de cérebros orgânicos até o nível neuronal ou subneuronal.9 Embora não seja possível obter uma
estimativa muito exata estimativa do custo de uma simulação realista da história humana, podemos
usar ~1033 - 1036 operações como

9 À medida que construímos mais computadores e mais rápidos, o custo da simulação das nossas máquinas poderá
eventualmente vir a dominar o custo da simulação dos sistemas nervosos.

5
Machine Translated by Google

estimativa aproximada10. À medida que ganhamos mais experiência com a realidade virtual,
obteremos uma melhor compreensão dos requisitos computacionais para fazer com que tais
mundos pareçam realistas aos seus visitantes. Mas, em qualquer caso, mesmo que a nossa
estimativa esteja errada em várias ordens de grandeza, isto não importa muito para o nosso
argumento. Observamos que uma aproximação aproximada do poder computacional de um
computador de massa planetária é de 1.042 operações por segundo, e isso pressupõe apenas
projetos nanotecnológicos já conhecidos, que provavelmente estão longe do ideal. Um único
computador desse tipo poderia simular toda a história mental da humanidade (chamemos isso de
simulação de ancestrais) usando menos de um milionésimo de seu poder de processamento por
um segundo. Uma civilização pós-humana poderá eventualmente construir um número
astronômico de tais computadores. Podemos concluir que o poder computacional disponível para
uma civilização pós-humana é suficiente para executar um grande número de simulações de
ancestrais, mesmo que ela aloque apenas uma pequena fração de seus recursos para esse
propósito. Podemos tirar esta conclusão mesmo deixando uma margem de erro substancial em
todas as nossas estimativas.

• As civilizações pós-humanas teriam poder computacional suficiente para executar um

enorme número de simulações de antepassados, mesmo utilizando apenas uma pequena
fração dos seus recursos para esse fim.

4. O NÚCLEO DO ARGUMENTO DA SIMULAÇÃO

A ideia básica deste artigo pode ser expressa aproximadamente da seguinte forma: se houvesse
uma probabilidade substancial de que a nossa civilização algum dia chegasse ao estágio pós-
humano e realizasse muitas simulações de ancestrais, então como é que você não está vivendo
em tal simulação?
Desenvolveremos esta ideia num argumento rigoroso. Vamos apresentar o
seguinte notação:

Pf : Fração de todas as civilizações tecnológicas de nível humano que sobrevivem para

atingir um estágio pós-humano

N : Número médio de simulações de ancestrais realizadas por uma civilização pós-

humana

H : Número médio de indivíduos que viveram em uma civilização antes de atingir um

estágio pós-humano

10 100 bilhões de humanosÿ 50 anos/humano ÿ 30 milhões de segundos/anoÿ [1014, 1017] operações em

cada cérebro humano por segundo ÿ [1033, 1036] operações.

6
Machine Translated by Google

A fração real de todos os observadores com experiências de tipo humano que vivem em
simulações é então

f NH
P (f
f sim
ÿ ÿÿ

NHH
P )ÿ

Escrevendo para
If a fração de civilizações pós - humanas que estão interessadas em
executando simulações de ancestrais (ou que contenham pelo menos alguns indivíduos que são
interessado nisso e ter recursos suficientes para administrar um número significativo de
tais simulações), e NI para o número médio de simulações de ancestrais executadas
por tais civilizações interessadas, temos

Eu NI N = f

e assim:

ff N
f sim
ÿ Informações de identificação pessoal
ÿÿ ÿ ÿ

(*)
( ffN
Informações de identificação pessoal
) ÿ1

Devido ao imenso poder computacional das civilizações pós-humanas, a NI é

extremamente grande, como vimos na seção anterior. Ao inspecionar (*) podemos então
veja que pelo menos uma das três proposições a seguir deve ser verdadeira:

(1) ÿ 0 Pf
(2) f ÿ0
EU

(3) sim ÿ1

V. UM PRINCÍPIO DE INDIFERENÇA SUAVE

Podemos dar mais um passo e concluir que, condicional à verdade de (3),

a credibilidade na hipótese de que alguém está em uma simulação deve estar próxima da unidade.
De forma mais geral, se soubéssemos que uma fração x de todos os observadores com
experiências vivem em simulações, e não temos nenhuma informação que indique
que nossas próprias experiências particulares são mais ou menos prováveis do que outras
experiências do tipo humano tenham sido implementadas in vivo e não em
machina, então nossa credibilidade de que estamos em uma simulação deve ser igual a x:

7
Machine Translated by Google

Cr (SIM fxx
|
sim(#)
ÿ)ÿ

Este passo é sancionado por um princípio de indiferença muito fraco. Distingamos dois
casos. O primeiro caso, que é o mais fácil, é quando todas as mentes em questão são
semelhantes às suas, no sentido de que são exatamente idênticas qualitativamente às
suas: têm exatamente as mesmas informações e as mesmas experiências que você
tem. O segundo caso é quando as mentes são “semelhantes” umas às outras apenas
no sentido vago de serem o tipo de mentes típicas das criaturas humanas, mas são
qualitativamente distintas umas das outras e cada uma tem um conjunto distinto de experiências.
Afirmo que mesmo neste último caso, onde as mentes são qualitativamente diferentes,
o argumento da simulação ainda funciona, desde que não se tenha informação que se
relacione com a questão de quais das várias mentes são simuladas e quais são
implementadas biologicamente.
Uma defesa detalhada de um princípio mais forte, que implica a posição acima
para ambos os casos como instâncias especiais triviais, foi dada na literatura.11 O
espaço não permite uma recapitulação dessa defesa aqui, mas podemos trazer à tona
uma das intuições subjacentes. trazendo à nossa atenção uma situação análoga de
tipo mais familiar. Suponha que x% da população tenha uma certa sequência genética
S na parte de seu DNA comumente designada como “DNA lixo”.
Suponhamos, ainda, que não existam manifestações de S (aquém do que apareceria
num ensaio genético) e que não existam correlações conhecidas entre ter S e qualquer
característica observável. Então, muito claramente, a menos que seu DNA tenha sido
sequenciado, é racional atribuir uma credibilidade de x% à hipótese de que você tem S.
E isso ocorre independentemente do fato de que as pessoas que têm S têm mentes
qualitativamente diferentes. e experiências de pessoas que não têm S. (Eles são
diferentes simplesmente porque todos os humanos têm experiências diferentes uns dos
outros, não por causa de qualquer ligação conhecida entre S e o tipo de experiências
que alguém tem.)
O mesmo raciocínio é válido se S não for a propriedade de ter uma determinada
sequência genética, mas sim a propriedade de estar numa simulação, assumindo
apenas que não temos informação que nos permita prever quaisquer diferenças entre
as experiências das mentes simuladas e as das mentes simuladas. mentes biológicas
originais.
Deve-se ressaltar que o brando princípio da indiferença expresso por (#)
prescreve a indiferença apenas entre hipóteses sobre qual observador você é, quando
você não tem informações sobre qual desses observadores você é. Isso acontece

11 Em, por exemplo, N. Bostrom, “The Doomsday argument, Adam & Eve, UN++, and Quantum Joe”. Síntese
127(3): 359-387 (2001); e mais detalhadamente em meu livro Anthropic Bias: Observation Selection Effects
in Science and Philosophy, Routledge, Nova York, 2002.

8
Machine Translated by Google

Em geral, não prescrevemos indiferença entre hipóteses quando falta informação específica
sobre qual das hipóteses é verdadeira. Em contraste com os princípios de indiferença de
Laplace e outros mais ambiciosos, é, portanto, imune ao paradoxo de Bertrand e a situações
semelhantes que tendem a atormentar os princípios de indiferença de âmbito irrestrito.

Os leitores familiarizados com o argumento do Juízo Final12 podem preocupar-se

com o facto de o brando princípio da indiferença invocado aqui ser o mesmo pressuposto
que é responsável por fazer decolar o argumento do Juízo Final, e de que o carácter contra-
intuitivo de algumas das implicações deste último incrimine ou lance dúvidas sobre o
argumento do Juízo Final. validade do primeiro. Isto não é assim. O argumento do Juízo
Final baseia-se numa premissa muito mais forte e controversa, nomeadamente que se deve
raciocinar como se fôssemos uma amostra aleatória do conjunto de todas as pessoas que
alguma vez viveram (passado, presente e futuro), embora saibamos que estamos vivendo
no início do século XXI , e não em algum momento do passado distante ou do futuro. O
princípio da indiferença branda, por outro lado, aplica-se apenas a casos em que não temos
informações sobre a que grupo de pessoas pertencemos.
Se as probabilidades de apostas fornecem alguma orientação para a crença racional,
também pode valer a pena ponderar que se todos apostassem se estão ou não numa
simulação, então se as pessoas usassem o princípio brando da indiferença e,
consequentemente, colocassem o seu dinheiro ao estarem em uma simulação, se souberem
que é onde quase todas as pessoas estão, então quase todos ganharão suas apostas. Se
apostarem em não participar da simulação, quase todos perderão. Parece melhor que o
princípio da indiferença branda seja respeitado.
Além disso, pode-se considerar uma sequência de situações possíveis em que uma
fração crescente de todas as pessoas vive em simulações: 98%, 99%, 99,9%, 99,9999% e
assim por diante. À medida que nos aproximamos do caso limite em que todos estão numa
simulação (do qual se pode inferir dedutivamente que eles próprios estão numa simulação),
é plausível exigir que a credibilidade que se atribui a estar numa simulação se aproxime
gradualmente do caso limite de certeza completa de maneira correspondente.

VI. INTERPRETAÇÃO

A possibilidade representada pela proposição (1) é bastante direta. Se (1) for verdade, então
a humanidade quase certamente não conseguirá atingir um nível pós-humano; pois
praticamente nenhuma espécie no nosso nível de desenvolvimento se torna pós-humana, e
é difícil ver qualquer justificação para pensar que a nossa própria espécie será especialmente
privilegiada ou protegida de desastres futuros. Condicional em (1), portanto, nós

12 Ver, por exemplo, J. Leslie, “Is the End of the World Nigh? ” Philosophical Quarterly 40, 158: 65-72 (1990).

9
Machine Translated by Google

deve dar grande crédito a DOOM, a hipótese de que a humanidade será extinta antes de
atingir um nível pós-humano:

Cr( DOOM| ÿfP0) ÿ 1

Pode-se imaginar situações hipotéticas em que tivéssemos evidências que superariam

o conhecimento de Pf . Por exemplo, se descobríssemos que estávamos prestes a ser
atingidos por um meteoro gigante, isso poderia sugerir que tivemos um azar excepcional.
Poderíamos então atribuir uma credibilidade ao DOOM maior do que a nossa expectativa da
fração de civilizações de nível humano que não conseguem alcançar a pós-humanidade. No
caso real, contudo, parece que não temos provas para pensar que somos especiais neste
aspecto, para melhor ou para pior.
A proposição (1) não implica por si só que provavelmente seremos extintos em breve,
apenas que é improvável que alcancemos um estágio pós-humano. Esta possibilidade é
compatível com o facto de permanecermos no nosso nível actual de desenvolvimento
tecnológico, ou um pouco acima, durante muito tempo antes de sermos extintos. Outra forma
de (1) ser verdade é se for provável que a civilização tecnológica entre em colapso. As
sociedades humanas primitivas poderiam então permanecer na Terra indefinidamente.
Existem muitas maneiras pelas quais a humanidade poderia ser extinta antes de
atingir a pós-humanidade. Talvez a interpretação mais natural de (1) seja que provavelmente
seremos extintos como resultado do desenvolvimento de alguma tecnologia poderosa mas
perigosa.13 Uma candidata é a nanotecnologia molecular, que na sua fase madura permitiria
a construção de tecnologias auto-replicantes. nanorrobôs capazes de se alimentar de sujeira
e matéria orgânica – uma espécie de bactéria mecânica.
Tais nanobots, concebidos para fins maliciosos, poderiam causar a extinção de toda a vida no
nosso planeta.14
A segunda alternativa na conclusão do argumento da simulação é que a fracção de
civilizações pós-humanas que estão interessadas em executar a simulação de antepassados
é insignificantemente pequena. Para que (2) seja verdade, deve haver uma forte convergência
entre os rumos das civilizações avançadas. Se o número de simulações de ancestrais criadas
pelas civilizações interessadas for extremamente grande, a raridade de tais civilizações deve
ser correspondentemente extrema. Praticamente nenhuma civilização pós-humana decide
usar os seus recursos para executar um grande número de simulações de ancestrais. Além
disso, praticamente todas as civilizações pós-humanas carecem

13 Ver o meu artigo “Riscos Existenciais: Analisando Cenários de Extinção Humana e Riscos Relacionados”.
Jornal de Evolução e Tecnologia, vol. 9 (2001) para um levantamento e análise das ameaças
presentes e futuras previstas à sobrevivência humana.
14 Ver, por exemplo, Drexler (1985) op cit., e RA Freitas Jr., “Some Limits to Global Ecophagy by
Biovorous Nanoreplicators, with Public Policy Recommendations”. Pré-impressão de Zyvex, abril
(2000), http://www.foresight.org/NanoRev/Ecophagy.html.

10
Machine Translated by Google

indivíduos que tenham recursos e interesse suficientes para realizar simulações de

ancestrais; ou então eles aplicaram leis de forma confiável que impedem tais indivíduos de
agir de acordo com seus desejos.
Que força poderia provocar tal convergência? Pode-se especular que todas as
civilizações avançadas se desenvolvem ao longo de uma trajetória que leva ao
reconhecimento de uma proibição ética contra a realização de simulações de ancestrais
devido ao sofrimento que é infligido aos habitantes da simulação. Contudo, do nosso ponto
de vista actual, não está claro que a criação de uma raça humana seja imoral. Pelo
contrário, tendemos a ver a existência da nossa raça como constituindo um grande valor
ético. Além disso, a convergência numa visão ética da imoralidade de realizar simulações
de antepassados não é suficiente: deve ser combinada com a convergência numa estrutura
social de toda a civilização que permita que actividades consideradas imorais sejam
efectivamente banidas.
Outro possível ponto de convergência é que quase todos os pós-humanos
individuais em praticamente todas as civilizações pós-humanas se desenvolvem numa
direcção em que perdem o desejo de realizar simulações de antepassados. Isto exigiria
mudanças significativas nas motivações que motivam os seus antecessores humanos,
pois há certamente muitos humanos que gostariam de realizar simulações de antepassados
se pudessem dar-se ao luxo de o fazer. Mas talvez muitos dos nossos desejos humanos
sejam considerados tolos por qualquer pessoa que se torne um pós-humano. Talvez o
valor científico das simulações de ancestrais para uma civilização pós-humana seja
insignificante (o que não é tão implausível dada a sua insondável superioridade intelectual),
e talvez os pós-humanos considerem as atividades recreativas apenas como uma forma
muito ineficiente de obter prazer – que pode ser obtido de forma muito mais barata. pela
estimulação direta dos centros de recompensa do cérebro. Uma conclusão que se segue
de (2) é que as sociedades pós-humanas serão muito diferentes das sociedades humanas:
não conterão agentes independentes relativamente ricos que tenham toda a gama de
desejos humanos e sejam livres para agir de acordo com eles.
A possibilidade expressa pela alternativa (3) é a mais intrigante conceitualmente.
Se vivermos numa simulação, então o cosmos que observamos é apenas um pequeno
pedaço da totalidade da existência física. A física do universo onde está situado o
computador que executa a simulação pode ou não assemelhar-se à física do mundo que
observamos. Embora o mundo que vemos seja, em certo sentido, “real”, ele não está
localizado no nível fundamental da realidade.
Pode ser possível que civilizações simuladas se tornem pós-humanas. Eles podem
então executar suas próprias simulações de ancestrais em computadores poderosos que
construíram em seu universo simulado. Tais computadores seriam “máquinas virtuais”, um
conceito familiar na ciência da computação. (Java script web-applets, por exemplo, são
executados em uma máquina virtual – um computador simulado – dentro do seu desktop.)
As máquinas virtuais podem ser empilhadas: é possível simular uma máquina simulando outra.

11
Machine Translated by Google

máquina, e assim por diante, em muitas etapas arbitrárias de iteração. Se continuarmos a criar as
nossas próprias simulações de antepassados, isto seria uma forte evidência contra (1) e (2), e
teríamos, portanto, de concluir que vivemos numa simulação. Além disso, teríamos de suspeitar
que os pós-humanos que executam a nossa simulação são eles próprios seres simulados; e seus
criadores, por sua vez, também podem ser seres simulados.

A realidade pode, portanto, conter muitos níveis. Mesmo que seja necessário que a
hierarquia chegue ao fundo em algum momento – o estatuto metafísico desta afirmação é um tanto
obscuro – pode haver espaço para um grande número de níveis de realidade, e o número pode
aumentar ao longo do tempo. (Uma consideração que conta contra a hipótese multinível é que o
custo computacional para os simuladores no nível do porão seria muito grande. Simular até mesmo
uma única civilização pós-humana pode ser proibitivamente caro. Se assim for, então deveríamos
esperar que nossa simulação fosse encerrada quando estamos prestes a nos tornar pós-humanos.)

Embora todos os elementos de tal sistema possam ser naturalistas, até mesmo físicos, é
possível traçar algumas analogias vagas com concepções religiosas do mundo. De certa forma, os
pós-humanos que executam uma simulação são como deuses em relação às pessoas que habitam
a simulação: os pós-humanos criaram o mundo que vemos; eles são de inteligência superior; são
“onipotentes” no sentido de que podem interferir no funcionamento do nosso mundo, mesmo de
formas que violem as suas leis físicas; e são “oniscientes” no sentido de que podem monitorizar
tudo o que acontece. No entanto, todos os semideuses, exceto aqueles no nível fundamental da
realidade, estão sujeitos a sanções dos deuses mais poderosos que vivem em níveis inferiores.

Uma reflexão mais aprofundada sobre estes temas poderia culminar numa teogonia
naturalista que estudaria a estrutura desta hierarquia e as restrições impostas aos seus habitantes
pela possibilidade de que as suas acções no seu próprio nível possam afectar o tratamento que
recebem dos habitantes de níveis mais profundos. Por exemplo, se ninguém puder ter a certeza
de que está no nível básico, então todos teriam de considerar a possibilidade de as suas acções
serem recompensadas ou punidas, talvez com base em critérios morais, pelos seus simuladores.
Uma vida após a morte seria uma possibilidade real. Devido a esta incerteza fundamental, mesmo
a civilização de base pode ter uma razão para se comportar de forma ética. O facto de ter tal razão
para o comportamento moral acrescentaria, evidentemente, à razão de todos os outros para se
comportarem moralmente, e assim por diante, num círculo verdadeiramente virtuoso. Poderíamos
obter uma espécie de imperativo ético universal, ao qual seria do interesse de todos obedecer, por
assim dizer, “do nada”.

Além das simulações de ancestrais, pode-se também considerar a possibilidade de

simulações mais seletivas que incluam apenas um pequeno grupo de humanos ou um grupo de pessoas.

12
Machine Translated by Google

único indivíduo. O resto da humanidade seria então zumbis ou “pessoas-sombra” – humanos

simulados apenas em um nível suficiente para que as pessoas totalmente simuladas não
percebessem nada suspeito. Não está claro até que ponto seria mais barato simular pessoas-
sombra do que pessoas reais. Não é sequer óbvio que seja possível que uma entidade se
comporte de forma indistinguível de um ser humano real e ainda assim não tenha experiência
consciente. Mesmo que existam simulações seletivas, você não deve pensar que está em
uma delas, a menos que pense que são muito mais numerosas do que simulações completas.
Teria que haver cerca de 100 mil milhões de vezes mais “simulações eu” (simulações da
vida de apenas uma única mente) do que há simulações de antepassados para que a maioria
das pessoas simuladas estivesse em simulações eu.

Existe também a possibilidade de os simuladores resumirem certas partes da vida

mental dos seres simulados e dar-lhes falsas memórias do tipo de experiências que
normalmente teriam tido durante o intervalo omitido. Se assim for, pode-se considerar a
seguinte solução (rebuscada) para o problema do mal: que não há sofrimento no mundo e
que todas as memórias de sofrimento são ilusões. É claro que essa hipótese só pode ser
considerada seriamente nos momentos em que você não está sofrendo no momento.

Supondo que vivamos numa simulação, quais são as implicações para nós,
humanos? Apesar das observações anteriores, as implicações não são tão radicais. Nosso
melhor guia sobre como nossos criadores pós-humanos escolheram configurar nosso mundo
é o estudo empírico padrão do universo que vemos. As revisões na maior parte das nossas
redes de crenças seriam bastante ligeiras e subtis – em proporção à nossa falta de confiança
na nossa capacidade de compreender os modos dos pós-humanos. Corretamente
compreendida, portanto, a verdade de (3) não deve ter tendência a fazer-nos “enlouquecer”
ou a impedir-nos de cuidar da nossa vida e de fazer planos e previsões para o amanhã. A
principal importância empírica de (3) no momento actual parece residir no seu papel na
conclusão tripartida estabelecida acima.15 Podemos esperar que (3) seja verdade, uma vez
que isso diminuiria a probabilidade de (1), embora se as restrições computacionais Se for
provável que os simuladores terminem uma simulação antes que ela atinja um nível pós-
humano, então a melhor esperança seria que (2) seja verdade.

Se aprendermos mais sobre as motivações pós-humanas e as restrições de recursos,

talvez como resultado do nosso desenvolvimento no sentido de nos tornarmos pós-humanos,
então a hipótese de que somos simulados passará a ter um conjunto muito mais rico de
implicações empíricas.

15 Para algumas reflexões de outro autor sobre as consequências de (3), que foram desencadeadas
por uma versão anterior deste artigo, de circulação privada, ver R. Hanson, “How to Live in a Simulation”.
Jornal de Evolução e Tecnologia, vol. 7 (2001).

13
Machine Translated by Google

VII. CONCLUSÃO

Uma civilização “pós-humana” tecnologicamente madura teria um enorme poder computacional.

Com base neste facto empírico, o argumento da simulação mostra que pelo menos uma das
seguintes proposições é verdadeira: (1) A fracção de civilizações de nível humano que atingem
uma fase pós-humana é muito próxima de zero; (2) A fração de civilizações pós-humanas que
estão interessadas em realizar simulações de ancestrais é muito próxima de zero; (3) A fração de
todas as pessoas com o nosso tipo de experiência que vivem numa simulação é muito próxima de
um.
Se (1) for verdade, então quase certamente seremos extintos antes de alcançarmos a pós-
humanidade. Se (2) for verdade, então deve haver uma forte convergência entre os cursos das
civilizações avançadas, de modo que praticamente nenhuma contém quaisquer indivíduos
relativamente ricos que desejem realizar simulações de antepassados e sejam livres para o fazer.
Se (3) for verdade, então quase certamente vivemos numa simulação. Na floresta escura da nossa
ignorância actual, parece sensato repartir a nossa credibilidade aproximadamente uniformemente
entre (1), (2) e (3).
A menos que vivamos agora numa simulação, é quase certo que os nossos descendentes
nunca executarão uma simulação de antepassados.

Agradecimentos Sou
grato a muitas pessoas pelos comentários, e especialmente a Amara Angelica, Robert Bradbury,
Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith
DeRose, Mike Treder, Mark Walker , Eliezer Yudkowsky e vários árbitros anônimos.

www.nickbostrom.com www.simulationÿargument.com

14