Os Vrus da Mente

Ateus.net Artigos/ensaios Psicologia Autor: Richard Dawkins Traduo: Marcelo Kunimoto Fonte: Sociedade da Terra Redonda O porto que todos o memes precisam alcanar a mente humana, mas uma mente humana apenas um artefato criado quando memes reestruturam um crebro humano para faz-lo um hbitat melhor para memes. Os caminhos para chegada e partida so modificados para ajustarse s condies locais e reforados por vrios dispositivos artificiais que aumentam a fidelidade e prolixidade da replicao: mentes chinesas nativas diferem dramaticamente de mentes francesas nativas e as mentes alfabetizadas diferem de mentes analfabetas. O que os memes provem em retorno aos organismos nos quais eles residem uma quantidade incalculvel de vantagens com alguns cavalos de Tria misturados tambm... Daniel Dennett, Consciousness Explained

Forragem de Duplicao
Uma linda criana prxima de mim, com seis anos e a menina dos olhos de seu pai, acredita que Thomas o Motor de Tanque [personagem de uma histria infantil] realmente existe. Ela acredita em Papai Noel, e quando ela crescer sua ambio ser uma fada do dente. Ela e seus amigos de escola acreditam na palavra solene de adultos respeitados de que fadas do dente e o Papai Noel realmente existem. Esta pequena menina est em uma idade de acreditar em tudo que voc lhe contar. Se voc lhe contar sobre bruxas transformando prncipes em sapos ela acreditar em voc. Se voc lhe contar que crianas ms ardem eternamente no inferno, ela ter pesadelos. Eu descobri h pouco que sem o consentimento do pai dela esta criana de seis anos encantadora, confiante e crdula est sendo enviada, para instruo semanal, a uma freira catlica romana. Que chances ela tem? Uma criana humana moldada pela evoluo para se saturar da cultura de seu povo. Obviamente, ela aprende os essenciais do idioma de seu povo em questo de meses. Um dicionrio grande de palavras para falar, uma enciclopdia de informao para falar sobre, regras sintticas e semnticas complicadas para ordenar a fala so todos transferidos de crebros mais velhos ao dela antes que ela alcance metade de seu tamanho adulto. Quando voc pr-programado para absorver informao til a altas taxas, difcil impedir ao mesmo tempo a entrada de informao perniciosa ou prejudicial. Com tantos bytes mentais para ser assimilados, tantos cdons mentais para ser reproduzidos, no nenhuma surpresa que crebros de crianas sejam crdulos, abertos a quase qualquer sugesto, vulnerveis subverso, presas fceis para Moonies, Cientologistas e freiras. Como pacientes imunodeficientes, crianas esto amplamente abertas a infeces mentais as quais adultos poderiam repelir sem esforo. O DNA tambm inclui cdigo parasitrio. A maquinaria celular extremamente boa em copiar DNA. No que tange o DNA, ele parece ter uma nsia para copiar, parece ansioso em ser copiado. O ncleo da clula um paraso para o DNA, repleto de maquinaria de duplicao sofisticada, rpida e precisa. A maquinaria celular to amigvel para a duplicao de DNA que pouca surpresa que clulas tornem-se hospedeiras de parasitas de DNA vrus, virides, plasmdeos e um refugo de outros camaradas viajantes genticos. O DNA parasitrio at mesmo se torna emendado aos cromossomos de forma quase imperceptvel. Genes saltantes e extenses de DNA egosta se cortam ou copiam para fora de cromossomos e se colam em outro lugar. Oncogenes mortais so quase impossveis de distinguir

de genes legtimos entre os quais eles esto tranados. No tempo evolutivo, h provavelmente um trfico ininterrupto de genes legtimos para genes foras-da-lei, e de volta novamente (Dawkins, 1982). O DNA s DNA. A nica coisa que distingue DNA virtico do DNA hospedeiro seu mtodo esperado de passar para geraes futuras. DNA hospedeiro legtimo apenas DNA que aspira passar para a prxima gerao pela rota ortodoxa de espermatozide ou vulo. DNA parasitrio fora-da-lei s DNA que busca uma rota mais rpida e menos cooperativa ao futuro, por uma minscula gotinha ou fragmento de sangue, em lugar de por um espermatozide ou vulo. Para dados em um disquete, um computador um paraso da mesma maneira que ncleos de clula tm uma nsia em duplicar DNA. Computadores e seus leitores de disco e fita associados so projetados com alta-fidelidade em mente. Como com molculas de DNA, bytes magnetizados no querem literalmente ser copiados de forma fiel. No obstante, voc pode escrever um programa de computador que toma medidas para se duplicar. No apenas duplicar a si mesmo dentro de um computador, mas se espalhar para outros computadores. Computadores so to bons em copiar bytes, e to bons em obedecer as instrues contidas nesses bytes fielmente, que so vtimas fceis para programas auto-reprodutores: amplamente abertos subverso por parasitas de software. Qualquer cnico familiar com a teoria de genes egostas e memes teria sabido que computadores pessoais modernos, com seu trfico promscuo de disquetes e ligaes de e-mail, estavam procurando por problemas. A nica coisa surpreendente sobre a epidemia atual de vrus de computadores que demorou tanto para ocorrer.

Vrus de Computador: Um Modelo para uma Epidemiologia Informacional

Vrus de computador so pedaos de cdigo que se enxertam em programas existentes e legtimos e subvertem as aes normais desses programas. Eles podem viajar em disquetes trocados, ou atravs de redes. Eles so tecnicamente distintos de worms [vermes] que so programas inteiros em seu prprio direito, normalmente viajando atravs de redes. Bastante diferentes so os cavalos de Tria, uma terceira categoria de programas destrutivos que no so auto-reprodutores, mas dependem de humanos para reproduzi-los por causa de seu contedo pornogrfico ou atraente de outras formas. Vrus e worms so programas que de fato dizem, em linguagem de computador, Duplique-me. Ambos podem fazer outras coisas que fazem sua presena percebida e talvez possam satisfazer a vaidade dos autores deles. Estes efeitos colaterais podem ser humorsticos (como o vrus que faz o alto-falante embutido do Macintosh enunciar as palavras No entre em pnico, com o previsvel efeito oposto); maliciosos (como os numerosos vrus IBM que apagam o disco rgido depois de um anncio na tela do desastre iminente); polticos (como os vrus Spanish Telecom e Beijing que protestam sobre custos de telefone e estudantes massacrados respectivamente); ou simplesmente inadvertidos (o programador incompetente para controlar as chamadas de sistema de baixo nvel exigidas para escrever um vrus ou worm efetivo). O famoso Internet Worm que paralisou muito do poder de computao dos Estados Unidos no dia 2 de novembro de 1988 no era projetado (muito) maliciosamente mas ficou fora de controle e, dentro de 24 horas, tinha congestionado 6.000 memrias de computador multiplicando exponencialmente cpias de si mesmo. Memes agora se espalham ao redor do mundo velocidade da luz, e se reproduzem a taxas que fazem at mesmo a mosca de frutas e clulas de fermento parecerem glaciais em comparao. Eles saltam promiscuamente de veculo para veculo, e de meio para meio, e esto provando ser virtualmente impossveis de colocar em quarentena (Dennett 1990, p.131). Vrus no esto limitados a mdias eletrnicas como discos e linhas de dados. Em seu caminho de um computador para outro, um vrus pode atravessar a tinta de impresso, raios de luz em uma lente humana, impulsos de nervo ticos e contraes de msculos do dedo. Uma revista de aficcionados por computador que imprimiu o texto de um programa de vrus para o interesse de seus leitores foi extensamente condenada. De fato, tal a

atrao da idia de vrus a um certo tipo de mentalidade pueril (o gnero masculino usado a conselho), que a publicao de qualquer tipo de informao sobre como projetar programas de vrus vista imediatamente como um ato irresponsvel. Eu no vou publicar nenhum cdigo de vrus. Mas h certos truques de design de vrus efetivos que so conhecidos suficientemente bem, at mesmo bvios, que no far nenhum mal mencion-los, enquanto eu preciso fazer para desenvolver meu tema. Todos eles se originam da necessidade do vrus para escapar de descoberta enquanto estiver se espalhando. Um vrus que clona a si mesmo de forma excessiva dentro de um computador ser descoberto rapidamente porque os sintomas de congestionamento ficaro muito bvios para ignorar. Por isto muitos programas de vrus checam, antes de infectar um sistema, para ter certeza se eles j no esto naquele sistema. Incidentalmente, isto abre um modo para defesa contra vrus que anlogo imunizao. Nos dias antes que um programa especfico de antivrus estivesse disponvel, eu mesmo respondi a uma infeco em meu prprio disco rgido por meio de uma primitiva vacinao. Em vez de apagar o vrus que tinha descoberto, eu simplesmente incapacitei suas instrues codificadas, deixando a casca do vrus com sua assinatura externa caracterstica intacta. Teoricamente, os membros subseqentes das mesmas espcies de vrus que chegaram em meu sistema deveriam ter reconhecido a assinatura do seu prprio tipo e se abstido de tentar infect-lo novamente. Eu no sei se esta imunizao realmente funcionou, mas naqueles dias provavelmente valia a pena destripar um vrus e deixar sua casca em lugar de simplesmente isol-lo. Hoje em dia melhor entregar o problema para um dos programas de antivrus profissionalmente escritos. Um vrus que muito virulento ser descoberto rapidamente e ser eliminado. Um vrus que imediatamente e catastroficamente sabota todo computador no qual se encontra no se achar em muitos computadores. Pode ter um efeito muito agradvel em um computador apagar uma tese de doutorado inteira ou algo igualmente frustrante mas no se espalhar como uma epidemia. Ento, alguns vrus so projetados para ter um efeito que pequeno o bastante para ser difcil de detectar, mas que pode mesmo assim ser extremamente danoso. H um tipo que, em vez de apagar todos os setores de disco, ataca s planilhas eletrnicas, fazendo algumas mudanas aleatrias dentro de quantidades (normalmente financeiras) inseridas em filas e colunas. Outros vrus evadem descoberta sendo ativados probabilisticamente, apagando por exemplo s um em 16 dos discos rgidos infectados. J outros vrus empregam o princpio de bombas-relgio. A maioria dos computadores modernos est ciente da data, e vrus foram ativados para se manifestar ao redor do mundo em uma data particular como uma sexta-feira 13 ou o Dia da Mentira em 1 de abril. Do ponto de vista parasitrio, no importa quo catastrfico o ataque eventual , contanto que o vrus tenha tido bastante oportunidade para se espalhar primeiro (uma analogia perturbadora com a teoria de Medawar/Williams do envelhecimento: ns somos as vtimas de genes letais e sub-letais que s amadurecem depois que ns tenhamos tido bastante tempo para nos reproduzirmos (Williams, 1957)). Como defesa, algumas companhias grandes vo to longe a ponto de utilizar um canrio de minerador entre sua frota de computadores, e avanar o calendrio interno deste computador uma semana de forma que qualquer vrus bomba-relgio revele-se prematuramente antes do dia fatdico. Novamente de maneira previsvel, a epidemia de vrus de computador desencadeou uma corrida de esforos. Software antivirtico est movimentando um comrcio volumoso. Estes programas antdoto Interferon, Vaccine, Gatekeeper e outros empregam um arsenal diverso de truques. Alguns so escritos com vrus especficos em mente, conhecidos e nomeados. Outros interceptam qualquer tentativa de intrometimento em reas de memria de sistema sensveis e avisam o usurio. O princpio do vrus pode, teoricamente, ser usado para propsitos no-maliciosos e at mesmo benficos. Thimbleby (1991) cunhou o termo liveware [live = vivo] para seu uso j implementado do princpio de infeco para manter cpias mltiplas de bancos de dados atualizadas. Toda vez que um disco contendo um banco de dados conectado a um computador, ele confere se j h outra cpia

presente no disco rgido local. Se houver, cada cpia atualizada luz da outra. Assim, com um pouco de sorte, no importa que membro de um crculo de colegas insira, digamos, uma citao bibliogrfica nova em seu disco pessoal. As informaes recentemente inseridas dele infectaro os discos de seus colegas prontamente (porque seus colegas inserem promiscuamente os discos deles nos computadores uns dos outros) e se espalharo como uma epidemia pelo crculo. O liveware de Thimbleby no inteiramente como um vrus: ele no pode se espalhar para o computador de qualquer pessoa e causar dano. Ele espalha dados apenas a cpias j existentes de seu prprio banco de dados; e voc no ser infectado pelo liveware a menos que voc opte positivamente pela infeco. Incidentalmente, Thimbleby, que est muito preocupado com a ameaa dos vrus, aponta que voc pode ganhar um pouco de proteo usando sistemas de computador que outras pessoas no usam. A justificativa habitual para comprar o computador numericamente dominante de hoje simples e unicamente a de que ele numericamente dominante. Quase toda pessoa entendida concorda que, em termos de qualidade e especialmente facilidade de uso, o sistema rival, minoritrio, superior. No obstante, a onipresena celebrada como benfica por si mesma, suficiente para superar em valor a mera qualidade. Compre o mesmo (embora inferior) computador que seus colegas, como dita o argumento, e voc poder se beneficiar de software compartilhado e de uma circulao geralmente grande de software disponvel. A ironia que, com o advento da praga de vrus, benefcio no tudo aquilo que voc pode adquirir. Ns no s deveramos ser muito hesitantes antes de aceitar um disco de um colega. Ns tambm deveramos estar atentos que, se ns nos unimos a uma comunidade grande de usurios de uma particular marca computador, ns tambm estamos nos unindo a uma comunidade grande de vrus at mesmo, podemos descobrir, desproporcionalmente maior. Voltando a possveis usos de vrus para propsitos positivos, h propostas para explorar o princpio trapaceador vira regulador, e usar um ladro para pegar um ladro. Um modo simples seria tomar quaisquer dos programas antivirticos existentes e carreg-lo como uma ogiva em um vrus autoreprodutor inofensivo. De um ponto de vista de sade pblica, uma epidemia de propagao de software antivirtico poderia ser especialmente benfica porque os computadores mais vulnerveis a vrus malignos aqueles cujos donos so promscuos na troca de programas pirateados tambm sero mais vulnerveis infeco pelo antivrus curativo. Um antivrus mais penetrante pode como no sistema imunolgico aprender ou evoluir uma capacidade melhorada para atacar qualquer vrus que encontrar. Eu posso imaginar outros usos do princpio de vrus de computador que, se no precisamente altrusticos, sejam pelo menos construtivos o bastante para escapar a acusao de puro vandalismo. Uma companhia de computador poderia desejar fazer pesquisa de mercado nos hbitos de seus clientes, com uma viso para melhorar o projeto de produtos futuros. Os usurios gostam de escolher arquivos atravs de cone pictricos, ou eles optam por exibi-los apenas atravs de seus nomes textuais? Como as pessoas encadeiam suas pastas (diretrios) uns dentro dos outros? As pessoas se contentam com uma sesso longa com s um programa, digamos um processador de textos, ou eles esto constantemente trocando de um lado para outro, digamos entre programas de redigir e desenhar? As pessoas tm sucesso movendo o ponteiro do mouse diretamente ao objetivo, ou eles vagam ao redor em movimentos que desperdiam tempo que poderiam ser retificados por uma mudana em design? A companhia poderia enviar um questionrio que faz todas estas perguntas, mas os clientes que responderiam seriam uma amostra parcial e, em todo caso, a prpria avaliao deles do seu comportamento de uso do computador poderia ser inexata. Uma soluo melhor seria um programa de computador de pesquisa de mercado. Seria requisitado que os clientes carregassem este programa no sistema deles, onde ele funcionaria sem obstruo monitorando silenciosamente e contando as teclas pressionadas e os movimentos de mouse. Ao trmino de um ano, o cliente seria requisitado a enviar o arquivo de disco contendo todos os dados do programa de pesquisa de mercado. Mas novamente, a maioria das pessoas no se aborreceria em cooperar e alguns poderiam ver isto como uma invaso de privacidade e do espao de seu disco.

A soluo perfeita, do ponto de vista da companhia, seria um vrus. Como qualquer outro vrus, seria auto-reprodutor e sutil. Mas no seria destrutivo ou facetado como um vrus ordinrio. Junto com seu propulsor auto-reprodutor conteria uma ogiva de pesquisa de mercado. O vrus seria liberado sorrateiramente na comunidade de usurios de computador. Como um vrus ordinrio ele se espalharia, medida que as pessoas trocassem disquetes e e-mails ao redor da comunidade. Enquanto o vrus se espalhasse de computador a computador, construiria estatsticas sobre o comportamento de usurios, monitorado secretamente dos bastidores dentro de uma sucesso de sistemas. De vez em quando, uma cpia dos vrus acharia seu caminho de volta a um dos computadores da prpria companhia atravs de trfico de epidemia normal. L seria examinado e seus dados colecionados com dados de outras cpias do vrus que tenham voltado casa. Olhando para o futuro, no fantstico imaginar um tempo em que vrus, tanto ruins quanto bons, tornem-se to onipresentes que ns poderemos falar de uma comunidade ecolgica de vrus e programas legtimos que coexistiriam na silicosfera. No momento, o software anunciado como, digamos, Compatvel com o System 7. No futuro, produtos podem ser anunciados como Compatvel com todos os vrus registrados no Censo Mundial de Vrus de 1998; imune a todos vrus virulentos listados; toma vantagem completa das instalaes oferecidas pelos vrus benignos seguintes se presentes... Softwares processadores de texto, digamos, podem entregar funes particulares, como contagem de palavras e cadeias, para vrus amigveis que passem autonomamente pelo texto. Olhando ainda mais adiante no futuro, sistemas de software integrados inteiros poderiam crescer, no atravs de design, mas por algo como o crescimento de uma comunidade ecolgica como uma floresta tropical. Gangues de vrus mutuamente compatveis poderiam crescer, da mesma maneira como genomas podem ser considerados como gangues de genes mutuamente compatveis (Dawkins, 1982). De fato, eu sugeri at mesmo que nossos genomas deveriam ser considerados como colnias gigantescas de vrus (Dawkins, 1976). Genes cooperam uns com os outros em genomas porque a seleo natural favoreceu esses genes que prosperam na presena dos outros genes que eventualmente esto na mesma comunidade de genes. Comunidades de genes diferentes podem evoluir para combinaes diferentes de genes mutuamente compatveis. Eu vejo um tempo quando, da mesma forma, vrus de computador podem evoluir para compatibilidade com outros vrus, para formar comunidades ou gangues. Mas novamente, talvez no! De qualquer modo, eu acho a especulao mais alarmante que excitante. No momento, vrus de computador no evoluem estritamente. Eles so inventados por programadores humanos, e se eles evoluem eles o fazem no mesmo senso fraco como carros ou aeroplanos evoluem. Projetistas derivam o carro deste ano como uma modificao leve do carro do ltimo ano, e ento pode, mais ou menos conscientemente, continuar uma tendncia dos ltimos anos achatar ainda mais a grade do radiador ou o que quer que seja. Projetistas de vrus de computador inventam truques cada vez mais intrincados para burlar os programadores de software de antivrus. Mas vrus de computador at agora no sofrem mutao e evoluem atravs de verdadeira seleo natural. Eles podem fazer isso no futuro. Quer eles evoluam atravs de seleo natural, ou quer a evoluo deles seja guiada por projetistas humanos, pode no fazer muita diferena ao desempenho eventual deles. Por qualquer forma de evoluo, ns esperamos que eles fiquem melhores em encobrimento e que eles fiquem sutilmente compatveis com outros vrus que esto prosperando ao mesmo tempo na comunidade de computadores. Vrus de DNA e vrus de computador se espalham pela mesma razo: um ambiente existe no qual h uma maquinaria bem montada para duplicar e espalh-los por a e para obedecer as instrues que os vrus embutem. Estes dois ambientes so, respectivamente, o ambiente da fisiologia celular e o ambiente provido por uma comunidade grande de computadores e maquinaria para lidar com dados. H qualquer outro ambiente como estes, qualquer outro paraso de replicao?

A Mente Infectada

Eu j aludi credulidade programada de uma criana, to til para aprender o idioma e sabedoria tradicional, e to facilmente subvertida pelas freiras, Moonies e sua laia. Mais geralmente, todos ns trocamos informao uns com os outros. Ns no inserimos exatamente disquetes em aberturas nos crnios uns dos outros, mas ns trocamos frases, tanto por nossos ouvidos quanto por nossos olhos. Ns notamos os estilos de mover e vestir uns dos outros e somos influenciados. Ns aceitamos jingles de propaganda, e somos presumivelmente persuadidos por eles, caso contrrio os homens de negcios cabeas-dura no gastariam tanto dinheiro poluindo o ambiente com eles. Pense nas duas qualidades que um vrus, ou qualquer tipo de replicador parasitrio, precisa de um meio amigvel. As duas qualidades que fazem a maquinaria celular to amigvel para o DNA parasitrio, e que faz computadores to amigveis para vrus de computador. Estas qualidades so, primeiramente, uma prontido para reproduzir informao com preciso, talvez com alguns enganos que so reproduzidos subseqentemente com preciso; e, secundariamente, uma prontido para obedecer a instrues codificadas na informao assim reproduzida. A maquinaria celular e computadores eletrnicos se destacam em ambas estas qualidades amigveis aos vrus. Como crebros humanos se saem nestes aspectos? Como duplicadores fiis, eles so certamente menos perfeitos que clulas ou computadores eletrnicos. No obstante, eles ainda so muito bons, talvez to confiveis quanto um vrus de RNA, mas no to bons quanto um DNA com todas suas medidas elaboradas de reviso contra degradao textual. Uma evidncia da fidelidade de crebros, especialmente crebros de crianas, como duplicadores de dados fornecida pela prpria linguagem. O Professor Higgins de Shaw era capaz atravs apenas de ouvido de situar londrinos na rua onde eles cresceram. A fico no evidncia para nada, mas todo mundo sabe que a habilidade fictcia de Higgins s um exagero de algo que ns todos podemos fazer. Qualquer americano pode diferenciar o sotaque do Extremo Sul do sotaque do Meio oeste, o de New England do de Hillbilly. Qualquer nova-iorquino pode diferenciar o sotaque Bronx do Brooklyn. Afirmaes equivalentes poderiam ser substanciadas para qualquer pas. O que este fenmeno significa que crebros humanos so capazes de copiar muito precisamente (caso contrrio os sotaques de, digamos, Newcastle no seriam estveis o bastante para ser reconhecidos) mas com alguns enganos (caso contrrio a pronncia no evoluiria, e todos os falantes de um idioma herdariam exatamente os mesmos sotaques dos seus antepassados remotos). A lngua evolui, porque tem tanto a grande estabilidade quanto a mutabilidade sutil que so condies prvias para qualquer sistema evolutivo. A segunda exigncia de um ambiente amigvel a vrus que ele deva obedecer a um programa de instrues codificadas mais uma vez apenas quantitativamente menos verdade para crebros que para clulas ou computadores. Ns s vezes obedecemos ordens uns dos outros, mas tambm s vezes no o fazemos. No obstante, um fato revelador que, por todo o mundo, a vasta maioria das crianas segue a religio de seus pais em lugar de quaisquer das outras religies disponveis. Instrues para genuflectir, curvar-se para Meca, para acenar a cabea ritmicamente perante um muro, de balanar como um louco, para falar em lnguas [speak in tongues] a lista de tais padres motores arbitrrios e insensatos oferecida pela religio apenas extensa so obedecidas, se no servilmente, pelo menos com uma probabilidade estatstica razoavelmente alta. Menos prejudicial, e novamente especialmente proeminente em crianas, a moda um exemplo notvel de comportamento que deve mais epidemiologia que escolha racional. Iois, bambols e pulapulas, com as atitudes determinadas de comportamento associadas a eles, passam por escolas, e mais esporadicamente saltam de escola a escola, em padres que no diferem de uma epidemia de sarampo em nenhum aspecto importante em particular. Dez anos atrs, voc poderia ter viajado milhares de milhas pelos Estados Unidos e nunca poderia ter visto um bon de beisebol usado virado ao contrrio. Hoje, o bon de beisebol virado onipresente. Eu no sei qual foi precisamente o padro de expanso geogrfica do uso do bon de beisebol virado para trs, mas a epidemiologia est certamente entre as profisses mais qualificadas para estudar isto. Ns no temos que nos enveredar por argumentos sobre determinismo; ns no temos que alegar que as crianas so compelidas a imitar as modas de chapu de seus colegas. o bastante que o comportamento de usar chapu delas, de fato, estatisticamente

afetado pelo comportamento de usar chapu de seus colegas. Trivial como elas so, modas nos provem ainda mais evidncia circunstancial de que mentes humanas, especialmente talvez as juvenis, tm as qualidades que ns destacamos como desejveis para um parasita informacional. No mnimo a mente uma candidata plausvel para infeco por algo como um vrus de computador, at mesmo se no for exatamente um ambiente de sonhos para um parasita como um ncleo de clula ou um computador eletrnico. intrigante imaginar como seria, do interior, se a mente de uma pessoa fosse vtima de um vrus. Este poderia ser um parasita deliberadamente projetado, como um vrus de computador atual. Ou poderia ser um parasita inadvertidamente transformado e inconscientemente evoludo. De qualquer modo, especialmente se o parasita evoludo era o descendente mmico de uma linha longa de antepassados prsperos, ns somos intitulados a esperar que o vrus da mente tpico seja muito bom em seu trabalho de reproduzir a si mesmo com sucesso. Evoluo progressiva de parasitas da mente mais efetivos ter dois aspectos. Mutantes novos (seja randomicamente ou projetados por humanos) que so melhores em se espalhar se tornaro mais numerosos. E haver um agrupamento de idias que florescem na presena umas das outras, idias que mutuamente apiam umas s outras da mesma maneira que genes o fazem e como especulei que vrus de computador podem um dia vir a fazer. Ns esperamos que replicadores iro juntos de crebro para crebro em gangues mutuamente compatveis. Estas gangues iro constituir um pacote, que pode ser suficientemente estvel para merecer um nome coletivo como Catolicismo Romano ou Vodu. No importa muito se ns fizermos a analogia do pacote inteiro para um nico vrus, ou a cada uma das partes componentes de um nico vrus. A analogia no to precisa de qualquer maneira, como a distino entre um vrus de computador e um verme [worm] de computador no nada para ser considerado. O que importa que as mentes so ambientes amigveis para idias ou informaes parasitas, autoreprodutoras, e que mentes so tipicamente infestadas de forma macia. Como vrus de computador, vrus da mente de sucesso tendero a ser difceis para suas vtimas descobrirem. Se voc for a vtima de um, as chances so de que voc no saber disto, e pode at mesmo negar vigorosamente isto. Aceitando que um vrus poderia ser difcil de descobrir em sua prpria mente, que sinais indicadores voc poderia procurar? Eu responderei imaginando como um livro de medicina poderia descrever os sintomas tpicos de um atingido (arbitrariamente assumido como do sexo masculino). 1. O paciente se acha tipicamente impelido por alguma convico profunda, interna, de que algo verdade, ou correto, ou virtuoso: uma convico que no parece dever nada evidncia ou razo, mas que, no obstante, ele sente como totalmente compelidora e convincente. Ns doutores nos referimos a tal convico como f. 2. Pacientes tipicamente atribuem uma virtude positiva f ser forte e inabalvel, apesar dela no ser baseada em evidncia. De fato, eles podem sentir que quanto menos comprovada, mais virtuosa a convico (veja abaixo). Esta idia paradoxal de que a falta de evidncia uma virtude positiva no que tange a f tem parte da qualidade de um programa que auto-sustentando, porque auto-referente (ver o captulo On Viral Sentences and Self-Replicating Structures [Sobre Sentenas Virais e Estruturas Auto-Reprodutoras] em Hofstadter, 1985). Uma vez que a proposio acreditada, ela automaticamente mina a oposio a si mesma. A idia de que a falta de evidncia uma virtude poderia ser uma scia admirvel, agrupandose prpria f em um grupo exclusivo de programas virticos mutuamente encorajadores. 3. Um sintoma relacionado que um afligido pela f tambm pode apresentar a convico de que o mistrio, per se, uma coisa boa. No uma virtude resolver mistrios. Ao contrrio, ns deveramos desfrut-los, at mesmo nos divertir com sua insolubilidade.

Qualquer impulso para resolver mistrios poderia ser um inimigo srio para a expanso de um vrus da mente. Ento, no seria surpreendente se a idia de que mistrios so melhores no-resolvidos fosse um membro favorecido de uma gangue mutuamente apoiadora de vrus. Tome o Mistrio da Transubstanciao. fcil e no-misterioso acreditar que em algum senso simblico ou metafrico o vinho eucarstico se transforme no sangue de Cristo. A doutrina catlica romana de transubstanciao, porm, alega muito mais. A substncia inteira do vinho convertida no sangue de Cristo; a aparncia de vinho que permanece meramente acidental, no derivando de nenhuma substncia (Kenny, 1986, pg. 72). A transubstanciao coloquialmente ensinada como significando que o vinho se transforma literalmente no sangue de Cristo. Quer em seu Aristotlico obfuscatrio ou em sua forma coloquial mais franca, a alegao de transubstanciao s pode ser feita se ns cometermos uma violncia sria aos significados normais de palavras como substncia e literalmente. Redefinir palavras no um pecado, mas se ns usamos palavras como substncia inteira e literalmente para este caso, que palavra vamos usar quando ns realmente e verdadeiramente quisermos dizer que algo aconteceu de fato? Como Anthony Kenny observou de seu prprio questionamento quando era um seminarista jovem, At onde podia dizer, minha mquina de escrever poderia ser Benjamim Disraeli transubstanciado... Catlicos romanos, cuja crena na autoridade infalvel os compele a aceitar que o vinho se transforma fisicamente em sangue apesar de todas as aparncias, referem-se ao mistrio da transubstanciao. Chamar isto de um mistrio torna tudo certo, entende? Pelo menos, funciona bem para uma mente bem preparada por uma infeco secundria. Exatamente o mesmo truque realizado no mistrio da Trindade. Mistrios no foram feitos para ser resolvidos, eles foram feitos para criar fascinao. A idia de que o mistrio uma virtude vem ajuda do catlico, que do contrrio acharia intolervel a obrigao de acreditar na tolice bvia da transubstanciao e do trs-em-um. Novamente, a convico de que o mistrio uma virtude tem um elo auto-referente. Como Hofstadter poderia dizer, o mesmo mistrio da crena move o crente a perpetuar o mistrio. Um sintoma extremo da infeco do mistrio uma virtude o Certum est quia impossibile est de Tertullian ( certo porque impossvel). Desse modo a loucura chega. Uma pessoa pode ficar tentada a citar a Rainha Branca de Lewis Carroll que, em resposta frase de Alice Uma pessoa no pode acreditar em coisas impossveis disse eu ouso dizer que voc no teve muita prtica... Quando eu tinha sua idade, eu sempre fazia isto durante meia-hora por dia. Por que, s vezes eu acreditei em tanto quanto seis coisas impossveis antes do caf da manh. Ou o Monge Eltrico de Douglas Adams, um dispositivo poupador de trabalho programado para acreditar por voc que era capaz de acreditar em coisas que eles teriam dificuldade em acreditar em Salt Lake City e o qual, no momento de ser apresentado ao leitor, acreditava ao contrrio de toda a evidncia, que tudo no mundo era uma sombra uniforme de cor-de-rosa. Mas as Rainhas Brancas e os Monges Eltricos ficam menos engraados quando voc perceber que estes grandes crentes so na vida real indistinguveis de telogos venerados. para ser acreditado de todas as formas, porque absurdo (Tertullian novamente). Sir Thomas Browne (1635) cita Tertullian com aprovao, e vai mais adiante: Eu acho que no h impossibilidades o bastante na religio para uma f ativa? E eu desejo exercitar minha f no ponto mais difcil; j que acreditar nos objetos ordinrios e visveis no f, mas persuaso? Eu sinto que h algo mais interessante acontecendo aqui que apenas simples insanidade ou nonsense surrealista, algo similar admirao que ns sentimos quando assistimos um ilusionista em uma corda bamba. como se o fiel ganhasse mais prestgio por conseguir acreditar em coisas mais impossveis que seus rivais conseguem acreditar. Ser que estas pessoas esto testando exercitando seus msculos de acreditar, treinando a si mesmos para acreditar em coisas impossveis de forma que eles possam encarar facilmente as coisas meramente improvveis que eles so chamados a acreditar ordinariamente? Enquanto eu estava escrevendo isto, o Guardian (29 de julho de 1991) fortuitamente mostrava um belo exemplo. Ele veio em uma entrevista com um rabino executando a tarefa estranha de atestar pureza kosher de produtos de comida at s ltimas origens dos seus minutos ingredientes . Ele estava agonizando atualmente sobre se iria at a China para examinar o mentol que compe pastilhas para

tosse. Voc j tentou verificar mentol chins... era extremamente difcil, especialmente j que a primeira carta que ns enviamos recebido a resposta no melhor ingls chins, O produto no contm nenhum kosher... A China s comeou recentemente a se abrir a investigadores kosher. O mentol deve estar certo, mas voc nunca pode estar absolutamente seguro a menos que voc visite. Estes investigadores kosher gerenciam uma linha de atendimento por telefone na qual alertas em tempo real de suspeita contra barras de chocolate e leo de fgado de bacalhau so registradas. O rabino lamenta que a tendncia inspirada ecologicamente de distanciamento de cores artificiais e sabores tornam a vida miservel no campo kosher porque voc tem que seguir todas estas coisas at sua origem. Quando o entrevistador lhe pergunta por que ele se aborrece neste exerccio obviamente insensato, ele deixa muito claro que o ponto precisamente que no h nenhum ponto: Que a maioria das leis Kashrut so ordenaes divinas sem razo dada 100 por cento o ponto. muito fcil no assassinar as pessoas. Muito fcil. um pouco mais duro no roubar porque uma pessoa tentada ocasionalmente. De forma que no nenhuma grande prova que eu acredito em Deus ou estou cumprindo o Seu desejo. Mas, se Ele me diz que no devo tomar uma xcara de caf com leite na minha hora do almoo com minha carne moda, isto um teste. A nica razo para que eu estou esteja fazendo isso porque me disseram para fazer isso. algo difcil. Helena Cronin sugeriu a mim que pode haver uma analogia aqui para a teoria de deficincia de Zahavi de seleo sexual e a evoluo de sinais (Zahavi, 1975). H muito antiquada, at mesmo ridicularizada (Dawkins, 1976), a teoria de Zahavi foi reabilitada recentemente de forma inteligente (Grafen, 1990 a, b) e considerada agora seriamente por bilogos evolutivos (Dawkins, 1989). Por exemplo, Zahavi sugere que paves evoluram suas caudas absurdamente penosas e suas cores ridiculamente notveis (para predadores), precisamente porque elas so penosas e perigosas, e portanto impressionantes a fmeas. O pavo est, em efeito, dizendo: Veja o quo forte e adaptado eu devo ser, j que eu posso levar este rabo absurdamente penoso por a. Para evitar um mal entendido do idioma subjetivo no qual Zahavi gosta de fazer suas observaes, eu devo acrescentar que a conveno do bilogo de personificar as aes inconscientes da seleo natural um pressuposto no mencionado aqui. Grafen traduziu o argumento em um modelo matemtico Darwiniano ortodoxo, e ele funciona. Nenhuma reivindicao est sendo feita aqui sobre a intencionalidade ou conscincia de paves e pavoas. Eles podem ser to involuntrios ou intencionais quanto voc desejar (Dennett, 1983, 1984). Alm disso, a teoria de Zahavi geral o bastante para no depender de um apoio Darwiniano. Uma flor que anuncia seu nctar a uma abelha ctica poderia se beneficiar do princpio de Zahavi. Mas assim tambm poderia um vendedor humano que busca impressionar um cliente. A premissa da idia de Zahavi que a seleo natural favorecer o ceticismo entre fmeas (ou entre recipientes de mensagens de anncio). O nico modo de um macho (ou qualquer anunciante) autenticar a sua ostentao de fora (qualidade, ou o que for) provar que ela verdade ao carregar um fardo verdadeiramente pesado uma deficincia que s um macho genuinamente forte (de qualidade alta, etc.) poderia agentar. Pode ser chamado o princpio da autenticao custosa. E agora ao ponto. possvel que algumas doutrinas religiosas no sejam favorecidas apesar de serem ridculas, mas precisamente porque elas sejam ridculas? Qualquer iniciante em religio poderia acreditar que simbolicamente o po representa o corpo de Cristo, mas preciso um verdadeiro cristo de sangue para acreditar em algo to bizarro quanto a transubstanciao. Se voc acredita que pode acreditar em qualquer coisa, e (testemunhe a histria de Thomas, o ctico), estas pessoas so treinadas para ver isto como uma virtude. Vamos retornar nossa lista de sintomas que algum afligido com o vrus mental da f, e sua gangue acompanhante de infeces secundrias, pode esperar experimentar. 4. O atingido pode se achar comportando-se de forma intolerante a vetores de fs de rivais, em

casos extremos at mesmo matando-os ou defendendo suas mortes. Ele pode ser similarmente violento em sua disposio para com apstatas (as pessoas que uma vez celebraram a f, mas renunciaram isto); ou para com hereges (as pessoas que defendem uma verso diferente freqentemente, talvez significativamente, apenas ligeiramente diferente da f). Ele tambm pode se sentir hostil para com outros modos de pensamento que so potencialmente inimigos sua f, como o mtodo de razo cientfica que pode funcionar quase como um software antivirtico. A ameaa de matar o distinto novelista Salman Rushdie s o mais recente em uma linha longa de exemplos tristes. No mesmo dia em que eu escrevi isto, o tradutor japons de Os Versos Satnicos foi encontrado assassinado, uma semana depois de um ataque quase fatal ao tradutor italiano do mesmo livro. A propsito, o sintoma aparentemente oposto de simpatia para a dor muulmana, expressada pelo Arcebispo de Canterbury e outros lderes Cristos (beirando, no caso do Vaticano, a clara cumplicidade criminal) , claramente, uma manifestao do sintoma que ns discutimos anteriormente: a iluso de que a f, por mais danosos que sejam seus resultados, tem que ser respeitada simplesmente porque f. Assassinato um extremo, claro. Mas h at mesmo um sintoma mais extremo, e o suicdio no servio militante de uma f. Como uma formiga-soldado programada para sacrificar a vida dela por cpias de genes que fizeram a programao, um rabe ou japons (??!) jovem ensinado que morrer em uma guerra santa o caminho mais rpido para o cu. Se os lderes que o exploram acreditam nisto no diminui o poder brutal que o vrus de misso suicida carrega em nome da f. claro que o suicdio, como o assassinato, uma bno parcial: aqueles que poderiam ser convertidos podem ser repelidos, ou podem tratar com desprezo uma f que percebida como insegura o bastante para precisar de tais tticas. Mais obviamente, se muitos indivduos se sacrificam a proviso de crentes poderia tornar-se baixa. Isto foi verdade em um exemplo notrio de suicdio inspirado pela f, embora este caso no tenha sido nenhuma morte kamikaze em batalha. A seita do Templo do Povo se extinguiu quando seu lder, o Reverendo Jim Jones, conduziu a maior parte dos seguidores dele nos Estados Unidos para a Terra Prometida de Jonestown na selva de Guiana, onde ele persuadiu mais de 900 deles, as crianas primeiro, a beber cianeto. O caso macabro foi investigado inteiramente por uma equipe do San Francisco Chronicle (Kilduff e Javers, 1978). Jones, o Pai, tinha chamado seu rebanho a uma reunio e tinha lhes falado que estava na hora Ns As vamos palavras de nos continuaram partir encontrar, soando ele nos para prometeu, alto-falantes em do o outro cu. lugar. acampamento.

H grande dignidade em morrer. uma grande demonstrao para todos morrer. Incidentalmente, no escapa mente treinada do sociobiologista alerta que Jones, nos primrdios de sua seita, proclamou a si mesmo a nica pessoa que podia praticar sexo (presumivelmente suas parceiras tambm podiam). Uma secretria organizaria os encontros de Jones. Ela chamaria e diria, O Pai odeia fazer isto, mas ele tem este tremendo desejo e voc poderia por favor...? Suas vtimas no eram apenas mulheres. Um rapaz de 17 anos, dos dias em que a comunidade de Jones ainda estava em So Francisco, contou como ele foi levado durante fins de semana pervertidos para um hotel onde Jones recebeu o desconto de um ministro do Rev. Jim Jones e filho. O mesmo rapaz disse: Eu realmente o venerava. Ele era mais que um pai. Eu teria matado meus pais por ele. O que notvel sobre o Reverendo Jim Jones no seu comportamento voltado a servir ele mesmo, mas a credulidade quase sobre-humana de seus seguidores. Tendo disposio tal credulidade prodigiosa, que pessoa pode duvidar que as mentes humanas no esto prontas para infeco maligna? Admitidamente, o Reverendo Jones enganou s alguns milhares de pessoas. Mas o caso dele um extremo, a ponta de um iceberg. A mesma nsia de ser enganado por lderes religiosos difundida. A maioria de ns estaria preparado para apostar que ningum escaparia ao ir na televiso e dizer, com

todas as palavras, Envie-me seu dinheiro, de forma que eu possa us-lo para persuadir outros babacas a me enviar seu dinheiro tambm. No entanto hoje, em qualquer grande cidade nos Estados Unidos, voc pode achar pelo menos um canal evangelista de televiso completamente dedicado para este evidente truque de confiana. E eles escapam disto cheios de dinheiro. Defrontados com esta credulidade burra temerosa, difcil no sentir uma simpatia invejosa com os vigaristas bem vestidos. At que voc perceba que nem todos os crdulos so ricos, e que freqentemente das heranas de vivas que os evangelistas esto enriquecendo. Eu ouvi at mesmo um deles invocando explicitamente o princpio que eu identifico agora com o princpio de Zahavi de autenticao custosa. Deus aprecia realmente uma doao, ele disse com sinceridade apaixonada, somente quando essa doao to grande que machuca. Pobres ancios eram colocados em rodas para testemunhar quanto mais felizes eles se sentiam desde que eles tinham doado todo o pouco que tinham para o Reverendo, quem quer que ele fosse. 5. O paciente pode notar que as convices particulares que ele mantm, embora no tenham nada a ver com evidncia, de fato parecem ter muito ver com a epidemiologia. Por que, ele pode desejar saber, eu mantenho este conjunto convices em lugar daquele outro? Ser porque eu examinei todas as fs do mundo e escolhi aquela cujas alegaes pareciam as mais convincentes? Quase certamente no. Se voc tiver uma f, de forma estatstica esmagadoramente provvel que seja a mesma f que seus pais e avs mantinham. No h nenhuma dvida de que erguer catedrais, criar msica, histrias comoventes e parbolas ajuda um pouco. Mas sem dvida a varivel mais importante que determina sua religio o acaso do nascimento. As convices que voc mantm to apaixonadamente teriam sido um conjunto de convices completamente diferente, e amplamente contraditrias, se voc tivesse simplesmente nascido em um lugar diferente. Epidemiologia, no evidncia. 6. Se o paciente for uma das excees raras que seguem uma religio diferente de seus pais, a explicao ainda pode ser epidemiolgica. verdade, possvel que ele tenha examinado desapaixonadamente as fs do mundo e escolheu a mais convincente. Mas estatisticamente mais provvel que ele tenha sido exposto a um agente infeccioso particularmente potente um John Wesley, um Jim Jones ou um So Paulo. Aqui ns estamos falando sobre transmisso horizontal, como no sarampo. Antes, a epidemiologia era a de transmisso vertical, como a Chorea de Huntington. 7. As sensaes internas do paciente podem ser incrivelmente remanescentes quelas normalmente associadas com o amor sexual. Esta uma fora extremamente potente no crebro, e no surpreendente que alguns vrus evoluram para explor-la. A famosa viso orgstica de Santa Teresa de vila muito notria para precisar ser citada novamente. Mais seriamente, e em um plano menos cruamente sensual, o filsofo Anthony Kenny prov o testemunho comovente ao puro prazer que espera aqueles que conseguem acreditar no mistrio da transubstanciao. Depois de descrever sua ordenao como um padre catlico romano, capacitado a celebrar Missa pelo toque de mos, ele adiciona que recorda vividamente a exaltao dos primeiros meses durante os quais eu tive o poder para rezar a Missa. Sendo que eu normalmente sou preguioso e lento para acordar, eu saltaria cedo para fora da cama, completamente desperto e cheio de excitao ao pensamento do ato momentoso que fui privilegiado para executar. Eu raramente rezava a Missa de Comunidade pblica: a maioria dos dias eu celebrei sozinho em um altar lateral com um membro novato do Colgio para servir como o assistente e congregao. Mas isso no fez diferena solenidade do sacrifcio ou validez da consagrao. Era tocar o corpo de Cristo, a proximidade do padre a Jesus que mais me atraiu. Eu contemplaria o Anfitrio depois das palavras de consagrao, com os olhos ternos como um amante que olha nos olhos de sua amada... Esses primeiros dias como um padre permanecem em minha memria como dias de complitude e felicidade trmula; algo precioso, e ainda muito frgil para durar, como um caso de amor romntico tornado curto pela realidade de um matrimnio mal arranjado. (Kenny, 1986, pp. 101-2)

O doutor Kenny inclinado a acreditar que parecia a ele, como um padre jovem, como se ele estivesse apaixonado pelo anfitrio consagrado. Que vrus brilhantemente prspero! Na mesma pgina, incidentalmente, Kenny nos mostra tambm que o vrus transmitido de forma contagiosa se no literalmente ento pelo menos em algum senso da palma da mo do bispo infectado ao topo da cabea do padre novo: Se a doutrina catlica verdadeira, todo padre validamente ordenado deriva suas ordens de uma linha ininterrupta de toques de mos, atravs do bispo que o ordena de volta a um dos doze Apstolos... devem haver cadeias registradas de toques de mos de sculos. Surpreendeme que os padres nunca paream se importar em localizar a ascendncia espiritual deles deste modo, encontrando quem ordenou o seu bispo, e quem o ordenou, e assim por diante at Jlio II ou Celestina V ou Hildebrando, ou Gregrio o Grande, talvez. (Kenny, 1986, pg. 101) Isso tambm me surpreende.

A Cincia um Vrus?
No. No a menos que todos os programas de computador sejam vrus. Programas bons, teis, se espalham porque as pessoas os avaliam, recomendam e repassam. Vrus de computador se espalham somente porque eles embutem as instrues codificadas: Me espalhe. Idias cientficas, como todos os memes, esto sujeitas a um tipo de seleo natural, e isto poderia parecer superficialmente como um vrus. Mas as foras seletivas que examinam as idias cientficas no so arbitrrias e caprichosas. Elas so regras de preciso, bem avaliadas, e no favorecem o comportamento egosta insensato. Elas favorecem todas as virtudes expostas em livros padro de ensino de metodologia: testabilidade, apoio de evidncias, preciso, quantificabilidade, consistncia, intersubjectividade, reproducibilidade, universalidade, progressividade, independncia do ambiente cultural e assim por diante. A f se espalha a despeito de uma total falta de qualquer uma destas virtudes. Voc pode achar elementos de epidemiologia na expanso de idias cientficas, mas ser epidemiologia largamente descritiva. A expanso rpida de uma boa idia pela comunidade cientfica pode at se parecer com a descrio de uma epidemia de sarampo. Mas quando voc examina as razes subjacentes voc descobre que elas so boas, satisfazendo os padres exigentes do mtodo cientfico. Na histria da expanso da f voc achar pouco mais que epidemiologia, e ainda mais epidemiologia causal. A razo porque uma pessoa A acredita em uma coisa e uma B acredita em outra simples e unicamente que A nasceu em um continente e B em outro. Testabilidade, apoio evidencial e tudo mais no nem mesmo remotamente considerado. Para a crena cientfica, a epidemiologia vem meramente muito depois e descreve a histria de sua aceitao. Para a crena religiosa, a epidemiologia a causa raiz.

Eplogo
Felizmente, os vrus no ganham sempre. Muitas crianas emergem inclumes do pior que as freiras e muls podem jogar nelas. A prpria histria de Anthony Kenny tem um final feliz. Ele eventualmente renunciou suas ordens porque j no podia tolerar as contradies bvias dentro da crena catlica, e ele agora um estudioso altamente respeitado. Mas uma pessoa no pode deixar de observar que realmente deve ser uma infeco poderosa porque de fato foi preciso a um homem da sabedoria e inteligncia dele o Presidente da Academia britnica, nada menos trs dcadas para superar. Sou indevidamente alarmista ao temer pela alma de minha inocente de seis anos?

Agradecimento Com agradecimentos a Helena Cronin por sugesto detalhada sobre o contedo e estilo em cada pgina.

Referncias Browne, Dawkins, Dawkins, Dawkins, Behavioral Press. Dennett, D. C. (1990) Memes and the exploitation of imagination. The Journal of Aesthetics and Art Criticism, 144, Hofstadter, Kenny, Kilduff, Thimbleby, 411. Zahavi, A. (1975) Mate selection a selection for a handicap. Journal of Theoretical Biology, 53, 20514. A. M. H. D. and (1991) R. A Javers, Can (1985) Path R. viruses Metamagical from (1978) ever be Rome The useful? Themas. Oxford: Suicide Computers Harmondsworth: Oxford Cult. and New University York: 10, 48, 12735. 473516. Penguin. Press. Bantam. 11114. Grafen, A. (1990a) Sexual selection unhandicapped by the Fischer process. Journal of Theoretical Biology, Grafen, A. (1990b) Biological signals as handicaps. Journal of Theoretical Biology, 144, 51746. (1986) R. R. R. Sir (1976) (1982) (1989) The T. The The (1635) Selfish Extended Gene, Brain Gene. 2nd Religio Oxford: edn. Phenotype. Medici, Oxford Oxford: Oxford: W. Oxford 6, H. I, University University 9 Press. Freeman. Press. 34390.

Selfish

Dennett, D. C. (1983) Intentional systems in cognitive ethology: the Panglossian paradigm defended. and Sciences, Dennett, D. C. (1984) Elbow Room: The Varieties of Free Will Worth Wanting. Oxford: Oxford University

Security,

Williams, G. C. (1957) Pleiotropy, natural selection, and the evolution of senescence. Evolution, 11, 398