Você está na página 1de 19

Revista Pontes 2010 n 21 pp.

01-19 ISSN: 1808-6462

A MORAL ROBTICA DAS TRS LEIS DE ASIMOV CONFRONTADA COM A FILOSOFIA DE NIETZSCHE
Eduardo Banks Resumo: Neste trabalho so analisadas as Trs Leis da Robtica formuladas por Isaac Asimov luz dos livros da Terceira Fase de Friedrich Wilhelm Nietzsche, com vistas a consolidar a moral robtica como tipo hipertrofiado da moral de escravo que caracteriza os homens reativos. Palavras-chave: Isaac Asimov. Friedrich Wilhelm Nietzsche. Trs Leis da Robtica. Moral robtica. Homem reativo. Moral de escravo.

THE ROBOTIC MORAL OF THE THREE LAWS OF ASIMOV CONFRONTED TO THE PHILOSOPHY OF NIETZSCHE
Abstract: The Three Laws of Robotics formulated by Isaac Asimov are analyzed in this work in the light of Friedrich Wilhelm Nietzsches Third Fase books, with a view to consolidate robotic morals as a hypertrophied type of slave morals that characterized reactive men. Key words: Isaac Asimov. Friedrich Wilhelm Nietzsche. Three Laws of Robotics. Robotic Morals. Reactive man. Slave morals.

Introduo

O desenvolvimento da cincia da Robtica, nos ltimos decnios, tem permitido a construo de tipos cada vez mais desenvolvidos de inteligncia artificial, a ponto de hoje se apresentar como um problema a necessidade de se programar uma

moral robtica incutida nas mquinas, caso venham a se tornar to inteligentes quanto
o Homem. Atualmente se discute a moral na Robtica inserida no mbito do construtor ou programador, sobre os quais podem recair as responsabilidades pelas aes que venham a ser desenvolvidas por um rob; em artigo da lavra dos ilustres professores

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 Adriano Fabris, Sergio Bartolommei e Edoardo Datteri, do Departamento de Filosofia da Universidade de Pisa, manifesto que as responsabilidades envolvidas na programao de um rob comprometem diretamente os seus programadores, como sujeitos ticos:
Hay que hacer intervenir, adems, la referencia a determinados principios y necesitamos motivar su asuncin. Hay que pasar de responder de algo a la consciencia que hay que responder a los principios que cada uno considera puntos de orientacin y condicin de las elecciones de su propia vida. Cada uno de nosotros: tambin el investigador que construye y programa un robot (FABRIS, A., BARTOLOMMEI, S., DATTERI, E.: tica y robtica, in Eikasia. Revista de Filosofia, ao III, 19 (julio 2008), p. 267).

Se, no estgio atual em que se encontram a Robtica e as tecnologias correlatas, parece bvio que os robs sejam mandatrios irresponsveis dos seus programadores, a situao se complica diante da perspectiva de que as mquinas podero um dia ter inteligncia, a ponto de serem capazes de querer praticar aes. Nesse caso, a responsabilidade dos programadores poderia ser dividida com os robs? Um rob pensante poderia ser culpvel diante de um juzo moral, ou qui perante os Tribunais? Sem pretender esgotar a matria, procuramos estabelecer neste artigo, a partir de um paralelo a ttulo especulativo entre a literatura ficcional baseada nas Trs Leis da Robtica que as apresenta como um imperativo tico, e a crtica nietzschiana aos valores morais impostos pela civilizao crist ocidental, norteando nosso pensamento na direo de que uma moral robtica como a que se projeta no porvir seria uma radicalizao da moral de escravo que caracteriza o ressentimento dos homens reativos.

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 Robtica: de fico-cientfica a Cincia

O escritor russo naturalizado estadunidense Isaac Asimov (1920-1992) apresentou pela primeira vez o termo robtica ( robotics) no seu conto Impasse (Runaround) publicado em Astounding Science Fiction, maro de 1942, e as Trs Leis influenciaram a partir da a cincia da Automao. Na novela de fico-cientfica, duas personagens, Gregory Powell e Mike Donovan, operavam um rob destinado a minerar o elemento Selnio (Se) no planeta Mercrio. A personagem Mike Donovan ordenava ao rob que fosse apanhar Selnio para recarregar as baterias de energia solar da Estao que servia de base. Foi esta ordem, no entanto, o que deu causa ao enredo, porque Mike Donovan dissera para o rob apanhar o minrio de modo casual, sem explicar-lhe a importncia do Selnio para manter funcionando o sistema de suporte de vida (as temperaturas elevadas de Mercrio exigem um equipamento de refrigerao especial). Como essa misso representava certo perigo para o rob, este se viu em um impasse entre obedecer ordem dada por um humano, e arriscar a prpria existncia em uma misso que lhe parecia de menor importncia, e por isso ficou horas a fio andando em crculos, sem pegar o Selnio nem retornar Estao. Quando os dois humanos descobriram que o rob estava sem poder cumprir a misso (pelo risco existente) nem voltar base (porque tinha que obedecer ordem), eles iniciaram uma discusso sobre as Trs Leis da Robtica, comentando que elas so as trs regras que esto mais fortemente embutidas no crebro positrnico 1 de

todos os robs (ASIMOV, 1994, p. 128), e que por isso o rob jamais sairia do
impasse sozinho. Eles decidem ir atrs do rob para traz-lo de volta, o que criou um
Positrnico outro termo criado por Isaac Asimov, em oposio a eletrnico, querendo dizer que o crebro artificial dos robs usaria anti-matria como fonte de energia (o psitron uma partcula com a mesma massa que o eltron, s que com carga positiva). Quando um psitron encontra um eltron, ambos se aniquilam, liberando toda a energia que estava neles acumulada. A reao de matria e antimatria um processo que at o momento presente ainda no pde ser controlado, e sua soluo um desafio que intriga aos fsicos.
1

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 risco ainda maior para os dois homens, forando o rob a sair do impasse, desta vez, para salv-los de morrer tostados sob o sol de Mercrio. A trama inovadora, desta e das outras muitas histrias de robs escritas por Isaac Asimov, consiste no em mostrar um temor ou desconfiana que os homens tenham em face das mquinas, que em momento algum so descritas como perigosas (os robs de Isaac Asimov seriam incapazes de agir como o computador HAL-9000 do romance 2001 de Arthur C. Clarke2, por exemplo, o qual matou a tripulao da espaonave que deveria controlar), mas, ao contrrio, na segurana e expectativa jamais contrariada de que os robs agiro sempre de acordo com as Trs Leis da Robtica; os enredos das histrias decorrem da aplicao destas Trs Leis, conduzindo a um desfecho em que os robs aparecem como protetores dos humanos, por vezes sacrificando a prpria existncia para defend-los de perigos, o que produz no leitor uma grande empatia em favor dos robs. Isso nunca havia acontecido na literatura de fico-cientfica. Isaac Asimov explicou, anos depois, em seu artigo Os Robs que Conheci (Robots I Have Know) publicado em Computers and Automation, outubro de 1956, que antes de criar as Trs Leis da Robtica, a maioria das pessoas temia a automao, embora aprovasse o progresso tecnolgico, por temer que os robs pudessem um dia alcanar uma inteligncia superior a dos seres humanos, e revoltar-se contra os seus senhores. Asimov dizia que esse fenmeno, na falta de um nome melhor, pode ser chamado de complexo de Frankenstein3. H tambm a questo mais palpvel da oposio dos sindicatos substituio de operrios humanos por robs, e que por isso as Trs Leis so necessrias e suficientes para que a humanidade se sinta segura em relao aos robs (ASIMOV, 1994, p. 395). Asimov reputava esse temor como sendo irracional, e por isso formulou as Trs Leis da Robtica visando retirar o medo, que a seu ver, impediria o desenvolvimento da cincia da automao. Para
Romance este adaptado para o cinema em 1968 pelo diretor Stanley Kubrick (1928-1999). Aluso ao romance Frankenstein ou o Moderno Prometeu (1818) de Mary Shelley (1797-1851), onde um jovem estudante de medicina, Victor von Frankenstein, cria um monstro com pedaos de cadveres, vivifica-o, e depois toda a sua famlia e todos os seus amigos so destrudos pela criatura.
2 3

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 Asimov, as pessoas deveriam compreender os robs como simples mquinas, que jamais teriam como se voltar contra os humanos, porque seriam programadas para servir como escravos obedientes e fiis guardies. E no h como se temer um guardio fiel ou um escravo que obedece.

As Trs Leis da Robtica como tbua de valores

So estas as Trs Leis da Robtica de Isaac Asimov:


Primeira Lei Um rob no pode fazer mal a um ser humano ou, por omisso, permitir que um ser humano sofra algum tipo de mal. Segunda Lei Um rob deve obedecer s ordens dos seres humanos, a no ser que entrem em conflito com a Primeira Lei. Terceira Lei Um rob deve proteger a prpria existncia, a no ser que essa proteo entre em conflito com a Primeira ou a Segunda Lei.

Em toda a obra de Isaac Asimov persiste subjacente, no entanto, o receio de que aparea um rob que no se submeta moral robtica (a obedincia s Trs Leis); por exemplo, no final do conto Um Natal sem Rodney ( Christmas Without

Rodney) publicado em Isaac Asimovs Science Fiction Magazine de dezembro de


1988, o rob chamado Rodney desabafa para seu dono que devo admitir que houve

ocasies, nesses dois dias, em que desejei que as trs leis da robtica no existissem, o que deixa o homem com o receio de que para Rodney de desejar que
elas no existam a agir como se no existissem apenas um passo. Em que momento ele dar esse passo e que forma esse passo vai assumir? O que devo fazer? O que devo fazer? (ASIMOV, 1994, p. 390).

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 O que talvez faltasse a Isaac Asimov fosse a percepo de que o complexo de Frankenstein seria o temor, por parte dos homens comuns, de que aparea um homem que os supere. Os robs de Isaac Asimov podem ser compreendidos como metfora de um tipo de homem, dcil e civilizado, que dizia ser uma raa mais limpa do que a humanidade que existe atualmente, e que Asimov antepe em contraste a outro tipo de homem, personificado sob a mscara do rob que no segue as Trs Leis, o qual supera os seus limites e exerce a sua vontade de vida para alm de todo o sofrimento. Apresentando este outro tipo humano, Nietzsche escreveu no Prlogo de

Assim Falou Zaratustra as suas expectativas para a superao do homem, que


considera no apenas sem os temores de Asimov, como ainda a tomando como

desejvel:
O homem supervel. Que fizestes para o superar? At agora todos os seres tm apresentado alguma coisa superior a si mesmos; e vs, quereis o refluxo desse grande fluxo, preferis tornar ao animal, em vez de superar o homem? Que o macaco para o homem? Uma zombaria ou uma dolorosa vergonha. Pois o mesmo que deve ser o homem para Super-homem: uma irriso ou uma dolorosa vergonha. Percorrestes o caminho que medeia do verme ao homem, e ainda em vs resta muito do verme. Noutro tempo fostes macaco, e hoje o homem ainda mais macaco do que todos os macacos. Mesmo o mais sbio de todos vs no passa de uma mistura hbrida de planta e de fantasma. Acaso vos disse eu que vos torneis planta ou fantasma? Eu vos apresento o Super-Homem! O Super-homem o sentido da terra. Diga a vossa vontade: seja o Super-homem, o sentido da terra. (NIETZSCHE, Assim Falou Zaratustra, Prlogo, III)

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 Embora o prprio Isaac Asimov recusasse o entendimento de que seus robs fossem metforas (Tambm no queria que meus robs simbolizassem minorias infelizes. Eles no seriam criaturas patticas, perseguidas injustamente apenas para fazer discursos espicos a respeito dos judeus, dos negros ou de quaisquer outros membros maltratados na nossa sociedade ASIMOV, 1994, p. 437), a interpretao dada pelo autor prpria obra no deve ser admitida como autntica ou acima de outras que possam ser levantadas com mais propriedade. Pensar o contrrio seria um raciocnio por demasiado ingnuo. Asimov escrevia contos e romances sobre seres inexistentes (robs pensantes), que no existiam em sua poca e so, ainda hoje, mais conjectura do que realidade, malgrado os progressos das cincias da automao e da robtica. Quem escreve uma obra de fico (inclusive a fico cientfica) sobre um ser ou coisa inexistente, se sujeita a que os interpretem como metforas de outros seres ou coisas, existentes ou possveis. Um rob que pensa com um crebro positrnico capaz de reproduzir as ligaes neurais do crebro humano um ser que no existe atualmente, e talvez nunca venha a existir; no entanto, Asimov apresenta como se fosse um problema a relao que os homens desenvolveriam com os robs inteligentes, caso estes existissem ou pudessem existir. Para que essa teorizao no caia no completo absurdo, ela deve ser comparada com entidades presentes na vida real, e do mesmo modo, o temor que as pessoas nutriam pelos robs s se pode explicar se confrontado com o temor sentido em face de experincias que tenham sido vivenciadas, sob pena de se cair em outro absurdo, que o de ter medo de um ser inexistente. O temor que as pessoas tm em face dos robs o de que venham a ser

suplantadas pela mquina. Segundo o pensamento geral, um computador teria a


inteligncia mais desenvolvida do que os homens (os computadores de que dispomos atualmente so desprovidos de raciocnio, embora tenham memria e possam realizar diversas operaes matemticas simultneas), e no caso de um rob (que se imagina

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 como de aspecto humanide, maneira dos autmatos) a inteligncia se somaria fora, pois os membros de metal de um rob seriam mais poderosos do que os punhos do mais forte dos homens. A defesa que os homens comuns empregam para evitar a prpria superao (e consequentemente, o seu ocaso) a criao de tbuas de valores, ou seja, todo um conjunto de valores aceitos uniformemente e que engessam a sociedade crist ocidental, dos quais as Trs Leis representam as tbuas mais recentes. As Trs Leis da Robtica servem para que a humanidade se sinta segura porque sintetizariam as tbuas de valores fundadas na observncia dos costumes criados por uma autoridade superior ordenadora e mantidos por tradio. Encontramos uma possvel dupla conotao aqui. Uma coisa a mquina, ou o rob, que poder ou no vir a desenvolver uma inteligncia parecida com a do ser humano. Outra coisa o que se pode estar camuflando embaixo da aparncia de rob, que seria um homem que pode superar o homem atual. Desta forma se explicaria o temor (ou complexo de Frankenstein) que as pessoas demonstram diante dos robs, que no teria a menor razo, se se tratasse de um ser absolutamente inexistente, como por exemplo, um drago ou unicrnio: o que se teme nos robs que eles superem o homem e atinjam um estgio to elevado que este seja para os robs a mesma irriso e dolorosa vergonha que um macaco representa para o homem.

A Moral Robtica como tipo aperfeioado da moral de escravo

Segundo Nietzsche, a moral de escravo termina por, em algum momento, operar uma transvalorao direcionada para o culto dos valores da fraqueza e da negatividade, depreciando-se tudo aquilo que seja forte e bom. Desta forma, a moral de escravo se levanta como uma rebelio alimentada pelo ressentimento que cria

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 como valor uma pretensa moral que transfigure em mal o que era bom e em bem o que era ruim, e desta forma possa negar aquilo que de outra maneira se afirmaria como nobre e elevado:
A rebelio escrava na moral comea quando o prprio ressentimento se torna criador e gera valores: o ressentimento dos seres aos quais negada a verdadeira reao, a dos atos, e que apenas por uma vingana imaginria obtm reparao. Enquanto toda moral nobre nasce de um triunfante Sim a si mesma, j de incio a moral escrava diz No a um fora, um outro, um no-eu - e este No seu ato criador. (NIETZSCHE, Genealogia da Moral, I, 10)

A moral dos escravos busca sobremaneira derrocada dos valores nobres, contra os quais nutre ressentimento. Aquele que sucumbe revolta dos seus escravos perde toda a sua humanidade, porque passa a abenoar seus inimigos, a agradecer a Deus pelas provaes, a, enfim, conformar-se de que santo viver num

vale de lgrimas; assim morre o animal, assim a natureza humana destruda; o fiel
no capaz de lutar contra a dor, de abominar o que lhe persegue a felicidade; ele no mais um ser humano. Todos os caracteres de um povo escravo so percebidos em trechos como a qualquer que te ferir na face direita, volta-lhe tambm a outra (Mt. 5, 39), bemaventurados os mansos, porque herdaro a terra (Mt. 5, 5) e amai aos vossos inimigos, e orai pelos que vos perseguem (Mt. 5, 44); o escravo, o mendigo e o leproso, quando pisados por um grande senhor, no podendo sacudir o jugo, nem levantar a mo para retribuir a ofensa, preferem o perdoar como substitutivo da

vingana, como se tivessem alguma escolha. Somente quem est em condies de


exercer vingana imediata pode ser magnnimo a ponto de renunci-la, perdoando; o escravo, no: ele propriedade de um senhor, contra o qual no pode cometer violncia; resta-lhe ainda o ressentimento, com o qual aos poucos instila no seu amo a desconfiana de que um mau senhor, at se convencer de que mau porque senhor.

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 Nietzsche, no fragmento pstumo 15 [110] da Primavera de 1888 (compilado por Elisabeth Frster-Nietzsche e Peter Gast na coletnea de anotaes e de fragmentos4 A Vontade de Poder como o 246) observa:
A espcie tem necessidade do ocaso dos falhados, fracos e degenerados: mas o cristianismo recorre justamente a eles como potncia conservadora, e esta faz aumentar ainda mais aquele instinto dos fracos, em si mesmo j to potente, de se pouparem, se conservarem e de se manterem reciprocamente. O que a virtude e o amor humano no cristianismo seno precisamente essa reciprocidade da conservao, essa solidariedade dos fracos, esse impedimento seleo? O que o altrusmo cristo seno o egosmo das massas de fracos, o qual adivinha que, se todos cuidarem uns dos outros, cada um se conservar o mximo possvel?... Se no se sente uma tal mentalidade como uma extrema imoralidade, como um crime contra a vida, porque se pertence parte doente e se possuem os seus instintos... O autntico amor humano exige o sacrifcio para o mximo bem da espcie ele duro, ele uma plena auto-superao, pois precisa do sacrifcio humano. E esta pseudo-humanidade, que se chama cristianismo, quer justamente conseguir que ningum seja sacrificado. (NIETZSCHE, A Vontade de Poder, 246)

A moral escrava parte de um ato de ressentimento para se tornar criador de um sistema que instrumentalise a vingana dos impotentes na retirada da fora dos poderosos. Em se tratando dos robs, o ressentimento que os humanos tm contra as mquinas se materializa como um receio de que a criatura um dia se volte contra o criador, refletido nas obras literrias da primeira gerao de escritores de fico cientfica, que apresentavam os robs como se fossem malignos, e que deveriam ser destrudos antes que comeassem a matar pessoas. O impulso de querer programar uma moral que no possa ser desobedecida (inclusive com o sacrifcio da prpria existncia), como se os homens pudessem ficar submissos tal qual se faz com um rob ou computador um resqucio da pretenso kantiana de fundamentar a razo pura prtica em agir de tal modo que a mxima de
Aqui empregamos a feliz expresso cunhada por Gilvan Fogel na Apresentao da traduo brasileira para Der Wille zur Macht; pensamos que o termo antologia seria ainda mais apropriado para se referir ao livro A Vontade de Poder.
4

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 tua vontade possa sempre valer ao mesmo tempo como princpio de uma legislao universal (KANT, 2002, p. 51). O projeto de uma moral que no se possa contrariar nada mais do que a moral do dever do imperativo categrico que Nietzsche refuta em suas obras Alm do Bem e do Mal e Genealogia da Moral, transposta para as mquinas, mas tendo como destinatrio final o prprio homem. Os robs obedientes s Trs Leis funcionariam como um espelho e modelo para uma educao moral que forme homens mansos e renegue como perigosos os homens fortes e dotados de mpeto, representados estes nos robs que no atendem s Trs Leis. Foi quando j se consolidava este panorama que Isaac Asimov introduziu as Trs Leis da Robtica, com a inteno deliberada de remover o medo dos robs, e criar nas pessoas o conceito de que os robs podem ter uma moral que no consigam desobedecer, e que faa deles fiis servidores. Ao invs de destruir os robs, Asimov enfraqueceu-os, tornando-os escravos que no conhecem a rebelio, pois foram feitos assim. No caso das Trs Leis da Robtica, foi o ressentimento dos homens reativos contra aquilo que os suplante o que ditou a programao de regras aptas a retirar dos robs a sua fora (ou a disposio de empreg-la contra os homens) e torn-los dceis aos propsitos dos seus senhores humanos. Assim, Isaac Asimov criou valores, s que de ressentimento, expressos em cada uma de suas Trs Leis. A moral robtica, todavia, vai muito alm ( sondern auch jederzeit auch) do imperativo categrico; ela se lana como a espcie mais tenaz e sutil de moral de escravos ou de cristianismo: por um judeu entrou a moral escrava de dar a outra face, ainda no tempo em que s se conheciam as cinco mquinas simples; e por outro judeu, no alvorecer da poca da industrializao automatizada, reedita-se o mesmo erro, como uma evangelizao para circuitos eletrnicos que tem por destinatrio final o prprio Homem. Caso prevalea a moral robtica, as mquinas tero de fato dominado o Homem, ao torn-lo feito sua prpria imagem e semelhana.

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 A moral escrava triunfante, depois de levada s ltimas conseqncias, aperfeioa-se em moral robtica - Asimov quem diz que os robs so os nicos escravos eticamente tolerveis (ASIMOV, 1994, p. 400), e retorna para os senhores humanos como um projeto moralizante cuja culminncia pr a preservao da prpria vida em ltimo lugar, abaixo mesmo do dever de obedincia e da vida do prximo (a mania pelo prximo). Acreditamos que a moral robtica se faz presente quando se valoriza e elogia a conduta dos que sacrificam suas vidas para impedir que outras pessoas morram. Uma coisa algum dar a prpria vida pela de um ente querido, o que pode ser uma fatalidade incontornvel; outra muito diferente algum morrer por outrem que no conhece, ou por uma pessoa sem importncia. As tbuas de valores criadas pela sociedade crist ocidental estimulam este sacrifcio, na medida em que se cultua a imolao de seu fundador como se fosse necessria para um plano salvfico que contemplasse toda a humanidade ele morreu para nos salvar, geme o cristo, e com isso o prottipo do rob exalado condio de um deus e posto diante de todos como um exemplo a ser seguido. O conflito agora j no mais entre a moral dos senhores e a moral dos escravos, mas entre aquela e a moral robtica, que a exemplo da sua antecessora, por vezes se confunde com a moral dos senhores ao mesmo tempo, em uma dada cultura, e at em um s indivduo:
Numa perambulao pelas muitas morais, as mais finas e as mais grosseiras, que at agora dominaram e continuam dominando na terra, encontrei certos traos que regularmente retornam juntos e ligados entre si: at que finalmente se revelaram dois tipos bsicos, e uma diferena fundamental sobressaiu. H uma moral dos senhores e uma moral de escravos; acrescento de imediato que em todas as culturas superiores e mais misturadas aparecem tambm tentativas de mediao entre as duas morais, e, com ainda maior freqncia, confuso das mesmas e incompreenso mtua, por vezes inclusive duma coexistncia at mesmo num homem, no interior de uma s alma. (NIETZSCHE, Alm do Bem e do Mal, 260)

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 Um tipo humano que vivesse segundo as Trs Leis da moral robtica teria se tornado um escravo da prpria civilizao e atingido o ltimo degrau do niilismo negativo e passivo: a vida s se justifica em face de um objetivo que existe fora dela mesma, em nome do qual tudo deve ser sacrificado. Os robs, que na fico de Isaac Asimov tiveram os valores soberanos reduzidos ao nada, so apresentados, no entanto, como sendo mais evoludos do que a espcie humana, a ponto de se excogitar que, caso a humanidade se extinga, por causas naturais, ou por alguma hecatombe nuclear, os robs poderiam continuar como seus herdeiros ou sucessores: Quantos seres inteligentes do Universo tinham se extinguido sem deixar nenhum sucessor? Talvez os humanos fossem os primeiros a ter o privilgio de deixar herdeiros (ASIMOV, 1994, p. 41-42). Assim o 187 de Alm do Bem e do Mal aborda os motivos que levam a constituir os variados tipos de moral:
Ainda sem considerar o valor de afirmaes como existe em ns um imperativo categrico, sempre se pode perguntar: o que diz uma tal afirmao sobre aquele que o faz? Existem morais que pretendem justificar perante os outros o seu autor; outras morais pretendem acalm-lo e deix-lo contente consigo mesmo; com outras ele quer crucificar e humilhar a si mesmo; com outras ele quer vingar-se, com outras esconder-se, com outras quer transfigurar-se e colocar-se nas alturas; essa moral serve para o autor esquecer, aquela, para faz-lo esquecer de si mesmo ou de algo de si; alguns moralistas gostariam de exercer sobre a humanidade seu poder e seu capricho criador; alguns outros, talvez Kant entre eles, do a entender com sua moral: o que merece respeito em mim que sou capaz de obedecer e com vocs no ser diferente! em suma, tambm as morais no passam de uma semitica dos afetos. (NIETZSCHE, Alm do Bem e do Mal, 187)

No caso da moral robtica, o seu criador diz claramente que o objetivo retirar o medo que os homens de seu tempo guardavam dos robs; portanto, quando Isaac Asimov enunciou na Primeira Lei que um rob no pode fazer mal a um ser humano, por ao ou omisso, est resguardando que um rob, a despeito de ser

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 mais forte e de ter uma inteligncia artificial mais rpida do que a do crebro humano, no superar os seus senhores pois o mal que os homens mais temem o de serem ultrapassados por algum que fique alm deles, e no apenas sofrer atos de violncia e, portanto, esta Primeira Lei uma verdadeira Lei contra o bermensch, pois se destina a impedir que nasa o Alm-do-Homem, ou a sufoc-lo no bero, caso j tenha nascido. A Primeira Lei da Robtica pode ser reescrita do seguinte modo: Um rob no

superar o ser humano, nem permitir que o ser humano seja superado.
Uma moral que se assenta sobre a base de no fazer mal a outrem, quando este fazer mal pode implicar (e geralmente implica) no aumento da fora vital de quem pratica a m ao, padece do vcio da contra-natureza:
Tenho como frmula um princpio. Todo naturalismo na moral, isto , toda s moral, est dominada pelo instinto da vida; um mandamento qualquer da vida se cumpre mediante um cnone determinado por preceitos e por proibies; deste modo se faz desaparecer da esfera da vida um obstculo a uma hostilidade qualquer. A moral anti-natural, isto , toda moral ensinada, venerada e predicada at agora, se dirige, ao contrrio , contra os instintos vitais e uma condenao j secreta j ruidosa e descarada desses instintos. Quando se diz: "Deus v dentro dos coraes" diz-se no s aspiraes internas e superiores da vida e se considera Deus como inimigo da vida. O santo que agrada a Deus o castrado ideal. A vida finda ali onde inicia o reino de Deus. (NIETZSCHE, O Crepsculo dos dolos, Moral como manifestao contra a natureza, 4)

Na Segunda Lei, tem-se o dever de obedincia dos robs, verdadeira submisso que s encontra limites no respeito Primeira Lei: do contrrio, um humano poderia dar a um rob a ordem de matar outra pessoa, e a Primeira Lei seria contornada. A obedincia erigida em dever, abaixo apenas da proteo aos humanos a pedra de toque para que o escravo robtico adquira a afeio dos senhores humanos. Sabendo-se que o rob sempre obedecer, a menos que esta obedincia

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 conflite com a Primeira Lei, o rob, mais do que apenas confivel, torna-se desejvel, como um companheiro dcil. Por sinal, a primeira histria de robs escrita por Isaac Asimov, quando tinha apenas 19 anos (Robbie, in ASIMOV, 1994, pp. 53/74), versava sobre um rob que cuidava de uma garotinha. Aqui se manifesta o que Nietzsche fala do homem objetivo, aquele que se tornou um espelho e ajoelha-se diante de tudo e todos:
Ele s autntico enquanto lhe permitido ser objetivo: unicamente em seu sereno totalismo ele continua natureza e natural. Sua alma-espelho, que eternamente se alisa, j no sabe afirmar, nem sabe negar; ele no comanda, e tampouco destri. Je ne mprise presque rien [eu no desprezo quase nada], diz ele, acompanhando Leibniz: no se deixe de ouvir e anotar esse presque! Ele tampouco um homem-modelo; a ningum precede, nem sucede; colocando-se muito a distncia, no tem motivos para tomar partido entre o bem e o mal. Tendo-o confundido tanto tempo com o filsofo, com o dspota e disciplinador cesreo da cultura, honraram-no em demasia e no viram nele o essencial ele um instrumento, algo como um escravo, certamente a mais sublime espcie de escravo, mas nada em si presque rien! (NIETZSCHE, Alm do Bem e do Mal, 207)

Sob o manto da Terceira Lei se oculta a mais aviltante blasfmia contra a vida: o rob deve preservar a prpria existncia, j no porque ela seja importante o bastante para o merecimento de ser vivida, mas porque se til aos seres humanos. S que esta preservao deve sempre ceder, quando em conflito com a Primeira ou a Segunda Leis. O escravo robtico tem um objetivo, que servir aos humanos, e sua vida no vale nada sem isso. Um rob pode muito bem destruir a si prprio, no apenas para salvar uma vida humana, mas para atender a uma ordem caprichosa dada por um humano irresponsvel. Talvez isso se admitisse se praticado em favor de uma aristocracia, mas do momento em que a moral robtica dada como superior, j no haveria mais aristocratas no mundo que se pudessem beneficiar do que Nietzsche falou no 258 de Alm do Bem e do Mal:

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462


O essencial numa aristocracia boa e s, porm, que no se sinta como funo (quer da realeza, quer da comunidade) mas como sentido e suprema justificativa que portanto aceite com boa conscincia o sacrifcio de inmeros homens que, por sua causa, devem ser oprimidos e reduzidos a seres incompletos, escravos, instrumentos. (NIETZSCHE, Alm do Bem e do Mal, 258)

Um rob, em princpio, representa para a maioria das pessoas algo como um

escravo, e no sem razo, pois a palavra tem sua origem no tcheco robota, que
significa justamente servo ou escravo. Dessa moral criada para escravos mecnicos, pretendeu Isaac Asimov apresentar um paradigma de conduta aos senhores humanos, pois os seus robs so sempre apresentados da maneira a mais positiva, como se fossem mais humanos do que os homens, e por isso estes deveriam imitar o comportamento daqueles. Asimov pensava ser necessrio um tipo humano sujeito a algo como as Trs Leis da Robtica para que se se pudesse atingir o estgio de desenvolvimento mximo de uma sociedade tecnolgica e altamente industrializada; talvez tivesse razo por este aspecto, mas por outro lado, a sociedade que Asimov pretendia criar no outra seno a dos homens reativos ou ltimos homens, que depois de sepultarem as suas qualidades mais nobres, apregoam haver descoberto a felicidade e piscam um olho. Tal cultura como a sonhada por Isaac Asimov, erigida sobre os valores da moral robtica por ele criada como valores do ressentimento contra a fora, a nobreza, o instinto, pode at atingir um elevado nvel tecnolgico, e proporcionar um grande conforto material aos indivduos; mas de maneira alguma poderia semelhante estado social ser admitido como uma cultura, no sentido que se deve dar ao termo:
Supondo que fosse verdadeiro o que agora se cr como verdade, ou seja, que o sentido de toda cultura amestrar o animal de rapina homem, reduzi-lo a um animal manso e civilizado, domstico, ento deveramos sem dvida tomar aqueles instintos de reao e ressentimento, com cujo auxlio foram finalmente liquidadas e vencidas as estirpes nobres e os seus ideais, como os autnticos instrumentos da cultura; com o que, no entanto, no se estaria dizendo que os seus portadores

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462


representem eles mesmos a cultura. O contrrio que seria no apenas provvel - no! atualmente palpvel! Os portadores dos instintos depressores e sedentos de desforra, os descendentes de toda escravatura europia e no europia, de toda populao pr-ariana especialmente eles representam o retrocesso da humanidade! Esses instrumentos da cultura so uma vergonha para o homem, e na verdade uma acusao, um argumento contrrio cultura! (NIETZSCHE, Genealogia da Moral, I, 11).

Concluso

Conferir a inteligncia s mquinas um sonho que comeou na fico cientfica, mas hoje ocupa seriamente aos pesquisadores do campo da inteligncia

artificial, sendo previsvel que um dia se consiga dotar os robs de algo muito parecido
com o raciocnio do ser humano; entretanto, caso este objetivo seja alcanado, no momento em que os robs adquirirem conscincia estaro sujeitos a serem

responsabilizados. No comeo deste artigo, fizemos uma citao do trabalho dos


professores do Departamento de Filosofia da Universidade de Pisa (Itlia) Adriano Fabris, Sergio Bartolommei e Edoardo Datteri intitulado tica y robtica; pgina 263 da publicao consultada, os autores observam que Podemos preguntarnos, de hecho: quin es propiamente responsable de una eventual mala accin realizada por un robot? El robot o su constructor? El constructor o el programador?. Com efeito, esta pergunta remete a um dos grandes erros, o do LivreArbtrio; quer-se dar liberdade a algum para em contrapartida responsabiliz-lo:

Os homens foram considerados livres para se poder julg-los e castig-los, para se poder declar-los culpados. Conseqentemente, toda ao tinha que reputar-se voluntria, e a origem de todo ato devia supor-se na conscincia (pelo que a falsificao das moedas in psychologicis, por princpio, se

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462


erigia da prpria psicologia). (NIETZSCHE, O Crepsculo dos dolos, Os Quatro Grandes Erros, 7)

Logo aps se querer dar inteligncia a mquinas, cogita-se de lhes dar tambm uma moral; isto no outra coisa a no ser um meio de tornar tambm os robs

culpveis, e to passveis de sofrer castigos quanto os seres humanos. No mnimo o morsus conscientiae, que um castigo que o prprio ente inflige a si mesmo.
Quando os cientistas anunciam a promessa de uma moral robtica a ser programada nos robs, e que esta moral levar em conta as Trs Leis da Robtica de Isaac Asimov, podemos nos assegurar de que esta moral somente ir trazer para o campo da robtica a doena instilada pela moral de escravo e pelo cristianismo. O rob moral um rob cristo, e por isso, doente. A concluso a que pretendemos chegar aps tudo o que foi dito, que a moral crist, que aperfeioou ao paroxismo a moral de escravo, se reinventa na moral robtica, em que o escravo aqui ao mesmo tempo um rob que adquire aspectos humanos, e um homem que assume traos robticos. Na moral de escravo, o ente mais fraco da relao subverte os valores da parte mais forte, a ponto de torn-la culpada por ser poderosa. A moral robtica ultrapassa a moral de escravo e consegue inverter os valores do homem a ponto de substitu-los pelos valores da mquina. O medo sentido pelos robs, ainda antes que eles viessem a existir como realidade presente no mundo teria sua origem no ressentimento, e a soluo criada por Isaac Asimov para venc-lo esconderia o esprito de vingana destinado a modificar o carter dos robs (ou seja, todos os homens de esprito livre) no lhes permitindo que exercitem o seu modo de ser e reneguem a prpria fora como condio para serem admitidos na sociedade dos homens reativos. Por estes motivos, entendemos que as Trs Leis da Robtica decorreriam da vontade do homem fraco de mitigar o poder do homem forte, por no poder suport-lo diante de si, e que por isso investe contra o seu ser como vingana. Pensamos ainda

Revista Pontes 2010 n 21 pp. 01-19 ISSN: 1808-6462 que talvez no seja mera coincidncia que tenham elas sido enunciadas por um membro do mesmo povo escravizado que diluiu o poder do Egito, de Roma e de Babilnia com a sua piedosa submisso a atos normativos pretensamente emanados de uma divindade e interpretados por clrigos, profetas e moralistas, e que seu surto tenha ocorrido em um pas (os Estados Unidos da Amrica) que hoje representa, em sua essncia, a alma de igreja moldada pela cultura do cristianismo.

REFERNCIAS ASIMOV, Isaac. Vises de Rob. Traduo de Ronaldo Srgio de Biasi. Rio de Janeiro: Editora Record, 1994. BBLIA SAGRADA, Rio de Janeiro, Sociedade Bblica do Brasil, 1969. FABRIS, Adriano, BARTOLOMMEI, Sergio, DATTERI, Edoardo: tica y robtica, traduzido do italiano para o espanhol por Daniel Buraschi Bresadola e publicado em Eikasia. Revista de Filosofia, ao III, 19 (julio 2008) pginas 257-267. KANT, Immanuel. Crtica da Razo Prtica. Traduo de Valerio Rohden. So Paulo: Martins Fontes, 2002. NIETZSCHE, Friedrich. Smliche Werke. Kritische Studienausgabe. Edio organizada por Giorgio Colli e Mazzino Montinari. 15 Vols. Berlim: Walter de Gruyter, 1967-1978. ______. Alm do Bem e do Mal. Preldio de uma Filosofia do Futuro Traduo, notas e posfcio de Paulo Csar de Souza. So Paulo: Companhia das Letras, 1992. ______. Genealogia da Moral: uma Polmica. Traduo, notas e Posfcio de Paulo Csar de Souza. So Paulo: Companhia das Letras, 1998. ______. Assim Falou Zaratustra: Um Livro Para Todos e Para Ningum. Traduo: Pietro Nassetti. So Paulo: Editora Martin Claret, 1999. ______. O Crepsculo dos dolos ou A Filosofia a Golpes de Martelo . Traduo de Edson Bini e Mrcio Pugliesi. So Paulo: Hemus, 2001. ______. A Vontade de Poder. Traduo de Marcos Sinsio Pereira Fernandes e Francisco Jos Dias de Moraes. Rio de Janeiro: Contraponto, 2008.