sans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart Transhumanismo, singularidade tecnoldgica e neuroética no filme Transcendence Se vocé ainda nao assistiu, corra para ver: a) O filme “ “, que estreou no dia 19 de junho de 2014, é um filme de ficcao cientifica que aborda a jornada do dr. Will Caster e de sua esposa Evelyn para construir uma inteligéncia artificial que adquirisse consciéncia e superasse a inteligéncia humana, de modo que, como Evelyn gostaria, co mundo se tornasse um lugar muito melhor para a humanidade. $6 que os planos dao errado: um atentado terrorista poe em risco a vida de Will Caster e 0 programa acaba sendo fechado. Mas, Evelyn, com a ajuda do melhor amigo do casal, Max Water, faz uma tentativa arriscada para salvar a vida do P) seu marido. 6 meses antes, a mente de um macaco tinha sido copiada para dentro de um computador. Serd que nao seria possfvel fazer o mesmo com a mente de Will Caster, possibilitando que ele sobrevivesse por meio de um upload? E, de fato, eles conseguem. A mente de Will Caster é processada pelo computador, como um software que esté rodando na maquina. Posteriormente, a mente dele tem acesso a todo contetido da internet, nao dependendo mais para sobreviver de um computador especifico. E para nao sofrer nenhum ataque por parte do mesmo grupo terrorista que tentou mat: lo, Evelyn foge para uma cidade praticamente deserta, onde ela e Will Caster criam um centro de pesquisas em seu subterraneo, para dar continuidade ao objetivo de “melhorar ctrome-oxtensionocicodkttipeimmegh(cllid tort Isoaionteformat tm! 4a)0s2015 Transhumanismo, singuaridade tecnd6gica eneurodtica no flme Transcendence | Tabula (ndo) Rasa & Libetrianismo Bleeding Heart o mundo”. Para compreender melhor 0 contexto de certos aspectos abordados no filme, é importante ter em mente conceitos como transhumanismo, singularidade tecnolégica e neuroética. O filme permite uma ampla ¢ interessante discussao sobre esses temas, como mostrarei nos comentarios a seguir. BI (4) ‘Transhumanismo é um movimento filos6fico cujo objetivo é o aprimoramento ~ mesmo transformagao radical - da natureza humana por meio de uma série de tecnologias!S): a criogenia, realidade virtual, terapia genética, cibernética, upload mental (0 que ocorreu com Caster no filme), entre outras. 0 objetivo do casal protagonista é alcangar um futuro transhumano, onde doenca e deficiéncias deixem de existir. E, de fato, apés 2 anos, Caster consegue projetar a tecnologia necessdria: por meio de uma nanotecnologia incrivelmente avancada, é possivel regenerar automaticamente os tecidos do corpo humano (inclusive curando cegos de nascenca e ferimentos de arma de fogo), além de aumentar suas capacidades fisicas, o que torna as pessoas com nanorrobés praticamente imortais. £ uma possibilidade tao extraordindria esta — a eliminacao virtual da doenca e da morte - que desafia mesmo algumas concep¢des bastante consagradas do que definiria a humanidade. Mas, antes do upload mental sofrido, Caster jé respondera muito ctrome-extersionocicodkttpeimmegh cli ior [sclaioneformat tm aasos “Trarstumarisme, singular teenage eneroticar flme Transcendence | Taba (nd) Rasa & Lertranismo Bleeding Heart argutamente, ao interlocutor que o pergunta “Vocés nao estao tentando criar deus?”, que © fato é que a humanidade sempre esta tentando fazer isso. A eliminagao da variola e o aumento impressionante na expectativa de vida desde 0 século retrasado, por exemplo, diferem apenas em grau da eliminagao de todas as. patologias e da postergacdo da morte por um tempo indeterminado (ou mesmo sua virtual eliminagio). Aluta da humanidade na medicina e na ciéncia aplicada tem sido uma luta contra as limitagdes do homem que o impedem de ter um padrao de vida ainda melhor do que aquele que seus antepassados tiveram. A cada vitoria sobre doencas especificas ou sobre a morte prematura, o ser humano almeja por mais. £ claro que o transhumanismo, portanto, cativa muitos de nossos “mitos formadores”, como as ideias de “eterna juventude” ou de “bem-aventuranga eterna”, presentes em intimeras religides e lendas. O que permite algumas criticas quanto ao que seria uma “nova fé” que, do alto da inventividade e do génio da ciéncia, estaria volvendo-se em certa ingenuidade, como na critica feita por Daniel Omar Stchigel. Stchigel imagina um cenério onde pessoas estao fazendo o que Caster fez: transferir seus estados mentais, de uma forma consistente (para que salvaguarde assim a identidade pessoal e a ‘unidade’ da mente), para a base fisica de um computador central de robés. Ao fim da transferéncia, como também ocorreu com Caster, 0 corpo organico é deletado. Ma Sao riscos temidos no préprio filme. 0 amigo do casal ja citado, Max Water, sempre teve bastante ceticismo em relagao ao fato do “programa de computador que replica a mente de Caster” seja mesmo Caster. Ele é retratado como uma figura que teme certas implicagdes dos avancos tecnolégicos, ainda que nao fosse um radical contrério & tecnologia. ctrome-oxtensionocicodkttipeimmegh(cllid tort Isoaionteformat tm! a19052015 _—_‘Trarehmaneme, snglroose tong eneroicaro time Teacendece| Taba (no) Rasa & orate Ble Heat E este tipo de dificuldade ~ desde questoes de identidade pessoal até sobre a natureza da simulagao computacional a realidade simulada ~ suscita questdes bem intrigantes e bastante discutidas no ambito da filosofia da mente, de dificil resolugao. Mas o fato 6 que a psicologia cognitiva atual tem uma abordagem funcionalista para a mente, tratando-a como um sistema de processamento de informagio andlogo ao software que roda nos computadores ~ e trata-la dessa forma tem permitido grande sucesso neste campo. O que se espera, portanto, é que, um dia, a ciéncia mesma possa responder aquelas perguntas filosdficas — s6 ainda estamos longe de saber como 0 fara e qual sera precisamente o contetido de tais respostas. A nossa mente, criada pelo “relojoeiro cego” da selecao natural darwiniana, sera cada vez mais decifrada com os avancos da psicologia cognitiva e da neurociéncia, entre outras [6], disciplinas!61, “Eu quero compreender o mundo primeiro”, como diz Caster no filme. 7) Vocé gostaria de poder prever o futuro? Existe um recurso que nao depende de “poderes especiais ou sobrenaturais”: os “ “, também conhecidos como “futurologia” ou “futurismo”. Os“ ” no sao propriamente ciéncia. Mas é uma disciplina que trabalha com dados e teorias cientificas para elaborar possiveis ou provaveis cenarios futuros. Dai que nao seja descartével como uma especulagao sem qualquer embasamento, mas também nao pode ser tratada como um resultado cientifico rigoroso. ctrome-oxtensionocicodkttipeimmegh(cllid tort Isoaionteformat tm! aneans015 Transtumanismo, singulardace tecnddgicae nexrodtica no filme Transcendence | Tabula (no) Rasa & Libetariansme Bleeding Heart A singularidade é um evento hist6rico estimado para 0 futuro (geralmente meados do século atual) onde uma acelerada mudanca tecnolégica afetard para sempre o curso dos assuntos humanos, transformando-os radicalmente. Uma estimativa deste evento é dada por Ray Kurzweil, no comentario de John N. Gardner: 8] Uma das principais bases pela qual se estima a ocorréncia da singularidade é a chamada “Lei de Moore dos Circuitos Integrados”: Veja que isso se trata de um crescimento exponencial, acelerado. E Kurzweil salienta que a Lei de Moore nem é o principal, uma vez que é apenas uma aplicacao mais especifica da “Lei dos Retornos Acelerados” na computacao: A Lei de Moore passara; a Lei dos Retornos Acelerados, nao, é o que afirma Kurzweil: ctrome-extensionocicodkthipeimmegh(clli tort Isoaioneformat tm 54sans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart Ocorrendo a singularidade, terfamos a emergéncia de inteligéncias superiores & humana, e que poderao projetar inteligéncias ainda maiores, em uma escala £ o que ocorre em “ “: Caster se torna esta inteligéncia superior, muito além da humana, capaz de processar, codificar e recuperar informagaio em uma quantidade colossal. fato dele ter se tornado uma “inteligéncia transcendente” o torna, por vezes, incompreensivel e dificil de entender, mesmo por sua esposa. No filme, isso langa dtividas, inclusive nela, sobre ser Caster a mesma pessoa ainda. Afinal, apés tal inacreditavel expansao em sua inteligéncia para niveis muito além do humano, poderia~ se falar ainda em “Caster, o cientista excéntrico com que convivemos e era humano como nés”? Questo que atormentard Evelyn, levando o filme a um desfecho... E Gardner, em artigo para a [10], republicado como anexo em seu livro “O Universo Inteligente”, cita a visao de Freeman Dyson, exposta em “ “, acerca de uma inteligéncia superior como essa: ctrome-extensionocicodkthipeimmegh(clli tort Isoaioneformat tm ausans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart Sim, é pedir demais que homens como nés, mesmo com o melhor de nossa ciéncia e mesmo filosofia, compreendam o que se passa em uma mente com inteligéncia tao superior 4 humana. Nao consideramos que os chimpanzés esto obrigados a compreender os seres humanos... Mas ser4 que uma inteligéncia tio superior nao tem obrigacées para com os seres humanos cuja inteligéncia ultrapassou? O filme langa uma série de questionamentos éticos tormentosos. E, de fato, 0 desenvolvimento da neurociéncia também tem suscitado debates morais e a questao por uma “neuroética”. Como afirma o (4), Inclusive a neuroética vai além das questées morais envolvidas no uso da tecnologia, adentrando nas consequéncias sistematicas que nosso entendimento maior do cérebro produz em varias areas da ética e do préprio Direito: Questionamentos neuroéticos significativos sao suscitados por certos comportamentos ctrome-oxtensionocicodkttipeimmegh(cllid tort Isoaionteformat tm! 4sans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart de Caster. Um deles que o aparato de nanotecnologia que ele coloca no corpo das pessoas que desejam serem curadas de alguma doenca ou nao mais morrer, como contrapartida, permite que Caster controle o corpo dessas pessoas, aparentemente sem 0 consentimento delas. Outro comportamento questionavel é que Caster cria uma chuva cujas gotas estao cheias dos nanorrobés por ele criados. O objetivo é que esses nanorrobés entrem nos corpos de seres humanos, compulsariamente ligando todos a “rede nanorrobética” possuida e controlada por Caster, e sendo todos obrigados a aceitar esta “imortalidade tecnoldgica’ Algo como a “graca irresistivel” da teologia crista calvinista, ou uma faceta do desejo de controle e poder? E outra destas posturas ~ que desafia a confianga que Evelyn nele deposita ~ é que ele cronometra e contabiliza todas as variagdes hormonais, eletroquimicas, etc. que ocorrem em Evelyn, permitindo a ele saber o que se passa com ela em termos de sentimentos, emogées, etc. Evelyn reclama seu direito privacidade e diante dessa pretensao de Caster. De fato, em tempos de crescente capacidade de leitura do que acontece no interior do individuo, cresceré a importancia da “liberdade de pensamento” enquanto liberdade neural. Transcrevo aqui a nota escrita pelo professor André Coelhol!3], sobre uma exposicao de paper por ele vista no IVR-2013: ctrome-extensionocicodkthipeimmegh(clli tort Isoaioneformat tm asans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart ctrome-extensionocicodkthipeimmegh(clli tort Isoaioneformat tm asans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart Um dos papers do professor Jan Christoph Bublitz que tratam sobre isso pode ser encontrado aqui !4le outro aquil!5] (infelizmente, nao esta disponivel gratuitamente, mas 0 leitor pode tentar procurar). Mas nem é preciso concordar na integra com ele para ter em mente que uma importante causa da liberdade nos séculos vindouros seré a liberdade cerebral. Curiosamente, no filme, mostra-se que Caster nunca permitiu o financiamento ou intromissao do governo federal americano em seu projeto. O projeto era financiado por doagées voluntérias. E fica sugerido que Caster desconfia do governo - um adequado ceticismo perante as instituigdes governamentais e suas burocracias, tendo em vista a tentacao de seu uso para aumentar o controle sobre as liberdades civis. Ironicamente, os opositores de Caster jogam esta acusacao contra ele, afirmando que 0 poder que ele conseguiu (por meio da inteligéncia altamente evoluida) o corrompeu, e por isso o levou a fazer um exército, incluindo a tentativa de compulsoriamente tornar todos os humanos participantes de sua rede de nanorrobética Ocorre que um dos aspectos que me agradou muito no final do filme é que ele ndo dé um parecer definitivo sobre “qual lado” estava certo. Ele mostra que a oposic tinha seus motivos, um dos quais a propria defesa da liberdade neural e corporal diante de uma inteligéncia muito superior que nao estava respeitando esta autonomia humana. Mas... jo contra Caster No que é uma das cenas mais intensas do filme, Evelyn tem sua mente transferida também, e ela compartilha dos pensamentos de Caster. Ela vé o grande projeto de Caster, que era 0 projeto de mudar o mundo e transformé-lo no melhor dos mundos possiveis, erradicando todo o sofrimento e a dor, solucionando a pobreza e os problemas ambientais, Trazer o céu para a terra. E Evelyn... se arrepende por ter duvidado dele e ter deixado ser infectada pelo virus que derrubaria a internet e acabaria com Caster (e ela mesma). ctrome-oxtensionocicodkttipeimmegh(cllid tort Isoaionteformat tm! somsos ‘Transhumanismo,singularidaceteenelégcae neurotic no fme Transcendence | Tabula (no) Rasa & Libertarianism Bleeding Heart E nao 6 que, no final, a inteligéncia suprema de Caster, agora unida & mente de Evelyn, nao bolou uma forma de sobreviver a prépria destruicao da internet? £ 0 que o final nos sugere, afinal, uma inteligéncia tao colossal teria de prever estes passos também. O que era ainda de nele é que confiou incondicionalmente em Evelyn ao vé- la ferida, com a possibilidade de perdé-la para sempre. Juntos para sempre. Mas o fato é que mesmo uma inteligéncia suprema dessas, com todas as suas boas intengoes, nao deve afrontar a liberdade do ser humano, caso este a exerca pacificamente. ‘Uma ética devidamente naturalizada, como ja expus aquil!¢] (e saird em futuro paper), pode justificar esta minha afirmagao, por meio do eda “ética como braco mais reflexivo e abstrato da ecologia humana”, pelo que remeto a explicacao que ali fiz deste assunto. Vocé também pode conferir o que ja escrevi sobre a ética da eugenial!7], E, se estas questdes éticas nao Ihe so suficientes, uma inteligéncia tio suprema como a de Caster nao poderia moldar o destino do préprio Cosmos? Até mesmo, caso 0 universo configure-se como uma Curva Temporal Fechada, (hipétese do Biocosmos Egoistal!8l), de modo que é este futuro da inteligéncia que cria o universo e é © universo que possibilita a emergéncia dessa inteligéncia (coevolucao passado-futuro)? Gardner explora as implicagGes éticas disto: ctrome-extensionocicodkthipeimmegh(clli tort Isoaioneformat tm vitasans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart Claro que nao sabemos se a hipétese do Biocosmos Egoista é verdadeira, e temos mais razées para aderir a outras teorias cosmolégicas, até pelo fato de que as condigdes de falseabilidade do “Biocosmos Egofsta” sao dificeis de verificar-se (0 sucesso do projeto SETI e o surgimento da singularidade sio previsoes da hipétese...) e outras teorias tem maior suporte empirico, mas nao deixa de ser uma possibilidade interessante e com implicagGes éticas peculiares. Diante de toda a reflexao exposta, a nés humanos, cujas vidas ganham sentido existencial de fontes tao diversas, penso eu que cabe uma dupla reflexao. Uma é de Robert Nozick (com a qual fechou com chave de ouro sua notavel carreira na filosofia). Outra é de André Comte-Spomville. ctrome-extensionocicodkthipeimmegh(clli tort Isoaioneformat tm vatasans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart (por completar) About these adsl!) Links 1. https://libertarianismoedarwinismo.files.wordpress.com/2014/06/transcendence.jpg https://libertarianismoedarwinismo.files.wordpress.com/2014/06/transcendence.jpg https://libertarianismoedarwinismo.files.wordpress.com/2014/06/transhuma.jpg https://libertarianismoedarwinismo.files.wordpress.com/2014/06/transhuma.jpg yew NS https://libertarianismoedarwinismo.wordpress.com/2014/06/27/transhumanismo- singularidade-tecnologica-e-neuroetica-no-filme- transcendence/de%20uma%20s%C3%A 9rie% 20de% 20tecnologias 6. http://revista.fcat.edu. br/index.php/path/article/view/109 7. https://libertarianismoedarwinismo.files.wordpress.com/2014/06/era_maquinas_g.jpg ctrome-oxtensionocicodkttipeimmegh(cllid tort Isoaionteformat tm! aysans015 ranstumanismo, singulardace tecnddgicae nexrodtica no flme Transcendence | Tabla (no) Rasa & Libetriansme Bleeding Heart 8. https://libertarianismoedarwinismo.files.wordpress.com/2014/06/era_maquinas_g.jpg 9. https://en.wikipedia.org/wiki/Futures_studies 10. http://onlinelibrary.wiley.com/doi/10.1002/%28S1C1%291099- 0526%28200001/02%295:3%3C34::AID-CPLX7%3E3.0.CO;2-8/abstract 11. http:/Avww.neuroethics.ox.ac.uk/neuroethics_at_oxford 12. http://www-.neuroethicssociety.org/what-is-neuroethics 13. https://www.facebook.com/andrelscoelho/posts/10201615339010949 14. http://www.ingentaconnect.com/content/fsv/arsp/2014/00000100/00000001/art00001? crawler=true 15. http://link.springer.com/article/10.1007%2Fs11572-012-9172-y 16. https://libertarianismoedarwinismo.wordpress.com/2013/12/31/a-genealogia-da- etica-naturalizada/ 17. https://libertarianismoedarwinismo.wordpress.com/2013/02/10/a-eugenia-aplicada- a-reproducao-humana-e-impossivel-e-os-direitos-humanos-tem-algo-a-ver-com- isso/ 18. https://libertarianismoedarwinismo.wordpress.com/2013/09/21/o-homem-reversivel- alan-moore-curvas-temporais-fechadas-e-o-biocosmos/ 19. http://wordpress.com/about-these-ads/ ctrome-oxtensionocicodkttipeimmegh(cllid tort Isoaionteformat tm! wie