ROBS PODEM SER MORALMENTE RESPONSABILIZADOS?

REFLEXES LUZ DO PRAGMATISMO DE JOHN DEWEY Fernando Cesar Pilan1

Resumo Os dois principais objetivos do presente trabalho so: (1) Brevemente apresentar como os avanos nas reas da Simulao Cognitiva e da Inteligncia Artificial tem propiciado o desenvolvimento de mquinas com performances cada vez mais semelhantes s de seres vivos citamos os modelos produzidos pela Cognio Incorporada e Situada, e (2) diante destes avanos, apresentar o dilema moral que eles geram buscando contribuies na Teoria Moral de John Dewey para a elucidao deste debate. Na esteira dos modelos tradicionais tico/filosficos este tipo de debate acerca do dilema moral do robos parece no encontrar muitos avanos, na medida em que se ressalta o dever moral como ponto de partida de qualquer conduta responsvel e pauta-se em uma concepo dualista de cognio, na qual h um eu ou conscincia responsvel pela ao alheio corporeidade. Nosso objetivo mostrar que num vis filosfico contemporneo, pragmtico, no dualista, possvel uma reflexo sobre a conduta no plano da ao no mais detida no domnio representacionista, no domnio do dever e do dualismo. Dentre estas filosofias contemporneas destacamos o pensamento de John Dewey que enfatiza a relevncia do plano da experincia e da ao para a compreenso das questes morais e ticas. Para o pragmatismo de John Dewey, um agente pode ser considerado responsvel por uma ao devido s modificaes prticas de suas futuras aes. Assim, no mbito da Teoria Moral deweyana, quando um rob erra, responsabiliz-lo por isto deve ter um carter punitivo, mas, educativo. Em suma, segundo nossa interpretao da filosofia deweyana, na medida em que os robs cada vez mais sofisticados so capazes de modificar suas aes e adequ-las a novos padres de conduta, estes podem em algum sentido ser considerados responsveis por suas aes: os procedimentos morais no se distinguem dos procedimentos cognitivos, ou seja, a responsabilidade de um agente estaria ligada capacidade de prever as consequncias de seus prprios atos. Ressaltamos que para Dewey a predisposio de natureza biolgica fundamental para o desenvolvimento de um padro de conduta. Dessa forma, como na I.A. ainda no temos efetivamente modelos biolgicos desenvolvidos parece que teramos problemas em aplicar a moral humana a seres artificiais. No entanto, acreditamos que a sugesto de Dewey de que a conduta um processo dinmico e contnuo nos oferece uma abordagem no-clssica do problema da responsabilidade o que, de alguma forma, pode contribuir para o debate sobre dilema moral dos robs.

Palavras-chave: Inteligncia Artificial. Responsabilidade. Moral. Pragmatismo.

Cognio

Incorporada

Situada.

Mestre em Filosofia UNESP/Marlia - SP. E-mail: ferpilan@yahoo.com.br

Abstract The two main goals of this work are: (1) Briefly to explain how the advances in the areas of Cognitive Sciences and Artificial Intelligence has allowed the development of machines with increasingly performances similar to those of living beings - we quote the models produced by Embodied and Situated Cognition, and (2) before these advances, present the moral dilemma generated by them seeking contributions in Moral Theory of John Dewey to clarify of this debate. In the approach of traditional models ethical / philosophical this kind of debate about the moral dilemma of robots does not seem to find many advances, because the moral duty is taken as the starting point of responsible in dualists terms, in which there is an "I" or "consciousness" responsible for the action independent of the body. Our goal is to show that in bias contemporary philosophical, pragmatic, non-dualistic, you can reflect on the conduct of the action plan in non representationalists terms. Highlight of John Deweys philosophy that emphasizes the importance of experience and the plan of action to the understanding of moral and ethical issues. To Deweys pragmatism an agent can be held responsible for an action due to changes in their future actions practices. Thus, under the Dewey Moral Theory, when a robot makes mistakes, blame him for it must have a punitive character, but educational. In short, according to our interpretation of Dewey's philosophy, to the extent that the increasingly sophisticated robots are able to modify their actions and adapt them to new standards of conduct, they may in some sense be held responsible for their actions: the moral procedures not distinguished from cognitive procedures, i.e., the responsibility of an agent is linked to the ability to foresee the consequences of his own actions. We emphasize that for Dewey of biological predisposition is fundamental to the development of a pattern of conduct. Thus, as in A.I. have not effectively developed biological models seem that we would have problems in applying the moral human beings artificial. However, we believe that Dewey's suggestion whereby the conduct is a dynamic and continuous process offers us a non-classical approach to the problem of responsibility which, somehow, can contribute to the debate about the moral dilemma of robots Keywords: Artificial Intelligence. Embodied and Situated Cognition. Responsibility. Moral. Pragmatism. Introduo

Um dos principais objetivos da chamada Inteligncia Artificial Forte (IA) nas ltimas dcadas tem sido desenvolver mquinas capazes de imitar aes e condutas tipicamente de seres vivos. Este objetivo tem levado a IA a conseguir avanos significativos, principalmente no que se refere ao desenvolvimento de mquinas capazes de agir no mundo, de forma cada vez mais sofisticada e autnoma. Um dos problemas que emergem deste panorama atual da IA diz respeito ao mbito moral destes seres artificialmente desenvolvidos. A partir deste pano de fundo nossos principais objetivos sero: (1) Apresentar uma perspectiva recente em IA a abordagem da Cognio Incorporada e Situada (C.I.S.) considerada um marco no desenvolvimento de mquinas com condutas e aes cada vez mais prximas s de seres vivos e 2) mostrar a necessidade de um debate tico no mais pautado nos modelos filosficos tradicionais sugerindo possveis contribuies da teoria da ao contempornea do pragmatista John Dewey.

A abordagem da Cognio Incorporada e Situada como alternativa Cincia Cognitiva tradicional

Por um lado, podemos compreender que a Cincia Cognitiva e a Inteligncia Artificial, enquanto projetos de pesquisa datam da dcada de 1950. Neste sentido, seriam reas muito recentes que teriam em comum o interesse em compreender a natureza e o funcionamento dos processos cognitivos, com o intuito de construir modelos capazes de imitar nosso comportamento. Por outro lado, podemos tambm compreender estes dois campos como possuindo uma origem muito mais longnqua. Segundo Georges Vignaux (1991, p. 15),
O desejo de realizar mquinas inteligentes data da antiguidade. E, sem dvida, uma das primeiras menes do gnero poderia encontrar-se no canto XVIII da Ilada, no qual Hefesto, deus do fogo, tinha construdo mesas com trs ps munidas de rodzios, que se deslocavam sozinhas nos palcios dos deuses, uma espcie de robots antes do tempo!

Como exemplos de que a preocupao com a construo de mquinas inteligentes um anseio humano de longa data, o autor tambm cita a construo de um autmato chamado Golem, feito de madeira e argila, do qual encontramos registro na tradio judaica. Tambm podemos mencionar a ideia de um animal-mquina,
3

proposta pelo mecanicismo cartesiano do sculo XVII. Enfim, com estas elucidaes, Vignaux pretende mostrar que, diferentemente do que muitos afirmam, as preocupaes da IA e da Cincia Cognitiva no so produtos do sculo XX, mas constituem um corpo de problemas relacionados natureza dos processos cognitivos que inquietam a humanidade h sculos. Apesar da inquietao com os problemas relacionados mente poder ter sua origem identificada h sculos atrs, foi somente a partir dos avanos lgicomatemticos do incio do sculo XX que tivemos o marco de surgimento da IA e da Cincia Cognitiva enquanto reas de pesquisa. Em primeiro lugar destacamos que o surgimento da Cincia Cognitiva, conforme definido por Dupuy (1996, p. 9), pode ser datado em 1940, oriundo principalmente das Conferencias Macy. Estas foram uma srie de conferncias levadas a cabo por um grupo de pesquisa formado por lgicos, matemticos, engenheiros, fisiologistas, psiclogos, antroplogos e economistas que buscavam empreender uma cincia geral do funcionamento da mente. Em sua origem enquanto rea de pesquisa, a Cincia Cognitiva recebeu o nome de Ciberntica sendo desenvolvida, segundo Dupuy, a partir do choque provocado pelas descobertas lgicas da dcada de 1930 possibilitando avano nas reas de investigao sobre o conhecimento. Destacamos que as referidas descobertas lgicas deveram-se em parte a abordagens alternativas surgidas na filosofia contempornea, que reconheceram a relevncia dos processos e fenmenos contingentes no mbito da investigao filosfica. Um marco que pode ser sublinhado foi a Virada Naturalista 2 proveniente do darwinismo e sistematizada pelo pragmatismo de C. S. Peirce, W. James e John Dewey, quando prope a mudana de um padro lgico meramente formal, fixo e de valores de verdade estticos, para um padro lgico natural, contingente, movido pelo acaso, que permearia todos os processos evolutivos naturais. Destacamos que mesmo tendo influenciado o surgimento das lgicas no clssicas, a filosofia naturalista que pretendia aproximar lgica e filosofia dos processos evolutivos, relacionando-as vida, acabou sendo deixada de lado pelos avanos que se
2

A origem da virada naturalista, segundo Gonzalez e Broens (2011), pode ser datada da metade do sc. XIX, principalmente com a publicao da obra A origem das espcies, de Darwin. Conforme ressalta Dewey em seu artigo The influence of Darwinism in Philosophy (1909) , Darwin teve grande influncia no pensamento filosfico e cientifico o que propiciou o surgimento de uma nova lgica de investigao no mais pautada em pressupostos fixos, imutveis, sobrenaturais e transcendentais. A virada naturalista trouxe novidades em filosofia como, por exemplo, a aproximao da reflexo filosfica dos problemas cotidianos (os life problems) e o dilogo com as cincias como a biologia, a qumica e a fsica em prol de uma concepo de mundo dinmica, evolutiva e contingente.

seguiriam no mbito da Cincia Cognitiva. Acreditamos que isto tenha ocorrido principalmente devido ao que Dupuy chama de fascnio pelo modelo. Este encanto pela modelagem algortmica fez com que aps a originria ciberntica fosse superada, principalmente a partir dos trabalhos de Herbert Simon, quando tivemos o incio da Cincia Cognitiva conforme a concebemos hoje. Passou-se ento a pressupor os processos cognitivos como reproduzveis a partir de programao de funes normativas, sem a necessidade de se levar em considerao o plano biolgico e corpreo.
Em clara oposio s ideias relacionais da ciberntica a abordagem simblica foca-se num produto final (resoluo de um problema), ignorando por completo o processo. O processo cognitivo resume-se, portanto, ao processamento sequencial da informao de entrada e a consequente transformao desta informao numa sada, que a resposta do sistema ou resoluo do problema. (PINTO, 2007, p. 14)

Como vemos, a partir dos trabalhos de Marvin Minsky, Allen Newell e Herbert Simon na dcada de 1950, o principal intuito da Cincia Cognitiva passou a ser a simulao dos processos cognitivos em termos de meios e fins manipulando apenas regras e smbolos digitais. O chamado General Problem Solver (1957) foi um dos primeiros programas de computador concebidos para simular os processos inteligentes do pensamento humano em suas atividades de resoluo de problemas. O modelo do computador digital seria para Simon a melhor imitao dos processos cognitivos e deste tipo de investigao, segundo ele, resultariam os futuros avanos na Cincia Cognitiva. A partir da inaugurou-se o que podemos chamar de paradigma simblico/computacional da Cincia Cognitiva. Estes avanos marcaram, consequentemente, o reconhecimento da Inteligncia Artificial enquanto rea de pesquisa. A inaugurao da IA teria sido na reunio ocorrida no colgio de Darmouth, EUA, em 1956, na qual Newell e Simon apresentam o seu Logic Theorist e propem denominao de Inteligncia Artificial (IA) para esta nova fase de trabalhos. Seguidamente, J. McCarthy e P. Hayes aperfeioam os trabalhos iniciais da promissora IA desenvolvendo o programa Lisp, em 1960, com pretenses de que este fosse um sistema processador capaz de agir inteligentemente no mundo. (VIGNAUX, 1991)
5

Foi a partir do desenvolvimento da IA, nas ltimas dcadas, que toda a ideia de uma cincia da mente se desenvolveu. A IA proporcionou o passo fundamental para se tentar relacionar mentes e computadores e estabelecer o que passamos a chamar de modelo computacional da mente. No fossem os desenvolvimentos e realizaes da IA nas ltimas dcadas suas mquinas de jogar xadrez, demonstrar teoremas matemticos, realizar diagnsticos mdicos toda uma polmica sobre a natureza da mente e da inteligncia no teria surgido. (TEIXEIRA, 1998, p. 13)

Ainda segundo Teixeira (1998, P. 104) A Inteligncia Artificial simblica herdou uma metafsica cartesiana ao estabelecer uma dualidade entre software e hardware como metfora para conceber as relaes mente/crebro. Portanto, a Cincia Cognitiva e a IA tomaram como ponto de partida metodolgico a pressuposto da separao entre a mente e matria, ou seja, tinham como princpio a ideia de que as capacidades cognitivas seriam instanciveis independentemente de sua base fsica/biolgica. Assim, mente seria uma funcionalidade passvel de ser simulada por um processador central que manipulasse corretamente algoritmos. Este paradigma inspirou-se principalmente nas contribuies advindas de Alan Turing (1950) Funcionalismo que permitiu teoricamente a concepo de uma mquina abstrata (Mquina de Turing) capaz de realizar qualquer tipo de operao manipulando apenas smbolos. Deste paradigma resultou o estabelecimento de duas posturas na IA e a consequente distino entre IA Forte e IA Fraca: a verso Forte da IA postularia justamente a certeza de que a mente poderia ser integralmente reproduzida em um computador, incluindo estados conscientes, intencionais e comportamentos autnomos, pois o mental no passaria de um processo sequencial de procedimentos passveis de transcrio algortmica. A IA Fraca, por sua vez, defende uma postura menos radical. Resumidamente, podemos dizer que a verso Fraca da IA teria como principal pressuposto que as modelagens artificiais servem apenas para aprofundar e melhorar nosso conhecimento sobre a mente, mas sem ter o objetivo de criar inteligncia autnoma equivalente humana. Aps esta etapa inicial de trabalhos, um segundo momento marcou o desenvolvimento da Cincia Cognitiva e da IA. Foi o surgimento da abordagem chamada conexionista. Pretendendo-se colocar como alternativa postura simblico/funcionalista, o conexionismo baseou-se nos estudos de redes neuronais naturais para modelar os sistemas artificiais, criando, com isso, as Redes Neurais Artificiais. Em linhas gerais, podemos dizer que este paradigma se ope em certa
6

medida abordagem meramente sinttico/simblica das capacidades mentais indicando para a necessidade de se considerar a emergncia semntica que ocorre nos processos cognitivos. Enquanto que para a I.A. simblica, pela simulao algortmica (sem plausibilidade biolgica) se chegaria ao conhecimento da mente, para as Redes Neurais Artificiais seria pela simulao do crebro (tambm atravs de algoritmos, mas considerando a plausibilidade biolgica) que teramos uma adequada interpretao dos processos cognitivos. A cognio, no vis conexionista, consistiria na emergncia de estados globais em uma rede de componentes materiais simples. Estes elementos simples que podemos chamar de ndulos conectar-se-iam entre si sem a necessidade de uma central de gerenciamento responsvel pelo processamento da informao. Assim, a mente seria resultado do funcionamento de toda esta rede constituda por estes ndulos.
A abordagem conexionista uma tentativa de construir um modelo de mente mais prximo de sua realidade biolgica. Embora estes sistemas no sejam um modelo completo do crebro e de seu funcionamento, pode-se pelo menos dizer que eles so inspirados na estrutura do crebro. (TEIXEIRA, 1998, p. 85).

Ao que parece, com o conexionismo tivemos uma aproximao entre a mente e a estrutura biolgica, na medida em que se entende o processo de produo cognitiva como resultado estrito das conexes neuronais e da estrutura cerebral, rechaando a postura da IA simblica que preservava a mltipla instanciao da mente. Neste sentido, para o conexionismo o significado enquanto resultado dos processos cognitivos estaria intimamente ligado s ocorrncias sinpticas do crebro e no ao jogo simblico como pretendia a I.A. simblica. No processo cognitivo, ao atingir o nvel chamado de subsmbolo o significado se descolaria do plano biolgico e da estrutura cerebral emergindo da o conhecimento, sem, no entanto, deixar de estar relacionado com alguma parte especifica na rede neural do crebro. Apesar de o conexionismo ter se colocado como alternativa I.A. simblica, apontando para a importncia cognitiva dos sistemas biolgicos, seu pressuposto bsico continua sendo o de que a formalizao seria o melhor meio para se reproduzir a inteligncia humana, sem considerar a corporeidade. Por isso, convm destacar que no conexionismo, mesmo considerando-se a plausibilidade biolgica, ainda no temos a preocupao com as capacidades cognitivas tpicas das interaes ambientais e perceptuais ligadas ao plano da ao.
7

Em resumo, as abordagens tradicionais da Cincia Cognitiva e IA simblica e conexionista - no consideravam a relevncia da dinmica do plano da ao, da corporeidade e da constituio biolgica. Neste sentido, apresentaremos a proposta da Cognio Incorporada e Situada (CIS), que surge na dcada de 1980, como alternativa a mencionada tradio desenvolvendo uma teoria dinmica dos processos cognitivos que admite interaes entre corpo, cognio e mundo. (SMITH, 1999, p. 769). Podemos dizer que a teoria da Cognio Incorporada e Situada (CIS) desenvolveu-se tendo como objetivo evitar as dificuldades enfrentadas pelo paradigma computacional/simblico da IA, conforme destacaremos nos trabalhos de Andy Clark (1998, 2001, 2008), Thelen & Smith (1994), Tony Chemero (2007), Haselager & Gonzales (2006) e Port & Van Gelder (1995). Em linhas gerais, a proposta da CIS de mostrar o lado dinmico e contnuo dos processos cognitivos. A CIS, ao absorver contribuies de reas como da filosofia, da psicologia do desenvolvimento, dos estudos da percepo, das neurocincias e da robtica, constitui-se ento como um programa de pesquisa interdisciplinar com o objetivo de desenvolver modelos inteligentes corpreos, capazes de interagir com o ambiente e de resolver situaes problema. Assim, o vis da Cognio Incorporada e Situada tem como principal pressuposto que os sistemas orgnicos so constitudos por capacidades interacionais com o ambiente que no podem ser dissociadas de sua histria evolutiva, de sua corporeidade e de seu contexto. Andy Clark pode ser apontado como um dos principais proponentes do tipo de abordagem situada e incorporada. O autor desenvolveu vrios temas importantes sobre o papel epistmico do plano da ao nas performances inteligentes. Dentre estes, destacamos a criao do conceito de ao epistmica enquanto importante avano no sentido de diluir as separaes e divises entre pensamento e ao. Aes epistmicas seriam certos tipos de aes que se dirigem ao aperfeioamento de nossa perfformance mental: em outras palavras so alteraes que fazemos no mundo visando no adaptarnos necessidades impostas fisicamente pelo ambiente, mas visando facilitar a desempenho de nossas capacidades cognitivas. Como vemos, Clark assume uma postura continusta, segundo a qual no haveria uma ruptura entre as capacidades cognitivas do plano da ao e as capacidades cognitivas do plano racional/terico/formal. Para o autor as aes epistmicas:
Alteram o mundo para ajudar e auxiliar os processos cognitivos enquanto reconhecimento e pesquisa. Meras aes pragmticas, ao 8

contrrio, alteram o mundo porque alguma mudana fsica desejvel por si prpria (por exemplo, a ao de tapar o buraco de uma represa). Ao epistmica, sugerimos, exige a propagao de crdito epistmico. Se, diante de uma tarefa, uma parte do mundo funciona como se fosse um processo feito na cabea, no hesitaramos em reconhecer como parte dos processos cognitivos, de forma que esta parte do mundo (ns defendemos) parte dos processos cognitivos. Processos cognitivos no esto (todos) na cabea! (CLARK & CHALMERS, 1998, p. 3-4)

Como vemos, Clark defende a ideia, segundo a qual os processos cognitivos no esto sediados em um rgo ou instncia superior ou primaz. Tal ideia se torna fundamental para sua proposta de mente estendida, pois, para ele, haveria uma extenso inteligente da mente que extrapola os limites meramente cerebrais, racionais, conscientes, espalhando-se por todo o conjunto corpreo de que somos constitudos. Apoiando-se nas investigaes de Kirsh e Maglio (1994) sobre os padres de comportamento de seres humanos ao jogar Tetris3, Clark conclui que neste tipo de situao temos presente uma coparticipao direta da ao do individuo em seu processo cognitivo. Segundo Clark, a pesquisa elaborada por Kirsh e Maglio (CHALMERS & CLARK, 1998) nos remete ao comportamento de seres humanos em uma situao na qual esto jogando Tetris. Nesta pesquisa, tomou-se o pressuposto de que haveria dois tipos de conduta para soluo do encaixe das peas. Uma primeira opo seria realizar a rotao mentalmente para em seguida executar a rotao fsica atravs de um boto de comando ligado tela de um computador. A outra opo de resoluo seria realizar primeiro a rotao fsica para ver qual encaixe se adequa melhor ao contexto que se apresenta na tela. A concluso que Kirsh e Maglio chegam, e da qual Chalmers e Clark se apropriam, a de que as rotaes feitas com a utilizao do boto de comando, ou seja, na prtica, tem uma maior eficcia do que as realizadas mentalmente. Enquanto a rotao prtica demora 300 milisegundos a rotao mental demora 1000 milisegundos. De acordo com o autor, a partir deste experimento possvel percebermos a importncia do plano da ao e do conhecimento prtico para o aperfeioamento de
3

Tetris um jogo eletrnico muito popular, desenvolvido em 1984 pelos engenheiros da computao Alexey Pajitnov, Dmitry Pavlovsky e Vadim Gerasimov. O jogo consiste em empilhar tetramins que descem a tela de forma que completem linhas horizontais. Quando uma linha se forma, ela se desintegra, as camadas superiores descem, e o jogador ganha pontos. Quando a pilha de peas chega ao topo da tela, a partida se encerra. (Fonte: Wikipedia).

performances cognitivas. Neste sentido, parece ser adequada a defesa de que a mente no se reduz a um rgo central como o crebro, por exemplo, mas que prpria da natureza da mente ser dinmica e estendida ao corpo e ao mundo, ou seja, a mente seria algo encarnado, incorporado e situado que se desenvolveria sempre a partir da relao com o ambiente. Tambm em favor da relevncia cognitiva do plano da ao destacamos o pensamento de Thelen e Smith (1994). As autoras se posicionam criticamente em relao s abordagens lineares e dualistas dos processos cognitivos, propondo uma perspectiva sistmica no mbito da psicologia do desenvolvimento, superando os paradigmas tradicionais ao considerar a relevncia cognitiva da ao. Os estudos de Thelen & Smith debruam-se principalmente sobre o comportamento humano, em especial, no desenvolvimento cognitivo em bebs. A abordagem sistmica de Thelen & Smith busca compreender os processos cognitivos considerando o todo como um nico sistema, constitudo de sistemas, dentro de outros sistemas, sempre em relao dinmica. Neste sentido, tentam explicar o desenvolvimento enquanto um processo complexo abrindo mo de pressupostos dualistas como, por exemplo, mente/corpo, funo/estrutura, crebro/comportamento etc. Na concepo das autoras a atividade auto-organizada teria um papel fundamental no desenvolvimento das capacidades comportamentais motoras, perceptivas, cognitivas e sociais, pois estes. Enfatizam o carter auto-organizado dos sistemas inteligentes justamente porque defendem uma postura segundo a qual a mente seria processo complexo resultado da dinmica histrica, o contextual, cultural, social etc. Consequentemente, as capacidades orgnicas bsicas so consideradas como tendo um papel fundamental na cognio, pois so os ajustes cognitivos e auto-organizativos primitivos que revelam a inteligncia de nossa corporeidade.
Por exemplo, as nossas rtulas limitam os graus de movimento possvel com as pernas, fazendo o equilbrio e locomoo muito mais fcil. apenas um pequeno exagero dizer que aprender a andar fcil para os seres humanos, j que as pernas j sabem como fazer. (THELEN & SMITH, 1994. Apud CHEMERO, 2007, p. 27).

Nesta abordagem entende-se que a herana ontogentica est estreitamente ligada s capacidades cognitivas do conhecimento do senso comum manifestadas no desenvolvimento de sistemas biolgicos. Neste sentido, ao analisarem o
10

desenvolvimento de crianas as autoras concluem, por exemplo, que a formao de categorias (a formao da capacidade de classificar coisas diferentes, mas que guardam certas caractersticas comuns) uma capacidade cognitiva fundamental para operaes mentais de qualquer tipo forjadas ontogeneticamente, sem precedentes inatos.
Sem esta habilidade [de formao de categorias], no h base para operaes mentais de qualquer espcie, tanto de pensamento, quanto de ao. A formaao de categorias o inicio primitivo da vida mental; a ontogenia da formao de categorias a base para o desenvolvimento do comportamento. (THELEN & SMITH, 1994, p. 162)

Assim, vemos que a CIS tende a recuperar os processos biolgicos nas investigaes dos processos cognitivos e da mente. Thelen & Smith consideram os processos fsicos os responsveis por estimular e impulsionar o desenvolvimento, argumentando a favor de uma relao direta do sistema inteligente com o mundo sem a necessidade estrita de representaes que faam a mediao dos processos cognitivos. Mentes no representam necessariamente o mundo, elas vivem nele e fazem parte da realidade fsica, uma realidade do eu incorporado (THELEN & SMITH, 1994, p. 164). Com esta afirmao vemos o quanto a abordagem sistmica pode contribuir para uma reavaliao do papel do conhecimento comum nos processos cognitivos, pois parece ser plausvel considerarmos estes como os primeiros tipos de manifestao cognitiva constatada em seres humanos. Como citamos no exemplo da formao de categorias em crianas, este desenvolvimento se d a partir da experincia com o mundo, sem a necessidade prvia de teorizao ou de alguma faculdade inata, evidenciando o carter incorporado e evolutivo da inteligncia. Em suas crticas s abordagens tradicionais e lineares dos processos de desenvolvimento, Thelen & Smith ainda argumentam que a cognio se trata de um processo dinmico no qual no h sistemas que se sobressaem a outros ou que sejam centrais. Neste vis, todos os componentes de um sistema teriam igual importncia dentro do processo cognitivo, cada qual desempenhando seu papel adequadamente e de forma contnua e dinmica. Segundo Thelen (2000, p. 8 traduo nossa),
precisamente essencial a continuidade dos sistemas dinmicos incorporados e acoplados no tempo para fluir comportamento adaptativo que d sentido noo de cognio incorporada. No h momento em que estes processos parem e outra coisa assuma. Assim, h boas razes para acreditar no somente nas origens sensrio11

motoras da cognio, mas tambm na relao intima e intrincada entre agir e pensar ao longo da vida.

Atravs da citao, podemos ver o quo relevante se torna o fator tempo no mbito da perspectiva incorporada e situada. Segundo Port & Van Gelder (1995, p. 3 - traduo nossa),
O sistema cognitivo no um computador, ele um sistema dinmico. No se trata de algo no crebro, isolado e encapsulado; ao contrrio, ele um todo composto por sistema nervoso, corpo e ambiente. O sistema cognitivo no um manipular sequencial discreto de estruturas representacionais estticas; ao contrrio, uma estrutura contingente de influncia mtua e simultnea. O seu processo no figura no tempo arbitrrio e discreto dos passos de um computador; ao contrrio, ele manifesta-se no tempo real de mudana contnua no ambiente, no corpo e no sistema nervoso. O sistema cognitivo no interage com os outros aspectos do mundo pela passagem de mensagens ou comandos; ao contrrio, est continuamente coevoluindo com eles.

Podemos dizer que a proposta da CIS herdando contribuies da abordagem dinmica assume a mudana como palavra-chave. A mudana se torna fundamental na medida em que os processos cognitivos passam a ser vistos como incorporados no tempo e em um contexto a partir dos quais se torna possvel a evoluo de um sistema. Em suma, a CIS aplicada robtica pretende desenvolver agentes artificiais que evoluam e aprendam com o ambiente, adquirindo padres de conduta ao lidarem de forma apropriada com desafios e imprevistos apresentados em situaes no controladas.

A relevncia cognitiva do corpo De acordo com o exposto at o momento a corporeidade passa a ser entendida como tendo um papel fundamental dentro dos processos cognitivos. Este pressuposto se contrasta com toda a tradio dualista filosfica e o paradigma computacional/funcionalista da mente. Ao compreender uma continuidade entre corpo, cognio e ambiente teramos a vantagem de dissolver alguns problemas como, por exemplo, o da relao entre mente e corpo to caro filosofia tradicional. No paradigma incorporado e situado a cognio surgiria como emergncia dos processos biolgicos
12

corporais, de forma contnua e natural. Quando dizemos que h uma relao entre corpo e cognio no queremos estabelecer uma identidade de propriedades (como, por exemplo, a tipo-tipo4). No vis incorporado e situado corpo e cognio no seriam a mesma coisa, mas tambm no seriam coisas distintas e excludentes. Trata-se de compreender a cognio como um continuum auto-organizado, sempre em transformao pela dinmica que a constitui como um todo. De acordo com os trabalhos de Clark (1998), por exemplo, o corpo possuiria uma dinmica prpria reveladora de sua flexibilidade e plasticidade, o que nos permite estabelecer distines, por exemplo, entre o corpo de um rob e o corpo de um ser vivo. Os movimentos do corpo de um ser vivo possuem uma flexibilidade e plasticidade espontneas que se adaptam dinamicamente em relao ao ambiente. J os movimentos de um corpo robtico no teriam tal flexibilidade espontnea, pois necessitaria de uma srie de regras e parmetros para o reconhecimento do local para poder tentar adaptarse. Tal flexibilidade e plasticidade espontnea do corpo de um ser vivo so expressas por Clark como sendo um comportamento soft assembly. Esta expresso pode ser definida como movimentos produzidos por nosso corpo, nos quais h uma mistura de sutileza e fora ao mesmo tempo, que se do de forma espontnea, sem previso, digamos, consciente: trata-se de um tipo de conhecimento tcito do ambiente. No plano da ao, cognio e corpo fundem-se em uma continuidade dinmica da qual resultam performances inteligentes de alta eficincia em situaes do senso comum que realizamos. Segundo Haselager & Gonzalez (2006, p. 9)
Se olharmos para o exemplo da 'quebra do ovo', o problema de como quebrar um ovo no se resume a uma consulta na base de dados de nosso conhecimento proposicional para formular um planejamento simples. Ao invs disso, o meio ambiente e suas propriedades possibilitam, selecionam ou explicitam certos comportamentos. A borda da vasilha permite a quebra da casca do ovo. O movimento que fazemos com nossos braos e mos no planejado e calculado, mas emerge da dinmica intrnseca de nosso corpo, do peso do ovo, da influencia da gravidade e de muitos outros fatores. Nesse sentido, os aspectos gerais do organismo na situao do senso comum se autoorganizam em uma sequncia apropriada de comportamentos emergentes.

A Teoria da identidade tipo-tipo, criada por U.T. Place e J.J Smart na dcada de 1950, afirma que cada tipo de estado mental corresponde a um tipo de estado cerebral. Este vis materialista/fisicalista da mente prope, portanto, uma reduo dos estados mentais aos estados fsicos, o que no ocorre na abordagem da Cognio Incorporada e Situada.

13

Ressaltamos que as contribuies da CIS permitiram a IA e a robtica avanos significativos nos ltimos anos justamente por destacar o relevante papel do corpo nos processos cognitivos em nvel de senso comum. Por isso, este tipo de abordagem tem sido acolhida nas ultimas dcadas, principalmente no mbito da IA e da robtica, e j deixa de ser apenas uma abordagem alternativa ganhando o status de teoria cientfica corrente. (GUDWIN, 2005, p.14). Como vemos, a partir da abordagem da CIS diminui-se a distncia entre o comportamento de seres artificiais e o de seres vivos. Uma das principais questes que pretendemos colocar : seria cabvel atribuir moralidade e responsabilidade a seres artificiais? Uma das primeiras propostas para este debate foi apresentada por Isaac Asimov, em sua obra de fico cientifica, Eu, Rob, quando ainda no tnhamos tipos to avanados de humanoides como os de hoje. Segundo as leis de Asimov: 1) Um
rob no pode ferir um ser humano ou, por omisso, permitir que um ser humano sofra algum mal. 2) Um rob deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei. 3) Um rob deve proteger sua prpria existncia desde que tal proteo no entre em conflito com a Primeira e Segunda Leis. Atualmente com os avanos na rea da IA as leis de Asimov parecem no dar conta deste - que podemos chamar de dilema moral dos robs - principalmente porque possuem um valor prescritivo ainda aliado a concepes tradicionais de moral e tica. Com os atuais avanos da IA, razovel pressupormos que r obs

podem ser relativamente considerados autnomos de diversas maneiras, desde aqueles que executam tarefas que exigem alta preciso ou repetitividade como os utilizados em linha de produo, at aqueles que oferecem certo grau de risco vida do homem, pois lidam com os seres humanos atuando como recepcionistas (rob Reem, 2011, da Palm Robotics), como interlocutores (rob Zeno, 2010, da Hanson Robotics) e como atores (rob Geminoid F, 2012, Universidade de Osaka), capazes de interagir com seres humanos. Neste sentido, temos um problema que parece extrapolar os limites dos modelos ticos prescritivos, do agir por dever conforme expressos pelo cdigo criado por Asimov e pelas filosofias tradicionais. Sugerimos que algumas filosofias contemporneas podem trazer contribuies para o referido debate. Tentamos mostrar que num vis filosfico pragmtico, no dualista, possvel uma reflexo sobre a conduta no plano da ao no mais detida no
14

domnio

racionalista/representacionista/internalista.

Dentre

estas

filosofias

contemporneas destacamos o pensamento de John Dewey e sua proposta pragmatista que enfatiza a relevncia do plano da experincia e da ao para a superao do dualismo tipo mente versus corpo, eu versus ao na compreenso das questes morais e ticas. O pragmatismo de John Dewey: uma teoria da ao inusitada Ao tratar da moral e da tica, Dewey toma sempre como objeto de investigao a conduta dos indivduos enfatizando que aes e condutas no se devem unicamente a um eu interno do qual partem as coordenadas. Inicialmente podemos dizer que um dos principais pressupostos de John Dewey o de que a formao e a constituio da conduta dar-se-ia de forma contnua; alm disso, o ambiente seria decisivo para direo e formao dos hbitos daquele que est atuando ou agindo. Assim, os estmulos externos (que incitam o agente a ter aes e reaes) contribuem no sentido de auxiliar aquele que age a adquirir hbitos dentro do processo de aprendizado. Segundo Dewey, as vertentes de tendncia metafsica/internalista (como a kantiana, por exemplo, e as ticas do dever em geral) possuem uma concepo moral fortemente dualista, pois no compreendem a formao moral em sua totalidade e continuidade entre agente e ambiente. O eu fundamentalmente um eu corpreo que age, um agente como um todo com o ambiente que o circunda. A proposta deweyana de que entre o eu e a ao no h uma distino do tipo meio e fim. Diferentemente, h um arranjo circular. O eu no simples meio para produzir consequncias, porque estas, quando de espcie moral, entram na formao do eu e este na formao delas. (DEWEY, 1964, p. 134). Em suma, a constituio de uma identidade dependeria do processo de aprendizagem que envolve tanto o plano individual (eu), quando o ambiental. Como vemos a ambincia ganha um papel fundamental na discusso da moral e apontado por Dewey como sendo tambm relevante para a constituio da conscincia.
Est a regio moral isolada do restante da atividade humana? Somente uma classe especial de objetivos e relaes humanos tem valor moral? Essa concluso o resultado necessrio da teoria [tradicional] segundo a qual nossa conscincia e nosso conhecimento morais so nicos na espcie. Mas se a conscincia moral no separada, ento no se pode traar qualquer linha rgida e firme na conduta isolando o reino da moral do reino no-moral. (DEWEY, 1964, p. 110) 15

A conscincia para Dewey antes de ter um carter subjetivo, interno, racional, possui um carter objetivo que a constitui. Este carter objetivo da conscincia fundamental para que compreendamos o genuno significado de um julgamento moral, pois, nas perspectivas filosficas tradicionais tal julgamento se dava em uma perspectiva internalista. Para Dewey, a conscincia deveria ser compreendida ento de forma objetiva, experiencial, o que permitiria reflexo sobre a moralidade expandir seu alcance, no limitando o julgamento moral apenas a um procedimento punitivo.
Um ser humano considerado responsvel a fim de que possa aprender; a fim de que possa aprender no terica e academicamente, mas de forma a modificar e at certo ponto refazer seu eu anterior [...] o que interessa se capaz de agir diferentemente na prxima vez, a importncia pratica e modificaes no carter humano que torna importante a responsabilidade. (DEWEY, 1964, p. 153)

Em suma, podemos dizer que o autor pretende que todo julgamento moral considere aspectos como contexto, a sociedade, a cultura, as redes relacionais etc. que so cruciais para a constituio de uma determinada identidade. A conscincia genuna tem perspectiva objetiva; ateno e cuidado inteligentes para com a qualidade de um ato, em vista de suas consequncias para a felicidade geral; no solicitude ansiosa para com o estado virtuoso do prprio individuo. (DEWEY,1964, p. 120)

O dilema moral dos robs luz do pragmatismo deweyano De acordo com o que expomos at aqui, pretendemos agora mostrar que a proposta deweyana parece plausvel de ser relacionada a conduta no somente humana. Neste sentido, tentando compreender o mbito da conduta de seres artificiais luz das consideraes deweyanas, pode-se dizer que a partir do momento em que um rob assume em dado momento um padro de ao como, por exemplo, o de andar de bicicleta, de tocar um violino ou de recepcionar pessoas em um evento, ele o desempenha imitando um comportamento tpico que expressa determinado objetivo. Ressaltamos que tal objetivo provm estritamente de todo o processo interacional com contexto do qual o rob participa.

16

De acordo com o projeto da robtica atual de criar robs capazes de aprender e de alterar hbitos conforme a dinmica ambiental se torna possvel que os mesmos tenham uma conduta responsvel e sejam responsabilizados por suas aes. No estamos debatendo se robs teriam ou no conscincia, estamos apenas indicando que o julgamento moral no se deve exclusivamente a aspectos internos e subjetivos. Em outras palavras, da mesma forma que um homem pode ser caracterizado como responsvel, um rob tambm poderia vir a s-lo se considerado um agente que assume determinada postura, em um determinado contexto, pois sua conduta implicaria consequncias prticas. Nossa interpretao de que a filosofia de Dewey parece no encontrar problemas nesta afirmao, pois a responsabilidade tanto no mbito humano, quanto no mbito de um agente artificial sempre seria dividida entre ambiente e agente. O julgamento moral neste caso no deveria servir meramente como instrumento para culpar aquele que errou: responsabilizar um indivduo, como vimos, implicaria antes de qualquer punio, a expectativa de mudana de conduta. Assim, quando um rob erra, responsabiliz-lo implicaria no meramente uma acusao ou condenao; indo alm, a responsabilidade deve levar este rob necessidade de mudana de padres de hbito. Neste sentido, na medida em que robs forem capazes de tomadas de deciso, de mudana de hbitos nestes moldes, podem ser considerados seres responsveis por suas aes, mas concebendo sempre a responsabilidade diferentemente dos pressupostos tradicionais dualistas. O que deva ser redefinida ou, talvez at banida, seja a noo de culpabilidade enquanto algo que recai sobre uma conscincia prvia que planeja a ao. A concepo de uma mente interna que coordene as aes tidas como corpreas recusada por Dewey, em prol de uma definio de conhecimento e ao oriunda de um processo complexo que se inicia pelo fluxo contnuo da experincia. Em outras palavras, a sociedade e o contexto so tambm responsveis pela m ao cometida por um individuo. Neste sentido, a sociedade e o criador do rob tambm teriam um papel em sua atuao, por isso, uma anlise moral em termos tradicionais no pode dar conta do complexo problema que envolve o dilema moral dos robs. Trata de um processo complexo que envolve uma dinmica relacional pautada no plano da ao e no em instncias e faculdades subjetivas responsveis pela agncia do rob. Neste sentido, responsabilizar um rob implica antes de tudo compreender a totalidade da situao em que se deu o erro implicando que, ao invs de possuir um carter punitivo, esta responsabilizao possua um carter educativo.
17

Consideraes finais Ao que parece abordar o chamado dilema moral dos robs implica uma renncia a ticas dualistas, o que traz implicaes morais no sentido de que conceitos como de responsabilidade e liberdade sejam tratados filosoficamente de maneira alternativa. Como vimos na filosofia de John Dewey, os procedimentos morais so um continuum dos procedimentos cognitivos e a responsabilidade de um agente estaria ligada sua capacidade de prever as conseqncias de seus prprios atos. O autor em seu ideal democrtico sempre se mostrou avesso aos sistemas prisionais e punitivos, pois acreditava que um julgamento moral devesse ser compreendido como algo educativo e no meramente punitivo. Se, por exemplo, um rob recepcionista como o Reem (2011) causasse mal a algum visitante deste evento, o que diramos desta situao? De alguma maneira este rob, um agente interacional que cometeu um erro, no teve previso suficiente de sua ao. Talvez isto nos permita interpret-lo como sendo, em algum sentido, responsvel por sua ao, mas no com o intuito primordial de penaliz-lo como corrente em nossos cdigos morais. Neste sentido, ao que parece, a responsabilidade moral redefinida parece ser aplicvel a robs. No entanto, preciso que faamos uma ressalva em nossa anlise, pois para Dewey a predisposio de natureza biolgica fundamental para o desenvolvimento de um padro de conduta e o estabelecimento de uma identidade pessoal. Por isso, antes que cometamos alguma injustia com o pragmatismo de Dewey, sublinhamos que como ainda no temos efetivamente modelos biologicamente desenvolvidos conceber os robs como possuindo uma identidade pessoal, um agir consciente, ainda no possvel. Restringimo-nos apenas a relacionar Dewey e o dilema moral dos robs nos aspectos mencionados aqui, segundo os quais a ao no algo de origem estritamente interna, mas um processo dinmico entre agente e ambiente.

BIBLIOGRAFIA ASIMOV, I. Eu, Rob. Trad. Luiz Horcio da Mata. So Paulo: Circulo do Livro, 1976. BROOKS, R. Inteligncia sem representao. Traduo: Pedro Rocha de Oliveira e Joo de Fernandes Teixeira. Em:
18

www.filosofiadamente.org/images/stories/textos/representacao.doc Acesso em: 28/11/2011. _______. Intelligence without representation. In: Artificial Intelligence 47 (1991), pp. 139-159. CHEMERO, A. Radical Embodied Cognitive Science. Massachusetts: MIT/Bradford, 2009. CLARK, A. Being there: putting brain, body, and world together again. Massachusetts: MIT/Bradford, 1998. ______. Mindware: An introduction to the philosophy of cognitive science. New York: Oxford University Press, 2001. ______. Supersizing the Mind: Embodiment, Action, and Cognitive Extension. New York: Oxford Unversity Press, 2008. CLARK; A.; CHALMERS, D. The Extended Mind. In: Analysis, 58 (1), p.10-23, 1998. DEWEY, J. Democracia e educao: introduo filosofia da educao. 3. ed. Traduo Godofredo Rangel e Ansio Teixeira. So Paulo: Companhia Editora Nacional, 1959. ______. Experincia e natureza. So Paulo: Abril Cultural, 1980. ______. Reconstruo em Filosofia. So Paulo: Companhia Editora Nacional, 1959. DEWEY, J. Human Nature and Conduct: an introduction to social psychology. New York: Modern Library, 1950. ______. Teoria da vida moral. So Paulo: IBRASA, 1964. DUPUY, J.-P. Nas origens das Cincias Cognitivas. Traduo: Roberto Leal Ferreira. So Paulo: Editora Unesp, 1996. GONZALEZ, M. E. Q.; BROENS, M. C. Darwin e a virada naturalista na filosofia. In:MORAES, J. Q. (Org.). Darwin e a origem do homem. Campinas: UNICAMP, 2011. GUDWIN, R.R. Novas Fronteiras na Inteligncia Artificial e na Robtica. In: Dincon2005. Campinas. 2005. pp. 01-18. Disponvel em: http://www.dca.fee.unicamp.br/~gudwin/ftp/publications/Dincom05_Gudwin.pdf Acesso em: 20/09/2012 HASELAGER, W.F.G.; GONZALEZ, M.E.Q. Conhecimento comum e autoorganizao. Disponvel em: http://www.nici.kun.nl/~haselag/publications/ConhecimentoComumAutoorg.pdf Acesso em: 10/07/2011

19

HASELAGER, W.F.G. Auto-organizao e comportamento comum: opes e problemas. In: GONZALES, M.E.Q; DOTTAVIANO, I.M.L; SOUZA, G.M. (orgs). Auto-organizao: estudos interdisciplinares. Vol. 38. Campinas, Brasil: Coleo CLE, 2004. pp. 213-235. HASELAGER, W.F.G. O mal estar do representacionismo: sete dores de cabea da Cincia Cognitiva. In A. Ferreira, M.E.Q. Gonzalez & J.G. Coelho (Eds.). Encontros com as Cincias Cognitivas, Vol. 4. So Paulo: Coleo Estudos Cognitivos , 2004. pp. 105-120. KIRSH, D.; MAGLIO, P. On distinguishing epistemic from pragmatic action. In: Cognitive Science, 18, pp. 513-549, University of California, San Diego, 1994. Disponvel em http://adrenaline.ucsd.edu/kirsh/publications.html Acesso em: 23/06/2012. PINTO, S.M.C.R. A Natureza Histrica da Cognio: Debates filosficos na Teoria dos Sistemas Dinmicos na Cincia Cognitiva. Dissertao de Mestrado. Universidade do Porto. Portugal, 2007. PORT, R.; VAN GELDER, T. Mind as Motion: Explorations in the dynamics of cognition. Massachusetts: MIT/Bradford, 1995. SMITH, B.C. Situatedness/Embeddedness. In: WILSON, R.A.; FRANK, C.K. (orgs). The MIT Encyclopedia of the Cognitive Sciences. Massachusetts: MIT, 1999. pp. 769770. TEIXEIRA, A. A pedagogia de Dewey. In: Vida e Educao. So Paulo: Companhia Editora Nacional, 1959. ______. Bases da teoria lgica de Dewey. Revista Brasileira de Estudos Pedaggicos. Rio de Janeiro, v. 23, n. 57, jan/mar, 1955 p. 3-27. THELEN, E. Grounded in the world: developmental origins of the embodied mind. In: Infancy, 1 (1), 3-28, 2000. THELEN, E.; SMITH, L. A dynamic systems approach to the development of cognition and action. Cambridge: MIT Press, 1994. VIGNAUX, G. As Cincias Cognitivas: uma introduo. Coleo Epistemologia e Sociedade. Traduo: Maria Manuela Guimares. Lisboa: Instituto Piaget, 1991.

20