Máquinas que pensam?

Paul T. Sagal
Tradução de Desidério Murcho
Stu acabou de chegar, depois de mais uma sessão do torneio de xadrez, onde perdeu,
frente ao computador Fischkov III.
Stu: Detesto perder, especialmente com os computadores. Como
podem eles pensar melhor do que eu se na realidade nem sequer
podem pensar?
Phil: Tens assim tanta certeza que não podem pensar? Talvez
existam mais coisas que podem pensar do que pensas.
Stu: Deves estar a brincar. Os computadores pensam tanto
como um papagaio ou um disco. Os discos e os papagaios
limitam-se a fazer sons. Mas não há pensamento por detrás dos
sons.
Phil: Mas como sabes que não há pensamento por detrás dos
sons? Como sabes quando há pensamento?
Stu: Sei pelo menos, com certeza, quando eu estou a pensar. É
como se ouvisse o som dos meus próprios pensamentos. Talvez o
pensamento seja uma espécie de conversa interior, mantida
connosco mesmos.
Phil: Como sabes que existe pensamento por detrás desses
“sons” que dizes ouvir? Como podes realmente dizer que eu estou
a pensar? Não podes ouvir a minha conversa interior, pois não?
Como sabes sequer que existe?
Stu: Posso perguntar-te.
Phil: Claro que podes, mas se o fizeres e eu responder “Sim”,
nada podes fazer para verificar se a minha resposta é verdadeira
ou não. Se perguntasses ao papagaio se ele está a conversar
consigo mesmo, ele diria talvez igualmente que sim.
Stu: Bom, o pensamento não é apenas a conversa interior. O
pensamento é o tipo de processo que acompanha a conversa,
processos como a conceptualização, o raciocínio e coisas desse
género.
Phil: Em primeiro lugar deixa-me notar que, mesmo quando
me observo a pensar, existem com certeza mais coisas além de
uma espécie de conversa, como a capacidade para formar
imagens mentais: posso pensar no último dia em que fui pescar
e “ver” o lago onde estive. Ao mesmo tempo, tenho uma espécie
de conversa interior sobre o lago. Mas acabaste de afirmar que o
pensamento não é apenas isto. Afirmas que existe o que algumas
pessoas chamam “processos mentais superiores”. Deixa-me
perguntar-te o seguinte: alguma vez te observaste a
conceptualizar?
Stu: De facto, não.
Phil: Mas então como sabes realmente que conceptualizas?
Stu: Como poderia eu usar conceitos se não os formasse de
alguma maneira?
Phil: Portanto, inferes a existência desses actos mentais. Mas
tens de me explicar o que entendes por usar conceitos. Como
usas conceitos?
Stu: Quando produzo juízos sobre cadeiras ou monstros, uso os
conceitos de cadeira ou monstro.
Phil: Por que razão não dizes apenas que sabes usar os termos
“cadeira” e “monstro”? Não poderemos dispensar a referência
aos conceitos e à conceptualização e falar unicamente de
aprender e usar uma linguagem? Nesse caso, a questão
interessante é saber se as máquinas podem aprender e usar uma
linguagem. Se podem, então parece que a tua objecção principal
contra a tese que defende que as máquinas pensam se evapora.
Stu: Estou a ver onde estás a tentar chegar. Parece realmente
mais claro falar do uso de uma linguagem do que de conceitos. Se
há uma coisa que um xadrezista como eu aprecia é a clareza. No
entanto, parece que não me disseste claramente o que é o
pensamento. Defendes que qualquer uso de uma linguagem
implica a existência de pensamento? Parece que os papagaios
usam uma linguagem, mas não pensam, pois não? Nem todos os
usos de uma linguagem envolvem pensamento — ou será que
apenas os usos de uma linguagem que
envolvem pensamento podem contar como usos de uma
linguagem? Parece que estamos a andar em círculos —
definimos pensamento em termos do uso de uma linguagem, e
explicamos o uso de uma linguagem em termos de um uso de
uma linguagem que envolva pensamento. Admito que não
comecei da melhor maneira, isto é, com uma definição de
pensamento ou raciocínio. Mas parece que tu também não
ofereceste tal definição.
Phil: É verdade que o ideal seria começar com uma definição.
Mas há diferentes tipos de definições. Os filósofos ocupam-se
com definições desde o tempo de Sócrates. Sócrates costumava
fazer perguntas ambiciosas, como “O que é a justiça?”, “O que é
a virtude?”, “O que é o conhecimento?” Será que nos podemos
limitar a consultar o dicionário para responder a Sócrates, ou
para resolver o nosso problema? Definições lexicais ou de
dicionário não oferecem em geral a clarificação que procuramos.
O dicionário oferece-nos provavelmente qualquer coisa mais ou
menos semelhante a uma lista de sinónimos. Mas esses
sinónimos precisariam igualmente de ser definidos. É claro que
não podemos continuar a definir eternamente. Mas é verdade
que precisamos de chegar a algo mais inteligível do que o ponto
de partida. Que desejamos nós de uma definição
de pensamento? Acho que precisamos de uma definição útil que
possa oferecer critérios, uma combinação de condições
necessárias e suficientes que identifiquem o pensamento. Afinal,
o que desejamos saber é se o Fischkov III e outras máquinas
desse género podem pensar, pelo que precisamos de um qualquer
processo que teste se existe pensamento ou não. Se usarmos
termos como “conceptualizar” e “raciocinar”, temos de garantir
que esses termos estão ligados a critérios observacionais ou
verificáveis. Sempre que possível, é preferível referir coisas
concretas, como falar, manter uma conversa ou realizar cálculos.
Stu: Concordo que devemos tentar chegar a uma definição
prática ou praticável de pensamento. Estou convencido, no
entanto, que as máquinas não podem pensar. O Fischkov III
ganhou-me, mas não pensa. Eu não pensei o suficiente, mas o
Fischkov não pensa seja o que for.
Phil: Admites, no entanto, que precisamos de critérios para
saber se tens ou não razão. A tua ideia tem de ser reformulada
assim: de acordo com os critérios aceitáveis de pensamento a, b,
c, o Fischkov não pensa.
Stu: Está bem, dá-me tu os critérios.
Phil: Não posso. Temos de concordar ambos com os critérios.
Só depois podemos avaliar a tua afirmação acerca do
computador. Tens a certeza que o Fischkov não pensa; logo,
parece que para ti jogar bem xadrez não é um critério suficiente
para determinar a existência de pensamento.
Stu: Estou tão disposto a conceder que o Fischkov pensa como
estou disposto a conceder que a minha máquina de calcular
pensa. O Fischkov limita-se a calcular as várias hipóteses dos
movimentos das peças com muita antecedência. Eu seria um
jogador de xadrez muito melhor se pudesse calcular com a
mesma antecedência que o Fischkov.
Phil: Mas que fazes tu exactamente quando jogas que o
Fischkov não faz?
Stu: Eu jogo segundo planos e com objectivos estratégicos,
usando tácticas que me permitem alcançar os meus objectivos.
Phil: Mas como sabes que tens esses planos, objectivos e
tácticas? É outra vez um caso em que falas contigo mesmo sobre
estas coisas?
Stu: É.
Phil: Mas então como sabes que o Fischkov não está a falar
consigo mesmo acerca dessas coisas? Podes ou não inferir que o
computador pensa, a partir do facto de jogar?
Stu: Agora apanhei-te! Eu já vi o programa do Fischkov, e tudo
o que faz é calcular: se o meu adversário fizer isto e eu fizer
aquilo, e se depois ele fizer assim e eu fizer assado, ele come-me
a rainha. É assim que o computador faz todos movimentos. É
completamente mecânico.
Phil: O Fischkov tem de saber pelo menos que perder a rainha
é mau. Tem de fazer algo mais do que calcular — tem de avaliar
situações. O Fischkov atribui portanto valores a situações.
Stu: Mas o Fischkov não decide fazer um ataque de minorias,
ou um ataque na ala de rei, ou uma medida profiláctica do tipo
que Nimzowitch fazia.
Phil: E se o Fischkov pudesse responder a perguntas acerca de
conceitos estratégicos como os que acabaste de mencionar?
Admitirias assim que o Fischkov pensa? Não defendes, com
certeza, que pensar bem em xadrez é um processo interior
misterioso e milagroso?
Stu: Receio que continuo a acreditar nesses processos internos.
Tens tentado afastar-me cada vez mais do valor da introspecção,
mas talvez não deva deixar-te fazer isso.
Phil: Está bem, vamos então falar um pouco mais acerca da
introspecção. Supõe que são necessárias algumas condições
internas, só acessíveis introspectivamente, para que exista
pensamento. Não tens com certeza acesso a estes fenómenos com
respeito a outros seres pensantes. Mas apesar de não poderes
entrar na minha cabeça, suponho que acreditas que penso. Além
disso, com base em critérios behavioristas, negas certamente que
as roseiras pensam. Por isso, por que razão havemos de entrar
nesta questão dos processos internos? É claro que admito que
nos resta ainda o problema difícil sobre a relação entre os
processos internos e os critérios behavioristas.
Stu: Por agora, admitirei que se o Fischkov pudesse manipular
com êxito conceitos estratégicos…
Phil: Quer dizer, se o seu programa tivesse termos estratégicos,
ou se com base no seu programa e na maneira como ele joga lhe
pudéssemos atribuir certos conceitos estratégicos.
Stu: Está bem, como queiras. Se o que afirmas é verdadeiro,
admitirei que em certo sentido máquinas como o Fischkov
podem pensar. Mas repara: nós somos pensadores versáteis,
somos mais do que jogadores de xadrez. O nosso pensamento no
xadrez está relacionado com o nosso pensamento noutras áreas.
O tipo especial de pensamento necessário para jogar xadrez pode
ser simulado por um computador, mas é simplesmente
insuficiente para caracterizar o pensamento em geral. Jogar
xadrez, ou poder jogar xadrez, pode ser uma condição necessária
para a existência do pensamento, mas não é uma condição
suficiente. O pensamento humano tem de ser versátil, tem de
poder ser aplicado a situações muito diferentes. Planear
antecipadamente jogadas de xadrez é uma coisa, mas planear em
geral é outra coisa, muito diferente. Só porque uma máquina
pode jogar xadrez — e mesmo que possa responder
adequadamente a perguntas sobre a forma como o faz — não se
segue que possa pensar, pelo menos como nós pensamos. A
capacidade para pensar exige um comportamento mais complexo
do que a capacidade para jogar xadrez.
Phil: Se jogar xadrez não é uma condição suficiente, temos de
encontrar outra maneira de estabelecer critérios que possam
fornecer as condições necessárias e suficientes do pensamento.
Parece que já admitimos que se um agente qualquer X joga
xadrez, com um certo grau de complexidade, então X pensa, num
grau idêntico de complexidade. Um matemático chamado
“Turing” sugeriu um jogo mais ambicioso que, se fosse ganho por
uma máquina, confirmaria o facto de a máquina pensar. Segundo
Turing, ser capaz de ganhar neste jogo é uma condição necessária
e suficiente para que uma máquina pense. Turing chama-lhe
“jogo da imitação”.1 Vejamos se estarias disposto a participar
neste jogo. O jogo da imitação é uma competição entre um ser
humano, A, e um computador, B. Faz-se perguntas a A e a B, e o
objectivo de A ao responder a essas perguntas é convencer um
juiz, C, que ele, A, é o ser humano; e o objectivo de B é
fazer C identificá-lo erradamente como humano, ou pelo menos
não conseguir identificar nenhum dos dois como máquina. Seria
injusto e desnecessário deixar C ver A ou B. Afinal de contas, a
aparência exterior não tem qualquer relação com as respostas às
nossas perguntas. Não queremos que B seja discriminado só
porque é uma máquina “feia”. Por isso, escondemos A e B, que
imprimem as suas respostas num ecrã ou em papel, para que a
aparência da resposta não denuncie quem é quem. Repara que
este jogo exige muito mais à máquina do que o xadrez; ela vai ter
de enfrentar um conjunto muito vasto de perguntas. Não
concordas que, se pudesses ter uma conversa inteligente com
uma máquina, seria uma tolice negar que ela podia pensar?
Stu: Existem algumas máquinas que consigam ganhar o jogo
da imitação?
Phil: A questão não é essa. Mesmo que hoje em dia não exista,
de facto, qualquer máquina que possa ganhar o jogo, a simples
possibilidade de vir a poder existir no futuro força-te a concluir
que as máquinas podem pensar. Nesse caso, já não tens razão
para ficar horrorizado quando se defende que as máquinas
podem pensar.
Stu: Parece que tenho de conceder que existe a possibilidade de
fazer um tipo qualquer de experiência crucial para decidir se as
máquinas podem pensar. Mas continuo a pensar que o jogo da
imitação é um bocado suspeito. Não estou certo de que conseguir
ganhar o jogo seja um critério aceitável para a existência de
pensamento. Deixa ver se consigo explicar-me melhor. Que se
prova realmente se um computador ganhar o jogo da imitação?
Prova-se apenas que um computador pode ser programado de
maneira a conseguir imitar-nos. Porém, quando nós pensamos,
quando existe verdadeiro pensamento, não estamos a imitar seja
o que for. Tal como no que diz respeito ao Fischkov, o
pensamento envolve algo mais do que aquilo que está presente
neste caso. Um gravador imita muito bem a voz humana; o
resultado final é o mesmo, mas não podemos certamente afirmar
que um gravador canta da mesma maneira que nós. Por mais
complexa que seja a imitação, não passa de uma imitação. Talvez
se possa formular esta ideia da seguinte maneira: a máquina só
pode imitar o produto final do nosso pensamento — imprime
respostas semelhantes às nossas. Contudo, a máquina não pode
imitar o pensamento que está por detrás dessas respostas.
 Phil: Bom, parece que voltámos ao mesmo. Afirmas outra vez
que não se trata apenas do que as máquinas podem fazer (como
jogar xadrez, por exemplo); trata-se antes da maneira como o
fazem. Como deves recordar-te já lidámos com este problema.
Notámos quão difícil é explicar noções como “o pensamento que
está por detrás” de uma acção, a não ser que esse pensamento
seja qualquer coisa como falar ou escrever para nós mesmos; mas
por que razão não pode uma máquina fazer isso? E, afinal, como
pensam exactamente os seres humanos? Que sabemos nós acerca
disso? Os psicólogos concordam todos com alguma teoria?
Afinal, há muitas teorias diferentes sobre a maneira como os
seres humanos pensam. Sabes o suficiente sobre o pensamento
humano para que o teu argumento seja defensável?
Stu: Continuo a pensar que as máquinas têm de fazer mais do
que conseguir ganhar o jogo da imitação, para podermos afirmar
que pensam. Afinal de contas, por mais complexo que seja o jogo
da imitação, não passa de um jogo.
Phil: Isso não é verdadeiro. O jogo da imitação é o jogo dos
jogos. Pode-se considerar que qualquer jogo faz parte do jogo da
imitação. Podes pedir a B para jogar às damas, ao galo, e até à
batalha naval.
Stu: Mas o pensamento é mais do que jogar todos esses jogos.
Phil: É o quê?
Stu: O pensamento tem sempre um objectivo. Nós não nos
limitamos a pensar; pensamos com objectivos…
Phil: Estás a dizer que as máquinas não têm objectivos, fins,
intenções e assim por diante?
Stu: Exactamente. Talvez as máquinas possam jogar xadrez,
mas não podemos dizer que pensam, a não ser que joguem com
um objectivo qualquer, como ganhar, ou divertir-se, ou outro
objectivo humano qualquer.
Phil: Não quero aborrecer-te nem irritar-te, mas vou adoptar
uma vez mais a minha estratégia do costume: como sabes que
tens objectivos? Será que é como se dissesses por vezes a ti
mesmo “o meu objectivo é este”, ou “é isto que quero”, ou ainda
“agora gostava de jogar xadrez”? Por vezes, acontece teres
gostado de praticar certas actividades no passado; e assim, se
nada de relevante mudou, queres fazer essas coisas outra vez.
Stu: Posso aceitar a tua formulação. Mas não faz com certeza
sentido afirmar que uma máquina gosta de fazer seja o que for. É
verdadeiro que a máquina pode “dizer” que gosta de qualquer
coisa, mas não pode realmente gostar. Não pode gostar de seja o
que for porque não sente seja o que for. Provavelmente já devia
ter dito isto antes.
Phil: Diz-me que coisas sentiste da última vez que jogaste um
bom jogo de xadrez — ou ténis, tanto faz. Onde estava
exactamente o teu sentimento de contentamento? No estômago,
na cabeça, nos cotovelos? Penso que damos muita importância
ao que sentimos. É claro que sentimos coisas, como cócegas,
dores, sensações de conforto e calor; mas o nosso pensamento
não parece envolver isso de forma essencial. E depois, é claro,
temos o velho problema de determinar como sabes que as outras
pessoas sentem coisas. Com certeza que admites que sabes, ou
pelo menos que acreditas, baseado em dados fidedignos, que as
pessoas sentem coisas. Inferes ou não que as pessoas sentem
coisas, com base no comportamento delas? Se adoptas esta
posição behaviorista com respeito às pessoas, por que não aceitas
o behaviorismo com respeito às máquinas? Espero que não sejas
um fanático antimáquinas!
Stu: O behaviorismo só parece fazer sentido em relação às
pessoas. Se não tenho a certeza de estar a lidar com pessoas, não
tenho a certeza de estar a lidar com um comportamento, ou pelo
menos com um comportamento humano. O que me preocupa é
que parece que só posso usar critérios behavioristas se já souber
quem é o ser humano — ou pelo menos o candidato a ser humano
— e quem é a máquina. Para distinguir as máquinas das pessoas
eu deveria ter outra maneira qualquer que fosse independente do
argumento behaviorista que determina que os agentes sentem.
Phil: Era o que eu ia dizer…
Stu: Mas espera, ainda não desisti. Que dizes a este outro
argumento? 1: só os seres vivos podem sentir coisas. 2: um
computador não é um ser vivo. 3: logo, um computador não pode
sentir seja o que for. Logo, um computador não é um ser humano.
Phil: Há um conjunto de coisas a dizer sobre este argumento.
Em primeiro lugar, fico sempre impressionado com o apelo
a argumentos. Mas por que razão hei-de aceitar a premissa 1 do
argumento? A noção de ser vivo não é suficientemente clara.
Onde traçamos a linha entre a vida e a ausência de vida? Por
exemplo, os vírus são seres vivos? Será evidente que os seres
inanimados não podem sentir coisas? Ou talvez se possa
considerar que os computadores são seres vivos, segundo
algumas definições razoáveis de ser vivo.
 Stu: Deves estar a brincar. Se uma máquina é um ser vivo,
desisto. As máquinas são exemplos claros de seres inanimados.
Isto é verdadeiro por mais vago que seja o conceito de ser vivo.
Phil: Mesmo que conceda o que afirmas, ainda não mostraste
que os seres inanimados não podem pensar. Não me parece que
tenhas avançado grande coisa.
Stu: Estou a ver que te sentes confiante, o que é óptimo. Admito
que não fui muito longe; mas, afinal de contas, sou apenas um
estudante — sou estudante de matemática, é certo, mas ainda
assim sou apenas um estudante. Por outro lado, tu és professor
de filosofia. Este não tem sido, por isso, um debate justo.
Conheço um professor de matemática que tenho a certeza que
pode lidar contigo mais em pé de igualdade. Já discuti com ele
este problema da mente/máquina e posso assegurar-te que ele
não simpatiza com o mecanicismo. Na verdade, disse-me várias
vezes que conhece uma refutação matemática do mecanicismo.
Estás disposto a encontrares-te amanhã connosco, para ver se
podes refutar a refutação dele? Ou só discutes com estudantes?
Phil: Como deves saber, nós, filósofos, investigamos a verdade
até onde essa investigação nos conduzir — mesmo que nos
conduza a um professor de matemática. Traz-me lá então o teu
professor de matemática.
Paul T. Sagal
Mente, Homem e Máquina (Lisboa: Gradiva, 1996)

Nota
1. A. N. Turing, “The Imitation Game”, in A. R. Anderson,
org., Minds and Machines (Englewood Cliffs, N.J.: Prentice Hall,
1964). ↩︎