Verso PDF da entrada

IDEALIZAO DE MENTES

da EDIO DE 2014 do

COMPNDIO EM LINHA
DE P ROBLEMAS DE FILOSOFIA A NALTICA
2012-2015 FCT Project PTDC/FIL-FIL/121209/2010

Editado por
Joo Branquinho e Ricardo Santos

ISBN: 978-989-8553-22-5

Compndio em Linha de Problemas de Filosofia Analtica

Copyright 2014 do editor
Centro de Filosofia da Universidade de Lisboa
Alameda da Universidade, Campo Grande, 1600-214 Lisboa

Idealizao de Mentes
Copyright 2014 do autor
Helder Coelho

Todos os direitos reservados

Resumo
A criao de mentes, e o seu design, tem acompanhado a evoluo do
homem e a sua nsia em replicar o poder da inteligncia e de articular
os seus principais componentes. Nos ltimos 30 anos, a sua discusso
(teoria da identidade, teorias da mente, governo versus controle) foi
grande na Filosofia e, tambm, na Inteligncia Artificial, sobretudo
em redor dos agentes artificiais, em virtude da potencialidade de apli-
caes em reas no muito afastadas, a sade pblica ou a sustentabi-
lidade ambiental, a segurana e a energia, os fenmenos sociais ou as
polticas. Nesta contribuio procurmos abrir um campo de reflexes
e de conjeturas sobre a abstrao da inteligncia, introduzindo uma
rede de conexes (memria) com termos (conceitos) aparentemente
distantes, no esquecendo um olhar para os crebros e os comporta-
mentos. Simultaneamente, a imagem de mente ajudar-nos- a invadir
um territrio interdisciplinar e a confrontar/cruzar vrias vises para
simplificarmos ou complicarmos a ideia de mente possvel. Recorrendo
Simulao Social, podermos depois experimentar uma variedade de
hipteses, e deste modo percebermos que mesmo um agente artifi-
cial pode evoluir, graas a mentes mais complicadas, se quisermos ficar
mais perto do realismo das situaes.

Palavras-chave
Cognio, agentes inteligentes, arquiteturas, teorias da mente, simu-
lao

Abstract
The creation of minds, and its design, has followed the evolution of
man and the desire to replicate the power of his intelligence and to
articulate his main components. Along the last 30 years, the discus-
sion of minds (identity theory, theories of mind, govern versus control)
was enlarged in Philosophy, and also in Artificial Intelligence, namely
around artificial agents, and on account of its importance for support-
ing applications on healthcare, environment sustainability, security,
energy, politics and policies. We tried to open the field of reflections
and conjectures about the abstraction of intelligence by building up a
network of terms, along the text, without forgetting brains and behav-
iors. The design of minds will help readers to invade the territory of
other disciplines, crossing ideas, with the aid of social simulation and
specific situations with less or more realism.

Keywords
Cognition, intelligent agents, architectures, theories of mind, simula-
tion
 Idealizao de Mentes
1 Introduo
A ideia de mente est presente na Filosofia Analtica, na Intelign-
cia Artificial (IA), na Cincia da Computao, nas Neurocincias, na
Cincia Cognitiva, ou mesmo na Biologia Animal, para identificar
o que um crebro faz, e associar o pensamento e o comando de um
corpo (problema mente-corpo), graas aos seus sentidos (sensores)
sobre o ambiente (paisagem de todos os possveis objetos, onde os
dados esto espalhados, e mergulhados em rudo e ambiguidade) que
o cerca e, tambm, conscincia. Quando falamos em mentes, a
ideia de teoria aparece a introduzir um modelo (Bratman 1987), uma
arquitetura (Minsky 2006), uma estrutura (Sloman 1999), uma or-
ganizao (Lenat 1995), um dispositivo, ou mesmo um mecanismo,
caso do reconhecedor de padres (Kurzweil 2012; Hawkins 2005).
As mentes buscam os dados nas entradas e produzem cognies nas
sadas (relaes causais): Qual o lugar para a Estatstica, a estrutura
e a abstrao, perguntou Tenenbaum em 2011?
A mente contrape-se ao crebro (veja-se a teoria da identidade),
onde os estados e os processos esto interrelacionados, na tarefa de
compreenso do mundo: o lado mental (representaes, descries,
interpretaes, experincias, comportamentos, sensaes, percep-
es) e o lado fsico (interaes entre circuitos neuronais e biolgi-
cos).
Crebro Mente
Recentemente, no domnio da Evoluo Humana, foram novamente
comparadas as mentes dos Neandertal e dos Homo Sapiens no que
respeita s suas capacidades cognitivas (e o eventual intervalo men-
tal entre ambas), as diferenas do pensamento simblico, a habili-
dade em aprender e memorizar as palavras, o recurso a ferramentas
avanadas, a estratgia de procura de alimentos (caa de pequenos
animais), ou o significado das diferenas anatmicas dos crebros,
incluindo as dimenses do lobo frontal, sede do poder de resoluo
de problemas. Concluiu-se, atravs de novas evidncias arqueolgi-
cas, que as diferenas anteriormente encontradas podero no ser to

Publicado pela primeira vez em 2014

2 Helder Coelho

significativas como ento se pensava, e que as razes da extino dos

primeiros no esto relacionadas com a inteligncia.
Como se cria uma mente (Kurzweil 2012) para estar numa certa
situao? E como se desenvolve o seu poder de agir? Putnam (1961)
props vermos a mente como uma mquina de computao (proces-
sador de informao), e Fodor desenvolveu essas ideias (1975, 1980,
1987, 1993), destacando a razo e a causalidade, a necessidade de
uma semntica dos estados mentais, e a cognio.
Mente Mquina (Mente Artificial)
Atravs de experincias de Simulao Social (Social Simulation e
Social Computing) podemos, passo a passo, fazer crescer a inteli-
gncia de uma mente artificial atravs da sua melhor adequao s
situaes em que se coloca, desde a simples reao at deliberao
mais exigente. Ao modelamos os problemas (por exemplo, uma ma-
nifestao de rua, com ou sem violncia) temos de preferir as arqui-
teturas (Lemos, Coelho e Lopes 2014) que sejam as mais apropriadas
para as intervenes que queremos realizar (gritos ou murros, ou
seja interveno ou violncia). Logo, a complicao s ocorre se for
necessrio aproximarmo-nos de um certo realismo. Da, a profuso
de teorias e de modelos, e alguma confuso quanto sua necessidade
e justificao, o que implica cuidado na verificao e validao dos
modelos adotados.
A modelao baseada em agentes inteligentes e artificiais, que
hoje em dia suporta a simulao social, capaz de per si explicar o
que se est a passar. Explica (faz crescer) regularidades macroscpi-
cas sociais, as normas, os padres espaciais, a dinmica das infees
ou das instituies, a inteligncia coletiva. A explicao geradora
tambm dedutiva (Epstein 2007). E, o desenho dos agentes permite
a produo de comportamentos adequados, e guiado por princ-
pios, processos, dispositivos e mecanismos.

2 Modelos
Existem trs tipos fundamentais de modelos (Gilbert 2007), abstra-
es ou descries formais das components funcionais (o que), que
so teis para fins analticos, que so correntemente considerados,
quando se montam construes sociais, se geram animaes ao longo
&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 3

do tempo e se comea a fazer a experimentao recorrendo mode-

lao baseada em agentes (Agent Based Modeling ou ABM): os mo-
delos abstratos, os de alcance mdio e os de facsimile.
Ver: Estmulos Percepes

Ao: Percepo* Aes Intenes Aes

Prximo estado: Inteno x Percepo Inteno

Nos primeiros visa-se demonstrar um processo (seletor) ou um me-
canismo (planeador, decisor, filtro) social (provavelmente emergen-
te), excluindo-se casos empricos especficos, como na dinmica de
opinies. O critrio de validao respeita a dvida se somos, nas ex-
perincias, conduzidos a teorias mais especficas que podem depois
ser testadas empiricamente.
Nos segundos, o objetivo descrever a caraterstica geral de um
fenmeno social particular, por exemplo, nos casos de inovao tec-
nolgica, de bom comportamento (via regras morais) ou nas cadeias
de fornecimento de produtos. O critrio de validao agora a seme-
lhana qualitativa, a dinmica, ou as situaes histricas amigveis.
Nos terceiros, pretende-se fornecer uma reproduo exata de um
certo fenmeno, seja no caso do trnsito de uma cidade, onde o alvo
prever locais potenciais de engarrafamento. Agora, o critrio da
validao o realismo que pretendemos atingir. Existe um proble-
ma do comportamento deste modelo pois ele pode ser fortemente
influenciado por eventos aleatrios (a simulao pode recorrer a um
gerador de nmeros aleatrios).
Estes tipos de modelos colocam questes quanto verificao
(Ser o modelo correto, mesmo aps nos vermos livres dos erros que
cometemos) e validao (Ser o modelo bom, o que est depen-
dente dos objetivos, como 1) a formalizao de uma teoria graas a
um modelo abstrato, 2) o desenvolvimento de uma teoria de mdio
alcance, graas a um modelo de uma classe de fenmenos, ou a des-
crio de uma situao especfica graas a modelos facsimile).
Um tema recorrente de discusso a relao entre os modelos e
os dados. Os desafios da verificao e validao (construir o modelo
correto), e a sua consistncia apoiam-se em testes slidos usando da-
dos reais. Comparando os resultados e os dados, podemos constatar

Edio de 2014
4 Helder Coelho

que, em muitos casos, as observaes podem ser impossveis e de-

masiado abstratas. As diferenas podem ser devidas a vrias causas,
a saber o modelo ser mau, os dados estarem corrompidos, o modelo
ser uma abstrao do alvo, ou a variaes ao acaso, pois as distri-
buies das amostras podem ser desconhecidas. Hoje em dia, em
muitos Congressos, o recurso apresentao de protocolos ODD
(Overview, Design concepts, Details), obrigatria, pois a especifi-
cao precisa dos modelos facilita a replicao dos comportamentos,
logo a sua posterior verificao.
A validade envolve dvidas relacionadas com a sensibilidade, a re-
pitabilidade e a simplicidade. A sensibilidade aos valores dos parme-
tros da entrada levanta duas perguntas: Ser que as pequenas mudan-
as nos valores das entradas provocam grandes mudanas nas sadas?
Ser que possvel ter a certeza que os valores usados so os corre-
tos? A anlise da sensibilidade permite correr o modelo vrias ve-
zes, com pequenas alteraes nos parmetros da entrada e nas sadas
observadas, embora o espao dos valores da entrada poder ser muito
grande. A repitabilidade sugere duas perguntas: a sada semelhan-
te em cada execuo? Se no, ser que h a certeza das execues
serem as tpicas? Finalmente, a simplicidade tambm pode levantar
duas perguntas: Pode o modelo ser simplificado sem afetarmos a sua
validade? Se sim, porqu usar-se um modelo mais complexo do que
necessrio? Recorre-se amide regra de Occam para se defender
sempre as solues mais simples.
Dois modelos de mentes que vm sendo usados com frequncia
so o BDI e o MDP. O BDI (Belief-Desire-Intention) permite um
raciocnio qualitativo, apoiado em estados mentais e suporta-se em
teorias lgicas. Captura a relao entre componentes de alto nvel
e segue as estratgias de deciso heurstica, baseadas em regras.
bom para grandes problemas (controle de trfego areo). O MDP
(Markov Decision Process) permite construir a deciso terica, dos
efeitos para as causas, frequente na tomada de deciso em ambientes
competitivos e parcialmente observveis. Envolve componentes de
baixo nvel (aes primitivas, recompensas) e polticas associadas a
procura de longo prazo, e recorrendo maximizao de uma funo
de utilidade. bom para ambientes estocsticos, como as catstrofes,
as crises e os mercados.

&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 5

As nossas mentes organizam, entre outras coisas, a informao

envolvida com os atos de comunicao social num formato que pode
ser modelado em termos geomtricos ou topolgicos. Vrias tm
sido as teorias semnticas sobre o significado das palavras, e uma
delas (Grdenfors 2014) avana os espaos concetuais.
O mapa da cognio da ao (Devlin 1991) esboa como samos
da percepo e chegamos inteno, atravs da componente moti-
vacional (dos objetivos aos desejos), da componente informativa (das
crenas aos desejos), e da componente deliberativa (das intenes
s aes). Embora esta soluo seja simples, a sua eficcia justifica-
se mesmo em problemas de uma certa complexidade. No entanto,
quando visamos problemas sociais e polticos bastam modelos reati-
vos das mente dos agentes, com cognio nula, para obter resultados
satisfatrios.

3 Teorias
Existem muitas teorias sobre as mentes (TOM), e sobre a nossa ca-
pacidade em atribuir estados mentais a ns prprios e aos outros, e
compreender que todos eles podem ser diferentes (Bratman 1987).
Estas teorias, por vezes especificaes formais, abordam a empatia e
a conscincia, falam sobre como entendemos e explicamos os com-
portamentos de terceiros, atribumos estados mentais, prevemos e
deduzimos as aes dos outros, isto os seus modelos. As teorias so
diferentes da Filosofia, pois a mente no diretamente observvel e
a mentalidade um espao de grande complexidade.
Quando discutimos a mentalidade de um agente artificial somos
obrigados a considerar os mecanismos e os dispositivos que temos
para construir estas teorias, a estrutura das experincias conscientes,
os caminhos que nos levam da agncia intencionalidade, os modos
de coordenar e controlar os estados mentais, os modos de perceber
as relaes entre a percepo, o conhecimento e a realidade, os aces-
sos informacionais dos conhecimentos e das crenas, as mudanas de
representao na mente, a distino entre ver e conhecer, conscin-
cia e sono, os estados mentais durante as interaes sociais, o registo
dos sentimentos e da emoo, em particular, ou ainda os julgamentos
sobre os pensamentos e as coisas.

Edio de 2014
6 Helder Coelho

Em 1895, Freud, recorrendo linguagem, pensava que os proces-

sos inconscientes eram mentais, embora os considerasse neurobiol-
gicos. Hoje no estamos to certos disso, pois os estados podem ser
da mente ou do crebro, e o mental e o biolgico coexistem como
duais. Mesmo abordando outras formas de comportamento, alm da
linguagem, a linha de separao muito tnue. Churchland (2013)
acha que a conscincia essencialmente narrativa, e ento temos de
recorrer linguagem. Tambm no esforo em compreendermos os
processos do crebro descobrimos que estes suportam e regulam a
conscincia. O estar consciente permite a aquisio da linguagem.
O esforo terico na Inteligncia Artificial e na Cincia em geral
tem sido notvel nos ltimos 50 anos. A teoria Sociedade da Men-
te de Minsky (1988), desenvolvida desde os anos 70 com Seymour
Papert, apenas um primeiro exemplo de reflexo sobre o que
pensar, o que uma mente, ou seja o que o crebro faz: A mente
uma imensa coleo de processos (as entidades que pensam), desig-
nados por agentes, que realizam um grande leque de funes, tais
como esperar, prever, reparar, lembrar, rever, atuar, depurar, com-
parar, generalizar, exemplificar por analogia, simplificar, e muitas
outras tarefas cognitivas. A teoria Sociedade da Mente aborda como
os grupos se podem organizar em comunidades (via a colaborao)
com mais capacidades de que um nico agente poderia ter. O autor
desenvolveu teorias sobre como os processos (linguagem, memria e
aprendizagem) operam, sem esquecer conceitos como a conscincia,
o sentido do eu, e o livre arbtrio. Minsky, 20 anos depois, refletiu
um pouco mais sobre a mente, incorporando os sentimentos em The
(PRWLRQ0DFKLQH. Os resultados foram objeto de uma reunio, orga-
nizada pela IBM, onde o senso comum esteve no centro de todas as
discusses (McCarthy et al 2002).
Os agentes planeiam geralmente num mundo social. Preparam
planos de ao, antecipadamente atravs da comunicao de uns com
os outros, e suportam formas complexas de organizao para intera-
tuar com o ambiente que os envolve e face ao estado futuro do mun-
do. Os seres humanos, em particular, tm estudado teorias da ao
para perceber como isso se desenrola.
A teoria arquitetural CogAff (Sloman 1999) outro exemplo mo-
tivador pois cruza os trs nveis de uma mente, ao longo da evoluo,
a da meta gesto (a mais jovem), referida aos processos reflexivos,
&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 7

com a do raciocnio deliberativo, referida aos mecanismos o que

se, e, ainda, com o mais velho dos mecanismos reativos, com as trs
camadas da percepo, do processamento central, e da ao.
Sabemos que o comportamento de um agente emerge a partir
da interao entre dois espaos, o mental e o arquitetural. E por
isso as formas das suas arquiteturas podem ser muito diferentes,
consoante os estados mentais que escolhemos, os seus atributos, os
modos como se compem (atravs de leis) e os processos de controle
(Corra e Coelho 1998).
A maior parte das Teorias da Mente em desenvolvimento come-
am em questes ingnuas, por exemplo: Como as crianas com-
preendem as crenas falsas explcitas e as diferenas individuais das
preferncias? Depois, avanam atravs de experincias e de hip-
teses, que necessitam de confirmao, e levam algum tempo para
convencerem, de facto, a comunidade cientfica. A diversidade das
demonstraes, a procura incessante de contra argumentos fortale-
cem ou destroiem para sempre aquilo que parecia ser a verdade. Nas
ltimas dcadas, a simulao tem permitido apoiar algumas destas
teorias.

4 Arquiteturas
Quando se faz um levantamento de aplicaes, que exigem a pre-
sena de agentes artificiais, encontramos uma grande variedade de
arquiteturas, desde as reativas, em geral simples, as hbridas, e at
as cognitivas, muitas vezes pesadas, multi-camadas e complexas. As
arquiteturas so propostas (ou desenhos), organizacionais ou estru-
turais, sobre a realizao (como fazer os modelos) de um agente.
Um agente uma criatura capaz de perceber o que se passa em
redor com os seus sensores, de varrer o ambiente circundante (em
busca do que ele necessita de saber), e depois de agir com os seus
atuadores, dependendo do poder de controle da sua mente (ser a
conscincia o programa de controle do crebro?). A sua capacidade
de percepo e de cognio (que dispositivos e mecanismos possui)
vai ditar depois o seu comportamento, desde os mais triviais, go-
vernados por regras (Se-Ento) e com aes especficas, at s pos-
sibilidades mais exigentes de raciocnio, movimento, planeamento,
deciso, comunicao, ou de aquisio, memria e aprendizagem.
Edio de 2014
8 Helder Coelho

No entretenimento, no cinema e nos jogos de computador, podemos

recorrer aos atores artificiais (uma espcie de duplos), cada vez mais
complexos e com aptides mais ligadas s tarefas que tm de enfren-
tar. Eis quatro estruturas possveis de agentes adequados aos jogos de
computador, adotando uma arquitetura em trs camadas:
Perceber Varrer Gerir (ttica, estratgia) Observar

Raciocinar Planear Decidir Deliberar

Atuar Comportar Mover Executar

A ideia do que a viso, foi imaginada por David Marr nos anos 70 no
MIT quando desenvolvia a sua tese de doutoramento (e, confirmada
mais tarde na Neurofisiologia, originando um prmio Nobel), uma
cadeia de trs nveis de anlise (o computacional, o algortmico, e o
implementacional), e essa contribuio foi definitiva para a evoluo
e, mais tarde, a consolidao da Viso Computacional.
Quando temos vrias camadas, cada uma delas encarrega-se de
transformar as representaes geradas pela camada anterior at que a
ltima produza a resposta. Outras arquiteturas, com mais camadas,
como as de Minsky (seis nveis), ou mesmo a de Sloman, explicitam a
necessidade das mentes possuirem capacidades mais sofisticadas (re-
flexo, conscincia), alm do trivial (Singh et al. 2004) esquema de
trs partes.
Ora, a resposta de um agente depende da sua sensibilidade para
varrer o estado dos acontecimentos (de si prprio, as ps-condies
das aes), as aes dos agentes em redor (o conhecimento de si pr-
prio, o que est a fazer, e dos outros, incluindo as mensagens e as
observaes), e as aes dos objetos inteligentes (importantes para a
Internet das coisas). Mas no basta s levar em conta as consequn-
cias dos eventos, dos agentes e dos objetos, por vezes importante
atender s respostas emocionais (Trapl, Petta e Payr 2002) e ento
devemos escolher um modelo de agente, por exemplo o OCC (de
Ortony, Clore, Collins), muito adotado na Educao (sistemas tuto-
res inteligentes).
No caso dos agentes reativos, os traos das suas personalidades
podem ser descritas por cadeias de bits ou por vetores, e as trocas
que efetuam entre si, para satisfazerem as suas necessidades, envol-

&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 9

vem produtos e recursos. Muitas vezes tentam maximizar uma fun-

o de utilidade (lucro, comida, reproduo, conforto, poder) ou de
probabilidade, de acordo com uma escolha de preferncias: a melho-
ria da utilidade alcanada custa da diminuio de outras utilida-
des. As interaes so realizadas pela adequao dos produtos de cada
agente com as necessidades dos outros agentes, e seguindo dinmicas
de troca, de evoluo ou de adaptao.
Os modelos dos agentes incluem a caraterizao dos seus lados
internos e externos, do comportamento (regido por um dispositivo,
ou atravs de uma funo que aplica qualquer sequncia de percep-
es numa ao (descrio abstrata) e da histria (sequncia de per-
cepes). Perante uma certa situao, escolhem-se os modelos dos
agentes que possuem propsitos tendo em considerao a mentali-
dade (escolhas de estados), a racionalidade (maximizar uma funo
de utilidade), o comportamento (observaes, teorias), ou as regras
(contexto, fixas, adaptativas, deciso, jogo).
Agente = Estados Internos + Regras Comportamentais
Alguns estados so fixados (sexo, ritmo metablico, viso) para toda
a vida do agente, enquanto outros mudam (preferncias econmicas,
riqueza, identidade cultural, sade) atravs da interao entre os ou-
tros agentes ou com o ambiente externo, a paisagem (topografia com
recursos renovveis) e a rede de comunicaes.
Por exemplo, podem-se distinguir (Russell e Norvig 2013) qua-
tro tipos de arquiteturas, em funo de um comportamento preten-
dido: agentes reativos apoiados em regras de produo sem estados
internos (sem memria), agentes reativos baseados em modelos com
regras de produo com estados internos (com memria), agentes
baseados em objetivos com mecanismos de deciso com seleo (de
estados) e baseados em objetivos (uso da procura e do planeamento),
e agentes baseados em utilidades com mecanismos de deciso racio-
nal (funes de utilidade) e habilidade de enfrentar a incerteza.
O modelo mais simples contempla um nico ciclo de ao, que
comea com as entradas para provocar comportamentos, e com o
conhecimento sobre o mundo externo:
Percepo Controle Ao

Edio de 2014
10 Helder Coelho

No caso de uma abelha, o que ela pretende comunicar s outras

onde est a comida boa (localizao geogrfica), logo a mente neces-
sita s de percepo e comunicao. No caso das batrias conversa-
doras estas pretendem estabelecer alianas para benefcio mtuo, e
por isso recorrem linguagem (AI-2) para calcular se o seu nmero
atingiu uma certa densidade (maior que um patamar) e assim deci-
dem se atacam o hospedeiro (sensibilidade ao qurum). No caso de
um agente moral, existem relaes sociais e regras comportamentais
a seguir, e portanto o agente necessita de uma computao capaz de
o permitir portar-se bem.
Muitos cientistas tm estudado, ao longo dos anos, a natureza das
mentes e a sua organizao em camadas ou com mdulos. Um deles
(Minsky 1995) defendeu que a mente uma coleo de kludges
(modos de fazer rpido), aumentada oportunisticamente de outros
mecanismos (ativadores, censores, apaziguadores, previsores) me-
dida, e esta soluo parece ser bastante interessante para solues
heursticas ou de desenrasque.
Nos jogos de computador, os modelos dos agentes adotados so
simples, porque temos trs necessidades bsicas: o movimento, a to-
mada de deciso sobre os movimentos, e o pensamento ttico/es-
tratgico. Uma mquina para jogos, como por exemplo a Eudhora
Physics Engine, privilegia o movimento das formas fsicas (corpos das
personagens), a sua animao e fsica, apoiado num guio das ativida-
des. Ultimamente, a indstria do entretenimento recorre a agentes
mais espertos (com mais neurnios), que necessitam de atuar com in-
dependncia e autonomia, que se adaptam aos ambientes e exploram
convenes, que tomam decises informadas, que enfrentam a diver-
sidade, que raramente falham e que reagem s mudanas, reorgani-
zando-se, aprendendo por exemplo ou baseando-se na experincia.
O modelo mental BDI (Bratman, Israel e Pollack 1988) inclui trs
estados mentais (crenas, desejos, intenes), e foi materializado pela
arquitetura IRMA para um mundo em grelha, tipo tabuleiro de xa-
drez, tendo dois ciclos, um de ao e outro de raciocnio. O modelo
contempla um comportamento, o do raciocnio prtico (dirigido
ao) e dois processos computacionais. No primeiro, decide-se que
estado queremos atingir (deliberao) e o resultado uma escolha.

&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 11

No segundo, decide-se atingir esse estado (raciocnio meios-fins), e

o resultado um plano. Este mecanismo tem um algorimo bsico
(Wooldridge 2002) que apresentado em seguida:

1. while true
2. observe o mundo;
3. atualize o modelo interno;
4. delibere sobre qual a inteno que deve alcanar a seguir;
5. use o raciocnio meios-fins para obter um plano para essa inteno;
6. execute o plano
7. end-while

O mecanismo separa a atividade de escolher um plano (de uma bi-

blioteca de planos) da execuo dos planos que esto correntemente
ativos. Por isso, estes agentes so capazes de equilibrar o tempo gasto
na deliberao sobre que planos (escolher o que fazer) e executar
aqueles planos (fazer). Uma terceira atividade, criar os planos em
primeiro lugar (planeamento), no est no mbito deste modelo, e
isso deixado para o projetista e programador.
O modelo evocado por este algoritmo pode ser traduzido por trs
componentes simples, articuladas entre si:

Componentes do Ciclo de controle:

Funo de reviso de crenas (frc): f(C) x Per f(C)

Processo de deliberao (delibere): f(C) f(I)
Raciocnio meios-fins (plano): f(C) x f(I) plano

Esta arquitetura possui dois nveis do raciocnio prtico:

1 Nvel: as intenes e os planos anteriores colocam problemas e
fornecem um filtro para as opes que so as solues potenciais
desses problemas; e,

2 Nvel: as razes desejo-crena entram como consideraes para

serem depois pesadas (valores) na deliberao entre as opes re-
levantes e admissveis.

Edio de 2014
12 Helder Coelho

O modelo BDI apoia-se na Psicologia Popular (Folk Psychology)

para explicar uma ao. Aps aprender os antecedentes causais de
certos padres de comportamento, um agente gera uma nova opor-
tunidade de escolha. Mas, para agir, precisa de vontade, de fora. Agir
no s fazer! Muito do que fazemos, e somos, expresso e explicado
em termos do que sentimos, acreditamos, desejamos, tencionamos,
esperamos, receamos, etc. A compreenso do comportamento feita
em funo de estados mentais, i.e. as atitudes que so as explicaes a
que uma pessoa recorre para agir. McCarthy disse que atribuir cren-
as, livre arbtrio, intenes, conscincia, habilidades, ou querer a
uma mquina legtimo quando uma tal atribuio expressa a mesma
informao acerca da mquina daquela que expressa sobre uma pes-
soa e, ainda, til quando a atribuio ajuda-nos a compreender a
estrutura da mquina, o seu comportamento passado ou futuro, para
repar-la ou mesmo melhor-la.
Os objetivos so os estados que o agente alcana e as crenas so
o que o agente imagina ser o estado do mundo (informao, conhe-
cimento), os desejos, as preferncias do agente (motivao), as in-
tenes, os objetivos ou os desejos com os quais o agente se com-
prometeu trabalhar, as expetativas, as situaes em que se espera
a ocorrncia de algo, e, finalmente, as emoes, aes, modos de
pensamento.
Quando se constri um agente para uma certa paisagem de in-
tervenes, podemos complicar a sua mente, potenciando uma va-
riedade de outros comportamentos (e, de personalidades, traos de
cultura e de carter), no s alargando o seu tipo de pensamento
simblico, mas tambm incluindo outras atitudes, interesses e senti-
mentos (emoes). o que se designa por caraterizar a identidade di-
nmica de um agente (Dimas e Prada 2014). Vejamos dois exemplos:
os bonecos improvisadores (Improv Puppets, 1987) para o mundo
da educao, do grupo da Barbara Hayes Roth da Universidade de
Stanford, tinham um corpo e uma mente, e esta possua um calende-
rizador, com controle dos planos, um gestor da agenda dos possveis
(prximos) comportamentos, e um executor; os peixes virtuais 3D,
numa piscina virtual da equipe de Dimitri Terzopoulos, da Universi-
dade de Toronto, nos anos 90, tinham percepo (sensores e viso),
o que permitia focar as rotinas comportamentais, ativadas tambm
por um gerador de intenes, por sua vez alimentado com os hbitos
&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 13

particulares daquele grupo de peixes. As rotinas ligavam-se coor-

denao motora (atuadores de msculos, formas fsicas) e aos tipos de
movimentos (aes) pretendidos.
Outros modelos so o BDIE (Corra et al 1998), capaz de alar-
gar o nmero dos estados mentais para quatro atitudes (crenas, de-
sejos, intenes e expetativas), o BVG (Antunes 2001) s com trs
(crenas, valores e objetivos), organizadas em torno de um clcu-
lo de importncia e virado para o lugar das qualidades (recorrendo
aos valores, como importncia, intensidade, urgncia e persistncia
para fazer as escolhas e tomar decises ao longo do ciclo de delibe-
rao), o BOID (Belief-Obligation-Intention-Desire) de (Broersen et
al 2002), focado no jogo com as normas, ou ainda o BOIDS de Craig
Reynolds, onde os comportamentos emergem a partir das interaes
(conduzidas por regras) entre os vrios agentes.

5 Exemplos de instalaes e construes sociais

Imaginemos que queremos entender um mercado econmico, isto
como vrias mercearias, ao longo de uma rua, se comportam (em
oligoplio, 2 produtores e n consumidores) face aos seus clientes, ora
concorrendo umas contra as outras, ou colaborando entre si, asso-
ciando-se em cooperativas (tipo Grula). Podemos estudar a situao
fazendo uma experincia com pessoas, separando a procura do for-
necimento (produo), antes mesmo de concebermos um aparelho
para simularmos, to perto da realidade, o que se passa. Os dados
recolhidos mostram dois estdios, um onde os preos foram baixa-
dos por ambos os produtores, e depois um segundo onde os preos
tendem a subir at se estabelecer um equilbrio. Quando comeamos
a automatizar os processos dos produtores podemos adotar a mode-
lao baseada em agentes (ABM).
Escolheu-se a situao de um mercado oligopolista (Caldas e
Coelho 1994), e esse modelo de um agente foi traduzido numa ar-
quitetura de vrios mdulos, cobrindo a personalidade, a agenda,
a assimilao, e a ao. O mdulo de ao era um enquadramento
(frame) composto por nmero, estratgia preferida, preo, estra-
tgia do competidor, valor da estratgia, percentagem de mercado,
tipo, direo de melhoria do lucro, e ao. Na comparao das expe-
rincias com sujeitos humanos e com agentes artificiais concluiu-se
Edio de 2014
14 Helder Coelho

que o modelo era demasiado rudimentar (crenas e raciocnio), com

26 regras (tipo ao se condies) e poucas estratgias (competio
agressiva, cooperao seguindo um lder ou um seguidor) para estu-
dar os mercados oligopolistas, por causa da ausncia de capacidade de
aprendizagem (Caldas e Coelho 1994).
A ampliao do modelo anterior para um domnio diferente, o
da educao no Ensino Politcnico, permitiu ver at onde podamos
explorar este modelo simples de agente. No caso do ensino da lge-
bra por Eusbio (1995) provou-se que necessitvamos de uma melhor
capacidade mental, alm da simplicidade descrita pelas crenas e por
um conjunto de regras de deduo.
Graas ao trabalho de Corra (1994), sobre as estruturas de esta-
dos mentais, foi possvel compreender as potencialidades da menta-
lidade de um agente (alm das crenas, desejos, intenes e expeta-
tivas) em situaes de conversas entre robs que queriam passar de
uma sala para outra e atravs de uma porta com fechadura e chave.
A via da sociedade de estados comeou por ser estruturada numa
tbua de estados mentais (cada estado definido por atributos, leis de
composio e processos de controle) para os agentes isolados (Corra
e Coelho 1998), e depois foi alargada para situaes coletivas (Corra
e Coelho 2004).
No trabalho de Eusbio (1995), continuou-se a complicao do
modelo do agente, atravs da introduo dos identificadores dos
agentes, dos contextos do domnio do conhecimento (tpicos), das
funes parciais de credibilidade de um agentes nos tpicos, das es-
truturas de deduo (relao parcial de ordem para ter preferncias),
e das relaes entre as frmulas e os tpicos. Havia uma base de co-
municao dos agentes, pois os agentes trocavam mensagens (pbli-
cas e privadas), havia assimilao das mensagens, critrios, princpios
heursticos de sinceridade, credulidade e confiana, e deste modo ti-
pos de agentes (arrogantes, envergonhados, vagarosos, sem ateno,
e obstinados). Conceberam-se diferentes cenrios de aprendizagem,
com comunicao orientada para um e dois lados (professor ou alu-
nos). A experimentao permitiu ainda introduzir aspetos inovado-
res no modelo dos agentes, como o tempo, a inteno, a motivao
e a memria.
Na simulao com multides (formigueiros, rebanhos, cardumes,
bandos, enxames, ou swarms) de pequenos robs (Moniz e Urbano
&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 15

2002), pretendeu-se estudar as estratgias de controle (coordenao)

para alcanar consensos em pequenos grupos atravs da comuni-
cao e da partilha de poder. Tratavam-se de formaes de grupos
onde se gerava a produo de comportamentos coletivos, globais e
complexos, a partir das iniciativas individuais de simples agentes. As
transies comportamentais, onde um indivduo podia liderar ou ser
liderado, surgiam tambm a partir das interaes ao nvel individual.
No pagamento de impostos (caso da inspeo) existem dois tipos
de agentes, contribuintes: amarelos, ou amarelos claros (quando so
apanhados a fugir do pagamento de impostos), e inspectores (verme-
lhos) a tentar apanh-los. Estes agentes so baseados em utilidades e
tm uma regra complexa para decidir quanto podem ou no pagar
(evadir): a deciso depende da ponderao da sua riqueza e das multas
aplicveis. Os agentes teimosos so os que decidem sempre da mesma
maneira.
No caso de multitudes, cardumes, formigueiros, enxames, reba-
nhos, podem-se descobrir regras simples (algoritmos) que permitem
ver as multides a trabalhar bem. Assim, milhares de animais sim-
ples agem como se fossem um crebro coletivo capaz de tomar deci-
ses e de se mover como um simples organismo. O comportamento
pode ser descrito por uma funo ou um conjunto de regras.
Podemos escolher novos alvos, como rebanhos de robs, clulas
no interior do nosso corpo, ou neurnios do nosso crebro. Os estu-
dos de Iain Couzin (Universidades de Princeton e Oxford) mostra-
ram que os neurnios podem seguir as mesmas regras do comporta-
mento coletivo dos gafanhotos ou mesmo dos peixes. Como que o
crebro de um indviduo usa a informao para chegar a uma deciso
coletiva sobre o que est a ver? Que regras seguem as clulas cance-
rosas para construir tumores ou migrar atravs dos tecidos?
Podemos filmar um formigueiro ou um enxame de gafanhotos
para olhar os comportamentos cooperativos e pacficos, os de pnico
ou de desastre. O comportamento das multides emerge imprevisi-
velmente a partir das interaes das aes individuais e depende da
sua densidade. Como construir modelos de simulao para prever as
decises, e as situaes que as enquadram? Como a informao flui
atravs dessa multido?
Apenas alguns lderes conseguem guiar as multides de modo
efectivo. Dois lderes podem puxar a multido em direes opostas.
Edio de 2014
16 Helder Coelho

Quando se aumenta a diferena de opinio entre os indviduos, o

grupo expontaneamente chega a um consenso e move-se na direco
escolhida pela maioria.
Podemos adotar agentes pintores para estabelecer a formao des-
centralizada de consensos (deciso coletiva comum) em sociedades
de agentes sem qualquer estrutura organizacional. A cor permitir
visualizar a coordenao de agentes e a seleo de regras sociais que
regulam os conflitos inter-individuais (Urbano 2004). Neste caso,
um agente ser uma mquina de estados de atributos internos, capaz
de ter acesso a informao externa (meio ambiente e outros agentes),
com a qual alterava os seus atributos.
Num Parque Tecnolgico, em Portugal, onde se criaram condi-
es para se estabelecerem ligaes entre vrias empresas, dispuse-
ram-se no espao, de modo quase urbanizado, os edifcios de uma
universidade, as empresas tecnolgicas, as de servios, e as de equi-
pamentos, os restaurantes, inventando um pouco a ideia de cidade.
Tudo isto foi feito sem pensar no lugar mais apropriado para cada
uma delas e na ausncia de pressupostos de criatividade, inovao,
ou mesmo de racionalidade. Os lugares foram atribudos por razes
de preferncia do vendedor ou do comprador. Depois, foi-se ver se
havia inovao num tal cenrio, e descobriu-se que era quase nula.
Na simulao da dinmica da inovao (apoio gesto e tomada de
deciso), num Parque Tecnolgico com 125 empresas (Schilperoord
e Coelho 2003), um agente (reativo) era uma estrutura (frame,
kene (knowledge gene), etc.) capaz de incluir os atributos e as pro-
priedades de uma certa entidade. Um kene do modelo Intersections
era uma cadeia do tipo gentico que representava as aptides e as tec-
nologias de uma empresa que acumulava ao longo da sua histria. As
empresas tinham tambm uma localizao geogrfica.
O modelo Intersections era um mundo de faz-de-conta sobre os
processos de inovao, escrito em Swarm, e destinado a ajudar os
decisores a fazerem opes (Schilperoord 2005). Ocorriam dois ti-
pos de interao, 1) estratgias e comportamentos (compatibilidades)
para atualizar aptides e tecnologias, onde o produto era a inovao,
e 2) laos sociais (encontros, impactos) da rede onde produto era a
sociabilidade. As interaes estavam ligadas, local e globalmente na
dimenso geogrfica (proximidade cultural sobre grafos dinmicos;
e, a inovao como trajetria no espao, custa de mecanismos que
&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 17

faziam sobressair as ligaes sociais, os encontros, os acontecimen-

tos, os laos de confiana, os padres, os agrupamentos e as estrat-
gias (atores, eventos).
Finalmente, no caso dos protestos de rua e nas confrontaes
violentas, com as foras da ordem, pensou-se uma construo social
apoiada num laboratrio (ProtestLab) com mltiplos atores, como
os manifestantes, os polcias e os jornalistas da media que se podiam
encontrar em cenrios com pontos de encontro e de atrao, obs-
tculos e entradas/sadas (largo em frente da escadaria de pedra da
Assembleia da Repblica em Lisboa). Para simplificar as simulaes,
e sem perder o realismo, os agentes so reativos e as suas persona-
lidades podem ser descritas por vetores onde os valores podem ser
pesados de acordo com a percepo do agente colocado num certo
contexto local. Os agentes podem estar em quatro estados diferen-
tes (sossegado, ativo, violento, e combatente). Os tipos de manifes-
tantes podem ser belicoso, disponvel e disponvel para ver, e com
diferentes personalidades. Os polcias podem ter quatro tipos, papel
mltiplo, defensivo, ofensivo e comando, tambm com diferentes
personalidades (perfil da misso). Os jornalistas so atrados pelos
episdios de violncia, no espao de protesto, e tentam registar (ob-
ter fotos e filmes) desses eventos (Lemos, Coelho e Lopes 2013).
O ProtestLab tem medidas quantitativas dos padres de multido,
intensidade do protesto, impato potencial das notcias e desempenho
da fora de polcia sobre os manifestantes e a construo de um pe-
rmetro de defesa. A parametrizao e a validao foram alcanadas
atravs da anlise da sensibilidade dos atributos dos agentes (raio de
viso, pesos do vetor de personalidade), das regras de comportamen-
to (influncia dos contextos em mudana) e recorrendo a uma cole-
o de videos de manifestaes, aos indicadores dos conflitos sociais
e aos inquritos preenchidos pelos manifestantes em Lisboa (Lemos,
Coelho e Lopes 2015).
Os aspetos inovadores do ProtestLab, face a outros trabalhos j
publicados, so a representao dos tipos mltiplos dos intervenien-
tes artificiais, com objetivos mltiplos e estados possveis, e da varie-
dade de interaes (efeitos mimticos, movimento evita/aproxima
orientado por objetivos, lutas) apenas com um desenho reativo, mas
flexvel, dos agentes. A arquitetura Varrer-Planear-Comportar ajus-
ta-se bem ao comportamento dos intervenientes escolhidos (manifes-
Edio de 2014
18 Helder Coelho

tantes, polcias, jornalistas), suportado em regras e determinado por

objetivos simples, sem necessidade de muito raciocnio e delibera-
o, embora os alvos e os contextos possam ser mltiplos. Por isto, a
parametrizao e a validao so mais simples do que em simulaes
mais sofisticadas com centenas de agentes com aspetos emergentes
complexos. Alm disso, as dinmicas realistas foram conseguidas
em pequenos computadores, e com a observao fina das situaes
ocorridas no ltimos anos na Europa (Portugal, Espanha, Itlia, Gr-
cia, Inglaterra, Ucrnia), no Norte de frica (Tunsia, Egipto), na
Turquia, e no Brasil.

6 Conjeturas
Chomsky (2012) tentou, numa discusso recente com Norvig, na Re-
vista 7KH$WODQWLF, pr em causa a importncia da Estatstica (modelos
Bayesianos), face Lgica de Predicados, na representao do conhe-
cimento (abstrao) e na cognio em geral. Os xitos recentes com
o sistema Watson da IBM (e o Siri da Apple) e a sua aplicao futura
Medicina (ligaes entre doenas e sintomas: modos de raciocnio,
mapas de causalidade), e o lugar e papel desempenhado pelas pro-
babilidades (quantidades numricas) na ordenao das possibilidades
de respostas abrem de novo a discusso sobre os modelos de apren-
dizagem (racional versus estatstica) e a eficcia desta aposta (Deep
Learning) com milhes de dados.
A IA neste momento uma anarquia de mtodos, de tcnicas
e tecnologias, um conjunto de vrios subcampos quase sempre iso-
lados, enfim uma espcie de Torre de Babel. Sero, hoje em dia,
os algoritmos mais importantes do que os modelos e os sistemas de
ontem? Ser possvel integrar as reas das Redes Neuronais com a
Computao Evolucionria e a Escola Simblica da IA Clssica? E,
o que fazer das Neurocincias e da Cincia Cognitiva, se quisermos
explorar tambm os aspetos mais pertinentes da escola simblica, a
GOFAI (Good Old Fashion AI)?
O exemplo do senso comum pode levar especulao feita por
Yann LeCun (Facebook) de que a aprendizagem no supervisada e
algum treino pode conduzir a previses sobre o que vem a seguir, se
forem conhecidas de antemo as restries do mundo fsico. O uso
de redes de memria, de redes neuronais e de aprendizagem profun-
&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 19

da tem permitido alguns avanos na procura com grandes quantida-

des de dados (em textos, imagens e videos).
Churchland (2013) perguntou O que que o crebro est a fazer
quando ns estamos totalmente conscientes, e quando no o esta-
mos? O que se passa entre o sonhar, o estar em sono profundo e o
estar consciente? E, depois, comparou os avanos dos neurocien-
tistas nos ltimos anos em vrias frentes com os pensamentos dos
filsofos, para concluir que os segundos achavam que esses avanos
seriam impossveis. Ou seja, mesmo compreendendo to pouco so-
bre o crebro (Qual o lugar da conscincia no crebro? E, o da
memria, do auto-controle, ou ainda o da organizao da ao? O
que guia a ateno do topo para a base? Como que o crebro sabe o
que ignorar e o que focar?) a cincia continua afastando-se do senso
comum e a avanar em passos seguros.

7 Concluses
A ideia de mente est associada a algo que capaz de perceber e pen-
sar, ou seja compreender e raciocinar. No est isolada, mas vigilante
e ligada ao crebro e ao corpo, acompanhando os comportamentos,
tratando dos sentimentos e fazendo experincias para conhecer sem-
pre mais e conseguir ainda equilibrar o objetivo e o subjetivo.
Muitas vezes, o trabalho envolvido pela concepo de uma mente
comea com uma ideia ingnua e simples. Depois, vira numa espcie
de jogo, uma interao entre interiorizaes intuitivas, modelao
terica, realizaes prticas, estudos empricos, experimentaes,
e anlises cientficas. A intuio est muito perto do pensamento
criativo, a modelao recorre matemtica, a construo engenha-
ria e tentativa-e-erro (hacking), enquanto o estudo emprico e a
anlise so a cincia. Este vai e vem faz que as idealizaes da mente
abram espaos significativos, para os avanos e recuos de hipteses,
as discusses acaloradas com troca de argumentos, e mais tarde para
a instalao de aparelhos experimentais destinados a observar at que
ponto o esforo visionrio estava certo.1

1
Agradecimentos: Este trabalho foi apoiado por uma verba (para o BioISI,
referncia da Unidade: UID/MULTI/04046/2013), da FCT/MCTES/PIDDAC,
Portugal.

Edio de 2014
20 Helder Coelho

Helder Coelho
BioISI e FCUL

Referncias
Anderson, J. R. 2014. &RJQLWLYH3V\FKRORJ\DQG,WV,PSOLFDWLRQV. Worth Publications,
8th Edition.
Antunes, L. 2001. $JHQWHVFRP'HFLV}HV%DVHDGDVHP9DORUHV. Tese de Doutoramento
(Orientador: H. Coelho), FCUL, Lisboa.
Antunes, L., Nunes, D. e Coelho, H. 2014. The Geometry of Desire. Proceedings
RI$$0$6-14, Paris, May 9.
Baum, E. B. 2004. :KDWLV7KRXJKW" Cambridge, MA: The MIT Press.
Boden, M. 2004. 7KH&UHDWLYH0LQG0\WKVDQG0HFKDQLVPVRoutledge, Taylor and
Francis Group, 2nd Edition.
Bratman, M. E. 1987. ,QWHQWLRQV3ODQVDQGSUDFWLFDO5HDVRQ. Harvard University
Press.
Bratman, M. E., Israel, D. e Pollack, M. 1988. Plans and Resource-Bounded
Practical Reasoning. &RPSXWDWLRQDO,QWHOOLJHQFH 4(3): 349-355.
Bratman, M. E. 1999. )DFHV RI ,QWHQWLRQ 6HOHFWHG (VVD\V RQ ,QWHQWLRQ DQG $JHQF\.
Cambridge University Press.
Broersen, J., Dastani, M., Hulstjn, J. e van der Torre, L. 2002. Goal Generation
in the BOID Architecture. &RJQLWLYH6FLHQFH4XDUWHO\ 2(3-4): 428-447.
Caldas, J. M. C. e Coelho, H. 1992. Strategic Interaction in Oligopolistic
Markets Experimenting with Real and Artificial Agents. 3URFHHGLQJVRIWKH
)RXUWK(XURSHDQ:RUNVKRSRQ0RGHOOLQJ$XWRPRQRXV$JHQWVLQD0XOWL$JHQW:RUOG,
Rome July 29-31. (e $UWLFLDO6RFLDO6\VWHPV, C. Castelfranchi and E. Werner
(Eds.), Lecture Notes in AI 830, Springer-Verlag, 1994).
Caldas, J. M. C. e Coelho, H. 1998. Teamwork by Organised Populations:
Private Benefits, Public Costs. 3URFHHGLQJV RI WKH ,, &RQIHUHQFH &RPSOH[LW\ LQ
Economics&\FOHVDQG&KDRVLQ(FRQRPLFV, ISEG, May 15-16.
Caldas, J. M. C. 2000. Escolha e Instituies: Uma Anlise Econmica Aplicada
na Simulao Multiagentes. Tese de Doutoramento, ISCTE (Orientador: H.
Coelho), Lisboa.
Churchland, P. 1989. 1HXURSKLORVRSK\ 7RZDUG D 8QLHG 6FLHQFH RI WKH 0LQG%UDLQ
(Computational Models of Cognition and Perception). Cambridge, MA: MIT
Press.
Churchland, P. 2013. TRXFKLQJD1HUYH2XU%UDLQV2XU6HOYHV. New York: W. W.
Norton & Company.
Corra, M. 1994. $$UTXLWHWXUDGH'LiORJRVHQWUH$JHQWHV&RJQLWLYRV'LVWULEXtGRV. Tese
de Doutoramento, UFRJ (Orientador: H. Coelho), Rio de Janeiro.
Corra, M. e Coelho, H. 1998. From Mental States and Architectures to Agents
Programming. 3URFHHGLQJVRIWKH,EHURDPHULFDQ&RQJUHVVRQ$UWLFLDO,QWHOOLJHQFH
(IBERAMIA98), Lisbon, October 6-9. (Springer-Verlag Lecture Notes in
AI 1484, pp. 64-75, 1998).
Corra, M. e Coelho, H. 2004. Collective Mental States in an Extended Mental
States Framework. 3URFHHGLQJV RI WKH &RQIHUHQFH RQ &ROOHFWLYH ,QWHQWLRQDOLW\ ,,,
Corsa di Pontignano (Italy), October 13-15.
Corra, M. e Coelho, H. 2010. Abstract Mental Descriptions for Agent Design.
,QWHOOLJHQW'HFLVLRQ7HFKQRORJLHV 4(2): 115-132.
De Bono, E. 1976. Mechanisms of Mind. London: Penguin Books.

&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD
 ,GHDOL]DomRGH0HQWHV 21

De Waal, F. 2006. 2XU,QQHU$SH7KH%HVWDQG:RUVWRI+XPDQ1DWXUH. London:

Granta Books.
Decety, J. e Weatley, T. 2015. 7KH 0RUDO %UDLQ $ 0XOWLGLVFLSOLQDU\ 3HUVSHFWLYH.
Cambridge, MA: MIT Press.
Devlin, K. 1991. /RJLFDQG,QIRUPDWLRQ. Cambridge University Press.
Dimas, S. e Prada, R. 2014. Dynamic Identity Model for Agents. In S. J. Alam e
H. Van Dyke Parunak (Eds.), 0$%6, /1$,. Springer-Verlag.
Edmonds, B. e Meyer, R. 2013. 6LPXODWLQJ6RFLDO&RPSOH[LW\$+DQGERRN. Springer.
Epstein, J. M. 2007. *HQHUDWLYH6RFLDO6LFHQFH6WXGLHVLQ$JHQW%DVHG&RPSXWDWLRQDO
Modeling. Princeton University Press.
Epstein, J. M. e Axtell, R. L. 1996. *URZLQJ$UWLFLDO6RFLHWLHV6RFLDO6FLHQFHIURP
WKH%RWWRP8S (Complex Adaptive Systems). Brookings Institution Press.
Eusbio, A., Costa, E. e Coelho H. 1995. A Closer Look to Artificial Learning
Environments. 3URFHHGLQJV RI WKH WK (3,$, Funchal, 3-6 October, Springer-
Verlag Lectures Notes aon AI 990.
Fodor, J. A. 1975. 7KH/DQJXDJHRI7KRXJKW. Cambridge, Mass.: Harvard Univer-
sity Press.
Fodor, J. A. 1980. Methodological Solipsism Considered as a Research Strategy
in Cognitive Psychology. %HKDYLRUDODQG%UDLQ6FLHQFH 3(1): 63.
Fodor, J. A. 1987. 3V\FKRVHPDQWLFV7KH3UREOHPRI0HDQLQJLQWKH3KLORVRSK\RI0LQG.
Cambridge, Mass.: MIT Press.
Fodor, J. A. 1993. Unpacking a Dog. Review of Christopher Peacockes A study
of concepts. /RQGRQ5HYLHZRI%RRNV 15 (19): 14-15.
Freud,S. 1895. Projeto para uma Psicologia Cientfica. In 2EUDV3VLFROyJLFDV&RPSOH
WDV'H6LJPXQG)UHXG, Vol. I, Rio de Janeiro, Imago Editora, 3 Edio, 1985.
Grdenfors, P. 2014. 7KH*HRPHWU\RI0HDQLQJ6HPDQWLFV%DVHGRQ&RQFHSWXDO6SDFHV.
Cambridge, Mass.: MIT Press.
Gilbert, N. 2007. $JHQW%DVHG 0RGHOV (Quantitative Applications in the Social
Sciences). London: Sage Publications.
Gilbert, N. e Troitzsch, K. G. 2005. 6LPXODWLRQ IRU WKH 6RFLDO 6FLHQWLVW. Open
University Press, 2nd Edition.
Girard, R. 1965. 'HFHLW'HVLUHDQGWKH1RYHO6HOIDQGWKH2WKHULQ/LWHUDU\6WUXFWXUH
The John Hopkins University Press.
Haugeland, J. (Ed.) 1988. 0LQG'HVLJQ3KLORVRSK\3V\FKRORJ\$UWLFLDO,QWHOOLJHQFH
The MIT Press, 6th Edition.
Hawkins, J. 2005. 2Q,QWHOOLJHQFH. St. Martins Press.
Helbing, D. (Ed.) 2012. 6RFLDO 6HOI2UJDQL]DWLRQ $JHQW%DVHG 6LPXODWLRQV DQG
([SHULPHQWVWR6WXG\(PHUJHQW6RFLDO%HKDYLRU. Springer.
Kurzweil, R. 2012. +RZWR&UHDWHD0LQG7KH6HFUHWRI+XPDQ7KRXJKW5HYHDOHG.
Viking Press.
Lemos, C. Coelho, H. e Lopes, R. J. 2013. Agent-based Modeling of Social
Conflict, Civil Violence and Revolution: State-of-the-art-review and further
Comments. 3URFHHGLQJVRI(80$6, Toulouse, 12-13 December.
Lemos, C., Lopes, R. J. e Coelho, H. 2014. Quantitative measures of emergent
properties in Agent-Based models of street protests and violent confrontation.
3URFHHGLQJVRIWKH%UD]LOLDQ:RUNVKRSRQ6RFLDO6LPXODWLRQ%:66, November
4, in WK:RUOG&RQJUHVVRQ6RFLDO6LPXODWLRQ. So Paulo (Brazil), IEEE Press,
November 4-7.
Lemos, C., Coelho, H. e Lopes, R. J. 2014. Agent-Based Modeling of Protests
and Violent Confrontation: A Macro-Situational, Multi-Player, Contextual
Rule-based Approach. WK :RUOG &RQJUHVV RV 6RFLDO 6LPXODWLRQ. So Paulo
(Brazil), November 4-7 November.

Edio de 2014
22 Helder Coelho

Lemos, C. Coelho, H. e Lopes, R. J. 2014. An Agent-Based Model of Civil

Violence with Imprinsonment Delay and Legitimacy Feedback. 2nd World
&RQIHUHQFHRQ&RPSOH[6\VWHPV:&&6, Agadir (Marrocos), November 10-12.
Lemos, C., Coelho, H. e Lopes, R. J. 2015. 3URWHVW/DE$Q$JHQW%DVHG7RROIRU
6LPXODWLRQRI6WUHHW3URWHVWVDQG9LROHQW&RQIURQWDWLRQ (submitted to JAAMAS).
Lemos, C., Lopes, R. J. e Coelho, H. 2015. 2Q/HJLWLPDF\)HHGEDFN0HFKDQLVPVLQ
$JHQW%DVHG 0RGHOOLQJ RI &LYLO 9LROHQFH (submitted to International Journal of
Intelligent Systems).
Lenat, D. 1995. CYC: A Large-scale Investment in Knowledge Infrastructure.
&RPXQLFDWLRQVRIWKH$&0, Volume 38, Issue 11, November.
Markram, H. 2006. Blue Brain Project. 1DWXUH5HYLHZV1HXURVFLHQFH 7: 153-160
McCarthy et al. 2002. An Architecture of Diversity for Commonsense Reason-
ing. ,%06\VWHPV-RXUQDO 41(3).
Minsky, M. 1988. 7KH6RFLHW\RI0LQG. Simon and Schuster.
Minsky, M. 1995. A Framework for Representing Knowledge. In &RPSXWDWLRQDQG
,QWHOOLJHQFHLuger, G. F. Edition, AAAI Press.
Minsky, M. 2006. 7KH(PRWLRQ0DFKLQH&RPPRQVHQVH7KLQNLQJ$UWLFLDO,QWHOOLJHQFH
DQGWKH)XWXUHRIWKH+XPDQ0LQG. Simon & Schuster.
Moniz, L. e Urbano, P. 2002. ([SHULrQFLDVFRP$JHQWHV. Working Report, FCUL.
Newell, A. 1994. 8QLHG 7KHRULHV RI &RJQLWLRQ. Harvard University Press, 2nd
Edition.
Nilsson, N. 2009. 7KH4XHVWIRU$UWLFLDO,QWHOOLJHQFH. Cambridge University Press.
Putnam, H. 1961. Brains and Behaviour. $PHULFDQ$VVRFLDWLRQIRUWKH$GYDQFHPHQWRI
6FLHQFH. Section L (History and Philosophy of Science), December 27.
Russell, S. e Norvig, P. 2013. $UWLFLDO,QWHOOLJHQFH$0RGHUQ$SSURDFK. 4th Edition.
Ryle, G. 1949. 7KH&RQFHSWRI0LQG. London: Hutchinsons University Library.
Schilperoord, M., Caldas, J. M. C. e Coelho, H. 2003. INTERSECTIONS:
A Management Tool for Science and Technology Parks. 3URFHHGLQJV RI WKH
,QWHUQDWLRQDO&RQIHUHQFHRQ6FLHQFHDQG7HFKQRORJLFDO3DUNV, Lisbon, June 1-4.
Schilperoord, M. 2005. &RPSOH[LW\LQ)RUHVLJKW([SHULHQFHVZLWK,17(56(&7,216
$Q $JHQW%DVHG 6LPXODWLRQ :RUNEHQFK WR +HOS $FKLHYH $GDSWLYHQHVV LQ 6WUDWHJLF
PlanningErasmus University (Co-Orientador: H. Coelho), Roterdam.
Singh, P., Minsky, M. e Eslik, I. 2004. Computing Common Sense. %77HFKQRORJ\
-RXUQDO 22(4), October.
Sloman, A. 1999. What Sort of Architecture is Required for a Human-Like
Agent. In )RXQGDWLRQVRI5DWLRQDO$JHQF\. Wooldridge, M. and Rao, A. (Eds.),
Applied Logic Series (14), Springer.
Tenenbaum, J. B., Kemp, C., Griffiths, T. L. e Goodman, N. D. 2011. How to
Grow a Mind: Statistics, Structure, and Abstraction. 6FLHQFH (331), March 11.
Trappl, R., Petta, P. e Payr, S. 2002. (PRWLRQVLQ+XPDQVDQG$UWLIDFWV. The MIT
Press.
Urbano, P. 2004. JRJRV 'HVFHQWUDOL]DGRV GH &RQVHQVR RX GH &RQVHQVR HP &RQVHQVR.
FCUL (Orientador: H. Coelho), Lisboa.
Vendler, Z. 1984. 7KH0DWWHURI0LQGV. Oxford University Press.
Wooldridge, M. 2002. $Q,QWURGXFWLRQWR0XOWL$JHQW6\VWHPV. John Wiley.

&RPSrQGLRHP/LQKDGH3UREOHPDVGH)LORVRD$QDOtWLFD