lvlENTES,

CFI{EBROS
Y I'R()(tR¡\trtAS s:
1 9 ó - 5 )r 'c l e h e c h o a ctr a l q u i e r - si m tr l a ci r i n e . r r ír q tr i n a cl e Tr r r .i .s
cl e fe n ó -
m e n o s m e n t a l e s h t r ln a n o s.
N l t r - v b r e 'e m e n t e , v d e j a n d o d e l a d o 'a r i .s cl e ta i l e s, e l p r .o g r .:r .r a d e
Schank ptrede describirse de la sigr-rientenraner.¿r:
III. MENTES, CEREBROS Y PROGRAMAS* el p'.prisito clel ir,,g.rma
consiste en simular la capacidad hunrara para c().rpr-e.der.
relat.s. una
JOHN R, SEARLE c a r a c t e r í s t i c a d e l a ca p a ci cl a d d e l o s se r .e s h r r n r a .o s p a r .¿i
c.m p r e n cl e r
relatos es que éstos pueden responcle. pregrntas acel.ca
clc-lr-elaro, atrn
cuando la información qr-rep.opor-cionen nrrnca se hava establccicilr
exolí-
a los esfuerzos c i t a m e n l e e n e l r e l a to . Así p u e s. p o r .e j e n r p l o , sr r p {}n g a q u e cs( .u cl ,a
¿.OUÉIMpSRTANCIApsicológica y filosófica debemos dar guiente historia: "un honrbre entró a un rest¿llr.antc or.clerró
l a s¡ _
rccientes que se han realizado para que las complttadoras simulen las ha- r, trn:r haln-
b u r g u e s a . c u a n d o se l a si n 'i e r o n , e sta b a tr ta l r r e .te q r r e .r l r cl a ,
bilidades cognoscitivas del ser hr-rmano? Para tesponder a esta pregunta, a sí <¡ 'e e r
hombre estalló en cólera v abanclonó el restarrr.ante firr.irso,
nre parece útil diferenciar entre lo que llamaré Ia (inteligencia artificial) ,ir, ¡rngu. ra
"f uerte" e IA "débil" o "cautelosa". Segúrn la ra débil, el principal valor que hamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, "...s"
co'rió
e l h o m b r e l a h a m b u rg u e sa ? ", u ste d p r o b a b r e .r e .tJr e sp o r - r cl e ,r íá : ..N o ,
tiene la computadora en el estudio de la mente es qlle nos proporciona una no
se la comió." De igual maner-a, si ustec,lescrrch¿rlo sigtrie.te: "[Jn
hcrramienta muy poderosa que nos permite, por ejemplo, formular y com- hor'bre
"fuerte", e n t r ó a u n r e s t a u . a n r e 'o l d e n ó t¡ l r ¡ r l l ¡ .r b r ¡ l q r r e sr . cr a ..l ,, st'l l r si r .,,.i e l .o n ,
pr:clbarhipótesis de modo más riguroso 1' preciso. Empero, en la Ia
le agradó mucho. Al sali. del r-estau.ante, le Jc.ió a la nlescr.¿r
la computadora no es tan sólo u¡a herramienta para estlldiar la mente; ge'erosa
propina antes de pagar la ctrenta." Si se le pr'r.gu11ta: "¿Se co'riti 'ra
rurásbien, la computadora programada adectradamente es t'ealmente una lro,.br-e
la-hambtrrguesa?", usted probablen-rente .esponcrería: "Sí, "f
nrente en el sentido de que puede decirse literalmente que las computadoras se la crmió.,,
Ahora bjen, las máquinas de schank ptreclenre.s¡,orr.ierp,.eguntas
Llu e CUen fan con pr ggr am aS c or r ec ( oS c ot t t pr e t t d e t t y p o s e e n o t t o s e s t a d O s sir¡ilar-es
acerca de restaurantes formuladas en estos tér.nrinos.par.a li¿rce.rlc),
cognoscitivos. En la IA fuerte, como la comprttadora progranrada cuenta cLlentan
con una "representación" clel tipo de inltornración qlre poseen
c6n estados cognoscitivos, los programas no Son meras herramientas que l.s seres
humanos acerca de los r-estau.antes, la cual les per.'ri{e resp.rcler-l)r-eg'n-
nos permiten probar las explicaciones psicológicas, sino que los programas
tas como las antes mencionadas, dado estertip. de relat.s. c,,r,rr.lo
constituyen por sí mismos las explicaciones se pr-()-
p o r c i o n a e l r e l a t o a l a m á q r - r i n a 'se l e h a ce l a p r - e g 'n t¿r , i r r r p r .i n r i r .ír
No tengo ninguna obieción a lo que se dice acerca de la IA débil, al menos r - e s-
puestas del tip. de las qr-reesperaríamos qr-reclier:rrilos se'es
er-rlo que concierne a este artículo. Mi exposición aquí I'ersará en tor-no a hrrrr'tnos al
escuchar relatos similares. Los particlar.ios de la lR ftrer-teafir.nr¿rn(ilre
las afirmaciones que he hecho acerca de la tn fuerte, específicamente en en
e s t a s e c u e n c i a d e p r eg r - r n ta sv r e sp L l e sta sl ¿rm á q u i n a n o só l o si n r tr l a
t()rno a la afirmación cle que la computadora programada adecuadamente una
h a b i l i d a c l h u m a n a , s i n o q u e ta m b i é n :
tiene literalmente estados cognitivos que, en consecuencia, los programas
-v 1 ) p u e d e d e c i r s e l i te r a l m e n te q u e l a n r á q r ri n a cctr r tp r e r tr l ce l r e l a t. y p r o -
explican la cognición humana. A partir de ahora, cuando me refiera a Ia
p o r c i o n a r e s p u e s t a s a l a s p r .e g r r n ta s,r
tA ienclré en mánte la versión Fuerte, tal cual queda expresada por estas dos
2) lo que la máquina y su programa hacen es ex\tlic.r la cap¿rciclaclhu-
aseveraciones.
m a n a d e c o m p r e n d e r e l r e l a to r . r e sp o n d e r . p ."g ,,n i u , ¡ r ..",.cai e e l .
consideraré la obra de Roger Schank y sus colegas en Yale (Schank y
A mí me parece que ningtrna de estas dos afirmaciones c.crrc.rr.a un
Abelson, 1977), porque me encuentro más familiarizado con ella que con
sostén total en el trabajo de Schank,' como intentaré clemostr.ar a conti-
ctralesquiera otras aseveraciones similares, y porque oFrece trn ejemplo
nuación.
ntuy cláro clel tipo de trabajo que deseo examinar. Pero nada de lo que a
una manera de probar cualquier teoría cle la n-re.te estriba en preg'n-
continuación se presenta depende de los detalles de los programas de
tarse a uno mismo qué suceder'ía si nri mente realrnente ftrncionara sobre
Sch an k, pu es lo s m is m os ar gum ent os s e p o d r í a n a p l i c a r a l S H R D L U
los principios con que Ia teoría dice que funci.nan toclas las n-rentes.Apli-
de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum,
quemos esta prueba al programa de Schank con el sigrrie nre Gerlanketrcx-
* JolrnR. Searle,"Minds,Brains,and Programs",TlrcBehavioraland Braitt scietrces,
I No pretendodecir,claro
3, 1980,pp.417-424.O 198ó,CambridgeUnÑersityPress Reproducidocon pemiso de estasafirmaciones.
está,que el propioSchankse encuentrecornprometiclo co¡
CambridgeUniversityPressy del autor.
S,1 I',IENTES, CEREBROS Y PROGRAITIAS lvfENI-ES, Y pROGR;\IIAS
CEI?LBIiOS ¡s
v que se me cómputo con base en elementos especificados l'onnalmente.
pcrimerlt.Supongamosque estoy encerrad,oen una habitación En cuanto al
Supongamos ade- chino, no so\-más q'e un ejemplo concreto del p'oer.arrra
propo..io.ru'un f-ajogrande de textos escr"itosen chino de t¡na c()mp'-
d" h " i h o e l c a s o ) q u e n o s é c h i no' ni escri to ni habl ado' tadora.
rn a, ( . o- o
", poder reconocer la escritura china Ahora bien, las al-in¡aciones acerca de Ia t,q f.er.te esti¡-r'lan
y qr-reni siquiera tengo la certeza de. c¡-re la
de la escritura japonesa o de una computaclora programada compr.cnde los relatos qu., p,..,g,-a,r-ra
como tal, distinguiénáola, por ejempló, v e.iplica
alguno. Para mí, la escritura chi'a sólo en cierto senticlo la conrprensión humana. Sir-renrbarg,r, "l
sel.iede garabatossin signiiicadt n,-ra.-"r-r.orrt¡an)os
que después ahora en una posición qrle nos perrnite exalninar estas
es una r"il" d" garabatoJsinsentido.Ahora bien, suponganlos alir.nraciones a la
otro que contiene luz de nuestro experirnento clel pensamiento.
á" .".ibi. est" á;o de textos en chino, se me proporciona
fa'io con el primero Las 1/ En lo que respecra a la pr-imera asever-acirjn,me pal.gcrebasta¡te
una serie de reglas para relacionar el sepgndo ¡6vio
tan bien como cualquier otro hablante en el ejempl() qLle no entie'do una sola palabra cle los r.elatr¡s
r.eglasestán en inglei v las entiendo chi'.s. Mis
un conjun-
cleesta lengua. Me permiten estableceruna correlación entre entradas v salidas de información son ir-rclistingtriblesde las rle
r¡n ¡abl¿rnte
de símbolos for-males. con "fonnal" chino y'aunqlle pueda contar con el p'oe.a,'a forr,-.ralqlle s.-
to de sírnbolos formales y otro conjunto qr-rier.a,sig'
completamente sin ente'der nada. Por la misma raz.ó¡-t,lzr co'putacl'r'a
sólo quiero decir aquí qrr" p,,,e.loidentificar los símbolos cle .sclra.l. ,o
faio
po. ,tu formas. S.tpo.rgu*.rs también ahora que recibo un tercer entiende rada de ningú. relato, sea en chino, en ingrés o en Io
cr.e sca, ya
instr'cciones, otra en inglés, que, en el caso clel chino, la cornputador.a so\¡ \¡o, v en l.¡s
cle símbolos chinos i.rrio .or algunas 'ez casos en qLle no
los dos
qlle me per-rnitencorrelacionar elementosde este tercer faio con s o l 'l a c o m p u t a d o r - a , e l l a n o ti e n e m á s q u e yo 'e n e l ca so e n q u e l l .
cn ti e n cl o
me instmven acerca de cómo responder con nada.
primeros, v que estasreglas
chinos de cierta forma a ciertos lipos de forrna que me 2) F.nlo que concier-ne a la segunda afil''ració', c1,e el pl.()gr-.rra explica
.i",ro, símbólos
que
lireron proporcionadas en el tercer faio' Sin yo saber'lo,las p^el'sonas la cor-nprensión hunrana, podemos obsen.a' que la cornprrJora
v sLl puo-
primerfajo, "relato" g r a n r a n o a p o r t a n s r ¡ fi ci e n te s co n d i ci o r r e s d e co n r p i - en si r i n , ya q r r e
nre dierón todos estossímbolosllaman "manuscrito" al la
al segundo v "preguntas" al tercero. Además,llaman
"l'espLrestas a las pre- computadora v el programa se encuentl'an en frrr-lciorr¿rnrierrto lrD llay
1,
lo, ,l-üolos que doy en respuesta al tercer fajo' y al coniunto de cotnprensión. No obstan'.e, ¿proporci<.rnasiqr.li¿¡.2una condicirin neccsar.la
,.t.rür"
^ inglés que p.opor.ionaron lo llaman "el programa" Ahora o hace una contr-ibuciór-r significante parzr la cornpr..-nsi<in? llno cl,¡ l.¡s
iegl.s en
bien, sól,r para complicar -é la historia un poco, imaginemos que estasper- argulrentos de los clefensores de la ln ftrerte es clile crr¿rncl¡lco¡¡)l.e¡ct() 1l¡
sc , nast am t ién me p ro p o rc i o n a n re l a to s e n i ngl és, qtl e vo comprendo' relato en inglés, lo que hago es c-\actanle'te lo rnismo, o quiz-:i alg, nr:is,
v que luego me hacé' preg.ntas en inglés sobre esos relatos v vo les res- q u e h a c í a a l m a n e j a r l o s sír n b o l o s cJr i r r o s.Es ta n só 1 ,, tr n i r - r r ¿r n i ¡ r u l a ci o r .r
p,rr-r.lorambi¿n en ingiés. Supo'gamos también que despttésde ttn rato sin-rbólican'rásformal lo que distingue el caso del irigles, que sÍ c,nr¡-,rc.rrclo,
i,)gr,, ,"gui. tan bien ias instmcciones para descifl'arlos símbolos chinos del de chino, qLle no conrprendo. Arrnque n..,lre clenro-*tr.áclo la falsedacl clc
,, ü, p.o-grrrrrradores logran escribir tan bien los programas desdeun punto esle argunlellto, clertamente parece incrtíble en el e.jenrplo.La cl.eclibiliciacl
clevista externo -esto es,desdela perspectivade alg¡ien qlle se encuentra que tiene el argurnento proviene de la strposición de qtrr: podenrrs cr.car.
ftrera de la habitación cloncleestoy encerrado- qtte mis respuestasa las un programa que tenga ias mismas entr.atjas 1, salidas qrre los habl¿rntes
pleguntas pr-redendistinguirse en absolttto de ias que proporcionaría ttn nativos, además de suponer que los hablarrtes tiene'r.lalgírn nivel cle cles-
irablanted"l chit o. Nadieque sólo obsen'aramis respuestaspodría afirrnar c r i p c i ó n e n e l q u e t a r nb i é n e l l o s so n e j e m p l .s c,,n cr - e to sd e r r n
l l r o g r .¿r r r :r .
qlle no hablo ni una paiabra de chino. Supongamostambién qne mis res- Sobre la base de estas dos iripótesis supollenlos cILrenun cuanclt¡ el
¡r^rg'a-
¡,i-restas a las preguntas en inglés son (qué dr,rdacabe) indistingrriblesde ma de Schank no sea la historia completa de la cornpr-errsiirn,sí
¡ruccle ser.
ias cle otros hablantes del inglés, por la sencilla razón de que )'o sc)' tln parte de ella. Br-reno,slrpongo que es una posibilidad ernpítica,
¡iero lrasta
hablante de esta lengua. Desde el ptrnto de vista externo -el de alguien ahora no se ha oft'eci.lo la más rnínima razírn p;rr-acrL-er.qrresea cierta, ya
,.¡uelea m is " r es p u e s ta s " -, l a s c o n te s ta c i o nesa l as preguntas en chi no qrie lo qLle el ejemplo sugiere --aunque ciertamente lro tlerntrestr-a-- es qll€
v . lu. preguntas en inglés son igualmente buenas. Empero, en el caso del el programa de la computadora es sencillarnente ilr.elevante par-a nti r:orn-
chino, a cliferenciadel inglés, fc¡r-rnulomis respuestasmediante el manejo p r e n s i ó n d e l r e l a t o . E n e l ca sc d e i cl r i n o r ,e r r r .o{o cl o Io q tr c l a i r r te l i g t,n t.i a
cle símboios forrnales no intetpretados, En lo que respecta al chino, nle artificial puede poner dentro de mí medianre Lln prosr.anra, no entienclcr
.\¡
cclmporto simplen-rentecomo una computado¡a; realizo operaciones de n a d a ; e n e ] c a s o d e l i n e l é s e n l i e n d o to cl o v h a sta e l n l o r n e n r o n o e r i ste
 tvlENTES,
ClIrliFIlR(lS
Y I'R()L]R;\N1A, n,
I]6 MENTES, CEREBROSY PROGRAMAS
m c n t e v c a s o s o b'i o s e n q u e n . se a p l i ca ;
que mi comprensión tiene aigo ],e sto s cl r s ti p o s cl e ca so s so n
absolutamente nlnguna razón para suponer t o d r l o q t r e n e c e si to p a r a e ste a r g u n r e n to .z yo e n ti e n cl o r - e l a t's
e n i n g l é s;
ás clecir' con operaciones de
qLle ver con prograrrtut ¿t cámputadora' en menor g|ado, puedo entencler |elatos en l'r-ancés;en nren()r.gr-aclo
áúrn,
especificados M-ientras el
cómputo sobre puros elementos formalmente r e l a t o s e n a l e m á n , p e r o e n ch i n o , a b so l tr ta n r e n te r a cl ¿r .p o r .r i tr ¿r
p a r te , m i
de cómputo sobre puros
;;;;. se d"fi.ta en tér-minos de operaciones a u t o m ó v i l v m i s tr 'r a d o r a r o e n ti e n cl e n n a cl a : e se a s'n to
no .- l est, i n -
lo que el ejemplo sugiere es qtre éstos c u m b e n c i a . c o n fi - e cu e n ci a a tr i l >u i n o s l a ca p :r ci cl a clcl e "co n r p"nr - e n si ó n ,,y
elementos clefinidos fár"tu1"-'"'-tte'
,,o gt..dul relacián interesante con la comprensión' otros-predicados cognilivos por nredio clc nretírfirr-a.. u.uloiíns
;;;;;;l;t r, a allto-
''tittgttt'o
tofiditio't"' suficientes v no se ha dado la más mór'iles, surnadoras v otros artefactos,
Ciertameute .to ¡rer-o.ada s" pr:r,"tr. co]r tales atl.i-
"*irt"tt condiciones necesarias' ni siquiera
mínima razón para ,a'pot"t qlle son que la
buciones. Decimos: "la pue.t:r .sa,/;ecrrinclo ¿rbr.il.sc,a ca.sa
clt: str celda
qr-recontribuyan cle si!nificativa' a la comprensión' Nótese fotoeléctrica", "la sunrador-a.scl¡¿: t:rlttto (ertrít,rttlt,t:tjttto, (,.\(.(tl)(tz,/r,/strnrar
-ot'"tu en que máquinas diferentes
frterz-aciel argumento no radiá sirnplemente operen
v restar pero no dividir", v "el tcr.nt<_rst alo .,tt,rt.ibc cant bios rle tt nt ttcratur_a,,.
teneilas mismas entradas salidas de información aunque L a | a z ó n p o I - l a q u e h a ce m o s e sta s a tr i L r tr ci ,r n cse s L r r stl u r tr .i n t.,r - e sa n te
ñaur] -v tto."t punto' v
éste' por supuesto'
sobre diferentes principios formaies; :1 que
t l e n e q L l e V e r c o n e l h e ch o d e q r - r ee n l o s a r te fa cto s e xte n cl e n r 6 s
¡ tr e sl r - a
principios puramente formales
Meior dicho, cualesquiára que sean los p r o p i a i n t e n c i o n a li d a d .r N r r e str '¿r sh e r l a n r i e n ta s so n e xte n si r i n e s
cl e n u e s-
se intro du ce nenlac om put ac lor a' nos et áns uñci e n t e s p a r a l a c o m p r e n s entender
ión' t r o s p r o p ó s i t o s v , p o r co n si g u i e n te , n o s p a r e ce n a l tr l a l a tl i Ir r i r - l e s
i l tte n -
los principios fonrrales sin c i o n a l i d a d n r e t a f ór - i ca tr e n te . Si n e n r b a r - so , a r n i
Ya que un ser tlu-u,lo'p'"á" '"g'lit ulgir.ra para suponer que tales prin- .j r r i ci o e sto s c.j e n r ¡ r l e sr r o
r.rada.Tampoco se nu orr".i¿" .irór, t i e n e n n i n g t r n a i m p o r ta n ci a l - i l o só l - i ca .El se l r l i cl o e n r l q r r e ,,,,.
¡ - r .,".tu
cipio sson ne c es ¿1r t . "' o' iq"l"t ' ac ont r i- bu1' "' - t t " ''p t t " t n o s e h a d a d o r a - operando a u t o n l á t i c a " e n t i e n cl e i n str ttcci o l l e s" :r p a t- ti l cl e str ce - l cl ¡lro to cl ó cl t- i ca
l to
z-ón algr-rna puru ,npott"'qtt" tttu''ttio vo entiendo inglés' estov e s d e n i n g t l n a n l a n e r a e l se r - r ti cl ocn e l c¡ r - rre,o e n ti e n cl o i n g l é s.
Si r :l se ¡ ti cl o
con algún pro€Jranla for¡nal' e n e l q t r e l a c o n r p u l a d o r a p r o g r a r n a cl a cl e Scl l a r r k c,r ,r r ¡ r r - ",r ,.1l g" s
caso de .las oraciolles erl r .e - l a to s
IJLreno, entonces, ¿qtré es lo que tengo en el e s s L r p u e s t a m e n l e e l se n ti d o r n e ta l 'ó r .i co e n r .l q u e l a
en chino? La respuesta obvia ¡ ,tr .,rta ¡ r r l tl ttá ti ca
inglés que no tengo .u,o de las oraciones e n t i e n d e 'l r o e l s e n ti d o e n e l q u e 'o e 'ti e 'cl ,
"r.t"l no tengo la más i n g l e s, l l ,, r 'a l cl r .r .rl a p e n zr
primeras' mientras que
es que sé lo que significan las d i s c u t i r - e l a s t r r - r t o .Si n e n - r b a r g o , N e u ,e l l v Si l r .l o n ( 1 9 6 1 ) t- scr .i b i e r ( ) .
qrre
rnínima iclea acerca del significado cle las segundas Empero' ¿en qué con- e l t i p o d e c o - e n i c iti n q u e a tr i b tr ve tr a l a s co n r l l u ta cl o l 'a s e s e \a ctíl n r cn te
rlna máquina' sea lo que fuere? el
siste esto y por qtré ,ro p,,i.íu*os dárselo a m i s m o q u e e l d e l os se r e s h tr m a n ,r * . M e a g r a cl a l a t.e cti ttr clcl e e sl a a l i r .n t¿r _
quiero contlnllal'
Regresare o pr'"g.nta rnás adelante' pues primet'o c i ó n Y e s d e l t i p o q u e co n si d cr - a té . Ar g r r n r e n ta l 'é q u e c¡ sr '¡ ti cl e l i te ¡ a l
"rru la
con el eje mplo. c o m p u t a c l o t 'a p r o g r a m a d a co t- t- tp t'e n cll e o q u e e l a u to n r ó r ,i l v l a sr r r n a cl o r .a ,
a varios estudiosos
He tenido la oporturniclad de presentar este ejemplo e s d e c i r , e x a c t a n t e n te n a d a . L a co r r r p r .e n si ó r r cl c l a c,r l r l .r r ta cl ,,l ¿t l to e s
reiulta interesante que no parecen estar de
cle la inteligencia artificial 1' p r e c i s a m e n t e ( c o m o m i co n r p r - e n si ó n cl e l a l e n r á .) p a r ci :r l . i r cr r r p l e ta ;
actterd oco"nc r r áles lar épli. c aadec r r ada. Heo b t e n i d o u n a a s o m b r o s a V a - es nula.
las más conlunes (que
riedacl de r.éplicas y a continuación consideraré P a s e n t o s a h o r a a l a s r - é u l i ca s.
especificaré iunto con sus orígenes geogr'áficos)'
comllnes
Sin embaigo, antes quiero cletener algrrnos malentendidos
"con-rprer-rsiZn": en muchas de estas discusiones se produce
acerca de la
de la palabra "comprensión". Mis críticos señalan
un excesivo tejemaneje
gruáo, clifeientes de comprensión; que "comprensión"
qrre hay
r-.'o -.r.üo, pi".li.udo de clos posiciones' que incluso-existen distintos
simple
2 " C onl pr ens i ón"
ta l l l b i é n i n t p l i c a t a n t o l a p o s t ' s i ó n c l e e s t l i l o s n l c n t ¿rl c s (i rrt t . ¡c i 6 rrl l e s )
"r.trt ley del medio excluido
tipos y niveles .1" compr"nsión v que a menudo la
c or nr ¡ l a Ver ac i c l ad ( v al id e z , ó x i t o ) d e c l i c h o s e s t a c k rs . P a l a l o s l i n c s rl c
c s rc e n ¿i l i s i s rro s l i n ri -
enunciados de ia forma "¡ en- tar c - m os a l a pos es i ón cl e l o s e s t a d o s .
siquiera se aplica i" *ur]".o clirecta a ' I- a i l l tt- t- tc i onal i dad e s , p o r d c f i n i c i ri n , l a c a l a c t e r' í s t i r: a c l c c i c l t o s rs t rrl o s
rrrc n l a l e s n rc . -
'i una simple
tie nd ey"; qlle en m uc hos c as os es una c uest i ó n d e d e c i s i ó n 1 'n o di ante l a.c ttal s e di dgen a o b j e t o s v s i t u a c i o n e s c l c l ¡rru rrrl o o s c o c u p a n c l c
t ' l l o s . p o r. c o l rs i -
r entiende y, etcétera. A todos estos puntos qrriero gui etl te, l as c r eenc i as , l o s d e s e o s v l a s i l rt c rrc i r¡n c s s o n rs t a d o s i n t c n c i o n a l c s ,
.restián de hecho cle si r)ri c n t t a s (l u c
puntos l as l onnas ¡ ,r j i r i gi des d (' í rn g l t \ l i i l \ (i (. 1 1(,
t \ i , rt ) i l o l , r \ , I r l , ; i l ¡r n t ¡rr0 r i l l l , , ¡rl r; rr i , , l l , r, , , ; rs r,
que ver con los
rlecir: por supuesto, por supuesJo, pero nada tienen Seel h'( l qT qóL
Hu¡' .u.os .la.os iot qtl" "comprensión" se aplica literal-
e'n discusión.
"tt
 MENTES,CEREBROS
Y PROCIRAMAS 89
MENTES, CEREBROSY PROGRAIVÍAS
se le hacen preguntas acerca de restau'arltes y que está resporclie¡rclo lo
mejor que puede al Jracer varias infi:rencias a partir del conteniclo cie la
1 . L A NÉPUCA DE I- OS SIST E\{ AS (B E R K E LE Y )
narrat:ión, y así sucesivamente. Pero el sistema chino no sabe nada cle esto.
habi taci ón no enti ende Mientras que el sistema inglés sabe que "hambur.guesas" se r.efier.ea ham-
A u n c u a n d o e s cie r to q u e e l in d iviclu o e n ce r r a d o en l a
el hecho es que él es só¡¡ una parle de un sistema con'lpleto
qtle sí burguesas, ei subsiste.ma chino sólo sabe qtre después cle "giiir.i giiiri" apa-
;l-;;ht;,
entiencle el relato. p,l inclividuo tiene anté sí un enorrne libro e' el que están rece un "guara guara". Todo lo que sabe es qlle los distintos sírnbolos for-
realizar los
las reglas, ..,".,tu .ot gran cantidad cle pa-pel 1'láp,icespara males ingresan por un extl'emo, se nraniprrlan confor-nre a r-cglas e,scr.ita.s
chi no.s. Fntonces,
. á i . " f " r , t i e n J " b a n co s d e d a to s" d e lo s co n ju n to s de símbol os
"r..iiu,
en inglés y otros símbolos salen por el otro extrc-nro. Tocl,r c.l
la comprensiór, .r., pr"J" u,¡b.ri.." sólo ai in¿i'iduo, sino a todo el sistema del ¡.ropósito clel
ejemplo original era argurnentar qlle esa rnanipul¿rción de sírrr[ál<.,s
que él es sólo una Par1e. ¡ror-sÍ
misma no bastaba para compre'de'chino en ningún sentido literal, p()r q.e
permitarnos que el el hombre podía escribir "guara guar-a"después cle "giiir-i giiir-i" sin enl ender.
Mi respuesta a la teoría de sistemas es muy sencilla:
las.eglas nada de chino. Así que postular strbsistemas dentro del fionrbrr..¡o sat isf ace
inclividuá absorba toclos estos elementos del sistema. Memoriza
hace todos- los cálcu- el argumento, porque en pr-imer lugar, los srrbsisternas r)() se cncllentr.an
clel libro y los bancos de datos de los símbolos chinos v
sistema. No ha1'absolutamente en mejor posición que el l-rornble; no poseen nacla que se par.rrzc¿r sicluier,a
los mentalmente. Luego, incorpora todo el
r e m o t a m e n t e a l o q u e ti e ¡ r e e l h o m b r e ( o str b si ste r n a ) q u e h a b l a i r r g l é s. D c
ll;rda en el sistema qr'" haya incorporado. Incluso poden'ros deshacer-
"" trabaia al aire lib.e' De cualquier modo' h e c h o , t a l c o m o s e d e scl i b e e l ca so , e l sr r b si ste r ¡ a ch i n o e s ta n sti l o u n a
ros de la habitación -.rrrpo.t"iqt'e
pues no hav nada p a r l e d e l s u b s i s t e m a i n g l é s, u n a p a r tc q r r e i n te r l i e n c e n e l r r r u r ¡ cj e cl c sí¡ r -
ir¡r entiende nada de .l-ti,to I'n firtiori tampoco el sistema'
no haY modo bolos carentes de significado confor.me a las r-eglnstJ.,l inglr:s.
L.n éste que no esté dentro de é1. Si él no entiende, entonces
pañe de él' Preguntémonos qué es, en plinrer lrrgar-,lo qrre.supuest¿lrilerrtc r¡oti\¡¿r
cle qr-reei sistema entienda, pues el sistema es sólo una -
incluso esta respuesta a la al sisten-raa r-esponder; es decir, ¿qrré l'r-rndanrcntr)sitttleletttli¿¡l(r.s sc sLl-
E,n realidad, me siento algo molesto pcr clar
la teoría me parece bastante p o n e n p a r a a f i r m a r q r r e e l a g e n te rd e b e p ( ) se e l .¡ n sr r b si stc.¡ l l ¿r tl t ¡ l _ r ¡ l l e sí
1t-or-íade sistemas,.va qlle, para empezar',
chino, \a cott- que entiencla literalmente lelatos en chilro? Hi,sta clr¡rrrle
irrverosímil. La idea es qlle aunqlle Llna persoila no entienda ¡rtreclodccir, los
peiacitos de papel de alguna manera podúa únicos fundamentos son que en el e.jenrplo vo tengo la r.is.r:i crrtr.aclay
iutrciót'L de esa p"r.orl^ -y de
qlte no estll- salida de infornación que los hablantes clel clrino v un pr.ogl.anra qLre
eiltencler chino. No me l-esulta fácil imaginar cónlo alguien, 'Lr
lerosímil esta de la una a la otra. Pelo el propósito c¿rbalde k-r.s
r.ier-abaio el dolninio cie una ideología, podría considerar eiernplos lla siclo ir rterrt¿¡-
las personas conlprometidas con d e m o s t r a r q u e e s o n o b a sta b a p a l 'a co l n p l 'e n d cr e n cl se n ti .k, e l r q r e vo
iriea. Incluso así, creo que muchas cle
acabarán por decir algo mu' parecido; así qr-re c o m p r e n c i o r e l a t o s e r r i n g l é s, p o r q u e L l n a p e r - so l l a ..\'p ( ) r co i l si q u i e n te L - l
la icleoiogía de la l¡ frrerie
adelante. De acuerdo con una de esta opinión, conjunto de sistenras que la constituven, ¡,odría 1ener.la conrbin¿rcirin r:tl_
Si¡¡ar-nos u.r poco más
"'ersitin entienda necta de entrada, saiicla v progr-ama v arrn así no r.ntencler. nacla t-rr el
el htmbre clel ejempio de los sistemas incorporados no
",,r,q.," qr" Iohace tln hablallte c.hino (porqt¡e, por ejemplo' senticlo literal pertineltte en el que vo enliend,r inglés. I-a tinir:;.rnrotivaci<in
r,liin1¡en el sentido
"t se refiere a restatll'antes y hambu¡guesas,-eic.), "eI para afirmar que debe existir rtrr srtbsistcma en nri interior c¡rrecr.rrrrpr.e¡clc
rr,,rsabe que el relato
real' chino es qlre vo tengo un prograrna v aprol.,t-íla pnreLra de 1'trr.ine;
!r,)nrbr-een cuanto sistema cle manipulación de símbolos forrnales" ¡rrrecltr
hom b r e q u e c o l l s t i t u v e e l s i s t ema e n g a r i a t - a I o s h a b l a n t es n a t.i vo s d e l ch i n o . Pt r - or r n o r i e i o s
: l]ttttesí en tien de c hinc t . El s ubs is t em a del ¡ r tr ¡ to s e ¡ c¡ e s,
de símbolos forntales para ei chino no debe confrrndirse tión es precisamente la suficiencia cle la ¡rr-ucb:r clc -r-rrlirrr¡.]il ejernplo
d,: nranipulación
m u e s t r a q u e p o d r í a h a b e r d r ¡ s "si ste m a s"; a m b o s p a sa n l a p m e b a cl eTr r r i n g ,
r',.'n el subsistema para el inglés.
p e r o s ó l o n n o c l e e l l o s e n ti e n d e ; v n o ti e n e se l tl i i |l a r g u n te n l a i .co n tl .¿r e st( l
Así que en realidad existen dos subsistemas en el hombre: uno que en-
para decir que, como arnbos pasan la
lit,ncle inglés y el otro, chino, -"-"lo que sucede es que ambos sistemas tienen ¡lnreba dt r¡r'ilrr'., ¿rnrl-rosjc'lre¡
conrprencier', ]/a que esta afirmación no satisface c.l ;rr¡lrnrento clt-'c¡treel
D luv p oco qu e v er ent r e s í "' Sin em bar go, q u i e r o r e p l i c : r r q u e n o s ó i o
tienen muy poco que ver entre sí, siuo que ni siquiera son l'enlotamente sistenra dentro cle mí que complende inglés tiene nrtrcho nrás qrre el sis[enra
que nada nrás procesa chino. En ¡rocas paialrras, l;r réplic:;r c,ltlos sistc¡ras
:;emejantes. El subsistema que comprende inglés (suponiendo que l)os per-
¡:itiremos por el momento l-raplar con esta jerga de "subsisl,emas") sabe s e n c i l l a m e l r t e d a p o r se n ta d a l a cu e sti ó n .r l i n si sti r si i r a r g r r n r er r to s r ¡ tr c e l
,lr re los relatos tratan de restaurantes y de comer hanrburguesas, sabe que sistenra debe entcncler chino.
 F
r
F
E
90 MENTES,CEREBROS AS
Y PROGR,A]\Í
tt IV IE N TFSC, ]E R FB R OS
Y P R O(IR A ]\J A S
F 9I
r. IA fue.te que el pedazo cre.metaren ra par.ecl
corrsecttencias
Además, la réplica de los sistemas parecería condttcir a c¡rrerrtiriza'ros Pa.a regurar ra
que son independientemente abs'rdás. Si hemos de concluir que debe t tenrperatrrratiene c'eencias eractamc-rtecn
t
,t el ,-risrlrosentlcl,ren que no_
que tengo una especie de entrada sotros, nuestros cón-r,trges
existir cogltición en mí sobre la base de l v nuestl.oshijos las lenenlos,v aclertrás, que,,la
programa entre ambas' entonces pareceria ,Í ntavoría" de l as dem ás nt áquinasde I a ir abit aci, i¡
v salida cl" inforttlación 1'un , "1. , f
qtre todos los tipos de subsisien-,as que no sean de cognición
acabarán sumadora, i nten- upt orcle
- lt r z- t ar nbién t iellen cr et - ncias "". , '*l"baclor a,
en el cual mi
I literal No es el propósi1ocleestear1ícuroa'gr.re'rar.e,
en est c sent ido
,l"r-r¿o cognitivos. Por eiemplo, existe un ni'el de descripción ¡ contl.¿rder pr_rnto
estómagJp.ocesa información ¡- eien'rplifica co.cretamente
cualqtr ier can-
t de M.ccarlhv, así que simpler.'entee,*p,r..rr.é
r., sigrrierrlcsin criscrrsión.El
tidad de p.ogru*^. cle conlptltadora, pero considero que no queremos r estudi o de Ia ment e par t e cr ehechos 1ur "r . , r , , . r , . ,
gr r c los r r r r nr ar . s t ienen
clecirque tiene comprensión alguna (cf. P¡-I1'shvn, 1980). Pero sl aceptamos I
f
creencias,ntientras que los terntostatos,teléf
onos o ,un'..l.rr=,r,-rr. Si ,"
la répúca cle los sistemas, entonces resulta dificil cómo podemos evitar ¡ obtiene una teoría que niegrreestepu'to, se rrabr.á
rogr.aclo
"'er I ,,,-,..,r-rtro"¡"--
que el estómago, el corazón, el hígado, etc., son subsiste- plo de la teoría v ésta será falsa.Se tiene
la af-irmación de E
ra impr.esi<iir crecltrerrr-p",.roru,
principios para I qlle se oclrpan de la L'\.vescriben este tipo
rras que .ort-rp."n.l"r-t, puesto que no hay una manera de ¡ crecosas¡ricrrsa.rq.,J pued",-,
a decir qr_reel subsistema chino entiende de t salirsecon la_suya,porqlle no la tonran reallnente
distinguir qué nos I en ser.ir_r v tantpoco pien_
-oiir",u decir que el sistema chino E san qlle los demás lo harán. propong' q'c- al nrenos
afirmlr qu. el estómago entiende. Por cieflo, p,r,l.r ,r-,.rr,,rento la
que el estómago tiene entrada [. consi cl eremos ser iam ent e.pienseint ensant er t f clur
tiene información cle Átrada y cle salicla v I¡ e _antrer n r lir r r t o gué se
constittlve una respuesta necesitaríapara establecerqlle ese troz()clenreral
v salicla cle alimentos v productos alimenticios no en Ia par.ecltie'e creen-
a esta cuestió', 1,a qul desde el punto de r,ista del agente -desde mi punto cias reales,creenciascon cli'eccioraric'racr, con co'te'ir[. pr..¡r,sicional y
cle vista- no existe información ni en la comida ni en el chino, pLles esta condiciones de satisfacción;c.eercias que.trr'ier.a'
ra ¡l,rsibilidu,l.r" ,",.
La sól i daso débi l es;cr eenciasner 'iosas,a. , siosus
lengua no es más qlle tlna serie de garabatos carentes de significado o segr lr . as; cr . eencias dog-
en los oios máti cas,raci onaleso super f iciosas,f c'sciegas
información en el caso de chino se encLlentra exclusivamente o cognicior r r . tsir r r beant es,
qr're les impida crralquiertipo de creencias.El ternrostat,,,ri
de los progran-raclores y de los intérpretes, v no ha1' nada .,o,,Ji.r"t,,par.¿r r,¡o, como
las entradas salidas de mis órganos diges- tampoco l o son e l est óm ago,el hí gado,r a s"r adr
", r . a,
.or-,siderurl.omo información ¡t er t ciéf . r '. sin em _
livos, si a sÍ lt - -des
, ean. bargo, p.esto qlle estanroscor-rsicler-anclo la idca scr.ialrrerrle, ,bstir-veseque
en la s,u'erdad ser'íafatal para la afirmacirin de cltreIa lA
El ú ltimo punt o s e r ef ier e a algunos a p r o b l e m a s i n d e p e n d i e n l e s frrer.tr- cs llril clencia
ia pena des'iarnos un poco pal'a explicarla. Si ]a.tn tuet'te de l a mente P o. ahor a, la r r ent e se e. cl¡ er t r - a
lA [r-ler-tev en lr cr : r s¡ r ar . t t , s.
Lo qt r e
'aje distingtrir
ha de ser unu .u,r-tucle la psicología, entonces debe ser capaz de 3yeri amos
saber es qué dist ingr r ea la nt ent e clc los t er . nlos{at t , s
v cle los
rnentaies de los que no lo son' Debe hígados Y si Mccarthv ru'iese t'az.(:n,
Ios sistemas que son genuinamente ra r¡ ftrerlc r- ;;u.i;;;;rr,,¡¡,,,o
los principios sobre los que trabaja la nrente de peranza para decírnoslo. "r-
ser capaz. de áisting.rit-
sobre los qure trabajan los sistemas no menlales; de no ser así, no
oquellos
distinción
n os expiicar á qué es es pec í f ic am ent e m e n t a l e n l a m e n t e Y l a
en los o jos del espectador'
entre Áental )'no mentál no puede quedarse sólo 2. LA RÉpLr cA
DELRoBot ( ynr _e)
sino qrre de be s er inlr ' í lls ec a a los s is t en l a s ; d e n o s e l 'a s l . c a d a e s p e c l a -
do. pod.íu tratar a Ia gente como no mental y, por eiemplo, a los huracanes S upongamos que c s c l i bi rnos un ti po c l e pr-oqr¿rnra
c l i l ' el .c nteal c l e S c l l ank . S u_
pongamos que po nemos una c omputador-a
conao menlales, si asi lo deseara. Sin embargo, muv a nlenttdo en la lite- dc nl ro c l e un rr¡trr¡tv c ¡trerrs ta nt¡ s ri l c r
acepta símbol os fonr-ral es c omo c ntrac ra y pr,c ruc e'
ratlrra sobre IA esta clistinción resulta confusa en aspectos que en el largo s ú-nbol os f,,,.,,,^1", ..,n,r,,
sal i da, si no que cfec ti ' amentL- opera ar r.,boi
plazo resultarían desastrosos para la afirmación de que la IR es una disci- c re tar nr¿tnc -r-a qu., e.t.:-r,og,nul g,,
"Puede decirse que mu1'parcci do a perc i bi r, c ami nar., des pl az ars e,
plina cognoscitiva. McCarlhy, por ejemplo, escribe: mañi l l ar., .,,,r,"., betr.,r. l . q' e
se qui era. E l robot tendría, por c .j enrpl o, una
r-r-ráquinas tan sencillas conlo los termostatos tienen creencias y tener creen- c .i rnl ¿u.ac rc tc l ev i s i ri ¡ i ¡l c gr-ardz rra
cual l e permi ti ría "v er"; tendría braz r¡.s pi c r.rl as
de la mayoría de las máqttinas capaces v p¿¡.a p6< Ier ,,ac tuarr,,v l oc l o es l c r
cias parece ser Llna característica l o cr¡ntrol aía su "c c rebro" c re c omptrtadc ,r-a.
A c l i ferc nc i a c l e I¿r.,,,r,¡,,,tr,.r,r,,u.1"
cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA tiene schl nf, este robo t s ería c apaz .l " i rno gc ntri na
c rnrp.e-.s i írn v c l c .trrrs es tac l .s
la probabilidad de ser una teoría de la mente debe ponderar las implica- mental cs.
ciones cle ese comentario. Se nos pide aceptar como descubrimiento de la

I
I

t,
92 MENTES,CEREBROSYPROGRAMAS IVÍENTES, y pROCJtAMAs
CEREBROS 93
casotenclríamos queafirnrarqLrela máquinaha comprencliclcl
Lo primero que hatrría que obser-varacerca de la réplica del robot es que l.s rel¿rt.s. y si
nos negamosa decirlo,¿noestar'íarmos
se acepta tácitamenle q.r" lu cognición no es únicanlente una cuestión de tánrbiénn"guri.l,,quc los rrabla'tesdel
chino entiendenlos relat.s?En el niverde las
n.ranipulaciónclesímbolos fornales, ya que esta réplica añade un conjunto diferenteentreel programade la con-rputadora
srnapsis, ¿q'é seríao p.dr.íaser
rle relraciones causalescon el n-rundoexterior (cf. Fodor, 1980)'Pero la res- 1,cl dcl ce-rebl.crrino?
"per- 'rogranla
p¡esta a la réplica del tobot es que la inclusión de estashabilidades Antes de contradecir esta rép[ica,nre gLrstar-ía
c.eptuales" y "motoras", en nada contribul'e al entendimiento,en par-ticular, haccr rrn paréntesispara
anotar que se trata de una réprica extraña para
o a la intencionalidad, en generai,del programa original de Schank. Para un partidari. de ra interi-
genciaartificial (o del funcionalismo,
etc.):1,op"r,rát qtre Ia idea clela rR
captar esto, obsérveseque el r-nismoexperimento-pensamientose puede fuerte radicaba en qtre no necesitamossabe'
.,¡rii.u,-al caso dei robot. Supo.gamos qLleen vez de la computadora dentro cóino ^ftrncio.a er cel.ebro
para saber cómo frrnciona ra l-rente.
como en el casooriginal del chino, La hipótesis firndanie'tal, . así lo
dcl robot, me lneten elt una habitación 1,', creía yo, es que existeln nivel cle ,peraciones
se me propor-cionan más sírnbolos en esa lengua con rnás instru-ccionesen p¡ocesosde cómpr,rtosobre los eremenios
mentales qtre cc,r]stade
par-a aparear los símbolos chinos con otros símbolos chinos para fornralesque constitrr'en la esen_
rnglés cia de lo mental .','que ptreclelle'arse a cabo
,lrji,olverotros símboloschinos al erterior. Supóngase,aunqueyo 1oignoro, procesoscerebralesdel mismo modo que ""
,"¿1, i,,, ili;;;; rip.s cle
cuarc¡uier.p,',,gr.onro
clrrealgunos clelos sínrbolosque recibo provienen cleuna cámara de telet'i- tadorapuede funcionar en distinros/tardwares
iiu:..,.,rp,,-
,ió,r irit"g.uda al robot y que los otros símbolos que vo remito al extedor de com¡ruraclor-a. segir' ras
suposicio'es de la n fuerle, ra mente es
sirven ¡rJ.o echur u los motores dentro del robot que mueven las programaes respectoderhardruarey, por 'especto
crelcerebro ro que er
^.táui Es imporla'le resalta¡ que todo lo que esto¡' consigi¡ien{e,es posible entender
pier.nai o braz.osdel .obot. la mente sin incurrir en el án'rbitoáé lo ,-r".rrofisiología.
i,aciendoes manipula| sílnbolosforrlales; ignoro todo lo demás.Yc)recibo tu'leramos que saber cómo traba.iael cereb.o,
si p^,-o-t',u.",,o
la "ir1lbrr¡ación" a panir del clispositivo"de percepción" del robot v doY n, tenclr-íaaur., o.r,p,,r.rroa
de.ella.Sin embargo, aLlnctrando se encrentra
"i¡stlrcciones" a su apar-atomotor sin saber que lo estoYhaciendo.Yo soy tan pr-oxima¿rllrr'ciona-
miento dei cerebro todar'ía no es suFiciente
para procltrcir compr.ensión.
t l lt¡mrinculo cleirobot pero, a diferenciade los iromúncuios tradiciona]es, Para'er esto más claro, imaginemos qLre
en li,gu. áe .,., honrbr.ji'o'olin_
ignoro qué está sucediendo;no comprendo nada exceptolas reglaspara la güeen una habiraciónrevor'iencrosímúoros,
tenenlos,n hrmbre o¡rerancro
,r,a.ipuiu.ion de sírnbolos.Ahora bien, cabe mencionar en estecaso que el un glupo complejo de pipas de agua conectacras
c:o'r'álvtrlas.cr-rarrcro
rr¡bol carecepor completo cleestadosintencionales,pues sencillamentese cibelos símbolos chinos, consultien el programa, re-
¡' clesu p|ograma.
como r.esultadode sLlsisteniade circuitos e1éctricc-rs escr.ttoen i'glés, cnáles
a,:1.iva válvulasdebe encender o apagar. cacra coiexió'clc
irOr.otra parle, ai ejeinplificar concretamenteel programa vo no tengo es- agua,,o.i]"rp,,,.,.r",.
una sinapsis en el cerebro chino todo el
¡r siste¡na está cliseiraclocle lal
taclosintencionales per-tinentes:todo lo que hago es seguir instmcciones maneraqr-re, despr-résde todos los "encencricros" corrector, d".i., ¿espués
¡raramanipular símbolos fonlales. deponer en funcionamiento tocrosrosgr-ifos ",
.orr"sponclientes, rasrcspues-
tasen chino brotarán a la salida clela ser-ie
ctepipas.
DE cEREBRos(Br'nr-elr'v Y [4ir) A hora bi en, ¿dónde est á. ia_com pr ensión
.3.Ln nÉplIcA DF,I-sIMUI-ADoR . en est e sist em a?Acept a el
chi no como entrada, sim ur a la esir uct r ¡ r - a
f or - nr alcr e las sinapsis r lel
S ) u p o n g a m o s c ¡ u e se d ise ñ a u n p r o g r a m a g u c llo representa l a i nforrnaci ón
que cerebrochino l'entrega chino como salicla.
Sin errrbargo,er homür.ecier-
t . . r i em o s a c e r c a cle l n r u r id o , co m o se r ía la in fb r r n aci ón de l c¡sl i bretos de S chank, tamenteno entiende chino, ni tanrpoco lo
hacen ras pilas .r" ug.,^, .i ,,o.
s i ¡ s q u e s i m u l a la se ctr e n cia l- e a l d c e m isio n e s neurortal es cn l as si napsi s del sintiéramostentados a adoptar el punto cre
a mi'lrricio a6srrrdo,de
c e r e b t . o d e n n ha l¡ la ¡ lte d e i ch in o cu a n d o co r n ¡ r renc{e rr:l al os en chi no v otrece qr-rede alguna manera Ia colluncióiz de hombr", 'ista,
plpu, i" ;;.,;.;,rpr""_
r ' e - s p u e s t a sa c e r ca d e é sto s. I- a m á q u in a a ce p ta los rel atos ett chi nrr y l as pregutr- de;recordernosque en prinr:ipio er hombre puecre
t l i s s o b r e e l l o s a m o d c, d e e n tr a d a : sim u la la e st r-uctura fr¡rmal de l os cerebros
inter-narizarla est^rc-
tura formal de 1aspipas.de agua y rearizar en
c l r i n o s r e a l e s a l p r o ce sa r lo s r e la to s ¡ t o fr e ce r e spuesta.s en chi no a manera de "encendidosneuronales". su imaginación tocroslos
s a l i d a . P o d e r n o s in clu so im a g in a r q r r e la m á q u in a no opera con Ll n sol o pr-ogra- El proúlema con er simurador del cerebro es
que simula aspectosequi'ocados cleéste.Mientras
r n a s c ' r i a l , s i n o co n to clo u n co n - iu n to r le p r o g r a mas que operan en paral el o, de ílnicame'te sim.le la
l ¿ r t n i s m a m a n e r a e n q u e su p u e sla m e n te r ) p e r a n l os cerebr-os humanos real es estructura formal de la secuenciacle "encendidos"
neuronales en las si-
c u ¿ r n d o p r o c e s a n e l le n g u a je n ¿ r tu r a l. Ah o la b ie n, no cabe duda de que en este napsis,no habrá simulado lo que realmente es
impor-tanteacer-cader ce-
 (IFIIEBROS
MENTES, Y I'ROClRAfvf
AS 95
94 MENTES,CEREBROSYPROGRAN{AS

su capacidacl de prodr-rcir esta- atriblriríamos intencionalidacl sobre toclo si strpiér-anrosque posee Lrn pro-
r-ebro; es decir: slls propiedades causaies'
de las pipas cle agua demuestra que las grama l-ormal. Éste es pr-ecisarnenteel ptrnto qrre traté en rrri réplica anterior
clos intencionales. Y eiejemplo
suficientes para las propiedades causaies: a la objeción 2.
formales ,-,o ,ott
;;;pi";"i"t
las propiedades formales de las propiedades cau- Sr,rpongamos que sabemos q.e el comportarrie'l'del rob.t obeclecepor
iod".rro, extraer todas
completo al hecho de que un hombre recibe en su interior-sín-rbolosfor-males
sales neurobiológicas pertinentes'
no inter-pretados desde los receptores sensoriales del r-otrotv envía símbolos
forr¡ales no interpretados al mecanisrncl rnotol'del r-obot, r clrreel hombre
(BERKELEYY STANFORD)
4. LA RÉPLICADE I-A COMBINACIÓN realiza este manejo de los sír¡bolos segrlrntrna ser-iedc'r-eglas.Supongarnos,
además, que este individuo no sabe nacla acer-cadel robot Y que lo úrnico
Arrncua nd oc ac launac ielas t r es r éplic as ant e r i o l . e s p r - r d i e r a n . r e s l t l t a r c o mla- que sabe es cuáles oper-acionesrealizar con crráles símbolos sin significaclo.
al contraejerrrplode
pletamente convincente por sí misma como refutación En ese caso consideraríamos qtre el robot es un lnuñeco rnecárrico irrgenioso.
en conjunto' colectivamente son mLlcho más
habitación china, si se cc''nsideran La hipótesis de que el robot tiene mente r-est¡ltar-ía ent()nces inlrrsri[icada e
un robot que cuenta con Llna
con.rincenlese incluso clecisivas.Imaginernos innecesaria, puesto que ya no habr'ía ninguna razirn para atribtrir.le inten-
en su cavidad craneal; imaginemos
.u-p.ttuao* en forna cle cerebro alo¡ada cionalidad al robot o al sistema del cual forma parte (exc-epto,pol-sLlpuesto,
sir-rapsis de un cerebro hu-
que la comptttacioraestá programaclacon todas las la intencionalidad del hombre en el manejo cle krs sírnbolos). El niar-rejode
del robot es indistin-
mano; imagtn"-.,. tu-bié" lue todo el conrportamiento símbolos forrnales continúa, los datos de entlacla 1'de saliclase con.esponclen
imaginemos ahora todo esto conlo Lln slstema
gtrible del á" .,r, .". humano, e
con entr-adas y salidasde datos' Sin con-ectamente, pero el úrnico foco real de intencionalidad es el lrombre y él
irnificado v no sólo como una tornpututlotu
al sistema. n o s a b e n a d a d e l o s e sta d o s i n te n ci o n a l e s p e r l i n e n te s; n o l ¡ e , p o r .e j e m p l o ,
ducla,en tal caso tendríamos q.r" át.ib.ri.l" intencionalidad
lo que entra en los ojos del robot; noriette la ítttettt:itittcle rnoverel brazo
caso nos pareceía racional' del robot y no conry)rendeninguna de l¿rsobserwaciones hccllas al robot o
Estoy totalmente de acuerdo en qlre en tal
que el robot tiene intencio- por el robot. Ahora bien, por las razones anteriolnlenre exprrestas, rampoco
y ."^ii¿^¿ irresistible, aceptar la úipótesjs de
""
nalidad, siempre y.*áo t"puto' nada más acerca de é1 En realidad' lo hace el sistema del cual el hombre y el robot fonlan par1e.
''á los demás elenlentos de Para considerar este pllnto, comparemos este caso con otros en los que
apafte de su apariencia v de su comportamiento'
son fi'ecuentemente irrele'antes. Si pudiéramos construlr nos parece completamente natural atribuir intencionalidad a los r¡iernbros
ii.o-blnu.ión
an-rpliamente indistinguible dei com- de alguna otra especie de primates, como sinrios
r¡n robot, ..,¡'o.o*por.tamiento [uera .v nronos, .y a rtnimales
hasta que existiera domésticos como los perros. Las razones de qtre ell'nos pu,:"..., natural
portamiento llumano, le atribuiríamos intencionalidad'
son, a grandes rasgos, dos: no podemos clarle sentido al compo|tamiento
alg úrn motivopal. anohac er lo. Nonec es it ar í a m o s s a b e r d e a n t e m a n o q t t e
formal del cerebro humano' del animal sin atribuirle intencionalidad, y podemos ver qlle las bestias
su cerebro de computadora es una analogía
Empero, realmente no \¡eo que esto arttcle en algo a los argumentos de e s l á n h e c h a s d e m ate r j a l si m i l a l a l n r ¡ e str o ( e so cs r r n o j o . e so e s r r r r a r r a r .i z,
por qué: de acuerdo con la IA fuerte' la e-iemplificación é s t a e s s u p i e l , e t c .) . D a d a l a co h e r e n ci a cl e l co m p o r ta m i e n to d e l a n i m a l
Ja rn ftrene; y he aquí
d" t.t p.og.áma ftrrnal con datos de entrada v de salida-adecuados y'la suposición de que esté hecho de la misma materia catrsal, sLlponemos
concreta
de intencio- que el animal debe tener estados mentales que motiven su comportarniento
constituye r.,.,"to.rái.ión suficiente, y de hecho es constituti'a,
de lo mental es la operación y que estos estados mentales deben ser producto cle mecanismos hechos
nalidacl. Al decir cle Newell (1979),la esencia
obstante, las atribuciones de inten- de esta materia que es como la nLlestra. No cabe cluda de que haríamos
cle un sistema de símbolos físicos. No
al robot en este ejemplo nada tienen que ver con suposiciones similares acerca del robot, a menos de clue tuviér-amos alguna
cionalidad que le hacemos
se basan simplemente en la suposición de que si el razón para no hacerlo, pero tan pronto como supiéramos que su compor-
p.og.u-u, iorrnol"r.
nosotro.s'.entonces
i'obot se ve y se comporta lo suficientemente parecido a tamiento fue el resultado de Lln programa formal y que las propie<1ades
que debe poseer
poclrían-ros st.lponer, hasta que se demuestre lo contrario' causales reales de la sustancia física eran in-elevantes, abandonaríamos la
su comporlamlento v se suposición de intencionalidad (r,éanse var-ios atrtores, 1978).
estados mentales como los nuestros qlle causen
que contar con Lln mecanismo interior Existen otras dos respuestas a mi ejemplo que surgen a menudo (y por
expresen a través de éste, y debe
manera inde-
.uput d,.producir tales estádós mentales' Si supiéramos' de ello vale la pena considerarlas), pero que en realidacl no comprenclen el
pendiente, cómo explicar su comportamiento sin tales suposiciones, no le sentido de mi argumento.
 MENTES,CEREBROS
Y |ROURAI\Í¡\S 9Z
NIENTES, CEREBROS Y PROCRAMAS
qLle pro\¡oca que vo entienda inglés, así co'ro debe faltar
algo cor.r.espon-
(Y A LE ) d i e n t e e n m í q u e m e i m p i d e e n te n d e r ch i n o . I'u e s b i e n ,
5. L A RÉPL ICA DE L AS OT RAS M EN TE S ¿p á r q u e n o p o _
dríamos proporcionar a una máquina esas dos.,,r.r, ,"ui'lo
que fueren?
com- No en principio, nirrgr:na razón po. la ctral no ptrdiera dotarse a
que otla persona entiende chino u otra cosa? Sólo porsu 'eo,
¿Cómo puecle saberce una máquina con la capacidad par.a entencler inglés o cllin,l,
Ahora bien, .o-o l. computadora puede aprobar (en principio) v¿i que en un
pá""-i""a.
si se ha de atribuir sentido impoftante nuestros cuerpos con s's cer-ebr-os,r'
i... p*.bu, de conducta tan bien como cualquiera; por tanto' tr.".iru-"art"
p e r so n a s, ta m b ié n d e b e a tr ib uírsei e a l as computadoras' máquinas de esta naturaleza. pero sí veo ar.qumerrtos nruy
cognición a otras sólidos para
decir que no podríamos proporcionarle tal cosa a una máq.ina,
cuando ra
E s t aobjec ión e n re a l i d a d s ó l o me re c e L l n arépl i cabrel ' e.E i probl ema operación de Ia máquina se define exclusivarrente en tél.rninos
dsnen estados de pr.ocesos
en este caso no consiste en cómo sé que otras personu5 computacionales de elernentos definidos lbrmalmc-nte; es clecir,
ctrando la
cuando les atribuyo
.ognlri.,or, sino más bien en qué es lo que les atribul''o operación de ia máquina se define conro el ejemplo co'cr.eto
cle un pro-
es qlle no podría tl'atarse pre-
cognitivos. La ftrerza del argumento gr?ma de cómp'to. Yo entiendo inglés y poseo otr-as formas
cle intencio-
"uiudo, y de sus resultados' porque los procesos
cisamenteáe procesosde cómputo nalidad, no porque sov el ejemplo concreto de un progr.ama
de cómputo
cognitivo. No es
clecómputo y sus resultadosiueden existir sin el estado (soy, supongo, la ejempiificación conc¡.etu d" ,',r.tos progr-amas de
"ciencias cognitivas"
lespuesta a este argumento fingir anesiesia'En las cómputo), sino po.que, hasta donde sabemos, so,v cierto tip,r de orga_
mental de la misma
.""fr"r.,po.t" lu ."Ilid^.I y la cágnoscibilidad de lo nismo con una ciefta estructura biológica (es decir,'ncier-ta
estructura quí-
presuponer la realidad la
,rr^r-r".. q.," las cienciai físicas se tiene que ' mica y física), la cual, en ciertas condiciones, es causarnrente
capaz de
"r-, de los objetos físicos' producir percepción, acción, comprensión, aprendizaje y
cognoscibilidacl crtr-os[enómenos
intencionales. Y par-te de-la cuestión del presente argrmento
es que sólo
algo que tu'iera estos poderes causales pódtiu tener intenci'naliclad.
(BERKELEY) eui-
6. LA RÉPLICA DE LAS MANSIONES N,IÚLTIPI-ES zás existen otros procesos químicos y físicos que podrían procl.cir
exac-
tanlente estos efectos; quizás, por ejemplo, los marcianos también
. I o d o c u a n t o u s te d a r g u m e n ta p r e su p o n e q u e la t¡ sílloti etl equer'erconconl pu' tensan
intencionalidad aunque sus cerebros estén hechos de clisti.ta nrater-ia.
pero resulia que éste es precisar-nente el estado Ésta
tadoras analógicas u?igi,ul".. es, sin embargo, una pre€runta empírica, muy similar a la cresi ra rbtosíntesis
procesos causale-s que usted
actual cle la tecnología. Cualesquiera que sean los podría ser realizada por algo con una química distinta a la
in te n ci onal i dad (suponi endo que tenga cle la clorofila.
a f i n r r a q u e s o n e se n cia le s p a r a q u e e xista Empero, la cuestión principal del presente argumento es ql¡e
usted razón), a la - la r g a se r e m o s ca p a ce s d e construi r di sposi ti vos que cuenten ningún
al ti fi ci al . D e modo que sus
modelo puramente tormal será jan'rás suficiente por sí mismo para
c o n e s t o s p r o c e so s.ír ..1 ", y se r á in te iíg enci a la in-
"so
a la ca paci dad de l a i ntel i genci a arti fi ci al tencionalidad, porque las propiedades forrnares no son ellas mism¿rs
a r s u m e n t o s d e n in g ú n m o d o se r e fie r e n cons-
titutivas de la intencionalidad v porque carecen por sí mismas
paia producir y explicar la cognición' de poder
causat salvo el poder de producir', ctrando se ejemplifican concretamente,
l a s i g u i e n t e e t a p a d e l fo r m a l i sm o cu a n d o l a r n á q tr i n a e stá f.n ci o n a n d o .
E nr ealidadn o te n g o o b j e c i ó n a e s ta ré p l i casal r,odeci rqueenreal i dad Y cualesquiera otras propiedades causales que tengan las realizaciones
cosa
trivial p.ov"lto de la t¡ fuerte al redefinirla conro cualquier parliculares del modelo formal son irrelevantes para el
'uelve "ly artificialmente la cognición EI interés de la pro- nroclelo forrnal,
q.," p."J"r.u porque siempre podemos poner el misrno modelo [orrnal en una
"*piiqrl"de la inteiigencia artificial estriba en que se trataba r-ealización
;;d" originai . fá,ro. diferente en Ia que esas propiedades causales estén obviamente
mentales son procesos
d" ,rrru tesis precisa y bien ciefinida: los procesos Aun cuando, por algún milagro, los hablantes del chino pudieran
ausentes.
cle álementos definidos folTnalmente. Me interesa desa- ejecutar
."-fr,u.i"'ales exactamente el programa de Schank, podemos ponereste mismo programa
si el argumento se replantea de modo que ya no srga
fiar esa tesis. Pero en hablantes del inglés, pipas de agua o computadoras, .,ing'no
porqlle ya no habrá
siendo esa tesis, mis obiecionesya no vienen al caso, cuales entendería chino a pesar del programa.
de los
una hipótesis clemostrablea la que se puedan aplicar' Lo que cuenta en las operaciones del cerebro no es la sombra
trataía de responder:
R"g.es"mos ahora a la pregunta que prometí que pro-vectada por la secuencia de sinapsis, sino más bien las propiedacles
formal
yolntiendo inglés pero nochino y puesto
pu"rio q.r" en mi ejemplo áriglnal .eales de las secuencias. Todos los argumentos que he visto á
ingles ni chino' aún debe haber algo en mí tavor de la
que la máquina no
"nti".td""ni
98 N,IENTES,CEREBROSY PROGRANIAS MENTES,CEREBROS },PROCRAN{AS
99
versión fuer1e de la inteligencia artificial insisten en dibujar un contorno El pr-opósito del ejemplo
cre la habitación china f.e
alrededor de la sombra proyectada por la cognición v luego afinr-rar que esto al mosrrar que tan pr.onro intentar.crenrostrar.
.on.'o i,.t,o.lrrcimos ;l;;;;.;il,*ema
las sombras son reales. realmente tiene intencionalidad que
(un hontbre) y lo pt.ograntantos
A manera de conclusión me gustaría intentar establecer algunos de los
d:',..,.
::?,::HXfffil, ¡: tañade q.," f,',,g.ou,nr.,,,,,oll,o
,".,,u
i,,r",.,.io_
con el
plrntos filosóficos generales implícitos en el argumento. En aras de la cla- "t e.ic'mplo,
nada,por . r.."p".i.r.Ji"t
lidad intentaré hacerlo en forrna de preguntas y respuestas, v comenzaré paraentend"..hi.,jo l-ro-u."
con la pregunta ya gastada de: Esa característ,ica de la
l¡ _la distinció
"¿Puede pensar una máquina?"
La respuesta es obviamente sí. Nosotros somos precisarnente esas má-
:ió1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:ilñ.
la afirmación de que lu
.i'..,Iu.'iá; il;:; ser duplicación. La ciisrinción
q uln as. entre el programa v su.re,alizació'";;i;;;,'crtvare
"Sí, p ero , distinción entre el nir,'elde parece ser.par-arera a ra
¿podr í a pens ar un ar t ef ac t o, u n a m á q u i n a h e c h a p o r e l l"r
racionescerebrales.y si podíam"r n-,"nroi"s'c,l .i'ei cie las ope-
llon-rbre?" "p"t".1.r.,",
¿"r.]:iui. er niver cre,¡rer.acio'es
Si suponenros qlle puede producirse ar-tificialmente una máquina que talesconro un progra.maiormal, nren_
i o esenci alacercade la m enle. in ";;;;;;Ir"clíamos clescr_ibir.,
al parecer,
I)osea Lln sistema ner-vroso, neuronas con axones v dendritas, r, todo lo in. , ; ; ; i; .
clernás, lo suficientemente seme.jantes a los nuestros, otra .,'ezla respuesta neurofis
iotocí"
d;i;.,."b,.-.T;ffi
;",',:l.J::::i:ffll:fi:Hl:';:.::
a la pregunta parece ser obviamente sí. Si se pueden duplicar exactamente del cerebro lo que el-programa
es .especto crelrtartrtvare,,rara
las causas, podrían duplicarse los efectos. Y de hecho sería posible producir puntos, ent¡.eIos cuale_s en varios
se encltentt.an'los.sigtrienles
conciencia, intencionalidad, v todo lo demás utilizando algunos otros tipos P ri mero, l a di sti nc. , tres:
cle prir-rcipios quírnicos que no sean los que utilizan ios seres humanos. Se
trata, como dije, de rrna cuestión empírica.
illf"c"";i;l'd:J{l;:?:Xll:llilffi
surdassi n forma al s una kT,,:i;:::ff::,?;:"..j'ff
-
de int encion^iil; . Wiez_enbaur ( 1976, c: r pí t ulo
"Está bien. No obstante, ¿podría pensar Llna computadora digitai?" n
ha f, orm"norizado cómo cons
i):^l.rt^";"-0,,:,
llzandoun rollo de papel t.r i r. u na com ¡rr t ad..a uti_
Si por "computadora digital" nos referimos a cualquier cosa que tenga higiénico y un montón crepiedr.ecita.s.
un nivel de descripción mediante el cual pueda describirse correctamente similar' el p'ograma para De nlanera
entenderr-elatosen chino ptrede
como la ejemplificación concreta de un programa de computadora, enton- una secuenciade pipas.de progranrar-se en
agua, ,,rrr.or-r¡.rntode rnáq'inas cle
Lresotra vez la respuesta es, por sllpuesto, sí, )'a que nosotros somos las "r-, o
:1,:n:'::1,i1,""'onotingtiLe';;i ;"&, ;,,1r.,,.,,, delos.,,o1",-'"gu.i, 'iento
.
ejempli[icaciones concretas de cualquier número de programas de cómpu-
to y podemos pensar.
"Sin embargo, ¿podría algo pensar, comprender, etc., exclttsivanletúe en ::*:H*l::"".:I':ilüüql*ll'o!'l'Jly::"':,üJ::
causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:Éru:,ruil.
virtud de ser una computadora con el tipo colrecto de programa? ¿Podría
la ejemplificación concreta de un programa (del programa correcto, por delinglés
poseaerrieo,1;i1¡:nrila".""i""o"*
versetácilmente que no adquiere raintencionaricracr,
supuesto) ser por sí misma condición suficiente para la comprensión?" intencionalidad adicional al ¡ruede
Segúrn yo, ésta es precisamente la pregunta que hay qlle contestar, aun el programa, pues el hecho;" menr.r-izar
," enseñachino.
cuando suela confundirse con una o más de las preguntas anteriores, y la programa es puramente ""
-".,.';;i;uiformal,
nares per-olos estadosintencio-
Lespuesta es no. -^,t^:t-*o"'"el
no son formales de esemodo.
Se definen en términos de str contenido,
"¿Por qué no?" no de su forma' La creenciade
que
Porque las manipr-rlaciones de símbolos forrnales por sí mismas carecen como figura fbrmar, sino como ".ta'or¡".rao, por e jempro,no se crefine
.i".ro .o.rr"nido mental con concliciones
de intencionalidad; son bastante carentes de sentido; ni siquiera son ma- de satisfacción'con sentido d"
res'De hecho' la creencia como"d";;;.i;"i"5u.g Searre, r979a)v sirnira-
nipulaciones de síntbolos, ya qLle los símbolos no simbolizan nada. En la tal no tiene srq.lera una ligura for.mar
estesenti do si ntácti copuest o que en
ierga lingüística, sólo tienen sintaxis pero no semántica. La intencionalidad una r olu y iu _ir - ". r i"". , ""0""a".
clue parecen tener las computadoras sólo está en las mentes de quienes las recibir un número indefinido d;
sinrácricasdi[erentes en los
programan y de quienes las usan: los que envían la inforrnación de entrada distintossistemaslingüísticos. ".;;;i";s
v los que interpretan la információn de salida. rercero, como va mencioné antes, los
estadosy sucesosmentales son
100 Y PROGRAIV{AS
MENTES.CEREBROS
N,IENTES,
CEREBROS
Y PROCÍiAN4AS 1I)I
iiteralmente un producto de la operación del cerebro, pero el programa no plo, en problemas de aritmética o cuando leen
L's,en ese sentido, un producto de la computadora. r,,respondenpr.eguntasen
torno a un relato. Más bien, lo qtre hace la
"Bueno, si los programas no son de ntodo alguno constitutil¡os de los computador-aes n-ia.ipular
símbolosformales. El hecho de q.,e el programador
procesos mentales, ¿por qué tanta gente cree lo contrario? Eso amerita por er i'térprete de ros
.o-o"tadora r-rtiticenri-iolo, para-vreernplazar.
lo menos alguna explicación." fj*:*: 9: algo
]? que obJeros
esrápor compieto ftrera del alcancecie1..con,puta_
En realidad ignoro la respuesta a esa pregunta. La idea de que las simu- :::::ii?.:s
qora.Keprto,ra computadora
tiene sintaxis pero no semántica.En co.se_
laciones en computadora pudieran ser algo real tu\¡o qtle haber parecido cuencia,si tecleaen ra computacrora"2 más 2 es igual a?",
sospechosa desde un principio, porque la computadora de ninguna nlanera "4".Pero la 'sted escribirá
computadora no tiene ni idea creqtre "4" significa
se limita a simular operaciones mentales. Nadie supone que las simulacio- 4 o ctrarquier
otracosa'Y la cuestiónno es que carezcacleargr-rna
nes por computadora de un incendio de cinco alarmas podrían incendiar info"rmació.desegr_rncro
orden acerca de la interpretación cres's síriboros
un vecindario o que la simtrlación por computadora de una tormenta nos crepri'.rer:o,.t"r-,,,r.ro
quesus símbolos de primer orden no tienen
ningrrna interpr.etaciónen lo
¡ruede empapar. ¿Por qué habría de suponer alguien entonces que una que a la computadora se refiere. Todo ro q,e
simulación por comput.adora de la compr-ensión realmente entiende algo? tLne ra co'rptrradora son
más símbolos. La introducción cle Ia noción cle "procesamiánto
E,n ocasiones se dice que sería ter-riblemente difícil lograr que las compu- de inror-
ma_ción" causa,por consiguiente,un clilema:o bien const.limos
ladoras sintieran dolor o se enamoraran, pero el amor y el dolor no son ni "procesamiento la noció.
de de infármación" cletal ,-,.,un"ro
lnás ni menos difíciles que la cognición o cualquier otra cosa. Para simular, qtre irnpliqtre intencio-
nalidadcomo parte del proceso o no lo hacemos.
todo lo qLle se necesita es un flujo correcto de entrada y salida de infoma- En er primer. caso, la
computadoraprogramada no procesain[or.mació.;
ción y un programa de por medio que transforme la primera en la segunda. sólo maniptrla sír.bo_
los formale^s.En el segundo .u.rt,,,entonces,pese
Eso es todo lo que la computadora tiene que hacer. confundir la simulación a qr-rela comprrtadora
procesai nformaci ón, únicam ent e lo r r ace
con Ia duplicación es el mismo et.ror, va sea que se trate de dolor, amor,
enel sent iclo q, , "io hacen
Ias sumadoras, las máquinas cle escribir, los "r
cognición, incendio o tolTnentas.
estómzrgos, ros ter-mosta-
tos,las tormentas v los huraca.r".; u ,ub"., c.entan
Sin en-rbargo, existen varias razones por las que se pensó -r' quizá,
con un niver credes-
el que podemosdecirq'e aceptaninfolrnación portrn
mucha gente todavía lo piense- que de alguna manera la u, reproduce, y :^nl_t^t_u1"" extremo,
ta lranslorrnan v producen inforntación de
por consiguiente explica, fenómenos mentales, )'creo que no lograremos
salida. Sin entLrar_g(), en esle
casodependede los obsenadores externos interpretar
erradicar estas ilusiones hasta haber expuesto cabalmente los motivos que la entraclav s:rrida
comoinfornación en el senticloorcrinario.y no.sc
l¿rssuscitaron. rirriiit.,¿ ul-
gunaentre la computadora y el cerebroen térnrinos"rt.r-,r".
En prime r lu gar , v quiz á lo m ás im por t ant e , e s t t n a c o n l t l s i ó n a c e l c a d e de cualqrrier.sinlilitr¡cl
delprocesamientode información.
la noción de "procesamiento de inforrnación". En las ciencias cognitivas, En.segundolugar, en gran pade de la la hav nn
r-nucha gente considera que el cerebro humano, con su mente, realiza algo . concluctisnrou ()per_a-
cionalismoresidual.puesto que las computacloias
que recibe el nombre de "procesamiento de inforrnación", v análogamente aclecunclamente pr( )gr.a-
madaspueden exhibir patrones de entiada v salicla
la computadora, con su programa, efectúa un "procesamiento de informa- similares a los cr,,,los
sereshumanos, podríanroscaer e. la tentacióncreposttrlar
ción"; pero, por otra parte, incendios v tormentas no llevan a cabo ningún qlre rosestados
mentalesde la compritadora son similares a los
procesantiento de inforrnación. En consecuencia, aunque la computadora estados.nentalesclelhom_
Dre.r.mpero, una vez que \¡emos que es posible
puede simular las características forrnales de cualquier proceso, sea ei que tanto conceptual conto
empíricamenteque r-rnsistema contenga capacidacles
fuere, mantiene una relación especial con la mente v el cerebro, porque lrtrma'^s en arsúr^
camposin que de ningún modo posea intencionaliclacl,
cuando la computadora se encuentra adecuadamente programada, ideal- poclrem".
esteimpulso. Mi sumadora de escritorio tiene capacicracr ";;.-;;
mente con el mismo programa que el cerebro, el procesamiento de infor- clecalcrrlar., pero
carecede intencionalidad, y en este artícuro he intentaclo
n-ración es idéntico en ambos casos, y este procesamiento de información cren.rostrar c¡ue
un sistemapodúa tener capacidadesde entracla
constituye realmente la esencia de lo mental. Empero, el problema de este v salida cle irformaciólr
queduplicara' las de un hablante nativo clel chino
argumento es que se apoya en la ambigüedad de la noción de "información".
y seguir sin errtencler
chino,sin impoftar cómo estuvieraprogramada. Laprüba
La computadora no realiza "p¡ocesamiento de inforrnación" en ei sentido de Turing e.s
típicade la tradición en el sentido deq.rJ es cles'ergonzaclamente
en que las personas "procesan infor-rnación" cuando reflexionan, por ejem- conduc-
tistay operacionalistay consideroque si los estudiosos
clela ln repudiaran
 N,IENTES,
CEREBROS
Y PIIO(IÍIAJIIAS IO3
Y PROGRAI\IAS
CEREBROS
lv'fENTES'
102
gran decirlos acerca de las máquinas. Por su propizr definición, se octrpa de
el operacionalismo' se eliminaría
por completo del conductismo y programas y los programas no son ntáquinas. No obslante, cualqtriera que
y duplicación'
;;;;" i" confusión entre simulación sea la intencionalidad, es un fenómeno biológico, \. es nrLrvpr obable qr-rede-
éste operacionalismo re.iiduai se aúna a la fon¡a re-
En ter:cer lugar, la supo-
penda causalmente de la bioquínrica especílica cle sus orígenes como la
siclual cle dualismo; ¿"1"!ft" la ln ftrerte sólo cobra sentido dada lactancia, la fotosíntesis o cualquier otro fenírnreno biológico. Narlie slr-
se refiere' el cerebro no imporla'
la mente
sición dualista de que, en lo que a son ios
pondría que se podría producir leche o azúrcar-echando a ¿rnclalun pr.ogra-
r.t,-t.lonalismo), lo q.e impoña
Iln la r¡, fuerte (asi.;;;J,-t "l máquinas; de ma de simulación en computadora cle las secuencias f'olmales cle la lactan-
cle su realización en
programas, y éstos.rot'i"a"p"tt<lientes ser realiz.ado
cia y de la fotosíntesis; sin embargo, en lo qtre a la nrentc se refiere, nr-rchas
el mismo programa podría
en io que l.,;;";;ñere, personas se encuentran dispuestas a creel'en trn milagr-o cle esta ínclole a
"electrónica' una sustancia mental car-tesianao un espíritu
'echo,
ir". causa de un dualismo profundo y constante: l¿rmente que sup()nen es Llna
sorprendente clue he hecho
clei mundo hegeliano. EI desc.brimiento más
""" -aq"ina cuestión de procesos torrnales, independiente de catrsas nrater-iales bas-
qtt" muchosde los estudiosos de la IA están
al analizar estas cuestiott"' "t tante específicas en el sentido en que no lo son la leche v el ¿rzricar'.
que los fenómenos mentales humanos
lrastante molestos .on.-mi t¿"u cle En defensa de este dualismo a menudo se explesa la esperanza cle que
fisicoquímicas reales de los cerebros hu-
puedan clepender a" i'opi"aucles de esto,
el cerebro sea una computadora digital (las printeras cornptrtador'¿rs,por
se piensa un minuto acerca
manos verdaderos. No obstante, si prol'ecto de la cierto, a menudo recibían el nombre de "cerebros electr'ónicos"). Mas de
sorprendido' l'a que el
puede verse qlle no debería haberme forma n a d a s i n 'e . E l c e r e b r o e s, p o r su p u e sto , u n a co m p u l a d o r ¿r cl i si ta l . Pr r e sto
a menos que se acepte'alguna
tA fllerte no tiene posibilidacl alguna' me- que todo es Llna computadora digital, el cel'ebro tantbién lo es. I-a cuestión
EI provecto col-lsiste en reproducir v explicar 1o mental e s q u e l a c a p a c i d a d ca u sa l d e l ce r e b r o p a r a p r o d u ci r i n te r r ci o n a l i cl a d n o
cle dualismo. sólo sea
pero a menos que la me-nte no
ciiante el cliseño de programas' puede consistir en su ejenrplificación concreta dc trn progranra cle cómpu-
inclePend':1':i::::t;t"T;.",ono.::
conceptual ,i.to tut'tüi¿t'empíricamente to, ya que para el programa que trsted gllste es posible que zrlgo e.lcnr¡rli-
porque el programa t"lil1"
¿r'iu tüuu.r" a cabo el pt'ovecto' "t qlre la mente es f i q u e c o n c r e t a m e n t e e se p r o g r a n ta l ,si g a si n te n cr csta d o s r r r e n ta l e s. Se a
qtle se crea
;;;;,; c1ecualquier realización' A menos lo que fuere lo que el cerebro haga para prodtrcir intencionaliclacl, ello no
*,o .on."ptual como empíricamente -r'ersión
separable d"l ."."briá- p u e d e c o n s i s t i r e n e j em p i i fi ca r co n cr e ta r l te n te r r n p l o g r a m a , va c¡ r r en i n -
reproclucii 1o mental e.scribiendo
[uerte <]edttaiismo- no se pttecleesperar de los cere'
g ú n p r o g r a m a p o r s í m i sm o e s su fi ci e n te p a r - a l o g r a l l ¿ri n ( e n ci o n a l i cl a d .{
deben ser ir-idependientes
r, con-iendo ot'or.uttt', ,á 1"" ett"t
particurares de ejempli[icación concreta'
br.osde cualesquier-a ot.us for-us
op"tutiones de cómprrto sobre
Si las operaciones mentales consisten "'-t BreLrocnAr͡
qlle carecen de conexiones lntere'
sír-nbolos fol-males, se decltrce entonces
Sa nte scon elcer - ebr o. Laí lnic ac onex ións er í aq u e e l c e r e b r o r . e s u ] t a r a sde e reiem- Fodor, J. A . (1980), "Methodok rgi c al S ol i ps i s m C ons i c l c rc d ¿i sa R ers c al c h S tr¿rtc gy
máquinas capaces
p;';;;;;; uno de los muchísimos tipos de i n C ogni ti ve P svchol ogv ", B ehat,i r¡ral attd B rai tt S ¿' i ¿,rl r-¿.s
3, ,pp. 6-l ,l 10.
Esta forma de dr-ralismo no es ia va-
plificar concretamente el programa McC arl hy, J. (1979), "A s c ri bi ng Mental Qual i ti es to M¿rc fri nes ", c -n M. Il i ngl .. (ed.),
dos tipos de s¡¿slt¿rrclas'
r-iante carlesi^.,",.^Ji.i.rnur ñ"" postula que hav P hi l osopl i cal P erspe c i v es i n A rti fi c i al l rttel l i gertc e, A tl anti c Il i ghl and, N . .I., H tr-
d" qt'" insiste en que 1o específicamente mani ti es P ress, pp. l 6l -195.
pcro es cartesiana
"'"t "l '"t'tiáo intrín'"tu to'-t lut propiedades reales N ervel l ,A . (1979), "P hysi c i al S v mbol S v s tenrs ", P one-nc i a prc s c rrtada c n l ¿rC i rf t' r' c n-
mental cle Ia mente ,-,ogt'utdu t"lación de
se oculta de nosotros por el hecho ci a sobre C i enci a C ogni ti v a en La J ol l a, publ i c ac l o pos tel i ormentc en (.' r,,,l r¡ir'¡i¿,
clel cerebro. Este dualismo implícito S ci ettce,4, 1980, pp. 135-183.
qtre la]ite ratr-r r aac er c adelal¡ ar l. em et ec onf r e c u e n c i a c o n t r a e l . . d u a l i spostura
- N ervel l , A . r'S i mon H . A . (1963), "GP S - A P x rgr' :rm that S i rnul ¿rtc s [{ rrma.n
pasar por alto es qlle slr
i'J't 0".. lo que los autores parecen Thor-rght",en E . A . Fe i gc nbaum v J . A . Fel dnran (c ds .), C ortt¡tuters arttl 7' l tc tttgtl t,
presupone una versión fuerte de dualismo N ueva Y ork, McGrarv-H i l l , pp.279-296.
"¿Podría pensar una máquina?" Mi punto de vista es que sólo
^propio algunos tipos mu1'espe' aE stot'endeuda
efecto' sÓlo
,"rna"máquina poclría pensar^y que' en con l as muc hís i mas pers onasque anal i z -aronc s tasc ues ti onc sv ugl ac l ez c r.r
q"" t:"g^11 los mismos l a paci enci aque mostraro n para s uperar mi i gnoranc i a en torno a l a i ntc l i gt:nc i aal ti l i c i al -
ciales de máquinas' u 1'máquinas
Me gustaña en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcland,
'ub"t,'t"t"bros ésa es la razón por la que ia IA fuerte
pocleres causales que el cerebro' Y RogerSchank, Robeñ Wilensky )'Tery Winograd.
nada tiene que
ii;;"-p"." q.t" ,l".i*os acerca del pensamiento' Ya que
IO4 MENTES,CEREBROSYPROCRAMAS
Pr,lvshyn,Z. w. (1980), "computation and cognition: Issuesin the Foundation of
CcrgnitiveScience",Behavioraland Braitt Scietrces,3,pp. 1 ll-132.
Sclrank, R C.-v Abelson, R. P. (1977), Scripts, Plans, Gc¡als,attd Urtderstandhtg,
Hillsdale. N. J., Erlbaum.
Searle,J. R. ( 1979a),"Intentionalitv and the Use of Language",cn A l\{argolit (ed'),
Meaning and IJse,Dordrecht, Reidel.
(1 97 9b ),"What is an I nt enlional St at e?",hI in d , 8 8 , p p . 7 4 '9 2
V¿¡riosautores (1978), "Cognition and consciousnessin Non-Human Species",
Behavioraland Brain Scietrces, ','ol 1, núm' 4, número completo'
Weizenbaum, J. (19ó5), "ELIZA-A Con.rputerProgram for the Study of Natural
Language Communication Betrveen Man and Machine", Cotttttttttt. ACll , 9,
pp . 3 6-4 5.
(1976), Co,lll)uterPox'er attd Hunnnt Reason,San Francisco, W. H Free-
ma n.
Winograd, T. (1973), "A Procedural Model of Language Understanding", en R' C'
Schank y K. M. Colby (eds.),CotnputerModels of Thought and lnnguage, San
Fra ncisco,W. H. Fr eem an,pp. 152- 18ó.
IV. ESCAPE DE LA HABITACIÓN CHINA*
MARGARETA, BODEN
Eru su anrÍculo "Mentes, cerebros y programas" ( 1980), John Searle alega
que las teorías de computación en psicología son esencialmente rnútiles.
Hace al respecto dos afirmaciones importantes: las teorías de computa-
ción, de naturaleza puramente formal, no pueclen ayuclarnos en modo
alguno a comprender l o s p r o ce so s m e n ta l e s; y e l h a r tl w a r e d e l a
computadora, a diferencia de la neuroproteína, cal-eceobviamente de los
poderes causaies adecuados para generar procesos mentales. Denrostraré
aquí que ambas afirrnaciones están equivocadas.
La primera afirmación de Searle da por sentada la strposición (forma-
lista), ampliamente aceptada de que los "cómputos' qlte se esttrdian en la
ciencia de la computación son pllramente sintácticos y que ptreden defi-
nirse (en térrninos igualmente adecnados para la lógica sirnbólica) como
el nrartejo fonnal de síntbolos abstractos tnediattte la aplicación de reglas
lónnales. Según este autor, de ahí se deduce que las explic:rcione-s forma-
listas, aunque adecr-radaspara explicar el procesarniento cle "inforrnación"
sin sentido o ei manejo de "símbolos" en las computadoras, son incapaces
de explicar cómo utilizan las mentes humanas lainfónnac:irin o los símbo-
1os,propiamente así llamados. El significado o la intencionalidad n() pue-
den explicarse en términos computacionales.
Searle no quiere decir con eso que ninguna máquina pueda pensar. Los
seres humanos pueden pensar y éstos, concede, son máquinas; inclr_rso
adopta el credo materialista de que sólo las máquinas pueden pensar. Tarn-
poco dice que ios seres humanos v los programas sean totalmente incon-
mensurables. Acepta que, en cierto nivel sLlmamente abstracto de descrip-
ción, las personas (como todo lo demás) son ejemplificaciones concretas
de computadoras digitales. Más bien argtrmenta que nada puede pensar,
significar o comprender exclusivanlente en virtud de su ejemplificación
concreta de un programa de compntadora.
Para convencernos de esto, Searle recurre a un ingenioso exper-imento
de pensamiento. Se imagina a sí rnismo encerrado en una habitar:ión donde
ha¡r una serie de fajos de papeles que contienen garabatos; Lrna ventana a
* N{argaretA. Boden,"EscapingFromthe ChineseRoom",tomaclodel
capítulo8 cleCon¿-
puter¡"Iodebof l+,|útd(1988).Reproducidocon pennisode CambridgeUnivcrsitypress.
105