N

SOCEDADES ARTflCAIS:
DESAFIOS E RESPONSAB1L1DADES
PorfIrlo Si[va*

*
Investigador em Fiosofia da Cincia. Colaborador do Instituto de Sistemas e Robtica (1ST) e do Centro de Fiosofia das
Cincias da Universidade de Lisboa. Deputado a Assembleia da Repblica (PS).
 1. INTR0DuA0. SOCIEDADES ARTIFICIAIS
A investigao que temos desenvolvido em Filosofia das Cincias tern procurado
compreender os pressupostos epistemologicos mais fundamentais de empreendi
mentos como a Ciberntica, a Inteligencia Artificial ou a Robtica: compreender
ate que ponto essas formas de pensar as mquinas entre os humanos influenciam
0 nosso pensamento acerca de outros aspetos das sociedades humanas. E por isso
que 0 meu interesse pelo funcionamento das sociedades humanas se desenvolve
a par corn a minha dedicaao, em termos de robOtica, aos sistemas de multiplos
robs, aquilo que chamamos robtica coletiva, e a charnada robtica social, que es
tuda a forma de colocar robs a interagir corn humanos em arnbientes partilhados.
Por isto me interesso por aquelas teorias e prticas cientIficas que procuram realizar
em mquinas, concebidas ou construldas pelos humanos, certos comportamentos
ou capacidades que considervamos tIpicas dos prprios humanos (ou de anirnais)
L
que encontramos na natureza. Exemplos dessas linhas de investigao so o xadrez
cornputacional ou o ftttebol robtico.
Este cruzarnento entrehumanos e mquinas inteligentes tenho-o designado,narninha
1 E de que falamos quando falamos de
investigao, corno sociedades artificiais .

sociedades artificiais? Falamos de pessoas em sociedade e da presena de mqui

nas, de urn certo tipo de mquinas, que alguns chamarn rnquinas inteligentes.
Mas isto no parece ser muito esciarecedor, ate porque nern sequer seria fcil expli
citarmos convenientemente o que so mquinas inteligentes.
Tentando ser urn pouco mais claro, digo que estaremos perante sociedades artifi
ciais quando houver urn mirnero significativo de rnquinas intercaladas nas nossas
interaes sociais e quando, de forma continuada, interagirrnos corn essas mquinas
atribuindo-thes intencionalidade, tal como fazernos corn os humanos, daI resultando
que, de alguma forma, as admitimos a relaao social.

1) Para uma apresentao mais arumentada do meu ponto de partida nesta questo, cf PorfIrio Silva, Das Sociedades Humanas
as Sociedades Artificiais, Lisboa, Ancora, 2011.

13

rE.::zz:i:T.----- - --
 .)- , .

...

_jt
... . ,

Quando digo que est aqui em causa a atribuiao de intencionalidade as mquinas,

estou a usar a noo de postura intencional, do filsofo Daniel Dennett
, e estou
2
a referirme ao seguinte. Quando dizemos de uma pessoa que ela tem certas crenas
ou desejos que movem as suas aes, estamos a interpretar essa pessoa em termos
de intencionalidade. Quando digo 0 Joao acredita que o co morde, o Joao est
com medo e quer fugir estou a interpretar o Joao em termos de intencionali
dade.
Ora, as vezes, quando falamos de mquinas, tambm thes atribuImos intencionali
dade. Como quando dizemos 0 programa de xadrez no computador quer ganhar
a partida ao Joao ou quando dizemos Aquelas duas equipas de robs esto a jogar
futebol e cada equipa est a tentar ganhar a partida. Isto uma atribuiao de in-
tencionalidade a mquinas, apesar de ser legItimo perguntar se um programa de
computador ou um rob pode querer ganhar um jogo, ou ate se essas mquinas tm
a noo de jogo. So que, e esse o meu ponto, quando fazemos estas atribuioes de
intencionalidade a mquinas estamos, potencialmente, a admitir essas mquinas a
rede das nossas relaoes sociais intencionais e, portanto, potencialmente, a caminhar
para aquio que chamo sociedades artificiais. Quando digo que uma mquina est
a jogar comigo, estou a admitir essa mquina ao jogo como quadro social; quando
digo que um rob est a cuidar de um idoso, admito esse rob a uma relaao social
humana (cuidar de algum) com os seus sentidos prprios.
0 que tenho vindo a fazer desde ha alguns anos, tanto no piano acadmico como
no piano da interveno social e politica, pensar questOes das sociedades contem
porneas a partir deste ponto de interrogao do que chamo sociedades artificiais.
E esse trabaiho que procuro continuar neste texto, pensndo aigumas das impli
caOes da chamada Era Digital e da Robtica em alguns dos desafios societais
que enfrentamos. No ponto seguinte procuro exemplificar aiguns desses desafios.
Depois, focarei aigumas iniciativas robticas com possIveis implicaoes no domInio
dos cuidados de sade, perspetivadas peia interrogao da nossa responsabilidade
em dar ou no certas interpretaes a esses sistemas robticos.

.2. VARIEDADES DE DESAFIOS

E desejvei que reconheamos e enfrentemos os desafios da presena massiva

de mquinas inteligentes entre ns com a seguinte determinaao: deixar de iado
as simplificaoes, sejam eias inspiradas peia tecnofobia ou peia tecnofflia; recusar
0 determinismo tecnoiogico e assumir que no so as mquinas que determinam
0 que fazemos com eias; e encetar a tarefa de estudar os desafios e oportunidades

2) Cf. Daniel C. Dennett, Intentional Systems, injoumal ofPhilosophy, LXVIII (1971), pp. 87-106.
 envolvidos na sua complexidade e incerteza, corn recurso ao conhecirnento dispo
nIvel e ao debate democrtico.
Vejarnos urn caso batante popularizado, o dos autornveis autnornos, capazes de
circular na via pblica sern condutor. Os benefIcios incluiriam urna circulao ro
doviria rnais fluida e o aurnento do nosso ternpo rnobilizvel para outras tarefas
enquanto nos deslocamos. As dificuldades incluern, claro, a questo da segurana,
da preveno de acidentes, rnas tarnbrn a questo da responsabilidade: ern caso de
acidente, responsabilizarnos os ocupantes do veIculo na circunstncia, o proprietrio
do carro, 0 construtor, os engenheiros que programararn a autonornia do veIculo,
Os sisternas de inforrnaao que coadjuvarn a circulao do velculo, ou todos, ou urn
subgrupo destes intervenientes?
Se estas questes so principairnente jurIdicas, outras podern tocar rnais profunda
mente aspectos propriarnente antropologicos.
Quando, ern 2013,visitei o laboratrio do professor Hiroshi Ishiguro, na Universi
dade de Osaka, no Japao, pude observar ao vivo os farnosos robs hurnanides da
linha GEMINOIDS. Os robs hurnanides so, habitualrnente, robs corn algurna
sernelhana genrica corn o corpo hurnano: cabea, tronco, pernas, braos, boca,
othos, orethas. A forrna hurnanide de urn rob facilita que saibarnos corno inte
ragir corn ele: entendemos facilrnente onde esto as crnaras de video que captarn
imagern, onde esto os microfones que captarn sorn. Mas os robs GEMINOIDS
nao so hurnanides dessa forrna genrica. Cada exemplar Gerninoid urna cpia,
urn duplo, urn gmeo rnecnico de urna especIfica pessoa particular que funciona
corno a fonte desse Gerninoid. 0 prirneiro Gerninoid foi urn grneo do Professor
Ishiguro. E j ha verses rnais actuais do Ishiguro rob. E j ha grneos robticos
de outros hurnanos.
Os Gerninoids no so robs cornpletarnente autnornos, so parcialrnente teleope
a distncia. No tenho aqui espao para explicar as bases tcnicas
. .

; rados, dirigidos
para 0 realisrno da representao robtica de pessoas concretas
3 mas interessa dizer ,

que 0 Professor Ishiguro fala desta linha de trabalho como Cicia Andride,
porque quer construir robs que sejarn capazes de se fazer passar por pessoas. Ele
disse rnesrno urna vez: se ha falta de pessoas, porque no fazernos algurnas? (e no
stava a falar dos rntodos rnais usuais de reproduo. . .). 0 grneo hurnano pode
na controlar no apenas urn grneo rob, rnas dezenas de grneos robs. E sugeriu
aplicaoes para isto: nurn servio de atendimento ao pblico, vrios robs grneos
podern tratar do servio, havendo urn nico grneo humano a controlar todos, in-
tervindo este apenas em situaes de dificuldade para as cornponentes autnomas
do sisterna. E o utente pensaria estar a ser atendido por urn hurnano. Estarnos, aqui,
3) Dois textos so suficientes para uma introduao geral a esta linha robtica: Hiroshi Ishiguro e Shuichi Nishio, Building
artificial humans to understand humans, injournal ofArtificial Organs, 10, 2007, pp. 133142; Shuichi Nishio, Hiroshi Ishigro
e Norihiro Hagita, Geminoid: Teleoperated Android of an Existing Persor?, in Humanoid Robots: New Developments, I-Tech
Education and Publishing, Vienna, 2007, pp. 343-352.

15

J I
E
1 ..

541
.
;
,

. u! . - . -4
 . ., --
.. . . . .. . . . .
. -. . .. .

,
: .

I
julgo, a tocar questes mais fundamentalmente antropologicas do que as questes
de responsabilidade civil.
Mas os problemas mais imediatoscolocados por certas formas de inteligencia artifi
cial podem no aparecer de forma tao espectacular.
Ja ha certos domInios da interaco social a ser profundamente transformados pela
presena massiva de agentes no-humanos, mecnicos, que aparecem a interaco
de tal modo que os agentes humanos envolvidos no tern meios para distinguir
a aco dos humanos da aco das mquinas.
Urn exernplo vern dos rnercados financeiros, globalizados e electrnicos, no que
designado por negociao autorntica, consistindo no uso de cornputadores para
cornpra e venda, extrernarnente rpida e massiva de produtos financeiros em mer
cados electrnicos globais. 0 uso de poderosos algoritmos de anlise de indIcios
dispersos que circularn na rede, a urna velocidade inacessIvel aos traders humanos
usando recursos tradicionais, permite uma especulaao automatizada que resulta
lucrativa basicamente por ser massiva, sem qualquer relaao corn a economia real.
Em poucos anos, o tempo de execuo destas operaes baixou dramaticamente de
segundos para microssegundos, havendo indicaoes de que representam mais de
metade do volume negociado nas bolsas arnericanas e urn pouco menos nas bolsas
europeias. J chamei a este tipo de fenmenos sociedades artificiais de annimos,
por serem situaes em que certas dinmicas das sociedades humanas deixam de
estar nas mos apenas de agentes humanos, passando a ser ate certo ponto entre
gues a mquinas, sendo que, no momento da interaco, e porque ela annima,
no podemos saber se estamos a interagir corn pessoas ou corn mquinas
. Anote
4
Se, neste ponto, a recente entrada na Assembleia da Repblica de uma proposta de
lei do governo sobre o Regime sancionatrio do direito dos valores mobiirios,
que transpe uma directiva comunitria, e que inclui algurnas destas acOes na
categoria de operaes susceptIveis de pr em risco o regular funcionarnento dos
mercados.
Sim, a influncia de produtos da Inteligencia Artificial nas nossas vidas nao est para
chegar: ja est entre ns, nos telefones inteligentes, nos autornveis, nos fornos de
nossas casas, e em muitos outros objectos do quotidiano, de forma discreta e ubIqua.
E quando falamos em Inteligencia Artificialfalamos tambm de machine learnin(
( mquinas que aprendem), falamos de prograrnao evolutiva (prograrnas que no
forarn explicitamente escritos por urn humano, rnas que resultarn da aplicaao de
tcnicas de evoluao artificial), falarnos do cruzarnento das nanotecnologias corn
a robtica, por exernplo para uso medico no interior dos nossos corpos. Ou falamos
de guerra, de guerra a distncia de milhares de quilrnetros.
4) Cf Michael Chlistalla et at, High-frequency trading, Deutsche Bank Research, 7, 2011.

16
 ____

Urn ponto decisivo que os produtos de tudo isto nao esto destinados a ficar
fechados nos laboratrios. Vamos ficar cercados de objetos inteligentes (ou sero
objetos espertos?). E a Internet das Coisas
.
5
antes
A Internet das Coisas ser uma rede global integrando, por urn lado, o mundo vir
thai das tecnologias de informaao e comunicao e, por outro lado, o mundo real
dos objectos do nosso quotidiano, transformados em coisas inteligentes por serem
identificadas individualmente, por disponibilizarem informaao e por recotherem
informaao de forma massiva, entrando nas nossas redes de interaco social. E nao
estamos a falar apenas de computadores e telefones, estamos a falar de televisores
que registarn o que ye cada membro da farniia, frigorIficos que sabem o que cada
urn come, camas que sabem quem l dorme, carros que denunciarn onde fomos,
medicamentos que ajudarn a calcular que doenas temos, passaportes que transmi
tern os nossos roteiros, peas de roupa que nos localizam e que recolhem dados so-
bre a nossa condiao fIsica. E tudo isto pode serjustificado de forma benevola.Ja ha
projectos, por exernplo, para colocar etiquetas de radiofrequencia em notas de banco,
para poder seguir cada uma individualrnente e assirn rnethor se poder combater
a corrupo.
A Internet das Coisas sera urna rede gigantesca:ja foi feita a previso de que ate 2020
esta rede tera 50 vezes mais objectos do que o nrnero de dispositivos actualmente
ligados a Internet. Tudo isto podera representar a possibilidade de avassaladora in-
vaso de privacidade, tornando-nos urna fonte continua de documentaao pblica
da nossa vida privada. E sem que saibamos exactamente que o estarnos a fazer
e corno o estamos a fazer.
Pensando em termos de impacte no trabalho e no emprego, ternos de othar para
a economia das plataforrnas digitais, que mobiiza urna conectividade ubIqua, omni
presente, para fazer do acesso a plataformas digitais a base de novas forrnas de ne
gcio, no apenas para mobilizar consumidores (que compram livros, ou servios
de transporte, ou alugarn apartarnentos na net), mas tarnbrn para comprar fora
de trabalho em forrnas que escapam largamente a regulaao do Estado Social de
.
6
Direito
Varnos diz-lo desta forrna: h urn novo actor nos mercados de trabatho: a rnul
tido. A Primeira Revoluo Industrial tarnbrn resultou do efeito combinado da
mecanizao e da rnassificaao do trabalho. Mas agora a rnecanizao, na sua nova
forma digital, dispens.a as massas de trabathadores reunidas nurn local de trabalho
especIfico e, diferentemente, recruta indivIduos isolados, que trabalham separados
uns dos outros, dispersos por todo o rnundo e que, sendo em grande nmero, so
urna rnultido atornizada.
5) Cf, por exemplo, Dieter Uckelmann, Mark Harrison, Florian Michahelles (Eds.), Architecting the Internet ofIhings, Berlin
and Heidelberg, Springer 2011.
6) Cf. Christophe Degryse, Shaping the worldofwork in the digitaleconomy, European Trade Union Institute Foresight Brief #01,
Bruxelas, 2017.

.
17

. .. i: ..c. :: . . .
:; ; . ... . ,. . .:.
.
 . . - S. . . ,

%%\

_ - ------ -. . --- ---

---

Uma maneira de mencionar estas formas econmicas chamarihes utsourcing

online. Podemos dividir o outsourcing online em duas categorias.
A primeira o micro-trabaiho; trabatho barato e pouco qualificado recrutado online.
Exemplo deste micro-trabaiho o Amazon Mechanical Turk, um mercado de tra
baiho online, onde, 24 horas sobre 24, sete dias por semana, algum compra tarefas
e algum realiza tarefas em troco de urn pagarnento. Diz-se que so Tarefas de
Inteligencia Humana porque, sendo tarefas relativamente simples, os computa
dores so ainda ineficientes na sua execuo. Exemplos: processar fotos ou videos
para encontrar certos contedos, editar urn ficheiro audio e passar para texto escrito,
verificar urn grande catalogo para detetar certos erros. Curiosarnente, o nome da
plataforrna, Mechanical Turk, inspirado no Turco, uma rnquina de jogar xadrez
construIda em 1770, que venceu rnuitos jogos na Europa e na America, incluindo
contra Napoleo Bonaparte e Benjamin Franklin, mas que afinal era uma falsifica
o, porque funcionava graas a urn jogador de pequena estatura escondido dentro
da rnquina. Trabalho falsarnente mecnico realizado por humanos.
A segunda categoria englobaria o recrutamento online defreelancers para tarefas
mais qualificadas, como traduo ou contabilidade. Neste caso, a capacidade nego
cial de quem vende o seu trabaiho j rnaior. Contudo, tanto num como noutro
caso, desaparece o enquadramento das leis laborais, desaparece a negociao colecti
va, desaparece a organizaao dos trabaihadores, em muitos casos desaparece sim
plesmente a noo de direitos dos trabaihadores, porque a distncia provocada pela
rede torna frIgil, e difIcil de fazer valer, a ideia de uma relaao de trabalho regulada.
(
Uma multido dispersa e annirna, de indivIduos isolados, face a empregadores
globais sem rosto, o inferno da desproteao absoluta do trabaiho.
Contudo, e para insistir sempre que a culpa no das mquinas, preciso dizer que
tambm ha plataformas digitais que trabaiham para a incluso dos trbalhadores
e para 0 combate a pobreza.
Estes so problernas sern soluoes evidentes, ate do ponto de vista da aco colectiva,
porque responder a trabatho globalizado corn sindicalisrno de base nacional no
e necessariamente o rnais eficaz.
Corno desafio ao Estado Social, cabe notar que estas formas de outsourcing online,
globalizadas, desreguladas, fazern perigar os sistemas publidos de segurana social
e, mais geralmente, o financiarnento do Estado Social pelos impostos. E preciso
aprofitndar o debate acerca da necessidade de alargar as fontes de financiamento
da segurana social. Os que falam em impostos sobre o trabaiho dos robs falam,
rnesrno que por vezes de forma imprecisa, da necessidade de reflectir sobre as con-
sequncias de economias mais capital-intensivas.

18
 No estamos aqui a dar uma verificaao sistemtica de todos os domInios que Se-
ro transformados pela presena crescente de mquinas ditas inteligentes. Estamos
apenas a dar uma exemplificaao parcial de questes que tern de ser reconhecidas,
compreendidas, objeto de deliberaao democrtica para no sermos apanhados

desprevenidos, como sociedade. Apelei recentemente, no quadro da Assembleia da

Repblica, a que o nosso parlamento se saiba dotar dos mecanismos necessrios
e suficientes para estar preparado para os desafios que a Inteligencia Artificial, a
Robtica, a Internet das Coisas e outras tecnologias associadas colocam a humani
dade que somos neste momento histrico, para saber quando e como deve intervir
como legislador responsvel e atento.
0 Parlamento Europeu j comeou a faze-b, ao aprovar (em Fevereiro de 2017)
uma resoluao onde solicita a Comisso Europeia que tome iniciativas legislativas
sobre robtica, que considere a criao de uma agncia europeia para lidar corn estas
questes, e onde prope uma Carta Europeia da Robtica, incluindo cdigos de
conduta para diversas categorias de profissionais. No certo que a resoluo ado-
tada pelo Parlarnento Europeu seja exatamente representativa do rnethor caminho
a seguir, mas ela , no mInimo, urn incentivo a que a nossa polItica democrtica no
se deixe distrair destas questes.

3. INTERPRETAR ROBOS EM AMBIENTE DE CUDADOS DE SAUD

Vivemos hoje num mundo onde ha urn nmero significativo de mquinas interca
ladas nas nossas interaes sociais. Dizemos que algumas dessas mquinas (corn-
putadores digitais e robs autnornos) so rnquinas inteligentes. No corao de
cada computador digital que flinciona corn prograrnas arrnazenados, e de cada rob
prograrnado para ser autnorno, ha urn sisterna formal autorntico (o prograrna que
fianciona na rnaquina).Tornou-se cornurn falar dessas rnquinas dizendo, por exern
plo, o cornputador
est a jogar xadrez ou os robs esto a jogar ftttebol. Essas
declaraoes fornecern interpretaes especfficas desses sisternas forrnais autom
ticos e, consequenternente, obternos sisternas forrnais autornticos interpretados
.
.
7
E irnportante reconhecer a existncia dessas interpretaes e tornarrnos responsa

bilidades por elas. A interpretao no intrInseca ao sisterna formal. A responsa

bilidade por essa interpretao nossa, os que usarnos esses sisternas.
Porque falarnos em responsabilidade por essa interpretao? Porque as rnodalida
des concretas de insero dessas rnquinas nas sociedades hurnanas vai depender
da interpretao dada a este sistema formal autorntico. Quando essas mquinas
esto ernbutidas no nosso mundo (por exernplo, quando urn prograrna usado
corno sistema de controle de urn rob interagindo corn a nossa vida quotidiana),

7) Para uma explicaao tecnicamente mais rigorosa do que isto quer dizer, cf Porfirlo Silva, Human, machines, and the
interpretation offormal systems, in AT & Society 31 (2016), pp. 157-169..

- - -

:
: .
. .
4
 . ,.. . ... .
.-.r:-.:

, ----
.
!
__

a interpretaao completa desse sistema formal nunca independente da inter-

pretao que Os seres humanos do das suas prprias relaoes sociais. 0 valor da
interpretaao dada aos sistemas robOticos, porque essa interpretao influencia
a forma como os deixamos interferir nas relaoes sociais humanas, pode ser bern
exemplificado corn sistemas robticos que cuidam da qualidade de vida de pessoas
corn sade debilitada, corno verernos de seguida.
Seja o caso de robs que prestarn servios pessoais corno cuidadores de idosos ou
de doentes crnicos. Podernos provavelrnente concordar que a interpretao o rob
est a levaro idoso da carna para o sofa urna interpretao correta. Mas pode ser
rnais difIdil decidir se o rob est a cuidar do idoso ou se est apenas a ser usado
corno urn dispositivo de transporte para auxiliar o cuidador hurnano nurna tarefa
pesada. Nessas situaes, a interpretao que decide a questo: os robs esto
realrnente a cuidar de algurn? Ou isso apenas urna tentativa de evitar algurnas
questes ticas envolvidas em deixar os idosos, ou os doentes crnicos, sozinhos
corn rnquinas rnais ou rnenos sofisticadas? Este urn carnpo de questionarnento
cada vez mais importante.
Amanda Sharkey e Noel Sharkey
8 fornecern urna boa descriao e anlise de proje
tos atuais que visarn 0 desenvolvirnento de robs para serern usados no cuidado de
idosos. Descrevern desenvolvimentos ern trs areas: assistncia aos idosos, monito
rizao da sua sade e segurana, e cornpanhia. Consideram soluoes robticas que
forarn desenvolvidas para auxiliar nas tarefas dirias envolvidas nos cuidados aos
idosos, corno levantar, carregar ou lirnpar (por exernplo, Riba, urn rob corn cara de
urso de brincadeira, que pode lvantar e transportar pessoas entre urna cama e uma
cadeira de rodas); robs desenvolvidos para rnonitorizar a sade e a segurana de
pessoas idosas (por exernplo, CareBot, urn rob pessoal equipado corn vrios senso
res de sinais vitais que podem acompanhar uma pessoa idosa em sua casa); e o uso
de brinquedos robotizados corno cornpanheiros para os idosos (por exernplo, urn
rob rnetlico de forrna sernelhante a urn co que pode andar perseguir urna bola,
expressar emoes por meio de seus movimentos corporais ou mudando a cor e a
forma dos othos).
Os benefIcios que estas soluoes robticas trazern ao bern-estar dos idosos so re
conhecidos, rnas tarnbrn so suscitadas questes ticas associadas ao uso destas
rnquinas. Sharkey e Sharkey identificam seis areas de preocupao tica, a saber:
a potencial reduao na quantidade de contato hurnano; aumento dos sentirnentos
de objetificaao e de perda de controlo por parte do idoso; perda de privacidade;
perda de liberdade pessoal; sentirnento de infantilizao por parte do idoso, e ate
de estar a ser enganado; as circunstncias em que os idosos devern ser autorizados
a controlar robs. Por exernplo, o uso de robs para prestar assistncia pode reduzir
a quantidade de contato hurnano que urna pessoa idosa experirnenta. Mesrno o uso
8) Amanda Sharkey e Noel Sharkey, Granny and the robots: Ethical issues in robot care for the elderly, in Ethics
and Information
Technolog 14 (2012), pp. 27-40..

20
 de robs para tarefas aparentemente longe do cuidado direto, como a limpeza do
cho, pode eliminar uma oportunidade valiosa para a interao social entre dois hu
manos, 0 que faz a limpeza e o idoso. Mencionando o rob japons de alimentaao
automtico My Spoon, (Sharkey e Sharkey, 2012: 29) dizem: Pode ser conve
J
niente ter uma colher automatizada a alimentar uma pessoa idosa fragil, mas isso
iria remover uma oportunidade de interao humana de proximidade e de cuidado.
Em relaao aos robs que monitorizam e supervisionam os idosos, o principal pro-
blema com a privacidade e a liberdade que a vigilancia de sade e segurana pode
tornar-se intrusiva em relaao a todo o comportamento de uma pessoa: impedir
que uma pessoa cause danos a si prpria pode fazer-nos entrar num escorregadio
plano indinado a caminho de uma
robtica autoritria ; o perigo tico aqui que
isso poderia transformar-se no equivalente a uma pena de prisao domiciliria sem
julgamento (Sharkey e Sharkey, 2012: 33). Ha tambm urn problema de objetifica
o dos idosos (Sharkey e Sharkey, 2012: 30): Os robs projetados como enfermei
ros ou cuidadores de substituiao (. . .) poderiarn fazer corn que os idosos sentissem
que tinham ainda rnenos controlo das suas vidas do que quando so dependentes
dos cuidados de enfermeiros humanos.
Os autores que estarnos a acompanhar
mencionam estudos que comparararn dife
rentes grupos de pessoas idosas, em que uns interagirarn e outros no interagiram
corn robs de cornpanhia, estudos esse que concluem que os idosos beneficiararn da
interao corn esses robs. (Sharkey e Sharkey, 2012: 34), concordando que esses
resultados
sua parecem prornissores, nao deixarn de sublinhar que preciso cautela na
interpretao, na rnedida em que eles dependern do termo de comparaao usado
para apreciar essas interaes. Escrevern que tais rnelhorias poderiarn ter sido iden
tificadas como tal devido ao contraste corn alternativas realmente tristes e pouco
estimulantes: Algurn em confinarnento solitrio poderia beneficiar de urn rob
corno companheiro, mas seria muito rnethor se thes fosse oferecido urn ambiente
social amigvel. (. . .) Se o grupo de comparao recebeu algurna outra ateno mdi-
vidual, corno uma visita de algurn que desse rnassagens ao pescoo e aos ornbros,
ou que se sentava segurando a mao e conversando, os benefIcios do co rob deixa
riam de ser tao salientes. 0 que est aqui em questo o seguinte: o significado que
a presena de robs entre os seres hurnanos assume para ns depende de como ns
projetamos a strutura social dos hurnanos. Existe todo urn aparato interpretativo
que influencia decisivamente o significado que atribuIrnos as mquinas intercaladas
nas nossas interaes sociais.
No obstante, e este ponto igualmente irnportante, ternos escothas. Os mes
mos autores (Sharkey e Sharkey, 2012: 35) escrevem: Apesar dessas preocupaes,
sugerimos
que ainda possIvel considerar maneiras pelas quais os robs de corn-
panhia, ou os robs que funcionam corno anirnais de estirnao, em particular, po
dern methorar a vida dos idosos. (...) E possIvel que os robs usados corno anirnais

21

r
,
- . -

..-
W .
: .
: .. ::
: \%

...
. .
L
 . . ,
. ... . . .
. .

- . N . -

de estimao possam agir como facilitadores sociais, e levar a interaes crescentes

entre Os idosos seus proprielirios e outras pessoas. Os brinquedos robticos podem
representar para as pessoas idosas urn motivo de conversa entre elas. (...) Urn rob
que facilita a conversao pode atrair visitantes. (...) As crianas podern querer brin
car corn o rob e divertir-se corn o brinquedo grande do av. (...) Assirn, as vanta
gens poderiarn resultar de os robs que ftincionarn corno animals de estirnao esti
rnularern urna rnaior interao corn outras pessoas (...). Ou seja: Os mesmos robs,
corn as rnesrnas capacidades e os rnesrnos cornportarnentos, podern ser intercalados
nas nossas interaes corn diferentes significados. Ternos opes. Contudo, so pode
mos gerir estas opes se assumirnos que as interpretaes so nossas e que diferen
tes interpretaes produziro diferentes orientaes para a aco. De qualquer forrna,
0 sisterna forrnal autorntico que controla urn determinado rob sernpre o rnesrno ern
cada caso, independenternente da nossa interpretao. 0 que pode rnudar so as nossas
interpretaes e,junto corn elas, o significado que esses robs tero para o nosso mundo.
Prestar a devida ateno a interpretao irnportante, porque interpretaes dife
rentes tero 0 potencial de influenciar, em direoes diferentes, as nossas escothas
sobre os papis que querernos que esses robs desernpenharn entre ns. Rejeito
absolutarnente o deterrninismo tecnologico. No so as rnquinas que nos obrigarn
a usa-las desta ou daquela maneira, que deterrninam as nossas formas de organi-
zao social. As rnquinas abrem certas possibilidades, boas ou rns, rnas a escotha
e coletivamente nossa. Em vez de dirigir a nossa crItica aos prprios sisternas rob
ticos, devernos concentrar-nos na interpretao que darnos a esses robs: os robs
nao nos impem nenhuma interpretao especIfica, a interpretao continua a ser
nossa responsabilidade, escotha nossa.
0 estudo de Sharkey e Sharkey, que temos vindo a seguir, no mobiliza nenhum
exemplo de robtica portuguesa. Mas podia faze-b e vale a pena faze-b, como

mostrarnos de seguida corn referncias aos projetos MOnarCH e INSIDE.

0 projeto MOnarCH (Sistemas Cognitivos corn Mltiplos Robots para Operaao
em Hospitais), urn projeto de investigao europeu, liderado por uma equipa do
Instituto de Sistemas e Robtica (baseada no Instituto Superior Tcnico), a qual
dei uma muito modesta contribuiao, o primeiro dos meus exernplos. Trata de urn
projeto de Robtica Social, que usa robots (e sistemas de sensores interligados em
rede) para interao corn crianas na enfermaria peditrica do Instituto Portugus
de Oncologia em Lisboa. 0 objetivo que o rob Gasparzinho (como acabou por
ser nomeado espontaneamente, j no se sabe bern por quern), corno interveniente
em atividades educativas e de entretenirnento que tern lugar no hospital, contribua
para methorar a quaiidade de vida daquelas crianas
. Num ambiente difIdil, e rnuito
9
regulado no piano tico, procura-se uma interao entre humanos e robs em que
0 foco, em que 0 valor a preservar, a humanidade dos intervenientes.

9) Para informaao bsica sobre o MOnarCH, consultar http://monarch-fp7.eu/pt/

22 1
 Os desafios fundamentais do projeto MOnarCH (no os desafios tcnicos ou tecno
logicos, mas os desafios que subjazem a esses no piano da nossa humanidade)
podem ser iluminados por uma abordagem tica. Os robs, uma vez misturados
corn os humanos naqueia situao, no podem contribuir para enfraquecer os laos
entre Os humanos (muito menos poderiarn pretender substituir os iaos entre os
hurnanos). A presena dos robs encarada corno urna possibilidade de reforar
0 que ha de meihor naqueie arnbiente hurnano e de tornar mais ieve o que naqueie
ambiente humano pesado. Ao mesmo tempo, pensando que as crianas poderao
acabar por se afeioar aqueies robs, podernos conceber que, corn o tempo, aqueies
objetos ganharao para aqueias crianas urn valor, urn sentido, quase urn princIpio
de individuaao (viro as crianas a ser capazes de distinguir os robs uns dos
outros e a preferir este em vez daquele?). E, note-se, neste projeto os robs so
ciaramente robs, no se tenta que eies se faam passar por hurnanos, no ha ne
nhum engano tentado peio iado da aparncia das mquinas. E estas opes, que
so fundadas em opes ticas, esto desde o princIpio embutidas na interpretao
que dada aos robs.
Para continuar corn outro exernpio portugus de robtica social orientada para
a sade, faarnos agora uma breve referncia ao projeto INSIDE. A iniciativa
INSIDE est direcionada para os benefIcios que possam resuitar, em crianas corn
Perturbaoes do Espectro do Autismo, da sua interao com urna rede de disposi
tivos inteiigentes. 0 acrnimo INSIDE representa Intelligent Networked Robot
Systems for SyrnbiotiC-Interaction with Children with Impaired Development
e urna iniciativa que envolve trs instituies portuguesas de investigao
(INESC-ID,ISR/IST,FCT/UNL),umauniversidade americana(CarnegieMellon),
urn hospital portugus (Hospital Garcia de Orta) e trs ernpresas portuguesas
(IDMind, Plux, Voicelnteraction).
A iniciativa INSIDE desenvoive urna abordagem onde se cornpreendam rnelhor
( e se operacionalizern) interaes rnais naturais e envolventes entre hurnanos e robs,
nalgum tipo de atividade conjunta nurn ambiente fisico. Os robs sero mveis e
autnornos, corn capacidade para detetar rnovirnentos e reconhecer a presena de
pessoas, e ainda com capacidades de reconhecimento da fala. Urn cenrio possIvel
a realizao de urn jogo que exija algum tipo de envolvimento fIsico, devendo haver
cooperao entre robs e humanos: o rob ajuda o hurnano a realizar certas tarefas,
0 humano ajuda o rob a realizar outras tarefas em qualquer dos casos, tarefas
que esse agente sozinho no consegue completar, seja pela complexidade da tarefa
ou por limitao do agente. A interao a desenvolver dever envolver interao
fIsica, incluindo a fala, e, do lado do sistema robtico, tern de existir uma rede de sen
sores (designadamente cmaras e sensores biomtricos) capazes de recother e tratar
informao do ambiente e do contexto, j que alguma compreenso do contexto
necessria para que 0 sisterna robtico seja capaz de interagir de forma apropriada
.
10

10) Para informaao bsica sobre a iniciativa INSIDE, cf http://wwwproject-inside.ptl

:
---

-
 . .

Todo 0 projeto tern urn objetivo teraputico, desse modo se inscrevendo nesse con-
junto mais vasto charnado robtica social. Os robs devero interagir corn crianas
autistas, aproveitando a apetncia dessas crianas para usar tecnologia, esperando-se,
por essa via, meihorar o desenvolvimento de algumas das suas aptidoes, especial-
rnente relacionadas corn situaes ern que as crianas corn Perturbaoes do Espectro
do Autismo costurnarn revelar dificuldades (pedir ajuda e seguir instrues).
Este projeto, ainda ern desenvolvimento, urn interessante exemplo de cruzarnento
de diferentes abordagens a robtica que tern vindo a ser desenvolvidas ao longo dos
anos. Neste caso, vern na linha da exploraao, que comeou ha j bastantes anos,
do uso das rnquinas inteligentes corn fins teraputicos na interao corn crianas
. E vern tambrn na linha de uma outra abordagem, de que pioneira a
11
autistas
portuguesa Manuela Veloso, na Universidade de Carnegie Mellon, corn os CoBot
Robots, quer dizer, os robs colaborativos, assentes numa ideia mais modesta (e
rnais realista) de autonornia: os robs, cientes de suas limitaoes percetivas, fIsicas e
de raciocInio, pedern ajuda aos hurnanos para poderem fazer aquilo que tern a fazer
no quadro dessas lirnitaoes (por exernplo, urn rob sern braos tern de pedir ajuda
para aes de manipulaao de objetos). A esta ideia de autonornia lirnitada, est
tarnbrn associada a ideia de iniciativa mista, significando que hurnanos e robs po
dern tomar iniciativas de interao que compensarn as dificuldades ou insuficincias
da outra parte. Esta linha assenta na ideia de urna relaao simbitica, na qual ha
urna ajuda mtua ente hurnano e rob, ambos beneficiando mutuarnente das suas
.
12
aOes

UMANOTAflNAL

Se querernos pensar todos os cenrios possIveis quando falamos de mquinas in-

teligentes, e designadarnente de robs, ternos de pensar o alcance das tentativas de
irnitar 0 corpo hurnano na forma das rnquinas ao mesmo tempo que pensamos

quo invadidos varnos sendo (e quo invadidos somos tentados a ser) por prteses
e modificaoes vrias dos nossos corpos. Pensando isso, e apesar de no ter ido por
esse lado da questo neste texto, termino corn uma nota que se destina a sublinhar
a necessidade de contarmos corn a incerteza sempre envolvida em todas as tecnolo
gias que interferem corn a base corprea da nossa pessoalidade.
Urna investigao em curso na Ecole norrnale suprieure, conduzida pela portu
guesa Mariana Babo-Rebelo, estuda a seguinte questo em neurocincias cogni
tivas: como que o crebro humano cria a subjectividade, o sentirnento de si
na expresso darnasiana? Parece que, para isso, o crebro tern de interagir corn sinais
11) Para encontrar uma das linhas pioneiras de robtica social envolvida corn as teraputicas para o autismo, cf Kerstin Dautenhahn
e IainWerry Towards interactive robots in autisrn therapy: Background, rnotivation and challenges, in Pragrnatics & Cognition,
12 (2004), pp. 135.
12) Para mais informaao sobre esta robtica colaborativa, cf http://wwwcs.crnu.edu!coraiJprojects/co
bot!

24

:g ...
,

provenientes do interior do corpo. A investigadora tern estudado especificamente

a influncia dos sinais enviados ao crebro pelos batirnentos do corao, como que
eles contribuem para a construo da subjectividade. No quadro desta investigao,
Mariana Babo-Rebelo faz a seguinte pergunta: os novos coraes artificiais, que
naO reproduzern os batimentos cardIacos, afectaro o sentirnento
de si das pessoas
que OS usam? Ainda no o sabemos, 13 escreve Mas fica o alerta: rnesrno os avanos
.

da medicina, que tao justamente saudamos, quando irnplicarn urna Intirna mis-
tura de mquinas artificiais corn o nosso corpo, podern ter efeitos. inesperados na
cornplexa teSsitura dos humanos flihos de humanos e netos de hurnanos.
Chegara
0 princIpio de precauo para lidar corn esses futuros possIveis?

13) Cf. Mariana Babo-Rebelo e CatherineTallon-BaucLry, Le Cceur, Socle du Soi, in Cerveau et Psycho, 86 (2017),
pp. 25-29.