ROBOTIZAÇÃO VS INTELIGÊNCIA ARTIFICIA: IMPLICAÇÕES ÉTICAS

Carlos Costa Gomes1

PREÂMBULO

“Sou homem, pelo que nada o que for humano poderei considerar como sendo
alheio a mim” (cf. Terencio). Heidegger, na sua Carta sobre o Humanismo, afirma que o
Humanismo se pode resumir deste modo: “refletir para que o homem seja Humano e não
in-humano, bárbaro fora da sua essência”(cf. Carta sobre o humanismo, Heidegger).
Portanto, resumidamente, são humanistas aqueles que se dedicam ao estudo e à
ação desta espantosa complexidade que é um ser humano na sua essência, viajando desde
a sua ontologia à sua estruturação ética.
A nossa conceção de homem, na perspetiva da ontologia biológica, habitualmente
estagia nove meses, acolhido no corpo da mãe, sai para o mundo e inicia um processo
desenvolvimento que se manifesta no tempo que lhe é dado a viver, até à morte. Este
desenvolvimento, no ser humano, dá-lhe uma especial categoria ontológica.
Da sua constituição biológica, o cérebro humano, dispõe de uma certa área, com
poucos milhões de neurónios, que fazem toda a diferença, que é o cérebro executivo
(sobre este assunto ver, Goldeberg), que é quase como o maestro de uma grande orquestra
cerebral, que regula a ativação dos grupos de neurónios e das suas múltiplas redes
sinápticas para que as decisões humanas sejam uma sinfonia coerente e rica de
significado, quer racional, quer emocional. É por esta via que o ser humano elabora e
modela as suas decisões. O homem, como afirma Daniel Serrão, é essencialmente um ser
de desejos e de decisões, que imagina o planeia o futuro e que sabe que o seu tempo de
viver, como homem, é limitado. Consciente desta realidade, o homem que sabe que o seu
tempo de viver é limitado, a ansiedade e o desejo em eliminar o tempo limitado da sua

1
Seminário (on-line) Curso de Pós-Graduação em Bioética – Mestrado – Pontifícia Universidade Católica
do Paraná – Escola Ciências da Vida. Robotização Vs Inteligência Artificial: Implicações Éticas? 04 de
dezembro de 2020. Paraná. Docente e Investigador. Professor Adjunto na Escola Superior de Saúde Cruz
Vermelha Portuguesa; Faculdade de Nutrição da Universidade do Porto, Universidade Fernando Pessoa;
Investigador CEGE Universidade Católica Portuguesa; Investidor do Unidade de Investigação e
Desenvolvimento da ESSNorteCVP. Áreas de estudos: ética e bioética, antropóloga e sociologia da saúde.
Investigador Principal do Projeto de Investigação “O contributo do pensamento bioético de Daniel Serrão
no âmbito da bioética em Portugal” Presidente do Centro de Estudos de Bioética – Portugal

1
vida, tem sido uma constante ao longo da história humana. Os progressos atuais da
biotecnologia, nomeadamente e em particular, a Inteligência Artificial e da Edição do
Genoma Humano, “parecem conduzir” o homem, para a sua ânsia de imortalidade.

1. DA NARRATIVA ANTROPOLÓGICA À NARRATIVA TECNOLÓGICA

Homem, por concluir cedo de mais que queria dominar o homem, foi expulso do
“jardim das delícias…”; esta ânsia de dominação leva-o a matar o seu próximo. É assim
desde a sua origem: no homem está ânsia e o desejo da posse e do poder. Todavia, nunca
como hoje, o homem, na procura de dominar um mundo que o acolheu, gratuitamente,
está a passos largos de ser expulso da sua humanidade.
É evidente que o ser humano já não está no jardim das delícias. Esse território é
já um paraíso perdido. O ser humano encontra-se já num diálogo homem-máquina que
depende do sistema económico que o cria. Este homem que de graça recebeu o mundo e
o seu próximo viaja um ritmo estonteante e, rapidamente, para um mundo sem
humanidade e seu trabalho; para um mundo onde os problemas serão resolvidos pela
tecnologia: pela inteligência artificial e pela edição do genoma humano; e onde, o homem
gozará de abundância universal…
O futuro tecnológico sem humanidade é um futuro sem o ser humano. A
humanidade sem uma antropologia pode tornar-se numa orquestra tecnológica
supervisionada por computadores superinteligentes – máquinas e algoritmos, ciborgues e
robôs – ou por quem os domina!?
O futuro tecnológico, nesta perspetiva, até poderá tolerar os humanos como
animais de estimação ou, na melhor das hipóteses, como um mal necessário; na pior das
hipóteses, escravizados pela deusa da tecnologia…
Será uma sociedade dessensibilizada, desincorporada e desumanizada.
As tecnologias disponíveis já nos permitem externalizar o pensamento, as nossas
decisões, as nossas memórias. Atua, como cérebros externos. Transmutam-se para o
conhece-me para representa-me e para ser eu. (Gerd Leonhard)
Se no passado todos ficamos alarmados com a possibilidade da clonagem
biológica (reprodutiva), atualmente, sem darmos conta, estamos ou somos já “clonados
tecnológicos”. Os cérebros externos/artificiais estão a começar a ser uma cópia de nós.

2. VISÃO POUCO OTIMISTA E DESNUDADA DE PRIVACIDADE?

2
 Na convergência Homem- máquina, ainda não estamos na fase em que as nossas
cópias ciborgues vivem a nossa vida (filme Bruce Willis – os substitutos, 2009), mas não
estamos muito longe.
A curva dos avanços tecnológicos continua a crescer exponencialmente. Isto
representa um desafio cognitivo para nós. A tecnologia cresce enquanto os humanos
permanecem lineares (espero)
Os avanços da tecnologia são cada vez mais combinados e integrados. Os avanços
radicais como a inteligência das máquinas e da sua aprendizagem profunda; a internet das
coisas e a edição do genoma humano começam a intersetar-se e a completar-se. Por
exemplo, as tecnologias avançadas de edição do genoma humano como CRISPER-Cas9
poderão a breve prazo ajudar a combater o cancro e aumentar a longevidade (Booth, B,).
Estas tecnologias podem inverter toda a lógica dos cuidados de saúde, da segurança
social, do emprego…
As tecnologias da Inteligência Artificial IA, a computação e aprendizagem
profunda vão produzir a melhoria recursiva – ampliação de si mesma. (robôs autónomos
que se reprogramam a si mesmos) … segundo alguns especialistas, esta “explosão de
inteligência” pode provocar a emergência de uma superinteligência. A IA vai aprender e
pensar mais depressa que os humanos. (Bostrom, N. 2014).
Esta superinteligência ainda não está aí, mas vai estar. Mas o que está aqui agora
é a escalda do acompanhamento das nossas vidas digitais: a vigilância, a diminuição da
privacidade, a perda do anonimato, o roubo da identidade digital, da segurança, etc.
Estamos numa encruzilhada decisiva: ou agimos com clarividência e
transparência (como no caso da clonagem humana) com uma gestão assertiva sobre as
tecnologias ou as tecnologias que produzimos podem acabar por ter mais poder sobre do
que nós sobre as tecnologias.
O tempo não é o de esperar para ver onde nos leva a IA. O tempo é o de nos manter
com redobrada atenção para permanecermos humanos no futuro. Não devemos deixar
esta decisão nas mãos do “mercado livre” dos investidores, dos tecnólogos e ou nas
organizações poderosas do mundo.
O futuro da humanidade não deve assentar no imperativo tecnológico mas sim
antropológico. A IA e o Genoma Humano, a primeira a maior força no domínio das
tecnologias como criação de máquinas inteligentes vai aumentar duas vezes mais rápida
do que todas as outras tecnologias ultrapassando o crescimento a capacidade

3
computacional em geral (Urban, T 2015). “O maior perigo da inteligência artificial é, de
longe, as pessoas concluírem cedo que a compreendem” (Eliezer Yudrowsky, 2016).
O Genoma Humano, a par da IA, é o companheiro da mudança: acabar com
alguma doenças, se não todas, reprogramar os nossos corpos e possivelmente acabar com
a morte. E neste sentido a IA é o elemento chave facilitador de toda a reprogramação.

3. OS DEUSES DO FUTURO…

Os computadores, segundo Ray Kurzwiel, poderão, até 2025, ultrapassar a

capacidade computacional de um cérebro humano e que um único computador possa
igualar a capacidade de todos os cérebros humanos, juntos, em 2050. Estamos, segundo
este especialista, no “advento da Singularidade” – o momento em que os computadores
superam o humano. Este será o momento decisivo da história da humanidade. Uma
inteligência sem humanidade, porque menos biológica e mais tecnológica.
As máquinas irão para além da sua programação original de forma independente
e recursiva.

3.1. A MEDIDA QUE EVOLUÍMOS FICAMOS MAIS PRÓXIMOS DE DEUS…

O futuro próximo está ai. A IA terá a mesma capacidade do cérebro humano. Com
Deus ou sem Deus, ao contrário de Ray, não desisto tão facilmente da minha humanidade
em troca de uma inteligência não biológica ilimitada.
A IA não é uma inevitabilidade ou uma fatalidade que todos temos que aceder,
mas sim uma finalidade e uma finalidade que deve estar ao serviço da humanidade.
Não quero falir a minha humanidade. No livro “O sol nasce, sempre” (Fiesta)
descreve, na perfeição, a natureza desta mudança (silenciosa): “Como é que foste à
falência? De duas maneiras. Primeiro gradualmente; depois subitamente”.
O que torna diferente, único e irrepetível o homem é (era) a sua “indeterminação
biológica”. Por que razão agora haveremos de criar o determinismo tecnológico. Para
salvar a realidade biológica do ser humano face à realidade tecnológica do homem-
máquina devemos investir tanto na promoção da sua humanidade como investimos
produção da tecnologia.

4
 Desta forma acredito que o mundo continuará ser um lugar (com todas debilidades
humanas) bom para viver a humanidade das nossas vidas, com todas a imperfeições e
insuficiências.
A promessa futura IA e do sobre-humano ou do transumano produzirá máquinas
que andarão connosco ao colo de cujo funcionamento não conheceremos.
Prevejo, a partir do que vou lendo, se nada fizermos, a explosão da inteligência
descontrolada na robótica, da IA, a engenharia genética e biológica fechará, de forma
sistemática, os olhos à existência humana, porque a tecnologia não tem ética. E uma
sociedade sem ética está condenada.

4. O EU E A TECNOLOGIA

A tecnologia não sabe o que são a ética, as normas e as crenças. Estas são matrizes
ou valores da sociedade humana. Todavia a IA poderá, no futuro, a aprender a ler ou a
compreender as nossas considerações sociais ou morais e, até mesmo, os nossos dilemas
morais. Mas a pergunta que se coloca é: experimentarão a empatia, a compaixão e existirá
como um eu?
Vivemos em grande parte segundo os nossos valores e crenças e não de acordo
com dados e algoritmos. A IA nunca deixa de ser uma máquina computorizada e mesmo
com a sua imensa capacidade de analisar e de simular o modo como os humanos agem,
estará muito longe de existir como eu.
Isto é, apesar de simular as mais diversas e imaginárias interações humanas cada
vez mais próximas da perfeição, a tecnologia não sabe nem quer saber de felicidade, de
satisfação pessoal, realização pessoal, emoção e ou valores e crenças. Só percebe de
lógica, ação racional, incompletude, eficiência e eficácia e resposta sim e não. A máquina
inteligente para saber o que é a felicidade teria, antes de mais, de ser feliz. E para ser feliz
exige ser encarnada e não niilista. A simulação não é duplicação; realidade mediada não
é vivência da realidade experienciada encarnada.
Estremeço só em pensar sobre o que aconteceria se a IA computadores fossem
programados para desenvolver a sua própria ética. A ideia de capacitar as máquinas a
“ser” (ontologia) constitui um crime contra a Humanidade (Gerd Leonhard).
Se, por exemplo, como diz Daniel Serrão, um dia vier a ser possível a ectogénese,
ou seja a geração de crianças sempre fora do útero de qualquer mulher, sem gravidez nem

5
parto, ela será socialmente aceite, acolhida e praticada, como um grande triunfo da ciência
biológica, ainda que para mim, este triunfo seja redutor da própria humanidade. O ser
humano em vez de concebido passa a ser produzido.
Não será que esta possibilidade viola os direitos humanos?
Será que possibilidade substitui as relações humanas por relação entre máquinas?
Será que esta possibilidade não vai automatizar o que não deve ser automatizado?
Será que esta possibilidade não vai dar mais enfâse à lógica e ao ideológico do
que ao biológico e ao biográfico e aos princípios éticos da humanidade?
Será que esta possibilidade não programará a atividades humanas nucleares que
não devem ser programadas?
Será que todas estas possibilidades, no futuro não produzirão padres, psicólogos,
médicos e terapeutas automatizados pela inteligência artificial?
O mesmo direi da tele-transportação quântica de um corpo humano, do fabrico de
cyborgs munidos de implantes cerebrais que lhes permitirão comunicar telepaticamente
uns com os outros e com os pobres seres humanos; que serão uma subespécie com formas
de comunicação bem primitivas e muito limitadas.
Mas toda esta tecnologia será neutra e esvaziada de ética até ao momento em que
a aplicamos. Só partir da sua aplicação pelos seres humanos terá consequências éticas

4.1. A TECNOLOGIA (DE TECHNE) “LEVAR O VERDADEIRO AO BELO”

A filosofia grega ensina-nos que a tecnologia é algo inato à atividade humana.

Estamos sempre a inventar e a melhorar ferramentas para servir o ser humano. Agora as
tecnologias que criamos estão a moldar-nos e a inventar-nos (Kuskis, A 2013). Nenhuma
da tecnologia inventada até agora, como a máquina de vapor na revolução industrial, no
mudou integralmente.
O que nos torna humanos não é o matemático, nem mesmo o químico ou o
biológico. Mas o que nos envolve. Isto é, o que passa despercebido, o indizível,
autoconsciência, o efémero, e o não objetivável.
Esta é a essência humana que temos que preservar, mesmo que desajeitada,
complicada, lenta, arriscada ou insuficiente quando comparada com máquinas e com a
IA. Podemos até tentar corrigir e reparar mas será imprudente automatizar, programar e
atualizar, na medida em erradicamos, por esta via, o que faz de nós seres humanos.

6
5. ACEITAR OU PREFERIR A TECNOLOGIA IA À HUMANIDADE

Já dissemos e voltamos a dizer que no futuro previsível a tecnologia será capaz de

simular o ser humano (Dasien) mas nunca será realmente humana. O problema e o desafio
principal não é tanto a aniquilação da humanidade pela tecnologia, mas antes a ser
humano começar a preferir as boas simulações fornecidas pelas máquinas em detrimento
da própria realidade.

5.1. SERÁ QUE UM DIA VIREMOS A PREFERIR RELACIONAMENTO COM MÁQUINAS EM VEZ DE
PESSOAS?

Conversar com os nossos assistentes digitais?

Comer comida impressa em 3D?
Viajar por mundos virtuais?
Serviços personalizados nas nossas casas inteligentes por drones?
Servidos por robôs?
Sistemas que a partir da realidade aumentada e virtual amplifiquem os sentidos
humanos? Por exemplo: será ético ou legal visualizar uma imagem sexual simulada
artificialmente e sobreposta no corpo real de uma pessoa com quem estamos a conversar?
Poderemos ser demitidos se recusarmos trabalhar em mundo de realidade virtual?
Seremos ainda ser humanos se começarmos a preferir (RA RV) o mundo desta forma, à
semelhança das redes sociais?

6. A INTELIGÊNCIA ARTIFICIAL E OS LIMITES HUMANOS

A IA, de acordo com os especialistas tende a converter, automaticamente,

informações não estruturadas em conhecimento acionável. O que pretende é alcançar uma
meta-solução para qualquer problema (Burton-Hill, 2016).

O que significa oferecer soluções para:

7
 Doenças, envelhecimento e morte; alterações climáticas, aquecimento global,
produção de energia, produção de alimentos e até mesmo para o terrorismo. Esta máquina
(e os eus proprietários) tornar-se-ia uma espécie cérebro global, incompreensível para a
inteligência humana.
A atribuição da inteligência a máquinas obscurece mais do que ilumina a
humanidade. Quando se diz às pessoas que um computador é inteligente, as pessoas
tornam-se propensas a mudarem-se a si mesmas para que o computador pareça trabalhar
melhor, em vez de exigir que seja o computador a mudar para se tornar mais útil (Jaron
Lanier).
A filosofia argumenta que nunca podemos efetivamente captar, reter ou reproduzir
o que realmente interessa. Se isto é verdade, como poderemos esperar captar algum tipo
de humanidade simulada a partir de uma máquina inteligente? O negócio de substituir
experiências intrinsecamente humanas por algoritmos e IA que prometem capacidades
divinas, irá ser enorme, mas será isso uma mais-valia para o ser humano. Devemos
entregar de mão beijada o nosso futuro àqueles que o querem transformar num sistema
operativo? (porque dá dinheiro).

6.1. IA NÃO É UMA INEVITABILIDADE OU FATALIDADE

A robotização invadirá, ainda mais, as salas de operações e os cirurgiões não

precisarão de entrar nelas para que o doente fique sem vesícula ou beneficie de uma
pontagem coronária – que são exemplos de situações já, hoje, reais.
O conhecimento total e on-line da máquina corporal, ampliada para desempenhos
tecnológicos que ainda nem posso imaginar, fará com que a atividade médica venha a ser
quase exclusivamente preventiva.
O conhecimento total das vias que levam ao adoecer criará uma ciência rigorosa
de prevenção deste adoecer. As consequências são umas boas e outras más; algumas serão
mesmo muito más e perigosas2.

2
Serrão, Daniel – A Medicina do Futuro…

8
Boas – todos os que seguirem, à risca, todas as regras científicas de prevenção, não terão
doenças e viverão felizes. Serão saudáveis, independentes e ativos até ao fim do tempo
biológico do viver humano.

Más – as pessoas perderão a liberdade de viver a sua vida como lhes apetecer: fumar em
excesso e beber em excesso. Comer cada vez mais desde a adolescência e engordar
alegremente. Abusar do álcool e das drogas neuro-estimulantes. Viver de noite e dormir
de dia, como regra. Consumir o tempo à frente de um ecrã, da TV ou do computador. Etc,
Etc. Nada disto farão, coitadas...

Muito más e perigosas – o conhecimento on-line de tudo o que se passa no corpo humano
e no cérebro humano abre uma via para o controle das pessoas pelas diversas formas de
poder de uns sobre os outros. Estas capacidades que foram desenvolvidas para fins
militares e políticos, chegarão, em breve à relação cientificamente sofisticada do médico
com o doente, a qual será como uma espécie de espionagem, exercida pelo médico sobre
o corpo e o espírito da pessoa.

7. IA - AJUDA OU AMEAÇA?

Então o que devemos fazer e como podemos evitar transformamo-nos em meros

objetos da hipereficiência alimentada por uma gigantesca IA, que determina as nossas
vidas?
Temos que questionar a finalidade em vez de aceitar como inevitabilidade ou
fatalidade! Não devemos ser instrumentos da tecnologia, mas instrumentalizar a
tecnologia em favor do humano.
Temos, em todo o momento de responsabilizar os criadores e os financiadores.
Temos, naturalmente, em todos momentos, de nos questionar como utilizadores e
consumidores.
Temos de deixar de ser conteúdos e alimentadores dessas plataformas.
Temos que deixar de ser colaboradores silenciosos das máquinas inteligentes,
porque o contrário é menos cómodo.
Temos de ser autónomos e não autómatos da IA

9
 Se não queremos construir uma bomba atómica digital (como foi a bomba
atómica analógica), uma realidade lamentamos as consequências, temos de nos
comprometer com a equipa humana que possa definir quais as máquinas inteligentes que
promoverão com maior probabilidade o florescimento da humanidade e não apenas o
crescimento e desenvolvimento da tecnicidade.
Devemos perguntar quando, como, quem, porquê, para quê e para quem?
Devemos, de igual modo, perguntar sobre quem garantirá o cumprimento dos
princípios éticos da humanidade, já que a tecnicidade é em si mesma neutra?
Se quisermos dominar o confronto IA e a Humanidade teremos de usar as regras
básicas: ser exigentes e compreensíveis para não impedir o progresso.

8. EU ESTOU NA EQUIPA DOS HUMANOS A BEM DA HUMANIDADE E A BEM DA

TECNOLOGIA:

- Humanidade sobre a tecnicidade em primeiro lugar;

- Humanidade com todos os seus traços como a imaginação, emoção, empatia,
compaixão, amor, acaso, erros e insuficiências mesmo incompatíveis com a tecnicidade;
- Humanidade em não alterar o que representamos e o que precisamos como seres
humanos em função da tecnicidade;
- Humanidade em vez de preferir as simulações da magia da tecnicidade em
detrimento da realidade;
- Humanidade em vez de preferir relações com ecrãs e máquinas em detrimento
das relações sociais e pessoais.

O Genoma Humano, a par da Inteligência Artificial, é o companheiro desta era

digital e desta mudança.
É assustador? Sim!
É impossível? Não
Temos alternativa para o evitar? Nenhuma!
Se a morte não é uma inevitabilidade ou fatalidade, mas finalidade, também a
tecnologização do homem não é nem pode ser uma fatalidade ou inevitabilidade, mas sim
um instrumento cuja finalidade é a de servir a humanidade.

10
 Se por um lado temos a responsabilidade ética não de impedir o progresso, por
outro, temos o dever ético de perguntar sobre a sua finalidade: para quê, para quem,
quando e como.
Para, como disse Daniel Serrão, não deixes que outros decidam por ti, mas não
decidas sozinho, mas decide TU.

11