Escolar Documentos
Profissional Documentos
Cultura Documentos
Sociedade Da Inteligencia Artificial
Sociedade Da Inteligencia Artificial
Artificial
(Tradução do húngaro)
Índice
Capítulo I
Reconstruções teóricas de estratificação da realidade:
as Análises de Maturana, Luhmann e Nicolai Hartmann
1
Para detalhes sobre estas questões, ver Béla Pokol, Küntliche Intelligenz: Die Entstehung einer neuen
Seinsschicht? (KI - im Spiegel von Nicolai Hartmanns Ontologie) Pázmány Law Working Papers, Nr. 2018/12.)e
Béla Pokol, Die Seinsschichten und die Fragen der Roboterethik.
C:/Users/Dell/Downloads/academia.edu/Die_Seinsschichten_und_die_ Fragen_der_Ro.pdf
2
Para ilustrar a teoria de Maturana, uso o seu livro conjunto com o seu antigo aluno Francisco J. Varela, mas
como esta teoria foi criada anos antes apenas por Maturana, tomo isto como a sua teoria apesar de quaisquer
aditamentos de Varela. Ver Maturana / Varela, A Árvore do Conhecimento. As Raízes Biológicas da
Compreensão Humana. Edição revista. Publicações de Shambhala. Boston, Massachusets. 1987.
4
Nos escritos de Niklas Luhmann há várias mudanças de pensamento a fim de se poder abordar
as camadas de estar por baixo do mundo social. As suas tentativas podem ser encontradas
primeiro num artigo de 1974, depois no seu resumo abrangente da teoria de sistemas de 1984
e, finalmente, nos seus escritos entre 1987 e 1991. Ele aborda este tema de forma
particularmente sistemática nos seus escritos entre 1987 e 1991, em ligação com a análise
sobre a relação entre os sistemas psíquicos e a comunicação social.
No primeiro material mencionado,4 examinou a relação entre poder e violência física, que
é a sua base última, e Luhmann também aprofundou um pouco mais, neste contexto, a relação
entre o mundo social e a sua camada físico-biológica de ser. O modelo para tal foi fornecido
pela teoria dos meios de comunicação social de Talcott Parsons, por quem a violência física
foi entendida como o meio último de cobertura do poder como o meio generalizado de troca
do sistema político. O estado moderno, com o seu monopólio na utilização do poder físico,
tem o poder apenas como meio de troca simbólico generalizado, na medida em que só está
disponível como último recurso, mas normalmente não tem de o utilizar. Tal como o dinheiro
como meio de troca se baseia de forma abstracta no facto de o aceitarmos devido à
possibilidade de o trocarmos por produtos, mas isto não é normalmente verificado sempre que
se recebe dinheiro e é apenas desta forma que o dinheiro faz a sociedade funcionar
harmoniosamente. Luhmann generaliza um pouco este exemplo e vê que existe também uma
ligação com essa camada físico-orgânica de estar sob o meio de troca de vários subsistemas
sociais. Tal como no caso do amor como meio de troca de relações íntimas, é a sexualidade
que serve para fixar as relações amorosas numa camada biológica da vida. Isto torna o amor
como uma relação comunicativa construída a um nível social realmente forte e pode dar
estabilidade duradoura às relações familiares baseadas no casamento baseado no amor nas
sociedades modernas. Do mesmo modo, no caso da ciência como subsistema da sociedade, da
verdade como meio de intercâmbio, o trabalho de investigação para encontrar a verdade e as
decisões relacionadas só pode ser organizado quando a percepção sensorial
4
Este estudo de 1974 intitulado "Symbiotische Mechanismen "faz parte do livro "Soziologischen Aufklärung 3" e
é
disponível para mim, por isso vou citá-lo.
7
como meio final de descoberta é a base final para a tomada de decisões. Se a verdade em
relação a uma aparência não pode ser decidida por uma percepção final, indirecta, ela é
removida da perspectiva da ciência moderna.
Luhmann também faz algumas observações gerais neste estudo que também afectam a
relação entre a camada social do ser e a camada físico-biológica do ser. Uma refere-se ao
facto de que o lugar de ligação entre as duas camadas do ser é ao nível dos sistemas do mundo
social, que se baseia principalmente no aspecto biológico da pessoa, ou seja, ao nível dos
sistemas de interacção. 5 Contudo, se sabemos que na teoria de Luhmann, a organização social
dá um papel decrescente ao nível das interacções pessoais, e no curso da evolução social é
cada vez mais eclipsada a favor das organizações formais, e mesmo dentro do nível de
interacção, a interacção pessoal é cada vez mais substituída pela comunicação escrita
impessoal, ligando então a camada social do ser com a camada físico-biológica do ser ao nível
das interacções pessoais também significa diminuir esta ligação.
Outro comentário mais geral de Luhmann sobre a relação entre as duas camadas do ser é
que a violência física e a sexualidade nas relações sociais não só ocorrem como factos físico-
biológicos na sua crueldade, mas também são socializados e transformados por uma dimensão
simbólica. Ou seja, uma transformação destes factos físico-biológicos é também realizada na
camada de ser do mundo social: "Gewalt, Sexualität usw. haben in disem Sinne eine
symbolische, nicht nur eine physische oder organische Wirksamkeit (...) die soziale und
kulturelle Entwicklung von Medien-Codes Umdisposition im Bereich der symbiotishcn
Mechanismen erfordern mag" (Luhmann 1981: 231). Finalmente, uma das observações mais
gerais deste estudo é que mesmo que se aceite a tese evolutiva de que a interferência cultural-
simbólica cria contactos sociais cada vez mais espiritualizados nas sociedades modernas, isto
não significa que haja um afastamento do fenómeno da camada físico-biológica do ser: "Dies
Konstrastbeispiel erhärtet die Vermutug, daß selbst wenn man die These von einer kulturell-
symbolischen Steuerung der gesellschaftlichen Evolution akzeptiert, der Bezug zur Sphäre
physisch-organischen Zusammenlebens damit nicht bedeutungslos wird (...) Fruchtbarer wird
es sein, davon auszugehen, daß sinnhafte Erlebnisverarbeitung und Kommunikation ihr
physisch-organischen Substrat als Wirklichkeit nicht ignorieren". (Luhmann 1981:241).
A próxima reflexão de Luhmann sobre este tema está no seu livro de 1984 Sistemas
Sociais e aqui ele já expressou as suas teses de forma mais geral em termos das camadas de
ser da realidade. Ele partiu da premissa de que desde Kant, a velha concepção ontológica da
realidade tem sido descartada pelo pensamento filosófico moderno e o mero Ding an sich lá
fora no mundo só pode ser alcançado através de construções activas de consciência, e embora
a solução de Kant psicologize excessivamente este problema, isto pode ser resolvido de forma
mais adequada a partir de uma perspectiva ampla da teoria dos sistemas. Desta perspectiva
mais ampla, conclui-se que certos elementos da realidade não são predeterminados pela
própria realidade, mas, pelo contrário, são auto-construídos por diferentes sistemas
(biológicos, psicológicos e sociais). 6 Com base nisto
5"
Beim Aufbau sozialer Systeme erfüllen diese Bedingungen Interaktionssysteme, die durch relative rasch
strukturiert werden können, dadurch aber nicht festgelegt sind, sondern noch definierbar bleiben. Das gilt
eindeutig für gemeinsames Wahrnehmen, für Drohung mit physischer Gewalt, für Kommunikation über nur
sozial bzw. nur asozial befriedigende Bedürfnisse: Sexualität bzw. Befriedigung aus knappen Ressourcen. (….)
Der Bezuf auf präsente Organismen erleichtert mit anderen Worten die Herstellung der reflexiven Reziprozität
der Perspektiven und damit die soziale Strukturierung der Situation". Niklas Luhmann: Soziologische Aufklärung
3. ”. Westdeutscher Verlag. 1981. 231. p.
6
" Anders als die Wortwahl und Begriffstradition es vermuten lassen, ist die Einheit eines Element (zum
Beispiel einer Handlung) nicht ontisch vorgegeben. Sie wird als Einheit erst durch das System konstruiert, das
ein Element als Element für Relationierungen in Anspruch nimmt. Diese De-Ontologisierung und
Funktionalisierung des Eementansatzes ist in der modernen Wissenschaftsbewegung durch die
8
Por conseguinte, Luhmann afirma que a velha visão da estratificação da realidade e da sua
construção de baixo para cima deve ser rejeitada: "Es geht nicht einfach um einen
geschichteten Weltaufbau, bei dem die unteren Schichten zuerst fertiggestellt sein müssen,
bevor weitergebaut werden kann. Vielmehr werden die Voraussetzungen mit der Evolution
höheher Ebenen der Systembildung selbst erst in eine dafür geeignete Form gebracht. Sie
entstehen durch Inanspruchnahme. Deshalb ist Evolution nur durch Interpeneration, das heißt
nur durch wechselseitige Ermöglichung möglich". (Luhmann 1984:294). Assim, com esta
rejeição geral, Luhmann não entra em detalhes sobre as teorias ontológicas da estratificação
da realidade, nem sequer cita criticamente os autores relevantes na sua obra, incluindo Nicolai
Hartmann. Se depois abordarmos a solução de Luhmann ao analisar a relação entre o mundo
social e o ser humano, vemos que ele poderia mesmo ter chegado às conclusões de Hartmann.
Luhman rejeita o "ser humano" como a unidade básica da organização social nas teorias
sociais tradicionais porque, dada a crítica da tradição humanista, vê que ao conceber o ser
humano como a unidade da sociedade, toda a concepção de sociedade é também construída
como se a sociedade fosse apenas para os seres humanos, para o seu elemento último. Isto,
por sua vez, força a teoria social a tornar-se um quadro ideológico-normativo, pelo que este
quadro deve ser disposto de modo a não ser tendencioso. Portanto, o conceito unitário de
"homem" deve ser descartado e só a "pessoa" pode entrar no quadro como um elemento do
mundo social, o que só pode ser entendido como um ponto de identificação das expectativas
normativas e cognitivas do homem (pessoa) individual em formações do mundo social. Ou
seja, a pessoa representa apenas os aspectos do lado social do ser humano e corta os aspectos
biológicos e psicológicos do ser humano, e o próprio ser humano, juntamente com os seus
aspectos biológicos e psicológicos, está fora do mundo social na teoria de Luhmann e é
definido como o seu ambiente. Por outro lado, a reduzida "pessoa" como aspecto social do ser
humano aparece apenas como uma construção significativa na reconstrução do mundo social:
"Wir wählen den Ausdruck "Mensch", um das festzuhalten, daß es sowohl um das psychische
als auch das organische System des Menschen geht. Den Ausdruck "Person" wollen wir in
diesem Zusammenhang weitgehend vermeiden, um ihr für die Bezeichnung der sozialen
Identifikation eines Komplexes von Erwartungen zu reservieren, die an einen Einzelmenschen
gerichtet werden". (Luhmann 1985:286).
O próximo passo teórico construtivo de Luhmann é ligar os aspectos biológicos e
psicológicos do ser humano, entendido como o ambiente necessário do mundo social, ao
conceito de penetração. Com efeito, isto significa ligar a camada social do ser com as
camadas psicológicas e biológicas do ser da realidade. Com a penetração, uma entidade a um
nível de sistema torna a sua complexidade disponível para outra entidade a outro nível de
sistema, sem a qual não poderia construir e existir. (Assim, sem vida biológica, as entidades
do mundo social não poderiam existir). E podemos falar de penetração mútua,
interpenetração, quando as entidades de ambos os níveis do sistema se transformam através
do contacto. 7 Se olharmos agora para as análises de Hartmann sobre a divisão do ser humano
e do mundo humano em quatro camadas do ser e o enfoque na camada mais significativa do
ser da sociedade humana, Luhmann também teria posto de lado o quadro social de base
humana, que rejeitou por causa da sua defesa
Mathematisierung der Naturwissenschaften in Gang gebracht worden". Luhmann: Soziale Systeme. Surhkamp,
Frankfurt am Main, 1984. 42.p.
7
"Von Penetration wollen wir sprechen, wenn ein System die eigene Komplexität (und damit: Unbestimmtheit,
Kontingenz und Selektionszwang) zum Aufbau einer anderen System zur Verfügung stellt. In genau diesem
Sinne setzen soziale Systeme "Leben" voraus. Interpenetration liegt entsprechend dann vor, wenn dieser
Sachvehalt wechselseitig gegeben ist, wenn beide também Systeme sich wechselseitig dadurch ermöglichen,
daß
sie in das jeweils andere ihre vorkonstituierte Eigenkomplexität einbringen. (...) Im Falle von
Interpenetration wirkt das aufnehmende System auch auf die Strukturbildung der penetrierende Systeme
zurück". (Luhmann 1984:290.)
9
contra o preconceito humanista, com base nas análises de Nicolai Hartmann. Se ele tivesse
assumido isto, poderia também ter tentado construir uma reconstrução teórica mais precisa da
sociedade sobre a camada do ser espiritual da realidade.
Luhmann restringe largamente a ligação entre sistemas sociais e sistemas psíquicos ao
seu momento comum de significado e, portanto, todo o processo espiritual-emocional do
sistema psíquico só pode parecer estreito. 8 No entanto, uma vez que os processos espiritual-
emocionais estão constantemente em contacto com os instintos dos processos biológicos a
partir de baixo, e também levam os seus impulsos para a frente através da transformação, toda
esta camada de ser cai fora da perspectiva de Luhmann. Usando a teoria do acoplamento
estrutural de Maturana, onde a ligação ocorre apenas ao nível dos elementos e através deste
nível as estruturas mudam apenas indirectamente devido à mudança dos seus elementos
interligados, Luhmann resolve a ligação das camadas de ser da seguinte forma: "Es sind
Differenz und Ineinandergreifen von Autopoiesis und Struktur (die eine sich kontinuerlich
reproduzierend, die andere sich diskontinuerlich ändernd), die für das Zustandekommen von
Interpenetrationsverhältnissen zwischen organisch/psychisch und sozialen Systemen auf
beiden Seiten unerläßlich sind" (Luhmann 1984:297). Isto significa, por exemplo, que os dois
níveis do sistema têm um contacto constante devido ao significado que têm como bloco de
construção comum, e tanto as contribuições significativas dos sistemas psíquicos dos
participantes na comunicação como as contribuições significativas dos subsistemas sociais
envolvidos na comunicação contribuem para o desenvolvimento futuro destes sistemas
sociais, e algo também transforma os sistemas psíquicos participantes neste contacto. Mas
apenas na medida em que a estrutura do sistema psíquico o permite, mas, por outro lado, esta
estrutura em si é de certo modo alterada pela mudança do seu elemento. Além do facto de que
desta forma apenas a parte intelectual da camada psíquica do ser é tida em conta e a influência
dos instintos biológicos no material intelectual do sistema psíquico é cortada por baixo, pode-
se dizer em geral que nesta teoria não existe uma estrutura ascendente das camadas do ser,
mas apenas uma irritação mútua e a consequente mudança parcial.
Para dar um exemplo concreto do efeito deste estreitamento, podemos mencionar a
comunicação amorosa no mundo social e a resultante relação intelectual-emocional
duradoura. É bastante óbvio que nesta relação a existência e o grau de instinto sexual
biológico nos dois parceiros desempenha um papel significativo, e se isto for mínimo por
alguma razão biológica no caso de um parceiro, por exemplo, a relação amorosa no caso desse
parceiro será muito diferente do caso do outro parceiro participante na relação que tem um
forte instinto sexual, e presumivelmente esta diferença conduzirá em breve a uma ruptura da
relação. Ou seja, o amor torna-se biologicamente permeado não só por uma relação intelectual
mas também pela sexualidade, e esta componente biológica é transformada para o nível
emocional-espiritual. E isto, combinado com uma tal base biológico-espiritual, cria um tipo
completamente diferente de comunicação e parceria amorosa do que entre dois parceiros com
o mesmo impulso sexual biológico. Contudo, o mesmo se aplica à análise de uma série de
outros fenómenos sociais onde ocorrem os efeitos directos de fortes estímulos biológicos, tais
como o funcionamento do instinto vital face ao perigo mortal, o que no soldado em guerra
leva à revogação de uma série de normas morais até agora consideradas sagradas e ao
renascimento do antigo instinto matador. Então, após uma guerra, estas personalidades
"devastadas", remodeladas para matar, crueldade e mesmo apreciação destas actividades,
serão quase inaptas para a reintegração na vida civil durante muito tempo. Em contraste, tais
instintos de vida na vida civil
8
"Von hier aus wird besser verständlich. weshalb dar Sinnbegriff theoriebautechnisch so hochrangig
eingeseztzt werden muß. Sinn ermöglicht die Intepenetration psychischer und sozialer Systembildungen bei
Bewahrung iherer Autopoiesis; Sinn ermöglicht das Sichverstehen und Sichfortzeugen von Bewußtsein in der
Kommunikation und zugleich das Zurückrechnen der Kommunikation auf das Bewußtsein der Beteiligten".
(Luhmann 1984:297).
10
9
Estes estudos apareceram juntos no volume de Luhmann de 1995, e vou citá-los aqui, ver Luhmann:
Soziologische Aufklärung 6. Die Soziologie und der Mensch. Westdeuscher Verlag. Opladen. 1995.
11
processos dos sistemas mentais. 10 Contudo, algumas funções subordinadas são declaradas
uma ou duas vezes por Luhmann em relação às emoções, por exemplo, que actuam como um
sistema imunitário de consciência quando o processo de pensamento consciente vacila, e
depois desaparecem novamente quando o processo de pensamento é restaurado. De acordo
com os seus escritos, Dirk Baecker também considera que este papel subordinado é, até certo
ponto, demasiado pequeno, mas considera desnecessário aceitar a expansão radical de Luc
Ciompi relativamente ao papel das emoções no funcionamento do sistema mental. Ele
menciona, no entanto, uma razão prática nesta rejeição. Na sua opinião, a teoria das emoções
sociológicas ainda se encontra a um nível empírico tão incerto que é melhor evitar esta
incerteza. 11
No entanto, a explicação de Baecker para a relutância de Luhmann em reconhecer o
papel do mundo emocional em eventos sociais e instituições sociais é interessante. De acordo
com a sua descrição, lidar com as emoções era estranho a todo o estilo teórico de Luhmann, e
ele atribui isto aos acontecimentos históricos da juventude de Luhmann, quando a supressão
dos movimentos fundamentalistas e fascistas na Alemanha de Hitler moldou as condições de
vida de Luhmann e estes movimentos dependeram fortemente da libertação das emoções
colectivas e dos seus efeitos prejudiciais. Só no trabalho tardio de Luhmann é que isto
começou a relaxar um pouco, mas isto já não mudou as direcções originais. 12 Esta é apenas a
meditação de Baecker sobre encontrar a causa no pensamento de Luhmann, mas como ele
esteve ao lado de Luhmann em Bielefeld durante muitos anos entre 1980 e 1995, pôde
conhecer este lado de Luhmann, que de resto era muito reservado nos seus assuntos pessoais
interiores. Por conseguinte, esta explicação deve ser tida em conta. É claro que isto não é
desculpa para a deficiência teórica de Luhmann nesta área, pelo que o papel de Ciompi para
as emoções nos processos mentais da psique e na construção estrutural e eventos do mundo
social merece a maior atenção.
Contudo, a omissão de emoções na análise dos processos mentais não pode, a meu ver,
ser explicada simplesmente pela socialização pessoal particular de Luhmann. Isto decorre da
sua decisão teórica tomada muito antes, quase no início da sua formação teórica. De acordo
com isto, o significado é o bloco de construção comum ao nível do sistema acima do nível do
sistema físico e biológico, ou seja, ao nível tanto do sistema psíquico como do sistema social.
Esta decisão básica não inclui a captação de emoções, e esta captação só poderia ter sido feita
através da correcção desta decisão básica. Esta correcção, juntamente com uma série de outras
alterações, só poderia então ter sido inconsistente, e Luhmann nunca esteve preparado para
fazer tais correcções na sua teoria.
10
"In der Tat spielen Emotionen im Gesamtwek von Niklas Luhmann keine sehr prominente Rolle. Luhmann
hat zwar die Stelle markiert, an der seines Erachtens eine Theorie der Gefühle von seiner Theorie sozialer
Systeme abzweigen, beziehungsweise an diese Theioroe angedockt werden könnte, doch hat er dem
Phänomen der Gefühle nie die aufmerksamkeit geschenkt, die etwa Ciompi angesichts der nicht nur
psychischen, sondern auch sozialen Prominenz des Phänomens für geboten hält". (Baecker 204:9-10.)
11
"Affektkontrolle hat es immer auch mit dem Adressieren von Affekten zu tun, und niemend weiß, welche
Emotionen morre hervorruft. Die Soziologie der Emotionen stellt diese Unvorhersehbarkeit und
Unberechenbarkeit von Emotionen in Rechung, indem sie sie als Phänomene beschreibt, in denen die
verschiedene Systemebenen des Organismus, des Bewusstseins und der Kommunikation aufeinandertreffen,
ohne dass man genau wusste, wie sich diese Systeme ausdifferenzieren und wie sie miteinenader gekoppelt
sind. (....) Mir scheint siese Frage nicht entscheidbar zu sein, solange die Theorie der Emotionen so schwach
ausgearbeitet ist, wie dies gegenwärtig der Fall ist". (Baecker 2004:12-13.).
12
"Diese Abstinenz gegenüber dem Phänomen der Gefühle hat bei Luhmann Gründe, die etwa mit seinem
Theoriestil zu tu haben, der wiederum seine zeithistorischen Motive hat. Uma Teoria entre duas coisas, o que é
um Diferenciação de um Modelo de Gestão e de um Modelo de Gestão de Negócios, e que não se trata de um
Modelo de Gestão de Diferenças no âmbito da Gestão de Negócios e de um Modelo de Gestão de Negócios
Extremamente rápido, o que não se encontra em discussão com os Fenómenos, as Funcionalidades de Gestão
de Negócios mais difíceis, as Diferenciações de Negócios e os Problemas de Gestão de Negócios mais difíceis.
Genau deswegen ist es ja so bemerkenswert, dass Luhmann diese Haltung in seinem Spätwerk lockert und sich
ein "Verbindungsmedium" Werte überhaupt vorstellen kann". (Baecker 2004:10).
12
Além de investigar a psique, Luc Ciompi, como psiquiatra médico, também lidou com as
emoções e monitorizou continuamente os resultados das experiências psicológicas e sociais
psicológicas neste campo. Nas suas análises torna-se claro que o pensamento humano está
rodeado em todos os momentos pelos componentes emocionais da psique e que, na sua
maioria, todo o nosso conhecimento não é consciente e perceptivelmente acompanhado pela
nossa disposição emocional. (Ver Ciompi 1997, 2004) Quando acumulamos conhecimento e
experiência, as nossas atitudes emocionais em relação ao assunto são pressionadas na nossa
memória juntamente com o conhecimento e a experiência, e quando o conhecimento e a
experiência são mais tarde recordados, estas emoções também aparecem, inseparáveis da
experiência e do conhecimento. Não pensamos puramente intelectualmente, mas o que
desperta o nosso interesse, que memórias e associações são empurradas para cima ou
permanecem asfixiadas à vista de algo, são importantes, e por isso certos caminhos do
pensamento são bloqueados e outros trazidos para o primeiro plano. Ou seja, o pensamento e
as experiências usadas para o fazer são emocionalmente coloridas, e o pensamento intelectual
e os seus processos de pensamento correm constantemente em conjunto com processos
emocionais nos nossos cérebros. A Ciompi salienta que as emoções correm de forma vigorosa
com os nossos processos intelectuais, especialmente quando adquirimos novos conhecimentos
numa nova situação. Quando mais tarde o incorporamos a par dos conhecimentos existentes,
os nossos novos conhecimentos adquiridos a partir de novas experiências já se tornam rotina e
com repetição, os processos emocionais e o consumo de energia emocional são minimizados.
No entanto, se mais tarde surgir uma situação problemática relacionada com estas, a dimensão
emocional é também reactivada e corre a par com o processamento do problema também a
nível intelectual. 13
Em resumo, Luhmann limita a psique, o sistema psíquico (ou várias vezes chamado apenas
"consciência") a processos intelectuais que vão do pensamento ao pensamento. No entanto, as
análises do Ciompi deixam claro que esta visão falha a verdadeira psique humana e não a
pode captar adequadamente sem processos emocionais. Em contraste com Luhmann, Nicolai
Hartmann, com a sua teoria da realidade em camadas amplamente formulada, foi capaz de
formular mais adequadamente o conjunto de componentes biológicos, psicológicos e
intelectuais da existência humana e a sua cooperação. Passemos, portanto, a Hartmann nos
seguintes tópicos ao pesquisar o tema.
Hartmann cultivou um tipo de filosofia que concebeu não como outra actividade intelectual
para além das ciências, mas como o tipo de ciência mais abrangente, o sintetizador mais geral
de conhecimentos científicos mais específicos. 14 Como resultado, com base nos resultados
científicos empíricos do seu tempo, tentou repensar as categorias ontológicas mais abstractas
herdadas do passado. Assim, tentou resumir certas categorias de Platão, Aristóteles, os
Neoplatonistas e depois os grandes filósofos da Idade Média e da Nova Era (Duns Scotus,
Leibniz, Kant, Hegel e neo-Kantianismo) à luz da física, biologia, psicologia e recentes
descobertas das ciências sociais. Em contraste com Luhmann, que essencialmente compilou a
sua teoria social geral apenas a partir de certas áreas das ciências sociais e apenas
13
"Zur Alltagslogik wird alles anfänglich Neue und Aufregende, das sich oft genug widerholt. Die beteiligten
Emotionen werden zwar durch Gewöhnung zunehmend unbewusst, behalten aber ihre typischen
Operatoreffekte, "wie selbsverständlich" bei - ein höchst sinnvoller Mechanismus, der gleiche Leistung mit viel
geringerem affektenergetischem Aufwand ermöglicht (...) Passiert ind Ungewohntes, so flammen alle latenten
Affekte wieder auf". (Ciompi 2004:10.)
14
Para uma descrição detalhada da filosofia de Hartmann, ver Wolfgang Stegmüller: Hauptströmungen der
Gegenwartsphilosophie. Alfred Körner Verlag 1999. 3ª edição
13
A camada psíquica de estar ligado a cada pessoa está sempre na vizinhança do espírito pessoal
e flui juntos na consciência humana. Apenas uma parte da camada psíquica do ser aparece na
consciência, e os processos mentais inconscientes complementam isto. Mas onde está a
fronteira e o que dá o seu próprio terreno à camada psíquica do ser? Se procurarmos uma
resposta a esta pergunta, encontramos confusão em Hartmann.
No seu livro sobre os problemas da camada espiritual do ser de 1933, ele entra em mais
detalhes e escreve aqui que a camada psíquica do ser é uma fina faixa entre as influências das
camadas inferiores biológicas e superiores espirituais adjacentes do ser: "Das Bewußtsein ist
gleichsam nur ein schmaler Streifen zwischen ihm und dem unbewußt Seelischen". Beide
greifen mannigfach bestimmtend in seiner Ebene ein, aber in entgegengesetz Sinne
"(Hartmann 1962: 50-51) O sector subconsciente psíquico estende-se ao mundo dos insectos
biológicos, a partir da outra direcção, no entanto, os processos do espírito pessoal descem para
a camada psíquica do ser e ambas as influências opostas dão em conjunto o funcionamento da
camada psíquico-espiritual do ser. A partir desta descrição, porém, a própria natureza da fina
faixa específica fica inexplicada, e a camada psíquica do ser é na realidade dividida nas
direcções inferior e superior entre duas camadas adjacentes do ser. Se for este o caso, porém,
coloca-se a questão de saber por que razão não basta falar apenas dos instintos da camada
biológica do ser a partir de baixo e dos processos conscientes da mente pessoal da camada
mental do ser a partir de cima? Mas não só a especificidade da "camada fina" permanece
obscura aqui, como também faltam emoções na descrição de Hartmann da camada psíquica do
ser. Se procurarmos descrições alternativas, podemos mencionar um dos parceiros de
discussão de Hartmann, Max Scheler, em cuja descrição as emoções aparecem, e Arnold
Gehlen, como seu parceiro de discussão comum, que argumenta ferozmente com Scheler
sobre esta mesma questão.
Em particular, no seu resumo de 1940, Hartmann salienta que das duas camadas
superiores do ser psíquico e do espiritual, os produtos da camada biológica inferior do ser não
são transformados, mas sem qualquer transformação as camadas superiores apenas se
constroem sobre elas, ou seja, a camada psíquica directamente sobre a camada biológica e a
espiritual sobre a camada psíquica. Isto contrasta com o que Hartmann escreveu alguns anos
antes, e ele reconcilia as duas afirmações opostas, enfatizando que estas quatro camadas do
ser, para além da sua independência, ainda estão unidas em seres humanos individuais: "Das
seelische Sein enthält die organische Prozesse nicht, wohl aber enthält "der Mensch" sie in
sich; denn der Mensch ist selbst ein geschichtetes Wesen, er ist auch Organismus, und folglich
auch ein materiell-körperschaftes Gebilde. Insofern hat er die niederen Kategorien alle als
konstituirende Momente an sich". (Hartmann 1940:496) No entanto, estas análises não
substituem o facto de que a "fina faixa" da camada psíquica do ser não está cheia de conteúdo.
No volume de 1940 encontramos outra pista que nos poderia aproximar da procura do terreno
da camada psíquica do ser. Pois escreve, a propósito da independência das duas camadas
superiores do ser em relação ao material das camadas inferiores, que tal como a espacialidade
e a substância inerte das camadas inferiores não aparecem na camada psíquica do ser, também
as act-caracteres do psíquico não aparecem no espírito objectivo da camada intelectual do ser.
15
Assim, a camada psíquica do ser é o reino da acção humana, em contraste com o terreno do
espírito objectivo da camada intelectual do ser, onde as acções humanas não aparecem.
Hartmann distingue assim apenas o espírito objectivo da alma e não menciona o espírito
pessoal, que está directamente adjacente à camada psíquica do ser no indivíduo. Por
conseguinte, também não podemos obter o material procurado da camada psíquica do ser a
partir desta análise.
Para compensar esta situação, se não quisermos descartar completamente a camada
psíquica do ser e descrever o funcionamento do ser humano e da comunidade humana em três
15
"Räumlichkeit und träge Substanz kehren oberhalb des Organischen nicht wieder, die Aktcharaktere des
Seelischen nicht im objektiv Geiste". (Hartmann:1940:512).
15
camadas de ser em vez de quatro, só podemos utilizar a análise precoce de Luhmann sobre o
papel da sexualidade biológica na emoção do amor como uma solução. Em geral, pode
afirmar-se que os instintos da camada biológica do ser aparecem em forma domada e
absorvidos através da transformação das emoções na camada psicológica do ser. Por outro
lado, as emoções também recebem uma transformação (uma atenuação e um enriquecimento
ao mesmo tempo) através de produtos intelectuais da camada espiritual do ser. Como no caso
do impulso sexual, a selvageria da mera sexualidade biológica é transformada pelas emoções
psíquicas da relação amorosa, mas já com os tons e experiências intelectuais das grandes
descrições amorosas, romances e maravilhosas melodias das canções de amor de todos os
tempos pelas quais os seres humanos foram socializados. Nas relações amorosas e
comunicações reais, a adição destas três camadas de ser é inseparável e construída uma sobre
a outra, e no caso da eventual baixa presença de uma delas, pode fazer com que a relação
amorosa sobreviva apenas de forma limitada. Para compreender esta estrutura, deve aceitar-
se, no caso dos instintos, que o mundo instintivo, que no mundo animal se limita a certos
comportamentos e coordenações de movimento, aparece no caso dos seres humanos, por um
lado reduzido mas, por outro, sob a forma de motivações gerais (instinto sexual, instinto de
vida, instinto de cuidado, etc.) e eles têm muitas funções nesta forma. Arnold Gehlen criticou
Konrad Lorenz por ter assumido instintos de alguma forma no caso dos seres humanos, mas
nesta forma a verdade de Lorenz deve ser aceite. 16 Vale também a pena mencionar que Max
Scheler também enfatiza o papel dos instintos sob a forma de esforços instintivos nos seres
humanos e escreve a sua função como camada mediadora entre as funções da vida biológica e
a consciência (ver Scheler 2016:30-3).
17
16
"Dennoch sind die Versuche, das Konzept des Instinkts direkt auf den Menschen zu übertragen, äußerst
dünn und enttäuschend (...), insbesondere vertreten durch Konrad Lorenz. (...) Es gibt keine allmähliche
Beziehung zwischen intelligentem und instinktivem Verhalten, aber (...) es gibt eine Tendenz zum gegenseitigen
Ausschluss. "(...) (Gehlen 1974: 32)
17
"Wir können den Fehler sehen und das ist der grundlegender Fehler von Descartes, der das Ignorieren des
tierischen und menschlichen Instinktsystems bedeutet, obwohl sie die Vermittlung und Einheit zwischen
Bewegungen des realen Lebens und den Inhalten des Bewusstseins sind" (Scheler 2016: 92).
16
Da mesma forma, a camada biológica do ser é cada vez mais dominada pela camada
espiritual do ser e esta camada superior não se baseia simplesmente nela, pois após a
descoberta do ADN em 1951, cuja existência Hartmann apenas tinha adivinhado
teoricamente, o editor genético pode agora aceder-lhe de forma mais precisa. 18 Desta forma,
o indivíduo vivo resultante torna-se concebível através da camada espiritual do ser. Mas as
soluções hoje conhecidas apenas nos laboratórios de investigação para a criação da artéria
artificial ou da mesma forma para a renovação dos principais órgãos do corpo humano por
células estaminais implantadas e o seu prolongamento radical da vida, levam a que as leis da
camada biológica do ser possam ser anuladas pela camada espiritual do ser. Também se deve
mencionar as experiências com a emulação do cérebro e da mente humana, que, se bem
sucedidas, podem levar a que a camada intelectual do ser humano individual seja transferida
para um portador de computador no futuro de uma forma totalmente funcional, sem uma
camada biológica do ser.
Perante isto, pode dizer-se que Hartmann não enfatizou suficientemente o progresso já
observado na sua velhice no que diz respeito à capacidade da camada intelectual do ser de
penetrar a camada inferior do ser, e portanto a tese da invulnerabilidade da camada inferior da
camada superior em relação a todas as camadas da vida provou ser errada no caso da camada
espiritual mais elevada. Esta correcção também pode ser importante porque podemos
teoricamente assumir que através do desenvolvimento futuro da inteligência artificial e do seu
possível desprendimento da consciência humana, esta dependência decrescente do estrato
superior em relação ao estrato inferior só seria completada. Desta forma, poderia ser que a
inteligência artificial, que se tornou autónoma, pudesse existir como uma nova camada de ser
apenas com base na camada física mais baixa de ser sem uma camada biológica.19 Sem esta
dependência decrescente, esta possibilidade não poderia existir, mas com a aceitação deste
desenvolvimento, só poderia ser concebida como a conclusão da dependência já decrescente.
18
"Man weiß hier sehr wohl, dass der morphologishe Bau des Organismus seine bestimmten Gesetze hat (...)
man weiß auch, dass die letzteren Funktionsgeformtheiten sind, in denen die Gewähr liegt, dass die gleiche
Formung sich wiederbildet und somit das Leben sich erhält". (Hartmann 1940: 456).
19
Para detalhes sobre estas questões, ver Béla Pokol, Küntliche Intelligenz: Die Entstehung einer neuen
Seinsschicht? (KI - im Spiegel von Nicolai Hartmanns Ontologie) Pázmány Law Working Papers, Nr. 2018/12).
17
Capítulo II
Inteligência Artificial: O surgimento de uma nova camada do
ser? (IA no espelho da ontologia de Nicolai Hartmann)
A força crescente da inteligência artificial (IA) já assustou os seus orientadores (Elon Musk) e
teóricos (Stephen Hawking, Nick Bostrom) nos últimos anos, e é retratada como um
desenvolvimento perigoso que está a crescer sobre os seres humanos e a libertar-se do
controlo humano. Uma outra descrição, retirada de uma observação de John of Neuman, trata
da novidade inerente da IA como a emergência da era da singularidade. 20 De acordo com esta
última, o crescente poder computacional e o programa mais rápido devido à auto-
aprendizagem da inteligência artificial levam a um ponto em que a limitação da aceleração
pelo ser humano será eliminada dos processos da IA. A partir deste momento, que é singular
na história mundial, a IA de auto-aprendizagem crescerá a uma velocidade mil vezes superior,
e dentro de poucas horas tornar-se-á completamente incompreensível também para os
profissionais de TI. A partir deste desenvolvimento - juntamente com a crescente robótica - a
criação de todas as coisas será possível para a IA, e desta forma não só a inteligência artificial
se torna incompreensível para os humanos, mas também estes são afastados da orientação do
mundo. E esta é a ocorrência da era da singularidade.
Se colocarmos estes conceitos e medos de inteligência artificial entre parênteses durante
algum tempo, e em vez disso, nos concentrarmos nos conceitos filosóficos que analisaram os
saltos evolutivos da existência na Terra até agora, então podemos olhar para as categorias
mais bem fundamentadas da ontologia para a compreensão da novidade da IA. Nos últimos
100 anos, as análises ontológicas já se basearam em bases empíricas, e as novidades da
inteligência artificial podem ser melhor compreendidas com base nestas análises. Considero
as análises de Nicolai Hartmann sobre as camadas ontológicas do ser e sobre a evolução
destas camadas, conforme apropriado, a fim de poder comparar o actual salto evolutivo
através da IA com os saltos anteriores. Foi escrito por Hartmann como uma vez a camada
biológica do ser pôde estabilizar-se sobre a camada física do ser, e durante o desenvolvimento
das plantas, e depois os animais das patas superiores no estado de desenvolvimento dos
mamíferos, uma camada emocional-psíquica do ser surgiu sobre as camadas físicas e
biológicas do ser e através da evolução gradual dos primatas, surgiram os germes da camada
mental do ser, que se tornaram particularmente dominantes no neing humano e nas
comunidades, e as camadas inferiores do ser foram determinadas cada vez mais pela camada
mental do ser. Agora, podemos ser confrontados com a emergência da IA antes de um salto
evolutivo mais recente, e sobre a camada mental do ser de
20
O facto de Neumann ser o primeiro criador da ideia de singularidade só é conhecido indirectamente de Stam
Ulam. Ele lembrou-se de uma conversa com ele desde o início dos anos 50, quando esta ideia foi mencionada
por Neumann: "O progresso sempre acelerado da tecnologia e as mudanças no modo de vida humana dão a
aparência de aproximação de alguma singularidade essencial na história da raça para além da qual os assuntos
humanos, tal como os conhecemos, não poderiam continuar". Este é o primeiro uso conhecido da palavra
"singularidade" no contexto da história da tecnologia humana". (Citado de Kurzweil, 2012: 185).
18
humano começa a desenvolver uma nova camada de ser como herdeiro da camada mental
humana anterior que, como inteligência artificial auto-organizadora a partir de agora, o nível
mais alto de ser no mundo será a força dominante.
Nicolai Hartmann já afirmou certas ligações entre as camadas do ser, e para a
coexistência da camada cada vez mais recente do ser com as camadas mais baixas e mais
velhas, ele declarou as leis. Desta forma, vale a pena resumir brevemente as suas análises
antes de examinar a camada de inteligência artificial auto-organizadora.
Nos seres humanos, o peculiar "humano" está contido na camada mental do ser, e o seu
domínio gradual sobre as camadas físicas, biológicas e psíquicas do ser significa a evolução
da vida humana, mas o homem é sempre determinado pelas leis das quatro camadas do ser ao
mesmo tempo. O homem é um ser multicamadas, e as comunidades humanas só podem
desdobrar-se no quadro cumulativo das leis das quatro camadas do ser. Os estratos superiores
do ser só se podem desenvolver quando as leis dos estratos inferiores são respeitadas, mas isto
não constitui obstáculo à autonomia das leis dos estratos superiores do ser em relação às leis
dos estratos inferiores do ser. A construção da camada superior do ser significa a
transformação das categorias da camada inferior do ser, mas as camadas superiores já não
significam tal transformação, mas são construídas com as suas próprias categorias sobre as
camadas inferiores do ser. Enquanto os elementos essenciais do mundo físico são utilizados
pela camada biológica do ser - transformada apenas pelas leis do seu próprio ser - não há
elementos materiais das camadas inferiores nas camadas psíquicas e mentais do ser.21
Hartmann descreveu estas ligações da seguinte forma: "Um Mehrschichtigkeit zu begreifen,
genügt es, sich an allgemein Bekanntes zu halten. Niemand zweifelt, daß organisches Leben
sich vom Physisch-Materiellen wesenhaft unterscheidet. Aber es besteht nicht unabhängig
vom diesem: es enthält es in sich, beruht auf ihm, ja die Gesetze des Physischen erstrecken
sich tief in den Organismus hinein. Was nicht hindert, daß dieser über sie hinaus noch seine
Eigengesetzlichkeit habe, die in jenen nicht aufgeht. Solche Eigengesetzlichkeit überformt
dann die niedere, allgemein physische Gesetzlichkeit. Ähnlich ist es mit dem Verhältnis des
seelischen Seins zum organischen Leben. Das Seelische ist, wie die Bewußtseinphänomene
beweisen, dem Organischen durchaus unähnlich, es bildet offenbar über ihm eine eigene
Seinsschicht. Aber es besteht überall, wo wir ihm begegnen, in Abhängigkeit vom ihm, als
getragenes Sein. (....) Das seelische Sein ist also zwar getragenes Sein, aber in seiner Eigenart
ist es bei aller Abhängigkeit autonom. Schließlich ist es seit der Überwindung des
Psychologismus eine wohlbekannte Tatsache, daß das Reich des geistigen Seins in dem des
seelischen und seiner Gesetzlichkeit nicht aufgeht. Weder die logische Gesetzlichkeit noch
das Eigentümliche von Erkenntnis und Wissen hat sich psychologisch ausschöpfen lassen.
Noch viel weniger die Sphäre des Wollens und Handelns, der Wertung, des Rechts, des Ethos,
der Religion, der Kunst. Diese Gebiete alle ragen, schon rein dem Phänomengehalt nach, weit
hinaus über das Reich des Psychischen Phänomene. Sie bilden als geistiges Leben eine
Seinsschicht eigener und höherer Art, mit deren Reichtum und Mannigfaltigkeit sich die
niederen nicht entfernt
21
Pode ser mencionado na nota de rodapé que, entretanto, a investigação cerebral revelou - com base nas
iniciativas de Donald O. Hebbi em 1949 - que entre as centenas de milhões de células neuronais no cérebro, os
grupos individuais destes neurónios são sempre diferenciados das sempre novas experiências e conhecimentos
Nova organização. Assim, os processos mentais também têm uma base material no cérebro. Para uma análise
sobre isto, ver o breve livro do capítulo Neokortex (Kurzweil, 2012: 85-95).
19
messen können. Aber auch hier waltet sich das gleiche Verhältnis zum niederen Sein. Der
Geist schwebt sich nicht in der Luft, wir kennen ihn nur als getragenes Geistesleben -
getragen vom seelischen Sein, nicht anders als diese vom Organismus und weiter vom
Materiellen getragen ist. Auch hier also, und zwar hier erst recht, handelt es sich um
Autonomie der höheren Schicht gegenüber der niederen, gerade in der Abhängigkeit von ihr.
(Hartmann, 1962:16-17)
Assim, o homem é a unidade de quatro camadas do ser, e a razão humana só pode
exercer um efeito sobre as camadas inferiores do ser através da base biológica do corpo
humano. Em particular, a actividade puramente intelectual é o terreno da camada mental do
ser, e Hartmann distingue três áreas internas desta camada: o domínio do espírito individual, o
da mente objectiva e o da mente objectivada. As duas primeiras são o espírito vivo, e a mente
objectivada é o terreno do espírito morto, mas o conteúdo da mente objectivada pode sempre
ser rastreado, e assim estes conteúdos podem ser trazidos de volta para o espírito vivo. A
mente individual vive em conjunto com o conteúdo do espírito objectivo do seu tempo, e mais
ou menos uma pluralidade de mentes individuais transporta a mente objectiva e as suas
formas interiores como o Volksgeist e outras formas espirituais colectivas da época. Mas
também a mente individual tem em grande parte conteúdos como a mente objectiva, e assim a
sua relação como portadores recíprocos pode ser descrita. A terceira forma - a da mente
objectivada - aumenta sempre com o enriquecimento da fixação do conteúdo mental com base
na escrita e outras formas de fixação. Desta forma, as mentes individuais podem, para além do
conteúdo da mente objectiva da sua época, utilizar adicionalmente os conteúdos intelectuais
de toda a época, e como reacção podem assim enriquecer o conteúdo e as formas do espírito
objectivo da época. Ao nível da camada mental do ser, surge assim a colectividade viva,
enquanto que ao nível biológico o quadro da existência comum é suportado apenas pela
comunidade da raça sobre os seus indivíduos sempre em movimento, e assim a vida psíquica é
isolada apenas no indivíduo e não é transferível. Como Hartmann escreve, "Sein seelisches
Sein hat jeder für sich". Es ist esoterisches Sein des Individuums,unübertragbar, mit dem Man
wohl Fühlung haben, in das man aber nicht hineingelangen kann. Man kann wohl mit ihm
mitleiden und sich mitfreuen: aber es ist und bleibt ein zweites Leiden und ein zweites
Sichfreuen neben dem original, und es bleiebt auch bei aller Innigkeit ein qualitativ von ihm
verschiedenes. Den Gedanken aber, den einer hat, kann man als denselben denken, wenn man
ihn erfaßt; es ist zwar ein zweiter Gedankenakt, Akt eines anderen Bewußtseins, aber es ist
derselbe Gedanke" (Hartmann 1962:71)
Hartmann faz outra distinção dentro da camada mental do ser que aparece na fronteira
entre o espírito objectivo (vivo) e o espírito objectivado (morto). De acordo com esta
distinção, o conteúdo mental fixo do passado - convicções, padrões de comportamento,
valores morais e culturais, etc. - podem aparecer no presente como padrões culturais
maciçamente aceites e seguidos. Mas significa uma forma diferente de injectar o passado
quando este só é definido como um conteúdo intelectual puramente objectivo para a
compreensão dos indivíduos, mas já não aparece ao nível de crenças, conhecimentos e
preconceitos cometidos massivamente. Então apenas o espírito individual pode cair
deliberadamente sobre estes conteúdos espirituais mortos e objectivos, e apenas ele pode
trazê-los para o espírito vivo e objectivo: "Das ist das Inkraftsein oder Noch-Lebendigsein
(einer Sitte, Anschauung), also die Kraft der "Sache", den fortlebenden Geist mit einer
gewissen Stetigkeit bei sich festzuhalten, auch da, wo er sich sonst zusehends verändert (...)
Beim vernehmlichen Hineinragen ist es überall anders, wo die Sache selbst nicht mehr
fortlebt, die unmittelbare Tradition abgerissen ist". (Hartmann 1962:38). Vejamos como a
relação entre estas três áreas da camada mental do ser mudou - já para além do tempo de
Hartmann na década de 1930 - e como as formas da inteligência artificial de hoje em dia se
infiltraram nos conteúdos antigos.
20
22
Nobert Elias ilustra o curso desta civilização nas formas alteradas de satisfazer as necessidades naturais com
base numa base empírica rica, ver Elias, 1976.
21
Como esclarecido no ponto de partida, o homem é o conjunto de quatro camadas do ser, e por
detrás de toda a acção mental estão presentes as suas camadas físicas, psicológicas e
biológicas do ser. Com este modo de funcionamento diante dos olhos, as diferenças entre o
homem e o robô de inteligência artificial podem ser melhor esclarecidas. Michio Kaku
escreve no seu novo livro que Rodney Brooks lhe disse numa entrevista que o robô é uma
máquina, tal como o homem é, e por isso podemos um dia construir tais máquinas vivas como
somos (Kaku, 2014: 263). Mas com base na estrutura ontológica do mundo determinada por
Hartmann não poderia ter sido dito, nem mesmo se os programas mais avançados e exigentes
fossem capazes de converter, além das operações intelectuais, também as emoções e as
sensibilidades fisiológicas em algoritmo, a fim de determinar os robôs. Nomeadamente, as
emoções psicológicas e as sensibilidades fisiológicas
22
sentimentos só podem ser imitados pelo algoritmo no plano espiritual, mas como não existem
verdadeiros mecanismos psicológicos e bio-fisiológicos por detrás destas imitações nos robôs,
estas camadas só podem ser imitadas. O robô funcional com inteligência artificial só pode
inevitavelmente trabalhar com um modo de ser de duas camadas e por mais complexo e
programado que seja adequado às reacções psicológicas ou aos movimentos fisiológico-
biológicos, o robô só pode ser o emsemble de duas camadas de ser na comparação dos quatro
seres de camadas do homem. No seu livro, Kaku descreve estas possibilidades enriquecidas
de programação e porque aceita a afirmação anteriormente criticada de Rodney Brooks,
levanta a possibilidade dos direitos humanos para os robôs e escreve sobre os requisitos éticos
relativos aos robôs (Kaku, 2014: 250-252).
No caso dos robots, a camada espiritual do ser é reproduzida pela programação, e se esta
programação puder ser cada vez mais competitiva, torna-se possível envolver as camadas
inferiores do ser humano no programa. Então, as reacções das camadas psicológicas e
possivelmente das camadas do ser fisiológicas biológicas são também programadas no
algoritmo, e o programa intelectual enriquecido pode ser ligado directamente aos corpos
físico-mecânicos. Uma outra manifestação destas ligações íntimas, quando, no caso de
pessoas fisicamente incapacitadas ou de outra forma inamovíveis, as ondas cerebrais são
ligadas directamente a partes paralisadas do corpo, contornando a parte danificada do cérebro,
e assim as funções da marcha são imitadas por um programa e o homem paralisado é
novamente capaz de se mover. Mas mesmo sem estas - como no caso de Stephen Hawking -
as respostas mentais das ondas cerebrais do paralítico podem ser ligadas a uma cadeira de
rodas e ele torna-se capaz de mover a cadeira de rodas e pode mover objectos no mundo
exterior através de ondas cerebrais. "Telecinesia: o material guiado através da mente" -
escreve Kaku no título de um capítulo do seu livro, e esta é uma descrição precisa do estado
reduzido do Hawking na comparação do ser humano completo com quatro camadas do ser.
Nomeadamente. Hawking só pode comunicar com o mundo exterior ligando directamente a
sua camada espiritual de ser a este mundo, e assim ele está, num certo sentido, no estado
reduzido do ser de duas camadas. Claro que com um cérebro vivo, e por isso é para ser
alimentado e por causa do seu metabolismo é sempre para ser feito fralda. Mas a tecnologia
assim criada pode mais tarde ser ligada ao puro corpo físico robotizado, e isto pode contribuir
para a emergência de tal existência futura, que pode funcionar no mundo sem as camadas
psicológicas e biológicas do ser. A análise desta inteligência artificial auto-organizadora e as
hipóteses deste desenvolvimento já foram feitas - entre outras - nos trabalhos de Ray Kurzweil
e Nick Bostrom, pelo que vale a pena prosseguir na análise seguinte com base nos seus
trabalhos. (Kurzweil, 2005, Bostrom, 2015)
Antes disso, porém, valeria a pena tirar algumas conclusões da nossa análise até à data
sobre a relação entre a camada do ser espiritual e a nova camada de inteligência artificial que
pode surgir sobre ela. Com base nesta análise, parece que se a inteligência artificial enriquece
apenas a camada de ser espiritual existente, e a utiliza como uma faculdade adicional, então
não podemos falar da criação de uma nova camada de ser. Incluindo todas as tendências
descritas por Kevin Kelly não será então diferente do fortalecimento da camada do ser
espiritual sobre as camadas inferiores do ser. Mesmo que isto seja apenas o início em termos
de melhoria através da inteligência artificial, e as coisas no nosso ambiente estão a receber
cada vez mais adições inteligentes nas próximas décadas - como Kelly prevê - este continuará
a ser o nosso anterior quarto e mais alto nível de camada de ser. Uma camada realmente nova
do ser só poderá emergir se as formas da inteligência artificial, os algoritmos e os fragmentos
programados puderem tornar-se de alguma forma auto-organizáveis e funcionar através da
ligação directa com corpos mecânicos, mesmo sem o espírito humano no mundo. Há outra
questão sobre se este será o desdobramento de outra nova camada do ser, como já aconteceu
três vezes nos milhares de milhões de anos da história da Terra, e a
23
As camadas anteriores de ser sempre foram mantidas como condição indispensável. Ou então
este salto de evolução será diferente em comparação com os mais velhos, e isto ganha um
rumo diferente?
A partir dos trabalhos citados de Ray Kurzweil e Nich Bostrom, podem ser isoladas duas
possibilidades para o desdobramento da inteligência artificial auto-organizadora. Uma é a
forte inteligência artificial, que pode surgir como uma sucessão da versão fraca de hoje, e a
segunda é a emulação do cérebro humano, que se pode exercer autonomamente como uma
cópia digital do conteúdo espiritual de um cérebro humano, separado dos limites do ser
humano. A terceira é a possibilidade de inteligência humana artificialmente melhorada, que
pode criar uma espécie de super-inteligência, embora só possa ser uma forma diferente da
coexistência actual entre os órgãos humanos e a inteligência artificial adicional que não se
separa do homem. E, portanto, não significaria um salto evolutivo, mas apenas intensificaria o
domínio da camada mais alta do ser sobre as camadas mais baixas. (E assim, a sua análise
poderia também estar no final da secção anterior).
A forma forte da inteligência artificial mostra tal grau de inteligência artificial quando atingiu
o nível da mente humana, e depois ultrapassa este grau muito rapidamente mil vezes em
oposição à forma da versão fraca de hoje. Uma questão preliminar é se é de todo possível, e
quão forte a inteligência artificial pode realmente ser alcançada? Ao analisar o crescimento
exponencialmente rápido do desempenho anterior, é-lhe permitido responder rapidamente a
esta pergunta. Sim, isto é possível e a única questão é se isto será por volta de 2040 ou 2100.
Neste contexto, levantam-se duas questões importantes: (1) se a forte forma de inteligência
artificial será libertada da vigilância e controlo institucional dos seres humanos e da sociedade
humana? 2) e a segunda questão é que carácter terá esta inteligência artificial fora de controlo
e se terá uma autoconsciência autónoma e uma vontade omnipotente que utilizará a sua
enorme capacidade para a mudança do mundo independente das vontades humanas? Ou, por
outro lado, esta vontade omnipresente não pode surgir em paralelo com a enorme capacidade
tecnológica e só pode ser descrita como a perspectiva mental de uma criança ingénua - mas
com uma combinação de enorme capacidade tecnológica.
No que diz respeito à primeira questão, a saber, a possibilidade de romper a IA do
controlo humano, as consequências da capacidade recursiva de auto-aprendizagem e da auto-
alterabilidade dos algoritmos genéticos, que pode ser vista como a direcção principal do
desenvolvimento da inteligência artificial, devem ser interpretadas. Desta forma, o controlo
humano só pode afectar a determinação dos parâmetros iniciais, mas então, por um lado, tais
soluções para a realização destes parâmetros podem ser trazidas pela IA, que pode ser
arrancada do controlo humano, por outro lado, os parâmetros de entrada também serão
incluídos na auto-alterabilidade, e após alguns ciclos de auto-alteração recursiva, qualquer
determinação anterior poderia ser cancelada. Esta auto-versatilidade da IA é já hoje tão grande
que a mudança do seu hardware pode ser criada. Contudo, estas capacidades já existentes não
representam uma séria ameaça porque, devido ao baixo nível actual de IA, o seu controlo
ainda pode ser criado pela inteligência humana. Mas no futuro, podem ser alcançados ciclos
de auto-aprendizagem e auto-alteração tão rápidos - em comparação com os de hoje - que
talvez uma tausendência de tempos mais rápidos para o ciclo de auto-aprendizagem, que pode
cair durante horas, minutos e segundos até cem vezes por dia, para
24
fazer alterações fundamentais para criar. Isto já não pode ser mantido sob controlo humano,
pelo que a libertação de IA do controlo humano após um único ponto decorre simplesmente
da tendência actual.
A pergunta seguinte refere-se à natureza desta IA auto-organizadora. Vale a pena fazer
uma distinção, e dentro da IA a inteligência tecnológica deve ser separada da intelligentsia
geral para a avaliação das condições sociais. A inteligência tecnológica é a capacidade para a
mudança direccionada do mundo biológico e físico e um aspecto desta capacidade refere-se à
medida em que esta mudança pode ser evitada por outras forças (por exemplo, os seres
humanos). Esta é, portanto, a capacidade de dominação das camadas inferiores do ser do
mundo, e isto está a tornar-se cada vez mais forte no campo da inteligência artificial, enquanto
a sua capacidade de olhar para a realidade global, incluindo a realidade da sociedade humana,
tem ficado muito para trás. Nick Bostrom já analisou extensivamente a importância de
incorporar os conhecimentos e valores sociais nos programas de IA e, nesta base, dois
problemas podem ser apontados. Um problema é que não existe um sistema uniforme de
parâmetros de objectivos para a estrutura básica da sociedade humana e a sua sobrevivência, e
depende sempre da selecção dos grupos de elite humana individuais dominantes, que tipo de
hierarquia de valores se aplicará. Mas este é o problema menor. O maior problema surge do
facto de esta hierarquia arbitrária e possivelmente incompleta de valores poder também ser
vítima dos ciclos de auto-alteração da IA. Se a própria IA pode alterar continuamente a
componente determinante da sua programação, não há garantia de que os valores sociais
incorporados permanecerão no parâmetro tecnológico da IA e não serão anulados pela IA
após alguns ciclos da sua auto-alteração.
Assim, se quisermos determinar mais precisamente a natureza da nossa distinção, então
ela pode ser expressa como a oposição da inteligência tecnológica à inteligência social.
Enquanto a inteligência artificial cresce enormemente na dimensão tecnológica, ela
permanece ao nível de um conhecimento social ao nível de uma criança estúpida. E se os
algoritmos especiais forem incorporados no programa para a melhoria de ambos os tipos de
inteligência e o tratamento dos valores sociais, não há garantia de que após um curto período
de tempo a IA de auto-aprendizagem não eliminará estas partes do programa.
Consequentemente, na minha opinião, a descrição frequentemente repetida da "inteligência
artificial maléfica" é inadequada para a sinalização dos perigos reais, mas devemos ter medo
da inteligência tecnológica cega e burra mas poderosa. Esta inteligência artificial não destruirá
a existência da sociedade humana por causa do seu mal, se for possível pela sua enorme
capacidade tecnológica, mas devido ao seu baixo nieveau em relação ao conhecimento social.
Note-se, contudo, que esta situação pode mudar nos próximos anos devido aos recentes
desenvolvimentos na área da emulação do cérebro humano (carregamento da mente), o futuro
da forte inteligência artificial também pode ser tocado (ver secção seguinte).
Realçando estas ligações aos perigos da inteligência artificial, os investigadores da IA
tentam incorporar, pelo menos nos parâmetros iniciais do programa de IA, princípios
operacionais que possam prevenir as mudanças perigosas para a sociedade humana. Num
estudo recentemente publicado por Joel e Ben Goertz Pitt, são feitas tentativas para encontrar
tais elementos do programa para o planeamento da inteligência artificial, que podem ser
utilizados para assegurar a constante tendência positiva para a manutenção da sociedade
humana. Assumem que este objectivo não pode ser totalmente garantido, mas pode ser
determinado que pelo menos as auto-mudanças devidas à aprendizagem de máquinas recebem
sempre um feedback positivo nesta direcção: "A nossa perspectiva actual é que,
comprovadamente, ou de outra forma, garantidamente, a IA amigável não é alcançável. À
primeira vista, conseguir uma forte certeza sobre os futuros comportamentos de ser
massivamente mais inteligentes do que nós parece ser implausível. Mais uma vez, o nosso
objectivo é um objectivo mais modesto - explorar formas de enviesar as probabilidades, e
criar sistemas de IA que sejam significativamente mais prováveis do que não serem
Amistosos". (Goertz/Pitt, 2014:65.) A fim de assegurar a direcção da abordagem "amigável"
da inteligência artificial em relação às sociedades humanas, eles enfatizam como o primeiro
imperativo para manter os ciclos de mudança recursivos mais lentos no primeiro período, para
25
compreensão da mente humana. Além disso, é ainda importante que a participação humana
seja assegurada na determinação das alterações do programa nos primeiros ciclos. Da mesma
forma, os autores consideram importante integrar no programa princípios éticos bem
desenvolvidos com cenários de casos ricos, que devem ser executados nas primeiras fases
através de milhares de situações de teste. "Onde, após uma AGI (Inteligência Geral Artificial)
ter aprendido alguns dos aspectos quotidianos da justiça, incluindo o equilíbrio da justiça com
a empatia na vida quotidiana, e uma vez que também se tenha familiarizado com a aplicação
de princípios éticos abstractos a outros aspectos da vida ordinária, estará bem posicionada
para apreciar os princípios éticos e a sua utilidade na tomada de decisões difíceis. Será capaz
de compreender a natureza abstracta da justiça de uma forma mais rica e holística".
(Goertz/Pitt, 2014:72.) No entanto, no final, só podemos esperar que através da automatização
total e capaz de grandes mudanças
forte inteligência artificial, as condições para o funcionamento da sociedade humana não
serão eliminadas.
Depois disto, pode perguntar-se se as negociações com a forte inteligência artificial
podem, naturalmente, conduzir a uma ameaça para toda a humanidade, para além das suas
boas bênçãos e benefícios, porque não parar toda esta actividade? Para este dilema, uma
excelente análise pode ser encontrada no livro de Nick Bostrom e Ray Kurzweil também o
abordou. Em particular, as investigações no campo da inteligência artificial caracterizam-se
também há décadas pela rivalidade militar das grandes potências, e enormes quantias de
dinheiro e capacidade de investigação são gastas com ele. Assim, os últimos sucessos nesta
área são sempre mantidos em segredo. Basicamente, agora o mesmo acontece nesta área, o
que se podia ver no final dos anos 40 em relação à investigação nuclear e que grande potência
pode alcançar uma vantagem neste campo, será capaz de dominar o mundo. Desta forma,
renunciar à investigação no domínio da perigosa inteligência artificial forte significaria apenas
uma vantagem competitiva entre rivais. Um problema relacionado é que mesmo que após
algum tempo as grandes potências rivais comecem a fazer alguns esforços de controlo
conjunto devido ao perigo crescente, mesmo assim não seria suficiente porque é impossível
ver no desenvolvimento da inteligência artificial tal grau e nível em que o pivô da fraca
inteligência artificial de hoje chegará e, em última análise, o seu forte e incontrolável sucessor
começará. Tanto na análise do Kurzzeit como do Bostrom, a era da inteligência artificial forte,
em comparação com a era da energia nuclear, traz milhares de maiores bênçãos e mudanças
mais abrangentes ao estado actual da sociedade humana, e o desenvolvimento crescente da
robótica já mostra estas mudanças na vida quotidiana. Mas as ameaças são mil vezes maiores
do que o período atómico tem sido alegado em relação às anteriores rivalidades marciais. No
entanto, é também impossível parar isto, uma vez que não foi possível parar a corrida pelo
átomo. A idade actual da corrida pela forte inteligência artificial difere das anteriores
rivalidades apenas pelo facto de a competição na área das armas nucleares poder finalmente
ser pacificada e o controlo conjunto sobre as armas nucleares poder mais ou menos estabilizar
através da dissuasão mútua. No entanto, no caso da criação da forte IA, o seu fabricante
também será empurrado para segundo plano num curto espaço de tempo e também será
ameaçado juntamente com toda a humanidade. Desta forma, não haverá ninguém nem nada
capaz de conquistar a nova força dominante sobre o mundo.
A possível emergência de uma inteligência artificial forte a partir da sua forma fraca e já
existente tem sido discutida há várias décadas, em contraste com a transferência da mente
humana para o computador ou noutra denominação a emulação do cérebro, que está apenas na
última década no centro de interesse. Esta é também uma inteligência de máquina, e pode ser
um ramo de
27
inteligência artificial, e aqui vêm outros incentivos para além dos anteriores motivos para
acelerar a investigação o mais rapidamente possível. De facto, se a emulação de todo o
cérebro humano pudesse ser bem sucedida, e em vez dos processos biológicos os processos
informatizados do funcionamento neural do cérebro pudessem ser trabalhados, então esta
novidade tecnológica daria uma nova perspectiva à mente e à personalidade. Nomeadamente,
as pessoas poderiam livrar-se do corpo biológico em vias de extinção e existir num eterno
portador para sempre. O filme com o título de Transcendência no papel principal de Johnny
Depp fez esta possibilidade há alguns anos atrás, e a investigação intensiva está a avançar
nesta área. Por exemplo, nos últimos anos, a Comissão Europeia gastou 1,5 mil milhões de
euros em investigação, e a emulação do cérebro dos organismos mais simples e dos pequenos
mamíferos já está a ser feita, e ao mesmo tempo a emulação do cérebro humano está a ser
investigada.
A existência independente do cérebro humano emulado é ainda menos visível ao nível
actual das condições técnicas. (Uma nova mensagem na imprensa mundial indicou que a
emulação total do cérebro de um rato é de esperar em 2017). Desta forma, não pode ser feita
uma declaração empírica sobre a possibilidade da existência autónoma da emulação do
cérebro humano ou sobre o grau de identidade de tal emulação do cérebro com o cérebro
original. Sem a existência de emulações reais, só se pode pensar sobre estas questões ao nível
da meditação filosófica. Claro que isto não é sem utilidade, mas em qualquer caso só pode ter
natureza especulativa, e isto deve ser notado no que se segue.
No caso de emular o cérebro humano, ainda se trata de saber se a viabilidade técnica
(capacidade de armazenamento e velocidade do computador) necessária para a emulação dos
muitos biliões de células cerebrais e dos triliões das suas sinapses pode ser criada. Com base
na análise da taxa de crescimento exponencial existente nesta área, contudo, pode dizer-se que
a capacidade informatizada necessária estará disponível para esta tarefa em cerca de trinta
anos de desenvolvimento. Devido a uma nova mensagem, um segundo da emulação mais
detalhada de um cérebro humano (isto é, ao nível neural do cérebro) convertido no formato
computadorizado foi repetido no computador mais rápido do mundo em 40 minutos. Ou seja,
hoje, um segundo da emulação do cérebro ainda demora 2400 segundos a correr no
computador para trabalhar o cérebro replicado, e isto pode causar um efeito desencorajador.
Mas se no futuro a validade da lei Moorchen ainda for assumida, ou seja, o poder
computacional for duplicado em um ano e meio (o que poderia ser conseguido, por exemplo,
pelo rápido progresso dos computadores quânticos), então a aceleração de 2400 vezes pode
atingir 15-16 anos, e assim os processos do cérebro humano poderão correr também em tempo
real no computador. O debate principal deve ser se, após a emulação bem sucedida de todos
os conteúdos da mente humana, a consciência original desta mente pode ser repetida no
computador, e a consciência original também emerge sempre durante o curso do programa de
emulação do computador?
A reflexão e o debate muito intensos sobre este assunto têm produzido algumas
distinções sábias nos últimos anos. Devido a algumas distorções, é necessário distinguir se os
processos mentais individuais podem ser executados no computador após a emulação do
cérebro, e esta é outra questão sobre se, para além destes processos informatizados, surgirá
uma nova consciência como um único inspector dos processos mentais informatizados
paralelos? Finalmente, surge uma terceira questão, se assim for, esta consciência emulada
tornar-se-á a consciência da mente original, ou assim surgirá uma nova identidade, que só terá
tanto em comum com o espírito humano original, que ambos partilham as mesmas memórias
e experiências. Neste último caso, a mente emulada pode ser entendida como um irmão
gémeo digital, mas como os gémeos idênticos têm uma consciência separada, também a
consciência da mente digital se torna autónoma após a emulação a sua própria maneira e
identidade.
Para Kurzweil e Bostrom, a resposta a esta pergunta é óbvia, porque, na sua opinião, toda
a manifestação da mente e todos os processos psíquicos nas células nervosas do cérebro são
os resultados dos processos electroquímicos, e, desta forma, a consciência e
28
a autoconsciência não pode ser de outra forma. Portanto, se a emulação detalhada foi
suficientemente precisa, então não só os processos neurais individuais do cérebro (memórias,
experiências, etc.) mas também a consciência como a acumulação destes processos aparecerá
na execução do programa computadorizado. Mas no que diz respeito à questão se esta
consciência será uma duplicação da criação original ou uma nova criação, nenhuma análise
pode ser encontrada nos seus livros, e esta questão em si só foi levantada recentemente na
discussão.
Lendo muitas discussões e argumentos sobre estas questões, estou mais inclinado a
aceitar que se a emulação exacta e detalhada suficiente do cérebro for copiada para
plataformas de computador, e todas as ligações de triliões de processos neurais puderem ser
duplicadas digitalmente, então a consciência também aparecerá como o centro de controlo dos
processos mentais. Este será, no entanto, apenas o espírito de um irmão gémeo digital, mas
certamente não é para dizer que agora a mesma consciência poderia estar presente "em dois
lugares". E certamente não o facto de que o ser humano - libertando-se do seu corpo biológico
- poderia passar pela emulação para a existência digital.
David Chalmers é também favorável a esta posição num estudo recentemente publicado,
enquanto Massimo Pigliucci defende a exclusividade da consciência associada ao corpo
biológico. Chalmers autodenomina-se um funcionalista e Pigliucci um biólogo e as duas
posições são descritas como se segue: "Aqui os filósofos dividem-se em múltiplos campos. Os
teóricos da consciência biológica sustentam que a consciência é essencialmente biológica e
que nenhum sistema biológico pode ser consciente. Os teóricos funcionalistas da consciência
sustentam que o que interessa à consciência não é a maquilhagem biológica, mas a estrutura
causal e o papel causal, para que um sistema não biológico possa estar consciente desde que
seja organizado correctamente". (Chalmers, 2014:104). Este debate filosófico é actualmente
apenas relevante, porque hoje - e segundo os investigadores, durante alguns anos - existem
apenas técnicas destrutivas para a emulação do cérebro, o que não é um problema devido à
utilização de experiências em animais para este fim (agora à parte de alguns grupos de direitos
dos animais). Mas já foi salientado nas discussões que a possibilidade de emulação deveria ser
disponibilizada aos doentes incuráveis na fase final como uma oportunidade de sobrevivência,
uma vez que, no seu caso, a natureza destrutiva da emulação deixaria de ser um problema. Por
conseguinte, é importante enfatizar que desta forma, no máximo, apenas um gémeo digital
pode ser criado, mas o desaparecimento da pessoa original não pode ser evitado.
É também uma grande dificuldade no processo de emulação do cérebro humano devido
aos últimos resultados da investigação que, ao contrário de muitas esperanças, é insuficiente
se apenas os processos mentais superiores forem emulados, porque em quase todos os
processos cerebrais as diferentes partes do cérebro participam simultaneamente: "Para
resumir, é enganador referir-se a áreas do cérebro como se fossem modulares. Em vez disso, é
impossível traçar limites rigorosos que separem, por exemplo, as funções sensorimotoras mais
primitivas das funções de maior cognição, tais como planeamento, julgamento, tomada de
decisões, e direcção da atenção. Além disso, estas áreas estão altamente integradas
funcionalmente, e anatomicamente, numa rede complexa e densa. Assim, concluímos que as
referidas funções "quintessencialmente humanas" (que, empregando a linguagem da primeira
secção, cairiam sob o simbólico em oposição ao físico) não podem existir independentemente
das estruturas cerebrais que são dedicadas à interacção mundial e ao controlo do corpo.
Mesmo para um indivíduo carregado, um corpo (semelhante ao humano ou não) continuaria a
ser uma necessidade". (Linssen/Lemmens, 2016:5).
Também deve ser mencionado que quando a emulação bem sucedida do cérebro
humano, juntamente com todos os processos mentais, se estabelece também a autoconsciência
(como se presumiu ser provável), o futuro da inteligência da máquina também pode ser
analisado com uma nova perspectiva. Nomeadamente, o que não pode ser formulado a nível
teórico sobre a realidade social, está amplamente incorporado na mente das pessoas que foram
socializadas para a solidariedade comunitária existente e sob a pressão das instâncias
biológicas e psicológicas
29
e os seus conhecimentos práticos já estarão no interior da mente emulada. Desta forma, estes
conhecimentos sociais, experiências e emoções são também transmitidos ao espírito digital, e
se a minha suposição, partilhada com Chalmers, estiver correcta, a autoconsciência digital
também surge no espírito desta inteligência artificial, que trabalha com conhecimentos sociais
adequados. Este nível de IA humana, que se libertou das barreiras biológicas, pode então
atingir imediatamente uma velocidade mil vezes superior de desenvolvimento na plataforma
digital e a forte IA pode também ser criada desta forma. Também como segunda via para a
realização da forte IA pode ser concebida, e isto, por sua vez, elimina o problema da
inteligência artificial, que só pode ter uma inteligência de meio cérebro: sobre enorme
inteligência tecnológica e, em paralelo, apenas sobre o conhecimento social de uma criancinha
ingénua. Nick Bostrom já analisou esta possibilidade no seu livro sobre superinteligência, e
também considerou esta possibilidade como positiva, porque desta forma as instâncias morais
desenvolvidas são também atraídas para a IA com a mente humana. Mas ele apontou
correctamente que a forte IA, baseada em algoritmos genéticos, pode sempre remover este
conhecimento social apropriado do seu programa operacional pela sua capacidade recursiva
de auto-transformação. (Bostrom, 2014: 328-330). Assim, este caminho de formação da IA
forte não pode ser uma segurança definitiva.
Capítulo III
As camadas do ser e as questões de ética robótica
No seu estudo sobre os problemas de etic do mundo robô, Keith Abney identifica três áreas
para agrupar os problemas: 1) o campo dos requisitos e proibições para fabricantes e
programadores de robôs (como a ética médica); 2) em segundo lugar, o campo dos requisitos
a serem programados em robôs, primeiro formulado por Assimov sob o título "Três Leis da
Robótica"; e 3) finalmente, perspectivisticamente para o futuro, surge a questão das
exigências morais e dos "direitos humanos" que os robôs poderiam ter nessa altura na posse
da auto-consciencialização (Abney 2011, 35). Um dilema comum às três áreas é a escolha
entre os principais pontos de partida da teoria moral já elaborada nas várias escolas filosóficas
morais das comunidades filosóficas morais abrangentes. Uma dessas escolas pode ser
identificada como o ponto de partida deontológico (a regra é a regra, e estas devem ser
seguidas), pela qual a filosofia moral de Kant é mais conhecida, e a escola de oposição
polarizadora, que considera a consideração das consequências da acção como a base para a
tomada de decisões morais. Finalmente, em terceiro lugar, pode-se mencionar a escola da
ética da virtude, que se concentra não nos requisitos a considerar em todas as situações na
definição da moralidade (como as duas escolas anteriores, embora na direcção oposta), mas
nas disposições duradouras da personalidade humana, mais simplesmente, nos valores morais
socializados. Aqui a pessoa não pergunta qual é a regra moral numa situação, porque no
mundo moderno cada vez mais complexo não existem muitas vezes regras claras, mas como
decide um homem corajoso, justo, fiel e verdadeiro (Abney 2011, 37).
34
Das três escolas, a escola de deontologia só é possível para robôs que são utilizados no
domínio mais restrito e seguem as regras exactas sem poderem pesar as regras, porque todas
as situações só podem ser calculadas e controladas num domínio tão restrito, mas mesmo aqui
podem surgir situações imprevistas e conduzir a decisão do robô na direcção errada. Por
exemplo, em princípio, poderia ser introduzido no algoritmo de decisão de um robô de
combate para "nunca matar uma criança"! No entanto, no caso de crianças-soldados nas
guerras africanas, isto significaria uma liquidação predeterminada do robô de combate
(Abney, 2011, 42). No caso de robôs de uso geral, a abordagem deontológica é
completamente inaplicável. No entanto, a escola consequencialista de filosofia moral, que
também está ligada à consideração de situações individuais, também parece melhor apenas
devido à sua natureza de vida. Aqui a premissa orientadora é "aumentar, e não diminuir, a
felicidade do maior número possível de pessoas com a decisão escolhida" e isto é impraticável
porque exigiria o processamento de uma enorme quantidade de informação, a maior parte da
qual não poderia ser feita de forma atempada mesmo com a maior capacidade de
armazenamento de dados informáticos. A posição de Keith Abney, portanto, é que em relação
à segunda área da moral robótica (isto é, as premissas da decisão moral programadas no
algoritmo robótico), existe uma mistura de deontologia e ética da virtude que dá a melhor
perspectiva, e uma mistura destas pode criar a melhor versão incorporada da moral robótica.
De acordo com isto, as normas morais mais abstractas (virtudes morais) formam o quadro de
decisão, e os objectivos e contextos de decisão incorporados especificam sempre os
determinantes da decisão escolhida pelo robô nas situações dadas: "A abordagem híbrida de
imperativos hipotéticos em vez de categóricos (dentro de um quadro deliberadamente restrito,
não universal) provenientes da ética da virtude parece ser a melhor aposta para a moral
robótica a curto prazo (no sentido dois). (...) A ênfase em ser capaz de desempenhar
excelentemente um papel particular, e a correspondente especificidade dos imperativos
hipotéticos da ética da virtude para os objectivos de programação, contextos restritos, e
capacidades de aprendizagem dos robôs autónomos não kantianos, faz da ética da virtude uma
escolha natural como a melhor abordagem da ética robótica". Abeny 2011, 51)
As ligações entre camadas do ser e a moralidade são abordadas indirectamente por Abney,
onde ele se opõe ao emotivismo, que identifica a moralidade com as emoções morais, e à
percepção cognitiva da moralidade, que se lhe opõe. Mostra que se a moralidade está ligada às
emoções devido ao ponto de vista dos emotivistas, então os primatas com emoções também
não podem ser excluídos da moralidade, o que é absurdo: "Tais pontos de vista, para além de
serem incapazes de explicar a falta de moralidade dos animais não humanos, também têm
lutado para explicar o aparente significado congnitivo das reivindicações éticas e
especialmente a discordância ética. (Têm também, naturalmente, sérias dificuldades em
explicar a ética dos robôs sem emoções". (Abney, 2001, 46). Em contraste, ele vê a posição da
psicologia evolutiva, que enfatiza o novo mecanismo de tomada de decisão da evolução
humana como uma explicação para a moralidade, o que significa que os seres humanos têm
vindo a desenvolver cada vez mais um sistema de tomada de decisão cognitiva, que
transforma as decisões actuais de tal forma que o primeiro passo instintivo-emocional é
sempre seguido por uma segunda consideração cognitiva, corrigindo assim a primeira: 23
"Os psicólogos evolucionários afirmam que não há um, mas dois sistemas de tomada de
decisão na maioria dos seres humanos. O primeiro é um sistema instigante e emocionalmente
carregado que serve como padrão para muita actividade humana, particularmente quando está
sob tensão ou sob pressão. Muitos outros animais partilham este sistema não cognitivo de
tomada de decisão, no qual (literalmente) "não sabemos o que fazemos" - ou por que razão o
fazemos. (...) Mas este "fantasma na máquina" não esgota a agência humana; Libet e outros
descobriram que também temos uma capacidade de "veto" que pode, após a sua iniciação
subconsciente, ainda alterar a nossa acção, de acordo com uma decisão de um segundo
sistema cognitivo consciente" (Abney 2011, 46) Abney recorda o efeito de moldagem mútua
dos dois
23
Vale a pena salientar que esta visão defendida por Hegel em filosofia jurídica muito antes do advento da
psicologia científica em 1820. Ver Georg Wilhelm Friedrich Hegel, "Grundlinie der Philosophie des Rechts".
35
camadas sobrepostas e quase lembra Nicolai Hartmann: "Nos humanos, este sistema
deliberativo sobrepõe-se ao sistema de tomada de decisão instigante, emocional (e mais
rápido) ancestral e, por isso, a razão é muitas vezes enganada pelos nossos impulsos
instigantes". (46. p. )
Tendo concluído que a camada superior (cognitivo-racional) do mecanismo de tomada de
decisão humano de duas camadas é responsável pela tomada de decisão moral, Abney coloca
a questão de saber se a tomada de decisão moral é, em princípio, possível sem uma camada
inferior reconfigurada e sobreposta? Afinal, a resposta a esta pergunta depende também de
uma decisão moral ser possível para os robôs sem uma camada emocional. Nesta pergunta, ele
decide então exactamente da forma oposta, como Hartmann fez anteriormente. É muito
possível - diz ele - que um mecanismo racional de decisão seja suficiente para uma decisão
moral, mesmo sem uma camada emocional de ser: "Assim, um sistema deliberativo cabível de
agência necessário para a existência da moralidade, e portanto para a personificação moral.
Mas será que o sistema emocional ancestral também é necessário? (...) Por outras palavras, -
poderiam os robots (sem emoção) ser uma pessoa moral? (...) A chave para a responsabilidade
moral e a personalidade é a posse de agência moral, que requer a capacidade de deliberação
racional - mas não a capacidade de estados emocionais funcionais, portanto, os robots podem
bem qualificar-se" (Abney, 2011, 47).
Com base em Hartmann, existem dois problemas com estas análises. Por um lado, dadas
as três camadas de estar acima da camada física do ser, pode ser visto como falho que Abney
combina os estímulos biológicos com os determinantes da camada emocional. Já aqui se está
a construir um sobre o outro e a transformar, e um instinto do mundo instintivo bruto é
complementado pelas emoções da camada superior da existência mental. Por exemplo, a
ferocidade de um impulso sexual biológico é informada por sentimentos de união, para não
mencionar as sobreposições intelectuais-simbólicas que ainda se baseiam nela, e os aspectos
de alteração sexual das relações amorosas sublimadas que produzem.24 Ou seja, não é um
mecanismo de decisão duplo mas triplo que deve ser separado analiticamente na tomada de
decisão humana, e para além das reacções instintivas e determinantes mais básicas, as suas
manifestações emocionalmente remodeladas estão ainda sob considerações mais racionais a
nível intelectual. No entanto, uma decisão e o instinto que a determina directamente,
respectivamente a sua transformação emocional e a sua sobreescrita intelectual, estão
embutidos nas leis interdependentes das três camadas superiores do ser. Assim, a moralidade
humana nas sociedades de toda a civilização humana exige, para sobreviver como raça, que
homens e mulheres vivam juntos em alguma forma de comunidade permanente, a fim de
terem filhos e serem educados. Uma comunidade maior é necessária para o sucesso da luta e
sobrevivência da luta com as forças da natureza e outros grupos de pessoas, e dentro destas
comunidades maiores devem interagir em relações mais ou menos harmoniosas para organizar
actividades comuns. As virtudes morais (normas e valores) são, portanto, adaptadas e
mantidas pelas leis das camadas físicas, biológicas, espiritual-emocionais e intelectuais
específicas do ser humano e das suas comunidades, e é apenas devido ao estreitamento das
teorias morais nas últimas décadas que as escolhas morais conscientes se tornaram o foco da
filosofia moral. Hegel no início do século XIX ou Rudolf von Jhering na década de 1870 e
depois Nicolai Hartmann na década de 1920 ainda viam claramente que cada pessoa na sua
socialização apenas assume as normas e valores morais acumulados, virtudes de muitas
gerações, a partir das quais as comunidades mais amplas são mantidas, sem as quais os
indivíduos não poderiam estar aptos a viver. 25
Daqui decorre outro problema com a análise de Abney, e que é que a escolha moral
parece consistir apenas em seguir normas de acordo com um cálculo intelectual-racional, mas
não requer a camada psico-emocional inferior do ser. Além disso, como já vimos, as leis da
camada biológica do ser e o instinto que a transmite a todo o ser humano
24
Ver o trabalho de Luhmann, que analisa este processo historicamente: Niklas Luhmann, "Liebe als Passion":
Zur Codierung von Intimität", Suhrkamp, Frankfurt am Main 1994.
25
Ver em detalhe Béla Pokol, "Theoretische Soziologie und Rechtstheorie". Kritik und Korrigierung der Theorie
vo Niklas Luhmann". Passau. Schenk Verlag. 2013. 185-208.p.
37
são importantes para a decisão moral. Mas também tendo em conta isto, pode-se dizer que as
normas morais, as virtudes morais só existem nas comunidades humanas (e assim são
socializadas nas pessoas das próximas gerações), porque só desta forma é possível uma
existência humana duradoura e harmoniosa nas comunidades humanas definidas pelas quatro
camadas humanas do ser. Assim, se um ser artificialmente inteligente pode existir com a
camada espiritual de estar sozinho, e no máximo necessita apenas de um corpo físico-
mecânico para ter autoconsciência e exercer actividade consciente, ou para se poder
reproduzir permanentemente no tempo, então as normas morais da existência humana
baseadas nas camadas biológico-psíquicas da vida não têm qualquer função. As normas
morais significariam apenas coisas externas para tal ser. Assim, se tal ser robótico pode
constantemente reconstruir o seu programa e mesmo o seu hardware com os algoritmos de
Aprendizagem Profunda - como acontece na sua maioria hoje em dia - então a erosão das
normas morais, que são externas e sem função para ele, é quase inevitável. Isto é, embora seja
possível programar instruções que imitam emoções em robôs, e estes ainda podem dar conta
dos aspectos decisórios (proibições, prioridades de decisão) exigidos pelas normas morais nos
robôs actuais, que ainda estão essencialmente sob controlo humano, mas quando atingem
algum nível de capacidade de auto-aprendizagem, pode ser incerto se a inferência dessas
normas se manterá. Num futuro distante (mas no caso de progresso exponencial mesmo em
vinte a trinta anos), seria errado assumir, no caso dos robôs no mundo robótico, libertados do
controlo humano e do auto-conhecimento, a sobrevivência das normas do mundo humano no
mundo robótico.
Para melhor analisar os dilemas e problemas morais do mundo robô, a divisão de três vias
utilizada por Colin Allen e Wendell Wallach no seu estudo conjunto parece útil. Com base em
diferentes graus de autonomia de decisão, eles denotam o grau de moralidade operacional
para robôs que só podem executar as acções determinadas pelos programadores que criaram o
seu algoritmo e possivelmente pelos seus utilizadores específicos, e totalmente alimentadas
por eles. Por outro lado, são aqueles que atingiram o nível de moralidade funcional, e isto
significa que escolhem a acção específica em cada situação com base na informação fornecida
pelos seus sensores entre os quadros de acção alimentados no seu algoritmo. Finalmente, o
nível mais autónomo de moralidade é visto nos robôs que atingem o nível de plena
personalidade moral com a cessação da influência humana, embora este tipo não possa ser
considerado provável agora e num futuro próximo, mas mais tarde a sua criação pode ser
assumida: "Sistema com autonomia e sensibilidade muito limitadas têm apenas "moralidade
operacional", o que significa que o seu significado moral está inteiramente nas mãos do
projectista e dos utilizadores. À medida que as máquinas se tornam mais sofisticadas, é
possível uma espécie de "moralidade funcional", onde as próprias máquinas têm a capacidade
de atribuir e responder aos desafios morais. Os criadores da moralidade funcional nas
máquinas enfrentam muitos constrangimentos devido aos limites da tecnologia actual. Este
enquadramento pode ser comparado às categorias de agentes éticos artificiais descritas por
James Moor (2006, 18) que vão desde agentes cujas acções têm impacto ético (agentes éticos
implícitos) a agentes que são raciocinadores éticos explícitos (agentes éticos explícitos.) Tal
como Moor, enfatizamos o desenvolvimento a curto prazo de agentes morais explícitos ou
funcionais. No entanto, reconhecemos que, pelo menos em teoria, os agentes artificiais podem
eventualmente atingir uma verdadeira agência moral com responsabilidades e direitos,
comparáveis aos dos seres humanos". (Allen, Walach 2011, 57-58).
Sem entrar na possível crítica sobre se vale a pena utilizar o grau de moralidade para os
robôs que já foram totalmente definidos pelos programadores sob o nome de moralidade
operacional, os robôs de moralidade funcional são realmente interessantes na fase actual de
38
Zoller aproxima este problema das questões morais, baseando a tomada de decisões
morais na percepção de toda a realidade e, neste caso, na formação da identidade humana e no
conhecimento perceptivo detalhado adquirido por um adulto desde a infância. Se as gerações
futuras se socializarem desde a infância para serem rodeadas por robôs e para terem o seu
ambiente imediato percebido por robôs sem, em vez disso, realizarem actividades e tarefas
perceptivas, não só ficarão privados de direitos como também carecerão de conhecimentos
detalhados sobre os adultos de hoje. Como seres responsáveis, também não podem crescer
para tomar decisões morais, por outras palavras, tornam-se infantis: "O meu próprio
argumento é baseado na forma como a habilidade abre, por assim dizer, cantos da realidade
que são inacessíveis aos não qualificados. (. ) A maturidade ou idade adulta nós
ganhar ajustando-nos ao "mundo real", é claro, tem um certo apelo moral e pessoal: um
mundo de crianças psicológicas preguiçosas é, podemos pensar um mundo pior numa
variedade de espectros". (Zoller 2017, 81, 86). O facto de estes reinos da realidade irem para
além da nossa percepção, e em vez disso vem o processamento mecânico da informação
destes robôs, permite-nos adaptarmo-nos de formas que agora estão inconscientes devido a
esta mudança, e isto também abala a nossa identidade moral, Zoller diz: "Dado que
automatizar uma actividade hábil significa concordar que vamos sair de algum nicho da
realidade perceptiva, e talvez sair dela para sempre, (.... ) Quanto mais subitamente, de forma
ampla e generalizada, entregarmos a nossa facilidade perceptiva aos robôs, mais provável será
que cometamos erros e simplesmente "percamos dados" que foram surpreendentemente parte
integrante da nossa vida moral e social". (Zoller, 2017, 86).
Embora se deva reconhecer que Zoller, em contraste com análises anteriores que se
concentram em robôs que assumem postos de trabalho como uma facilitação humana
unilateral - para além das já discutidas consequências socialmente negativas do desemprego
(ver, por exemplo, Ford, 2014) - foi mais fundo ao olhar mais de perto para a mudança na
capacidade perceptiva humana, deve ser criticado por colocar inconscientemente demasiada
ênfase nas camadas de estar no ambiente físico-biológico. Olhando para as camadas do ser de
Hartmann, esta mudança pode ser lida de forma completamente diferente. As mudanças
delineadas por Zoller não significam a perda da percepção de toda a realidade e da capacidade
de o fazer, mas apenas a capacidade de perceber as camadas físico-biológicas do ser e de as
transmitir a robôs e robôs de software. Desta forma, as capacidades perceptivas libertadas do
homem e os sectores cerebrais podem ser mais reconstruídos para processar informação sobre
a sua camada espiritual-emocional do ser e a sua camada intelectual do ser, respectivamente.
As suas decisões morais serão, portanto, tomadas no futuro com menos informação ambiental
física e biológica - estas serão encerradas por robôs em processos mecânicos - e estas decisões
podem, pelo contrário, basear-se mais na informação das camadas espiritual-emocional e
racional-intelectual do ser. A importância cada vez menor das duas camadas inferiores do ser,
e em vez disso a maior expansão das duas camadas superiores de significado para a existência
humana, pode obviamente reformular significativamente os fundamentos das nossas decisões
morais e os incentivos que nelas desempenham um papel. Por exemplo, a implantação de
dezenas de sensores corporais e a sua ligação a bases de informação recolhidas nas nuvens,
bem como o diagnóstico automático por robots de software de saúde e a activação automática
de doses específicas de drogas implantadas no corpo, podem tornar os alarmes fornecidos
pelos genes da dor nas nossas células largamente obsoletos (ver Kelly 2016: 34-56). A
engenharia genética pré-natal torna assim possível minimizar isto, e as condições de vida
humana sem dor podem redefinir as obrigações morais e os incentivos envolvidos hoje em
dia. Globalmente, portanto, não partilhamos as preocupações de Zoller sobre a infantilização
moral.
40
Num estudo, os autores Wulf Loh e Janina Loh examinaram as questões de responsabilidade
moral e legal que se levantam nos automóveis actualmente desenvolvidos para auto-condução
(Loh, Loh 2017, 35-48). Assumem que os automóveis actualmente auto-conduzidos se
encontram apenas na fase da moralidade operacional, pelo que nem sequer alcançam
autonomia moral funcional face aos seus fabricantes e programadores. Os autores tomaram
esta posição com base numa estrutura de decisão moral desenvolvida por Stephen Darwall,
que está dividida em quatro aspectos e visa separar os aspectos de autonomia necessários para
a tomada de decisões morais. O aspecto da autonomia necessária para o nível de
personalidade moral global é chamado autonomia pessoal, ou seja, a capacidade de possuir e
escolher entre valores pessoais, objectivos, e objectivos finais na vida. A autonomia moral é o
outro aspecto, e isto significa que os seus valores e objectivos incluem princípios morais e
crenças éticas, e juntamente com estes, consideram sempre alternativas quando tomam
decisões. Estes dois não existem nos robôs actuais, e apenas os humanos são capazes de tal
autonomia, mas o aspecto da autonomia racional já está disponível para os robôs ao nível da
moralidade funcional. Isto significa que o robô pode pesar razões de pesos diferentes ao tomar
uma decisão. O seu algoritmo já o pode permitir ao incorporar quadros de decisão puramente
abstractos - deixando alguma liberdade - nos quais a ponderação entre possíveis direcções de
decisão é feita à luz de dados específicos constantemente registados pelos seus sensores, e
eles decidem com base nesses dados. Finalmente, o quarto aspecto da autonomia é a
autonomia de decisão, e isto significa a capacidade do robô de tomar decisões não só por
dados externos - concretizando continuamente os determinantes do quadro integrado - mas
também as suas prioridades de decisão internas sem os alterar. Com base nos exemplos dos
autores - dois tipos de robôs já em uso (Kismer e Cog) - parece possível alcançar este grau de
autonomia com base nos seus mecanismos de auto-aprendizagem, que estão integrados no
algoritmo do robô e já não são controlados externamente: "Cog, o primeiro robô que pode
interagir com o seu ambiente devido à sua incorporação, pode passar como exemplo de um
fraco agente responsável funcional, uma vez que a sua capacidade de comunicar bem como de
julgar foi melhorada em relação à de Kismer. Ainda mais importante, a autonomia global de
Cog evoluiu, uma vez que inclui um "algoritmo de aprendizagem não supervisionado". (Loh,
Loh 2017, 40). Uma vez que o actual algoritmo de auto-aprendizagem não inclui ainda um
mecanismo de auto-aprendizagem não supervisionado, eles estão apenas ao nível da
moralidade operacional, e esta responsabilidade moral e legal recai inteiramente sobre os seus
criadores (designers, fabricantes e programadores) e concessionários ou proprietários de
automóveis, e respectivamente entre os ocupantes do automóvel.
Mas mesmo com este nível de tecnologia, os carros auto-conduzidos já ultrapassam os
humanos, deixando-os - e especialmente os seus programadores - com dilemas morais não
vistos no caso dos humanos em situações de condução extraordinárias e inesperadas. Por
exemplo, se dentro da distância de travagem directamente à frente do carro um grupo de
crianças salta para a estrada para recuperar uma bola rolada, o condutor não pode parar ou
mesmo travar a essa velocidade média, deixando-o sem qualquer responsabilidade moral ou
legal no caso terrível. Mas a automatização da autocondução, que pode reagir muito mais
rapidamente, pode ainda ter de tomar uma decisão se não conseguir parar mas bater num pilar
- potencialmente ferindo seriamente os ocupantes do carro - ou conduzir e matar crianças para
evitar fazê-lo. Mas as capacidades técnicas muito para além dos seres humanos poderiam criar
uma dúzia de novos aspectos semelhantes de tomada de decisão moral para a condução de
automóveis no futuro. Os autores do estudo sugerem, portanto, que em breve será criado um
cartão de identificação separado para os proprietários de automóveis com autocondução, no
qual a configuração final do programa de software para automóveis, os dilemas deixados em
aberto pelos fabricantes, deve ser decidida no momento da compra, de modo a que a
responsabilidade moral e legal pelo seguinte possa ser assumida: "Uma vez que estas
41
terão de os levar de antemão. Isto significa que o condutor terá de preencher um perfil moral
de algum tipo, talvez sob a forma de um questionário, talvez no sentido de um programa de
configuração, tal como acontece com os actuais dispositivos electrónicos. Por conveniência,
parece plausível que estas definições morais possam ser guardadas numa espécie de
dispositivo de identificação electrónica, como uma chave electrónica ou o smartphone do
condutor, assumindo que as questões de segurança de dados podem ser resolvidas" (Loh, Loh
2017, 46).
O desenvolvimento de robôs em rede e a transformação gradual de "objectos
inteligentes" (smartphones, televisões inteligentes, etc.) à nossa volta só recentemente
começou, e à medida que eles se expandem, a Internet das Coisas (IoT) tornar-se-á cada vez
mais envolvida nas nossas vidas no futuro. Os sistemas híbridos de robots humanos estão
assim a expandir-se para incluir aspectos adicionais, e isto cria um outro conjunto de dilemas
morais e legais. Adam Henschke analisa-os no seu novo estudo (Henschke, 2017, 229-243).
Coisas inteligentes estão amplamente disponíveis através de smartphones multifuncionais,
televisões inteligentes, aspiradores robotizados, e carros automatizados de condução semi-
automática com uma variedade de sensores, mas mesmo na vida quotidiana em grande parte
do mundo, estas outras coisas inteligentes foram desenvolvidas que já ultrapassaram as fases
de laboratório de investigação e já chegaram às casas de utilizadores de alta tecnologia com
produção em pequena escala. Estes, contudo, como já experimentámos com smartphones, etc.,
irão proliferar dentro de poucos anos e a sua utilização em massa levanta novos dilemas
morais e legais. Um exemplo é o frigorífico inteligente, que contém alimentos com RFID
(identificação por radiofrequência) e, portanto, quantidade identificada digitalmente, prazo de
validade, etc., e o frigorífico inteligente lê constantemente estes dados, detecta o esgotamento
de cada quantidade de alimentos, e uma vez que está ligado aos mecanismos de venda
baseados na Internet de supermercados próximos, pode encomendar alimentos e outros artigos
domésticos para serem entregues automaticamente. Na sociedade japonesa em
envelhecimento, uma quantidade cada vez maior de pessoas idosas pode ser cuidada através
da utilização de robôs de cuidados, e em lares inteligentes totalmente digitalizados, tal robô
também pode cuidar de pessoas idosas indefesas, assumindo desta forma a entrega de
alimentos encomendados. Ao observar e comunicar com a pessoa idosa indefesa confiada aos
seus cuidados, pode chamar o médico de família ou, se necessário, o hospital por telefone, se
os seus algoritmos incorporados tornarem provável um problema de saúde mais grave.
Este exemplo mostra como, numa década ou duas, serão necessários robôs em cada vez
mais partes do mundo, para resolver cada vez mais o trabalho através de robôs omnipotentes e
smartphones que podem ser utilizados em sistemas de informação completos para cumprir as
suas funções. Contudo, esta indispensabilidade crescente da Internet das Coisas também cria
novos perigos e dilemas morais em comparação com os simples robôs. Adam Henschke
salienta na sua escrita que a novidade da Internet das Coisas em comparação com os robôs
simples é que estes últimos levantam principalmente o problema da segurança física e os
riscos têm de ser avaliados nesta dimensão. (Por exemplo, um aspirador de pó robotizado
infligiu recentemente ferimentos graves a um ocupante inesperado, mas um ou dois acidentes
fatais de carros Tesla auto-conduzidos também podem ser citados para este efeito). Em
contraste, os problemas e perigos de segurança na Internet das Coisas ocorrem em duas
dimensões diferentes. Aqui, para além da segurança física, as questões de segurança da
informação também desempenham um papel, uma vez que o referido robô de assistência a
idosos, que está ligado ao software de hospitais, médicos e outros locais na Internet, pode
fornecer aos hackers ou outros informações sobre dados gravados pela sua câmara integrada e
outros sensores. Podem partilhar os dados de saúde recolhidos continuamente sobre um
prestador de cuidados a idosos não só com o software do hospital responsável, mas também
com aqueles que fazem intenções e planos maliciosos. Da mesma forma, as nossas televisões
inteligentes com uma gama de aplicações podem não só cumprir a sua conveniência mas, com
as suas câmaras e microfones incorporados, transmitir toda a vida da casa para software e
bases de dados de informação que não vemos.
Esta vulnerabilidade também pode levar a uma vulnerabilidade física, tal como quando
43
uma fechadura automática de porta hackeada é aberta remotamente para um intruso através de
instruções externas de dispositivos inteligentes. Ou, como já aconteceu num elegante hotel de
praia, as fechaduras electrónicas inteligentes
44
foram bloqueados por um grupo criminoso de fora dos apartamentos, e os hóspedes do hotel
da elite rica eram prisioneiros até que o resgate necessário fosse pago. Contudo, Henschke
também menciona a possibilidade de o cadeado electrónico do carro de um bilionário ser
bloqueado por criminosos depois de ter saído e os seus filhos presos nele serem libertados
num dia de sol apenas se ele transferisse centenas de milhares (Henschke 2017, 234).
Imediatamente após o incidente, o referido elegante hotel substituiu as fechaduras eléctricas
que podiam ser varridas do exterior e reinstalou as boas e velhas fechaduras tradicionais.
Após tal incidente, o referido bilionário irá provavelmente também restringir as funções de
Internet do seu carro durante algum tempo. Tudo isto, porém, força escolhas em dilemas
morais e legais e eleições que valem a pena ponderar em termos gerais. No mundo dos nossos
objectos, que está a tornar-se mais prevalecente na Internet das Coisas, as velhas coisas
simples já estão a ser largadas, e não seremos capazes de substituir os objectos que acenamos
à vontade para a base de dados das nuvens. Tal como não desistiríamos hoje da Internet
apesar de todos os aspectos negatosos que a vulnerabilidade nos traz.
Um desses dilemas da Internet das Coisas embutidas em bases de dados em rede e em
nuvens abrangentes é qual dos requisitos conflituosos dos dois tipos de segurança - segurança
física e segurança da informação - deve ser dada prioridade? Por exemplo, tornar o lar
inteligente de uma pessoa idosa que mal é capaz de se movimentar completamente à distância
por centros médicos através de câmaras e microfones pode ser importante até certo ponto, mas
também pode significar expor as manifestações mais íntimas da vida para além do que é
necessário. Se a ênfase for colocada na autonomia da informação e na observação e
transparência limitadas, a informação que ainda é necessária em casos raros pode não ser
transmitida ao centro de cuidados, e o beneficiário de cuidados de idosos pode morrer.
Henschke salienta que existem frequentemente prioridades típicas, e por exemplo, numa
televisão inteligente, a segurança da informação tem uma prioridade mais elevada, e para este
efeito, podemos facilmente abordar aqui os constrangimentos. No entanto, com milhares de
aplicações de auto-condução ligadas a software de nuvem, damos mais atenção aos requisitos
de segurança física e apenas secundariamente aos requisitos de segurança da informação
(Henschke, 2017, 239).
Como mencionado acima, o principal problema do futuro será o dilema dos carros que se
auto-conduzem, que são desligados dos humanos e já não podem ser bloqueados do exterior
em certas situações inesperadas, quando o algoritmo deste carro auto-conduzido, construído
sobre a auto-aprendizagem neural, já decidiu autonomamente. Como esta tem sido a principal
direcção do desenvolvimento da inteligência artificial nos últimos anos, é quase certo que isto
também não será contornado nesta área. Por conseguinte, hoje em dia vale a pena analisar
mais de perto os dilemas de responsabilidade moral e legal dos robôs com um elevado grau de
auto-aprendizagem neural e dos seus fabricantes, proprietários e utilizadores. Esta questão é
abordada no seu estudo conjunto por Trevor N. White e Seth
D. Baum (White, Baum, 2017, 66-79) e por Shannon Vallor e George A. Bekey (Valor, Bekey,
2017, 338-353) analisados de diferentes ângulos.
O estudo de Trevor e Baum não só considera designers, construtores e utilizadores, mas
também tem em conta a "punição" do próprio robô no caso dos robôs avançados, que já têm
um sistema de punição e recompensa incorporado na sua programação, e as punições e
recompensas repetidas reforçam na sua programação as direcções de decisão (positivas ou
negativas) relativamente à selecção das futuras respostas dos robôs. Isto também integra a
punição/recompensa no algoritmo de aprendizagem. Quando a situação surge no futuro, as
decisões do robô são encorajadas na direcção certa, e o robô não precisa de ter consciência e
auto-estima.
45
26
"Toronto Mistake" foi um dos erros fundamentais de Watson num questionário de televisão a nível nacional
quando venceu todos com as suas respostas às perguntas mais difíceis. Como erro final, ele fez de Toronto uma
das cidades dos EUA e nem mesmo o concorrente mais fraco se teria perdido. Assim, tornou-se um símbolo de
46
decisões erradas tomadas pela inteligência artificial, o que é raro mas causa tragédia em muitos casos.
47
dilema da identidade em relação aos seres robóticos. Alguns detalhes dos seres humanos e da
sua consciência estão em constante mudança, mas a sua
51
Em meados da década de 1990, após muitos anos de uma série de bombardeamentos e de uma
perseguição do FBI, um perpetrador secreto chamado "Unabomber" deu a razão das suas
acções num panfleto de uma página e meia, no qual se pronunciava contra a desumanidade do
desenvolvimento da sociedade tecnológica desde a Revolução Industrial. A sua linguagem
peculiar foi reconhecida pelo seu irmão e ao notificar o FBI, o bombista sofredor foi
capturado. Acabou por ser Theodor John Kaczynski, um matemático de Harvard. A certa
altura da sua carreira universitária, tornou-se inimigo de uma sociedade dominada pela
tecnologia e começou a sua série de explosões, visando os criadores e os principais
utilizadores dessa tecnologia. Vários morreram e mais ficaram feridos no processo, e ele
planeou retaliar ainda mais se não tivessem sido presos. Agora que o impacto
exponencialmente evolutivo do desenvolvimento da tecnologia ao longo dos últimos trinta
anos se tornou verdadeiramente indiscutível, e a escala e impacto da sua maior aceleração já
foi objecto de várias análises abrangentes, vale a pena recentrarmo-nos nos argumentos
apresentados pela Unabomber, o "matemático louco". É isto que Jai Galliott faz no seu novo
estudo. Ele coloca o combatente da resistência, que desde então tem estado ocupado a
desenvolver as suas teses na sua cela prisional, entre teóricos e movimentos de antitecnologia,
e tenta destacar as suas principais teses à luz do estado actual do mundo robô (Galliott, 2017,
369- 385).
Kaczynski apenas tirou as conclusões práticas das primeiras teses do volume de 1964 de
Jacques Ellul A Sociedade Tecnológica, que à sua maneira eram também uma continuação do
trabalho de Osvald Spengler de 1922 analisando o declínio da civilização ocidental. Ambos os
autores explicaram o declínio em termos de desenvolvimento tecnológico (Spengler, 1995). O
tom puramente pessimista e resignado de Splengler e Ellul tornou-se então uma resistência
moral no caso de Kaczynski, e depois de ver que não havia maneira de reformar este
desenvolvimento, ele acreditava que só restava a violência revolucionária para impedir a
destruição da humanidade. Décadas após o seu panfleto, vale agora a pena considerar como o
estado actual do mundo robótico e as mudanças mais radicais já amplamente visíveis
poderiam significar o perigo da humanidade, ou pelo menos uma deterioração significativa da
sua condição.
Como ponto de partida para a sua abordagem da sociedade tecnológica, vale a pena
salientar que tanto Splengler como Ellul e Kaczynski encaram a existência humana como
estando embutida no ambiente físico-biológico. Daí concluem que a existência humana é
destruída quando, como resultado da revolução industrial, a vida humana se torna cada vez
mais tecnologicamente
53
mediada e, desta forma, cada vez mais distante do ambiente físico-biológico: "Ellul escreveu
que a máquina tende não só a criar um novo ambiente humano, mas também a modificar a
própria essência do homem e que o meio em que ele vive já não é o seu. Ele deve adoptar-se,
como se o mundo fosse novo, a um universo para o qual ele não foi criado. Kaczynski partilha
este sentimento". (Galliott 2017, 373). Por outro lado, se tivermos em conta a tese de
Hartmann, que mantém em mente as quatro camadas interdependentes do ser humano (física,
biológica, mental e intelectual) e que assume no curso da evolução o efeito transformador
cada vez mais forte das camadas superiores sobre as camadas inferiores, a tese acima é
exagerada e sem razão e deve ser classificada como demasiado pessimista.
Kaczynski e os seus predecessores vêem-no como uma decadência da vida humana
quando a camada intelectual superior dos quatro estratos do ser se torna cada vez mais
dominante sobre os estratos inferiores. No entanto, este tem sido o caso, embora mais
lentamente, nos últimos dois ou três mil anos e pode-se destacar a utilização de metais e
especialmente de ferro, a partir dos quais a transformação do ambiente humano foi
fundamentalmente alterada. A revolução industrial apenas acelerou esta situação, e
especialmente desde os anos 50, tornou-se tumultuoso basear as várias actividades das
comunidades humanas na inteligência e na tecnologia a ela associada. Ou seja, a vida humana
não se baseia de forma alguma apenas nas camadas físico-biológicas do ser. Assim, quando a
sua quota-parte e poder decisivo na vida humana diminui e este ambiente é amplamente
mediado e transformado tecnologicamente, isso não significa que a sociedade humana seja
destruída. Em tudo isto, apenas o peso da importância das quatro camadas do ser na realidade
se altera, tornando a vida humana mais baseada na camada intelectual e aumentando
radicalmente o domínio desta camada espiritual do ser sobre a camada inferior. Esta nossa
avaliação só poderia ser suspensa se em algum momento da evolução do mundo robótico este
mundo viesse a emergir verdadeiramente do controlo humano e a inteligência artificial viesse
a subir como uma nova camada de ser acima das sociedades humanas que até então tinham
estado no auge da evolução. A elevação de Kaczynksi como profeta só seria então impedida
pelo facto de que em tais circunstâncias e nos seus perigos, a incapacidade de ser elevado
como herói seria o menor dos problemas. Contudo, tanto quanto sabemos e acreditamos, esta
só pode ser considerada hoje uma opção improvável, e o crescimento de sociedades humanas
caracterizadas por inteligência artificial sem uma nova camada autónoma de ser pode ser
considerado uma visão realista para o futuro.
54
Chater IV
Sociedade do
Ciberespaço
(sociedade plataforma, sociedade métrica, sociedade de
dados
*********************************************************************
55
1. Sociedade no ciberespaço
trabalho físico hoje em dia, e os seus algoritmos podem realizar as actividades de muitas
ocupações mentais mais rapidamente e com mais precisão do que os seres humanos.
Se relacionarmos o crescente papel social da IA nas nossas vidas com o problema do
espaço, torna-se claro que isto também significa que as actividades sociais estão a ser
deslocadas para fora dos espaços físicos da nossa realidade (terra, água/mar, ar, e mais
recentemente, espaço exterior) para um novo espaço, o ciberespaço, criado pela rede
global de computadores. Após a mudança das actividades para o ciberespaço que começou
com o correio electrónico, milhões de nós dormimos e comemos em casa apenas na
realidade física, mas estamos no ciberespaço assim que acordamos ao lado do computador,
e - especialmente na actual epidemia - encontramo-nos com estudantes através de
videoconferência, realizamos reuniões de direcção com colegas, e depois lemos os nossos
jornais e revistas online favoritos, os académicos recebem o portal comunitário online
"edu", onde recebem notificações automáticas e comentários sobre onde e por quem os
seus artigos de discussão foram lidos nesse portal comunitário online, de África para a
América Latina e Ásia.
E dentro de dez a vinte anos, com carros auto-conduzidos, casas inteligentes, e cidades e
bairros inteligentes, todas as pessoas estarão quase completamente ligadas ao ciberespaço
para a maioria das suas actividades diárias, para além de dormirem e comerem. Por outras
palavras, a sociedade terá mudado para o ciberespaço, e o espaço físico será ainda mais
desvalorizado do que é hoje.
Mas o significado do espaço físico não é tão fácil de descrever. Os humanos só podem
viver em comunidades cultural e moralmente coesas, e entre estas, as comunidades
nacionais são o quadro comunitário mais duradouro, e entre estas comunidades nacionais
existe uma luta constante pela riqueza material e domínio do poder umas sobre as outras.
Mas mesmo entre estes, grupos de mercado, grupos culturais, comunidades territoriais, e
mesmo grupos criminosos, há uma luta constante pela riqueza, influência, e subordinação de
outros grupos. A organização estatal e os limites do Estado são, portanto, essenciais para
regular isto e manter a ordem, que está firmemente construída sobre os limites do espaço
físico. Este é um dos problemas fundamentais da coexistência tensa do espaço físico e do
ciberespaço, para o qual a sociedade está cada vez mais em movimento e que está a ser
construído a um ritmo acelerado.
A Internet que criou o ciberespaço na década de 1980 foi desenvolvida nos Estados
Unidos para comunicações militares e de investigação académica próximas, e mesmo após a
sua divulgação à sociedade civil continuou a evoluir com protocolos e programas técnicos
escritos sem controlo central, e por isso foi inicialmente concebida como uma Internet
mundial, a "World Wide Web". Em 1994, quando já estava a ser utilizada por muitos
milhares de pessoas e havia esforços para a divulgar em todo o mundo, alguns peritos em TI
que a divulgaram indicaram que poderia ser perigoso prescindir do controlo central, mas a
administração Clinton na altura achou melhor que os EUA dominassem a recolha de
informação no mundo através das suas empresas tecnológicas, sem interferência de outros
estados utilizadores. Isto só se tornou um problema quando a Estónia, por exemplo, forjou
nesta área e ligou toda a sua administração e sistema de electricidade à Internet. No entanto,
quando, em 2007, se confrontou com a Rússia por causa de um problema, os hackers da
divisão cibernética dos militares russos, agora estabelecida, fecharam o sistema de
administração pública e de electricidade da Estónia em resposta, lançando toda a Estónia no
caos durante semanas. Da mesma forma, Moscovo não só subjugou o aventureirismo militar
da Geórgia com contra-ataques militares em 2008, como também aleijou metade do país
com os seus hackers antes disso. Hoje em dia, todos os países têm defesas cibernéticas
contra ciberataques - como os guardas de fronteira no espaço físico - e mesmo os países
maiores têm departamentos de ciberataque que são em número de milhares. Mas não são
apenas os estados que estão por detrás dos ciberataques; em alguns casos, grandes grupos
criminosos, grupos industriais concorrentes, e grupos políticos extremistas também o estão.
E à medida que as sociedades avançam para o ciberespaço, o impacto potencial dos
ciberataques torna-se mais catastrófico. O facto de a soberania estatal, construída sobre os
58
estreitos limites do espaço físico, não poder existir no ciberespaço, que é já uma Internet
mundial, torna a defesa desesperada desde o início. A elite norte-americana vê agora os
danos
59
2. Ciberespaço e Soberania
globalista.
62
3. Ciberespaço e Tempo
Até ao final da década de 1980, a alegria de uma bolsa de investigação no estrangeiro era
seguida pela árdua procura em fóruns de hotel, dormitório, ou apartamento no estrangeiro, e
levava pelo menos duas semanas para obter uma resposta após dez dias, pelo que havia
poucas hipóteses de trocar informações sobre o assunto antes de um mês ter passado. Mesmo
num caso ligeiramente problemático, podia levar até seis meses para encontrar um
apartamento, e a incerteza entretanto tornava a vida difícil enquanto se preparava. O advento
do fax, em que uma mensagem por fax era respondida em meia hora e se podia estar no seu
caminho, foi um grande alívio para organizar uma viagem de estudo. A mesma poupança de
tempo é ainda mais pronunciada quando as actividades se deslocam para o ciberespaço, por
exemplo, uma videoconferência de duas horas de uma sessão do tribunal constitucional no
ciberespaço já não demora um dia inteiro, com mudança de roupa, uma hora e meia ou duas
horas no trânsito da hora de ponta, a conversa obrigatória, um longo almoço, uma pausa para
recarregar com café, depois mais duas horas no trânsito da hora de ponta a caminho de casa,
e uma noite esgotada a ler apenas o livro mais leve. Uma sociedade que tira partido desta
eficiência, em contraste com uma que quase não a utiliza, simplesmente toma um caminho
de desenvolvimento diferente e consegue muitas vezes mais recursos para o mesmo número
de habitantes e trabalhadores.
Já se sabe que uma sociedade que depende da informatização passa do desenvolvimento
linear para o exponencial, uma vez que as suas ferramentas informáticas subjacentes
requerem pouco material e energia e dependem cada vez mais de uma melhor organização e
de um armazenamento cada vez mais miniaturizado de algoritmos de inteligência de máquina.
Ray Kurzweil, numa discussão sobre a simulação computacional do cérebro humano, disse ao
seu parceiro de discussão, que assumiu mil anos com base no estado actual da velocidade de
processamento computacional, que se a taxa de crescimento fosse linear, seria de facto mil
anos, mas se considerarmos a aceleração exponencial dos últimos cinquenta anos, que tornou
possível uma velocidade de processamento mil vezes superior, então mil anos são apenas uns
bons vinte anos no futuro. E esta redução de tempo com a crescente ciberização da actividade
social está a transferir parcialmente a aceleração exponencial que está a impulsionar a
tecnologia da informação para a actividade humana. Assim, é provável que as mudanças na
sociedade que se deslocam para o ciberespaço se acelerem no futuro. O slogan familiar da
"aceleração do tempo" tornar-se-á agora cada vez mais real.
Os problemas filosóficos do espaço e do tempo no contexto de uma sociedade do
ciberespaço tornar-se-ão renegociáveis. De facto, o espaço como extensão e distância
desaparece aqui - e essa é a sua essência - e só precisamos de usar o termo "ciberespaço"
porque os nossos padrões de pensamento estabelecidos não nos permitem expressar o quadro
geral de comunicação e troca de informação entre pessoas fora da mente de qualquer outra
forma. De acordo com os nossos padrões de pensamento estabelecidos, isto só pode
acontecer no espaço. O tempo não desaparece de forma tão radical na sociedade do
ciberespaço, mas o seu encurtamento dramático torna-o em grande parte irrelevante nas
relações humanas. O que eu penso e escrevo no meu post no Facebook pode ser refutado ou
assumido em aminuto por um colega comentador húngaro na Austrália, e pode espalhar-se
mais rapidamente lá do que aqui na cidade na Hungria, e desencadear um debate numa
estação de rádio húngara lá mais rapidamente.
De um ponto de vista temporal, contudo, é importante notar que as tecnologias de
informação que criam o ciberespaço reduzem radicalmente a natureza demorada da troca
de informação apenas na primeira fase. Por exemplo, alguém sentado em frente de um
computador pode completar uma troca de correio electrónico ou uma resposta a um
comentário argumentativo num post do Facebook numa questão de segundos, em que
63
A correspondência demora pelo menos alguns dias, mas a conclusão efectiva dessa troca
através do processamento consciente da informação está fora do ciberespaço. Aqui
prevalecem os mesmos processos conscientes-mentais inalterados que prevaleceram
durante milénios. Aqui, a lentidão consistente resiste em forte contraste com a própria
velocidade da troca de informação entre dois (ou mais) participantes. Uma consequência
disto é que a natureza anteriormente mais encoberta das percepções lentas de cada
participante é agora trazida mais fortemente à superfície, e possivelmente tornada
insuportável pelo desempenho prolongado da troca de informação inerentemente lenta.
Isto é, naturalmente, evitado em parte pelo facto de os humanos, com a sua lenta
capacidade de processamento cognitivo, estarem cada vez mais desligados da troca de
informação no ciberespaço, onde esta é acelerada por ferramentas informáticas, e que os
algoritmos de inteligência artificial também executam as tarefas de processamento de
informação associadas após a troca de informação, depois transformam as suas premissas
anteriores através da auto-aprendizagem, e recebem a nova informação com as premissas
recém aprendidas. Enquanto isto leva minutos ou horas para a mente humana, mesmo para
a mente ágil, e dias ou semanas para a mente burra, para o algoritmo de auto-
aprendizagemAI, nas velocidades de funcionamento actuais, isto pode acontecer centenas
de milhares de vezes por minuto, e pode receber e processar informação e enviar
informação em resposta ao seu algoritmo parceiro com a mesma frequência. Em poucos
anos, à medida que a velocidade das operações aumenta (ver Lei de Moore), pode fazer a
mesma tarefa milhões de vezes em segundos. O tempo e a sua quantidade não
desaparecem no ciberespaço - ao contrário da extensão espacial e da distância - mas
tornam-se quase inúteis com a aceleração prevista.
A tensão acima referida entre a rápida troca de informação e a diminuição do
processamento consciente humano, mesmo quando os humanos entregam uma parte
significativa do seu processamento total de informação a algoritmos, pode levantar a
questão no futuro do desenvolvimento de métodos pedagógicos conscientes para
ultrapassar as barreiras actuais, as distracções emocionais, e as barreiras de recepção dos
padrões de pensamento estabelecidos. Entre os muitos "cepos", apenas os ágeis sofriam de
uma percepção lenta dos seus parceiros, mas a tecnologia de informação acelerada
significa que a sociedade como um todo será abrandada se o carácter etalon dos cepos não
mudar. O tempo acelerado deve ser mantido.
Outra consequência da mudança acima descrita é que ela derruba as barreiras entre
comunidades de conhecimento anteriormente fechadas, deslocando as actividades
intelectuais para o ciberespaço e disponibilizando rapidamente os produtos intelectuais a
todos.
De facto, esta compartimentação anterior contribuiu significativamente para a fragmentação
das disciplinas da ciência e comprometeu gravemente a qualidade, cortando grande parte do
contexto a comunidades científicas próximas. A maioria dos académicos que permanecem
nas universidades científicas não fazem qualquer trabalho académico, ensinando aos
estudantes apenas o livro de texto escrito pelo "professor". Mas os professores também
cultivam uma gama de conhecimentos cada vez mais restrita, deixando de lado uma série de
contextos, afirmando que já não é o seu campo. Por exemplo, no campo do direito, onde
tem havido uma extrema fragmentação dos campos jurídicos em toda a Europa, mas
especialmente na Hungria, há quase apenas alguns professores antigos num determinado
campo do direito que lêem e compreendem regularmente até uma área restrita, e alguns
jovens professores universitários que cobrem apenas uma pequena parte dela. A razão para
isto é a dificuldade em obter informação, mas também, claro, que a monopolização da
informação num campo restrito tornou possível aumentar o prestígio do meio académico
com uma pequena quantidade de trabalho. Mas com a disponibilidade do ciberespaço para
todos, este conhecimento monopolizado é rápida e facilmente acessível a todos, e isto está a
fazer descer os muros entre disciplinas fechadas. Assim, a aceleração do ciberespaço está
também a forçar mudanças nos domínios sociais tradicionais.
65
O problema do vício dos jogos de computador entre os jovens adolescentes era conhecido
desde os anos 80, mas a proliferação das redes sociais na Internet a partir da viragem do
milénio exacerbou-o, e quando, a partir de cerca de 2012, a possibilidade cada vez mais
conveniente de comunicar com smartphones através do desdobramento das redes sociais
tentou os adolescentes a fazê-lo em massa, a minimização das relações interpessoais entre
eles alarmou os psicólogos. Devido ao curto período de tempo, isto só tem sido estudado em
profundidade nos EUA, mas uma leitura dos desenvolvimentos aí ocorridos revela
problemas que também estão a ocorrer em todos os países do mundo. Enquanto para adultos
já socializados e com personalidade consolidada, a minimização do contacto interpessoal e
da comunicação através da deslocação para o ciberespaço é apenas um inconveniente inicial
enquanto constroem as suas comunidades e outras formas de contacto no ciberespaço nos
meios de comunicação social, a minimização do contacto interpessoal directo pode ser um
drama de socialização para jovens com personalidades imaturas.
O estudo de Jean Twenge no The Atlantic analisa inquéritos dos Estados Unidos que
lideram este drama, num artigo de 2017 alarmantemente intitulado: "Terão os smartphones
destruído uma geração? 4 A solidão partilhada das crianças, com imagens de crianças em
idade escolar sentadas lado a lado, absorvidas nos seus tablets e smartphones, é uma
imagem familiar, mas Twenge descreve o processo pelo qual os smartphones se estão a
tornar a principal forma de contacto para todos os adolescentes, quase sem excepção, e a
separar completamente os adolescentes nos Estados Unidos da família, mesmo na mesma
sala de estar. Lá, eles jantam juntos em silêncio, uma vez que a criança ainda está no meio
de conversas no Snapchat, Instagram, Twitter e Facebook que acabaram de parar. A
comunidade familiar já não funciona realmente, apesar da união física; a criança mudou-se
inteiramente para grupos no ciberespaço, que pode não conhecer pessoalmente, mas que são
as suas comunidades virtuais. O abuso e intimidação de adolescentes que é comum nas
relações presenciais é agravado aqui no ciberespaço sob o pretexto de impessoalidade e
pode arruinar todo o dia de adolescentes mais sensíveis, especialmente raparigas, e afectar o
seu desempenho académico e, em casos piores, levar ao suicídio. De acordo com Twenge,
as taxas de suicídio para raparigas entre 12 e 14 anos nos EUA triplicaram desde o advento
dos smartphones nos anos 2010, enquanto que para rapazes duplicaram.
67
Nas páginas anteriores, usei o termo "ciberespaço" para me referir a uma sociedade que se
elevou acima do espaço físico, porque esta característica é a mais marcante na história da
mudança social nos últimos milhares de anos, uma vez que a mudança até agora tem estado
sempre limitada a uma sociedade que permaneceu no espaço físico. No entanto, esta
formulação filosófico-ontológica afasta o foco dos aspectos mais concretos desta mudança,
pelo que as análises sociológico-teóricas que se centram apenas nisso, em contraste, podem
ser de grande utilidade para a compreensão das particularidades da socialidade do
ciberespaço. Em 2018, três autores holandeses apresentaram uma análise intitulada
"Platform Society", na qual se concentram em plataformas de comunicação em linha, e na
verdade a mudança para o ciberespaço é mais precisamente definida como actividade em
plataformas que funcionam na Internet. 5 A perspectiva sociológica mais concreta dos
autores holandeses coloca a nova socialidade em perspectiva e destaca a diferença entre ela
e a anterior socialidade do espaço físico.
68
fechados ser
70
recuando para o fundo e sendo substituído por mecanismos de avaliação directa pela massa
de pessoas que utilizam as actividades como serviços. A reputação, o prestígio e a hierarquia
da marca já não são cada vez mais determinados pela forma como um grupo fechado dentro
de grupos de peritos avalia uns aos outros e os produtos. (Ver na ciência a cooptação para as
mais altas academias por vassalagem, ou o
a prática de deixar que os cliques de actores dominantes se tornem clientes na formação
da Escola Superior de Arte Dramática da Hungria apenas com base na estrita adesão ao
princípio do "cachorrinho do teu cão", e em geral as distorções flagrantes do
"profissionalismo" em vários sectores).
Em qualquer caso, é difícil compreender em detalhe as mudanças indicadas, uma vez
que mesmo estas análises, que vão além da profundidade filosófica não ontológica,
representam mudanças epocais. Mas, de qualquer modo, só se está no início destas
mudanças, pois a inteligência artificial 5G e depois 6G elevarão as bases tecnológicas para
estas mudanças a milhões de vezes o que são hoje, e isso será apenas um desenvolvimento
nos próximos dez a quinze anos.
Nos anos 80, fiquei surpreendido nas minhas visitas de estudo alargadas aos departamentos
de humanidades das universidades alemãs com a condenação da concorrência. Não era
apropriado jogar futebol para golos entre colegas universitários e estudantes. Explicou-se
com um sorriso de boa natureza que, em vez de harmonia, trazia um espírito vicioso de
competição, e um verdadeiro estudante de elite das faculdades de ciências sociais não
precisava de explicar isto, a anticompetição estava no seu sangue. A sociedade do
espectáculo era insustentável para a maioria deles como um forte testemunho do
deslocamento capitalista. É certo que a classificação rigorosa nas ciências humanas e sociais
era um conceito estrangeiro precisamente por essa razão, e um professor de ciências políticas
em Hamburgo que eu conhecia - de resto uma pessoa muito simpática - observou uma vez de
forma algo reprovadora que na faculdade de direito da sua universidade os professores de
direito são tão rigorosos na sua classificação que até falham. Não concordei com esta atitude,
e esta tolerância pareceu-me distorcida, tal como não concordei com o facto de que nas
universidades da Hungria, desde o final dos anos 90, as notas dos estudantes pós-graduados
para exibição nos quadros de avisos departamentais para orientação eram proibidas.
Para aqueles com notas mais baixas, isto era embaraçoso à frente dos outros, pelo que foi
banido como informação sensível e uma questão de privacidade. Contudo, a nota não só
mostra ao aluno e ao professor a que nível ele ou ela se encontra, como também o estimula a
ter um melhor desempenho aos olhos do colectivo como um todo. Isto só é possível se o
colectivo souber qual é a posição dos membros individuais em termos de desempenho, e é
apenas em idade escolar muito jovem que devem ser abertas excepções para proteger as
crianças de serem avaliadas negativamente pelos seus pares.
No mundo ocidental, a promessa de uma meritocracia, uma ordem social baseada no
mérito e não numa hierarquia de nascimento, andou de mãos dadas com a exigência de
democracia nas sociedades modernas, e a meritocracia ou democracia enfatiza medidas
objectivas. E a mudança acelerada das actividades do espaço físico para o ciberespaço da
Internet nos últimos anos multiplicou enormemente este potencial de medição. Segundo
uma dupla de autores americanos, o número de actividades na Internet e no ciberespaço irá
aumentar 300 vezes entre 2005 e 2020, e hoje em dia o habitante médio da cidade deixa
cerca de 5.000 vestígios digitais e dados na Internet e nas coisas inteligentes que o rodeiam
todos os dias, mesmo que não seja
71
ciente disso. E estes são resumidos em segundos por uma multiplicidade de algoritmos para
fazer previsões sobre o comportamento tanto de indivíduos como de grandes grupos de
pessoas. Os problemas potenciais resultantes são conhecidos tostem do controlo excessivo
por indivíduos e devem ser evitados. Por outro lado, a vasta quantidade de dados também
pode ajudar a criar uma meritocracia, e esta característica da sociedade métrica (uma
sociedade baseada na medição) deve tornar-se mais proeminente no futuro.
A sociedade métrica transforma o juízo individual de ser unicamente baseado na
experiência para ser incorporado numa enorme base de vasta experiência e mede todos os
participantes contra um indicador comum. Isto dissolve hierarquias anteriores baseadas em
características incomparáveis e cria uma hierarquia de gradientes ao lado de um único
indicador que se torna puramente quantitativo. Isto permite à pessoa na base da hierarquia
ver o que e o quanto precisa de melhorar para chegar ao topo com base num número
preciso. Steffen Mau, professor de sociologia alemão e autor do livro "The Metric Society"
de 2019, analisa em profundidade como a sociedade métrica se desenvolve de acordo com
o princípio da comparabilidade dentro de cada actividade, criando hierarquias dentro de
grupos de pessoas envolvidas numa actividade baseada em indicadores universalmente
aceites. 7 Isto tem um enorme efeito competitivo e permite um desenvolvimento explosivo
do campo de actividade. Comparabilidade, medição, competência e desenvolvimento - esta
é a base da sociedade métrica. O futebol anti-goal das faculdades de humanidades alemãs
como símbolo de hostilidade ao desempenho - se é que ainda hoje existe - não é
reconhecidamente um bom complemento a isto.
Se se tornou comum na sociedade ser guiado pelas classificações apresentadas por métrica,
então uma grande proporção de pessoas evitará aqueles que estão no fim da lista e escolherá
aqueles com números elevados, seja um hospital, uma universidade, uma estação de
televisão, um partido político dentro do campo apolítico, ou o que quer que seja. Assim,
cada concorrente tem a oportunidade não só de se sair bem, mas também de assumir o
controlo dos quadros de pontuação e dos seus criadores, apresentando-se assim ao público
como produtores de qualidade. Recordemos como a BBC britânica ou a CNN americana
foram apresentadas como modelos de meios de comunicação de massas de qualidade na
Europa de Leste no início dos anos 90, fazendo assim com que os meios de comunicação de
massas deste país aceitem os seus valores e propostas políticas, enquanto que nos últimos
anos na Hungria, por exemplo, a informação sobre as manipulações políticas mais sombrias
da CNN, ou seja, sobre a actividade empresarial que está longe de ser a função ideal dos
meios de comunicação de massas, foi difundida.
No entanto, desde que aqueles com interesse na divulgação pública de dados de medição
possam controlá-la, podem abusar da confiança na medição e da reputação que ela lhes dá à
vontade, fazendo recair sobre si a promessa de qualidade numa sociedade métrica. A mais
antiga medida de valor, dinheiro, e a sua contrafacção é assim utilizada como modelo
também aqui, e a "moeda falsa" das mais diversas listas de medidas é produzida por estes
parasitas.
Talvez muitas pessoas na Hungria ainda se lembrem da tentativa dos liberais de
esquerda que se preparavam para as eleições de 2014 de substituir o governo Orbán
fundando o partido Bajnai "Juntos", quando sondadores amigáveis viram o partido, que
tinha surgido do nada, a 14% apenas uma semana após a sua fundação. O partido, que tinha
sido artificialmente colocado na liderança, começou então a atrair um fluxo de activistas da
esquerda-liberal, e esta acumulação foi para assegurar que se tornaria de facto a maior
força esquerda-liberal. Evidentemente, a sua verdadeira fraqueza depressa se tornou
evidente, a farsa eleitoral falhou, e tudo isto desmoronou, mas esta manipulação das urnas e
72
e todos os jornais diários no país e no estrangeiro foram dominados por bandeiras fascistas no
dia seguinte, e o carácter fascista de Csurka não era visível apenas para os cegos.
dá ao governo a oportunidade de apresentar o sucesso das suas acções. Isto tem sido evidente
em todos os países do mundo nos últimos meses, e na Hungria reflectiu-se na batalha
estatística em que o governo e os seus meios de comunicação social proclamaram
triunfantemente o papel da Hungria como campeã mundial em estatísticas de imunização,
enquanto os políticos da oposição, os seus meios de comunicação social, e os seus
intelectuais de origem expressaram a sua consternação pelo facto de a Hungria estar a fazer
um fraco enterramento da mortalidade como percentagem da população. (Entre parênteses,
ambas as estatísticas eram verdadeiras.) Ao fazê-lo, o governo acusou a oposição de uma
"campanha de morte", e a oposição atribuiu cada morte às acções do governo, como se não
houvesse nenhuma epidemia à nossa volta no mundo.
Assim, a batalha com estatísticas opostas já existia no mundo da política, mas nos
últimos anos a mudança de uma gama cada vez maior de actividades sociais do espaço
físico para o ciberespaço acelerou-se rapidamente, e a sociedade do ciberespaço resultante,
que se está a desenvolver nas plataformas da Internet, está a gerar biliões e triliões de pistas
de dados digitais todos os dias, criando uma nova situação. Hoje em dia, esta abundância de
dados já é percebida e é chamada a era dos Grandes Dados, mas gradualmente todos os
sectores da sociedade estão a ser sintonizados com o seu funcionamento, e todo o arsenal de
lutas políticas está a ser remodelado. Os partidos políticos verdadeiramente profissionais e
especialmente as redes de ONG organizadas globalmente já dominam o potencial das
batalhas estatísticas, mas o tempo para isso está apenas a começar. Ainda não há nenhum
movimento político de guerreiros-estatísticas disfarçados de académicos (ou grupos de
"Estatísticas Radicais" em inglês) na Hungria, mas já são conhecidos, por exemplo, no
Reino Unido e no sector estatístico francês. No Reino Unido, o Grupo de Estatísticas
Radicais (Radstats) é uma associação de guerreiros estatísticos de esquerda há muitos anos,
e a sua luta política baseada nos números é uma expressão da imitação da despolitização da
política. Existem na Hungria apenas os institutos de sondagens político-partidárias como
precursores dos Radstats ao lado dos grandes campos políticos, mas é apenas uma questão
de tempo até que as divisões dos guerreiros-estatísticas sejam estabelecidas ao lado de
todos os grandes campos políticos, de acordo com a lógica do pluralismo. Tal como a
democracia, que evoluiu para uma juristocracia, produziu nos últimos anos a figura do
"defensor dos direitos fundamentais".
- que vem em grande parte não do legal mas das humanidades - por isso, a governação
das actividades e processos sociais baseada em dados e métricas está a produzir a figura
do estaticista-guerreiro ao lado do estaticista científico.
Os seres humanos controlam o seu ambiente, que é o que os torna humanos. Mas o que nós
controlamos como ambiente - ou seja, para onde se dirige a nossa tomada de decisão mental
diária - é bastante diferente. Uma jovem, antes de sair de casa pela manhã, toma uma
multidão de decisões sobre o que vestir, mudando a roupa que finalmente decide de uma cor
para outra; como pentear o cabelo; que maquilhagem usar, e depois toma muitas mais
decisões ao longo do dia sobre a melhor forma de se apresentar à sua contraparte, e isto é
verdade mesmo quando algumas destas decisões, uma vez que se tornam rotinas fixas, já
não requerem qualquer decisão real. Em contraste, a maioria dos homens, especialmente
quando envelhecem um pouco, já não tomam decisões sobre o seu vestuário, e as rotinas
enraizadas regem tudo nesta área. Para um cientista, mesmo o seu ambiente imediato está
largamente fora do seu controlo, uma saudação de rotina a um vizinho, a um colega que por
acaso encontra, mas o seu controlo ambiental total é dirigido, por exemplo, a todo o sistema
político, através da leitura e informação
77
Quando a medição tem consequências, é preocupante. Sem ela, a posição já tomada, o status
quo, não é perturbada, e se não houver terramoto, catástrofe, revolução, etc., apenas o
desaparecimento da era irá abolir o status quo. Os detentores do poder estatal são assim
inabaláveis, o homem cooptado pelo lobby universitário e académico torna-se um professor
e um grande cientista mesmo sem qualquer realização e o grande actor e génio musical
adoptado por um lobby permanece um grande actor e génio musical até à sua morte e pode
obter um palco e um grande disco sempre que quiser. E podemos enumerar mil exemplos de
"má estabilidade" resultante de uma falta de medida. Quando estava na minha primeira
viagem de estudo a Viena em 1980, tendo fugido da Hungria por detrás da "Cortina de
Ferro", e vi o Chanceler Kreisky na televisão à noite e fiz-lhe perguntas embaraçosas nas
notícias, ocorreu-me que o Secretário-Geral do Partido Comunista na Hungria, János Kádár,
aparece na televisão no máximo uma vez a cada seis meses, e depois apenas numa revelação
solene, cuidadosamente organizada, em forma de caixa de sabão. Para dizer o mínimo, o
sistema político na altura não estava sob a influência amortecedora da medição, quanto mais
de eleições de partido único.
Mas foi também o caso na esfera académica que os professores e estudiosos mais
elevados escolheram os seus descendentes, que tinham crescido como vassalos dos seus ou
de outros professores, como membros correspondentes e depois como membros de pleno
direito da Academia Científica da Hungria, e os professores universitários escolheram os
seus estudantes favoritos que ficaram no campus como futuros professores, e a questão era
muitas vezes apenas a vontade de se submeterem - sem reservas. Mas a competição e a falta
de mérito eram também a regra noutros sectores. O império soviético de partido único
acabou por entrar em colapso por razões de política de poder, mas na realidade foi a falta de
desempenho e a total ineficiência que permeou toda a sociedade.
Isto também merece ser enfatizado porque na Europa Oriental, como uma narrativa ex
post, enfatizamos o carácter político da mudança de regime como a eliminação do
anacronismo do poder inamovível de um partido único. Isto é verdade na medida em que isto
é essencialmente tudo o que realmente aconteceu, mas não deixa claro que a falta
fundamental de medição e incentivo ao desempenho tenha permanecido inalterada durante
décadas. A co-optação pelos detentores do poder é tão predominante nas universidades e
faculdades como nos sectores do teatro e do cinema, com o efeito complicador de que os
lobbies internos de gestão que não são coagidos ou influenciados pelo desempenho são os
mais politizados nas correntes políticas que dominam a vida intelectual. E esse é
praticamente o campo político-intelectual de esquerda-liberal que dominou todo o mundo
ocidental durante o último meio século, e onde a política governamental deslizou mais na
direcção nacional- conservadora, está basicamente a enfrentar todo o sector intelectual, o
sector académico-universitário, o mundo do cinema, e o sistema de lobby dominante do
mundo teatral.
A sua "equalização" na direcção certa, ou seja, ligá-los à medição contínua do
desempenho, significaria que estes grupos de líderes universitários, chefes da Academia
Científica da Hungria, directores de teatro, etc., baseados na cooptação interna, deveriam
estar ligados à avaliação de toda a comunidade científica, comunidade teatral, etc., e que,
nestes sectores, académicos, líderes académicos, professores, estudiosos de teatro devem
ser altamente avaliados por toda a comunidade. Como a comunidade científica avalia os
seus membros individuais, citando e criticando os seus trabalhos científicos, e quem tiver a
maior taxa de citação tem a maior realização científica. Nas ciências naturais e na
engenharia, isto tornou-se aceite no mundo e também na Hungria, mas nas ciências sociais,
jurídicas
79
que é uma ordem de grandeza mais rápida, já está a ser lançada, e versões 6G estão a ser
desenvolvidas em laboratórios. Tudo isto significa que não é demasiado cedo para dizer que
as sociedades que se deslocaram do espaço físico para o ciberespaço estarão, na sua maioria,
a operar dentro de 10-15 anos numa estrutura organizacional diferente da que têm há
milhares de anos, e que, sem se darem conta, começarão já a ser dominadas por princípios
organizacionais diferentes. No entanto, as grandes mudanças já estão a ser analisadas, e
algumas das diferenças fundamentais entre a sociedade do ciberespaço e a forma como a
sociedade está organizada no espaço físico já são conhecidas.
1) Esta sociedade está organizada na Internet, e desde que surgiu como a Internet
mundial em parte espontaneamente e em parte através da disseminação deliberada da sua
influência para o mundo devido ao domínio das primeiras empresas tecnológicas da
Internet sob os EUA, a disseminação subsequente da Internet cruzou-se com soberanias
estatais. Mais recentemente, a revolta dos Estados soberanos desencadeou uma
reordenação dos fundamentos da Internet e do ciberespaço, com a China e a Rússia na
vanguarda da luta contra os E.U.A. e a sua Internet global. Portanto, a polarização
causada por isto - cerca de 30 estados são a favor da Internet global dos EUA, e o mesmo
número de estados são a favor do modelo chinês - pode ser o ponto mais importante da política
mundial num futuro próximo, e a Hungria, Polónia e Europa de Leste em geral, favoráveis à
soberania, encontram-se aqui numa importante encruzilhada.
têm vindo a queixar-se,os problemas que têm vindo a relatar podem agora tornar-se mais
graves.
Bibliografia
Kurzweil, Ray (2012): Como Criar uma Mente. O Segredo do Pensamento Humano Revelado.
Edição Viking Penguin. Londres.
Linssen, Charl/Pieter Lemmens (2016): Incorporação na Emulação de Todo o Cérebro e as
suas Implicações para a Ansiedade de Morte. Journal of Evolution and Technology.
2016.
N.º 2. 1-13.p.
Loh, Wulf, Janina Loh (2017): Autonomia e Responsabilidade no Sistema Híbrido.
In: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics 2.0. Oxford
University Press, Nova Iorque. 35-50. p.
Luhmann, Niklas(1994): Liebe als Passion: Zur Codierung von Intimität. Suhrkamp.
Frankfurt am Main .
Mau, Stefen: A Sociedade Métrica. Sobre a quantificação do Social. Polity Press 2019.
Mueller, M.: ICANN e a governação da Internet: classificação através dos escombros de
"auto-regulação". info (Vol. 1.)No. 6. 497-520. p.
Pigliucci, Massimo (2014): Carregamento da mente: Uma Contra-Análise Filosófica.
In: Russel Blackford/Damien Broderick (eds.) Intelligence Unbound: O Futuro
das Mentes Carregadas e das Máquinas. Wiley Blackwell. Malden - Oxford, 119-
130.p
Segal, Adam: O Regime de Governação Cibernética Alternativa da China. Conselho sobre
Relações Externas, 13 de Março. 2020.
Spiegelhalter, David: Sexo por Números: O que os Estadistas nos podem dizer sobre o
Comportamento Sexual.
Colecção Wellcome, 2015.
Splengler, Osvald(1995): Um alkonya Nyugat. A világtörténelem morfológiájának
körvonalai. I - II. kötet. Európa Könyvkiadó, Budapeste.
Srnicek, Nick: Capitalismo de Plataforma. Wiley. 2016.
Talbot, Brian, Ryan Jenkins, Duncan Purves (2017): Quando os Robots Devem
Fazer a Coisa Errada. In: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Ética
dos Robôs
2.0. Oxford University Press, Nova Iorque. 258 -273. p.
Tegmark, Max: LIFE 3.0. (2017): Ser Humano na Era da Inteligência Artificial.
Edição Allen Lane. Nova Iorque.
Twenge, Jean M. The Atlantic, edição de Setembro de 2017.
Vallor, Shannon, George A. Bekey (2017): Inteligência Artificial e a Ética dos Robôs
de Auto-aprendizagem. In: Patrick Lin, Ryan Jenkins, Keith Abney (eds.):
Ética dos Robôs 2.0. Oxford University Press, Nova Iorque. 338-353. p.
Van Dijk, J./T. Poell/ M. De Vall: A Sociedade da Plataforma. Os Valores Públicos num
mundo conectado. OxfordUniversity Press 2018.
White, Trevor N, Seth D. Bau (2017):, Responsabilidade pela Robótica Presente e Futura
Tecnologia. In: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics 2.0.
Oxford University Press, Nova Iorque. 66-79. p.
Zoller, David (2017): Percepção Habilidosa, Autenticidade, e o Caso Contra a
Automatização. In: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics
2.0. Oxford University Press, Nova Iorque. 55-68. p.