Você está na página 1de 9

As Implicações da Inteligência Artificial para a Sociedade: a opinião de

Stephen Hawking.
Claudemir Carlos PEREIRA 1

Resumo
Este artigo discorre sobre as discussões e debates em torno da questão e implicação do uso da inteligência
artificial na sociedade moderna, de seu risco e da importância dada por Stephen Hawking nos seus últimos anos
ao tema. O objetivo do texto é promover uma discussão sobre os impactos do desenvolvimento da inteligência
artificial na condição de vida humana e os seus reflexos em nosso dia-a-dia, no mundo do mercado de trabalho e
de seu uso pelas forças militares de alguns países pelo globo. Stephen Hawking, Eslon Musk entre outros
especialistas em robótica e inteligência artificial tem pressionado a importantes órgãos internacionais, tais como
a Organização das Nações Unidas (ONU) para a criação e aplicação de um protocolo mundial de controle e
combate ao uso indevido da IA.
Palavras-chave: Stephen Hawking; Inteligência Artificial; Condição Humana.

Abstract
This article discusses the discussions and debates surrounding the issue and implication of the use of artificial
intelligence in modern society, its risk and the importance given by Stephen Hawking in his later years to the
subject. The aim of the text is to promote a discussion on the impacts of the development of artificial intelligence
on human living conditions and their impact on our daily lives, the world of the labor market and their use by the
military forces of some countries for the globe. Stephen Hawking, Eslon Musk among other experts in robotics
and artificial intelligence has been pressing major international bodies, such as the United Nations (UN) for the
creation and application of a global protocol to control and combat the misuse of AI.
Keywords: Stephen Hawking; Artificial intelligence; Human Condition.

Introdução
Stephen Hawking (1942-2018), físico britânico, um dos maiores expoente da Ciência
Moderna no campo da Cosmologia e recentemente falecido, após uma vida permeada de
muita luta contra a esclerose lateral amiotrófica (ELA), uma doença degenerativa, afirmou um
pouco antes de sua morte em entrevista para a rádio e TV BBC de Londres, que o
“desenvolvimento da inteligência artificial total poderia significar o fim da raça humana”.
Hawking discorre sobre a importância das formas primitivas de Inteligência Artificial
em seus usos que facilitam a vida humana em inúmeras atividades, mas, teme os avanços de

1
Graduando em Ciências Sociais. UNESP – Universidade Estadual Paulista “Júlio de Mesquita Filho”.
Faculdade de Ciências e Letras. Araraquara – SP – Brasil. 14801-900 - ccpereira75@hotmail.com
tais sistemas e alerta para as consequências de serem criadas máquinas equivalentes ou
superiores aos seres humanos.
Em decorrência de tal fato os seres humanos que criaram a própria inteligência
artificial poderiam se tornar vítimas e serem escravizados por máquinas superiores. Em
decorrência de nosso processo de desenvolvimento ser muito lento e levar milhares de anos
para se modificarem as nossas estruturas internas e nosso código genético. Em relação aos
sistemas de inteligência artificial, nossa espécie seria superada em questão de algumas horas.
Para Hawking “essas máquinas avançariam por conta própria e se reprojetariam em
ritmo sempre crescente” desbancando a condição humana por ser muito lenta no processo. A
questão levantada por Stephen Hawking não é compartilhada por todos os cientistas, alguns,
são mais céticos e observam para além do aspecto negativo exposto, os pontos a favor da
Inteligência artificial e demonstram, também, os avanços que tal conhecimento nos levou a
superação de muitas deficiências de nossa condição humana.
Alguns favoráveis aos argumentos de Hawking, como Eslon Musk fundador da Tesla
e da SpaceX, acredita que a longo prazo a IA se torne a nossa maior ameaça existencial e
juntamente com outros 116 especialistas em IA e robótica encabeçam uma petição junto a
Organização das Nações Humanas (ONU) para que seja criado um protocolo que proíba a
construção e uso de “Robôs Militares e/ou “Robôs Soldados” pelas nações. A Rússia e
algumas outras nações apresentaram em alguns eventos militares uma nova tecnologia que em
breve será utilizada em suas unidades militares, os “robôs militares”, protótipos que usam da
mais avançada tecnologia da IA para o uso militar, e que, basicamente, são autônomos em
relação aos comandos humanos. Robôs que uma vez inseridos seus códigos programados
podem em algum momento da missão alterá-los para atingir a máxima eficiência e eficácia
possível, independente da ação humana.
A ação de Eslon Musk traz para o debate algumas premissas que colocam os governos
e suas instituições em cheque, pois atualmente não existe um protocolo mundial que proteja as
humanidades e suas culturas dos avanços das ciências, das tecnologias e principalmente da
Inteligência Artificial quanto a sua proibição ou não.
Os especialistas advertem na carta sobre a possibilidade de uma
“terceira revolução bélica” com a iminente chegada de robôs e equipes
não tripuladas que poderiam elevar as guerras a confrontos com
consequências imprevisíveis. Nesse sentido, os signatários advertem
que a veloz evolução da inteligência artificial pode permitir que o
desenvolvimento dessas armas autônomas chegue em poucos anos, e
não em décadas, como se estimava anteriormente. “Não temos tempo
demais para agir. Uma vez que esta caixa de Pandora for aberta, será
difícil fechá-la”, advertem os especialistas da ONU (EL PAÌS BRASIL,
2018, p. 2).

O uso bélico é tema de debate nos fóruns internacionais da área e da ONU há mais de
três anos que alertam para além da visão da ficção científica as consequências para a vida
humana e suas implicações nos campos jurídicos e nos riscos da vida de inocentes em áreas
de conflitos.
Estados Unidos, Rússia, China, França, Reino Unido, Israel e Coreia do
Sul são os países mais avançados no desenvolvimento de sistemas de
defesa autônomos. As ONGs, como Human Rights Watch, consideram,
no entanto que é um imperativo moral que se estabeleça uma linha
vermelha, para assim manter o controle humano nas decisões sobre a
identificação de objetivos e o uso último da força. A conferência
realizada no fim de 2016 para a revisão do tratado que regula o uso de
armas convencionais já deu um primeiro passo para regulamentar o uso
bélico da inteligência artificial, ao estabelecer um grupo de especialistas
que debata a sério esses sistemas. Os diplomatas da ONU concordam
que as convenções atuais têm muitas lacunas sobre o desenvolvimento e
uso dessas armas. Outra coisa é que isso derive na negociação de um
instrumento legal (EL PAÍS BRASIL, 2018, p. 3).

Para além do temor futuro dos robôs militares, Hawking coloca em seus debates a
necessidade imediata de se discutir sobre as novas condições para o mundo do trabalho. No
curto prazo, há muita preocupação quanto da eliminação de milhões de postos de trabalho por
conta de máquinas capazes de realizar tarefas humanas.
Embora a inteligência artificial é muito conhecida nas telas de cinema e nos seriados
de TV, no dia a dia, ela é bem pouco conhecida e gera muita dúvidas na população em geral,
que confunde e acha que IA e robôs são as mesmas coisas. Em muitos casos ao se falar de IA
a maioria das pessoas tem a tendência natural de assimilar o conceito e pensar em robôs, mas,
na realidade esta tecnologia é muito mais do que este reducionismo contemporâneo.
Convivemos diariamente com os avanços da Tecnologia da IA e não nos damos conta disso,
ou seja, IA seria basicamente todo sistema autônomo capaz de se auto-modificar o seu código
primário e de se autoajustar as novas condições imposta pelo meio ao qual foi reinserido.
De sistemas altamente desenvolvidos para automóveis autônomos ou sistemas de
reconhecimento de voz são filhos desta nova realidade. O raio de ação da IA, hoje em nossa
sociedade, vai desde carros inteligentes aos diagnósticos de doenças por meio de algoritmos,
para além dos seus usos em aplicações industriais e bélicas.
Basicamente o conceito mais simples de IA seria “um software que imita uma série de
processos da mente que consideramos complexos, inteligentes e exclusivos do ser humano, a
IA baseia-se na compreensão do ambiente que nos rodeia e em extrair e analisar uma série de
dados por meio da experiência ou do aprendizado, para depois raciocinar e tomar decisões por
conta própria”, descreve Manuel Fuertes, presidente do Grupo Kiatt.

A condição humana e o impacto da Inteligência Artificial.

A origem da inteligência artificial remonta aos avanços obtidos por Alan Turing
durante a Segunda Guerra Mundial na decodificação de mensagens. O termo como tal foi
usado pela primeira vez em 1950, mas somente na década de oitenta a pesquisa começou a
crescer com a resolução de equações de álgebra e análise de textos em diferentes idiomas. A
decolagem definitiva chegou na última década graças a ter coincidido em tempo real com o
crescimento da Internet e à potência dos microprocessadores. “A inteligência artificial pode
ser a tecnologia mais perturbadora que o mundo já viu desde a revolução industrial”, escreveu
recentemente Paul Daugherty, diretor de tecnologia da Accenture, em um artigo publicado
pelo Fórum Econômico Mundial. “Esse campo está florescendo agora devido ao aumento da
computação ubíqua, aos serviços na nuvem de baixo custo, aos novos algoritmos e outras
inovações”, acrescenta Daugherty.
A Inteligência Artificial fomenta investimentos ao longo do globo de bilhões de
dólares atualmente. Os governos das nações mais ricas e dos grandes aglomerados
transnacionais estimulam e investem em laboratórios de instituições públicas e privadas nas
últimas décadas. Para além de todo o universo simbólico criado pelo cinema e TV onde são
explorados todos os anos inúmeros fenômenos e possibilidades desta nova tecnologia.

Nessa viagem rumo a um novo mundo já se divisa a próxima escala, chamada


machine learning, ou seja, ensinar as máquinas a buscar e interpretar os dados
corretamente. Quando isto for alcançado, os sistemas informáticos poderão ser
atualizados, tornando-se mais inteligentes sem ter de depender da ajuda de
programadores. “A pesquisa se concentra em ensinar os softwares a ler, ouvir
e visualizar uma variedade de conteúdos e fornecer uma resposta lógica entre
aquelas que figuram em sua ampla base de dados”, segundo Manuel Fuertes
(EL PAÍS BRASIL, 2018, p. 5).

A Inteligência artificial, assim como toda técnica desenvolvida pelos seres humanos ao
longo de sua existência não possui um lado positivo e negativo e nem se coloca na condição
de neutralidade. Para Jacques Ellul, importante filósofo francês do século passado, autor do
livro “A Técnica e o Desafio do Século” (1968) aponta para algumas características da técnica
moderna sendo uma delas a ambivalência e por causa disto necessariamente vai além da
condição moral da humanidade, do que é certo ou errado. Toda ação humana valendo-se da
aplicação da técnica moderna, por mais, bem intencionado que seja o princípio, tem o seu
impacto nas relações humanas e nas relações com o meio-ambiente. O “ser” da técnica
consiste no seu uso e sendo técnico, é o único uso possível não podendo ser julgado em
função de critérios religiosos, morais ou estéticos.
Ellul a propósito do que chama de autoacréscimo observa que a técnica, ao
desenvolver-se e progredir, exclui, cada vez mais, a intervenção do homem, as soluções ou
descobertas técnicas engendrando-se umas às outras, em um processo em cadeia que se torna
cada vez mais automático ou mecânico.
Hans Jonas em sua obra O Princípio responsabilidade: O ensaio de uma ética para a
civilização tecnológica (2015) discorre sobre o princípio da responsabilidade e em sua obra
debate sobre as condições da existência humana em suas proposições sobre os novos
imperativos categóricos de nossa sociedade. Hans Jonas dialoga em principio como em nossa
sociedade definimos os imperativos categóricos que regem os nossos princípios
socioeconômicos e socioculturais, ou seja, que ideais regem o bom andamento e a criação de
uma sociedade de fato, libertária, igualitária e fraternal, uma sociedade universal e
emancipada conforme as teses de Immanuel Kant e coloca a necessidade de se pensar sobre as
condições de vida imediata, ou seja, nos pensamos demais no futuro (propomos novos
imperativos categóricos) ou nas condições de vida futura e esquecemos um pouco de nossa
condição atual (os velhos imperativos categóricos). Debatemos em torno do futuro da fome no
mundo e em como alimentar as futuras gerações e ao mesmo tempo ainda não demos uma
solução para a fome que assola bilhões de pessoas neste momento em torno do globo.
Para Hans Jonas o novo imperativo se adequaria a um novo tipo de ações humanas e
dirigido a um novo tipo de sujeitos dessa ação.A violação desta classe de imperativo não
implica em contradição racional. O que o imperativo faz é dizer ser lícito arriscar nossa vida,
mas que não nos é lícito arriscar a vida da humanidade: não temos direito a escolher e sequer
a arriscar o não ser das gerações futuras por causa do ser da atual. O novo imperativo remete a
um futuro real previsível como dimensão aberta de nossa responsabilidade.
Hans Jonas aponta para a dificuldade teórica para uma justificativa plausível do novo
imperativo é evidente. Temos uma obrigação para com algo que ainda não é de forma alguma
e que tampouco “tem em si” por que ser. Mais, enquanto não existente, não tem nenhum
direito a exigir existência. No limite, sem realidade teórica que o sustente, caberia ao
imperativo recorrer à religião. Nesse quadro, pelo momento, o imperativo se apresenta como
um axioma.
A Humanidade, principalmente o Ocidente sempre criou para si mesmo um ideal de
civilização moderna e com o advento do avanço da ciência e da técnica impôs ao mundo os
imperativos categóricos que sempre apostou nestas instâncias os propulsores dos avanços da
condição humana.
Como afirma Hans Jonas “é evidente” que o novo imperativo se dirige mais à política
pública que ao comportamento privado. O novo imperativo apela à concordância de seus
efeitos últimos com a continuidade da sociedade humana no futuro. As ações submetidas ao
novo imperativo são ações do Todo coletivo. Enquanto tais, têm sua referência universal na
medida real de sua eficácia. As ações aqui supostas se “totalizam” a si mesmas no progresso
de seu impulso e desembocam na configuração do estado universal das coisas.
Hawking e outros especialistas da área em prol das condições dignas de vida para
todos os seres humanos vêm ao longo dos últimos anos desmitificando um pouco esta ideia
sobre o progresso da IA e tem alertado o mundo para olharmos para as outras naturezas e para
o nosso meio ambiente e buscarmos soluções para os nossos problemas atuais em consenso
com todos os povos e nações. A inteligência artificial poderá ser um instrumento poderoso de
dominação em tempos futuros e nisto decorrerá a escravização de centenas de milhares de
seres humanos que ficarão às margens do processo.
Hawking aponta em seus discursos para o advento negativo da inteligência artificial no
mundo do mercado de trabalho. Hoje, principalmente em países desenvolvidos do norte ou do
centro capitalista, muitas das empresas e industriais, de tecnologia metal-pesada e de alta
tecnologia se valem dos avanços da IA para a alocação de robôs e substituição da mão de obra
humana em busca de melhor rendimento e de melhores lucros pela eficácia e eficiência, uma
base totalmente calculista e instrumental.
O avanço da robótica em grande parte dos grandes aglomerados transnacionais tem
levado milhões de trabalhadores ao desemprego e os Estados nacionais não tem sabido lidar
com este atual cenário no mundo de trabalho. Muitos destes Estados nacionais tem mudado
seus textos constitucionais e alterado os direitos sociais de muitos povos em prol da ordem
econômica. Para Hawking é um retrocesso nas condições mínimas de vida das pessoas e se
elas perdem seus direitos e trabalhos e não forem resguardadas pelos Estados nacionais, o
mundo social será levado ao caos e inúmeros conflitos surgirão ao longo do globo.
Atualmente o campo da tecnologia da IA é dividido em duas categorias: Inteligência
Artificial Estreita (ANI) e Inteligência Artificial Geral (AGI), a primeira é amplamente
utilizada em nosso dia-a-dia e já a segunda é considerada o ponto de singularidade, a IA que
pode revolucionar o mundo e de alguma forma poderá escravizar a vida humana.
A característica comum observado em sistemas de IA é o fato de que eles aprendem
com a experiência humana e essa tendência deve ser seguida por outros áreas da tecnologia,
sendo, atualmente evidente a internet das coisas.
Outro avanço pouco observado e que cada vez mais ganha um terreno expressivo em
nosso dia-a-dia é a nossa total dependência das coisas, como espécie sempre tivemos que
desenvolver técnicas e instrumentos para a nossa sobrevivência em ambientes hostis à nossa
condição natural. A IA e outras ciências tem se valido do novo advento surgido no início do
século XXI, que é o de sistemas inteligentes e sistemas de comunicação altamente
desenvolvidos, que muitos especialistas chamam da era da “internet das coisas”. Ou seja, os
sistemas não permitem apenas as formas de comunicação entre os seres humanos, as novas
tecnologias, independentes da interação entre os seres humanos, se tem desenvolvido sistemas
que se comunicam entre si – por exemplo, o aparelho de micro-ondas se comunica com o
sistema de ar-condicionado e através de um aplicativo ou sistema de decisões regula a
temperatura do ambiente.
Nessa aprendizagem, graças à expansão da Internet das coisas – conexão entre
objetos entre si e o envio constante de dados entre eles –, em breve se
conseguirá que as máquinas ensinem coisas umas às outras. Por exemplo, no
domínio do automóvel autônomo estão sendo desenvolvidos algoritmos para
que os veículos possam ser avisados em caso de acidente ou se as condições
meteorológicas mudarem, para que alterem por conta própria os parâmetros de
direção. “A inteligência artificial é uma das tecnologias que formam o nosso
conceito de Indústria 4.0 e contribui para a digitalização das empresas. Em
uma organização se gera muito conhecimento e os sistemas cognitivos
permitem que esses dados sejam retidos, classificados e se tornem acessíveis a
todos os trabalhadores”, diz David Pozo, especialista da Siemens. Em algumas
empresas são usados sensores para coletar dados que, processados pela
inteligência artificial, permitem evitar acidentes de trabalho ou detectar
possíveis falhas muito antes que se tornem um problema sério (EL PAÍS
BRASIL, 2018, p. 5).

A robotização é uma das premissas para se ater a condição de ambivalência da técnica,


ou seja, no princípio se foi pensada para o melhor bem-estar do trabalhador, lhe retirando de
situações em que sua vida física era colocada em risco. Com a suplantação de toda atividade
pelos robôs ou sistemas inteligentes de automação, os trabalhadores foram demitidos e se
trabalhando com um mínimo possível deste contingente. Este é um dos aspectos negativos, o
que faremos, de agora em diante, com o intenso aumento do desemprego decorrente do
advento da robotização? Qual sociedade nós planejamos para nós mesmos e para as nossas
futuras gerações?
Hawking provocava estas questões em suas últimas reflexões sobre a nossa existência
e trazia para o debate a necessidade de serem criados mecanismos de proteção que visassem a
preservação da espécie humana e de todas as demais espécies vivas de nosso planeta. O
impacto da IA na sociedade contemporânea é inegável, e por isso, é obrigatório que esta
temática esteja nas agendas de muitos governos e órgãos institucionais nacionais e
internacionais.

Considerações Finais

Neste artigo propomos um debate acerca dos impactos e consequências do uso da


Inteligência Artificial em nossa atual sociedade. À luz da opinião pública do físico britânico
Stephen Hawking, que em suas últimas ações e reflexões demonstrava receios quanto a
dependência dos seres humanos da tecnologias modernas. Principalmente sua crítica
repousava sobre as consequências da tecnologia da Inteligência Artificial no cotidiano e nas
perspectivas futuras.
O autor em suma apontava para um cenário drástico para a espécie humana e com o
desenvolvimento da IA e seu uso por grandes empresas transnacionais , o mercado de trabalho
tem sido cada vez mais robotizado e como consequências milhares de postos de trabalho são
fechados e milhares são demitidos em decorrência desta tecnologia.
Um dos temores do autor britânico foi confirmado em relação ao uso da IA para fins
militares e seu alerta estava de olho nos recentes protótipos desenvolvidos pela Rússia e
alguns outros países. Robôs militares autônomos e com capacidade para adequar os seus
códigos em prol do melhor rendimento, da melhor eficácia e eficiência. Calculo este não
levando em conta os riscos aos seres humanos e ao meio-ambiente.

Referências Bibliográficas

ELLUL, J. A Técnica e o Desafio do Século. Rio de Janeiro: Editora Paz e Terra, 1968.
JONAS, H. O Princípio responsabilidade: O ensaio de uma ética para a civilização
tecnológica. São Paulo: Editora Contraponto, 2015.
ZURIARRAIN, J. M.;POZZI, S. Eslon Musk encabeça uma petição à ONU para proibir
os ‘robôs soldado’. Disponível em <
https://brasil.elpais.com/brasil/2017/08/21/tecnologia/1503310591_969485.html>, acessado
em 19/05/2018.
Cellan-Jones, R. Stephen Hawking: Inteligência Artificial pode destruir a humanidade.
Disponível em <
https://www.bbc.com/portuguese/noticias/2014/12/141202_hawking_inteligencia_pai> ,
acessado em 19/05/2018.