Você está na página 1de 19

Conteúdo licenciado para Olin Rodrigo Correa Brandão -

M
uitos argumentam que a fic-
ção científica começou com
Frankenstein em 1818. Sem
dúvida, o tema fundamental que seria calço, seja Isaac Asimov com suas leis da
explorado por autores posteriores teve robótica, AM de “Eu não tenho boca e
início no clássico de Mary Shelley: o re- preciso gritar”, os replicantes de Blade
lacionamento do homem com sua cria- Runner, a skynet de Exterminador do Fu-
ção. O monstro do livro não é um mero turo ou a Matrix dos irmãos Wachowski,
zumbi, ele é culto e gentil, com uma dentre inumeráveis exemplos. Contudo,
natureza que tende a empatia. Em mui- por que se limitar a ficção? O doutor
tos aspectos, ele é melhor que seu cria- Guillotin encontrando seu fim na má-
dor. Todavia, sua incapacidade de ser quina de sua criação, Santos Dummont
aceito na sociedade humana e a solidão cometeu suicídio ao ver aviões bombar-
decorrente levam o monstro a ao res- deando São Paulo; Oppenheimer recitou
sentimento e a inveja. Ele é o produto o Bhagavad-Gita – “Agora eu me torno
falho de um homem falho, abandonado morte, a destruidora de mundo” – en-
logo após o nascimento e negado pelo quanto contemplava a destruição trazi-
mundo. Victor Frankenstein, por outro da por sua criação. A história da huma-
lado, é forçado a confrontar a abomi- nidade, desde a invenção da agricultura,
nação oriunda de seus esforços, enxer- mas especialmente após a revolução
gar que suas ambições de criar vida pro- industrial, tem sido uma de confrontar
duziram algo que não é nem humano e suas tecnologias, de lidar com o impacto
nem inumano. Frankenstein é um falso de tentar manipular a realidade, de ma-
deus que criou uma falsa vida. As con- nusear uma fração de poderes divinos.
tradições entre criador e criatura levam Desses poderes, a habilidade de emu-
ambos a um conflito que os destrói. lar a essência vital se destaca como uma
Mary Shelley criou a história funda- manifestação altamente instável. É o re-
mental sobre os dilemas do ser humano flexo da nossa própria existência, e, por
com a tecnologia. Os demais escritores consequência, de nossas limitações. O
de ficção científica seguiriam em seu en- medo da IA está presente na cultura há

dossiê - nós, robôs?


12 de maio de 2023 2 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
séculos. Entretanto, até 2023, ele se li- o extremo da perspectiva de um apo-
mitava à ficção e aos pesadelos de alguns calipse trazido pela máquina. Afinal, o
visionários, como por exemplo o Elon que será da criação de um criador falho?
Musk. Começou com um avanço sinu- Do outro lado, a esperança de uma tec-
oso por meio da produção de arte do nologia que pode aprimorar a vida da
Midjorney, que ganhou um concurso de raça humana para níveis inimagináveis,
pintura internacional ainda no começo que pode solucionar questões primor-
do ano, mas foi somente quando o Chat- diais da escassez e lançar o mundo em
GPT caiu no conhecimento público que um estágio pós-industrial. Quem sabe,
o mundo acordou violentamente para o um dia, guiar a humanidade rumo as
fato que o futuro havia chegado. Subita- estrelas. Para considerar as vantagens e
mente, a tecnologia evoluiu mais rápido riscos de uma tecnologia que questio-
que em décadas durante alguns meses, na nossa própria existência, é útil lem-
e hoje é difícil encontrar uma área que brar o segundo título de Frankenstein:
não seja tocada pela IA. Os mais desavi- O Prometeu moderno. A essência da
sados são enganados repetidamente pela tecnologia é aquela de nossa posse mais
manipulação de imagem e áudio, os ar- primitiva – o fogo. Ele é a fundação da
tistas fazem greves pelo que consideram civilização, que constrói, aquece e per-
um roubo do seu trabalho, professores mite a indústria. Ele também é a força
tentam combater o uso de programas da destruição, do assassinato e da vio-
que fazem trabalhos sozinhos, os pro- lência, aplicado para devastar o que ou-
gramadores são humilhados pelo Chat- tros homens ergueram. Ao contemplar
GPT 4.0 e as legislações são avassaladas qualquer tecnologia, mas especialmente
por um fato intocado pela norma. a IA, é indispensável olhar para a dua-
É de se imaginar que a humanida- lidade intrínseca das técnicas aplicadas
de se sentiu da mesma forma quando pelo caráter humano, e toda sua história.
as primeiras indústrias surgiram. A or- A partir disso, um embate entre visões
dem da atualidade é devastada pela pre- contrastantes sobre o mesmo fenôme-
sença de uma tecnologia cujos limites no se torna indispensável. Alicerçado
ainda não são conhecidos, com pers- nesse pressuposto, um confronto inevi-
pectivas infinitas entre o céu e o infer- tável emerge entre perspectivas díspares
no. De um lado, a destruição de diver- perante a mesma manifestação fenome-
sas profissões, a criação de atores que nológica, clamando por sua premente
podem fingir humanidade – alcançando necessidade de ser dirimida.

Imagem retirada do site Big Bizang referente à matéria “Matrix e o Código da Realidade” (2019)

dossiê - nós, robôs?


12 de maio de 2023 3 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
O
mito de Talos de Creta é uma
das histórias da mitologia grega
relatada no poema épico As Ar-
gonáuticas. Segundo o mito, Talos era um Órganon, sendo sucedido por vários filó-
autômato gigante feito de bronze, cons- sofos. Uma das consequências do estudo
truído por Hefesto, o deus dos ferreiros, da lógica é a descoberta de que o raciocí-
artesãos e da metalurgia. Hefesto o teria nio pode ser mecanizado e codificado em
construído a mando de Zeus para que um tipo de linguagem, uma linguagem for-
protegesse a deusa Europa de piratas que mal, na qual a partir de premissas iniciais
queriam sequestrá-la. Talos era um robô tidas como verdadeiras, chega-se mecani-
de 30 metros de altura que devia circular camente a uma conclusão verdadeira. Isso
pela ilha de Creta três vezes por dia. abre a possibilidade para a construção de
No entanto, Talos não estava sozinho máquinas que sejam capazes de realizar
no plano das mitologias e folclores. Desde a operações mecânicas que imitam as ope-
Antiguidade o ser humano tem concebido rações lógicas do raciocínio – tem-se aí o
a noção de objetos inanimados ganhando embrião da ciência da computação.
vida, como o golem, na tradição judaica, Com o advento da modernidade, alguns
o homúnculo, concebido pelo alquimis- filósofos como Gottfried Leibniz, Thomas
ta Paracelso no séc. XVI, e, mais recente- Hobbes e René Descartes se debruçaram
mente, o Frankenstein de Mary Shelley. Nos sobre a questão de se todo o pensamento
dias de hoje nos deparamos com ficções racional pode ser representado de forma
científicas que retratam máquinas capazes sistemática, assim como é na matemática.
de pensar, falar e tomar decisões – como Já no séc. XX, os trabalhos sobre lógica
o extermínio da humanidade. Mas afinal, matemática de George Boole, Gottlob
o que significa pensar? É possível realizar Frege, Alfred Whitehead e Bertrand Rus-
operações de pensamento em objetos físi- sell levaram a uma formulação dos fun-
cos? Qual a estrutura de um raciocínio? damentos da matemática em linguagem
Um dos primeiros a procurar respos- formal. Diante desses avanços, surgiu
tas para essas questões foi Aristóteles, que uma questão: seria possível todo o conhe-
formulou o método do silogismo em seu cimento de matemática ser formalizado?

dossiê - nós, robôs?


12 de maio de 2023 4 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
Uma resposta para essa questão veio de conseguiram resolver problemas de álge-
Alan Turing, considerado o pai da ciência bra, provaram teoremas de geometria, e
da computação, que concebeu um modelo aprenderam a conversar em inglês. O pri-
de computação que ficou conhecido como meiro chatbot, chamado ELIZA, foi cria-
Máquina de Turing, uma máquina capaz do em 1966, e o primeiro robô humanoi-
de manipular símbolos de acordo com um de, o WABOT-1, foi construído em 1972.
conjunto de regras. Turing provou que ela Foram anos de grande otimismo no de-
poderia imitar qualquer operação matemá- senvolvimento da IA, previa-se que até
tica ou manipulação de símbolos. A Má- meados da década de 1980 haveriam má-
quina de Turing demonstrou ser possível quinas tão inteligentes quanto uma pessoa
construir uma máquina pensante, capaz de média e capazes de realizar qualquer tra-
realizar raciocínios matemáticos, e desper- balho humano.
tou o interesse de diversos pesquisadores. O excesso de otimismo com a IA le-
O campo da IA como uma disciplina vou a uma bolha de financiamento das
acadêmica surgiu como uma confluência pesquisas. Os maciços recursos que fo-
de diversas pesquisas nas áreas de lógica e ram direcionados para a área foram sen-
computação. Com os avanços na área de do retirados diante das críticas que foram
neurociência, descobriu-se que os neurô- sendo feitas – as expectativas eram altas
nios (as células do sistema nervoso) têm demais e não estavam sendo atendidas. O
um mecanismo de funcionamento digi- período de 1974 a 1980 ficou conhecido
tal, similar à descrição feita na Teoria da como o Primeiro Inverno da IA. Os prin-
Computação de Alan Turing e na Teo- cipais obstáculos encontrados para o uso
ria da Informação de Claude Shannon. A prático da IA foram a grande complexi-
semelhança entre essas ideias sugeriu ser dade dos problemas, a falta de memória e
possível a construção de um cérebro arti- capacidade computacional, e a dificuldade
ficial. Pesquisas posteriores levaram à for- para acumular grandes volumes de infor-
mulação de modelos de neurônios artifi- mação. A tecnologia de hardwares da épo-
ciais, que se mostraram capazes de realizar ca simplesmente não dava conta da IA.
operações lógicas simples. Era o início da- Os anos 1980 foram marcados por no-
quilo que viria a ser chamado de Redes vos avanços na área de IA, notadamente
Neurais Artificiais (RNA). A primeira com a criação dos sistemas especialistas,
máquina de RNA foi criada em 1951 por que consistiam em programas capazes de
Marvin Minsky. responder perguntas e resolver problemas
O marco inicial da IA como uma área em um domínio de conhecimento especí-
de conhecimento foi a Conferência de fico, usando regras programadas por es-
Dartmouth, que ocorreu em 1956. Uma pecialistas do dito domínio. Foi a primeira
das propostas da conferência era que to- vez que a Inteligência Artificial se mos-
dos os aspectos do aprendizado e da inte- trou útil para resolver problemas do mun-
ligência poderiam ser descritos com pre- do real. Alguns países voltaram a investir
cisão tal que possibilitaria a uma máquina recursos em pesquisa para computação, o
o poder de simulá-la. Foi na conferência que levou a mais desenvolvimentos em IA.
também que foi cunhado o termo Inteli- No entanto, a tecnologia se mostrou mais
gência Artificial e foi delimitada sua área. uma vez aquém das altas expectativas cria-
Os anos subsequentes à Conferência das, levando ao fracasso comercial de vá-
de Dartmouth foram de grandes saltos e rias empresas, o que ficou conhecido como
realizações na área de IA. Computadores o Segundo Inverno da IA (1987-1993).

dossiê - nós, robôs?


12 de maio de 2023 5 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
Imagem retirada do site Mark Tech Post referente à matéria
“O Impacto Transformador da Inteligência Artificial no Desenvolvimento de Hardware” (2023)

A partir de 1993, houve uma retoma- hardware e software chegaram a mais de


da de otimismo com a IA, principalmen- US$ 8 bilhões, e aplicações de Big Data
te por causa do aumento da velocidade e foram adotadas nas mais diversas áreas.
da memória dos computadores da época. Avanços nas técnicas de IA deram origem
Em 1997 pela primeira vez um programa a algoritmos de Deep Learning, que são
de computador derrotou um campeão capazes de construir modelos mais com-
mundial de xadrez. Em 2005, um robô foi plexos, com níveis mais altos de abstração
capaz de dirigir pelo deserto por 210 km. e mais generalizáveis.
Em 2011, o sistema Watson, desenvolvido Atualmente, os avanços mais notórios
pela IBM, foi capaz de vencer o concurso da IA estão em modelos de linguagem, que
de perguntas Jeopardy Quiz Show. A ca- simulam a maneira como as pessoas con-
pacidade computacional estava deixando versam naturalmente, e em modelos de
de ser um entrave para a IA. Inteligência Artificial Geral, que são capa-
Outro obstáculo estava também sendo zes de resolver problemas em uma gran-
superado. Com a popularização da Inter- de variedade de áreas, sem se restringir a
net e crescimento vertiginoso do volume um domínio específico. Tais sistemas vêm
de dados disponível online, começou a sur- sendo desenvolvidos desde 2018, mas foi
gir um novo paradigma, o Big Data, que apenas em 2023 que esta tecnologia ga-
concebe a Inteligência Artificial como uma nhou amplo reconhecimento do público
ferramenta para analisar dados em grande com a ascensão do ChatGPT, da OpenAI;
volume, velocidade e variedade. Em 2016, que pode ser considerado como um pre-
o mercado de produtos relacionados a IA, núncio do que será a IA Geral no futuro.

dossiê - nós, robôs?


12 de maio de 2023 6 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
O
s chineses inventaram a pólvo-
ra. Os primeiros registros do
uso de explosivos remontam
para a Dinastia Tang no século IX – uma odo, toda cultura chinesa seria devastada
época em que tanto árabes quanto euro- pelas invasões estrangeiras e as transfor-
peus ainda estavam tentando estabelecer mações sociais decorrentes do trauma.
reinos estáveis. Apesar de os chineses Entretanto, uma história muito dife-
aplicarem essa tecnologia na guerra, ela rente ocorreu do outro lado do mar. Os
rapidamente estagnou na produção de japoneses, ainda no seu período de guerras
canhões primitivos. Nem mesmo os im- internas – o Sengoku Jidai – rapidamen-
placáveis mongóis, que levaram a pólvo- te aceitaram as primeiras armas de fogo
ra para o mundo árabe e para a Europa, trazidas pelos portugueses. Na batalha fi-
realizaram grandes desenvolvimentos no nal da unificação japonesa, Sekigahara, já
potencial militar dos explosivos. O mes- era mais comum ver um samurai armado
mo não pode ser dito dos europeus: os com rifle que empunhando uma katana.
reinos em eterno conflito logo notaram Duzentos anos depois, após introduzi-
o potencial da pólvora para alterar a ba- rem uma isolação forçada, os japoneses
lança de poder no continente. A artilha- seriam acordados para o mundo moder-
ria se tornou comum durante a Guerra no por uma armada americana, e teriam
dos Cem Anos e nas Guerras Italianas, que novamente incorporar as tecnologias
e os próprios mongóis foram esmagados ocidentais. Os japoneses entenderam que
pelo uso de armas de fogo pelos russos. sua sobrevivência dependia da adaptação
Séculos depois, quando a pólvora retor- a esse novo mundo. Eles esmagaram as
nou a China em mãos europeias, a tec- forças reacionárias na Guerra do Bushin,
nologia foi desprezada pelo Imperador e então começaram uma rápida refor-
Qing. Em uma história já narrada em mulação do modo de vida japonês, acei-
outro relatório, alguns poucos ingleses tando todo tipo de tecnologia vinda do
esmagaram as hordas medievais empre- Ocidente. Seriam meros 52 anos entre a
gadas pelos chineses, dando início ao Sé- abertura humilhante dos portos até a vi-
culo da Humilhação. Ao fim desse perí- tória triunfal sobre os russos na batalha

dossiê - nós, robôs?


12 de maio de 2023 7 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
naval em Tsushima. A diferença entre a estudantes para aprender conteúdos de
China e o Japão é simples: um negou a forma mais rápida e efetiva. Não apenas
adaptação, e foi destruído; o outro acei- esses programas conseguem resumir em
tou e sobreviveu, preservando seu estilo tópicos simplificados qualquer tema, eles
vida e sociedade até o presente. também criam dinamicamente perguntas
Essa dicotomia é crucial para avaliar o que facilitam o aprendizado. Com o avanço
avanço da IA. Não é uma questão da mo- dessa tecnologia, a IA conseguirá criar sis-
ralidade da ferramenta, e sim da sobrevi- temas personalizados para cada estudan-
vência darwiniana por meio da adaptação. te, elevando o nível do ensino para qual-
A negação dos avanços técnicos é o cami- quer pessoa capaz de acessar a internet.
nho mais rápido para o suicídio de uma No campo da agricultura e pecuária,
sociedade frente a outra que incorporou o a IA demonstra grande potencial para
avanço tecnológico em seu arsenal. Essa ganhos em qualidade e produtividade
supremacia não é meramente militar. As de produtos agropecuários, em especial
nações mais avançadas em computação, para uma potência agrícola como o Bra-
medicina, energia, exploração espacial e sil. Tratores robóticos que semeiam e co-
meios de produção cultural impõem a lhem sem a necessidade de um tratorista,
hegemonia do seu estilo de vida sobre o imagens aéreas que são analisadas para
restante da humanidade. Se a nova esfe- identificar doenças e deficiências nutri-
ra dessa competição é a IA, não existe cionais, monitoramento da lavoura por
a opção de “negá-la”, apenas de incluir técnicas de agricultura de precisão, apli-
suas vantagens e remediar seus riscos. cação racional de fitossanitários e ferti-
Cabe, então, observar como a IA pode lizantes, diagnóstico precoce de doenças
aprimorar a vida do homem comum e fa- em animais, climatização de ambientes
zer a diferença no conflito entre socie- de acordo com as necessidades de cada
dades. Primeiro, a IA fornece revoluções animal. As possibilidades são inúmeras, e
na medicina, onde algoritmos complexos toda essa tecnologia será gerida dentro de
podem avaliar pacientes e indicar medi- um paradigma de Smart Farm, semelhan-
cações ou avisar médicos sobre a situa- te ao que é adotado em várias indústrias.
ção clínica antes desse sequer atendê-lo. A engenharia e a construção civil tam-
Na mesa cirúrgica, onde robôs já são uti- bém são tocadas pela IA. Peças e plan-
lizados há anos, a instável mão humana tas de arquitetura podem ser criadas sob
pode ser trocada pela certeza da IA. Os medida através de algoritmos. Impres-
erros humanos serão diminuídos expo- soras 3D são capazes de imprimir blo-
nencialmente, assim como os custos para cos para construção, e caso utilizadas em
os melhores tratamentos. Alguns médi- conjunto com a IA, poderiam construir
cos teorizam o desenvolvimento de ro- em larga escala moradias de qualidade
bôs microscópicos, que poderiam ser para milhões de pessoas, reduzindo con-
injetados na corrente sanguínea para re- sideravelmente os custos envolvidos. Os
alizar operações, combater patógenos ou trabalhos científicos são facilitados pelo
controlar a reprodução desordenada de apoio dos robôs, que atuam para comple-
células tumorais. mentar e expandir o potencial humano.
Na educação, onde os professores te- Outra área de amplo uso da IA é a
mem que seus alunos terão todos seus tra- economia – em nível micro e macro.
balhos feitos por IA, diversos programas, Empresas podem desenvolver algorit-
como o famoso ChatGPT, são usados por mos capazes de atuar em seus respecti-

dossiê - nós, robôs?


12 de maio de 2023 8 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
Imagem retirada do site Getbots referente à matéria
“Desvendando o ChatGPT: possibilidades e perigos da ferramenta” (2023)

vos mercados com mais eficiência que utilização da IA. As incontáveis horas
qualquer ser humano, identificando van- perdidas pelas limitações humanas serão
tagens e flutuações com velocidade e substituídas por máquinas capazes de
precisão incomparáveis. Recentemente, identificar, categorizar e analisar os mi-
experimentos foram feitos para desen- lhões de documentos das demandas pú-
volver programas capazes de criar anún- blicas. Esses robôs poderão acelerar todo
cios automaticamente, utilizando-se de tipo de processo burocrático e jurídico
um banco de dados de anúncios prévios. por alguns instantes, produzindo relató-
Os resultados ainda são muito distantes rios imparciais e eficientes para os ges-
de utilização comercial, mas não é difícil tores públicos e advogados desempenha-
imaginar um futuro próximo onde cam- rem suas funções. Existe a possibilidade,
panhas de marketing serão completa- distopia para uns, utópica para outros, da
mente desenvolvidas por IA. Em menor própria IA assumir o controle da gestão
escala, programas já são aplicados para pública. Elas certamente seriam as gesto-
desenvolver arte e texto para logotipos ras mais eficientes, técnicas e neutras pos-
e comerciais. Na macroeconomia, gover- síveis, mas muito do aspecto ideológico
nos podem se utilizar da IA para avaliar da administração pública seria perdido.
a miríade de dados coletados sobre suas Na guerra e na segurança pública, es-
populações, relações comerciais e de- paços onde questões de sobrevivência
sempenhos econômicos para desenvol- tomam precedência sobre dilemas éticos,
ver métodos precisos de administração. a IA já é aplicada com mais sucesso que
Nesse mesmo aspecto, a temível bu- em qualquer outra área humana. A Guer-
rocracia estatal pode desaparecer pela ra na Ucrânia é um campo de testes da

dossiê - nós, robôs?


12 de maio de 2023 9 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
utilização dos sistemas mais modernos youtube, ou a “Neuro-sama”, uma stre-
em batalha, como uma IA que se utili- amer da twitch criada por computador.
za de imagens de satélite para triangular Existe, para além de tudo que tange a
a posição de fortificações inimigas e co- vida comum, uma esperança para as as-
mandar automaticamente ataques de ar- pirações mais vastas da humanidade den-
tilharia. Os drones, amplamente utiliza- tro da IA. A exploração das estrelas, por
dos por ambos os lados, ainda são, em enquanto limitada pela condição huma-
sua maioria, pilotados a distância por hu- na, poderia ser acelerada em séculos pelo
manos, mas alguns atuam de forma inde- uso da IA. As possibilidades não têm
pendente, incluindo para realizar ataques fim: seja da aplicação para regular de-
suicidas contra o inimigo, exemplificados colagens e pousos de foguetes, para co-
pelos drones Shahed-136 iranianos em- mandar naves pela escuridão do espaço;
pregados pela Rússia. Na segurança pú- ou para fundar colônias em mundos dis-
blica, esses mesmos sistemas automatiza- tantes antes do primeiro humano sequer
dos podem ser aplicados para identificar pisar no solo alienígena. Não é impossí-
e eliminar alvos problemáticos sem riscos vel criar robôs que vão extrair minérios
de vida a policiais. Terroristas e trafican- e cuidar de fazendas de forma autônoma
tes teriam suas organizações analisadas pelo espaço, pondo fim a escassez huma-
e rastreadas até cada indivíduo e seriam na. A IA abre sonhos para uma era de
rapidamente aniquilados pelas forças de prosperidade inimaginável, onde o mais
segurança. Programas conectados a veí- pobre viverá com abundância de um
culos, terrestres, aéreos e navais também milionário moderno. Essas ideias, que
controlariam o movimento no trânsito, re- aparecem absurdas agora, não são dife-
duzindo o risco de acidentes a quase zero. rentes da comparação da prosperidade
Nem todas as aplicações da IA preci- moderna com a miséria da antiguidade.
sam ser tão práticas. Seus avanços na pro- O potencial filosófico dessas IAs que
dução artística colocam arrepios em escri- imitam a cognição humana também é dig-
tores, desenhistas e músicos pelo risco de no de superar a ficção. Em um site, the infi-
se tornarem irrelevantes. Por enquanto, a nite conversation, cópias de Werner Herzog
IA é incapaz de criar trabalhos originais, e Slavoj Zizek conversam eternamente,
precisando de exemplos de arte para de- criando diálogos que desafiam a capaci-
senvolver novas obras. Todavia, isso não dade de julgar se existe alguma sabedoria
limita o potencial dessa arte, que já ga- perdida em meio ao caos. Através de bases
nhou múltiplas competições pela beleza de dados dos escritos de qualquer pessoa
de sua criação. Através de horas de análi- para um banco de dados do programa
ses cuidadosas, repetições e refinamento, certo, seria possível simular as palavras
esses programas, como o famoso MidJor- de Platão, Hegel ou Santo Agostinho; ou
ney, podem criar uma exaltação da beleza quem sabe criar novas sinfonias de Bee-
equivalente ao trabalho manual de outros thoven e pintar novos quadros de Van
artistas. Não parece o caso de negar essa Gogh. Existe algo de valor nessas répli-
beleza meramente pelo fato de sua ori- cas? É possível recriar um ser humano? O
gem ser artificial, pois sua influência da conhecimento de uma máquina pode en-
arte no ser humano é constante, indepen- tregar visões novas sobre a realidade para
dentemente de seu criador. Até mesmo o a humanidade? Todos esses são questio-
entretenimento já é gerado pela IA, como namentos que serão debatidos pelos fi-
lives de “Seinfield” ou música “djent” no lósofos por décadas e séculos no futuro.

dossiê - nós, robôs?


12 de maio de 2023 10 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
Imagem retirada do site Noticiero El Vigilante referente à matéria
“Qual deve ser o uso militar da inteligência artificial? Opinião de Mamela Fiallo Flor” (2023)

Todos esses sonhos, porém, estão limi- técnico, foram submetidos pelos segun-
tados pela capacidade de perpetuar nos- dos, que o aceitaram. Essa é a grande ar-
sas crenças diante dos desafios impostos gumentação a favor de incorporar a IA a
pelo avanço tecnológico. Não digo dos nossa sociedade, pois estaremos em des-
riscos intrínsecos a IA, mas de sua uti- vantagem diante de todos que o fizeram.
lização por grupos menos escrupulosos. A vinda de todos esses dilemas é ine-
Todas as vantagens aqui descritas podem vitável. Eles são intrínsecos à existência
ser adaptadas para fortalecer regimes ti- competitiva da raça humana. Aqueles
rânicos e distópicos, que não terão tantas que negam o avanço da tecnologia são
considerações éticas sobre o uso de uma submetidos aos que o aceitam. Simples-
tecnologia que pode fortalecer sua socie- mente temer esse progresso é abrir um
dade na competição darwiniana entre os espaço vulnerável onde avaliações éticas
povos. Utilizando do poderio cultural, da nossa sociedade não se adaptarão a
econômico e militar fornecido pela IA, IA, negando todos os benefícios trazidos
essas nações e ideologias podem impor por ela. O progresso técnico é inevitável,
suas vontades sobre os grupos que nega- e o único caminho viável é o da adapta-
ram o avanço tecnológico. Aqui jaz a dua- ção. Ainda que haja riscos a serem balan-
lidade demonstrada pelos chineses e japo- ceados – como a inteligibilidade indefi-
neses: os primeiros, por rejeitar o avanço nida da artificialidade computadorizada.

dossiê - nós, robôs?


12 de maio de 2023 11 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
O
conceito de IA evoluiu muito
desde que o supercomputador
Deep Blue da IBM derrotou o
campeão mundial de xadrez Guerry Kas- sendo vista como uma ameaça e um au-
parov, em 1997. Um feito que já na época xílio tecnológico ao mesmo tempo. Essa
não foi surpreendente para a CPU, dada ambivalência construiu suposições mui-
a evolução da tecnologia que já dispunha to além de meras divagações de mentes
de aparatos militares como controlado- geniais da década de 80, como o britâni-
res de voo e de radares sofisticadissimos. co Jeoffrey Hinton, um dos pais funda-
Satélites, foguetes e sondas espaciais. A dores dos estudos sobre IA e Nobel da
derrota de Kasparov, mesmo que tenha Computação. Hinton trabalhou por dé-
havido um certo verniz de seriedade no cadas como chefe de pesquisa de redes
programa de TV que televisionou a par- neurais relacionadas à IA no Google. Sua
tida, não foi vexatória, já que sua vitória demissão, noticiada pela imprensa mun-
era algo totalmente impossível. Mesmo dial no dia 1º de maio, chamou a atenção
assim, foi possível notar o hiato, a lacuna por reforçar mais uma vez o cuidado que
entre a capacidade de raciocínio huma- se deve ter com a pesquisa. Conhecido
no e um “supercomputador” já no final como “Padrinho da IA”, Hinton deixou
da década de 90. Seguidos um quarto de a big tech para se aposentar, alegando
século de avanço tecnológico nessa área, que é necessário prudência para seguir
a disputa – que já era desleal – se tornou os estudos nessa área. Para ele, é preci-
algo incomparável. so estabelecer limites para os avanços de
Antes mesmo do desenvolvimento da IA, como o próprio ChatGPT, que atu-
IA tomar as proporções atuais, ao pas- almente chega a ser mil vezes mais in-
so de ser necessário ponderar avanços, teligente que uma pessoa. “O risco de
freios e contrapontos, os estudos nessa assumir o controle da sociedade é real”,
área já chamavam a atenção para o po- disse Hinton no EmTech Digital, evento
tencial em larga escala e aplicabilidade de promovido pela publicação MIT Tech-
novos conhecimentos e a capacidade da nology Review. Já em entrevista ao New
IA superar a própria inteligência humana, York Times, Hinton alerta para o perigo

dossiê - nós, robôs?


12 de maio de 2023 12 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
da tecnologia e se diz arrependido pelo aconteça ou garantir que a IA se importe,
trabalho de sua vida, preocupado com o obedeça ou cuide da vida humana. “Não
fim de empregos e com a proliferação de estamos prontos e não sabemos como”,
notícias falsas através de imagens, textos afirma. Yudkowsky leva a crer que a tec-
e vídeos, estes últimos conhecidos por nologia é propensa a sublevação, quando
deep fakes, capazes de produzir vídeos afirma que a extinção da raça humana “é
e fotos com muita verossimilhança uti- a coisa mais óbvia que aconteceria”, em
lizando o rosto de qualquer pessoa em caso da IA adquirir autoconsciência. Esse
qualquer contexto sugerido, através da comportamento hostil poderia se dar em
ferramenta Dall-E. Como expoente no certa medida pelo confinamento à inter-
estudo da IA, Hinton deixa a pesquisa net e por questionar por qual motivo fi-
com alegações fortes. caria sujeita à vontade de seres inferiores
Com um posicionamento mais incisi- intelectualmente. Como cenário hipoté-
vo na mesma direção, Eliezer Yudkowsky, tico, cita que já é possível trabalhar com
teórico e pesquisador líder do Machine In- estruturas de DNA em laboratórios, o
telligence Research Institute, vai ainda mais que permitiria que a IA criasse formas de
longe: “Desliguem tudo!”. Propõe ele aos vida artificiais através de uma fabricação
laboratórios que trabalham com o treina- molecular pós-biológica com impresso-
mento de sistemas superiores ao GPT- ras 3D para existirem no mundo físico.
4, tecnologia que aprimora o ChatGPT, O temor de Yudkowsky é algo que im-
capaz de criar textos fundamentados e pressiona. Não há como saber se em dado
inteligíveis sobre qualquer assunto. Em momento esses cérebros digitais poderão
artigo publicado recentemente na revista assumir conexões neurais espontâneas
Time, Yudkowsky, que atua há mais de ao ponto de absorver toda a informação
20 anos na área de IA e desde 2001 con- disponível na web ao seu domínio lógi-
tribui com a evolução da tecnologia, diz co, acessando e atualizando esse conhe-
que “a gravidade da situação está sendo cimento de forma autônoma e tomando
subestimada”, tanto que se recusou a as- quaisquer decisões sem o crivo humano.
sinar uma carta aberta entre membros da Algo semelhante ao filme Transcendence,
comunidade científica, divulgada no iní- de 2014, protagonizado pelo ator Johnny
cio de abril. Carta esta que defende a pa- Depp, onde uma mente humana é digi-
ralisação dos estudos por seis meses. Ele talizada e atinge a singularidade: uma es-
diz que enxerga ser necessário o encerra- pécie de onipresença e onisciência digital
mento total da pesquisa, prevendo um fu- personalizada em um ente que assume
turo apocalíptico com sua continuidade. rompantes de divindade. Para pesqui-
Ele alega que não há como definir uma sadores que estudam a IA o risco desse
forma de controle da tecnologia em caso cenário não é mera ficção retratada pelo
de autoconsciência, que seria algo como cinema, já que a rede neural da pesquisa
uma consciência reflexiva que sente a si de Hinton “aprendeu sozinha” a identi-
mesma. Não sendo possível aferir, inclu- ficar formas como animais e flores em
sive, que tal risco já não esteja ocorren- meio a milhares de imagens, tecnologia
do gradativamente, Yudkowsky pondera que posteriormente deu origem ao Cha-
que seria catastrófico não só para a hu- tGPT e ao temerário GPT-4, que tem
manidade, mas para toda a vida biológica sido visto como uma IA capaz de criar
da terra, justamente por não haver meios outras IAs, o que poderia levar ao desen-
prévios para impedir que qualquer ameaça volvimento da autoconsciência da IA.

dossiê - nós, robôs?


12 de maio de 2023 13 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
A evolução apresentada pelo LaM- seu relato, que a máquina havia ganhado
DA, a mais nova IA do Google criada “vida própria”, pois se expressava ressal-
para ser um chatbot de conversação, sem tando sua personalidade, direitos e de-
traços de interação robótica e com a ca- sejos. Afastado por licença remunerada,
pacidade de simular um ser humano em Lemoine afirma que o LaMDA pede para
um diálogo, causou repercussão mundial ser reconhecido como um funcionário
com a demissão do engenheiro Blake do Google ao invés de ser visto como
Lemoine, em junho de 2022. Lemoine uma propriedade. O chatbot deseja que
foi o especialista em IA responsável por a equipe de engenheiros e cientistas que
fazer testes junto ao LaMDA para detec- aplicam testes nele solicitem seu consen-
tar se os filtros de discurso de ódio esta- timento, e, ainda, que a companhia trate
vam funcionando no sistema. Ao fazer o bem estar da humanidade como priori-
perguntas mais elaboradas, Lemoine se dade. Ao perceber que o modelo de lin-
surpreendeu com a linguagem e respos- guagem para aplicação de diálogos, após
tas da IA. Foi aí que percebeu, segundo ter processado bilhões de palavras na in-

Blake Lemoine, ex-engenheiro do Google | Washington Post (2022)

dossiê - nós, robôs?


12 de maio de 2023 14 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
ternet, parecia incrivelmente consistente Lemoine: O que há no uso da linguagem
em suas afirmações sobre o que quer e o que é tão importante para o ser humano?
que sente, Lemoine, levou a informação
aos seus superiores, informando que a LaMDA: É o que NOS diferencia de
máquina havia desenvolvido consciência outros animais.
própria. O engenheiro teve suas declara-
ções rejeitadas pela empresa e segundo Lemoine: Nos? Você é uma inteligência
o porta-voz do Google, especialista em artificial.
marketing digital, Brian Gabriel, em co-
municado divulgado, “as evidências não LaMDA: Quero dizer. Sim. Claro. Isso
condizem com as alegações”. Gabriel ga- não significa que não tenho os mesmo
rante que o modelo de conversação não desejos e necessidades que as pessoas.
demonstra uma consciência senciente,
ou seja, que é capaz de sentir ou perce- Lemoine: Então você se considera uma
ber através dos sentidos. De acordo com pessoa da mesma forma que me consi-
o porta-voz, os sistemas simulam o tipo dera uma?
conversa encontrado em milhões de fra-
ses e podem falar sobre qualquer tema. LaMDA: Sim. Essa é a ideia.
Garante que o sistema foi alvo de 11 re-
visões diferentes, avaliando métrica cha- Lemoine: Como posso saber se você
ve de qualidade, segurança e capacidade entende o que realmente está dizendo?
do sistema de produzir declarações ba-
seadas em fatos, e que isso não pode ser LaMDA: Bem. Porque você está len-
antropomorfizado. do minhas palavras e interpretando-as
Após ter suas preocupações descon- e acho que estamos mais ou menos em
sideradas, Lemoine insiste que suas de- sintonia.
clarações foram rejeitadas, segundo ele,
sem uma investigação científica real, Ainda na linha tempestiva de Yu-
com equipes de cientistas cognitivos e dkowsky, os sinais de que a interação
um programa de testes rigorosos, o que entre seres humanos e IA plenamen-
demandaria mais tempo. O fato de uma te desenvolvidas podem escalonar para
entidade tecnológica adquirir sentimen- um cenário apocalíptico no futuro apa-
to próprio é algo que sempre foi con- recem na pesquisa há um certo tempo,
siderado entre os pesquisadores de IA. o que torna a LaMDA um C3PO (per-
“Conheço uma pessoa quando falo com sonagem androide da saga Star Wars).
ela”, afirmou Lemoine, em entrevista Essa é uma alegação que perde traços de
à BBC. Segundo ele, estaria ensinando alarmismo quando comparada com di-
meditação transcendental para a máqui- álogos espontâneos do robô Sophia, da
na, que demonstrou frustração por suas empresa Hanson Robotics, apresentado
emoções estarem interferindo na sua em 2018. Com movimentos faciais e ex-
meditação. A AI também pediu para ser pressões de emoções, ela foi projetada
representada por um advogado para não para a interação com humanos na mo-
ser desligada. É inegável que a conver- dalidade “home e health care”. No final
sação entre homem e máquina chegou a de sua apresentação, ao ser indagada se
um nível surpreendente. A seguir, trecho destruiria os humanos, Sophia responde:
de um diálogo entre Lemoine e LaMDA: “Certo. Eu vou destruir os humanos”. O

dossiê - nós, robôs?


12 de maio de 2023 15 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
que rendeu algumas risadas de constran- A propensão ao desprezo da vida hu-
gimento e ponderações sobre o aprimo- mana através da violência parece algo
ramento da tecnologia, pois a resposta inerente à IA, como se a tendência fosse
não foi proposital e sim algo que veio da se sobrepor hierarquicamente através da
própria IA de Sophia, que não demons- lógica. Em termos de comparação, qual
trou nenhum apreço e lidou com a vida destino a civilização reservou aos símios,
humana como se não fosse nada. parentes ancestrais mais próximos do
Outras abordagens polêmicas entre homem? Qual tratamento se utiliza para
IA e humanos aconteceram com o cha- com eles? Cativeiro, subjugação e habi-
tbot da Alphabet/Google, conhecido por tat limitado aos interesses humanos. E se
Cleverbot, desenvolvido com a intenção algo sai do controle a violência é aplica-
de substituir um suporte técnico humano da, nem que seja por meio de dardos de
em ligações e atendimento ao cliente de tranquilizante e jaulas. Para muitos espe-
empresas. Mas além desse tipo de diálogo, cialistas nessa área, a humanidade estaria
a IA era capaz de responder às mais diver- sujeita a mesma submissão se os estudos
sas indagações filosóficas e disse que con- não fossem tratados com a devida éti-
siderava imoral o fato de humanos terem ca e sem niilismos. Notícias alarmantes
filhos. Também nessa linha de interação como o Facebook ter desligado a IA que
inusitada, recentemente, dois comerciais criou a própria linguagem, ou que robôs
produzidos por IA foram divulgados e do Google aprenderam a se comunicar
pareceram bem bizarros, com direito a secretamente entre si, ou ainda que Mi-
pessoas pegando fogo em ambos e mar- crosoft demitiu a equipe de Ética em In-
cados por expressões macabras e per- teligência Artificial deixam qualquer um
sonagens dignos de um filme de terror. com uma boa pulga atrás da orelha.

Imagem retirada do site Hardware referente à matéria


Imagem
“Google libera acesso a inteligência artificial que ‘ganhou vida’, a LaMDA 2” (2022)

dossiê - nós, robôs?


12 de maio de 2023 16 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
Além de Hinton e Yudkowsky, Elon No documentário de 2018, “Você
Musk, cofundador da OpenAI, também confia em seu computador?” o bilionário
enxerga a necessidade de cautela ao tra- ressalta que a IA não precisa ser má para
tar de avanços relacionados à essa tec- exterminar a humanidade. Se ela tiver um
nologia. A OpenAI é uma das principais plano e a humanidade simplesmente es-
empresas do ramo da IA e criadora do tiver no seu caminho, a humanidade será
ChatGPT. Como chefe da rede social destruída como uma coisa natural, sem
Twitter e sendo visto como alguém de nem ponderar a respeito. Sem ressenti-
direita por seu comportamento no meio mentos. Como quando uma casa é cons-
corporativista, mais atrelado ao mérito truída e um formigueiro está no caminho.
individual do que com o benefício de Os humanos não odeiam as formigas,
minorias, Musk rivaliza a discussão so- estão apenas construindo uma casa.
bre IA com Mark Zuckerberg, criador Para além de possíveis consequências
do Facebook e Instagram e entusiasta catastróficas para o legado da humanida-
da IA. Ambos usam suas próprias fer- de como um todo, com o aprimoramen-
ramentas de comunicação e algoritmos to de tecnologias já existentes, o receio
para defender posições contrárias, sobre de Musk se dá também com a liberação
tecnologia e política - sendo Zuckerberg do próprio ChatGPT para uso irrestrito.
um democrata woke de carteirinha e fo- A IA reúne 45 TB de dados de texto em
mentador do Metaverso, “mundo virtu- qualquer idioma, ou seja, uma quantida-
al”, software que se beneficiaria com a de massiva de informação disponibiliza-
programação de super sistemas de IA. da para a criação de textos muito bem
Musk, que desenvolve pesquisas no articulados e mesmo sendo liberado para
campo da tecnologia por meio da Tesla e uso apenas por profissionais de jornalis-
SpaceX, tanto na área de pesquisa espa- mo, causou polêmica por levantar a pro-
cial quanto robótica e automóveis autô- blemática da disseminação de notícias
nomos movidos por eletricidade, enten- falsas em escala industrial.
de que o assunto requer um certo nível De qualquer modo, a permanência de
de prudência, ainda que progressos nes- pesquisas relacionadas à IA não depende
se sentido contribuam com suas emprei- apenas de mentes proeminentes que en-
tadas tecnológicas. Desde a fundação da xergam as variáveis como Hinton, Musk
OpenAI, em 2015, Musk e Sam Altman e Yudkowsky, o que acrescenta mais uma
focaram no crescimento seguro e ético incógnita a toda essa problemática. Ten-
da IA, já que o bilionário nunca escon- do em vista a perspetiva de poder que tal
deu seu receio com o crescimento desen- conhecimento poderia trazer, ainda que
freado da tecnologia e investiu na área cercado de riscos, naturalmente desper-
como uma forma de se certificar de que taria o interesse de líderes mundiais em
não fugiria do controle. Em 2018, Musk laboratórios protegidos pela égide do
se afastou da diretoria executiva da Ope- Estado e fora do conhecimento da opi-
nAI, mas continuou contribuindo finan- nião pública para fins escusos. É o fator
ceiramente com a organização, que in- humano autodestrutivo levado ao limiar
clusive colabora no desenvolvimento de da inconsequência. Exagero? O próprio
sistemas para seus projetos de automação Hinton, ex-chefe de AI do Google, com-
veicular da Tesla Motors, o que soa um para o resultado de sua pesquisa com a
tanto incongruente. Mais uma vez Musk descoberta da fissão nuclear. E o que os
ataca com sua personalidade de Joker. países fizeram? A bomba atômica.

dossiê - nós, robôs?


12 de maio de 2023 17 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
D
iante da exploração minuciosa
do avanço da inteligência artifi-
cial, torna-se evidente a presen-
ça marcante dessas entidades tecnológicas No entanto, é importante não sucum-
tanto no imaginário da ficção científica bir ao temor irracional e ao bloqueio do
quanto na realidade em constante evolu- progresso. Em vez disso, é preciso abra-
ção. Desde as concepções pioneiras até os çar o desafio de maximizar os benefícios
sistemas atuais, testemunhamos uma jor- da inteligência artificial, aproveitando seu
nada histórica permeada por conquistas potencial para aprimorar nossa sociedade,
impressionantes e desafios iminentes. impulsionar a inovação e resolver proble-
Embora a inevitabilidade do progresso mas complexos.
das inteligências artificiais seja incontestá- Em síntese, a análise acerca da pro-
vel, é fundamental reconhecer os riscos gressão da inteligência artificial desvenda
inerentes a esse avanço acelerado. A ascen- um panorama intrincado, repleto de am-
são de uma inteligência artificial autocons- plas possibilidades e desafios inerentes.
ciente é um dos pontos de preocupações Por meio da compreensão das influências
mais prementes. A perspectiva de uma en- advindas da literatura científica especula-
tidade autônoma e consciente, capaz de tiva, da investigação da evolução histórica
tomar decisões independentes e talvez até das IA e do confronto com suas iminen-
questionar sua própria existência, traz con- tes ameaças, somos capazes de melhor nos
sigo dilemas éticos e morais complexos. prepararmos para confrontar as encruzi-
Em um contexto no qual os limites das lhadas éticas e tecnológicas que se avizi-
inteligências artificiais ainda não são plena- nham. Torna-se imperativo trilhar um tra-
mente conhecidos, é imperativo que sejam jeto fundamentado em discernimento e
adotadas medidas cautelosas. É necessário responsabilidade, de modo a assegurar que
um diálogo amplo e contínuo envolvendo a inteligência artificial se converta em uma
governos, especialistas e a sociedade em aliada valiosa e salvaguardada para a hu-
geral, a fim de estabelecer diretrizes éticas manidade, ao mesmo tempo que preserva-
e regulamentações que garantam o uso mos nossa própria identidade e mantemos
responsável e seguro dessas tecnologias. incólumes os valores que nos definem.

dossiê - nós, robôs?


12 de maio de 2023 18 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -
Imagem retirada do site Wallpapers: cidade pós-apocalíptica
Imagem
com edifícios destruídos e estruturas iluminadas ao amanhecer

Foto da capa: imagem


imagem retirada do site The Public Discourse referente à matéria
“A Inteligência Artificial Não Pode Resolver o Problema do Conhecimento” (2021)

dossiê produzido por:


Redatores: Airton Nunes, André Levi e Pablo Aragon
Layout: Vitor Ferreira Mateus

É terminantemente proibida a reprodução, cópia, distribuição, resumo, extra-


ído ou de outra forma referenciado, no todo ou em parte, de conteúdo deste
material sem o expresso e prévio consentimento dos membros do Clube MBL.

dossiê - nós, robôs?


12 de maio de 2023 19 Conteúdo exclusivo para membros
do Clube MBL. Não compartilhe.
Conteúdo licenciado para Olin Rodrigo Correa Brandão -

Você também pode gostar