Yuval Harari: O domínio

da inteligência artificial
sobre a linguagem é uma
ameaça à civilização
Por Yuval Harari, Tristan Harris e Aza Raskin
28/03/2023 | 05h00Atualização: 28/03/2023 | 11h43

Ouvir:

Se nós continuarmos a fazer as coisas como sempre, as

capacidades de IA serão usadas para obtenção de lucro e poder,
mesmo que isso destrua as fundações da nossa sociedade

saiba mais

Imagine que você está embarcando em um avião e metade dos

engenheiros que o construíram lhe diz que há 10% de chance da
aeronave cair, matando você e todos os demais a bordo. Você
embarcaria mesmo assim?

Em 2022, mais de 700 dos principais acadêmicos e pesquisadores

por trás das maiores empresas de inteligência artificial foram
questionados em uma sondagem a respeito do risco futuro da IA.
Metade dos entrevistados declarou que existe uma chance de 10%
ou maior de extinção da humanidade (ou alguma insegurança
similarmente permanente e grave) provocada por sistemas de IA.
As empresas de tecnologia que constroem os maiores modelos de
linguagem de hoje estão tomadas por uma corrida para colocar
toda a humanidade nesse avião.

Thomas Friedman

ChatGPT, inteligência artificial e a nova ‘descoberta do fogo’

da humanidade

Necessidade de regulação

Empresas farmacêuticas não podem vender novos medicamentos

para as pessoas sem antes submeter seus produtos a rigorosos
testes de segurança. Laboratórios de biotecnologia não podem
lançar novos vírus à esfera pública para impressionar acionistas
com sua feitiçaria. Igualmente, sistemas de inteligência artificial
com o poder do GPT-4 e além não deveriam ser emaranhados às
vidas de bilhões de pessoas a um ritmo mais veloz do que as
culturas sejam capazes de absorvê-los com segurança. A corrida
pelo domínio do mercado não deveria determinar a velocidade do
acionamento da tecnologia mais consequencial da humanidade.
Nós devemos nos mover a qualquer velocidade que nos possibilite
fazer isso direito.

O espectro da inteligência artificial assombra a humanidade desde

meados do século 20, mas até recentemente não passava de um
projeto distante, algo que pertence mais à ficção científica do que
ao debate científico e político sério. É difícil para as nossas mentes
humanas captar e compreender as novas capacidades do GPT-4 e
outras ferramentas similares, e é ainda mais difícil dar conta da
velocidade exponencial na qual essas ferramentas estão
desenvolvendo capacidades mais avançadas e poderosas. Mas a
maioria das capacidades principais se resume a uma coisa:
manipular e gerar linguagem, seja com palavras, sons ou imagens.

No princípio era o verbo. A linguagem é o sistema operacional da

cultura humana. Da linguagem emergem o mito e o direito, os
deuses e o dinheiro, a arte e a ciência, as amizades, as nações e os
códigos computacionais. O novo domínio da linguagem por parte
da inteligência artificial significa que ela é capaz agora de invadir e
manipular o sistema operacional da civilização. Ao ganhar domínio
da linguagem, a IA está se apoderando da chave-mestra da
civilização, de cofres de bancos a santos sepulcros.

Inteligência artificial pode acelerar disseminação de fake news, como

essa de uma prisão de Donald Trump que não ocorreu Foto: J. David
Ake/ AP
Controle sobre a linguagem
O que significaria para os humanos viver em um mundo no qual
uma grande porcentagem das narrativas, melodias, imagens, leis,
políticas e ferramentas é moldada por inteligência não humana,
que sabe como explorar com eficiência sobre-humana fraquezas,
vieses e vícios da mente humana — ao mesmo tempo que sabe
formar relações íntimas com os seres humanos? Em jogos como
xadrez, nenhum humano chega perto de superar um computador.
O que acontece quando o mesmo suceder na arte, na política ou
na religião?

A inteligência artificial poderia devorar rapidamente toda a cultura

humana, tudo o que produzimos ao longo de milhares de anos,
digerir e começar a jorrar uma torrente de novos artefatos
culturais. Não apenas trabalhos escolares, mas também discursos
políticos, manifestos ideológicos e livros sagrados para novos
cultos. Até 2028, a corrida presidencial dos Estados Unidos
poderia não ser mais protagonizada por humanos.

Os humanos com frequência não possuem acesso direto à

realidade. Nós somos encapsulados pela cultura, experimentando a
realidade através de um prisma cultural. Nossas visões políticas
são forjadas por reportagens de jornalistas e anedotas de amigos.
Nossas preferências sexuais são ajustadas em função de arte e
religião. Essa cápsula cultural tem sido, até aqui, tecida por outros
humanos. Como será experimentar a realidade através de um
prisma produzido por inteligência não humana?

Por milhares de anos, nós, humanos, vivemos dentro de sonhos de

outros humanos. Nós adoramos deuses, perseguimos ideais de
beleza e dedicamos as nossas vidas a causas que se originaram na
imaginação de algum profeta, poeta ou político. Logo nós também
viveremos dentro de alucinações de inteligência não humana.

Simplesmente obtendo domínio da linguagem, a IA teria tudo

o que precisa para nos envolver em um mundo de ilusões à la
Matrix, sem atirar em ninguém nem implantar nenhum chip
em nossos cérebros. Se tiros forem necessários, a IA fará
humanos puxarem o gatilho simplesmente contando-nos a
história certa
Ilusões controladas por máquinas
A franquia “O exterminador do futuro” retratou robôs correndo
nas ruas e atirando em pessoas. “Matrix” assumiu que, para impor
controle total sobre a sociedade humana, a inteligência artificial
teria primeiro que controlar fisicamente nossos cérebros e
conectá-los a uma rede computacional. Mas simplesmente
obtendo domínio da linguagem a IA teria tudo o que precisa para
nos envolver em um mundo de ilusões à la Matrix, sem atirar em
ninguém nem implantar nenhum chip em nossos cérebros. Se tiros
forem necessários, a IA fará humanos puxarem o gatilho
simplesmente contando-nos a história certa.
O espectro de ficar preso em um mundo de ilusões assombra a
humanidade há muito mais tempo do que o espectro da
inteligência artificial. Nós logo estaremos finalmente diante do
gênio maligno de Descartes, da caverna de Platão e da maya
budista. Uma cortina de ilusões poderia desprender-se sobre toda
a humanidade, e nós poderemos jamais ser capazes de rasgá-la —
ou até mesmo perceber sua presença.

O alerta das redes sociais

As redes sociais foram o primeiro contato entre a inteligência
artificial e a humanidade, e a humanidade perdeu. O primeiro
contato nos deixa um sabor amargo do que está por vir. Nas redes
sociais, IA primitiva foi usada não para criar conteúdo, mas para
curar conteúdo gerado pelos usuários. A IA por trás dos nossos
feeds de notícias ainda está escolhendo quais palavras, sons e
imagens chegam às nossas retinas e tímpanos com base na seleção
das postagens que obtêm mais viralidade, mais reações e mais
engajamento.

Ainda que muito primitiva, a inteligência artificial por trás das

redes sociais foi suficiente para criar uma cortina de ilusões que
elevou a polarização social, minou nossa saúde mental e desgastou
a democracia. Milhões de pessoas confundiram essas ilusões com
a realidade. Os EUA têm a melhor tecnologia da informação na
história, mas os cidadãos americanos não conseguem mais
concordar sobre quem venceu as eleições. Apesar de todos
estarem agora cientes dos problemas das redes sociais, eles ainda
não foram solucionados porque tantas de nossas instituições
sociais, econômicas e políticas estão emaranhadas.

Os grandes modelos de linguagem são nosso segundo contato com

a inteligência artificial. Nós não podemos nos dar ao luxo de
perder novamente. Mas sobre quais bases nós deveríamos
acreditar que a humanidade é capaz de alinhar essas novas formas
de IA para nosso benefício? Se nós continuarmos a fazer as coisas
como sempre, as novas capacidades de IA serão usadas
novamente para obtenção de lucro e poder, mesmo isso que
destrua inadvertidamente as fundações da nossa sociedade.
Ainda que muito primitiva, a inteligência artificial por trás
das redes sociais foi suficiente para criar uma cortina de
ilusões que elevou a polarização social, minou nossa saúde
mental e desgastou a democracia
Benefícios x Riscos
A inteligência artificial tem potencial para nos ajudar a derrotar o
câncer, descobrir drogas que salvam vidas e inventar soluções para
nossas crises climáticas e energéticas. Há inumeráveis outros
benefícios que nem conseguimos imaginar. Mas o tamanho do
monte de benefícios da IA não importa se sua base ruir.

A hora do acerto de contas com a inteligência artificial é antes da

nossa política, nossa economia e nossa vida cotidiana se tornarem
dependentes dela. Democracia é diálogo, diálogos têm base em
linguagem, e quando a própria linguagem é hackeada, o diálogo
acaba, e a democracia fica insustentável. Se esperarmos o caos se
abater, será tarde demais para remediá-lo.

Mas uma dúvida pode persistir em nossas mentes: se nós não nos
movimentarmos o mais rápido possível o Ocidente não arrisca
perder para a China? Não. O acionamento e envolvimento
descontrolado de inteligência artificial na sociedade,
desprendendo poderes divinos desvencilhados de
responsabilidade, poderia ser a razão da derrota do Ocidente para
a China.

Uma cortina de ilusões poderia desprender-se sobre toda a

humanidade, e nós poderemos jamais ser capazes de rasgá-la
— ou até mesmo perceber sua presença.
Que futuro queremos?
Nós ainda podemos escolher qual futuro queremos com a
inteligência artificial. Quando os poderes divinos vierem
acompanhados de responsabilidades e controles proporcionais nós
poderemos concretizar os benefícios prometidos pela IA.
Nós invocamos uma inteligência alienígena. Nós não sabemos
muita coisa sobre ela, a não ser que é extremamente poderosa e
nos oferece presentes deslumbrantes, mas também poderia invadir
as fundações da nossa sociedade. Nós conclamamos os líderes a
responder a este momento à altura do desafio que ele apresenta.
A primeira coisa é ganhar tempo para modernizar nossas
instituições do século 19 para um mundo com inteligência artificial
— e aprender a dominá-la antes que ela nos domine. /
TRADUÇÃO DE GUILHERME RUSSO
• Yuval Noah Harari é historiador; autor de “Sapiens”, “Homo
Deus” e “Implacáveis”; e um dos fundadores da empresa de
impacto social Sapienship. Tristan Harris e Aza Raskin são
fundadores do Centro para Tecnologia Humana e apresentam o
podcast “Your Undivided Attention”