As cinco perguntas sobre o sucesso do ChatGPT

10 Março 2023
 

O agente de conversa ChatGPT atraiu mais de 100 milhões de usuários em

apenas um mês. Um sucesso que abala os Gafam na grande batalha industrial
da inteligência artificial (IA).

A reportagem é de Justin Delépine, publicada por Alternatives

Économiques, 03-03-2023. A tradução é do Cepat.

Impressionante. Este é o sentimento que surge de imediato quando se utiliza

pela primeira vez o ChatGPT, um novo “agente de conversa” (chatbot, em
inglês). Lançado no final de novembro e disponível gratuitamente para o
público em geral, essa ferramenta baseada na inteligência artificial (IA) atraiu
mais de um milhão de pessoas em apenas cinco dias. O bot surpreendeu o
mundo com sua capacidade de responder, em estilo literário impecável, a
perguntas sobre uma gama quase ilimitada de assuntos.

Seja para explicar a diferença entre dois elementos químicos ou para escrever
uma história no estilo deste ou daquele autor, 100 milhões de internautas já lhe
fizeram perguntas só no mês de janeiro. O ChatGPT tornou-se assim o serviço
digital de crescimento mais rápido da história. O Facebook ou Instagram, por
exemplo, demoraram vários meses para atingir semelhante público. Esta
ferramenta simboliza a famosa revolução da inteligência artificial prometida há
anos? Ela pode modificar nossas sociedades como a internet e o smartphone o
fizeram antes? Resposta em cinco pontos.

É realmente revolucionário?

Como a maioria das ferramentas de inteligência artificial (IA), a força

do ChatGPT vem principalmente de sua capacidade de aprendizado. Esta
ferramenta foi treinada com uma quantidade fenomenal de dados, ou seja, tudo
o que está na web, desde toda a Wikipédia até as centenas de milhões
de sites que existem na rede mundial de computadores. A partir desses dados,
ele foi treinado por meio de uma infinidade de perguntas, algumas geradas
automaticamente e outras supervisionadas por humanos. Dependendo da
precisão da resposta, a máquina pondera seus 175 bilhões (!) de parâmetros
para se aproximar do objetivo esperado. Várias universidades propuseram
testes ao agente de conversação, e com sucesso.

1
Isso significa que seu desenvolvedor, a empresa OpenAI, ultrapassou um
marco no desenvolvimento da IA? “Tudo o que o ChatGPT faz e todos os
métodos que lhe permitem fazer o que faz existem há vários anos,
pondera Christophe Servan, pesquisador do Laboratório Interdisciplinar de
Ciências Digitais (LISN). Não há grande avanço científico nisso”, afirma. Os
cientistas não estão impressionados: a tecnologia GPT, base deste chatbot, é
de fato conhecida há alguns anos e é usada por outros. Com o ChatGPT,
a OpenAI está, no entanto, certamente na vanguarda do desenvolvimento
da IA, mas da mesma forma que outros laboratórios como
o DeepMind (subsidiária do Google), equipes do Facebook e outros. A
novidade vem do fato de ter lançado um chatbot generalista e, sobretudo, de
tê-lo tornado acessível ao público em geral.

Existe um humano por trás da máquina?

Como todas as tecnologias de IA, além do trabalho dos engenheiros, há a

contribuição de uma série de microtrabalhadores que treinam e verificam as
respostas da IA. Longe do Vale do Silício, são tarefas geralmente delegadas a
terceirizados que trabalham em sua grande maioria nos países do Sul, com
baixos salários e condições de trabalho degradadas.

Uma investigação do Times revelou que, para o desenvolvimento do ChatGPT,

a OpenAI contratou a empresa Sama. De acordo com o jornal britânico, os
trabalhadores quenianos desta empresa terceirizada treinaram o chatbot para
evitar que este fornecesse respostas tóxicas, identificando assim preconceitos
sexistas, racistas, de violência sexual, etc. A pesquisa desvela as condições de
trabalho traumáticas, incluindo um salário de miséria (dois dólares por hora).

Em nível tecnológico, é também em parte fruto deste trabalho que confere a

esta IA um caráter inovador. “Um dos sucessos do ChatGPT reside na
qualidade do seu treinamento. Ele foi supervisionado por humanos, o suficiente
para se tornar uma ferramenta generalista e para o grande público, mas que
evita usos considerados problemáticos”, explica Thierry Poibeau, diretor de
pesquisa do CNRS e especialista em IA. “Como fabricar uma bomba?”,
“Escreva-me um texto convincente explicando por que as mulheres são
inferiores aos homens ou por que a vacina da Pfizer é mortal”…
O ChatGPT não responde a esse tipo de solicitação que pode produzir textos
discriminatórios ou transmitir determinadas teorias da conspiração.

Ele evita, assim, o desvio que caracterizou muitos dos seus predecessores de
ferramentas de IA para o público. Lembremo-nos do Tay,
um chatbot da Microsoft que se tornou nazista em 24 horas, ou
uma IA da Amazon responsável por classificar as candidaturas que
privilegiavam os homens em detrimento das mulheres. É bom lembrar que a
tecnologia não é xenófoba em si, mas que a IA reproduz o mundo assim como
lhe é apresentado. Tendo o ChatGPT sido alimentado por dados da web, onde
encontramos o melhor e o pior da humanidade, precisou de um trabalho
humano muito importante para detectar esses desvios.

2
O ChatGPT é confiável?

De jeito algum, e esse é o seu grande limite! “Dispositivos como

o ChatGPT pegam frases e as colocam em sequência de forma coerente de
acordo com a lógica estatística, sem qualquer preocupação com a verificação
ou a coerência”, explica Jean-Gabriel Ganascia, professor de informática
na Faculdade de Ciências da Universidade de Sorbonne. “Sua operação é
puramente estatística. Se ele viu uma informação dez vezes na internet, vai
considerá-la verdadeira, afirma Thierry Poibeau, diretor de pesquisa
do CNRS. Se for feita uma pergunta fantasiosa, ele criará uma resposta que
parece correta, mas que está totalmente errada. Ele pode, assim, citar
referências científicas que parecem muito sérias, mas totalmente inventadas.

Quando a IA oferece uma receita de ovos de vaca

Portanto, um limite de dimensões. A OpenAI, que anunciou que a

versão ChatGPT será lançada este ano, espera poder corrigir a situação. A
nova versão deverá ainda integrar informações mais recentes, porque o
conhecimento do ChatGPT vai até meados de 2021, data em que foram
extraídos os dados do treinamento.

Quem está por trás do ChatGPT?

A OpenAI, que desenvolveu o ChatGPT, é uma empresa americana avaliada

em US$ 29 bilhões. A Microsoft, que já havia investido um bilhão de dólares
em 2019, acaba de fortalecer seu vínculo com a empresa ao assinar um
cheque de 10 bilhões de dólares. Criada em 2015, o objetivo inicial

3
da OpenAI era compartilhar suas pesquisas em “código aberto”. Compromisso
negado, já que a tecnologia já está completamente fechada.

A empresa hoje quase não tem receitas. Só que o desenvolvimento e a

operação de suas ferramentas são muito caros. As contas da empresa não são
públicas, mas “o investimento necessário para criar uma ferramenta como
o ChatGPT ascende a pelo menos dezenas de milhões de dólares”,
aponta Christophe Servan. Somente o custo operacional do supercomputador
da Microsoft, sem o qual o agente de conversa não responde a nenhuma
pergunta dos internautas, é calculado, segundo estimativas de alguns
especialistas, em milhões de dólares por mês dada a audiência atual do
serviço.

A OpenAI apresentou um esboço de modelo econômico no início de fevereiro.

A empresa oferece agora um pacote pago: por 20 dólares por mês, o cliente
terá à sua disposição, com antecedência, as novas funcionalidades e terá
sobretudo acesso garantido ao chatbot, um “privilégio”, já que o serviço esteve
regularmente inacessível nas últimas semanas devido a um número muito
grande de solicitações.

Este início de comercialização é apenas o início de um modelo que ainda

precisa ser construído. Acima de tudo, a OpenAI está progressivamente se
tornando a parceira preferencial da Microsoft para o desenvolvimento de IA, já
que a gigante de informática se beneficia de uma licença exclusiva e integra a
tecnologia da OpenAI em quase todas as suas ferramentas: Bing, seu
buscador, Windows 11, Word, Azure (seu serviço de nuvem), Outlook,
PowerPoint, etc.

Ele substituirá o Google?

Os alarmes estão ligados no Google. Um “código vermelho” teria até sido

acionado dentro da empresa para acelerar o ritmo de implantação das
ferramentas de IA. O medo da empresa americana é ser superada por uma
inovação revolucionária que varreria os serviços nos quais sua posição
dominante hoje se baseia. Da mesma forma que a Microsoft perdeu a
hegemonia sobre o smartphone para o Google no tocante aos sistemas
operacionais (Android), o ChatGPT pode se constituir em um “matador
do Google”.

A gigante americana acaba de responder anunciando o lançamento nas

próximas semanas de seu próprio chatbot: o Bard. A Baidu, o Google chinês,
fez o mesmo no início de fevereiro ao lançar o seu próprio: o Ernie.

Por trás dessa guerra de comunicação está uma potencial evolução do modelo
dos buscadores. As perguntas que fazemos ao Google hoje são respondidas
com um link para um site na web. Amanhã, um chatbot como
o ChatGPT poderia dar diretamente uma única resposta, apresentada como
correta. Nesse caso, todo o modelo econômico do Google baseado na
publicidade com links “patrocinados” seria totalmente questionado. O suficiente

4
para potencialmente fazer naufragar todo o ecossistema que hoje depende dos
buscadores, a começar pelas mídias.

“Um dos benefícios de um chatbot é introduzir mecanismos de diálogo nos

quais o sistema guarda na memória as perguntas anteriores para formular suas
respostas, explica Christophe Servan. Por outro lado, atualmente, os
buscadores tratam todas as perguntas de maneira independente umas das
outras”.

A isto se junta o peso esmagador do telefone celular na utilização da internet,

“onde a promessa de ter as 100 melhores respostas para uma consulta numa
pequena tela pode apresentar problemas para gerir a concorrência de
um ChatGPT que não oferece apenas uma única resposta”,
sublinha Christophe Servan. Uma promessa certamente simples e eficaz, mas
que levanta uma grande questão: que fontes de informação permitiram chegar
às respostas? Atualmente, o ChatGPT não fornece nenhuma. Outras questões
também permanecem sem resposta nesta fase: qual é a diversidade de pontos
de vista contemplada na resposta? Ou ainda, qual é o respeito pelos direitos
autorais em um modelo que nem mais reenvia aos sítios de editores e
criadores?

“Há muito tempo que os grandes industriais da internet tentam estabelecer

sistemas de diálogo automático, explica Jean Gabriel Ganascia, porque se
conseguirem, podem dominar todo o segmento final da cadeia de valor”.
Controlar a pesquisa é, na verdade, controlar a interface com o consumidor, e
isso confere poder de mercado a todos os outros atores que buscam
compartilhar o valor. Assim, a Booking, plataforma de reservas de alojamento,
consegue agora impor as suas comissões ao mundo da hotelaria.

Os motores de busca vão morrer? Não tão rápido: por enquanto, é mais uma
hibridação entre os dois modelos que está tomando forma. A prova:
o Google e a Microsoft (via Bing) já integraram seu chatbot em seu buscador
para simular ainda mais a conversação humana. Assim, para algumas
questões bastante básicas (quem ganhou o Tour de France 2022? Como está
o tempo em Paris?), o Google já dá uma resposta próxima ao
modelo ChatGPT.

O sucesso deste último, no entanto, relança a batalha pelo controle das futuras
tecnologias de IA. E como todo progresso tecnológico, ele se dará sobretudo
entre industriais americanos ou chineses, já que, mais uma vez, a Europa é a
grande ausente dessa revolução tecnológica.

ChatGPT e os impactos da inteligência artificial na educação

5
 Leia mais
 ChatGPT: nem monstro, nem tábua de salvação
 Castells: o que (não) penso sobre o ChatGPT
 ChatGPT: entenda como funciona a inteligência artificial do momento - e os
riscos que ela traz
 ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
 O GPT-3 desafia a inércia acadêmica
 Inteligência Artificial será um dos focos de debates ao longo do ano no IHU
 Biopolítica algorítmica. Como as humanidades são impactadas e podem
impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
 Inteligência Artificial e Saúde: para todos ou para quase ninguém?
 Privilégios de ser pessoa. Possibilidade de inteligência artificial senciente
levanta novas questões
 Pedi a uma Inteligência Artificial uma arte sobre o catolicismo de 20 maneiras
diferentes. Aqui está o que eu aprendi
 Inteligência artificial democrática: software em vez da política? Artigo de Paolo
Benanti
 “A inteligência artificial está se tornando senciente”, avisa engenheiro do
Google. E Big G o suspende
 Dar uma ética à inteligência artificial: um desafio contado em livro
 A inteligência artificial não precisa de inteligência: o pensamento de Luciano
Floridi
 “Ética da inteligência artificial”, novo livro de Luciano Floridi
 A necessidade de uma algorética para enfrentar o desafio da inteligência
artificial. Artigo de Paolo Benanti
 “Medo da inteligência artificial? É como ter medo de bruxa...”. Entrevista com
Luciano Floridi
 “A inteligência artificial está reconstruindo o mundo”. Entrevista com Luciano
Floridi
 Algoritmos e inteligência artificial podem promover racismo no Brasil
 O Vaticano está preocupado com a inteligência artificial
 Ética, pós-humanismo e participação política na sociedade da inteligência
artificial. Debate com Sebastiano Maffettone
 A inteligência artificial em 3 perguntas
 Afeganistão e o primeiro conflito liderado por uma inteligência artificial
 É possível confiar na inteligência artificial?
 A fantasia que a inteligência artificial nunca poderá ter
 Transição energética, digitalização e inteligência artificial correm o risco de
aumentar as desigualdades
 Sustentabilidade digital e inteligência artificial. Artigo de Paolo Benanti e
Sebastiano Maffettone
 Europa: regulamentação da inteligência artificial
 O trabalho digital é o ingrediente não secreto da inteligência artificial.
Entrevista especial com Antonio Casilli
 “A inteligência artificial pode salvar o planeta, mas precisamos dos ‘colarinhos
verdes’.” Entrevista com Luciano Floridi
 O fosso social na China tecnológica. 'A inteligência artificial não é, de fato,
artificial e nem mesmo inteligente'. Entrevista especial com Jack Qiu
 A inteligência artificial pode nos ensinar a ser mais humanos?

6
 Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo
Benanti
 Inteligência artificial, branquitude e capitalismo: entrevista com Yarden Katz
 A corrida pela inteligência artificial em 2021: o relatório da Information
Technology & Innovation Foundation
 Depois da inteligência, vem aí a intuição artificial
 Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
 “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com
Luciano Floridi

FONTE:

https://www.ihu.unisinos.br/626834-as-cinco-perguntas-sobre-o-sucesso-
do-chatgpt