T R A N S C R I Ç Ã O

Masterizando
o ChatGPT

O que são e como

evitar as alucinações

Conteúdo licenciado para Bruno Nunes Ramos - 108.731.577-88

 Masterizando o ChatGPT

00:00:00:01 - 00:00:27:44

Com tudo o que você já ouviu até agora sobre o ChatGPT, eu tenho
certeza que você já está pensando. É a ferramenta perfeita, certo?
Claro que não! A ferramenta com certeza tem alguns defeitos e cabe
a nós sabermos identificar onde esses defeitos estão, até para
conseguir evitar de cair nessas ciladas. E provavelmente o principal
defeito ou a característica mais frágil dos modelos de linguagem é a
probabilidade que existe dela começar a alucinar.

00:00:27:46 - 00:00:49:44

E o termo é exatamente esse é um termo muito humano. É uma

característica humana de você gerar alucinações, que basicamente
são aquelas situações onde você acha que está vendo alguma coisa
que não existe. Você criou da sua cabeça. E esse mesmo
comportamento acontece com o ChatGPT. Em alguns casos, ele vai
criar algo completamente da cabeça dele.

00:00:49:58 - 00:01:12:30

Portanto, saindo da realidade, é algo completamente fora de

contexto. E é justamente esse tipo de defeito desses modelos que a
gente precisa estar atento. A gente precisa ser o juízo, senso crítico na
hora de gerar um conteúdo. E só dando um pouco mais de contexto
por que essas alucinações ocorrem principalmente por aquilo que o
modelo foi exposto no momento de treinamento.

1
Conteúdo licenciado para Bruno Nunes Ramos - 108.731.577-88
 Masterizando o ChatGPT

00:01:12:30 - 00:01:40:53

Como a gente já falou anteriormente, os modelos de linguagem estão

na sua fase inicial de desenvolvimento. Eles são alimentados com uma
quantidade enorme de informações recolhidas de sites e plataformas
de textos por aí. Só para vocês terem uma ideia, são dezenas de
dezenas de terabytes só de conteúdo em texto. Então, isso é um
volume muito grande de referência. Quando a gente está falando de
uma quantidade tão grande assim de informação, não dá para
diferenciar o que é bom e o que é ruim.

00:01:40:58 - 00:02:01:07

No mundo da tecnologia, a gente tem uma expressão que funciona

muito bem pra esse caso, que é o tal do “Garbage in” e “Garbage out”
. Ou seja, se entra lixo, também vai sair lixo em algum nível. Portanto,
as informações que o modelo foi exposto, elas podem conter viés.
Elas podem conter informações falsas. A gente sabe que,
infelizmente, o que mais tem por aí são fake news.

00:02:01:12 - 00:02:23:39

Então, o modelo, de uma certa forma, também foi ensinado sobre

aquilo. Além dessas questões que envolvem o treinamento, ou seja, a
referência de dados que o modelo possui e que não necessariamente
são 100% legítimas, você ainda tem a própria forma como o modelo
cria as novas estruturas de texto, ou seja, como um modelo de
probabilidades. Eventualmente ele pode errar nessas probabilidades.

2
Conteúdo licenciado para Bruno Nunes Ramos - 108.731.577-88
 Masterizando o ChatGPT

00:02:23:40 - 00:02:46:31

Ele pode adotar um caminho na hora de escolher um próximo

verbete que comece a levá-lo uma distância muito maior. Ou seja, ele
abriu uma estrada paralela e acabou indo parar num destino
completamente diferente. Isso é o que a gente chama de alucinações.
O problema dessas alucinações é que elas são muito boas. Elas são
muitas vezes difíceis de você notar, porque o texto é bem construído.

00:02:46:31 - 00:03:12:06

Ele chega a ser convincente. Eu diria até que o ChatGPT, nesse caso,
ele é um mentiroso perfeito, porque ele é capaz de falar um fato
histórico, por exemplo, completamente inventado, só que de uma
forma tão convincente que a gente vai acabar acreditando pra valer
que aquilo é real. Portanto, uma boa prática, uma orientação no uso
do ChatGPT é a gente sempre ter um olhar crítico na hora de
consumir esse conteúdo produzido por ele.

00:03:12:07 - 00:03:33:43

Portanto, se você fez algum tipo de solicitação que você sabe que não
irá se basear em algo ficcional, ou seja, você não está falando de criar
uma história, porque aí não tem problema nenhum ele inventar algo.
Mas se você está dependendo de algo que é referente a dados
históricos, dados que são de conhecimento público, vale a pena você
consultar, fazer uma pesquisa básica sobre a fidelidade daquela
informação.

3
Conteúdo licenciado para Bruno Nunes Ramos - 108.731.577-88
 Masterizando o ChatGPT

00:03:33:50 - 00:03:36:59

Não dá para confiar 100% naquilo que é gerado pelo modelo.

4
Conteúdo licenciado para Bruno Nunes Ramos - 108.731.577-88