Desenvolvendo aplicativos

com GPT-4 e ChatGPT

Crie chatbots inteligentes,
geradores de conteúdo e muito mais

Olivier Caelen • Marie-Alice Blete

Novatec
Authorized Portuguese translation of the English edition of Developing Apps with GPT-4
and ChatGPT ISBN 9781098152482 © 2023 Olivier Caelen and Marie-Alice Blete. This
translation is published and sold by permission of O'Reilly Media, Inc., the owner of all
rights to publish and sell the same.
Tradução em português autorizada da edição em inglês da obra Developing Apps with
GPT-4 and ChatGPT ISBN 9781098152482 © 2023 Olivier Caelen e Marie-Alice Blete.
Esta tradução é publicada e vendida com a permissão da O'Reilly Media, Inc., detentora
de todos os direitos para publicação e venda desta obra.
© Novatec Editora Ltda. [2023].
Todos os direitos reservados e protegidos pela Lei 9.610 de 19/02/1998.
É proibida a reprodução desta obra, mesmo parcial, por qualquer processo, sem prévia
autorização, por escrito, do autor e da Editora.
Editor: Rubens Prates GRA20231023
Assistente editorial: Karina Tsuchiya
Tradução: Aldir Coelho Corrêa da Silva
Revisão gramatical: Tássia Carvalho
ISBN do impresso: 978-85-7522-874-6
ISBN do ebook: 978-85-7522-875-3
Histórico de impressões:
Novembro/2023 Primeira edição
Novatec Editora Ltda.
Rua Luís Antônio dos Santos 110
02460-000 – São Paulo, SP – Brasil
Tel.: +55 11 2959-6529
Email: novatec@novatec.com.br
Site: https://novatec.com.br
Twitter: twitter.com/novateceditora
Facebook: facebook.com/novatec
LinkedIn: linkedin.com/in/novatec
GRA20231023
 Sumário

Prefácio........................................................................................................7
Capítulo 1 ■ Aspectos básicos do GPT-4 e do ChatGPT.................................... 11
Introdução aos LLMs......................................................................................12
Explorando as bases dos modelos de linguagem e o NLP............................12
Entendendo a arquitetura de transformadores e seu papel nos LLMs...........15
Desmistificando as etapas de tokenização e previsão em modelos GPT........19
Um breve histórico: do GPT-1 ao GPT-4..........................................................21
GPT-1........................................................................................................21
GPT-2........................................................................................................22
GPT-3........................................................................................................23
Do GPT-3 ao InstructGPT.........................................................................25
GPT-3.5, Codex e ChatGPT.......................................................................27
Casos de uso e exemplos de produtos com LLMs.............................................29
Be My Eyes................................................................................................30
Morgan Stanley.........................................................................................30
Khan Academy..........................................................................................31
Duolingo...................................................................................................32
Yabble.......................................................................................................33
Waymark..................................................................................................33
Inworld AI.................................................................................................34
Cuidado com as alucinações de IA: limitações e considerações.........................34
Otimizando modelos GPT com plugins e ajuste fino........................................38
Resumo..........................................................................................................39
Capítulo 2 ■ Exame detalhado das APIs do GPT-4 e do ChatGPT..................... 41
Conceitos essenciais........................................................................................42
Modelos disponíveis na API da OpenAI...........................................................43
Testando modelos GPT com o Playground da OpenAI.....................................45
Começando: a biblioteca Python da OpenAI...................................................51
Chave de API e acesso à OpenAI................................................................51
Exemplo “Hello World”.............................................................................53

3
4 Desenvolvendo aplicativos com GPT-4 e ChatGPT

Usando o ChatGPT e o GPT-4........................................................................55

Opções de entrada para o endpoint de conclusão de chat............................56
Formato do resultado na saída do endpoint de conclusão de chat (chat
completion)...............................................................................................59
De conclusões de texto a funções...............................................................61
Usando outros modelos de conclusão de texto.................................................64
Opções de entrada para o endpoint de conclusão de texto...........................65
Formato do resultado na saída para o endpoint de conclusão de texto.........66
Considerações.................................................................................................67
Preços e limitações de tokens.....................................................................67
Segurança e privacidade: cuidado!..............................................................68
Outras APIs e funcionalidades da OpenAI.......................................................69
Embeddings..............................................................................................69
Modelo de moderação................................................................................72
Whisper e DALL-E....................................................................................75
Resumo (e instruções).....................................................................................76
Capítulo 3 ■ Criando aplicativos com GPT-4 e ChatGPT..................................78
Visão geral do desenvolvimento de aplicativos..................................................78
Gerenciamento de chaves de API................................................................79
Segurança e privacidade de dados...............................................................81
Princípios de design de arquitetura de software................................................82
Vulnerabilidades das aplicações baseadas em LLMs.........................................83
Analisando entradas e saídas......................................................................84
A inevitabilidade da injeção de prompt.......................................................85
Exemplos de projetos......................................................................................85
Projeto 1: Criando uma solução geradora de notícias...................................86
Projeto 2: Resumindo vídeos do YouTube...................................................89
Projeto 3: Criando um especialista para Zelda BOTW................................93
Projeto 4: Controle por voz.......................................................................100
Resumo........................................................................................................108
Capítulo 4 ■ Técnicas avançadas do GPT-4 e do ChatGPT.............................. 109
Engenharia de prompt...................................................................................109
Projetando prompts eficazes..................................................................... 111
Pensando passo a passo...........................................................................119
Implementando o few-shot learning.........................................................122
Melhorando a eficácia do prompt.............................................................124
Sumário 5

Ajuste fino....................................................................................................127
Começando o ajuste fino..........................................................................127
Ajuste fino com a API da OpenAI.............................................................130
Ajuste fino entre aplicações......................................................................134
Gerando e ajustando dados sintéticos para campanhas de email marketing. 137
Custo do ajuste fino.................................................................................146
Resumo........................................................................................................ 147
Capítulo 5 ■ Aprimorando os recursos dos LLMs com o framework LangChain e
os plugins............................................................................................ 150
O framework LangChain..............................................................................150
Prompts dinâmicos..................................................................................152
Agentes e ferramentas..............................................................................154
Memória..................................................................................................159
Embeddings............................................................................................160
Plugins do GPT-4..........................................................................................164
Visão geral...............................................................................................166
A API......................................................................................................167
O manifesto do plugin.............................................................................169
A especificação OpenAPI......................................................................... 170
Descrições...............................................................................................172
Resumo........................................................................................................173
Conclusão..................................................................................................... 174
Glossário de termos-chave......................................................................... 175
Índice remissivo........................................................................................ 185