Classificação com Naive Bayes

Alunos: Arthur Guzzo, Jhonny, Leonardo Regonini, Vitor R. Bemer,

Rayner Anderson Bortolini Junior.
Thomas bayes ❖ Quem foi Thomas Bayes?
● Ele foi um reverendo presbiteriano que viveu no
início do século 18 (1701?-1761) na Inglaterra.
Imagem de Thomas Bayes (Figura1)

Figura 1.O reverendo Thomas Bayes (1701?-1776).

1
Utilidade do algoritmo ❖ É um classificador probabilístico baseado no
“Teorema de Bayes”. Foi criado para tentar provar a
“Naive Bayes” existência de Deus.

● Aprendizado de Máquina (Machine Learning) para

categorizar textos baseado na frequência das
palavras usadas.

● Usado para identificar se determinado e-mail é um

SPAM ou sobre qual assunto se refere determinado
texto.

2
característica do ❖ A principal característica do algoritmo, é que ele
desconsidera completamente a correlação entre as
algoritmo variáveis features (recursos). Por exemplo:

● Se determinada fruta é considerada uma “Maçã” se

ela for “Vermelha”, “Redonda” e possui
“aproximadamente 10cm de diâmetro”, o algoritmo
não vai levar em consideração a correlação entre
esses fatores, tratando cada um de forma
independente.

3
 ❖ O prós:

Quais são os prós e ● É fácil e rápido para prever o conjunto de dados da classe
de teste. Também tem um bom desempenho na previsão de

contras de Naive Bayes? classes múltiplas.

● Quando a suposição de independência prevalece, um

classificador Naive Bayes tem melhor desempenho em
comparação com outros modelos como regressão logística,
e você precisa de menos dados de treinamento.

● O desempenho é bom em caso de variáveis categóricas de

entrada comparada com a variáveis numéricas. Para
variáveis numéricas, assume-se a distribuição normal (curva
de sino, que é uma suposição forte).
Curva de sino

4
Quais são os prós e ❖ Contras:

● Na decisão Bayesiana, a principal limitação é que na

contras de Naive Bayes? maioria das vezes, não conhecemos a distribuição de
probabilidade conjunta que neste caso é a acurácia
do teste.

● Naive Bayes é também conhecido como um mau

estimador, por isso, as probabilidades calculadas não
devem ser levadas muito a sério.

● Outra limitação do Naive Bayes é a suposição de

preditores independentes. Na vida real, é quase
impossível que ter um conjunto de indicadores que
sejam completamente independentes.

5
Teorema de Bayes

● P(A/B) = Probabilidade de ocorrer “A” dado que já

ocorreu “B”;
● P(B/A) = Probabilidade de ocorrer “B” dado que já
ocorreu “A”;
● P(A) = Probabilidade de “A”;
● P(B) = Probabilidade de “B”.

6
Exemplo:
Teste de Câncer:

Acurácia do teste: 90% ● P(B/A) = Acurácia do teste;

● P(A) = Probabilidade de ter câncer;
Probabilidade de ter câncer: 1%
● P(B) = P(B/A) * P(A) + P(B/A-1) * P(A-1), ou seja, a
probabilidade de “B”, é a P(B) ocorrer junto com
P(A) + P(B) onde P(A) não ocorre.

7
Exemplo:
Teste de Câncer:

Acurácia do teste: 90% ● P(B/A) = 90%;

● P(A) = 1%;
Probabilidade de ter câncer: 1%
● P(B) = 90% * 1% + 10% * 99%;

8
Exemplo:
Teste de Câncer:

Acurácia do teste: 90%

Probabilidade de ter câncer: 1%

● Ou seja, 8.3% de chance do teste ter dado positivo e

a pessoa realmente estar com câncer.

9
Exemplo:
Teste de Câncer:
● Em resumo, neste caso o teorema de Bayes calcula,
Acurácia do teste: 90%
no numerador a probabilidade do teste dar positivo
Probabilidade de ter câncer: 1% se a pessoa tiver câncer e a parte do denominador é a
probabilidade do teste dar positivo com a pessoa
tendo ou não tendo câncer.

10
Exercício em sala: ❖ Um velejador experiente tem 50% de chance de vencer
uma regata sob vento forte, porém sem a presença de
vento , suas chances caem para 25%. As autoridades do
serviço de meteorologia da cidade que sediará a
próxima regata estimam em 30% a probabilidade de que
ocorra vento forte durante a competição .Qual a
probabilidade de ter tido vento forte ,sabendo que o
velejador venceu ?

11
 Referências
<https://folivetti.github.io/courses/AprendizadoMaquina/PDF/Aula08.pdf>

<https://www.vooo.pro/insights/6-passos-faceis-para-aprender-o-algoritmo-naive-bayes-com-o-codigo-em-python/>

<https://www.voitto.com.br/blog/artigo/teorema-de-bayes>

<https://www.organicadigital.com/blog/algoritmo-de-classificacao-naive-bayes/>

<https://folivetti.github.io/courses/AprendizadoMaquina/PDF/Aula08.pdf>

<https://sites.icmc.usp.br/francisco/sme0120/material/Thomas_Bayes_CH.pdf>

<https://www.youtube.com/watch?v=I643PqSrETM&ab_channel=Did%C3%A1ticaTech>