Perceptron

Frederico Gualberto Ferreira Coelho

September 4, 2019

1 / 19
Perceptron Simples

• Proposto por Frank Rosenblatt em 1958;

• caracterizado pela aplicação de uma não-linearidade em forma
de função de ativação:
Ŷ = f (XW )
• f (·) que caracteriza o Perceptron simples é a função degrau,
mas pode ser qualquer outra.

2 / 19
Perceptron Simples

Perceptron simples pode ser representado por um único neurônio

MCP.

3 / 19
Perceptron Simples

Função de ativação

1, u ≥ θ
f (u) = (1)
0, u < θ
Pn
onde u = i=1 xi wi e θ é o limiar de ativação do neurônio

4 / 19
Perceptron Simples

Exemplo de Implementação função degrau

5 / 19
Perceptron Simples

Perceptron é um separador Linear já que sua equação de decisão

corresponde à equação geral de um hiperplano.
Equação de decisão (equação geral de um hiperplano)
n
X
xi wi = θ (2)
i=1

6 / 19
Perceptron Simples

Considerando θ como um parâmetro resultante do treinamento,

Equação de decisão:
n
X
xi wi − θ = 0 (3)
i=1
n+1
X
xi wi = 0 (4)
i=1

para os vetores aumentados x = [−1, x1 , x2 , · · · , xn ]T e

w = [θ, w1 , w2 , · · · , wn ]T

7 / 19
Classificador Linear

Exemplo

8 / 19
Classificador Linear

Exemplo
Mapear matriz X para matriz Y através de uma operação linear do
tipo Ŷ = XW

W = [1, 1, −6]

9 / 19
Classificador Linear

x = [2.72, 1.92, 1] x = [2.59, 1.62, 1] x = [3.78, 4, 1]

xw = -1.37 xw = -1.77 xw = 1.77
y = sign(xw) = -1 y = sign(xw) = -1 y = sign(xw) = 1

10 / 19
Classificador Linear

Equação de decisão (equação geral de um hiperplano)

n
X
xi wi = θ (5)
i=1

Para o caso bidimensional

w1 θ
w1 x1 + w2 x2 = θ → x2 = x1 + (6)
w2 w2

11 / 19
Classificador Linear

Exemplo - separação

12 / 19
Classificador Linear

Exemplo - Outras separações

W = [1, 1, −3] W = [2, 0.2, −6]

13 / 19
Treinamento Perceptron

14 / 19
Validação Cruzada

15 / 19
Validação Cruzada

16 / 19
Validação Cruzada
Folds = 5

17 / 19
Validação Cruzada
Folds = 5 - Dados em amarelo são de teste

18 / 19
Validação Cruzada
Folds = 5 - Dados em amarelo são de teste

19 / 19