Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)

Rede MADALINE

A rede MADALINE uma rede
ADALINE com uma camada com
mltiplos neurnios.

Engenharia de Controle e Automao

Profs. Raimundo Nonato das Mercs Machado

Selma Cristina de Freitas Freire

Unidade IV ADALINE (ADAptive LInear NEuron)

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 3

Redes Neurais Artificiais Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)
ADALINE (ADAptive LInear NEuron)

Rede ADALINE
Rede ADALINE

A rede ADALINE tem a estrutura bsica similar ao p perceptron
p
ADALINE
com a diferena que sua funo de transferncia linear.

R o nmero de elementos no vetor de entrada.

Funo de transferncia linear

ou

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 2 IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 4
Redes Neurais Artificiais Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)
ADALINE (ADAptive LInear NEuron)

Rede ADALINE
Algoritmo dos mnimos quadrados (LMS)

ADALINE
Erro mdio q
quadrtico.

Fronteira de deciso

A fronteira de deciso especificada para n = 0

ou

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 5 IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 7

Redes Neurais Artificiais Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)
ADALINE (ADAptive LInear NEuron)

Algoritmo dos mnimos quadrados (LMS)
Algoritmo dos mnimos quadrados (LMS)

O algoritmo
g LMS ajusta
j os p
pesos e a bias da rede ADALINE de
Algoritmo
g de aprendizagem
p g de Widrow-Holf
modo a minimizar o erro mdio quadrtico.

O erro a diferena entre a sada desejada (alvo) e a sada
fornecida pela rede.

O mtodo de treinamento baseado no algoritmo LMS
e
conhecido como mtodo do gradiente ou regra delta de
Widrow-Holff.

Onde e e b so vetores, e a taxa de aprendizagem.

Se grande, o aprendizado ocorre rapidamente, porm se ele
muito grande pode levar a instabilidade.

Para garantir a estabilidade do algoritmo a taxa de aprendizado
deve ser menor que o recproco do maior autovalor da matriz de
correlao ppT, dos vetores de entrada.
correlao, entrada

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 6 IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 8
Redes Neurais Artificiais Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)
ADALINE (ADAptive LInear NEuron)

Algoritmo dos mnimos quadrados (LMS)
Algoritmo dos mnimos quadrados (LMS)

Exerccio 4.1
Exerccio 4.3 - Problema de classificao
linear

Treinar uma rede ADALINE usando o conjunto de treinamento
Treinar uma rede ADALINE usando o conjunto de treinamento
dado. Considerar o caso em que b = 0, = 0,1 e W(0) = 0. dado. Considerar o caso em que = 0,066, W(0) = [-0,8147 -
Ef t
Efetuar o treinamento
t i t para10
10 pocas.
0 9058] e b(0) = 0,1270.
0,9058] 0 1270

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 9 IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 11

Redes Neurais Artificiais Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)
ADALINE (ADAptive LInear NEuron)

Algoritmo dos mnimos quadrados (LMS)
Rede linear com atrasos

Exerccio 4.2
Linha de atraso ((Tapped
pp Delay
y Line TDL))

Treinar uma rede ADALINE usando o conjunto de treinamento
O sinal de entrada passa por
dado. Considerar o caso em que b = 0, = 0,2 e W(0) = 0. N-1 atrasos.

A sada
d do
d TDL um vetor t
R-dimensional formado pelo
sinal atual no tempo e pelos
valores anteriores.

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 10 IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 12
Redes Neurais Artificiais Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)
ADALINE (ADAptive LInear NEuron)

Rede linear com atrasos
Rede linear com atrasos

Filtro linear
Exerccio 4.5 - Filtro adaptativo
p ((Cancelamento de rudo))

Combinando-se uma linha de
atraso com uma rede linear
pode se obter um filtro linear.
pode-se linear

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 13 IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 15

Redes Neurais Artificiais Redes Neurais Artificiais

ADALINE (ADAptive LInear NEuron)
ADALINE (ADAptive LInear NEuron)

Rede linear com atrasos
Referncias

Exerccio 4.4
Redes Neurais Artificiais: Fundamentos e Aplicaes. Z. L. Kovcs,
Editora Acadmica, SP, 1996.

Deseja-se obter uma rede linear que fornea na sada a
sequncia T = [5,0 6,1 4,0 6.0 6, 8,0], dada a entrada P = [1 2 1 3
Redes Neurais Artificiais: Teoria e Aplicaes. A. P. Braga. A. C. P. de L.
F de Carvalho.
F. Carvalho T.
T B.
B Ludermir.
Ludermir 2 ed.ed LTC,2007.
LTC 2007
3 2] com duas
d entradas
t d iniciais
i i i i Pi = [1 3].
3]

Redes Neurais: Princpios e prtica. S. Haykin, Prentice Hall, Inc. 1999.

Neural Network Toolbox 6, Users Guide. H. Demuth, M. Beale, M.
Hagan. The MathWorks, Inc. 19922009.

Neural Network Design: Martin T. Hagan, Howard B. Demuth, Mark
Beale China Machine Press and CITIC Publishing House,
Beale. House 2002.
2002

IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 14 IFPA Eng. de Controle e Automao Redes Neurais Artificiais - Prof. Raimundo Nonato Machado, Selma Cristina Freire 16