Rede Não Supervisionada

Self Organizing Map -

Kohonen

André Luis Pelisoli 915217

Daniel Rodrigues Martins 925233
Dênis Marcel Fernandes 925225
Rede Neural Biológica (RNB)

A rede neural biológica (RNB)

é formada por milhões de
neurônios. O neurônio consiste
de um corpo celular (soma) com
infinitas ramificações
denominadas dentrinos há uma
longa fibra denominada axônio
se ramificando e filamentos e
subfilamentos o qual se
 Uma rede cerebral é, conectam
portanto , um dispositivo
com dendritosgeral de de
processamento. A função que a rede cerebral computa é
outros
determinada pelo padrão corpos
de conexões, celulares
ou seja, o análogo deassim
formando
um programa de computador uma em
baseado imensa rede de
algoritmos
totalmente desconhecidos, que
comunicação. são naturalmente
Rede Neural Artificial (RNA)

A rede neural artificial (RNA) simula de forma matematicamente e lógica o

funcionamento de um neurônio humano.
Em 1943 foi proposto por McCulloch e Pitts um modelo matemático com n
terminais de entrada X1,...,Xn representava os dendritos, com apenas um
terminal de saída y representando os axônios.
(RNB) X (RNA)

Comparação entre o cérebro humano e

as redes neurais artificiais.
Clique para editar os estilos do texto mestre
Segundo nível
● Terceiro nível

● Quarto nível

● Quinto nível
História

Em 1942, McCulloch (psiquiatra e neuroanatomista) e Pitts (matemático):

foram os iniciantes do estudo das redes neurais, interpretaram o neurônio
natural como sendo entradas binárias por somas ponderadas, produzindo
uma entrada efetiva.

● Em 1982 á 1983, surgiu uns dos desenvolvimento mais importante

que marco a era neurocomputacional dos anos 80, as redes
Kohonen (Mapas Auto-organizáveis) que era baseado em modelos
unidimensionais ou bidimensionais o qual motivaram futuras
implementações e pesquisas na área.

● A partir dos anos 90 surgi à tendência dos novos neurociêntistas

intensificarem seus esforços para obterem mais próximo ao
nerônio biológico.
Aprendizado Não Supervisionado

As duas formas básicas de aprendizagem que são: aprendizagem

através de um tutor (aprendizado supervisionado) e o aprendizado sem
um tutor (aprendizado não-supervisionado).
 
Com base no estudo das redes Kohonen, explicitaremos apenas
aprendizado não supervisionado.
 
“Na aprendizagem não supervisionada ou auto-organizada, não há
um professor externo ou um crítico para supervisionar o processo de
aprendizado. Em vez disso, são dado condições para realizar uma medida
independente da tarefa da qualidade de representação que a rede deve
aprender, e os parâmetros livres da rede são otimizados em relação a
esta medida” (HAYKIN, 2001, Ed. 2, p. 91).
Aprendizado Competitivo

Os neurônios competem entre si para serem ativados. Em

uma rede neural artificial baseado em aprendizado competitivo
somente um único neurônio é ativo a qualquer tempo. Fazendo
com que o aprendizado competitivo altamente apropriado para
descobrir características estatisticamente salientes que podem ser
usadas para classificar um conjunto de padrões de entrada.
Na forma mais simples:

• A rede possui uma única

camada de neurônio de saída.
• Pode incluir conexões de
realimentação entre os
neurônios.
• A conexão de realimentação
desempenha inibição lateral, em
que cada neurônio ao qual está
Rede Kohonen - Introdução

Criado por Teuvo Kohonen em 1982

Utiliza os conceitos de rede não supervisionada

Baseia-se na forma em que nosso cérebro

aprende

Neurônios auto-organizáveis
Aprendizagem padrão ou seqüencial
Algoritmo

 A rede possui duas

camadas
interconectadas.
São elas a camada
de entrada e a de
saída.

 Cada entrada é
conectada a todos
os neurônios da
camada de saída.

 Inicialmente são
atribuídos pesos
 Fases do Algoritmo de aprendizagem

 Competitiva
 Cooperativa
 Adaptativa

Fase Competitiva

 A partir de um padrão de estímulos, ocorre

uma competição entre os neurônios.
 Utiliza a técnica do winner-takes-all

 Em toda competição há um vencedor.

 Vencedor nesse caso é o neurônio que

melhor responde a determinado estímulo.
Representaríamos o neurônios no Rn, sendo que
sua posição é determinada por cada peso
sinápticos.

O estimulo seria representado também neste

plano.

E através da distância Euclidiana poderia se

encontrar o neurônio que está mais perto de X.

Esse seria o vencedor.

Fase Cooperativa

 Um neurônio excitado por um estímulo

trabalha em cooperação com seus neurônios
vizinhos.
 Os pesos dos neurônios acerca do neurônio
vencedor devem ser ajustados.
 A equação do fator de ajuste da vizinhança
topológica é dada por:

hj,i = e (−d2i,j /2*δ2)

 d é a distância lateral.
 δ é o raio da vizinhança topológica.
 i é o neurônio vencedor.
 j os neurônios vizinhos.
A equação do raio da vizinhança topológica é dada
por
δ ( t ) = δ0.e(-t/ τ)
t é o tempo
τ é uma constante que representa o período onde o aprendizado é mais intenso

Com o passar do tempo, menor é o raio da vizinhança topológica,

pois regiões menores ficam especializadas em determinado padrão.
Fase adaptativa

 Nesta fase é feita o reajuste

dos pesos sinápticos dos
neurônios da rede

 O reajuste de cada peso é

dado por uma função
matemática que leva em
conta a região estimulada e
o nível de aprendizagem da
 Não se aprende todo o conteudo oferecido

 Mecanismo de defesa, pois se aprendêssemos

tudo, a rede esqueceria o que lhe foi ensinado
anteriormente

 Para isso o fator de aprendizagem (ƞ (t) ) é

importante e é dado pela equação

ƞ (t) = ƞ0 . e(-T/τ)
 T é o tempo
 τ é uma constante que representa o período
onde o aprendizado é mais intenso

oFinalmente a equação de ajuste dos pesos

sinápticos
Conclusão - Algoritmo

Com essas três fases concluídas é possível

fazer com que uma rede tenha aprendido um
novo conceito.

Esse algoritmo é repetido até que a rede tenha

realizado seu aprendizado do domínio
desejado.
Onde aAplicações
Rede Kohonen
Redepode Atuar?
Kohonen

 Classificação de imagem e de padrões

acústicos.
 Robótica: Controles adaptativos de robôs.
 Militar: Defesa no reconhecimento
automático de alvos, orientação e controle.
 Medicina: Diagnose médica, análise de
imagens, classificação de doenças.
 Veículos: Controladores de automóveis,
aviões, trens, barcos.
 Polícia: Investigação na detecção criminal a
partir da fala, escrita manual em impressões
digitais, fotografias.
 Meio-Ambiente: Estudo e estimativa de
recursos naturais na agricultura,
Reconhecimento Óptico de Letras

Aplicativo feito na plataforma Java.

Possuí um vetor de entrada cujo o tamanho é

35.

Possuí 26 neurônios de saída ( todas as letras

do alfabeto).

A rede possui somente 2 camadas ( entrada e

saída )
Funcionamento

Clique para editar os estilos do texto mestre

Segundo nível
● Terceiro nível

● Quarto nível

● Quinto nível
Funcionamento

Clique para editar os estilos do texto mestre

Segundo nível
● Terceiro nível

● Quarto nível

● Quinto nível
Funcionamento

Clique para editar os estilos do texto mestre

Segundo nível
● Terceiro nível

● Quarto nível

● Quinto nível
Exemplos em outras Áreas

Reconhecimento Facial
Exemplos em outras Áreas

Mineração de Dados ( Data Mining)

Exemplo em outras Áreas

Reconhecimento de Voz
Referências

ftp://ftp.dca.fee.unicamp.br/pub/docs/vonzuben/ia353_03
http://www.inf.ufpr.br/aurora/tutoriais/kohonen.pdf
http://www.cin.ufpe.br/~dss2/Imprimir/Aula-Kohonen.pdf
http://www.youtube.com/watch?v=_5K3MgBQi2w