Escolar Documentos
Profissional Documentos
Cultura Documentos
Rna C1 PDF
Rna C1 PDF
Rna C1 PDF
Captulo 1
Introduo
As Redes Neurais Artificiais (RNAs), objeto de nosso estudo, tm a analogia
neurobiolgica como fonte de inspirao.
Receptores
Rede
Neural
Cerebral
Resposta
Atuadores
-1-
-2-
Figura 2: Neurnios do sistema nervoso central dos vertebrados: (a) Neurnio motor da
clula espinhal; (b) Clula de Purkinje encontrada no cerebelo. Esta clula notvel pela
extensa ramificao da sua rvore dendrital, da qual apenas uma pequena parte mostrada
na figura, podendo ultrapassar vrias dezenas de vezes as dimenses do corpo celular.
O neurnio biolgico basicamente o dispositivo computacional elementar do
sistema nervoso, que possui entradas - muitas entradas - e uma sada. As entradas ocorrem
atravs das conexes sinpticas, que conectam a rvore dendrital aos axnios de outras
clulas nervosas. Os sinais que chegam dos axnios de outras clulas nervosas so pulsos
eltricos conhecidos como impulsos nervosos ou potenciais de ao e constituem a
informao que o neurnio processar de alguma forma para produzir como sada um
impulso nervoso no seu axnio. As sinapses so regies eletroquimicamente ativas,
compreendidas entre duas membranas celulares: a membrana pr-sinptica (por onde chega
um estmulo proveniente de uma outra clula) e a membrana ps-sinptica (que a do
dendrito). Nesta regio intersinptica, o estmulo nervoso que chega sinapse transferido
membrana dendrital atravs de susbstncias conhecidas como neurotransmissores. O
resultado desta transferncia uma alterao no potencial eltrico da membrana pssinptica. Dependendo do tipo de neurotransmissor, a conexo sinptica ser excitatria ou
inibitria. Uma conexo excitatria provoca uma alterao no potencial da membrana que
contribui para a formao de um impulso nervoso no axnio de sada, enquanto que uma
-3-
conexo inibitria age no sentido oposto. Uma sinapse pode impor excitao ou inibio
(uma ou outra) sobre o neurnio receptivo.
A maioria dos neurnios codifica suas sadas como uma srie de breves pulsos de
tenso. Esses pulsos, conhecidos como potenciais de ativao, originam-se no prprio
corpo celular do neurnio (ou prximo a ele) e ento se propagam atravs dos neurnios
individuais velocidade e amplitude constantes.
No crebro h organizaes anatmicas em pequena escala e grande escala, e
diferentes funes acontecem em nveis inferiores e superiores. A Figura 3 mostra tais
nveis entrelaados de organizao. As sinapses representam o nvel mais fundamental,
dependendo de molculas e ons para sua atuao. Nos prximos nveis temos
microcircuitos neurais, rvores de dendritos e, ento, neurnios. Um microcircuito neural se
refere a um agrupamento de sinapses organizadas em padres de conectividade para
produzir uma operao funcional de interesse. Um microcircuito neural pode ser
comparado a um chip de silcio feito do agrupamento de transstores. Os microcircuitos
neurais so agrupados para formar subunidades dendrticas dentro das rvores dendrticas
de neurnios individuais. O neurnio contm vrias subunidades dendrticas. No prximo
nvel de complexidade temos os circuitos locais feitos de neurnios com propriedades
similares ou diferentes; estes agrupamentos de neurnios desempenham operaes
caractersticas de uma regio localizada no crebro. Isto seguido pelos circuitos
interregionais feitos de caminhos, colunas e mapas topogrficos, que envolvem regies
localizadas em diferentes partes do crebro. Estes mapas topogrficos so organizados para
responder a informaes sensoriais que chegam. Estes mapas so freqentemente
arranjados em placas que so empilhadas em camadas adjacentes, de forma que estmulos
vindos de pontos correspondentes no espao esto acima ou abaixo de outros (exemplo:
mapas visuais e auditivos esto empilhados em camadas adjacentes). No nvel final de
complexidade, os mapas topogrficos e outros circuitos interregionais mediam especficos
tipos de comportamento no sistema nervoso central.
-4-
prximos anos este ramo da cincia seja um estudo muito mais sofisticado do que
atualmente.
-5-
-6-
-7-
paralela
pesadamente
distribuda
sua
habilidade
de
aprender
e,
conseqentemente, generalizar.
Algumas caractersticas relevantes das Redes Neurais Artificiais so descritas por
Simon Haykin em Adaptive Filter Theory e Neural Networks e aqui citadas:
-8-
-9-
Adaptatividade.
As RNAs so ferramentas extremamente flexveis em um ambiente dinmico. Elas tm
a capacidade de aprender rapidamente padres complexos e tendncias presentes nos
dados e de se adaptar rapidamente s mudanas, caractersticas estas que so
extremamente desejveis em uma ampla gama de aplicaes. As RNAs tm a
capacidade de adaptar seus pesos sinpticos a mudanas no ambiente em que est
inserida. Uma RNA treinada para operar em um ambiente especfico pode ser
facilmente retreinada para tratar com pequenas mudanas nas condies operacionais
do ambiente. Quando operando em um ambiente no-estacionrio (onde a estatstica do
processo muda com o tempo) uma RNA pode ser projetada para mudar seus pesos
sinpticos em tempo real.
Generalizao.
Capacidade que permite s RNAs um desempenho satisfatrio (produzir sadas
adequadas) em resposta a dados desconhecidos (no pertencentes ao conjunto de
treino, mas que estejam em sua vizinhana).
- 10 -
Tolerncia a falhas.
Caracterstica que permite rede continuar a apresentar resultados aceitveis no caso
de falha de alguns neurnios (unidades computacionais bsicas das redes neurais
artificiais). O projeto de uma RNA motivado pela analogia com o crebro, que a
prova viva de que a tolerncia a falhas no processamento paralelo no apenas
fisicamente possvel, quanto rpida e poderosa. (Neurobiologistas utilizam RNAs como
ferramentas de pesquisa para a interpretao de fenmenos neurobiolgicos e
engenheiros estudam neurobiologia em busca de novas idias para resolver problemas
complexos).
Informao contextual.
O conhecimento representado pela prpria estrutura da RNA e pelo seu estado de
ativao. Cada neurnio da rede potencialmente afetado pela atividade global de
todos os outros neurnios na rede. Conseqentemente, informao contextual tratada
com naturalidade pelas RNAs.
Possibilidade da implementao em VLSI.
Esta caracterstica permite considerar elevado grau de paralelismo no projeto da rede.
A natureza fortemente paralela das RNAs as tornam potencialmente rpidas para
computar determinadas tarefas. Esta mesma caracterstica possibilita que sejam
implementadas usando tecnologia VLSI (very-large-scale-integrated).
- 11 -
- 12 -
(1.1)
y = u k + bk
k
(1.2)
onde:
() a funo de ativao e
y k o sinal de sada do neurnio.
O uso da polarizao ou bias tem o efeito de aplicar uma transformao sada u k
do combinador linear, conforme
v k = u k + bk
(1.3)
- 13 -
(1.4)
( )
y k = vk
(1.5)
- 14 -
(1.6)
- 15 -
(1.7)
m
v k = w x + bk
kj j
j =1
(1.8)
Figura 8: (a) Funo Threshold, (b) Funo Piecewise-linear, (c) Funo Sigmoide.
- 16 -
(v ) = v
se v + 1
2
1
se + > v > 1
2
2
1
se v
2
(1.9)
onde o fator de amplificao dentro a regio linear de operao assumido unitrio. Esta
funo de ativao pode ser vista como uma aproximao de uma amplificao no-linear.
Duas situaes podem ser vistas como formas especiais da funo Piecewise-linear:
Um combinador linear (se a regio linear de operao no saturar);
A funo Piecewise-linear se reduz a uma funo Threshold se o fator de amplificao da
regio linear for feito infinitamente grande.
(c) Funo Sigmoide
Este tipo de funo de ativao cujo grfico se assemelha a uma curva em "S", a
forma de funo de ativao mais utilizada na construo de RNAs. A funo, mostrada na
Figura 8 (c), definida como uma funo estritamente crescente que exibe um interessante
balano entre o comportamento linear e o comportamento no-linear. Um exemplo de
funo sigmoidal a funo logstica, definida por
(v ) =
1
1 + exp( av )
(1.10)
- 17 -
se v > 0
se v = 0
se v < 0
(1.11)
(v ) = tanh (v )
(1.12)
- 18 -
- 19 -
- 20 -
Figura 10: Rede progressiva formada por uma nica camada de neurnios (representada
com quatro ns na camada de entrada e quatro neurnios na camada de sada).
- 21 -
Figura 11: Rede progressiva multicamadas completamente conectada, formada por uma
nica camada escondida de neurnios e uma nica camada de sada (representada com 10
ns fonte na camada de entrada, 4 neurnios escondidos e 2 neurnios na camada de sada).
- 22 -
Redes Recorrentes:
Uma rede neural recorrente difere de uma rede neural progressiva (feedforward),
pelo fato de possuir pelo menos um loop de realimentao (feedback loop).
Por exemplo, uma rede recorrente pode consistir de uma nica camada de
neurnios, em que cada neurnio alimenta seu sinal de sada de volta para as entradas de
todos os outros neurnios, conforme ilustra a Figura 12.
J a Figura 13 ilustra uma rede recorrente em que h uma camada de neurnios
escondidos e em que as conexes de realimetao so originadas tantos dos neurnios
escondidos, quanto dos neurnios de sada.
A presena de loops de realimentao em estruturas recorrentes tem um grande impacto
na capacidade de aprendizagem da rede e em seu desempenho.
- 23 -
- 24 -