TOP-I: Tpicos em Computao I - 2008/1 o ca

18/04/08

Aula 15: Redes Neurais Articiais: Conceitos Bsicos 2 a

Professor: Marcos Leone Filho http://leone.homelinux.net

Nesta aula, introduziremos os conceitos que nos daro condies de entender como a co surgiu o modelo matemtico de uma Rede Neural Articial (RNA) e os mecanismos que a a torna capaz de aprender e sintetizar conhecimento.

15.1

As Redes Neurais Articiais

Uma RNA pode ser denida como sendo uma estrutura de processamento (rede), pass de implementao em dispositivos eletrnicos, composta por um nmero de univel ca o u dades interconectadas (neurnios articiais), sendo que cada unidade apresenta um como portamento espec co de entrada/sa (computao local), determinado pela sua funo da ca ca de transferncia, pelas interconexes com outras unidades e possivelmente pelas entradas e o externas. Uma rede neural articial um circuito composto por uma grande quantidade de e unidades simples de processamento inspiradas no sistema neural. Uma RNA um sistema e massivamente paralelo e distribu do, composto por unidades de processamento simples que possuem uma capacidade natural de armazenar e utilizar conhecimento (HAYKIN, 2000). As RNAs apresentam diversas caracter sticas em comum com o sistema nervoso: O processamento bsico de informao ocorre em diversas unidades simples denoa ca minadas de neur^nios artificiais ou simplesmente neurnios (ou ns); o o o Os neurnios esto interconectados gerando redes de neurnios, ou redes neurais; o a o A informao (sinais) transmitida entre neurnios atravs de conexes ou sinapses; ca e o e o A ecincia de uma sinapse, representada por um peso associado, corresponde ` e a informao armazenada pelo neurnio e, portanto, pela rede neural; ca o

 O conhecimento adquirido do ambiente atravs de um processo de aprendizagem e e que , basicamente, responsvel por adaptar os pesos das conexes aos est e a o mulos recebidos do ambiente. Uma caracter stica importante das RNAs o local onde o conhecimento est armae a zenado. Nos casos mais simples, este conhecimento armazenado nos pesos das conexes e o entre neurnios. Esta caracter o stica tem grandes implicaes para a capacidade de proco cessamento e aprendizagem da rede. A representao de conhecimento feita de forma ca e que o conhecimento necessariamente inuencie a forma de processamento da rede, ou seja, o seu comportamento de entrada-sa da. Observao 15.1.1. ca Se o conhecimento est armazenado nos pesos das conexes, ento o processo de aprena o a dizagem corresponde a identicar um conjunto apropriado de pesos de forma que a rede se comporte como desejado. Esta caracter stica possui duas implicaes importantes para as RNAs: co a possibilidade de desenvolvimento de tcnicas de aprendizagem; e a representa~o distribuda de conhecimento. ca Existem tipos de redes neurais cujo treinamento (ou projeto) mais complicado e do que a simples determinao de conjuntos apropriados de pesos sinpticos. Uma rede ca a neural articial pode ser projetada atravs de: e 1. Uma denio ou escolha de um conjunto de neurnios articiais; ca o 2. A denio ou escolha de um padro de conectividade entre os neurnios, ou seja, ca a o de uma arquitetura para a rede; 3. A denio de um mtodo de determinao dos parmetros livres da rede, denomica e ca a nado de algoritmo de aprendizagem ou treinamento. Embora seja poss projetar uma rede neural a partir da denio do papel (comvel ca putao global) que ela deve desempenhar, combinando-se os efeitos individuais de todos ca 2

os neurnios, uma rede neural usualmente se adapta para atingir a funcionalidade deo sejada a partir de uma ou mais estratgias de aprendizado, as quais vo atuar junto a e a parmetros congurveis da rede neural. a a E fundamental, portanto, que a rede neural possua meios de interagir com o ambiente.Assim, cada rede neural articial representa uma arquitetura de processamento espec ca, havendo uma fam de arquiteturas, cada qual adequada para funcionalilia dades espec cas. A diversidade de arquiteturas tem aumentado muito, sendo que as ultimas geraes de redes neurais j no podem ser caracterizadas por apresentarem um co a a grande nmero de unidades e conexes, com funes de transferncia simples e idnticas u o co e e para todas as unidades.

15.2

Modelo Matemtico de um Neurnio a o

No neurnio biolgico, os sinais de entrada chegam atravs de canais localizados o o e nas sinapses, permitindo a entrada e sa de da ons. Um potencial de membrana aparece como resultado da integrao dos sinais de entrada, que iro determinar se o neurnio ca a o ir produzir um sinal de sa (spike, pulso, ou potencial de ao) ou no. O potencial a da ca a de ao resulta na liberao de neurotransmissores na sinapse sempre que o potencial de ca ca membrana for superior a um determinado limiar (threshold). O efeito l quido de todos estes processos biolgicos que ocorrem nas sinapses o e representado por um peso associado. Desta forma, o elemento computacional bsico a empregado na maioria das RNAs um integrador. Trata-se de um elemento processador e de informaes que fundamental para a operao das RNAs. co e ca As principais partes do neurnio articial genrico so: o e a as sinapses, caracterizadas pelos seus pesos associados; a juno somadora; ca a funo de ativao. ca ca A gura 1 mostra uma representao diagramtica de um neurnio computacional ca a o Nesta representao, o primeiro subscrito k do peso sinptico wkj corresponde ao ca a neurnio ps-sinptico, e o segundo subscrito corresponde ` sinapse ligada a ele. A o o a a 3

Figura 1: Modelo genrico de um neurnio articial e o juno somadora soma todos os sinais de entrada ponderados pelos pesos das conexes. ca o Considerando os vetores de entrada e de pesos como sendo vetores coluna, esta operao ca corresponde ao produto interno do vetor de entradas x pelo vetor de pesos wk , mais o limiar bk . Genericamente, trata-se de uma combinao linear das entradas pelos pesos ca associados, mais o limiar bk . A funo de ativao geralmente utilizada com dois ca ca e propsitos: limitar a sa do neurnio e introduzir no-linearidade no modelo. O limiar o da o a bk tem o papel de aumentar ou diminuir a inuncia do valor da entrada l e quida para a ativao do neurnio k. Matematicamente, a sa do neurnio k pode ser descrita por: ca o da o
m

yk = f (uk ) = f
j=1

wkj xj + bk

(15.1)

ou
m

yk = f (uk ) = f
j=0

wkj xj

(15.2)

onde x0 um sinal de entrada de valor 1 e peso associado wk0 = bk . e A gura 2 mostra dois exemplos de funo de ativao. Teoricamente, poss ca ca e vel usar qualquer tipo de funo de ativao nos neurnios articiais. Entretanto, as funes ca ca o co que do os melhores resultados em termos de aprendizado so aquelas que tm a forma a a e de um degrau (como a funo (a) da gura 2). ca

Figura 2: Exemplos de funes de transferncia. co e

Referncias e
HAYKIN, S. Redes neurais - Princpios e prtica. [S.l.]: Bookman, 2000. 900 p. ISBN a 8573077182.