Você está na página 1de 67

Redes Neuronales Artificiales

Qu es una Red Neuronal Artificial?


Las redes neuronales artificiales (RNA) presentan
una alternativa computacional para la solucin de
algunos problemas.

Redes Neuronales Artificiales

Las redes neuronales son modelos del proceso


cognoscitivo del cerebro (Blum).
Un sistema de computacin hecho por un gran
nmero de elementos simples, elementos de proceso
muy
interconectados,
los
cuales
procesan
informacin por medio de su estado dinmico como
respuesta a entradas externas. (Hecht-Niesen).
2

Coleccin de procesadores paralelos conectados


entre s en la forma de Grafo dirigido (Freeman).

Redes Neuronales Artificiales

Una RNA es un sistema procesador de informacin


con caractersticas de desempeo similares a las
redes neuronales biolgicas.
Las RNA son elementos (usualmente adaptativos)
interconectados masivamente en paralelo y con
organizacin jerrquica, los cuales interactuan con
objetos del mundo real del mismo modo que lo hace
el sistema nervioso biolgico. (Kohonen).
3

Una RNA ha sido desarrollada como la generalizacin de


modelos matemticos del conocimiento humano o biologa
neuronal, basada en los siguientes acepciones:

Redes Neuronales Artificiales

El procesamiento de informacin ocurre en elementos


sencillos llamados neuronas.
Las neuronas se transmiten seales a travs de conexiones.
Cada liga de conexin esta asociada con un peso, el cual, en
tpicas redes neuronales, multiplica la seal transmitida.
En cada neurona se aplica una funcin de activacin
(usualmente no lineal) a las entradas (suma ponderada de
entradas por los pesos).
4

Redes Neuronales Artificiales

Las RNA son redes constituidas por muchas unidades


de proceso llamadas neuronas, las cuales se hallan
interconectadas para trasladar informacin entre
ellas.
Las RNA son modelos de las redes neuronales
biolgicas.
Las RNA (Artificial Neural Networks -ANNs-) son
una simulacin abstracta de los sistemas nerviosos
biolgicos, se forman por un conjunto de unidades
llamadas "neuronas" o "nodos" conectadas unas con
otras.
5

Por qu una RNA?


El cerebro humano es mucho ms lento que un
microprocesador y, sin embargo, es capaz de realizar ciertas
tareas de forma ms eficiente que cualquier ordenador.

Redes Neuronales Artificiales

Visin,
Toma de decisiones,

Reconocimiento,
Control,....

La potencia de cculo tiene relacin con las


siguientes caractersticas:
Complejidad,
No linealidad,
Paralelismo,
Aprendizaje,...
6

Redes Neuronales Artificiales

Una RNA es una estructura de computacin masiva


y paralela compuesta por unidades no lineales
individuales (neuronas) en la cual el conocimiento:
Se establece mediante un proceso de aprendizaje.
Se almacena en las conexiones (pesos o sinapsis)
entre neuronas.

Proceso clsico/RNA

Proceso clsico

Redes Neuronales Artificiales

Datos

Validacin
Modelo

- Clasificacin
- Prediccin
- Reconocimiento,...

Construccin
Datos

Modelo

Proceso clsico/RNA
Cmputo convencional
Mquina
von Neuman

C PU

M em oria

]Tomar una instruccin de memoria.

Redes Neuronales Artificiales

]Tomar datos de memoria requeridos por la


instruccin.
]Ejecutar la instruccin (procesar los datos).
]Almacenar resultados.
]Regresar al paso#1.

Qu limitaciones tiene este esquema?, qu


problemas no podran ser resueltos as?
9

Proceso clsico/RNA
Proceso con RNA
Test
Datos

- Clasificacin
- Prediccin

Redes Neuronales Artificiales

Entrenamiento
Datos

- Reconocimiento,...
Aprendizaje
RNA

La red neuronal extrae directamente de los datos


la informacion para resolver el problema!
10

Proceso clsico/RNA

Procesamiento
de informacin

Redes Neuronales Artificiales

neurona

x1

w1

x2

w2

a F(a)

a = x1*w1 + x2*w2;
y = F(a);
11

Definiciones

Redes Neuronales Artificiales

Una RNA es un conjunto de nodos ordenados adaptables los


cuales, a travs de un proceso de aprendizaje mediante
ejemplos prototipo, almacenan conocimiento de tipo
experiencial y lo hacen disponible para su uso. [An
Introduction to Neural Computing. Igor Aleksander and
Helen Morton]
Una RNA es un ensamble de elementos procesadores simples
y adaptables, cuya funcionalidad est burdamente basada en
una neurona animal. La habilidad de procesamiento de la red
est almacenada en la intensidad de las conexiones entre
elementos, obtenidos por un proceso de adaptacin a un
conjunto de patrones de entrenamiento
12

Redes Neuronales Artificiales

Las conexiones de las RNA tienen una gran


semejanza con las dendrtas y los axones en los
sistemas nerviosos biolgicos.
El campo de las RNA, como otros, ha tenido un
rpido desarrollo al hacer nfasis a la inspiracin
biolgica para la solucin a algunos problemas.
El paralelismo masivo y la interconectividad que se
observa en los sistemas biolgicos complejos son las
causas de la capacidad del cerebro para llevar a cabo
complejos reconocimientos de tramas en poco tiempo.
13

Redes Neuronales Artificiales

La arquitectura del cerebro humano se presenta


significativamente distinta a la forma de un
computador convencional.
Se estima que el cerebro humano (sistema nervioso
humano) contiene ms de cien mil millones (1011) de
neuronas y 1014 sinpsis (una neurona se comunica
hasta con 1000 neuronas).
Aunque el tiempo de conmutacin de la neurona
(unos pocos milisegundos) es casi un milln de veces
menor que en las actuales elementos de los
computadores ellas tienen conectividad miles de veces
superior que los actuales supercomputadores.
14

Redes Neuronales Artificiales

El objetivo principal de de las redes neuronales de


tipo biolgico es desarrollar un elemento sinttico
para verificar las hiptesis que conciernen a los
sistemas biolgicos.
Las neuronas y las conexiones entre ellas
(sinpsis) constituyen la clave para el proceso de
la informacin.

15

Bases biolgicas

El cerebro es un sistema super complejo.

Redes Neuronales Artificiales

El tamao de una neurona biolgica es de


aproximadamente
un
tamao
de
5-100
micrmetros.
El cerebro es el dispositivo de computo ms
poderoso que existe.
Le ha tomado a la naturaleza 4.000 millones de aos
desarrollarlo.
16

Redes Neuronales Artificiales

Neurona biolgica

17

Redes Neuronales Artificiales

NEURONA

18

Neurona biolgica
En la neurona biolgica se pueden tomar
sus tres partes ms principales:
Q 1. El cuerpo de la neurona.
Q 2. Ramas de extensin llamadas dendrtas.
Q 3. Un axn que lleva la salida de la
neurona a las dendritas de otras neuronas.

Redes Neuronales Artificiales

19

Neurona biolgica
Q

Redes Neuronales Artificiales

La forma que dos neuronas interactuan no est


totalmente conocida, dependiendo adems de
cada neurona.
En general, una neurona enva su salida a otras
por su axn.
El axn lleva la informacin por medio de
diferencias de potencial, u ondas de corriente,
que depende del potencial de la neurona.

20

Neurona biolgica
Q

Redes Neuronales Artificiales

La neurona recoge las seales por su sinapsis


sumando todas las influencias excitadoras e
inhibidoras.
Si las influencias excitadoras positivas dominan,
entonces la neurona da una seal positiva y
manda este mensaje a otras neuronas por sus
sinapsis de salida.
En este sentido la neurona puede ser modelada
como una simple funcin f(.).
21

Redes Neuronales Artificiales

Neurona biolgica
Las DENDRITAS recogen seales procedentes de
otras neuronas, por estmulos del mundo externo o
interno y las transmiten al cuerpo de la neurona.
El CUERPO de la neurona recibe las seales de todas
las dendritas y segn la tipologa de la neurona en si,
determina una respuesta.
El AXON de la neurona transmite la respuesta
generada por el cuerpo de la neurona a otras
neuronas o a algn miembro receptor (msculo,
nervio,...).
22

Redes Neuronales Artificiales

Neurona biolgica
Una neurona es una clula viva y, como tal, contiene
los mismos elementos que forman parte de todas las
clulas biolgicas.
El axn posee ramas en su extremo para tener
conexin con mayor nmero de neuronas.
El axn se ramifica en filamentos y subfilamentos,
mediante los cuales establece conexin con otras
neuronas.
La caracterstica principal que diferencian a las
neuronas del resto de las clulas vivas, es su
capacidad de comunicarse.
23

Redes Neuronales Artificiales

Una red neuronal

24

Redes Neuronales Artificiales

Sinapsis

25

26

Redes Neuronales Artificiales

Neurona biolgica
Q

Redes Neuronales Artificiales

Q
Q

La SINAPSIS de la neurona es el punto de unin


entre dos neuronas (dendrita - axn).
Cada neurona establece sinapsis desde una docena
hasta con cientos de miles de otras neuronas.
No es un elemento especial de la neurona.
El impulso (seal) que proviene del axn se
transmite a otras neuronas, determinando el
comportamiento general de la red neuronal.

27

Modelo Biolgico

Redes Neuronales Artificiales

El proceso de comunicacin entre las neuronas se


realizan en trminos generales de la siguiente
manera: las dendritas y el cuerpo celular reciben
seales de entrada; el cuerpo celular las combina
e integra y emite seales de salida.
El axn transporta esas seales a los terminales
axnicos, que se encargan de distribuir
informacin a un nuevo conjunto de neuronas.

28

Aprendizaje en el cerebro
Q

Redes Neuronales Artificiales

Las seales se propagan de neurona a neurona


mediante
una
complicada
reaccin
electroqumica.
Las sinapsis liberan sustancias qumicas Tx y
entran a las dendrita con lo cual se activa el
potencial del cuerpo de la clula.
Cuando el cuerpo rebasa cierto limite, se envia al
axn un impulso elctrico (potencial de accin), el
cual se difunde a travs de las ramas del axn, y
finalmente llega a la sinapsis y libera Tx en los
cuerpos de otras clulas.
29

Redes Neuronales Artificiales

Quizs el descubrimiento mas grande es que las


conexiones sinapticas muestran plasticidad:
alteraciones a largo plazo de la intensidad de las
conexiones como respuesta al patrn de
estimulacin.
Las neuronas establecen tambin conexiones con
otras neuronas, y en ocasiones, con grupos
completos de neuronas capaces de migrar de un
sitio a otro.
30

Modelo Biolgico

Redes Neuronales Artificiales

Por lo general, una neurona recibe informacin de


miles de otras neuronas y, a su vez, enva
informacin a miles de neuronas ms.
Las seales que utilizan las neuronas son de
naturaleza elctrica y qumica.

31

Redes Neuronales Artificiales

Naturaleza bioelctrica
La seal generada por la neurona y transportada a lo largo
del axn es un impulso elctrico, mientras que la seal que se
transmite entre los terminales axnicos de una neurona y las
dendritas de la neuronas siguientes es de origen qumico;
concretamente, se realiza mediante molculas de sustancias
transmisoras (neurotransmisores) que fluyen a travs de unos
contactos especiales, llamados sinapsis, que tienen la funcin
de receptor y estn localizados entre los terminales axnicos y
las dendritas de la neurona siguiente (espacio sinptico, entre
50 y 200 Angstroms).

32

Seal elctrica

Redes Neuronales Artificiales

La membrana de la neurona separa el plasma


intracelular del fluido intesticial que se encuentra
fuera de la clula.
La membrana es permeable para ciertas especies
inicas, y acta de tal forma que se mantenga una
diferencia de potencial entre el fluido intracelular
y el fluido extracelular.
La diferencia ms notable se da en relacin con la
concentracin de los iones sodio y potasio.
33

Redes Neuronales Artificiales

El medio externo es unas 10 veces ms rico en


sodio que el interno, mientras que el medio
interno es unas 10 veces ms rico en potasio que
el externo.
Esta diferencia de concentracin en iones sodio y
potasio a cada lado de al membrana produce una
diferencia de potencial de aproximadamente 70
milivoltios, negativa en el interior de la clula. Es
lo que se llama potencial de reposo de la clula
nerviosa.
34

Redes Neuronales Artificiales

La llegada de seales procedentes de otras


neuronas a travs de las dendritas (recepcin de
neurotransmisores) acta acumulativamente,
bajando ligeramente el valor del potencial de
reposo.
El potencial modifica la permeabilidad de la
membrana, de manera que cuando llega a cierto
valor crtico comienza una entrada masiva de
iones sodio que invierten la polaridad de la
membrana.
35

Redes Neuronales Artificiales

La inversin del voltaje de la cara interior de la


membrana cierra el paso a los iones sodio y abre
el paso a los iones potasio hasta que se restablece
el equilibrio en reposo.
La inversin del voltaje, conocida como potencial
de accin, se propaga a lo largo del axn y, a su
vez, provoca la emisin de los neurotransmisores
en los terminales axnicos.

36

Redes Neuronales Artificiales

Despus de un pequeo periodo refractario,


puede seguir un segundo impulso.
El resultado de todo esto es la emisin por parte
de la neurona de trenes de impulsos cuya
frecuencia vara en funcin (entre otros factores)
de la cantidad de neurotransmisores recibidos.

37

Seal qumica

Redes Neuronales Artificiales

La accin qumica que se produce en los receptores da


lugar a cambios de permeabilidad de la membrana
postsinptica para ciertas especias inicas.
Existen dos tipos de efectos locales en la sinapsis:
a) el efecto excitador, cuyos neurotransmisores
provocan disminuciones de potencial en la membrana
de la clula postsinptica, facilitando la generacin de
impulsos a mayor velocidad
b) el efecto inhibidor, cuyos neurotransmisores tienden
a estabilizar el potencial de la membrana, dificultando
la emisin de impulsos.
38

Redes Neuronales Artificiales

Estos dos efectos actan solo a lo largo de una


pequea distancia hacia el interior de la clula; se
suman en el montculo del axn; la suma de los
efectos excitadores e inhibidores determina si la
clula ser o no estimulada; es decir, si emitir o no
un tren de impulsos y a qu velocidad.

39

Neurona artificial

Redes Neuronales Artificiales

Bajo estas consideraciones se llega al modelo de una


neurona artificial.

40

Neurona artificial

Redes Neuronales Artificiales

Xj

Conexiones
de entrada

Yi=g(ini)
Wj,i
ini

Funcin de
entrada

Funcin de
activacin

Yi

Conexiones
de salida

Salida

41

Redes Neuronales Artificiales

Neurona artificial

Unidades nodos
Conexiones
Pesos
Nivel de activacin
Funcin de activacin
Salida

Neurona artificial
0.4

Valores aj

0.3

0.8234

Redes Neuronales Artificiales

0.15
Atributo

Valor Valnor

Edad
No. Rec.
Repar
Clima
Cochera
Terreno
Construc.
Sector 3

20
0.4
3
0.3
2
0.15
D
0.25
2
0.33
400 0.4
350 0.35
0.65

0.79612
0.25

-0.24

0.71315

0.33
0.937

0.4

0.5824

$2,255,000

0.6136
1.23

0.35

0.65

-1.325

Pesos Wij

43

Neurona artificial

Redes Neuronales Artificiales

Los modelos de RNA slo son un parecido


superficial con sus contrapartes biolgicas.
Lo importante de las RNA es que muestran unos
comportamientos tiles al aprender, reconocer y
aplicar relaciones entre objetos y tramas de objetos
propios del mundo real.

44

Neurona artificial

Redes Neuronales Artificiales

El Primer modelo de red neuronal fue propuesto en


1943 por McCulloch y Pitts en trminos de un
modelo computacional de "actividad nerviosa".
El modelo de McCulloch-Pitts es un modelo binario, y
cada neurona tiene un umbral prefijado.
El modelo de McCulloch-Pitts sirvi de ejemplo para
los modelos posteriores de Jhon Von Neumann,
Marvin Minsky, Frank Rosenblatt, Hopfield,
Kohonen, ...
45

Conceptos bsicos

Redes Neuronales Artificiales

Una primera clasificacin de los modelos de


RNA podra ser, atendiendo a su similitud con la
realidad biolgica.
Los modelos de tipo biolgico comprenden las
redes que tratan de simular los sistemas
neuronales biolgicos as como las funciones
auditivas, de la visin, del habla, ...

46

Conceptos bsicos

Redes Neuronales Artificiales

El modelo dirigido a aplicacin son modelos que


no guardan necesariamente similitud con los
sistemas biolgicos.
La arquitectura de los modelos dirigidos a la
aplicacin estn fuertemente ligadas a las
necesidades especfica de la aplicacin para la
que se diseadas.

47

48

Redes Neuronales Artificiales

Redes Neuronales Artificiales

Cmputo convensional
vs. Redes neuronales?
Q

Los computadores actuales son incapaces para


interpretar el mundo.

Son capaces de realizar 100 millones de


operaciones de punto flotante por segundo pero
no pueden entender el significado de formas
visuales.

Puede repetir en forma indefinida un conjunto


de instrucciones generadas por un programador
humano pero no pueden aprender a partir de la
experiencia.
49

Por qu utilizar una RNA?

Redes Neuronales Artificiales

Las RNA, con su marcada habilidad para


derivar de datos complicados o imprecisos, se
utilizan para extraer patrones y detectar tramas
que son muy difciles de apreciar por humanos u
otras tcnicas computacionales.
Una RNA entrenada puede usarse como un
"experto" para categorizar la informacin que
se ha dado para su anlisis. Este experto puede
usarse para proveer proyecciones de nuevas
situaciones.
50

Redes Neuronales Artificiales

Las redes neuronales son preferibles a otros mtodos


matemticos cuando se presentan las siguientes
caractersticas:
Es muy difcil encontrar reglas que definan la
variable a modelizar en relacin a las entradas
consideradas en el modelo.
Los datos son imprecisos o contienen perturbaciones
estadsticas (ruido).
El problema necesita para ser definido un gran nmero de
variables dependientes (presenta una alta dimensionalidad).
51

Q
Q

Redes Neuronales Artificiales

El modelo a resolver es no lineal.


Se dispone de un gran nmero de datos.
El entorno de trabajo es variable

52

Ventajas
Aprendizaje adaptativo. Capacidad de aprender a realizar
tareas basada en un entrenamiento o una experiencia inicial.

Redes Neuronales Artificiales

Autoorganizacin. Una red neuronal puede crear su propia


organizacin o representacin de la informacin que recibe
durante la etapa de aprendizaje.
Tolerancia a fallas va informacin redundante.
La destruccin parcial de una red conduce a una degradacin
de su estructura; sin embargo, algunas capacidades de la red
se pueden retener, incluso sufriendo daos mayores.
53

Operacin en tiempo real. El cmputo neuronal


puede realizarse en paralelo. Inicia el diseo y
fabricacin de mquinas especiales con estas
ventajas para obtener esta capacidad.

Redes Neuronales Artificiales

54

Algunas aplicaciones
Q

Espacio areo

Redes Neuronales Artificiales

Automotriz

Pilotos automticos de alto desempeo, simulaciones y


predicciones de trayectoria de vuelo, sistemas de control
de vuelo, deteccin de fallas en componentes de la nave.
Sistemas automticos de navegacin, comando por voz

Bancos

Lectores de documentos, evaluadores de asignacin de


crdito, identificador de firmas.
55

Algunas aplicaciones
Q

Defensa

Electrnica
Prediccin de secuencias de cdigos, control de
procesos, anlisis de fallas de circuitos, visin de
mquina, sntesis de voz, modelado no lineal.
Robtica
Control de trayectorias, control de manipuladores,
sistemas de visin.
Voz
Reconocimiento de voz, compresin de voz,
sintetizadores de texto a voz.

Redes Neuronales Artificiales

56

Algunas aplicaciones
Q

Redes Neuronales Artificiales

Telecomunicaciones
Compresin de datos e imgenes, servicios automticos de
informacin, traduccin de lenguaje hablado en tiempo real.
Transportation
Sistemas ruteadores, diagnstico de motores, tiempos y
movimientos.
Seguridad
Reconocimiento de rostros, identificacin y acceso de personas.
Financieros
Evaluacin de bienes races, consultor de prestamos, valuacin de
bonos corporativos, anlisis sel uso de la lnea de crdito,
prediccin de tipo de cambio.

57

Algunas aplicaciones

Redes Neuronales Artificiales

Manufactura
Control de procesos de manufactura, anlisis y diseo
de productos, diagnstico de mquinas y procesos,
identificacin de partes en tiempo real, sistemas de
inspeccin de calidad, prediccin de fin de proceso,
anlisis de mantenimiento de mquinas, modelado de
sistemas dinmicos.
Medicina
Deteccin de cncer mamario o en la piel, anlisis de
EEG y ECG, diseo de prtesis, optimizacin de
tiempos de trasplante, reduccin de gastos en
hospitales.
Oficinas postales, Verificacin remota, etc.
58

Redes Neuronales Artificiales

Algunas aplicaciones
Comunicaciones:
-Igualacin,
cancelacin,
conmutacin,
enrutamiento, demodulacin multiusuario,...
Tratamiento de Voz:
-Reconocimiento, autentificacin de locutores,
codificacin, cuantificacin vectorial,...
Tratamiento de Imagen:
-Reconocimiento de formas y patrones (huellas
dactilares, nmeros, caras,...)
59

Redes Neuronales Artificiales

Modelado/Prediccin:
-Prediccin no lineal de series temporales
(financieras, consumo elctrico,...)
Control:
-Control de procesos, robots, vehculos, ...

60

Conclusiones
Una red neuronal puede ser vista como:

Un Filtro No lineal
- Algoritmos Adaptativos (LMS, RLS, Newton), Modelos no lineales (Volterra,
Wiener), Clasificadores Bayesianos,...

Redes Neuronales Artificiales

Un sistema dinmico no lineal


- Estabilidad, Funciones de Liapunov, Atractores, Ecs diferenciales no lineales,
...

Un aproximador funcional
- Anlisis funcional, Teora de la aproximacin,....

Un modelo neurofisiolgico
- Percepcin, Visin, Reconocimiento,...
61

Redes Neuronales Artificiales

Conclusiones
Las RNA son estructuras paralelas y no lineales
capaces de resolver un gran nmero de problemas.
Ofrecen soluciones en problemas en los que
intervienen muchas variables y que son difciles de
formalizar.
Son capaces de aprender y generalizar
Existen un gran nmero de topologas y algoritmos
de entrenamiento

62

Conclusiones

Redes Neuronales Artificiales

Inconveniente: Funcionan como una caja negra,


resuelven un problem pero es difcil saber cmo
lo han hecho.
Son una herramienta valiosa, pero no resuelven
TODOS los problemas, ni siempre los resuelven
de la MEJOR manera.

63

Bibliografa
Q

Redes Neuronales Artificiales

Bishop C.M. (1996). Neural Networks for Patern


Recognition. Clarendon Press.
Demuth H., Beale M. (1998). Neural Network
Toolbox for use with MATLAB. Math Works
Inc.
Fausett L. (1994). Fundamentals of Neural
Networks. Prentice-Hall.
Freeman J.A., Skapura D.M. (1993). Redes
neuronales, algoritmos, aplicaciones y tcnicas de
programacin. Madrid, Daz de Santos.
64

Redes Neuronales Artificiales

Haykin S. (1998). Neural Networks: a


Comprehensive Foundation. Prentice-Hall.
Haykin S. (1999). Neural Networks. 2nd Edition,
Prentice Hall.
Kohonen T. (1997). Self-organization And
Associative Memory. 3 ed., Berlin, SpringerVerlag.

65

Redes Neuronales Artificiales

Kung S. Y. (1993). Digital Neural Networks.


Prentice Hall, Inc.
Mitchell T. (1997). Machine Learning. Mc GrawHill.
Murray A.F. (1995). Applications of Neural
Networks. Kluwer Academic Publishers.
Reed R.D. , Marks R.J. (1999). Neural Smithing.
Cambridge (EEUU), MIT Press.
Ripley B.D. (1996). Pattern Recognition & Neural
Networks. Cambridge University Press.
66

67

Redes Neuronales Artificiales

Você também pode gostar