Escolar Documentos
Profissional Documentos
Cultura Documentos
Fundada en 1551
TRABAJO DE INVESTIGACIÓN
Para optar el Título Profesional de:
AUTORA
LIMA – PERÚ
2002
A mis hijos,
David y Claudia
Agradecimientos
Tratándose de un tema sobre el que hay muy pocas experiencia locales, considero
especialmente importante expresar mi agradecimiento al Ing. Antonio Morán, Jefe de
la Carrera de Ingeniería Electrónica de la Universidad Peruana de Ciencias Aplicadas,
que con su basta experiencia en el desarrollo de redes neuronales artificiales me
orientó en repetidas ocasiones para la construcción de la red que soporta el caso
práctico incluido en este trabajo.
SUMMARY
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
RESUMEN
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
TABLA DE CONTENIDO
CAPÍTULO I
I.1 INTRODUCCIÓN
I.2 SURGIMIENTO Y EVOLUCIÓN
I.3 REDES NEURONALES
I.4 PANORAMA HISTÓRICO
I.5 BREVE INTRODUCCIÓN BIOLÓGICA
CAPÍTULO II
II.1 ESTRUCTURA DE UN SISTEMA NEURONAL ARTIFICIAL
II.2 CARACTERÍSTICAS
CAPÍTULO III
III.1 ELEMENTOS DE UNA RED NEURONAL ARTIFICIAL
III.1.1 La Neurona Artificial
III.1.2 Estado de Activación
III.1.3 Función de Salida o de Transferencia
III.1.4 Conexiones entre Neuronas
III.1.5 Función o Regla de Activación
III.1.6 Regla de Aprendizaje
III.1.7 Formas de Conexión entre Neuronas
CAPÍTULO IV
IV 1 TOPOLOGÍA DE LAS REDES NEURONALES
IV.1.1 Redes Neuronales Monocapa
IV.1.2 Redes Neuronales Multicapa
CAPÍTULO V
V.1 ALGORITMOS NEURONALES
V.1.1 El aprendizaje supervisado
V.1.2 El aprendizaje no supervisado o autoorganizado
CAPÍTULO VI
VI.1 LA RED BACKPROPAGATION
VI.1.1 La Regla Delta Generalizada
CAPÍTULO VII
VII.1 APLICACIONES DE LAS REDES NEURONALES ARTIFICIALES
VII.2 OPERATIVA
VII.3 Listado de Aplicaciones
CAPÍTULO VIII
VIII.1 CASO PRÁCTICO
Red Natural para apoyo a identificación de factores de mayor riesgo en hijos de
madres con antecedentes de aborto
CONCLUSIONES
RECOMENDACIONES
BIBLIOGRAFÍA
ANEXO A
VALORES DE LA RED NEURONAL
IMPORTANCIA DE CADA ENTRADA
ANEXO B
GRÁFICO
ANEXO C
FICHA DE DATOS
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CAPÍTULO I
I.1 INTRODUCCIÓN
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
El capítulo III detalla cada uno de los elementos de una red neuronal artificial: la
neurona artificial, las diferentes funciones de salida o transferencia, el estado de
activación, regla de activación, conexiones y reglas de aprendizaje.
Por último, los capítulos VII y VIII se dedican a las aplicaciones prácticas de esta
técnica. En el capítulo VII se muestra una lista de ejemplos de aplicaciones por
disciplinas: empresa, medio ambiente, biología, medicina, manufactura, etc., mientras
que el capítulo VIII se dedica al caso práctico desarrollado para la identificación de los
factores de mayor impacto en las condiciones al nacer de los hijos de las madres con
antecedente de abortos.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Las redes neuronales son una rama de la Inteligencia Artificial. En las redes
neuronales el conocimiento se incorpora mediante el aprendizaje a partir de
ejemplos.
Pese a ello, existen tareas sencillas como el reconocimiento de patrones, que ni los
grandes supercomputadores son capaces de resolver de un modo eficiente, mientras
que el cerebro lo viene haciendo desde hace millones de años con suma facilidad y
eficiencia.
Por esta razón, algunos científicos han vuelto la vista hacia el cerebro tratando de
estudiarlo desde el punto de vista de la computación. La estructura del cerebro es
radicalmente diferente a la del computador convencional. No está compuesto por un
único microprocesador altamente complejo y eficiente, sino por miles de millones de
ellos, las neuronas, que realizan de modo impreciso y relativamente lento un tipo de
cálculo muy simple.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Cerebro Computador
Velocidad de Proceso = 10-2 seg. (100 Hz) =10-9 seg. (1000 MHz)
Estilo de Procesamiento paralelo Secuencial
Número de Procesadores 10 11 - 1014 Pocos
Conexiones 10,000 por procesador Pocas
Almacenamiento del conocimiento Distribuido Direcciones fijas
Tolerancia a fallos amplia Nula
Tipo de control del proceso Auto organizado centralizado
Tabla: Cerebro frente a computador convencional Von Neumann (Martín del Brío,
Sanz Molina. 2002)
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
En cuanto al modo interno de trabajo las redes neuronales son modelos matemáticos
multivariantes que utilizan procedimientos iterativos, en general para minimizar
funciones de error.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
INTELIGENCIA
ARTIFICIAL
REDES DE
AUTOPROCESO
PROCESAMIENTO PROCESAMIENTO
NUMÉRICO SIMBÓLICO
SISTEMAS SISTEMAS
ASOCIATIVOS DISTRIBUIDOS
REDES REDES
NEURONALES SUBSIMBÓLICAS
REDES DE AUTOPROCESO:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Formadas por nodos en los que hay elementos procesadores de información de cuyas
interacciones locales depende el comportamiento del sistema.
a) PROCESAMIENTO NUMÉRICO:
Reciben la señal de entrada desde el exterior y operan sobre ella. Son sistemas
constituidos por nodos de hardware interconectados formando una red. También se
conocen como sistemas conectivistas o conexionistas.
SISTEMAS DISTRIBUIDOS:
La conexión entre los nodos se realiza de forma global, bajo unas reglas de
composición.
SISTEMAS ASOCIATIVOS:
REDES SUBSIMBÓLICAS:
REDES NEURONALES
b) PROCESAMIENTO SIMBÓLICO:
Estas redes están constituidas por conceptos (nodos) y por reglas sintácticas (lazos de
interconexión). Ambas forman las llamadas bases de conocimiento. La simulación de
estas redes es casi exclusivamente software.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Computación Computación
Computación Simbólica
Convencional Neuronal
Condiciones
Pero no para: Causalidad desconocida Cálculos precisos
difusas
Tabla: Formas básicas de Computación (Martín del Brío, Sanz Molina. 2002)
Alan Turing en 1936 fue el primero en estudiar el cerebro como una forma de ver la
computación; sin embargo los primeros teóricos que concibieron los fundamentos de la
computación neuronal fueron Warren McCulloch, un neurofisiólogo, y Walter Pitts, un
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
matemático, quienes en 1943 lanzaron una teoría sobre la forma de trabajar de las
neuronas. Ellos modelaron una red neuronal simple mediante circuitos eléctricos.
James Anderson desarrolló en 1977 un modelo lineal, llamado Asociador Lineal, que
consistía en unos elementos integradores lineales (neuronal) que sumaban sus
entradas. Este modelo se basa en el principio de que las conexiones entre neuronas
son reforzadas cada vez que están activadas. Anderson diseñó una potente extensión
del Asociador Lineal, llamada Brain-State-in-a-box.
En 1982, John Hopfield presentó un trabajo en el que describe con claridad y rigor
matemático una red que lleva su nombre, que es una variación del Asociador Lineal.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
a: Soma
b: Axón
c: Dendritas
El sistema nervioso está compuesto por una red de células (neuronas), ampliamente
interconectadas entre sí. En las neuronas, la información fluye desde las dendritas
hacia el axón, atravesando el soma. Se estima que el sistema nervioso contiene
alrededor de cien mil millones de neuronas.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Cada neurona recibe impulsos procedentes de otras neuronas (inputs) a través de las
dentritas, que están conectadas a las salidas de otras neuronas por las sinapsis. Las
sinapsis, alteran la efectividad con la que la señal es transmitida a través de un
parámetro, el peso. El aprendizaje resulta de la modificación de estos pesos, que
unido al procesamiento de información de la neurona determinan el mecanismo básico
de la memoria. Algunas sinapsis permiten pasar a la señal con facilidad, mientras que
otras no. El soma de la neurona recibe todos estos inputs, y emite una señal de salida
(output) si la entrada total supera el valor del umbral. Esta salida se transmite a través
del axón desde donde se propaga mediante diferencias de potencial a las dentritas de
otras neuronas
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CAPÍTULO II
Los sistemas neuronales artificiales imitan la estructura del hardware del sistema
nervioso, con la intención de construir sistemas de procesamiento de información
paralelos, distribuidos y adaptativos, que puedan presentar un cierto comportamiento
“inteligente”.
E S
N A
T L
R I
Σ A
D
D
A
A S
S
Parte
algorítmica
Cada neurona realiza una función matemática. Las neuronas se agrupan en capas,
constituyendo una red neuronal. Una determinada red neuronal está confeccionada y
entrenada para llevar a cabo una labor específica. Finalmente, una o varias redes,
más las interfaces con el entorno, conforman el sistema global.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
otras partes como músculos y glándulas. Las redes neuronales son sistemas de
elementos simples de proceso muy interconectados.
II. 2 CARACTERÍSTICAS
• Procesamiento paralelo:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Por otra parte, el cerebro tarda aproximadamente lo mismo para preprocesar una
imagen compuesta por millones de píxeles (los que representan los conos y
bastones de la retina), extraer sus rasgos característicos, analizarla e interpretarla.
La clave reside en los miles de millones de neuronas que intervienen en el proceso
de visión, operando en paralelo sobre la totalidad de la imagen.
• Memoria Distribuida:
• Aprendizaje adaptativo:
Las redes neuronales son sistemas dinámicos auto adaptativos. Son adaptables
debido a la capacidad de auto ajustarse que tienen las neuronas. Son dinámicos,
pues son capaces de estarse adaptando constantemente a las nuevas condiciones.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
• Auto organización:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CAPÍTULO III
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
función de salida fi, que transforma el estado actual de activación en una señal de
salida, yi.
Netj = ∑ yw
i
i ji
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Neurona Uh
yh
Neurona Uj
wjh
Neurona Ui
F(aj(t), Netj) fj(aj(t+1))
yi Netj = =
wji yj
. aj (t+1) yj
.
. wjg
.
Neurona Ug
yg
• Las unidades de entrada reciben señales desde el entorno. Estas entradas (que
son entradas a la red) pueden provenir de sensores o de otros sectores del
sistema.
• Las unidades de salida envían la señal fuera del sistema. Estas pueden controlar
directamente potencias u otros sistemas.
• Las unidades ocultas son aquellas cuyas entradas y salidas se encuentran dentro
del sistema, es decir, no tienen contacto con el exterior.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Todas las neuronas que conforman la red se hallan en cierto estado. Podemos decir
que hay dos posibles estados: reposo y excitado, llamados genéricamente estados de
activación; a cada uno de los cuales se le asigna un valor. Estos valores pueden ser a
su vez continuos o discretos.
Es necesario además saber qué criterios o reglas siguen las neuronas para alcanzar
estos estado de activación. Esto depende de dos factores:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
• La señal que envía cada neurona a sus vecinas depende de su propio estado
de activación.
Entre las neuronas que componen la red existe un conjunto de conexiones que las
unen. Cada neurona trasmite señales a aquellas que están conectadas con su salida.
Asociada a cada unidad Ui hay una función de salida fi(ai(t)), que transforma el estado
actual de activación ai(t) en una señal de salida yi(t); es decir:
yi(t) = fi(ai(t))
Existen cuatro funciones de transferencia típicas que determinan los distintos tipos de
neuronas:
• Función Identidad
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
• Función Escalón,
• Sigmoidal,
• Función gaussiana
La función escalón o umbral únicamente se utiliza cuando las salidas de la red son
binarias. La salida de una neurona se activa sólo cuando el estado de activación es
mayor o igual que cierto valor umbral (la función puede ser desplazada sobre los ejes).
La función lineal o identidad equivale a no aplicar función de salida, y se usa muy
poco. Las funciones mixta y sigmoidal son las más apropiadas cuando queremos
como salida una información analógica.
y y
1 1
0 x x
-1
1 si x ≥ 0 1 si x ≥ 0
f ( x) = f ( x) =
0 si x < 0 − 1 si x < 0
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
1 1
-c 0 c x -c 0 c x
-1
0 si x < −c − 1 si x < −c
f ( x) = 1 si x > c f ( x) = 1 si x > c
x /( 2c ) + 1 / 2 en otro caso a.x en otro caso
c = límite superior de la suma de todas las entradas de
activación
-c = límite inferior
y y
1 1/2
0 x 0 x
-1/2
1
f ( x) =
1 + e −ax
La importancia de la función sigmoidal (o cualquier otra función similar) es
que su derivada es siempre positiva y cercana a cero para los valores
grandes positivos o negativos. Además, toma su valor máximo cuando x es 0.
Esto es particularmente útil para definir métodos de aprendizaje en los cuales
se usan derivadas.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
y = A.e − Bx
Los centros y anchura de estas funciones pueden ser adaptados, lo cual las
hace más adaptativas que las funciones sigmoidales.
Mapeos que suelen requerir dos niveles ocultos (neuronas que se ubican
entre las de entrada y las de salida) con neuronas de transferencia
sigmoidales, algunas veces se pueden realizar con un solo nivel empleando
neuronas de transferencia gaussiana.
Las conexiones entre las neuronas de una red tienen asociado un peso, que es el que
hace que la red adquiera conocimiento.
Tomemos el valor yi como el valor de salida de una neurona i en un instante dado. Una
neurona recibe un conjunto de señales que le dan información del estado de activación
de todas las neuronas con las que se encuentra conectada. Cada conexión (sinapsis)
entre la neurona i y la neurona j está ponderada por un peso wji. Normalmente, como
simplificación, se considera que el efecto de cada señal es aditivo, de forma que la
entrada neta que recibe una neurona (potencial post sináptico) net j es la suma del
producto de cada señal individual por el valor de la sinapsis que conecta ambas
neuronas:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
N
netj = ∑ wji • yi
i
Esta regla muestra el procedimiento a seguir para combinar los valores de entrada a
una neurona con los pesos de las conexiones que llegan a esa neurona, y es conocida
como regla de propagación.
Suele utilizarse una matriz W con todos los pesos wji que reflejan la influencia que la
neurona j tiene sobre la neurona i. W es una matriz de elementos positivos, negativos
o nulos. Si wji es positivo, significa que la interacción entre ambas neuronas es
excitadora, es decir, siempre que la neurona i esté activada, la neurona j recibirá una
señal proveniente de i que tenderá a activarla. Si wji es negativo, la sinapsis será
inhibidora; es decir, si i está activada, enviará un mensaje a la neurona j que tenderá a
desactivarla. Por último, si wji es cero, significa que no hay conexión entre ambas
neuronas.
Así como es necesario una regla que combine las entradas a una neurona con los
pesos de sus conexiones, también se requiere una regla que combine las entradas
con el estado actual de la neurona, para producir un nuevo estado de activación. Esta
función, F, produce un nuevo estado a partir del estado (ai) que existía y la
combinación de las entradas con los pesos de las conexiones (neti).
Dado el estado de activación ai(t) de la neurona Ui, y la entrada total que llega a ella,
Neti, el estado de activación siguiente, ai(t+1) se obtiene aplicando la función de
activación F:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
N
yi( t + 1) = f ( Neti ) = f ( ∑ wij yj( t ))
j =1
y1
. wi1
.
. wij f
yj yj
.
. wiN
.
yN
N
yi (t + 1) = f ( Neti − θi) = f (∑ wij yj (t ) − θi)
j =1
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
La conectividad entre los nodos de una red neuronal está relacionada con la forma en
que las salidas de las neuronas están canalizadas para convertirse en entradas de
otras neuronas. La señal de salida de un nodo puede ser una entrada de otro
elemento de proceso, o incluso ser una entrada de sí mismo en una conexión auto
recurrente.
Cuando ninguna salida de las neuronas de una capa es entrada de neuronas del
mismo nivel o de niveles precedentes, se dice que la red tiene propagación hacia
delante. En caso contrario se dice que la red es de propagación hacia atrás. Las
redes de propagación hacia atrás que tienen lazos cerrados se dice que son sistemas
recurrentes.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
ENTRADAS I1 O1
SALIDAS
I2 O2
. . . . . .
. . . . . .
. . . . . .
Im Om
Estructura de una red multinivel con todas las conexiones hacia adelante
O1
SALIDAS
O2
. .
. .
. .
Om
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CAPÍTULO IV
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Cuando todas las neuronas de una capa reciben señales de entrada de otra capa
anterior, más cercana a la entrada a la red, y envían señales de salida a una capa
posterior, estamos ante una red de conexiones hacia delante o feedforward. En las
conexiones hacia atrás o feedback las salidas de las neuronas de capas posteriores se
conectan a las entradas de capas anteriores.
Estas características permiten distinguir dos tipos de redes entre las multicapa: las
redes con conexión hacia delante o redes feedforward, y redes que disponen de
conexiones tanto hacia delante como hacia atrás, o redes feedforward/feedback.
Por otro lado, la mayoría de las redes multicapa son bicapa. Este tipo de estructura es
particularmente adecuada para realizar una asociación de una información o patrón de
entrada con otra información o patrón de salida en la segunda capa. Una red
multicapa muy particular es la NEOCOGNITRON, en la que las neuronas se disponen
en planos superpuestos (capas bidimendionales), permitiendo eliminar las variaciones
geométricas (tamaños, giros, desplazamientos) o distorsiones que presenten las
informaciones o patrones de entrada a la red.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
N° de Tipo de Conexiones Modelo de Red
Capas
ADALINE / MADALINE
PERCEPTRON
LINEAR /ASSOC
REWAR.PENALTY
LINEAR ASSOCIATIVE
Conexiones hacia MEMORY
delante OPTIMAL LINEAR ASSOC.
MEM.
FEEDFORWARD
DRIVE-REINFORCEMENT
(DR)
LEARNING VECTOR
Conexiones laterales QUANTIZER
2 capas implícitas y
autorrecurrentes TOPOLOGY PRESERVING
MAP (TPM)
BIDIRECTIONAL ASSOC.
MEM. (BAM)
ADAPTIVE BAM.
Sin conexiones laterales TEMPORAL ASSOC.
Conexiones hacia
MEMORY (TAM)
adelante / atrás
FUZZY ASSOCIATIVE
(FEDDFORWARD /
MEMORY (FAM)
FEEDBACK)
COMPETITIVE ADAPTIVE
Con conexiones BAM
laterales y
autorrecurrentes ADAPTIVE RESONANCE
THEORY (ART)
ADAPTIVE HEURISTIC
CRITIC (AHC)
Sin conexiones laterales
Conexiones hacia BOLTZMANN / CAUCHY
delante MACHINE
3 (FEDDFORWARD) COUNTERPROPAGATION
Con conexiones
laterales BOLTZMANN / CAUCHY
MACHINE
BOLTZMANN / CAUCHY
Conexiones adelante / atrás y laterales
MACHINE
Conexiones hacia adelante BACKPROPAGATION (BPN)
FEEDFORWARD / FEEDBACK
N COGNITRON /
(Jerarquía de niveles de capas NEOCOGNITRON
bidimensionales)
CAPÍTULO V
V. 1 ALGORITMOS NEURONALES
Los modelos neuronales utilizan varios algoritmos de estimación, aprendizaje o
entrenamiento para encontrar los valores de los parámetros del modelo, que en la
jerga de las redes neuronales se denominan pesos sinápticos.
V. 1. 1 El aprendizaje supervisado
Una regla o algoritmo simple de aprendizaje por error podría ser como la
siguiente:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
y1
1
.
. Wj1
. yi Wji
i yj
. Wjn
.
.
Unidad Uj
n
Donde:
actual
(∆ wji = wji – wji anterior )
Otro algoritmo de este tipo, pero que mejora el del Perceptron y permite un
aprendizaje más rápido y un campo de aplicación más amplio es el
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
denominado regla delta o regla del error mínimo cuadrado (Widrow y Hoff,
1960). Se aplica en las redes ADALINE, con una sola neurona de salida, y
MADALINE, con varias neuronas de salida.
1 P N
Errorglobal = ∑∑
2 P k =1 j =1
( yj ( k ) − dj ( k ) ) 2
Donde:
1 N
∑ ( yj k − dj k ) 2 :
2 j =1
Error cometido en el aprendizaje de la informació n k-
ésima
Por lo tanto, se trata de encontrar unos pesos para las conexiones de la red
que minimicen esta función de error. Para ello, el ajuste de los pesos de las
conexiones de la red se puede hacer de forma proporcional a la variación
relativa del error que se obtiene al variar el peso correspondiente:
∂ Errorglobal
∆wji = k
∂ wji
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
neuronas que no tienen relación con el exterior. Son redes con capa de
entrada, capas ocultas y capa de salida.
Estas redes multicapa pueden utilizarse en muchas más aplicaciones que las
ya mencionadas Perceptrón, ADALINE y MADALINE, pero su proceso de
aprendizaje es mucho más lento debido a que durante el mismo se tiene que
explorar el espacio de posibles formas de utilización de las neuronas de las
capas ocultas; es decir, se debe establecer cuál va a ser su papel en el
funcionamiento de la red.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
terminología estadística equivale a los modelos en los que sólo hay vectores de
variables independientes y buscan el agrupamiento de los patrones de entrada:
análisis de conglomerados o cluster, escalas multidimensionales, etc.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CAPÍTULO VI
Este proceso se repite capa por capa, hasta que todas las neuronas de la red hayan
recibido un error que describa su aportación relativa al error total. Basándose en el
valor del error recibido, se reajustan los pesos de conexión de cada neurona, de
manera que en la siguiente vez que se presente el mismo patrón, la salida esté más
cerca de la deseada; es decir, el error disminuya.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
entrada con ruido o incompletas, dando una salida activa si la nueva entrada es
parecida a las presentadas durante el aprendizaje.
La regla delta, propuesta por Widrow en 1960 ha sido extendida a redes con capas
intermedias con conexiones hacia delante (feedforward) y cuyas células tienen
funciones de activación continuas (lineales o sigmoidales), dando lugar a un algoritmo
de retropropagación (backpropagation). Estas funciones continuas son no
decrecientes y derivables, a diferencia de la función escalón que se utiliza en el
Perceptrón, que no es derivable en el punto de discontinuidad.
Este algoritmo utiliza también una función o superficie de error asociada a la red,
buscando el estado estable de mínima energía o de mínimo error a través del camino
descendente de la superficie del error. Por ello, realimenta el error del sistema para
realizar la modificación de los pesos en un valor proporcional al gradiente decreciente
de dicha función de error.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
wji
Ui Uj
El método que sigue la regla delta generalizada para ajustar los pesos es actualizarlos
de forma proporcional a la delta o diferencia entre la salida deseada y la obtenida (δ =
salida deseada – salida obtenida)
Dada una neurona Ui y la salida que produce, yi, el cambio que se produce en el peso
de la conexión que une la salida de dicha neurona con la unidad Uj (wji) para un patrón
de aprendizaje p determinado es:
∆ wji ( t + 1) = α δ p j ypi
donde el subíndice p se refiere al patrón de aprendizaje concreto y α es la constante o
tasa de aprendizaje.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Capa de Salida
Capa de entrada wk1j yk1
Capa Oculta
(u oculta)
yi yj Uk1
wii yj
Ui Uj wknj
ykn
Ukn
Según esto, en el caso de que Uj no sea una neurona de salida, el error que se
produce está en función del error que se comete en las neuronas que reciben como
entrada la salida de Uj:
δ pj = (∑ δ pk w k j ) • f ' (net j )
k
donde el rango k cubre todas aquellas neuronas a las que está conectada la salida de
Uj. De esta forma, el error que se produce en una neurona oculta es la suma de los
errores que se producen en las neuronas a las que está conectada la salida de ésta,
multiplicando cada uno de ellos por el peso de la conexión.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
donde:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CAPÍTULO VII
• Los datos procedentes del problema son imprecisos o incluyen ruido (por
ejemplo, para un OCR las imágenes correspondientes a la misma letra pueden
presentarse giradas, distorsionadas, etc.)
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
VII. 2 OPERATIVA
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Biología:
• Aprender más acerca del cerebro y otros sistemas
• Obtención de modelos de retina.
Empresa:
• Evaluación de probabilidad de formaciones geológicas y petrolíferas.
• Explotación de bases de datos (minería de datos)
• Optimización de plazas y horarios en líneas aéreas.
• Reconocimiento de caracteres escritos.
Medio ambiente:
• Analizar tendencias y patrones.
• Previsión del tiempo.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Finanzas:
• Previsión de la evolución de los precios.
• Valoración del riesgo de los créditos.
• Identificación de falsificaciones.
Manufactura:
• Sistemas de control automatizados (visión artificial y sensores de temperatura,
presión, gas, etc.)
• Control de producción en líneas de proceso.
• Control de calidad.
Medicina:
• Analizadores del habla para ayuda en la audición.
• Diagnóstico y tratamiento a partir de síntomas y/o datos analíticos
(electrocardiograma, encefalograma. Análisis sanguíneo, etc.)
• Monitorización en cirugía.
• Predicción de reacciones adversas a medicamentos.
• Análisis de las causas de los ataques epilépticos.
• Lectores de rayos X
Militares:
• Clasificación de señales de radar.
• Optimización del uso de recursos escasos.
• Creación de armas inteligentes.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CAPÍTULO VIII
OBJETIVO
Averiguar los factores de mayor impacto en el estado al nacer de los hijos de las
gestantes con antecedente de más de dos abortos previos.
MATERIAL Y MÉTODOS
Esta información fue importada a una base de datos MsAccess 2000 para su análisis,
depuración y preprocesamiento para adecuarlos al formato necesario para el trabajo
con la red neuronal.
Esta herramienta tiene dos componentes principales: los nodos y las conexiones.
Los datos de entrenamiento y pruebas se cargan a una grilla semejante a una hoja de
cálculo, en la que las filas constituyen los patrones ejemplo y las columnas definen las
entradas y salidas de la red.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Nodo
Neurona
Cone xión
Direccionamiento
Peso:
Derivada del peso: Derivada del peso + Hacia: Delta * Desde: Activation.
Delta del peso: Ratio de aprendizaje * Derivada del peso + Momentum * Delta
del peso.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
En el anexo 1 se muestran los valores obtenidos para cada uno de estos elementos en
la red neuronal construida.
CONCLUSIONES:
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
APLICABILIDAD
• Una mujer con más de dos abortos puede tener un hijo vivo sin enfermedad al
nacer.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
CONCLUSIONES
1. Para resolver con eficiencia un problema, éste debe comprenderse bien. Rara vez
existen soluciones simples a problemas complejos. Si se comprende bien el
problema, introduciendo explícitamente el conocimiento apriorístico en el modelo
se obtiene un sistema más eficiente.
3. En la línea del punto anterior, una clara tendencia actual es integrar en una
aplicación diversas soluciones, neuronales, borrosas, estadísticas, procesamiento
de señales, e incluso sistemas convencionales en los que se inserten módulos con
algunos de estos tipos. En la actualidad, las empresas en el mundo están
tendiendo a implementar soluciones híbridas: nadie desea deshacerse de modelos
en cuyo desarrollo invirtieron muchos años de esfuerzo, sino que incorporan en
ellos pequeñas redes neuronales que solucionan aspectos puntuales del problema
total.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Esta idea se hace más que evidente si analizamos que aproximadamente el 80%
del tiempo total se dedica a tareas diferentes al propio entrenamiento.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
RECOMENDACIONES
Las experiencias locales son todavía escasas, principalmente porque son pocas las
instituciones educativas que incluyen en su respectiva currícula este tema. En este
sentido, sería importante que la Facultad de Matemática de la Universidad Nacional
Mayor de San Marcos, específicamente la Escuela Académico Profesional de
Investigación Operativa, evalúe la posibilidad de incorporar estos conceptos en el
cuerpo de conocimientos que imparte, como una más de las herramientas de
optimización de operaciones disponibles.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
BIBLIOGRAFÍA
1. ARAI, T y Otros.
1991 Self-Organizing QRS-Complex Recognition by Neural Networks.
Proceedings of the 13th Annual International Conference of the IEEE
Engineering in Medicine and Biology Society, Vol. 13, N° 2.
4. HOPFIELD, J.
1982 Neural Networks and physical systems with emergent collective
computational abilities.
En: Proceedings of the National Academy of Sciences, 79
5. KOHONEN, T.
1988 An Introduction to Neural Computing.
En: Neural Networks. Vol 1.
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
Las Redes Neuronales Artificiales y su importancia como
herramienta en la toma de decisiones. Villanueva Espinoza, María
del Rosario
Direcciones en Internet:
9. SARLE, W.S.
1998 "Frecuently Asked Questions about Neural Networks", documento
hipertexto (ftp://ftp.sas.com/pub/neural/FAQ.html)
Elaboración y diseño en formato PDF, por la Oficina General del Sistema de Bibliotecas y
Biblioteca Central UNMSM
ANEXO A
ENTRADA IMPORTANCIA
Pre_eclampsia 2.9119
Infección urinaria 2.7244
No enfermedades durante el embarazo 2.4869
Rotura prematura de membranas 2.3112
No entidades obstétricas 1.9059
3.5 Pre_eclampsia
3
2.5 Infección urinaria
2
No enfermedades
1.5
durante el embarazo
1
Rotura prematura de
0.5 membranas
0 No entidades obstétricas
1
ANEXO B
GRÁFICO
ANEXO C
FICHA DE DATOS