Redes Neuronales

Su implementacin en Hardware

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Qu son las Redes Neuronales

Biolgicas?
Son el principal elemento del Sistema Nervioso.
Cada neurona posee un cuerpo y dos tipos de
prolongaciones: dendritas y cilindroeje o axn.
Las neuronas se conectan por medio de sinapsis.
Se disponen en capas.
Las conexiones entre neuronas tienen pesos que
representan la influencia de una sobre la otra.
Cada una enva su informacin de estado multiplicado por
el correspondiente peso.
Luego se suman los valores recibidos desde las dendritas
para actualizar los estados respectivos.

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Qu son las Redes Neuronales

Artificiales (ANN)?
Una ANN es un paradigma de procesamiento de la
informacin que est inspirado en la manera en que los
sistemas nerviosos biolgicos procesan la informacin.

Las ANN aprenden a travs de ejemplos.

Una ANN es configurada para una aplicacin especfica a
travs de un proceso de aprendizaje.
Son aptas para resolver problemas que no poseen un
algoritmo claramente definido para transformar una entrada
en una salida.
Se emplean ejemplos representativos de la transformacin
deseada para entrenar el sistema.
Los sistemas autmatas evolucionan sin una
reprogramacin explcita.

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Por qu usar Redes Neuronales

Artificiales?
Las redes neuronales artificiales se aplican a problemas que
la gente puede resolver bien, pero las computadoras no.
Una red neuronal entrenada puede verse como un experto
en la categora de informacin que se le ha sido dada para
analizar.

Ventajas:
Aprendizaje adaptable.
Auto Organizacin.
Operacin en tiempo real.
Tolerancia a fallas a travs de cdigo de informacin
redundante.

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Por qu usar Redes Neuronales

Artificiales?
Las redes neuronales se consideran la mejor tcnica de
reconocimiento de patrones y anlisis de tendencias en los
datos.

Aplicaciones:
Pronsticos de ventas
Control de procesos industriales
Investigacin sobre clientes
Validacin de datos
Administracin de riesgo
Marketing

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Cmo funcionan las Redes

Neuronales Artificiales?
Las ANN se basan en el circuito de procesamiento de
entradas en el cual los pesos son sumados.
Las funciones de peso se llaman Atenuadores. Las
entradas son pesadas multiplicando su valor por un factor
menor o igual a uno.
Las entradas atenuadas son sumadas mediante la Funcin
Sigmoid. Si la salida de la funcin suma excede el valor de
entrada mximo de la neurona, sta responde generando
una salida.

Introduccin
Implementacin
Software

Cmo funcionan las Redes

Neuronales Artificiales?

Implementacin
Hardware

Atenuadores

Ejemplos
Futuras Tendencias
y Conclusin

Entradas

Modelo de Neurona

Salidas

Introduccin
Implementacin
Software
Implementacin
Hardware

Cmo funcionan las Redes

Neuronales Artificiales?
Entradas

Red Neuronal Artificial

Salidas

Ejemplos
Futuras Tendencias
y Conclusin

Red Neuronal

Introduccin

Modelos de Conectividad

Implementacin
Software

Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

P
Modelo de Hopfield

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Implementacin en Software
Una Red Neuronal implementada en software es
considerada una simulacin y presenta numerosas
desventajas sobre sus similares de hardware.
El principal motivo para descartar una implementacin
software es el de la velocidad.
Un chip especializado para ANN, de funcionamiento
paralelo, es capaz de ofrecer respuestas totalmente
confiables en tiempo real.
Para aplicaciones que exigen Redes de menos de 100
neuronas y escaso entrenamiento las implementaciones
software son suficientes.
Cuando los problemas a resolver exigen cantidades tales
como 1000 neuronas y 10000 sinapsis, es necesario
emplear hardware de alta performance.

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Hardware vs Software
La mayora de las aplicaciones ANN en uso comercial estn
implementadas en software y corren en una computadora
de propsito general con un procesador convencional
simple.
Razones ms comunes para usar hardware ANN:
Velocidad: las ANN son intrnsecamente paralelas, y las
implementaciones hardware pueden hacer uso de esto.
Costo: una implementacin hardware puede proveer
mrgenes para reducir los costos del sistema: cantidad de
componentes, potencia de los requerimientos, etc.
Confiabilidad: reducida probabilidad de fallas en el equipo.
Condiciones operativas especiales: en aplicaciones que
imponen restricciones tales como tamao fsico o peso
limitado, una implementacin hardware puede ser esencial
Seguridad: el hardware especializado puede ofrecer mejor
proteccin contra la "ingeniera inversa" de potenciales
competidores.

Introduccin
Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Componentes Utilizados
Neurocomputadoras: proveen un completo sistema basado
en tcnicas neuronales, con significativo poder de
procesamiento.
Aceleradoras de PC y otras tarjetas: son generalmente
hechas para un bus estndar tal como el ISA.
Chips: pueden ser usados para construir algunas de las
formas precedentes o pueden ser incluidos dentro de otros
dispositivos para hacer una unidad de aplicacin completa.
Bibliotecas celda: permiten un apropiado nivel de
funcionalidad neuronal al ser incluidas dentro de un chip
dedicado al lado de otras funciones necesarias. Esto es lo
indicado para aplicaciones de gran volumen.
Microcomputadoras embebidas: pueden ser pensadas
como computadoras de propsito general implementando un
software ANN en hardware dedicado sin los perifricos
normales de una computadora.

Introduccin

Tipos de Implementacin Hardware

Implementacin
Software
Implementacin
Hardware
Ejemplos

Digital

Futuras Tendencias
y Conclusin

Analgica
Hbrida

Introduccin

Tipos de Implementacin Hardware

Implementacin
Software

Implementaciones digitales

Implementacin
Hardware
Ejemplos

Todos los valores pasados en la red estn representados por

palabras binarias con una longitud de palabra caracterstica.

Futuras Tendencias
y Conclusin

Ventajas:
Liberacin del ruido.
Almacenamiento de coeficientes de peso por una
indefinida longitud de tiempo mediante RAM.
Tecnologas de fabricacin off-the-shelf.
Precisin exacta de las fases de multiplicacin y suma.
Fcil incorporacin dentro de los sistemas existentes.

Introduccin

Tipos de Implementacin Hardware

Implementacin
Software

Implementaciones digitales

Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Restricciones:
Baja velocidad de operacin, especialmente en los pasos
de multiplicacin y suma.
Las entradas del mundo real son tpicamente analgicas, y
deben ser convertidas a un formato digital para ser
procesadas.

Introduccin
Implementacin
Software

Tipos de Implementacin Hardware

Implementaciones digitales

Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Arquitecturas Slice: proveen bloques de construccin de

los cuales pueden ser construidas redes neuronales de
tamao y longitud de palabra arbitraria.
Chips Multiprocesador: consiste en poner muchos
procesadores simples en un solo procesador. Hay dos
grupos: SIMD y Arreglos Sistlicos.
Funciones Base Radiales: operan por la manipulacin de
vectores prototipo, que definen regiones de influencia
alrededor de la formacin de datos de entrada.
Otros diseos digitales: algunas redes neuronales digitales
no pueden ser clasificadas usando las categoras expuestas.
Por ejemplo, el MT19003 NISP es un procesador RISC, que
implementa siete instrucciones optimizadas para redes
multicapa. Los chips Hitachi Wafer SI han sido diseados
para implementar redes Hopfield y de retropropagacin.

Introduccin
Implementacin
Software

Tipos de Implementacin Hardware

Implementaciones analgicas

Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Tienen la capacidad de alcanzar altas velocidades y alta

densidad de implementacin.
Diseo neurofrmico: la circuitera intenta imitar el
comportamiento de neuronas biolgicas y sinapsis tan cerca
como sea posible.
Desventajas debido a dificultades en:
La obtencin de alta precisin a efectos de diferencias en
componentes.
El almacenamiento a largo plazo de coeficientes de peso
analgicos.
La implementacin de multiplicadores analgicos.

Introduccin

Tipos de Implementacin Hardware

Implementacin
Software

Diseos hbridos

Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Por la combinacin de tcnicas digitales y analgicas, los

diseos hbridos intentan obtener lo mejor de ambos
mundos.
En algunos diseos las comunicaciones externas son
digitales, mientras que el procesamiento interno es total o
parcialmente analgico.

Ejemplos:
Bellcore CLNN-32
AT&T ANNA
Neuroclassifier
Neural Semiconductor

Introduccin
Implementacin
Software

Tipos de Implementacin Hardware

Implementaciones pticas

Implementacin
Hardware
Ejemplos

Los hologramas se utilizan para implementar la funcin

sinptica, logrando la conectividad a travs de la luz.

Futuras Tendencias
y Conclusin

No estn lo suficientemente desarrolladas.

Los rayos de luz no pueden sufrir interferencias.
La principal dificultad es poder soportar la variedad de
tipos de entrada que existen a menudo, como as tambin la
generacin de atenuadores hologrficos.

Introduccin
Implementacin
Software
Implementacin
Hardware

Aplicaciones y ejemplos
Las redes neuronales han sido usadas en la imitacin de
patrones, para generalizar, para combinar nuevas
situaciones con otras anteriores, reflejar estructuras dentro
de su entorno, y seleccionar entre diversas posibilidades.

Ejemplos
Futuras Tendencias
y Conclusin

Intel Corporation lanz un chip de red neuronal analgica

en Agosto de 1990.
Las investigaciones prosiguieron adems en los
laboratorios de AT&T, TRW, Texas Instruments, IBM, General
Electric, NASAs Jet Propulsion Laboratory, entre otros.
Los investigadores de Allied Signal entrenaron una red
para reconocer objetivos submarinos a partir de un sonar.
La Universidad de Pennsylvania cre una red neuronal
ptica para detectar objetos mediante un radar.

Introduccin
Implementacin
Software
Implementacin
Hardware

Aplicaciones y ejemplos
El soft NestorWriter de Nestor, Inc.
utiliza un diseo de red neuronal para
interpretar letras manuscritas sobre
un pad sensible.

Ejemplos
Futuras Tendencias
y Conclusin

Los beneficios de las redes neuronales han sido

reconocidos especialmente en Japn, donde un nmero
considerable de bienes de consumo est hacindose usando
esta tecnologa.
Compaas europeas que han investigado el uso de redes
neuronales basadas en hardware: Ericsson (UK y Suecia),
Philips Research (NL), Siemens AG Munich, Siemens /
Nixdorf Bonn, 3M Laboratories (Europa) GmbH Neuss,
XIONICS Document Technologies GmbH dortmund, Robert
Bosch GmbH Reutlingen, Spectrum Microelectronics Siek
(Alemania), Fiat (Italia), Domain Dynamics Ltd (UK).

Introduccin

CNAPS de Adaptive Solutions

Implementacin
Software
Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Emplea chips CNAPS-1064 1016 segn posea 64 16

elementos procesadores (neuronas).
Cada elemento procesador contiene un multiplicador de
9x16 bits, un acumulador de 32 bits y 4 kbytes de memoria
on-chip para almacenamiento de pesos sinpticos.
Arquitectura SIMD.
No provee operaciones de punto flotante, y la divisin
debe ser implementada mediante algoritmos.

Introduccin
Implementacin
Software

ZISC de IBM (Zero Instruction Set

Computer)

Implementacin
Hardware
Ejemplos
Futuras Tendencias
y Conclusin

Desarrollado en los laboratorios IBM de Pars.

Es de tipo Funciones Base Radiales (RBF).
El ZISC036 consta de 36 neuronas.
El chip se vende por separado, o en formatos de Tarjetas
ISA, SIMM o PCI.

Introduccin

Futuras tendencias y conclusin

Implementacin
Software
Implementacin
Hardware

Estn emergiendo los chips basados en neuronas como

tambin las aplicaciones para la resolucin de problemas
complejos. Claramente, el presente es un perodo de
transicin para la tecnologa de las redes neuronales.

Ejemplos
Futuras Tendencias
y Conclusin

Prediccin 1

Prediccin 2

Realidades alternativas
producidas por entornos
sensitivos.

Integracin de la
Inteligencia Artificial con
la vida orgnica.

Prediccin 3
Nuevas interfases
mquina-hombre.

Integrantes
Aguilera Fernndez Oscar A.
Carbajal Coronado Jaime F.
Chvez Mendoza Diana
Leal Aranda Liliana A.
Karla Gpe. Montes de Oca Lima