Redes Neurais Redes Neurais

Prof. Germano CrispimVasconcelos Prof. Germano CrispimVasconcelos

gcv@cin.ufpe.br gcv@cin.ufpe.br ramal 21268430 r-4310 ramal 21268430 r-4310

9/5/2007 1

Objetivos da Disciplina (1)

Apresentar a filosofia da abordagem, principais fundamentos, modelos de Redes Neurais, aplicaes e desenvolvimento de solues (Conceitos - Teoria)

Objetivos da Disciplina (2)

Permitir ao aluno investigar de forma prtica a soluo de um problema usando Redes Neurais em uma aplicao de interesse ... Reconhecimento de padres Previso de sries temporais Processamento de imagens Minerao de dados e minerao na web Otimizao Controle (Projeto - Prtica)

Programa da Disciplina
1a Parte: Fundamentos
Aula 1 : Introduo e fundamentos matemticos Aula 2 : Fundamentos e modelos de aprendizagem

2a Parte: Arquiteturas e Modelos Redes feedforward

Aula 3 : Adaline e Perceptrons Aula 4 : Multilayer Perceptrons (MLP) Aula 5 : Redes de Funes de Base Radial (RBF) Aula 6 : Mquina de Vetores de Suporte (SVM)

Redes recorrentes

Aula 7 : Rede de Jordan Aula 8 : Rede de Elman e outros modelos

Redes auto-organizveis

Aula 9 : Modelo de Hopfield Aula 10 : Modelo de Kohonen Aula 11 : Modelos ART Redes construtivas Aula 12 : Cascade-correlation (CASCOR)

Programa da Disciplina
Lista de Exerccios - Valendo Nota

3a Parte: Desenvolvimento de Solues

Aula 13 : Aula 14 : Aula 15 : Aula 16 : Aplicaes Soluo de Problemas Pr-processamento de Dados Ps-processamento de Dados

Aula 17 : Reviso geral Aula 18 : 1o Exerccio Escolar

4a Parte: Tpicos Especiais (Seminrios)

Aula 19 : Aula 20 : Aula 21 : Aula 22 : Aula 23 : Sistemas Hbridos (Neuro-fuzzy, RN-AG, etc) Reconhecimento de Padres e Processamento de Imagens Otimizao e Controle Minerao de Dados Previso de Sries Temporais

Programa da Disciplina
5a Parte: Projeto
Aula 24 : Definio de Projeto em Aplicao do Mundo Real (tpicos dirigidos para interesses dos alunos) Aula 25 : Acompanhamento do Projeto Aula 26 : Acompanhamento do Projeto Aula 27 : Acompanhamento do Projeto Aula 28 : Acompanhamento do Projeto Aula 29 : Acompanhamento do Projeto Aula 30 : Acompanhamento do Projeto Aula 31 : Acompanhamento do Projeto Aula 32 : Entrega do Relatrio (2o Exerccio) Aula 33 : Exame Final

Material Didtico
Livro 1
Neural Computing : An Introduction. R. Beale, T. Jackson. (1990).

Livro 2
Redes Neurais Artificiais: Teoria e Aplicaes. Braga, A.P, Ludermir, T.B, Carvalho, A. F. (2000)

Livro 3
Neural Computation : A Comprehensive Foundation. Simon Haykin. (1993).

Outros Livros de Redes Neurais Listas de Exerccios

Interesses da Inteligncia Computacional

Automao de tarefas inteligentes Modelagem do processamento biolgico de informao Modelagem do processo cognitivo

Inteligncia Computacional
Objetiva a criao de modelos para a inteligncia e o desenvolvimento de sistemas baseados nestes modelos Investiga formas de habilitar o computador a realizar tarefas onde o ser humano tem um melhor desempenho

Inteligncia Computacional reas

Redes Neurais IA Simblica Teoria da Aprendizagem Computacional Reconhecimento de Padres Lgica Nebulosa/Difusa Algoritmos Genticos Sistemas Hbridos

Principais Abordagens
Abordagem Simblica Abordagem Conexionista Abordagem Estatstica

Abordagem Simblica
Toma como base a representao do mundo atravs de smbolos que representam conceitos. A manipulao destes smbolos permite a obteno de concluses e gerao de novos conhecimentos sobre o mundo.

Abordagem Simblica
Usurio Dados Mecanismo de Raciocnio Genrico
Base de Conhecimento Heurstica Aquisio do Conhecimento

Engenheiro do Conhecimento INTERFACE

Explicao do Raciocnio

Especialista

Dados Usurio

Explicaes

Pesquisa - IA Simblica
Aquisio do conhecimento Representao do conhecimento Mtodos de raciocnio Tratamento de Incerteza Aprendizagem e Adaptabilidade Sistemas Especialistas Capacidades sensrio-motoras

Aplicaes
Resoluo de problemas de diagnstico, previso, monitoramento, anlise, planejamento e projeto Traduo, interpretao e gerao de linguagem natural Jogos: xadrez, damas, go, etc. Minerao de dados e minerao na web Prova de teoremas, resoluo de equaes

Aplicaes
Otimizao e busca heurstica Auxlio educao, estratgias pedaggicas, modelagem do aluno Manipulao, navegao, monitoramento em Robtica Viso, tato, olfato, audio e paladar

Redes Neurais

Sobre Redes Neurais...

uma abordagem alternativa forma algortmica de resolver problemas
A partir de exemplos do problema

Fornecem solues particularmemte importantes onde no h como se definir regras

Em boa parte dos problemas do mundo real

Redes Neurais
Crebro como fonte de inspirao para o desenvolvimento de sistemas inteligentes
Sistemas paralelos distribudos compostos por unidades de processamento simples interligadas entre si e com o ambiente Conexes esto associadas a pesos que armazenam o conhecimento da rede Conhecimento Aprendizagem

Redes Neurais
Sistemas distribuidos inspirados no crebro humano que aprendem a resolver problemas extraindo informaes estatsticas do dados Virtudes Capacidade de aprender por exemplos e de se adaptar continuamente ao ambiente Habilidade para lidar com problemas complexos, imprecisos e ruidosos

Abordagem Conexionista
APRENDIZAGEM Dados (Treinamento) UTILIZAO Usurio

Dados Professor, Crtico, No-Supervisionado

Conhecimento representado nos pesos da rede

Pesos

Dados

Dados Dados

Comparador

Usurio

Redes Neurais Naturais

Neurnio Natural
Dendritos Axnio

Corpo

Sinal

Sinapse

Neurnio McCulloch-Pitts (MCP)

y

Reconhecimento de Padres
Peso Peso Bailarina Halterofilista

Altura

Visualizao do Treinamento
2 1 3

5 4 8
9/5/2007

7
26

Uma Viso Matemtica do MCP

f(x)=wi.xi - f(x)=(|W|.|X| cos) -
Considere o ponto onde f(x) = 0:

X2

Classe 1

f(x)

Classe 2

w1.x1 + w2.x2 - = 0 x2 = - w1/w2.x1 + / w2

X1

(y = m.x +c)

Reconhecimento de Padres
Peso Bailarina Halterofilista

Altura Largura da coxa

Classificadores lineares
X1
Classe 1

d1 + -

CLASSIFICAO

SINAL DA LINHA DE DECISO d1 d2 + + + + -

Classe 1 Classe 2 Classe 2 Classe 2

+ Classe 2 Classe 2

Classe 2

d2 X2

9/5/2007

29

Como Funciona uma Rede Neural ?

Soluo baseada na estatstica dos dados Capacidade de estabelecer relaes entre grande quantidade de variveis

ADIMPLENTE SEXO IDADE RENDA .....

INADIMPLENTE

conexes

Aplicaes

Animao Facial

Animao Vida Artificial

Organismos Evolutivos: Controle de Perseguio e Fuga

 Robtica ...

Leitura Labial

Converso de Sons para Imagens

Estimao de Trajetrias para Reconhecimento de Eventos

Monitoramento e Segurana

Realidade Virtual

Produo de Jogos e Histrias Interativas

The Sims

FIFA Soccer

Busca de Informao na Web

Previso
Como prever o valor do dlar amanh? Que dados so relevantes? H comportamentos recorrentes?

Deteco de Intruso e Filtragem de Spam

Como saber se uma mensagem lixo ou de fato interessa? Como saber se um dado comportamento de usurio suspeito e com lidar com isto?

Sistemas de Controle
Como brecar o carro sem as rodas deslizarem em funo da velocidade, atrito, ... Como focar a cmera em funo de luminosidade, distncia, ... Como ajustar a temperatura em funo da quantidade de roupa, fluxo de gua, ...

Recomendao de produtos
Recomendaes personalizadas de produtos... Modelagem dos perfis dos compradores...

Outras Aplicaes
Anlise de mercado Proc. voz Data mining

Anlise de crdito

Proc. sinais

Previso sries Det. fraudes

Diagnose mdica Interfaces

Rec. odores

O Mercado Mundial
Empresas ...
Fujitsu USAir
US supermarket chains

Microsoft

M&M/Mars Citibank

Visa

Britvic Soft Drinks Gerber Baby Foods

Mastercard Sharp Wal-Mart

Siemens

Barclays AT&T

Empresas Especializadas em Redes Neurais

HNC Corporation
Neuristics Corporation

Nestor Inc.

Visionics

PNNL BehavHeuristics Inc

Microsoft
NeuralWare

NeuroTech

Neural Applications Corp.

Siemens

AT&T

Retek

Caere

A Realidade no Brasil ...

Bancos Grupo Martins Empresas Atacadistas

CHESF e Celpe

Financeiras

Redes Varejistas Volkswagen

CDLs

Em Que o Grupo Desenvolve Pesquisas ...

Redes Neurais

Teoria

Aplicaes

Ferramentas

Equipe do CIn-UFPE (redes neurais)

Germano C. Vasconcelos (PhD, Kent - UK) Edson C.B. Carvalho Filho (PhD, Kent - UK) Paulo J. L. Adeodato (PhD, Kings College - UK) Teresa B. Ludermir (PhD, Imperial College - UK) Aluizio Arajo (PhD, Sussex - UK) George Darmiton (Doutor, CIn-UFPE)
Tsang Ing Ren