INTELIGNCIA ARTIFICIAL

AULA 4
Msc. Daniele Carvalho Oliveira Doutoranda em Cincia da Computao - UFU Mestre em Cincia da Computao UFU Bacharel em Cincia da Computao - UFJF

PROPRIEDADES DOS AMBIENTES DE TAREFA

Inteligncia Artificial: Msc. Daniele C. Oliveira

Observvel x Parcialmente Observvel Determinstico x Estocstico Episdico x Sequencial Esttico x Dinmico Discreto x Contnuo Agente nico x Multiagente

FORMAS DE APRENDIZADO
Inteligncia Artificial: Msc. Daniele C. Oliveira

Aprendizado Supervisionado
Aprendizado No Supervisionado Aprendizado Por Reforo

Inteligncia Artificial: Msc. Daniele C. Oliveira

RVORES DE DECISO
4

RVORES DE DECISO

Uma das formas de algoritmo de aprendizado mais simples e de maior sucesso. Uma rvore de deciso tem como entrada um objeto ou situao descritos por um conjunto de atributos e como sada uma deciso (previso do valor de sada dada a entrada).

Uma rvore de deciso toma as suas decises atravs de uma sequncia de testes.

RVORES DE DECISO

Cada n interno da rvore corresponde a um teste do valor de uma propriedade.

Ramo

Raiz

Ramo

Os ramos dos ns so rotulados com os resultados possveis do teste. Cada n folha da rvore especfica o valor a ser retornado se aquela folha for alcanada.
Ramo

Ramo

Ramo

Ramo

Folha

Folha

Ramo

A representao de uma rvore de deciso bem natural para os seres humanos.

EXEMPLO RESTAURANTE
Problema:

Esperar por uma mesa em um restaurante. objetivo aprender uma definio para o predicado vai esperar. necessrio definir quais atributos esto disponveis para descrever alguns exemplos nesse domnio.

Primeiramente

EXEMPLO RESTAURANTE

Atributos:

Alternativa: Verdadeiro se existe um restaurante alternativo adequado nas proximidades. Bar: Verdadeiro se o restaurante tem uma rea de bar confortvel para ficar esperando. Sex/Sab: Verdadeiro se o dia da semana for sexta ou sbado. Faminto: Verdadeiro se estamos com fome. Pessoas: Quantas pessoas esto no restaurante (os valores so Nenhuma, Algumas e Cheio). Preo: Preo do restaurante de ($, $ $, $$$). Chuva: Verdadeiro se est chovendo l fora. Reserva: Verdadeiro se ns fizemos uma reserva. Tipo: Tipo de restaurante (Francs, Italiano, Tailands, Hambrguer). EstimativaEspera: Tempo de espera estimado (00-10, 10-30, 30-60, > 60 minutos).

EXEMPLO RESTAURANTE
Pessoas?
Nenhuma Algumas Cheio

No

Sim

EstimativaEspera?
>60

30-60

10-30

0-10

No

Alternativa?
No Sim

Faminto?
No Sim

Sim

Reserva?
No Sim

Sex/Sab?
No Sim

Sim

Alternativa?
No Sim

Bar?
No Sim

Sim

No

Sim

Sim

Chovendo?
No Sim

No

Sim

No

Sim

EXPRESSIVIDADE DE RVORES DE DECISO

Inteligncia Artificial: Msc. Daniele C. Oliveira

Qualquer hiptese de rvore de deciso especfica para o predicado meta VaiEsperar pode ser vista como uma assero da forma:

Onde cada condio Pi(s) uma conjuno de testes que pode corresponde a um caminho da raiz at uma folha da rvore com resultado positivo

10

EXPRESSIVIDADE DE RVORES DE DECISO

Inteligncia Artificial: Msc. Daniele C. Oliveira

Uma rvore de deciso

Descreve um relacionamento entre o predicado meta E alguma combinao lgica de atributos

No podemos utilizar rvores de deciso para representar testes que se referem a dois ou mais objetos diferentes

11

EXPRESSIVIDADE DE RVORES DE DECISO

Inteligncia Artificial: Msc. Daniele C. Oliveira

Qualquer funo booleana pode ser escrita como uma rvore de deciso Cada linha da TV = um caminho na rvore
Representao exponencialmente grande TV nmero exponencial de linhas

rvores de deciso servem para alguns tipos de funes e no so boas para outros Infelizmente no existe uma espcie de representao que seja eficiente para todos os tipos de funes

12

GERANDO RVORES DE DECISO A PARTIR DE EXEMPLOS

possvel gerar uma rvore de deciso a partir de um conjunto de exemplos. Exemplos positivos so aqueles que levam a uma resposta positiva. Exemplo: vai esperar = Sim. Exemplos negativos so aqueles que levam a uma resposta negativa. Exemplo: vai esperar = No.

CONJUNTO DE TREINAMENTO
Atributos
Exemplo
X1 X2 X3 X4 X5 X6 X7

Obj. Chov.
No No No Sim No Sim

Alt.
Sim Sim No Sim Sim No

Bar
No No Sim No No Sim

S/S
No No No Sim Sim No

Fam.
Sim Sim No Sim No Sim

Pes.
Algumas Cheio Algumas Cheio Cheio Algumas Nenhum a Algumas Cheio Cheio Nenhum a Cheio

Pre.
$$$ $ $ $ $$$ $$

Res.
Sim No No No Sim Sim

Tipo
Fran. Tai. Ham. Tai. Fran. Ital.

Est.
0-10 30-60 0-10 10-30 >60 0-10

Esp.
Sim No Sim Sim No Sim

No
No No Sim

Sim
No Sim Sim

No
No Sim Sim

No
Sim No Sim

$
$$ $ $$$

Sim
Sim Sim No

No
Sim No Sim

Ham.
Tai. Ham. Ital.

0-10
0-10 >60 10-30

No
Sim No No

X8
X9 X10 X11

No
Sim

No
Sim

No
Sim

No
Sim

$
$

No
No

No
No

Tai.
Ham.

0-10
30-60

No
Sim

X12

GERANDO RVORES DE DECISO A PARTIR DE EXEMPLOS

Seguindo o principio de Ockham, devemos encontrar a menor rvore de deciso que seja consistente com os exemplos de treinamento.

Qualquer fenmeno deve assumir apenas as premissas estritamente necessrias explicao do fenmeno e eliminar todas as que no causariam qualquer diferena aparente nas predies da hiptese ou teoria.

A ideia bsica do algoritmo testar os atributos mais importantes primeiro.

O atributo mais importante aquele que faz mais diferena para a classificao de um exemplo.

Dessa forma, esperamos conseguir a classificao correta com um pequeno nmero de testes.

CONJUNTO DE TREINAMENTO
Atributos
Exemplo
X1 X2 X3 X4 X5 X6 X7

Obj. Chov.
No No No Sim No Sim

Alt.
Sim Sim No Sim Sim No

Bar
No No Sim No No Sim

S/S
No No No Sim Sim No

Fam.
Sim Sim No Sim No Sim

Pes.
Algumas Cheio Algumas Cheio Cheio Algumas Nenhum a Algumas Cheio Cheio Nenhum a Cheio

Pre.
$$$ $ $ $ $$$ $$

Res.
Sim No No No Sim Sim

Tipo
Fran. Tai. Ham. Tai. Fran. Ital.

Est.
0-10 30-60 0-10 10-30 >60 0-10

Esp.
Sim No Sim Sim No Sim

No
No No Sim

Sim
No Sim Sim

No
No Sim Sim

No
Sim No Sim

$
$$ $ $$$

Sim
Sim Sim No

No
Sim No Sim

Ham.
Tai. Ham. Ital.

0-10
0-10 >60 10-30

No
Sim No No

X8
X9 X10 X11

No
Sim

No
Sim

No
Sim

No
Sim

$
$

No
No

No
No

Tai.
Ham.

0-10
30-60

No
Sim

X12

GERANDO RVORES DE DECISO A PARTIR DE EXEMPLOS

17

Inteligncia Artificial: Msc. Daniele C. Oliveira

GERANDO RVORES DE DECISO A PARTIR DE EXEMPLOS

18

Inteligncia Artificial: Msc. Daniele C. Oliveira

EXERCCIO
Inteligncia Artificial: Msc. Daniele C. Oliveira

Fazer a representao dos atributos abaixo da forma especificada anteriormente

Chovendo? Reserva? Tipo? Tempo de espera?

Qual o atributo que separa melhor os exemplos?

19

ESCOLHA DOS ATRIBUTOS

Inteligncia Artificial: Msc. Daniele C. Oliveira

Depois da escolha do atributo clientes ficamos com um conjunto misto de exemplo se o valor for cheio Depois que o primeiro teste de atributo separa os exemplos, cada resultado um novo problema de aprendizagem em rvore de deciso

Com menos exemplos e um atributo a menos

20

CASOS A CONSIDERAR NA ESCOLHA DE UM

NOVO ATRIBUTO

Se existem alguns exemplos positivos e alguns negativos, escolha o melhor atributo para dividi-los Se todos os exemplos restantes forem positivos (ou negativos), terminamos Se no resta nenhum exemplo, nenhum exemplo deste tipo foi observado, retornamos a maioria do n pai No resta nenhum atributo mas h exemplos positivos e negativos descries iguais com classificaes diferentes = rudo nos dados

GERANDO RVORES DE DECISO A PARTIR DE EXEMPLOS

Pessoas?
Nenhuma Algumas Cheio

No

Sim

Faminto?
No Sim

No
Francs

Tipo?
Italiano Hambrguer Tailands

Sim

No

Sim

Sex/Sab?
No Sim

No

Sim

A RVORE RESULTANTE
Inteligncia Artificial: Msc. Daniele C. Oliveira

diferente da rvore original Mas a hiptese concorda com todos os exemplos E consideravelmente mais simples do que a rvore original Chovendo e Reserva ficaram de fora por a rvore no necessita deles para classificar os exemplos Mas nunca viu um caso de espera de 0-10 min e o restaurante cheio

Para um caso onde faminto falso a rvore de deciso informa que no devemos esperar
23

ESCOLHA DE TESTES DE ATRIBUTOS

Inteligncia Artificial: Msc. Daniele C. Oliveira

Esquema de aprendizagem da rvore de Deciso

Projetado para minimizar a profundidade da rvore final Ideia: escolher o atributo que melhor fornece uma classificao exata dos exemplos

Atributo perfeito: divide os exemplos em conjuntos que so todos positivos ou todos negativos

Clientes no perfeito, mas bastante bom

Atributo intil: deixa os conjuntos de exemplos com a mesma proporo do conjunto original

Tipo um atributo realmente intil

24

Inteligncia Artificial: Msc. Daniele C. Oliveira

Como medimos um atributo muito bom ou um atributo realmente intil A medida

Deve ter o valor mximo quando o atributo perfeito E o valor mnimo quando o atributo for completamente intil

Uma medida apropriada seria a quantidade esperada de informaes fornecidas pelo atributo

Isto feito por meio de probabilidades (matematicamente) e da teoria da informao

25

MEDINDO DESEMPENHO
Um

algoritmo de aprendizado bom se ele produz hipteses que conseguem prever a classificao de exemplos no vistos.

maneira mais simples de se medir o desempenho de um mtodo de aprendizado realizando a classificao de um conjunto de exemplos de teste.

MEDINDO DESEMPENHO

Processo de avaliao:
1.
2. 3. 4. 5.

Coletar um grande conjunto de exemplos Dividi-lo em dois conjuntos disjuntos

Conjunto de treinamento e conjunto de teste

Aplicar o algoritmo ao conjunto de treinamento, gerando uma hiptese h (rvore de Deciso) Medir a quantidade de exemplos do conjunto de teste classificados corretamente por h Repetir as etapas 2 a 4 para
Diferentes tamanhos de conjuntos de treinamento Diferentes conjs. de treinamento de cada tamanho

MEDINDO DESEMPENHO

Porcentagem de reconhecimento

Tamanho do Conjunto de Treinamento

EXERCCIO
Inteligncia Artificial: Msc. Daniele C. Oliveira

www.danieleoliveira.com.br

Graduao > Uniube - 2013 - 01 > Inteligncia Artificial > otas de Aula N

Ler: rvore de Deciso Analisar: Exemplo.ppt Fazer: Exercicio1.doc

29

Inteligncia Artificial: Msc. Daniele C. Oliveira

30

REDES NEURAIS ARTIFICIAIS

PRXIMA AULA

REFERNCIA
Inteligncia Artificial: Msc. Daniele C. Oliveira

Russel, Stuart e Norvig, Peter. Inteligncia Artificial. Campus-Elsevier. 2004. Traduo da 2a. Ed. Americana

31