Aprendizagem de Máquina

Introdução

Clarimar J. Coelho
clarimarc@gmail.com

MEPROS

April 01, 2011

1 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Conhecimento é poder

I Chave da inovação e do lucro

2 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Obtenção conhecimento novo

I Pode ser complexo

I Demorado
I Dispendioso

3 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Você deve saber sobre aprender

I Esse não é um conceito esotérico

I É a chave para a geração de ideias

4 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Para o processo de melhoria

I Desenvolvimento de novos produtos e processos robustos

5 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Métodos estatísticos

I Projeto experimental catalisam o método científico e

aumentam sua eficiência

6 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Impulsionado pela iteração

Figure: Processo interativo de aprendizagem

7 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Idéia inicial (ou modelo ou hipótese ou teoria ou conjec-

tura)

I Conduzida por um processo de dedução por consequências

comparadas com dados
I Quando as consequências e os dados não concordam
I As discrepâncias podem ser conduzidas
I Por um processo de indução para modificação do modelo

8 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Idéia inicial (ou modelo ou hipótese ou teoria ou conjetura)

I Um segundo ciclo na iteração pode ser iniciado

I As consequências do modelo modificado são elaboradas
I Novamente, em comparação com os dados (antigos ou
recém-adquiridos)
I Pode levar a mais modificação e ganho de conhecimento
I O processo de aquisição de dados pode ser científico
experimentação da biblioteca ou da internet

9 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Aprendizagem dedutivo-indutivo: uma experiência de

aprendizagem

I O processo indutivo-dedutivo iterativo

I Orientado para a estrutura do cérebro humano é conhecido
desde a época de Aristóteles
I É parte de um experiência diária

10 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Processo de aprendizagem

Por exemplo

I Você estaciona seu carro todo dia de manhã em um

estacionamento
I Depois de sair trabalho, você segue a sequência de
aprendizado dedutivo-indutivo:
I Modelo: Hoje é como todos os dias
I Dedução: meu carro está no seu lugar no estacionamento
I Dados: não está
I Indução: Alguém deve ter levado ...

11 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

I É sobre prever o futuro com base no passado

12 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Arthur Samuel (1959)

I Field of study that gives computers the ability to learn

without being explicitly programmed

13 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Herbert Alexander Simon (1984)

I Learning denotes changes in the system that are adaptative

in the sense that they enable the system to do the same
task or tasks from the same population more efficiently and
more effectively the next time

14 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Tom M. Mitchell (1998)

I A computer program is said to learn E with respect to

some class of tasks T and performance measure P, if its
performance at tasks in T, as measured by P, improves
with experience E

15 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Em todos os casos

I Referem-se a habilidade de aprender a partir da experiência

sem qualquer ajuda externa
I O que os humanos fazem na maioria dos casos
I Por que não deveria ser o mesmo para as máquinas?

16 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Machine learning

I Is a multidisciplinary field created by intersection and

synergy between computer science, statistics, neurobiology,
and control theory
I It emergence has palyed a key role in several fields and has
fundamentally changed the vision of software programming
I If the question before was, How to program computer?
Now the question becomes, How will computers program
themselves?

17 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Machine learning

I Thus, it is clear that machine learning is a basic method

that allows a computer to have its own intelligence

18 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Machine learning

I As it migth be expected, machine learning interconnects

and coexists with the study of, and research on, human
learning
I Like humans, whose brain and neurons are the foundation
of insight, Arficial Neural Networks (ANNs) are the basis of
any decision-making activity of the computer

19 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

A partir de um conjunto de dados

I Pode-se encontrar um modelo que o descreva com o uso da

aprendizagem de máquina

20 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Exemplo

I Identificação da correspondência entre variáveis de entrada

e saída de um sistema
I A partir de algum tipo de mecanismo para a geração
paramétrica de dados
I Que não conhece os valores exatos dos parâmetros
I Técnicas estatísticas como indução, dedução e abdução a

a
Uma das três formas canônicas de inferência para estabelecer hipóteses
científicas.

21 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

A forma lógica é a seguinte

I Tem-se observado B (um conjunto de dados ou fatos) e A

podendo explicar B

É provável que A esteja certo

I Assim, a abdução é a inferência a favor da melhor explicação

I A hipótese A, ao ser verdadeira, explica B
I Nenhuma outra hipótese pode explicar tão bem B como A
I Logo, A é provavelmente verdadeira

22 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Triângulo de Peirce

I Esquema da relação entre o padrão de raciocínio

23 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Indução

I Extração de leis gerais de um conjunto de dados

I Opõe-se à dedução, em que, partindo das leis gerais
I Quer-se prever o valor de um conjunto de variáveis
I Mecanismo fundamental subjacente ao método científico
I Deriva leis gerais (descritas em linguagem matemática) a
partir da observação dos fenômenos

24 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Indução

I Observação: inclui a medida de um conjunto de variáveis

I Aquisição: da dados que descreve o fenômeno observado
I Modelo resultante: pode ser usado para fazer predições de
novos dados

25 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Inferência

I Processo que começa com um conjunto de observações

I Pode-se fazer predições para novas situações

26 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Aprendizagem indutiva

I Parte das observações decorrentes do ambiente

I Genelariza: obtendo conhecimento que será válido para
casos não observados ainda
I Pelo menos esperamos que sim

27 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina
Dois tipos de aprendizagem indutiva

Aprendizagem por exemplo

I Conhecimento adquirido começando por um conjunto de

exemplos positivos
I Instâncias do conceito a serem aprendidas
I Exemplos negativos que não são exemplos do conceito

28 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina
Dois tipos de aprendizagem indutiva

Aprendizagem por regularidade

I Não é um conceito para aprender

I Encontra regularidade (características comuns) nas
instâncias fornecidas

29 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina
Dois tipos de aprendizagem indutiva

Tipos de aprendizagem indutiva

30 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Pergunta surge de forma espontânea

I Por que os sistemas de aprendizagem de máquinas

funcionam?
I Por que algoritmos tradicionais falham?
I As razões para o fracasso dos algoritmos tradicionais são
muitas

31 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Fracasso dos algoritmos tradicionais

I Dificuldade de formalização dos problemas

I Grande número de variáveis
I Falta de teoria
I Necessidade de customização

32 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Dificuldade de formalização dos problemas

I Somos capazes de reconhecer nossos amigos por sua voz

I É difícil alguém descrever a sequência de passos
computacionais para que ele reconheça a fala a partir do
som gravado

33 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Grande número de variáveis

I Reconhecimento de caracteres em um documento

I Especificar todos os parâmetros que se pensa estarem
envolvidos pode ser complexo
I A mesma formalização aplicada no mesmo contexto, mas
em um idioma diferente, pode ser inadequada

34 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Falta de teoria

I Prever exatamente o desempenho do mercado financeiro na

ausência de leis matemáticas específicas

35 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina

Necessidade de customização

I A distinção entre características interessantes e

desinteressantes
I Depende da percepção do usuário individual

36 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de
aprendizagem de máquina

37 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de aprendizagem de máquina

O poder da aprendizagem de máquina

I Devido a qualidade dos seus algoritmos

I São melhorados e atualizados ao longo dos anos
I Depende da natureza do sinal usado para aprender ou do
tipo de feedback adotado pelo sistema

38 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de aprendizagem de máquina

São do tipo

I Aprendizagem supervisionada
I Aprendizagem não supervisionada
I Aprendizagem por reforço

39 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de aprendizagem de máquina

Aprendizagem supervisionada

I Algoritmo gera uma função que liga valores de entrada a

uma saída desejada
I Observando um conjunto de exemplos onde cada entrada
de dados
I Tem seus dados de saída relativos
I Estruturar modelos preditivos

40 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de aprendizagem de máquina

Aprendizagem não supervisionada

I Algoritmo tenta derivar o conhecimento de uma entrada

geral
I Sem a ajuda de um conjunto de exemplos pré-classificados
I Que são usados para construir modelos descritivos
I Mecanismos de busca

41 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de aprendizagem de máquina

Aprendizagem por reforço

I Algoritmo é capaz de aprender dependendo das mudanças

que ocorrem no ambiente em que é executado
I Uma vez que cada ação tem algum efeito sobre o meio
ambiente em questão, o algoritmo é conduzido pelo mesmo
ambiente de feedback
I Reconhecimento de fala ou texto

42 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de aprendizagem de máquina

Tipos de algoritmos de aprendizagem de máquina

43 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Diferentes tipos de aprendizagem de máquina

Aprendizagem supervisionada

I Algoritmo é capaz de aprender dependendo das mudanças

que ocorrem no ambiente em que é executado
I Cada ação tem algum efeito sobre o meio ambiente em
questão
I O algoritmo é conduzido pelo mesmo ambiente de feedback
I Reconhecimento de fala ou texto

44 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem supervisionada

Técnica que visa produzir

I Sistema de informática para solução automática de tarefas

I X - dados de entrada
I Y - dados de saída
I Define-se uma função f que associa cada entrada x com a
resposta correta y

45 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem supervisionada

Fuxo de trabalho

46 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem supervisionada

Algoritmos supervisionados são baseados na tese

I Se um algoritmo fornecer uma quantidade adequada de

exemplos
I Pode criar uma função derivada B que se aproxima da
função desejada A
I Se a aproximação da função desejada for adequada
I Quando os dados de entrada forem oferecidos à função
derivada
I A função deve ser capaz de fornecer respostas de saída
semelhantes às fornecidas pela função desejada e depois
aceitáveis

47 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem supervisionada

Algoritmos baseiam-se no conceito

I Entradas similares correspondem a saídas similares

I No mundo real, essa suposição não é válida
I Porém, existem algumas situações em que é aceitável

48 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem supervisionada

Muitas entradas podem torná-lo lento

I Bom funcionamento de tais algoritmos depende dos dados

de entrada
I Se houver apenas algumas entradas de treinamento
I A função derivada gerada por um grande número de
entradas pode ser muito complicada

49 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem supervisionada

A experiência mostra

I Esse tipo de algoritmo é muito sensível a ruído

I Mesmo alguns dados incorretos podem tornar o sistema
inteiro pouco confiável e levar decisões erradas

50 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem supervisionada

Divisão dos problemas com base na natureza dos dados

I Se o valor de saída for categórico: associação/não

associação a uma determinada classe
I Então, o problema é de classificação
I Se a saída for um valor real contínuo em um determinado
intervalo
I Então, é um problema de regressão

51 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem não supervisionada

Extração automática de informações de bancos de dados

I O processo ocorre sem conhecimento prévio dos conteúdos

a serem analisados
I Ao contrário do aprendizado supervisionado
I Não há informações sobre as classes de membros dos
exemplos
I Geralmente na saída correspondente a uma determinada
entrada

52 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem não supervisionada

Objetivos

I Obter um modelo capaz de descobrir propriedades

interessantes: grupos com características semelhantes
(clustering)

53 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem não supervisionada

Mecanismos de pesquisa

I Dada uma ou mais palavra-chave

I São capazes de criar uma lista de links relacionados à nossa
pesquisa

54 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem não supervisionada

A validade desses algoritmos

I Depende da utilidade das informações que podem ser

extraida dos bancos de dados
I Comparam dados e procuram semelhanças ou diferenças
I Dados disponíveis dizem respeito apenas ao conjunto de
recursos que descrevem cada exemplo

55 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem não supervisionada

Eficientes com elementos de tipo numérico

I Menos precisos com dados não-numéricos

I Funcionam corretamente na presença de dados
I Contém uma ordem ou um agrupamento claro e é
claramente identificável

56 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem por reforço

Algoritmos que aprendem e se adaptam às mudanças am-

bientais

I Baseiam-se no conceito de receber estímulos externos

dependendo das escolhas do algoritmo
I Escolha correta da prémio
I Eescolha incorreta dá penalidade
I Objetivo é conseguir o melhor resultado possível

57 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem por reforço

Existe um professor

I Informa o sistema que é o resultado correto (aprendendo

com um professor)
I Isto nem sempre é possível
I As vezes, temos apenas informações qualitativas (às vezes
binárias, certas/erradas ou sucesso/falha)

58 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem por reforço

Informação disponível é chamada de sinais de reforço

I Sistema não fornece nenhuma informação sobre como

atualizar o comportamento do agente (isto é, pesos)
I É definida uma função de custo ou um gradiente
I Objetivo é criar os agentes inteligentes que possuem uma
maquinaria capaz de aprender com a experiência

59 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem por reforço

Como o reforço da aprendizagem interage com o ambiente

60 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

61 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Qual é o algoritmo certo para minhas necessidades?

I Infelizmente, não existe uma resposta comum para todos

62 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Depende. Depende do que?

I Dos dados disponíveis: tamanho, qualidade e natureza dos

dados
I Do que queremos fazer com a resposta
I De como o algoritmo foi expresso nas instruções para o
computador
I De quanto tempo temos
I Não existe o melhor método ou tamanho único

63 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Entender o que é mais adequado às nossas necessidades

I Podemos realizar uma análise preliminar

I Começando como o que temos (dados)
I Quais ferramentas temos disponíveis (algoritmos)
I Quais objetivos estabelecemos para nós mesmos
(resultados)
I Podemos obter informações úteis sobre o caminho a seguir

64 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Se começarmos a partir do que temos (dados)

I Temos um problema de classificação e duas opções estão
disponíveis:
I Classificação baseada na entrada
I Classificação baseada na saída

65 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Classificação baseada na entrada

I Problema de aprendizagem supervisionada

I Se pudermos rotular os dados de entrada
I Se não podemos rotular os dados de entrada
I Queremos encontrar a estrutura do sistema
I Temos um problema não supervisionado

66 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Classificação baseada na saída

I Se no modelo a saída é um número

I Temos um problema de regressão

67 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Temos um problema de classificação

I Se a saída do modelo for uma classe

68 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Temos um problema de agrupamento

I Se a saída do modelo for um conjunto de grupos de entrada

69 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Análise preliminar

70 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Depois de classificar o problema

I Podemos analisar as ferramentas disponíveis para resolver o

problema específico
I Podemos identificar os algoritmos que são aplicáveis
I Focar nosso estudo nos métodos a serem implementados
I Para aplicar essas ferramentas ao nosso problema

71 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Escolhendo o algoritmo certo

Tendo identificado as ferramentas

I Precisamos avaliar seu desempenho

I Aplicamos os algoritmos selecionados no banco de dados à
nossa disposição
I Depois, com base no desempenho de uma série de critérios
de avaliação
I Selecionados e fazemos uma comparação do desempenho
de cada algoritmo

72 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Como construir modelos de

aprendizagem de máquina passo
a passo

73 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

Algoritmo para os dados é escolhido

I Passos para o desenvolvimento de um algoritmo para AM

I Coleta de dados
I Preparação dos dados
I Exploração dos dados
I Treinamento do algoritmo
I Teste do algoritmo
I Avaliação do algoritmo
I Melhora do algoritmo

74 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

75 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

Coleta de dados

I Tudo começa a partir dos dados, sem dúvida

I De onde são provenientes tantos dados
I Na prática, é coletado através de longos procedimentos que
podem, por exemplo, campanhas de medição ou entrevistas
presenciais
I Em todos os casos, os dados são coletados em um banco
de dados para que ele possa então ser analisado para obter
conhecimento

76 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

Preparação dos dados

I Reunimos os dados
I Ter certeza de que está em um formato utilizável pelo
algoritmo que queremos usar
I Para fazer isso, talvez seja necessário organizar em algum
formato
I Alguns algoritmos precisam de dados em um formato
inteiro, enquanto outros exigem dados sob a forma de
strings e, finalmente, outros precisam estar em um formato
especial
I Vamos ver isso mais tarde, mas o formato específico
geralmente é simples em comparação com a coleta de
dados

77 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

Treinamento do algoritmo

I Agora a coisa fica séria

I Nesta etapa, o aprendizado da máquina começa a trabalhar
com a definição do modelo e do próximo treinamento
I O modelo começa a extrair o conhecimento de grandes
quantidades de dados e nada foi explicado até agora
I Para uma aprendizagem não supervisionada, não existe o
passo de treinamento porque não temos um valor alvo

78 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

Teste do algoritmo

I Usamos as informações aprendidas no passo anterior para

ver se o modelo funciona
I A avaliação de um algoritmo é para ver quão bem o
modelo se aproxima do sistema real
I No caso da aprendizagem supervisionada, temos alguns
valores conhecidos que podemos usar para avaliar o
algoritmo
I Na aprendizagem sem supervisão, podemos usar algumas
outras métricas para avaliar o sucesso
I Em ambos os casos, se não estivermos satisfeitos, podemos
retornar às etapas anteriores, mudar algumas coisas e
tentar novamente o teste

79 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

Avaliação do algoritmo

I Chegamos ao ponto em que podemos aplicar o que foi feito

até agora
I Podemos avaliar a capacidade de aproximação do modelo,
aplicando-o a dados reais
I O modelo, preventivamente treinado e testado, é então
avaliado

80 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Construção de modelos de AM passo a passo

Melhora do algoritmo

I Finalmente, podemos nos concentrar nos passos de

acabamento
I Verificamos que o modelo funciona
I Avaliamos o desempenho
I Estamos prontos a analisar todo o processo para identificar
qualquer espaço de melhoria possível

81 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina com

MATLAB

82 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina com MATLAB

Até agora..

I Aprendemos o que os algoritmos de aprendizagem de

máquinas fazem
I Entendemos como reconhecer os diferentes tipos
I Como localizar a solução certa para nossas necessidades
I Como configurar um fluxo de trabalho adequado
I É hora de aprender a fazer tudo isso no matlab

83 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina com MATLAB

Matlab (Matrix Laboratory)

I Ambiente forte para a exploração interativa

I Possui inúmeros algoritmos e aplicativos para ajudá-lo a
começar a usar técnicas de aprendizado de máquinas
I Algoritmos de agrupamento, classificação e regressão
I Aplicativo de rede neural
I Aplicativo de ajuste de curva
I Aplicativo aprendizagem de classificação

84 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina com MATLAB

Caixa de ferramentas de aprendizagem de máquina e es-

tatística

I Contém todas as ferramentas necessárias para extrair

conhecimento de grandes conjuntos de dados
I Fornece funções e aplicativos para analisar, descrever e
modelar dados
I Iniciar análise de dados exploratórios torna-se fácil com os
gráficos de estatística descritiva
I Distribuições de probabilidade adequadas aos dados, a
geração de números aleatórios e a realização de testes de
hipóteses serão extremamente fáceis
I Através dos algoritmos de regressão e classificação,
podemos desenhar interfaces a partir de dados e construir
modelos preditivos
85 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina com MATLAB

Mineração de dados

I A caixa de ferramentas de Aprendizagem de máquina e

estatística oferece regressão gradual (stepwise regression)
análise de componentes principais (PCA), regularização e
outros métodos de redução de dimensionalidade que
permitem a identificação de variáveis ou funções que
afetam seu modelo

86 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Aprendizagem de máquina com MATLAB

Mineração de dados

I Nesta caixa de ferramentas são desenvolvidos algoritmos de

aprendizado de máquinas supervisionados e não
supervisionados, incluindo o Support Vector Machine
(SVM), a árvore de decisão, o vizinho mais próximo
(k-NN), k-means, k-medoids, agrupamento hierárquico,
Gaussian Mixture Models (GMM) , e os modelos
escondidos de Markov (HMM). Através do uso de tais
algoritmos, os cálculos em conjuntos de dados que são
muito grandes para serem armazenados na memória podem
ser executados corretamente. Na captura de tela a seguir,
os recursos do produto da Statistical Machine Learning
Toolbox, retirados da ..

87 / 88
Introdução Aprendizagem de máquina Diferentes tipos de aprendizagem de máquina Escolhendo o algoritmo certo Como construir modelos

Exercício da unidade

Escrever uma síntese de artigo

I Dutton, D. M., Conroy, G. V., A review of machine

learning, The Knowledge Engineering Review, v. 12:4, p.
341-367, 1996.
I Data da entrega: 12/03

88 / 88