ASrank

Carlos Carlim

Introduo
Emisso acstica 19 parmetros de entrada 3 classes
Sem propagao - SP Propagao Estvel - PE Propagao Instvel - PI

Metodologia

Metodologia
Dividida em duas etpas
Avaliao do ASrank com os dados da Iris. Comparao entre ASrank, ASrank + BP e BP
Tabelas de confuso
Com reclassificao Sem reclassificao

Algoritmo
2007, Bullnheimer et al.

Treinamento com Iris data

Parmetros
60 formigas Taxa de evaporao = 0.99 Q = 0.05 = 30 Camada escondida = 1 Neurnios na camada escondida = 6 500 iteraes

Resultados
Treinamento com os dados da Iris. Aps ajustados os parmetros: 5 treinamentos
MSE mdio Com reclassificao Sem reclassificao ACERTO mdio 96% 0,14129 91% STD mdio 1,2% 4,79%

Resultados Iris
dados Iris - acertos mdio = 96% Classe 1 Classe 1 Classe 2 Classe 3 99,50% 0,00% 0,00% Classe 2 0,50% 94,00% 5,50% Classe 3 0,00% 6,00% 94,50%

desvio padro total = 1,22% Classe 1 Classe 2 Classe 1 Classe 2 Classe 3 1,00% 0,00% 0,00% 1,00% 3,27% 1,00%

Classe 3 0,00% 3,27% 1,00%

Resultados Iris
dados Iris - acertos mdio = 91% SP PE PI NC 4,17%

SP PE
PI

99% 0%
0%

1% 94%
5%

0% 6%
95%

desvio padro total = 4,79% SP PE

PI

NC

SP
PE PI

1,10%
0,00% 0,00%

1,10%
4,59% 1,90%

0,00%
4,59% 1,90% 5,15%

Treinamento com os dados de EA

Parmetros
60 formigas Taxa de evaporao = 0.92 Q = 0.05 = 10 Camada escondida = 1 Neurnios na camada escondida = 6 150 iteraes 3000 pocas para o backpropagation 1000 pocas para o ASrank + BP

Resultados
Treinamento com os dados de EA. Aps ajustados os parmetros: 5 grupos, na proporo 80/20
Algoritmo MSE mdio Com reclassificao ACERTO mdio STD mdio Sem reclassificao ACERTO mdio STD mdio

Backprop
ASrank Asrank + BP

0,2903 0,5779 0,3056

91%
69% 83%

0,27%
1,33% 4,56%

91%
67% 80%

0,28%
4,21% 7,63%

Resultados EA
media de acertos treinamento BP dados treino - acertos = 91,33% dados teste - acertos = 90,96% SP PE PI SP PE PI

SP
PE PI

93,14%
9,69% 0,74%

6,58%
86,27% 3,85%

0,27%
4,05% 95,40%

SP
PE PI

93,01%
9,10% 1,35%

6,67%
86,51% 6,49%

0,32%
4,39% 92,16%

media de acertos treinamento ASrank dados treino - acertos = 68,9% dados teste - acertos = 68,3% SP PE PI SP PE PI SP 99,6% 0,2% 0,2% SP 99,3% 0,3% 0,4% PE 85,8% 9,2% 4,9% PE 87,4% 8,4% 4,0% PI 22,7% 21,3% 55,9% PI 22,7% 20,3% 56,8%

media de acertos treinamento Asrank + BP dados treino - acertos = 82,9% dados teste - acertos = 82,1% SP PE PI SP PE PI SP 92,62% 7,22% 0,16% SP 93,21% 6,62% 0,16% PE 21,79% 75,77% 2,44% PE 22,10% 75,58% 2,32% PI 14,08% 39,91% 46,01% PI 17,89% 43,12% 38,99%

Resultados EA
desvio padro treinamento BP dados treino SP PE SP PE PI 0,27% 0,41% 0,97% 0,30% 0,38% 0,92% PI 0,08% 0,44% 1,17% SP PE PI dados teste SP PE 1,07% 2,23% 2,23% 1,23% 2,21% 3,75% PI 0,25% 1,12% 3,66%

desvio padro treinamento ASrank dados treino SP PE SP PE PI 0,30% 6,46% 4,15% 0,43% 9,07% 20,14% PI 0,13% 4,58% 16,44% SP PE PI dados teste SP PE 0,21% 7,07% 3,48% 0,53% 9,08% 18,13% PI 0,36% 4,10% 18,70%

desvio padro treinamento Asrank + BP dados treino SP PE 0,70% 0,78% 7,46% 4,85% 22,07% 36,50%

SP PE PI

PI 0,14% 3,94% 44,18%

SP PE PI

dados teste SP PE 1,50% 1,22% 8,33% 6,54% 20,04% 35,71%

PI 0,27% 3,36% 45,13%

Resultados EA
mdia de acertos treinamento BP dados treino - acertos = 91% dados teste - acertos = 91% SP PE PI NC SP PE PI NC SP 92,2% 6,4% 0,3% SP 93,0% 6,1% 0,3% 0,30% PE 9,7% 86,7% 4,0% PE 8,9% 84,0% 4,2% 0,3% PI 0,7% 3,8% 95,4% PI 1,4% 7,6% 91,4%
media de acertos treinamento ASrank dados treino - acertos = 67,2% SP SP PE PI 99,6% 86,0% 22,3% PE 0,2% 10,2% 20,7% PI 0,2% 3,8% 57,0% 4,9% NC SP PE PI dados teste - acertos = 66,8% SP 99,3% 87,8% 21,6% PE 0,3% 8,6% 20,4% PI 0,4% 3,7% 58,0% 5,3% NC

media de acertos treinamento Asrank + BP

dados treino - acertos = 80,2% SP PE PI SP 23,1% 1,6% 0,0% PE 4,6% 17,1% 0,5% PI 0,8% 6,1% 10,2% NC 5,1% dados teste - acertos = 79,4% SP PE PI SP 90,4% 5,6% 0,2% PE 19,4% 70,2% 2,4% PI 6,8% 27,0% 38,3% NC 5,2%

Resultados EA
desvio padro treinamento BP tabela confusao dados treino SP PE PI SP PE PI 0,32% 0,42% 0,98% 0,32% 0,41% 0,78% 0,08% 0,42% 1,12% 0,21% NC tabela confusao dados teste SP PE PI SP PE PI 1,07% 2,30% 2,30% 1,23% 2,23% 3,77% 0,25% 1,06% 3,72% 0,2% NC

desvio padro treinamento ASrank tabela confusao dados treino SP PE PI SP 0,30% 0,43% 0,14% PE 6,49% 8,99% 3,97% PI 3,94% 19,64% 18,09% NC 9,18% tabela confusao dados teste SP PE PI SP 0,20% 0,53% 0,36% PE 7,18% 9,64% 4,12% PI 7,40% 17,58% 21,44% NC 0,4%

desvio padro treinamento Asrank + BP tabela confusao dados treino SP PE PI NC 1,57% 1,66% 0,15% 6,60% 4,25% 3,44% 4,94% 17,27% 41,39% 37,91% tabela confusao dados teste SP PE 2,40% 2,14% 8,24% 6,60% 18,07% 36,05% PI NC 0,27% 3,31% 6,2% 36,98%

SP PE PI

SP PE PI

Tempo de algoritmo
Backpropagation 57,47 s Asrank 239,52 s Asrank + Backpropagation 258,09s Computador
CPU Intel core i5 1.33GHz Memria 4 GB DDR3 Windows 7

Concluses
Parmetros
Sigma
Tem que ser ajusta de acordo com o nmero de formigas e tipo de dados.

Taxa de evaporao do feromnio.

Quanto menor, mais rpida convergncia. Pode cair em um mnimo local. Quanto maior, mais difcil convergir.

Q
Quanto maior mais rpido converge. Foi usado um valor 10 vezes menor que o recomendado no artigo.

Formigas
Quanto maior o nmero de formiga maior o tempo em cada iterao. Ultrapassar o valor utilizado nos experimentos no contribuiu para melhora do resultado

Concluses
Algoritmos
ASrank
Resultados muito abaixo do encontrado no backpropagation

ASrank + BP
Resultados melhores, mas a qualidade final do resultado depende do bom resultado gerado pelo ASrank. STD muito elevado

Concluses
A partir dos resultados obtidos, o ASrank no um bom algoritmo de treinamento pra sinais de emisso acstica.

Referncias
Bullnheimer, A New Rank Based Version of the Ant System A Computational Study, 1997 Liu, Evolving Neural Networks Using the Hybrid of Ant Colony Optimization and BP Algorithms, 2006 Dorigo, Ant Colony Optimization, 2004