Universidade do Estado do Rio de Janeiro

Centro de Tecnologia e Ciências

Faculdade de Engenharia
Programa de Pós-Graduação em Engenharia Eletrônica

Resultados experimentais da filtragem adaptativa

referente à componente meridional do vento para
os anos de 2009 e 2010.

Aluno: Leandro Ferreira Gentile Pinto

Orientadores: Michel Tcheou e Lisandro Lovisolo
1) Gráficos das séries temporais relativas à componente meridional do vento (vvel).
O procedimento realizado nesta etapa se baseia na utilização de coeficientes
otimizados da filtragem adaptativa via algoritmo RLS (Recursive Least Squares) para o
ano de treinamento e sua aplicação no ano de ajuste (por exemplo, os coeficientes
otimizados no ano de 2008 serão aplicados no ano de 2009). Após a aplicação do filtro
com estes coeficientes no ano de ajuste e utilização da IDCT-2D, é possível ilustrar séries
temporais para os 20 níveis de pressão atmosférica, apresentando as séries do modelo Eta
antes e após o ajuste, para analisar se há aproximação com as séries do modelo NCEP.

1.1) Séries temporais da componente meridional do vento para o ano de ajuste de

2009.

Figura 1. Série temporal no nível de pressão 50 hPa (ano de 2009).

Figura 2. Série temporal no nível de pressão 100 hPa (ano de 2009).

Figura 3. Série temporal no nível de pressão 150 hPa (ano de 2009).

Figura 4. Série temporal no nível de pressão 200 hPa (ano de 2009).

Figura 5. Série temporal no nível de pressão 250 hPa (ano de 2009).

Figura 6. Série temporal no nível de pressão 300 hPa (ano de 2009).

Figura 7. Série temporal no nível de pressão 350 hPa (ano de 2009).

Figura 8. Série temporal no nível de pressão 400 hPa (ano de 2009).

Figura 9. Série temporal no nível de pressão 450 hPa (ano de 2009).

Figura 10. Série temporal no nível de pressão 500 hPa (ano de 2009).
Figura 11. Série temporal no nível de pressão 550 hPa (ano de 2009).

Figura 12. Série temporal no nível de pressão 600 hPa (ano de 2009).
Figura 13. Série temporal no nível de pressão 650 hPa (ano de 2009).

Figura 14. Série temporal no nível de pressão 700 hPa (ano de 2009).
Figura 15. Série temporal no nível de pressão 750 hPa (ano de 2009).

Figura 16. Série temporal no nível de pressão 800 hPa (ano de 2009).
Figura 17. Série temporal no nível de pressão 850 hPa (ano de 2009).

Figura 18. Série temporal no nível de pressão 900 hPa (ano de 2009).
Figura 19. Série temporal no nível de pressão 925 hPa (ano de 2009).

Figura 20. Série temporal no nível de pressão 1000 hPa (ano de 2009).
1.2) Séries temporais da componente meridional do vento para o ano de ajuste de
2010.

Figura 21. Série temporal no nível de pressão 50 hPa (ano de 2010).

Figura 22. Série temporal no nível de pressão 100 hPa (ano de 2010).
Figura 23. Série temporal no nível de pressão 150 hPa (ano de 2010).

Figura 24. Série temporal no nível de pressão 200 hPa (ano de 2010).
Figura 25. Série temporal no nível de pressão 250 hPa (ano de 2010).

Figura 26. Série temporal no nível de pressão 300 hPa (ano de 2010).
Figura 27. Série temporal no nível de pressão 350 hPa (ano de 2010).

Figura 28. Série temporal no nível de pressão 400 hPa (ano de 2010).
Figura 29. Série temporal no nível de pressão 450 hPa (ano de 2010).

Figura 30. Série temporal no nível de pressão 500 hPa (ano de 2010).
Figura 31. Série temporal no nível de pressão 550 hPa (ano de 2010).

Figura 32. Série temporal no nível de pressão 600 hPa (ano de 2010).
Figura 33. Série temporal no nível de pressão 650 hPa (ano de 2010).

Figura 34. Série temporal no nível de pressão 700 hPa (ano de 2010).
Figura 35. Série temporal no nível de pressão 750 hPa (ano de 2010).

Figura 36. Série temporal no nível de pressão 800 hPa (ano de 2010).
Figura 37. Série temporal no nível de pressão 850 hPa (ano de 2010).

Figura 38. Série temporal no nível de pressão 900 hPa (ano de 2010).
Figura 39. Série temporal no nível de pressão 925 hPa (ano de 2010).

Figura 40. Série temporal no nível de pressão 1000 hPa (ano de 2010).
2) Histograma do erro quadrático médio (MSE) relacionados aos anos de ajuste
(2009 e 2010).

O objetivo desta seção é apresentar o comportamento dos histogramas do erro

quadrático médio das séries temporais antes e após ao ano de ajuste e, portanto, verificar
se há a redução de erros das séries do modelo Eta ajustadas em comparação com as séries
do modelo NCEP.

2.1) Histogramas do MSE para o ano de ajuste de 2009 da componente meridional

do vento (vvel).

(a) (b)

(c) (d)
Figura 41. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2009, para os seguintes níveis de pressão: (a) 50 hPa; (b) 100
hPa; (c) 150 hPa e (d) 200 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 42. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2009, para os seguintes níveis de pressão: (a) 250 hPa; (b) 300
hPa; (c) 350 hPa; (d) 400 hPa; (e) 450 hPa e (f) 500 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 43. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2009, para os seguintes níveis de pressão: (a) 550 hPa; (b) 600
hPa; (c) 650 hPa; (d) 700 hPa; (e) 750 hPa e (f) 800 hPa.
 (a) (b)

(c) (d)
Figura 44. Histogramas do MSE das séries temporais após o ajuste do ano de 2009, para
os seguintes níveis de pressão: (a) 850 hPa; (b) 900 hPa; (c) 925 hPa e (d) 1000
hPa.
2.2) Histogramas do MSE para o ano de ajuste de 2010 da componente meridional
do vento (vvel).

(a) (b)

(c) (d)
Figura 45. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 50 hPa; (b) 100
hPa; (c) 150 hPa e (d) 200 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 46. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 250 hPa; (b) 300
hPa; (c) 350 hPa; (d) 400 hPa; (e) 450 hPa e (f) 500 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 47. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 550 hPa; (b) 600
hPa; (c) 650 hPa; (d) 700 hPa; (e) 750 hPa e (f) 800 hPa.
 (a) (b)

(c) (d)
Figura 48. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 850 hPa; (b) 900
hPa; (c) 925 hPa e (d) 1000 hPa.
3) Métricas de desempenho para redução de erros de previsão numérica climática
entre as séries temporais do modelo Eta e modelo NCEP.
Esta seção tem por objetivo analisar as séries temporais do modelo Eta e NCEP
para verificar se ocorre reduções de erros do modelo Eta em relação ao modelo NCEP.
Além de analisar o erro quadrático médio (MSE), também são analisados o erro máximo
(Emáx), o erro máximo normalizado (Emáxn) e a taxa de efetividade (Tef).

3.1) Erro quadrático médio (MSE)

A partir do ajuste das séries temporais do modelo Eta é definido o MSE entre as
séries do modelo NCEP e as séries ajustadas do modelo Eta, entretanto, para cada nível
de pressão atmosférica há um total de 38.763 séries temporais para o modelo Eta e
também para o modelo NCEP, portanto, é possível calcular 38.763 valores de MSE em
cada nível de pressão atmosférica.
O objetivo desta seção é apresentar a média do total dos valores de MSE para cada
nível de pressão atmosférica, referentes aos anos de ajuste de 2009 e 2010 para a
componente meridional do vento (vvel) e, assim, averiguar se ocorre reduções
significativas do erro de previsão numérica climática entre os modelos Eta e NCEP.
O cálculo da média dos valores do MSE (MSEm) é efetuado por:

∑n 2
i=1 E[e(i) ]
MSEm = , (1)
n

onde e(i) = d(i) – y(i), d(i) é a série temporal do modelo NCEP e y(i) é a série temporal
do modelo Eta, com i = 1, ..., n, sendo n o número total de séries temporais, neste caso,
n = 38.763.
Através da equação (1) é possível calcular os valores de MSEm antes e após o
ajuste das séries temporais do modelo Eta. A partir destes valores, pode-se analisar se há
redução dos valores de MSEm após o ajuste das séries temporais do modelo Eta. O
cálculo da porcentagem de redução do MSEm é expresso por:

MSEm𝑎𝑝
MSEmp = (1 − ) . 100, (2)
MSEm𝑎𝑛

onde MSEmp é a porcentagem de redução da média do erro quadrático médio, MSEmap é

a média dos valores de MSE após o ajuste das séries temporais do modelo Eta e MSEman
é a média dos valores de MSE antes do ajuste das séries temporais do modelo Eta.
Tabela 1. Porcentagens de redução da média do erro quadrático médio (MSEmp) em cada
nível de pressão atmosférica.
MSEmp da componente meridional do vento (vvel) nos anos de 2009 e 2010.
Pressão Ano de ajuste (Séries do Modelo Eta ajustadas)
atmosférica MSEmp 2009 MSEmp 2010
50 hPa 49,48% 45,14%
100 hPa 28,02% 6,41%
150 hPa 24,76% 21,36%
200 hPa 22,30% 7,98%
250 hPa 22,96% 9,24%
300 hPa 23,04% 11,61%
350 hPa 23,18% 14,08%
400 hPa 23,37% 15,55%
450 hPa 23,76% 16,66%
500 hPa 23,05% 17,02%
550 hPa 22,60% 17,79%
600 hPa 23,23% 19,13%
650 hPa 23,14% 20,18%
700 hPa 21,91% 22,05%
750 hPa 22,15% 23,54%
800 hPa 23,35% 23,60%
850 hPa 26,44% 25,51%
900 hPa 29,04% 20,16%
925 hPa 28,10% 26,32%
1000 hPa 25,62% 18,14%

A aplicação da filtragem adaptativa via algoritmo RLS considera os anos de

treinamento de 2008 e 2009. Os coeficientes otimizados foram aplicados,
respectivamente, nos anos de ajuste de 2009 e 2010. Os fatores de ponderação
exponencial (λ) do algoritmo RLS utilizados nos anos de treinamento são descritos a
seguir:
a) Ano de treinamento 2008, λ = 0.98 (utilizado em todos os níveis de pressão
atmosférica).
b) Ano de treinamento 2009, λ = 0.98 (utilizado em todos os níveis de pressão
atmosférica).
 Ano de 2009 Ano de 2010

Redução da média do MSE (%) 100

80

60

40

20

Níveis de pressão atmosférica (hPa)

Figura 49. Redução das médias dos erros de séries temporais dos anos de ajuste para a
componente meridional do vento (vvel).

A Tabela 1 e a Figura 49 indicam que as porcentagens de redução da média do

erro quadrático médio das séries temporais apresentam valores mais satisfatórios para o
modelo Eta ajustado do ano de 2009 e a pressão atmosférica de 50 hPa (altura mais
afastada do nível do mar) apresenta os melhores percentuais de redução do erro para os
dois anos de análise.
3.2) Erro máximo e erro máximo normalizado para as séries temporais dos anos de
ajuste (2009 e 2010).
O procedimento nesta seção visa calcular o erro máximo (Emáx) e o erro máximo
normalizado (Emáxn) referentes aos valores de MSE após o ajuste das séries temporais
do modelo Eta, nos níveis de pressão atmosférica citados, portanto:

Emáx = max|𝐸[𝑒(𝑛)2 ]| (3)

n

|E[e(n)2 ]|
Emáxn = max (4)
n ‖E[e(n)]‖2

Tabela 2. Erro máximo (Emáx) e erro máximo normalizado (Emáxn) dos níveis de pressão
atmosférica.
Emáx e Emáxn para a componente meridional do vento (vvel)
Pressão Ano de ajuste 2009 Ano de ajuste 2010
atmosférica Emáx Emáxn Emáx Emáxn
50 hPa 43,415 0,0142 61,222 0,0170
100 hPa 134,557 0,0104 183,129 0,0140
150 hPa 302,558 0,0101 284,817 0,0128
200 hPa 498,512 0,0108 555,992 0,0138
250 hPa 615,808 0,0122 708,331 0,0146
300 hPa 658,782 0,0143 681,491 0,0150
350 hPa 584,801 0,0156 562,724 0,0152
400 hPa 467,670 0,0155 443,328 0,0151
450 hPa 373,565 0,0154 346,270 0,0149
500 hPa 306,460 0,0153 275,424 0,0148
550 hPa 252,597 0,0152 221,105 0,0146
600 hPa 210,203 0,0151 178,281 0,0141
650 hPa 174,013 0,0146 155,461 0,0144
700 hPa 142,538 0,0134 137,489 0,0146
750 hPa 130,983 0,0135 126,322 0,0147
800 hPa 147,989 0,0161 145,951 0,0178
850 hPa 181,854 0,0202 180,504 0,0220
900 hPa 179,630 0,0189 184,228 0,0196
925 hPa 156,328 0,0158 157,127 0,0170
1000 hPa 101,255 0,0142 104,828 0,0149

A Tabela 2 indica que os valores de Emáx são menores nos níveis de pressão
atmosférica extremos (50 hPa e 1000 hPa) e o nível de 150 hPa apresenta os menores
valores de Emáxn.
3.3) Taxa de efetividade para as séries temporais dos anos de ajuste (2009 e 2010).
O objetivo desta seção é avaliar o desempenho das séries temporais que obtiveram
redução dos valores de MSE, após o ajuste das séries temporais do modelo Eta, em todos
os níveis de pressão atmosférica. A taxa de efetividade (Tef) é expressa por:

Nr
Tef = . 100, (5)
Nt

onde Nr é o número de séries temporais que tiveram redução dos valores de MSE após o
ajuste das séries temporais do modelo Eta e Nt é o número total de séries em cada nível
de pressão atmosférica, portanto, Nt = 38.763.

Tabela 3. Taxa de efetividade (Tef) em todos os níveis de pressão atmosférica.

Tef da componente meridional do vento (vvel) nos anos de 2009 e 2010.
Pressão Ano de ajuste (Séries do Modelo Eta ajustadas)
atmosférica Tef 2009 Tef 2010
50 hPa 77,68% 75,42%
100 hPa 75,34% 47,46%
150 hPa 74,73% 72,22%
200 hPa 68,38% 49,45%
250 hPa 68,69% 51,57%
300 hPa 68,11% 54,57%
350 hPa 66,74% 56,51%
400 hPa 69,05% 55,69%
450 hPa 69,89% 56,75%
500 hPa 70,64% 58,26%
550 hPa 73,02% 61,22%
600 hPa 77,43% 68,50%
650 hPa 79,42% 73,23%
700 hPa 73,14% 76,04%
750 hPa 74,78% 78,03%
800 hPa 73,70% 75,33%
850 hPa 75,67% 73,66%
900 hPa 72,43% 58,32%
925 hPa 62,98% 60,33%
1000 hPa 65,76% 52,74%
 Ano de 2009 Ano de 2010

100

80
Taxa de efetividade (%)

60

40

20

Níveis de pressão atmosférica (hPa)

Figura 50. Taxa de efetividade das séries temporais dos anos de ajuste relacionados à
componente meridional do vento (vvel).

De acordo com a Tabela 3 e a Figura 50, pode-se concluir que a taxa de efetividade
apresenta valores mais satisfatórios para o ano de ajuste de 2009.