Séries Temporais

MEST198

Modelos de séries temporais estacionárias

Professor: Osmani Teixeira de Carvalho Guillén

Aula 2 – 21/09/2016
Processos ARMA estacionários
Variância

A variância de uma variável aleatória Yt , chamada também de

autocovariância de ordem zero (g0t), é definida por:


Var Y t   g 0t  E Y t   t    E Y t   t  Y t   t  
2

Prof. Osmani Guillén MEST198 - Séries Temporais 2

Processos ARMA estacionários
Autocovariância

A autocovariância de ordem j uma variável aleatória Yt , denotada por gjt

é definida por:
g jt  EY t   t Y t  j   t  j 

Para esclarecer, vamos lembrar a definição de covariância:

Cov( X t , Y t )  E X t   X Y t  Y 

note que se substituímos Xt pela variável Yt defasada j períodos (Yt-j),

  
Cov(Y t , Y t  j )  E Y t   t  Y t  j   t  j  g jt

que por definição é a autocovariância de ordem j da variável Yt.

Prof. Osmani Guillén MEST198 - Séries Temporais 3

Processos ARMA estacionários
Estacionariedade

Um processo é dito estacionário em covariâncias ou estacionário fraco

se a média e as autocovariâncias não dependem do tempo.

EY t    t
  
E Y t   t  Y t  j   t  j  g j t e j

Note que se o processo é estacionário em covariâncias, a covariância

depende somente do j, a distância de tempo separando as observações e
não do t, a data da observação.

Prof. Osmani Guillén MEST198 - Séries Temporais 4

Processos ARMA estacionários
Ergodicidade
Um sistema ergódigo, em economia, é aquele no qual podemos prever
eventos futuros por meio da estimação estatística de eventos passados.
Um processo estacionário em covariâncias é dito ergódigo para a média
se converge em probabilidade para E[Yt] quando T → ∞.
1 T  Y t  g j
T p

t 1
Um processo será ergódigo para a média se as autocovariâncias (gj)
tendem a zero suficientemente rápido quando j torna-se grande.
Podemos resumir este fato em:

g j 
j 0
De modo similar, um processo estacionário em covariâncias é dito
ergódigo para os segundos momentos se:
1 T  j   Y t   Y t  j    g j
T p

t  j 1
Prof. Osmani Guillén MEST198 - Séries Temporais 5
Ruído Branco (1/2)

Um processo,

e tt
cujos elementos tem média zero e variância s2,

Ee t   0 (1)
 
E e t2  s 2 , (2)
e para os quais os et são não correlacionados no tempo:

Ee i e j   0 para i  j (3)

um processo que satisfaz (1), (2) e (3) é chamado de Ruído Branco.

Prof. Osmani Guillén MEST198 - Séries Temporais 6
Ruído Branco (2/2)

Podemos incluir uma condição mais forte, independência no tempo:

e i e e j independentes para i  j (4)

note que (4) implica (3) mais (3) não implica (4). Um processo
atendendo (1), (2) e (4) é chamado de Ruído Branco Independente.

Se além de (1), (2) e (3), et ~ N(0,s2) temos:

Ruído Branco Gaussiano.

Ee t   0, Ee t2  s 2 , Ee i , e j   i  j e e t ~ N (0 , s 2)

Prof. Osmani Guillén MEST198 - Séries Temporais 7

Exemplo: Processo 1

Se Yt é a soma de uma constante, , e um ruído branco Gaussiano, et,

para - < t < ,

Yt =   et
A média deste processo será:

E[Yt] = E[  et]=E[ ]+E[et]= .

A variância de um processo Yt é definida como:

g0t = E[Yt - ]2 = E[(Yt –  (Yt – ]= E[(Yt –  (Yt – ]= E[etet]=s2
As autocovariâncias de ordem maior do que zero são iguais a zero,
gjt = 0  j ≠ 0
Prof. Osmani Guillén MEST198 - Séries Temporais 8
Exemplo: Processo 2
Se Yt é a soma de uma tendência determinística, b t, e um ruído branco
Gaussiano, et, para - < t < ,
Yt = b t  e t
A média deste processo será:
E[Yt] = E[b t  et] = E[b t] = E[et] = b t

Note que a média do processo é uma função do tempo. O operador

E[Yt] é chamado de média incondicional do processo Yt. A variância do
processo Yt será:
g0t = E[Yt - ]2 = E[(Yt –  (Yt – ]= E[(Yt –  (Yt – ]= E[etet]=s2
As autocovariâncias de ordem maior do que zero são iguais a zero,
gjt = 0  j ≠ 0
Prof. Osmani Guillén MEST198 - Séries Temporais 9
Exemplo: Processo 3
Se Yt é um processo autoregressivo de ordem 1,
Yt = Yt-1  et , et é um ruído branco
Seja Y0 a condição inicial. Podemos substituir recursivamente,
Yt = Y0  e1  e2    et
A média deste processo é:
E[Yt]= E[Y0  e1  e2    et]=E[Y0]+E[Y0  e1  e2    et]=Y0

As autocovariâncias são iguais a,

gjt = E[(Yt – t (Yt-j – t-j]= s2 (t-j)

Prof. Osmani Guillén MEST198 - Séries Temporais 10

Processo estacionário

Um processo é dito estacionário fraco ou estacionário em covariâncias

se a média, t, e as autocovariâncias não dependem do tempo.

E[Yt] =   t

E(Yt -  (Yt-j -   gj  t e j

Prof. Osmani Guillén MEST198 - Séries Temporais 11

Processo 1

O processo Yt =   et é estacionário em covariâncias porque:

EY t     t
 2
  te j0
EY t   Y t  j     s
 0  t e j  0

Prof. Osmani Guillén MEST198 - Séries Temporais 12

Processo 2

O processo Yt = b t  et não é estacionário em covariâncias porque:

EY t   b t  t
 2
s  t e j  0
EY t   Y t  j     
 0  t e j  0

Note que a média depende do tempo.

Prof. Osmani Guillén MEST198 - Séries Temporais 13

Processo 3

O processo Yt = Yt-1  et não é estacionário em covariâncias porque:

EY t   Y 0

EY t   Y t  j     s 2 t  j   t

Note que as autocovariâncias dependem do tempo.

Prof. Osmani Guillén MEST198 - Séries Temporais 14

Exemplo: Processo 4

Considere o processo cuja média seja gerada por uma N(0,l2),

Y   (i )
(i )
t  et , e ~ N (0 s
, 2
), e e  (i )
independentes
A média deste processo será:
 
 t  EY t(i )  E  (i )  Ee t   0
As autocovariâncias serão:


(i ) 

g 0t    e t   l 2  s 2
 2

  
e
g jt  E  (i )  e t  (i )  e t  j  l 2 j  0
O processo é estacionário em covariâncias, mas não é ergódigo porque

não satisfaz:  g j  
j 0
Prof. Osmani Guillén MEST198 - Séries Temporais 15
Autocorrelação

Definimos a j-ésima autocorrelação de um processo estacionário em

covariâncias, chamada de rj, como a j-ésima autocovariância dividida
pela autocovariância de ordem zero (variância), r0 :

g
rj j
g0

Por definição, a 0-ésima autocorrelação, r0, é igual a um.

Prof. Osmani Guillén MEST198 - Séries Temporais 16

Média Móvel de ordem um MA(1)

Seja {et} um ruído branco, considere o processo:

Y t    e t  q e t 1

onde  e q são constantes. Este processo é chamado de média móvel de

ordem um, MA(1). O termo média móvel vem do fato que Yt é
construído da soma ponderada dos valores recentes de e.

Prof. Osmani Guillén MEST198 - Séries Temporais 17

Média Móvel de ordem um MA(1)

A média deste processo pode ser calculada como:

EY t   E e t q e t 1  E  Ee t  Eq e t 1  

A autocovariância de ordem zero (variância) será:

g 0t  E Y t     E e t q e t 12
 

 
g 0t  E e t2 2q e t e t 1q 2e t21  s 2  0  q 2 s 2  (1  q 2) s 2

Prof. Osmani Guillén MEST198 - Séries Temporais 18

Média Móvel de ordem um MA(1)

A primeira autocovariância é dada por:

  
g 1t  E (Y t   )(Y t 1  )  E (e t q e t 1)(e t 1q e t  2) 


g 1t  E e t e t 1q e t21q e t e t  2q 2e t 1e t  2 
g 1t  0  q s 2  0  0  q s 2

Prof. Osmani Guillén MEST198 - Séries Temporais 19

Média Móvel de ordem um MA(1)

A j-ésima autocovariância é:

   
g jt  E Y t    Y t  j    E e t q e t 1 e t  j q e t  j 1 

 
g jt  E e t e t  j q e t e t  j 1q e t 1e t  j q 2e t 1e t  j 1  0  j  1

Prof. Osmani Guillén MEST198 - Séries Temporais 20

Autocorrelação
Para um processo MA(1), a 0-ésima autocorrelação é:

g 0 1q 2 s 2
r0   1
 
g 0 1q s
2 2  
a primeira autocorrelação é:

g1 q s 2 q
r1 

g 0 1q s
2 2


1q 2  
as autocorrelações superiores são todas iguais a zero,
0
rj 
 
1q 2 s 2
 0  j 1

Prof. Osmani Guillén MEST198 - Séries Temporais 21

Média Móvel de ordem q MA(q)

Seja {et} um ruído branco, considere o processo:

Y t    e t  q 1e t 1  q 2e t 2    q q e t q

onde  e (q1,q2,...,qq podem ser números reais quaisquer. Este processo

é chamado de média móvel de ordem q, MA(q).

Prof. Osmani Guillén MEST198 - Séries Temporais 22

Média Móvel de ordem q MA(q)

A média deste processo pode ser calculada como:


E Y t   E  e t q 1e t 1q 2e t  2q qe t  q  
E   Ee t   Eq 1 e t 1  Eq 2 e t 2    E q q e t q   

Prof. Osmani Guillén MEST198 - Séries Temporais 23

Média Móvel de ordem q MA(q)

A autocovariância de ordem zero (variância) deste processo é:


E Y t   2  E e t q 1e t 1q 2e t  2q qe t  q
2

como os e´s não são correlacionados, só o produto dos termos com
índices temporais iguais serão diferente de zero,

g 0t   2  2 2  2 2  q
2 2 
E e t q 1 e t 1 q 2 e t  2  q e t q

g 0t  s 2  q 1 s 2  q 2 s 2    q q s 2 
2 2 2

g 0t  1  q 1  q 2    q q s .
2 2 2 2

Prof. Osmani Guillén MEST198 - Séries Temporais 24

Média Móvel de ordem q MA(q)

As autocovariâncias para j = 1,2,...,q serão:

 
g jt  E Y t    Y t  j   

g jt  E[ e t q 1e t 1q 2e t  2q qe t  q  
e t  j q 1e t  j 1q 2e t  j 2q qe t  j q ]
g jt  E[q j e t2 j  q j 1q 1e t2 j 1  q j  2q 2 e t2 j  2    q q q q  j e t2 q ]

os termos envolvendo e´s em diferentes datas foram descartados porque

estes termos são não correlacionados,

 q
 j
g j
q q
j 1 1  q q
j 2 2    q q
q q j s 2
j  1,2,, q 

 0 jq

Prof. Osmani Guillén MEST198 - Séries Temporais 25

Média Móvel de ordem q MA(q)

Exemplo, processo MA(2):

Y t    e t  q 1e t 1  q 2 e t 2

As autocovariâncias serão:


g 0  q 0  q1  q 2 s 2
2 2

g 1  q 1  q 2q 1s 2
g 2  q 2s 2
g3  g 4  0

Prof. Osmani Guillén MEST198 - Séries Temporais 26

Média Móvel de ordem q MA(q)

Exemplo, processo MA(2):

Autocorrelações

g
r0  0 
q 0  q 1  q 2 s
2 2 2
1
g0 q 0  q 1  q 2 s
2 2 2

g1 q 1  q 2q 1
r1  

g 0 q 0  q 12  q 22 
g q2
r2  2 

g 0 q 0  q 12  q 22 
r3  r4    0

Prof. Osmani Guillén MEST198 - Séries Temporais 27

Processo Autoregressivo de ordem um AR(1)

Um processo autoregressivo de ordem um satisfaz a seguinte equação

em diferenças:

Y t  c   Y t 1  e t
onde {et} é um ruído branco. No caso em que || < 1, o processo é
estacionário em covariâncias.

Note que podemos utilizar o operador lag,

Y t   Y t 1  1LY t  c  e t
(1-L) é um polinômio de ordem 1 cuja raiz é L=1/.

Prof. Osmani Guillén MEST198 - Séries Temporais 28

Processo Autoregressivo de ordem um AR(1)

O processo anterior pode ser escrito como:

Y t  c  e t   c e t 1   c e t  2   c e t 3  
2 3
2 3 2 3
Y t  c  c   c   c    e t   e t 1   e t  2   e t 3  
c
Yt   e t   e t 1   2 e t  2   3 e t 3  
1 

Prof. Osmani Guillén MEST198 - Séries Temporais 29

Processo Autoregressivo de ordem um AR(1)

A média deste processo será:

 c 
EY t   E 
c
e t  e t 1 e t  2  e t 3 
2 3
 1   1   

Então a média de um processo AR(1) será igual a  = c/(1-).

Prof. Osmani Guillén MEST198 - Séries Temporais 30

Processo Autoregressivo de ordem um AR(1)

A variância deste processo será:

g 0  E Y t   2  E  2 3  2
e t  e t 1 e t  2 e t 3 

 s 
2
E         s 
 
2 4 6 2
1 2

Prof. Osmani Guillén MEST198 - Séries Temporais 31

Processo Autoregressivo de ordem um AR(1)

A j-ésima covariância será:

g j  EY t     Y t  j    

 
E[ e t  e t 1 2e t  2 3e t 3 je t  j  j 1e t  j 1 

   
 je t  j  j 1e t  j 1 ]   j  j  2 j  4 s 2 
 js 2

12 

Prof. Osmani Guillén MEST198 - Séries Temporais 32

Processo Autoregressivo de ordem um AR(1)

As autocorrelações serão dadas pela seguinte função:

gj
rj  j
g0

Prof. Osmani Guillén MEST198 - Séries Temporais 33

Processo Autoregressivo de ordem dois AR(2)

Um processo autoregressivo satisfaz a seguinte equação em diferenças:

Y t  c  1Y t 1   2Y t 2  e t

Assumindo que o processo e estacionário em covariâncias, podemos

escrever:

EY t   c  1EY t 1   2 EY t 2  Ee t 

o que implica em:

  c  1   2   0
 c   11 2 
Prof. Osmani Guillén MEST198 - Séries Temporais 34
Processo Autoregressivo de ordem dois AR(2)

Para calcularmos os momentos, escrevemos:

Y t    1Y t 1    2 Y t 2   e t

multiplicamos por (Yt-j-) :

Y t   Y t     1Y t 1  Y t      2 Y t  2  Y t     e t Y t   

Y t   Y t 1    1Y t 1  Y t 1     2 Y t  2  Y t 1    e t Y t 1  
Y t   Y t  2    1Y t 1  Y t  2     2 Y t  2  Y t  2    e t Y t  2  

Y t   Y t  s     1Y t 1  Y t  s      2 Y t  2  Y t  s     e t Y t  s   

Prof. Osmani Guillén MEST198 - Séries Temporais 35

Processo Autoregressivo de ordem dois AR(2)

aplicando o operador E:

g 0  1g 1   2 g 2  s 2

g 1  1g 0   2 g 1  r1  1   2 r1
g 2  1g 1   2 g 0  r 2  1 r1   2

g s  1g s 1   2 g s  2  r s  1 r s 1   2 r s  2

Prof. Osmani Guillén MEST198 - Séries Temporais 36

Processo Autoregressivo de ordem dois AR(2)

Então podemos calcular as autocorrelações deste processo:

1
r1 
1 2

r 2   1 r1   2 
12

1 2 2


r s  1 r s 1   2 r s  2

Prof. Osmani Guillén MEST198 - Séries Temporais 37

Processo ARMA(p,q)

Seja {et} um ruído branco, considere o processo:

Y t  c  1Y t 1     p Y t  p  e t  q 1e t 1    q q e t  q

onde  e (c, 1,2,...,p,q1,q2,...,qq podem ser números reais quaisquer.

Este processo é chamado de ARMA(p,q).

Prof. Osmani Guillén MEST198 - Séries Temporais 38

Processo ARMA(1,1)

Y t  c  1Y t 1  e t q1e t 1
Vamos supor c = 0, então podemos escrever:

E Y t Y t  1 E Y t 1Y t  E e t Y t  q 1 E e t 1Y t
E Y t Y t 1  1 E Y t 1Y t 1  E e t Y t 1  q 1 E e t 1Y t 1
E Y t Y t  2  1 E Y t 1Y t  2  E e t Y t  2  q 1 E e t 1Y t  2

E Y t Y t  s  1 E Y t 1Y t  s  E e t Y t  s  q 1 E e t 1Y t  s

Prof. Osmani Guillén MEST198 - Séries Temporais 39

Processo ARMA(1,1)

Y t  c  1Y t 1  e t q1e t 1

Vamos supor c = 0, então podemos escrever:

g 0  1g 1  s 2  q 1 q 11s 2
g 1  1g 0  q 1s 2
g 2  1g 1

g s  1g s 1

Prof. Osmani Guillén MEST198 - Séries Temporais 40

Processo ARMA(1,1)

então podemos escrever:

1q 12 21q 1
g0 s 2
112

g1
 
11q 1 1q 1 2 
2
s
11

r1 
 
11q 1 1q 1 
1q 12 21q 1

g s  1g s 1  r s  1 r s 1 para s2

Esta função autocorrelação parece um AR(1). Se 0<1<1, convergência

direta, -1<1<0 oscila.
Prof. Osmani Guillén MEST198 - Séries Temporais 41
Função autocorrelação parcial:

Considere um processo AR(1), yt é correlacionado com yt-2, esta

correlação pode ser vista como a correlação entre yt e yt-1 multiplicada
pela correlação entre yt-1 e yt-2. A idéia da função de autocorrelação
parcial entre yt e yt-s é expurgar o efeito devido aos valores provenientes
de yt-1 e yt-s+1. Considere a equaçao a seguir:
y*t  11 y*t 1  e t

neste caso, 11 é a autocorrelação e autocorrelação parcial.

y*t   21 y*t 1   22 y*t 2  e t

neste caso, 22 é a autocorrelação parcial entre yt e yt-2, neste caso

estamos controlando o efeito de yt-1.

Prof. Osmani Guillén MEST198 - Séries Temporais 42

Função autocorrelação parcial:

As autocorrelações parciais podem ser calculadas das autocorrelações:

11  r1
r 2  r12
 22 
1 r12

s 1
r s    s 1, j  r s  j
j 1
 ss  para s  3, 
s 1
1   s 1, j  r j
j 1

Prof. Osmani Guillén MEST198 - Séries Temporais 43

Função autocorrelação parcial:

Para um processo AR(p), esperamos que não existam correlações

diretas entre yt e yt-s para s > p. No caso de um processo MA(1),

Y t    yt  e t q e t 1

Pode ser escrito como:

yt q yt 1  q 2 yt 2    e t

Então esperamos que a autocorrelação parcial de um processo MA

decaia a medida que a defasagem aumente.

Prof. Osmani Guillén MEST198 - Séries Temporais 44

Autocorrelações amostrais de séries estacionárias
Na prática, média, variância, autocovariância e autocorrelações são
desconhecidas. Dado que a série é estacionária, podemos usar a média,
variância e autocorrelações amostrais para estimar os parâmetros do
processo gerador de dados,
T    
  y t  y  y t  s  y 
 1T  1  T   2
t  s 1   
^
y     y t , s      y t  y 
2
e rs 
 T t 1  T t 1   T  2
  y t  y 
t 1 
As autocorrelações e as autocorrelações parciais amostrais devem ser
comparadas com as autocorrelações teóricas para ajudar na identificação
do processo gerador de dados.

Prof. Osmani Guillén MEST198 - Séries Temporais 45

Estatística Q
A estatística Q no i-ésimo lag é um teste para hipótese nula de não
existência de autocorrelação de ordem i. Esta estatística é calculada:

k t 2j
Q LB  T T  2 
j 1 T  j

onde tj é a j-ésima autocorrelação e T é o número de observações.

Sobre a nula, a estatística Q tem distribuição assintótica c2 com graus

de liberdade igual ao número de autocorrelações consideradas.

Prof. Osmani Guillén MEST198 - Séries Temporais 46

Propriedades das Funçoes de Autocorrelação e Autocorrelação Parcial
Processo Função autocorrelação Função autocorrelaçao parcial
Ruído Branco rs = 0 (s  0). ss = 0 (s  0).

AR(1):  > 0 Decaimento exponencial: rs = s. 11 = r1; ss = 0 para s > 2.

AR(1):  < 0 Decaimento oscilatório: rs = s. 11 = r1; ss = 0 para s > 2.

AR(p) Decai. Coeficientes podem oscilar. Picos até o lag p. ss = 0 para s > p.

MA(1): q > 0 Pico positivo (s=1). rs = 0 para s  2. Decaimento oscilatório: 11 > 0.

MA(1): q < 0 Pico negativo (s=1). rs = 0 para s  2. Decaimento geométrico: 11 < 0.

Decaimento exponencial, começa no Decaimento oscilatório, começa no lag

ARMA(1,1):  > 0
lag 1. Sinal(r1) = Sinal(+q) 1. 11 = r1.
Decaimento oscilatório, começa no lag Decaimento exponencial, começa no
ARMA(1,1):  < 0
1. Sinal(r1) = Sinal(+q) lag 1. 11 = r1 e Sinal(ss) = Sinal(11)
Decaimento exponencial ou oscilatório, Decaimento exponencial ou oscilatório,
ARMA(p,q):
começando no lag q. depois do lag p.
Fonte: Applied Econometric Time Series, Walter Enders, página 66.

Prof. Osmani Guillén MEST198 - Séries Temporais 47