E CONOMETRIA C L ÁSSICA E BAYESIANA

Ralph S. Silva
http://www.im.ufrj.br/ralph/econometria.html

Departamento de Métodos Estatı́sticos

Instituto de Matemática
Universidade Federal do Rio de Janeiro

Abril-Julho/2013
Econometria Clássica e Bayesiana

Sumário

Método Generalizado dos Momentos (GMM)

Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Estimação Consistente: O Método dos Momentos

I Momentos populacionais e amostrais.

I Os momentos populacionais dependem dos parâmetros que estamos
interessados em estimar.
I A amostra contém informações em forma de estatı́sticas como
momentos.
I Se o modelo tiver p parâmetros, igualamos os p momentos
populacionais aos p momentos amostrais correspondentes.
I Então, escrevemos os parâmetros como funções dos momentos
amostrais (das estatı́sticas).
I Os momentos serão consistentes pela lei dos grandes números.
I Os momentos serão assintoticamente normais pelo Teorema de
Lindeberg-Levy.
I Aplicação do teorema de Slutsky garante a propriedade dos
estimadores dos parâmetros.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Seja mk (.) uma função contı́nua e diferenciável que não depende do

tamanho de amostra n e seja
n
1X
mk = mk (yi ), k = 1, . . . , p.
n
i=1

Segue-se que
plimmk = E (mk (yi )) = µ(θ1 , . . . , θp ).
As p equações dos momentos são

mn,1 (θ) , m1 − µ1 (θ1 , . . . , θp ) = 0

mn,2 (θ) , m2 − µ2 (θ1 , . . . , θp ) = 0
.. .. .. ..
. . . .
mn,p (θ) , mp − µp (θ1 , . . . , θp ) = 0.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

I Na maioria dos casos os estimadores pelo método dos momentos não

são eficientes.
I A exceção é na amostragem aleatória das distribuições na famı́lia
exponencial.
Definição: Famı́lia Exponencial

Uma distribuição pertence a famı́lia exponencial se tem sua log

verossimilhança dada por
p
X
ln L(θ|dados) = a(dados) + b(θ) + ck (dados)sk (θ),
k=1

sendo a(.), b(.), ck (.) e sk (.) funções.

Lembremos que ck (dados) é uma estatı́stica suficiente.

Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Em geral, consideramos os momentos como

n
1X
mn,k = mk (y i ), k = 1, . . . , p.
n
i=1

Um estimador apropriado da matriz de covariância assintótica de

mn = (mn,1 , . . . , mn,p ) é
( n
)
1 1 1X
F jk = [mj (y i ) − mj ][mk (y i ) − mk ] , j, k = 1, 2, . . . , p.
n n n
i=1

Agora, seja Gn (θ) a matriz p × p cuja k -ésima linha é o vetor de derivadas

parciais
0 ∂mn,k (θ)
Gn,k = .
∂θ 0
Da expansão de Taylor em torno do valor vardadeiro θ 0 , temos
0
0 ' mn (θ 0 ) + Gn (θ 0 )(θ
b − θ 0 ).
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Portanto, √ √
b − θ 0 ) ' −[G0n (θ 0 )]−1 n[mn (θ 0 )].
n(θ
Usando esta aproximação, pode-se provar que
b ≈ N (θ 0 , ∆) ,
θ
1
sendo ∆ = {−[Γ(θ 0 )]−1 }Φ{−[Γ(θ 0 )]−1 }.
2
Podemos estimar a variância assintótica ∆ por
i−1
b = 1 G0n (θ)]F
h
Var(
d θ) b −1 Gn (θ)
b .
n
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

GMM sob a Condição de Ortogonalidade

Considere o estimador OLS no modelo de regressão clássico. Por hipótese,

E (x i εi ) = E x i (yi − x 0i β) = 0.

Na amostra, temos
n n
1X 1X
x i εbi = x i (yi − x 0i β)
b = 0.
n n
i=1 i=1

Podemos ver que o estimador OLS é um estimador do método dos

momentos.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Para o estimador de variáveis instrumentais,

n
! n
!
1X 1X 0
plim z i εi = plim z i (yi − x i β) .
n n
i=1 i=1

Na amostra, temos
  −1   n
1 0 1 0 1 0 1 b0 1X
X Z Z Z X b
ε = X ε=
b xbi εbi = 0.
n n n n n
i=1

Podemos ver que este estimador é um estimador do método dos momentos.

Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Estimadores de máxima verossimilhança são obtidos ao igualar a derivada

da log-verossimilhança a zero.

A função de verossimilhança escalada é

n
1 1X
ln L(θ|y, X ) = ln f (yi |x i , θ).
n n
i=1

Sabemos que  
∂ ln f (yi |x i , θ)
E = 0.
∂θ
Na amostra, temos
n
b X)
1 ln L(θ|y, 1 X ∂ ln f (yi |x i , θ)
b
= = 0.
n ∂θ
b n ∂θ
b
i=1

Podemos também ver que este estimador é um estimador do método dos

momentos.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Generalizando o Método dos Momentos

I Existem casos em que temos mais equações de momentos do que

parâmetros. Logo, o sistema é sobre identificado.
I Para utilizar toda informação na amostra é necessário criar um critério
para evitar os confitos que podem existir em um sistema sobre
identificado.
I Suponha que o modelo envolva p parâmetros, θ = (θ1 , . . . , θp )0 , e que a
teoria fornece um conjunto de L > p condições de momentos,

E (m` (yi , x i , z i , θ)) = E (mi` (θ)) = 0,

sendo yi , x i e z i variáveis que aparecem no modelo.

I Vamos denotar os correspondentes momentos amostrais por
n n
1X 1X
m` (y, X , Z , θ) = m` (yi , x i , z i , θ) = mi` (θ).
n n
i=1 i=1
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

I A menos que as equações sejam funcionalmente dependentes, o

sistema de L equações em p parâmetros desconhecidos,
n
1X
m` (θ) = m` (yi , x i , z i , θ) = 0, ` = 1, . . . , L,
n
i=1

não terá uma solução única.

I Uma das possibilidades é minimizar a soma de quadrados,
L
X
q= m2` = m(θ)0 m(θ).
`=1

I Pode ser mostrado que plimm(θ) = E (m(θ)) = 0, isto é, o minimizador

de q é um estimador consistente de θ.
I Podemos também utilizar mı́nimos quadrados ponderados,

q = m(θ)0 W n m(θ),

sendo W n qualquer matriz positiva definida que depende dos dados

mas não dos parâmetros. Vamos supor também que plimW n = W , uma
matriz positiva definida.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

I Podemos utilizar uma matriz W n como diagonal com elementos que são
os inversos das variâncias individuais dos momentos,
1 1
w`` = √
= .
Var nm` φ``

I O estimador de mı́nimos quadrados ponderados deve minimizar

q = m(θ)0 Φ−1 m(θ).

I Em geral, os L elementos de m podem ser correlacionados.
I Para utilizar mı́nimos quadrados generalizados, podemos definir a
matriz,
√
−1
= Φ−1 .

W = Var nm
I Se W n é uma matriz positiva definida e se plimm(θ) = 0, então o
estimador GMM é consistente.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

I A matriz de covariância assintótica do estimador GMM é

1 0 −1 1 h 0 −1 i−1
V GMM = Γ WΓ = ΓΦ Γ ,
n n
sendo Γ a matriz de derivadas com a j-ésima linha igual a
∂mj (θ)
Γj = plim ,
∂θ 0
√

e Φ = Var nm .
I Por hipótese, temos que
√ d
nmn (θ 0 ) −
→ N (0, Φ) .

Teorema: A distribuição assintótica para o estimador GMM é

d
θ
bGMM −
→ θ
b0
 
θ
bGMM ≈ N θ,
b V GMM .
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Estimação GMM em Modelos Econometricos

Vamos considerar o modelo de regressão com variáveis instrumentais,

yi = x 0i β + εi
E (z i εi ) = 0,

para p variáveis em x i e um conjunto de L > p variáveis instrumentais z i .

O resultado da regressão generalizada aparece se z i = x i e a regressão

clássica o adicionar que Ω = I.

Vamos considerar três casos:

I Regressão clássica: Var (εi |X , Z ) = σ 2 ,
I Heterocedasticidade: Var (εi |X , Z ) = σi2 ,
I Regressão generalizada: Cov (εt , εs |X , Z ) = σ 2 ωts .
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

A hipótese E (z i εi ) = 0 implica a condição de ortogonalizade

Cov (z i , εi ) = 0 ou E z i (yi − x 0i β) = 0.

As equações de momentos da população são

n
!
1X 0
E z i (yi − x i β) = E (m(β)) = 0.
n
i=1

As equações de momentos da amostra são

" n
# " n
#
1X 0b 1X
z i (yi − x i β) = mi (β) = m(β)
b b = 0.
n n
i=1 i=1

Para os casos em que o modelo é identificável, podemos escrever

   
b = 1 z 0 y − 1 Z 0 X β.
m(β) b
n n
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Se o modelo for exatamente identificável (L = p), então pode ser mostrado

que
βb = (Z 0 X )−1 Z 0 y.
b = 0 não
Se o modelo for sobre identificável (L > p), então o sistema m(β)
tem uma solução única.

Podemos escolher o critério de mı́nimos quadrados,

b 0 m(β).
min q = min m(β) b
β
b β
b

Neste caso, as condições de primeira ordem são

!
∂q ∂m(β)b
b 0 m(β)
= 2 m(β)
b = 2G(β) b
∂β ∂β
  
1 0 1 0 1
= 2 X Z Z y − Z 0X β
b = 0,
n n n

cuja solução é
b = [(X 0 Z )(Z 0 X )]−1 (X 0 Z )(Z 0 y).
β
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Hipóteses sobre estimador GMM:

I b = 0.
Convergência dos momentos: plimm(β)
I Identificação para estimação GMM: A matriz L × p
n
  ∂m 1 X ∂mi
Γ(β) = E G(β) = plim G(β) = plim = plim
∂β 0 n n ∂β 0

deve ter posto de linha igual a p.

I Os momentos amostrais convergem para uma distribuição normal.
É possı́vel mostrar que sob certas condições o estimador GMM é
consistente.

A matriz de covariância assintótica de β

b é dada por
√
b = 1 [Γ0 Γ]−1 Γ0 Var
 
nm(β) Γ[Γ0 Γ]−1 .


Var β
n
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Para o modelo de regressão em questão, temos

1 0
m = (Z y − Z 0 Z β),
n
1 0
G(β) = Z X,
n
Γ(β) = QZ X .

Precisamos agora determinar a forma de

√

V = Var nm(β) .

Dado a forma de m acima, temos

n
! n n
1 X 1 XX 2 Z 0 ΩZ
V = Var z i εi = σ ωij z i z 0j = σ 2
n n n
i=1 i=1 j=1

para o caso mais geral.

Agora, precisamos estimar a variância assintótica. Para isto, precisamos

estimar V .
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

O estimador de V é dado por

I Regressão clássica:
0 n
b = (e e/n)
X (e 0 e/n) 0
V z i z 0i = Z Z.
n n
i=1

I Regressão heterocedástica:
n
b = 1
X
V ei2 z i z 0i .
n
i=1

I Regressão generalizada:
" n n  n
 X #
1 X 2 0
X ` 0
V =
b et z t z t + 1− et et−` (z t z t−` + z t−` z t ) .
n p+1
t=1 `=1 t=`+1

Entretanto, se os elementos de m(β) forem não correlacionados, podemos

utilizar
n
b = 1
X
V mi (β)m b 0.
b i (β)
n
i=1
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Assim, estimamos a variância assintótica por

i−1 i−1
b = 1 G(β)
h h
Var(
d β) b 0 G(β)
b b 0V
G(β) b G(β)b G(β) b 0 G(β)b
n
−1 0
= n (X 0 Z )(Z 0 X ) b (Z 0 X ) (X 0 Z )(Z 0 X ) −1 .
  
(X Z )V

Agora, queremos utilizar o critério de mı́nimos quadrados ponderados

b 0 W m(β)
min q = min m(β) b
β
b β
b

sendo W qualquer matriz positiva definida de podenração. Assim, temos

i−1 0 i−1
b = 1 G0 W G b W G G0 W G
h h
Var(
d β) G WV .
n
No caso anterior, tı́nhamos W = I.

Se L = p, então W é irrelevante para a solução. Então, baseado na

simplicidade, o valor ótimo de W é I.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

No caso de sobre identificação o valor ótimo de W é V −1 . O estimador

resultante será o mais eficiente. Logo,
0 b −1 (Z 0 X )]−1 (X 0 Z )V
b −1 (Z 0 y)
β GMM = [(X Z )V
b

e
1 0 −1 −1
Var(β
b [G V G] = [(X 0 Z )V −1 (Z 0 X )]−1 .
GMM ) =
n
Concluindo, o estimador GMM é dado pela solução de
√
min q = min m(β)0 [Var( nm(β))]−1 m(β).
β β

que sugere que a matriz de pesos é uma função de β - o vetor de

parâmetros que estamos interessados em estimar.

A estimação GMM é em geral dada em dois passos. No Passo 1 estimamos

V e no Passo 2 estimamos β utilizando a inversa de V
b.
Econometria Clássica e Bayesiana
Método Generalizado dos Momentos (GMM)

Passo 1: Utilize W = I para obter um estimador consistente de β.

Então, estime V com
n
b = 1
X
V ei2 z i z 0i
n
i=1

no caso de heterocedasticidade (o estimador de White) ou,

para o caso mais geral, o estimador de Newey-West.
b −1 para calcular o estimador GMM de β.
Passo 2: Utilize W = V