Análise de Regressão Múltipla: MQO Assintótico

Aula 16, Introdução à Econometria

Prof. Moisés A. Resende Filho

Capítulo 05

2 de agosto de 2022

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 1 / 29

1. Propriedades de MQO em Amostras Finitas: Revisão
1 RLM.1 (linearidade nos parâmetros):
y = β0 + β1 x1 + + βk xk + u.
2 RLM.2 (amostra aleatória): há uma amostra
f(xi 1 , xi 2 , ..., xik , yi ) : i = 1, 2, ..., ng que representa a população, tal
que E (ui jxl 1 , . . . , xlk ) = 0, i, l = 1, 2, ..., n; i 6= l.
3 RLM.3 (colinearidade imperfeita): variação amostral e colinearidade
imperfeita, ou seja, n (k + 1) e Rj2 < 1, j = 0, 1, 2, ..., k, com Rj2 o
R-dois da regressão de xj nas outras variáveis explicativas da RLM.
4 RLM.4 (média condicional zero do erro):
E (ui jxi 1 , . . . , xik ) = 0, i = 1, 2, ..., n, exogeneidade contemporânea.
5 RLM.5 (homocedasticidade): a variância do erro, condicional em
f(xi 1 , xi 2 , ..., xik ) : i = 1, 2, ..., ng na amostra é σ2 ,uma constante
positiva, ou Var (ui jx1 , . . . , xk ) = Var (ui ) = σ2 , 8i.
6 RLM.6 (normalidade dos erros): u Normal (0, σ2 ) ou
ui iidNormal (0, σ2 ), i = 1, 2, ..., n.
Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 2 / 29
Propriedades de MQO em Amostras Finitas: Revisão

As hipóteses RLM.1 a RLM.4 garantem que

E (b
βj ) = βj , j = 0, 1, ..., k - os estimadores MQO são
(incondicionalmente) não viesados em amostras de qualquer
tamanho …nito, ou seja, amostras com n < ∞.
As hipóteses RLM.1 a RLM.5 ou hipóteses de Gauss-Markov
garantem que os estimadores MQO são os melhores estimadores
lineares não viesados (BLUE) em amostras de qualquer tamanho
…nito.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 3 / 29

Propriedades de MQO em Amostras Finitas: Revisão

As hipóteses RLM.1 a RLM.6 ou hipóteses do Modelo Clássico de

Regressão Linear (MCRL) para regressões com dados de seção cruzada
garantem, para amostras de qualquer tamanho …nito, que:
b
βj βj
1 tbβ t(n (k +1 ))gl em que
j ep (b
βj )
1/2
b2
ep (b
βj ) = σ
∑ni=1 b
rij2
, j = 0, 1, ..., k, b
rij é i-ésimo resíduo da
regressão com intercepto de xj nas demais variáveis explicativas da
RLM em RLM.1, ∑ni=1 b rij2 = SQRj (1 Rj2 ) para j = 1, 2, ..., k e
b 2 = ∑ i =1 u
n
σ bi2 /(n (k + 1)) é o estimador não viesado da variância
do erro da regressão.
(SQR r SQR ir )/q
2 F SQR ir /(n (k +1 ))
Fq,(n (k +1 ))g .l . .
3 b
βj , j = 0, 1, ..., k é BUE - melhores estimadores ou estimadores de
menor variância (relativa) na classe de estimadores não viesados.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 4 / 29

2. Propriedades Assintóticas de MQO

Com exceção do estimador MQO sob RLM.1 a RLM.4, raramente

temos um estimador não viesado em econometria.
Ademais, o não enviesamento de MQO não diz nada sobre se mais
informação (n ! ∞) é melhor do que menos informação.
De fato, pelo critério de não viesamento, b
β é tão bom quanto
j ,n =10
b
βj ,n =100 , pois, sob RLM.1 a RLM.4, E (b
βj ,n =10 ) = E (b
βj ,n =100 ) = βj .

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 5 / 29

Propriedades Assintóticas de MQO

Quando as hipóteses de Gauss-Markov não se sustentam, como

quando a hipótese crucial - RLM.4. E (ui jxi 1 , xi 2 , . . . , xik ) = 0, 8i
ou, simplesmente, E (u jx1 , x2 , . . . , xk ) = 0 -, é implausível ou
improvável, MQO deixa de ser não viesado, tornando necessário
avaliar as propriedades assintóticas de MQO em contraste com as de
estimadores alternativos, como com o estimador variáveis
instrumentais, de modo a escolher qual estimador utilizar.
Quando a hipótese de normalidade dos erros não se sustenta, como
quando rejeitamos H0 : os erros são normalmente distribuídos pelo
teste Jarque-Bera, propriedades assintóticas de MQO ainda podem
justi…car a utilização de testes t, F e χ2 , como os de razão de
verossimilhança, Wald e multiplicador de Lagrange.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 6 / 29

Propriedades Assintóticas de MQO

As propriedades assintóticas ou de amostras grandes do estimador b

βj de
um parâmetro βj dizem respeito a como a estimativa b βj se comporta à
medida que o tamanho da amostra se torna cada vez maior, em especí…co:
1 Quão distante b
βj vai …cando do parâmetro populacional βj , quando
n ! ∞?
2 Como a distribuição de b
β …ca, quando n ! ∞?
j

Para responder essas duas questões, utilizaremos duas noções de

comportamento em grande amostras, quais sejam:
1 Convergência em probabilidade; e
2 Convergência em distribuição.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 7 / 29

3. De…nição de Convergência em Probabilidade

De…nition
Dizemos que um estimador b βj converge em probabilidade para θ j se
qualquer diferença entre b
βj e θ j se torna improvável a medida que o
tamanho da amostra aumenta, tal que lim Pr(j b β j θ j j > ε) = 0 - ou
n !∞
seja -, quando n tende a in…nito, o limite da probabilidade de j b
βj θ j j > ε
é zero, sendo ε uma constante de valor arbitrário positivo e pequeno.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 8 / 29

De…nição de Convergência em Probabilidade

Há três formas equivalentes de expressar convergência em

probabilidade, quais sejam:

1 b
βj converge em probabilidade para θ j ; ou
2 θ j é o limite de probabilidade de b
βj ; ou, simplesmente,
3 p lim(b
βj ) = θ j .

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 9 / 29

4. De…nição de Consistência

De…nition
Um estimador b
βj de βj é consistente se p lim(b
βj ) = βj .

Ou seja, um estimador é consistente se converge em probabilidade

para o parâmetro populacional.
No grá…co no próximo slide, se p lim(b
β ) = β , a distribuição amostral
j j
de b
βj …ca cada vez mais concentrada em βj , quando n ! ∞.
Em termos práticos, se o estimador b
βj é consistente, obtemos b
βj = βj
com probabilidade 1 (certeza) quando n se torna bem grande.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 10 / 29

De…nição de Consistência

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 11 / 29

5. Consistência de MQO

Theorem (Teorema 5.1.Consistência de MQO)

Sob RLM.1 a RLM.4 , o estimador MQO b
βj é um estimador consistente de
βj , j = 0, 1, ..., k.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 12 / 29

Consistência de MQO

Para demonstrar o Teorema 5.1. utilizamos a Lei dos Grandes

Números (LGN), resultado (c.8), p. 65 do Apêndice C de
Wooldridge, segundo o qual, para uma amostra aleatória
fz1 , z2 , ..., zn g, ou seja, uma amostra de realizações de n variáveis
aleatórias iid de média µz , uma constante,
zi
p lim ∑i =1
n
= µz .
n
Utilizamos ainda a Propriedade PLIM.1 na p. 65 do Apêndice C do
Wooldridge, segundo a qual:
1 p lim(Tn + Un ) = p lim Tn + p lim Un ;
2 p lim(Tn Un ) = p lim Tn .p lim Un ; e
3 p lim(Tn /Un ) = p lim Tn /p lim Un , se p lim Un 6= 0.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 13 / 29

Consistência de MQO
Demonstração.
[Prova do Teorema 5.1 no modelo de regressão linear simples] Sob
∑ = (x
n
x 1 )y i
RLM.1 a RLM.3 , substitua yi = β0 + β1 xi 1 + ui em b
i1
β1 = i 1

∑ = (x
n
i1 x 1 )2
i 1
de MQO, tal que

∑ i = 1 ( xi 1
n
x 1 )ui /n
b
β1 = β1 + (1)
∑i =1 (xi 1
n
x 1 )2 /n

Aplicando a (1) as propriedades p lim(Tn + Un ) = p lim Tn + p lim Un e

p lim(Tn /Un ) = p lim Tn /p lim Un , temos que

p lim(∑i =1 (xi 1
n
x 1 )ui /n )
p lim(b
β1 ) = p lim( β1 ) + (2)
p lim ∑
n
(x
i =1 i 1
x 1 )2 /n )

continua...
Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 14 / 29
Consistência de MQO

Demonstração.
[Continuação da prova do Teorema 5.1] Utilizando o fato de que em uma
mostra aleatória p lim(∑i =1 (xi 1 x 1 )ui /n ) = Cov (x1 , u ) e
n

p lim(∑i =1 (xi 1 x 1 )2 /n ) = Var (x1 ) pela LGN, a equação (2) pode ser
n

reescrita como
Cov (x1 , u )
p lim(bβ1 ) = β1 + . (3)
Var (x1 )
Finalmente, sob RLM.3. Var (x1 ) > 0 e RLM.4. E (u jx1 ) = 0 que implica
em Cov (x1 , u ) = 0,
p lim(b
β1 ) = β1 . CQD.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 15 / 29

Consistência de MQO

Demonstração.
Consiremos o estimador MQO do intercepto
b
β0 = y b β1 x 1 = ( β0 + β1 x 1 + u ) b
β1 x 1 = β0 + u + x 1 ( β1 b
β1 ) e,
assim,

p lim(b
β0 ) = p lim( β0 ) + p lim(u ) + p lim(x 1 )(p lim( β1 ) p lim(b
β1 )).

Utilizando o resultado p lim(b

β1 ) = β1 , a consistência do estimador da
média pela LGN, tal que, p lim(x 1 ) = µx1 e p lim(u ) = µu = 0 por
RLM.4. E (u ) = 0, temos que

p lim(b
β0 ) = β0 + 0 + µx 1 ( β1 β1 ),

ou seja,
p lim(b
β0 ) = β0 . CQD.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 16 / 29

Consistência de MQO

Note que para consistência de b

β1 , basta Cov (x1 , u ) = 0, o que exige
menos que RLM.4, e para consistência de b β0 , é também necessário
E (u ) = 0.
0
Com base nisso, estabeleçamos a Hipótese RLM.4 (média zero e
correlação zero do erro):

E (u ) = Cov (xj , u ) = 0, j = 0, 1, ..., k

Lembre-se de que E (u jx1 , ..., xk ) = 0 é su…ciente para E (u ) = 0 e

0
Cov (xj , u ) = 0, j = 1, 2, ..., k, mas não o contrário, ou seja, RLM.4
é mais fraca ou exige menos que RLM.4.
0
Portanto, sob RLM.1 a RLM.3 e RLM.4 , o estimador
b
βj , j = 0, 1, ..., k de MQO é consistente.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 17 / 29

Consistência de MQO

0
Como RLM.4 é mais fraca que RLM.4, se o estimador MQO
b
βj , j = 0, 1, ..., k é não viesado sob RLM.1 a RLM.4, também serão
consistentes.
No entanto, b βj , j = 0, 1, ..., k pode ser consistente sem ser não
viesado.
Se Cov (xj , u ) 6= 0 para pelo menos um j = 0, 1, ..., k, o que é uma
0
violação de RLM.4 , todos os b βj , j = 0, 1, ..., k serão inconsistentes e,
consequentemente, viesados, pois se são inconsistentes, também são
viesados.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 18 / 29

Consistência de MQO

O problema com um estimador viesado e inconsistente é que o

viés não diminui com o aumento do tamanho da amostra.
Por exemplo, como

Cov (x1 , u )
p lim(b
β1 ) = β1 + ,
Var (x1 )

se Cov (x1 , u ) 6= 0,
p lim(b
β1 ) 6 = β1 .
Contudo, se o estimador MQO b βj , j = 0, 1, ..., k é viesado por conta
de E (u jx1 , x2 , ..., xk ) 6= 0 (violação de RLM.4), mas é consistente
por conta de E (u ) = 0 e Cov (xj , u ) = 0, j = 1, ..., k, o viés diminui
com o tamanho da amostra.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 19 / 29

5.1. Exemplo de Inconsistência de MQO

Considere o modelo verdadeiro e que atende RLM.4,

y = β0 + β1 x1 + β2 x2 + u, (4)

e o modelo que omite x2 ,

y = β0 + β1 x1 + v , com v β2 x2 + u. (5)

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 20 / 29

Exemplo de Inconsistência de MQO

Como sabemos que

d (x1 , x2 )
Cov
e
β1 = b β2 e
β1 + b δ1 , com e
δ1 = ,
d (x1 )
Var

por aplicação da Propriedade PLIM.1, temos que

Cov (x1 , x2 )
p lim e
β1 = β1 + β2 δ1 , com δ1 = . (6)
Var (x1 )

Como também sabemos que

E (e
β1 ) = β1 + β2 e
δ1 ,

e E (v jx1 , x2 ) = β2 x2 + E (u jx1 , x2 ) 6= 0 (violação de RLM.4) mesmo

sob E (u jx1 , x2 ) = 0.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 21 / 29

Exemplo de Inconsistência de MQO

Portanto, se Cov (x1 , x2 ) = 0, p lim e

β1 = β1 , ou seja, e
β1 é um
estimador consistente de β1 .
Contudo, Cov (x1 , x2 ) = 0 não garante que Covd (x1 , x2 ) = 0 em cada
amostra.
d (x1 , x2 ) 6= 0 e,
De fato, como E (v jx1 , x2 ) = β2 x2 6= 0, então, Cov
portanto, e
β é um estimador viesado de β .
1 1

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 22 / 29

Exemplo de Inconsistência de MQO

Considerando y o preço de venda da casa, x1 a distância até um

lixão, x2 a qualidade da casa e Cov (x1 , x2 ) > 0, admitindo-se que
qualidade das casas é positivamente correlacionada com a distância
ao lixão,
p lim e
β1 = β1 + β2 δ1
(+) (+)(+)
| {z }
Inconsistência (+) de MQO
e
E (e
β1 ) = β1 + e
β2 δ1
(+) (+)(+)
| {z }
Viés (+) de MQO

O estimador e β1 é viesado para cima e inconsistente e, assim, o

e
viés de β1 não diminui com o tamanho da amostra.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 23 / 29

Exemplo de Inconsistência de MQO

d (x1 , x2 ) 6= 0 mas Cov (x1 , x2 ) = 0,

Contudo, se Cov

p lim e
β1 = β1

e
E (e
β1 ) = β1 + β2 e
δ1
(+) (+)(+)
| {z }
Viés (+) de MQO

Ou seja, e
β1 é viesado para cima mas consistente e, assim, o viés de
e
β1 diminui com o tamanho da amostra.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 24 / 29

6. Convergência em Distribuição: Normalidade Assintótica
de MQO

Theorem (Teorema 5.2. Normalidade assintótica de MQO)

Sob RLM.1 a RLM.5, as hipóteses de Gauss-Markov:
p b a
1 n ( βj βj ) s N (0, σ2 /aj2 ), j = 0, 1, ..., k, em que σ2 /aj2 é a
p
v ariância assintótica da variável aleatória n (b βj βj ); para os
coe…cientes de inclinação, aj2 = p lim n 1 ∑i =1 b
n
rij2 com b
rij2 o
quadrado do i-ésimo resíduo da regressão de xj nas outras variáveis
da RLM em RLM.1.
ub2
2 b2 = n ∑(ik +i 1 ) é um estimador consistente da variância de u ou
σ
b2 ) = σ2 .
p lim(σ
b r
βj a b2
N (0, 1), com ep (b
βj σ
3 Para cada j = 0, 1, ..., k, s βj ) = ,
∑=
n
ep (b
β) j r2
b
i 1 ij
o erro-padrão usual.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 25 / 29

Convergência em Distribuição: Normalidade Assintótica de
MQO

O resultado 1 diz que quando

p o tamanho da amostra aumenta, a
distribuição amostral de n (b βj βj ), j = 0, 1, ..., k torna-se
arbitrariamente próxima de uma distribuição normal, resultado da
aplicação direta do Teorema do Limite Central (apêndice C do
livro) para uma variável aleatória b
βj com E (b
βj ) = βj e
b 2 2
Var ( β ) = σ /a .
j j
Como pelos resultados 1 e 2, !
r r
b2
p lim(ep (b n 1σ n 1 σ2 1/2 σ/a
βj )) = p lim = =n j,
∑=
n
n 1 rij2
b aj2
i 1
b
βj βj a
ep (b
βj )
s N (0, 1) - resultado 3 -, o que torna desnecessária a
hipótese RLM.6 de normalidade do erro, no caso de grandes
amostras.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 26 / 29

Convergência em Distribuição: Normalidade Assintótica de
MQO

Portanto, sob RLM.1 a RLM.5, as hipóteses de Gauss-Markov,

podemos efetuar testes t e F como antes, pois são assintoticamente
válidos.
A distribuição tn (k +1 )gl é mais espalhada que a normal padrão, mas
se torna cada vez mais próxima desta quando n ! ∞.
Assim, para controlar o erro tipo I, Greene (2012) aconselha utilizar
os valores críticos da distribuição t mesmo em ausência de
normalidade dos erros (Greene, 2012: p.129).
As hipóteses RLM.1 a RLM.6 garantem e…ciência (menor variância
relativa) assintótica de MQO dentre os in…nitos estimadores que
resolvem as equações da forma (5.20) em Wooldridge (2018, p.194),
que é uma propriedade de grandes amostras.
Vide Teorema 5.3. E…ciência assintótica de MQO em Wooldridge
(2018, p.194),.
Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 27 / 29
7. Teste Multiplicador de Lagrange

O teste multiplicador de Lagrange é uma alternativa ao teste F para

testar hipóteses de exclusão de variáveis do modelo em amostras
grandes.
Se a hipótese é que as (k q ) últimas variáveis do modelo são, em
conjunto, zero,

H0 : β(k q )+1
= β (k q )+2
= ... = β(k q )+q
=0

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 28 / 29

Teste Multiplicador de Lagrange

Passo 1: estime o modelo restrito.

Passo 2: estime uma regressão dos resíduos do modelo restrito sobre
as variáveis explicativas do modelo irrestrito e armazene o R 2 desta
regressão como Ru2 .
Passo 3: calcule a estatística LM = nRu2 χ2q e efetue o teste ao
nível de signi…cância estabelecido.
Os testes F e LM não levam, necessariamente, aos mesmos
resultados em amostras de tamanho …nito.
nqF
É possível mostrar que LM = n +qF , ou seja, LM F.

Moisés Resende Filho (ECO/UnB) MQO Assintótico 02/08/2022 29 / 29