Propriedades Estatísticas do Estimador MQO na RLM:

Variância do estimador
Aula 11, Introdução à Econometria

Prof. Moisés A. Resende Filho

Capítulo 03, parte 4

15 de julho de 2022

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 1 / 23

1. A Variância do Estimador MQO

RLM.5. Homocedasticidade: a variância do erro u, condicional em

f(xi 1 , xi 2 , ..., xik ) : i = 1, ..., ng na amostra é

Var (ui ) = σ2 , i = 1, ..., n

ou, simplesmente,

Var (u jx1 , x2 , ..., xk ) = Var (u ) = σ2

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 2 / 23

A Variância do Estimador MQO

A hipótese RLM.5 é fundamental na obtenção de fórmulas simples

para os estimadores da variância dos estimadores de MQO,
d (b
Var βj ), j = 0, 1, .., k, e na discussão sobre a e…ciência (relativa) do
estimador MQO.
Contudo, a hipótese RLM.5 não tem qualquer relação com o teorema
que garante o não viesamento de MQO, o qual exige apenas as
hipóteses RLM.1 a RLM.4.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 3 / 23

A Variância do Estimador MQO

Sabemos que

b ∑ni=1 b
rij yi
βj = n , j = 0, 1, ..., k
∑ i =1 b
rij2
∑ni=1 b
rij ( β0 + β1 xi 1 + ... + βk xik + ui )
=
∑ni=1 b
rij2
∑n b rij ui
= βj + i =n 1 2 , (1)
∑ i =1 brij

rij xij = ∑i =1 b
n
pois ∑ni=1 brij xil = 0, l = 0, 1, ..., k; j 6= l e ∑ni=1 b rij2 . Para
j = 0, caso em que xi 0 = 1, 8i, a regressão auxiliar é sem intercepto e
ri 0 = ∑i =1 b
n
∑ni=1 b ri20 .

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 4 / 23

A Variância do Estimador MQO
Sob RLM.1 a RLM.5 e condicional em f(xi 1 , ..., xik ) : i = 1, ..., n g na
amostra, aplicando Var (.) dos dois lados de (1), obtemos:
!
n
∑ br ij u i
Var (b
βj ) = Var βj + i =n 1 2
∑ i =1 b rij
!
1
= ∑i =1 Var
n
b
rij ui , pois Var ( βj ) = 0
∑ni=1 b rij2
!2
brij2
= ∑ i =1
n
Var (ui ), por RLM.2
∑ni=1 b rij2
!2
1
σ 2 ∑ i =1 b
n
= n rij2 , pois Var (ui ) = σ2 , 8i,
∑i =1 ij
b
r 2

tal que,
σ2
Var (b
βj ) = , j = 0, 1, ..., k (2)
∑ni=1 b
rij2
Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 5 / 23
A Variância do Estimador MQO

Como SQTj = SQRj + SQEj e SQRj ∑ni=1 b

rij2 , j = 1, ..., k,

SQTj
∑i =1 brij2
n
= (SQTj SQEj )
SQTj
= SQTj (1 Rj2 )
SQE
com SQTj = ∑ni=1 (xij x̄j )2 e Rj2 = SQTjj , o R 2 da regressão de xj
nas demais k 1 variáveis explicativas da RLM em RLM.1 e, assim,

σ2
Var (b
βj ) = , j = 1, 2, ..., k
SQTj (1 Rj2 )

RLM.3 elimina a possibilidade de Rj2 = 1, o que ocorreria somente se

xj fosse uma combinação linear de uma constante e as demais k 1
variáveis explicativas da RLM.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 6 / 23

A Variância do Estimador MQO

Teorema 3.2. Variância amostral do estimador MQO das

inclinações: sob RLM.1 a RLM.5 (hipóteses de Gauss-Markov) e
condicional em f(xi 1 , xi 2 , ..., xik ) : i = 1, ..., n g na amostra,

σ2
Var (b
βj ) = , j = 1, 2, ..., k (3)
SQTj (1 Rj2 )

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 7 / 23

1.1. Componentes que Afetam a Variância do Estimador
MQO

σ2
Var ( β̂j ) = , j = 1, 2, ..., k
SQTj (1 Rj2 )

1. Var ( β̂j ) diminui se a variância do erro populacional σ2 se reduz - uma

forma de reduzirmos σ2 é acrescentar variáveis ao modelo, retirando
fatores de u e incorporando-os explicitamente na RLM.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 8 / 23

Os Componentes que Afetam a Variância do Estimador
MQO

σ2
Var ( β̂j ) = , j = 1, 2, ..., k
SQTj (1 Rj2 )

2. Var ( β̂j ) diminui se a variabilidade de xj na amostra SQTj aumenta,ou

seja, a estimativa do efeito de xj em y se torna mais precisa se há
maior variação amostral em xj - Como SQTj /n é a variância amostral
de xj , consideramos que

SQTj nσ2j

em que a constante σ2j > 0 é a variância populacional de xj . Assim,

como SQTj aumenta com o tamanho n da amostra, também a
precisão das estimativas β̂j , j = 1, 2, ..., k aumenta.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 9 / 23

Os Componentes que Afetam a Variância do Estimador
MQO

σ2
Var ( β̂j ) = , j = 1, 2, ..., k
SQTj (1 Rj2 )

3. Quanto maior é a multicolinearidade ou Rj2 ! 1, menos precisa

são as estimativas β̂j , pois Var ( β̂j ) ! ∞. Como o Rj2 mede a
qualidade da relação linear de xj com as demais k 1 variáveis
explicativas da RLM em RLM.1, a menor variância de β̂j ou maior
precisão das estimativas MQO das inclinações se dá quando Rj2 = 0,
caso em que
σ2
Var ( β̂j ) = , j = 1, 2, ..., k
SQTj

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 10 / 23

Os Componentes que Afetam a Variância do Estimador
MQO
1 1 2
Por exemplo, para Var ( β̂j ) = 100 (1 R j2 ) , Rj 2 [0, 1)

Var(Beta jota chapéu)

0.2
0.1
0.0
0.0 0.2 0.4 0.6 0.8 1.0
R-dois jota

Rj2 muito próximo de 1 signi…ca problema de multicolinearidade,

mas o que é muito próximo de 1?
De fato, multicolinearidade alta não viola nenhuma hipótese de
Gauss-Markov.
No entanto, é possível reduzir Var ( β̂j ) aumentando o tamanho n da
amostra.
Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 11 / 23
Os Componentes que Afetam a Variância do Estimador
MQO

Para investigarmos a severidade da multicolinearidade podemos

avaliar o Fator de In‡acionamento da Variância (variance in‡ation
factor - VIF ),
1
VIFj = , j = 1, 2, ..., k. (4)
1 Rj2
Uma regra de bolso é: se VIFj > 10 ou Rj2 > 0, 9, multicolinearidade
é um "problema"de fato.
No entanto, algum grau de multicolinearidade é uma realidade na
RLM.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 12 / 23

2. Variância em Modelos Mal Especi…cados

Suponha que tenhamos estimado os modelos

b
y = β̂0 + β̂1 x1 + β̂2 x2 + u (5)

ye = β̃0 + β̃1 x1 (6)

de onde sabemos que
E ( β̂1 ) = β1
σ2
Var ( β̂1 ) = (7)
SQT1 (1 R12 )
E ( β̃1 ) = β1 + β2 e
δ1
|{z}
viés

σ2
Var ( β̃1 ) = (8)
SQT1

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 13 / 23

Variância em Modelos Mal Especi…cados

Moral da história:
Se β2 6= 0 e e δ1 6= 0 <=> R12 > 0 (x1 e x2 são correlacionados na
amostra), β̃1 é viesado, mas Var ( β̃1 ) < Var ( β̂1 ), ou seja, β̂1 é não
viesado, mas menos preciso que β̃1 .
No entanto, se β2 = 0 e e δ1 6= 0 ou R12 > 0, β̃1 e β̂1 são ambos não
viesados, mas Var ( β̂1 ) > Var ( β̃1 ), ou seja, β̂1 é menos preciso que
β̃1 . Ou seja, incluir variáveis desnecessárias no modelo não viesa,
mas torna as estimativas MQO menos precisas.
Em outras palavras, superespeci…car o modelo não é uma medida
sem custos.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 14 / 23

3. Estimador da Variância do Erro da Regressão

Apesar de σ2 ser constante, é uma constante de valor desconhecido,

e, assim, é necessário estimar σ2 a partir da amostra com n
observações a partir da RLM com k + 1 parâmetros estimados, o que
resulta em apenas n (k + 1) graus de liberdade (gl).
Perdemos k + 1 graus de liberdade ao impormos aos dados as k + 1
CPOs do problema de MQO, quais sejam:

∑i =1 ûi
n
= 0
∑i =1 xij ûi
n
= 0, j = 1, ..., k

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 15 / 23

Estimador da variância do erro da regressão

Teorema 3.3. Estimação não viesada de σ2 : sob RLM.1 a RLM.5, as

hipóteses de Gauss-Markov:

∑ni=1 ûi2
σ̂2 =
n (k + 1)
SQR
=
gl

é o estimador não viesado de σ2 e σ̂ é o erro-padrão da regressão - "Root

MSE"na saída do Stata.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 16 / 23

Estimador da variância do erro da regressão

O erro-padrão de cada β̂j é

σ̂
ep ( β̂j ) = h i1/2 , j = 1, ..., k
SQTj (1 Rj2 )

e são reportados na saída do Stata na coluna com título "std. err".

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 17 / 23

Estimador da variância do erro da regressão

Por exemplo, com os comandos Stata: bcuse wage2, clear e reg lwage
educ IQ exper,cformat(%9.3f) pformat(%5.3f) sformat(%8.3f), obtemos
. bcuse wage2, clear
. reg lwage educ IQ exper,cformat(%9.3f) pformat(%5.3f) sformat(%8.3f)

Source SS df MS Number of obs = 935

F(3, 931) = 60.10
Model 26.876773 3 8.95892434 Prob > F = 0.0000
Residual 138.779521 931 .149065007 R-squared = 0.1622
Adj R-squared = 0.1595
Total 165.656294 934 .177362199 Root MSE = .38609

lwage Coef. Std. Err. t P>|t| [95% Conf. Interval]

educ 0.057 0.007 7.772 0.000 0.043 0.072

IQ 0.006 0.001 5.906 0.000 0.004 0.008
exper 0.020 0.003 6.018 0.000 0.013 0.026
_cons 5.198 0.122 42.768 0.000 4.960 5.437

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 18 / 23

Estimador da variância do erro da regressão
Ou seja, a RLM estimada por MQO é

[ = 5, 198 + 0, 057educ + 0, 006IQ + 0, 020exper

lwage
(0,122 ) (0,007 ) (0,001 ) (0,003 )
2
n = 935, R = 0, 1622

Com o comando Stata estat vif, obtemos os seguintes fatores de

in‡acionamento da Variância (variance in‡ation factor - VIF ):
. estat vif

Variable VIF 1/VIF

educ 1.63 0.612593

IQ 1.36 0.733930
exper 1.26 0.792316

Mean VIF 1.42

todos menores que 10, o que implica não haver "problema de

multicolinearidade".
Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 19 / 23
4. E…ciência (Relativa) de MQO

Teorema 3.4. Teorema de Gauss-Markov: sob RLM.1 a RLM.5, as

hipóteses de Gauss-Markov, e condicional em
n
βj = ∑∑i =n 1 bijr 2 i , j = 0, 1, ..., k
b
r y
f(xi 1 , xi 2 , ..., xik ) : i = 1, 2, ..., ng, o estimador b
i =1 ij
é o melhor estimador linear não viesado ou best linear unbiased
estimator (BLUE). Ou seja, o estimador MQO produz estimativas mais
precisas do que as produzidas por qualquer outro estimador linear não
viesado.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 20 / 23

E…ciência (Relativa) de MQO

E(stimator): é possível obter uma estimativa a partir dos dados na

amostra, sob RLM.3 este é o caso para b
βj , j = 0, 1, ..., k.
U(nbiased): sob RLM1 a RLM.4, E (b
βj ) = βj , j = 0, 1, ..., k pelo
Teorema 3.1.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 21 / 23

E…ciência (Relativa) de MQO

L(inear): o estimador MQO é uma função linear de

fyi : i = 1, ..., ng, ou seja, está na forma geral b βj = ∑ni=1 wij yi , em
que wij são pesos calculados em função de
b
rij
f(xi 1 , xi 2 , ..., xik ) : i = 1, 2, ..., ng e , no caso de MQO, wij ∑n b r2
.
i =1 ij

B(est): sob RLM.1 a RLM.5, as hipóteses de Gauss-Markov, e

condicional em f(xi 1 , xi 2 , ..., xik ) : i = 1, 2, ..., n g, b
βj , j = 0, 1, ..., k
tem a menor variância dentre os estimadores lineares, tal que

Var ( β̂j ) Var ( β̃j ), j = 0, 1, ..., k,

usualmente a desigualdade é estrita e β̃j é qualquer outro estimador

não viesado e linear de βj .

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 22 / 23

E…ciência (Relativa) de MQO

Pelo Teorema 3.1, β̂j é não viesado mesmo se RLM.5 não é

verdadeira, mas nesse caso:

1 As fórmulas para Var ( β̂j ) e ep ( β̂j ) se tornam incorretas, o que exige

encontrar fórmulas corretas; e
2 Os estimadores MQO β̂j , j = 0, 1, ..., k deixam de ser BLUE, o que
abre espaço se buscar estimadores mais precisos ou melhores que
MQO.

Moisés Resende Filho (ECO/UnB) Propriedades Estatísticas de MQO 15/07/2022 23 / 23