O Modelo de Regressão Linear Simples (MRLS)

Aula 04, Introdução à Econometria

Prof. Moisés A. Resende Filho

Capítulo 02, parte 2

22 de junho de 2022

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 1 / 23

1. Implicações da Hipótese Crucial do MRLS

A hipótese crucial do MRLS para análise ceteris paribus e

identi…cação é
E (u jx ) = 0 (1)
Leia E (u jx ) = 0 como E (ui jxi ) = 0, 8i (exogeneidade
contemporânea).
Como E (u jx ) é função de x, uma variável aleatória, também a
função esperança condicional E (u jx ) é uma variável aleatória.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 2 / 23

Implicações da Hipótese Crucial do MRLS

Como exemplo do modelo RLS, consideremos

salario = β0 + β1 educ + u,

com u sendo habilidade individual que é não observável pelo

econometrista.
Sob E (u jeduc ) = 0, por exemplo, mesmo se soubéssemos que
educ = 10 anos, nada poderíamos a…rmar sobre a habilidade
esperada de um indivíduo que sabidamente estudou dez anos.
O problema de identi…cação consiste em encontrar condições que,
se atendidas, garantem a obtenção dos valores dos parâmetros do
modelo a partir dos dados, ou seja, garantem identi…cação.
A condição E (u jx ) = 0 garante identi…cação no MRLS.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 3 / 23

Implicações da Hipótese Crucial do MRLS

Nos próximos quatro slides, queremos mostrar que a hipótese crucial

E (u jx ) = 0 é su…ciente, garante ou implica em:

E (u ) = 0, (2)

E (ux ) = 0 (3)
e
Cov (u, x ) = 0 (4)

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 4 / 23

Demonstração

Se E (u jx ) = 0, então E (u ) = 0, pois

E (u ) = E (E (u jx )), pela lei das esperanças

iteradas ou lei da esperança total
= E (0)
= 0. CQD.

A lei das esperanças iteradas pode ser revisada nas páginas 42 a 45

do Apêndice B do livro do Wooldridge, disponível na página web do
curso.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 5 / 23

Demonstração

Tomemos um simples exemplo de aplicação da lei das esperanças

iteradas (LEI) ou lei da esperança total (LET).
Suponha que, na população, o IRA das mulheres é 3, 5 e dos homens,
3, 2.
Ou seja, E (IRAjfeminino = 1) = 3, 5 e E (IRAjfeminino = 0) = 3, 2.
Disso e, como 50% da população é do sexo feminino, obtemos que o
IRA médio na população é

E (IRA) = E (E (IRAjfeminino ))
= 0, 5 (E (IRAjfeminino = 0) + E (IRAjfeminino = 1))
= 0, 5 (3, 5 + 3, 2)
= 3, 35

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 6 / 23

Demonstração

Se E (u jx ) = 0, então E (ux ) = 0, pois, como pela LET

E (ux ) = E (E (ux jx )),

então

E (ux ) = E (xE (u jx )), por linearidade

do operador esperança matemática
= 0, pois E (u jx ) = 0. CQD.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 7 / 23

Demonstração

Finalmente, se E (u jx ) = 0, então Cov (u, x ) = 0, pois

Cov (u, x ) E ((u E (u ))(x E (x ))) , por de…nição

= E (ux ) E (u )E (x )
= E (ux ), pois E (u ) = 0
= 0, pois E (ux ) = 0. CQD.

Em suma, como demonstramos, E (u jx ) = 0 implica em E (u ) = 0 e

E (ux ) = 0, os quais implicam em Cov (u, x ) = 0.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 8 / 23

2. De…nições Importantes

Estamos interessados em desenvolver o quinto dos cinco passos da

análise econométrica ou análise econômica empírica, em especí…co,
estimar o modelo econométrico.
Questão: Como obter uma estimativa dos parâmetros β0 e β1 do
Modelo de Regressão Linear Simples (MRLS) populacional a
partir de uma amostra f(xi , yi ) : i = 1, 2, ..., n g, um conjunto de n
pares de observações de x e y ?
Ou seja, com base em uma amostra e no MRLS

yi = β0 + β1 xi + ui - na forma estocástica, (5)

como obter o MRLS amostral

yi = b
β0 + b bi - na forma estocástica?
β1 xi + u (6)

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 9 / 23

De…nições importantes
Mas antes de respondermos, é necessário de…nir erro
ui yi E (y jxi ) = yi β0 β1 xi E (ui jxi ) e resíduo
| {z }
=0
bi
u yi ybi = yi b
β0 b
β1 xi , que gra…camente são:

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 10 / 23

3. Derivação das Estimativas Mínimos Quadrados
Ordinários (MQO) por Método dos Momentos (MM)

Admita que tenhamos uma amostra f(xi , yi ) : i = 1, ..., n g aleatória

da população de interesse.
Admita ainda a hipótese crucial E (u jx ) = 0, a qual implica em
E (u ) = E (ux ) = Cov (u, x ) = 0.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 11 / 23

Derivação das Estimativas MQO por MM

Como E (u jx ) = 0 implica em E (u ) = 0 - a média (incondicional) do

erro é zero -, e u y β0 β1 x, então

E (u ) = E (y β0 β1 x ) = 0,

cujo o análogo amostral é

∑i =1 (yi
1 n b b
n β0 β1 xi ) = 0 (7)

A condição E (y β0 β1 x ) = 0 identi…ca o intercepto do MRLS,

b
β0 = ȳ bβ1 x̄.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 12 / 23

Derivação das Estimativas de MQO por MM

Como E (ux ) = 0 - ortogonalidade contemporânea de u e x -, então

E (ux ) = E ((y β0 β1 x )x ) = 0,

cujo o análogo amostral é

∑i =1 (yi
1 n b b
n β0 β1 xi )xi = 0 (8)

A condição E [(y β0 β1 x )x ] = 0 identi…ca o parâmetro de

inclinação do modelo de regressão.
Ao aplicarmos as condições (7) e (8) aos dados de uma amostra,
estaremos obtendo estimativas b
β0 e bβ1 pelo método dos momentos
(MM).

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 13 / 23

Derivação das Estimativas MQO por MM

Como E (u jx ) = 0 garante E (u ) = 0 e E (ux ) = 0, mas o contrário

não é verdadeiro, a hipótese crucial do MRLS é mais que su…ciente
para a identi…cação dos parâmetros do MRLS.
De fato, bastaria supor E (u ) = 0 e E (ux ) = 0 para β0 e β1 serem
identi…cados, ou seja, para podermos obter estimativas b β0 e b
β1 pelo
método dos momentos (MM).

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 14 / 23

Derivação das Estimativas MQO por MM

Em suma, utilizaremos o sistema linear de duas equações, formado pelas

condições (7) e (8)
(
n 1 ∑ni=1 (yi b β0 b
β1 xi ) = 0
,
n ∑i =1 xi (yi b
1 n
β0 b
β xi ) = 0
1

tal que, resolvendo o sistema, chegamos aos estimadores bβ0 e bβ1 , as

incógnitas do sistema, como apresentado nos próximos três slides.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 15 / 23

Derivação das Estimativas MQO por MM

No primeiro passo, expandindo o somatório no lado esquerdo de (7),

n n n n
n 1
∑ (yi b
β0 b
β1 xi ) = n 1
∑ yi n 1
∑ bβ0 n 1
∑ bβ1 xi ,
i =1 i =1 i =1 i =1

e, por (7),

∑i =1 yi
n
∑i =1 xi
n
n 1
n 1
nb
β0 b
β1 n 1
= 0,

temos que
b
β0 = ȳ b
β1 x̄ (9)
em que ȳ = n 1
∑ni=1 yi e x̄ = n 1
∑ni=1 xi são as médias amostrais de y e
x.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 16 / 23

Derivação das Estimativas MQO por MM

No segundo passo, substituindo (9) em (8), obtemos

0 1
B C
∑i =1 xi B
n
@yi (ȳ b
β x̄ ) β1 xi C
b
A=0
| {z 1 }
b
β0 , por (9)

e, assim,

∑i =1 xi (yi
n
β1 ∑i =1 xi (xi
n
ȳ ) = b x̄ )
tal que, admitindo que ∑ni=1 (xi x̄ )2 > 0, obtemos

b ∑n xi (yi ȳ )
β1 = in=1 (10)
∑i =1 xi (xi x̄ )

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 17 / 23

Derivação das Estimativas MQO por MM

Ademais, como

∑i =1 (xi
n
x̄ ) = 0,
∑i =1 xi (yi
n
∑i =1 (xi
n
∑i =1 (xi
n
ȳ ) = x̄ )(yi ȳ ) = x̄ )yi e
∑i =1 xi (xi
n
∑i =1 (xi
n
x̄ ) = x̄ )2 ,

temos que

∑n xi (yi ȳ ) ∑n (xi x̄ )(yi ȳ ) d (x, y )

Cov
b
β1 = in=1 = i =1 n = (11)
∑i =1 xi (xi x̄ ) ∑i =1 (xi x̄ )2 d (x )
Var

d (x, y ) = (n 1) 1 ∑ni=1 (xi x̄ )(yi ȳ ) é a

Lembremos que Cov
d (x ) = (n 1) 1 ∑ni=1 (xi x̄ )2
covariância amostral de x e y e Var
é a variância amostral de x.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 18 / 23

Derivação das Estimativas MQO por MM

Apesar de termos utilizado o método dos momentos (MM) para obter

os estimadores b
β0 e b
β1 , geralmente, nos referimos a (9) e (11) como
estimadores Mínimos Quadrados Ordinários (MQO) do
intercepto e estimador MQO da inclinação.
Note que se ∑ni=1 (xi x̄ )2 > 0 ou
d (xi ) (n 1) 1 ∑ni=1 (xi x̄ )2 > 0, obtemos uma única
Var
estimativa b
β1 a partir do estimador ou critério (11).
A hipótese de que ∑ni=1 (xi x̄ )2 > 0 elimina a possibilidade de
utilizar uma amostra em que xi é igual em cada observação i.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 19 / 23

Derivação das Estimativas MQO por MM
Por exemplo, ∑ni=1 (xi x̄ )2 > 0 elimina a possibilidade de uma
amostra como a do grá…co:

De fato, com uma amostra como a do grá…co acima, não seria

factível obter uma estimativa MM b
β1 do modelo
wage = β0 + β1 educ + u,
pois, como cada indivíduo tem mesmos 12 anos de escolaridade,
d (xi ) = 0.
∑ni=1 (xi x̄ )2 = ∑ni=1 (12 12)2 = Var
Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 20 / 23
Derivação das Estimativas MQO por MM

Após termos obtido b

β1 , podemos obter a estimativa MM/MQO do
intercepto β0 do MRLS com base no estimador

b
β0 = ȳ b
β1 x̄

Utilizaremos o computador e algum software, como o Stata, Eviews,

Gretl, R, ... para realizar as aplicações dos estimadores MQO aos
dados.

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 21 / 23

Derivação das Estimativas MQO por MM

Por que os estimadores MM no MRLS são estimadores Mínimos

Quadrados Ordinários (MQO)?
Porque, como veremos mais à frente, os estimadores MM - (9) e (11)
-, também são a solução do problema de minimização da soma dos
quadrados dos resíduos (SQR):

min ∑i =1 u
n
bi2
b
βo , b
β1

com ûi yi ŷi e ŷi = yi b

β0 b
β1 xi (resíduo), tal que

min ∑i =1 (yi
n b b
β0 β1 xi )2
b
βo , b
β1

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 22 / 23

Derivação das Estimativas MQO por MM

Tendo obtido as estimativas b

β0 e b
β1 para uma amostra, podemos
escrever a função de regressão amostral

ybi = b
β0 + b
β1 xi , i = 1, 2, ..., n

A estimativa do intercepto b
β0 é o valor previsto de y para x = 0, o
que não é importante se x = 0 é improvável.
A estimativa da inclinação b
β1 é a estimativa da mudança em y
decorrente de uma variação ceteris paribus em x, tal que ∆ŷ = bβ1 ∆x
b
e, se ∆x = 1, ∆ŷ = β . 1

Moisés Resende Filho (ECO/UnB) O Modelo de Regressão Simples 22/06/2022 23 / 23