Slides de Regressão Linear

REGRESSÃO LINEAR SIMPLES
Isaac Jales Costa Souza

Universidade do Estado do Rio Grande do Norte - UERN
14 de maio de 2019
pet
Isaac Jales Costa Souza UERN

MODELO MATEMÁTICO
Um modelo matemático pode ser expresso por
pet

MODELO MATEMÁTICO
Um modelo matemático pode ser expresso por
Y = f ( |{z}
|{z} x )
variável resposta variável explicativa
pet

MODELO MATEMÁTICO
Exemplo: Modelo matemático que descreve o preço do
almoço (R$ 50,00 por kg) em função do peso do prato.
pet

MODELO MATEMÁTICO
Y = 50 · |{z}
|{z} X
preço quilo
pet

MODELO MATEMÁTICO
Y = 50 · |{z}
|{z} X
preço quilo
X = 1 kg, implica em gasto DETERMINADO de

Y = R$50.
pet

MODELO MATEMÁTICO
Y = 50 · |{z}
|{z} X
preço quilo
X = 1 kg, implica em gasto DETERMINADO de

Y = R$50.
X = 0, 5 kg, implica em gasto DETERMINADO de
Y = R$25, 00. pet

MODELO MATEMÁTICO
Exemplo: Modelo matemático que descreve o montante em
função da taxa de juros no perı́odo para uma aplicação de R$
1.000,00.
pet

MODELO MATEMÁTICO
1.000,00.
Y = 1000 × (1 + |{z}
|{z} X )
montante taxa de juros
pet

MODELO MATEMÁTICO
1.000,00.
Y = 1000 × (1 + |{z}
|{z} X )
Uma taxa de juros de X = 0, 05, implica em montante

DETERMINADO de Y = R$1050, 00.
pet

MODELO MATEMÁTICO
1.000,00.
Y = 1000 × (1 + |{z}
|{z} X )

pet
MODELO MATEMÁTICO
Exemplo: Modelo matemático que descreve a taxa real de
juros em função da taxa de inflação e taxa efetiva de juros.
pet

MODELO MATEMÁTICO
taxa efetiva
z}|{
1 + X1
Y
|{z} 1 + X=
taxa real 2
|{z}
taxa de inflação
pet

MODELO MATEMÁTICO
taxa efetiva
z}|{
1 + X1
Y
|{z} 1 + X=
taxa real 2
|{z}
taxa de inflação
Uma taxa de juros e de inflação de X1 = 0, 1 e

X2 = 0, 05, respectivamente, implica em uma taxa real pet
DETERMINADA de Y = R$0, 047.
MODELO MATEMÁTICO
Pergunta: Dado o preço da ação do banco B, qual será o

preço da ação do banco A?
pet

MODELO MATEMÁTICO

variável resposta: preço da ação do banco A.
pet

MODELO MATEMÁTICO

variável explicativa: preço da ação do banco B.
pet

MODELO MATEMÁTICO

variável explicativa: preço da ação do banco B.
Resposta: Não há modelo matemático, pois a variável
resposta não pode ser determinada pelo conhecimento da
variável explicativa.
pet

MODELO MATEMÁTICO
Solução: Procurar um modelo estatı́stico adequado que

descreva o preço das ações do banco A em função do preço
das ações do banco B.
pet

MODELO MATEMÁTICO
Solução: Procurar um modelo estatı́stico adequado que

descreva o preço das ações do banco A em função do preço
das ações do banco B.
OBSERVAÇÃO: O modelo estatı́stico não é deterministico.
pet

MODELO ESTATÍSTICO
Um modelo estatı́stico pode ser expresso por
pet


componente deterministica
z }| {
Y = f ( |{z}
|{z} x ) + |{z}
e
variável resposta variável explicativa componente aleatória
pet


componente deterministica
z }| {
Y = f ( |{z}
|{z} x ) + |{z}
e
variável resposta variável explicativa componente aleatória
OBS: e segue uma determinada distribuição de probabilidade e

pet
é chamado de erro do modelo.

Exemplo: A Tabela a seguir mostra os preços das ações do

banco A (Y) e do banco B (X) em 10 perı́odos (T) distintos.
T 1 2 3 4 5 6 7 8 9 10
X 8.70 9.98 6.73 13.70 8.88 11.99 8.56 7.74 10.80 7.37
Y 10.50 10.53 9.12 12.51 8.51 10.46 8.95 8.45 9.31 7.90
pet

Exemplo: A Tabela a seguir mostra os preços das ações do

banco A (Y) e do banco B (X) em 10 perı́odos (T) distintos.
T 1 2 3 4 5 6 7 8 9 10
X 8.70 9.98 6.73 13.70 8.88 11.99 8.56 7.74 10.80 7.37
Y 10.50 10.53 9.12 12.51 8.51 10.46 8.95 8.45 9.31 7.90
Qual modelo estatı́stico podemos utilizar para descrever Y em

função de X?
pet

Modelo de Regressão Linear Simples
pet

pet

pet

pet

pet

Aparentemente, uma reta se ajusta bem aos dados.
pet

Aparentemente, uma reta se ajusta bem aos dados.

Assim, utilizaremos um modelo estatı́stico linear,
denotado por modelo de regressão linear simples.
pet

MODELO DE REGRESSÃO LINEAR SIMPLES
O modelo de regressão linear simples é dado por
pet

Y =α
| +{zβX} +e.
reta de regressão
pet

Y =α
| +{zβX} +e.
reta de regressão
α é um parâmetro denotado de intercepto e α ∈ R
pet

Y =α
| +{zβX} +e.
reta de regressão

β é um parâmetro denotado de coeficiente da
regressão e β ∈ R
pet

Y =α
| +{zβX} +e.
reta de regressão

β é um parâmetro denotado de coeficiente da
regressão e β ∈ R
e é uma v.a. chamada de resı́duo (ou erro do modelo) tal pet
que e ∼ N(0, σ 2 )
ESTIMATIVA DOS PARÂMETROS
Para uma amostra ordenada (X1 , Y1 ), · · · , (Xn , Yn ), as

estimativas de α e β são obtidas minimizando a função
S(α, β), que é a soma dos quadrados dos resı́duos, isto é:
pet

Para uma amostra ordenada (X1 , Y1 ), · · · , (Xn , Yn ), as

estimativas de α e β são obtidas minimizando a função
S(α, β), que é a soma dos quadrados dos resı́duos, isto é:
n
X n
X
S(α, β) = ei2 = (Yi − α − βXi )2
i=1 i=1
pet

Derivando e igualando S(α, β) a 0, é obtido os estimadores de
α e β pelas expressões
α̂ = Ȳ − β̂ X̄
Pn
i=1 Xi Yi − n X̄ Ȳ
β̂ = P n 2 2
i=1 Xi − n X̄
pet

α̂ = Ȳ − β̂ X̄
Pn
β̂ = P n 2 2
i=1 Xi − n X̄
pet

α̂ = Ȳ − β̂ X̄
Pn
β̂ = P n 2 2
i=1 Xi − n X̄
Estes estimadores são chamados de Estimadores de pet

Mı́nimos Quadrados (EMQ)
Assim, a equação da reta de regressão estimada é
Ŷ = α̂ + β̂X .
|{z}
valor ajustado
pet

Ŷ = α̂ + β̂X .
|{z}
valor ajustado
Ŷ é a estimativa do valor esperado de Y condicionado a

informação de X .
pet

Ŷ = α̂ + β̂X .
|{z}
valor ajustado

α̂ é a estimativa do valor esperado de Y para X = 0.
pet

Ŷ = α̂ + β̂X .
|{z}
valor ajustado

α̂ é a estimativa do valor esperado de Y para X = 0.
β̂ representa a estimativa do aumento esperado da pet
variável Y para cada unidade a mais de X .

Observe que
pet

Observe que
se β̂ > 0, estima-se que a relação entre X e Y é linear
positiva.
pet

Observe que
positiva.
β̂ < 0, estima-se que a relação entre X e Y é linear
negativa.
pet

Observe que
positiva.
β̂ < 0, estima-se que a relação entre X e Y é linear
negativa.
se β̂ = 0, estima-se que não há relação linear entre X e
Y.
pet

(a) Não há relação linear (β̂ = 0)
(b) Relação linear positiva (β̂ > 0) (c) Relação linear negativa (β̂ < 0)
pet

Exercı́cio: Estime a equação da reta de regressão para o

exemplo do preço das ações do banco A.
pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ
pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ 94.43
pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ 94.43 96.22
pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ 94.43 96.22
X̄ = 9.44
pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ 94.43 96.22
X̄ = 9.44 Ȳ = 9.62
pet

T Xi Yi Xi2
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ 94.43 96.22
X̄ = 9.44 Ȳ = 9.62
pet

T Xi Yi Xi2
1 8.70 10.50 75.65
2 9.98 10.53 99.53
3 6.73 9.12 45.33
4 13.70 12.51 187.59
5 8.88 8.51 78.81
6 11.99 10.46 143.73
7 8.56 8.95 73.22
8 7.74 8.45 59.86
9 10.80 9.31 116.59
10 7.37 7.90 54.31
Σ 94.43 96.22
X̄ = 9.44 Ȳ = 9.62
pet

T Xi Yi Xi2
1 8.70 10.50 75.65
2 9.98 10.53 99.53
3 6.73 9.12 45.33
4 13.70 12.51 187.59
5 8.88 8.51 78.81
6 11.99 10.46 143.73
7 8.56 8.95 73.22
8 7.74 8.45 59.86
9 10.80 9.31 116.59
10 7.37 7.90 54.31
Σ 94.43 96.22 934.63
n
X
X̄ = 9.44 Ȳ = 9.62 Xi2 = 934.63
i=1 pet

T Xi Yi Xi2 Yi2
1 8.70 10.50 75.65
2 9.98 10.53 99.53
3 6.73 9.12 45.33
4 13.70 12.51 187.59
5 8.88 8.51 78.81
6 11.99 10.46 143.73
7 8.56 8.95 73.22
8 7.74 8.45 59.86
9 10.80 9.31 116.59
10 7.37 7.90 54.31
Σ 94.43 96.22 934.63
n
X
X̄ = 9.44 Ȳ = 9.62 Xi2 = 934.63
i=1 pet

T Xi Yi Xi2 Yi2
1 8.70 10.50 75.65 110.34
2 9.98 10.53 99.53 110.80
3 6.73 9.12 45.33 83.09
4 13.70 12.51 187.59 156.51
5 8.88 8.51 78.81 72.49
6 11.99 10.46 143.73 109.32
7 8.56 8.95 73.22 80.04
8 7.74 8.45 59.86 71.32
9 10.80 9.31 116.59 86.64
10 7.37 7.90 54.31 62.36
Σ 94.43 96.22 934.63
n
X
X̄ = 9.44 Ȳ = 9.62 Xi2 = 934.63
i=1 pet

T Xi Yi Xi2 Yi2
1 8.70 10.50 75.65 110.34
2 9.98 10.53 99.53 110.80
3 6.73 9.12 45.33 83.09
4 13.70 12.51 187.59 156.51
5 8.88 8.51 78.81 72.49
6 11.99 10.46 143.73 109.32
7 8.56 8.95 73.22 80.04
8 7.74 8.45 59.86 71.32
9 10.80 9.31 116.59 86.64
10 7.37 7.90 54.31 62.36
Σ 94.43 96.22 934.63 942.91
n
X n
X
X̄ = 9.44 Ȳ = 9.62 Xi2 = 934.63 Yi2 = 942.91
i=1 i=1 pet

T Xi Yi Xi2 Yi2 Xi Yi
1 8.70 10.50 75.65 110.34
2 9.98 10.53 99.53 110.80
3 6.73 9.12 45.33 83.09
4 13.70 12.51 187.59 156.51
5 8.88 8.51 78.81 72.49
6 11.99 10.46 143.73 109.32
7 8.56 8.95 73.22 80.04
8 7.74 8.45 59.86 71.32
9 10.80 9.31 116.59 86.64
10 7.37 7.90 54.31 62.36
Σ 94.43 96.22 934.63 942.91
n
X n
X
X̄ = 9.44 Ȳ = 9.62 Xi2 = 934.63 Yi2 = 942.91
i=1 i=1 pet

1 8.70 10.50 75.65 110.34 91.36
2 9.98 10.53 99.53 110.80 105.02
3 6.73 9.12 45.33 83.09 61.37
4 13.70 12.51 187.59 156.51 171.35
5 8.88 8.51 78.81 72.49 75.59
6 11.99 10.46 143.73 109.32 125.35
7 8.56 8.95 73.22 80.04 76.56
8 7.74 8.45 59.86 71.32 65.34
9 10.80 9.31 116.59 86.64 100.51
10 7.37 7.90 54.31 62.36 58.20
Σ 94.43 96.22 934.63 942.91
n
X n
X
X̄ = 9.44 Ȳ = 9.62 Xi2 = 934.63 Yi2 = 942.91
i=1 i=1 pet

1 8.70 10.50 75.65 110.34 91.36
2 9.98 10.53 99.53 110.80 105.02
3 6.73 9.12 45.33 83.09 61.37
4 13.70 12.51 187.59 156.51 171.35
5 8.88 8.51 78.81 72.49 75.59
6 11.99 10.46 143.73 109.32 125.35
7 8.56 8.95 73.22 80.04 76.56
8 7.74 8.45 59.86 71.32 65.34
9 10.80 9.31 116.59 86.64 100.51
10 7.37 7.90 54.31 62.36 58.20
Σ 94.43 96.22 934.63 942.91 930.63
n
X n
X n
X
X̄ = 9.44 Ȳ = 9.62 Xi2 = 934.63 Yi2 = 942.91 Xi Yi = 930.63
i=1 i=1 i=1 pet

Pn
β̂ = P n 2 2
i=1 Xi − n X̄
pet

Pn
β̂ = P n 2 2
i=1 Xi − n X̄
930.63 − 10 · 9.44 · 9.62
=
934.63 − 10 · (9.44)2
pet

Pn
β̂ = P n 2 2
i=1 Xi − n X̄
930.63 − 10 · 9.44 · 9.62
=
934.63 − 10 · (9.44)2
= 0.5124
pet

Pn
β̂ = P n 2 2
i=1 Xi − n X̄
930.63 − 10 · 9.44 · 9.62
=
934.63 − 10 · (9.44)2
= 0.5124
α̂ = Ȳ − β̂ X̄
pet

Pn
β̂ = P n 2 2
i=1 Xi − n X̄
930.63 − 10 · 9.44 · 9.62
=
934.63 − 10 · (9.44)2
= 0.5124
α̂ = Ȳ − β̂ X̄
= 9.62 − 0.5124 · 9.44
pet

Pn
β̂ = P n 2 2
i=1 Xi − n X̄
930.63 − 10 · 9.44 · 9.62
=
934.63 − 10 · (9.44)2
= 0.5124
α̂ = Ȳ − β̂ X̄
= 9.62 − 0.5124 · 9.44
pet
= 4.7829
Ŷi = 4.7829 + 0.5124 Xi

|{z} |{z}
banco A banco B
pet

Ŷi = 4.7829 + 0.5124 Xi

|{z} |{z}
banco A banco B
Pergunta: Que informações podemos extrair do modelo?
pet

Ŷi = 4.7829 + 0.5124 Xi

|{z} |{z}
banco A banco B

Estima-se que para um aumento de R$ 1,00 no preço da
ação do banco B, em média a ação do Banco A aumenta
β̂ = R$0, 51.
pet

Ŷi = 4.7829 + 0.5124 Xi

|{z} |{z}
banco A banco B

Estima-se que para um aumento de R$ 1,00 no preço da
ação do banco B, em média a ação do Banco A aumenta
β̂ = R$0, 51.
Estima-se que, se o preço das ações do banco B zerar, o
preço das ações do banco A será α̂ = 4, 7829. pet

Podemos também “prever” o preço das ações do banco A
dado o preço das ações do banco B
pet

Exemplo: Se o preço das ações do banco B for de R$ 3,00,
qual seria o preço esperado das ações do banco A?
pet

Resposta:
pet

Resposta:
Ŷi = 4.7829 + 0.5124 Xi

|{z}
banco B
pet

Resposta:
Ŷi = 4.7829 + 0.5124 Xi

|{z}
banco B
Ŷi = 4.7829 + 0.5124 · 3.00

pet

Resposta:
Ŷi = 4.7829 + 0.5124 Xi

|{z}
banco B
Ŷi = 4.7829 + 0.5124 · 3.00

Ŷi = 6.32 pet

Exercı́cio: Calcule os resı́duos do modelo
pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Ŷi = 4.7830 + 0.5125Xi

pet

T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

T Xi Yi Ŷi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

T Xi Yi Ŷi
1 8.70 10.50 9.24
2 9.98 10.53 9.90
3 6.73 9.12 8.23
4 13.70 12.51 11.80
5 8.88 8.51 9.33
6 11.99 10.46 10.93
7 8.56 8.95 9.17
8 7.74 8.45 8.75
9 10.80 9.31 10.32
10 7.37 7.90 8.56
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

T Xi Yi Ŷi êi
1 8.70 10.50 9.24
2 9.98 10.53 9.90
3 6.73 9.12 8.23
4 13.70 12.51 11.80
5 8.88 8.51 9.33
6 11.99 10.46 10.93
7 8.56 8.95 9.17
8 7.74 8.45 8.75
9 10.80 9.31 10.32
10 7.37 7.90 8.56
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

T Xi Yi Ŷi êi
1 8.70 10.50 9.24 1.26
2 9.98 10.53 9.90 0.63
3 6.73 9.12 8.23 0.88
4 13.70 12.51 11.80 0.71
5 8.88 8.51 9.33 -0.82
6 11.99 10.46 10.93 -0.47
7 8.56 8.95 9.17 -0.22
8 7.74 8.45 8.75 -0.30
9 10.80 9.31 10.32 -1.01
10 7.37 7.90 8.56 -0.66
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2
pet

ESTIMATIVA DE σ 2
No modelo de regressão linear simples, o vetor de

parâmetros é θ = (α, β, σ 2 ).
pet

ESTIMATIVA DE σ 2

Vimos como estimar apenas α e β
pet

ESTIMATIVA DE σ 2

Vimos como estimar apenas α e β
Pergunta: Como estimar σ 2 (a variância do erro)?
pet

ESTIMATIVA DE σ 2
A variância estimada do erro é dada por
pet

ESTIMATIVA DE σ 2
n
êi2
P
i=1
QME =
| {z } n−2
quadrado médio do erro
pet

ESTIMATIVA DE σ 2
n
êi2
P
i=1
QME =
| {z } n−2
quadrado médio do erro
pet

ESTIMATIVA DE σ 2
Exercı́cio: Estime a variância do erro.
pet

ESTIMATIVA DE σ 2
T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ
pet

ESTIMATIVA DE σ 2
T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ
Ŷi = 4.7830 + 0.5125Xi

pet

ESTIMATIVA DE σ 2
T Xi Yi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2
T Xi Yi Ŷi
1 8.70 10.50
2 9.98 10.53
3 6.73 9.12
4 13.70 12.51
5 8.88 8.51
6 11.99 10.46
7 8.56 8.95
8 7.74 8.45
9 10.80 9.31
10 7.37 7.90
Σ
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2
T Xi Yi Ŷi
1 8.70 10.50 9.24
2 9.98 10.53 9.90
3 6.73 9.12 8.23
4 13.70 12.51 11.80
5 8.88 8.51 9.33
6 11.99 10.46 10.93
7 8.56 8.95 9.17
8 7.74 8.45 8.75
9 10.80 9.31 10.32
10 7.37 7.90 8.56
Σ
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2
T Xi Yi Ŷi êi
1 8.70 10.50 9.24
2 9.98 10.53 9.90
3 6.73 9.12 8.23
4 13.70 12.51 11.80
5 8.88 8.51 9.33
6 11.99 10.46 10.93
7 8.56 8.95 9.17
8 7.74 8.45 8.75
9 10.80 9.31 10.32
10 7.37 7.90 8.56
Σ
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2
T Xi Yi Ŷi êi
1 8.70 10.50 9.24 1.26
2 9.98 10.53 9.90 0.63
3 6.73 9.12 8.23 0.88
4 13.70 12.51 11.80 0.71
5 8.88 8.51 9.33 -0.82
6 11.99 10.46 10.93 -0.47
7 8.56 8.95 9.17 -0.22
8 7.74 8.45 8.75 -0.30
9 10.80 9.31 10.32 -1.01
10 7.37 7.90 8.56 -0.66
Σ
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2
T Xi Yi Ŷi êi êi2

1 8.70 10.50 9.24 1.26
2 9.98 10.53 9.90 0.63
3 6.73 9.12 8.23 0.88
4 13.70 12.51 11.80 0.71
5 8.88 8.51 9.33 -0.82
6 11.99 10.46 10.93 -0.47
7 8.56 8.95 9.17 -0.22
8 7.74 8.45 8.75 -0.30
9 10.80 9.31 10.32 -1.01
10 7.37 7.90 8.56 -0.66
Σ
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2

1 8.70 10.50 9.24 1.26 1.58
2 9.98 10.53 9.90 0.63 0.40
3 6.73 9.12 8.23 0.88 0.79
4 13.70 12.51 11.80 0.71 0.50
5 8.88 8.51 9.33 -0.82 0.68
6 11.99 10.46 10.93 -0.47 0.22
7 8.56 8.95 9.17 -0.22 0.05
8 7.74 8.45 8.75 -0.30 0.09
9 10.80 9.31 10.32 -1.01 1.02
10 7.37 7.90 8.56 -0.66 0.44
Σ
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2

1 8.70 10.50 9.24 1.26 1.58
2 9.98 10.53 9.90 0.63 0.40
3 6.73 9.12 8.23 0.88 0.79
4 13.70 12.51 11.80 0.71 0.50
5 8.88 8.51 9.33 -0.82 0.68
6 11.99 10.46 10.93 -0.47 0.22
7 8.56 8.95 9.17 -0.22 0.05
8 7.74 8.45 8.75 -0.30 0.09
9 10.80 9.31 10.32 -1.01 1.02
10 7.37 7.90 8.56 -0.66 0.44
Σ 5.76
Ŷi = 4.7830 + 0.5125Xi êi = Yi − Ŷi

pet

ESTIMATIVA DE σ 2
Assim, o QME é
pet

ESTIMATIVA DE σ 2
Assim, o QME é
n
êi2
P
i=1
QME =
n−2
pet

ESTIMATIVA DE σ 2
Assim, o QME é
n
êi2
P
i=1
QME =
n−2
5.76
=
8
pet

ESTIMATIVA DE σ 2
Assim, o QME é
n
êi2
P
i=1
QME =
n−2
5.76
=
8
= 0.72
Observação:
p O√desvio padrão estimado do erro é pet
σ̂ = QME = 0.72 = 0.85
CORRELAÇÃO DE PEARSON
Correlação de Pearson: Mede o grau de RELAÇÃO LINEAR

entre duas variáveis.
pet


A estimativa da Correlação de Pearson é dada por
pet


A estimativa da Correlação de Pearson é dada por
n
P
Xi Yi − nX̄ Ȳ
i=1
ρ̂ = s s , −1 ≤ ρ̂ ≤ 1
n
P 2 n
P 2
Xi − nX̄ 2 Yi − nȲ 2
i=1 i=1
pet

(a) Não há relação linear (ρ̂ = 0)
(b) Relação linear positiva (ρ̂ > 0) (c) Relação linear negativa (ρ̂ < 0)
pet

(a) Não há relação linear (ρ̂ = 0) (b) Não há relação linear (ρ̂ = 0)
pet

COEFICIENTE DE CORRELAÇÃO
Exercı́cio: Calcule o coeficiente de correlação de Pearson.
pet


Nos exercı́cios anteriores, obtemos
pet


X̄ = 9.44 e Ȳ = 9.62
X X
Xi2 = 935.03 e Yi2 = 943.23
pet


X̄ = 9.44 e Ȳ = 9.62
X X
Xi2 = 935.03 e Yi2 = 943.23
X
Xi Yi = 930.97
pet

Assim,
pet

Assim,
n
P
Xi Yi − nX̄ Ȳ
i=1
ρ̂ = s s
n n
Xi2 − nX̄ 2 Yi2 − nȲ 2
P P
i=1 i=1
pet

Assim,
n
P
Xi Yi − nX̄ Ȳ
i=1
ρ̂ = s s
n n
Xi2 − nX̄ 2 Yi2 − nȲ 2
P P
i=1 i=1
930.97 − 10 · 9.44 · 9.62

=√ √
935.03 − 10 · 9.442 943.23 − 10 · 943.232
pet

Assim,
n
P
Xi Yi − nX̄ Ȳ
i=1
ρ̂ = s s
n n
Xi2 − nX̄ 2 Yi2 − nȲ 2
P P
i=1 i=1
930.97 − 10 · 9.44 · 9.62

=√ √
935.03 − 10 · 9.442 943.23 − 10 · 943.232
= 0.81
pet

Assim,
n
P
Xi Yi − nX̄ Ȳ
i=1
ρ̂ = s s
n n
Xi2 − nX̄ 2 Yi2 − nȲ 2
P P
i=1 i=1
930.97 − 10 · 9.44 · 9.62

=√ √
935.03 − 10 · 9.442 943.23 − 10 · 943.232
= 0.81
pet
Observou-se correlação próximo de 1 indicando uma relação
positiva forte.
DECOMPOSIÇÃO DA SOMA DE QUADRADOS
pet

pet

pet

pet

pet

pet

Note que,
(Y − Ȳ ) = (Ŷ − Ȳ ) + (Yi − Ŷi )

| i {z } | i {z } | {z }
variabilidade total variabilidade explicada pelo modelo variabilidade do erro
pet

Note que,
(Y − Ȳ ) = (Ŷ − Ȳ ) + (Yi − Ŷi )

| i {z } | i {z } | {z }
variabilidade total variabilidade explicada pelo modelo variabilidade do erro
Pode-se mostrar que
n
X n
X n
X
2 2
(Yi − Ȳ ) = (Ŷi − Ȳ ) + (Yi − Ŷi )2
|i=1 {z } |i=1 {z } |i=1 {z } pet
SQT (soma de quadrados totais) SQR (soma de quadrados da reg.) SQE (soma de quadrados do erro)

Assim, podemos decompor a soma de quadrados da seguinte
maneira
SQT = SQR + SQE
pet

maneira
SQT = SQR + SQE
Quanto mais próximo for SQR de SQT, melhor será o

ajuste do modelo.
pet

maneira
SQT = SQR + SQE
Quanto mais próximo for SQR de SQT, melhor será o

ajuste do modelo.
Assim, podemos utilizar uma medida chamada de
coeficiente de determinação que verifica o quão
próximo SQR está de SQT para avaliar o ajuste do pet
modelo.
COEFICIENTE DE DETERMINAÇÃO
O coeficiente de determinação (r 2 ) é dado por
pet

SQR SQE
r2 = ou r 2 = 1 −
SQT SQT
pet

SQR SQE
r2 = ou r 2 = 1 −
SQT SQT
Interpretação: r 2 é a proporção da variabilidade total

explicada pela regressão (ou pela inclusão da variável X no
modelo)
pet

SQR SQE
r2 = ou r 2 = 1 −
SQT SQT
Interpretação: r 2 é a proporção da variabilidade total

explicada pela regressão (ou pela inclusão da variável X no
modelo)
Observação: A raı́z quadrada de r 2 é o coeficiente de
correlação de Pearson. Quanto mais próximo r 2 for de 1, pet
melhor será o ajuste do modelo.

Exercı́cio: Calcule o coeficiente de determinação.
pet

n
X
SQT = (Yi − Ȳ )2
i=1
pet

n
X
SQT = (Yi − Ȳ )2
i=1
Xn
= Yi2 − nȲ 2
i=1
pet

n
X
SQT = (Yi − Ȳ )2
i=1
Xn
= Yi2 − nȲ 2
i=1
= 943.23 − 10 · 9.624
pet

n
X
SQT = (Yi − Ȳ )2
i=1
Xn
= Yi2 − nȲ 2
i=1
= 943.23 − 10 · 9.624
= 17.01
pet

pet

5.76
r2 = 1 −
17.01
pet

5.76
r2 = 1 −
17.01
= 0.6614
Interpretação: 66.12% da variabilidade total é explicada pela

regressão (ou pela inclusão da variável X no modelo).
pet

TESTES PARA α e β
TESTE PARA O PARÂMETRO β:
pet

TESTES PARA α e β

É conhecido que, se ei ∼ N(0, σ 2 ), então
pet

TESTES PARA α e β

β̂ ∼ N(β, σβ̂2 )
pet

TESTES PARA α e β

β̂ ∼ N(β, σβ̂2 )
em que
σ2
σβ̂2 = P
n
(Xi − X̄ )2
i=1 pet

TESTES PARA α e β
Assim, para testar
H0 : β = β0 ,
pet

TESTES PARA α e β
Assim, para testar
H0 : β = β0 ,
utilizamos o resultado
β̂ − β0 sobH0
∼ N(0, 1).
σβ̂
pet

TESTES PARA α e β
Mas, se não conhecemos σβ̂2 , utilizamos a estatı́stica de teste
β̂ − β0 sobH0
tcalc = ∼ tn−2 ,
σ̂β̂
pet

TESTES PARA α e β
Mas, se não conhecemos σβ̂2 , utilizamos a estatı́stica de teste
β̂ − β0 sobH0
σ̂β̂
em que
v
u QME
σ̂β̂ = u P
u
n
(Xi − X̄ )2
t
i=1
pet

TESTES PARA α e β
TESTE PARA O PARÂMETRO α:
pet

TESTES PARA α e β
pet

TESTES PARA α e β
α̂ ∼ N(α, σα̂2 )
pet

TESTES PARA α e β
α̂ ∼ N(α, σα̂2 )
em que
 
1 X̄ 2 
σα̂2 = σ 2  +
n P n


(Xi − X̄ )2
pet
i=1

TESTES PARA α e β
Assim, para testar
H 0 : α = α0 ,
pet

TESTES PARA α e β
Assim, para testar
H 0 : α = α0 ,
utilizamos o resultado
α̂ − α0 sobH0
∼ N(0, 1).
σα̂
pet

TESTES PARA α e β
Mas, se não conhecemos σα̂2 , utilizamos a estatı́stica de teste
α̂ − α0 sobH0
σ̂α̂
pet

TESTES PARA α e β
Mas, se não conhecemos σα̂2 , utilizamos a estatı́stica de teste
α̂ − α0 sobH0
σ̂α̂
em que
v  
u
u
1 X̄ 2
u 
σ̂α̂ = uQME  +
u 
n
 n P 
(Xi − X̄ )2
t
i=1 pet


Slides de Regressão Linear

Enviado por

Dados do documento

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Slides de Regressão Linear

Enviado por

Direitos autorais:

Formatos disponíveis

REGRESSÃO LINEAR SIMPLES

Isaac Jales Costa Souza

Isaac Jales Costa Souza UERN

Um modelo matemático pode ser expresso por

Isaac Jales Costa Souza UERN

Um modelo matemático pode ser expresso por

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

X = 1 kg, implica em gasto DETERMINADO de

Isaac Jales Costa Souza UERN

X = 1 kg, implica em gasto DETERMINADO de

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Uma taxa de juros de X = 0, 05, implica em montante

Isaac Jales Costa Souza UERN

Uma taxa de juros de X = 0, 05, implica em montante

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Uma taxa de juros e de inflação de X1 = 0, 1 e

Pergunta: Dado o preço da ação do banco B, qual será o

Isaac Jales Costa Souza UERN

Pergunta: Dado o preço da ação do banco B, qual será o

Isaac Jales Costa Souza UERN

Pergunta: Dado o preço da ação do banco B, qual será o

Isaac Jales Costa Souza UERN

Pergunta: Dado o preço da ação do banco B, qual será o

Isaac Jales Costa Souza UERN

Solução: Procurar um modelo estatı́stico adequado que

Isaac Jales Costa Souza UERN

Solução: Procurar um modelo estatı́stico adequado que

Isaac Jales Costa Souza UERN

Um modelo estatı́stico pode ser expresso por

Isaac Jales Costa Souza UERN

Um modelo estatı́stico pode ser expresso por

Isaac Jales Costa Souza UERN

Um modelo estatı́stico pode ser expresso por

OBS: e segue uma determinada distribuição de probabilidade e

é chamado de erro do modelo.

Exemplo: A Tabela a seguir mostra os preços das ações do

Isaac Jales Costa Souza UERN

Exemplo: A Tabela a seguir mostra os preços das ações do

Qual modelo estatı́stico podemos utilizar para descrever Y em

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Aparentemente, uma reta se ajusta bem aos dados.

Isaac Jales Costa Souza UERN

Aparentemente, uma reta se ajusta bem aos dados.

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

Isaac Jales Costa Souza UERN

α é um parâmetro denotado de intercepto e α ∈ R

Isaac Jales Costa Souza UERN

α é um parâmetro denotado de intercepto e α ∈ R

Isaac Jales Costa Souza UERN

α é um parâmetro denotado de intercepto e α ∈ R

Para uma amostra ordenada (X1 , Y1 ), · · · , (Xn , Yn ), as

Isaac Jales Costa Souza UERN

Para uma amostra ordenada (X1 , Y1 ), · · · , (Xn , Yn ), as