Probabilidade e Estatística - Slide - Ailton-Aula 19 - Regressão Linear - 2021.1-1

Inferência Estatı́stica Alguns Exercı́cios Próxima Aula Referências Bibliográficas
Probabilidade e Estatı́stica - SBL0084
Ailton Campos do Nascimento
Universidade Federal do Ceará

Campus de Sobral
Agosto de 2021
Introdução
Primeiramente vamos obter a distribuição condicional de uma variável, dado que a
outra assume um particular valor.
Introdução
outra assume um particular valor. Como sabemos, para uma v.a. contı́nua X , a
P(X = x) = 0, logo a definição a seguir tem de ser interpretada apropriadamente.
Introdução
Definição (Densidade condicional)

A densidade condicional de X , dado que Y = y é definida por
f (x, y )
fX |Y (x|y ) = , fY (y ) > 0, (1)
fY (y )
Introdução

f (x, y )
fX |Y (x|y ) = , fY (y ) > 0, (1)
fY (y )
e a densidade condicional de Y , dado que X = x é definida por

Introdução

f (x, y )
fX |Y (x|y ) = , fY (y ) > 0, (1)
fY (y )
f (x, y )
fY |X (y |x) = , fX (x) > 0. (2)
fX (x)
Introdução

f (x, y )
fX |Y (x|y ) = , fY (y ) > 0, (1)
fY (y )
f (x, y )
fY |X (y |x) = , fX (x) > 0. (2)
fX (x)
Introdução
Geometricamente, temos
Figura: Densidade condicional de X , dado que Y = y0 .

Introdução

Dado que fX |Y (x|y ) e fY |X (y |x) definem densidades de probabilidades, tem sentido
calcular suas médias, variâncias etc.
Introdução

Definição
A esperança condicional de Y , dado que X = x, é definida por
Z∞
E (Y |x) = yfY |X (y |x)dy , (3)
−∞
e definição análoga para E (X |y ).

Introdução

Definição
A esperança condicional de Y , dado que X = x, é definida por
Z∞
E (Y |x) = yfY |X (y |x)dy , (3)
−∞
e definição análoga para E (X |y ).

Curvas de regressão
Note que E (Y |x) é uma função de x, isto é, E (Y |x) = s(x), e é denominada curva de
regressão de Y sobre x.
regressão de Y sobre x. Na realidade, E (Y |x) é o valor da variável aleatória E (Y |X ).
A mesma interpretação deve ser dada para E (X |y ).
Figura: Curvas de regressão de Y sobre x e de X sobre y .

Figura: Curvas de regressão de Y sobre x e de X sobre y .

Exemplos
Suponha que
1/2, se x − y > 0, x 6 2, x, y > 0
f (x, y ) =
0, caso contrário.
Exemplos
Suponha que
1/2, se x − y > 0, x 6 2, x, y > 0
f (x, y ) =
O domı́nio de variação de (x, y ) está na Figura abaixo, juntamente com as curvas de

regressão.
Exemplos
Suponha que
1/2, se x − y > 0, x 6 2, x, y > 0
f (x, y ) =

regressão.
Figura: Curvas de regressão para o Exemplo acima.

Exemplos
Suponha que
1/2, se x − y > 0, x 6 2, x, y > 0
f (x, y ) =

regressão.
Figura: Curvas de regressão para o Exemplo acima.

Temos, então,
Zx
fX (x) = 1/2dy = x/2, 0 < x < 2,
0
Z2
fY (y ) = 1/2dx = 1 − y /2, 0 < y < 2,
y
Temos, então,
Zx
fX (x) = 1/2dy = x/2, 0 < x < 2,
0
Z2
fY (y ) = 1/2dx = 1 − y /2, 0 < y < 2,
y
e, portanto, as densidades condicionais são

Temos, então,
Zx
fX (x) = 1/2dy = x/2, 0 < x < 2,
0
Z2
fY (y ) = 1/2dx = 1 − y /2, 0 < y < 2,
y

1/2 1
fY |X (y |x) = = , 0 < y < x,
x/2 x
1/2 1
fX |Y (x|y ) = = , y < x < 2.
1 − y /2 2−y
Temos, então,
Zx
fX (x) = 1/2dy = x/2, 0 < x < 2,
0
Z2
fY (y ) = 1/2dx = 1 − y /2, 0 < y < 2,
y

1/2 1
fY |X (y |x) = = , 0 < y < x,
x/2 x
1/2 1
fX |Y (x|y ) = = , y < x < 2.
1 − y /2 2−y
As esperanças condicionais serão dadas por
Temos, então,
Zx
fX (x) = 1/2dy = x/2, 0 < x < 2,
0
Z2
fY (y ) = 1/2dx = 1 − y /2, 0 < y < 2,
y

1/2 1
fY |X (y |x) = = , 0 < y < x,
x/2 x
1/2 1
fX |Y (x|y ) = = , y < x < 2.
1 − y /2 2−y
Zx
1 x
E (Y |x) = y dy = ,
0 x 2
Z2
1 y
E (X |y ) = x dx = 1 + .
y 2−y 2
Temos, então,
Zx
fX (x) = 1/2dy = x/2, 0 < x < 2,
0
Z2
fY (y ) = 1/2dx = 1 − y /2, 0 < y < 2,
y

1/2 1
fY |X (y |x) = = , 0 < y < x,
x/2 x
1/2 1
fX |Y (x|y ) = = , y < x < 2.
1 − y /2 2−y
Zx
1 x
E (Y |x) = y dy = ,
0 x 2
Z2
1 y
E (X |y ) = x dx = 1 + .
y 2−y 2
Note, portanto, que ambas as curvas de regressão são funções lineares, como ilustra a
Figura anterior.
Regressão Linear Simples
Exemplos
Um psicólogo está investigando a relação entre o tempo que um indivı́duo leva para
reagir a um estı́mulo visual (Y ) e alguns fatores, como sexo (W ), idade (X ) e
acuidade visual (Z , medida em porcentagem).
Exemplos
acuidade visual (Z , medida em porcentagem). Na Tabela abaixo, temos os tempos
para n = 20 indivı́duos (valores da v.a. Y ).
Exemplos
para n = 20 indivı́duos (valores da v.a. Y ). O fator sexo tem dois nı́veis: i = 1: sexo
masculino (H) e i = 2: sexo feminino (M), com n1 = n2 = 10.
Exemplos
masculino (H) e i = 2: sexo feminino (M), com n1 = n2 = 10. O fator idade tem cinco
nı́veis: i = 1: indivı́duos com 20 anos de idade, i = 2: indivı́duos com 25 anos etc.,
i = 5: indivı́duos com 40 anos. Aqui, n1 = . . . = n5 = 4.
Exemplos
i = 5: indivı́duos com 40 anos. Aqui, n1 = . . . = n5 = 4. A acuidade visual, como
porcentagem da visão completa, também gera cinco nı́veis: i = 1: indivı́duos com
100% de visão, i = 2: indivı́duos com 90% de visão, e assim por diante.
Exemplos
Não foi possı́vel controlar essa variável a priori como as outras duas, já que ela exige
exames oftalmológicos para sua mensuração.
Exemplos
exames oftalmológicos para sua mensuração. Daı́ o desbalanceamento dos tamanhos
observados: n1 = 2, n2 = 10, n3 = 5, n4 = 2 e n5 = 1.
Exemplos
exames oftalmológicos para sua mensuração. Daı́ o desbalanceamento dos tamanhos
observados: n1 = 2, n2 = 10, n3 = 5, n4 = 2 e n5 = 1. Fatores desse tipo são chamados
de co-fatores.



Vimos que a esperança condicional de Y , dado que X = x, por exemplo, denotada por
E (Y |x), é uma função de x, ou seja,
E (Y |x) = µ(x).

E (Y |x) = µ(x).
Estamos considerando aqui o caso em que X e Y são definidas sobre uma mesma
população P. Por exemplo, X pode ser a idade e Y o tempo de reação ao estı́mulo, no
Exemplo acima.

E (Y |x) = µ(x).
Exemplo acima. Um modelo razoável para E (Y |x) pode ser

E (Y |x) = µ(x).
E (Y |x) = µ(x) = α + βx, (4)

E (Y |x) = µ(x).
E (Y |x) = µ(x) = α + βx, (4)
ou seja, o tempo médio de reação é uma função linear da idade.

E (Y |x) = µ(x).
E (Y |x) = µ(x) = α + βx, (4)
ou seja, o tempo médio de reação é uma função linear da idade. Geometricamente,
temos
Figura: Gráfico de dispersão de idade e reação ao estı́mulo, com reta ajustada.


E (Y |x) = µ(x).
E (Y |x) = µ(x) = α + βx, (4)
ou seja, o tempo médio de reação é uma função linear da idade. Geometricamente,
temos
Figura: Gráfico de dispersão de idade e reação ao estı́mulo, com reta ajustada.


A forma da função µ(x) deve ser definida pelo pesquisador, em função do grau de
conhecimento teórico que ele tem do fenômeno sob estudo.

conhecimento teórico que ele tem do fenômeno sob estudo. Um modelo razoável para
este problema (exemplo anterior) é
yij = µ(xi ) + eij (5)

com E (Y |xi ) = µ(xi ) = α + βxi , i = 1, . . . , 5.


com E (Y |xi ) = µ(xi ) = α + βxi , i = 1, . . . , 5. Entretanto, a forma usual de escrever o
modelo é
yi = µ(xi ) + ei (6)


modelo é
yi = µ(xi ) + ei (6)
em que yi indica o tempo de reação do i-ésimo indivı́duo com xi anos de idade,
i = 1, 2, . . . , n, e n é o número total de observações.


modelo é
yi = µ(xi ) + ei (6)
Teremos, então, com essa notação, valores repetidos para X , por exemplo,
x1 = . . . = x4 = 20.


modelo é
yi = µ(xi ) + ei (6)
Teremos, então, com essa notação, valores repetidos para X , por exemplo,
x1 = . . . = x4 = 20. Convém reforçar a ideia que estamos propondo um modelo de
comportamento para as médias das subpopulações, logo teremos de estimar os
parâmetros envolvidos na função µ(x), baseados numa amostra de n = 20 observações,
no exemplo.

Neste caso, o modelo pode ser escrito como
yi = E (Y |xi ) + ei = α + βxi + ei , i = 1, 2, ..., n,
devendo-se encontrar os valores mais prováveis para α e β, segundo algum critério, a

partir de n observações de pares de valores de (X , Y ).


Figura: Representação do modelo E (Y |x) = α + βx.



Figura: Representação do modelo E (Y |x) = α + βx.

Avaliação do modelo
Estudaremos várias formas de avaliar se o modelo linear postulado é adequado ou não,
dadas as suposições que fizemos sobre ele.
dadas as suposições que fizemos sobre ele. Para julgar a vantagem da adoção de um
modelo mais complexo (linear ou outro qualquer), vamos usar a estratégia de
compará-lo com o modelo mais simples, que é aquele discutido anteriormente, ou seja,
yi = µ + e i .
yi = µ + e i .
A vantagem será sempre medida por meio da diminuição dos erros de previsão, ou
ainda, da variância residual Se2 .
yi = µ + e i .
ainda, da variância residual Se2 . Para o modelo ajustado anterior, cada resı́duo é dado
por
ebi = yi − ybi = yi − α − βxi . (7)
yi = µ + e i .
por
Quando estes resı́duos forem pequenos, temos uma indicação de que o modelo está
produzindo bons resultados.
yi = µ + e i .
por
Quando estes resı́duos forem pequenos, temos uma indicação de que o modelo está
produzindo bons resultados. Para julgarmos se o resı́duo é pequeno ou não, devemos
compará-lo com os resı́duos do modelo alternativo, dados por yi − y .
Da dificuldade de compará-los individualmente, preferimos trabalhar com as respectivas
somas de resı́duos quadráticos, dadas por
X
n
SQTot = (yi − y )2 (8)
i=1
Xn X
n
SQRes = ebi2 = (yi − ybi )2 . (9)
i=1 i=1
X
n
SQTot = (yi − y )2 (8)
i=1
Xn X
n
SQRes = ebi2 = (yi − ybi )2 . (9)
i=1 i=1
Exemplos
Na quinta coluna da Tabela do exercı́cio visto, aparecem os resı́duos
ebi = yi − ybi = yi − (80, 50 + 0, 90xi )

X
n
SQTot = (yi − y )2 (8)
i=1
Xn X
n
SQRes = ebi2 = (yi − ybi )2 . (9)
i=1 i=1
Exemplos
Na quinta coluna da Tabela do exercı́cio visto, aparecem os resı́duos
ebi = yi − ybi = yi − (80, 50 + 0, 90xi )
que elevados ao quadrado e somados produzirão
SQRes = 563, 00.

Figura: Resı́duos para o modelo ybi = 80, 50 + 0, 90xi , i = 1, 2, . . . , 20.

Figura: Resı́duos para o modelo ybi = 80, 50 + 0, 90xi , i = 1, 2, . . . , 20.

Portanto, de modo geral, perde-se um grau de liberdade para cada parâmetro envolvido
no modelo e é natural definir o estimador de σ2e num modelo de regressão como sendo
SQRes
Se2 = (10)
n−p
SQRes
Se2 = (10)
n−p
em que p é o número de parâmetros do modelo.
SQRes
Se2 = (10)
n−p
em que p é o número de parâmetros do modelo. No caso particular da regressão linear
simples, p = 2 e
SQRes
Se2 = (11)
n−2
será um estimador não viesado de σ2e , isto é, E (Se2 ) = σ2e .
SQRes
Se2 = (10)
n−p
simples, p = 2 e
SQRes
Se2 = (11)
n−2
Continuando o exemplo anterior, obteremos
S 2 = 1.373/19 = 72, 26, S = 8, 50

Se2 = 563/18 = 31, 28, Se2 = 5, 59,
SQRes
Se2 = (10)
n−p
simples, p = 2 e
SQRes
Se2 = (11)
n−2
S 2 = 1.373/19 = 72, 26, S = 8, 50

Se2 = 563/18 = 31, 28, Se2 = 5, 59,
números que sugerem uma diminuição significativa na soma dos quadrados dos
resı́duos. Observe que, passando de um modelo com um parâmetro para outro com
dois, há uma redução de 810 unidades na soma de quadrados residuais.
SQRes
Se2 = (10)
n−p
simples, p = 2 e
SQRes
Se2 = (11)
n−2
S 2 = 1.373/19 = 72, 26, S = 8, 50

Se2 = 563/18 = 31, 28, Se2 = 5, 59,
números que sugerem uma diminuição significativa na soma dos quadrados dos
resı́duos. Observe que, passando de um modelo com um parâmetro para outro com
dois, há uma redução de 810 unidades na soma de quadrados residuais. Ou seja,
perdendo um grau de liberdade, reduziu-se a soma dos resı́duos quadráticos em 810
unidades, o que é mais uma evidência da vantagem de adoção do segundo modelo.
Propriedades dos Estimadores

Finalmente, iremos estudar as propriedades amostrais dos estimadores α e β, e para
isso é conveniente voltar ao modelo e às suposições adotadas para a variável aleatória
Y sob investigação.

Y sob investigação. Lembremos que a variável X é suposta controlada, fixa, e para
cada valor x de X teremos associada uma distribuição de probabilidades para Y , como
ilustra a Figura(a), em que supomos que a dispersão é a mesma para cada nı́vel da
variável X .

variável X . A Figura(b) ilustra o caso que será considerado aqui, em que estas
distribuições condicionais são normais, com a mesma variância.

distribuições condicionais são normais, com a mesma variância. Note que E (Y |x) é
linear, como estamos considerando neste curso.
Figura: (a) médias alinhadas, distribuições com a mesma variância; (b) médias alinhadas,
distribuições normais com a mesma variância.

distribuições condicionais são normais, com a mesma variância. Note que E (Y |x) é
linear, como estamos considerando neste curso.
Figura: (a) médias alinhadas, distribuições com a mesma variância; (b) médias alinhadas,
distribuições normais com a mesma variância.

Formalmente, o modelo
Yi = E (Y |xi ) + ei = α + βxi + ei , i = 1, . . . , n
deve satisfazer as seguintes suposições:



i) Para cada valor de xi , o erro ei tem média zero e variância constante σ2e ;


ii) Se i 6= j, Cov (ei , ej ) = 0, isto é, para duas observações distintas, os erros são não
correlacionados.
Segue-se que
E (Yi |xi ) = α + βxi , Var (Yi |xi ) = σ2e ,


correlacionados.
Segue-se que
e ainda que Yi e Yj são não correlacionados, para i 6= j.


correlacionados.
Segue-se que
e ainda que Yi e Yj são não correlacionados, para i 6= j.
Lembrete: Se X e Y são duas v.a., a covariância entre elas é definida por

Cov (X , Y ) = E (X − E (X ))(Y − E (Y )) .
Média e Variância dos Estimadores
Proposição
Para o estimador β temos
E (β) = β (12)
σ2e
Var (β)
b = . (13)
X
n
(xi − x)2
i=1
Proposição
E (β) = β (12)
σ2e
Var (β)
b = . (13)
X
n
(xi − x)2
i=1
Para o estimador α temos:
E (α) = α (14)
X
n
xi2
i=1
α) = σ2e
Var (b . (15)
X
n
n (xi − x)2
i=1
Proposição
E (β) = β (12)
σ2e
Var (β)
b = . (13)
X
n
(xi − x)2
i=1
Para o estimador α temos:
E (α) = α (14)
X
n
xi2
i=1
α) = σ2e
Var (b . (15)
X
n
n (xi − x)2
i=1
Distribuições Amostrais dos Estimadores dos Parâmetros

Para completar o estudo das propriedades dos estimadores, vamos introduzir uma
terceira suposição:

• Os erros ei são v.a. com distribuição normal, isto é,
ei ∼ N(0; σ2e ), (16)


• Os erros ei são v.a. com distribuição normal, isto é,
ei ∼ N(0; σ2e ), (16)
o que implica
yi ∼ N(α + βxi ; σ2e ).
Como α e β são combinações lineares de v.a. normais e independentes, temos o
seguinte resultado.
Proposição
Os estimadores α e β têm ambos distribuição normal, com médias e variâncias dadas
pela proposição anterior, isto é,
Xn
 
2
 xi 
i=1
b ∼N 2
 
α  α; σe X n

 (17)
2
n (xi − x)

i=1
 
σ2e
 
β ∼ N β; n
 
. (18)
 X
b 

2
(xi − x)
i=1
Proposição
Os estimadores α e β têm ambos distribuição normal, com médias e variâncias dadas
pela proposição anterior, isto é,
Xn
 
2
 xi 
i=1
b ∼N 2
 
α  α; σe X n

 (17)
2
n (xi − x)

i=1
 
σ2e
 
β ∼ N β; n
 
. (18)
 X
b 

2
(xi − x)
i=1

Os resultados acima permitem concluir que

β
b − βp
(xi − x)2 ∼ N (0; 1) , (19)
σe
v
u X
u n
un (xi − x)2
α
b − α u i=1
u
∼ N (0; 1) . (20)
X n
u
σe u 2
t xi
i=1

β
b − βp
(xi − x)2 ∼ N (0; 1) , (19)
σe
v
u X
u n
un (xi − x)2
α
b − α u i=1
u
∼ N (0; 1) . (20)
X n
u
σe u 2
t xi
i=1
Substituindo σe por seu estimador Se em (19) e (20), sabemos que as estatı́sticas

resultantes terão distribuição t de Student, com (n − 2) graus de liberdade (ver
Teorema 7.1 do Bussab), o que permitirá construir intervalos de confiança para os
parâmetros.
Intervalos de Confiança para α e β
Proposição
As estatı́sticas
β
b − βp
t(β)
b = (xi − x)2 , (21)
Se
v
u X
u n
un (xi − x)2
α
b − α u i=1
u
t(b
α) = (22)
Xn
u
Se ut xi2
i=1
Proposição
As estatı́sticas
β
b − βp
t(β)
b = (xi − x)2 , (21)
Se
v
u X
u n
un (xi − x)2
α
b − α u i=1
u
t(b
α) = (22)
Xn
u
Se ut xi2
i=1
têm distribuição t de Student com (n − 2) graus de liberdade.

Proposição
As estatı́sticas
β
b − βp
t(β)
b = (xi − x)2 , (21)
Se
v
u X
u n
un (xi − x)2
α
b − α u i=1
u
t(b
α) = (22)
Xn
u
Se ut xi2
i=1
têm distribuição t de Student com (n − 2) graus de liberdade.


Logo, obtemos os seguintes intervalos para α e β, com γ denotando o coeficiente de
confiança e tγ (n − 2) denotando o valor obtido da Tabela V, com (n − 2) graus de
liberdade
p
b ± tγ (n − 2)Se (xi − x)2 ,
IC (β; γ) = β (23)
v
u X
u n
un
u (xi − x)2
IC (α; γ) = αb ± tγ (n − 2)Se u i=1 n . (24)
u
u X
2
t xi
i=1

Logo, obtemos os seguintes intervalos para α e β, com γ denotando o coeficiente de
confiança e tγ (n − 2) denotando o valor obtido da Tabela V, com (n − 2) graus de
liberdade
p
b ± tγ (n − 2)Se (xi − x)2 ,
IC (β; γ) = β (23)
v
u X
u n
un
u (xi − x)2
IC (α; γ) = αb ± tγ (n − 2)Se u i=1 n . (24)
u
u X
2
t xi
i=1
Para o modelo ybi = 80, 50 + 0, 90xi , i = 1, 2, . . . , 20 visto acima, podemos construir a

Tabela
Figura: Tabela ANOVA para o modelo.

t-Testes
Em algumas situações, não podemos achar razoável, assumir que as variâncias
desconhecidas σ21 e σ22 , de duas populações normais sejam iguais.
t-Testes
desconhecidas σ21 e σ22 , de duas populações normais sejam iguais. Não existe um
método estatı́stico para testar a hipótese H0 : µ1 − µ2 = ∆0 neste caso.
t-Testes
método estatı́stico para testar a hipótese H0 : µ1 − µ2 = ∆0 neste caso. No entanto,
um resultado aproximado pode ser aplicado.
t-Testes
Se H0 : µ1 − µ2 = ∆0 é verdade, a estatı́stica
X 1 − X 2 − ∆0
T0∗ = q 2 (25)
S1 S22
n1 + n2
t-Testes
X 1 − X 2 − ∆0
T0∗ = q 2 (25)
S1 S22
n1 + n2
é aproximadamente distribuida com t com graus de liberdade dados por

t-Testes
X 1 − X 2 − ∆0
T0∗ = q 2 (25)
S1 S22
n1 + n2

2
s12 s22
n1 + n2
ν= .
(s12 /n1 )2 (s22 /n2 )2
+
n1 − 1 n2 − 1
t-Testes
X 1 − X 2 − ∆0
T0∗ = q 2 (25)
S1 S22
n1 + n2

2
s12 s22
n1 + n2
ν= . (26)
(s12 /n1 )2 (s22 /n2 )2
+
n1 − 1 n2 − 1
Se ν não for um inteiro, basta procurar o maior inteiro menor que ν.
t-Testes
Se x 1 , x 2 , s12 e s22 são as médias e variâncias de duas amostras aleatórias de tamanhos
n1 e n2 , respectivamente, de duas populações normais independentes com variãncias
distintas,
t-Testes
distintas, um intervalo de confiança aproximado 100(1 − α)% sobre a diferença das
médias µ1 − µ2 é
t-Testes
s s
s12 s22 s12 s2
x 1 − x 2 − tα/2,ν + 6 µ1 − µ2 6 x 1 − x 2 + tα/2,ν + 2
n1 n2 n1 n2
t-Testes
s s
s12 s22 s12 s2
x 1 − x 2 − tα/2,ν + 6 µ1 − µ2 6 x 1 − x 2 + tα/2,ν + 2 (27)
n1 n2 n1 n2
onde ν é dado pela expressão em (26) acima, e tα/2,ν é o ponto percentual superior
α/2 da distribuição t com ν graus de liberdade.
t-Testes
s s
s12 s22 s12 s2
x 1 − x 2 − tα/2,ν + 6 µ1 − µ2 6 x 1 − x 2 + tα/2,ν + 2 (27)
n1 n2 n1 n2
onde ν é dado pela expressão em (26) acima, e tα/2,ν é o ponto percentual superior
α/2 da distribuição t com ν graus de liberdade.
Vamos agora aplicar o teste de significância visto acima, para resolver um problema
concreto.
Lista de exercı́cios
1 Os depósitos efetuados no Banco ABC durante o mês de janeiro são distribuı́dos
normalmente, com média de R$ l0.000,00 e desvio padrão de R$ 1.500,00. Um
depósito é selecionado ao acaso dentre todos os referentes ao mês em questão.
Encontrar a probabilidade de que o depósito seja:
a) R$ 10.000,00 ou menos;
b) pelo menos R$ 10.000,00;
c) um valor entre R$ 12.000,00 e R$ 15.000,00;
d) maior do que R$ 20.000,00.
Solução
Iremos aplicar os dados da Tabela III (Distribuição Normal Reduzida N(0;1)) do livro
do Bussab.
a) R$ 10.000,00 ou menos;
Solução
do Bussab. Com efeito, temos que µ = 10.000 e σ = 1.500.
a) R$ 10.000,00 ou menos;
Solução
do Bussab. Com efeito, temos que µ = 10.000 e σ = 1.500. Seja a v.a. X = depósito,
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6
1.500
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0)
1.500
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0)
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) = 0, 5.
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6
1.500 1.500
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6 =
1.500 1.500
P(4/3 6 Z 6 10/3) =
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6 =
1.500 1.500
P(4/3 6 Z 6 10/3) = P(1, 33 6 Z 6 3, 33)
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6 =
1.500 1.500
P(4/3 6 Z 6 10/3) = P(1, 33 6 Z 6 3, 33) = 0, 09133.
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6 =
1.500 1.500
P(4/3 6 Z 6 10/3) = P(1,
33 6 Z 6 3, 33) = 0, 09133.
20.000 − 10.000
d) P(X > 20.000) = P Z >
1.500
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6 =
1.500 1.500
P(4/3 6 Z 6 10/3) = P(1,
33 6 Z 6 3, 33) = 0, 09133.
20.000 − 10.000
d) P(X > 20.000) = P Z > = P(Z > 6, 67)
1.500
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6 =
1.500 1.500
P(4/3 6 Z 6 10/3) = P(1,
33 6 Z 6 3, 33) = 0, 09133.
20.000 − 10.000
d) P(X > 20.000) = P Z > = P(Z > 6, 67) = 0.
1.500
a) R$ 10.000,00 ou menos;
Solução
segue que
10.000 − 10.000
a) P(X 6 10.000) = P Z 6 = P(Z 6 0) = 0, 5.
1.500
b) P(X > 10.000) = P(Z > 0) =0, 5.
12.000 − 10.000 15.000 − 10.000
c) P(12.000 6 X 6 15.000) = P 6Z 6 =
1.500 1.500
P(4/3 6 Z 6 10/3) = P(1,
33 6 Z 6 3, 33) = 0, 09133.
20.000 − 10.000
d) P(X > 20.000) = P Z > = P(Z > 6, 67) = 0.
1.500
1 Em um processo quı́mico, suponha que o rendimento do produto está relacionado

com a temperatura do processo de operação. Análises de regressão podem ser
usadas para se construir um modelo para prever o rendimento a um dado nı́vel de
temperatura. Este modelo pode também ser usado para processos de otimização,
tais como encontrar o nı́vel de temperatura que maximiza o rendimento, ou para
efeitos de controle de processos.
Como uma ilustração, considere os dados contidos na tabela abaixo. Nesta tabela,
a primeira coluna contém o número de observações, y é a pureza do oxigênio
produzido em um processo de destilação quı́mica, e x é o percentual de
hidrocarbonetos presentes no condensador principal da unidade de destilação.
1 Em um processo quı́mico, suponha que o rendimento do produto está relacionado

com a temperatura do processo de operação. Análises de regressão podem ser
usadas para se construir um modelo para prever o rendimento a um dado nı́vel de
temperatura. Este modelo pode também ser usado para processos de otimização,
tais como encontrar o nı́vel de temperatura que maximiza o rendimento, ou para
efeitos de controle de processos.
Como uma ilustração, considere os dados contidos na tabela abaixo. Nesta tabela,
a primeira coluna contém o número de observações, y é a pureza do oxigênio
produzido em um processo de destilação quı́mica, e x é o percentual de
hidrocarbonetos presentes no condensador principal da unidade de destilação.
Figura: Nı́veis de oxigênio e hidrocarbonetos.

a) Calcule as estimativas de mı́nimos quadrados para a inclinação e a interseção da
regressão linear simples para os dados de pureza de oxigênio.
b) Ajuste um modelo de regressão linear simples para os dados de pureza do oxigênio
(com precisão de três casas decimais para os coeficientes).
c) Teste a significância da regressão usando o modelo para a pureza do oxigênio
obtido acima.
Solução
a) Apesar de não existir uma curva simples que contenha todos os pontos da tabela,
uma análise cuidadosa nos permite afirmar que os pontos pertencem essencialmente a
uma vizinhança de uma reta linear.
obtido acima.
Solução
uma vizinhança de uma reta linear. Portanto, é provavelmente razoável assumir que a
média da variável aleatória Y é relacionada com x pela seguinte relação linear:
obtido acima.
Solução
E (Y |x) = µY |x = β0 + β1 x
obtido acima.
Solução
E (Y |x) = µY |x = β0 + β1 x
onde a inclinação β1 e a interseção da reta β0 são chamados de coeficientes de

regressão.
obtido acima.
Solução
E (Y |x) = µY |x = β0 + β1 x

regressão. Supomos que cada observação Y pode ser descrita pelo modelo
Y = β0 + β1 x + (28)
obtido acima.
Solução
E (Y |x) = µY |x = β0 + β1 x

regressão. Supomos que cada observação Y pode ser descrita pelo modelo
Y = β0 + β1 x + (28)
onde é um erro aleatório com média zero e variância σ2 .

Solução
a) Os erros aleatórios correspondentes à diferentes observações são assumidos serem
variáveis aleatórias não correlatas.
Solução
variáveis aleatórias não correlatas. Suponha que tenhamos n pares de observações
(x1 , y1 ), (x2 , y2 ), . . . , (xn , yn ). A figura (feita na mesa digitalizadora) é um esboço tı́pico
dos dados observados e um candidato para a reta de regressão linear estimada.
Solução
dos dados observados e um candidato para a reta de regressão linear estimada. As
estimativas de β0 e β1 irão resultar em uma reta ou seja (em um certo sentido) o
melhor candidato para os dados. O método aplicado foi proposto por Gauss
(1777-1855), e consiste e estimar os parâmetros β0 e β1 da equação (33) para
minimizar a soma dos quadrados dos desvios verticais na figura.
Solução
Este critério para estimar os coeficientes de regressão é chamado o método dos
mı́nimos quadrados.
Solução
mı́nimos quadrados. Com efeito, expressamos as n observações na amostra como
yi = β0 + β1 xi + i , i = 1, 2, . . . , n (29)
Solução
yi = β0 + β1 xi + i , i = 1, 2, . . . , n (29)
e a soma dos quadrados dos desvios das observações da verdadeira reta de regressão é
X
n X
n
L= 2i = (yi − β0 − β1 xi )2 . (30)
i=1 i=1
Solução
yi = β0 + β1 xi + i , i = 1, 2, . . . , n (29)
e a soma dos quadrados dos desvios das observações da verdadeira reta de regressão é
X
n X
n
L= 2i = (yi − β0 − β1 xi )2 . (30)
i=1 i=1
Solução
a) Assim temos,
Definição (Estimativas dos Mı́nimos Quadrados)

A estimativa dos mı́nimos quadrados da interseção e da inclinação do modelo de
regressão linear simples são
Solução
a) Assim temos,

c0 = y − β
β c1 x (31)
X
n X
n
yi xi
X
n
i=1 i=1
yi xi −
n
i=1
β
c1 = !2 (32)
X
n
xi
X
n
i=1
xi2 −
n
i=1
Solução
a) Assim temos,

c0 = y − β
β c1 x (31)
X
n X
n
yi xi
X
n
i=1 i=1
yi xi −
n
i=1
β
c1 = !2 (32)
X
n
xi
X
n
i=1
xi2 −
n
i=1
1X 1X
n n
onde y = yi e x = xi .
n n
i=1 i=1
Solução
a) Assim temos,

c0 = y − β
β c1 x (31)
X
n X
n
yi xi
X
n
i=1 i=1
yi xi −
n
i=1
β
c1 = !2 (32)
X
n
xi
X
n
i=1
xi2 −
n
i=1
1X 1X
n n
onde y = yi e x = xi .
n n
i=1 i=1
Solução
a)A reta de regressão linear estimada é portanto
Solução
yb = β c1 x.
c0 + β (33)
Solução
yb = β c1 x.
c0 + β (33)
Em sı́mbolos, podemos reescrever as relações para o númerador e o denominador da

equação (32) por
Solução
yb = β c1 x.
c0 + β (33)

!2
X
n
xi
X
n X
n
i=1
2
Sxx = (xi − x) = xi2 − (34)
n
i=1 i=1
X
n X
n
xi yi
X
n X
n
i=1 i=1
Sxy = (yi − y )(xi − x) = xi yi − . (35)
n
i=1 i=1
Solução
yb = β c1 x.
c0 + β (33)

!2
X
n
xi
X
n X
n
i=1
2
Sxx = (xi − x) = xi2 − (34)
n
i=1 i=1
X
n X
n
xi yi
X
n X
n
i=1 i=1
Sxy = (yi − y )(xi − x) = xi yi − . (35)
n
i=1 i=1
Solução
a)Retornando ao nosso problema. Agora adequamos um modelo de regressão linear
simples para os dados de pureza do oxigênio dados pela tabela acima.
Solução
simples para os dados de pureza do oxigênio dados pela tabela acima. As seguintes
quantidades podem ser calculadas
Solução
X
20 X
20
n = 20, xi = 23, 92, yi = 1843, 21
i=1 i=1
Solução
X
20 X
20 X
20
n = 20, xi = 23, 92, yi = 1843, 21 x = 1, 1960, y = 92, 1605 xi2 =
i=1 i=1 i=1
X20
29, 2892, yi2 = 170.044, 5321
i=1
Solução
X
20 X
20 X
20
n = 20, xi = 23, 92, yi = 1843, 21 x = 1, 1960, y = 92, 1605 xi2 =
i=1 i=1 i=1
X20 X
20
29, 2892, yi2 = 170.044, 5321 xi yi = 2.214, 6566
i=1 i=1
Solução
X
20 X
20 X
20
n = 20, xi = 23, 92, yi = 1843, 21 x = 1, 1960, y = 92, 1605 xi2 =
i=1 i=1 i=1
X20 X
20
29, 2892, yi2 = 170.044, 5321 xi yi = 2.214, 6566
i=1 i=1
!2
X
20
xi
X
20
i=1 (23, 92)2
Sxx = xi2 − = 29, 2892 −
20 20
i=1
Solução
X
20 X
20 X
20
n = 20, xi = 23, 92, yi = 1843, 21 x = 1, 1960, y = 92, 1605 xi2 =
i=1 i=1 i=1
X20 X
20
29, 2892, yi2 = 170.044, 5321 xi yi = 2.214, 6566
i=1 i=1
!2
X
20
xi
X
20
i=1 (23, 92)2
Sxx = xi2 − = 29, 2892 − = 0, 68088 e
20 20
i=1
X
20 X
20
xi yi
X
20
i=1 i=1
Sxy = xi yi − = 10, 17744
20
i=1
Solução
X
20 X
20 X
20
n = 20, xi = 23, 92, yi = 1843, 21 x = 1, 1960, y = 92, 1605 xi2 =
i=1 i=1 i=1
X20 X
20
29, 2892, yi2 = 170.044, 5321 xi yi = 2.214, 6566
i=1 i=1
!2
X
20
xi
X
20
i=1 (23, 92)2
Sxx = xi2 − = 29, 2892 − = 0, 68088 e
20 20
i=1
X
20 X
20
xi yi
X
20
i=1 i=1
Sxy = xi yi − = 10, 17744
20
i=1
Solução
Portanto, a estimativa de mı́nimos quadrados da inclinação e interseção são
c1 = Sxy = 10, 17744

β
Sxx 0, 68088
Solução
c1 = Sxy = 10, 17744 = 14, 94748

β
Sxx 0, 68088
Solução
c1 = Sxy = 10, 17744 = 14, 94748

β
Sxx 0, 68088
e
c0 = y − β
β c1 x
Solução
c1 = Sxy = 10, 17744 = 14, 94748

β
Sxx 0, 68088
e
c0 = y − β
β c1 x = 92, 1605 − (14, 94748)1, 1960
Solução
c1 = Sxy = 10, 17744 = 14, 94748

β
Sxx 0, 68088
e
c0 = y − β
β c1 x = 92, 1605 − (14, 94748)1, 1960 = 74, 28331.
b) O modelo de regressão linear simples ajustado (com os coeficientes com três casas
decimais) é
yb = 74, 283 + 14, 947x
Solução
c1 = Sxy = 10, 17744 = 14, 94748

β
Sxx 0, 68088
e
c0 = y − β
β c1 x = 92, 1605 − (14, 94748)1, 1960 = 74, 28331.
b) O modelo de regressão linear simples ajustado (com os coeficientes com três casas
decimais) é
yb = 74, 283 + 14, 947x
Graficamente, temos
Graficamente, temos
Figura: Plotagem do espalhamento da pureza do Oxigênio y versus nı́vel de Hidrocarboneto x

e o modelo de regressão yb = 74, 283 + 14, 947x.
Graficamente, temos
Figura: Plotagem do espalhamento da pureza do Oxigênio y versus nı́vel de Hidrocarboneto x

e o modelo de regressão yb = 74, 283 + 14, 947x.
c) Vamos aplicar os t-testes vistos acima para testar a significância da regressão
usando o modelo dos dados de pureza do oxigênio do exemplo.
usando o modelo dos dados de pureza do oxigênio do exemplo. As hipóteses são:
H0 : β1 = 0 H1 : β1 6= 0
H0 : β1 = 0 H1 : β1 6= 0
e use α = 0, 01.
H0 : β1 = 0 H1 : β1 6= 0
e use α = 0, 01. Vimos anteriormente que
b2 = 1, 18
b 1 = 14, 947, n = 20, Sxx = 0, 68088, σ
β
H0 : β1 = 0 H1 : β1 6= 0
b2 = 1, 18
b 1 = 14, 947, n = 20, Sxx = 0, 68088, σ
β
então, o t-teste da equação se torna

H0 : β1 = 0 H1 : β1 6= 0
b2 = 1, 18
b 1 = 14, 947, n = 20, Sxx = 0, 68088, σ
β
β
b1 14, 947
t0 = =
b2 /Sxx
σ 1, 18/0, 68088
H0 : β1 = 0 H1 : β1 6= 0
b2 = 1, 18
b 1 = 14, 947, n = 20, Sxx = 0, 68088, σ
β
β
b1 14, 947
t0 = = = 11, 35.
b2 /Sxx
σ 1, 18/0, 68088
H0 : β1 = 0 H1 : β1 6= 0
b2 = 1, 18
b 1 = 14, 947, n = 20, Sxx = 0, 68088, σ
β
β
b1 14, 947
t0 = = = 11, 35.
b2 /Sxx
σ 1, 18/0, 68088
Como o valor de referência de t é t0,005,18 = 2, 88, o valor do teste estatı́stico é muito

distante da região crı́tica, implicando que H0 : β1 = 0 deve ser rejeitada.
Obrigado:
Obrigado:
A todos pela presença nesta aula

Obrigado:
A todos pela presença nesta aula

Boas provas e atividades.
Referências Bibliográficas
1 Bussab, W. O., Morettin, P.A. Estatı́stica Básica, São Paulo: Editora

Saraiva, 5a Edição, 2006.

2 Ferreira, D. F. Estatı́stica Básica, Lavras: Ed. UFLA, 2a Edição, 156
p., 2013.

p., 2013.
3 Meyer, P. L. Probabilidade: Aplicações à Estatı́stica, LTC Editora, 2a
Edição, 1983.

p., 2013.
Edição, 1983.
4 Montgomery, D. C., Runger, G. C. Estatı́stica aplicada e probabilidade
para engenheiros, Rio de Janeiro: LTC Editora, 5a Edição, 2012.

p., 2013.
Edição, 1983.
5 Spiegel, M. R., Schiller, J., Srinivasan, A. Probabilidade e estatı́stica,
Coleção Schaum, Porto Alegre: Bookman, 2013.

p., 2013.
Edição, 1983.
5 Spiegel, M. R., Schiller, J., Srinivasan, A. Probabilidade e estatı́stica,
Coleção Schaum, Porto Alegre: Bookman, 2013.

Probabilidade e Estatística - Slide - Ailton-Aula 19 - Regressão Linear - 2021.1-1

Enviado por

Dados do documento

Descrição original:

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Probabilidade e Estatística - Slide - Ailton-Aula 19 - Regressão Linear - 2021.1-1

Enviado por

Direitos autorais:

Formatos disponíveis

Inferência Estatı́stica Alguns Exercı́cios Próxima Aula Referências Bibliográficas

Probabilidade e Estatı́stica - SBL0084

Ailton Campos do Nascimento

Universidade Federal do Ceará

Definição (Densidade condicional)

Definição (Densidade condicional)

e a densidade condicional de Y , dado que X = x é definida por

Definição (Densidade condicional)

e a densidade condicional de Y , dado que X = x é definida por

Definição (Densidade condicional)

e a densidade condicional de Y , dado que X = x é definida por

Figura: Densidade condicional de X , dado que Y = y0 .

Figura: Densidade condicional de X , dado que Y = y0 .

Figura: Densidade condicional de X , dado que Y = y0 .

e definição análoga para E (X |y ).

Figura: Densidade condicional de X , dado que Y = y0 .

e definição análoga para E (X |y ).

Figura: Curvas de regressão de Y sobre x e de X sobre y .

Figura: Curvas de regressão de Y sobre x e de X sobre y .

O domı́nio de variação de (x, y ) está na Figura abaixo, juntamente com as curvas de

O domı́nio de variação de (x, y ) está na Figura abaixo, juntamente com as curvas de

Figura: Curvas de regressão para o Exemplo acima.

O domı́nio de variação de (x, y ) está na Figura abaixo, juntamente com as curvas de

Figura: Curvas de regressão para o Exemplo acima.

e, portanto, as densidades condicionais são

e, portanto, as densidades condicionais são

e, portanto, as densidades condicionais são

e, portanto, as densidades condicionais são

e, portanto, as densidades condicionais são

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Regressão Linear Simples

Figura: Gráfico de dispersão de idade e reação ao estı́mulo, com reta ajustada.

Regressão Linear Simples

Figura: Gráfico de dispersão de idade e reação ao estı́mulo, com reta ajustada.

Regressão Linear Simples

Regressão Linear Simples

yij = µ(xi ) + eij (5)

Regressão Linear Simples

yij = µ(xi ) + eij (5)

Regressão Linear Simples

yij = µ(xi ) + eij (5)

Regressão Linear Simples

yij = µ(xi ) + eij (5)

Regressão Linear Simples

yij = µ(xi ) + eij (5)

Regressão Linear Simples

yi = E (Y |xi ) + ei = α + βxi + ei , i = 1, 2, ..., n,

devendo-se encontrar os valores mais prováveis para α e β, segundo algum critério, a

onde é um erro aleatório com média zero e variância σ2 .