Escolar Documentos
Profissional Documentos
Cultura Documentos
PPGEP
[ (
L = y j b0 + b1 x1 j + ... + bk xkj )]2 (2)
Usando (3) , a funo a ser minimizada :
[ ( ))]2
Observa-se que a aplicao do mtodo dos mnimos quadrados fica
simplificada se o modelo (1) reescrito como: ( ) (
L = yi b0, + b1 x1 j x1 + ... + bk xkj xk (4)
Y = 0, + 1 ( X 1 x1 ) + ... + k ( X k xk ) + (3)
PPGEP/UFRGS 3 PPGEP/UFRGS 4
Notao Matricial Estimativa dos Coeficientes
PPGEP PPGEP
Para lidar com o problema de regresso linear mltipla, mais
conveniente usar notao matricial, pois assim tem-se uma
apresentao muito compacta dos dados, do modelo e dos
resultados. Em notao matricial o modelo (3) aparece Pode ser demonstrado que a aplicao do mtodo dos mnimos
representado como: Y = X + quadrados conduz seguinte soluo:
Y1 1 ( x11 x1 ) ... ( xk 1 xk ) 0, 1
. . . b = ( X ' X )1 X ' Y (6)
. . .
Y = . ; X = . . . ; = . ; = .
onde b o vetor p x 1 com as estimativas dos coeficientes . A
.
. . . . .
soluo (6) ir existir sempre que as variveis regressoras forem
Yn 1 ( x1n x1 ) ... ( xkn xk ) n
k linearmente independentes.
Genericamente, tem-se que Y o vetor n x 1 das observaes, X (Nota: as variveis regressoras no sero independentes quando
a matriz n x p com os nveis das variveis regressoras, o uma coluna da matriz X for uma combinao linear de outras
vetor p x 1 com os coeficientes da regresso e o vetor n x 1 colunas).
com os erros aleatrios (sendo p = k + 1).
PPGEP/UFRGS 5 PPGEP/UFRGS 6
24 1 - 8 2 1
15 0 0 463
27 1 - 3 - 3
2 X' X = 0 504 - 213 ;
X' Y = 345
29 1 - 8 12 3 0 - 213 548 63
31 1 2 - 10 4 e
25 1 7 - 6 5
0,06667 0 0
33 1 0 3 6
PPGEP/UFRGS 9 PPGEP/UFRGS 10
26 24,69 1,31
28 30,09 -2,09
A tabela a seguir apresenta os valores observados, os valores 31 29,57 1,43
previstos pelo modelo e os respectivos resduos: 39 38,48 0,52
38 32,48 0,52
30 28,62 1,38
rj = Yj Y$j 25 26,02 -1,02
42 39,11 2,89
40 38,41 1,59
PPGEP/UFRGS 11 PPGEP/UFRGS 12
Resduos x X1 Resduos x X2
PPGEP PPGEP 10 10
6 6
2 2
Para testar se o ajuste adequado, os resduos poderiam ser Re
-2
Re
-2
plotados em funo de Y , em funo de X1 ou em funo de X2 . -6 -6
<=
<=
( ) ( )
-10 -10
10 14 18 22 26 30 18 22 26 30 34 38 42
X1 X2
Os resduos tambm poderiam ser plotados em papel de Resduos x Y$ Papel de Probabilidade
<=
linha 5 , sem dvida, um dado atpico: -6 5
1
( )
<=
( )
-10 0.1
24 27 30 33 36 39 42 -10 -7 -4 -1 2 5
Valor predito de Y Resduos
Exemplo 10.2: (ver Montgomery (1984)) Este exemplo ilustra o uso Escolhemos ajustar o seguinte modelo ( X i = 0 )
PPGEP
da Anlise de Regresso em conjunto com Projeto de PPGEP
Os dados aparecem a seguir. Vejam que os nveis dos fatores foram X' X = = 8 I4 ; X' Y =
0 0 8 0 85
codificados como -1 (nvel baixo) e +1 (nvel alto).
0 0 0 8 9
Ganho % X1(Temp.) X2(Presso) X3(Concent.)
32 -1 -1 -1 E como XX diagonal, a sua inversa (XX)-1=(1/8)I4 . Assim as
36 -1 -1 1 estimativas dos coeficientes resultam:
57 -1 1 -1
46 1 -1 -1 b0 51,125
b
65 1 1 -1 5,625
b= =
1
57 -1 1 1 b2 10,625
48 1 -1 1
68 1 1 1 b3 1,125
PPGEP/UFRGS 15 PPGEP/UFRGS 16
PPGEP
E o modelo de regresso : PPGEP
Matriz de Varincias e Covarincias
Y$ = 51,125 + 5,625X1 + 10,625X 2 + 1,125X 3
A matriz (XX)-1 chamada de matriz de varincias e
Nesse exemplo a matriz inversa fcil de obter porque X X
covarincias. uma matriz simtrica de ordem p x p e seus
diagonal. H vrias vantagens quando X X diagonal. Os
elementos so usados na determinao das varincias Sij2.
clculos so mais fceis e a estima dos coeficientes est livre de
Usando a notao:
PPGEP/UFRGS 17 PPGEP/UFRGS 18
Regresso Linear Mltipla
. . .
ao hiperplano do modelo de regresso:
. . .
(
S 2 = Y j Y j )2 (n k 1) ; j = 1,n
rk 0 rk 1 ... 1
PPGEP/UFRGS 21 PPGEP/UFRGS 22
PPGEP PPGEP
Testes de Hiptese
10.1) A resistncia de uma cera depende da quantidade de Etil- Para construir os testes de hiptese relativos a regresso
Vinil-Acetato (EVA) e da quantidade de Parafina adicionados mltipla, vamos supor que os resduos j sigam o modelo
cera. Ajuste um modelo do tipo Y = 0 + 1 X1 + 2 X2 aos dados normal com mdia 0 e varincia S2 .
que aparecem a seguir: H dois tipos de teste que podem ser feitos: testes individuais
sobre a significncia de cada parmetro bj e um teste global
Regresso Linear Mltipla
Regresso Linear Mltipla
para o modelo.
X1: EVA 4 4 6 6 8 8 4 4 6 6 8 8
X2: Paraf. 8 8 8 8 8 8 12 12 12 12 12 12
Y: Resist. 28,5 26, 33, 32, 35, 36, 36, 34, 37, 39, 42, 44,
Significncia de cada parmetro
4 0 1 3 7 6 2 9 9 6 2 Se os resduos seguem o modelo normal, os parmetros bj
tambm iro seguir esse modelo, ou seja:
( 2
b j N j ,bj )
PPGEP/UFRGS 23 PPGEP/UFRGS 24
PPGEP PPGEP
Significncia do Modelo de Regresso
Para testar a significncia do modelo de regresso mltipla,
De modo que para testar as hipteses usaremos o teste F.
H0: j = 0 Os desvios (Yj Y ) podem ser escritos na forma:
H1: j 0
Usamos a distribuio de Student, calculando (Yj Y ) = (Yj Y$j ) + (Y$j Y )
tj = bj / Sbj
Como sempre, a hiptese nula ser rejeitada se elevando ao quadrado e somando, obtemos:
t j > t / 2 , n k 1
(Yj Y ) ( ) ( )
2 2 2
= Yj Y$j + Yj Y
uma vez que pode ser demonstrado que o produto cruzado nulo.
PPGEP/UFRGS 25 PPGEP/UFRGS 26
2
SQReg
r = -Teste a significncia do modelo;
SYY
-Calcule o coeficiente de determinao;
O coeficiente r2
indica a percentagem da variabilidade total que
explicada pelo modelo de regresso. Soluo:
A matriz de varincias e covarincias a matriz (XX)-1 , enquanto
Se r2 =1, todas as observaes estaro sobre o hiperplano que a matriz de correlaes obtida dividindo os termos da matriz
definido pelo modelo. Se r2 =0 , no h nenhuma relao entre a XX pelos correspondentes termos da diagonal. Assim,
varivel de resposta e as variveis regressoras.
PPGEP/UFRGS 29 PPGEP/UFRGS 30
PPGEP/UFRGS 33 PPGEP/UFRGS 34
.
A suposio de normalidade dos resduos pode ser testada por testes
X k0
grficos (papel de probabilidade) ou analticos (teste do Chi-quadrado,
Pode ser demonstrado que os intervalos de confiana de 100(1-)% Kolmogorov-Smirnov, etc.).
para um valor mdio e individual de Y so, respectivamente:
O fator que multiplica t/2 corresponde ao erro de previso. A diviso onde Y j = b0 + b1 X 1 j + ... + bk X kj
desse fator por Y$0 produz o coeficiente de variao da previso.
PPGEP/UFRGS 35 PPGEP/UFRGS 36
PPGEP PPGEP
Regresso Polinomial
Para examinar se o erro padro da estimativa constante, analisam-se
os grficos O modelo aditivo Y = X + um modelo geral e pode ser usado
para ajustar qualquer relao que seja linear com referncia aos
R j Y j e R j X i parmetros desconhecidos .
Se a suposio de normalidade ou de homogeneidade no forem Veja que a exigncia de linearidade refere-se a e no a X. Assim,
satisfeitas, muitas vezes possvel contornar o problema aplicando o modelo pode ser usado para ajustar um polinmio de ordem k em
certas transformaes matemticas aos dados. uma varivel:
Y = 0 + 1 x1 + 2 x2 + 3 x12 + 4 x22 + 5 x1 x2 +
PPGEP/UFRGS 37 PPGEP/UFRGS 38
PPGEP/UFRGS 43 PPGEP/UFRGS 44
Exerccios:
PPGEP PPGEP
10.5) Considere os dados do exerccio 8.5 e use o modelo do tipo Y 10.2) Calcule o valor dos resduos para os dados do exerccio 10.1
= 0 + 1X + 2X2 para ajustar a produtividade mensal em funo e a seguir analise esses resduos plotando os grficos:
do intervalo entre manutenes preventivas.
10.4) Considere os dados do exerccio 8.2 e use um modelo do tipo
Intervalo Produtivi Y = 0 + 1 X + 2 X2 para ajustar a resistncia compresso em
dade
PPGEP/UFRGS 45 PPGEP/UFRGS 46