Topicos de matrizes e Distribuicao Normal

Multivariada
CAP

ITULO 1
Alguns resultados importantes
1.1 denicoes
I
n
: matriz Identidade de dimensao (n n)
J
n
: 11
t
1.1.1 Traco
Sejam A
pp
, B
pp
, C
pp
, D
pp
, x
pp
e :escalar.
Propriedades
1. Tr() =
2. Tr(A +B) = Tr(A) +Tr(B)
3. Tr(A) = Tr(A)
4. Tr(CD) = Tr(DC) =

i,j
c
ij
d
ji
5.

i
x
t
i
Ax
i
= tr(AT) onde T =

i
x
i
x
t
i
6. tr(B
1
AB) = tr(A)
1.1.2 Determinantes
A
(pp)
, C (constante)
1. Se A e diagonal ou triangular |A| =

p
i=1
a
ii
2. |CA| = C
p
|A|
3. |AB| = |A| |B|
4. |A| = |A
t
|
5. Se cada elemento de uma linha (coluna) de A e zero, |A| = 0
6. Se quaisquer duas linhas (colunas) de A e zero, |A| = 0
7. Se quaisquer duas linhas (colunas) de A sao id6enticas, |A| = 0
8. Se A e nao-singular, |A| = 1/ |A
1
| ou seja, |A| |A
1
| = 1
9. Se A =
_
A
11
A
12
A
21
A
22
_
onde A
11
e A
22
sao matrizes quadradas, |A| = |A
11
|

A
22
A
21
A
1
11
A
12

=
|A
22
|

A
11
A
12
A
1
22
A
21

DEFINIC

OES 3
10. SejamB
(pn)
, C
(np)
e A
(pp)
nao-singular. Temos |A +BC| = |A
1
| |I
p
+A
1
BC| =
|A
1
| |I
n
+CA
1
B|
11. Sejam b
(p1)
, A
(pp)
nao-singular ,|A +bb
t
| = |A| |1 +b
t
A
1
b|
12. Se B
(pn)
e C
(np)
entao |I
p
+BC| = |I
n
+CB|
1.1.3 Inversa
Propriedades
1. (AB)
1
= B
1
A
1
2. A unica solucao de Ax = b e x = A
1
b
3. Sejam A
(pp)
, B
(pn)
, C
(nn)
e D
(np).
Se todas as inversas necessarias existem,
ent ao (A +BCD)
1
= A
1
A
1
B(C
1
+DA
1
B)
1
DA
1
caso particular A
(pp)
, b
(p1)
e c
(p1)
, se A
1
existe (A+bc
t
)
1
= A
1

A
1
bc
t
A
1
1+c
t
A
1
b
4. Se todas as matrizes inversas necessarias existem , ent ao a matriz particionada
A
1
e dada por :
A =
_
A
11
A
12
A
21
A
22
_
A
1
=
_
A
11
A
12
A
21
A
22
_
A
11
= (A
11
A
12
A
1
22
A
21
)
1
A
12
= A
11
A
12
A
1
22
= A
1
11
A
12
A
22
A
21
= A
22
A
21
A
1
11
= A
1
22
A
21
A
11
A
22
= (A
22
A
21
A
1
11
A
12
)
1
1.1.4 Produto de Kronecker
Denicao Sejam A = (a
ij
) e B = (a
bij
) matrizes de dimensao (mn) e (p q),
respectivamente. O produto de Kronecker , indicado por A

B = (a
ij
B) =
_
_
_
_
a
11
B a
12
B . . . a
1n
B
.
.
.
.
.
.
.
.
.
.
.
.
a
m1
B a
m1
B . . . a
mn
B
_
_
_
_
Def: Vec(A) Seja A uma matriz de dimensao (mn) e a
(i)
a i-esima coluna de A.
V ec(A) e um vetor de dimensao (mn 1) denido por :
V ec(A) =
_
_
_
_
_
_
a
(1)
a
(2)
.
.
.
a
(n)
_
_
_
_
_
_
Propriedades A, B, C, D : matrizes, x, y : vetores, :escalar
1. (A

B) = (A)

B = A

(B)
2. A

(B

C) = (A

B)

C = A

C
DEFINIC

OES 4
3. (A

B)
t
= A
t

B
t
4. (A

B)(C

D) = (AC)

(BD)
5. (A

B)
1
= (A
1

B
1
)
6. (A +B)

C = (A

C) + (B

C)
7. A

(B +C) = (A

B) + (A

C)
8. A
(pp)
, B
(qq)
, |A

B| = |A|
q
|B|
p
9. V ec(ABC) = (C
t

A)V ec(B), se ABCexiste

10. x

y = vec(yx
t
)
11. x

y
t
= xy
t
= y
t

x
12. (V ec(A))
t
vec(B) = tr(A
t
B)
13. (V ec(A))
t
(B

C)V ec(D) = tr(A

t
CDB
t
)
1.1.5 Matrizes especiais
1. Matrizes ortogonais
Se A uma matriz quadrada, A e ortogonal se AA
t
= I
Propriedades
(a) A
1
= A
t
(b) A
t
A = I
(c) |A| = 1
(d) a
t
(i)
a
(j)
= 0 se i = j
a
t
(i)
a
(j)
= 1 se i = j
(e) Se A e B sao ortogonais C = AB e ortogonal.
2. Matriz de equicorrelac ao
E = (1 )I

+J
p
,
E =
_
_
_
_
_
_
1 . . .
1 . . .
.
.
.
.
.
.
.
.
.
.
.
.
. . . 1
_
_
_
_
_
_
, : n umero real
E
1
= (1 )
1
[(I

{1 + (p 1)}
1
J
p
|E| = (1 )
p1
{1 +(p 1)}
De uma forma mais geral,
A =
_
_
_
_
_
_
c +b c . . . c
c c +b . . . c
.
.
.
.
.
.
.
.
.
.
.
.
c c . . . c +b
_
_
_
_
_
_
, A = cJ
n
+bI
n
DEFINIC

OES 5
A
1
=
1
b
I
n

c
(nc+b)b
J
n
3. Matriz Idempotente
A e idempotente de A
2
= A
4. Matriz Positiva denida e positiva semi-denida
A e positiva denida se x
t
Ax > 0, x = 0
A e positiva semi-denida se x
t
Ax 0, x = 0
1.1.6 Posto de uma matriz
O posto de uma matriz A
(np)
e denida como o n umero maximo linhas (colunas)
linearmente independentes de A; ou e a ordem da maior submatriz quadrada de A
com determinante nao-nulo. Posto(A) : r(A)
Propriedades Seja uma matriz A
(np)
1. 0 r(A) min(n, p)
2. r(A) = r(A
t
)
3. r(A +B) r(A) + r(B)
4. r(AB) min{r(A), r(B)}
5. r(A
t
A) = r(AA
t
) = r(A)
6. Se B
(nn)
e C
(pp)
sao nao-singular, ent ao r(BAC) = r(A)
7. Se n = p entao r(A) = p se, e somente se, A e nao singular.
Posto de alguns matrizes
1. A = diag(a
i
), r(A) =n umeros de a

i
s = 0
2. r(H) = n 1
3. A idempotente, r(A) = tr(A)
1.1.7 Autovalores e autovetores
Denicao
Autovalores. Seja A uma matriz de dimensao (p p).
1,
. . .
p
que satisfazem
a equac ao |A I
p
| = 0 sao denominados autovalores da matriz A.Os autovalores
podem ser complexos ou m ultiplos.
Autovetores. Para todo autovalor
i
existe um vetor = 0 tal que A =
i

onde e denominado autovetor de A associado ao autovalor

i.
Em geral vamos usar os autovetores normalizados ou seja
t
= 1
A =
_
1 2
2 4
_

1
= 0;
2
= 5

1
=
_
2/

5
1/

5
_
e
2
=
_
1/

5
2/

5
_
DECOMPOSIC

AO ESPECTRAL 6
Propriedades
1. Seja C
(pp)
uma matriz nao-singular A e CAC
1
tem os mesmos autovalores. Se
e um autovetor de A para
i
entao = C e um autovetor de CAC
1
para

i
.
Prova. CAC
1
I = CAC
1
CC
1
CC
1
= C(A I)C
1
|CAC
1
I| = |C| |A I| |C
1
| = |A I|
A =
i

CA =
i
C
CAC
1
C =
i
C
CAC
1
=
i

1. Seja escalar. Ent ao A + I tem autovalores

i
+ . Alem disso, A e A + I
tem os mesmos autovetores.
2. Se A
(pp)
e simetrica ent ao todos os autovalores sao reais.
1.2 Decomposicao Espectral
Qualquer matriz simetrica A
(pp
) pode ser escrita como A =
t
=

p
i=1

(i)

t
(i)
onde e a matriz diagonal dos autovalores de A e e uma matriz ortogonal cujas
colunas sao os autovetores normalizados de A.
1.2.1 Propriedade
1. Se A
(pp)
e uma matriz simetrica nao-singular ent ao para qualquer inteiro n,

n
= diag(
n
i
) e A
n
=
n

t
.
2. Se todos os autovalores de Asao positivos, A
r/s
=
r/s

t
onde
r/s
= diag(
r/s
i
),
para inteiros s > 0 e r.
obs: Se alguns dos autovalores de A sao iguais a zero, ent o os resultados anteriores
sao validos se os expoentes forem nao-negativos.
Prova. por inducao
Casos Especiais A
2
=
2

t
; A
1
=
1

t
; A
1/2
=
1/2

t
.
Propriedades de A
1/2
1. (A
1/2
)
t
= A
1/2
2. A
1/2
A
1/2
= A
3. A
1/2
A
1/2
= A
1/2
A
1/2
= I
4. A
1/2
A
1/2
= A
1
5. Seja A simetrica ent ao o posto de A e igual ao n umero de autovalores nao nulo
de A
FORMAS QUADR

ATICAS 7
Prova. A =
t
r(A) = r(
t
) = r()
1. Se A
(pp)
e simetrica , entao :
2. tr(A) =

p
i=1

i
3. det(A) =
p
i=1

i
4. Uma matriz simetrica A tem posto 1 se, e somente se, A = xx
t
para algum x.
Ent ao, o unico autovalor de A nao-nulo e dado por tr(A) = tr(xx
t
) = xx
t
.
5. Seja J = 11
t
. Temos que r(J) = 1 e que o unico autovalor nao-nulo de J e
1
t
1 = p e o autovetor correspondente e 1
p
.
Seja E = (1 p)I + J, os autovalores de E sao
1
= 1 + (p 1),
2
= . . . =

p
= 1 e seu autovetores de E sao os mesmos de J
6. Se A, e simetrica e idempotente entao
i
= 0 ou 1, i.
1.3 Formas Quadraticas
Denic ao
Uma forma quadratica no vetor x e uma func ao da forma :
Q(x) = x
t
Ax =

i

j
x
i
a
ij
x
i
onde A e um matriz simetrica.
Propriedades
1. Q(0) = 0
2. Q(x) e positiva denida se Q(x) > 0, x = 0
3. A simetrica e p.d. (p.s.d) se Q(x) e p.d. (p.s.d.)
Para qualquer matriz simetrica A, existe um transformac ao ortogonal y =
t
x
tal que x
t
Ax =

i

i
y
2
i
.
Prova. Sabemos que A =
t
, seja y =
t
x. Logo
y =
t
x x
t
= y
t

t
.
x
t
Ax = y
t

t
A y = y
t

t
y = y
t
y =

i

i
y
2
i
.
4. Se A > 0 ent ao
i
> 0, i
5. Se A 0 ent ao
i
0, i
6. Se A > 0 ent ao A e nao-singular e |A| > 0
7. Se A > 0 ent ao A
1
> 0
Prova. A
1
=
1

t
y =
t
x tal que x
t
A
1
x =

i
1

i
y
2
i
.
INVERSA GENERALIZADA 8
x
t
A
1
x = y
t

t
A
1
y = y
t

t
y = y
t

1
y =

i
1

i
y
2
i
. > 0, pois
i
>
0, y = 0.
8. Qualquer matriz A 0 pode ser escrita como A = B
2
onde B e uma matriz
simetrica.
Prova. Sabemos que A =
t
, seja B =
1/2

t
ent ao B
2
=
1/2

1/2

t
=

t
= A
9. Se A 0, A
(pp)
ent ao para qualquer matriz C de ordem (pn) temos C
t
AC 0
10. Se A > 0 e C nao-singular (p = n) ent ao C
t
AC > 0
11. Se A 0 e B > 0 matrizes de ordem (pp) entao todas as razes caractersticas
nao-nulas de B
1
A sao positivas.
Interpretacao Geometrica Seja Auma matriz positiva denida. Ent ao (x)
t
A
1
(x
) = C
2
representa um elipsoide em dimensao p. O centro do elipsode e x = .
1.4 Inversa Generalizada
Denic ao : Seja a matriz A
(np)
. A

e a g-inversa ou inversa generalizada de A se

AA

A = A. A g-inversa sempre existe, embora possa nao ser unica

1. Se r(A) = r e A
(np)
entao as linhas e colunas podem ser rearranjadas de modo
que A
11
(r r) seja nao-singular . Logo uma g-inversa e dada por
A

=
_
A
1
11
0
0 0
_
2. Se A
(pp)
e nao-singular ent ao A

= A
1
e e unica
Teorema Seja G uma g-inversa de X
t
X
1. G
t
e uma g-inversa de X
t
X
2. GX
t
e uma g-inversa de X
3. XGX
t
nao varia com G
4. XGX
t
e simetrica mesmo que G nao o seja.
1.5 Diferenciacao de Vetores e Matrizes
1. Seja a um vetor de constantes
a
t
x = x
t
a = ; = a
1
x
1
+a
2
x
2
+. . . +a
p
x
p

x
=
_
_
_
_
a
1
.
.
.
a
p
_
_
_
_
DIFERENCIAC

AO DE VETORES E MATRIZES 9
2. x =
_
_
_
_
x
1
.
.
.
x
p
_
_
_
_
e A =
_
_
_
_
a
11
. . . a
1p
.
.
.
.
.
.
.
.
.
a
p1
. . . a
pp
_
_
_
_
x
t
A =
_

1

2
. . .
p
_
onde
i
=

p
j=1
x
j
a
ji
x
t
A
x
=
_
_
_
_
_

1
x
1
. . .

p
x
1
.
.
.
.
.
.
.
.
.

1
x
p
. . .

p
x
p
_
_
_
_
_
= A
3. Formas Quadraticas
Q(x) = x
t
Ax, A simetrica
x
t
Ax = a
11
x
2
1
+. . . +a
pp
x
2
p
+ 2a
12
x
1
x
2
+. . . + 2a
(p1)p
x
p1
x
p
x
t
Ax
x
=
_
_
_
_
_
x
t
Ax
x
1
.
.
.
x
t
Ax
x
p
_
_
_
_
_
=
_
_
_
_
2a
11
x
1
+ 2a
12
x
2
+. . . + 2a
1p
x
p
.
.
.
2a
p1
x
1
+ 2a
p2
x
2
+. . . + 2a
pp
x
p
_
_
_
_
= 2AX
1.5.1 Resultados
1. A = 0
2. (U) = U
3. (U V ) = U V
4. (UV ) = (U)V +U(V )
5. U
t
= (U)
t
6. vec(U) = vec(U)
7. tr(U) = tr(U)
8. A
1
= A
1
AA
1
9. (B
t
X) = B
10. (X
t
Ay) = Ay
11. (X
t
X) = 2X
12. (X
t
AX) = 2AX se X e simetrica
13. (Y
t
AX) = Y B
t
14. (Y
t
XY ) = Y Y
t
A e simetrica e a um vetor
1. (a
t
XAX
t
a) = 2aa
t
XA
2. (a
t
XAY
t
a) = aa
t
Y A
3. (tr(Y X)) = Y
t
4. (tr(Y XB)) = Y
t
B
t
CAP

ITULO 2
Vetores Aleatorios
Um vetor aleatorio e um vetor cujos elementos sao vari aveis aleatorias. Similarmen-
te, uma matriz aleatoria e uma matriz cujos elementos sao vari aveis aleatorias. Os
vetores aleatorios sao tambem chamados de vari aveis aleatorias multidimensionais.
O Valor esperado de uma matriz aleatoria e uma matriz consistindo dos valores
esperados de cada um de seus elementos. Seja X uma matriz aleatoria p n,
X = (X
ij
), se existem os valores esperados E(X
ij
),
Se (a matriz de valores esperados)X e Y tem mesma dimensao p n e sao
matrizes aleatorias e A e B sao adequadas matrizes constantes,
E(X +Y ) = E(X) +E(Y )
E(AXB) = AE(X)B
2.1 Vetor de medias e Matriz de covariancias
Seja X, p 1 e E(X
i
) =
i
, i = 1, . . . , p, Cov(X
i
, X
j
) =
ij
, i, j = 1, 2, . . . , p, ent ao
denotamos E(X) por =
_
_
_
_
_
_

2
.
.
.

p
_
_
_
_
_
_
e Cov(X) por =
_
_
_
_
_
_

11

12
. . .
1p

21

22
. . .
21
.
.
.
.
.
.
.
.
.
.
.
.

p1

p2
. . .
pp
_
_
_
_
_
_
.
Se X
i
e X
j
sao independentes entao Cov(X
i,
X
j
) = 0. Ha situac oes em que
Cov(X
i
, X
j
) = 0 mas X
i
e X
j
nao sao independentes.
Por denic ao E(X) = E
_
_
_
_
_
_
X
1
X
2
.
.
.
X
p
_
_
_
_
_
_
=
_
_
_
_
_
_
E(X
1
)
E(X
2
)
.
.
.
E(X
p
)
_
_
_
_
_
_
=
_
_
_
_
_
_

2
.
.
.

p
_
_
_
_
_
_
= e Cov(X) =
E(X )(X )
t
= E
_
_
_
_
_
_
X
1

1
X
2

2
.
.
.
X
p

p
_
_
_
_
_
_
(X
1

1
) (X
2

2
) . . . (X
p

p
) =
=E
_
_
_
_
_
_
(X
1

1
)(X
1

1
) (X
1

1
)(X
2

2
) . . . (X
1

1
)(X
p

p
)
(X
2

2
)(X
1

1
) (X
2

2
)(X
2

2
) . . . (X
2

2
)(X
p

p
)
.
.
.
.
.
.
.
.
.
.
.
.
(X
p

p
)(X
1

1
) (X
p

p
)(X
2

2
) . . . (X
p

p
)(X
p

p
)
_
_
_
_
_
_
=
VETOR DE M

EDIAS E MATRIZ DE COVARI

ANCIAS 11
=E
_
_
_
_
_
_
(X
1

1
)
2
(X
1

1
)(X
2

2
) . . . (X
1

1
)(X
p

p
)
(X
2

2
)(X
1

1
) (X
2

2
)
2
. . . (X
2

2
)(X
p

p
)
.
.
.
.
.
.
.
.
.
.
.
.
(X
p

p
)(X
1

1
) (X
p

p
)(X
2

2
) . . . (X
p

p
)
2
_
_
_
_
_
_
=
_
_
_
_
_
_

11

11
. . .
11

11
. . .
11
.
.
.
.
.
.
.
.
.
.
.
.

11

11
. . .
11
_
_
_
_
_
_
onde
ii
=
2
i
,
ij
=
ji
.
2.1.1 Matriz de Correlacao
Uma medida de correlac ao linear entre X
i
e X
j
e dada pelo coeciente de correlac ao
linear simples
ij
=

ij

ii

jj
. O coeciente de correlac ao e obtido da matriz de
covariancia-variancia . A Matriz de correlacao =
_
_
_
_
1
12
. . .
1p
.
.
. 1
.
.
.
.
.
.

p1

p2
. . . 1
_
_
_
_
pode
ser obtida por =
_
(V
1/2
)
1
(V
1/2
)
1
_
onde
V
1/2
=
_
_
_
_
_
_

11
0 . . . 0
0

22
. . . 0
.
.
.
.
.
.
.
.
.
.
.
.
0 0 . . .

pp
_
_
_
_
_
_
e
V
1/2
=
_
_
_
_
_
_
_

1/2
11
0 . . . 0
0
1/2
22
. . . 0
.
.
.
.
.
.
.
.
.
.
.
.
0 0 . . .
1/2
pp
_
_
_
_
_
_
_
.
Outra relacao importante e = V
1/2
V
1/2
.Assim pode ser obtida de pode
ser obtida de e V
1/2
enquanto pode ser obtida de .
Matriz de covariancia Particionada
Frequentemente as caractersticas observadas num experimento podem ser clas-
sicadas em dois grupos. Por exemplo, em observando-se estudantes as vari aveis
socio-economicas podem formar um grupo, enquanto o desempenho academico e
composto por outro grupo de vari aveis. Em geral, particionando o vetor X em dois
grupos de variaveis, digamos, X
(1)
, (q 1) e X
(2)
, (p q) 1, obtem-se
E(X) = E
_
_
_
X
(1)
. . .
X
(2)
_
_
_ =
_
_
_
E(X
(1)
)
. . .
E(X
(2)
)
_
_
_ =
_
_
_

(1)
. . .

(2)
_
_
_
VETOR DE M

EDIAS E MATRIZ DE COVARI

ANCIAS 12
Cov(X) = Cov
_
_
_
X
(1)
. . .
X
(2)
_
_
_ = E(X )(X )
t
= E
_
_
_
X
(1)

(1)
. . .
X
(2)

(2)
_
_
_
_
(X
(1)

(1)
)
t
.
.
.(X
(2)

(2)
)
t
_
=E
_
_
_
_
_
(X
(1)

(1)
)(X
(1)

(1)
)
t
.
.
. (X
(1)

(1)
)(X
(2)

(2)
)
t
. . . . . . . . .
(X
(2)

(2)
)(X
(1)

(1)
)
t
.
.
. (X
(2)

(2)
)(X
(2)

(2)
)
t
_
_
_
_
_
=
_
_
_
_
_

11
.
.
.
12
. . . . . . . . .

21
.
.
.
22
_
_
_
_
_

12
=
t
12
LISTA DE EXERCCIOS 13
2.2 Lista de exerccios
1. Seja a vari avel aleatoria bidimensional X, p1, p = 2. X
1
e X
2
sao v.a. discretas
independentes com as seguintes funcoes de probabilidade,
(a)
x
1
1 0 1
p(x
i
) 0, 3 0, 3 0, 4
x
2
0 1
p(x
i
) 0, 8 0, 2
Calcule :
(b) E(X), Cov(X)
(c) E(AX), Cov(AX) para A =
_
1 1
1 1
_
(d)
x
Comente
1. Verique que para o vetor aleatorio X = (X
1
, . . . , X
p
)
t
(a) Cov(X
i
+a, X
j
+b) = Cov(X
i
, X
j
), a e b constantes
(b) Cov(aX
i
, bX
j
) = abCov(X
i
, X
j
), a e b constantes
(c) Para combinacoes lineares das variaveis componentes de X, a
t
X e b
t
X, Cov(a
t
X, b
t
X) =
a
t

b, forma bilinear.
2. Se A e B sao matrizes constantes (r p) e (s p), respectivamente e Y = AX,
Z = BX sao duas transformac oes da vari avel aleatoria X entao :
Cov(Y, Y ) = AA
t
, Cov(Z, Z) = BB
t
, Cov(Y, Z) = AB
t
3. Dado E(X) = , V ar(X) = , Cov(X
i
, X
j
) = 0, i = j
Calcule ||, (X )
t

1
(X )
Verique que = (V
(1/2)
)
1
(V
(1/2)
)
1
com V
(1/2)
= diag(

ii
), i = 1, . . . , p
4. Seja X tal que =
_
_
_
25 2 4
2 4 1
4 1 9
_
_
_
(a) Calcule , V
(1/2)
e
1
.
(b) Encontre os valores e vetores proprios de
(c) Verique que = V
(1/2)
V
(1/2)
(d) Encontre a correlac ao entre X
1
e
X
2
+X
3
2
.
CAP

ITULO 3
Distribuicao Normal Multivariada
A generalizac ao da familiar densidade normal para varias dimensoes tem um funda-
mental papel na analise multivariada. Enquanto dados reais nunca sao exatamente
normal multivariados, a densidade normal e frequentemente uma util aproximac ao
para a veradadeira distribuic ao da populac ao.
Uma vantagem da distribuic ao normal multivariada e que ela e matamaticamente
atrativa, dela obtendo-se excelentes resultados. Mas estatsticamente, duas outras
razoes sao as que indicam o uso da distribuic ao normal.
Primeira, distribuic oes amostrais de muitos estatsticos multivariados sao aprox-
imadamente normais, devido ao efeito do teorema do limite central. Em segundo
lugar, a distribuic ao normal serve como modelo aproximado para certos fenomenos
naturais.
3.1 Densidade e propriedades da distribuicao normal multivariada
3.1.1 Denicao 1
Sabemos que a distribuic ao normal univariada, com media e vari ancia
2
, tem
func ao de densidade de probabilidade f(x) =
1

2
2
exp
_

1
2
_
x

_
2
_
, < x <
.
X N(,
2
) implica que P( X + )

= 0, 68 e P( 2 X
+ 2)

= 0, 95.
A densidade normal multivariada e a generalizac ao da densidade normal univari-
ada para dimensoes p 2. O termo
_
x

_
2
= (x )(
2
)
1
(x ) e generalizado
para (x )
t

1
(x ) que e a distancia quadrada generalizada (distancia de
Mahalanobis), quando admite inversa. Em outro caso a densidade nao e bem
denida. Tambem o termo
1

2
2
= (2)
1/2
(
2
)
1/2
deve ser modicado para uma
constante mais geral para tornar o volume

(no caso multivariado as probabil-

idades sao representadas por volumes sob a superfcies na regiao denida) sob
a superfcie da funcao de densidade multivariada unitaria para qualquer p. Essa
constante sera (2)
p/2
||
1/2
.
Consequentemente, para denida positiva, a func ao de densidade de uma
variavel X N
p
(, ) sera
DENSIDADE E PROPRIEDADES DA DISTRIBUIC

AO NORMAL MULTIVARIADA 15
f(x) = (2)
p/2
||
1/2
exp
_

1
2
(x )
t

1
(x )
_
,
< x
i
< , i = 1, 2, . . . , p.
3.1.2 Dencao 2
Dizemos que X tem uma distribuic ao normal multivariada pvariada se e somente
se a
t
x tem distribuic ao normal univariada para todo a xado.
Se X tem distribuic ao normal multivariada pvariada entao cada um dos ele-
mentos de X, ou seja, X
i
, i = 1, . . . , p tem distribuic ao normal univariada.
Se todas as p(p 1)/2 covari ancias sao nulas, as p componentes de x sao inde-
pendentemente distribudas e
f(x) = f
1
(x
1
)f
2
(x
2
) . . . f
p
(x
p
), consequentemente,
F(x) =
_
x
1

_
x
p

f(x)dx
1
. . . dx
p
=
=
_
x
1

f(x
1
)dx
1
_
x
2

f(x
2
)dx
2

_
x
p

f(x
p
)dx
p
=
= F
1
(x
1
)F
1
(x
1
) . . . F
p
(x
p
).
A densidade normal multivariada e constante nas superfcies onde a distancia
(x )
t

1
(x ) e constante. Esse corte e chamado de contorno.
O contorno de uma densidade de probabilidade constante e a superfcie de um
elipsoide centrado em e e igual ao conjunto de pontos {x : (x )
t

1
(x
) = c
2
}. Esses elipsoides tem eixos c

i
e
i
, onde (
i
e
i
) e um par de autovalor-
autovetor da matriz .
DENSIDADE E PROPRIEDADES DA DISTRIBUIC

AO NORMAL MULTIVARIADA 16
As guras a
1
e a
2
mostram as distribuicoes de duas binormais, na primeira X
1
e X
2
sao independentes, na segunda X
1
e X
2
tem correlacao de 0,75. As guras
b
1
e b
2
sao contornos de 50% e 90% para duas N
2
(, ), X
1
e X
2
independentes
ou correlacionadas. A gura b
3
mostra contorno de densidade constante para uma
normal bivariada com
11
=
22
e
12
> 0.
O elipsoide solido dos x tais que (x )
t

1
(x )
2
p
() tem probabilidade
(1 ), para X N
p
(, ) e
2
p
sendo o quantil superior da qui-quadrado com
p graus de liberdade.
3.1.3 Propriedades da Distribuicao normal multivariada
Seja X N
p
(, ) , ent ao sao verdades
1. Combinac oes lineares de componentes de X sao distribudas normalmente :
X N
p
(, ) a
t
X N(a
t
, a
t
a)
2. Todo subconjunto de componentes de X tem distribuic ao normal multivariada.
X N
p
(, ), A
(qp)
AX N
q
(A, AA
t
)
3. Covari ancia zero implica que as correspondentes componentes sao independen-
temente distribudas.
X N
p
(, ) [cov(X
i
, X
j
) X
i
independente X
j
(a) Seja X N
p
(, ) e Y =
1/2
(X) onde
1/2
e a raiz quadrada simetrica
positiva denida de
1
. Ent ao Y
1
, Y
2
, . . . , Y
p
sao independentes e Y
i
N(0, 1)
para todo i.
(b) Se X N
p
(, ) entao E(X) = , V ar(X) =
(c) Se X N
p
(, ) entao U = (X )
t

1
(X )
2
p
(d) Se X N
p
(, ) , A
(qp)
, C
(q1)
e Y = AX +C Y N
q
(A +C, AA
t
)
Fun cao caracterstica
Seja X um vetor aleatorio (p 1). A funcao caracterstica de X e denida como
:

x
(s) = E(e
is
t
x
)
4. Seja X
t
= (X
t
1
, X
t
2
). Os vetores aleatorios X
1
e X
2
sao independentes se, e
somente se,

x
(s) =
X
1
(s
1
)
X
2
(s
2
) onde s
t
= (s
t
1
, s
t
2
).
DENSIDADE E PROPRIEDADES DA DISTRIBUIC

AO NORMAL MULTIVARIADA 17
5. Se X e Y sao vetores aleatorios (p 1) independentes ent ao
X+Y
(s) =
X
(s) +

Y
(s)
6. Se X N
p
(, )
X
(s) = exp
_
is
t

1
2
s
t
s
_
7. Dois vetores conjuntamente multinormais sao independentes se, e somente se sao
nao correlacionados.
8. Se X N
p
(, ) entao AX e BX sao independentes se, e somente se AB
t
= 0.
9. Distribuic oes condicionais das componentes sao multinormais :
X N
p
(, ) X
(1)
| X
(2)
N
q
(
1|2
,
1|2
),
onde
1|2
=
1
+
12

1
22
(x
2

2
),

1|2
=
11

12

1
22

21
.
10. X N
p
(, ), d um vetor de constantes (X +d) N
p
( +d, ).
11. Todos os subconjuntos de componentes de X sao normalmente distribudas. Se
particionamos X, seu vetor de medias e matriz de covariancia . Seja X
1
e X
2
com dimensao q e p-q respectivamente, isto e
X =
_
_
_
X
1

X
2
_
_
_, =
_
_
_

2
_
_
_, =
_
_
_
_
_

11
.
.
.
12

21
.
.
.
22
_
_
_
_
_
entao X
1
N
q
(
1
,
11
) e
X
2
N
q
(
2
,
22
)
12. X
1
e X
2
sao independentes se e somente se Cov(X
1
, X
2
) =
12
= 0.
13. Se X
1
e X
2
sao independentes e X
1
N
q
1
(
1
,
11
) e X
2
N
q
2
(
2
,
22
) respec-
tivamente, ent ao
_
_
_
X
1

X
2
_
_
_ N
q
1
+q
2
_
_
_
_
_
_
_
_

2
_
_
_, =
_
_
_
_
_

11
.
.
. 0

0
.
.
.
22
_
_
_
_
_
_
_
_
_
_
.
14. Se X N
p
(, ) e || > 0, ent ao (x )
t

1
(x )
2
p
15. Se X N
p
(, ) e || > 0, entao o elipsoide solido { (x)
t

1
(x)
2
p
()}
tem probabilidade (1), com
2
p
() sendo o quantil superior da distribuic ao
qui-quadrado com p graus de liberdade.
16. Se X
1
, X
2
, . . . , X
n
sao mutuamente independentes com X
j
N
p
(
j
, ), com
mesma matriz de covariancia ent ao V
1
= c
1
X
1
+c
2
X
2
+. . .+c
n
X
n
N
p
(
V
1
,
V
1
)
com
V
1
=

n
j=1
c
j

j
e

V
1
= (

n
j=1
c
2
j
). Alem do mais V
1
e V
2
=

n
j=1
b
j
X
j
sao conjuntamente normais multivariadas com matriz de covari ancias
_
(

n
j=1
c
2
j
) b
t
c
b
t
c (

n
j=1
b
2
j
)
_
DENSIDADE E PROPRIEDADES DA DISTRIBUIC

AO NORMAL MULTIVARIADA 18
Consequentemente V
1
e V
2
sao independentes se b
t
c =

n
j=1
b
j
c
j
= 0,isto e , os
vetores b e c sao perpendiculares.
Considerando todos os possveis valores de x
2
, podemos escrever a variavel
1
+

12

1
22
(x
2

2
) como predic ao da distribuic ao condicional de X
1
. A diferenca
entre X
1
e a predic ao da media da distribuicao condicional de X
1
e o vetor X
1.2
e
chamado de conjunto de vari aveis residuais.
X
1.2
= X
1

12

1
22
(x
2

2
)
Em populacoes multinormais as vari aveis residuais e as xadas sao distribuidas
independentemente.
LISTA 2 DE EXERCCIOS DE AN

ALISE MULTIVARIADA 19
3.2 Lista 2 de exerccios de Analise Multivariada
1. Considere uma populac ao normal bivariada com
1
= 0,
2
= 2,
11
= 2,
22
= 1
e
12
= 0, 5.
(a) Escreva a densidade desta normal
(b) Apresente a expressao da distancia quadrada generalizada (x )
t

1
(x )
como uma func ao de x
1
e x
2
.
(c) Determine o contorno de densidade constante que contem 50% de probabili-
dade. Esboce o graco do contorno.
(d) Especique a distribuicao condicional de X
1
, dado X
2
= x
2
para a distribuic ao
2. Sejam X
1
N(0, 1) e X
2
=
_
X
1
, se 1 X
1
1
X
1
, em outro caso.
(a) Mostre que X
2
tem tambem distribuic ao normal
(b) Mostre que X
1
e X
2
nao tem distribuic ao normal bivariada
3. Seja X N
3
(, ) com = (2, 3, 1)
t
e =
_
_
_
1 1 1
1 3 2
1 2 2
_
_
_
(a) Encontre a distribuic ao de 3X
1
2X
2
+X
3
(b) Determine um vetor a
(21)
, tal que X
2
e
_
X
2
a
t
_
X
1
X
3
__
sao independentes.
(c) Determine a distribuic ao de X
3
dado X
1
= x
1
e X
2
= x
2
(d) Verique que na questao acima (X
1
, X
2
) e independente da variavel residual.
CAP

ITULO 4
Amostras Aleatorias
4.1 Introducao
Uma observac ao multivariada e o conjunto de medidas de p diferentes vari aveis na
mesma unidade de analise. Tomando-se n observac oes, a massa de dados pode ser
arranjada em uma matriz de dados X como
X
(pn)
=
_
_
_
_
_
_
x
11
x
12
x
1p
x
11
x
11
x
11

.
.
.
x
p1
x
p2
x
pn
_
_
_
_
_
_
=
_
x
1
, x
2,
. . . x
n
_
Cada coluna de X representa uma observac ao multivariada e a matriz X e uma
amostra de tamanho n de uma populacao n de uma populacao pvariada. Cada
coluna reoresenta um ponto num espaco pdimensional, fornecendo informac ao
sobre sua locac ao e variabilidade alem de associac ao linear.
O vetor media amostral x e obtido como combinac ao linear das colunas de X,
ou seja,
x
(p1)
=
1
n
n

i=1
x
i
= X
_
_
_
_
_
_
1/n
1/n
.
.
.
1/n
_
_
_
_
_
_
=
1
n
X 1
Se os pontos sao considerados esferodes o vetor de medias, x, e o centro de
gravidade. A matriz S de vari ancia e covariancias amostral indica a variac ao nas
varias direc oes do sistema. O determinante da matriz de vari ancia e covariancias
amostral e uma medida n umerica da variabilidade total.
S =
_
1
n 1
n

i=1
x
i
x
t
i
nxx
t
_
=
1
n 1
n

i=1
(x
i
x) (x
i
x)
t
=
_
_
_
_
_
_
s
11
s
12
s
1p
s
21
s
22
s
2p
.
.
.
.
.
.
.
.
.
.
.
.
s
1p
s
2p
s
pp
_
_
_
_
_
_
A matriz de covariancia amostral contem p vari ancias e
1
2
p(p 1) covariancias.
A variancia amostral generalizada e o determinande de S e representa a varia cao
AMOSTRAS ALEAT

ORIAS DE UMA DISTRIBUIC

AO MULTINORMAL 21
expressa em S. A fragilidade da variancia generalizada pode ser mostrada nas
seguintes tres matrizes de covariancias as quais tem mesma variancia generalizada
e diferente estrutura de correlac ao, nao detectada por det(S),
S
1
=
_
5 4
4 5
_
, S
2
=
_
5 4
4 5
_
, S
3
=
_
3 0
0 3
_

1
> 0,
2
< 0 e
3
= 0
A matriz de dados X pode ser considerada como uma observac ao da matriz
aleatoria
_
_
_
_
_
_
X
11
X
12
X
1n
X
21
X
22
X
2n
.
.
.
.
.
.
.
.
.
.
.
.
X
p1
X
p2
X
pn
_
_
_
_
_
_
composta dos vetores colunas
_
X
1
X
2
X
n
_
.
Se os vetores colunas X
1
, . . . , X
n
representam independentes observac oes de
uma distribuic ao comum, com funcao de densidade f(x) = f(x
1
, . . . , x
p
), ent ao
X
1
, X
2
, . . . , X
n
formam uma amostra aleatoria de f(x). Entao f(x
1
, . . . , x
n
) =
f(x
1
).f(x
2
). . . . .f(x
n
) onde f(x
j
) = f(x
1j
, x
2j
, . . . , x
pj
)
As medidas das p variaveis em uma unica observacao X
t
j
= (X
1j
, . . . , X
pj
), serao
em geral correlacionadas.
As medidas de diferentes observac oes devem ser no entanto independentes.
A violac ao da hipotese de independencia entre cada observac ao pode causar serios
impactos na qualidade da inferencia estatstica. Observac oes atraves do tempo sao
um exemplo desta situac ao.
4.1.1 Resultados sobre a variancia generalizada , |S| :
1. Em qualquer analise estatstica, |S| = 0 signica que as medidas de algumas
vari aveis devem ser removidas do estudo.
2. Se n p ( isto e, o n umero de observac oes e menor ou igual ao n umero de
vari aveis observadas), entao |S| = 0 para todas as amostras.
3. Se a combina cao linear a
t
X
j
tem vari ancia positiva para cada vetor constante
a = 0 e se p < n, ent ao S tem posto completo com probabilidade 1 e |S| > 0.
4.1.2 Variancia Total Amostral
Outra generalizac ao da vari ancia e denida como a soma dos elementos sa diagonal
principal e e chamada de variancia total amostral,

p
i=1
s
ii
= s
11
+s
12
+. . . +s
pp
.
4.2 Amostras Aleatorias de uma Distribuicao Multinormal
Seja X
1
, X
2
, . . . , X
n
uma amostra aleatoria de uma populac ao pvariada com o
vetor de medias e matriz de covari ancia . Desde que X
1
, X
2
, . . . , X
n
sao mu-
ESTIMAC

AO DE M

AXIMA VEROSSIMILHAC A DE E PARA N

P
(, ). 22
tuamente independentes e com uma distribuic ao comum N
p
(, ), a funcao de
densidade conjunta de todas as observac oes e o produto das densidades normais
marginais,
f
X
1
,...X
p
(x
1
, . . . , x
n
) = f
X
1
(x
1
).f
X
2
(x
2
). . . . .f
X
n
(x
n
) =
n

j=1
f
X
j
(x
j
) =
=
n

j=1
_
_
_
1
(2)
p/2
||
n/2
exp
_
_
_

1
2
n

j=1
(x
j
)
t

1
(x
j
)
_
_
_
_
_
_
Quando considerada como uma func ao de e esta funcao de densidade con-
junta e a func ao de verossimilhanca.
4.3 Estimacao de Maxima verossimilhaca de e para N
p
(, ).
Consideremos uma amostra aleatoria de uma N
p
(, ). A func ao de verossimilhan-
ca dada acima sera denotada por L(, ) para ressaltar que e uma func ao de e
. Apos algumas manipulacoes algebricas, podemos reescrever esta func ao como
L(, ) = (2)
np/2
||
n/2
exp
_
_
_

1
2
tr
_
_

1
_
_
n

j=1
(x
j
x)(x
j
x)
t
+n(x )(x )
t
_
_
_
_
_
_
_
Seja X
1
, X
2
, . . . , X
n
uma amostra aleatoria de uma populacao normal com media
e covari ancia . Ent ao ,
= X e

=
1
n
n

j=1
(X
j
X)(X
j
X)
t
=
n 1
n
S,
sao os estimadores de maxima verossimilhanca de e , respectivamente. Seus
valores observados sao
x e
1
n
n

j=1
(x
j
x)(x
j
x)
t
Pela propriedade da invari ancia, se

e um estimador maxima verossimilhanca
de , entao o estimador maxima verossimilhan ca de uma funcao de , seja h(), e
dado por h(

). Assim sendo o estimador maxima verossimilhanca de , mattriz de

correlac ao de X e ,ou seja,
= diag(
1/2
ii
)diag(
1/2
ii
) = f()
= f(

) = diag(
1/2
ii
)diag(
1/2
ii
), onde

ij
=

ij
(
ii

ii
)
1/2
ESTIMAC

AO DE M

AXIMA VEROSSIMILHAC A DE E PARA N

P
(, ). 23
Propriedades
1. Se X
(pn)
e uma matriz de dados da N
p
(, ) e X = n
1
X1 ent ao X =
N
p
(, n
1
)
2. E(X) = e V ar(X) =
1
n

3. E(

) =
n
n1
, E(S) =
4. Se X e uma matriz de dados da N
p
(, ) e se Y = AXB e Z = CXD, ent ao os
elementos de Y sao independentes dos de Z se, e somente se,
BD
t
= 0 ou A
t
C = 0
Teorema do Limite Central
Sejam X
1
, X
2
, . . . , uma sequencia innita de vetores aleatorios indenticamente in-
dependentemente distribuidas de uma distribuic ao com media e . Ent ao
n
1/2
n

r=1
(X
r
) = n
1/2
(x )
D
N
p
(0, )