Problem Set 2

Estadistica Multivariada y Distribucion Normal

1.-Pruebe que para una matriz aleatoria

[E(X)]0 = E(X 0 )

Prueba:

E(X11 )

E(X12 )

.
.
.

[E(X)] =

..

.
.
.

.
.
.

..

E(Xn1 )

E(X1n )

E(Xn1 )

.
.
.

.
.
.

.
.
.

.
.
.

E(X1n )

E(Xnn )

2.-Pruebe que para un vector aleatorio

E(X11 )

.
.
.

= E(X 0 )

E(Xnn )

V ar(X) = E(XX 0 ) E(X)E(X 0 )

Prueba:

V ar(X) = E[(X E(X))(X E(X))0 ] = E[(X E(X))(X 0 E(X 0 ))] = E[XX 0 XE(X 0 )E(X)X 0 +E(X)E(X 0 )]
= E(XX 0 ) E(XE(X 0 )) E(E(X)X 0 ) + E(E(X)E(X 0 )) = E(XX 0 ) E(X)E(X 0 ) E(X)E(X 0 ) + E(X)E(X 0 )
= E(XX 0 ) E(X)E(X 0 )
3.-Pruebe que para un vector aleatorio

V ar(X1 )

Cov(X1 , X2 )

Cov(X , X )
2
1

.
.
V ar(X) =
.

Cov(X1 , Xn )
.
.
.

V ar(X2 )
..

.
.
.

.
..

Cov(Xn , X1 ) Cov(Xn , X2 )

.
.
.

V ar(Xn )

Prueba:

0
V ar(X) = E[(X E(X))(X E(X)) ] = E[

X1 E(X1 )
.
.
.

((X1 E(X1 )), , (Xn E(Xn )))]

.
.
.
.
.
.

Xn E(Xn )

(X1 E(X1 ))2

(X1 E(X1 ))(X2 E(X2 ))

(X1 E(X1 ))(Xn E(Xn ))

(X2 E(X2 ))(X1 E(X1 ))

(X2 E(X2 ))2
(X2 E(X2 ))(Xn E(Xn ))

.
.
..
.
.

.
=E
.
.

.
.
.

.
..
.
.
.

(Xn E(Xn ))(X1 E(X1 ))

(Xn E(Xn ))2

E[(X1 E(X1 ))2 ]

E[(X1 E(X1 ))(X2 E(X2 ))] E[(X1 E(X1 ))(Xn E(Xn ))]

E[(X2 E(X2 ))(X1 E(X1 ))]

E[(X2 E(X2 ))2 ]
E[(X2 E(X2 ))(Xn E(Xn ))]

.
.
.
.
..
.
=
.
.

.
.
.

.
..
.
.
.

E[(Xn E(Xn ))(X1 E(X1 ))]

E[(Xn E(Xn ))2 ]
1

V ar(X1 )

Cov(X1 , X2 )

Cov(X , X )
2
1

.
.
=
.

Cov(X1 , Xn )
.
.
.

V ar(X2 )
..

.
.
.

.
..

Cov(Xn , X1 ) Cov(Xn , X2 )

.
.
.

4.-Pruebe que para dos vectores aleatorios :

V ar(Xn )
[Cov(X, Y )]0 = Cov(Y, X)

Prueba :

[Cov(X, Y )]0 = E[(X E(X))(Y E(Y ))0 ]0 = E[((X E(X))(Y E(Y ))0 )0 ]
= E[(Y E(Y ))(X E(X))0 ] = Cov(Y, X)
5.-Sean

AX + a

matrices constantes,

BY + b

vectores constantes,

X, Y

vectores aleatorios para los cuales el producto

esta bien denido.

Pruebe que :

Cov(AX + a, BY + b) = ACov(X, Y )B 0
Prueba :

Cov(AX + a, BY + b) = E[(AX + a E(AX + a))(BY + b E(BY + b))0 ] = E[(AX AE(X))(BY BE(Y ))0 ]
= E[A(X E(X))(B(Y E(Y )))0 ] = E[A(X E(X))(Y E(Y ))0 B 0 ] = AE[(X E(X))(Y E(Y ))0 ]B 0
=ACov(X, Y

)B 0

6.- Pruebe el siguiente teorema:

Teorema : Sean

X, Y

MX (t), MY (t)

v.a.i.'s con funciones generadoras

Z =X +Y

eradora de momentos de

, es

MZ (t) = MX (t)MY (t)

respectivamente, entonces la funcion gen-

Prueba:

MZ (t) = E(eZt ) = E(e(X+Y )t ) = E(eXt+Y t ) = E(eXt eY t ) = E(eXt )E(eY t )

, esto por ser

X, Y

= MX (t)MY (t)
8.-Pruebe que la funcion normal con media
Prueba : Si
i)

X N (, 2 )

fX (x) > 0 , x R,

R
R

y varianza

2 ,

es una funcion de densidad.

, entonces basta probar que :

en efecto ya que :

fX (x) =

ii)

2 2

e 2 (

x 2
)

I{<x<} > 0, x R

fX (x)dx = 1

Demostracion:

fX (x)dx =
R

1
2 2

2
21 ( x
)

dx =

1
2 2

Sea el cambio de variable :

z=

x
dz = dx,

e 2 (

x 2
)

dx

v.a.i.'s

si

x , z ,

2 2

1 2
2
e 2 z dz =
2

1 2
2
e 2 z dz =
2

1
1
1
1
u 2 eu du = ( ) = 1.
2
2

Observacion. El penultimo paso se justica haciendo el cambio de variable:

u=

9.-Sea

X1

X2

..

X= .

.
..

Xn
n
X

1 2
z .
2

un vector aleatorio de v.a..i.i.d'.s, tales que

(Xi X)2 = (X 1n X)0 (X 1n X) = X 0 (In

i=1

Xi N (, 2 )

1

..

1n =
. .
.
..

1

Muestre que :

1
1
1n 10n )X = (X 1n )0 (In 1n 10n )(X 1n )
n
n

Prueba :

n
X
1
1
1
1
(Xi X)2 = (X 1n X)0 (X 1n X) = (X 1n 10n X)0 (X 1n 10n X) = (X 0 X 0 1n 10n )(X 1n 10n X)
n
n
n
n
i=1

= (X 0
pero

1 0
1
1
1
1
1
X 1n 10n )X (X 0 X 0 1n 10n )( 1n 10n X) = XX 0 X 0 1n 10n X X 0 1n 10n X + 2 X 0 1n 10n 1n 10n X
n
n
n
n
n
n

n = 10n 1n

, asi

= X 0X

1 0
1
1
X 1n 10n X = X 0 (X 1n 10n X) = X 0 (In 1n 10n )X
n
n
n

Por otra parte :

1
1
1
1
(X 0 1n )0 (In 1n 10n )(X1n ) = (X 0 10n )(In 1n 10n )(X1n ) = (X 0 X 0 1n 10n 10n + 10n 1n 10n )(X1n )
n
n
n
n
= X 0X

1 0
1
1
1
X 1n 10n X 10n X + 10n 1n 10n X X 0 1n + X 0 1n 10n 1n + 10n 1n 10n 1n 10n 1n
n
n
n
n
1 0
1
X 1n 10n X 10n X + 10n X X 0 1n + X 0 1n + n2 n2 = X 0 (In 1n 10n )X
n
n

= X 0X

10.-Sea

X1

X2

..

X= .

.
..

Xn

un vector aleatorio de v.a..i.i.d'.s, tales que

como :

Sn2 =
Pruebe que :

Xi N (, 2 )

1 X
(Xi X)2
n 1 i=1

n1 2
S 2(n1)
2 n

y denamos la varianza muestral

Prueba : Recordando que si

X1

X2

..

X= .

.
..

Xn

es un vector aleatorio de v.a..i.i.d'.s, tales que:

Xi N (, 2 )

2 Xi
),
N (0, 1)
n

X N (,

entonces podemos hacer la siguiente descomposicion ;

n
n
n
n
X
X
X
X
(Xi X)2 =
(Xi (X ))2 =
[(Xi )2 2(Xi )(X ) + (X )2 ] =
(Xi )2 n(X )2
i=1

i=1

i=1

n
X

i=1

Xi

2

i=1

!2

2
n 
X
Xi
= 2

i=1

entonces :

2
n
n 
X
Xi
1 X
2
(Xi X) =

2 i=1

i=1
n1

La expresion anterior es una suma de

!2

v.a con distribucion normal estandar , por lo tanto :

2
n
n 
X
n1 2
1 X
Xi
2
S = 2
(Xi X) =

2 n
i=1

i=1
11.-Muestre que la media muestral

!2

y la varianza muestral

Sn2 ,

!2

2(n1)

son variables aleatorias independientes.

Demostracion : No es dicil ver que por ejercicios anteriores ;

X=

y recordando que si

X Nn (, )

independientes si y solo si

BA = 0

1 0
1
1
1 X, Sn2 =
X 0 (In 1n 10n )X
n n
n1
n

U = BX + b

por lo tanto
12.-Sean

Sn2

b 6= 0, V = X 0 AX

, con

simetrica entonces

, asi :

2
= X
In , B =

BA =

1 0
1
1
1 ,A =
(In 1n 10n )
n n
n1
n

2
2
1
X
1
X
2
10n X
In (In 1n 10n ) =
(10n 10n 1n 10n ) =
(10 10n ) = 0
n(n 1)
n(n 1)
n
n(n 1) n
son independientes.

U N (0, 1) , V 2(k) , U, V

independientes entonces

U
q

V
k

t(n1)

U, V

son

Muestre que :

n(X )
t(n1)
Sn

Demostracion : Es suciente ver que :

n(X )
=
Sn

n(X )
p
=
Sn2

n(X)
2
Sn

=q

1 2
2 Sn

=r

n
n1 2
Sn
2

t(n1)

n1

ya que la expresion anterior es el cociente de una v.a con distribucion normal estandar y la raiz cuadrada de una
v.a con distribucion
13.-Sean

X, Y

n1

de Student entre sus

grados de libertad.

v.a.'s normales estandarizadas con coeciente de correlacion igual a , si

de cero Cual es la distribucion de

Z = aX + bY

a, b con constantes diferentes

Solucion: Usando el siguiente teorema ;

Sea
Asi,

X Nm (, )

Y = AX + b
X

Z = aX + bY = (a, b)(

con

Amxn

b Rn ,

matriz de constantes y

) , A = (a, b)(

0
0

Y Nm (A + b, AA0 )

entonces

) = 0 , AA0 = (a, b)

!
(

, ya que

Cov(X, Y ) =

,muestre que

Y1 Y2

si

Cov(Y, X) = X Y =
entonces

AA0 = (a + b, a + b)(

a
b

) = a2 + 2ab + b2 ,

por tanto:

Z N (0, a2 + 2ab + b2 )

14.-Sea

X N2 (, ),

determine la distribucion del vector

Y =

X1 + X2

X1 X2

V ar(X1 ) =

V ar(X2 ).
Demostracion:

Y =

Y1
Y2

X1 + X2

!
=

X1 X2

AA =

entonces

"
Y N2

Si

12 = 22

y puesto que

X1
X2

12

12

21

22

!
,

A =

!
=

12 + 21

12 + 22

12 21

12 22

12 + 21 12 22

12 21 + 12 22

12 21 12 + 22

!
,

1 2

AA =

12 + 21 12 22

12 21 + 12 22

12 21 12 + 22

2(12 + 12 )

2(12 12 )
5

1 + 2

1 2
1

12 + 21 + 12 + 22

12 = 21 ,
0

12 + 21 + 12 + 22

1 + 2

!#

Y1 Y2
!
X1
1
11
N2
Teorema : Si Y =
,
X2
2
21

1 0
0

16.-Sea X N3 0 ,
1 , existe
0 1
0
Asi el siguente teorema asegura que

"

!#

12

, entonces

22

algun valor de

X1 X2 12 = 021 = 0.

para el cual

X1 + X2 + X3

sean v.a.i.'s?

Solucion :

Y =

Y1
Y2

X1 + X2 + X3

entonces

X1 X2 X3

AA0 =

+1

2 + 1

+1

X1

X2 ,
X3
0

1
1
1

1
1

1 =
1

1
1

4 + 3

2 1

2 1

Y1 Y2 Cov(Y1, Y2 ) = Cov(Y2 , Y1 ) = 0 2 1 = 0
1
= .
2

17.-Sea

11

3 8

Y N4

1 3
9
5

encuentre la distribucion de :

a)

Z = 4Y1 2Y2 + Y3 3Y4

b)

Z1 = Y1 + Y2 + Y3 + Y4

c)

Z1 = 3Y1 + Y2 4Y3 Y4 , Z2 = Y1 3Y2 + Y3 2Y4

d)

Z1 = Y1 , Z2 = 12 (Y1 + Y2 ), Z3 = 13 (Y1 + Y2 + Y3 )

Z2 = 2Y1 + 3Y2 + Y3 2Y4

Z3 = 2Y1 + 2Y2 + 4Y3 5Y4

Z4 = 41 (Y1 + Y2 + Y3 + Y4 )

a)

Y1

Y2

Z = 4Y1 2Y2 + Y3 3Y4 = (4, 2, 1, 3)

Y
3

Y4

A = (4, 2, 1, 3)
1 = 0

X1 X2 X3

AA =

11

8 9
(4, 2, 1, 3)
3 3

9
6

6
2 =(36, 71, 11, 0) 2 = 297

3 1
1
3
3
9

3
2
3

Z N (0, 297)
b)

Z1

Z=

!
=

Z2

! 2
!
3
1 1 1 1
5

=
A=

2 3 1 2
2
1
5

1
11
8
3
9
!

1 1 1 1
8 9 3 6 1
AA0 =

3
2 3 1 2
3 3 2
1
1
9
6
3
9
"

Z N2

Y2

2
Y3
Y4

3
=
1

Y1

15

61

28

19

51

67

67

217

!
1

15
1
1
27

3
=
1

51

67

67

217

!#

c)

Z1
3

Z = Z2 = 1
Z3
2

A= 1
2

AA0 =

Y1

Y2

Y3
5
Y4

3

3 1 2
1 =

2
4 5
5

11 8
3 1 4 1

8 9
1 3 1 2
3 3

2 2
4 5
9
6
1

22
27
3
3
2
3

6
1

3
4
9
1

1
3
1
2

4
9 5
2
=
20
50
8

27 40 7
5

3
12

24
4

3
1

1
3
1
2

11

90

226

92

90

92

147

90

226

92

92

147

11

Z N3 22 , 2
90
27
d)

Z1

Z2

Z=
Z =
3
Z4

A=

1
2
1
3
1
4

1
2
1
3
1
4

AA0 =

11
3
2

15
4

1
2
1
3
1
4

1
2
1
3
1
4

3
2

2
3
2
3

2
3
19
8

1
3
1
4

1
2
1
3
1
4

1
2
1
3
1
4

0
Y2

0 Y3

1
Y
4
4

1
2
1
2

1
3
1
3
1
3

1
3
1
4

Y1

0
3 = 2

0 1 0

1
5
5
4
4

0 0
11 8 3 9

0 0 8 9 3 6

1
0
3
3 3 2
3
1
1
9
6
3
9
44

0
0

1
4
1
4
1
4
1
4

11

3
2
=
2

15
4

1
2
32

15
2

2
3
5
4

6
0
27
0
4

1
3
1
3
1
3

1
2
1
2

1
4
1
4
1
4
1
4

15
4
19
8

51
16

11

1 3
2 2

Z N4
0 , 2

15
4

5
4

3
2

2
3
2
3

2
3
19
8

Encuentre las distribuciones de

15
4
19
8

Y = Xb0 +U ; b0 un vector de contantes de dimension k , Xnxk

= Y X b.
denamos
b = (X 0 X)1 X 0 Y y U

19.-Sea
y

51
16

una matriz de constantes y

2
U Nn (0, U
In )

b y U
.

Solucion :

b = (X 0 X)1 X 0 Y = (X 0 X)1 X 0 (Xb0 + U ) = (X 0 X)1 X 0 Xb0 + (X 0 X)1 X 0 U = b0 + (X 0 X)1 X 0 U

A + b = (X 0 X)1 X 0 0nx1 + b0 = b0
8

2
2
2
AA0 = (X 0 X)1 X 0 U
In ((X 0 X)1 X 0 )0 = U
(X 0 X)1 X 0 In X 0 ((X 0 X)1 )0 = U
(X 0 X)1 X 0 X(X 0 X)1
2
2
= U
Ik (X 0 X)1 = U
(X 0 X)1
2
b Nk (b0 , U
(X 0 X)1 )

para obtener la distribucion de

,
U

necesitamos la distrIbucion de

Y = Xb0 + U

, donde

2
U Nn (0, U
In )

en este

caso tenemos que :

2
A + b = In 0nx1 + Xb0 = Xb0 , AA0 = In n2 In In = U
In
2
Y Nn (Xb0 , U
In )
asi :

b = Y Xbb = Y X(X 0 X)1 X 0 Y = (In X(X 0 X)1 X 0 )Y ,

U

A = (In X(X 0 X)1 X 0 )Xb0 = Xb0 X(X 0 X)1 X 0 Xb0 = Xb0 XIk b0 = Xb0 Xb0 = 0
2
2
AA0 = (In X(X 0 X)1 X 0 )U
In (In X(X 0 X)1 X 0 )0 = U
(In X(X 0 X)1 X 0 )(In0 (X(X 0 X)1 X 0 )0 )
2
2
= U
(In X(X 0 X)1 X 0 )(In X(X 0 X)1 X 0 ) = U
(In X(X 0 X)1 XX(X 0 X)1 X 0 +X(X 0 X)1 X 0 X(X 0 X)1 X 0 )
2
= U
(In X(X 0 X)1 X 0 X(X 0 X)1 X 0 + XIk (X 0 X)1 X 0 )
2
2
(In X(X 0 X)1 X 0 )
(In X(X 0 X)1 X 0 X(X 0 X)1 X 0 + X(X 0 X)1 X 0 ) = U
= U

2
b Nn (0, U
U
(In X(X 0 X)1 X 0 )

20.-Pruebe que

bb y U
b

(del ejercicio anterior) son independientes

Prueba :

Teorema : Si
En este caso
como

X Nm (, ),

sean

bb = (X 0 X)1 X 0 Y

U = BX + b, V = DX + d ,U V BD0 = 0

b = (In X(X 0 X)1 X 0 )Y

U

B = (X 0 X)1 X 0 , D = D0 = In X(X 0 X)1 X 0

2
2
Y Nn (Xb0 , U
In ) = U
In

entonces :

2
2
BD0 = (X 0 X)1 X 0 U
In (In X(X 0 X)1 X 0 ) = U
((X 0 X)1 X 0 (In X(X 0 X)1 X 0 ))

2
2
2
= U
((X 0 X)1 X 0 (X 0 X)1 X 0 X(X 0 X)1 X 0 ) = U
((X 0 X)1 X 0 Ik (X 0 X)1 X 0 ) = U
((X 0 X)1 X 0 (X 0 X)1 X 0 ) = 0

por tanto

bb y U
b

son independientes.