MAE0311 - Inferencia Estatstica

Fernando Henrique Ferraz Pereira da Rosa

24 de setembro de 2003
Lista 31
3.2 Sejam X1 , . . . , Xn uma amostra aleat
oria de tamanho n da vari
avel aleat
oria
X com funca
o de densidade de probabilidade dada por:
f (x|) = x1 ,

0 < x < 1, > 0

(a) Encontre os estimadores de m

axima verossimilhanca de e de g() =
/(1 + ).
L(; x) = x1
. . . x1
= n
n
1

n
Y

x1
i

i=1

Ent
ao:
l(; x) = log n + log

n
Y

i=1

Assim:

x1
= n log + ( 1)
i

n
X

log xi

i=1

l
n X
n
= +
log xi = Pn

i=1 log xi
i=1

Notemos que como:

2 l
n
= 2 < 0,
2

Conclumos que e o estimador de m

axima verossimilhanca para .
Pelo princpio da invari
ancia, temos que o estimador de m
axima verossimilhanca de /(1 + ) ser
a:
=
g()
=
1 Powered

Pn n
i=1 log xi
+ Pn nlog xi
i=1

n
log
xi n
i=1

Pn

by LATEX 2 , R 1.7.1 and Gentoo 1.4

Pn
log xi
n
Pn i=1
i=1 log xi
i=1 log xi n

= Pn

(b) Encontre a distribuica

o aproximada dos estimadores em (a) quando
n e grande.
Para isso precisamos primeiro encontrar a Informaca
o de Fisher de
:
 2

 2

log f (x|)
(log + ( 1) log x)
IF () = E
= E
2
2
#
"




1 + log x
1
1
= E
= E
= 2

Feito isso sabemos que:

a
n( ) N

1
0,
IF ()

Em particular:
a
N

1
,
nIF ()

a
N

2
,
n

De modo an
alogo:

g()) N
n(g()

0,

(g 0 ())2
IF ()

Ent
ao:
a

g()
N

(g 0 ())2
g(),
nIF ()

a

g()
N

2
,
(1 )4 n

3.6 Encontre o estimador de m

axima verossimilhanca de 2 no Exerccio 2.9
e compare seu erro quadr
atico medio com o do estimador eficiente dado
no Exerccio 2.9.
1 (x)2
f (x|) = e 2
2
E da:
Pn
2
1 (x1 )2
1 (xn )2
1
1
2
2
L(; x) = e
... e
=p
e 2 i=1 (xi )
n
2
2
(2)

Dessa forma:

l(; x)

= log p
1
=
2

(2)n

n
X
i=1

x2i

+ log e 2
2

Pn

+ n 2
2

i=1 (xi )

n
X
i=1

xi

n log

Ent
ao:
0

l (; x) = n +
Como l00 (; x) = n < 0,
n

n
X
i=1

n
X

xi

i=1

Xi = 0 =

1X
Xi = X
n i=1

Utilizando-nos ent
ao do princpio da invari
ancia, temos que o estimador
de verossimilhanca de g() = 2 ser
a dado por:
= g(X) = X
g()

Em primeiro lugar o estimador n

ao e eficiente. E seu erro quadr
atico
medio e dado por:
2
EQM (
) = V ar(X )
O estimador de m
axima verossimilhanca entretanto tem EQM:
EQM (
)

= V ar(X ) + B 2 (X )

2
2
2
= V ar(X ) + E[X ] 2
2

= V ar(X ) + (2 +
2

= V ar(X ) +

1
2 )2
n

1
n2

> EQM (
Logo notamos facilmente que EQM (g())
) sempre, e portanto
o estimador , apesar de n
ao eficiente, e melhor do que o estimador obtido
a partir do metodo da m
axima verossimilhanca.
3.7 Considere uma amostra aleat
oria de tamanho n da distribuica
o da vari
avel
aleat
oria X onde cada observaca
o apresenta um de tres resultados possveis
(por exemplo, favor
avel, contra e indiferente), que denotamos por 0,1
e 2. Suponhamos que a probabilidade de 0 e p1 = (1 )/2, a
probabilidade da ocorrencia do resultado 1 e p2 = 1/2 e do resultado
2 e p3 = /2. Seja n1 : o n
umero de vezes que 0 ocorre, n2 : o n
umero
de vezes que 1 ocorre e n3 : o n
umero de vezes que 2 ocorre.
(a) Encontre, como funca
o de n1 , n2 , n3 , uma estatstica suficiente para
.
1
(1 )n1 n3
=
(1 )n1 n3
L(; x) =
n
{z
}
2n
2
|{z} |
h(x1 ,...,xn )

g (T (x1 ,...,xn ))

Assim pelo criterio da fatoraca

o, uma estatstica suficiente para e:
T (X1 , . . . , Xn ) = (N1 , N3 )
3

(b) Encontre o estimador de m

axima verossimilhanca de .
log (1 )n1 + log n3 log 2n
n1 log (1 ) + n3 log n log 2
n3
n1
l0 (; x) =

1
Verifiquemos agora o sinal de l 00 (; x):


n3
n3
n1
n1
00
l (; x) = 2
=
+
< 0,

(1 )2
2
(1 )2
l(; x)

=
=

Assim o estimador de m
axima verossimilhanca procurado ser
a dado
por:
n1
n1
n3
n3
= n1

=
= 0
n3 (1 )

1
1
n3 n3 = n1 n3 = n1 + n3
1 + n3 )
= (n
n3
=
n1 + n 3
3.8 Sejam X1 , . . . , Xn uma amostra aleat
oria de tamanho n da vari
avel aleat
oria
X com funca
o de densidade de probabilidade dada por
f (x|) = ( + 1)x1 (1 x),

0 x 1, > 0

(a) Encontre, usando o metodo dos momentos, um estimador para .

Notemos que X se parece com uma Beta, vamos ent
ao tentar achar
seus par
ametros:
Y Beta(a, b) f (y|a, b) =

1
xa1 (1 x)b1 I(0,1) (x)
B(a, b)

b 1 = 1 b = 2 ( 1) = a 1 a =

Notando ainda que:

( + 2)
( + 1)!
1
=
=
= ( + 1)
B(, 2)
()(2)
( 1)!

Temos que X Beta(, 2). Dessa forma temos de imediato que:

E[X] =

=
a+b
+2

P
Notando ainda que m1 = n1 ni=1 Xi = X, pelo metodo dos momentos:

1) + 2X = 0
1 = m 1
= X X + 2X = 0 (X
+ 2
1) = 2X = 2X = 2 X
(X
X 1
1X
4

(b) Encontre o estimador de m

axima verossimilhanca de e sua distribuica
o aproximada em grandes amostras.
L(; x) = ( + 1)x1
(1 x1 ) . . . ( + 1)x1
n (1 xn )
1
n
n
Y
Y
= (( + 1))n
x1
(1 xi )
i
i=1

l(; x)

i=1

n log ( + 1) + ( 1)

l0 (; x) =

n(2 + 1)
+
( + 1)

n
X

log Xi + log

i=1
n
X

n
Y

i=1

(1 xi )

log Xi

i=1

Antes de procedermos na procura de nosso estimador, devemos verificar se l00 (; x) < 0:

l00 (; x)

2( + 1) (2 + 1)2
22 + 2 42 4 1
=
n
2 ( + 1)2
2 ( + 1)2
1
2
++ 2
22 2 1
= 2n 2
< 0,
= n 2
2
( + 1)
( + 1)2

= n

Onde a desigualdade decorre do fato do denominador ser sempre positivo, do numerador tambem ser sempre positivo, e de n ser sempre
positivo. Assim que por ventura encontrarmos zerando l 0 (; x) ser
a
um estimador de m
axima verossimilhanca:
Pn
i=1 log Xi
2 + 1
=
+ 1)
n
(
Chamando a express
ao a
` direita de , e desenvolvendo as express
oes,

obtemos a seguinte equaca

o do segundo grau em :
2 + ( + 2) + 1 = 0
O que resolvendo em nos d
a duas possveis soluco
es:
p
p
2 + 4 + 2
2 4 + 2
1 =
e 2 =
2
2
Notemos agora que > 0 sempre, pois 0 < Xi < 1 e portanto
log Xi < 0. Assim 2 pode assumir valores negativos, entretanto isso
est
a fora do espaco parametrico pois > 0. Logo 2 sequer e um
estimador para . O estimador de m
axima verossimilhanca para e
portanto:
r
 Pn
2
P
i=1 log Xi
n
p
i=1 log Xi
+
4
+
2
2
n
n
2+ 4+
P
=
=
n
i=1 log Xi
2
2
n
5

Esse estimador parece estranho demais para estar certo. Vamos fazer
algumas simulaco
es para verificar isso. Com o seguinte c
odigo em R,
definimos os dois estimadores (o de m
axima verossimilhanca e o de
momentos):
#esse e
o estimador de m.v.
>est <- function(amostra) {
-sum(log(amostra))/length(amostra)
}
>est1 <- function(est) {
0.5*(2-est+sqrt(4+est^2))/est
}
>maxver <- function(x) {
est1(est(x))
}
#esse e
o de momentos
>momentos <- function(x) {
2*mean(x)/(1-mean(x))
}
A seguir simulamos 1000 amostras de tamanho 1000 de uma vari
avel
aleat
oria seguindo distribuica
o Beta(4, 2) (o 4 e arbitr
ario) e verificamos o comportamento dos dois estimadores:
>amostra <- matrix(rbeta(10^6,4,2),1000,1000)
>momentos.s <- apply(amostra,2,momentos)
>maxver.s <- apply(amostra,2,maxver)
> c(mean(momentos.s),var(momentos.s))
[1] 3.99988361 0.01019566
> c(mean(maxver.s),var(maxver.s))
[1] 4.00068103 0.00968428
Donde verificamos que n
ao s
o o estimador de m
axima verossimilhanca
e o de momentos tem esperanca igual a como a vari
ancia do estimador de m
axima verossimilhanca e menor do que a do estimador
ele e feio mas funciona.
obtido pelo metodo de momentos. E,
Para acharmos a distribuica
o assint
otica do estimador que acabamos
de achar, basta, precisamos encontrar IF ():


2 log f (x|)
IF () = E
2

Primeiro notemos que:

log f (x|) = log ( + 1) + ( 1) log x + log (1 x)
6

Assim:

2 + 1
log f (x|
=
+ log x

( + 1)

E portanto, observando que j

a fizemos essa conta anteriormente para
garantir l00 (; x) < 0:
22 + 2 + 1
22 + 2 + 1
2 log f (x|)
=

I
()
=
F
2
2 ( + 1)2
2 ( + 1)2
Assim, como:

a
n( ) N

Segue que:
a
N

1
0,
IF ()

22 + 2 + 1
n2 ( + 1)2

E assim e assintoticamente eficiente.

3.10 Sejam X1 , . . . , Xn uma amostra aleat
oria de tamanho n da vari
avel aleat
oria
X com funca
o de densidade de probabilidade
f (x|) =

(x + 1) x/
e
,
( + 1)

x > 0, > 0

(a) Encontre o estimador de m

axima verossimilhanca para e sua distribuica
o em grandes amostras.
L(; x) =
l(; x) =

n
X
i=1

Qn

i=1 (xi + 1)
e
n ( + 1)n

Pn
i=1 xi

log (xi 1) n log ( + 1)

l0 (; x) =

n(2 + 1
+
( + 1)

Pn

i=1
2

Pn

i=1

xi

xi

Verifiquemos agora l 00 (; x):

l00 (; x)

=
=

Pn
2 i=1 xi
2n(( + 1)) + n(2 + 1)2

2 ( + 1)2
3
P
n
2( + 1)(n 2 + ( + 1) i=1 Xi ) + n(2 + 1)2
<0
3 ( + 1)2

Assim podemos finalmente obter nosso e.m.v:

n(2 + 1)
+ 1)
(

Pn

i=1
2

Xi

+ 1)
(2 + 1)2 = (

+ 1) = ( + 1)
n(2
2n2 + n

n
X
i=1

n
X

n
X

Xi

i=1

Xi

i=1

Xi

n
X

Xi = 0

i=1

X =0
22 + X
2
X) X = 0
2 + (1

obtemos:
Resolvendo essa equaca
o em ,
q
q
X 1 + (X 1)2 + 8X
X 1 (X 1)2 + 8X
1 =
e 2 =
4
4
Notemos entretanto que 2 < 0, e portanto n
ao pertence ao espaco
parametrico, de forma que o estimador de m
axima verossimilhanca
fica dado por:
q
=

X 1+

(X 1)2 + 8X

4
Para calcular sua distribuica
o aproximada precisamos primeiro de
IF ().
 2

log f (X|)
IF () = E
2
log f (X|) = log X + 1 log ( + 1)
Ent
ao:

log f (X|)
2 + 1
X
=
+ 2

( + 1)

Assim:
2 log f (X|)
2

X
1
2 +1
2 +1
2
+
+
3
( + 1) 2 ( + 1) ( + 1)2
2 X2 + 4 X + 2 X 2 3 2 2

= 2
=

3 ( + 1)

Aplicando a esperanca e simplificando:

 2

log f (X|)
2 2 + 4 + 1
E
=
2
2
2 ( + 1)
8

Notando agora que:

a
N

1
,
nIF ()

Temos que:
a
N

2 ( + 1)
,
n (2 2 + 4 + 1)

Assim, e assintoticamente eficiente.

(b) Obtenha um estimador para usando o metodo dos momentos.
Calculemos em primeiro lugar E[X]:
Z
x(x + 1) x
E[X] =
e dx
( + 1
0
Z
Z
x
x
x
x2

e dx +
e dx
=
( + 1)
( + 1)
0
0

Z 


Z

1 x
1 x

dx
x
dx
xe
xe
+

+1
2
2
| 0
{z
}
{z
} |0
fX (x),X(2, 1 )

E[X],X(2, 1 )

(2 + 1)
2 +
=
+1
+1
+1

Pelo metodo dos momentos temos:

E[X]

22 +
+X
= X 22 + = X
+ 1
X) X = 0
22 + (1
=

O que nos leva a mesma equaca

o obtida pelo metodo de m
axima
verossimilhanca. Dessa maneira, o estimador obtido pelo metodo dos
momentos e igual ao obtido pelo metodo de m
axima verossimilhanca,
a dizer:
q
X 1 + (X 1)2 + 8X
=
4
3.13 Sejam X1 , . . . , Xn uma amostra aleat
oria da vari
avel aleat
oria X com distribuica
o exponencial com par
ametro . Encontre o estimador de m
axima
verossimilhanca de g() = P (X > 1) e sua distribuica
o aproximada
quando n for grande.
Comecemos encontrando o e.m.v. para :
L(; x) =

n
Y

exi = n e

i=1

Pn

i=1

xi

Assim:
l(; x) = n log

n
X
i=1

xi l0 (; x) =

n X

i = 1 n xi

Notemos ainda que:

l00 (; x) =

n
< 0,
2

Portanto o estimador que iremos encontrar ser

a o de m
axima verossimilhanca:
n
1
1
n X
Xi = Pn =
=

i=1
i=1

Notemos agora que:

g() = P (X > 1) = 1 P (X 1) = 1 F (1) = 1 (1 e ) = e

Assim pelo princpio da invari
ancia, o estimador de m
axima verossimilhanca procurado ser
a:
= e = e X1
g()
Para calcular sua distribuica
o aproximada precisamos saber IF ():
"

#
 2

2 log + log ex
log f (x|)
IF () = E
= E
2
2
#
"




1 x
1
1
= E 2 = 2
= E

Assim, como:

a
g())
n(g()
N

(g 0 ())2
0,
IF ()

Segue que:
a

g()
N

(g 0 ())2
g(),
nIF ()

a

g()
N

e2
n
2

=N

e2 2
,
n

e assintoticamente eficiente.
E portanto g()

Sobre
A vers
ao eletr
onica desse arquivo pode ser obtida em http://www.feferraz.
net

10

Copyright (c) 1999-2005 Fernando Henrique Ferraz Pereira da Rosa.

E dada permiss~
ao para copiar, distribuir e/ou modificar este documento
sob os termos da Licen
ca de Documenta
ca
~o Livre GNU (GFDL), vers~
ao 1.2,
publicada pela Free Software Foundation;
Uma c
opia da licen
ca em est
a inclusa na se
ca
~o intitulada
"Sobre / Licen
ca de Uso".

11