Você está na página 1de 11

Suficiência e Completividade

Falando a grosso modo um estimador não viciado, que é função de uma


estatı́stica suficiente, tem variância menor que um estimador não viciado que
não seja baseado em uma estatı́stica suficiente. Na realidade seja f (x; θ) a
f.d.p. ou f.p. de uma variável aleatória X e suponha que desejamos estimar
π(θ). Vamos supor que T = t(X1 , · · · , Xn ) é um estimador não viciado
de π(θ) e que S = s(X1 , · · · , Xn ) é uma estatı́stica suficiente. Pode ser
mostrado que um outro estimador não viciado, denotado por T 0 , pode ser
encontrado de tal forma que:

i) T 0 é uma função da estatı́stica suficiente de S.

ii) T 0 é um estimador não viciado de π(θ) com variância menor ou igual


a variância de T

Assim em nossa busca por ENVVUM’s precisamos considerar somente es-


timadores não viciados e que são funções de estatı́sticas suficientes. Estas
idéias podem ser formalizadas no seguinte teorema:

Teorema de Rao-Blackwell. Seja X1 , · · · , Xn uma amostra aleatória


de densidade f (x, θ). Considere que S = s(X1 , · · · , Xn ) é uma estatı́stica
suficientes para θ e que T = t(X1 , · · · , Xn ) seja um estimador não viciado
para π(θ). Defina T 0 = E(T |S). Então:

i) T 0 é uma estatı́stica e é função da estatı́stica suficiente S.

ii) E(T 0 ) = π(θ), isto é, T 0 é um estimador não viciado de π(θ).

iii) Var(T 0 ) ≤Var(T ), ∀θ ∈ Θ e Var(T 0 ) ≤Var(T ) para algum θ ∈ Θ

Prova. Como S é uma estatı́stica suficiente para θ, a distribuição condi-


cional de qualquer estatı́stica dado S é independente de θ. Em particular
T 0 = E(T |S) independe de θ e é óbvio que é uma função de S. Sabemos
que E(T 0 ) = E[E(T |S)] = E(T ) = π(θ). Assim T é não viciado para π(θ).
Além disso

V ar(T ) = V ar[E(T |S)] + E[V ar(T |S)]


= V ar(T 0 ) + E[V ar(T |S)]

1
logo

V ar(T 0 ) ≤ V ar(T )

Obs.: Se E[V ar(T |S)] = 0 ⇒ V ar(T |S) = 0 ⇒ T |S = c com probabilidade


1 ⇒ T ≡ S.

Obs.: O teorema de Rao-Blackwell nos fornece então o estimador não


viciado de variância uniforme minı́ma de θ (ENVVUM).
Exemplo 1.: X ∼ B(θ), encontrar o ENVVUM de θ baseado em uma
a.a. X1 , · · · , Xn usando o teorema
Pn de Rao-Blackwell.
Solução: Sabemos que S = i=1 Xi é uma estatı́stica suficiente para θ.
Além disso S ∼ B(n, θ). Devemos achar um estimador de T que seja não
viciado para θ, o mais simples possı́vel. Seja
 
1, se X1 = 1
T = I (x1 ) =
{1} 0, se X1 = 0

E(T ) = E(I (X1 )) = 1 · P (X1 = 1) + 0 · P (X1 = 0) = θ. Assim


{1}
T é um estimador nãoPviciado para θ. Por Rao-Blackwell sabemos que
T 0 = E(T |S) = E(X1 | ni=1 Xi ) é o ENVVUM de Pθ. Como achar a forma
0 n
analı́tica de T ? A distribuição condicional de X1 | i=1 Xi = s, s = 0, · · · , n
é dada por:

Como x1 = 0 ou x1 = 1 temos
n
P (X1 = 0, ni=1 Xi = s)
X P
P (X1 = 0| Xi = s) = Pn
P ( i=1 Xi = s)
i=1
P (X1 = 0, ni=2 Xi = s)
P
=
P ( ni=1 Xi = s)
P

P (X1 = 0)P ( ni=2 Xi = s)


P
=
P ( ni=1 Xi = s)
P

(1 − θ) n−1
 s
s θ (1 − θ)n−1−s
= n s

n−s
s θ (1 − θ)
n−1

s
= n
s
n−s
=
n

2
n
P (X1 = 1, ni=1 Xi = s)
X P
P (X1 = 1| Xi = s) =
P ( ni=1 Xi = s)
P
i=1
P (X1 = 1, ni=2 Xi = s)
P
=
P ( ni=1 Xi = s)
P

P (X1 = 1)P ( ni=2 Xi = s)


P
= Pn
P ( i=1 Xi = s)
n−1 s−1
θ s−1 θ (1 − θ)n−s

= n s

n−s
s θ (1 − θ)
n−1

s−1
= n

s
s
=
n
Assim
Pn
X1 | i=1 Xi =s 0 1
n−s s
n n

n
X (n − s) s s
E(X1 | Xi = s) = 0 · +1· =
n n n
i=1

Desse modo
Pn
0 s i=1 Xi
T = E(T |S) = = = X̄
n n
é o ENVVUM de π(θ) = θ.

Exemplo 2. Seja X1 , · · · , Xn uma amostra aleatória de X ∼ P (λ).


Usando o teorema de Rao-Blackwell ache o ENVVUM de π(λ) = e−λ .
Solução:
e−λ λx
f (x; λ) = I (x)
x! {0,1,···}

Sabemos que S = ni=1 Xi é uma estatı́stica suficiente para λ. Além disso


P
S ∼ P (nλ). Ora sabemos ainda que e−λ = P (X = 0) é assim
 
1, se X1 = 0
T = I (X1 ) =
{0} 0, se X1 > 0

3
é um estimador não viciado de e−λ , pois

E(T ) = 1 · P (X1 = 0) + 0 · P (X1 > 0) = P (X1 = 0) = e−λ

pelo teorema de Rao-Blackwell temos:


n
X
0
T = E(T |S) = E(I (x1 )| Xi = s)
{0} i=1

é o UNVVUM de λ.
n
X n
X n
X
0
T = E(I (X1 )| Xi = s) = 1 · P (X1 = 0| Xi = s) + 0 · P (X1 > 0| Xi = s)
{0} i=1 i=1 i=1
P (X1 = 0, ni=1 Xi = s)
P
=
P ( ni=1 Xi = s)
P

P (X1 = 0)P ( ni=1 Xi = s)


P
=
P ( ni=1 Xi = s)
P

e−λ e−(n−1)λ [(n − 1)λ]s /s!


=
e−nλ [nλ]s /s!
[(n − 1)λ]s
=
[nλ]s
n−1 s
 
=
n
 Pni=1 Xi
Assim T0 = n−1
n é o UNVVUM para e−λ . Como exercı́cio calcular
a média e a variância de T 0 .
Seja X1 , · · · , Xn uma a.a. da densidade f (x; θ), onde θ ∈ Θ. Seja
T = h(X1 , · · · , Xn ) uma estatı́stica. A famı́lia de densidades de T é dita
completa se e só se:

E[h(T )] = 0, ∀θ ∈ Θ

implicar que h(T ) ≡ 0, onde h(T ) é uma estatı́stica. A estatı́stica T é dita


completa se e só se sua famı́lia de densidades é completa.

Comentários. Sejam T1 e T2 dois estimadores não viciados de π(θ)


que são funções de uma estatı́stica completa T , então T1 ≡ T2 . Em out-
ras palavras se existir um estimador não viciado de π(θ) função de uma

4
estatı́stica completa, ele é único.

Prova.

T1 = h1 (T ) com E(T1 ) = π(θ)

T2 = h2 (T ) com E(T2 ) = π(θ)

Seja h(T ) = h1 (T ) − h2 (T ). Assim

E(h(T )) = E(h1 (T )) − E(h2 (T )) = π(θ) − π(θ) = 0, ∀θ ∈ Θ

como T é completa temos h(T ) ≡ 0 ⇒ h1 (T ) ≡ h2 (T )

Exemplo 3. Seja X ∼ B(θ), X1 e X2 uma a.a. de X. Mostre que


a) S = X1 + X2 é uma estatı́stica completa.

b) T = X1 − X2 não é completa.
Solução: a) S ∼ B(2, θ)
S=s 0 1 2
P (S = s) (1 − θ)2 2θ(1 − θ) θ2

E[h(S)] = h(0)P (S = 0) + h(1)P (S = 1) + h(2)P (S = 2)


= h(0)(1 − θ)2 + h(1)θ(1 − θ) + h(2)θ2
P (X1 = 0)P ( ni=1 Xi = s)
P
=
P ( ni=1 Xi = s)
P

= [h(0) − 2h(1) + h(2)]θ2 + 2[h(1) − h(0)] + h(0)


≡ 0, ∀0 < θ < 1

temos que h(0) = 0 ⇒ 2h(1) − 2h(0) = 0 ⇒ h(1)


Pn = 0 e h(0) − 2h(1) +
h(2) = 0 ⇒ h(2) = 0. Assim h(s) ≡ 0. Logo S = i=1 Xi é completa.

b) E(T ) = E(X1 ) − E(X2 ) = θ − θ = 0, ∀θ, mas T não é uma estatı́stica


identicamente nula, logo T não é completa.

Uma outra solução. A distribuição de probabilidade de T é dada por

T =t -1 0 1
P (T = t) θ(1 − θ) θ2 + (1 − θ)2 θ(1 − θ)

5
E[h(T )] = h(−1)(θ − θ2 ) + h(0)(θ2 + 1 − 2θ + θ2 ) + h(1)(θ − θ2 )
= (2h(0) − h(−1) − h(1))θ2 + (h(−1) − 2h(0) + h(1))θ + h(0) ≡ 0

Assim

h(0) = 0, h(1) + h(−1) = 0 e − h(−1) − h(1) = 0

Portanto, qualquer função h(−1) = c e h(1) = c tem E[h(T )] ≡ 0, mas


h(T ) 6≡ 0. Logo T não é completa. Vamos usar agora os conceitos de su-
ficiência e completividade para escontrarmos o ENVVUM para π(θ).

Teorema de Lemma-Scheffé. Seja X1 , · · · , Xn uma amostra aleatória


da densidade f (x; θ). Se S = s(X1 , · · · , Xn ) é uma estatı́stica suficiente
completa e se T ∗ = t∗ (S) é um estimador não viciado de π(θ), então T ∗ é o
ENVVUM de π(θ).

Obs.: Analisar a demonstração (Mood - pág.: 326)

1
Exemplo 4. Seja X1 , · · · , Xn ∼ exp(θ). Achar o ENVVUM para θ, θ
e e−θ .

Solução.

f (x; θ) = θe−θx I (x)


(0,∞)

já provamos f (x; θ) pertence a famı́lia exponencial de distribuições e


assim S = ni=1 Xi é uma estatı́stica suficiente completa para θ. Temos que
P
S ∼ G(n, θ), com f.d.p.
θn n−1 −θs
fS (s) = s e I (s)
Γ(n) (0,∞)

n S 1

daı́, E(S) = θ ⇒ E n = θ. Assim pelo Teorema de Lehmann-Scheffé
P n
S Xi
n = n = X̄ é o ENVVUM para 1θ . Para encontrarmos o ENVVUM
i=1

de θ devemos procurar uma função de S, h(S) de sorte que E[h(S)] = θ.


Z ∞
h(s)θn n−1 −θs
E[h(S)] = s e ds = θ (1)
0 Γ(n)

6
Este processo basicamente é de tentativas. Vamos calcular
Z ∞
θn n−1 −θs
 
1
E = s e ds
S 0 sΓ(n)
Z ∞
θs n−2 −θs
= s e ds
0 sΓ(n)
θn Γ(n − 1)
=
Γ(n) θn−1
θΓ(n − 1)
=
Γ(n)

portanto
 
n−1
E = θ.
S
n−1
Assim h(S) = S é o ENVVUM para θ. Voltando a (1) temos

h(s)θn−1 n−1 −θs
Z
s e ds = 1
0 Γ(n)

Devemos procurar arrumar o integrando de sorte a termos uma densidade.


Assim
Z ∞
h(s)sθn−1 n−2 −θs
s e ds = 1
0 Γ(n)

Assim h(S)s 1 Γ(n)


Γ(n) = Γ(n−1) ⇒ h(S) = Γ(n−1)s =
n−1
s . Daı́ h(S) = n−1
S . Vamos
encontrar agora h(S) de sorte que

E[h(S)] = e−θ , ∀θ > 0

ora

h(s)θn n−1 −θs
Z
E[h(S)] = s e ds = e−θ
0 Γ(n)


h(s)θn n−1 −θ(s−1)
Z
E[h(S)] = s e ds = 1 (2)
0 Γ(n)

7
sabemos que e−θ = P (X > 1) = P (X1 > 1) e com S = ni=1 Xi > X1 > 1.
P
Assim só tem sentido falar em h(s) para s > 1. Vamos considerar (2) com
essa restrição. Assim
Z ∞
h(s)θn n−1 −θ(s−1)
s e ds = 1 (3)
1 Γ(n)

Vamos considerar agora a variável u = s − 1 e preparar (3) para se ter uma


densidade
Z ∞
h(s)sn−1 θn
(s − 1)n−1 e−θ(s−1) ds = 1
1 (s − 1)n−1 Γ(n)

fazendo a transformação u = s − 1 ⇒ du = ds e s = u + 1. Logo


Z ∞
h(u + 1)(u + 1)n−1 θn
(u)n−1 e−θu du = 1 (4)
0 (u)n−1 Γ(n)

para que (4) seja uma densidade precisamos que

h(u + 1)(u + 1)n−1 un−1


= 1 ⇒ h(u + 1) =
un−1 (u + 1)n−1
n−1
s−1 n−1
fazendo s = u + 1 temos h(s) = (s−1)

s n−1 = s . Logo h(S) =
s−1 n−1 −θ

s I (s) é o ENVVUM de e (complicado não??).
(1,∞)
Outra solução. Usar Rao-Blackwell com

T = I (x1 ) ⇒ E(T ) = 1 · · · P (X1 > 1) + 0 · P (X1 ≤ 1) = e−θ


(1,∞)

Assim T 0 = E(T |S) é o ENVVUM para θ.


n
X Z ∞
T = P (X1 > 1| Xi = s) = fX1 |S=s (x1 |s)dx1
i=1 1

No Mood pág 328 e 329 você encontra a solução completa. Tente enten-
der !!!!

Exercı́cio. Seja X1 , · · · , Xn uma a.a. de X ∼ N (θ, 1). Ache o ENVVUM


de θ2 .

8
Solução.
1 (x−θ)2 1 θ2 −x2
f (x; θ) = √ e− 2 = √ e− 2 − 2 +θx
2π 2π
θ2 −x2
fazendo a(θ) = √12π e− 2 , b(x) = e− 2 , c(θ) = θ e d(x) = x. Assim
a densidade acima pertence a famı́lia exponencial de densidade. Portanto
n
X S
S= Xi é uma estatı́stica suficiente e completa para θ. Sabemos que =
n
i=1
X n
Xi
1
i=1
= X̄ ∼ N (θ, ). Assim E(¯(X)2 ) = V ar(¯(X)) + E 2 (¯(X)) = n1 + θ2 .
n n 2
Logo E X̄− n1 = θ2 . Dessa forma T ∗ = X̄ 2 − n1 = Sn2 − n1 é ENVVUM para θ.


Qual o Limite inferior de Crámer-Rao (L.I.C.R.) para estimadores não vici-


ados de θ2 ?

π(θ) = θ2 ⇒ π 0 (θ) = 2θ

1 (x−θ)2
f (x; θ) = √ e− 2

√ (x − θ)2
ln f (x; θ) = − ln( 2π) −
2

∂ ln f (x; θ) 2(x − θ)2


= =x−θ
∂θ 2
 2  2 
∂ ln f (x; θ) 2 ∂ ln f (x; θ)
= (x − θ) ⇒ E = E(x − θ)2 = V ar(X) = 1
∂θ ∂θ
Assim se E(T ) = θ2
(2θ)2 4θ2
V ar(T ) ≥ =
n·1 n
Calcule a variância do ENVVUM T ∗ = X̄ − n1 . Ora V ar(T ∗) = V ar X̄ 2 −
1 2 4 2 2 X̄−θ

n = V ar(X̄ ) = E(X̄ ) − E (X̄ ). Sabemos que √1 ∼ N (0, 1). assim
n


n(X̄ − θ) ∼ N (0, 1) ⇒ n(X̄ − θ)2 ∼ χ2(1)

9
assim
1
E[n(X̄ − θ)2 ] = 1 ⇒ E[(X̄ − θ)2 ] =
n

2
V ar[n(X̄ − θ)2 ] = 2 ⇒ V ar[(X̄ − θ)2 ] =
n2

2 2 1
E[(X̄ − θ)4 ] − E 2 [(X̄ − θ)2 ] = ⇒ E[(X̄ − θ)4 ] = 2 +
n2 n n
mas

E[(X̄ − θ)4 ] = E(X̄ 4 ) − E(4X̄ 3 θ) + E(6X̄ 2 θ2 ) − E(4X̄θ3 ) + E(θ4 )


= E(X̄ 4 ) − 4θE(X̄ 3 ) + 6θ2 E(X̄ 2 ) − 4θ3 E(X̄) + θ4
6θ2
= E(X̄ 4 ) − 4θE(X̄ 3 ) + 3θ4
n
 
Sabemos que X̄ − θ ∼ N 0, n1 . Assim E[(X̄ − θ)3 ] = 0

E[(X̄ − θ)3 ] = E(X̄ 3 ) − E(3X̄ 2 θ) + E(3X̄θ2 ) − E(θ3 ) = 0


= E(X̄ 3 ) − 3θE(X̄ 2 ) + 3θ2 E(θ) − θ3 = 0

 
3 1 2 3θ
E[X̄ ] = 3θ θ + − 2θ3 = θ3 +
n n

Assim
6θ2
 

E[(X̄ − θ)4 ] = E(X̄ 4 ) − 4θ θ3 + + 3θ4
n n
6θ 2
= E(X̄ 4 ) − θ4 −
n
assim
6θ2
E(X̄ 4 ) = θ4 + + E[(X̄ − θ)4 ]
n
6θ2 2 1
= θ4 + + 2+
n n n

10
dessa forma temos

6θ2 1 2
 
2 4 2 1 2
V ar(X̄ ) = θ + + + − θ +
n n2 n n
6θ2 2 1 2θ2 1
= θ4 + + + − θ 4
− −
n n2 n n n
4θ2 2
= + 2
n n
A variância do ENVVUM é
4θ2 2 4θ2
V ar(T ∗) = + 2 > = L.I.C.R.
n n n
Este exemplo mostra que o L.I.C.R. nunca será atingido.

Você também pode gostar