e e(U ) !
LI (U ) Var[U ]
onde LI (U ) o limite inferior da varincia dos estimadores no viciados de U . Devemos notar que: (i) e (U ) ! 1 quando LI (U ) ! Var[U ] , ou seja, quando a varincia de U coincide com o limite inferior da varincia dos estimadores no viciados de U . Nesse caso, U dito ser eficiente. (ii)segundo o teorema seguinte
LI (U ) ! 1 x log f ( X | 0) 2 nE xU
Quando certas condies de regularidade esto satisfeitas; (iii)as condies de regularidade a que nos referimos no item (ii) so basicamente duas, isto , que o suporte A( x) ! _ , f ( x | U ) " 0a seja independente de U e que seja possvel x a troca das ordens das operaes de derivao e de integrao sob a distribuio da varivel aleatria X ;
(iv)a no ser que mencionado o contrrio, todo logaritmo utilizado no texto calculado na base e . Exemplo: Sejam X 1 ,..., X n uma amostra aleatria da varivel aleatria X ~ N ( Q , W 2 ) , em que W 2 conhecido. Temos que f (x Q ) ! e
log f ( x | Q ) ! log 2T 1 x Q
. log W 2 2 2W 2
2 ( xQ )2 2W 2
Portanto
1 2TW
, g
g,
x log f ( x Q ) x Q ! xQ W2
Assim,
x log f ( X Q ) 2 ( X Q )2 1 1 2 =E ! 4 E (X Q) = 2 , 4 xQ W W W
Definio 2: A quantidade
x log f ( X U ) xU
Temos que
x log f ( X U ) I (U ) ! Var xU
pois para uma varivel aleatria X qualquer com E[ X ] ! 0, Var[ X ] ! E[ X 2 ] . Um resultado importante estabelece que
x log f ( X | U ) 2 x 2 l log f ( X | U ) . E ! E xU xU 2
Uma outra propriedade importante estabelece que para uma amostra aleatria, X 1 ,..., X n , da varivel aleatrio X com f.d.p (ou f.p.) f ( x U ) e informao de Fischer I F (U ) , a informao total de Fischer de U correspondente amostra observada a soma da informao de Fischer das n observaes da amostra, ou seja, sendo
(U; x ) ! ( x 1 ,..., x n U) ! ( x i U) ,
i !1 n
pois X i , i ! 1,..., n tm a mesma informao que X . Lembremos que, sendo X 1 ,..., X n uma amostra aleatria da varivel aleatria X , ento X 1 ,..., X n so independentes e independentemente distribudas com a mesma distribuio que X .
Teorema 1: Desigualdade da Informao. Quando as condies de regularidade esto satisfeitas, a varincia de qualquer estimador no viciado do parmetro satisfaz a desigualdade
1 nI F (U ) Prova. Vamos considerar o caso em que X uma varivel aleatria contnua. Sendo uma amostra aleatria da varivel aleatria X, temos que Var[U ] u
. Desde que
no
, temos que .
Como
temos de L( U; x ) ! f ( x1 ,..., x n | U) ! f ( x i | U) e de
n n x 2 log f ( X i | U ) x 2 log f ( X i | U ) E ! E ! nI F (U ) que xU 2 xU 2 i !1 i !1
O que prova o resultado. Exemplo: Sejam uma amostra aleatria de tamanho n da varivel aleatria , com funo de probabilidade dada por , x=0,1,..., Nesse caso, temos que De modo que , Ou seja, . Portanto . Como
, conclumos que
Enfatizamos que a desigualdade da informao (inicialmente chamada de Cramr -Rao) no um mtodo de construo de estimadores. Ela apenas possibilita verificar se determinado estimador ou no eficiente. ento importante que sejam estabelecidos mtodos para construo de estimadores que tenham alguma propriedade interessante, ou que levem a estimadores com boas propriedades. Contudo, antes de estabelecermos tais mtodos (ou critrios), vamos considerar estatsticas que reduzam (condensem) os dados sem que haja perda de informaes. Tais estatsticas so conhecidas como estatsticas suficientes.