Mtodo de Mxima Verossimilhana

O Mtodo da Mxima Verossimilhana (MMV) um dos melhores mtodos

para obter estimadores pontais de um parmetro, sendo que o estimador de mxima
verossimilhana de um parmetro o valor de , que maximiza a funo de
verossimilhana L( ). Este mtodo, cujas propriedades foram primeiramente estudadas
por Fisher (1921) e est detalhadamente descrito em Lynch e Walsh (1998).
A funo de verossimilhana indica quo provvel a amostra observada como
uma funo de possveis valores de parmetro. Por tanto, maximizar a funo de
verossimilhana determina os parmetros que tm maior probabilidade de produzir os
dados observados. De um ponto de vista estatstico, o MMV normalmente
recomendado para grandes amostras porque ele verstil, aplicvel maioria dos
modelos e diferentes tipos de dados, e produz as estimativas mais precisas.
Funo de Mxima Verossimilhana
A diferena entre a funo de probabilidade ou funo densidade de
probabilidade e a funo de verossimilhana est justamente em qual varivel
considerada fixa e qual est variando. Quando consideramos a funo de probabilidade,
fixo enquanto x varivel, e quando consideramos a funo de verossimilhana, a
amostra observada x fixa enquanto varivel em relao aos valores paramtricos
possveis.
O princpio de mxima verossimilhana um dos procedimentos usados para se
obter estimadores. Consideremos uma populao e uma varivel aleatria X relacionada
a essa populao, com funo de probabilidade (se X uma varivel aleatria discreta)
ou funo densidade de probabilidade (se X uma varivel aleatria contnua)
,
sendo o parmetro desconhecido. Retiremos uma amostra aleatria simples de X, de
tamanho n, X1,...,Xn, e sejam x1, ..., xn os valores efetivamente observados. A funo de
verossimilhana L definida pela equao:
n

L( ; x1 ,...,x n ) f ( x1 ; ) ... f ( x n ; ) f ( x i ; )
i 1

importante observar que, para a obteno dos estimadores de mxima

verossimilhana, necessrio conhecer a distribuio da varivel em estudo. As
seguintes interpretaes so dadas ao processo de estimao:
Variveis Aleatrias Contnuas
A estimativa de mxima verossimilhana dos parmetros desconhecidos (por
exemplo, mdia e varincia) o valor de que produz o valor mximo para L( x), ou
seja, o valor de que maximiza a funo densidade de probabilidade dos pontos
amostrais, ou, ainda, que mais se assemelha aos dados produzidos pelas
observaes de x.

Exemplo 1
Seja X uma varivel aleatria com Distribuio Normal com mdia e varincia
. Tomemos uma amostra aleatria independente e igualmente distribuda X1,...,Xn de
X. Qual o estimador de mxima verossimilhana para
?
Como X ~ N (

), a funo densidade de X :

f , 2 ( x)

1 x 2
exp
,
2 2
2
1

Assim, a funo de verossimilhana dada por:

1 x 2
exp

2 2
2

L( , ; x1 ,...,x n )
2

i 1

Ou seja,
L( , ; x1 ,...,x n ) (2 )
2

n / 2

( )

2 n / 2

1 n xi 2
exp

2 i 1

Para encontrar o Estimador de Mxima Verossimilhana para

devemos encontrar os valores de e
para os quais a funo de verossimilhana
L(
;x1,...,xn) mxima. Para isso primeiramente aplica-se o logaritmo da funo de
verossimilhana, sendo denominada Funo Suporte:

n
n
1 n (x )2
ln L( , 2 ; x1 ,...,x n ) ln( 2 ) ln( 2 ) i 2
2
2
2 i 1
A primeira derivada da funo suporte em relao a
Escore:

L( , 2 ; x1 ,..., x n )
2
2

(x
i 1

denominada Funo

x
)( 1) i 2

i 1
n

A partir da funo escore so obtidos os estimadores dos parmetros igualando a

funo zero:

1
xi
0 2
2

i 1
n

(x
i 1

i 1

i 1

) 0 ( xi ) 0 n xi x

Sendo assim, o possvel Estimador de Mxima Verossimilhana da mdia

populacional x . Utilizando o ndice de Informao de Fisher, com o teste da
segunda derivada, possvel verificar se realmente um estimador de mxima
verossimilhana, basta avaliar se realmente x ponto de mximo:

 2 L( , 2 ; x1 ,..., xn ) 2 1

2
2 2

(x
i 1

) 2 0

Assim, conclui-se que x realmente um ponto de mximo e, portanto, o

estimador de mxima verossimilhana para x .
O estimador de mxima verossimilhana para a varincia 2 encontrado de
forma semelhante. Para isso, deriva-se a funo suporte em relao a 2 , obtendo a
funo escore:
ln L( , 2 ; x1 ,..., xn )
n
1 n xi

2
2 2 2 i 1 2

Ento, iguala-se a funo zero:

n
( xi ) 2
1 n xi
(n 1) 2

0 2
s

2
2
2
2 i 1
n
2

i 1
2

Pelo ndice de Informao de Fisher, fazendo a segunda derivada, tem-se:

2 L( , 2 ; x1 ,..., xn )
1 n (n 1) s 2

( 2 ) 2
( 2 ) 2 2
2

Que avaliado em 2

(n 1) 2
s tal que:
n

2 L( , 2 ; x1 ,..., xn )
n1

20
2 2
2
( )

Portanto, o estimador de mxima verossimilhana para 2 2

onde s

i 1

( xi ) 2
n 1

(n 1) 2
s ,
n

Variveis Aleatrias Discretas

Para variveis discretas, os parmetros de que maximizam a funo de
verossimilhana so aqueles de maximizam a probabilidade de obter a amostra
observada, na ordem particular em que os elementos dessa aparecem.
Exemplo 2
Seja uma varivel aleatria com distribuio Bernoulli ( ). Tomemos uma
amostra aleatria X1,...,Xn de X. Qual o estimador de mxima verossimilhana para ?

Como X ~ Bernoulli

,a funo de probabilidade de
f p ( x) p x (1 p)1 x

Desta forma, a funo de verossimilhana dada por:

n

L( p, x1 ,...,x n ) p (1 p)

1 xi

xi

n
x
p i 1 i (1 p) i 1 (1 xi )
n

i 1

Para encontrar o estimador de mxima verossimilhana para , devemos

encontrar o valor de para o qual a funo de verossimilhana L( ;x1,...,x-n) mxima.
Aplicando a funo logaritmo natural (ln) na funo de verossimilhana L( ;x1,...,x-n),
tem-se a Funo Suporte:
n

i 1

i 1

ln L( p, x1 ,...,x n ) xi ln( p) (1 xi ) ln(1 p)

Fazendo a derivada de primeira ordem em relao a , tem-se a Funo Escore:

ln L( p; x1 ,..., xn )

i 1

i 1

(1 p) xi p (1 xi )
p(1 p)

Assim, iguala-se o resultado zero:

n

i 1

i 1

(1 p ) xi p ( (1 xi ))
p (1 p )

0 p

1 n
xi x
n i 1

Propriedade dos Estimadores

O uso generalizado do MMV se deve s propriedades probabilsticas das
estimativas produzidas por ele. As estimativas do MMV tem as seguintes propriedades:
Consistncia: as estimativas do MMV so consistentes e convergem em
probabilidade para o valor do parmetro. Ou seja, para grandes amostras
(
as estimativas do MMV, para efeitos prticos, so no-viciadas (no
enviesadas).
Normalidade e Eficincia Assintticas: O Teorema do Limite Inferior de
Cramer-Rao afirma que, para um dado parmetro qualquer, existe um limite
inferior para a varincia das estimativas no-viciadas. Para grandes amostras, as
estimativas do MMV atingem esse limite e, portanto, tm a menor varincia
possvel dentre as estimativas no-viciadas.
Invarincia: para amostras muito grandes, o MMV apresenta a propriedade da
invarincia se f uma funo dos parmetros desconhecidos da
distribuio, ento o estimador de mxima verossimilhana de uma funo de
f f , isto , o estimador de mxima verossimilhana de uma funo de

parmetros simplesmente aquela funo avaliada no estimador de mxima

verossimilhana. medida que o tamanho da amostra aumenta, o valor da
varincia tende a zero.