Você está na página 1de 13

Tratamento Estat´ıstico de Sinais Parte 1

Jos´e C. M. Bermudez

Departamento de Engenharia El´etrica Universidade Federal de Santa Catarina

June 13, 2013

Processamento Estat´ıstico de Sinais

I O processamento de sinais trata da utiliza¸c˜ao de modelos matem´aticos e de dados observados para

I Extrair alguma informa¸c˜ao sobre um fenˆomeno f´ısico de interesse

I Extrair alguma informa¸c˜ao inserida nos dados propositadamente

I Modificar os dados de forma a atribuir-lhes alguma propriedade desejada

I Os dados observados devem estar relacionados com a informa¸c˜ao

I Devido `a complexidade da natureza, este relacionamento n˜ao pode ser modelado de forma determin´ıstica

As observa¸c˜oes s˜ao sempre contaminadas por fenˆomenos imprevis´ıveis e/ou incontrol´aveis

I Uma forma poss´ıvel de lidar com a situa¸c˜ao ´e modelar matematicamente as observa¸c˜oes como vari´aveis aleat´orias ou processos aleat´orios

Í Permite acomodar matematicamente os desvios em rela¸c˜ao `as “observa¸c˜oes ideais” na forma de distribui¸c˜oes estat´ısticas

I O estudo do processamento de sinais com esse enfoque de modelagem estat´ıstica denomina-se Processamento Estat´ıstico de Sinais

I O processamento estat´ıstico de sinais combina a modelagem de sinais como processos aleat´orios com t´ecnicas de inferˆencia estat´ıstica

I Inferˆencia estat´ıstica: Inferˆencia sobre as propriedades de sinais a partir de um conjunto de observa¸c˜oes e uma “estat´ıstica” adequada ao problema

I Uma subdivis˜ao poss´ıvel (e comum) da ´area

I Teoria de Estima¸c˜ao

I Teoria de Detec¸c˜ao

I Teoria de Classifica¸c˜ao ou Reconhecimento de Padr˜oes

I Diferen¸cas conceituais b´asicas entre detec¸c˜ao e estima¸c˜ao

I Estima¸c˜ao Deseja-se estimar o valor de um parˆametro de um modelo matem´atico constru´ıdo para um sinal ou um sistema a partir de um conjunto de observa¸c˜oes

I Detec¸c˜ao: Usa-se um conjunto de observa¸c˜oes para decidir qual de duas hip´oteses conhecidas para a produ¸c˜ao destas observa¸c˜oes ´e a mais prov´avel

´

I Classifica¸c˜ao: E uma generaliza¸c˜ao do problema de detec¸c˜ao

para m´ultiplas ( > 2) hip´oteses

Exemplos de Aplica¸c˜ao

Detec¸c˜ao

1) Sistema de Comunica¸c˜oes Digitais

r

( t )

Fonte Transmissor Canal
Fonte
Transmissor
Canal

1 Dígito binário a cada T segundos

Sequência

transmitida

Sinal recebido

1 0 0 1 Transmissor T T T T T T T T
1
0
0
1
Transmissor
T
T
T T
T T
T
T

I Possibilidades - transmiss˜ao

( s 1 ( t ) = A sen ( ! 1 t ) , se o bit ´e 1 s 0 ( t ) = A sen ( ! 0 t ) , se o bit ´e 0

r ( t )

Fonte Transmissor Canal
Fonte
Transmissor
Canal

1 Dígito binário a cada T segundos

Sequência

transmitida

Sinal recebido

1 0 0 1 Transmissor T T T T T T T T
1
0
0
1
Transmissor
T T
T T
T T
T T

I Possibilidades - recep¸c˜ao

( s 1 ( t ) transmitido ! r ( t ) = s 1 ( t ) + n ( t ) , s 0 ( t ) transmitido ! r ( t ) = s 0 ( t ) + n ( t ) ,

0 t T 0 t T

Problema de detec¸c˜ao:

A cada T segundos, uma de 2 hip´oteses est´a correta

9

H 0 : s 1 ( t ) foi transmitido =

H 1 : s 0 ( t ) foi transmitido

;

Decidir observando r ( t )

2) Radar

R Pulso transmitido t Sinal recebido com avião H 0 t
R
Pulso transmitido
t
Sinal recebido com avião
H 0
t

Pulso retornou

Sinal recebido: sem avião H 1 Pulso ausente t
Sinal recebido: sem avião
H 1
Pulso ausente
t

3) Reconhecimento de voz

Discagem por sinal de voz

I Locutor fala um n´umero de 1 a 9

I Problema de detec¸c˜ao (classifica¸c˜ao)

H 0 : n´umero falado foi 0

.

.

.

H 9 : n´umero falado foi 9

Cada d´ıgito teclado gera um pulso com 2 frequˆencias somadas

f L 1

f L 2

f L 3

f L 4

f H 1

f H 2

f H 3

DTMF 1 2 3 4 5 6 7 8 9 0 # *
DTMF
1
2
3
4
5
6
7
8
9
0
#
*

I Problema de detec¸c˜ao. (classifica¸c˜ao)

Dado o sinal recebido, decidir dentre as 12 hip´oteses poss´ıveis

Estima¸c˜ao

1) Radar

Uma vez que a presen¸ca do objeto ´e detectada, deseja-se estimar a posi¸c˜ao do objeto.

Isso pode ser feito, por exemplo, pela estima¸c˜ao do tempo 0 decorrido entre o envio e o recebimento do pulso de radar

R
R

0 = 2 R , em que c ´e a velocidade de propaga¸c˜ao do sinal

c

I 0 ´e medido com erro aleat´orio

2) Codifica¸c˜ao de sinais de voz

I Sinal de voz ´e modelado como um processo aleat´orio param´etrico (AR, ARMA)

I A partir de amostras do sinal de voz, estima-se os parˆametros do modelo

I Os parˆametros s˜ao usados para transmitir ou armazenar sinais de voz a baixas taxas

2) Codifica¸c˜ao de sinais de voz

I Sinal de voz ´e modelado como um processo aleat´orio param´etrico (AR, ARMA)

I A partir de amostras do sinal de voz, estima-se os parˆametros do modelo

I Os parˆametros s˜ao usados para transmitir ou armazenar sinais de voz a baixas taxas

3) Biom´edica

Estima¸c˜ao da frequˆencia card´ıaca de um feto a partir de observa¸c˜oes contaminadas por ru´ıdo ambiental e do sensor

4) Comunica¸c˜oes

Estima¸c˜ao da frequˆencia da portadora de um sinal modulado para possibilitar a desmodula¸c˜ao para a banda base

4) Comunica¸c˜oes

Estima¸c˜ao da frequˆencia da portadora de um sinal modulado para possibilitar a desmodula¸c˜ao para a banda base

5) Controle

Um barco comandado `a distˆancia deve ter sua posi¸c˜ao estimada na presen¸ca de ru´ıdo ambiental para possibilitar o controle por parte do piloto

4) Comunica¸c˜oes

Estima¸c˜ao da frequˆencia da portadora de um sinal modulado para possibilitar a desmodula¸c˜ao para a banda base

5) Controle

Um barco comandado `a distˆancia deve ter sua posi¸c˜ao estimada na presen¸ca de ru´ıdo ambiental para possibilitar o controle por parte do piloto

6) Sismologia

Estima¸c˜ao da profundidade de um dep´osito de petr´oleo a partir de reflex˜oes sonoras contaminadas por distor¸c˜oes causadas pelas diferentes densidades das camadas de pedra e ´oleo do solo

Inferˆencia Estat´ıstica

I Modelagem de incertezas

I Modelos baseados em Teoria de Probabilidades e Processos Estoc´asticos

I Incertezas s˜ao modeladas usando modelos probabil´ısticos

I A probabilidade pode ser vista como uma especifica¸c˜ao do grau em que acreditamos que um sinal reflete um estado da natureza

I Interferˆencia estat´ıstica

I Inferˆencias sobre comportamentos de sinais e sistemas a partir de estat´ısticas das observa¸c˜oes

I Uma estat´ıstica ´e uma fun¸c˜ao dos dados observados, que pode ser escalar ou vetorial

Exemplo: Suponha que observamos

x [0] , x [1] ,

Exemplos de Estat´ısticas:

I M´edia amostral: x¯ = 1

N

N 1

X

n =0

I Os pr´oprios dados: x = [ x [0] ,

,x

[ N 1]

x

[ n ]

,x [ N 1]] T

I Estat´ıstica de 1 a ordem: x [1] = min { x [0] ,

,x [ N 1] }

I Fun¸c˜ao arbitr´aria: f ( x )=[ x 3 [0] + x (2) , ln( x [1]) + x [3]] T

Obs: Uma estat´ıstica n˜ao pode depender de quantidades desconhecidas

Modelos Probabil´ısticos Estat´ıstica

I Modelos probabil´ısticos: Descrevem as incertezas nos sinais que podemos vir a observar

I Estat´ıstica: Descreve propriedades de sinais j´a observados

Permite que tiremos conclus˜oes (inferˆencias) sobre qual modelo probabil´ıstico melhor reflete o estado da natureza

Probabilidade

Modelos Sinais probabilísticos observados
Modelos
Sinais
probabilísticos
observados

Estatística

I Processamento estat´ıstico de sinais

1) Postulamos modelos probabil´ısticos que julgamos captar razoavelmente as incertezas dos dados

2) Coletamos os dados

3) Formulamos estat´ısticas que nos permitam interpretar ou entender nossos modelos probabil´ısticos

Teoria de Estima¸c˜ao

I Maioria dos problemas de estima¸c˜ao ! Estima¸c˜ao de parˆametros de um modelo a partir de observa¸c˜oes de formas de onda cont´ınua no tempo

I Com a crescente utiliza¸c˜ao de computadores ! Sinais s˜ao amostrados antes do processamento estat´ıstico

I Problema de estima¸c˜ao atual: Estimar os valores dos

parˆametros a partir de observa¸c˜oes discretas ou de um

conjunto de dados { x [0] , x [1] ,

,x [ N 1] }

I Se desejamos estimar o valor de um parˆametro , nosso estimador ser´a uma fun¸c˜ao g das observa¸c˜oes

= g n [ x [0] , x [1] ,

ˆ

,x

[ N 1]] T o

I Lida com a estima¸c˜ao de parˆametros Í ´e frequentemente denominada estima¸c˜ao param´etrica

Estima¸c˜ao Param´etrica

I Em geral, as observa¸c˜oes (dados observados) n˜ao s˜ao o que queremos medir. S˜ao apenas relacionadas com essas quantidades

I As fun¸c˜oes que relacionam as observa¸c˜oes e as quantidades de interesse s˜ao geralmente de conhecimento do usu´ario

I Os valores dos parˆametros no caso espec´ıfico em estudo ´e que n˜ao s˜ao conhecidos. Esses parˆametros devem ser estimados a partir das observa¸c˜oes

I A descri¸c˜ao das observa¸c˜oes como valores da fun¸c˜ao para valores conhecidos das vari´aveis independentes ´e, em geral, incompleta

I Se um experimento ´e repetido sob as mesmas condi¸c˜oes, o conjunto de observa¸c˜oes resultantes ser´a diferente de experimento para experimento

I As flutua¸c˜oes imprevis´ıveis que ocorrem nas observa¸c˜oes s˜ao chamadas de erros n˜ao-sistem´aticos

I Erros n˜ao-sistem´aticos podem ser modelados de forma eficaz usando modelos probabil´ısticos. As observa¸c˜oes s˜ao ent˜ao modeladas como vari´aveis aleat´orias

I As fun¸c˜oes param´etricas descrevem o comportamento das observa¸c˜oes

I Como o estimador ´e uma fun¸c˜ao das observa¸c˜oes modeladas como vari´aveis aleat´orias, ele tamb´em ser´a uma vari´avel aleat´oria

I O valor do estimador para cada conjunto de observa¸c˜oes ´e uma realiza¸c˜ao do estimador chamada de estimativa

Exemplo: Desejamos estimar a amplitude e a frequˆencia de um sinal em presen¸ca de ru´ıdo branco aditivo

I Modelo determin´ıstico

E {x ( t n ) } = g n ( ) = A cos(2 f 0 t n + )

Vem da descri¸c˜ao f´ısica (modelo)

I Pontos de medida

t n = 0. 1( n 1) , n = 1, 2,

,N

I Vetor de parˆametros desconhecidos

= [ A, f 0 ] T

I Modelo probabil´ıstico das observa¸c˜oes em t = t n

x ( t n ) = E { x ( t n ) } + w ( t n )

t n = 0. 1( n 1) ,

n = 1,

,N

em que

2

w ( t n ) N (0, w ) e w ( t n ) ´e ru´ıdo branco

I PDF das observa¸c˜oes x ( t n )

p x ( t n ) =

1 w exp 1 w h x ( t n ) A cos(2 f 0 t n + ) i 2

p

2 2

2

2

Obs:

a) x ( t n ) ´e uma vari´avel aleat´oria cont´ınua

b) E { x ( t n ) } depende do vetor de parˆametros

Exemplo: x ( t n ) ´e o n´umero de chamadas telefˆonicas que chegam a uma central desde t = 0 at´e t = t n . O n´umero de ocorrˆencias at´e t = t n ´e modelado de acordo com um processo de Poisson N ( t n ) . Medidas feitas ao longo do tempo permitiram estabelecer que o valor m´edio de x ( t n ) segue a lei exponencial

E [ x ( t n )] = E [ N ( t n )] = t n = 100 e t n

em que os parˆametros e variam entre diferentes centrais.

Sabendo que medidas foram tomadas em uma dada central nos instantes

t n = 0. 25 + 0 . 75 ( n 1) ,

n = 1, 2, 3, 4, 5

I Modelo probabil´ıstico das observa¸c˜oes

em que

x ( t n )

p [ x ( t n )] = e t n ( t n ) n )! ,

x

( t

t n = 100 e t n

I Problema de estima¸c˜ao:

x ( t n ) 2 Z

Desejamos estimar o vetor de parˆametros

= [ , ] T

Realiza¸c˜oes de x ( t n ) para = 1 e = 1

100 90 80 70 60 50 40 30 20 10 0 0 0.5 1 1.5
100
90
80
70
60
50
40
30
20
10
0
0
0.5
1
1.5
2
2.5
3
3.5
4
100
90
80
70
60
50
40
30
20
10
0
1
0
0.5
1.5
2
2.5
3
3.5
4

100 50 40 30 20 10 0 1 0 0.5 1.5 2 2.5 3 3.5 4 90

90

80

70

60

50

40

30

20

10

0

0

0.5

1

1.5

2

2.5

3

3.5

4

100 4 100 90 80 70 60 50 40 30 20 10 0 0 0.5 1 1.5

90

80

70

60

50

40

30

20

10

0

0

0.5

1

1.5

2

2.5

3

3.5

4

I t = [ t 1 , t 2 , t 3 , t 4 , t 5 ] T = [0. 25 , 1 . 0, 1. 75, 2 . 5 , 3 . 25] T

I Curva E { x ( tn ) } obtida do modelo com = 1 e = 1

I Pontos em vermelho gerados com distribui¸c˜ao de Poisson com t n dado pelo modelo

O Problema de Estima¸c˜ao

I Sequˆencia de passos

I Definir um modelo probabil´ıstico para o comportamento das observa¸c˜oes (da aplica¸c˜ao)

I Postular uma PDF para as incertezas das observa¸c˜oes (da aplica¸c˜ao + complexidade matem´atica)

I Aplicar t´ecnicas de estima¸c˜ao para estimar os parˆametros a partir das observa¸c˜oes

I A qualidade da estima¸c˜ao vai depender

a) Da qualidade do modelo probabil´ıstico

b) Da adequa¸c˜ao da PDF escolhida ao problema

c) Da t´ecnica de estima¸c˜ao empregada

I Classifica¸c˜ao das t´ecnicas de estima¸c˜ao

I Cl´assicas: Os parˆametros de interesse s˜ao modelados como determin´ısticos e desconhecidos

I Bayesianas: Os parˆametros de interesse s˜ao modelados como uma realiza¸c˜ao de uma vari´avel aleat´oria

Exemplo: Estima¸c˜ao do ´ Indice Dow-Jones m´edio

3200 Índice Dow-Jones médio (observação) Modelo possível para E {x ( n ) } 3100
3200
Índice Dow-Jones médio (observação)
Modelo possível para
E {x ( n ) }
3100
3000
2900
2800
n (dias)
100
0
10
20
30
40
50
60
70
80
90
I Modelo probabil´ıstico
x [ n ] =
A + B n + w [ n ]
n = 0, 1 ,
,n
1
com
E {x [ n ] } = A + B n
e
w [ n ] ⇠ N (0, 2 )

I Modelo probabil´ıstico (PDF)

 

+ Observa¸c˜oes

x [ n ] N ( E { x [ n ] } , 2 )

estatisticamente

independentes

I Vetor de parˆametros a estimar

= [ A B ] T

I Conjunto de observa¸c˜oes

x = x [0] , x [1] ,

,x

[ N 1] T ! x N ( E {x }, 2 I )

I Express˜ao da PDF em fun¸c˜ao de x e

p ( x ; ) =

1 2 ) N/ 2 exp ( 1

2

2

(2

N

1

X

n

=0

h x [ n ] ( A + Bn ) i 2 )

p ( x; ) =

1 2 ) N/ 2 exp ( 1

2

2

(2

Estima¸c˜ao Cl´assica

N

1

X

n

=0

h x [ n ] ( A + Bn ) i 2 )

I Baseada na PDF p ( x; ) “vista como uma fun¸c˜ao de

I Os valores de x [ n ] observados s˜ao substitu´ıdos em p ( x ; )

Í Diferentes p ( x; ) para diferentes observa¸c˜oes

I Busca-se o valor de que ajuste melhor a PDF aos valores observados

Estima¸c˜ao Bayesiana

I Incorpora informa¸c˜oes adicionais (quando dispon´ıveis) sobre os parˆametros visando aprimorar a estima¸c˜ao

I No exemplo: ´e razo´avel assumir que

I B > 0 (coeficiente angular do comportamento m´edio)

I A 2 [2800 , 3200]

I Nesse caso, A e B (o vetor ) s˜ao modelados como vari´aveis aleat´orias

I Para o conjunto de dados observados x, os valores de A e B que tentamos estimar s˜ao vistos como uma realiza¸c˜ao do vetor aleat´orio

I Em estima¸c˜ao Bayesiana, os dados s˜ao descritos pela PDF conjunta

p ( x, ) = p ( x| ) p ( )

I p ( ) ´e a PDF “a priori” de

Ela incorpora nosso conhecimento sobre “antes” da observa¸c˜ao dos dados x

I p ( x| ) ´e a PDF condicional dos dados, condicionada ao conhecimento de

´

Obs: E importante entender a diferen¸ca conceitual entre

p ( x; ) : Fun¸c˜ao de verossimilhan¸ca (likelihood)

p ( x| ) : PDF dos dados para um dado valor de

p ( x, ) : PDF conjunta dos dados x e de

Obs: Estimador X Estimativa

I O estimador ´e uma fun¸c˜ao das observa¸c˜oes. Como essas s˜ao vari´aveis aleat´orias, o estimador ´e uma vari´avel aleat´oria

I Uma estimativa ´e o valor num´erico do estimador para um conjunto espec´ıfico de dados (uma realiza¸c˜ao de x)

Í Logo, cada estimativa ´e uma realiza¸c˜ao da vari´avel aleat´oria “estimador”

Propriedades dos Estimadores

I Um estimador ´e uma fun¸c˜ao escalar ou vetorial das observa¸c˜oes cuja finalidade ´e a de medir o valor de um ou mais parˆametros

I O estimador n˜ao pode ser fun¸c˜ao dos parˆametros a estimar

I O estimador de um vetor de parˆametros n˜ao ´e unico.´ existir diferentes estimadores para um dado problema

Podem

I Qual ´e o melhor estimador para uma dada aplica¸c˜ao?

Í Deve-se avaliar a qualidade de um estimador

Polariza¸c˜ao (Bias) de um Estimador

I Vetor de parˆametros

 

= [ 1 , 2 ,

 

p ] T

I Estimador de

 

ˆ

ˆ

ˆ

ˆ

p ] T

= [ 1 , 2

,

I Polariza¸c˜ao do estimador do k -´esimo parˆametro

ˆ

e k ) = E { k } k

I Polariza¸c˜ao do estimador do vetor de parˆametros

ˆ

ˆ

ˆ

( ) = E { }

I Se ( ) = 0 Í Estimador n˜ao polarizado

I Se lim

N

!1 (

ˆ

) = 0 ,

N : N´umero de Observa¸c˜oes

Í Estimador assintoticamente n˜ao polarizado

I A polariza¸c˜ao caracteriza a exatid˜ao do estimador (erro sistem´atico)

Causas da Polariza¸c˜ao

a) Pode ser um desvio sistem´atico causado pelas flutua¸c˜oes das observa¸c˜oes e que n˜ao diminui com N ! 1. Ocorre, por exemplo, quando o modelo das flutua¸c˜oes ´e incorreto

b) Pode ser um desvio sistem´atico devido a erro na modelagem param´etrica do comportamento das observa¸c˜oes. Pode ser, por exemplo, um erro no modelo do comportamento m´edio das observa¸c˜oes

c) Pode ser um desvio sistem´atico de um estimador assintoticamente n˜ao polarizado devido a um n´umero insuficiente de observa¸c˜oes

Causa (a):

I A unica´

solu¸c˜ao poss´ıvel ´e usar outro estimador

I O problema maior ´e que a polariza¸c˜ao pode n˜ao ser detectada

I As estimativas podem convergir (para um valor errado) quando N ! 1

´

Í E importante aplicar o estimador escolhido inicialmente a

dados sint´eticos para verificar este tipo de possibilidade

Causa (b):

I Este ´e um problema s´erio porque leva a erro com qualquer estimador que seja escolhido

I Para evitar esse erro o projetista pode ficar tentado a usar um modelo para as observa¸c˜oes que seja t˜ao sofisticado que inclua todos os poss´ıveis efeitos

I Isso pode levar a outros problemas (parˆametros perturbadores)

I O uso de parˆametros em excesso tende a aumentar a variˆancia do estimador

Causa (c):

I Depende do n´umero de observa¸c˜oes dispon´ıveis

I Express˜oes anal´ıticas para essa polariza¸c˜ao s˜ao dif´ıceis de obter

Í Pode ser testado usando dados sint´eticos

Flutua¸c˜oes (desvios em rela¸c˜ao `a m´edia)

I Caracterizam a precis˜ao do estimador (erros n˜ao sistem´aticos)

I Variˆancia do estimador

ˆ

var( k ) = E ⇢ h k E (

ˆ

ˆ

k ) i 2

com E {} tomado em rela¸c˜ao `a PDF das observa¸c˜oes x

I Matriz covariˆancia do estimador vetorial

ˆ

2

4

var( 1 )

ˆ

ˆ

cov( 1 , 1 )

.

.

ˆ

ˆ

.

ˆ

ˆ

ˆ

cov( 1 , 2 )

ˆ

··· cov( 1 , p )

ˆ

ˆ

··· cov( 2 , p )

.

.

.

var( p )

ˆ

ˆ

3

7

7

7

5

6

6

ˆ = 6

ˆ

var( 2 )

.

ˆ

ˆ

ˆ

C

ˆ

.

cov( M , 1 ) cov( M , 2 ) ···

k ) ih

ˆ

cov( k , l ) = E nh k E (

l E ( l ) io = E [ l ] E [ k ] E [ l ]

ˆ

ˆ

ˆ

k

ˆ

ˆ

ˆ

Observa¸c˜oes:

ˆ

ˆ

ˆ

I A var( k ) mede os desvios de k em rela¸c˜ao a E { k }

ˆ

I Note que E { k } pode ser diferente de k

Í Em geral, estamos mais interessados no erro quadr´atico m´edio

ˆ

MSE( k ) = E  ⇣

ˆ

k k 2

Na maioria das vezes leva estimadores n˜ao implement´aveis

Problema com estimadores que minimizam o MSE

I Express˜ao geral do MSE

ˆ

ˆ

MSE( k ) =

E [( k k ) 2 ]

 

=

E {([ k E ( k )] + [ E ( k ) k ]) 2 }

ˆ

ˆ

ˆ

 

=

E {[ k E ( k ) 2 ] } + 2 E { [ k E ( k )] [ E ( k ) k ] }

ˆ

ˆ

ˆ

ˆ

ˆ

 

|

{z

}

ˆ

+ [ E ( k ) k ] 2

=0

Í MSE( k ) = E {[ k E ( k )] 2 } + [ E ( k ) k ] 2

}

ˆ

ˆ

ˆ

ˆ

|

{z

}

|

{z

ˆ

var( k )

fun¸c˜ao de k !

ˆ

I Minimizar MSE( k ) leva a estimadores que n˜ao s˜ao

realiz´aveis, pois s˜ao fun¸c˜oes dos parˆametros a serem estimados

ˆ

ˆ

I Costuma-se assumir que E ( k ) = k e minimizar var( k )

Í Estimador MVU (Minimum Variance Unbiased)

Exemplo: Considere a estima¸c˜ao de um n´ıvel DC A (sinal constante) a partir de observa¸c˜oes ruidosas x [ n ]

x [ n ] = A + w [ n ] , n = 0, 1,

,N 1

E { w [ n ] } = 0, w [ n ] branco com variˆancia

2

w

I Usando o estimador

A = 1

ˆ

N

N

1

X

n

= o

x

[ n ]

I Polariza¸c˜ao

E { A } = 1

ˆ

N

N

1

X

n =0

1

E {x [ n ] } = N ( N A) = A (n˜ao polarizado)

I Variˆancia

ˆ ˆ ˆ ˆ var { A } = E { [ A E {
ˆ
ˆ
ˆ
ˆ
var { A } =
E { [ A E { A }] 2 } =
E {( A A ) 2 }
8
<
N 1
X
1
= E
x [ n ] A # 2 9
: " N
=
;
n =0
8 2 9
>
2
3
8
>
>
>
<
: " N 1
=
<
=
X
N
1
1
1
6 X
7
6
7
= 2 E
x [ n ] NA # 2 9 =
4
N
;
N 2 E >
>
:
|
⇣ x [ n ] A ⌘
}
5
>
{z
>
n
=0
n
=0
;
w
n
8
<
: " N 1
X
N 1
1
= 2 E
w [ n ] # 2 9
= 1
E
{ w 2 [ n ] }
N
=
;
N 2
X
|
{z
}
n
=0
n =0
var { w [ n ] } =
2
w
2
ˆ
w
var { A } =
N

Í A variˆancia diminui com o n´umero de observa¸c˜oes

ˆ

Histogramas de para amostras de diferentes dimens˜oes

2

A = 3, n = 1, w [ n ] com distribui¸c˜ao gaussiana

1200 1200 1000 1000 800 800 600 600 400 400 200 200 2.6 0 2.7
1200
1200
1000
1000
800
800
600
600
400
400
200
200
2.6 0 2.7
2.8
2.9
3
3.1
3.2 3.3 3.4 3.5
0 2.6 2.7 2.8 2.9
3
3.1 3.2 3.3 3.4 3.5
N = 100
N = 400
1200
1000
800
600
400
200
0 2.6 2.7 2.8 2.9
3
3.1 3.2 3.3 3.4 3.5

N = 1600