36341 - Introdução aos Processos Estocásticos

Curso de Pós-Graduação em Engenharia Elétrica

Departamento de Engenharia Elétrica
Universidade de Brasília

Processos estocásticos

Geovany A. Borges
gaborges@ene.unb.br
Definições

¥ Processo estocástico: xt(ω) com t sendo o tempo e ω ∈ Ω.

Portanto xt(ω) é uma v.a. e x·(ω) é uma realização do processo.

¥ Classificação:
x t classificação
contínuo contínuo função aleatória
contínuo discreto seqüência aleatória
discreto contínuo cadeia de parâmetro contínuo
discreto discreto cadeia de parâmetro discreto

¥ Exemplos:

I. xt = a cos(ωt + φ), com a e φ sendo v.a.s

II. xt = 0, 8xt−1 com x0 ∼ N (0, σ 20)

1
III. Passeio aleatório (random walk):

xt = xt−1 + wt

com ½
+∆ com probabilidade p
wt =
−∆ com probabilidade 1 − p

2
Caracterização de processos estocásticos

¥ Caso parâmetro contínuo: xt1 , xt2 ,· · · ,xtn

• FDP conjunta:
p(xt1 , xt2 , · · · , xtn ) (1)

¥ Caso parâmetro discreto: x1, x2,· · · ,xn

• FDP conjunta:
p(x1, x2, · · · , xn) (2)
Exemplo 1:

Considerando xt = a + bt, com [a, b]T ∼ N (0, P), determinar

p(xt1 , xt2 , · · · , xtn ).

3
Caracterização de processos estocásticos

¥ Particular interesse nas densidades de primeira e segunda ordens: p(xt) e

p(xt1 , xt2 ),que são funções de t e t1 e t2, respectivamente.

¥ Valor médio (processos escalares e vetoriais) :

mX (t) , E{xt} (3)

¥ Função de auto-correlação (processos escalares):

RX (t, τ ) , E{xtxτ } (4)

¥ Função de auto-covariância (processos escalares):

CX (t, τ ) , E {(xt − mX (t)) (xτ − mX (τ ))} (5)

= RX (t, τ ) − mX (t)mX (τ ) (6)

4
Caracterização de processos estocásticos

¥ Matriz de auto-correlação cruzada (processos vetoriais):

• Processo X ∈ Rn
ΓX (t, τ ) , E{xtxTτ } (7)
• Processo X ∈ Cn
ΓX (t, τ ) , E{xtx∗τ } (8)
com ∗ representanto complexo conjugado. Verificar propriedades de
ΓX (t, τ ).

5
Caracterização de processos estocásticos

¥ Matriz de covariância cruzada (processos vetoriais):

n o
T
PX (t, τ ) , E (xt − mX (t)) (xτ − mX (τ )) (9)

= ΓX (t, τ ) − mX (t)mX (τ )T (10)

cujos elementos são dados pelas funções de covariância cruzada

(processos escalares):

CXiXj (t, τ ) , E (xi,t − mXi (t)) xj,τ − mXj (τ )

© ¡ ¢ª

Os elementos da diagonal PX (t, τ ) são CXiXi (t, τ ) = CXi (t, τ ). No caso

especial de t = τ ,
PX (t, t) = PX (t)

que é a matriz de covariâncias do vetor xt.

6
Caracterização de processos estocásticos
Exemplo 2:

Considerando xt = a cos(ωt + φ) com a e φ sendo v.a.s independentes e

φ ∼ U (−π, π), tem-se que

mX (t) = 0 (11)
E{a2}
RX (t, τ ) = E {cos(ωt − ωτ )} (12)
2
CX (t, τ ) = RX (t, τ ) (13)

¥ Coeficiente de correlação (processos escalares):

CX (t, τ )
ρX (t, τ ) = p
CX (t, t)CX (τ , τ )
que assume valores −1 ≤ ρX (t, τ ) ≤ 1.

7
Propriedades de processos estocásticos

¥ Estacionaridade
• Processo estacionário no sentido estrito (ESE):

p(xt) = p(xt+τ ) = p(x) (14)

que significa

mX (t) = E{xt}
Z ∞ Z ∞
= xtp(xt)dt = xt+τ p(xt+τ )d(t + τ )
−∞ −∞
= mX (t + τ ) = mX = constante.

8
Propriedades de processos estocásticos
¥ Estacionaridade
• Processo estacionário no sentido amplo (ESA): satisfaz
simultaneamente a (i) ESE e (ii) RX (t, t + τ ) depende apenas de τ :

RX (t, t + τ ) = RX (τ )

Exemplo 3:
Sendo xt = a cos(ωt) + b sin(ωt) com a e b v.a.s independentes:
a) O processo é ESE se E{a} = E{b} = 0
b) O processo é ESA se E{a} = E{b} = 0 e E{a2} = E{b2} = σ 2 resultando
em

mX (t) = 0
RX (τ ) = σ 2 cos(ωτ )

9
Propriedades de processos estocásticos
Exemplo 4:

Considerando xt ESA com mX (t) = 0 e

sin(ωτ )
RX (τ ) =
ωτ
então a matrix de covariâncias cruzadas do processo vetorial
xt = [ xt1 xt2 ]T com t1 = t e t2 = t + τ 12 é dada por
n o
T
PX (t, τ ) = E (xt − mX (t)) (xτ − mX (τ ))
· ¸
E {xtxτ } E {xtxτ +τ 12 }
=
E {xt+τ 12 xτ } E {xt+τ 12 xτ +τ 12 }

10
Propriedades de processos estocásticos
Exemplo 5:

(Papoulis, pp 388) Sendo xt ESA com

RX (τ ) = a exp(−α|τ |)

determinar E{[x8 − x5]2}.

11
Propriedades de processos estocásticos

¥ Ergodicidade na média
• Cálculo empírico de mX (t):

mX (t) = E{xt}
M
1 X
= xt(ω m)
M m=1

em que xt(ω m) é a m-ésima realização do processo. Convergência se xt

é ESE e M → ∞.

12
Propriedades de processos estocásticos

¥ Ergodicidade na média
• Um PE é ergódico na média se: “as expectâncias estatísticas puderem
ser substituídas por médias temporais de uma única realização”:

T
1
Z
E{xt} = m̂X = lim xtdt
T →∞ 2T −T
M
1 X
≈ xm
M m=1

com xm sendo a m-ésima amostra da realização xt(ω).

• Sendo xt ESE, E{m̂X } = mX , ou seja m̂X é não polarizado.

13
Propriedades de processos estocásticos

¥ Ergodicidade na média
Teorema 1 (Slutsky):
xt é ergódico na média se e somente se for ESA e

T
1
Z
lim CX (τ )dτ = 0
T →∞ T 0

em que CX (τ ) = CX (t, t + τ ) = E {(xt − mX (t)) (xt+τ − mX (t + τ ))}

14
Propriedades de processos estocásticos
Exemplo 6:

Considerando xt = a cos(ωt) + b sin(ωt) + c com a e b sendo v.a.s

independentes, e ω e c são constantes. Seria este processo ergódico na
média? O mesmo é ESA se

E{a} = E{b} = 0
E{a2} = E{b2} = σ 2

que resulta em
CX (τ ) = σ 2 cos(ωτ )

15
Propriedades de processos estocásticos
Exemplo 7:

Considerando xt e yt dois processos ergódicos na média, com médias mX e

mY . Sendo
zt = xt + cyt (15)
com c sendo uma v.a. tal que
½
0 , com probabilidade 0,5
c=
1 , com probabilidade 0,5

Que condições seriam necessárias para que zt seja ergódico na média?

Solução: Pela eq. (15) e com E{c} = E{c2} = 1/2, e xt e yt processos

descorrelacionados, i.e.,

CXY (τ ) = E{(xt − mX )(yt+τ − mY )} = 0 =⇒ RXY (τ ) = mX mY

16
obtem-se

mY
E{zt} = mX + (16)
2
RZ (t, t + τ ) = E{ztzt+τ } (17)
= E{xtxt+τ + cxtyt+τ + cxt+τ yt + c2ytyt+τ } (18)
1 1 RY (τ )
= RX (τ ) + mX mY + mX mY + (19)
2 2 2
RY (τ )
= RX (τ ) + + mX mY (20)
2

Assim, sendo E{zt} constante e RZ (t, t + τ ) = RZ (τ ), conclui-se que zt é

ESA. CZ (τ ) é portanto dado por

CZ (τ ) = RZ (τ ) − m2Z (21)
2
RY (τ ) m
= RX (τ ) + + mX mY − m2X − mX mY − Y (22)
2 4

17
Sendo RX (τ ) = CX (τ ) + m2X e RY (τ ) = CY (τ ) + m2Y , obtem-se

1 m2Y
CZ (τ ) = CX (τ ) + CY (τ ) + (23)
2 4

Aplicando o teorema de Slutsky, e sendo xt e yt ergódicos na média, tem-se

que
1 T m2Y
Z
lim CX (τ )dτ = (24)
T →∞ T 0 4
Isto significa que zt não é ergódico para quaisquer processos xt e yt. De fato,
conforme o valor da v.a. c, tem-se a seguinte forma para a média temporal
m̂Z , que dependente da realização c(ω):
½
mX , com probabilidade 0,5
m̂Z = (25)
mX + mY , com probabilidade 0,5

enquanto que E{zt} é dado por (16). Se mY = 0, tem-se então que

E{zt} = m̂Z , o que significaria que zt é ergódico na média. Esta solução
satisfaz o Teorema de Slutsky no sentido que faz (24)→ 0.
18
Exemplo 8:

Considere um processo estacionário no sentido amplo xt com função de

auto-correlação RX (τ ) = a|τ | com 0 < a < 1 e E{xt} = µ. Seria xt ergódico
na média? Caso não, quais condições seriam necessárias para que xt seja
ergódico na média?

19
Movimento Browniano

¥ Também conhecido como Processo de Wiener.

¥ Definição de incrementos independentes: um PE xt possui incrementos

independentes se
xt2 − xt1 , xt3 − xt2 , · · ·

são independentes para todo t1 < t2 < t3 < · · · . Ou seja,

p(xt2 − xt1 , xt3 − xt2 , · · · ) = p(xt2 − xt1 )p(xt3 − xt2 ) · · ·

¥ Incrementos independentes estacionários:

p(xt+h − xτ +h) = p(xt − xτ )

para t > τ e h > 0.

20
Movimento Browniano

¥ Propriedades de um processo Movimento Browniano xt:

• P1: t ∈ [0, ∞)
• P2: xt tem incrementos independentes estacionários
• P3: xt tem distribuição normal para todo t ≥ 0
• P4: E{xt} = 0
• P5: Pr{x0 = 0} = 1

¥ Derivação de p(xt):
De P3, xt e xτ são Gaussianas, então xt − xτ , t > τ , é Gaussiano com
média
E{xt − xτ } = E{xt − xτ } = 0 (26)
de P2 e P4. Mas ainda

var{xt − xτ } = E{(xt − xτ )2} (27)

21
Em se tratando de incrementos estacionários independentes, para todo
h>0
p(xt+h − xτ +h) = p(xt − xτ ) (28)
que implica que os incrementos possuem a mesma variância. Assim

var{xt+h − xτ +h} = var{xt − xτ }. (29)

De P5, tem-se que

var{x0} = 0. (30)
Empiricamente,
var{xt − xτ } = σ 2(t − τ ) (31)
satisfaz a todas as condições acima. Sendo τ = 0, tem-se para t ∈ [0, ∞)

var{xt} = σ 2t (32)

que também satisfaz P5.

22
 Portanto, o Movimento Browniano é um processo Gaussiano, de média
nula (P4) e variância crescendo linearmente com o tempo:

1 x2t
½ ¾
1
p(xt) = √ exp − 2 (33)
2πσ 2t 2σ t

¥ Pode-se mostrar que o Movimento Browniano é um caso limite do Passeio

Aleatório:
• Passeio Aleatório:
xtn = xtn−1 + ∆xtn

com ∆t = tn − tn−1
½
+∆x com probabilidade p
∆xtn =
−∆x com probabilidade 1 − p
2 (∆x)2
• Movimento Browniano: ∆x → 0 e ∆t → 0, σ = lim∆x→0,∆t→0 ∆t .

23
Processos Gaussianos
¥ Processos com função de densidade Gaussiana.

¥ Exemplo 1: sendo [a, b]T de distribuição Gaussiana,

xt = a + bt.

¥ Exemplo 2: Movimento Browniano

1 x2t
½ ¾
1
p(xt) = √ exp − 2 .
2πσ 2t 2σ t

¥ Exemplo 3: Equação de diferenças estocástica, com vk+1 um processo

Gaussiano e/ou x0 sendo uma v.a. Gaussiana:

xk+1 = Axk + vk+1

24
Processos Markovianos

¥ No contexto de equações diferenciais determinísticas, a solução de

dx(t)
= f (x(t))
dt
para t > t0, dado x(t0) = x0, é uma função do tipo

x(t) = g(t, x0, t0)

Esta solução não depende de x(t1), se t1 < t0.

25
Processos Markovianos

¥ Propriedade fundamental de processos Markovianos:

Pr{xtn ≤ λ|xt0 , · · · , xtn−1 } = Pr{xtn ≤ λ|xtn−1 } (34)

p(xtn ≤ λ|xt0 , · · · , xtn−1 ) = p(xtn ≤ λ|xtn−1 )

para todo λ ∈ Rn e ti < tj , com i < j. No caso de parâmetro contínuo,

Pr{xn ≤ λ|xτ , τ ≤ t1} = Pr{xtn ≤ λ|xt1 } (35)

p(xn ≤ λ|xτ , τ ≤ t1) = p(xtn ≤ λ|xt1 )

26
Processos Markovianos

¥ FDP conjunta de um processo Markoviano:

p(xtn , xtn−1 , · · · , xt0 ) = p(xtn |xtn−1 , · · · , xt0 )p(xtn−1 , · · · , xt0 ) (36)

= p(xtn |xtn−1 )p(xtn−1 , · · · , xt0 )
= p(xtn |xtn−1 )p(xtn−1 |xtn−2 , · · · , xt0 )p(xtn−2 , · · · , xt0 )
= p(xtn |xtn−1 )p(xtn−1 |xtn−2 )p(xtn−2 , · · · , xt0 )
..

= p(xtn |xtn−1 )p(xtn−1 |xtn−2 ) · · · p(xt1 |xt0 )p(xt0 ) (37)

Assim, se p(xt0 ) for Gaussiano e p(xti |xti−1 ), 0 < i ≤ n, for também

Gaussiano, então p(xtn , xtn−1 , · · · , xt0 ) é Gaussiano!

27
Processos Markovianos
Exemplo 9:

Seria este o caso do processo a parâmetro discreto

xk+1 = Axk + vk+1

com vk+1 ∼ N (0, Qk+1) e x0 ∼ N (0, P0) independentes? Como seria a FDP
p(xk |xk−1)?

1 1 T −1
pV (vk+1) = n/2 1/2
exp{− vk+1 k+1 vk+1 }
Q
(2π) det(Qk+1) 2

28
Processos Markovianos
Exemplo 10: Seria o Movimento Browniano um processo Markoviano? ♦
Solução: Considere a FDP condicional

p(xtn |xtn−1 , · · · , xt1 ).

Sendo x0 = 0, t0 = 0 e xtn−1 − xtn−1 = 0, obtem-se incrementos

independentes

p(xtn |xtn−1 , · · · , xt1 ) = p(xtn − xtn−1 + xtn−1 − x0|xtn−1 − x0, · · · , xt1 − x0).

Sendo xtn − xtn−1 + xtn−1 − x0 dependente apenas de xtn−1 − x0,

p(xtn |xtn−1 , · · · , xt1 ) = p(xtn − xtn−1 + xtn−1 − x0|xtn−1 − x0),

= p(xtn |xtn−1 )

29
Processos Markovianos

¥ FDPs de instantes de tempo não adjacentes:

Z
p(xn|xn−2) = p(xn, xn−1|xn−2)dxn−1,
Z
= p(xn|xn−1, xn−2)p(xn−1|xn−2)dxn−1.

Sendo o processo Markoviano,

Z
p(xn|xn−2) = p(xn|xn−1)p(xn−1|xn−2)dxn−1.

que é conhecida com Equação de Chapman-Kolmogorov.

30
p(xn) pode ser obtido por meio de

p(xn) = Exn−2 {p(xn|xn−2)}

½Z ¾
= Exn−2 p(xn|xn−1)p(xn−1|xn−2)dxn−1
Z
= p(xn|xn−1)Exn−2 {p(xn−1|xn−2)}dxn−1
Z
= p(xn|xn−1)p(xn−1)dxn−1

= Exn−1 {p(xn|xn−1)}

que é um resultado conhecido.

31
Ruído Branco

¥ Recurso matemático de “não previsibilidade”;

¥ Recurso prático para justificar o “nível de ruído”.

¥ Propriedade principal do Ruído Branco:

p(xk |xi) = p(xk )

com k > i, significando que o conhecimento de xi não ajuda em nada na

determinação de xk .

32
Ruído Branco

¥ Ruído Branco Gaussiano: p(xk ) ∼ N , caracterizada pela média e pela

função/matriz de auto-covariância.
• Caso parâmetro discreto:

E{(xn − E{xn})(xm − E{xm})T } = Qnδ nm

com Qn > 0 e o Delta de Kronecker dado por

½
1 ,n=m
δ nm =
0 , n 6= m
• Caso parâmetro contínuo:

p(xt|xτ ) = p(xt), t>τ

E{(xt − E{xt})(xτ − E{xτ })T } = Q(t)δ(t − τ )

33
com Q(t) > 0 e o Dirac possuindo as propriedades seguintes:

δ(t − τ ) = 0, t − τ 6= 0
Z ∞
δ(t − τ )dt = 1
−∞

Dificuldade em determinar CX (t, t + τ ) de um ruído branco devido à

função Dirac.
No caso escalar, um artifício consiste em avaliar o ruído branco como
um caso particular de um Processo Gaussiano ESA x′t com média nula
e função de auto-covariância

CX ′ (τ ) = E{(x′t − E{x′t})(x′t+τ − E{x′t+τ })T }

= σ 2δ̄(−τ ) = σ 2δ̄(τ )

com δ̄(τ ) = δ̄(−τ ) ³ρ´

δ̄(τ ) = exp{−ρ|τ |}
2

34
Pode-se verificar que Z ∞
δ̄(t − τ )dt = 1.
−∞

Na verdade δ̄(τ ) é uma aproximação para o Dirac:

δ(τ ) = lim δ̄(τ ).

ρ→∞

Assim x′t → xt (ruído branco) com ρ → ∞ e

CX (τ ) = RX (τ ) = σ 2δ(τ )

35
Ruído Branco
Exemplo 11: Relação entre Movimento Browniano e Ruído Branco

Sendo xt um Movimento Browniano, que possui média nula,

CX (t, τ ) = RX (t, τ ) = E{xtxτ }

= E{[(xt − xτ ) + xτ ] · xτ }
= E{(xt − xτ ) xτ + x2τ }
= E{(xt − xτ ) xτ } + E{x2τ }
= E{(xt − xτ ) (xτ − x0)} + E{x2τ }

sendo t > τ > 0, os incrementos são independentes e

CX (t, τ ) = E{x2τ } = σ 2τ

Como CX (t, τ ) = CX (τ , t), para quaisquer t, τ , CX (t, τ ) = σ 2 min(t, τ ).

36
Considerando agora o processo obtido pela derivada temporal do Movimento
Browniano
dxt
yt =
dt
então, de acordo com [1], (teorema 3.6, pp. 64),

∂ 2CX (t, τ ) 2
2 ∂ min(t, τ )
CY (t, τ ) = =σ .
∂t∂τ ∂t∂τ

Sendo a derivada segunda da função min(t, τ ) igual a δ(τ − t) = δ(t − τ ),

obtem-se
CY (t, τ ) = σ 2δ(t − τ )

que, por meio da transformação de variáveis, implica em CY (τ ) = σ 2δ(τ ). Ou

seja, o Ruído Branco Gaussiano é a derivada do Movimento Browniano.

37
Espectro de um processo estocástico

¥ Análise espectral: interesse pela distribuição das componentes de um PE

estacionário no espaço da freqüência.

¥ Potência Média: sendo xt um PE estacionário

E{|xt|2} = E{xtxt} = RX (t, t) = RX (0)

¥ Densidade Espectral de Potência (DEP):

Z ∞
SX (ω) = F{RX (τ )} = RX (τ )e−jωτ dτ
−∞

com ω sendo a freqüência em rad/s e F{·} é a transformada de Fourier.

38
RX (τ ) pode ser obtido por

∞
1
Z
−1
RX (τ ) = F {SX (ω)} = SX (ω)ejωτ dω
2π −∞

Mais especificamente, a relação entre Potência Média e DEP é dada por

2 −1
¯
E{|xt| } = RX (0) = F {SX (ω)}¯ τ =0
Z ∞
1
= SX (ω)dω
2π −∞
Z ∞
= SX (2πf )df
−∞

ω
com f = 2π sendo a freqüência em Hz. Portanto, este resultado justifica o
nome Densidade Espectral de Potência.

39
Espectro de um processo estocástico
Exemplo 12: DEP do Ruído Branco

Sendo x′t uma aproximação do Ruído Branco, tal que

³ρ´
RX ′ (τ ) = σ 2 exp{−ρ|τ |}
2
sua DEP é dada por

Z ∞ ³ρ´
SX ′ (ω) = σ2 exp{−ρ|τ | − jωτ }dτ
−∞ 2
σ2
= ³ ´2
1 + ωρ

40
 ′
Como o ruído branco xt é obtido a partir de xt fazendo ρ → ∞ conclui-se que

SX ′ (ω) = σ 2
E{|xt|2} = RX (0) = ∞

Portanto, o Ruído Branco caracteriza-se por:

(i) possuir componentes em todas as freqüências (origem do termo

Ruído Branco, fazendo referência à luz branca)

(ii) ter potência média infinita (o que faz com que não exista na realidade)

41
Espectro de um processo estocástico

¥ Propriedades da Densidade Espectral de Potência:

• SX (ω) é uma função real de ω: uma vez que

RX (τ ) = RX (t, t+τ ) = E{xtxt+τ } = E{xt+τ xt} = RX (t+τ , t) = RX (−τ ),
então RX (τ ) é uma função par. Sendo assim, então
Z ∞
RX (τ ) sin(ωτ )τ = 0
−∞

Portanto,
Z ∞ Z ∞
SX (ω) = RX (τ )e−jωτ dτ = RX (τ ) [cos(ωτ ) − j sin(ωτ )] dτ
−∞ −∞
Z∞
= RX (τ ) cos(ωτ )dτ (38)
−∞

42
 • SX (ω) é uma função par de ω: como cos(ωτ ) é função par de ω, (38)
resulta em uma função par.

Referências

[1] JAZWINSKI, A. H. Stochastic Processes and Filtering Theory. [S.l.]:

Academic Press, 1970.

43