Universidade Federal do Rio Grande do Sul

Escola de Engenharia
Departamento de Engenharia Eltrica
Programa de Ps-Graduao em Engenharia Eltrica
ELE00071-Tpicos Especiais em Automao e Controle II
Probabilidade e Variveis Aleatrias
Prof. Walter Fetter Lages
4 de outubro de 2004
1 Introduo
Intuitivamente, tem-se uma noo do que seja um sinal aleatrio ou com rudo.
Este tipo de sinal no pode ser descrito adequadamente por funes matemticas
explcitas, como senoides, exponenciais, etc. A sua descrio deve ser feita de
forma probabilstica.
Por outro lado, as fontes de rudo em um sistema geralmente no podem ser
eliminadas por completo, de forma que mesmo aps eliminarem-se todas as poss-
veis causas de rudo ainda restar uma parcela de rudo que ter que ser eliminada
por ltragem. Se a faixa de frequncias do rudo for sucientemente separada da
faixa de frequncias do sinal, pode-se utilizar ltros convencionais, passa-baixas,
passa-altas, passa-faixa ou rejeita-faixa para eliminar o rudo. No entanto, em al-
gumas situaes o rudo encontra-se na faixa de frequncias do sinal de interesse.
Nestes casos necessrio a utilizao de ltro estocsticos. Para o desenvolvi-
mento destes ltros necessrio um entendimento de forma quantitativa do rudo,
que pelas suas caractersticas deve ser descrito de forma probabilstica.
2 Probabilidade Intuitiva
Intuitivamente, a denio de probabilidade feita considerando-se todas os pos-
sveis resultados de um experimento e a probabilidade de ocorrncia de um evento
particular, A denida como
P(A) =
Possibilidade de resultado com o evento A
Total de resultados Possveis
1
Este resultado pode ser estendido para uma interpretao estatstica de proba-
bilidade como sendo a frequncia relativa de ocorrncia do evento.
3 Probabilidade Axiomtica
As noes intuitivas de probabilidade permitem tratar problemas relativamente
simples, em especial quando tem-se igualdade de condies para todos os eventos.
No entanto, frequenetemente deseja-se tratar situaes onde alguns eventos no
so "honestos". Adicionalmente, em alguns casos no se pode enumerar todos os
possveis resultados de um experimento. A formulao axiomtica da teoria da
probabilidade simplica o tratamento nestes casos. Esta formulao baseada em
trs axiomas. A apresentao destes axiomas requer algumas denies:
Espao amostral o conjunto de todos os possveis resultados de umexperimen-
to. O espao amostral denotado por S.
Elementos ou pontos no espao amostral so os resultados individuais de um
experimento. O conjunto de elementos do espao amostral denotado por
{s
1
, s
2
, s
3
, . . .}. Elementos so mutuamente exclusivos ou disjuntos. O
nmero de pontos no espao amostral pode ser:
nito quando o espao amostral discreto e nito
innito contvel quando o espao amostral discreto e innito
innito incontvel quando o espao amostral contnuo
evento um subconjunto de S. Ser denotado por letras maisculas. Eventual-
mente sero consideradas operaes de unio, interseco e complemento
de eventos.
ocorrncia do evento A se d quando ocorre algum ponto em A.
Oespao amostral denotado por S e o seu conjunto de elementos por {s
1
, s
2
, s
3
, . . .}.
3.1 Axiomas da Probabilidade
Sejam S o espao amostral e A qualquer evento
1
denido em S.Tem-se:
Axioma 1 P(A) 0
1
Note-se que a probabilidade associada aos eventos e no aos pontos do espao amostral. A
diferenciao entre ponto e evento especialmente importante quando o espao amostral innito
2
Axioma 2 P(S) = 1
Sejam tambm A
1
, A
2
, A
3
, . . . eventos mutuamente exclusivos (disjuntos) em
S. Tem-se
Axioma 3 P(A
1
A
2
A
3
. . .) = P(A
1
) +P(A
2
) +P(A
3
) +. . .
3.2 Espao de Probabilidade
A associao de um espao amostral, um conjunto de eventos neste espao e a
atribuio de probabilidades de cada evento denem um espao de probabilidade.
Exemplo 1 Considere o lanamento de dois dados. Supondo que se est interes-
sado apenas na soma dos nmeros da face superior dos dados, pode-se denir o
espao amostral como
S = 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12
O conjunto de possveis eventos pode ser denido como sendo todos os poss-
veis subconjuntos de S, incluindo o conjunto vazio e o prprio S. A atribuio de
probabilidade aos evento pode ser feita conforme a tabela 1
2
.
Tabela 1: Probabilidades para o Lanamento de Dois Dados
Soma dos Dados Probabilidade Atribuda
2 1/36
3 2/36
4 3/36
5 4/36
6 5/36
7 6/36
8 5/36
9 4/36
10 3/36
11 2/36
12 1/36
Tem-se, portanto, um espao de probabilidade adequadamente denido sobre
o qual pode-se fazer diversas inferncias
2
Esta tabela no atribui probabilidade a todos os eventos do espao amostral, mas a probabili-
dade dos demais eventos pode ser computada a partir dos eventos relacionados na tabela.
3
1. Qual a probabilidade de obter-se um 7 ou um 11?
P(7 ou 11) = P(7 11) =
6
36
+
2
36
=
2
9
2. Qual a probabilidade de no obter-se 2, 3 ou 12?
P(no obter 2, 3, ou 12) = P(2 3 12)
= P(4 5 6 7 8 9 10 11)
=
3 + 4 + 5 + 6 + 5 + 4 + 3 + 2
36
3. Qual a probabilidade de obter-se dois 4s? Este evento no faz parte do
espao amostral, que foi denido como sendo as possveis somas dos dois
dados.
3.3 Probabilidade Conjunta
Alm das operaes de unio e complemento, a operao de interseco tambm
til. A interseco de dois eventos A e B o evento contento pontos comuns a
A e B, como pode ser visto no diagrama de Venn da gura 1.
Da geometria do diagrama de Venn tem-se
P(A B) = P(A) +P(B) P(A B)
A probabilidade P(A B) denominada probabilidade conjunta de A e B e
representa a probabilidade de ocorrncia de ambos os eventos.
Exemplo 2 Retornando ao exemplo 1, dene-se o evento A como a obteno de
4, 5, 6 ou 7 e o evento B como a obteno de 7, 8 , 9, 10 ou 11.
1. Qual a probabilidade do evento A e B?
P(A e B) = P(A B) = P(7) =
1
6
2. Qual a probabilidade do evento A ou B?
P(A ou B) = P(AB) = P(A)+P(B)P(AB) =
18
36
+
20
36

6
36
=
8
9
4
Figura 1: Diagrama de Venn para dois eventos no disjuntos.
4 Probabilidade Condicional
Sejam dois experimentos A e B e sejam A
1
, A
2
, . . . , A
m
eventos disjuntos as-
sociados com o experimento A. Similarmente, sejam B
1
, B
2
, . . . , B
n
eventos
disjuntos associados com o experimento B. Tem-se, portanto a matriz de proba-
bilidade conjunta mostrada na tabela 2. Obviamente, somando as linhas tem-se
a probabilidade de um evento particular no experimento A independentemente
dos resultados do experimento B. Similarmente, somando-se as colunas resulta
P(B
1
), P(B
2
) e assim sucessivamente. Como os eventos so disjuntos, a soma
das probabilidades marginais 1.
A tabela 2 mostra a frequncia relativa de ocorrncia dos diversos eventos em
um conjunto dado um evento em particular do outro conjunto. Por exemplo, a
linha 1 lista P(A
1
B
1
), P(A
1
B
2
), . . . , P(A
1
B
n
). Como nenhuma outra
entrada na tabela envolve A1, esta linha da tabela mostra a distribuio relati-
va dos eventos B
1
, B
2
, . . . , B
n
dado que A
1
ocorreu. No entanto, o conjun-
to de nmeros desta linha no uma distribuio de probabilidade vlida, pois
a soma no 1, mas sim P(A
1
). Pode-se, porm, renormalizar todas as colu-
nas da linha, dividindo-se por P(A
1
). O conjunto de nmeros resultante ser
P(A
1
B
1
)/P(A
1
), P(A
1
B
2
)/P(A
1
), . . . , P(A
1
B
n
)/P(A
1
), a soma ser
1 e a distribuio relativa corresponde frequncia relativa de ocorrncia de B
1
,
5
B
2
, . . . , B
n
dado que A
1
ocorreu.
Tabela 2: Matriz de Probabilidades Conjuntas
Evento B
1
Evento B
2
Evento B
n
Prob. marginal
Evento A
1
P(A
1
B
1
) P(A
1
B
2
) P(A
1
B
n
) P(A
1
)
Evento A
2
P(A
2
B
1
) P(A
2
B
2
) P(A
2
B
n
) P(A
2
)
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Evento A
m
P(A
m
B
1
) P(A
m
B
2
) P(A
m
B
n
) P(A
m
)
Prob. marginal P(B
1
) P(B
2
) P(B
n
) Soma = 1
A probabilidade condicional de B
i
dado A
j
denida como
P(B
i
|A
j
) =
P(A
j
B
i
)
P(A
j
)
(1)
Similarmente, a probabilidade condicional de A
j
dado B
j
denida como
P(A
j
|B
i
) =
P(A
j
B
i
)
P(B
i
)
(2)
Teorema 1 (Teorema de Bayes)
P(A
j
|B
i
) =
P(B
i
|A
j
)P(A
j
)
P(B
i
)
(3)
Prova 1 Combinando-se as expresses (1) e (2).
5 Independncia
Dois eventos so ditos independentes se a ocorrncia de um no afeta o outro.
Formalmente, dois eventos so ditos independentes se
P(A B) = P(A)P(B) (4)
Tambm deve ser evidente da expresso (4) e da denio de probabilidade
condicional (1) e (2) que se A e B so independentes
P(A|B) = P(A)
P(B|A) = P(B)
_
somente para A e B independentes
6
6 Variveis Aleatrias
Para controle, se est tipicamente interessado em sinais como tenso, torque, dis-
tncia, que possuem um signicado fsico. Nestes casos, a chance de ocorrncia
est associada a nmeros reais e no a "coisas"como faces de dados. Uma vari-
vel aleatria um nmero x() atribudo a cada resultado de um experimento.
Assim, uma varivel aleatria uma funo cujo domnio o conjunto S de re-
sultados do experimento.
7 Funes Distribuio e Densidade de Probabilida-
de
Quando o espao amostral consiste em um nmero nito de elementos, a atri-
buio de probabilidade pode ser feita diretamente com base nos elementos do
espao amostral, de acordo com a possibilidade de ocorrncia. Estas probabilida-
des transferem-se diretamente para os eventos equivalentes no espao da varivel
aleatria.
Tendo-se variveis aleatrias discretas, o conjunto discreto de probabilidades
associado denominado distribuio de massa de probabilidade ou distribuio
de probabilidade.
No caso de variveis aleatrias contnuas, o espao amostral correspondente
ter innitos pontos e portanto no pode-se atribuir probabilidades diretamente
aos pontos do espao amostral. Isto tem que ser feito para eventos denidos.
Considere o jogo de girar um ponteiro montado sobre um carto circular e
livre para girar sobre o seu centro.
Seja X uma varivel aleatria contnua correspondente posio angular do
ponteiro ao parar, o que pode ser qualquer ngulo entre 0 e 2 radianos. Portan-
to, a probabilidade de exatamente qualquer posio em particular zero. Logo,
atribui-se probabilidade ao evento do ponteiro parar dentro de uma certa faixa
angular, por exemplo entre 0 e radianos. Se todas as posies so igualmente
provveis razovel atribuir as probabilidades da seguinte maneira:
P(X ) =
_

_
0, < 0
1
2
, 0 2
1, > 2
Esta funo denominada funo de distribuio acumulada ou funo de
distribuio de probabilidade e descreve a atribuio de probabilidade. Espe-
cicamente, a funo de distribuio de probabilidade associada com a varivel
aleatria X denida como
7
F
X
() = P(X )
onde um parmetro representando a realizao de X.
claro, a partir da denio que uma funo de distribuio de probabilidade
tem as seguintes propriedades:
1. F
X
() 0, quando
2. F
X
() 1, quando
3. F
X
() uma funo no decrescente de
A informao contida na funo de distribuio pode ser apresentada na forma
diferencial. Especicamente, seja f
X
() denida como
f
X
() =
d
d
F
X
()
A funo f
X
() conhecida como funo de densidade de probabilidade as-
sociada com a varivel aleatria X. Das propriedades da funo de distribuio,
bvio que a funo densidade tem as seguintes propriedades
1. f
X
() no negativa
2.
_

f
X
()d = 1
Tambm deve ser aparente que a rea abaixo da funo de densidade repre-
senta a probabilidade de X estar entre
1
e
2
.
8 Esperana, Mdia e Funo Caracterstica
mdia amostral

X =
X
1
+X
2
+ +X
N
N
Valor Esperado
Valor esperado de X = E(X) =
n

i=1
p
i
x
i
Valor esperado de X = E(X) =
_

xf
X
(x)dx
8
Valor Esperado de uma Funo
E(g(X)) =
n

i=1
p
i
g(x
i
)
E(g(X)) =
_

g(x)f
X
(x)dx
k-simo momento E(X
k
)
E(X
k
) =
_

x
k
f
X
(x)dx
Segundo momento
E(X
2
) =
_

x
2
f
X
(x)dx
Varincia segundo momento em torno da mdia

2
X
= E((X E(x)
2
)

2
X
= E[X
2
2XE(X) +E(X)
2
] = E(X
2
) E(X)
2
Desvio padro
X
=
_

2
X
Funo Caracterstica

x
() =
_

f
X
(x)e
jx
dx
Exemplo 3 Seja X uniformemente distribudo no intervalo (0, 2). Encontrar a
mdia, varincia e desvio padro de X.
Tem-se, portanto a seguinte funo de densidade de probabilidade:
f
X
(x) =
_
1
2
, 0 x < 2
0, caso contrrio
E(X) =
_
2
0
x
1
2
dx =
_
1
2
x
2
2
_
2
0
=

2
X
=
_
2
0
x
2
1
2
dx
2
=
4
3

2
=
1
3

X
=
_

2
X
=

1
3

2
=
1

9
Exemplo 4 Mostre que a funo caracterstica pode ser utilizada para calcular
os momentos de X.
Os momentos de X podem ser escritos como
E(X) =
_

xf
X
(x)dx
E(X
2
) =
_

x
2
f
X
(x)dx
.
.
.
etc.
As derivadas de
X
() calculadas em = 0 so:
d
x
()
d

=0
=
_

jxf
X
(x)e
jx
dx

=0
=
_

jxf
X
(x)dx
d
2

x
()
d
2

=0
=
_

(jx)
2
f
X
(x)e
jx
dx

=0
=
_

j
2
x
2
f
X
(x)dx
.
.
.
etc.
Portanto,
E(X) =
1
j
d
x
d

w=0
E(X
2
) =
1
j
2
d
2

x
d
2

w=0
.
.
.
etc.
9 Variveis Aleatrias Gaussianas
Uma varivel aleatria X denominada normal ou Gaussiana, se sua funo
densidade de probabilidade
f
X
(x) =
1

2
X
e

1
2
2
X
(xm
X
)
2
10
onde os parmetros m
X
e
X
so a mdia e a varincia da varivel aleatria.
Note que uma funo de densidade Gaussiana completamente especica-
da atravs da sua mdia e da sua varincia. Assim, usual escrever-se X
N(m
X
,
2
X
) para denotar que X uma varivel aleatria Gaussiana de mdia
m
X
e varincia
2
X
. As guras 2 e 3 apresentam esboos das funes densidade
e distribuio Gaussianas, respectivamente. Infelizmente, a funo distribuio
Gaussiana no pode ser computada de forma fechada.
Figura 2: Funo densidade de probabilidade Gaussiana.
Figura 3: Funo distribuio de probabilidade Gaussiana.
Exemplo 5 Seja uma varivel aleatria X N(1, 4). Deseja-se
1. O valor da funo densidade no seu pico;
2. A probabilidade de que X 2;
11
3. A probabilidade de que 0 X 2.
Deve-se ter em mente que as tabelas para as funes densidade e distribuio
de probabilidade so normalizadas para mdia zero e varincia unitria. Ou seja,
a funo tabelada
f
X
(x) =
1

2
e

1
2
x
2
A funo densidade da varivel X
f
X
(x) =
1

2 2
e

1
24
(x1)
2
Obviamente o pico ocorre em x = 1 e o seu valor 1/2

2 0.199. Es-
te valor poderia ser obtido da tabela notando o valor de f
X
(x) para x = 0 e
dividindo-se pelo desvio padro.
P(X 2) =
_

2
1

2 2
e

1
24
(x1)
2
dx
= 1
_
2

2 2
e

1
24
(x1)
2
dx
P(X 2) = 1
_
1/2

2
e

1
2
v
2
dv
P(X 2) = 1 0.691462 = 0.308538
P(0 X 2) =
_
2
0
1

2 2
e

1
24
(x1)
2
dx
Fazendo-se v =
x1
2
, tem-se
P(0 X 2) =
_
1/2
1/2
1

2
e

1
2
v
2
dv
que devido a simetria da curva pode ser escrita como
P(0 X 2) = 2
_
1/2
0
1

2
e

1
2
v
2
dv
= 2
_
_
1/2

2
e

1
2
v
2
dv 0.5
_
= 2 (0.691462 0.5) = 0.382924
12
10 Variveis Aleatrias Mltiplas
No estudo de controle estocstico frequentemente sero tratadas diversas variveis
aleatrias e seus relacionamentos mtuos. As vrias relaes probabilsticas sero
apresentadas aqui para o caso bivarivel. A extenso para o caso de trs ou mais
variveis direta e no ser especicamente discutida.
10.1 Variveis Aleatrias Discretas
Sejam duas variveis aleatrias discretas X e Y . Dene-se a distribuio de pro-
babilidade conjunta como
p
XY
(x
i
, y
j
) = P(X = x
i
e Y = y
j
)
Tal como no caso de eventos (vide seo 4), a distribuio conjunta de X e
Y pode ser considerada como uma matriz de probabilidades bi-dimensional, com
cada elemento representando a probabilidade de ocorrncia de uma combinao
particular de X e Y . A soma dos nmeros da matriz deve ser unitria, assim
como as somas das colunas ou das linhas resulta na probabilidade marginal, como
no caso dos eventos.
De forma similar seo 4, pode-se escrever as seguintes relaes:
Probabilidade marginal (incondicional)
p
X
(x
i
) =

j
p
XY
(x
i
, y
j
)
p
Y
(y
j
) =

i
p
XY
(x
i
, y
j
)
Probabilidade condicional
p
X|Y
=
p
XY
P
Y
(5)
p
Y |X
=
p
XY
P
X
(6)
Teorema de Bayes
p
X|Y
=
p
Y |X
p
X
P
Y
As variveis aleatrias discretas X e Y so denidas como sendo estatistica-
mente independentes se
p
XY
(x
i
, y
j
) = p
X
(x
i
)p
Y
(y
j
)
para todos possveis x
i
e y
i
.
13
10.2 Variveis Aleatrias Contnuas
Tal como no caso monovarivel, a descrio da varivel deve ser feita em termos
de uma funo de distribuio acumulada ou de uma funo de densidade.
SejamX e Y variveis aleatrias contnuas. Afuno de distribuio conjunta
acumulada denida como
F
XY
(x, y) = P(X x e Y y)
Obviamente, F
XY
possui as seguintes propriedades:
1. F
XY
(, ) = 0
2. F
XY
(, ) = 1
3. F
XY
no decrescente em x e y
A funo de densidade conjunta de variveis aleatrias contnuas dada por
f
XY
(x, y) =

2
F
XY
(x, y)
xy
Note-se que a relao integral entre a funo de distribuio acumulada e a
funo de densidade existente para o caso monovarivel tambm existe para o
caso multivarivel. Assim, a probabilidade de uma realizao conjunta de X e Y
estar dentro de uma certa regio R no plano xy dada por
P(X e Y estarem dentro de R) =
_ _
R
f
XY
(x, y)dxdy
Se a regio R for um retngulo diferencial (vide gura 4), a probabilidade de
X e Y estarem dentro do retngulo ser:
P(x
0
X x
0
+dx e y
0
Y y
0
+dy) = f
XY
(x, y)dxdy
As densidades marginais ou incondicionais so obtidas de forma semelhante
ao caso discreto, substituindo-se o somatrio pela integral, tem-se portanto:
f
X
(x) =
_

f
XY
(x, y)dy
f
Y
(y) =
_

f
XY
(x, y)dx
As expresses (5) e (6) para probabilidades condicionais discretas podem ser
aplicadas para funes densidade para regies diferenciais. Considerando-se a
regio diferencial mostrada na gura 4, pode-se obter as seguintes relaes:
14
Figura 4: Regio diferencial R no plano xy.
P(X est na faixa dx|Y est na faixa dy) =
f
XY
(x
0
, y
0
)dxdy
f
Y
(y
0
)dy
Cancelando-se os dys e considerando-se que "Y est na faixa dy" aproxima-
damente o mesmo que "Y igual a y
0
", tem-se que
P(x
0
Xx
0
+dx|Y = y
0
) =
_
f
XY
(x
0
, y
0
)
f
Y
(y
0
)
_
dx
O lado direito desta expresso possui todas as caractersticas de uma funo
de densidade e a sua interpretao est no lado esquerdo da expresso. Assim,
dene-se densidade condicional como
3
:
f
X|Y
(x) =
f
XY
(x, y)
f
Y
(y)
Analogamente, tem-se
3
A dependncia de f
X|Y
de y omitida, para enfatizar que esta uma funo de densidade em
x, j que y aparece apenas como um parmetro determinstico
15
f
Y |X
(y) =
f
XY
(x, y)
f
X
(x)
E consequentemente a expresso do teorema de Bayes surge diretamente:
f
X|Y
(x) =
f
Y |X
(y)f
X
(x)
f
Y
(y)
Similarmente, X e Y sero estatisticamente independentes se
f
XY
(x, y) = f
X
(x)f
Y
(y)
11 Correlao, Covarincia e Ortogonalidade
A esperana do produto de duas variveis aleatrias X e Y dada por
E(XY ) =
_

xyf
XY
(x, y)dxdy (7)
Caso as variveis X e Y sejam independentes, a expresso (7) reduz-se, atra-
vs do teorema de Bayes,
E(XY ) =
_

xf
X
(x)dx
_

yf
Y
(y)dy = E(X)E(Y ) (8)
Quando X e Y possuem a propriedade da expresso (8) diz-se que elas so
descorrelacionadas. Obviamente, quando X e Y so independentes, elas tambm
so descorrelacionadas. No entanto, o inverso no verdadeiro, a no ser em
casos especiais.
Se E(XY ) = 0, X e Y so ditas serem ortogonais.
A covarincia de X e Y denida como:

XY
= E ((X m
x
)(Y m
y
)) (9)
O coeciente de correlao de X e Y denido como
=

XY
_

2
X
_

2
Y
=

XY

Y
(10)
O coeciente de correlao uma medida normalizada (1 1) do grau
de correlao entre duas variveis aleatrias
4
.
4
Note que se X = Y , ento = 1; se X = Y , ento = 1; se X e Y so descorrelacio-
nadas, ento = 0.
16
12 Soma de Variveis Aleatrias Independentes
Sejam X e Y duas variveis aleatrias independentes com funes densidade de
probabilidade f
X
(x) e f
Y
(y), respectivamente. Seja Z outra varivel aleatria tal
que Z = X +Y .
Seja z uma realizao de Z com valor xo. Todas as possveis realizaes de
X e Y satisfazem x + y = z e o lugar geomtrico destes pontos no plano xy
uma reta, como mostrado na gura 5.
Figura 5: Faixa diferencial para deduo de f
Z
(z).
Considere, agora, uma perturbao incremental de z para z + dz e o corres-
pondente lugar geomtrico no plano xy das realizaes de X e Y que resultam
z +dz, que tambm uma reta mostrada na gura 5.
Pode-se perceber que todos os x e y dentro da faixa diferencial entre as duas
retas mapeiam-se em pontos entre z e z +dz no espao z. Logo,
P(z Z z +dz) = P(x e y estejam na faixa diferencial)
17
=
_ _
faixa
diferencial
f
X
(x)f
Y
(y)dxdy
No entanto, dentro da faixa diferencial y = z x, e como a largura da faixa
diferencial, a integral dupla pode ser reduzida uma integral simples. Escolhendo-
se x como a varivel de integrao e notando-se que dy = dz tem-se
P(z Z z +dz) =
__

f
X
(x)f
Y
(z x)dx
_
dz
e o valor entre colchetes a funo de densidade de probabilidade de Z, portanto
f
Z
(z) =
_

f
X
(x)f
Y
(z x)dx (11)
A integral na expresso (11) uma integral de convoluo. Assim, da teoria
da transformada de Fourier pode-se escrever
F [f
Z
] = F [f
X
] F [f
Y
] (12)
Exemplo 6 (Teorema do Limite Central) Sejam X, Y e V trs variveis ale-
atrias independentes com funes de densidade retangulares idnticas, como
mostrado na gura 6.
Figura 6: Funo de densidade de probabilidade para X, Y e V .
18
A funo de densidade de probabilidade de Z = X +Y pode ser obtida atra-
vs da convoluo de duas funes como a mostrada na gura 6, cujo resultado
mostrado na gura 7
Figura 7: Funo de densidade de probabilidade para Z.
Para W = X + Y + V , a funo densidade de probabilidade, mostrada na
gura 8, pode ser obtida pela convoluo das funes mostradas nas guras 6 e
7.
Figura 8: Funo de densidade de probabilidade para W.
Pode-se facilmente perceber a semelhana entre esta curva e a curva de uma
densidade normal com mdia zero. Para o somatrio de quatro variveis alea-
trias com densidade como mostrado na gura 6, o resultado seria uma curva
19
formada por segmentos de cbicas de 4 a +4, cuja aparncia se assemelhar
mais ainda com a curva de uma densidade normal, e assim por diante. Cada
convoluo adicional resultar uma curva mais prxima da curva normal.
A generalizao deste resultado leva concluso de que a superposio de
variveis aleatrias independentes tente curva normal, independentemente da
distribuio de cada varivel aleatria contribuindo para a soma. Este resultado
conhecido como Teorema do Limite Central.
Em aplicaes de engenharia, tipicamente o rudo devido superposio de
pequenas contribuio de muitos fenmenos. Assim, tem-se um bom motivo para
assumir que o rudo possui uma distribuio normal.
O teorema do limite central explica tambm o interesse exagerado em vari-
veis aleatrias normais, pois elas so uma ocorrncia bastante comum na natu-
reza.
13 Transformaes de Variveis Aleatrias
Na anlise de sistemas comum a utilizao de transformaes matemticas que
mapeiam um conjunto de variveis (por exemplo entradas) em outro conjunto de
variveis (sadas). Considere a relao entrada-sada descrita por
y = g(x) (13)
onde x uma realizao da varivel aleatria de entrada X e y a correspondente
realizao da varivel aleatria de sada Y .
Assumindo-se que g(x) um mapeamento um-para-um para todos os valores
possveis de x, a relao (13) pode ser invertida:
x = h(y) (14)
As probabilidades de que X e Y estejam dentro de regies diferenciais cor-
respondentes devem ser iguais, ou seja:
P(x X x +dx) = P(y Y y +dy)
ou
_
x+dx
x
f
X
(u)du =
_
_
y+dy
y
f
Y
(u)du para dy positivo

_
y+dy
y
f
Y
(u)du para dy negativo
(15)
Note que a expresso (15) expe uma das particularidades deste problema. Se
dx leva a dy negativo, a integral de f
Y
deve ser de y + dy a y, de forma a manter
uma probabilidade positiva.
20
Assumindo-se dx positivo, tem-se que o equivalente diferencial de (15)
f
X
(x)dx = f
Y
(y)|dy|
Alm disso, x est restrito a ser igual a h(y). Tem-se portanto
f
Y
(y) =

dx
dy

f
X
(h(y)) (16)
ou ainda
f
Y
(y) =

dh(y)
dy

f
X
(h(y))
Exemplo 7 Considere uma entrada X N(0,
2
X
) e obtenha a funo densidade
de sada para as seguintes transformaes
1. y = Kx (K=constante)
2. y = x
3
1. y = Kx (K=constante)
x = h(y) =
1
K
y

dh(y)
dy

1
K

De (16) pode-se obter a expresso para f

Y
:
f
Y
(y) =
1
K
1

2
X
exp
_

_
_
y
K
_
2
2
2
X
_

_
ou reescrevendo na forma normalizada:
f
Y
(y) =
1
_
2(K
X
)
2
exp
_

y
2
2(K
X
)
2
_
Portanto, pode-se concluir que a transformao de uma varivel aleatria
normal com mdia zero por um fator de escala resulta outra varivel ale-
atria normal com uma alterao correspondente no seu desvio padro
5
.
5
O desvio padro equivalente amplitude da varivel aleatria
21
Em outras palavras, a "normalidade"da varivel aleatria preservada em
uma transformao linear
6
.
2. y = x
3
Invertendo-se a transformao tem-se
x = h(y) =
3

y
A derivada de x :
dh(y)
dy
=
1
3
y
2/3
Note que y
2/3
pode ser escrito como (y
1/3
)
2
, logo y
2/3
sempre positivo
para y
1/3
real. A funo densidade para Y portanto
f
Y
(y) =
1
3y
2/3
1

2
X
e
(y
1/3
)
2
/2
X
Este um exemplo de uma transformao no linear que converte uma
varivel aleatria normal para uma forma no gaussiana.
14 Funo de Densidade Normal Multivarivel
Nas sees 9 e 10 foram abordados as funes densidade para os casos mono-
varivel e bivarivel. Nesta seo ser obtida uma forma geral para funes de
densidade normais n-dimensionais.
Considere um conjunto de n variveis aleatrias gaussianas X
1
, X
2
, . . . , X
n
,
que pode ser escrito na forma de um vetor de variveis aleatrias:
X =
_

_
X
1
X
2
.
.
.
X
n
_

_
Em geral, os componentes de X podem ser correlacionados e ter mdias
m
1
, m
2
, . . . , m
n
diferentes de zero. Portanto, dene-se o vetor de mdias:
6
Pode-se tambm provar que a soma de duas variveis aleatrias normais uma varivel alea-
tria normal. Vide exerccio 5
22
m =
_

_
m
1
m
2
.
.
.
m
n
_

_
Similarmente, o conjunto de realizaes x
1
, x
2
, . . . , x
n
de X
1
, X
2
, . . . , X
n
po-
de ser escrito na forma de vetor:
x =
_

_
x
1
x
2
.
.
.
x
n
_

_
A matriz de covarincia para a varivel X denida como
C =
_

_
E [(X
1
m
1
)
2
] E [(X
1
m
1
)(X
2
m
2
)]
E [(X
2
m
2
)(X
1
m
1
)]
.
.
.
.
.
.
E [(X
n
m
n
)
2
]
_

_
Os termos na diagonal principal de C so as varincias das variveis, e os
termos fora da diagonal so as covarincias.
As variveis aleatrias X
1
, X
2
, . . . , X
n
so ditas conjuntamente normais ou
conjuntamente gaussianas se a sua funo de densidade de probabilidade conjunta
dada por
f
X
(x) =
1
(2)
n/2
|C|
1/2
exp
_

1
2
_
(x m)
T
C
1
(x m)
_
_
(17)
Note que f
X
(x) denida pela expresso (17) escalar e que C
1
deve existir
para que f
X
(x) esteja adequadamente denida. Obviamente, a expresso (17)
reduz-se forma normal padro para o caso monovarivel. Para o caso bivarivel
pode-se escrever F
X
explicitamente em termos de x
1
e x
2
:
X =
_
X
1
X
2
_
x =
_
x
1
x
2
_
m =
_
m
1
m
2
_
e
C =
_
E [(X
1
m
1
)
2
] E [(X
1
m
1
)(X
2
m
2
)]
E [(X
2
m
2
)(X
1
m
1
)] E [(X
2
m
2
)
2
]
_
=
_

2
1

1

2

2
2
_
23
O determinante e a inversa de C so dados por
|C| =

2
1

1

2

2
2

= (1
2
)
2
1

2
2
C
1
=
_
_

2
2
|C|

2
|C|

2
|C|

2
1
|C|
_
_
=
_
_
1
(1
2
)
2
1

(1
2
)
1

(1
2
)
1

2
1
(1
2
)
2
2
_
_
e portanto
f
X
1
X
2
(x
1
, x
2
) =
1
2
1

1
2
exp
_

1
2(1
2
)
_
(x
1
m
1
)
2

2
1

2(x
1
m
1
)(x
2
m
2
)

2
+
(x
2
m
2
)
2

2
2
__
(18)
Um esboo de f
X
1
X
2
(x
1
, x
2
) mostrado na gura 9. A densidade bivarivel
normal uma superfcie suave no plano x
1
, x
2
com pico diretamente acima do o
ponto (m
1
, m
2
). Contornos de igual altura na superfcie f
X
1
X
2
(x
1
, x
2
) projetam-
se como elipses no plano x
1
, x
2
(mostrada na gura 9 para um coeciente de
correlao positivo). Pontos na elipse representam combinaes igualmente pro-
vveis de x
1
e x
2
. Se = 0 tem-se o caso de X
1
e X
2
descorrelacionados e
as elipses tem seus eixos principal e secundrio paralelos aos eixos x
1
e x
2
. Se

1
=
2
(mantendo-se = 0) as elipses degeneram para crculos. Por outro lado,
quando || tende unidade, as elipses tornam-se mais excntricas.
O caso descorrelacionado de especial interesse e neste caso f
X
1
X
2
(x
1
, x
2
)
reduz-se
f
X
1
X
2
(x
1
, x
2
) =
1
2
1

2
exp
_

1
2
_
(x
1
m
1
)
2

2
1
+
(x
2
m
2
)
2

2
2
__
=
1

2
1
e
(x
1
m
1
)
2
/2
2
1
1

2
2
e
(x
2
m
2
)
2
/2
2
2
(19)
Portanto, duas variveis aleatrias normais que so descorrelacionadas so
tambm estatisticamente independentes. Pode-se tambmvericar facilmente que
esta propriedade mantida para qualquer nmero de variveis aleatrias normais
no correlacionadas. Note que, em geral, correlao zero no implica indepen-
dncia estatstica. No entanto, no caso gaussiano, implica.
Esta interpretao geomtrica apresentada aqui para o caso bivarivel pode ser
generalizada para trs ou mais variveis.
24
Figura 9: Distribuio bivarivel.
15 Propriedades de Variveis Aleatrias Gaussianas
sujeitas Transformaes Lineares
Afuno densidade para variveis aleatrias conjuntamente normais X
1
, X
2
, . . . , X
n
dada por
f
X
(x) =
1
(2)
n/2
|C
X
|
1/2
exp
_

1
2
_
(x m
X
)
T
C
1
X
(x m
X
)
_
_
(20)
Denindo-se um conjunto de variveis aleatrias Y
1
, Y
2
, . . . , Y
n
linearmente
relacionadas com X
1
, X
2
, . . . , X
n
atravs da expresso
y = Ax +b (21)
onde b um vetor constante e A uma matriz quadrada no singular, tem-se que
a funo densidade para Y ser dada por uma generalizao de (16)
f
Y
(y) = f
X
(h(y)) |J
h
(y)| (22)
Invertendo-se a relao (21) obtm=se
25
x = A
1
y A
1
b (23)
com
A
1
=
_

_
d
11
d
12
d
1n
d
21
d
22
d
2n
.
.
.
.
.
.
.
.
.
.
.
.
d
n1
d
n2
d
nn
_

_
e portanto
x
1
= (d
11
y
1
+d
12
y
2
+ ) (d
11
b
1
+d
12
b
2
+ )
x
2
= (d
21
y
1
+d
22
y
2
+ ) (d
21
b
1
+d
22
b
2
+ )
x
3
= (d
31
y
1
+d
32
y
2
+ ) (d
31
b
1
+d
32
b
2
+ )
.
.
. =
.
.
. (24)
O Jacobiano da transformao ento
J
h
(y) =
_

_
x
1
y
1
x
2
y
1

x
1
y
2
x
2
y
2

.
.
.
.
.
.
.
.
.
_

_
(25)
|J
h
(y)| =

Det
_

_
d
11
d
21

d
21
d
22

.
.
.
.
.
.
.
.
.
_

Det
_
A
1
_
T

Det
_
A
1
_

(26)
Substituindo-se (23) e (26) em (22) tem-se
f
Y
(y) =
|Det (A
1
)|
(2)
n/2
|C
X
|
1/2
exp
_

1
2
_
_
A
1
y A
1
b m
X
_
T
C
1
X
_
A
1
y A
1
b m
X
_
__
(27)
A mdia de Y pode ser calculada tomando-se a esperana de ambos os lados
da transformao, portanto
m
y
= Am
x
+b
O argumento da exponencial da expresso (27) pode ento ser escrito como
26

1
2
_
_
A
1
y A
1
b A
1
Am
X
_
T
C
1
X
_
A
1
y A
1
b A
1
Am
X
_
_
=
1
2
_
(y m
Y
)
T
_
A
1
_
T
C
1
X
A
1
(y m
Y
)
_
=
1
2
_
(y m
Y
)
T
_
AC
X
A
T
_
1
(y m
Y
)
_
(28)
Notando-se que

Det
_
A
1
_

=
1
|DetA|
=
1
|DetA|
1/2
|DetA
T
|
1/2
chega-se
f
Y
(y) =
1
(2)
n/2
|AC
X
A
T
|
1/2
exp
_

1
2
_
(y m
Y
)
T
_
AC
X
A
T
_
1
(y m
Y
)
__
que utilizando-se a denio
C
Y
= AC
X
A
T
pode-se escrever na forma
f
Y
(y) =
1
(2)
n/2
|C
Y
|
1/2
exp
_

1
2
_
(y m
Y
)
T
C
1
Y
(y m
Y
)
_
_
(29)
Portanto, f
Y
tambm normal e possui mdia e matriz de covarincia dadas
por m
Y
= Am
X
+ b e C
Y
= AC
X
A
T
. Logo, a normalidade preservada em
uma transformao linear. Apenas a mdia e a varincia so alteradas, a forma da
funo densidade permanece inalterada.
Uma transformao linear particularmente interessante a que produz uma
nova matriz de covarincia SC
X
S
T
que diagonal. Isto pode ser obtido atravs
da transformao de similaridade, onde a matriz S formada pelos autovetores
de C
X
. Neste caso a transformao produz um conjunto de variveis aleatri-
as normais descorrelacionadas e portanto estatisticamente independentes. Esta
transformao sempre existir se C
X
for positiva denida, que no caso de uma
matriz de covarincia implica todos os coecientes de correlao serem, em m-
dulo, menores que a unidade.
Resumo das propriedades de variveis aleatrias normais mltiplas:
1. A funo densidade de probabilidade de uma varivel aleatria vetorial X
completamente denida atravs da mdia e da matriz de covarincia de X.
27
2. A matriz de covarincia de X positiva denida se os mdulos de todos os
coecientes de correlao forem menores do que a unidade.
3. Se variveis aleatrias normais so descorrelacionadas, elas tambm so
estatisticamente independentes.
4. Uma transformao linear de variveis aleatrias normais leva outro con-
junto de variveis aleatrias normais. Uma transformao descorrelaciona-
dora sempre existir se a matriz de covarincia for positiva denida.
5. Se a funo densidade conjunta para n variveis aleatrias normal, to-
das das densidades condicionais e marginais associadas com as n varives
tambm sero normais.
16 Limites, Convergncia e Estimadores no Pola-
rizados
Um estimador dito no polarizado se
E(estimador de X) = E(X) (30)
Considere uma sequncia de variveis aleatrias Y
1
, Y
2
, . . . , Y
n
. A sequncia
dita convergir em mdia se
lim
n
E
_
(Y
n
Y )
2
_
= 0 (31)
A sequncia converge em probabilidade para Y se
lim
n
P (|Y
n
Y | ) = 0 (32)
onde uma constante positiva arbitrariamente pequena.
A grosso modo, a convergncia em mdia indica que a disperso (varincia)
em torno do valor limite tende para zero no limite. Similarmente a convergncia
em probabilidade signica que um critrio de preciso arbitrariamente pequeno
pode ser obtido com probabilidade um quando n . A convergncia em mdia
um requisito mais severo do que a convergncia em probabilidade. Pode se
provado que a convergncia em mdia garante a convergncia em probabilidade,
mas o contrrio no verdadeiro.
28
17 Exerccios
1. Um jogo de dados possui as seguintes regras: O jogador lana dois dados
e aposta contra a banca. Se o resultado do primeiro lanamento for 7 ou
11 o jogador ganha imediatamente; se for 2, 3 ou 12, o jogador perde ime-
diatamente. Caso o resultado seja outro nmero, o jogador lana os dados
sucessivamente at o mesmo nmero aparecer novamente, quando ele ga-
nha, ou at aparecer um 7, quando ele perde. Qual a probabilidade total de
se ganhar neste jogo?
2. Qual o tamanho do espao amostral dos seguintes experimentos:
(a) Retirar uma carta de um baralho com 52 cartas.
(b) Lanar dois dados.
(c) Lanar dois dados e observar sua soma.
(d) Arremessar um dardo.
3. Suponha um reticador de meia-onda cuja entrada uma sinal gaussiano
qualquer com mdia zero e varincia
2
X
. Faa um esboo das funes
densidade e distribuio de probabilidade do sinal de sada.
4. Considere o arremesso de um dardo em um alvo descrito pelas coordena-
das x e y. Aps o jogador estar treinado, razovel supor que os erros nas
direes horizontal e vertical tero as mesmas caractersticas e sero inde-
pendentes. Supondo que estes erros tenham uma distribuio normal, com
desvio padro e mdia 0 (as coordenadas do centro do alvo so 0,0), cal-
cule a expresso da probabilidade do dardo atingir uma regio de raio r em
torno do centro do alvo.
5. Mostre que a soma de duas variveis aleatrias X N(0,
2
X
) e Y
N(0,
2
Y
) uma varivel aleatria Z N(0,
2
Z
), onde
2
Z
=
2
X
+
2
Y
.
6. Prove (no exemplo 6 feita apenas uma demonstrao e no uma prova)
o teorema do limite central. Dica: Utilize a transformada de Fourier e a
expanso em srie da exponencial.
7. Seja X N(0,
2
X
). Determine a funo densidade de y = x
2
.
8. Calcule a mdia e a varincia da sada do reticador do item 3.
9. Sejam X e Y duas variveis aleatrias com funo de densidade de proba-
bilidade conjunta denida como:
29
f
XY
(x, y) =
_
0.25, 1 x 1 e 1 y 1
0, caso contrrio
X e Y so estatisticamente independentes?
10. Sejam X e Y duas variveis aleatrias independentes com funes de den-
sidade de probabilidade dadas por:
f
X
(x) =
1
2
e
|x|
f
Y
(y) = e
2|y|
ache a funo de densidade de probabilidade de X +Y .
11. A varivel aleatria gaussiana:
X =
_
x
1
x
2
_
completamente descrita pela mdia e matriz de covarincia dadas por
m
X
=
_
1
2
_
C
X
=
_
4 1
1 1
_
Considere outra varivel aleatria Y relacionada com X pela expresso
y = Ax +b
onde
A =
_
2 1
1 1
_
b =
_
1
1
_
Ache a mdia e a matriz de covarincia de Y .
30