Multivariavel

Variveis Aleatrias Multidimensionais e Aplicaes a o co
Guilherme de Alencar Barreto

guilherme@deti.ufc.br Grupo de Aprendizado de Mquinas GRAMA a Programa de Ps-Graduaao em Engenharia de Teleinformtica o c a Universidade Federal do Cear UFC a http://www.deti.ufc.br/guilherme
G. A. Barreto
Variveis Aleatrias Multidimensionais e Aplicaoes a o c
O processamento de sinais mudou! No estamos mais na era na a qual a informao na forma de sinais eltricos processada por ca e e meio de tradicionais dispositivos analgicos. Ns estamos solida e, o o para o futuro previs vel, irrevogavelmente, no mago do a processamento de sinais digitais (amostrados ou discretos no tempo) aleatrios. o Charles W. Therrien, 1992
Discrete Random Signals and Statistical Signal Processing
G. A. Barreto
Contedo da Apresentao u ca
1 2 3 4 5 6 7 8 9 10
Introduo ca Funo Distribuio de Probabilidade Conjunta ca ca Funo Densidade de Probabilidade Conjunta ca Densidade de Probabilidade Gaussiana Vetor de Mdias e Matriz de Covarincia e a Estimao do Vetor de Mdias e da Matriz de Covarincia ca e a Contornos da Gaussiana Bivariada Densidades de Probabilidade Marginal e Condicionais Gerao de Variveis Aleatrias Multidimensionais no Matlab ca a o Aplicaes em Reconhecimento de Padres co o
G. A. Barreto
Pr-Requisitos e
Variveis Aleatrias Unidimensionais (mdia, varincia) a o e a Fundamentos de Geometria Anal tica e Algebra Linear Noes de Reconhecimento de Padres co o Noes de Matlab/Octave/Scilab co
G. A. Barreto
Referncias Importantes e
C. W. Therrien (1992). Discrete Random Signals and Statistical Signal Processing, 1st edition, Prentice Hall. A. Papoulis & S. U. Pillai (2001). Probability, Random Variables and Stochastic Processes, 4a edio, McGraw-Hill. ca A. Hyvrinen, J. Karhunen & E. Oja (2001). Independent a Component Analysis, John Wiley & Sons.
G. A. Barreto
Parte I Introduo ca
G. A. Barreto
ALEA JACTA EST

Traduo: Os dados esto lanados! ca a c General romano Jlio Csar ao tomar a deciso de cruzar com suas u e a legies o rio Rubico, que delimitava a divisa entre a Glia ao sul o a a do Alpes e o territrio da Itlia. o a
G. A. Barreto
Variveis Aleatrias Multidimensionais a o

Introduo ca
At agora estivemos tratando apenas de uma unica varivel e a aleatria X . o Em muitas aplicaes de ETI, faz-se necessrio medir e co a analisar mais de uma varivel aleatria ao mesmo tempo, por a o exemplo:
Processamento de Sinais Multidimensionais Processamento de Imagens Reconhecimento de Padres o Separao de Fontes ca Robtica Mvel o o Controle Robusto Multivarivel a
G. A. Barreto

Introduo ca
Nestas situaes, precisamos saber mais do que simplesmente co as leis de probabilidade de cada varivel individualmente. a Precisamos tambm das leis que regem a distribuio e ca conjunta destas variveis, visto que uma varivel pode estar a a relacionada estatisticamente com outra(s). Do exposto, importante dominar um conjunto de e ferramentas de modelagem que permitam qualicar e quanticar as leis de probabilidade que regem a distribuio ca simultnea das diversas variveis aleatrias associadas ao a a o problema de interesse.
G. A. Barreto

Vetores de Variveis Aleatrias a o
Denio de Vetor Aleatrio ca o Um vetor aleatrio um vetor cujas componentes so o e a variveis aleatrias: a o x = [x1 x2 xp ]T (1)
em que xi denota a i-sima componente do vetor, n a e e dimenso do vetor e o sobrescrito T representa o vetor a transposto. As componentes do vetor x podem ter signicados distintos (e.g. x1 pode ser temperatura, x2 velocidade, etc). Vetores aleatrios podem ser constitu o dos de uma linha (ou coluna) inteira de pixels de uma imagem digital.
G. A. Barreto

Denio de Vetor Aleatrio (cont.-1) ca o Um vetor aleatrio tambm pode ser constru a partir das o e do amplitudes de um sinal discreto no tempo em instantes consecutivos: x(n) = [x(n) x(n 1) x(n p)]T em que p dene uma janela deslizante que varre o sinal do in ao m. cio Esta maneira de construir vetores aleatrios muito comum o e em processamento estat stico de sinais e previso de a sries temporais. e (2)
G. A. Barreto

Denio de Vetor Aleatrio (cont.-2) ca o
G. A. Barreto

Denio de Vetor Aleatrio (cont.-3) ca o Por m, as componentes de um vetor aleatrio tambm o e podem de constitu das de sinais oriundos de diversas fontes (e.g. microfones ou eletrodos). Neste caso, costuma-se representar o vetor aleatrio no o instante n como: x(n) = [x1 (n) x2 (n) xp (n)]T em que xi (n) , por denio, a amostra do sinal xi no e ca instante n. Esta maneira de construir vetores aleatrios muito comum o e em problemas de separao de fontes e anlise de ca a componentes independentes.
c G. A. Barreto Variveis Aleatrias Multidimensionais e Aplicaoes a o c
(3)

Denio de Vetor Aleatrio (cont.-4) ca o
G. A. Barreto

Funo de Distribuio Acumulada (FDA) Conjunta ca ca Por denio, a FDA conjunta de duas variveis aleatrias ca a o quaisquer Xi e Xj dada por: e FXi Xj (xi , xj ) = P (Xi xi , Xj xj ) , i, j (4)
em que P () denota a probabilidade do evento entre a parnteses. Noe que xi e xj , so valores xos que as VAs Xi e e Xj , respectivamente, podem assumir. Vetorialmente, podemos escrever a Eq. (4) como Fx (x0 ) = P (x x0 ), em que x0 um vetor de valores xos. e
(5)

Propriedades da FDA Conjunta As seguintes propriedades so vlidas para a FDA conjunta de a a Xi e Xj , i, j:

1 2 3 4 5
0 FXi Xj (xi , xj ) 1. FXi Xj (, xj ) = FXi Xj (xi , ) = 0. FXi Xj (+, +) = 1. FXi Xj (xi , xj ) uma funo no-decrescente em xi e em xj . e ca a P (Xi a, b Yi c) = FXi Xj (a, b) FXi Xj (b, c).
G. A. Barreto

Grco T a pico de uma FDA Conjunta Gaussiana Bivariada Uma gura vale por mil palavras!
G. A. Barreto

Funo de Densidade de Probabilidade (FDP) Conjunta ca Por extenso, a FDP conjunta de Xi e Xj denida como: a e fXi Xj (xi , xj ) = 2 FXi Xj (xi , xj ) , xi xj i, j (6)
em que FXi Xj (xi , xj ) denota a FDA conjunta de Xi e Xj . Vetorialmente, podemos escrever a Eq. (6) como fx (x0 ) = Fx (x) |x=x0 x1 x2 xp (7)
em que x0 um vetor de valores xos. e
G. A. Barreto

Obtendo a FDA conjunta a partir da FDP Conjunta Pode-se chegar ` FDA conjunta a partir da FDP conjunta por a integrao da Eq. (7): ca
xi xj
FXi Xj (xi , xj ) =
fUi Uj (ui , uj )duj dui ,
i, j
(8)
Vetorialmente, podemos escrever a Eq. (8) como

x0
Fx (x0 ) = =
fx (x)dx
x0,1 x0,2 x0,p
(9) fx (x)dxp ...dx2 dx1
em que x0,i a i-sima componente do vetor x0 . e e


Propriedades da FDP Conjunta As seguintes propriedades so vlidas para a FDP conjunta de a a Xi e Xj , i, j:

1 2 3
fXi Xj (xi , xj ) 0.

fXi Xj (xi , xj )dxi dxj = 1.
fXi Xj (xi , xj )dxi dxj = P (xi < Xi xi + dxi , xj < Xj xj + dxj ). P (a < Xi b, c < Xj d) =
d b c a
fXi Xj (xi , xj )dxi dxj .
G. A. Barreto

Propriedades da FDP Conjunta (cont.-1) Em particular valor ressaltar a importncia da Propriedade 2, a escrevendo-a na forma vetorial:
fx (x)dx = 1 ,
(10)
onde temos uma integral mltipla. u Esta propriedade prov uma condio apropriada de e ca normalizao que uma verdadeira FDP conjunta deve ca satisfazer.
G. A. Barreto

Denio de Vetor Aleatrio Mdio ca o e O vetor aleatrio mdio denido como: o e e
= E[x] =
xfx (x)dx
(11)
= [E[X1 ] E[X2 ] E[Xp ]]T = [ em que i = E[Xi ] =
p ]T
xi fXi (xi )dxi
o valor esperado da i-sima componente de . e e
G. A. Barreto

Covarincia entre Variveis Aleatrias a a o
Para caracterizar fXi (xi ), basta geralmente determinar a 2 mdia (i ) e a varincia (i ) de Xi . e a J para uma FDP com mltiplas variveis, faz-se necessrio a u a a denir um momento estat stico que quantique a variao ca conjunta de duas variveis aleatrias, Xi e Xj , quaisquer. a o Denio de Covarincia ca a A covarincia de Xi e Xj , i = j, denida como: a e cij = E[(Xi i )(Xj j )],

i, j
(12)
(xi i )(xj j )fXi Xj (xi , xj )dxj dxi
2 Se i = j, ento cii = E[(Xi i )2 ] = i . a


Correlao entre Variveis Aleatrias ca a o
Um momento estat stico importante derivado da covarincia a e denido abaixo. Denio de Correlao ca ca A correlao de Xi e Xj , i = j, denida como: ca e rij = E[Xi Xj ],

i, j xi xj fXi Xj (xi , xj )dxj dxi
(13)
Exerc Proposto: Covarincia e Correlao cio a ca Mostrar que a covarincia e correlao esto relacionadas pela a ca a seguinte expresso: a cij = rij i j (14)

Coeciente de Correlao entre Duas Variveis Aleatrias ca a o
Denio de Coeciente de Correlao ca ca O coeciente de correlao de Xi e Xj , i = j, dado por: ca e ij = cij E[(Xi i )(Xj j )] = , i j i j i, j (15)
em que i e j so os desvios-padres das variveis i e j. e a o a Em poucas palavras, ij uma verso normalizada de cij , e a de tal forma que poss demonstrar que: e vel 1 ij 1
G. A. Barreto

Coeciente de Correlao entre Duas Variveis Aleatrias ca a o
Interpretao do Coeciente de Correlao ca ca Se 0 < ij 1, ento Xi e Xj esto positivamente a a correlacionadas. Quanto mais prximo estiver de 1, maior a correlao o e ca positiva entre Xi e Xj . Se 1 < ij < 0, ento Xi e Xj esto negativamente a a correlacionadas. Quanto mais prximo estiver de -1, maior a correlao o e ca negativa entre Xi e Xj . Se ij = 0, ento Xi e Xj so no-correlacionadas. a a a
G. A. Barreto

Independncia entre Variveis Aleatrias e a o
Denio de Independncia entre Variveis Aleatrias ca e a o p. Considere um vetor aleatrio x o
As componentes deste vetor so variveis aleatrias a a o independentes se a seguinte condio for satisfeita: ca fx (x) = fX1 (x1 ) fX2 (x2 ) fXp (xp )
p
(16) (17)
=
i=1
fXi (xi )
Em palavras, variveis aleatrias so ditas independentes a o a quando sua FDP conjunta puder ser fatorada no produto de suas FDPs individuais (marginais).
G. A. Barreto

Independncia entre Variveis Aleatrias e a o
Covarincia e Independncia a e Se xi e xj so variveis aleatrias independentes, ento a a o a

cij
(xi i )(xj j )fXi Xj (xi , xj )dxj dxi (xi i )(xj j )fXi (xi )fXj (xj )dxj dxi

(xi i )fXi (xi )dxi
(xj j )fXj (xj )dxj (18)
= 00=0 Conseqentemente, u cij = rij i j = 0

c G. A. Barreto
rij = i j
(19)

Matriz de Covarincia a
Costuma-se organizar todas as combinaes de cij , co i, j = 1, ..., p, em uma matriz de covarincia, Cx = [cij ]pp : a
E[(X1 1 )2 ] E[(X2 2 )(X1 1 )] . . . E[(Xp p )(X1 1 )] E[(X1 1 )(X2 2 )] . . . . . . E[(X1 1 )(Xp p )] . . . . . . E[(Xp p )2 ]
Cx =
Nota-se que os elementos da diagonal principal desta matriz correspondem `s varincias das p variveis aleatrias a a a o envolvidas no problema.
G. A. Barreto

Propriedades da Matriz de Covarincia a

1
A matriz Cx simtrica: e e Cx = CT x
A matriz Cx denida positiva: e xT Cx > 0, para qualquer vetor x real e no-nulo. a
Os autovalores i de Cx so sempre positivos. a O determinante de Cx sempre positivo. e
G. A. Barreto

Exerc Resolvido 1 (Matriz de Covarincia) cio a Dada a seguinte matriz: A= 1 0, 8 0, 8 4
Pede-se determinar se ela pode ser candidata a matriz de covarincia. a Soluo: ca

1 2 3
Logo de cara vemos que a matriz simtrica! e e Seu determinante positivo: det(A) = 3,36. e E seus autovalores so positivos: 1 = 0,8 e 2 = 4,2. a
Logo, conclu mos que a matriz A pode de fato ser uma matriz de covarincia. a

Forma Vetorial Podemos escrever a matriz Cx como Cx = E (x )(x )T em que T indica o vetor transposto. Desmembrando-se esta equao chega-se ` seguinte forma ca a alternativa da matriz de covarincia: a Cx = E xxT T = Rx
T
(20)
(21)
em que a matriz Rx chamada de matriz de correlao. e ca
G. A. Barreto

Forma Vetorial (cont.-1) Note que a matriz de covarincia Cx e a de correlao Rx a ca so equivalentes para = 0. a Neste caso temos que: Cx = Rx = E xxT Exerc Proposto 1 (Matriz de Covarincia) cio a Demonstrar a equivalncia entre as Eqs. (20) e (21). e (22)
G. A. Barreto
Parte II Estimao de Parmetros ca a
G. A. Barreto

Estimao de Parmetros ca a
Estimao do Vetor de Mdias e da Matriz de Correlao ca e ca Seja um conjunto de N observaes do vetor aleatrio co o p: x {x(1), x(2), ..., x(N )}
O vetor de mdias estimado pela seguinte expresso: e e a 1 x= N

N
x(i)
i=1
(23)
A matriz de correlao Rx estimada pela seguinte expresso: ca e a 1 Rx = N

N
x(i)xT (i)
i=1
(24)
G. A. Barreto

Estimao da Matriz de Covarincia ca a A matriz de covarincia pode ser estimada por meio da a seguinte expresso: a 1 Cx = N
N i=1
[x(i) x][x(i) x]T
(25)
Ou ento, atravs da seguinte expresso: a e a Cx = Rx xxT (26)
G. A. Barreto

Exemplo no Matlab: Funes nativas mean() e cov() co Os comandos a seguir ilustram como determinar o vetor de mdias e a matriz de covarincia para um conjunto de N e a observaes de um vetor aleatrio gaussiano de dimenso 2: c o a >> >> >> >> p=2; % dim. vetor aleatorio N=5000; % total de observacoes X=randn(N, p); % gera vetores aleatorios M=mean(X) M = 0.0097 -0.0027 >> Cx=cov(X) Cx = 1.0224 -0.0124 -0.0124 0.9887
G. A. Barreto

Exemplo no Matlab: Funo mcovar() ca A Eq. (25) pode ser implementada pela seguinte rotina: function C=mcovar(X) [N p]=size(X); soma=zeros(p); [N p]=size(X); M=sum(X)/N; % vetor de medias for i=1:N, soma = soma + (X(i,:)-M)*(X(i,:)-M); end C=soma/N; % Matriz de covariancia Para executar no Matlab: >> Cx = mcovar(X);

Estimando a Matriz de Covarincia pela Funo mcovar() a ca A matriz estimada pela rotina mcovar dada por: e >> Cx=mcovar(X) % Funcao criada no Matlab Cx = 1.0222 -0.0124 -0.0124 0.9885 Exerc Computacional Proposto cio Implementar a Eq. (26) como uma rotina do Matlab chamada mcovar2 e comparar o resultado com o gerado pela funo ca pronta cov e pela rotina mcovar.
G. A. Barreto
Parte III Densidade Gaussiana Multivarivel a
G. A. Barreto

Densidade Gaussiana Multidimensional
FDP Gaussiana Multivariada A funo densidade de probabilidade gaussiana (ou normal) ca multivariada denida pela seguinte expresso: e a fx (x) = 1 (2)p/2 |C
x
|1/2
1 exp (x )T C1 (x ) x 2
em que |Cx | e C1 denotam, respectivamente, o x determinante e a inversa da matriz de covarincia. a Resumidamente, escrevemos que um vetor aleatrio x p o est distribu segundo uma FDP gaussiana multivariada da a do seguinte forma: x N (, Cx )
G. A. Barreto

FDP Gaussiana Multivariada (cont.-1) Alternativamente pode-se escrever a FDP gaussiana multivariada como: fx (x) = em que Q(x) = (x )T C1 (x ) x em que a raiz quadrada de Q(x) chamada de Distncia de e a Mahalanobis. 1 (2)p/2 |C
x
|1/2
1 exp Q(x) 2
G. A. Barreto

FDP Gaussiana Bivariada Considerando p = 2, o vetor aleatrio e o vetor de mdias o e passam a ser representados como: x= x1 x2 e = 1 2 (27)
Logo, a matriz de covarincia Cx reduz-se a uma matriz a quadrada de ordem 2: Cx = E[(x1 1 )2 ] E[(x1 1 )(x2 2 )] E[(x2 2 )(x1 1 )] E[(x2 2 )2 ]
G. A. Barreto

FDP Gaussiana Bivariada (cont.-1) Uma forma alternativa da matriz de covarincia para o caso a bidimensional dada por: e Cx =
2 1 1 2 2 1 2 2
(28)
em que chamado de Coeciente de Correlao entre x1 e e ca x2 : E[(x1 1 )(x2 2 )] c12 = = (29) 1 2 1 2 em que 1 e 2 so os desvios-padres de x1 e x2 , a o respectivamente.
G. A. Barreto

FDP Gaussiana Bivariada (cont.-2) Assim, o determinante da matriz de covarincia dado por: a e |Cx | =
2 1 2 1 2 1 2 2
2 2 = 1 2 (1 2 )(1 2 )
(30)
= (1
2 2 )1 2
E a inversa da matriz de covarincia dada por: a e 2 2 1 1x |2 2 2 2 (12 )1 (12 )1 2 |C = C1 = |Cx | 2 x 1 1 1 2 2 2 2 |Cx| (12 )1 2 (12 )2 |Cx |

FDP Gaussiana Bivariada (cont.-3) Finalmente, podemos escrever a FDP gaussiana bivariada como: fx (x1 , x2 ) = em que
Q(x1 , x2 ) = 1 (1 2 ) (x1 1 )2 2(x1 1 )(x2 2 ) (x2 2 )2 + 2 2 1 1 2 2
1 21 2 1 2
1 exp Q(x1 , x2 ) , 2
(31)
G. A. Barreto

FDP Gaussiana Bivariada (cont.-4) Parmetros: 1 = 2 = 0, 1 = 1, 2 = 2 e = 0,5. a

PDF Gaussiana Bivariada (=0.5)
0.1 0.08 0.06 0.04 0.02 0 6 4 2 0 2 4 X2 6 4 X1 2 0 2 4 6
G. A. Barreto

FDPs Marginais da FDP Gaussiana Bivariada As PDF gaussianas marginais de X1 e X2 so dadas pelas a seguintes expresses (Demonstrar!): o
fX1 (x1 ) = = fX2 (x2 ) = =
fx (x1 , x2 )dx2
1 (x1 1 )2 exp 2 21 21
fx (x1 , x2 )dx1
1 (x2 2 )2 exp 2 22 22
G. A. Barreto

FDPs Marginais da FDP Gaussiana Bivariada (cont.-1) Parmetros: 1 = 2 = 0, 1 = 2 = 1 e = 0.
G. A. Barreto

FDPs Condicionais a partir da FDP Gaussiana Bivariada PDFs gaussianas condicionais em x1 ou x2 podem ser obtidas a partir das seguintes expresses: o fx (x1 |x2 ) = fx (x1 , x2 ) fx2 (x2 ) ou fx (x2 |x1 ) = fx (x1 , x2 ) (32) fx1 (x1 )
Para um valor espec co de x1 ou x2 , digamos x , estas expresses podem ser escritas como: o fx (x1 |x2 = x ) = fx (x2 |x1 = x ) =
c G. A. Barreto
fx (x1 , x2 = x ) fx2 (x2 = x ) fx (x1 = x , x2 ) fx1 (x1 = x )
ou
(33) (34)

FDPs Condicionais a partir da FDP Gaussiana Bivariada (cont.-1) Parmetros: x2 = x = 1, 1 = 2 = 0, 1 = 2 = 1 e = 0.
G. A. Barreto

FDP Gaussiana Bivariada com = 0. Quando = 0, tem-se as seguintes conseqncias para a ue matriz de covarincia, seu determinante e sua inversa: a Cx =
2 1 0 2 0 2
1 2 1
2 2 |Cx | = 1 2
C1 = x
0
1 2 2
G. A. Barreto

FDP Gaussiana Bivariada com = 0. (cont.-1) Note que com = 0, podemos escrever a FDP gaussiana bivariada como: fx (x1 , x2 ) = 1 1 (x1 1 )2 (x2 2 )2 exp + 2 2 21 2 2 1 2
Ou seja, podemos escrever: fx (x1 , x2 ) = 1 e 21
(x1 1 )2 2 2 1
1 e 22
(x2 2 )2 2 2 2
= fX1 (x1 ) fX2 (x2 )
(35)
G. A. Barreto

No-Correlao e Independncia a ca e Regra Geral: Se variveis aleatrias so independentes, ento elas a o a a tambm so no-correlacionadas! e a a O racioc inverso no vlido: nio a e a Se variveis aleatrias so no-correlacionadas, isto a o a a no implica que elas sejam independentes! a A Eq. (35) revela uma importante exceo ` regra geral: ca a Variveis aleatrias gaussianas no-correlacionadas a o a so sempre independentes!! a
G. A. Barreto

FDP Gaussiana Multivariada com = 0 Para vetores aleatrios x p , a sua matriz de covarincia e o a o determinante desta so dados por: a 2 1 0 0 0 2 0 2 2 2 2 Cx = . = diag(1 , 2 , ..., p ) . .. . . . . . . . .
2 p p
pp
2 2 2 |Cx | = 1 2 p =
2 i i=1
G. A. Barreto

FDP Gaussiana Multivariada com = 0 (cont.-1) Conseqentemente, u por: 1 0 2 1 0 1 2 2 C1 = . x . . 0 0 a matriz de coviarincia inversa dada a e .. . 0 0 . . .
1 2 p
= diag
pp
1 1 1 2 , 2 , ..., 2 1 2 p
G. A. Barreto
Parte IV Anlise dos Contornos da Gaussiana Bivariada a
G. A. Barreto

Contornos da FDP Gaussiana Bivariada Vimos que o grco da FDP gaussiana bivariada consiste em a uma superf tridimensional. cie Na prtica, no h necessidade de desenhar esta superf a a a cie toda vez que o interesse for a anlise qualitativa da a correlao entre duas variveis aleatrias xi e xj . ca a o Esta anlise, pode ser feita numericamente atravs do a e coeciente de correlao ij , ou atravs das Curvas de ca e Contorno.
G. A. Barreto

Contornos da FDP Gaussiana Bivariada Uma curva de contorno a curva formada pelo lugar e geomtrico dos pontos (x1 , x2 ) que satisfazem a equao e ca fx (x1 , x2 ) = C, em que C > 0 uma constante. e Matematicamente, isto o mesmo que escrever: e 1 fx (x1 , x2 ) exp Q(x1 , x2 ) 2 em que
Q(x1 , x2 ) = 1 (1 2 ) (x1 1 )2 2(x1 1 )(x2 2 ) (x2 2 )2 + 2 2 1 1 2 2
= C,
(36)
G. A. Barreto

Contornos da FDP Gaussiana Bivariada (cont.-1) Geometricamente,uma curva de contorno a curva fechada e constitu pelo perl resultante de um corte transversal da da superf fx (x1 , x2 ) a uma altura C. cie
PDF Gaussiana bivariada fX
1
(x , x ) e curvas de contorno 1 2
0.05 0.04
(x1,x2)
X X
0.03 0.02 0.01 0 4 2 0 2 2 4 4 2 0 4
X2
X1
G. A. Barreto

Contornos da FDP Gaussiana Bivariada (cont.-2) Aps alguma manipulao algbrica chega-se ` seguinte o ca e a expresso: a (x1 1 )2 2(x1 1 )(x2 2 ) (x2 2 )2 + = C (37) 2 2 1 2 1 2 A forma da curva da Eq. (37) depende dos valores de , 1 e 2 . Dois casos de interesse sero estudados a seguir, a saber: a
1 2
Variveis No-Correlacionadas ( = 0) a a Variveis Correlacionadas ( = 0) a
G. A. Barreto

Contornos da FDP Gaussiana Bivariada ( = 0) Neste caso, a Eq. (37) reduz-se ` seguinte expresso: a a (x1 1 )2 (x2 2 )2 + =C 2 2 1 2 (38)
a partir da qual, aps dividir ambos os lados por C, chega-se o forma cannica da elipse: (x1 1 )2 (x2 2 )2 + =1 ( C1 )2 ( C2 )2 (39)
Esta elipse tem centro na coordenada (1 , 2 ) e os comprimentos dos semi-eixos so dados por C1 e C2 . a

Contornos da FDP Gaussiana Bivariada ( = 0) (cont.-1) Temos 3 casos a considerar: 1 > 2 - Elipse com eixo maior ao longo da reta x2 = 0, ou seja, mais alongada na horizontal. 1 < 2 - Elipse com eixo maior ao longo da reta x1 = 0, ou seja, mais alongada na vertical. 1 = 2 - Elipse degenerada em uma circunferncia. A gura no slide a seguir ilustra os trs casos supracitados.
G. A. Barreto

Contornos da FDP Gaussiana Bivariada ( = 0) (cont.-2)

X2
C 2 2 C 2 1
X1
1 > 2
1 < 2
1 = 2
G. A. Barreto

Contornos da FDP Gaussiana Bivariada ( = 0) Neste caso, a Eq. (37), continua representando uma curva de contorno em forma de elipse. Contudo, torna-se importante conhecer o efeito introduzido pelo termo 2(x1 1 )(x2 2 ) , (40) 1 2 no desenho da elipse. Para facilitar a anlise, vamos assumir 1 = 2 = 0 e a 1 = 2 = 1. Assim, a Eq. (37) passa a ser escrita da seguinte maneira: x2 2x1 x2 + x2 = C 1 2
c G. A. Barreto
(41)

Contornos da FDP Gaussiana Bivariada ( = 0) (cont.-1) A Eq. (41) pode ser reorganizada de tal modo a representar uma equao do segundo grau em x2 : ca ax2 + bx2 + c = 0 2 em que a = 1, b = 2x1 e c = x2 C2 . 1 (42)
As ra desta equao so calculadas pela seguinte zes ca a expresso: a b b2 4ac x2 = (43) 2a Usando a Eq. (42), dene-se primeiramente uma faixa de valores para x1 e, em seguida, os valores de x2 so calculados a para cada valor de x1 usando a Eq. (43).

Contornos da FDP Gaussiana Bivariada ( = 0) (cont.-2) A gura abaixo ilustra uma curva de contorno para variveis a aleatrias x1 e x2 correlacionadas positivamente ( = 0,5). o
Curva de Contorno Variaveis Gaussianas Correlacionadas 4 3 2 1
2
Reta suporte (eixo maior)
0 1 2 3 4 4
0 X
G. A. Barreto

Contornos da FDP Gaussiana Bivariada ( = 0) (cont.-3) A gura abaixo ilustra uma curva de contorno para variveis a aleatrias x1 e x2 correlacionadas negativamente ( = -0,5). o
Curva de Contorno Variaveis Gaussianas Correlacionadas 4 3 Reta suporte 2 1
X2
0 1 2 3 4 4
0 X
G. A. Barreto

Contornos da FDP Gaussiana Bivariada ( = 0,8) (cont.-4) Parmetros: 1 = 2 = 0, 1 = 1 e 2 = 2. a

120
100
0.15
80
0.1
f(x1,x2)
60
0.05 3 2 1 0 6 0 4 1 2 0 x2 2 2 4 6 3 x1
40
20
10
20
30
40
50
60
G. A. Barreto

Gerao de Vetores Aleatrios Gaussianos Correlacionados ca o Passo 1 - Gerar vetores aleatrios gaussianos no o a -correlacionados: >> X=randn(p,N); Passo 2 - Especicar a matriz de covarincia desejada Cd : a >> Cd=[1 0.79;0.79 4]; Passo 3 - Aplicar a Decomposio de Cholesky ` matriz Cd : ca a >> A=chol(Cd); Passo 4 - Aplicar transformao linear aos dados originais: ca >> Y=A*X; Passo 5 - Conferir se a matriz de covarincia estimada Cd a est de acordo com a matriz terica Cd . a o

Resultados da Aplicao do Algoritmo do Slide Anterior (cont.-1) No-correlacionados (esquerda) e Correlacionados (direita). a
4 8 3 6
4 5
8 4
G. A. Barreto

Resultados da Aplicao do Algoritmo do Slide Anterior (cont.-2) Para este problema a matriz de covarincia estimada Cd a resultante foi: >> Cd=cov(Y) Cd = 0.9983 0.7836 0.7836 3.9609 0, 79 = = 0, 395 1 4
O coeciente de correlao terico dado por: ca o e 1 2 = 0, 79
O coeciente de correlao estimado dado por: ca e 1 2 = 0, 7836

c
G. A. Barreto
0, 7836 = 0, 3941 0, 9983 3, 9609

Multivariavel

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Multivariavel

Enviado por

Direitos autorais:

Formatos disponíveis

Variveis Aleatrias Multidimensionais e Aplicaes a o co

Guilherme de Alencar Barreto

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

ALEA JACTA EST

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Denio de Vetor Aleatrio (cont.-2) ca o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais a o

Denio de Vetor Aleatrio (cont.-4) ca o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais a o

Propriedades da FDA Conjunta As seguintes propriedades so vlidas para a FDA conjunta de a a Xi e Xj , i, j:

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

em que x0 um vetor de valores xos. e

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

fUi Uj (ui , uj )duj dui ,

Vetorialmente, podemos escrever a Eq. (8) como

(9) fx (x)dxp ...dx2 dx1

em que x0,i a i-sima componente do vetor x0 . e e

Variveis Aleatrias Multidimensionais a o

Propriedades da FDP Conjunta As seguintes propriedades so vlidas para a FDP conjunta de a a Xi e Xj , i, j:

fXi Xj (xi , xj )dxi dxj = 1.

fXi Xj (xi , xj )dxi dxj .

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Denio de Vetor Aleatrio Mdio ca o e O vetor aleatrio mdio denido como: o e e

= [E[X1 ] E[X2 ] E[Xp ]]T = [ em que i = E[Xi ] =

xi fXi (xi )dxi

o valor esperado da i-sima componente de . e e

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

(xi i )(xj j )fXi Xj (xi , xj )dxj dxi

2 Se i = j, ento cii = E[(Xi i )2 ] = i . a

Variveis Aleatrias Multidimensionais a o

i, j xi xj fXi Xj (xi , xj )dxj dxi

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Variveis Aleatrias Multidimensionais e Aplicaoes a o c

Variveis Aleatrias Multidimensionais a o

Denio de Independncia entre Variveis Aleatrias ca e a o p. Considere um vetor aleatrio x o