Probabilidade e Estatistica

Tópicos Especiais em Telecomunicações I

Temática: Reconhecimento de Padrões

Prof. David Nascimento Coelho

1/
Agenda

● Probabilidade
● Probabilidade Condicional
● Variável Aleatória (VA)
● Operador Esperança
● VA Multidimensional
● Correlação e Covariância

2/
Probabilidade

● Modelo
● Representação de uma situação existente
● Explicar determinado comportamento, prevendo o
resultado de experimentos envolvendo tal situação.
● Matemático, físico, econômico, probabilístico....
● Modelos matemáticos
● Quando fenômeno observado tem propriedades
mensuráveis.

3/
Probabilidade

● Modelo determinístico
● Condições sob as quais um experimento é realizado
determinado o exato resultado desse experimento.
● Solução de um conjunto de equações especifica o
resultado do experimento.
● Modelo probabilístico
● Resultados variam, embora o experimento seja repetido
sob as mesmas condições.
● Possíveis resultados, faixa de resultados.

4/
Probabilidade

● Regularidade estatística
● Médias obtidas em longas sequências de repetições de
experimentos aleatórios tem o mesmo valor.
● Ex: Seleção de bola em urna com reposição.
● Resultado: um número do conjunto S = {0, 1, 2}
● Número de repetições: n
● Número de vezes que bola “k” é selecionada: 𝑁𝑘 𝑛
𝑁𝑘 𝑛
● Frequência relativa do resultado: 𝑓𝑘 𝑛 = 𝑛

5/
Probabilidade

● Probabilidade
● De acordo com a regularidade estatística:
𝑁𝑘 𝑛
● 𝑝𝑘 = lim
𝑛→∞ 𝑛

● Frequência que um evento ocorre, quando número de

realizações tende ao infinito.
● Probabilidades são determinadas, em modelos
estatísticos, pelas condições sob as quais um
experimento aleatório é realizado.

6/
Probabilidade

● Frequência relativa: Propriedades

● S = {1, ... , K} = conjunto de possíveis resultados
● n = número de repetições
● 0 ≤ 𝑁𝑘 𝑛 ≤ 𝑛
● 0 ≤ 𝑓𝑘 𝑛 ≤ 1
● σ𝐾
𝑘=1 𝑁𝑘 𝑛 = 𝑛

● σ𝐾
𝑘=1 𝑓𝑘 𝑛 = 1

7/
Probabilidade

● Modelo probabilístico: Construção

● Definir experimento aleatório
● Definir espaço amostral: S
● Conjunto de todos os resultados possíveis
● Definir casos de interesse: E (Eventos)
● Especificar as probabilidade para todos estes casos.

● Modelo probabilístico: Aplicações

● Sistemas de transmissão de voz, tráfego telefônico...

8/
Probabilidade

● Experimentos aleatórios
● Resultado “varia de forma imprevisível” quando o
experimento é repetido sob as mesmas condições.
● Ex1: lançar moeda 3x. Anotar número de caras.
● Ex2: escolher número real ao acaso entre 0 e 1. Anotar.

9/
Probabilidade

● Espaço amostral
● S = Conjunto de possíveis resultados.
● Quando realizado um experimento aleatório, apenas um
resultado (amostra) ocorre.
● Resultado de um experimento aleatório: ξ
● Discreto: se for contável.
● Contínuo: se não for contável.

10 /
Probabilidade

● Evento
● Subconjunto de S que satisfaz determinadas condições.
● Ex1: Número de caras ≥ 2
● Ex2: Número selecionado é < 0.3
● Evento certo: próprio conjunto S
● Evento nulo: não contém resultado possível.

11 /
Probabilidade

● Probabilidade
● Número que indica o quão “provável” é a ocorrência de
um evento quando um experimento é realizado
● Lei de probabilidade
● Função/regra que associa um número a um evento
● E: experimento aleatório.
● A: evento.
● P[A]: probabilidade de A.

12 /
Probabilidade

● Axiomas e Corolários
● 0≤𝑃 𝐴 ≤1
● 𝑃 𝑆 =1
● 𝑃 ∅ =0
● 𝑃 𝐴∪𝐵 =𝑃 𝐴 +𝑃 𝐵 −𝑃 𝐴∩𝐵
● 𝑃 𝐴𝑐 = 1 − 𝑃[𝐴]

13 /
Probabilidade

● Espaço amostral discreto

● Existe uma probabilidade associada a cada evento.
● Espaço amostral contínuo
● Probabilidades estão associadas a “intervalos da reta
real”
● Probabilidade de um “resultado específico” é “zero”.

14 /
Probabilidade

● Probabilidade Condicional
● Notação: 𝑃[𝐴|𝐵]
● “Probabilidade de um evento A, conhecida a
probabilidade do evento B”.
● “Probabilidade do evento A, dado que o evento B
ocorreu”.
𝑃[𝐴∩𝐵]
● 𝑃𝐴𝐵 = ,𝑃 𝐵 >0
𝑃[𝐵]

● 𝑃[𝐴 ∩ 𝐵] = 𝑃 𝐴 𝐵 . 𝑃 𝐵 = 𝑃 𝐵 𝐴 . 𝑃 𝐴

15 /
Probabilidade

● Probabilidade Total
● Considerando 𝐵1 , ... , 𝐵𝑛 eventos mutuamente exclusivos
● União destes eventos é o espaço amostral S
● Cada conjunto é uma partição do conjunto S
● 𝑃 𝐴 = 𝑃 𝐴 ∩ 𝐵1 + ⋯ + 𝑃 𝐴 ∩ 𝐵𝑛
● 𝑃 𝐴 = 𝑃 𝐴 𝐵1 . 𝑃 𝐵1 + ⋯ + ⋯ 𝑃 𝐴 𝐵𝑛 . 𝑃 𝐵𝑛

16 /
Probabilidade

● Eventos independentes
● Conhecimento do evento B não altera a probabilidade do
evento A.
𝑃[𝐴∩𝐵]
● 𝑃 𝐴 =𝑃 𝐴𝐵 =
𝑃[𝐵]

● 𝑃 𝐴 ∩ 𝐵 = 𝑃 𝐴 .𝑃 𝐵
● 𝑃 𝐵 =𝑃 𝐵𝐴

17 /
Variáveis Aleatórias

● Definição
● Variável aleatória (VA) X: função que associa um número
real X(ξ) a cada resultado ξ do espaço amostral.
● Domínio da VA: S
● Imagem da VA: conjunto 𝑆𝑥 de todos os valores obtidos
para X.
● Ex1: lança 3x moeda, anota sequência.
● S = {ccc, cck...} X = número de caras obtidas
● 𝑆𝑥 = {0,1,2,3} (obs: pode ser um função identidade)

18 /
Variáveis Aleatórias

19 /
Variáveis Aleatórias

● VA Discreta
● Assume apenas valores discretos (contáveis)
● {0,1} ; {0, 0.1, ... , 2} ; “peso em gramas”.

● VA Contínua
● Valores pertencem a um intevalo contínuo.
● Peso, altura, temperatura, pressão...

20 /
Variáveis Aleatórias

● Função Massa de Probabilidade (PMF)

● PMF: Probability mass function
● Probabilidade associada a cada um dos eventos discretos
● 𝑝𝑥 𝑥𝑘 = 𝑃[𝑋 = 𝑥𝑘 ]
● Ex1: valor de soma, ao lançar 2 dados.
1
● 𝑝𝑥 2 =
36

● Utilizada para variáveis discretas

● Obs: para variáveis contínuas 𝑃 𝑋 = 𝑥𝑘 = 0. Ex: [0,1]

21 /
Variáveis Aleatórias

● Função Distribuição Cumulativa (CDF)

● CDF: Cumulative distribution function
● Também chamada “função distribuição de probabilidade”
● Probabilidade do valor da variável aleatória ser menor
que determinado valor.
● 𝐹𝑥 𝑥 = 𝑃 𝑋 ≤ 𝑥 , 𝑥 ∈ ℜ

● Ex1: escolha aleatória de um número entre 0 e 1.

● 𝐹𝑥 0.4 = 𝑃 𝑋 ≤ 0.4

22 /
Variáveis Aleatórias

● Função Distribuição Cumulativa: Propriedades

● 0 ≤ 𝐹𝑥 𝑥 ≤ 1
● lim 𝐹𝑥 𝑥 = 1
𝑥→∞

● lim 𝐹𝑥 𝑥 = 0
𝑥→−∞

● 𝐹𝑥 𝑥 é não decrescente
● 𝐹𝑥 𝑥 é contínua à direita
● 𝑃 𝑎 < 𝑋 ≤ 𝑏 = 𝐹𝑥 𝑏 − 𝐹𝑥 𝑎
● VA Discreta: 𝐹𝑥 𝑥 = σ𝐾
𝑘=0 𝑃 𝑋 = 𝑥𝑘 𝑢(𝑥 − 𝑥𝑘 )

● 𝑃 𝑋 > 𝑥 = 1 − 𝐹𝑥 𝑥
23 /
Variáveis Aleatórias

● Função Densidade de Probabilidade (PDF)

● PDF: Probability Density Function
● É a derivada da CDF. 𝑓𝑥 𝑥 = 𝐹𝑥′ (𝑥).
● “Quantidade de probabilidade por unidade de medida”
● 𝑃 𝑥 < 𝑋 ≤ 𝑥 + ∆𝑥 = 𝐹𝑥 𝑥 + ∆𝑥 − 𝐹𝑥 𝑥
𝐹𝑥 𝑥+∆𝑥 −𝐹𝑥 𝑥
● ∆𝑥 ≈ 𝐹𝑥′ (𝑥)∆𝑥
∆𝑥

24 /
Variáveis Aleatórias

● Função Densidade de Probabilidade: Propriedades

● 𝑓𝑥 𝑥 ≥ 0
𝑏
● 𝑃 𝑎≤𝑋≤𝑏 = ‫𝑥𝑓 𝑎׬‬ 𝑥 𝑑𝑥
𝑥
● 𝐹𝑥 𝑥 = ‫׬‬−∞ 𝑓𝑥 𝑥 𝑑𝑥
+∞
● ‫׬‬−∞ 𝑓𝑥 𝑥 𝑑𝑥 = 1
1
● Ex1: Distribuição uniforme 𝑓𝑥 𝑥 = 𝑏−𝑎 , 𝑎 ≤ 𝑥 ≤ 𝑏
● Obs: pode existir para variáveis discretas
(vários impulsos)
25 /
Variáveis Aleatórias

● Variáveis aleatórias: Exemplos (discretas)

● Bernouilli: 𝐼𝑎 𝜉 = 0 𝑜𝑢 1
● 𝑃[𝑋 = 0] = 𝑝 e 𝑃[𝑋 = 1] = (1 − 𝑝)
● 𝐹𝑥 𝑥 = 𝑝𝑢 𝑥 + 1 − 𝑝 𝑢(𝑥 − 1)

● Binomial:
● Evento aleatório repetido “n” vezes

26 /
Variáveis Aleatórias

● Variáveis aleatórias: Exemplos (discretas)

● Geométrica
● Número de tentativas de um experimento até a ocorrência de
um sucesso.

● Poisson

27 /
Variáveis Aleatórias

● Variáveis aleatórias: Exemplos (contínuas)

● Uniforme
● Todos os valores são igualmente prováveis.
● Exponencial
● Modelagem do intervalo de tempo entre ocorrência de eventos
● Ex: demanda para conexão de chamadas telefônicas

28 /
Variáveis Aleatórias

● Variável aleatória Gaussiana

𝑥−𝜇 2
1 −
● 𝑓𝑥 𝑥 = 𝑒 2𝜎2 ,𝑥 ∈ ℜ
2𝜋𝜎

● Não existe função analítica para a CDF gaussiana.

𝑡 2
1 𝑥 −2
● ф 𝑥 = ‫𝑒 ׬‬ 𝑑𝑡
2𝜋 −∞
𝑥−𝜇
● 𝐹𝑥 𝑥 = ф
𝜎

(deve-se fazer a normalização da variável)

(tabelas de conversão)

29 /
Variáveis Aleatórias

● Variável aleatória Gaussiana

2
1 𝑥 −𝑡
● erf 𝑥 = ‫ 𝑒 ׬‬2 𝑑𝑡
2𝜋 0
1
● ф 𝑥 = + erf 𝑥
2
𝑥−𝜇 1 𝑥−𝜇
● 𝐹𝑥 𝑥 = ф = + erf
𝜎 2 𝜎
2
1 ∞ −𝑡
● 𝑄 𝑥 =1−ф 𝑥 = ‫׬‬𝑥
𝑒 2 𝑑𝑡
2𝜋
𝑥−𝜇
● 1 − 𝐹𝑥 𝑥 = 𝑃 𝑋 ≥ 𝑥 = 𝑄( )
𝜎

30 /
Variáveis Aleatórias

● Variável aleatória Gaussiana

31 /
Variáveis Aleatórias

● Variáveis Aleatórias: Exemplos

● Rayleigh
● RICE
● Nakagami
● Gamma
● LogNormal
● LogRayleigh
● ...

32 /
Medidas de Tendência Central e Dispersão

● Valor Esperado
● Esperança, Média...
● Variável Aleatória Discreta:
● Experimento foi realizado “N” vezes
● Frequência relativa: 𝑃 𝑋 = 𝑥𝑖 = 𝑛(𝑥
𝑁
𝑖)
, 𝑖 = 1, … , 𝑘

● Média aritmética: 𝑚𝑥 = σ𝑘𝑖=1 𝑥𝑖 𝑛(𝑥

𝑁
𝑖)
= σ𝑘𝑖=1 𝑥𝑖 𝑃[𝑋 = 𝑥𝑖 ]

● Esperança de 𝑋: E 𝑋 = 𝑚𝑥

33 /
Medidas de Tendência Central e Dispersão

● Valor Esperado
● Variável Aleatória Contínua:
+∞
● 𝐸 𝑋 = 𝑚𝑥 = ‫׬‬−∞ 𝑥𝑓 𝑥 𝑑𝑥

● Ex1: V.A. Distribuída uniformemente no intervalo [a,b]

● Ex2: V.A. Com distribuição gaussiana: 𝜇
● Obs1: afetado por valores extremos.
● Obs2: média estatística (teórico) x amostral (amostras)

34 /
Medidas de Tendência Central e Dispersão

● Mediana
● “É o valor que separa a metade maior e a metade menor
de uma amostra, uma população ou uma distribuição de
probabilidade”.
● “Percentils”
● Ex1: {1, 3, 3, 6, 7, 8, 9}
● Ex2: {3, 5, 7, 9}

35 /
Medidas de Tendência Central e Dispersão

● Moda
● “A moda amostral de um conjunto de dados trata do
valor que ocorre com maior frequência ou o valor mais
comum em um conjunto de dados”
● Útil para observações ou valores não numéricos
● Amostras amodais, unimodais, bimodais, multimodais

36 /
Medidas de Tendência Central e Dispersão

● Moda
● “A moda populacional de uma distribuição de
probabilidade discreta é o valor x, em que a função
massa de probabilidade atinge o valor máximo”.
● “A moda populacional de uma distribuição de
probabilidade contínua é o valor x, em que a função
densidade de probabilidade atinge o valor máximo”.

37 /
Medidas de Tendência Central e Dispersão

38 /
Medidas de Tendência Central e Dispersão

● Média Geométrica
● “n-ésima raiz da multiplicação de n termos”
● Utilizada quando compara-se diferentes itens
(encontrando uma única "figura representativa" para
esses itens) quando cada um desses itens possuem
múltiplas propriedades que possuem diferentes escalas
numéricas.
● Ex: Comparação entre duas companhias.
● Escala de 0 a 5 para suas sustentabilidades ambientais;
● Escala de 0 a 100 para suas viabilidades financeiras;
39 /
Medidas de Tendência Central e Dispersão

● Média Harmônica
● “Quantidade de elementos do conjunto, dividido pela
soma do inverso dos elementos do conjunto.
● Utilizada quando se trabalha com grandezas
inversamente proporcionais. Tende para valores menores
● Ex: Velocidade média, escoamento de água, F-score...
● Comparação entre médias
● Maior: Aritmética; Menor: Harmônica;
● Geométrica: “mais balanceada”
40 /
Medidas de Tendência Central e Dispersão

● Medidas de dispersão
● “Qual a variabilidade de uma V.A. em torno da média?”
● Variância
● “É a média aritmética dos quadrados dos desvios
“(𝑥𝑖 −𝑚𝑥 )”, em relação à média, dos N resultados de um
experimento”.

● Obs: “não tem a mesma dimensão da V.A.”

41 /
Medidas de Tendência Central e Dispersão

● Variância
● V.A. Contínua:

● Ex1: V.A. Uniformemente distribuida:

● Ex2: Gaussiana: 𝜎 2

42 /
Medidas de Tendência Central e Dispersão

● Desvio Padrão
● “Medida de dispersão em torno da média populacional
de uma variável aleatória”.
● Utilizado para expressar outros conceitos importantes
● Coeficiente de correlaçao, coeficiente de variação...
● Utilizado para medir confiança em experimentos
estatísticos

43 /
Medidas de Tendência Central e Dispersão

● Momentos de ordem k

● Momentos centrais de ordem k

● “Quanto maior a ordem, maior relevância para valores

extremos”.
● “Momentos de ordem impar: variações “acima ou abaixo
da média importam”.
44 /
Medidas de Tendência Central e Dispersão

● Assimetria (Skewness)
● “Medida da assimetria da distribuição de probabilidade
de uma variável aleatória de valor real sobre sua média”.
● Pode ser zero, positiva ou negativa.

45 /
Medidas de Tendência Central e Dispersão

● Assimetria (Skewness)
● “Momento de ordem central 3 dividido pela desvio
padrão elevado ao cubo”.

● Distribuição gaussiana: Skewness = 0

● Distribuição exponencial: Skewness = 2
46 /
Medidas de Tendência Central e Dispersão

● Curtose (Kurtosis)
● “É uma medida da "cauda" da distribuição de
probabilidade de uma variável aleatória de valor real”.

47 /
Medidas de Tendência Central e Dispersão

● Curtose (Kurtosis)
● “Momento de ordem central 4 dividido pela desvio
padrão elevado a 4ª potência”.
● Distribuição gaussiana: Kurtosis = 3

48 /
Variáveis Aleatórias Multidimensionais

● CDF Conjunta: Definição

● “Probabilidade dos valores de um vetor de variáveis
aleatórias ser menor que determinado vetor de valores”

49 /
Variáveis Aleatórias Multidimensionais

● CDF Conjunta: Propriedades

● Considerando um vetor de apenas duas V.A.
● 𝐹𝑋𝑌 é não decrescente.
● 𝐹𝑋𝑌 −∞, 𝑦1 = 𝐹𝑋𝑌 𝑥1 , −∞ = 0
● 𝐹𝑋𝑌 +∞, +∞ = 1
● 𝐹𝑋 𝑥 = 𝐹𝑋𝑌 𝑥, +∞ = 𝑃 𝑋 ≤ 𝑥, 𝑦 ≤ +∞ = 𝑃 𝑋 ≤ 𝑥
● 𝐹𝑌 𝑦 = 𝐹𝑋𝑌 +∞, 𝑦 = 𝑃 𝑌 ≤ 𝑦

50 /
Variáveis Aleatórias Multidimensionais

● PDF Conjunta: Definção

● Considerando 𝑋 um V.A. de dimensão n, com CDF 𝐹𝑋 𝑥Ԧ
diferenciável. Define-se uma PDF conjunta 𝑓𝑋 𝑥Ԧ por:

● Obs: PDFs marginais (ex)

𝑓𝑋1 (𝑥1 )

51 /
Variáveis Aleatórias Multidimensionais

● PDF Conjunta: Propriedades (para duas variáveis)

52 /
Variáveis Aleatórias Multidimensionais

● PDF Conjunta: Propriedades (generalizando)

53 /
Variáveis Aleatórias Multidimensionais

● PMF Conjunta: V.A. discretas (para duas variáveis)

54 /
Variáveis Aleatórias Multidimensionais

● PDF Gaussiana Multivariada

1 1 𝑇 𝐶 −1 (𝑥
● 𝑓𝑥Ԧ 𝑥Ԧ = 𝑒𝑥𝑝 − ( 𝑥
Ԧ − 𝜇)
Ԧ 𝑥 Ԧ − 𝜇)
Ԧ
(2𝜋)𝑝Τ2 𝐶𝑥 1Τ2 2

● 𝐶𝑥 e 𝐶𝑥−1 são, respectivamente, a determinante e a

inversa da matriz de covariância

● Resumidamente: 𝑥Ԧ ~ 𝑁(𝜇,
Ԧ 𝐶𝑥 )

55 /
Variáveis Aleatórias Multidimensionais

● PDF Gaussiana Multivariada

1 1
● 𝑓𝑥Ԧ 𝑥Ԧ = 1Τ2 𝑒𝑥𝑝 − 𝑄 𝑥
Ԧ
(2𝜋)𝑝Τ2 𝐶𝑥 2

● 𝑄 𝑥Ԧ = 𝑥Ԧ − 𝜇Ԧ 𝑇 𝐶𝑥−1 (𝑥Ԧ − 𝜇)
Ԧ

● 𝑄 𝑥Ԧ = Distância de mahalanobis

56 /
Variáveis Aleatórias Multidimensionais

● PDF Gaussiana Multivariada

57 /
Variáveis Aleatórias Multidimensionais

● PDF Gaussiana Multivariada (marginais)

58 /
Variáveis Aleatórias Multidimensionais

● Independência entre variáveis aleatórias

59 /
Variáveis Aleatórias Multidimensionais

● Independência entre variáveis aleatórias

60 /
Covariância e Correlação

● Covariância
● Para uma PDF de múltiplas variáveis, faz-se necessário
definir um momento estatístico que quantifique a
variação conjunta de duas variáveis aleatórias 𝑋𝑖 e 𝑋𝑗
quaisquer.
● A Covariância de 𝑋𝑖 e 𝑋𝑗 , 𝑖 ≠ 𝑗 é definida como:
● 𝑐𝑖𝑗 = 𝐸 𝑋𝑖 − 𝜇𝑖 𝑋𝑗 − 𝜇𝑗 , ∀𝑖, 𝑗
+∞ +∞
● 𝑐𝑖𝑗 = ‫׬‬−∞ ‫׬‬−∞ 𝑥𝑖 − 𝜇𝑖 𝑥𝑗 − 𝜇𝑗 𝑓𝑋𝑖𝑋𝑗 𝑥𝑖 , 𝑥𝑗 𝑑𝑥𝑖 𝑑𝑥𝑗

● Se 𝑖 = 𝑗: 𝑐𝑖𝑖 = 𝐸 𝑋𝑖 − 𝜇𝑖 2 = 𝜎𝑖2

61 /
Covariância e Correlação

● Correlação
● A correlação de 𝑋𝑖 e 𝑋𝑗 , 𝑖 ≠ 𝑗 é definida como:
● 𝑟𝑖𝑗 = 𝐸 𝑋𝑖 𝑋𝑗 , ∀𝑖, 𝑗
+∞ +∞
● 𝑟𝑖𝑗 = ‫׬‬−∞ ‫׬‬−∞ 𝑥𝑖 𝑥𝑗 𝑓𝑋𝑖 𝑋𝑗 𝑥𝑖 , 𝑥𝑗 𝑑𝑥𝑖 𝑑𝑥𝑗

● Relação entre medidas

● 𝑐𝑖𝑗 = 𝑟𝑖𝑗 − 𝜇𝑖 𝜇𝑗

● Obs: Covariância
● “Medida fraca de independência”. Se variáveis são
independentes, covariância é nula.
62 /
Covariância e Correlação

● Coeficiente de Correlação
● O coeficiente de correlação de 𝑋𝑖 e 𝑋𝑗 , 𝑖 ≠ 𝑗 é dado por:
𝑐𝑖𝑗 𝐸[(𝑥𝑖 −𝜇𝑖 )(𝑥𝑗 −𝜇𝑗 )]
● 𝜌𝑖𝑗 = = , ∀𝑖, 𝑗
𝜎𝑖 𝜎𝑗 𝜎𝑖 𝜎𝑗

● 𝜎𝑖 e 𝜎𝑗 são so desvios padrões das V.A. 𝑖 e 𝑗

● 𝜌𝑖𝑗 é uma versão “normalizada” de 𝑐𝑖𝑗

● −1 ≤ 𝜌𝑖𝑗 ≤ 1

● Se 𝜌𝑖𝑗 = 0, então 𝑥𝑖 e 𝑥𝑗 são não-correlacionadas

● Quanto mais próximo |𝜌𝑖𝑗 | estiver de 1, maior é a correlação
(positiva ou negativa) entre as variáveis

63 /
Covariância e Correlação

● Matriz de covariância
● As combinações 𝑐𝑖𝑗 , 𝑖 = 1, … , 𝑝, podem ser organizadas em
uma matriz de covariância:

𝐸[(𝑋1 − 𝜇1 )2 ] … 𝐸[(𝑋1 − 𝜇1 )(𝑋𝑝 − 𝜇𝑝 )]

𝐶𝑥 = … ⋱ …
𝐸[(𝑋𝑝 − 𝜇𝑝 )(𝑋1 − 𝜇1 )] … 𝐸[(𝑋𝑝 − 𝜇𝑝 )2 ]

● Os elementos da diagonal principal correspondem às

variâncias das p variáveis aleaórias do problema.
64 /
Covariância e Correlação

● Matriz de covariância (propriedades)

● Simétrica: 𝐶𝑥 = 𝐶𝑥𝑇
● Definida positiva: 𝑥 𝑇 𝐶𝑥 𝑥
(para qualquer vetor 𝑥 real não-nulo)
● Autovetores 𝜆𝑖 de 𝐶𝑥 são sempre positivos
● O determinante de 𝐶𝑥 é sempre positivo.
● Matriz de covariância (para duas V.A.)
𝜎12 𝜌𝜎1 𝜎2
● 𝐶𝑥 =
𝜌𝜎1 𝜎2 𝜎22
65 /
Covariância e Correlação

● Matriz de covariância
● 𝐶𝑥 = 𝐸[(𝑥Ԧ − 𝜇)( Ԧ 𝑇]
Ԧ 𝑥Ԧ − 𝜇)
● 𝐶𝑥 = 𝐸 𝑥Ԧ 𝑥Ԧ 𝑇 − 𝜇Ԧ𝜇Ԧ𝑇 = 𝑅𝑥 − 𝜇Ԧ𝜇Ԧ𝑇

● 𝑅𝑥 é chamada matriz de correlação

● As matrizes de covariância e correlação são equivalentes
caso 𝜇Ԧ = 0
● 𝐶𝑥 = 𝑅𝑥 = 𝐸 𝑥Ԧ 𝑥Ԧ 𝑇

66 /
Covariância e Correlação

● Gráficos de Dispersão (Scatter Plot)

● “representação de dados de duas (tipicamente) ou mais
variáveis organizadas em um gráfico”.
● Dados (amostras) são exibidos como uma coleção de
pontos, utilizando coordenada cartesianas.

67 /
Covariância e Correlação

● Gráficos de Dispersão (Pair Plot)

68 /
Processos Estocásticos

● Definição
● “Grosso modo, processo estocástico é uma generalização
do conceito de variável aleatória, em que uma segunda
componentes (em geral, a variável tempo) é utilizada na
caracterização de um evento ou experimento
probabilístico".
● Termos
● Determinístico x Estocástico (probabilístico)
● Aleatoriedade (Randomness); Incerteza (Uncertainty);

69 /
Processos Estocásticos

● Processo aleatório (exemplos)

● Número de pessoas em uma fila de banco
● Variação de preços no mercado de ações
● “Passeio aleatório”
● “Pontos em um círculo”
● “Cara e coroa em sequência”

70 /
Processos Estocásticos

● Processo aleatório (especificação)

● PMF (processo discreto)
● 𝑓𝑋1…𝑋𝑘 𝑥1 , … , 𝑥𝑘 = 𝑃[𝑋1 = 𝑥1 , … , 𝑋𝑘 = 𝑥𝑘 ]

● PDF (processo contínuo)

● 𝑓𝑋1…𝑋𝑘 𝑥1 , … , 𝑥𝑘

● “Um processo estocástico está especificado

completamente se ele está especificado até a ordem m
para qualquer valor de m”.
● Ex: um processo 𝑋(𝑡) é especificado até a 2ª ordem se, para
qualquer par de instantes (𝑡1 , 𝑡2 ) a PDF das V.A. é conhecida.
71 /
● Autocorrelação e autocovariância

● Autocorrelação
● O conteúdo de frequências de um processo depende da
velocidade com que a amplitude muda com o tempo.
● Pode-se medir pela correlação entra amplitudes em:
● 𝑡1 e 𝑡1 + 𝜏

● Variáveis aleatórias têm forte correlação se amplitudes

de um processo 𝑋(𝑡) são similares nos instantes 𝑡1 , 𝑡1 + 𝜏.
+∞ +∞
● 𝑅𝑋 𝑡1 , 𝑡2 = 𝐸 𝑋 𝑡1 𝑋 𝑡2 = ‫׬‬−∞ ‫׬‬−∞ 𝑥𝑦 𝑓𝑋(𝑡1)𝑋(𝑡2) 𝑑𝑥𝑑𝑦

72 /
● Autocorrelação e autocovariância

● Autocovariância
● “É o momento conjunto central das V.A. 𝑋 𝑡1 e 𝑋 𝑡2 para
quaisquer (𝑡1 , 𝑡2 ).

73 /
Processos Estocásticos

● Processos estocásticos estacionários

● Se sua média for constante:
𝑚𝑋 𝑡 = 𝑚, ∀𝑡
● Se sua autocorrelação é função, apenas da diferença
entre dois instantes:
𝑅𝑋 𝑡1 , 𝑡2 = 𝑅𝑋 𝜏 , 𝜏 = 𝑡1 − 𝑡2 , ∀𝑡1 , 𝑡2
● “estatísticas do processo não variam com o tempo”

74 /
Processos Estocásticos

● Densidade espectral de potência

● “Transformada de Fourier da função de autocorrelação”

● Ergodicidade
● Para processos ergódicos, as médias estatísticas podem
ser obtidas por meio de medias temporais realizadas a
partir de uma única função amostra, ou seja “ao longo”
do processo.
● A partir de um amostra, extrai-se estatísticas.
75 /
Processos Estocásticos

76 /