Notas de Aula

Convergência de Variáveis Aleatórias

Jun - 2012
Sumário

1 Tipos de Convergência 2
1.1 Convergência em Probabilidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2 Convergência Quase Certa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2.1 Borel-Cantelli . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.3 Convergência em Distribuição . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.4 Teoremas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.5 Exercı́cios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

2 Lei dos Grandes Números (LGN) 4

2.1 Alguns resultados importantes: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.1.1 Para a lei fraca: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.1.2 Para a lei forte: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

3 Teorema Central do Limite (versão iid) 6

3.1 Demonstração . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
3.1.1 Para média zero . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
3.1.2 Para média qualquer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
3.2 Resultados Adicionais . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

4 Apêndice 8
4.1 Resumo - Desigualdades . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
4.2 Exercı́cios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

1
Capı́tulo 1

Convergência de Variáveis Aleatórias

1.1 Convergência em Probabilidade

Uma sequência de va’s Yn converge em probabilidade para a va Y se, ∀ > 0,
n→∞
lim P (|Yn − Y | > ) = 0, ou P (|Yn − Y | > ) −−−−→ 0.
n→∞
P
- Notação: Yn − → Y.
obs: Y não precisa ser va!

- Exemplo: Seja a sequência de va’s Xn tais que:

P
P (Xn = 1) = n1 e P (Xn = 0) = 1 − n1 , onde Xn ∼ Ber( n1 ). Mostre que Xn −
→ 0.

1.2 Convergência Quase Certa

n→∞
Uma sequência de va’s Yn converge quase certamente (ou quase sempre) para a va Y se P (Yn −−−−→ Y ) =
n→∞
1, onde o evento {Yn −−−−→ Y } é equivalente ao evento:
n→∞
{ω ∈ Ω : lim Yn (ω) = Y (ω)}. Assim, Yn −−−−→ Y ↔ lim Yn (ω) = Y (ω)
n→∞ n→∞
q.c
- Notação: Yn −−→ Y
obs: Y não precisa ser va!

1.2.1 Lema de Borel-Cantelli

Sejam (An )n≥1 eventos independentes quaisquer formando uma sequência:
∞
P
1. P (An ) < ∞ ⇒ P (”An ocorrer infinitas vezes”) = 0
n=1

∞
P
2. P (An ) = ∞ ⇒ P (”An ocorrer infinitas vezes”) = 1
n=1

An = ”O macacon digitou todas as obras de Shakespeare sem erro”; P (An ) = p > 0. Supondo que o
∞
P ∞
P
desempenho de um macaco é independente do desempenho de outro macaco. Como P (An ) = p=∞
n=1 n=1
⇒ infinitos macacos conseguirão! Pois P(An ocorrer infinitas vezes) = 1.

2
1.3 Convergência em Distribuição
Uma sequência de va’s (Yn )n≥1 com função de distribuição FYn converge em distribuição para Y , cuja função
de distribuição é FY , se: lim FYn = FY (em todos os pontos de continuidade de F.)
n→∞
D
- Notação: Yn −→ Y
q.c P D
Pode-se mostrar que: Yn −−→ Y ⇒ Yn −
→ Y ⇒ Yn −→ Y.

- obs:
• lim (P (|Yn − Y )| > )) = 0 (convergência em probabilidade);
n→∞

• P (|Yn − Y | > , ∀n > n0 ) = 0 (convergência ”quase certa”).

1.4 Teoremas
D n→∞
1. Xn −→ X ⇒ E[g(Xn )] −−−−→ E[(g(X)] para g(.) contı́nua e limitada;

(
Ψ é função caracterı́stica de uma va X;
2. lim ΨXn (t) = Ψ(t) e Ψ é contı́nua em t = 0 ⇒ D
n→∞ Xn −→ X.

Além disso,

D n→∞
Xn −→ X ⇔ ΨXn (t) −−−−→ ΨX (t) e ΨX é contı́nua em t = 0.

1.5 Exercı́cios
Xn
- Exercı́cio 1: Seja X1 , X2 , ... uma sequência de va’s iid’s expo(1). Defina a sequência Yn = ln(n) , n ≥ 2.
P q.c
Mostre que Yn −
→ 0 e Yn −−→ 0

1
- Exercı́cio 2: X1 , ..., Xn , ... é sequência de va’s independentes tais que P(Xn = 1) = n e P (Xn = 0) =
1 P q.c
1− n. Vimos que Xn −
→ 0. Mas Xn −−→ 0 ?

- Exercı́cio 3: X1 , ..., Xn , ... sequência de va’s iid’s da U(0,1). Seja Yn = n−xn . Mostre que
P
Yn −
→ 0, n > 1.
n→∞ D
- Exercı́cio 4: Se Xn ∼ Bin(n,pn ), onde n.pn −−−−→ λ, então Xn −→ P oisson(λ)

- Exercı́cio 5: (Xn )n≥1 sequência de va’s independentes U(0,1). Para qual distribuição converge a
sequência Yn = n(1 − X(n) )?

3
Capı́tulo 2

Lei dos Grandes Números (LGN)

Seja E um experimento com um espaço amostral Ω e uma va associada. Realizando o experimento n ve-
zes (independentemente) teremos uma sequência (Xn )n≥1 (amostra aleatória). A LGN diz que: ”A média
aritmética de X1 , ..., Xn se aproxima de E(X) quando n cresce.”

- Pergunta: Uma sequência X1 , ..., Xn de va’s sempre satisfaz a LGN?

Seja X1 , X2 ,... uma sequência de va’s com E(Xi ) < ∞ e defina S1 , S2 , ... a sequência de somas parciais,
n
P
isto é, Sn = Xi . Assim:
i=1

Sn −E(Sn ) P
1. (Xn )n≥1 satisfaz a lei fraca dos grandes números (LFr GN) se, n −
→0

Sn −E(Sn ) q.c
2. (Xn )n≥1 satisfaz a lei forte dos grandes números (LFo GN) se, n −−→ 0

obs: Se as va’s (Xn )n≥1 , ... são idênticas (id), temos:

Sn −E(Sn ) Sn nE(X)
n = n - n = X̄n - E(X) e, portanto:

P q.c
X̄n −
→ E(X) (LFr GN) ; X̄n −−→ E(X) (LFo GN)

2.1 Alguns resultados importantes:

2.1.1 Para a lei fraca:
1. Tchebychev: Seja uma sequência de va’s (Xn )n≥1 , ... independentes 2 a 2 com variâncias finitas e
uniformemente limitadas (∗) . Então, (Xn )n≥1 satisfaz a LFr GN.

(∗)
obs: ∃ k, (k ∈ R) | Var(Xi ) ≤ k, ∀i

- Demonstração: Queremos mostrar que

(∗∗)
lim P (| Sn −E(S
n
n)
− 0| > ) = 0, ∀ > 0
n→∞
n
P
V ar(Xi )
V ar( Snn ) V ar(Sn )
P (| Snn − E( Snn )| > ) ≤ 2 = n2 2 = i=1
n2  2 ≤ nk
n2 2 = k
n2

4
 k n→∞ (∗∗)
Como n2 −−−−→ 0, temos que vale. Logo, satisfaz a LFr GN.

2. Khintchin: Seja uma sequência de va’s iid’s com E(Xi ) < ∞. Então (Xn )n≥1 satisfaz a LFr GN.

- Exemplo: Sejam X1 , ..., Xn , ... va’s iid’s Poisson(λ). Qual o limite em probabilidade das sequências
abaixo?

X12 +X22 +...+Xn

2
• Yn = n , n≥1
X1 +X2 +...+Xn
• Yn = n , n≥1

2.1.2 Para a lei forte:

1. 1a lei de Kolmogorov: Seja uma sequência de va’s independentes e integráveis (∃ E(Xi )) e E((|Xi |) <
∞) tais que:
∞
P V ar(Xn )
n2 <∞
n=1

Então a sequência (Xn )n≥1 satisfaz a LFo GN.

2. 2a lei de Kolmogorov: Seja uma sequência de va’s iid’s com E(Xi ) < ∞. Então a sequência (Xn )n≥1
satisfaz a LFo GN.

- Exemplo: Seja o experimento ”lançar uma moeda honesta e observar a face resultante”. Defina a
n
P
Xi

1, se for cara i=1
va X = Suponha que o experimento é repetido indefinidamente e defina X̄n = n .
0, c.c
Para onde converge X̄n ? Qual o tipo de convergência?

5
Capı́tulo 3

Teorema Central do Limite (versão

iid)

n
Seja uma sequência de va’s iid’s X1 , X2 , ... com E(X) = µ e V ar(x) = σ 2 . Defina Sn =
P
Xi , então:
i=1

Sn −E(Sn ) D
√ −→ N (0, 1)
V ar(Sn )

D
√n −E(Sn ))/n =
Note: (S −µ
X̄n√
σ/ n
−→ N(0,1)
V ar(Sn )/n

- Idéia: A distribuição da média amostral converge para a normal!

Sn −E(Sn )
E se os Xi ’s não foram iid’s? Existe uma versão do TCL que garante a convergência de √ para a
V ar(Sn )
N(0,1) a partir de duas condições a serem satisfeitas: Liapunov e Lindberg (basta usar uma delas e a outra
também será satisfeita).
D
(Ber + Pois + Exp + Gama + ... (indep’s) −→ normal)

3.1 Demonstração via Função Caracterı́stica

E[Sn ] = nE[Xi ] = nµ
V ar[Sn ] = nV ar[Xi ] = nσ 2

3.1.1 1◦ caso: µ = 0
−t2
É preciso mostrar que Ψ Sn
√
(t) → e 2 .
σ n

Usando propriedades, a expressão de Taylor de Ψ em torno de t = 0 é:

n
1
ΨXi ( σ√t n ) = [ΨXi ( σ√t n )]n
Q
Ψ Sn
√
(t) = ΨSn ( σ√ n
t) =
σ n
i=1
2 2
σ 2 t2
Ψ(t) = Ψ(0) + Ψ(1) (0) 1!t + Ψ(2) (0) t2! + ... = 1 + iE[X]t + i2 E[X 2 ] t2 + ... = 1 + 0 - 2 + ...
σ 2 t2
−t2
t2 t2 1
Ψ Sn
√
(t) = [1 − σ2 n
2 + ...]n = [1 − 2n + ...]n = lim Ψ Sn
√
(t) = lim [1 − 2 n + ...]n = e 2
σ n n→∞ σ n n→∞

6
3.1.2 2o caso: µ qualquer
E[Yi ] = 0;


V ar[Yi ] = σ 2 ;


n
P n
P 
(Xi −µ) Yi

 n
Sn −E[Sn ]
√ = √ i=1
P
= n=1
√
nσ 2
, onde Yi = Xi − µ ⇒ E[ Yi ] = 0;
V ar[Sn ] V ar[Sn ]  i=1
n


 V ar[ Yi ] = nσ 2 .

 P
i=1

Logo, pelo anterior:

Sn −E[Sn ] D
√ −→ N(0,1)
V ar[Sn ]

Note que a distribuição das va’s Xi não é dada!

3.2 Alguns resultados importantes adicionais

Seja uma sequência de va’s X1 , X2 , ... e g:R → R uma função contı́nua. Então:

D D
• Xn −→ X ⇒ g(Xn ) −→ g(X)
P P
• Xn −
→ X ⇒ g(Xn ) −
→ g(X)
q.c q.c
• Xn −−→ X ⇒ g(Xn ) −−→ g(X)

- Exemplos:

1. E(Xi ) = µ; X1 , X2 , ... é sequência de va’s i.i.d’s não-negativas que satisfaz a lei forte dos grandes
números.
n
Q 1
lim ( Xi ) n → ?
n→∞ i=1

2. X1 , X2 , ... é sequência de va’s iid’s com E(Xi ) = 1 e V ar(Xi ) = 1. Encontre o limite abaixo:
n
P
Xi
P
Yn = si=1 −
→ ?
n
Xi2
P
n
i=1

t→∞
3. G(t, λ) −−−→ normal. Por quê?

4. X ∼ P (600). Calcule P (X = 650) utilizando alguma aproximação.

5. Pense: Por que podemos aproximar uma distribuições como a Gama e a Poisson por distribuições
Normais?

7
Capı́tulo 4

Apêndice

4.1 Resumo - Desigualdades

E(x)
• P (X ≥ k) ≤ k (básica ou Markov, X é va não negativa)

σ2
• P (X ≥ k) ≤ σ 2 +k2 (Tchebychev unilateral, X é va com média zero e variância σ 2 )

V ar(X)
• P (|X − E(X)| ≥ k) ≤ k2 (Tchebychev, X é va qualquer)

E(|X|t )
• P (|X| ≥ k) ≤ kt , ∀t > 0 (Markov, X é va qualquer)

4.2 Exercı́cios
1. E(X) = 16, Var(X) = 9; Encontre uma cota inferior para a P (10 ≤ X ≤ 22)


2x, 0 ≤ x ≤ 1
2. f(x) = , onde Xi = ”tempo de vida de um componente”.
0, c.c
n
n 1
P
Sn = Xi , r = lim = lim
i=1 n→∞ Sn n→∞ X̄

A sequência (Xi )n≥1 satisfaz a LGN? Xi ’s são iid’s.

20
1
P
3. Xi ∼ Exp(5) ⊥ Yi ∼ Exp( 0,3 ). Se Wi = Xi + Yi , então P ( Wi ≤ 8) ≈ ?
i=1