Escolar Documentos
Profissional Documentos
Cultura Documentos
Topico8 IA707 1s11 PDF
Topico8 IA707 1s11 PDF
Von Zuben
DCA/FEEC/Unicamp
2 Probabilidade
A probabilidade a linguagem empregada na fundamentao matemtica da
inferncia estatstica. Trata-se de uma disciplina exata e desenvolvida a partir
de um encadeamento lgico de dedues a partir de um conjunto de axiomas
claramente definidos.
H uma bvia quebra de continuidade entre os elementos de probabilidade
apresentados em cursos introdutrios e os conceitos mais elaborados
necessrios nas aplicaes do dia-a-dia.
Este o caso quando existem fatores que influenciam o resultado, mas que no
so de conhecimento do experimentador ou que o experimentador no pode
controlar e, tambm, quando os fatores que supostamente esto sob controle,
na verdade no esto.
Axioma 2: P S = 1.
O axioma 2 determina que, com probabilidade igual a 1, o resultado est contido
no espao amostral S.
Proposio 2:
P EF = P E +P F P EF .
= P E + P Ec F
P F = P E F + P Ec F
E F
I II III
Mostrando que
P E F = P E + P F P II .
Logo, uma varivel aleatria uma funo que aloca um ponto do espao
amostral a cada resultado de um experimento aleatrio. Dito de outro modo,
uma varivel aleatria uma funo associada a um experimento, sendo que a
realizao do experimento leva esta varivel a assumir um valor dependente
do acaso, mas pertencente ao respectivo espao amostral.
Cada vez que um experimento realizado, o resultado obtido indica a
ocorrncia ou no de um determinado evento (subconjunto do espao
amostral).
Formalizao do conceito: Uma varivel aleatria uma funo com as
seguintes propriedades:
assume valores no espao amostral S de um experimento;
Para todo evento E S, a probabilidade de que assuma um valor x E
aps a realizao do experimento, dada por Px E = PE, bem
definida (embora possa ser desconhecida).
Neste ponto do texto, o mais importante dividir estes poucos tipos em duas
classes:
1. Distribuies discretas: ocorrem em experimentos que requerem
contagem. Exemplos: pessoas com menos de 30 anos, mortes por cncer,
produtos com defeito.
2. Distribuies contnuas: ocorrem em experimentos que requerem
medidas. Exemplos: tenso eltrica, presso sangunea, vazo de rio.
Para cada uma das duas classes, a respectiva funo distribuio de
probabilidade F () ter sempre associada a si:
f(z )
1
6
1 2 3 4 5 6 z
F (z )
1
1
2
1 2 3 4 5 6 z
P x q < x r = F ( x r ) F ( x q ) .
x
Para uma varivel aleatria contnua, resulta: P x q < x r = x r f ( x )dx
q
+
Uma consequncia direta o resultado: f ( x )dx = 1.
Exemplo: Uma varivel aleatria com distribuio normal, mdia 0 e
varincia 1, tem como funes densidade e distribuio de probabilidade:
Funo densidade de probabilidade Funo distribuio de probabilidade
1 1
0.9 0.9
0.8 0.8
0.7 0.7
0.6 0.6
F (z)
f (z)
0.5 0.5
0.4 0.4
0.3 0.3
0.2 0.2
0.1 0.1
0 0
-3 -2 -1 0 1 2 3 -3 -2 -1 0 1 2 3
z z
j
os valores possveis de j);
2 = (x ) f ( x )dx , para o caso contnuo.
+ 2
3.5 Momentos
4 Medidas amostrais
N
1
Mdia amostral (N amostras): x =
N
xk
k =1
1 N
Varincia amostral: 2 = ( x k x )2
N 1 k =1
1 N
Desvio-padro amostral: = ( x k x )2
N 1 k =1
( xik xi )(x jk x j )
1 N
Covarincia amostral: ij =
N 1 k =1
ij
Coeficiente de correlao amostral: rij =
i j
repetitividade;
portabilidade;
custo computacional baixo por gerao;
simplicidade de implementao.
9 Geradores lineares
So geralmente os modelos fornecidos pelos sistemas computacionais.
Envolvem a gerao de uma sequncia I1, I2, I3, ... de inteiros entre 0 e m1
pela relao de recorrncia
I j +1 = ( aI j + c ) mod m, j=1,2,...
10 Geradores portveis
Gerador implementvel em qualquer linguagem de programao e em qualquer
mquina, produzindo sempre o mesmo comportamento estatstico e
apresentando, para uma mesma semente, a mesma sequncia de nmeros.
H evidncias, tericas e empricas, de que tomando c = 0 na recurso
I j +1 = ( aI j + c ) mod m, j=1,2,...
m = a fix + ( m mod a ) = aq + r
m
a
onde fix fornece a parte inteira da razo . Para um inteiro z tal que
m m
a a
0 < z < m1, pode ser mostrado que, tomando r < q, tanto a ( z mod q) quanto
z
r fix assumem valores inteiros no conjunto {0,..., m 1} , e que
q
z
a( z mod q) r fix q se 0
az mod m =
a( z mod q) r fix z + m se < 0
q
m a q r
2311 16807 127773 2836
2311 48271 44488 3399
2311 69621 30845 23902
11 Outros geradores
Lineares multivariveis: I j +1 = ( a0 I j + a1 I j 1 +L+ ak I j k ) mod m
I j +1 = ( a0 I j + a1 I j 1 +L+ ak I j k + c j ) mod m
a I + a1 I j 1 +L+ ak I j k + c j
c j +1 = fix 0 j
m
15 Referncias
BCK, T., FOGEL, D.B. & MICHALEWICZ, Z. (eds.) Evolutionary Computation 2: Advanced Algorithms
and Operators, Chapter 24: Efficient implementation of algorithms, Institute of Physics Publishing,
2000.
BOX, G.E.P. & MULLER, M.E. A note on the generation of random normal deviates, The Annals of
Mathematical Statistics, vol. 29, no. 2, pp. 610611, 1958.
CANT-PAZ, E. On Random Numbers and the Performance of Genetic Algorithms, Proceedings of the
Genetic and Evolutionary Computation Conference (GECCO02), vol. 1, pp. 311-318, Morgan
Kaufmann Publishers, 2002.
DAIDA, J.M., AMPY, D.S., RATANASAVETAVADHANA, M., LI, H. & CHAUDHRI, O.A. Challenges with
verification, repeatability, and meaningful comparison in genetic programming: Gibsons magic in
Banzhaf, W., Daida, J., Eiben, A.E., Garzon, M.H., Honavar, V., Jakiela, M. & Smith, R.E. (eds.)
Proceedings of the Genetic and Evolutionary Computation Conference (GECCO99), vol. 2, pp.
1851-1858, Morgan Kaufmann Publishers, 1999.
DOS REIS, S.F. Introduo ao Estudo de Probabilidade, Notas de Aula do Curso de Gentica
Populacional Terica, IB/Unicamp, 2001.
EVANS, D.H. Probability and Its Applications for Engineers, ASQC Quality Press, 1992.
FORSYTHE, G.E., MALCOLM, M.A. & MOLER, C.B. Computer Methods for Mathematical
Computations, Prentice-Hall, 1977.
KNUTH, D.E. The Art of Computer Programming: Seminumerical Algorithms, Addison-Wesley, Vol.
2, 2nd edition, 1981.
KREYSZIG, E. Advanced Engineering Mathematics, 7th edition, John Wiley & Sons, 1993.
LECUYER, P. Testing random number generators, Proceedings of the 1992 Winter Simulation
Conference, IEEE Press, pp. 305-313, 1992.
LECUYER, P. Uniform random number generation, Annals of Operations Research, vol. 53, pp. 77-
120, 1994.
LECUYER, P. Combined multiple recursive generators, Operations Research, vol. 44, no. 5, pp. 816-
822, 1996.
MARDIA, K.V., KENT, J.T. & BIBBY, J.M. Multivariate Analysis, Academic Press, 1979.
MARSAGLIA, G. Random number generators, Journal of Modern Applied Statistical Methods, vol. 2,
no. 1, pp. 2-13, 2003.
MEYSENBURG, M.M. The effect of pseudo-random number generator quality on the performance of a
simple genetic algorithm, Masters Thesis, University of Idaho, 1997.
MEYSENBURG, M.M. & FOSTER, J.A. Random generator quality and GP performance, in Banzhaf, W.,
Daida, J., Eiben, A.E., Garzon, M.H., Honavar, V., Jakiela, M. & Smith, R.E. (eds.) Proceedings of
the Genetic and Evolutionary Computation Conference (GECCO99), vol. 2, pp. 1121-1126,
Morgan Kaufmann Publishers, 1999a.
MEYSENBURG, M.M. & FOSTER, J.A. Randomness and GA performance revisited, in Banzhaf, W.,
Daida, J., Eiben, A.E., Garzon, M.H., Honavar, V., Jakiela, M. & Smith, R.E. (eds.) Proceedings of
the Genetic and Evolutionary Computation Conference (GECCO99), vol. 1, pp. 425-432, Morgan
Kaufmann Publishers, 1999b.
MEYSENBURG, M.M., HOELTING, D., MCELVAIN, D. & FOSTER, J.A. How Random Generator Quality
Impacts Genetic Algorithm Performance, Proceedings of the Genetic and Evolutionary
Computation Conference (GECCO02), vol. 1, pp. 480-483, Morgan Kaufmann Publishers, 2002.
MONTGOMERY, D.C. & RUNGER, G.C. Applied Statistics and Probability for Engineers, John Wiley &
Sons, 1994.
MOOD, A.M. & GRAYBILL, F.A. Introduction to the Theory of Statistics, McGraw-Hill Book
Company, 1963.
PAPOULIS, A. Probability, Random Variables, and Stochastic Processes, Third Edition, McGraw-Hill,
1991.
PRESS, W.H., TEUKOLSKY, S.A., VETTERLING, W.T. & FLANNERY, B.P. Numerical Recipes in C - The
Art of Scientific Computing, Cambridge University Press, 2nd edition, 1992.
STEWART, I. Does God Play Dice? The New Mathematics of Chaos, London: Basil Blackwell, 1989.
WALPOLE, R.E. & MYERS, R.H. Probability and Statistics for Engineers and Scientists, Fifth Edition,
Macmillan Publishing Company, 1993.