DISCIPLINA DE ESTATÍSTICA APLICADA

Prof. Dr. Christopher Souza

Cálculo da Magnitude de Eventos de Máxima Através de Distribuições de Probabilidade para
Projeto de Microdrenagem
Alane Patrícia de Melo Souza
Universidade Federal de Alagoas – alanesouza07@hotmail.com
11/05/2015

RESUMO

A insegurança quanto aos impactos negativos causados pelo excesso de água deu grande importância às estimativas de vazões máximas.
Essas estimativas são imprescindíveis ao dimensionamento de obras de engenharia e análise de riscos de inundações. Este trabalho tem como
objetivo calcular as vazões referentes aos tempos de retorno iguais a 2, 5 e 10 anos, visando o dimensionamento do projeto de microdrenagem do
município de Nanuque- MG. Tendo uma amostra de dados de vazão, é possível estimar o tempo de recorrência de uma determinada magnitude
através do inverso da função densidade de probabilidade da distribuição de probabilidade que melhor adere aos dados amostrais. Para isso, foram
calculadas as magnitudes para tempos de retorno de 2, 5 e 10 anos através da função densidade da distribuição GEV, que apresentou melhor
aderência.

Palavras-chave:Tempo de retorno, microdrenagem, distribuições de probabilidade, testes de aderência

30
qualidade ambiental e bem-estar social (Prefeitura de São
1
INTRODUÇÃO 31
Paulo, 1999).
32
O presente trabalho tem como objetivo calcular a
2
A crescente degradação dos recursos hídricos e o
33
magnitude de eventos para 2, 5 e 10 anos de tempo de
3
crescimento populacional trazem inseguranças quanto a
34
retorno, através de distribuições de probabilidade, para o
4
sua disponibilidade. A escassez não é o único fator
35
dimensionamento de um sistema de microdrenagem para o
5
preocupante, a ocorrência de grandes vazões provocam
36
município de Nanuque-MG. Em áreas residenciais, o
6
enchentes (Costa Santos, 2010). A urbanização
37
período de retorno da magnitude calculada é de 2 anos.
7
desordenada agrava o problema das enchentes, que podem
38
Em áreas comerciais, 5 anos. E em artérias de tráfego, 10
8
provocar perdas econômicas, danos ao desenvolvimento e
39
anos.
9
perda de vidas humanas (Genovez, 2003).
10
A fim de minimizar os impactos negativos 40
METODOLOGIA
11
causados pelas vazões máximas, a estimativa destas possui
12
grande importância na determinação dos custos e projetos 41
1) Área de estudo:
13
de engenharia (Tucci et al, 2004). As estimativas de vazões 42
A área de interesse deste estudo é o município de
14
máximas têm aplicações no dimensionamento de 43
Nanuque, inserido na bacia hidrográfica do rio Mucuri no
15
estruturas de drenagem (Tucci et al, 2004), 44
estado de Minas Gerais, compreendido pelo paralelo de
16
dimensionamento de vertedouros, dimensionamento de 45
17º 49’ 12’’ de latitude sul e meridiano 40º 20’ 30’’ de
17
pontes (Santana et al, 2007) e análises de risco de 46
longitude oeste.
18
inundação (Tucci, 1997). 47
A Bacia Hidrográfica do Rio Mucuri está inserida
19
Para o dimensionamento de estruturas de 48
na mesorregião do Vale do Mucuri. Abrange um total de
20
drenagem, o sistema de drenagem tradicional é composto 49
13 sedes municipais e apresenta uma área de drenagem de
21
por dois sistemas distintos: o de microdrenagem, visando o 50
14.640 km², a bacia possui uma população estimada de
22
escoamento de vazões com período de retorno entre 2 e 10 51
296.845 habitantes (IGAM, 2012).
23
anos e o de macrodrenagem, projetado para o escoamento 52
O município de Nanuque possui uma população
24
de vazões com tempo de retorno entre 25 e 100 anos. Os 53
de 40.834 habitantes numa área de 1.517,9 km² (IBGE,
25
objetivos desses sistemas são: redução da exposição da 54
2010).
26
população e das propriedades ao risco de inundações,
27
redução do nível de danos causados pelas inundações,
28
preservação de várzeas não urbanizadas, minimização de
29
problemas de erosão e sedimentação e proteção da
 Equação (1)

46

47
4.2) Distribuição Log-normal
48
Se uma variável contínua X resulte da
49
multiplicação de um grande número de componentes
50
aleatórios independentes Xi, a variável Y=ln(X), tal que
51
Y=ln(X1)+ln(X2)+...+ln(Xn), em decorrência do teorema
52
do limite central (que diz que...)irá tender a uma variável
53
normal quando n for suficientemente grande para permitir
1 54
a convergência (Naghettini e Pinto, 2007). Esta
2
Figura 1 - Localização do município de Nanuque em 55
distribuição é utilizada para interpolar ou extrapolar
3
relação à UHE Santa Clara.
4
56
probabilidades no estudo de cheias e estiagens e de
5
57
tamanho de sedimentos e gotas de chuva (Souza, 2015).
2) Dados de Entrada 58
A função densidade para a distribuição log-
6
As análises estatísticas foram realizadas numa 59
normal é dada por (para x > 0):
7
amostra de 44 dados de vazões máximas anuais, referente
8
ao período de 1962 a 2005. Estes dados foram obtidos Equação (2)
9
para o rio Mucuri, na estação de Santa Clara – MG, através
10
do site do Operador Nacional do Sistema Elétrico (ONS),
11
trabalhados e disponibilizados para este estudo na
60
4.3) Distribuição Exponencial
12
plataforma virtual do professor Christopher Souza. Os
61
A distribuição exponencial é utilizada para
13
valores de vazão oferecidos desconsideram a existência de
62
modelar o tempo contínuo entre duas ocorrências
14
barragens ao longo do rio, e a vazão é dada como natural.
63
sucessivas de um processo de Poisson, além de aplicações
15
64
às variáveis hidrológicas (Naghettini e Pinto, 2007).
3) Papéis de Probabilidade 65
A função densidade para a distribuição
16
Os papéis de probabilidade servem para avaliar o 66
exponencial é dada por (para x ≥ 0):
17
grau de linearidade dos dados da amostra dispostos num
Equação (3)
18
gráfico ao modelo de distribuição para o qual papel foi
19
elaborado (Souza, 2015). A verificação visual de linearidade 67
4.4) Distribuição Gama
20
de um conjunto de dados através de um papel de 68
A distribuição gama é utilizada para modelar
21
probabilidade pode ser empregada para aceitar ou rejeitar a 69
precipitações diárias, semanais, mensais, anuais e vazões
22
hipótese de aderência a certo modelo de distribuição de 70
médias anuais.
23
probabilidades (Naghettini e Pinto, 2007). 71
A função densidade para a distribuição gama é
24
Os papéis de probabilidade utilizados neste 72
dada por (para x, θ e η>0):
25
trabalho foram desenvolvidos a partir do software Matlab,
26
com o uso da função dfittool. Equação (4)
27
4) Distribuições de Probabilidade
28
As distribuições de probabilidade podem ser 73
4.5) Distribuição GEV
29
utilizadas para interpolar ou extrapolar probabilidades ou 74
A distribuição GEV incorpora as três formas
30
quantis não contidos nas observações amostrais (Souza, 75
assintóticas de valores extremos: (i) a que a densidade decai
31
2015). 76
de modo exponencial na direção do extremo; (ii) a que a
32
Para este estudo serão analisadas as seguintes 77
densidade decai de modo polinomial na direção do
33
distribuições: normal, log-normal, exponencial, gama e 78
extremo e (iii) a quando X é limitado na direção do
34
distribuição generalizada de valores extremos (GEV). 79
extremo (Naghettini e Pinto, 2007).
35
4.1) Distribuição Normal 80
A função densidade para esta distribuição é
36
A distribuição normal é utilizada para descrever o 81
expressa por:
37
comportamento de uma variável aleatória que flutua de
38
forma simétrica em torno de um valor central (Naghettini e Equação (5)
39
Pinto, 2007). Esta distribuição é utilizada na caracterização
40
de vazões médias anuais de pequenas bacias com pequenos 82
5) Testes de Aderência
41
aqüíferos e alturas anuais de precipitação onde a 83
Os testes de aderência são uma classe dos testes
42
sazonalidade seja pouco marcada e onde não prevaleça 84
de hipóteses, que referem-se à verificação da forma de uma
43
precipitações de origem frontal (Souza, 2015). 85
distribuição de probabilidade (Naghettini e Pinto, 2007).
44
A função densidade para esta distribuição é 86
As afirmações testadas são sempre as hipóteses nulas (H 0),
45
calculada por (para -∞ < x < ∞): 87
onde o valor de um parâmetro é comparado a um valor ou
88
característica específica. As afirmações contrárias às H0 são
 1
as hipóteses alternativas (H1). Existem três métodos para Equaçã
2
concluir sobre a rejeição ou não rejeição da hipótese nula:
o (8)
3
 Método tradicional: H0 é rejeitada se a estatística
4
de teste não ficar dentro da região crítica; 53
Onde fc é o fator de correção.
5
 Intervalos de confiança: H0 é rejeitada se o
54
5.4) Teste de Filliben:
6
parâmetro populacional tiver um valor que não
55
A estatística do teste de aderência de Filliben é
7
esteja incluído no intervalo de confiança;
56
construída com base no coeficiente de correlação linear r
8
 Método do valor P: H0 é rejeitada se o valor P>α
57
entre as observações ordenadas de modo crescente.
9
(Triola, 2011).
58
A estatística de teste deste teste é expressa por:
10
Para este trabalho, será utilizado o método do
11
valor P para um nível de significância de α=0,05. Equação (9)
12
A aderência de funções de distribuições aos dados
13
amostrais confere menor incerteza em estimativas de 59
Onde xm e wm são a média das observações e dos
14
magnitude e frequência (Souza, 2015). No contexto de 60
quantis teóricos, respectivamente.
15
hidrologia, é frequente a situação onde o a distribuição de 61
16
probabilidade é desconhecida (Naghettini e Pinto, 2007). 62
17
Para esta situação, as distribuições de probabilidade para 6) Magnitude de Eventos e Tempo de
63
18
modelar uma determinada variável são selecionadas com Retorno
19
base (i) nas características físicas do fenômeno de estudo,
64
O tempo de retorno (Tr) corresponde ao tempo
20
(ii) em possíveis deduções teóricas quanto às propriedades
65
médio necessário (em anos) para que um evento de
21
distributivas da variável em questão e (iii) na aderência da
66
magnitude x recorra, em um ano qualquer. Este é igual ao
22
distribuição proposta à distribuição empírica dos valores
67
inverso da probabilidade de que tal magnitude de
23
amostrais (Naghettini e Pinto, 2007). Neste trabalho, a
68
referência ocorra.
24
hipótese nula testada é a que os dados amostrais aderem à
69
O tempo de retorno é usado com frequência para
25
cada distribuição de probabilidade estudada.
70
o estudo de probabilidade de eventos máximos anuais. A
26
Os principais testes de aderência aplicados em
71
vazão, como exemplo de variável aleatória contínua, tem
27
hidrologia estatística são o Qui-quadrado, o de
72
seu comportamento definido por funções densidade de
28
Kolmogorov-Smirnov, o de Anderson-Darling e o de
73
probabilidade (Naghettini e Pinto, 2007).
29
Filliben. Como os testes não são comparáveis e não se
74
Se definirmos um quantil de referência xt, de
30
deve considerar rigor na seleção da técnica a ser aplicada
75
modo que o sucesso seja a superação do quantil de
31
(Naghettini e Pinto, 2007), o teste escolhido para inferir
76
referência, então Tr corresponde ao número médio de
32
sobre as hipóteses nulas foi o de Kolmogorov-Smirnov.
77
anos necessário para que o evento X> xt ocorra uma vez
33 78
num ano qualquer. O tempo de retorno corresponde ao
34
5.1) Teste Qui-Quadrado (MATLAB: chi2gof):
79
inverso da probabilidade de X> xt, representado pela área
35
O teste Qui-Quadrado pode ser utilizado para
80
abaixo da curva (Naghettini e Pinto, 2007).:
36
diferentes hipóteses nulas e fornece resultados satisfatórios
37
para um número de dados amostrais (n) > 50 (Naghettini e
38
Pinto, 2007).
39
A estatística de teste é estimada por:
Equação (6)
40
5.2) Teste Kolmogorov-Smirnov (MATLAB: kstest):
41
O teste de Kolmogorov-Smirnov tem como
42
requisitos o uso de dados contínuos e os parâmetros da
43
função acumulada de probabilidade definidos sem utilizar
44
informações da amostra (Souza, 2015).
45
A estatística de teste é estimada por:
Equação (7)
81
46
Onde Pe é a probabilidade empírica. 82
Figura 2: conceito de tempo de retorno para máximas
47
5.3) Teste de Anderson-Darling (MATLAB: adtest): 83
anuais
48
O teste de Anderson-Darling procura ponderar
49
mais fortemente as caudas das distribuições, nas quais as 84
RESULTADOS E DISCUSSÃO
50
maiores (ou menores) observações da amostra podem
51
alterar a qualidade do ajuste. 85
1) Papéis de Probabilidade
52
A estatística de teste é estimada por:
1
Com o auxílio da função dfittool foram gerados os
2
seguintes papéis de probabilidade, como dados de vazão
3
no eixo das abscissas e de probabilidade no eixo das
4
ordenadas:
5
1.1) Papel de Probabilidade para Distribuição Normal:

18
19
Figura 5: papel de probabilidade para a distribuição GEV.
20

21
1.5) Papel de Probabilidade para Distribuição Exponencial:

6
7
Figura 2: papel de probabilidade para a distribuição normal.
8

9
1.1) Papel de Probabilidade para Distribuição Log-normal:

22
23
Figura 6: papel de probabilidade para a distribuição
24
exponencial.
25

26
Observando os papéis de probabilidade pode-se
10 27
afirmar que, de maneira empírica, as distribuições que
11
Figura 3: papel de probabilidade para a distribuição log- 28
melhor se aderem aos dados amostrais são a GEV e a log-
12
normal. 29
normal, seguidas pelas distribuições gama, normal e
13
30
exponencial, por ordem de melhor aderência.
14
1.3) Papel de Probabilidade para Distribuição Gama: x 10
-3

1.8 Dados de vazão

Exponencial
Normal
1.6 Log-normal
GEV
Gama
1.4

1.2
Densidade

0.8

0.6

0.4

0.2

0
15 200 400 600 800 1000 1200 1400 1600 1800 2000 2200
31 Vazões (m³/s)
16
Figura 4: papel de probabilidade para a distribuição gama. 32
Figura 7: histograma de distribuição de probabilidades.
17
1.4) Papel de Probabilidade para Distribuição GEV: 33
Reafirmando os resultados dos papéis de
34
probabilidade, o histograma das funções densidade da
35
probabilidade mostra que as distribuições que mais se
36
aderem aos dados amostrais são a GEV e a Log-normal, ao
37
passo que a que menos se adere é a distribuição
38
exponencial.
 1
2) Teste de Aderência 37
REFERÊNCIAS BIBLIOGRÁFICAS
2
O teste de Kolmogorov-Smirnov foi realizado
3
visando avaliar o grau de linearidade entre as quatro 38
COSTA SANTOS, L. C. Estimativa de vazões de projeto
4
distribuições que, visualmente, melhor se ajustaram aos 39
por métodos determinísticos e probabilísticos. Dissertação
5
dados, obtendo os seguintes resultados: 40
de Mestrado em Engenharia Ambiental. Vitória, UFES,
Distribuição Hipótese Valor P
41
2010
42

Normal 0 0,1027 43
GENOVEZ, A. M. Vazões Máximas. In: PAIVA, J. B. D.
Log-normal 0 0,8258
44
Hidrologia aplicada à gestão de pequenas bacias. Porto
45
Alegre: ABRH, 2003.
Gama 0 0,4856 46

GEV 0 0,9675
47
IBGE - Instituto Brasileiro de Geografia e Estatística.
48
Censo 2010.
6
Tabela 1: resultado do teste de aderência de Kolmogorov- 49
7
Smirnov para as distribuições Normal, Log-normal, Gama e 50
IGAM- INSTITUTO MINEIRO DE GESTÃO DE
8
GEV. 51
ÁGUAS –< http://comites.igam.mg.gov.br/comites-
9
Como H=0 e P>α para todas as distribuições, 52
estaduais/bacias-do-leste-bacia-do-rio-mucuri/mu1-cbh-
10
verificou-se que todas aderem aos dados amostrais. Os 53
do-rio-mucuri/1156-conheca-a-bacia-mu1> Acesso em:
11
valores de P indicam que as funções que apresentam 54
05/05/2015
12
melhor aderência aos dados são a GEV e a Log-normal, 55
13
pois estas apresentam os maiores valores quando 56
NAGHETTINI, M.; PINTO, É. J. A. Hidrologia
14
comparadas às funções Normal e Gama. 57
Estatística. Belo Horizonte: CPRM, 2007.
15
3) Magnitude de Eventos e Tempo de Retorno 58

Magnitude de Eventos (m³/s) 59

SANTANA, J. L. S.; AGUIAR NETTO, A. O.; MÉLLO
Distribuição
Tr=2 anos Tr=5 anos Tr=10 anos
60
JÚNIOR, A. V. Impacto da Precipitação e Vazão Máximas
61
em Obras de Infraestrutura em uma sub-bacia do semi-
Normal 669 998 1.197 62
árido de Sergipe. In: Anais dos XVII Simpósio Brasileiro
Log-normal 586 896 1.118
63
de Recursos Hídricos, ABRH, São Paulo, SP, 2007.
64

Gama 613 924 1.121 65

SÃO PAULO. Prefeitura Municipal. Secretaria de Vias
GEV 562 868 1.125
66
Públicas.
67
16
Tabela3: Magnitude de eventos para seu respectivo 68
SOUZA, C. F. Notas de aula
17
período de retorno. 69
<https://sites.google.com/site/souzacfufal/estatistica>
18
Admitindo que a distribuição GEV foi a que teve 70
Acesso em: 09/05/2015
19
melhor aderência (maior valor P), as magnitudes de 71
20
eventos com tempo de retorno de 2, 5 e 10 anos são, 72
TUCCI, C. E. M. Plano Diretor de Drenagem Urbana:
21
respectivamente, de 562 m³/s, 868 m³/s e 1.125 m³/s. 73
Princípios e Concepção. Revista Brasileira de Recursos
74
Hídricos. Volume 2. n.2. p. 5-12. Jul/Dez 1997.
22
CONCLUSÃO 75

76
TUCCI, C. E. M. Hidrologia: Ciência e Aplicação, 3ª Ed.
23
Os resultados mostraram que para o 77
Porto Alegre, UFRGS, ABRH, 2004.
24
dimensionamento do projeto de drenagem da cidade de
25
Nanuque, deve-se considerar eventos com magnitudes de
26
562 m³/s para áreas residenciais, 868 m³/s para áreas com
27
edifícios de serviços ao público e 1.125 m³/s para áreas
28
comerciais.
29
De acordo com os papéis de probabilidade, com
30
as funções densidade de probabilidade e com o teste de
31
Kolmogorov-Smirnov, as distribuições que mais aderiram
32
aos dados foram, em ordem de maior aderência: GEV,
33
Log-normal, Gama, Normal e Exponencial. Sendo a GEV
34
escolhida para melhor representar as magnitudes de
35
projeto.
36