ANLISE DE TENDNCIA E SAZONALIDADE DE SRIES TEMPORAIS DE COLIFORMES EM GUA DO MAR: um estudo de caso.

LAURINDA FERNANDA SALDANHA SIQUEIRA; JONAS DE JESUS GOMES DA COSTA NETO; MARIANO OSCAR ANIBAL IBAEZ ROJAS Universidade Federal do Maranho, Departamento de Oceanografia e Limnologia, Mestrado em Sustentabilidade de Ecossistemas; Universidade Federal do Maranho, Departamento de Qumica, Mestrado em Qumica Analtica; Instituto Federal de Educao, Cincia e Tecnologia do Maranho, Departamento Acadmico de Qumica. lau_siqueira@yahoo.com.br

RESUMO O presente trabalho tem como objetivo estudar as tendncias e a sazonalidade em series temporais de coliformes totais (NMP/ 100 mL) da gua da Praia da Ponta da Areia, Ilha do Maranho (Brasil) como ferramenta a gesto sustentvel da orla martima urbanizada, por meio da aplicao de testes de normalidade e transformao Box-Cox nos dados, modelos de regresso, teste de Kruskall-Wallis para verificao da significncia e grficos do tipo Box-Plot para verificao da amplitude da sazonalidade, extrao da srie temporal e do modelo comportamental puros. Os resultados indicam tendncia decrescente nos nveis de coliformes totais e sazonalidade multiplicativa, gerando um modelo explicativo de curto prazo. Palavras-chave: Anlise de sries temporais, coliformes totais, Ilha do Maranho (Brasil).

1 INTRODUO O Gerenciamento Costeiro Integrado (GCI), de acordo com Cicin-Sain & Knecht (1998), um processo continuo e dinmico por meio do qual decises so tomadas visando o uso sustentvel das reas costeiras e marinhas e seus recursos. Ainda de acordo com estes autores, a atuao do GCI vincula-se s interaes entre os mltiplos usos, tratando-os sistematicamente e partindo de uma escala ampla de entendimento dos problemas.

Nesta pesquisa, foi proposta a anlise de sries temporais de qualidade de gua para auxilio ao GCI e a sustentabilidade da orla martima da Ilha do Maranho (Brasil), funcionando como ferramentas de diagnstico da evoluo e do comportamento e como ferramentas de explicao e predio, preponderantes em gerar informaes aos tomadores de decises e a populao. Contudo, vlido salientar, que as sries temporais e os modelos alargam as informaes, mas no produzem nmeros inquestionveis. Tentando simplificar um sistema complexo, estes podem gerar resultados imperfeitos. Sries temporais, de acordo com Morettin & Toli (2006), constituem-se como qualquer conjunto de observaes ordenadas no tempo, tendo por finalidade principal a construo de modelos explicativos das mesmas segundo tanto um enfoque temporal quanto um domnio de freqncias. O pressuposto bsico da anlise de sries temporais de que os fatores que influenciaram o comportamento da srie no passado, continuaro a faz-lo no futuro. Assim sendo, as sries temporais geram concomitantemente modelos explicativos da variabilidade no comportamento das variveis e da tendncia ao longo do tempo, identificando as componentes aleatrias e ou determinsticas, bem como modelos preditivos de tais caractersticas. As sries temporais podem ter os seguintes objetivos (MORETIN & TOLOI, 2006): (a) Descrio. Descrever propriedades e comportamentos da srie (padro de tendncia, existncia de variao sazonal ou cclica, outliers, alteraes estruturais); (b) Explicao. Construir modelos que permitam explicar o comportamento da srie no perodo observado; (c) Controle. Os valores da srie temporal medem a qualidade de um processo de manufatura e o objetivo o controle do processo; e (d) Predio. Predizer valores futuros com base em valores passados, a longo e curto prazo. Aqui se assume que o futuro envolve incerteza, por isso tenta-se reduzir os erros de previso. Uma srie temporal pode ser decomposta em um conjunto de componentes e ou movimentos (MORETTIN & TOLOI, 2006; MALETZKE, 2009). Neste aspecto, a representao grfica dos dados seqencialmente ao longo do tempo fundamental e pode revelar padres de comportamento importantes. A partir do grfico temporal, pode-se decompor a srie temporal de acordo com tendncias, padres cclicos (ou sazonalidade) ou componentes aleatrias (ou resduos). A tendncia compreende o movimento dominante de uma srie temporal, isto , com uma mudana, em um longo intervalo de tempo, ou de longo prazo no nvel mdio da srie temporal. (MALETZKE, 2009). A sazonalidade refere-se a movimentos similares que ocorrem regulamente em um intervalo de tempo fixo (dias, meses, anos), segundo, Chatfield

(2004) e Morettin & Toloi (2006), este componente deve ser identificado, e, de acordo com o ensejo da pesquisa, ser removido ou suavizado. O componente aleatrio ou resduo so os movimentos aleatrios ou irregulares correspondentes aos deslocamentos espordicos de uma srie temporal (MALETZKE, 2009). No escopo deste trabalho, tem-se o intuito de anlise de tendncias e sazonalidade em sries temporais de coliformes totais em gua (NMP/ 100mL) da praia da Ponta da Areia, da orla martima urbana da Ilha do Maranho (Brasil), buscando extrair conhecimento necessrio a sustentabilidade e a gesto da rea estuda, e torn-lo inteligvel aos tomadores de deciso e populao.

2 PROCEDIMENTOS METODOLGICOS A metodologia proposta consta de adaptaes aos mtodos indicados nas pesquisas de Groppo (2005) e Cavalheiro (2003). a. Levantamento de dados Os dados desejados nesta pesquisa constam de nveis de coliformes totais (NMP/ 100 mL) de trecho da Praia da Ponta da Areia (P1 = 02 30 15S; 44 1906.9W), da Ilha do Maranho (Brasil), presentes em relatrios de monitoramento da qualidade da gua de praias realizados pela Secretaria de Meio Ambiente e Recursos Hdricos do Maranho (SEMA) e Fundao Nacional de Sade no Maranho (FUNASA-MA). As sries utilizadas so mensais correspondentes aos anos de 1989, 2003, 2005, 2006 e 2007, mas de maneira geral os dados foram encontrados de maneira dispersa e muitas vezes incompletos. b.Preparao dos dados e obteno das sries temporais Dados foram plotados em

funo do tempo ou transformados pela transformao Box-Cox, numa tentativa de modificar a srie temporal no normalmente distribuda em normalmente distribuda. A opo por esta transformao foi baseada em testes de normalidade: (a) Testes de assimetria e curtose, define qual o deslocamento em relao a mdia; (b) Teste de Wilk-Shapiro para aderncia linha reta, quanto mais prximo de 1 maior o ajuste. Na identificao de outliers, foram adotadas etapas do Controle Estatistico de Processo (CEP) sendo as observaes abaixo ou acima de trs desvios-padres (S) da mdia (M) (M 3S), similar ao adotado por Forester (2000).

c. Anlise de tendncias

Para identificao e caracterizao de tendncias, utilizou-se o

Teste de Tendncias Qui-quadrado, que indica tendencia crescente (A > 0) ou decrescente (A < 0). Em seguida, traou-se uma curva de regresso sobre a representao grfica da srie temporal e por diferena entre os dados observados e a regresso, temse a srie temporal sem tendncias (Hipel & McLeod, 1994). d. Anlise de sazonalidade Foi utilizado o Teste de Kruskall-Wallis para identificao da

significncia da sazonalidade. Associado a grficos do tipo Box-Plot para verificao da variabilidade dos fatores sazonais por perodo de anlise, e por conseguinte, da amplitude da sazonalidade. e. Obteno da srie temporal pura e modelo comportamental Para eliminao da tendncia e, posteriormente, da elevada sazonalidade diagnosticada, fez-se uso da relao (Equao 1) proposta por Toloi & Morettin (2006) e Cavalheiro (2003):
Yt = Zt Tt

(Equao 1)

Onde, Yt = srie temporal sem tendncia (St + Et); Zt = srie de dados original, Tt = tendncia estimada, St = sazonalidade estimada, Et = resduo ou erro estimado. O resultado da equao tambm indica a sazonalidade mais o resduo (erro). Com o conhecimento da amplitude da sazonalidade, obteve-se a sazonalidade pura necessria ao clculo da srie temporal pura. Uma vez com a sazonalidade pura mais resduo, juntamente com a tendncia, pode-se enfim encontrar a srie temporal pura sem tendncia, sazonalidade e resduo pela Equao 2. A srie temporal pura s encontrada quando eliminados ou pelo menos suavizados a tendncia, a sazonalidade e o resduo (erro ou componente aleatrio).
Z0 = Zt Tt St Et

(Equao 2)

Onde, Z0 = srie temporal pura; Zt = srie de dados original, Tt = tendncia estimada, St = sazonalidade estimada, Et = resduo ou erro estimado.

3 RESULTADOS E DISCUSSO a- Preparao dos dados de entrada e construo das sries temporais A Figura 1 traz um grfico de disperso que mostra a srie temporal de dados brutos de coliformes totais dos anos de 1989, 2003, 2005, 2006 e 2007, de um trecho da praia da Ponta da Areia (P1 = 02 30 15 S; 44 1906.9W). Vale salientar que em funo da nocontinuidade dos dados optou-se por no ligar com segmentos de retas os pontos plotados. Os dados representados foram obtidos junto a SEMA.
35000

Coliformes totais NMP/ 100 mL

30000 25000 20000 15000 10000 5000 0 mar/89 jun/89 set/89 mar/03 jun/03 set03 mar/05 jun/05 set/05 mar/06 jun/06 set/06 mar/07 jun/07 set/07 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46

Tempo (ms/ ano)

Figura 1: Srie temporal de coliformes totais em NMP/ 100mL), em trecho da Praia da Ponta da Areia (P1 = 02 30 15 S; 44 1906.9W), Ilha do Maranho (Brasil), 1989-2007. A priori, considerando-se todas as sries temporais de dados de coliformes totais da Praia da Ponta da Areia, identificou-se por meio do Teste de Normalidade de Shapiro-Wilk (W) e de medidas de assimetria e curtose (Tabela 1), que os dados estudados apresentaram distribuio prxima da normal. Optou-se por transformar as sries de dados no normalmente distribuda em srie de dados normalmente distribudas, por meio de transformaes Box-Cox, como realizado por Groppo (2005) associadas estatstica noparamtrica na anlise, como feito por Moraes et al (1995). As transformaes de dados fazem com sejam distribudos mais simetricamente havendo, portanto, duas vantagens: (1) alguns mtodos no-paramtricos (e mesmo os paramtricos) assumem que os dados so distribudos simetricamente; e (2) sendo distribudos simetricamente se torna mais fcil a localizao do centro da distribuio (GROPPO, 2005). As transformaes Box-Cox estimaram a melhor transformao para se obter a normalidade dos dados como sendo a logartmica, confirmada aps comparao entre os valores de W do Teste de Shapiro-Wilk, assimetria e curtose (Tabela 1). As transformaes

tambm implicaram na reduo do desvio das observaes em relao mdia, repercutindo diretamente nas medidas de assimetria e curtose. Alm disso, reduziram o resduo (erro padro) das sries temporais e a varincia entre os dados. A reduo da relao entre varincia e a mdia aps as transformaes s vem a confirmar a escolha adequada pelas mesmas. A srie temporal dos dados do trecho P1, aps a transformao, mostrada na Figura 2. Tabela 1: Testes de normalidade e anlise descritiva para as sries de dados de coliformes totais (NMP/ 100 mL), em trecho da Praia da Ponta da Areia (P1 = 02 30 15 S; 44 1906.9W), Ilha do Maranho (Brasil), 1989-2007. Testes W N.S. Assimetria (G1) Curtose (G2) Varincia Mdia Desvio padro Erro padro (Resduo) Dados brutos Transformao logartmica P1 0.7237 0.0078 0.7937 -1.1841 10079e+04 9465.0222 10039.3077 1496.5716 Log P1 0.7996 0.0086 0.4514 -1.5897 0.2558 3.6953 0,0711 0.5058 0.0754

Relao varincia/ mdia 10648.6807

Nota: N.S.: nvel de significncia Para a identificao de outliers, bem como de padres comportamentais (sazonalidade), como referido na metodologia da pesquisa, foram utilizadas etapas do Controle Estatstico de Processo (CEP), similar ao adotado por Forester (2000), considerando as observaes abaixo ou acima de trs desvios-padres (S) da mdia (M) (M 3S), sendo respectivamente o limite inferior e superior dos dados. Na Figura 3, que traz a fixao dos limites superior (LS) e inferior (LI) da anlise, possvel perceber que no existiram valores discrepantes (outliers), fato que indica que a escolha da transformao logartmica foi coerente.

Coliformes totais NMP/ 100 mL

180 160 140 120 100 80 60 40 20 0 mar/89 jun/89 set/89 mar/03 jun/03 set/03 mar/05 jun/05 set/05 mar/06 jun/06 set/06 mar/07 jun/07 set/07 0 1 2 3 4 5 6 7 8 9 10111213141516171819202122232425262728293031323334353637383940414243444546 Tempo (ms/ano)

Figura 2: Srie temporal de coliformes totais em NMP/ 100 mL, em trecho da Praia da Ponta da Areia (P1 = 02 30 15 S; 44 1906.9W), aps transformao logartmica, Ilha do Maranho (Brasil), 1989-2007.

Coliformes totais (NMP/ 100 mL)

240 200 160 120 80 40 0 -40 -80 0 1 2 3 4 5 6 7 8 9 1011121314151617181920212223242526272829303132333435363738394041424344454647 Tempo (ms/ ano) - - - LI M - - LS
mar/89 jun/89 set/89 mar/03 jun/03 set/03 mar/05 jun/05 set/05 mar/06 jun/06 set/06 mar/07 jun/07 set/07

Figura 3: Srie temporal de coliformes totais em NMP/ 100 mL, em trecho da Praia da Ponta da Areia (P1 = 02 30 15S; 44 1906.9W), aps transformao logartmica, com o limite superior (LS), limite inferior (LI) e a mdia (M), Ilha do Maranho (Brasil), 1989-2007. b- Anlise de tendncias Na anlise das tendncias na srie temporal, foi escolhido o modelo de regresso (linear, exponencial, de potncia, logaritmo, polinomial) que melhor se ajustou aos dados, em funo do maior coeficiente de explicao (R) e da maior simplicidade do modelo, dando prioridade aos modelos lineares em detrimento aos polinomiais de alta ordem (Quadro 1). O modelo que melhor representou a tendncia do trecho da Praia da Ponta da Areia (P1 =

02 30 15 S; 44 1906.9W) foi o modelo logartmico de ordem 6 (Figura 4). A aplicao de um teste de tendncia baseado nas associaes entre as sries de dados caracterizou a tendncia neste trecho da Praia da Ponta da Areia como decrescente (A0 < 0), porm com baixa significncia. Uma tendncia polinomial de alta ordem, embora capaz de ajustar-se bem aos dados observados, extrapolaes futuras podem no ser to boas (TOLLOI & MORRETTIN, 2006). Podendo apresentar comportamento inexplicvel do ponto de vista fsico e ter difcil aplicao s regresses com poucos dados (BOOLMANN, 2003). c- Anlise de sazonalidade Quanto sazonalidade no comportamento dos dados, o CEP permite identificao visual de padres (Figura 3), no entanto foi considerada prudente uma confirmao estatstica por meio do teste de sazonalidade no-paramtrico Kruskall-Wallis (H). Com base neste teste, foi verificado que h sazonalidade altamente significativa (H = 22.2409; p = 0.0002) nas sries temporais de dados de coliformes totais na Praia da Ponta da Areia, sendo que as sries dos anos de 1989, 2005 e 2006 apresentaram maior sazonalidade. A verificao de sazonalidade tambm foi consubstanciada pela construo de grfico do tipo Box-Plot que mostra a variabilidade dos nveis de coliformes totais (NMP/ 100 mL) ao longo do tempo (Figura 5). Quadro 1: Coeficientes de explicao para modelos aplicados s sries de dados de nveis de coliformes totais (NMP/ 100 mL) em trechos da Praia da Ponta da Areia (P1 = 02 30 15 S; 44 1906.9W), Ilha do Maranho (Brasil), 1989-2007. Modelos Linear Logartmico Exponencial Polinomial De potncia Coeficientes de explicao (R) 0.0167 0.0006 0.0251 0.4777 (ordem 6) 0.0002

Coliformes totais NMP/ 100 mL

180 160 140 120 100 80 60 40 20 0 0 1 2 3 4 5 6 7 8 9 1011 11121314151617181920212223242526272829303132333435 353637383940414243444546 y = 6E-06x6 - 0.0009x5 + 0.0521x4 - 1.394x3 + 17.2x2 - 77.697x + 140.11 Campanhas (ms/ano) R = 0.4777
mar/89 jun/89 set/89 mar/03 jun/03 set/03 mar/05 jun/05 set/05 mar/06 jun/06 set/06 mar/07 jun/07 set/07

Figura 4: Anlise de tendncia para a srie rie temporal de coliformes totais em NMP/ 100 mL, em trecho da Praia da Ponta da Areia (P1 = 02 30 15 S; 44 1906.9W), , Ilha do Maranho (Brasil), 1989-2007. A obteno de tais modelos importante para a anlise da sazonalidade e dos resduos, , e posteriormente na construo de modelos de previso.

Erro padro

Desvio padro

Mdia

Tempo (anos)

Figura 5: Variabilidade nos nveis de coliformes coliforme totais em NMP/ 100 mL em trecho da Praia da Ponta da Areia (P1= 02 30 15S; 44 1906.9W), ), Ilha do Maranho (Brasil), 1989 1989-2007. Uma vez definida a significncia da sazonalidade para as sries temporais, temporais e com base na tendncia identificada, entende entende-se como necessria a suavizao ou eliminao

da tendncia e da sazonalidade para que se tenha um modelo de previso que represente com mais fidedignidade o comportamento dos dados em funo do tempo. d- Obteno da srie temporal pura e do modelo comportamental A grande dificuldade encontrada esta no fato da existncia da tendncia polinomial de ordem elevada nas sries temporais. Este fato prejudica a previso longo prazo (Figura 4). Na Figura 5, observa-se a amplitude da sazonalidade varivel para cada ano (perodo). Uma amplitude de sazonalidade varivel implica em uma sazonalidade multiplicativa, isto , influenciada por fatores multiplicativos, calculados em funo da mdia da sazonalidade do perodo (9 meses/ano) multiplicada por 2, pois a sazonalidade aproximadamente simtrica. A sazonalidade mais resduo foi ento dividida por cada fator multiplicativo do perodo obtendo-se a sazonalidade pura mais resduo. Uma vez com a sazonalidade pura mais resduo, juntamente com a tendncia, pode-se enfim encontrar a srie temporal pura sem tendncia, sazonalidade e resduo pela Equao 2. Obtendo-se, finalmente, por regresso, o modelo mais simples capaz de explicar o comportamento da varivel coliformes totais com 72.55% de certeza (Figura 6).
500 0 -500 -1000 -1500 -2000

Linear

y = -31.688x + 381.2 R = 0.7255 0 1 2 3 4 5 6 7 8 9 10111213141516171819202122232425262728293031323334353637383940414243444546 Tempo (ms/ ano)

mar/89 jun/89 set/89 mar/03 jun/03 set/03 mar/05 jun/05 set/05 mar/06 jun/06 set/06 mar/07 jun/07 set/07

Figura 6: Srie temporal pura para dados de coliformes totais em NMP/ 100 mL, em trecho da Praia da Ponta da Areia (P1 = 02 30 15 S; 44 1906.9W), Ilha do Maranho (Brasil), 1989-2007.

4 CONSIDERAES FINAIS 1. 2. As tendncias identificadas indicam diminuio na quantidade de coliformes totais na gua da Praia da Ponta da Areia, Ilha do Maranho (Brasil); As tendncias decrescentes podem implicar em diminuio dos pontos de lanamento de esgoto in natura, contudo nada conclusivo pois na cidade as poucas estaes de tratamento de esgoto esto desativadas; 3. A sazonalidade varivel pode indicar oscilaes na concepo de que no vero seco (meses junho, julho, agosto, setembro, outubro e novembro) h reduo na quantidade de coliformes e que no vero chuvoso (meses dezembro, janeiro, fevereiro, maro, abril e maio) h aumento, podendo ocorrer processo oposto em alguns perodos. 4. A grande variabilidade nos dados imposta por um modelo polinomial pode prejudicar a explicao do comportamento e da possibilidade de previso com base neste. O modelo linear, obtido aps a retirada da tendncia e da sazonalidade, pode ser utilizado para este propsito contudo com ressalvas, sendo indicado para curto prazo.

REFERENCIAS BIBLIOGRFICAS CHATFIELD, C. The analysis of time series: an introduction. 6 ed. Chapman & Hall/ CRC, New York, US, 2004. CICIN-SAIN, B. & KNECHT, R.W. Integrated Coastal and Ocean Management: concepts and practices. Washington DC: Island Press, 1998. GROPPO, J.D. Estudo de tendncias nas sries temporais de qualidade de gua de rios do estado de So Paulo com diferentes graus de interveno antrpica. Dissertao (Mestrado em Ecologia de Agrossistemas). Escola Superior de Agricultura Luiz de Queiroz, Piracicaba, 2005. MORETTIN, P. A. & TOLOI, C. M. C. Anlise de sries temporais. 2 ed. So Paulo: Edgard Blucher, 2006. MALETZKE, A. G. Uma metodologia para a extrao de conhecimento e informaes em sries temporais por meio da identificao de motifs e da extrao de caractersticas. Dissertao (Mestrado em Cincias), Universidade de So Paulo, So Carlos, 2009. BOLLMANN, H.A. Relao da densidade populacional sobre variveis de qualidade fsico-qumica das guas superficiais em microbaciais hidrogrficas urbanas sem cobertura sanitria em Porto Alegre- RS. Tese (Doutorado em Engenharia de Recursos Hidricos e Saneamento Ambiental), Universidade Federal do Rio Grande do Sul, Porto Alegre, 2003. HIPEL, K.W. & McLEOD, A.D. Times series modeling of water resources and environmental systems. Development in water science, v.45, 1994. MORAES, J.M. et al. Estudo preliminar da evoluo temporal dos componentes do ciclo hidrolgico da bacia hidrolgico da Bacia do Rio Piracicaba. In: Anais do Simposio de Recursos Hidricos, 11. ABRH, 1995.