Você está na página 1de 75

UNIVERSIDADE FEDERAL RURAL DO RIO DE JANEIRO

RODRIGO SANTOS MENDES DA ROCHA

COMPARAO ENTRE SOFTWARES COMERCIAIS E CIENTFICO NO


PROCESSAMENTO DE DADOS GNSS PELO MTODO RELATIVO

Seropdica
2014

RODRIGO SANTOS MENDES DA ROCHA

COMPARAO ENTRE SOFTWARES COMERCIAIS E CIENTFICO NO


PROCESSAMENTO DE DADOS GNSS PELO MTODO RELATIVO

Trabalho submetido ao corpo docente do


curso de Engenharia de Agrimensura da
Universidade Federal Rural do Rio de
Janeiro,

como

parte

dos

requisitos

necessrios obteno do ttulo de


Engenheiro Agrimensor.

Orientador:
Rodrigues

Seropdica
2014

Prof.

Ms.

Tiago

Lima

UNIVERSIDADE FEDERAL RURAL DO RIO DE JANEIRO


INSTITUTO DE TECNOLOGIA
ENGENHARIA DE AGRIMENSURA

RODRIGO SANTOS MENDES DA ROCHA

Trabalho de Concluso de Curso submetido como requisito parcial para obteno do


grau de Bacharel em Engenharia de Agrimensura, no Curso Engenharia de
Agrimensura

TRABALHO DE CONCLUSO DE CURSO APROVADA EM -----/-----/------

_____________________________________________
Prof. Ms. Tiago Lima Rodrigues UFRRJ
Orientador

_____________________________________________
Prof. Dr. Luiz Guimares Barbosa UFRRJ

_____________________________________________
Prof. Dr. Rosane Maciel de Arajo Vargas - UFRRJ

DEDICATRIA

Gostaria de agradecer ao apoio


incondicional dos meus pais em todos
esses anos de estudo e pela compreenso
de no poder estar presente em todos os
momentos devido a formao acadmica.
A minha namorada, Caroline, pela
ajuda e carinho que sempre teve comigo
durante todos os anos que estamos juntos.
Aos meus amigos, que sempre que
foi possvel, pudemos ter momentos de
alegria.

AGRADECIMENTOS
Agradeo a Universidade Federal Rural do Rio de Janeiro por ter me dado a
oportunidade de conhecer o curso de Engenharia de Agrimensura e, enfim, me tornar
engenheiro.
Ao Ms. Tiago Lima Rodrigues, meu orientador, que contribuiu e muito para a
concluso desse trabalho, nos incontveis e-mails e vezes que me atendeu na
universidade, alm de tambm ter me orientado tambm no estgio. Ao Dr. Luiz
Guimares Barbosa, por ter feito parte do meu crescimento profissional, no somente
dando aulas, mas tambm me atendendo fora do horrio para tirar vrias dvidas,
alm de ter ajudado bastante no incio do meu trabalho de concluso de curso. Ao Dr.
Leonardo Castro de Oliveira, que foi muito atencioso comigo quando tive algumas
dvidas e me indicou o software RTKLIB para usar no trabalho, alm de ter me
apresentado ao 1 Ten. Angelo Cantaluppi Silvestri de Freitas, que me ensinou como
utilizar o RTKLIB e respondeu vrias das minhas indagaes.
Tambm gostaria de agradecer todos os professores pelas aulas e
aprendizados passados durante esses anos de convivncia, me transformo em outra
pessoa aps essa experincia vivida. Acredito que com muitos pude criar uma boa
relao de amizade e com certeza nos encontraremos bastante futuramente.
Ao amigos que fiz na Universidade, da Engenharia de Agrimensura, em
especial todos que entraram comigo, turma 2008-1, acho que conseguimos criar um
grande vnculo de companheirismo ao longo desses anos e j sinto muita saudade de
nosso convvio dirio.

EPGRAFE

A imaginao mais importante do que o conhecimento


Albert Einstein

RESUMO

A aquisio de dados GNSS tem crescido em importncia na concepo de


modernizao dos setores de mapeamento, sendo usado em apoio a obras de
engenharia, pontos de controle em levantamentos aerofotogramtricos e outras
atividades. Para obter informaes acerca desses dados, faz-se necessrio o uso de
softwares adequados visando um acurado processamento desses. Os softwares
desse segmento podem ser divididos como comerciais e cientficos sendo o escopo
do trabalho o processamento e a anlise dos resultados adquiridos por esses.
Utilizando quatro linhas de base cujos vrtices so pertencentes a Rede Brasileira de
Monitoramento Contnuo (RBMC), trs softwares foram testados no trabalho, GNSS
Solutions, Topcon Tools, comerciais, e RTKLIB, cientfico, com diferentes tempos de
rastreio da estao a ter coordenadas descobertas usando cinco dias escolhidos
aleatoriamente. Uma padronizao nos processamentos com os diferentes softwares
foi escolhida. Realizado o processamento dos dados nos trs softwares, obteve-se as
coordenadas da estao de interesse alm da mdia e dos desvios padres sobre
cada amostra. Como as coordenadas dessas estaes so fornecidas pelos relatrios
das estaes pertencentes a RBMC, obteve-se os valores de tendncia que
possibilitaram a anlise de acurcia utilizando formulao do root mean square error
(RMSE) seguindo recomendaes de Monico, et al (2009). A acurcia tambm
analisada utilizando testes estatsticos baseados em hipteses, t de Student, quiquadrado (), que tratam a tendncia e a preciso separadamente, e F de FisherSnedecor para comparar as varincias das amostras envolvidas. Resultados no
condizentes com a acurcia requerida nesse tipo de levantamento foram obtidos,
sobretudo com o RTKLIB que precisou de algumas modificaes em suas
configuraes de modelos ionosfricos e troposfrico para otimizar os resultados dos
processamentos dos dados. As novas configuraes so indicadas por Freitas (2013).

Palavras-chave: GNSS, Softwares de processamento, Acurcia.

ABSTRACT

The acquisition of GNSS data has been very important in the design of modernizing
mapping sectors being used to support engineering projects, control points on aerial
surveys and other activities. In order to obtain information about these data, it is
necessary to use appropriate software to process them adequately. The software of
this segment can be divided as commercial and scientific, being the scope on this work,
the processing and analysis of the results obtained by it. Using four baselines whose
vertices are owned by The Brazilian Net of Continuous Monitoring (Rede Brasileira de
Monitoramento Contnuo - RBMC), three software were tested at work, GNSS
Solutions, Topcon Tools, commercial, and RTKLIB, scientific, with different tracking
times from rover station using five different days chosen at random. A standardization
on the processing was chosen. The processing of the data, on the three software
mentioned above, indicated the coordinates of the rover station; apart from that, the
mean and standard deviation of each sample were obtained. As the coordinates of
these stations are provided by reports from stations owned by RBMC, the values of
bias were obtained and enabled the analysis of accuracy by using formulation of the
root mean square error (RMSE) following recommendations of Monico, et al. (2009).
The accuracy is also analyzed through the use of statistical tests based on hypothesis,
Student's t-test, Chi-square (), dealing with the bias and accuracy separately, and F
Fisher-Snedecor to compare the variances of samples involved. Inconsistent results
with the accuracy required in this type of survey were obtained, particularly with
RTKLIB that needed some modifications in their ionospheric and tropospheric models
to optimize the results of the data processing. The new settings are indicated by
Freitas (2013).

Keywords: GNSS, Software processing, Accuracy.

LISTA DE FIGURAS

Figura 1: Estrutura sinais GPS .................................................................................. 17


Figura 2: Esquema satlites e receptores ................................................................. 20
Figura 3: Geometria do atraso do caminho ionosfrico ............................................. 25
Figura 4: RIOD ONRJ ............................................................................................ 32
Figura 5: CHPI ONRJ ............................................................................................. 33
Figura.6: UBA1 SJSP ............................................................................................. 33
Figura.7: SPCA SJSP ............................................................................................ 34
Figura 8: Processamento pelo GNSS Solutions ........................................................ 36
Figura 9: Processamento pelo Topcon Tools ............................................................ 37
Figura 10: Interface rtklaunch .................................................................................... 37
Figura 11: RTKPOST ................................................................................................ 38
Figura 12: Aba Setting 1, janela Options ................................................................... 39
Figura 13: Grfico RMSE CHPI-ONRJ ...................................................................... 43
Figura 14: Grfico RMSE Modificado CHPI ONRJ ................................................. 44
Figura 15: Grfico RMSE RIOD ONRJ ................................................................... 47
Figura 16: Grfico RMSE Modificado RIOD ONRJ ................................................ 48
Figura 17: Grfico RMSE SPCA-SJSP ..................................................................... 51
Figura 18: Grfico RMSE UBA1-SJSP ...................................................................... 53
Figura 19: Grfico RMSE Modificado UBA1 SJSP ................................................. 55

LISTA DE TABELAS

Tabela 1: Linha de base CHPI-ONRJ nos trs softwares ............................................... 42


Tabela 2: Mdia e desvio padro das coordenadas modificadas no RTKLIB CHPIONRJ ....................................................................................................................................... 44
Tabela 3: Testes e t de Student aplicado a CHPI-ONRJ............................................ 45
Tabela 4: Teste F aplicado a CHPI-ONRJ......................................................................... 46
Tabela 5: Linha de base RIOD-ONRJ nos trs softwares .............................................. 47
Tabela 6: Mdia e desvio padro das coordenadas modificadas no RTKLIB RIODONRJ ....................................................................................................................................... 48
Tabela 7: Testes e t de Student aplicado a RIOD-ONRJ ........................................... 49
Tabela 8: Teste F aplicado a RIOD-ONRJ ........................................................................ 49
Tabela 9: Linha de base SPCA-SJSP nos trs softwares .............................................. 50
Tabela 10: Testes e t de Student aplicado a SPCA SJSP ...................................... 52
Tabela 11: Teste F aplicado a SPCA-SJSP ...................................................................... 52
Tabela 12: Linha de base UBA1 SJSP nos trs softwares ......................................... 53
Tabela 13: Mdia e desvio padro das coordenadas modificadas no RTKLIB
UBA1-SJSP ............................................................................................................................ 54
Tabela 14: Testes e t de Student aplicado a UBA1 SJSP ...................................... 55
Tabela 15: Teste F aplicado a UBA1-SJSP ...................................................................... 56

SUMRIO

1 INTRODUO ....................................................................................................... 13
1.1 Caracterizao do assunto .............................................................................. 13
1.2 Objetivo Geral .................................................................................................. 14
1.3 Objetivos Especficos ....................................................................................... 14
1.4 Justificativa ...................................................................................................... 15
2. REVISO BIBLIOGRFICA .................................................................................. 16
2.1 Descrio Geral GNSS .................................................................................... 16
2.1.1 Conceitos bsicos GPS ............................................................................. 16
2.1.2 Observveis ............................................................................................... 17
2.1.3 Diferenciao e combinaes Lineares ..................................................... 19
2.1.4 Refraes atmosfricas ............................................................................. 23
2.1.5 Mtodos de Posicionamento Relativo ........................................................ 26
2.2 Controle de Qualidade ..................................................................................... 26
2.2.1 Acurcia ..................................................................................................... 27
2.2.2 Testes Estatsticos ..................................................................................... 28
3. METODOLOGIA.................................................................................................... 31
3.1 Escolha das linhas de base, aquisio e adequao dos dados ..................... 31
3.1.1. RIOD ONRJ ........................................................................................... 32
3.1.2. CHPI ONRJ............................................................................................ 33
3.1.3. UBA1 SJSP ........................................................................................... 33
3.1.4. SPCA SJSP ........................................................................................... 34
3.2 Processamento dos dados ............................................................................... 34
3.2.1 Softwares ................................................................................................... 35
3.2.2 Etapas do processamento ......................................................................... 39
4 RESULTADOS E ANLISES ................................................................................. 42
4.1 Linha de base CHPI ONRJ ........................................................................... 42
4.1.1 Resultados ................................................................................................. 42
4.1.2 Anlise ....................................................................................................... 43
4.2 Linha de base RIOD ONRJ ........................................................................... 46
4.2.1 Resultados ................................................................................................. 46
4.2.2 Anlises ..................................................................................................... 47

4.3 Linha de base SPCA SJSP ........................................................................... 50


4.3.1 Resultados ................................................................................................. 50
4.3.2 Anlise ....................................................................................................... 51
4.4 Linha de base UBA1 SPCA .......................................................................... 53
4.4.1 Resultados ................................................................................................. 53
4.4.2 Anlise ....................................................................................................... 54
5 CONCLUSES E RECOMENDAES................................................................. 57
REFERNCIAS BIBLIOGRFICAS .......................................................................... 59
APNDICE A Lista de cdigos de encurtamento de rastreios pelo TEQC............. 62
APNDICE B Tabela de coordenadas ONRJ pela linha de base CHPI-ONRJ e
coordenada final encontrada ..................................................................................... 68
APNDICE C Tabela de coordenadas ONRJ pela linha de base RIOD-ONRJ e
coordenada final encontrada ..................................................................................... 70
APNDICE D Tabela de coordenadas SJSP pela linha de base SPCA-SJSP e
coordenada final encontrada ..................................................................................... 72
APNDICE E Tabela de coordenadas SJSP pela linha de base UBA1-SJSP e
coordenada final encontrada ..................................................................................... 74

13

1 INTRODUO

1.1 Caracterizao do assunto

O GNSS (Global Navigation Satellite System) nasceu da crescente


necessidade de informao a respeito do posicionamento terrestre. Constituda por
posicionamento atravs de dados advindos de satlites artificiais fora do limite da
atmosfera terrestre, a tecnologia GNSS tem diferentes constelaes que a compem,
com destaque para o GPS, de origem estadunidense, o GLONASS, origem russa,
sistemas esses considerados totalmente operacionais e de maior uso no Brasil.
Em um projeto de Geodsia, utilizando tecnologia GNSS, algumas etapas so
necessrias para que haja satisfatria qualidade. Dentre essas etapas, destacam-se
a pr-anlise e o processamento dos dados obtidos, onde o modelo matemtico,
funcional e estocstico, de fundamental importncia (MONICO, 2008). Para serem
feitos os processamentos dos dados, necessrio o uso de um software de
processamento, j que h uma grande massa de dados envoltos no projeto. O usurio
se depara com uma variedade de softwares e, normalmente, faz a opo por um da
mesma marca de seu receptor GNSS, software comercial, por serem, geralmente,
vendidos em conjunto. Esse tipo de software costuma ser caro, adendo a
impossibilidade de uma configurao mais ampla no processamento e a falta de
informao a respeito dos algoritmos nesses implementados, tornando o usurio mero
expectador do processamento. Uma opo ao softwares comerciais so os softwares
cientficos, produzidos majoritariamente por universidades que disponibilizam
informaes sobre como o software trabalha, qual o clculo matemtico por trs da
funo usada e, em caso de softwares open source, acesso ao cdigo fonte. Esse tipo
de software costuma tambm ser mais barato que os comerciais, alguns at
disponibilizados gratuitamente. Entretanto h adversidades na utilizao dos
softwares cientficos, o usurio precisa ser um profissional muito mais capacitado e
experiente para fazer os processamentos dada a complexidade de utilizao alm de
muitos desses softwares terem interface pouco intuitiva. Alguns exemplos de
softwares cientficos so: Bernese, Gamit, Gipsy-Oasis e o RTKLIB.

14

Diante do exposto, torna-se vivel realizar uma comparao no processamento


de dados GNSS pelo mtodo relativo utilizando dois diferentes softwares comerciais,
GNSS Solutions e Topcon Tools, e um cientfico, RTKLIB. A escolha pelos comercias
se deve a serem softwares licenciados pela UFRRJ e o RTKLIB por ser um software
open source alm de possuir intuitiva interface. Para serem feitas as comparaes
usou-se dados da Rede Brasileira de Monitoramento Contnuo (RBMC), j que os
mesmos tm suas coordenadas conhecidas e informadas pelo IBGE, fato esse que
possibilita a anlise de acurcia feita sobre os resultados dos processamentos. So
utilizadas quatro linhas de base e, em cada comparao feita entre softwares, usouse os mesmos arquivos para obter a coordenada final da estao a ser determinada.
A anlise de acurcia feita sobre o valor do root mean squared error (RMSE),
permitindo dimensionar o erro associado a cada valor obtido, e dos testes t de Student,
qui-quadrado () e F de Fisher-Snedecor, possibilitando avaliar tendncia, preciso
e varincia atravs de inferncia estatstica.

1.2 Objetivo Geral

Este trabalho tem como objetivo geral fazer processamentos de dados GNSS
pelo mtodo relativo em softwares comerciais e cientficos e, com os resultados, fazer
uma investigao quanto a acurcia dos mesmos, para saber se a diferena entre as
acurcias obtidas em cada software relevante, ou no, para apontar qual software
conseguiu os melhores resultados.

1.3 Objetivos Especficos

Os objetivos especficos do trabalho so:


- Avaliar a performance dos softwares perante diferentes linhas de base;

15

- Avaliar duas diferentes configuraes do RTKLIB no processamento de


dados;
- Avaliar as acurcias obtidas;
- Aplicar testes estatsticos afim de validar os resultados;

1.4 Justificativa

O posicionamento preciso tem sido cada vez mais importante em diversas


aplicaes. Para que se possa ter posicionamento preciso, importante, alm dos
equipamentos, softwares confiveis no processamento dos dados GNSS. Os
softwares cientficos permitem uma maior integrao do usurio no momento do
processamento dos dados, permitindo-o que faa escolhas de como fazer os
processamentos, escolhas essas como modelos atmosfricos a serem usados,
formas de resoluo de ambiguidade e outras funcionalidades. Com isso novas
metodologias podem ser desenvolvidas por pesquisadores que posteriormente podem
at mesmo implementar novos algoritmos, no caso dos softwares open source. J
com os softwares comerciais o usurio est sujeito as condies impostas pelo
desenvolvedor, alm de dificilmente conseguir informaes sobre o que est sendo
feito pelo programa.
Como no h muitos artigos cientficos avaliando a qualidade desses softwares,
esse trabalho se prope a faz-lo com o intuito de colaborar com profissionais da rea
que necessitam de resultados acurados para as mais diversas aplicaes.

16

2. REVISO BIBLIOGRFICA

2.1 Descrio Geral GNSS

2.1.1 Conceitos bsicos GPS

O sistema NAVSTAR GPS (NAVigation System with Time And Ranging Global
Positioning System) vem sendo desenvolvido pelos norte-americanos desde 1973
para atividades de cunho militar. Esse sistema baseado em rdio navegao
utilizando satlites artificiais que enviam sinais a um equipamento capaz de receblos (SEEBER, 2003).
Os sinais GPS so transmitidos pelos satlites at o equipamento (receptor) e
o horrio de transmisso comparado com o horrio de recepo. Essa diferena de
instantes, multiplicada pela velocidade da luz, dar a distncia satlite-receptor
(ROSSBACH, 2000, apud FREITAS, 2013, p. 20). Tendo no mnimo quatro satlites
enviando sinais ao receptor, possvel obter o posicionamento tridimensional do
mesmo (SEEBER, 2003). Em 27 de abril de 1985, com 24 satlites distribudos
igualmente em seis rbitas o sistema foi considerado operacional (MONICO, 2008), j
que, em qualquer parte do mundo, era garantida a visibilidade de, no mnimo, quatro
satlites. Em 29 de fevereiro de 2012, havia 31 satlites disponveis (FREITAS, 2013).
Os sinais dos satlites GPS esto na faixa da banda L, por isso so chamados
como L1, L2 e L5, sendo L1 e L2 presentes em todos os satlites, j a L5 somente em
satlites do Bloco IIF. Tambm conhecidas como ondas portadoras, L1, L2 e L5 tm
moduladas alguns cdigos, chamados C/A (Coarse/Acquisiton), P, L2C, L5C. Ambos,
onda e cdigo, so baseados na frequncia fundamental f0 de 10,23MHz. A figura 1
apresentada por Monico (2008) demonstra as relaes entre frequncia fundamental,
ondas e cdigos. O cdigo L2C s est disponvel em satlites do Bloco IIRM (PINTO,
2012).

17

Figura 1: Estrutura sinais GPS


Fonte: Monico, 2008.

O sistema GPS utiliza como sistema de referncia o WGS, que desenvolvido


pelo U.S. Department of Defense (DoD), desde 1960. Aps algumas realizaes,
chegou-se at o WGS 84, sistema esse que pode ser considerado como: (PINTO,
2012)

Geocntrico;

Eixo Z paralelo ao eixo dos polos definidos pelo CTP;

Eixo X na direo da interseo entre o plano do Equador na Terra e o

meridiano origem definido pelo BIH;

O eixo Y de forma a torn-lo dextrgiro.

2.1.2 Observveis
Em 2003, Seeber afirma serem quatro as observveis utilizadas no
processamento de dados:

Pseudodistncia derivada do cdigo;

Diferena de pseudodistncia entre as contagens integradas Doppler;

18

Fase da onda portadora ou diferena entre a fase da onda portadora;

Diferena

no

tempo

de

viagem

do

sinal

utilizando

medidas

interferomtricas.

Entretanto, geralmente, utilizam-se apenas a pseudodistncia derivado do


cdigo e a fase da onda portadora (ou diferena entre a fase da onda portadora), j
que as outras possibilidades despendem mais tempo na coleta de dados alm de um
equipamento mais sofisticado o que encarece o trabalho (SEEBER, 2003).

2.1.2.1 Pseudodistncia
A pseudodistncia obtida pela multiplicao do tempo de propagao do sinal
pela velocidade da luz no vcuo. J o tempo dessa propagao corresponde ao tempo
de deslocamento necessrio para que haja mxima correlao da sequncia do
cdigo emitido pelo satlite e a rplica gerada pelo receptor (MATSUOKA, 2003).
conhecida como pseudodistncia devido falta de sincronismo entre os relgios que
so responsveis pela contagem de tempo no satlite e no receptor (LEICK, 2004,
apud PINTO, 2012, p. 43). Alm do erro devido falta de sincronismo dos relgios
dos satlites e dos receptores, h os erros devido a propagao dos sinais pela
ionosfera e troposfera, ambas divises da atmosfera. A equao 1, mostrada por
Seeber (2003), demonstra a pseudodistncia satlite-receptor dada pelo cdigo.
PRCD R cdtu cdt a cdt s r ,

sendo:
c

= Velocidade da luz no vcuo;

= Erro de no-sincronismo entre os relgios;


= Atraso da propagao pela atmosfera;
= Erro no relgio do satlite com relao ao horrio do sistema GPS;
= Rudo da observao;

= Distncia geomtrica satlite-receptor.

(1)

19

2.1.2.2 Fase da onda portadora


A observvel fase da onda portadora obtida pela diferena entre a fase
gerada pelo satlite e a sua rplica que gerada pelo receptor, ambas no instante de
recepo. A fase observada em nmero de ciclos dada pela equao 2 (KING et al.,
1998, apud MONICO, 2008, p. 186).

rs s (t ) r (t ) N rs rs ,

(2)

sendo:

= Instante de recepo do sinal no receptor r;

() = Fase da portadora gerada pelo satlite s, no instante de recepo, recebida


no receptor r;

r (t) = Fase gerada pelo receptor no instante de recepo;

= Ambiguidade;

= Erro da fase da onda portadora.

2.1.3 Diferenciao e combinaes lineares


Com o intuito de melhorar o resultado do processamento de dados GNSS foram
criadas diferenciaes e combinaes lineares entre as observveis GNSS,
pseudodistncia e fase da onda portadora. Podem ser feitos diversos tipos de
diferenciaes e combinaes, entretanto, no so todas as que trazem refinamento
nas solues. A maior vantagem de faz-las que muitos dos erros que esto
presentes nas observaes GNSS podem ser eliminados, entretanto, o nvel de rudo
nas observaes aumenta sensivelmente (SEEBER, 2003). Sero focados nesse
trabalho as principais, ditas pela literatura, diferenciaes e combinaes lineares
envolvendo as medidas de fase das ondas portadoras L 1 e L2. Com chegada da
portadora L5 novas diferenciaes e combinaes lineares sero possveis.

20

2.1.3.1 Simples Diferena


A simples diferena uma diferenciao que consiste em uma subtrao das
distncias satlite-receptor encontradas. Pode ser feita de formas diferentes, como
entre (SEEBER, 2003):

Dois satlites e um receptor;

Duas pocas de um satlite e um receptor;

Dois receptores e um satlite.

A figura abaixo mostra um esquema entre satlites e receptores.

Figura 2: Esquema satlites e receptores


Fonte: Seeber, 2003

Usualmente, tem-se usado simples diferena entre dois receptores e um


satlite. Utilizando a notao de Seeber (2003, p. 260) para a fase da onda portadora,
temos:

( PR1pi PR1pj ),

(3)

PRCRij Rij cdtuij cdt aij CR N ij CR ,

(4)

21

sendo:

CR = Comprimento de onda
Ao ser feita a simples diferena para dois receptores e um satlite, o erro do
relgio do satlite eliminado (MONICO, 2008).

2.1.3.2 Dupla diferena


Usualmente formada entre receptores e satlites, a dupla diferena dita como
a diferena entre duas simples diferenas (SEEBER, 2003; MONICO, 2008). Segundo
Seeber (2003) as equaes para fase da onda portadora na forma simplificada so
dada pelas equaes 5 e 6.
( PR1pi PR1pj ) ( PR1qi PR1qj ),

(5)

R d ION dTROP N ,

(6)

Com a dupla diferena, alm do erro dos relgios dos satlites, o erro dos
relgios dos receptores eliminado (MONICO, 2008). Para medidas usando a fase
da onda portadora ainda existe necessidade de resoluo das ambiguidades.
A maior parte dos softwares comerciais utilizam a dupla diferena como
observvel primria no ajuste das linhas de base (SEEBER, 2003). A relao rudo
resultante da combinao e eliminao dos erros sistemticos nas observveis
originais, aparentemente tem melhor relao (MONICO, 2008).

2.1.3.3 Tripla diferena


A tripla diferena consiste na diferena entre duas duplas diferenas em
instantes distintos (t1 e t2) (MONICO, 2008). O ciclo inicial ambiguidade eliminado
para a observvel fase da onda portadora (SEEBER, 2003). Para medidas sobre o

22

cdigo, no h vantagens na utilizao da tripla diferena j que essa utilizada para


resoluo da ambiguidade. A formulao simplificada dada por Seeber (2003) segue
a equao 7.

R d

ION

dTROP ,

(7)

Geralmente a tripla diferena no adotada para a soluo final da


ambiguidade, j que essa traz muito rudo a observvel resultante. Tambm uma
observvel muito sensvel perda de ciclos (MONICO, 2008).

2.1.3.4 Wide Lane


Wide Lane uma combinao linear entre as ondas L 1 e L2 cuja vantagem
uma mais fcil soluo da ambiguidade devido ao maior comprimento de onda
resultante, entretanto h aumento de rudo. dada pela equao 8 (SEEBER, 2003):

L L1 L2 ,

(8)

= 86,2 ,

2.1.3.5 Narrow Lane


Combinando-se as portadoras L1 e L2 tambm se pode formar a observvel
narrow lane, observvel essa com o mais baixo nvel de rudo, porm de menor
comprimento de onda. dada na equao 9 (SEEBER, 2003).

L L1 L2 ,
= 10,7 ,

(9)

23

2.1.3.6 Ionospheric free


Com o objetivo de minimizar grande parte do erro proveniente da ionosfera
sobre sinais GPS, foi criada a combinao ionospheric free observable (ion-free), L0,
que capaz de eliminar os efeitos de primeira ordem da refrao ionosfrica (LIN,
1997, SEEBER, 2003, apud AGUIAR, 2005, p. 14). Ao se combinar a ion-free com a
wide lane, perdas de ciclos e erros grosseiros so detectados graas aos efeitos
quase nulos da ionosfera, ion-free, e ao maior comprimento de onda, wide lane.
Combinando-se ion-free com narrow lane, o rudo na observvel mais baixo,
possibilitando melhores resultados (SEEBER, 2003; MONICO, 2008).

2.1.4 Refraes atmosfricas


A atmosfera terrestre parte importante para que haja vida na Terra. essa a
responsvel pela absoro de radiao ultravioleta solar, o que aquece a superfcie
formando o efeito estufa. Em aplicaes geodsicas, entretanto, fonte de erro nas
observveis GNSS e esse erro precisa ser minimizado.
A atmosfera pode ter diversas divises dependendo de qual o propsito. No
escopo de tecnologias GNSS, importa a diviso pela propagao de sinal, ou seja, se
o meio dispersivo, ionosfera, ou no-dispersivo, troposfera.

2.1.4.1 Troposfera
Para ondas com frequncia abaixo de 30 GHz, a troposfera pode ser
considerada como meio no-dispersivo para os sinais GNSS (LEICK, 1995, apud
MATSUOKA, 2003, p. 34). Situada entre a superfcie terrestre e at aproximadamente
50 km de altura, as ondas dos sistemas GNSS se propagam com velocidade de fase
independente da frequncia. Os maiores agentes influentes sobre as ondas GNSS
so: contedo de vapor dgua, presso do ar e temperatura (MATSUOKA, 2003).
Alguns efeitos da ao troposfrica sobre sinais GNSS so conhecidos, como
a atenuao atmosfrica, cintilao troposfrica e atraso troposfrico. Sapucci (2001)
afirma que para maiores tempos de observao e com ngulos maiores que 10, os

24

efeitos tanto de atenuao quanto de cintilao podem ser negligenciados por serem
de baixa magnitude, entretanto, o atraso troposfrico necessita ser modelado para
menores erros nas observaes. Existem diferentes formas de modelagem do atraso
troposfrico como os modelos matemticos de Hopfield e o modelo Saastamoinen.

2.1.4.2 Ionosfera
A ionosfera a camada situada entre 50 km a 1000 km, aproximadamente, e
afetado principalmente pela densidade de ons e eltrons livres na camada que so
capazes de alterar a propagao das ondas e dependem da frequncia (MATSUOKA,
2003).
A densidade de eltrons livres na ionosfera funo de diversos fatores, sendo
a maioria desses relacionados a intensidade de radiao solar incidente na regio.
Portanto, variaes de latitude e longitude, variaes temporais, exploses solares,
campo magntico e etc (MATSUOKA, 2003) favorecem o TEC (Total Electon Content)
que a contagem de eltrons livres na atmosfera ao longo do trajeto satlite-receptor
dentro de uma coluna com 1 m. Seeber (2003) apresenta o TEC como:

TEC ne (s)ds,
R

(10)

Uma alternativa ao uso do TEC utilizar o VTEC, como nos arquivos IONEX
distribudos gratuitamente pelo IGS. O VTEC descoberto pela equao 11.

VTEC

1
TEC,
F

(11)

Onde:

1
,
cos(z I )

= fator de mapeamento geomtrica padro.

(12)

25

rE

z I arcsen
sen ( z ) ,
rE hI

(13)

Figura 3: Geometria do atraso do caminho ionosfrico


Fonte: Seeber, 2003

O efeito da ao da ionosfera diretamente proporcional ao TEC como


mostrada a seguir (LEICK, 1995, apud MATSUOKA, 2003, p.59):

I sfr

I grs

40,3
TEC,
f

40,3
TEC,
f

(14)

(15)

Essa diferena de mesma magnitude dos efeitos da atmosfera no cdigo e na


fase da onda portadora ocasionado porque, ao passar pela ionosfera h um atraso
na velocidade de grupo, onde transportado o cdigo modulado pela onda,
provocando um aumento na distncia medida, e, na fase da onda portadora h um
avano, provocando uma diminuio na distncia medida. Tambm pode ser
verificado, na frmula acima, que a refrao ionosfrica inversamente proporcional
ao quadrado da frequncia o que prova que a ionosfera um meio dispersivo
(AGUIAR, 2005).

26

2.1.4.2.1 Modelo Broadcast


O modelo broadcast, tambm conhecido como Klobuchar, foi desenvolvido por
John A. Klobuchar em 1987. Com a impossibilidade de fazer a combinao linear ionfree com receptores de simples frequncia, esse modelo foi desenvolvido com o intuito
de minimizar os efeitos da ionosfera sobre as ondas utilizadas no posicionamento via
GPS. Utilizando oito coeficientes que so enviados nas mensagens de navegao
GPS, alm da latitude e longitude geodsica, azimute, ngulo de elevao do satlite
e o tempo GPS da poca de observao, consegue-se minimizar em torno de 50% a
60% dos efeitos da ionosfera (LEICK, 1995; MATSUOKA, 2007; MARQUES, 2012).
Maiores detalhes sobre o a formulao matemtica podem ser encontrados em
Matsuoka (2003).

2.1.5 Mtodos de Posicionamento Relativo


O mtodo de posicionamento relativo aquele cujas coordenadas de um
receptor a se determinar so obtidas em relao a outro (ou outros) ponto que j tem
coordenadas conhecidas referenciadas ao WGS 84 ou outro sistema compatvel com
esse, em casos de posicionamento via GPS. Para o posicionamento via GLONASS,
as coordenadas do ponto so referenciadas ao PZ90 (MONICO, 2008).
O mtodo forma uma linha-base entre os pontos, estimada pelas observaes
principalmente da fase da onda portadora, e essa deslocada para as coordenadas
do ponto conhecido, descobrindo, assim, as coordenadas do ponto de interesse. Muito
empregada em softwares comerciais, e at mesmo no cientfico Bernese, o mtodo
relativo faz uso da observvel DD (dupla diferena) sobretudo da fase da onda
portadora que tem preciso muito superior a pseudodistncia (MONICO, 2008).

2.2 Controle de Qualidade

Uma grandeza mensurada, direta ou indiretamente, nunca tem seu valor


verdadeiro conhecido devido aos erros presentes no momento em que se

27

determinada. Para avaliar uma srie de medies, so necessrios os conhecimentos


sobre acurcia e de testes estatsticos para julg-las.

2.2.1 Acurcia
Toda medida feita est sujeita a trs tipos de erros: grosseiros, causados pela
falta de ateno de um observador; sistemticos, causados por fenmenos da
natureza e que podem ser deduzidos utilizando formulaes matemticas; e
aleatrios, erros derivados de fatores que no podem ser controlados e, portanto,
deduzidos. Muitas vezes so resultantes das imperfeies na criao de instrumento
de medio (Wolf; Guilani, 1997). Excluindo-se os erros grosseiros, pode-se afirmar
que o valor de uma grandeza nunca realmente conhecido j que podem ainda estar
presentes erros sistemticos e aleatrios, entretanto uma mesma grandeza pode ter
sido determinada com qualidade superior por uma tcnica e inferior por outra, sendo
que a acurcia ir determinar qual teve melhor qualidade.
O termo acurcia bastante difundido nas atividades que envolvem
posicionamento, entretanto muitas vezes esclarecida de maneira errnea. Muitos
textos procuram explicar as diferenas entre acurcia e preciso, quando na verdade
a preciso um dos elementos da acurcia, juntamente com a tendncia. Dito isso
pode-se definir preciso como o grau de disperso de uma varivel aleatria em uma
srie de observaes, sendo essas provenientes dos erros aleatrios presentes. J a
tendncia a diferena entre os valores estimados para aquele considerado como
verdadeiro (melhor estimativa obtida), podendo ser, ou no, varivel no tempo, sendo,
portanto, ocasionada pela presena de erros sistemticos (MONICO, et al, 2009).
H duas formas de representar a acurcia, declarando qual a tendncia e a
preciso da varivel aleatria separadamente ou em um s valor. Quando se
apresenta em um s valor, a medida de acurcia mais utilizada a proposta por
Gauss, conhecida por root mean squared error (RMSE), traduzido para raiz do erro
mdio quadrtico (REQM), equao 17. O RMSE advm do mean squared error
(MSE), erro mdio quadrtico (EQM), equao 16.

28

MSE m E{( p E{( p )})} p (b) i 1


n

RMSE p (b)

i 1

i
n

i
n

(16)

(17)

sendo:
p = Desvio padro
b = Tendncia
= Diferena entre valor observado e o tomado como referncia
n = nmero de observaes

2.2.2 Testes Estatsticos


Testes estatsticos so importantes na avaliao da acurcia em uma amostra
de uma populao. Tambm podem ser utilizados para comparar se uma amostra
teve um resultado significativamente melhor que a outra. Os testes que abordam
esses casos so explicitados abaixo.

2.2.2.1 Teste t aplicado a anlise de tendncia


O teste t de Student utilizado para comparar a mdia populacional com a
mdia de uma amostra. Dito isso pode-se deduzir que esse o teste que analisa a
tendncia de uma amostra observada. Para se efetuar o teste necessrio descobrir
a mdia e o desvio padro (DP) da amostra permitindo assim que se faa um teste de
hipteses para analisar a tendncia. Considerando a hiptese nula como H 0 e a
alternativa como HA, Galo e Camargo (1994) definem os testes para uma varivel
aleatria como:

29

H0: = 0, contra
HA: 0
sendo:
= Diferena entre o valor calculado e o conhecido
Para validar a hiptese nula preciso que a estatstica t amostral, dada pela
equao 18, calculada seja menor em mdulo que a estatstica t tabelada para um
certo nvel de confiana. Como nesse caso se trata de um teste bicaudal, tem-se o
espao amostral dado pela equao 19.
| t x |

X
S x

n,

(18)

| t x | t ( n 1,a / 2) ,

(19)

sendo:

SX

= Total de observaes

= Nvel de significncia

Desvio padro da amostra

2.2.2.2 Teste aplicado a anlise de preciso


O teste (qui-quadrado) tem como objetivo avaliar a preciso associada a uma
amostra com a esperada populacional. Para se fazer o teste necessrio o
conhecimento da varincia populacional e o da amostra, permitindo, atravs de um
teste de hipteses, avaliar se a varincia amostral a mesma que a varincia
populacional (Guilani, 2010). Na anlise de preciso as hipteses testadas podem ser
definidas como (Galo; Camargo, 1994):

30

H0: S2X = X, contra


HA: S2X > X
O teste unicaudal e tem a estatstica calculada pela equao 20, alm do
espao amostral definido pela equao 21.

(n 1)
2
x

S 2X

2X

x2 (2n 1, ) ,

(20)

(21)

2.2.2.3 Teste F aplicado a anlise de varincia entre duas amostras


Quando se tem duas amostras de uma populao e se quer avaliar se
significativa a diferena das varincias proposto o teste F (Fisher-Snedecor). As
hipteses so formuladas abaixo:

H0: 12 = 1, contra
2

HA: 12 > 1
2

Sendo S1 > S2

Para que a hiptese nula seja rejeitada necessrio que a diviso entre as
varincias seja maior que o valor de F tabulado encontrado.

31

3. METODOLOGIA

Com o intuito de investigar os resultados provenientes de ps-processamento


de dados GNSS, o trabalho tem como proposta fazer esses processamentos em
diferentes linhas de base e utilizando trs softwares, a saber: GNSS Solutions, Topcon
Tools e RTKLIB.
Para a realizao do trabalho foi preciso a escolha de linhas de base, aquisio
e adequao dos dados e, finalmente, o processamento dos dados. Com os
resultados do processamento de dados possvel fazer uma anlise da acurcia,
alm de testes estatsticos sobre os resultados.

3.1 Escolha das linhas de base, aquisio e adequao dos dados


Foram escolhidas quatro linhas de base de diferentes comprimentos para a
realizao do trabalho. As estaes das linhas de base so pertencentes a Rede
Brasileira de Monitoramento Contnuo (RBMC), j que as mesmas tm dados
coletados

diariamente

possuem

coordenadas

conhecidas,

permitindo,

posteriormente, a anlise de acurcia sobre os resultados obtidos.


Os dados da RBMC possuem durao de rastreio de 24h e para obteno de
coordenadas confiveis de uma estao de interesse relativamente prxima no h
necessidade de todo esse tempo de rastreio, deste modo, optou-se por um
encurtamento nos tempos de rastreio dos dados da estao a se determinar,
adequando a uma recomendao do Instituto Geogrfico Nacional (Espanha - IGN)
presente em IBGE (2008). Os encurtamentos dos tempos de rastreio foram feitos
utilizando o software TEQC como mostrado no Apndice 1.

As linhas de base escolhidas foram:

Rio de Janeiro (RIOD) Observatrio Nacional (ONRJ)

Cachoeira Paulista (CHPI) Observatrio Nacional (ONRJ)

Ubatuba (UBA1) So Jos dos Campos (SJSP)

Campinas (SPCA) So Jos dos Campos (SJSP)

32

Essas linhas de base tm como primeira estao a base do levantamento e a


segunda estao como a que se quer determinar. Por exemplo, RIOD a estao
base e ONRJ a estao a se determinar. Portanto so duas linhas de base para
determinar a coordenada ONRJ e duas estaes de base para determinar SJSP. Os
dias de rastreio e horrio utilizados para determinar ONRJ foram os mesmos para as
linhas de base RIOD ONRJ e CHPI ONRJ. As linhas de base envolvendo SJSP
tambm utilizam os mesmos dias de rastreios e horrios, porm esses so dias
diferentes dos envolvendo ONRJ. As datas e horrios dos rastreios foram escolhidas
aleatoriamente.

3.1.1. RIOD ONRJ


A linha de base RIOD ONRJ foi uma das escolhidas por ser uma linha de
base considerada curta. Por ter um comprimento aproximado de 12 km, preferiu-se
fazer o encurtamento para uma hora de rastreio da estao a ser determinada.
Importante destacar que a recomendao do IGN cita de dez a trinta minutos, porm
optou-se por um tempo maior. Os dias utilizados foram 28/08/2009, 27/12/2010,
24/03/2011, 31/05/2012 e 01/11/2013. A Figura 4, a seguir, apresenta a linha de base
formada.

Figura 4: RIOD ONRJ


Fonte: Google Earth

33

3.1.2. CHPI ONRJ


Utilizando os mesmos dias e horrio da linha de base acima, CHPI ONRJ tem
comprimento aproximado de 182 km, a maior das quatro linhas de base, apresentada
na figura 5. O tempo de rastreio foi de 6h.

Figura 5: CHPI ONRJ


Fonte: Google Earth

3.1.3. UBA1 SJSP


As estaes de Ubatuba e So Jos dos Campos esto no estado de So
Paulo. Distantes entre si por 82,5 km. Os arquivos para os processamentos foram dos
dias 07/07/2013, 04/08/2013, 06/09/2013, 03/10/2013 e 01/11/2013. A estao SJSP
teve o tempo de rastreio encurtado para 4h e mostrada na figura 6.

Figura.6: UBA1 SJSP


Fonte: Google Earth

34

3.1.4. SPCA SJSP


A linha de base SPCA SJSP, que apresentada na figura 7, tambm tem
suas estaes dentro do estado de So Paulo. Com o comprimento estimado em 130
km, teve a estao SJSP encurtada para 5h de rastreio. Os dias e horrios foram os
mesmos que UBA1 SJSP.

Figura.7: SPCA SJSP


Fonte: Google Earth

3.2 Processamento dos dados


Como mencionado na seo 1.1, so utilizados nesse trabalho os softwares
GNSS Solutions, Topcon Tools e RTKLIB, sendo os dois primeiros do grupo dos
comerciais e o ltimo do cientfico. Na seo 3.2.1 feita uma abordagem geral dos
softwares de processamento envolvidos no trabalho e na seo 3.2.2 abordado
alguns dos parmetros utilizados no processamento dos dados.

35

3.2.1 Softwares
3.2.1.1 GNSS Solutions
O GNSS Solutions foi desenvolvido pela Ashtech, empresa fundada nos anos
80 por Javad Ashjaee. Hoje, o software foi adquirido pela Trimble e recebe o logotipo
da Spectra Precision.
O software tem interface de fcil manuseio, podendo o usurio escolher opes
bsicas de processamento. Algumas dessas opes so:

Processo utilizando L1 ou L1/L2;

Escolha do sistema de referncia;

Mscara de elevao;

Parmetros da antena utilizada;

Selecionar os satlites que sero utilizados;

Outras opes tambm esto disponveis.

O software faz, para apenas um ponto, o posicionamento absoluto e, para ao


menos uma referncia, o posicionamento relativo. H opo de usar mais de um ponto
de referncia no processamento dos dados. Uma imagem da interface do software
mostrada na figura 8.
Quando instalada tem-se 30 dias de licena para utilizar o software
processando as portadoras L1 e L2. Aps esses 30 dias, apenas com o hardlock
possvel processar usando as duas portadoras. Para ter o hardlock necessria a
compra do software.

36

Figura 8: Processamento pelo GNSS Solutions


Fonte: O autor

3.2.1.2 Topcon Tools


A Topcon a empresa desenvolvedora do software Topcon Tools e foi fundada
em setembro de 1932, no Japo, construindo aparelhos de agrimensura, binculos e
cmeras para o exrcito japons. Um histrico mais abrangente sobre a empresa
pode ser visto em http://global.topcon.com/about/history/. O Topcon Tools foi
desenvolvido pela empresa para que os usurios de seus produtos pudessem
processar seus dados em uma plataforma prpria da Topcon, podendo assim dar um
melhor suporte tcnico.
Os mtodos de posicionamento mais usados no software so o absoluto,
apenas importando os dados, e o relativo, podendo usar um ou mais pontos como
referncia(s); as opes de processamento so semelhantes s do GNSS Solutions.
Na verso Demo pode-se somente importar at 5 pontos em um mesmo projeto. Para
processar mais pontos usa-se o hardlock, que tambm s obtido atravs da compra
do software. A interface do software mostrada na figura 9.

37

Figura 9: Processamento pelo Topcon Tools


Fonte: O autor

3.2.1.3 RTKLIB
Considerado como um software open source, o RTKLIB um software para
posicionamento preciso utilizando dados de levantamentos GNSS. Atualmente, o
software trabalha com dados GPS, GALILEO, GLONASS, QZSS, BeiDou e SBAS
fazendo tanto ps-processamento como posicionamento em tempo real pelos
mtodos absolutos, relativo, DGPS alm de outros (TAKASU, 2013).
O software utiliza diferentes aplicativos para realizar as funes, no h
necessidade de instalao, simplesmente executa-se o aplicativo. A verso utilizada
no trabalho foi a 2.4.2 e o download foi feito pelo endereo eletrnico www.rtklib.com.
O aplicativo principal do software o RTKLAUNCH j que com esse possvel
acessar todos os outros, como na figura abaixo:

Figura 10: Interface rtklaunch


Fonte: TAKASU, 2013

38

O aplicativo utilizado nesse trabalho foi o RTKPOST, que utilizado em psprocessamento de dados. No RTKPOST, o usurio importa os dados que sero
processados. No caso de processamento pelo mtodo absoluto, apenas se coloca o
arquivo do tipo RINEX em RINEX OBS: Rover; caso seja feito um processamento pelo
mtodo relativo, deve ser importado tambm o arquivo RINEX que ser usado como
referncia, sendo esse importado em RINEX OBS: Base Station. Nos campos
debaixo, pode-se importar arquivos de efemrides precisas, arquivos IONEX e outros
para processamento dos dados. A figura 11 mostra a interface do RTKPOST.

Figura 11: RTKPOST


Fonte: O autor

Em Options, so escolhidas as diversas opes de processamento. O mtodo


de processamento, quais frequncias sero utilizadas, mscara de elevao, modelo
de correo ionosfrica e troposfrica alm de vrias outras. Tambm em Options
que se coloca as coordenadas da referncia, no caso de posicionamento pelo mtodo
relativo, por exemplo. A figura 12 mostra uma das sete abas de Options.

39

Figura 12: Aba Setting 1, janela Options


Fonte: O autor

Aps todas as configuraes serem definidas, clica-se em Execute, figura 11,


para executar o processamento. Os resultados podem ser observados em Plot e em
View. Para maiores detalhes, consultar o manual do RTKLIB, tambm disponvel no
endereo eletrnico.

3.2.2 Etapas do processamento

Os softwares de processamento, conforme mostrado na seo 3.2.1, tem


diferentes interfaces, opes de processamento alm de diversas peculiaridades. A
inteno do trabalho a de homogeneizar os processamentos nos diferentes
softwares, para que os resultados sejam avaliados somente sobre a tica dos
diferentes algoritmos de processamento dos dados e no por diferentes configuraes
usadas. Por isso foram utilizados os mesmos dados para obter as coordenadas de
ONRJ e SJSP. Entretanto, no foi possvel a homogeneizao de todos os
processamentos nos diferentes softwares devido dificuldade de se obter informao
a respeito dos algoritmos e modelos envoltos nos processamentos alm de certas

40

limitaes de cada software. Em alguns momentos tambm se fez mudanas de


configurao para melhorar alguns resultados discrepantes obtidos.
Quatro configuraes bsicas foram adotadas no processamento dos dados
sendo essas:
- Processamento utilizando as portadoras L1 e L2;
- Mscara de elevao de 15;
- Coordenadas geodsicas latitude e longitude;
- Sistema geodsico de referncia WGS 84.

A escolha pelo sistema WGS 84 ocorreu porque essa a opo disponvel no


software RTKLIB. Os desvios padres, ao nvel de um sigma, associados as
coordenadas das estaes de referncia da linha de base no foram informados j
que no foi encontrado (ou no existe) o local no RTKLIB para colocar essa
informao. No informar as incertezas das coordenadas deteriora o processamento
dos dados, todavia, o objetivo do trabalho fazer anlises comparativas das acurcias
dos resultados obtidos e no o de determinar quais as coordenadas da estao de
interesse.
Os softwares GNSS Solutions e Topcon Tools tm uma interface mais
amigvel, porm no h muitas opes de processamento, por isso apenas importouse os dados e se informou as coordenadas da estao de referncia, alm de colocar
a mscara de elevao. No h opes a respeito de qual modelo ionosfrico e
troposfrico usar, por exemplo, e tambm no foram encontradas informaes sobre
quais so os modelos matemticos funcionais usados nesses softwares. J no
RTKLIB tem-se essas opes para customizao do processamento sendo a correo
ionosfrica escolhida a ION-Free LC, comentada na seo 2.1.3.6 e para correo
troposfrica foi utilizado o modelo Saastamoinen. Existem outras opes de
processamento no RTKLIB, entretanto no foram modificadas as opes padro do
software.
Foram feitos os processamentos para os cinco dias usando as quatro linhas de
base nos trs softwares diferentes, totalizando quinze processamentos para cada
linha de base, ou seja, sessenta processamentos no total. Para fazer as anlises sobre
acurcia, optou-se por transformar as coordenadas geodsicas, latitude e longitude,

41

para coordenadas Universal Transverse de Mercator (UTM), por trabalhar em um


sistema mtrico. Os sessenta processamentos foram transformados no software
ProGriD, desenvolvido pelo IBGE, o que resultou em coordenadas segundo os eixos
Leste e Oeste, e foi preservada o valor de altitude elipsoidal. J com todas as
coordenadas em UTM, pde-se colocar todos esses valores em tabela, assim como
suas devidas incertezas, provenientes da matriz varincia covarincia dos parmetros
ajustados no processamento de dados GNSS. No software GNSS Solutions, as
incertezas esto associadas a uma preciso de 95%, por isso os valores das
incertezas foram divididos por 1,96, com o intuito de se trabalhar no nvel de confiana
de um desvio padro, forma como os outros softwares trabalham.
Para avaliar a qualidade dos processamentos foi calculado o RMSE de cada
componente das coordenadas resultantes e esses valores so apresentadas em
grfico. Cada software e linhas de base tiveram valores diferentes tanto em
coordenadas, quanto em RMSE, desse modo foi necessrio a aplicao dos testes
estatsticos t de Student e para avaliar a presena de tendncia significativa e a
preciso dos resultados encontrados, como descrito em Galo e Camargo (1994). O
teste utilizou, como desvio padro populacional esperado, os valores 0,01 m, em
planimetria, e 0,05 m planimtrico, em altimetria. O teste F de Fisher-Snedecor foi
utilizado para avaliar se significativa ou no as diferenas de varincias nos trs
softwares utilizados para cada linha de base.

42

4 RESULTADOS E ANLISES
Nessa

seo

so

apresentadas

as

coordenadas

resultantes

dos

processamentos nos trs softwares para cada linha de base. Devido ao grande
nmero de informaes, cada seo de linha de base foi dividida da seguinte forma:
primeiro apresentada uma tabela com a mdia e desvio padro das coordenadas
para cada software alm dos valores advindos da matriz varincia covarincia dos
parmetros ajustados (MVC), depois mostra-se um grfico comparativo para valores
de RMSE. Tambm nessa etapa que so demonstrados os testes estatsticos.
Os valores de RMSE foram calculados seguindo as recomendaes de Monico
et al. (2009) utilizando a equao 17. Para o clculo das tendncias utilizou-se, como
referncia, as coordenadas das estaes ONRJ (LR = 682.133,192 m e NR =
7.466.927,822 m e hR = 35,64 m) e SJSP (LR = 411.820,813 m e NR = 7.433.289,119
m e hR = 605,09 m). No clculo do foi utilizado o desvio padro da mdia, dado pela
equao 22.

p
n

(22)

4.1 Linha de base CHPI ONRJ


4.1.1 Resultados
Os resultados so mostrados na tabela 1 e no grfico da figura 13. A linha de
base CHPI ONRJ tem extenso aproximada de 182 km.

Tabela 1: Linha de base CHPI-ONRJ nos trs softwares

L
N
h
N
Norte (m)
h (m)
L (m)
h (m)
(m)
(m)
(m)
(m)
Mdia 682133,190 0,096 7466927,812 0,137 35,723 0,266 0,002 0,010 -0,083
GNSS
Solutions
DV
0,007
0,005
0,028
0,007 0,005 0,028
Topcon Mdia 682133,193 0,033 7466927,812 0,017 35,610 0,050 -0,001 0,010 0,030
Tools
DV
0,014
0,004
0,060
0,014 0,004 0,060
Mdia 682133,067 0,004 7466927,625 0,002 35,009 0,004 0,125 0,197 0,631
RTKLIB
DV
0,160
0,438
1,764
0,160 0,438 1,764

Softwares

Leste (m)

43

1,0101

1,0575

Grfico RMSE
CHPI - ONRJ
1,2000
1,0000

0,0753
0,0195
0,3131

0,1631
0,0450

0,2000

0,1446
0,0406

0,4000

0,0620
0,0126
0,2779

0,6000

0,0427
0,0148
0,1442

0,8000

RMSE-L

RMSE-N

RMSE-h

RMSE-BI

RMSE-TRI

0,0000

GNSS Solutions

Topcon Tools

RTKLIB

Figura 13: Grfico RMSE CHPI-ONRJ


Fonte: O autor

4.1.2 Anlise

Observando a tabela 1, nota-se que os softwares GNSS Solutions e Topcon


Tools apresentaram os melhores resultados haja visto os valores encontrados para
desvio padro em cada componente e na resultante da MVC dos parmetros
ajustados. Enquanto Topcon Tools e GNSS Solutions tiveram como valores mximo
0,0600 m e 0,2655 m, respectivamente, o RTKLIB apresentou um desvio padro de
1,7641 m na componente altitude elipsoidal, valor esse muito acima do esperado. O
motivo para tamanha discrepncia pode ser observado na tabela 3 do apndice 2,
onde apresentada a tabela referente a linha de base CHPI ONRJ, que mostra
valores de coordenadas da estao ONRJ, no dia 24/03/2011, muito diferente
daqueles tomados como de referncia, resultando, assim, em grandes tendncias nas
trs componentes (L, N, h). Outra grande disparidade encontrada no dia 01/11/2013,
onde as componentes L e h tiveram valores prximos a 30 cm em tendncia. No
grfico da figura 13 possvel observar que os melhores resultados foram obtidos nos
softwares Topcon Tools e GNSS Solutions. Nesse, observa-se que o RMSE-N no
Topcon Tools apresentou o valor de 0,0126 m. J no outro extremo, o RMSE-h no
RTKLIB foi de 1,0101m.

44

de se estranhar que o software RTKLIB tenha apresentado resultados muito


aqum do esperado e no aceitos para um posicionamento de preciso, entretanto os
valores

encontrados

podem

ser

associados

configurao

utilizada

no

processamento dos dados. Em todos os processamentos feitos no RTKLIB foi usado


como modelo de correo ionosfrica a combinao linear ion-free e de correo
troposfrica Saastamoinen, e por algum motivo esses dois modelos juntos
ocasionaram esses resultados. Utilizando como modelo ionosfrico Estimate STEC e
troposfrico sem modelagem, metodologia aplicada por Freitas (2013), em todos os
processamentos, os resultados tiveram significativa melhora, como apresentado na
tabela 2 e figura 14 (tabela completa em apndice B, tabela 4).

Tabela 2: Mdia e desvio padro das coordenadas modificadas no RTKLIB CHPI-ONRJ

N
h (m) h (m) L (m) N (m) h (m)
(m)
Mdia 682133,1998 0,0025 7466927,8054 0,0018 35,7322 0,0036 -0,0078 0,0166 -0,0922
0,0209
0,0055
0,0396
0,0209 0,0055 0,0396
DV
Norte (m)

0,1631
0,0207

0,0753

0,0195

0,0168

0,0620

0,0126

0,0122

0,0500

0,0427

0,1000

0,0148

0,1500

0,0939

0,2000

0,0406

0,1446

Grfico RMSE Modificado


CHPI - ONRJ

0,0962

L (m)

0,0450

Leste (m)

0,0000
RMSE-L

RMSE-N
GNSS Solutions

RMSE-h
Topcon Tools

RMSE-BI

RMSE-TRI

RTKLIB

Figura 14: Grfico RMSE Modificado CHPI ONRJ


Fonte: O autor

De acordo com o grfico na figura 14, o RTKLIB passa a apresentar resultados


mais acurados em todas as componentes, em relao ao GNSS Solutions. Todavia,

45

os resultados do Topcon Tools so melhores em relao ao RTKLIB nas componentes


N e h.
Como j descrito na seo 2.2.2 os testes estatsticos tambm so importantes
na anlise sobre os resultados. Para a realizao dos testes foi escolhido o nvel de
confiana de 95% e tambm foi adotado o desvio padro populacional como 0,01 m,
em leste e norte, e 0,05 m, em altitude elipsoidal. Os resultados so mostrados na
tabela 3, que levam em considerao somente os valores de desvio padro retirados
sobre a amostra dos dados, no levando em considerao a MVC dos parmetros
ajustados. Os valores obtidos no RTKLIB so derivados da tabela 2.

Tabela 3: Testes e t de Student aplicado a CHPI-ONRJ

Softwares
GNSS
Solutions
Topcon
Tools

RTKLIB

Componentes (n-1,)
Leste
9,488
Norte
9,488
Alt. Elip.
9,488
Leste
9,488
Norte
9,488
Alt. Elip.
9,488
Leste
9,488
9,488
Norte
9,488
Alt. Elip.

x t (n-1,/2)
2,988
2,776
5,332
2,776
1,613
2,776
1,988
2,776
1,100
2,776
0,434
2,776
17,508
2,776
1,232
2,776
2,513
2,776

|tx|
0,550
4,501
6,519
0,192
5,756
1,132
0,834
6,688
5,203

De acordo com a tabela 3, nesse nvel de confiana no se pode rejeitar a


hiptese nula, como formulada na seo 2.2.2.2, na anlise de preciso sobre os
resultados dos softwares GNSS Solutions e Topcon Tools, portanto, para a varincia
populacional definida no teste, no h motivos para afirmar que a amostra processada
nesses dois softwares no tem varincia amostral proporcional a varincia
populacional. Essa mesma concluso pode ser tirada sobre as componente N e h do
RTKLIB, entretanto, suas componentes L teve a hiptese nula rejeitada, comprovando
que a varincia no segue uma distribuio .
Da tabela 3 ainda podemos analisar, pelo teste t de Student, conforme anlise
de tendncias da seo 2.2.2.1, que houve tendncia significativa, a um nvel de 95%
de confiana, em ao menos uma das trs componentes nos trs softwares e que a

46

componente L no apresentou tendncia significativa em nenhum dos softwares.


Pode-se concluir que somente algumas componentes seguem uma distribuio t de
Student.
A tabela 4 nos fornece o teste F de Fisher-Snedecor para comparao de
varincias obtidas com os 3 diferentes softwares. De acordo com a seo 2.2.2.3, a
hiptese nula no rejeitada nos 3 softwares para as componentes N e h, ou seja,
no se pode afirmar estatisticamente que um software teve uma melhor varincia
nessa componente. Entretanto na componente L, o RTKLIB teve pior resultado
perante o GNSS Solutions. Entre GNSS Solutions e Topcon Tools no se pode afirmar
quem se foi melhor que o outro.

Tabela 4: Teste F aplicado a CHPI-ONRJ

Componentes
Leste

Norte

Altitude
Elipsoidal

Softwares
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB

F (,1,2)
6,388
6,388
6,388
6,388
6,388
6,388
6,388
6,388
6,388

F
4,627
10,348
2,237
1,510
1,300
1,962
4,490
1,956
1,234

4.2 Linha de base RIOD ONRJ

4.2.1 Resultados

Os resultados so apresentados na tabela 5 e figura 15, da mesma forma que


na seo 4.1.1.

47

Tabela 5: Linha de base RIOD-ONRJ nos trs softwares

L
N
h
Norte (m)
h (m)
L (m)
(m)
(m)
(m)
Mdia 682133,201 0,006 7466927,811 0,009 35,640 0,018 -0,009
GNSS
Solutions
DV
0,009
0,012
0,032
0,009
Topcon Mdia 682133,184 0,003 7466927,816 0,003 35,624 0,010 0,008
Tools
DV
0,007
0,005
0,016
0,007
Mdia 682133,031 0,013 7466927,701 0,006 35,470 0,011 0,161
RTKLIB
DV
0,315
0,261
0,347
0,315

Softwares

Leste (m)

RMSE-L

RMSE-N
GNSS Solutions

RMSE-h
Topcon Tools

RMSE-BI

0,3564

h
(m)
0,000
0,032
0,016
0,016
0,170
0,347

0,0208

0,0206

0,2722
0,0106

0,0152

0,2300

0,0176

0,0142

0,1681
0,0118

0,0064

0,0084

0,0096

0,4000
0,3500
0,3000
0,2500
0,2000
0,1500
0,1000
0,0500
0,0000

0,2140

Grfico RMSE
RIOD - ONRJ

N
(m)
0,011
0,012
0,006
0,005
0,121
0,261

RMSE-TRI

RTKLIB

Figura 15: Grfico RMSE RIOD ONRJ


Fonte: O autor

4.2.2 Anlises

Segundo a tabela 5 o RTKLIB apresenta os maiores valores de disperso nas


cinco observaes j que o valor de desvio padro chega a aproximadamente 35 cm
na componente h, por exemplo, e nos outros softwares a maior disperso medida pelo
desvio padro foi de aproximadamente 3 cm. Essa grande disperso tambm
ocasiona uma maior tendncia nas mdias se compararmos com os outros softwares.
Enquanto GNSS Solutions e Topcon Tools tiveram como maior valor de tendncia
mdia de 1,6 cm, o RTKLIB apresenta de 12 cm a 17 cm nas componentes, motivo
pelo qual os resultados do RMSE, conforme figura 15, no RTKLIB tm valores
superiores aos outros softwares. Entretanto, se compararmos os resultados dessa

48

linha de base com a linha de base CHPI ONRJ observamos um valor menor de
tendncia em todos os trs softwares, sendo a provvel causa a menor extenso
dessa linha de base que de aproximadamente 12 km.
Examinando a tabela 7, presente no apndice C, avergua-se que, tambm no
dia 24/11/2011 h uma grande tendncia nas trs componentes sendo que a altitude
elipsoidal alcanou 78 cm de diferena entre a coordenada encontrada e a
coordenada tida como referncia. Fez-se o mesmo processo realizado na linha de
base CHPI ONRJ, trocando a modelagem ionosfrica para Estimate STEC e a
troposfrica desligada, porm, apenas nos dados do dia 24/11/2011. Obteve-se a
tabela 6 e a figura 16.

Tabela 6: Mdia e desvio padro das coordenadas modificadas no RTKLIB RIOD-ONRJ


L
N
L
N
h
Leste (m)
Norte (m)
h (m)
h(m)
(m)
(m)
(m)
(m)
(m)
Mdia 682133,179 0,016 7466927,823 0,009
35,635
0,013 0,013 -0,001 0,005

0,032

0,015

0,066

0,032

0,015

RMSE-N
GNSS Solutions

RMSE-h
Topcon Tools

RMSE-BI

0,0206

0,0208

0,0207

0,0152

0,0106

0,0176

0,0142

0,0068

0,0118

0,0299
RMSE-L

0,0064

0,0195

0,0084

0,0400
0,0350
0,0300
0,0250
0,0200
0,0150
0,0100
0,0050
0,0000

0,0364

Grfico RMSE Modificado


RIOD - ONRJ

0,0096

DV

RMSE-TRI

RTKLIB

Figura 16: Grfico RMSE Modificado RIOD ONRJ


Fonte: O autor

0,066

49

A tabela 6 e a figura 16 mostram a aproximao dos resultados do RTKLIB com


os demais softwares, comprovando que a utilizao da ion-free e Saastamoinen no
foram adequados para esse dia.
Testes estatsticos tambm foram realizados para essa linha de base.
Mantendo o nvel de confiana usado nos trs testes sobre CHPI ONRJ, 95%, a
tabela 7 apresenta os testes e t de Student e a tabela 8 apresenta o teste F de
Fisher-Snedecor, todos com os valores do RTKLIB j modificados.

Tabela 7: Testes e t de Student aplicado a RIOD-ONRJ

Softwares
GNSS
Solutions
Topcon
Tools

RTKLIB

Componentes (n-1,)
Leste
9,488
Norte
9,488
Alt. Elip.
9,488
Leste
9,488
Norte
9,488
Alt. Elip.
9,488
Leste
9,488
Norte
9,488
Alt. Elip.
9,488

x
2,988
5,332
1,613
1,988
1,100
0,434
41,588
8,960
6,971

t (n-1,/2)
2,776
2,776
2,776
2,776
2,776
2,776
2,776
2,776
2,776

Tabela 8: Teste F aplicado a RIOD-ONRJ

Componentes
Leste

Norte

Altitude
Elipsoidal

Softwares
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB

F (,1,2)
F
6,388
1,503
6,388
13,918
6,388
20,920
6,388
4,847
6,388
1,680
6,388
8,146
6,388
3,714
6,388
4,321
6,388
16,048

|tx|
2,277
2,053
0,028
2,474
2,558
2,171
0,915
0,149
0,171

50

Pela tabela 7, no se pode afirmar que algum dos trs softwares tem tendncia
significativa de acordo com o teste t de Student. Avaliando a varincia populacional
com a amostral, apenas a componente L do RTKLIB no pode ser considerada como
tendo uma distribuio . Se formos comparar a varincia de um software com a
varincia de outro, examinando a tabela 8 afirma-se que no h motivos para
acreditar, estatisticamente, que alguma componente teve melhor varincia nos
softwares GNSS Solutions e Topcon Tools. Em relao ao RTKLIB, suas varincias
podem ser consideradas piores, a um nvel de significncia de 5%, na componente L
perante GNSS Solutions e Topcon Tools, e nas componentes N e h somente para o
Topcon Tools.

4.3 Linha de base SPCA SJSP

4.3.1 Resultados

Os resultados referentes a linha de base SPCA SJSP so apresentados na


tabela 9 e na figura 17.

Tabela 9: Linha de base SPCA-SJSP nos trs softwares

L
N
h
Norte (m)
h (m)
L (m)
(m)
(m)
(m)
Mdia 411820,809 0,067 7433289,117 0,105 605,096 0,186 0,004
GNSS
Solutions
DV
0,005
0,004
0,037
0,005
Topcon Mdia 411820,815 0,016 7433289,114 0,017 605,096 0,049 -0,002
Tools
DV
0,007
0,006
0,045
0,007
Mdia 411820,837 0,006 7433289,054 0,003 605,196 0,005 -0,024
RTKLIB
DV
0,033
0,115
0,088
0,033

Softwares

Leste (m)

N
(m)
0,002
0,004
0,005
0,006
0,065
0,115

h (m)
-0,006
0,037
-0,006
0,045
-0,106
0,088

51

0,1003
0,0256

0,0560
0,0119

0,0092

0,0200

0,0283

0,0400

0,0075

0,0600

0,0304

0,0800

0,0470

0,1000

0,0227

0,1200

0,0832

0,0833

0,1400

0,0879

0,1132

0,1600

0,1434

Grfico RMSE
SPCA - SJSP

0,0000
RMSE-L

RMSE-N
GNSS Solutions

RMSE-h
Topcon Tools

RMSE-BI

RMSE-TRI

RTKLIB

Figura 17: Grfico RMSE SPCA-SJSP


Fonte: O autor

4.3.2 Anlise

Tanto a tabela 9 quanto a figura 17 mostram que houve uma grande


aproximao dos valores do RTKLIB com relao aos demais softwares, sendo que,
para essa linha de base, o valor de RMSE da componente L do RTKLIB foi menor que
o do GNSS Solutions graas a uma menor disperso das coordenadas encontradas
com o RTKLIB contrastando com os valores advindos da MVC dos parmetros
ajustados do GNSS Solutions que fez aumentar os valores de RMSE para esse
software. O Topcon Tools continua sendo o mais acurado entre os softwares testados.
Como no ocorreu discrepncia acentuada entre os valores, nessa linha de
base no foram feitas modificaes.
A averiguao quanto tendncia e preciso apresentada na tabela 10,
seguindo os moldes j apresentados. O teste t indica que, estatisticamente, no h
comprovao que h tendncia em nenhuma das amostras testadas, entretanto o
teste indica o RTKLIB no alcanou nenhuma das precises esperadas. O GNSS
Solutions consegue atingir a preciso esperada j que os testes foram feitos sobre as

52

varincias dos conjuntos de coordenadas e no sobre a MVC dos parmetros


ajustados.
A tabela 11 faz o comparativo entre a varincia dos softwares atravs do teste
F. Mais uma vez entre GNSS Solutions e Topcon Tools as varincias so prximas,
fazendo com que no se rejeite a hiptese nula, portanto estatisticamente ambas as
varincias so iguais. J nas relaes envolvendo o RTKLIB somente na componente
h o mesmo pde ser considerado estatisticamente igual aos outros softwares,
entretanto, na componente N principalmente, as varincias podem ser consideradas
piores que do GNSS Solutions e Topcon Tools.

Tabela 10: Testes e t de Student aplicado a SPCA SJSP

Software Componentes
Leste
GNSS
Norte
Solutions
Alt. Elip.
Leste
Topcon
Norte
Tools
Alt. Elip.
Leste
RTKLIB
Norte
Alt. Elip.

(n-1,)
9,488
9,488
9,488
9,488
9,488
9,488
9,488
9,488
9,488

x
1,060
0,572
2,136
2,012
1,292
3,257
44,720
530,692
12,459

t (n-1,/2)
2,776
2,776
2,776
2,776
2,776
2,776
2,776
2,776
2,776

Tabela 11: Teste F aplicado a SPCA-SJSP

Componentes
Leste

Norte

Altitude
Elipsoidal

Softwares
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB

F (,1,2)
6,388
6,388
6,388
6,388
6,388
6,388
6,388
6,388
6,388

F
1,898
42,189
22,227
2,259
927,783
410,752
1,525
5,832
3,825

|tx|
1,737
1,419
0,343
0,757
2,125
0,287
1,605
1,270
2,690

53

4.4 Linha de base UBA1 SPCA

4.4.1 Resultados

A tabela 12 traz as mdias e desvios padres referentes a linha de base UBA1


SPCA e a figura 18 mostra o RMSE em cada componente.

Tabela 12: Linha de base UBA1 SJSP nos trs softwares

L
N
h
L
Norte (m)
h (m)
(m)
(m)
(m) (m)
Mdia 411820,801 0,045 7433289,128 0,070 605,105 0,116 0,012
GNSS
Solutions
DV
0,003
0,008
0,039
0,003
Topcon Mdia 411820,799 0,014 7433289,124 0,014 605,183 0,038 0,014
Tools
DV
0,004
0,004
0,041
0,004
Mdia 411820,317 0,006 7433288,926 0,007 605,012 0,017 0,496
RTKLIB
DV
0,942
0,265
0,916
0,942

Softwares

Leste (m)

N (m)
-0,009
0,008
-0,005
0,004
0,193
0,265

RMSE-L

0,6891
RMSE-N
GNSS Solutions

RMSE-h
Topcon Tools

RMSE-BI
RTKLIB

Figura 18: Grfico RMSE UBA1-SJSP


Fonte: O autor

0,0960

0,0671

0,0154

0,0401

0,4172
0,0948

0,0538

0,2267
0,0055

0,0323

0,6507
0,0143

0,0238

0,9000
0,8000
0,7000
0,6000
0,5000
0,4000
0,3000
0,2000
0,1000
0,0000

0,8055

Grfico RMSE
UBA1 - SJSP

h
(m)
-0,015
0,039
-0,093
0,041
0,078
0,916

RMSE-TRI

54

4.4.2 Anlise

Pela tabela 12 se observa que a escolha pela configurao Iono-free LC e


Saastamoinen no trouxe, mais uma vez, resultados condizentes a um levantamento
de acurcia, nos processamentos de dados utilizando o software RTKLIB. Na
componente L foi encontrada uma tendncia de 7,8 cm, entretanto, se comparada
com o seu desvio padro mdio de 94 cm, evidencia-se que houve grande
variabilidade nas coordenadas encontradas. De acordo com a tabela 14, apndice E,
no dia 01/11/2013 a tendncia em L foi de 2,071 m, algo intolervel para esse tipo de
processamento, entretanto, se compararmos com a incerteza resultante para o
mesmo dia advindo da MVC dos parmetros ajustados encontra-se o valor de 0,0061
m. Nos softwares GNSS Solutions e Topcon Tools os valores de tendncia e preciso,
primeira vista, so valores aceitveis. O RMSE, figura 18, retrata bem a tabela 12,
mostrando que os softwares comerciais tiveram valores de RMSE muito abaixo dos
encontrados com o RTKLIB. Tambm pela figura 18 constata-se que o GNSS
Solutions teve o mais baixo RMSE tridimensional, superando o Topcon Tools.
Para melhorar os resultados dos processamentos com o RTKLIB, repetiu-se a
estratgia das outras linhas de base e, para os dias 07/07/2013, 03/10/2013 e
01/11/2013, se utilizou o modelo Estimate STEC para a ionosfera e desligou o modelo
troposfrico com os novos resultados expostos na tabela 13 e na figura 19.

Tabela 13: Mdia e desvio padro das coordenadas modificadas no RTKLIB UBA1-SJSP

Leste (m)
Mdia
DV

411820,802
0,021

N
(m)
0,004 7433289,124 0,003
0,008

L (m)

Norte (m)

h (m)
605,157
0,054

N
h
(m)
(m)
0,011 -0,005 -0,067
0,021 0,008 0,054

h (m) L (m)
0,006

55

0,0200

0,0055
0,0059

0,0400

0,0238
0,0143
0,0143

0,0600

0,0323

0,0960
0,0728

0,0800

0,0671

0,0538

0,1000

0,0401
0,0154
0,0155

0,1200

0,0948
0,0711

Grfico RMSE Modificado


UBA1 - SJSP

0,0000
RMSE-L

RMSE-N
GNSS Solutions

RMSE-h
Topcon Tools

RMSE-BI

RMSE-TRI

RTKLIB

Figura 19: Grfico RMSE Modificado UBA1 SJSP


Fonte: O autor

A nova estratgia de processamento mostra uma melhora acentuada nos


valores resultantes de RMSE no software RTKLIB que conseguiu valores melhores de
planimetria com relao ao GNSS Solutions e foi quase igual ao Topcon Tools nesse
quesito. J em altimetria o RTKLIB teve resultado abaixo do Topcon Tools, porm foi
superado pelo GNSS Solutions. A tabela 13 comprova as melhoras com a menor
disperso encontrada.
Para comprovar a veracidade dos fatos expostos, os testes estatsticos foram
feitos nos mesmos moldes das outras linhas de base e expostos nas tabelas 14 e 15.

Tabela 14: Testes e t de Student aplicado a UBA1 SJSP

Software Componentes
Leste
GNSS
Norte
Solutions
Alt. Elip.
Leste
Topcon
Norte
Tools
Alt. Elip.
Leste
RTKLIB
Norte
Alt. Elip.

(n-1,)
9,488
9,488
9,488
9,488
9,488
9,488
9,488
9,488
9,488

x
0,332
2,312
2,414
0,788
0,708
2,673
16,940
2,388
4,711

t (n-1,/2)
2,776
2,776
2,776
2,776
2,776
2,776
2,776
2,776
2,776

|tx|
9,624
2,529
0,863
7,154
2,764
5,088
1,195
1,389
2,755

56

Tabela 15: Teste F aplicado a UBA1-SJSP

Componentes
Leste

Norte

Altitude
Elipsoidal

Softwares
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB
GNSS - Topcon
GNSS - RTKLIB
Topcon - RTKLIB

F (,1,2)
6,388
6,388
6,388
6,388
6,388
6,388
6,388
6,388
6,388

F
2,373
51,024
21,497
3,266
1,033
3,373
1,107
1,951
1,762

A nova estratgia de processamento no RTKLIB se mostrou muito satisfatria


haja visto que esse foi o nico dos trs softwares que no teve a hiptese nula rejeita
no teste de tendncia, por tanto essa amostra segue uma distribuio t de Student
nas trs componentes. O GNSS Solutions s apresentou tendncia na componente L
e o Topcon Tools nas componentes L e h. J na anlise de preciso, o nico resultado
insatisfatrio foi a componente L do RTKLIB.
O teste F mostra que em leste e norte no h razo estatstica para considerar
que um software foi mais preciso que o outro, o mesmo no ocorre na componente L,
que o RTKLIB foi aqum dos demais.

57

5 CONCLUSES E RECOMENDAES

A crescente demanda de informaes georreferenciadas, tem aumentado


necessidade do uso de tecnologia GNSS no apoio de diversas atividades de
mapeamento. Parelho a esse crescimento tem sido o desenvolvimento dos receptores
e softwares capazes de captar e processar os dados advindos das constelaes GPS,
GLONASS e outras, o que motivou a confeco desse trabalho sobre comparao
dos softwares comerciais e cientficos.
No desenvolvimento do trabalho foram feitos diversos processamentos
utilizando os softwares GNSS Solutions, Topcon Tools e RTKLIB com dados das
estaes da RBMC com o intuito de obter coordenadas sobre as quatro linhas de base
propostas e assim poder comparar os resultados entre eles atravs de uma anlise
de acurcia sobre os processamentos.
Para avaliar a acurcia utilizou-se o RMSE seguindo a metodologia indicada
por Monico, et al (2009), alm de fazer anlises sobre a tendncia e preciso
separadamente utilizando-se de testes estatsticos, como prescrito por Galo e
Camargo (1994).
Foram adotadas algumas configuraes padres, que no caso do GNSS
Solutions e do Topcon Tools no fizeram uma grande diferena nos resultados obtidos
sendo que a maioria desses foi satisfatria em casos de posicionamento de preciso
principalmente para o apoio a mapeamentos, porm o mesmo no se pode afirmar
com relao aos resultados obtidos com o RTKLIB que, mesmo com valores baixos
nas incertezas provenientes da MVC dos parmetros ajustados, teve um resultado de
acurcia muito fraco devido as configuraes pr-determinadas de modelo ionosfrico
e troposfrico. Quando fora notada a discrepncia nos resultados do RTKLIB com
relao aos demais softwares, optou-se por utilizar configurao adotada por Freitas
(2013) em novos processamentos para substituir queles que podem ser
considerados como outliers, o que permitiu melhora significativa em acurcia nos
processamentos por esse software.
Um fator que deve ser observado a diferena nos valores de RMSE nas linhas
de base envolvendo ONRJ. Para se determinar ONRJ foram usadas a maior (CHPIONRJ) e menor (RIOD-ONRJ) linhas de base sendo ntido que os melhores resultados

58

foram obtidos na menor linha de base. Nas linhas de base contendo SJSP no foi
encontrada uma grande diferena nos valores de RMSE j que so duas linhas de
base com comprimento mais prximos.
Pelos resultados que foram obtidos no trabalho, fica a indicao para que novos
trabalhos de fundo investigativo sejam desenvolvidos sobre o RTKLIB e outros
softwares cientficos por permitirem uma maior customizao no processamento dos
dados GNSS, alm da possibilidade de implementao de novos algoritmos sobre
estes.

59

REFERNCIAS BIBLIOGRFICAS

AGUIAR, C.R.. Modelo Regional da Ionosfera (Mod_Ion): implementao em


tempo real. 2005. 159p. Dissertao (Mestrado em Cincias Cartogrficas) Programa de Ps-Graduao em Cincias Cartogrficas, Faculdade de Cincias e
Tecnologia, Universidade Estadual Paulista, Presidente Prudente.

FREITAS, A. C. S.. A integrao entre os sistemas GPS e GLONASS no


posicionamento relativo. 2013. 77p. Dissertao (Mestrado em Engenharia
Cartogrfica) - Programa de Ps-Graduao em Engenharia Cartogrfica,
Departamento de Cincia e Tecnologia, Instituto Militar de Engenharia, Rio de Janeiro.

INSTITUTO BRASILEIRO DE GEOGRAFIA E ESTATSTICA. Recomendaes para


Levantamentos Relativo Esttico - GPS. 2008. 20p.

GALO, M.; CAMARGO, P.O.. Utilizao do GPS no controle da qualidade de


cartas. 1994, pginas 41-48. In: Congresso Brasileiro de Cadastro Tcnico
Multifinalitrio. Florianpolis.

GUILANI, C.D.. Adjustment Computations: Spatial Data Analysis. 5 ed. John


Wiley & Sons, 2010. 647p.

LEICK, A.. GPS Satellite Surveying. 2.ed. New York: John Wiley & Sons, 1995. 560p.

MARQUES, H.A.. PPP em tempo real com estimativa das correes dos relgios
dos satlites no contexto de rede. 2012. 244p. Tese (Doutorado em Cincias
Cartogrficas) - Programa de Ps-Graduao em Cincias Cartogrficas, Faculdade
de Cincias e Tecnologia, Universidade Estadual Paulista, Presidente Prudente.

MATSUOKA, M.T.. Avaliao de funes para modelagem do efeito da refrao


ionosfrica na propagao dos sinais GPS. 2003. 164p. Dissertao (Mestrado em
Cincias Cartogrficas) - Programa de Ps-Graduao em Cincias Cartogrficas,

60

Faculdade de Cincias e Tecnologia, Universidade Estadual Paulista, Presidente


Prudente.

MATSUOKA, M.T.. Influncia de diferentes condies da ionosfera no


posicionamento por ponto com GPS: Avaliao na regio brasileira. 2007. 263p.
Tese (Doutorado em Cincias Cartogrficas) Programa de Ps-Graduao em
Cincias Cartogrficas, Faculdade de Cincias e Tecnologia, Universidade Estadual
Paulista, Presidente Prudente.

MONICO, J.F.M.; PZ, A.P.D.; GALO, M.; SANTOS, M.C.; OLIVEIRA, L.C.. Acrcia
e Preciso: Revendo os conceitos de forma acurada. 2009, jul-set, volume 15, n
3, pginas 469-483. In: Boletim de Cincias Geodsicas, Curitiba.

MONICO, J.F.G.. Posicionamento pelo GNSS: descrio, fundamentos e


aplicaes. So Paulo: Ed. da Unesp, 20 ed., 2008. 476p.

PINTO, M.S.. Influncia da combinao e modernizao dos sistemas que


integram o GNSS no georreferenciamento de imveis rurais. 2012. 116p.
Dissertao (Mestrado em Cincias Cartogrficas) Programa de Ps-Graduao em
Cincias Cartogrficas, Faculdade de Cincias e Tecnologia, Universidade Estadual
Paulista, Presidente Prudente.

RTKLIB on line endereo eletrnico: www.rtklib.com, acesso em 03/05/2013.

SAPUCCI, L.F.. Estimativa do vapor dgua atmosfrico e avaliao da


modelagem do atraso zenital troposfrico utilizando GPS. 2001. 167p.
Dissertao (Mestrado em Cincias Cartogrficas) Programa de Ps-Graduao em
Cincias Cartogrficas, Faculdade de Cincias e Tecnologia, Universidade Estadual
Paulista, Presidente Prudente.

SEEBER, G.. Satellite Geodesy. 2 ed. Berlin-New York: Walter de Gruyter, 2003.
589p.

61

SPECTRA
PRECISION

on
line

endereo
eletrnico:
http://legacy.spectraprecision.com/apr192011news.aspx, acesso em 14/09/2013.

TAKASU, T.. RTKLIB ver. 2.4.2 Manual. 2013. 181p.

TOPCON. Topcon Tools Reference Manual. 2010. 650p.

TOPCON on line endereo eletrnico: http://global.topcon.com/about/history/,


acesso em 14/09/2013.

WOLF, P. R.; GHILANI, C. D.. Adjustment computations: Statistics and least


squares in surveying and GIS. New York: Wiley Series in Surveying and Boundary
Control, 1997. 564 p.

62

APNDICE A Lista de cdigos de encurtamento de rastreios pelo TEQC

1 ONRJ

1.1 Dia 28/08/2009

ONRJ de 60 minutos para RIOD/ONRJ

teqc -st 2009_08_28:10:00:00 -e 2009_08_28:11:00:00 onrj2401.09o > onrj2401_60min.09o


teqc -st 2009_08_28:10:00:00 -e 2009_08_28:11:00:00 onrj2401.09n > onrj2401_60min.09n

ONRJ de 6 horas para CHPI/ONRJ

teqc -st 2009_08_28:14:00:00 -e 2009_08_28:20:00:00 onrj2401.09o > onrj2401_6hrs.09o


teqc -st 2009_08_28:14:00:00 -e 2009_08_28:20:00:00 onrj2401.09n > onrj2401_6hrs.09n

1.2 Dia 27/12/2010

ONRJ de 60 minutos para RIOD/ONRJ


teqc -st 2010_12_27:14:00:00 -e 2010_12_27:15:00:00 onrj3611.10o > onrj3611_60min.10o
teqc -st 2010_12_27:14:00:00 -e 2010_12_27:15:00:00 onrj3611.10n > onrj3611_60min.10n

63

ONRJ de 6 horas para CHPI/ONRJ


teqc -st 2010_12_27:05:00:00 -e 2010_12_27:11:00:00 onrj3611.10o > onrj3611_6hrs.10o
teqc -st 2010_12_27:05:00:00 -e 2010_12_27:11:00:00 onrj3611.10n > onrj3611_6hrs.10n

1.3 Dia 24/03/2011

ONRJ de 60 minutos para RIOD/ONRJ


teqc -st 2011_03_24:20:00:00 -e 2011_03_24:21:00:00 onrj0831.11o > onrj0831_60min.11o
teqc -st 2011_03_24:20:00:00 -e 2011_03_24:21:00:00 onrj0831.11n > onrj0831_60min.11n

ONRJ de 6 horas para CHPI/ONRJ


teqc -st 2011_03_24:01:00:00 -e 2011_03_24:07:00:00 onrj0831.11o > onrj0831_6hrs.11o
teqc -st 2011_03_24:01:00:00 -e 2011_03_24:07:00:00 onrj0831.11n > onrj0831_6hrs.11n

1.4 Dia 31/05/2012

ONRJ de 60 minutos para RIOD/ONRJ


teqc -st 2012_05_31:08:00:00 -e 2012_05_31:09:00:00 onrj1521.12o > onrj1521_60min.12o
teqc -st 2012_05_31:08:00:00 -e 2012_05_31:09:00:00 onrj1521.12n > onrj1521_60min.12n

ONRJ de 6 horas para CHPI/ONRJ

64

teqc -st 2012_05_31:15:00:00 -e 2012_05_31:21:00:00 onrj1521.12o > onrj1521_6hrs.12o


teqc -st 2012_05_31:15:00:00 -e 2012_05_31:21:00:00 onrj1521.12n > onrj1521_6hrs.12n

1.5 Dia 01/11/2013

ONRJ de 60 minutos para RIOD/ONRJ


teqc -st 2013_11_01:06:00:00 -e 2013_11_01:07:00:00 onrj3051.13o > onrj3051_60min.13o
teqc -st 2013_11_01:06:00:00 -e 2013_11_01:07:00:00 onrj3051.13n > onrj3051_60min.13n

ONRJ de 6 horas para CHPI/ONRJ


teqc -st 2013_11_01:06:00:00 -e 2013_11_01:12:00:00 onrj3051.13o > onrj3051_6hrs.13o
teqc -st 2013_11_01:06:00:00 -e 2013_11_01:12:00:00 onrj3051.13n > onrj3051_6hrs.13n

2 SJSP

2.1 Dia 07/07/2013

SJSP de 4 horas para UBA1/SJSP


teqc -st 2013_07_07:06:00:00 -e 2013_07_07:10:00:00 sjsp1881.13o > sjsp1881_4h.13o
teqc -st 2013_07_07:06:00:00 -e 2013_07_07:10:00:00 sjsp1881.13n > sjsp1881_4h.13n

65

SJSP de 5 horas para SPCA/SJSP


teqc -st 2013_07_07:11:00:00 -e 2013_07_07:16:00:00 sjsp1881.13o > sjsp1881_5h.13o
teqc -st 2013_07_07:11:00:00 -e 2013_07_07:16:00:00 sjsp1881.13n > sjsp1881_5h.13n

2.2 Dia 04/08/2013

SJSP de 4 horas para UBA1/SJSP


teqc -st 2013_08_04:15:00:00 -e 2013_08_04:19:00:00 sjsp2161.13o > sjsp2161_4h.13o
teqc -st 2013_08_04:15:00:00 -e 2013_08_04:19:00:00 sjsp2161.13n > sjsp2161_4h.13n

SJSP de 5 horas para SPCA/SJSP


teqc -st 2013_08_04:01:00:00 -e 2013_08_04:06:00:00 sjsp2161.13o > sjsp2161_5h.13o
teqc -st 2013_08_04:01:00:00 -e 2013_08_04:06:00:00 sjsp2161.13n > sjsp2161_5h.13n

2.3 Dia 06/09/2013

SJSP de 4 horas para UBA1/SJSP


teqc -st 2013_09_06:19:00:00 -e 2013_09_06:23:00:00 sjsp2491.13o > sjsp2491_4h.13o
teqc -st 2013_09_06:19:00:00 -e 2013_09_06:23:00:00 sjsp2491.13n > sjsp2491_4h.13n

SJSP de 5 horas para SPCA/SJSP

66

teqc -st 2013_09_06:09:00:00 -e 2013_09_06:14:00:00 sjsp2491.13o > sjsp2491_5h.13o


teqc -st 2013_09_06:09:00:00 -e 2013_09_06:14:00:00 sjsp2491.13n > sjsp2491_5h.13n

2.4 Dia 03/10/2013

SJSP de 4 horas para UBA1/SJSP


teqc -st 2013_10_03:03:00:00 -e 2013_10_03:07:00:00 sjsp2761.13o > sjsp2761_4h.13o
teqc -st 2013_10_03:03:00:00 -e 2013_10_03:07:00:00 sjsp2761.13n > sjsp2761_4h.13n

SJSP de 5 horas para SPCA/SJSP


teqc -st 2013_10_03:08:00:00 -e 2013_10_03:13:00:00 sjsp2761.13o > sjsp2761_5h.13o
teqc -st 2013_10_03:08:00:00 -e 2013_10_03:13:00:00 sjsp2761.13n > sjsp2761_5h.13n

2.5 Dia 01/11/2013

SJSP de 4 horas para UBA1/SJSP


teqc -st 2013_11_01:18:00:00 -e 2013_11_01:22:00:00 sjsp3051.13o > sjsp3051_4h.13o
teqc -st 2013_11_01:18:00:00 -e 2013_11_01:22:00:00 sjsp3051.13n > sjsp3051_4h.13n

SJSP de 5 horas para SPCA/SJSP


teqc -st 2013_11_01:12:00:00 -e 2013_11_01:17:00:00 sjsp3051.13o > sjsp3051_5h.13o

67

teqc -st 2013_11_01:12:00:00 -e 2013_11_01:17:00:00 sjsp3051.13n > sjsp3051_5h.13n

68

APNDICE B Tabela de coordenadas ONRJ pela linha de base CHPI-ONRJ e coordenada final encontrada

Tabela 1: Coordenadas completas GNSS Solutions

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1910
0,0765
682133,2000
0,1179
682133,1860
0,1087
682133,1920
0,0908
682133,1830
0,0837
682133,1904
0,0955
0,0065
682133,1904 0,0427

Norte (m)
N (m)
7466927,8160
0,1143
7466927,8100
0,1872
7466927,8130
0,1337
7466927,8050
0,1327
7466927,8170
0,1168
7466927,8122
0,1369
0,0049
7466927,8122 0,0620

h (m)
h (m)
35,7080
0,2842
35,6920
0,2255
35,7580
0,2648
35,7470
0,2719
35,7080
0,2811
35,7226
0,2655
0,0283
35,7226 0,1446

L (m)
0,0010
-0,0080
0,0060
0,0000
0,0090
0,0016
0,0065

N (m)
0,0060
0,0120
0,0090
0,0170
0,0050
0,0098
0,0049

L (m)
-0,0050
-0,0120
0,0200
-0,0140
0,0050
-0,0012
0,0140

N (m)
0,0050
0,0130
0,0150
0,0080
0,0100
0,0102
0,0040

h (m)
-0,0680
-0,0520
-0,1180
-0,1070
-0,0680
-0,0826
0,0283

Tabela 2: Coordenadas completas Topcon Tools

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1970
0,0180
682133,2040
0,0180
682133,1720
0,0380
682133,2060
0,0480
682133,1870
0,0430
682133,1932
0,0330
0,0140
682133,1932 0,0148

Norte (m)
N (m)
7466927,8170
0,0200
7466927,8090
0,0190
7466927,8070
0,0160
7466927,8140
0,0130
7466927,8120
0,0150
7466927,8118
0,0166
0,0040
7466927,8118 0,0126

h (m)
h (m)
35,5960
0,0580
35,5510
0,0590
35,6750
0,0490
35,6700
0,0410
35,5560
0,0450
35,6096
0,0504
0,0600
35,6096 0,0406

h (m)
0,0440
0,0890
-0,0350
-0,0300
0,0840
0,0304
0,0600

69

Tabela 3: Coordenadas completas RTKLIB configurao padro

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1930
0,0071
682132,9900
0,0033
682132,9450
0,0025
682133,2810
0,0073
682132,9250
0,0017
682133,0668
0,0044
0,1602
682133,0668 0,1442

Norte (m)
N (m)
7466927,8000
0,0026
7466927,8850
0,0015
7466926,8450
0,0024
7466927,8230
0,0027
7466927,7710
0,0016
7466927,6248
0,0022
0,4379
7466927,6248 0,2779

h (m)
h (m)
35,7149
0,0046
35,7366
0,0001
31,8572
0,0078
35,8028
0,0043
35,9343
0,0035
35,0092
0,0041
1,7641
35,0092 1,0101

L (m)
-0,0010
0,2020
0,2470
-0,0890
0,2670
0,1252
0,1602

N (m)
0,0220
-0,0630
0,9770
-0,0010
0,0510
0,1972
0,4379

h (m)
-0,0749
-0,0966
3,7828
-0,1628
-0,2943
0,6308
1,7641

L (m)
-0,0010
0,2020
0,0260
-0,0890
-0,0070
0,0262
0,1073

N (m)
0,0220
-0,0630
0,0230
-0,0010
0,0090
-0,0020
0,0355

h (m)
-0,0749
-0,0966
-0,1555
-0,1628
-0,0712
-0,1122
0,0440

Tabela 4: Coordenadas completas RTKLIB configurao modificada

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1930
0,0071
682132,9900
0,0033
682133,1660
0,0046
682133,2810
0,0073
682133,1990
0,0020
682133,1658
0,0049
0,1073
682133,1658 0,0996

Norte (m)
N (m)
7466927,8000
0,0026
7466927,8850
0,0015
7466927,7990
0,0021
7466927,8230
0,0027
7466927,8130
0,0017
7466927,8240
0,0021
0,0355
7466927,8240 0,0319

h (m)
h (m)
35,7149
0,0046
35,7366
0,0001
35,7955
0,0041
35,8028
0,0043
35,7112
0,0032
35,7522
0,0033
0,0440
35,7522 0,1190

70

APNDICE C Tabela de coordenadas ONRJ pela linha de base RIOD-ONRJ e coordenada final encontrada

Tabela 5: Coordenadas completas GNSS Solutions

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1960
0,0077
682133,1940
0,0046
682133,2150
0,0061
682133,1960
0,0077
682133,2030
0,0061
682133,2008
0,0064
0,0086
682133,2008 0,0096

Norte (m)
N (m)
7466927,8200
0,0082
7466927,8220
0,0087
7466927,7930
0,0087
7466927,8130
0,0128
7466927,8090
0,0082
7466927,8114
0,0093
0,0115
7466927,8114 0,0118

h (m)
h (m)
35,6290
0,0179
35,6330
0,0189
35,6920
0,0184
35,6060
0,0153
35,6420
0,0184
35,6404
0,0178
0,0318
35,6404 0,0142

L (m)
-0,0040
-0,0020
-0,0230
-0,0040
-0,0110
-0,0088
0,0086

N (m)
0,0020
0,0000
0,0290
0,0090
0,0130
0,0106
0,0115

h (m)
0,0110
0,0070
-0,0520
0,0340
-0,0020
-0,0004
0,0318

L (m)
-0,0030
0,0110
0,0160
0,0090
0,0060
0,0078
0,0070

N (m)
0,0020
0,0080
0,0100
0,0110
-0,0010
0,0060
0,0052

h (m)
0,0120
0,0090
0,0040
0,0450
0,0100
0,0160
0,0165

Tabela 6: Coordenadas completas Topcon Tools

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1950
0,0040
682133,1810
0,0020
682133,1760
0,0030
682133,1830
0,0030
682133,1860
0,0030
682133,1842
0,0030
0,0070
682133,1842 0,0084

Norte (m)
N (m)
7466927,8200
0,0030
7466927,8140
0,0030
7466927,8120
0,0030
7466927,8110
0,0030
7466927,8230
0,0040
7466927,8160
0,0032
0,0052
7466927,8160 0,0064

h (m)
h (m)
35,6280
0,0080
35,6310
0,0110
35,6360
0,0100
35,5950
0,0100
35,6300
0,0100
35,6240
0,0098
0,0165
35,6240 0,0176

71

Tabela 7: Coordenadas completas RTKLIB configurao padro

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1490
0,0123
682133,2110
0,0167
682132,4690
0,0033
682133,1420
0,0289
682133,1840
0,0059
682133,0310
0,0134
0,3154
682133,0310 0,2140

Norte (m)
N (m)
7466927,8160
0,0089
7466927,8300
0,0088
7466927,2350
0,0024
7466927,8130
0,0076
7466927,8100
0,0027
7466927,7008
0,0061
0,2605
7466927,7008 0,1681

h (m)
h (m)
35,6272
0,0034
35,7188
0,0277
34,8592
0,0080
35,5620
0,0112
35,5833
0,0044
35,4701
0,0109
0,3468
35,4701 0,2300

L (m)
0,0430
-0,0190
0,7230
0,0500
0,0080
0,1610
0,3154

N (m)
0,0060
-0,0080
0,5870
0,0090
0,0120
0,1212
0,2605

h (m)
0,0128
-0,0788
0,7808
0,0780
0,0567
0,1699
0,3468

L (m)
0,0430
-0,0190
-0,0160
0,0500
0,0080
0,0132
0,0322

N (m)
0,0060
-0,0080
-0,0240
0,0090
0,0120
-0,0010
0,0150

h (m)
0,0128
-0,0788
-0,0434
0,0780
0,0567
0,0051
0,0660

Tabela 8: Coordenadas completas RTKLIB configurao modificada

Dias
28/08/2009
27/12/2010
24/03/2011
31/05/2012
01/11/2013
Mdia
DV
Coord. Final ONRJ

Leste (m)
L (m)
682133,1490
0,0123
682133,2110
0,0167
682133,2080
0,0138
682133,1420
0,0289
682133,1840
0,0059
682133,1788
0,0155
0,0322
682133,1788 0,0195

Norte (m)
N (m)
7466927,8160
0,0089
7466927,8300
0,0088
7466927,8460
0,0175
7466927,8130
0,0076
7466927,8100
0,0027
7466927,8230
0,0091
0,0150
7466927,8230 0,0068

h (m)
h (m)
35,6272
0,0034
35,7188
0,0277
35,6834
0,0179
35,5620
0,0112
35,5833
0,0044
35,6349
0,0129
0,0660
35,6349 0,0299

72

APNDICE D Tabela de coordenadas SJSP pela linha de base SPCA-SJSP e coordenada final encontrada

Tabela 9: Coordenadas completas GNSS Solutions

Dias
07/07/2013
04/08/2013
06/09/2013
03/10/2013
01/11/2013
Mdia
DV
Coord. Final SJSP

Leste (m)
L (m)
411820,8010
0,0827
411820,8110
0,0622
411820,8080
0,0811
411820,8150
0,0602
411820,8100
0,0510
411820,8090
0,0674
0,0051
411820,8090 0,0304

Norte (m)
N (m)
7433289,1200
0,1342
7433289,1160
0,0888
7433289,1210
0,1347
7433289,1130
0,0816
7433289,1130
0,0852
7433289,1166
0,1049
0,0038
7433289,1166 0,0470

h (m)
h (m)
605,0890
0,1622
605,1040
0,1985
605,1540
0,1628
605,0640
0,2020
605,0670
0,2031
605,0956
0,1857
0,0365
605,0956 0,0832

L (m)
0,0120
0,0020
0,0050
-0,0020
0,0030
0,0040
0,0051

N (m)
-0,0010
0,0030
-0,0020
0,0060
0,0060
0,0024
0,0038

h (m)
0,0010
-0,0140
-0,0640
0,0260
0,0230
-0,0056
0,0365

L (m)
0,0080
-0,0010
-0,0010
-0,0100
-0,0080
-0,0024
0,0071

N (m)
0,0010
0,0010
0,0020
0,0130
0,0100
0,0054
0,0057

h (m)
0,0130
-0,0150
-0,0800
0,0190
0,0340
-0,0058
0,0451

Tabela 10: Coordenadas completas Topcon Tools

Dias
07/07/2013
04/08/2013
06/09/2013
03/10/2013
01/11/2013
Mdia
DV
Coord. Final SJSP

Leste (m)
L (m)
411820,8050
0,0180
411820,8140
0,0160
411820,8140
0,0170
411820,8230
0,0150
411820,8210
0,0140
411820,8154
0,0160
0,0071
411820,8154 0,0075

Norte (m)
N (m)
7433289,1180
0,0190
7433289,1180
0,0160
7433289,1170
0,0170
7433289,1060
0,0150
7433289,1090
0,0160
7433289,1136
0,0166
0,0057
7433289,1136 0,0092

h (m)
h (m)
605,0770
0,0470
605,1050
0,0490
605,1700
0,0490
605,0710
0,0500
605,0560
0,0500
605,0958
0,0490
0,0451
605,0958 0,0227

73

Tabela 11: Coordenadas completas RTKLIB configurao padro

Dias
07/07/2013
04/08/2013
06/09/2013
03/10/2013
01/11/2013
Mdia
DV
Coord. Final SJSP

Leste (m)
L (m)
411820,8110
0,0075
411820,8890
0,0023
411820,8450
0,0088
411820,8350
0,0078
411820,8050
0,0054
411820,8370
0,0064
0,0334
411820,8370 0,0283

Norte (m)
N (m)
7433289,1140
0,0029
7433288,8480
0,0021
7433289,1060
0,0029
7433289,1070
0,0028
7433289,0930
0,0031
7433289,0536
0,0028
0,1152
7433289,0536 0,0833

h (m)
h (m)
605,2131
0,0049
605,0721
0,0038
605,3191
0,0045
605,1989
0,0046
605,1775
0,0059
605,1961
0,0047
0,0882
605,1961 0,1132

L (m)
0,0020
-0,0760
-0,0320
-0,0220
0,0080
-0,0240
0,0334

N (m)
0,0050
0,2710
0,0130
0,0120
0,0260
0,0654
0,1152

h (m)
-0,1231
0,0179
-0,2291
-0,1089
-0,0875
-0,1061
0,0882

74

APNDICE E Tabela de coordenadas SJSP pela linha de base UBA1-SJSP e coordenada final encontrada

Tabela 12: Coordenadas completas GNSS Solutions

Dias
07/07/2013
04/08/2013
06/09/2013
03/10/2013
01/11/2013
Mdia
DV
Coord. Final SJSP

Leste (m)
L (m)
411820,8030
0,0439
411820,8020
0,0393
411820,7980
0,0526
411820,7970
0,0434
411820,8030
0,0480
411820,8006
0,0454
0,0029
411820,8006 0,0238

Norte (m)
N (m)
7433289,1210
0,0602
7433289,1250
0,0582
7433289,1380
0,0847
7433289,1210
0,0602
7433289,1330
0,0847
7433289,1276
0,0696
0,0076
7433289,1276 0,0323

h (m)
h (m)
605,1680
0,1224
605,0880
0,1250
605,0640
0,1026
605,0960
0,1224
605,1090
0,1051
605,1050
0,1155
0,0388
605,1050 0,0538

L (m)
0,0100
0,0110
0,0150
0,0160
0,0100
0,0124
0,0029

N (m)
-0,0020
-0,0060
-0,0190
-0,0020
-0,0140
-0,0086
0,0076

h (m)
-0,0780
0,0020
0,0260
-0,0060
-0,0190
-0,0150
0,0388

L (m)
0,0090
0,0200
0,0140
0,0170
0,0110
0,0142
0,0044

N (m)
0,0000
-0,0090
-0,0040
-0,0030
-0,0100
-0,0052
0,0042

h (m)
-0,1520
-0,0730
-0,0530
-0,0690
-0,1180
-0,0930
0,0409

Tabela 13: Coordenadas completas Topcon Tools

Dias
07/07/2013
04/08/2013
06/09/2013
03/10/2013
01/11/2013
Mdia
DV
Coord. Final SJSP

Leste (m)
L (m)
411820,8040
0,0140
411820,7930
0,0180
411820,7990
0,0130
411820,7960
0,0140
411820,8020
0,0130
411820,7988
0,0144
0,0044
411820,7988 0,0143

Norte (m)
N (m)
7433289,1190
0,0160
7433289,1280
0,0130
7433289,1230
0,0130
7433289,1220
0,0150
7433289,1290
0,0140
7433289,1242
0,0142
0,0042
7433289,1242 0,0055

h (m)
h (m)
605,2420
0,0380
605,1630
0,0380
605,1430
0,0390
605,1590
0,0380
605,2080
0,0390
605,1830
0,0384
0,0409
605,1830 0,0948

75

Tabela 14: Coordenadas completas RTKLIB configurao padro

Dias
07/07/2013
04/08/2013
06/09/2013
03/10/2013
01/11/2013
Mdia
DV
Coord. Final SJSP

Leste (m)
L (m)
411820,1600
0,0082
411820,8360
0,0085
411820,7810
0,0072
411821,0670
0,0030
411818,7420
0,0036
411820,3172
0,0061
0,9424
411820,3172 0,6507

Norte (m)
N (m)
7433289,0260
0,0209
7433289,1310
0,0035
7433289,1140
0,0038
7433288,8660
0,0022
7433288,4910
0,0028
7433288,9256
0,0066
0,2647
7433288,9256 0,2267

h (m)
h (m)
606,2813
0,0493
605,1290
0,0073
605,0873
0,0072
604,8552
0,0097
603,7067
0,0116
605,0119
0,0170
0,9164
605,0119 0,4172

L (m)
0,6530
-0,0230
0,0320
-0,2540
2,0710
0,4958
0,9424

N (m)
0,0930
-0,0120
0,0050
0,2530
0,6280
0,1934
0,2647

h (m)
-1,1913
-0,0390
0,0027
0,2348
1,3833
0,0781
0,9164

L (m)
0,0150
-0,0230
0,0320
0,0200
0,0110
0,0110
0,0206

N (m)
-0,0100
-0,0120
0,0050
0,0020
-0,0090
-0,0048
0,0077

h (m)
-0,1438
-0,0390
0,0027
-0,0731
-0,0811
-0,0669
0,0543

Tabela 15: Coordenadas completas RTKLIB configurao modificada

Dias
07/07/2013
04/08/2013
06/09/2013
03/10/2013
01/11/2013
Mdia
DV
Coord. Final SJSP

Leste (m)
L (m)
411820,7980
0,0020
411820,8360
0,0085
411820,7810
0,0072
411820,7930
0,0023
411820,8020
0,0024
411820,8020
0,0045
0,0206
411820,8020 0,0143

Norte (m)
N (m)
7433289,1290
0,0021
7433289,1310
0,0035
7433289,1140
0,0038
7433289,1170
0,0020
7433289,1280
0,0019
7433289,1238
0,0027
0,0077
7433289,1238 0,0059

h (m)
h (m)
605,2338
0,0041
605,1290
0,0073
605,0873
0,0072
605,1631
0,0057
605,1711
0,0041
605,1569
0,0057
0,0543
605,1569 0,0711