UNIVERSIDADE FEDERAL DE MATO GROSSO

FACULDADE DE ARQUITETURA ENGENHARIA E TECNOLOGIA

COORDENAÇÃO DE ENSINO DE ENGENHARIA CIVIL

JAQUELINE DE PAULA SAGA GOMES

AJUSTE DE POLIGONAL FECHADA EM “LOOP” PELO MMQ COM VARIAÇÃO

DAS PRECISÕES DAS OBSERVAÇÕES

CUIABÁ – MATO GROSSO

2014
 JAQUELINE DE PAULA SAGA GOMES

AJUSTE DE POLIGONAL FECHADA EM “LOOP” PELO MMQ COM VARIAÇÃO

DAS PRECISÕES DAS OBSERVAÇÕES

Trabalho de Graduação submetido ao Corpo

Docente da Faculdade de Arquitetura, Engenharia
e Tecnologia da UFMT como requisito parcial
para obtenção do título de Bacharel em
Engenharia Civil

Orientador: Edson Pereira Lima

Cuiabá – Mato Grosso

2014
 Dados Internacionais de Catalogação na Fonte.

G633a Paula Saga Gomes, Jaqueline de.

AJUSTE DE POLIGONAL FECHADA EM “LOOP” PELO
MMQ COM VARIAÇÃO DAS PRECISÕES DAS
OBSERVAÇÕES / Jaqueline de Paula Saga Gomes. -- 2014
107 f. : il. color. ; 30 cm.

Orientadora: Edson Pereira Lima.

TCC (graduação em Engenharia Civil) - Universidade Federal
de Mato Grosso, Faculdade de Arquitetura, Engenharia e
Tecnologia, Cuiabá, 2014.
Inclui bibliografia.

1. MMQ. 2. Precisão. 3. Elipse dos Erros. I. Título.

Ficha catalográfica elaborada automaticamente de acordo com os dados fornecidos pelo(a) autor(a).

Permitida a reprodução parcial ou total, desde que citada a fonte.

DEDICATÓRIA

Aos meus pais, pelas preocupações que passaram

por minha causa, pelo amor, carinho e estímulo que me
ofereceram, dedico-lhes essa conquista como gratidão.
AGRADECIMENTO

Agradeço a Deus pela força e coragem que me

proporcionou durante esta longa caminhada.
Agradeço aos familiares e amigos, pelo carinho,
paciência, pelas alegrias, tristezas e dores compartilhadas
e pela capacidade de me trazerem paz e esperança na
correria de cada semestre.
 RESUMO

Este trabalho de graduação visa analisar o ajustamento de uma poligonal fechada em

“loop”, localizada no campus da Universidade Federal de Mato Grosso, utilizando duas
técnicas distintas para estabelecer as precisões das observações coletadas em campo. Ajustar
pelo método dos mínimos quadrados as observações, determinar as coordenadas ajustadas dos
pontos e comparar as suas precisões. Uma vez coletados os dados de campo, e para a
verificação da qualidade dos mesmos, após o ajustamento pelo método dos mínimos
quadrados usam-se as estimações por ponto onde as formulações tidas como elipse dos erros,
a elipse de confiança irá permitir a verificação desta qualidade. O trabalho é concluído
analisando e comparando os resultados obtidos utilizando a precisão nominal da estação total
e a precisão da média das observações, verificando e sugerindo através de comparativos qual
das precisões fornece um resultado mais exato.

Palavras-chave: MMQ, Precisão, Elipse dos Erros.

 ABSTRACT

This work aims to analyze the degree of adjustment in a closed polygonal "loop",
located at the Federal University of Mato Grosso campus, using two different techniques to
establish the precision of the observations collected in the field. Adjust the method of least
squares the observations, determine the adjusted coordinates of points and compare their
accuracy. Once collected field data, and the verification of their quality, after adjustment by
the least squares method are used for the estimations point where the formulations taken as
ellipse of errors, the confidence ellipse will allow verification of this quality. The work is
done by analyzing and comparing the results obtained using the nominal accuracy of the total
station and accuracy average of observations, checking and suggesting through comparative
accuracies which provides a more accurate result.

Keywords: MLS, Accuracy, Ellipse of Errors.

 LISTA DE GRÁFICOS

Gráfico 1 - Gráfico de Ângulos Ajustados pelo MMQ ......................................................................... 99

Gráfico 2 – Gráfico das Precisões Angulares Ajustadas pelo MMQ .................................................. 100
Gráfico 3 - Gráfico das Distâncias Horizontais Ajustadas pelo MMQ ............................................... 100
Gráfico 4 - Gráfico das Precisões das Distâncias Horizontais Ajustadas pelo MMQ ......................... 101
Gráfico 5 - Gráfico das Coordenadas Topográficas “X” Ajustadas pelo MMQ ................................. 101
Gráfico 6 - Gráfico da Precisão das Coordenadas Topográficas “X” Ajustadas pelo MMQ .............. 102
Gráfico 7 – Gráfico das Coordenadas Topográficas “Y” Ajustadas pelo MMQ ................................ 102
Gráfico 8 - Gráfico da Precisão das Coordenadas Topográficas “Y” Ajustadas pelo MMQ .............. 103
 LISTA DE ILUSTRAÇÕES

Figura 1 - Definição dos elementos da elipse deo erro ou de confiança ............................................... 26

Figura 2 - Alguns padrões das elipses de erro padrão. .......................................................................... 27
Figura 3 - Estação total Topcon GTS-203............................................................................................. 30
Figura 4 - GPS Topcon. ........................................................................................................................ 30
Figura 5 - Distâncias, Ângulos e Azimutes no plano ............................................................................ 37
Figura 6 - Procedimento esquemático de Ajustamento pelo MMQ ...................................................... 38
Figura 7 – Cálculo para o nível de significância a 1% .......................................................................... 59
Figura 8 – Cálculo para o nível de significância a 5% .......................................................................... 60
Figura 9 – Teste Bilateral com nível de significância a 5% .................................................................. 72
Figura 10 – Teste Unilateral com nível de significância a 5% .............................................................. 73
Figura 11 – Estatística do teste.............................................................................................................. 78
Figura 12 – Cálculo para o nível de significância a 1% ........................................................................ 82
Figura 13 – Cálculo para o nível de significância a 5% ........................................................................ 82
Figura 14 – Teste bilateral para o nível de significância a 1% .............................................................. 89
Figura 15 – Teste unilateral para o nível de significância a 1% ............................................................ 90
Figura 16 – Estatística do teste.............................................................................................................. 95
Figura 17 – Poligonal com as elipses de confiança ............................................................................... 98
 LISTA DE QUADROS

Quadro 1 – Planilha de experimentos ................................................................................................... 55

Quadro 2 – Planilha de experimentos continuação ............................................................................... 56
Quadro 3 – Valores observados e calculados ........................................................................................ 61
Quadro 4 – Coeficientes (Pontos a Vante) ............................................................................................ 62
Quadro 5 – Valores observados e calculados (1ª iteração).................................................................... 65
Quadro 6 – Valores de Vante ................................................................................................................ 66
Quadro 7 – Valores observados e calculados ........................................................................................ 69
Quadro 8 – Valores de vante ................................................................................................................. 69
Quadro 9 – Valores observados e calculados ........................................................................................ 70
Quadro 10 – Valores de Vante .............................................................................................................. 71
Quadro 11 – Precisão Nominal ............................................................................................................. 76
Quadro 12 – Elipses dos Erros Padrão .................................................................................................. 78
Quadro 13 – Elipses de confiança pontual ............................................................................................ 79
Quadro 14 – Valores observados e calculados ...................................................................................... 83
Quadro 15 – Coeficientes (Pontos a vante) ........................................................................................... 83
Quadro 16 – Valores observados e calculados ...................................................................................... 85
Quadro 17 – Valores de vante ............................................................................................................... 85
Quadro 18 – Valores observados e calculados ...................................................................................... 86
Quadro 19- Valores de vante ................................................................................................................. 87
Quadro 20 – Valores observados e calculados ...................................................................................... 88
Quadro 21 – Valores de vante ............................................................................................................... 88
Quadro 22 – Precisão da média das observações .................................................................................. 93
Quadro 23 – Elipses dos Erros Padrão .................................................................................................. 95
Quadro 24 – Elipse de Confiança Pontual ............................................................................................ 96
 SUMÁRIO

1 INTRODUÇÃO.................................................................................................................... 13

2 OBJETIVOS ........................................................................................................................ 14
2.1 OBJETIVO GERAL .............................................................................................................. 14
2.2 OBJETIVOS ESPECÍFICOS ................................................................................................ 14
2.3 OBJETO ................................................................................................................................ 15
2.3.1 Problema............................................................................................................................... 15
2.3.2 Hipóteses ............................................................................................................................... 15

3 REVISÃO DE LITERATURA ........................................................................................... 16

3.1 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS................................ 16
3.1.1 Ajustamento paramétrico ................................................................................................... 17
3.1.1.1 Método de ajustamento paramétrico linear ............................................................................ 18
3.1.1.2 Método de ajustamento paramétrico não linear ..................................................................... 19
3.1.1.3 Estimativa da precisão dos parâmetros e dos resíduos estimados ......................................... 20
3.2 MATRIZ DOS PESOS .......................................................................................................... 21
3.3 VETOR DAS OBSERVAÇÕES APROXIMADAS ............................................................. 21
3.4 VETOR DAS DIFERENÇAS ............................................................................................... 22
3.5 MATRIZ A ............................................................................................................................ 22
3.6 TESTE BILATERAL ............................................................................................................ 22
3.7 TESTE UNILATERAL ......................................................................................................... 23
3.8 TESTE “DATA SNOOPING” ............................................................................................... 24
3.9 ELIPSES DE ERRO .............................................................................................................. 25

4 MÉTODOS E MATERIAIS ............................................................................................... 29

4.1 MATERIAL DE CAMPO ..................................................................................................... 29
4.2 MATERIAL DE ESCRITÓRIO ............................................................................................ 30
4.3 METODOLOGIA .................................................................................................................. 31
4.4 APLICAÇÃO DO TESTE QUI-QUADRADO DA FORMA QUADRÁTICA DO ERRO DE
FECHAMENTO .................................................................................................................... 32
4.4.1 Matrizes variância-covariância (MVC) ............................................................................. 33
4.4.2 MVC das Distâncias ............................................................................................................ 33
4.4.3 MVC dos Azimutes .............................................................................................................. 34
4.4.4 MVC das Distâncias e Azimutes ......................................................................................... 35
4.4.5 MVC das coordenadas do ultimo ponto ............................................................................ 35
4.4.6 Aplicação final do teste ........................................................................................................ 36
4.5 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS (MMQ) .................. 37
4.5.1 Modelo Matemático ............................................................................................................. 38
4.5.1.1 Equações de observações para a distância ............................................................................. 39
4.5.1.2 Equação de observação para o Azimute Aij ........................................................................... 39
4.5.1.3 Equação de observação para o Azimute Aik .......................................................................... 40
4.5.1.4 Equação de observação para o Ângulo akij ............................................................................. 40
4.5.1.5 Equações de observações para a distância com resíduo ........................................................ 40
4.5.1.6 Equações de observações para o Ângulo com resíduo .......................................................... 42
4.5.2 Coordenadas aproximadas - parâmetros (Xo) ................................................................... 44
4.5.3 Matriz dos Peso (P) .............................................................................................................. 44
4.5.4 Vetor das observações aproximadas (Lo) ........................................................................... 45
4.5.5 Vetor dos termos independentes (L) .................................................................................. 46
4.5.6 Matriz A ................................................................................................................................ 46
4.5.7 Resolução do sistema de equações de normais .................................................................. 48
4.5.8 Cálculo dos Parâmetros Ajustados .................................................................................... 48
4.5.9 Cálculo do Vetor dos Resíduos (V) ..................................................................................... 49
Teste Global da Variância “a Posteriori” ( ˆ o ) ................................................................. 49
2
4.5.10
4.5.11 Cálculo das MVC: dos parâmetros ajustados, observações ajustadas e resíduos.......... 50
4.6 QUALIDADE DO AJUSTAMENTO ................................................................................... 50
4.6.1 Precisão e Elipses de Erro ................................................................................................... 51
4.6.2 Detecção de “Outlier” e localização de erros grosseiros ................................................... 52
4.6.2.1 Teste “Data Snooping” .......................................................................................................... 52

5 EXPERIMENTAÇÃO E RESULTADOS ......................................................................... 54

5.1 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO NOMINAL
DA ESTAÇÃO TOTAL ........................................................................................................ 57
5.1.1 Teste Qui-quadrado da forma quadrática do erro de fechamento ................................. 57
5.1.1.1 Matriz Variância-Covariância das distâncias e ângulos ........................................................ 57
5.1.1.2 Matriz Variancia-Covariância das distancias e azimutes ....................................................... 58
5.1.1.3 Matriz Vriancia-Covariancia das coordenadas dos últimos pontos ....................................... 58
5.1.1.4 Aplicação do teste .................................................................................................................. 59
5.1.2 Ajustamento pelo Método dos Mínimos Quadrados ........................................................ 60
5.1.2.1 Matriz A ................................................................................................................................. 61
5.1.2.2 Comparação da variância da unidade peso “a priori” com a variância da unidade peso “a
posteriori” ............................................................................................................................. 64
5.1.2.3 Iterações ................................................................................................................................. 65
5.1.2.3.1 Primeira iteração................................................................................................................... 65
5.1.2.3.2 Segunda iteração ................................................................................................................... 69
5.1.2.3.3 Terceira iteração ................................................................................................................... 70
5.1.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda ............... 77
5.1.4 Parâmetros da Elípse dos Erros e Elípse de Confiança.................................................... 78
5.2 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO DA MÉDIA
DAS OBSERVAÇÕES ......................................................................................................... 79
5.2.1 Teste Qui-quadrado da forma quadrática do erro de fechamento ................................. 79
5.2.1.1 Matriz variância-covariância das distancias e ângulos .......................................................... 80
5.2.1.2 Matriz variância-covariancia das distancias e azimutes ........................................................ 80
5.2.1.3 Matriz variância-covariância das Coordenadas dos últimos pontos ...................................... 81
5.2.1.4 Aplicação do teste .................................................................................................................. 81
5.2.2 Ajustamento pelo Método dos Mínimos Quadrados ........................................................ 83
5.2.2.1 Iterações ................................................................................................................................. 84
5.2.2.1.1 Primeira iteração................................................................................................................... 85
5.2.2.1.2 Segunda iteração ................................................................................................................... 86
5.2.2.1.3 Terceira iteração ................................................................................................................... 88
5.2.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda ............... 94
5.2.4 Parâmetros da Elipse dos Erros e Elipse de Confiança.................................................... 95
5.3 ANÁLISE CONJUNTA DOS RESULTADOS .................................................................... 97

6 CONCLUSÃO .................................................................................................................... 104

REFERÊNCIAS BIBLIOGRÁFICAS ............................................................................................ 105

 13

1 INTRODUÇÃO

O trabalho visa analisar o ajustamento de uma poligonal fechada em “loop”, localizada

no campus da Universidade Federal de Mato Grosso, utilizando duas técnicas distintas para
estabelecer as precisões das observações coletadas em campo. Ajustar pelo método dos
mínimos quadrados, MMQ, as observações, determinar as coordenadas ajustadas dos pontos
e comparar as suas precisões.
Sem muito retroceder no tempo, até poucos anos, os controles de qualidade de
levantamentos topográficos e geodésicos estavam baseados em expressões matemáticas
documentadas na NBR 13133/1994 além de especificações de caráter pratico adotadas por
técnicos da área.
Estes profissionais de topografia até então usam da compensação dos erros de
distância (erro linear) e erro nos ângulos (erro angular). Esta técnica realiza inicialmente a
distribuição do erro angular de fechamento entre os vértices da poligonal e prossegue
distribuindo o erro linear no plano cartesiano. No entanto, tratando estes erros separadamente,
haverá sempre o problema do fechamento. No ajustamento realizado pelo MMQ, os ângulos e
distâncias são trabalhados em conjunto em um processo de iteração até que ocorra uma
estabilização dos valores dos parâmetros, no caso as coordenadas plano-retangulares do
levantamento.
Com os avanços tecnológicos, novos instrumentos cada vez mais sofisticados e
precisos estão vindo suprir o mercado da geomensura percebe-se a exigência da adoção em
paralelo de técnicas estatísticas apuradas para o controle de qualidade de um levantamento
topográfico. Desta forma, este fato leva a uma exigência elevada da acurácia.
Uma vez coletados os dados de campo, e para a verificação da qualidade dos mesmos,
após o ajustamento pelo método dos mínimos quadrados usam-se as estimações por ponto
onde as formulações tidas como elipse dos erros, a elipse de confiança irá permitir a
verificação desta qualidade.
 14

2 OBJETIVOS

2.1 OBJETIVO GERAL

Ajustar pelo método dos mínimos quadrados as coordenadas (XY) dos vértices de uma
poligonal fechada em “loop”, considerando as precisões, nominais da estação total e as
precisões obtidas por repetições na mensuração dos ângulos e distâncias avaliando a precisão
dos parâmetros ajustados.

2.2 OBJETIVOS ESPECÍFICOS

São os seguintes:
a) materializar com marco identificável na área de estudo as coordenadas
planialtimétricas de dois pontos referenciados a uma única origem (Sistema
Geodésico Brasileiro – SGB) com uso de GPS, sendo que, um dos pontos será
integrante da poligonal fechada e usado como ponto de controle;
b) processar as observações coletadas da poligonal (Ângulos e distâncias)
considerando suas precisões, referenciadas as repetições de leituras e às máximas
estipuladas pelo fabricante da estação total a ser utilizada na coleta de dados;
c) realizar um controle de pré-ajustamento, utilizando o teste qui-quadrado da forma
quadrática do erro de fechamento para verificar a aceitação ou não das observações
coletadas;
d) realizar o ajustamento das observações pela técnica do Método dos Mínimos
Quadrados (MMQ) na forma paramétrica;
e) adotar duas matrizes distintas de Peso no ajustamento das observações. Uma
considerando os elementos de peso como sendo o inverso das precisões obtidas por
repetições das observações, e a outra o inverso das precisões nominais da estação
total;
f) verificar a qualidade do levantamento topográfico após o ajustamento através das
estimações por ponto das elipses, dos erros e de confiança e
g) a partir dos valores das precisões ajustadas para as coordenadas dos pontos da
poligonal, proceder a uma análise de diferença entre elas e comparar os resultados
obtidos.
 15

2.3 OBJETO

2.3.1 Problema

De que maneira é possível obter parâmetros ajustados, coordenadas retangulares (XY),

de uma poligonal fechada percorrida em “loop” com precisão, aplicando as técnicas do
Método dos Mínimos Quadrados na sua forma paramétrica?

2.3.2 Hipóteses

São as seguintes:

a) as precisões médias das observações obtidas por repetições quando vinculadas ao

processo de ajustamento pelo MMQ proporciona parâmetros ajustados com maior
precisão;
b) se o erro de fechamento testado no pre-ajustamento passar no teste qui-quadrado
da forma quadrática do erro de fechamento, não serão necessários, caso precise,
mais do que três iterações para obter um bom ajuste;
c) trabalhando com as precisões das observações obtidas por repetições, chegam-se
aos parâmetros ajustados cujas precisões serão melhores do que às máximas
estabelecidas para estação total e
d) os semi-eixos das elipses de confiança apresentam maiores dimensões nos pontos
mais afastados do ponto de controle.
 16

3 REVISÃO DE LITERATURA

Na sequencia desse trabalho, será apresentada de forma cronológica tópicos relativos

ao tema da pesquisa que será desenvolvida.

3.1 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS

Utilizando as equações de observação expressas por variação de coordenadas, o

ajustamento pelo método dos mínimos quadrados permite obter coordenadas finais dos
vértices mediante as correções dxi e dyi que são adicionadas as coordenadas provisórias.

Segundo Mikhail e Ackermann (1976), Leick (1995, 2004), o modelo matemático

funcional é um componente importante do ajustamento por mínimos quadrados.

No modelo matemático, de acordo com Leick (2004) são descritas matematicamente

as relações entre observações e parâmetros. A realidade física existente é expressa de maneira
simplificada. Coordenadas e alturas são consideradas como parâmetros. As distâncias e
ângulos, as diferenças de coordenadas ou de alturas são consideradas como observações.

De acordo com Krakiwsky (1975) e Leick (2004), são três os modelos matemáticos de
ajustamento: F(Xa,La) = 0, F(La) = 0 e La = F(Xa), que correspondem respectivamente ao
método de ajustamento combinado, correlato e paramétrico, que serão sucintamente
demonstrados, com exceção do paramétrico que será utilizado neste trabalho.

No método de ajustamento combinado, uma função não explícita relaciona as

observações e os parâmetros, no sistema de equações não é possível isolar os parâmetros dos
valores observados:

F ( X a , La )  0 (1)

onde:

a: indicação de que os parâmetros e observações são ajustados;

La: um vetor (nx1) das observações ajustadas;

Xa (ux1): é um vetor que contém os parâmetros ajustados;

n: número de observações;

u : número de parâmetros.
 17

As observações ajustadas pelo método de ajustamento correlato são ligadas por N

equações de condição, onde só aparecem valores medidos, que são os valores observados
ajustados (incógnitas) e nenhum parâmetro:

F ( La )  0 (2)

No método das equações de observações ou método de ajustamento paramétrico, os

valores observados ajustados são expressos como função dos parâmetros ajustados:

La  F ( X a ) (3)

Gemael (1994) descreve técnicas matemáticas desenvolvidas por Gauss e Legendre

que adotam como melhor estimativa de uma grandeza X (valor verdadeiro), aquela que a
soma dos quadrados dos resíduos seja mínima:

  V T  V  mínimo (4)

Uma matriz quadrada de pesos é adicionada a equação, pois as observações não

apresentam o mesmo grau de confiança. Dessa maneira a Equação (4) se expressa pela
Equação (5):

  V T  P  V  mínimo (5)

onde:

V: vetor dos resíduos das observações;

P : matriz dos pesos;

3.1.1 Ajustamento paramétrico

Considerando a necessidade de se obter uma estimativa única para os parâmetros,

coordenadas de uma poligonal fechada, bem como suas precisões, será utilizado o método dos
mínimos quadrados sob a forma de um ajuste paramétrico para o ajustamento das
observações.

Segundo Dalmolin (2004) o método paramétrico pode ser linear ou não linear, essa
determinação dependerá da função F. Será paramétrico linear se F for linear, caso contrário,
será não linear.
 18

3.1.1.1 Método de ajustamento paramétrico linear

Sendo linear o funcional F da equação La  F ( X a ) , as observações ajustadas serão

expressas da seguinte maneira:

n L1a  n Au u X 1a (6)

onde:

n L1a : vetor (nx1) dos valores observados ajustados, onde n é o número de observações;

n Au : matriz dos coeficientes das incógnitas ou matriz projeto de dimensão (n x u);

u X 1a : vetor (u x 1) dos parâmetros ajustados.

A Equação (6) é inconsistente devido aos inevitáveis erros de observação que

acontecem pela disposição somente de observações brutas e pela inexistência, “a priori”, dos
valores observados ajustados. Devido a essa inconsistência, é introduzido um vetor de
discrepâncias entre os valores observados e ajustados, denominado vetor dos resíduos.
Acrescentando o vetor dos resíduos na Equação (6) temos:

n L1b  nV1  n Au u X 1a (7)

ou:

V  n Au
n 1 u X 1a  n L1b (8)

Desenvolvendo o procedimento acima, a inconsistência será retirada, porém surge um

novo problema, pois a nova Equação (7) ou (8) contém mais incógnitas (u + n > n) do que
observações (n). Aplica-se a Equação (5), do critério de mínimos quadrados, na Equação (8)
para contornar o problema. O resultado encontrado dessa aplicação é o sistema de equações
normais, Equação (9), que tem como solução admitindo inversa ordinária a Equação (10) em
que os parâmetros ajustados são fornecidos diretamente do paramétrico linear.

u N u u X 1  n U1  u 01 (9)

u X 1a  (( n Au ) T n Pn n Au ) 1 ( n Au ) T n Pn n L1b (10)

onde:
 19

u N u = ((n Au )T n Pn n Au ) 1 : matriz dos coeficientes das equações normais;

n U 1  ( n Au )T n Pn n L1b : vetor dos termos independentes;

u X 1a : vetor dos parâmetros ajustados no caso do modelo funcional ser linear.

A expressão da matriz simétrica dos pesos, indicando as flutuações probabilísticas das

observações, é:

P   02  LB1 (11)

onde:

 02 : fator de variância “a priori”, geralmente arbitrado e igualado a 1;

 Lb1 : MVC das observações.

A variância “a priori”, segundo Gemael (1994), não tem influencia no vetor solução
dos parâmetros estimados na matriz dos coeficientes das equações normais N.

É necessário o conhecimento da matriz das derivadas parciais das equações de

observações em relação aos parâmetros para estimar o vetor dos parâmetros ajustados da
Equação (10).

Utilizando os valores da Equação (10) na Equação (8), é possível calcular os valores

dos resíduos. Dessa forma, os valores das observações ajustadas são:

n L1a  n L1b  nV1 (12)

3.1.1.2 Método de ajustamento paramétrico não linear

É necessário linearizar o modelo matemático funcional F de La = F(Xa) quando ele é

não linear. Para linearizar o modelo funcional, emprega-se a fórmula de Taylor, dessa maneira
as aproximações são introduzidas e as iterações são requeridas tornando o modelo linearizado
da seguinte forma:

n L1b  nV1  n L10  n Au u X 1 (13)

V  n Au u X 1 ( n L10  n L1b )
n 1 (14)

onde:
 20

L0: é o vetor (nx1) das observações aproximadas, calculadas a partir dos parâmetros
aproximados, ou seja, L0 = F(X0);

L: é o vetor dos termos independentes (nx1), ou discrepâncias, calculados a partir dos valores
dos parâmetros observados menos os valores observados aproximados sendo dado por

n L1 ( n L10  n L1b ) ;

uδX1: é o vetor das correções a serem aplicadas aos parâmetros aproximados.

O vetor solução uδX1 (correções aos parâmetros aproximados), considerando ATPA, é

dado pela equação abaixo:

u X 1  ( n AuT n Pn n Au ) 1 n AuT n Pn n L (15)

É possível obter as coordenadas ajustadas pela equação abaixo:

u X 1a  u X 10  u X 1 (16)

Pode-se obter o vetor observações ajustadas e dos resíduos com as Equações (13) e
(14) respectivamente.

3.1.1.3 Estimativa da precisão dos parâmetros e dos resíduos estimados

É possível obter as estimativas da qualidade dos parâmetros estimados, das

observações, e dos resíduos por meio da MVC.

Segundo Lugnani (1983) e Dalmolin (2004) pode-se obter a representação (X,∑x) dos
parâmetros e sua precisão a partir da utilização do método paramétrico, onde mede-se Lb e
estima-se ∑x.

Pode-se gerar a MVC das correções aos parâmetros ajustados Equação (17) aplicando-
se a lei de propagação de covariâncias na Equação (16). De acordo com Wells (1971),
Mikhail (1976), Leick (1995), Leick (2004), Gemael (1994) e Dalmolin (2004) essas
correções são constantes, então a mesma equação pode fornecer a MVC dos parâmetros
estimados.

X a   02 N 1 (17)

A MVC dos valores observados ajustados é dada pela Equação (18) abaixo:

 La   02 AN 1 AT (18)
 21

A MVC dos resíduos das observações é dada pela Equação (19) abaixo:

 V   Lb   La (19)

Pela equação expressa abaixo pode-se obter a variância “a posteriori”:

 V T PV
 02  (20)
nu

onde:

n − u: Nº de graus de liberdade do sistema de equações.

3.2 MATRIZ DOS PESOS

Para montar a matriz dos pesos dada pela Equação (11), é necessário que sejam
conhecidas as precisões com que foram obtidas as observações (ângulos e distâncias).

Considerando que não existem correlações entre as observações, a matriz será

trabalhada de maneira diagonal.

O fator de variância “a posteriori”, ou o sigma zero “a priori”  02 pode ser arbitrário,

geralmente ele é considerado com o valor igual à unidade. A MVC das observações é formada
de acordo com os valores da precisão de cada observação e caso haja correlação entre as
observações, sendo a variância e covariância respectivamente.

3.3 VETOR DAS OBSERVAÇÕES APROXIMADAS

Partindo de estações genéricas (k, i, j), cujo o ponto (i) considera-se um ponto de
instalação do instrumento medidor de ângulos e distâncias, (k) um ponto situado atrás e (j) um
ponto situado a frente, pode-se trabalhar as equações de observações necessárias ao MMQ.
Desta forma, (Sik) caracteriza a distância do ponto de instalação (i) ao ponto situado atrás (k) e
(Sij), a distância do ponto de instalação (i) ao ponto situado a frente (j). O ângulo horizontal
horário formado entre os três pontos (kij) é obtido pela diferença entre o azimute a vante (Aij)
e o azimute atrás (Aik)
Assim, para determinar o vetor das observações aproximadas expresso pela Equação
(3) é necessário substituir os vetores aproximados obtidos Xa pelo método dos mínimos
quadrados nas equações de observações expressas abaixo:
 22

 X j  Xi   
 kij  Az ij  Az ik  a tan   a tan X k  X i  (21)
  
 Y j  Yi   Yk  Yi 

 X ij   X ik 
Az ij  a tan  e Az ik  a tan   (22)
 Y   Yik 
 ij 

 X   Y Y    
1 1
 Xi d ik   X k  X i   Yk  Yi 
2 2 2 2 2 2
d ij j j i e (23)

3.4 VETOR DAS DIFERENÇAS

L é o vetor dos termos independentes (nx1), ou discrepâncias, calculados a partir dos

valores dos parâmetros observados menos os valores observados aproximados sendo dado
por:

n L1 ( n L10  n L1b ) (24)

3.5 MATRIZ A

Chamamos de matriz A (n x u) a matriz das derivadas parciais da função F, ou seja, a

matriz A é montada a partir das derivadas parciais das equações de observações em relação
aos parâmetros ajustados no ponto aproximado. É expressa pela Equação (25):

F
A . (25)
X a Xa  X 0

3.6 TESTE BILATERAL

Na aplicação do teste bilateral, primeiramente são estabelecidas a hipótese básica ou

nula (H0) e a hipótese alternativa (Ha):
H 0   02  ̂ 02 (26)

H a   02  ̂ 02 (27)

A comparação entre  o2 e ˆ o2 se baseia no fato de que a forma quadrática VTPV tem

distribuição  2 com (gl = n – u) graus de liberdade e tem por finalidade verificar se
 23

estatisticamente  o2 é igual a ˆ o2 , esta última é obtida do ajustamento. Assim a estatística  2

é calculada por:

ˆ 02 V T PV V T PV
  2 gl , como ̂ 02 
2
,  c2  (28)
0  02
c
gl

Com o auxílio de uma tabela de distribuição qui-quadrado é possível determinar os

valores teóricos. É necessário entrar com o número do grau de liberdade (gl) e o nível de
significância () chegando na Equação (29).

Se o nível de significância () estiver dentro do intervalo representado da Equação

(29), a hipótese básica não é rejeitada:

2    c2   2  (29)
gl, gl,1
2 2

Se o nível de significância () estiver fora do intervalo de confiança dado pela

Equação (29), a hipótese básica é rejeitada e acabamos por aceitar a hipótese alternativa.

Nos casos em que a hipótese básica é rejeitada significa que o ajustamento apresenta
problemas e as possíveis causas desses problemas devem ser investigadas.

3.7 TESTE UNILATERAL

Na aplicação do teste unilateral, presume-se que quando o teste global é usado para
detectar “outliers” a variância “a posteriori” é maior que a variância “a priori”. Sendo assim,
as hipóteses a serem testadas são as seguintes:

H 0   02  ̂ 02 (30)

Ha   02 ̂ 02 (31)

É necessário calcular a estatística do teste pela Equação (29) que também é utilizada
no cálculo do teste bilateral.

Se com o nível de significância () a Equação (32) for atendida, a hipótese básica não
é rejeitada:

 gl2 .1
 calc
2
 (32)
gl
 24

De acordo com Kuang (1996), nos casos em que uma estimativa imprópria da matriz
variância-covariância resultar na rejeição da hipótese zero H0, deve-se analisar os resíduos,
pois eles obedecem a uma função de distribuição normal, com tendência de média igual a
zero, para detectar um possível erro, observa-se se alguma das observações produziu resíduos
excessivos.

Caso o teste global seja rejeitado e os resíduos se mostrarem compatíveis com a

precisão dos equipamentos utilizados nas medições, propõe-se uma nova matriz variância-
covariância, pois o motivo da rejeição pode ser pela estimativa não correta da precisão das
observações.

ˆ Lb  ˆ 02 .Lb (33)

onde:

̂Lb : matriz variância-covariância das observações escalonadas.

Os testes “data snooping” de Baarda e o teste Tau de Pope são comumente aplicados
para localizar, detectar e eliminar os erros grosseiros (“outliers”). Nesse trabalho será
abordado somente o teste “data snooping” de Barda para a localização de erros grosseiros.

3.8 TESTE “DATA SNOOPING”

Baarda (1968) propôs o teste global para a detecção de “outliers” e o teste “data
snooping” para a localização de erros grosseiros.

O teste “data snooping” de Baarda consiste de um teste unidimensional que examina

apenas um resíduo de cada vez, o procedimento é repetido tantas vezes quantas fores as
observações, é utilizado para localizar as observações que possam estar abrigando erros, o
teste estabelece valores limite para aceitação das observações, a partir dos dados obtidos na
matriz variância-covariância dos resíduos.

A estatística do teste é:

vi
wi  (34)
l1
ri

onde:

vi: são os valores obtidos do vetor dos resíduos (V = A·X + L) da última iteração;
 25

ri é a redundância parcial que se obtém da diagonal da matriz.

A matriz R de redundâncias é expressa pela equação abaixo:

1
R V P (35)
ˆ 2

onde:

V : é a MVC dos resíduos;

P: é a matriz dos Pesos.

A MVC dos resíduos é dada pela Equação abaixo:

V  ̂ 02 .P 1   La (36)

A média matemática esperada é zero e variância igual a 1 dos resíduos normalizados

que se ajustam a função de distribuição normal reduzida. Portanto, outra hipótese nula mais
específica é proposta abaixo:

H 0 : wi ~ n(0,1) (37)

onde:

n(0,1): é a distribuição de densidade normal reduzida.

No teste bilateral que tem um nível de significância pré-definido  a , a hipótese nula

H0 será rejeitada, ou seja, um “outlier” será detectado, se:

wi  n 0 ou wi  n 0 (38)
1
2 2

Nos casos em que os valores das observações que apresentarem valores excedidos aos
calculados no teste, deve-se revisar os valores ou as medições devem ser repetidas.

3.9 ELIPSES DE ERRO

De acordo com Shofield e Breach (1972), a elipse de erro é uma expressão gráfica
conveniente da incerteza posicional de um ponto, e sendo absoluta acaba por fornecer a
medida de incerteza relativa do ponto analisado em relação ao ponto fixo da rede.

Oferecer subsídios para realização de comparações de maneira visual da precisão

relativa das estações é a maior vantagem da elipse para Ghilani e Wolf (2006).
 26

Para Ghilani e Wolf (2006), pode-se comparar de maneira rápida e significativa a

visualização da forma, tamanho e orientação da elipse de vários levantamentos. Segundo
Leick (2004), através da matriz projeto e da matriz peso a forma da elipse padrão pode variar,
dependendo da geometria da rede e a interpretação geométrica pode ser avaliada se a rede e as
elipses forem apresentadas em conjunto.

A elipse de erro pode ser visualizada nas figuras abaixo:

Figura 1 - Definição dos elementos da elipse deo erro ou de confiança

Fonte: Mikhail e Gracie (1981)

 27

Figura 2 - Alguns padrões das elipses de erro padrão.

Fonte: Mikhail e Gracie (1981)

A elipse de erro em sua forma padrão possui uma região de confiança de 39,4% de
probabilidade em que a posição estimada para o ponto esteja dentro da elipse, centrada na
“posição verdadeira” e a sua construção pode ser feita calculando-se os elementos (semi-eixos
maior e menor e orientação) a partir dos dados constantes na matriz variância-covariância dos
parâmetros ajustados  XX . Segundo Gemael (1994), para obtenção de uma região de
probabilidade de 95%, basta multiplicar o semi-eixo maior (a) e menor (b) por um fator de
2,477.

  x2  xy 
 XX  ˆ N
2 1
 ˆ .( A PA)  
2 T 1 
2 
(39)
0 0
  yx  y 

onde:

 XX : matriz variância-covariância das coordenadas ajustadas;

 28

̂ 02 : variância “a posteriori”;

A: matriz dos coeficientes das equações de observação;

P: matriz dos pesos das observações;

( AT PA) 1 : matriz co-fatores da matriz variância-covariância das coordenadas ajustadas;

 x2 ,  y2 : variância das coordenadas ajustadas X e Y, respectivamente;

 xy : covariância x, y;

Os parâmetros  x ,  y e  xy , que são respectivamente o desvio padrão da coordenada

estimada x, desvio padrão da coordenada estimada y e covariância entre elas, determinam o

tamanho, a forma e a orientação das elipses dos erros padrão ().

A correlação entre x e y determina a orientação da elipse em relação ao eixo x e y, se

elas não forem correlacionadas, a elipse se torna paralela ao eixo x e y e se as duas
coordenadas x e y tiverem a mesma precisão, a elipse degenera-se em um círculo.

É necessária a análise de quadrante para calcular a orientação da elipse. A expressão

do ângulo crítico é:

2 XY
tg 2 

 X2   Y2  (40)

Os pontos críticos, que são as raízes da Equação (40) são  e   90º . O que significa
que as variâncias máxima e mínima estão em eixos ortogonais.

Os semi-eixos a e b da elipse dos erros são calculados por:

a  max  X2 (41)

b  max  Y2 (42)
 29

4 MÉTODOS E MATERIAIS

O trabalho será conduzido no campus Cuiabá da Universidade Federal de Mato Grosso

(UFMT), cidade de Cuiabá-MT, em uma área próxima ao estacionamento do Departamento
de Engenharia Sanitária e Ambiental (DESA). Para isto será delimitada uma poligonal
fechada de 5 pontos. Serão a principio materializados dois marcos com coordenadas
geodésicas determinadas com GPS (Topcon), Base & Rover, cujos dados serão processados
com a RBMC Cuiabá utilizando o software Topcon Tools, gerando coordenadas seguras de 2
pontos na área de estudo. Destes pontos, um será usado como ponto de controle, para o qual
será estabelecidas coordenadas topográficas, bem como o azimute verdadeiro do alinhamento
inicial (AZv1-2).

O marco Nº 1 será materializado em cilindro de concreto a 30 cm do solo, assim como

o marco Nº 2. Os demais vértices da poligonal serão materializados com piquetes de madeira
localizados ao nível do solo.

A relação de materiais a serem utilizados neste trabalho irá constar-se de

equipamentos de campo e escritório.

4.1 MATERIAL DE CAMPO

Os materiais são os seguintes:

a) estação total marca GTS-203 (Figura 3), de fabricação Topcon, objetiva com
medição eletrônica da distância de raio infravermelho, visor, teclado, dispositivo de
ajuste, nível de bolha circular e tubular e prumo óptico;
 30

Figura 3 - Estação total Topcon GTS-203.

b) prisma refletor e bastão com nível de bolha;

c) tripé com base nivelante;
d) bipé e
e) GPS Topcon (Base & Rover), Figura 4.

Figura 4 - GPS Topcon.

4.2 MATERIAL DE ESCRITÓRIO

Os materiais são os seguintes:

a) Hardware:
- computador de mesa;
 31

- impressora laser;
b) Software:
- Topcon Tolls. Para processamento dos dados de GPS;
- DMAG2010. Para determinação da convergência meridiana e declinação
magnética;
- MAPGEO. Para transformação de coordenadas geodésica – UTM – coordenadas
topográficas;
- pacote de programas Office 2010 da Microsoft;
- Mathcad 15, versão Demo. Para as análises matemáticas e
- Autocad 2012. Para desenho da área levantada.

4.3 METODOLOGIA

O levantamento topográfico planimétrico será realizado com estação total pelo método
do caminhamento perimétrico ou poligonação a ser realizado no sentido anti-horário com
medição de leitura digital dos ângulos internos ao polígono e distâncias eletrônicas dos lados
do polígono. Para a poligonal a ser levantada, o ponto 1 da mesma será usado como ponto de
controle, cujas as coordenadas (XY) e o azimute verdadeiro do ponto 1 para o ponto 2 (AZv1-
2) serão inicialmente fixadas. Portanto, no total serão levantadas 10 observações, sendo 5
ângulos horizontais horários. Já as observações de distâncias horizontais totalizam 5. Deste
modo ao ser considerado os ângulos horizontais horários (5) e as distâncias horizontais (5),
terá um total de 10 observações (n).

Como as coordenadas do ponto 1 serviram como ponto de controle, estas não serão
ajustadas, ou seja, o número de incógnitas (parâmetros) a serem determinados, serão as
coordenadas X e Y dos 4 pontos restantes da poligonal, totalizando 8 parâmetros ou seja (u =
8). Assim o número de graus de liberdade (GL) será igual a 2 sendo obtido pela Equação (43):

GL  n  u (43)

Para minimizar os erros de índice vertical e colimação do ângulo horizontal serão

realizadas três séries de medições. Com a posição direta e invertida da luneta, para análises do
índice vertical, e três séries de ângulos duplos para a análise da colimação dos ângulos
horizontais.
 32

As medições das distâncias, inclinadas/horizontais, também serão realizadas através de

três series, considerando a posição direta e invertida da luneta.

Para todas as observações coletadas, irá trabalhar com os valores médios. E para estes
valores determinaram-se também suas respectivas precisões.

Com as medições efetuadas a campo, serão determinados os erros de fechamento da

poligonal os quais serão comparados com os limites de tolerância ou desvio padrão máximos
permitidos para ângulos e distâncias, segundo as especificações técnicas da estação total
utilizada. De acordo com o fabricante tem-se:

a) Desvio padrão para a medição de ângulos: 10”; e

b) Desvio padrão da medição de distância: 5mm + 5ppm.

Uma vez que os erros de fechamentos estejam abaixo dos limites de tolerâncias
estabelecidos, irá proceder-se com a compensação dos erros de ângulos (erro angular) e nas
distâncias (erro linear). Na compensação será realizado em primeiro lugar a distribuição do
erro angular de fechamento e a seguir será distribuído o erro linear expresso no plano
cartesiano. Uma vez compensados os erros, chegam-se as coordenadas provisórias (X,Y).

Para estabelecer o controle de aceitação do erro de fechamento da poligonal, será

aplicado o teste qui-quadrado do erro de fechamento, utilizando desta etapa em diante o
software Mathcad 15 (Versão Demo) para deduções matemáticas e Excel para processar os
dados.

4.4 APLICAÇÃO DO TESTE QUI-QUADRADO DA FORMA QUADRÁTICA DO ERRO

DE FECHAMENTO

Os dados necessários para a aplicação deste teste são:

a) ângulos horários internos de cada vértice da poligonal (akij) ;
b) distâncias observadas entre os vértices da poligonal (Sij);
c) desvio padrão (  a ) máximo para erro angular de cada observação, obtido das
especificações do instrumento e desvio padrão considerando a média das
observações;
d) desvio padrão (  s ) máximo para erro linear de cada observação, obtido das
especificações do instrumento e desvio padrão considerando a média das
observações;
 33

e) azimute provisório (Aij) com o norte verdadeiro;

f) coordenadas provisórias (XY) obtidas com os dados de campo;
g) erro de fechamento em coordenadas X (  x ) e em Y (  y ) e

h) variância do ângulo (  a2 ) e da distância (  S2 ).

4.4.1 Matrizes variância-covariância (MVC)

O propósito deste trabalho é ajustar as coordenadas (XY), logo tem-se uma variável
aleatória bidimensional, sendo que as componentes ‘X’ e ‘Y’ se consideradas isoladamente,
são variáveis unidimensionais com variância própria.

As variâncias  i2 e as covariâncias  ij , (i ≠ j), das componentes de uma variável n-

dimensional podem ser dispostas de modo a formar uma matriz quadrada (n x n) designada
por  , onde:

 11
2
 12  1n 
 
  222  2n 
   21  (44)
 
 2 
 n1  n 2  nn 

Como as componentes da matriz são independentes entre si, as covariâncias serão

nulas e  irá degenerar para uma matriz diagonal.

4.4.2 MVC das Distâncias

Será obtida usando a variância especifica da estação total, elevando o desvio padrão ao
quadrado.
 S212 0 0 
 
0  S2 0 
Sij  23
 (45)
 
0 0  Sp,p 1 
2

 34

4.4.3 MVC dos Azimutes

Obtida por meio da lei de propagação das covariâncias:

A  G  a  GT (46)

onde:

G: matriz das derivadas parciais da função Aij = f(ai)

 A12 A12 A12 

 a a2 ap 
 1 
 A23 A23 A23 
Aij  
G   a1 a2 ap  ; i  1,2, , p ; j  1,2, , p
a1  
(47)
 
 Ap,p 1 Ap,p 1 Ap,p 1 
 
 a1 a2 ap 

Aij: Azimute entre o vértice ocupado (i) pela estação total e o ponto visado (j), sendo:

i
Aij  Ao   akij  (i  1)  180 ; i  1,2, , p ; j  i 1 (48)
j 1

sendo:

akij: o ângulo horizontal horário observado em cada estação e Ao o azimute verdadeiro do

primeiro alinhamento da poligonal (AZv1-2).

 a : MVC dos ângulos horizontais, cujos componentes são as variâncias obtidas das
especificações da estação total.

Ao efetuar o cálculo das derivadas parciais dos azimutes em relação aos ângulos
horários será obtida uma matriz quadrada, triangular inferior e adimensional (G).

1 0 0 0
1 1 0 0 

G  1 1 1 0 (49)
 
 
1 1 1 1 
 35

Como as medidas angulares serão obtidas pelo mesmo equipamento, as componentes

da matriz (  a ), diagonal, terão o mesmo valor (quadrado do desvio padrão máximo para o
erro angular) de acordo com as especificações da estação total.

4.4.4 MVC das Distâncias e Azimutes

Será composta pela junção das MVC das distâncias e MVC dos azimutes, resultando
em uma matriz quadrada:
 S 0 
S ,A    (50)
0  A 

4.4.5 MVC das coordenadas do ultimo ponto

Novamente aplicando-se a lei de propagação das covariâncias para as coordenadas do

último ponto, tem-se:
 X ,Y  D  S,A  DT (51)
onde:
D: Matriz das derivadas parciais das funções de (X,Y) em relação a distância (Sij) e ângulo
(akij), representadas abaixo.
p
X p 1  X1   Sij  sen( Aij )
i 1

para i  1,2, , p e j  i 1 (52)

p
Yp 1  Y1   Sij  cos( Aij )
i 1

Derivando as funções acima terá:

 1 1 1 
senA12 senA23  senAp1   S12 cos A12   S23 cos A23 

Sp1 cos Ap1 
2 Dn 
  (53)
 1 1 1 
cos A12 cos A23  cos Ap1   S12senA12   S23senA23  Sp1senAp1 

 

Uma vez que se tem a necessidade de transformar os valores dados em radianos para

segundos de arco, será introduzido em (2Dn) o fator de multiplicação (ρ) sendo o mesmo ρ
 36

(“/rad) = 648000/π. Nesta matriz, com já especificado o índice (n) é igual ao número de

observações, logo:

 X2  XY 
 X ,Y   (54)
YX Y 
2

4.4.6 Aplicação final do teste

A poligonal será aceita caso o valor de qui-quadrado calculado (χ2cal) esteja dentro do
intervalo dos valores da distribuição de probabilidade qui-quadrado tabelado (valores
críticos), conforme especificação abaixo.

G2.L.;0,5  Calc
2
 G2.L.;10,5 (55)

Os valores críticos de (χ 2) serão obtidos para um nível de significância adotado (α =

1%) e para o número de graus de liberdade (GL) estabelecido.

Por sua vez o (χ 2cal) será determinado através da expressão abaixo.

 ET   X ,Y E
1
Cal
2
(56)

O termo (
1
X ,Y
) da Equação acima é a inversa da MVC das coordenadas do último
ponto e (E) o vetor dos erros de fechamento em abscissa x (εx) e ordenada y (εy).

 x 
E  (57)
 y 

Os valores de (εx) e (εy) podem ser expressos como segue.

 x  yˆ  Y
(58)
 y  xˆ  X

Os valores de X e Y são as coordenadas fixas do último ponto da poligonal, enquanto

x̂ e ŷ são as coordenadas provisórias do último ponto da poligonal, obtida com os valores
observados.
 37

4.5 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS (MMQ)

Será aplicado no ajuste da poligonal fechada no plano topográfico, o modelo

paramétrico do MMQ com equações de observação desenvolvidas por variação de
coordenadas. No modelo funcional do ajustamento paramétrico por variação de coordenadas,
cada observação (medição) do levantamento corresponde uma equação de observação, com
diferentes aspectos de acordo com a natureza da grandeza observada.
No ajustamento a ser realizado, ocorrem equações relativas a distâncias, azimutes e
ângulos. No entanto, cada equação de observação irá possuir como incógnitas as correções
das coordenadas aproximadas dos pontos envolvidos e as discrepâncias entre os valores
observados e calculados a partir das coordenadas aproximadas de cada grandeza observada.
As equações de observações do levantamento são não lineares, o que torna necessário
linearizá-las por série de Taylor. As observações diretas serão os ângulos horários e distâncias
obtidas no levantamento topográfico planimétrico e os parâmetros, valores indiretos, serão as
coordenadas cartesianas (XY). A Figura 3 representa as observações que serão trabalhadas em
uma formulação matemática inicial (1ª Dedução).

Figura 5 - Distâncias, Ângulos e Azimutes no plano

Fonte: Adaptado de Moraes (1997, p.27)

Estando a poligonal aceita após aplicação do pré-ajustamento, para realização do

ajustamento pelo MMQ - caso Paramétrico será estabelecido um itinerário composto de 11
passos, representados na Figura 6.
 38

Figura 6 - Procedimento esquemático de Ajustamento pelo MMQ

1º Passo
Modelo
Matemático
La = F(Xa)
1ª Dedução 2ª Dedução
2º Passo
Parâmetros 1ª Dedução 2ª Dedução
Observados Equação de: Forma Matricial
(Xo) Sij — Aij — akij Sij — Aij — akij

3º Passo
Matriz dos
Pesos

4º Passo 5º Passo 6º Passo 7º Passo 8º Passo

Observações Vetor das Vetor das Parâmetros
Aproximadas Diferenças Matriz A Correções Ajustados
Lo = F(Xo) L = Lo -Lb -1
X=-N U Xa = X +Xo

Se X>0,0001

Se X<0,0001
Parâmetros
Ajustados
Xo = Xa

9º Passo
Vetor dos
Resíduos
V = AX + L

Testes: Falharam Teste Bilateral 10º Passo

Teste de
Hipótese

Testes: ok! Teste Unilateral

Teste
11º Passo Parâmetros Ajustados Data Snooping
Precisão e Detecção,
Cálculo das Elipse dos Erros localização e
Observações Ajustadas Precisões
MVC e de confiança Eliminação de
“Outliers”
Resíduos

Figura 17 – Processo de ajustamento pelo Método dos Mínimos Quadrados - MMQ

4.5.1 Modelo Matemático

No 1º passo: determinar as equações matemáticas de observações que envolvem os

parâmetros:
 39

La  F ( X a ) (59) (

Onde (La) representa o vetor das observações ajustadas e (Xa) são os parâmetros
ajustados.

4.5.1.1 Equações de observações para a distância

A equação de observação da distância Sij é dada por:

Sij2  ( X j  X i )2  (Y j  Yi )2 (60) (

Aplicando-se a diferencial na Equação acima, terá:

fi  kij dxi  Lij dy i  kij dx j  Lij dy j  Sijc  Sijo  VSij (61) (

onde:

k ij  senAij
(62) (
Lij  cos Aij

4.5.1.2 Equação de observação para o Azimute Aij

A Equação para o azimute será dada por:

X j  Xi
tan Aij  (63) (
Y j  Yi

Diferenciando a equação acima, terá:

fij  Pij dxi  Pij dx j  Qij dy i  Qij dy j  Aijc "  Aijo "  VAij
"
(64)
(

onde:
 40

648000
Pij  cos Aij
 Sij
(65)
648000
Qij  senAij
 Sij

4.5.1.3 Equação de observação para o Azimute Aik

A Equação para o azimute será dada por:

Xk  Xi
tan Aik  (66)
Yk  Yi

Diferenciando a equação acima, terá:

fik  Pik dxi  Pik dxk  Qik dy i  Qik dy k  Aikc "  Aiko "  VAik
"
(67)

Onde,

648000
Pik  cos Aik
 Sik
(68)
648000
Qik  senAik
 Sik

4.5.1.4 Equação de observação para o Ângulo akij

Esta equação será obtida pela diferença entre as Equações (64) e (67) e será expressa
na Equação (69).
fkij  Pik dxk  Qik dy k  (Pik  Pij )dxi  (Qij  Qik )dy i  Pij dx j  Qij dy j 
(69)
 acjik"  aojik"  Vajik
"

4.5.1.5 Equações de observações para a distância com resíduo

Iniciando-se com a 2ª Dedução pode-se observar a Figura 7 que mostra o esquema

geométrico para a determinação da distância observada e resíduo vinculado a mesma, que
pode ser positivo ou negativo.
 41

Figura 7 - Distância observada

Fonte: Adaptado de Moraes (1997, p.24)

Considerando o comprimento observado de cada linha (Soij) e o resíduo da observação

(VSij), Equação (70), será elaborada uma equação para cada lado da poligonal.

(Sijo  VSij )  ( X j  X i )2  (Y j  Yi )2 (70)

Com as coordenadas provisórias dos vértices ( X io , Yi o , X oj , Y jo ) e suas respectivas

correções (dxi, dyi, dxj, dyj), valores incógnitos, que serão adicionados às coordenadas
provisórias para obter as coordenadas finais ajustadas, será obtido através da derivada parcial
da função representativa da distância observada em relação às coordenadas provisórias dos
vértices, a Equação de observação para a distância como representado abaixo.

( X io  X oj ) (Yi o  Y jo ) ( X oj  X io ) (Y jo  Yi o )
dxi  dy i  dx j  dy j 
Sijo Sijo Sijo Sijo (71)
S  S  VSij
c
ij
o
ij

Considerando a representação matricial a equação acima pode ser representada como:

n Au  u X1  n L1  nV1 (72)

Onde (A) é a matriz das derivadas parciais da Função (F) em relação aos Parâmetros
aproximados (Xa).
 42

F ( X o  X o ) (Yi o  Y jo ) ( X Jo  X Io ) (YJo  YI o ) 
n Au   i o j  (73)
X1a X io  Sij Sijo Sijo Sijo 

O vetor das incógnitas será representado por:

dxi 
 
 dy i 
u X1   (74)
dx j 
 
dy j 

O vetor dos termos independentes das equações de observações de distância por:

L  Sijc  Sijo 
n 1 (75)

E o vetor dos resíduos das distâncias observadas por:

V  VSij 
n 1 (76)

4.5.1.6 Equações de observações para o Ângulo com resíduo

Dando sequência com a 2ª Dedução, a Figura 8 mostra o esquema geométrico para a

determinação do ângulo observado e o resíduo vinculado ao mesmo.

Figura 8 – Ângulo observado

Fonte: Adaptado por Moraes (1977, pg.28)

 43

O ângulo formado por dois alinhamentos ij e ik com vértice em i envolve 3 vértices i, j

e k e pode ser expresso por:

Y j  Yi Yk  Yi
akij  arctan  arctan (77) (
X j  Xi Xk  Xi

Que corresponde a equação de observação de ângulo, linearizada por Taylor:

Y o Y o 
Yi o  Yko X io  X ko  Yi o  Yko 
dxk  dy k  i j
 dxi 
     S o 2
   
2 2 2 
Siko Siko S o

 ij ik 
 Xo  Xo  Y jo  Yi o X io  Y jo (
 X ko  X io 
 j i
 dy i  dx j  dy i  akij
c
 (78)
 
 S o
  
   
2 2 2 2
o o o
 ij S ik  S ij S ij

akij
o
 Vakij

Nesta expressão os ângulos e resíduos são medidos em radianos e para converter em

segundos de arco, os coeficientes das incógnitas serão multiplicados por ρ(“/rad) = 648000/π.

Matricialmente, a expressão acima pode ser expressa por:

n Au  u X1  n L1  nV1 (79)

Onde (nAu) é a matriz de ordem (n x u) dos coeficientes das incógnitas dados por:

 o Y o Y o   X o Y o 
Yi  Yk X ko  X io Yi o  Yko X ko  Yi o
o
A   i j
   j i
 

  S   
 S o 2
  
 
 S o 2
  
n u 2 2 2 2
o o
S Siko Siko
 ik ik  ij   ij 
(80)
X  Yi
o
j
o
X  X 
i
o o
j

S    
2 2
o
Sijo
ij 

O vetor das incógnitas (uX1) pode ser representado por:

 44

dxk 
 
dy k 
dxi 
u X1 
  (81) (
dy i 
dx 
 j
dy j 
 

O vetor dos termos independentes (nL1) de ordem (n x 1) das equações de observações

de ângulo será dado por:

n 
L1  a kij
c
 a kij
0
 (82)

E o vetor dos resíduos (nV1) de ordem (n x 1) dos ângulos observadas será dado por:

V  Vaki j  (83)
n 1  

4.5.2 Coordenadas aproximadas - parâmetros (Xo)

No 2º Passo: os valores dos parâmetros aproximados do presente trabalho serão

calculados utilizando-se das coordenadas do vértice inicial (ponto de controle) da poligonal,
do azimute inicial do 1º alinhamento (1-2), os comprimentos dos lados e os ângulos horários.
 X io 
uX   o 
o
1 (84)
Yi 

4.5.3 Matriz dos Peso (P)

No 3º Passo: será montada a matriz dos pesos.

P   o2  Lb 1 (85) (

Para isso é necessário que se conheça a Matriz Variância-Covariância das observações

(∑Lb), composta pelos valores das variâncias determinadas para as observações (distâncias -
 S2 e ângulos -  a2 ). Neste trabalho serão elaboradas duas MVC (∑Lb) para isto, serão feitas
três séries de medidas para ângulos e distâncias, obtendo observações médias com as quais
serão determinadas as respectivas precisões e variâncias cujos valores iram compor a primeira
MVC (∑Lb). A segunda MVC (∑Lb) será composta com as variâncias oriundas das precisões
 45

nominais da estação total. Essas matrizes serão diagonais, devido a não consideração das
correlações entre as observações.

 S21 0 0 0 0 0 0 0
 
0  S2 0 0 0 0 0 0
 
2

0 0  S23 0 0 0 0 0
 
 
0 0 0  S2 0 0 0 0
Lb  
p
(86) (
0 0 0 0  a2 0 0 0
 1 
0 0 0 0 0  a2 0 0
 2 
0 0 0 0 0 0  a2 0
 3

 
 2 
0 0 0 0 0 0 0  ap 

O sigma zero “a priori” (  o2 ) utilizado na multiplicação da (∑Lb) será adotado com

valor igual a unidade, embora pudesse ser utilizado outro valor.

4.5.4 Vetor das observações aproximadas (Lo)

No 4º passo: será montado o vetor das observações aproximadas. Onde:

Lo  F ( X o ) (87)
Este vetor será calculado pela substituição dos coordenadas aproximadas obtidas no
Passo 2 nas equações de observações estabelecida no Passo 1.

A expressão abaixo permite determinar a distância (Sij).

Sij  ( X j  X i )2  (Y j  Yi )2 (88)

A expressão abaixo permite determinar o ângulo horário (akij).

X j  Xi Xk  Xi
akij  arctan  arctan (89) (
Y j  Yi Yk  Yi

Com os valores aproximados de distância e ângulo terá o vetor das observações

aproximadas (Lo).
 46

 S12 c

 c

 S23 
 c 
 S34 
 
 
 Sp1 
c

Lo   c  (90)
 ap12 
 c  (
 a123 
 ac 
 234 
 
 c 
a( p 1) p1 

4.5.5 Vetor dos termos independentes (L)

No 5º passo: será encontrado o vetor dos termos independentes (L). Este vetor será o
resultado da diferença do vetor das observações aproximadas (Lo) obtido no 4º Passo, e o
vetor das observações (Lb).

L  Lo  Lb (91) (

O vetor das observações (Lb) é composto pelos valores das distâncias médias obtidas
no levantamento de campo, pela estação total, assim como os ângulos horários médios obtidos
pelo mesmo equipamento.

4.5.6 Matriz A

No 6º passo: será feita a montagem da matriz design ou matriz A. Esta matriz será
obtida por meio das derivadas parciais das equações de observações em relação aos
parâmetros ajustados no ponto aproximado.

F
Au  (92) (
X a
n
Xa  Xo
47
 48

4.5.7 Resolução do sistema de equações de normais

No 7º passo: será desenvolvido o sistema de equações normais mediante linearização

do modelo matemático das equações de observação através de operações algébricas e
matriciais.
O modelo matemático das equações de observação linearizadas é dado pela Equação
abaixo.
A X  L V (94) (
onde,
V: vetor dos resíduos das observações, obtido do ajustamento para corrigir as observações;
X: é o vetor incógnito das correções, a serem aplicadas aos parâmetros aproximados para a
obtenção dos parâmetros ajustados, ou seja, coordenadas dos pontos da poligonal ajustada.
Aplicando o princípio dos mínimos quadrados na Equação (94) e após algumas
operações algébricas e matriciais, obtêm-se os sistemas de equações normais dadas pelas
Equações (95) e (96) e a resolução do sistema de equação normal é dado pela Equação (97).
N  AT  P  A (95)
U  AT  P  L (96)

X   N 1 .U (97)

4.5.8 Cálculo dos Parâmetros Ajustados

A expressão abaixo permite determinar os parâmetros ajustados.

Xa  X  Xo (98)

No 8º passo: será determinado o vetor incógnito das correções (X) a serem aplicadas
aos parâmetros aproximados (Xo) para a obtenção dos parâmetros ajustados (Xa), ou seja,
coordenadas dos pontos da poligonal ajustada. Se os valores do vetor incógnito das correções
conterem valores que se afastam de zero, será necessário realizar um processo de iteração.
Para isto, cria-se um novo vetor de parâmetros aproximados que será exatamente igual ao
vetor incógnito das correções obtido neste passo, e volta ao 4º passo, realizando a partir daí
novo ajuste até que o os valores do vetor incógnito das correções possa ser considerado como
zero (neste trabalho será adotado por conveniência: X ≤ 0,0001). Caso o novo vetor incógnito
das correções ainda esteja alto, deve-se repetir novamente o processo de iteração.
 49

4.5.9 Cálculo do Vetor dos Resíduos (V)

V  A X  L (99)
No 9º passo: será determinado o vetor dos resíduos (V), que será utilizado para o
cálculo das observações ajustadas e para o cálculo do sigma zero “a posteriori”.

4.5.10 Teste Global da Variância “a Posteriori” ( ˆ o2 )

V T PV
ˆ o2  (100)
gl

No 10º passo: será aplicado o teste global da variância “a posteriori” ( ˆ o2 ), para

detectar a existência de inconsistências do ajustamento comparando a variância “a priori”
com a variância “a posteriori” (teste bilateral). Será também aplicado o teste global na forma
do teste unilateral, com o propósito de detectar “outlier”, onde se espera que a variância “a
posteriori” seja maior que a variância “a priori”. Se houver discrepância entre as variâncias,
será aplicado o teste de hipótese que se baseia na distribuição qui-quadrado (χ2) para verificar
a significância das discrepância em relação ao nível de confiança pré-estabelecido.
Teste Bilateral:
a) Enunciação das hipóteses:
Ho :  o2  ˆo2
(101)
Ha :  o2  ˆo2
b) Estatística do teste:
ˆ o2 V T  P V
 calc
2
  gl  (102)
 o2  o2
c) Teste da hipótese Ho:
 2   calc
2
 2  (103) (
gl , gl ,1
2 2

Teste Unilateral:

a) Enunciação das hipóteses:

Ho :  o2  ˆo2
(104)
Ha :  o2  ˆo2
 50

b) Estatística do teste:
ˆ o2 V T  P V
 calc
2
  gl  (105)
 o2  o2
c) Teste da hipótese Ho:
 gl2 ,1
 2
calc  (106)
gl
Caso seja detectada diferença estatística a certo nível de significância α, será
verificado se há problemas no ajustamento. Isto pode ocorrer devido a uma superestimação ou
subestimação dos elementos da matriz dos pesos, determinada no 3º passo, ou a erros de
cálculos. Caso não tenha erros de cálculos, será criada uma nova matriz de peso através de um
escalonamento da MVC das observações multiplicando a mesma pelo valor encontrado da
variância “a posteriori”, conforme expressão abaixo. Feito isto, retornar ao 4º passo e realizar
novo ajustamento.
ˆ Lb  ˆ o2  Lb (107) (

4.5.11 Cálculo das MVC: dos parâmetros ajustados, observações ajustadas e resíduos

No 11º passo: a matriz variância-covariância (MVC) dos parâmetros ajustados permite

determinar da precisão com que os parâmetros foram estimados. Na diagonal principal
encontram-se valores de variância e fora da diagonal, valores de covariância. O cálculo da
(MVC) dos valores observados ajustados, será importante na obtenção da (MVC) dos
resíduos, que será importante posteriormente para a aplicação do teste que aponta os erros nas
observações colhidas no campo (teste “data snooping” de Baarda).

4.6 QUALIDADE DO AJUSTAMENTO

Após o ajustamento das observações, será obtida a MVC dos parâmetros ajustados (
 Xa ), Equação (108):

 Xa  ˆo2  ( AT  P  A)1 (108) (

Na forma matricial a equação acima será representada por:
 x2  xy 
 Xa   (109)
 yx  y2 
 51

Na diagonal se encontram as variâncias das coordenadas ajustadas. As raízes dessas

variâncias irão fornecer o erro médio ou precisão (  X ,  Y ) das coordenadas ajustadas.

Na sequência, será obtida a MVC das observações ajustadas (  La ), Equação (110):

La  ˆo2  A  ( AT  P  A)1  AT  La  ˆo2  A  N 1  AT (110) (

As raízes quadradas dos elementos da diagonal principal desta matriz irão fornecer a
precisão das observações ajustadas.

4.6.1 Precisão e Elipses de Erro

Contraria as precisões acima especificadas, será feita uma análise de precisão da

posição fornecida pela teoria da elipse de erros bidimensional através da qual será avaliada a
precisão em todas as direções do plano, e não somente na direção X, Y.
A partir dos dados constantes na matriz variância-covariância dos parâmetros
ajustados(  Xa ) será calculado os elementos (semi-eixos maior e menor e orientação) para a
construção da elipse de erro padrão, com uma região de confiança de 39,4% de probabilidade.
Ou seja, a elipse estará delimitando a porção do plano que com esta probabilidade, contém a
posição verdadeira do ponto. Neste trabalho será estabelecida a elipse de confiança para uma
região de probabilidade de 95%, para isto, o semi-eixo maior (a) e menor (b) serão
multiplicados por um fator de 2,447.
O tamanho, a forma e a orientação das elipses dos erros padrão serão determinados
pelas distribuições dos parâmetros σx, σy e σxy, sendo respectivamente desvio padrão da
coordenada estimada X, desvio padrão da coordenada estimada Y e covariância entre elas. Já
a orientação da elipse em relação ao eixo X e Y irão depender da correlação entre X e Y.
Sendo elas não correlacionadas, a elipse torna paralela ao eixo X e Y. Se as duas coordenadas
X e Y tiverem a mesma precisão, a elipse irá degenerar em um círculo.
Extraindo a raiz quadrada positiva das variâncias das Equações (111) e (112) serão
obtidos respectivamente o semi-eixo maior (a), Equação (113) e menor (b), Equação (114) da
elipse de erro padrão.

 x2   y2 ( x2   y2 )2
 2
máx     xy
2
(111)
2 4

 x2   y2 ( x2   y2 )2
 2
min     xy
2
(112)
2 4
 52

a   máx
2
(113)

b   min
2
(114)

A orientação da elipse, ângulo entre o eixo das abscissas e semi-eixo maior será
calculado pela Equação (115):
2 xy
tan 2  (115)
 x2   y2

O quadrante de 2ψ será determinado por meio de análise do sinal do numerador 2σxy e

denominador (  x2   y2 ). O ângulo (ψ) será contado a partir do eixo das abscissas no sentido

anti-horário.

4.6.2 Detecção de “Outlier” e localização de erros grosseiros

Inicialmente foi aplicado o teste global em sua forma unilateral, com o proposito de
detectar “outlier”. Se o teste acusar presença de “outlier”, torna-se necessário a verificação da
confiabilidade das observações e do modelo matemático. Logo, os resíduos das observações
ajustadas serão submetidos a testes estatísticos que buscam detectar, localizar e eliminar os
erros grosseiros. No entanto, mesmo que no teste global (unilateral) não seja detectada
“outlier”, estes testes estatísticos tem que ser aplicados, pois podem existir erros grosseiros de
pequenas magnitudes nas observações.
Para isto, será aplicado o modelo simplificado “Data Snooping” de Baarda (1968) para
analisar a relação entre um “outlier” e um erro grosseiro.

4.6.2.1 Teste “Data Snooping”

A aplicação desta técnica é um processo combinado para detecção de “outlier”,

localização e eliminação dos erros grosseiros. Para realizar tal procedimento serão
investigadas quais observações que podem contém os erros grosseiros que causaram os
“outliers” e, então as elimina-la, caso necessário, voltando a campo e coletando novas
observações.
 53

Estes valores serão obtidos pela divisão dos resíduos por seus respectivos desvios
padrão que irá resultar em uma estatística denominada, resíduo normalizado, conforme
Equação (116).
vi
wi  (116)
 l  ri
i

onde:
vi: são os valores obtidos do vetor dos resíduos (V = A·X + L). Sendo a matriz (A), o vetor
(X) e o vetor (L) resultados obtidos da última iteração.
ri: são os valores de redundância parcial que se obtém da diagonal da matriz das redundâncias
R obtida através da Equação (117):
1
R  P (117)
ˆ o2 V
onde (∑V) é a MVC dos resíduos, Equação (118), e (P) a matriz dos Pesos.
V  ˆo2  P 1  La (118)
Na forma matricial, a matriz R será expressa conforme segue.
r1 r12 r1 j r1n 
 
r21 r2 r2 j r2n 
 
R  (119)
ri 1 ri 2 ri rin 
 
 
rn1 rn 2 rnj rn 

Para o teste bilateral, a hipótese nula H 0 : wi ~ n(0,1) será rejeitada, ou seja, um
“outlier” será detectado, se para um nível de significância pré-definido α os valores dos
resíduos normalizados estiverem abaixo ou acima dos limites críticos especificados na
Equação (120). Na expressão de Ho, n(0, 1) refere-se à distribuição normal reduzida.
n  w i  n  (120)
1
2 2
 54

5 EXPERIMENTAÇÃO E RESULTADOS

Com os dados de observações levantados em campo, será calculado o erro de

fechamento angular pelo MMQ tanto com a precisão nominal da estação total quanto com a
precisão da média das observações, a fim de conseguir fazer um comparativo entre os
resultados dos cálculos com essas duas precisões.
Os valores das observações foram extraídos de uma poligonal fechada em “loop” com
5 vértices localizada na Universidade Federal de Mato Grosso. Esses valores foram
organizados em um quadro apresentado abaixo:
 55

Quadro 1 – Planilha de experimentos

Valores Iniciais: P1 (Xi - Yi): X = 10000,000; Y = 10000,000; AZM1→1 = 133°,19'30,7235"

Ângulo Observado Azimute
Compensação Ângulo Compensado
Ponto (valores médios) DH Provisório
Estação
Visado (m)
1 1 1 AZi,i+1
1 2 54º,38'41,667'' 0º,00'01,033'' 54º,38'42,700'' 29,259 166º,28'10,057''
2 3 243º,14'05,833'' 0º,00'01,033'' 243º,14'06,867'' 39,716 229º,42'15,890''
3 4 60º,55'14,667'' 0º,00'01,033'' 60º,55'15,700'' 25,231 110º,37'30,557''
4 5 116º,47'19,167'' 0º,00'01,033'' 116º,47'20,200'' 64,784 47º,24'49,724''
5 1 64º,24'33,500'' 0º,00'01,033'' 64º,24'34,533'' 51,557 291º,49'23,224''
1 5 158º,29'57,667'' 158º,29'56,633'' 111º,49'28,390''
1 M1 201º,30'51,667'' 201º,30'03,367'' 313º,20'14,890''
Soma 539º,59'54,834'' 0º,00'05,167'' 540º,00'00,000'' 210,547
E.F.A: -0º,00'05,167''
Correção: 0º,00'01,033''
 56

Quadro 2 – Planilha de experimentos continuação

Valores Iniciais: P1 (Xi - Yi): X = 10000,000; Y = 10000,000; AZM1→1 = 133°,19'30,7235"

Projeções Não Projeções Azimute
Compensação Coordenadas Provisórias
Compensadas Compensadas Compensado
x' y' Cx Cy x y X (m) Y (m) AZi,i+1
6,84554 -28,44693 -0,000520 0,002065 6,84502 -28,444861 10006,84502 9971,55514 166º,28'10,057''
-30,29224 -25,68542 -0,000705 0,002804 -30,293 -25,682614 9976,55207 9945,87252 229º,42'16,924''
23,61373 -8,88792 -0,000448 0,001781 23,6133 -8,8861402 10000,16535 9936,98638 110º,37'32,624''
47,69854 43,83852 -0,001151 0,004573 47,6974 43,8430922 10047,86275 9980,82948 47º,24'52,824''
-47,86183 19,16688 -0,000916 0,003640 -47,863 19,1705231 10000,00000 10000,00000 291º,49'27,357''
111º,49'27,357''
313º,19'30,724''
0,00374 -0,01486
E.F.L. Abs.: 0,01533
E.F.L. Relat.: 1 : 13737
 57

5.1 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO

NOMINAL DA ESTAÇÃO TOTAL

Primeiramente serão apresentados todos os cálculos obtidos utilizando a precisão

nominal da Estação Total que comumente é utilizada 1:10.000. Segundo a NBR 14166:1998
Rede de Referência Cadastral Municipal – Procedimento, nas operações de cálculo e
ajustamento das observações, essas observações devem passar pelo ajustamento vetorial pelo
MMQ, devendo ser a precisão final na ordem de 1 ppm (1:10.000) ou superior, considerando-
se 95% de nível de confiança.

5.1.1 Teste Qui-quadrado da forma quadrática do erro de fechamento

Utilizando os dados apresentados no Quadro 1 – Planilha de experimentos, temos a

fixadas as coordenadas dos pontos iniciais X=10.000,00 m e Y=10.000,00 m, esse é o ponto
usado como ponto de controle. O azimute definido pelo ponto de controle e pelo ponto 1 é de
133°19’30,7235”.

5.1.1.1 Matriz Variância-Covariância das distâncias e ângulos

2,6E-05 0 0 0 0 0 0 0 0 0
0 2,7E-05 0 0 0 0 0 0 0 0
0 0 2,6E-05 0 0 0 0 0 0 0
0 0 0 2,8E-05 0 0 0 0 0 0
10 Sa 10 = 0 0 0 0 2,8E-05 0 0 0 0 0
0 0 0 0 0 100 0 0 0 0
0 0 0 0 0 0 100 0 0 0
0 0 0 0 0 0 0 100 0 0
0 0 0 0 0 0 0 0 100 0
0 0 0 0 0 0 0 0 0 100
 58

5.1.1.2 Matriz Variancia-Covariância das distancias e azimutes

2,6E-05 0 0 0 0 0 0 0 0 0
0 2,7E-05 0 0 0 0 0 0 0 0
0 0 2,6E-05 0 0 0 0 0 0 0
0 0 0 2,8E-05 0 0 0 0 0 0
10 SA10 = 0 0 0 0 2,8E-05 0 0 0 0 0
0 0 0 0 0 100 100 100 100 100
0 0 0 0 0 100 200 200 200 200
0 0 0 0 0 100 200 300 300 300
0 0 0 0 0 100 200 300 400 400
0 0 0 0 0 100 200 300 400 500

5.1.1.3 Matriz Vriancia-Covariancia das coordenadas dos últimos pontos

2,34E-01 -7,63E-01 9,36E-01 7,36E-01 -9,28E-01 -1,38E-04 -1,25E-04 -4,31E-05 2,13E-04 9,29E-05
2D10 =
-9,72E-01 -6,47E-01 -3,52E-01 6,77E-01 3,72E-01 -3,32E-05 1,47E-04 -1,14E-04 -2,31E-04 2,32E-04
Resultando:
9,84E-05 2,88E-06
2( X,Y)2 =
2,88E-06 6,32E-05
Os desvios padrões da abscissa e da ordenada são, respectivamente:
 59

X = √9,84E-05 = 9,917E-03 m
Y = √6,32E-05 = 7,949E-03 m

5.1.1.4 Aplicação do teste

Foi utilizado o nível de significância tanto α =1% quanto α = 5%.

Os erros de fechamento em X e em Y são:
0,00374
2 E1 =
-0,0149
Para o nível de significância α =1% foram encontrados os valores apresentados na
figura abaixo:

Figura 7 – Cálculo para o nível de significância a 1%

Para o nível de significância  (%) = 1

0,5  = 0,005
 2 Teórico
2 Teórico coma =
com 1%
1 - 0,5  = 0,995
2 (2; 0,005) = 0,01
2 (2; 0,995) = 10,60

 2 Calculado com   1% 3,69

O valor de χ2 calculado está entre os valores de χ2 teórico, portanto a poligonal é aceita

ao nível de significância de 1%.
Para o nível de significância α =5% foram encontrados os valores apresentados na
figura abaixo:
 60

Figura 8 – Cálculo para o nível de significância a 5%

Para o nível de significância  (%) = 5

0,5  = 0,025
 Teórico
2
2 Teórico coma =
com 5%
1 - 0,5  = 0,975
2 (2; 0,025) = 0,05
2 (2; 0,975) = 7,38

 2 Calculado com   5% 3,69

O valor de χ2 calculado está entre os valores de χ2 teórico, portanto a poligonal é aceita

ao nível de significância de 5%.

5.1.2 Ajustamento pelo Método dos Mínimos Quadrados

Foi desenvolvido o ajustamento da poligonal pelo Método dos Mínimos Quadrados.

 61

5.1.2.1 Matriz A

Foi desenvolvida a Matriz A de ordem 10x8 (número de equações por número de incógnitas):
0,233964 -0,97225 0 0 0 0 0 0
0,762721 0,64673 -0,762721395 -0,646727 0 0 0 0
0 0 -0,935901446 0,352262 0,93590145 -0,35226195 0 0
0 0 0 0 -0,7362704 -0,67668744 0,73627 0,67669
10 A8 = 0 0 0 0 0 0 0,92833 -0,3718
-6853,96 -1649,35 0 0 0 0 1487,31 3713,98
10212,73 -2311,83 -3358,773821 3961,189 0 0 0 0
-3358,77 3961,19 6238,534561 3689,857 -2879,7607 -7651,04556 0 0
0 0 -2879,76074 -7651,046 725,265758 9995,245872 2154,49 -2344,2
0 0 0 0 2154,49498 -2344,20031 -3641,8 -1369,8

Quadro 3 – Valores observados e calculados

Ângulo Ângulo DH Azimute Coordendas Cartesianas
Ponto
Estação Observado Observado Observada Calculado
Visado X (m) Y (m)
1 Decimal (m) AZi,i+1
1 2 54º,38'42,700'' a1
54,6451944 29,259 166,469460 10006,84502 9971,55514
2 3 243º,14'06,867'' 243,235241 39,716 229,704701 9976,55207 9945,87252
3 4 60º,55'15,700'' 60,9210278 25,231 110,625729 10000,16535 9936,98638
4 5 116º,47'20,200'' 116,788944 64,784 47,414673 10047,86275 9980,82948
5 1 64º,24'34,533'' 64,4095926 51,557 291,824266 10000,00000 10000,00000
 62

Quadro 4 – Coeficientes (Pontos a Vante)

Coeficientes (Pontos a Vante)
Estação PV
Kiji Liji Piji Qiji
Pi Pi+1
1 2 0,233964 -0,972245 -6853,959432 1649,354432
2 3 -0,762721 -0,646727 -3358,773821 -3961,188958
3 4 0,935901 -0,352262 -2879,760740 7651,045559
4 5 0,736270 0,676687 2154,494982 2344,200312
5 1 -0,928328 0,371761 1487,309528 -3713,976579

A matriz variância-covariancia das distancias e ângulos:

2,648E-05 0 0 0 0 0 0 0 0 0
0 2,703E-05 0 0 0 0 0 0 0 0
0 0 2,628E-05 0 0 0 0 0 0 0
0 0 0 2,834E-05 0 0 0 0 0 0
0 0 0 0 2,764E-05 0 0 0 0 0
10 Lb10 = 0 0 0 0 0 100 0 0 0 0
0 0 0 0 0 0 100 0 0 0
0 0 0 0 0 0 0 100 0 0
0 0 0 0 0 0 0 0 100 0
0 0 0 0 0 0 0 0 0 100
 63

Matriz dos pesos:

37758,145 0 0 0 0 0 0 0 0 0
0 37002,455 0 0 0 0 0 0 0 0
0 0 38055,421 0 0 0 0 0 0 0
0 0 0 35280,681 0 0 0 0 0 0
0 0 0 0 36173,818 0 0 0 0 0
10 P10 = 0 0 0 0 0 0,01 0 0 0 0
0 0 0 0 0 0 0,01 0 0 0
0 0 0 0 0 0 0 0,01 0 0
0 0 0 0 0 0 0 0 0,01 0
0 0 0 0 0 0 0 0 0 0,01

O vetor dos termos independentes é:

-0,00213 m
-0,00128 m
-0,00105 m
0,002248 m
10 L1 = 0,002203 m
-11,9995 "
13,32046 "
-25,8132 "
-0,86191 "
25,35419 "
 64

Novo vetor das coordenadas ajustadas:

2,23495 10006,84502 10009,07998
0,54217 9971,555139 9972,097309
4,25669 9976,552074 9980,808759
8 X1 = -1,8397 8 Xo1 = 9945,872525 8 Xa1 = 9944,032807
4,95252 10000,16535 10005,11788
0,01623 9936,986385 9937,002616
1,50923 10047,86275 10049,37198
3,76417 (m) 9980,829477 (m) 9984,593649 (m)

5.1.2.2 Comparação da variância da unidade peso “a priori” com a variância da unidade peso
“a posteriori”

Vetor dos resíduos:

-0,00635
-0,00286
-0,00359
0,00324
10 v1 = 0,00389
0,22628
0,19109
-3,95547
-1,54374
5,08183 (m)

Vetor dos valores observados ajustados:

29,2526 m
39,7131 m
25,2274 m
64,7872 m
10 La 1 = 51,5609 m
54,8715 "
243,426 "
56,9656 "
115,245 "
69,4914 "

A variância de Peso “a posteriori” = 1,838811.

 65

5.1.2.3 Iterações

Serão feitas iterações para que os valores dos parâmetros sejam estabilizados, induzindo os valores do vetor a se aproximarem de zero.

5.1.2.3.1 Primeira iteração

Quadro 5 – Valores observados e calculados (1ª iteração)

Alinhamento Coordenadas Nova
Ângulo Novo Ângulo
X Y Rumo Azimute
Est Pi PV Pi+1 X (m) Y (m) DH (m) Calculado Horário
1 2 10009,080 9972,097 29,343 9,079976 -2,790E+01 1,803E+01 SE 1,620E+02 -1,254E+02 5,464E+01
2 3 9980,809 9944,033 39,836 -28,2712 -2,806E+01 4,521E+01 SW 2,252E+02 6,324E+01 2,432E+02
3 4 10005,118 9937,003 25,305 24,30912 -7,030E+00 7,387E+01 SE 1,061E+02 -1,191E+02 6,092E+01
4 5 10049,372 9984,594 64,987 44,2541 4,759E+01 4,292E+01 NE 4,292E+01 -6,321E+01 1,168E+02
5 1 10000,000 10000,000 51,720 -49,372 1,541E+01 7,267E+01 NW 2,873E+02 2,444E+02 6,441E+01
1 5 7,267E+01 SE 1,073E+02 -2,599E+01 1,540E+02
1 M1 4,667E+01 NW 3,133E+02 2,599E+01 2,060E+02
 66

Quadro 6 – Valores de Vante

Valores de vante
Alinhamento Radianos Arco Segundos
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,3094437 -0,950917776 10881,17516 -3540,906319
2 3 -0,709697 -0,704507424 -3214,207616 -3237,882526
3 4 0,9606345 -0,277815287 775,7331203 -2682,343427
4 5 0,6809668 0,732314305 3519,416427 3272,646275
5 1 -0,954603 0,297880526 -845,5010634 2709,535928

Matriz A:
0,309443669 -0,950917776 0 0 0 0 0 0
0,709696618 0,704507424 -0,709696618 -0,704507424 0 0 0 0
0 0 -0,960634512 0,277815287 0,960634512 -0,277815287 0 0
0 0 0 0 -0,680966783 -0,732314305 0,680966783 0,732314305
10 A8 = 0 0 0 0 0 0 0,95460316 -0,297880526
10881,17516 3540,906319 0 0 0 0 -845,5010634 -2709,535928
-7666,967548 -6778,788845 -3214,207616 3237,882526 0 0 0 0
-3214,207616 3237,882526 2438,474496 -5920,225953 775,7331203 2682,343427 0 0
0 0 775,7331203 2682,343427 -4295,149547 590,3028475 3519,416427 -3272,646275
0 0 0 0 3519,416427 -3272,646275 -2673,915364 5982,182203
 67

Vetor dos termos independentes:

0,083905604 m 29,342906 m 29,259 m

0,119637824 m 39,835638 m 39,716 m
0,074270741 m 25,305271 m 25,231 m
0,203169049 m 64,987169 m 64,784 m
10L1 = 0,162898732 m 10Lo1 = 51,719899 m 10Lb1 = 51,557 m
-4,49276693 " 54,643946 " 54,6451944 "
2,529232853 " 243,235943 " 243,235241 "
-5,06571833 " 60,919621 " 60,9210278 "
1,56715166 " 116,789380 " 116,788944 "
5,462100745 " 64,411110 " 64,4095926 "

Novo vetor das coordenadas ajustadas:

-0,0265401 10009,07998 10009,05344

0,08417094 9972,097309 9972,18148
0,0575175 9980,808759 9980,866276
8 X1 = 0,17067055 8 Xo1 = 9944,032807 8 Xa1 = 9944,203477
-0,0156136 10005,11788 10005,10226
0,1972249 9937,002616 9937,199841
-0,1518634 10049,37198 10049,22012
0,04811368 (m) 9984,593649 (m) 9984,641763 (m)

Vetor dos resíduos:

-0,00435
-0,00096
-0,00336
0,001191
10 v1 = 0,003597
2,795804
3,172519
-0,46492
-4,46215
-1,04125 (m)
 68

Vetor dos valores observados ajustados:

29,25465 m
39,71504 m
25,22764 m
64,78519 m
10 La1 = 51,5606 m
57,441 "
246,4078 "
60,45611 "
112,3268 "
63,36834 "

A variância do peso “a posteriori” é igual a 1,042848.

 69

5.1.2.3.2 Segunda iteração

Quadro 7 – Valores observados e calculados

Alinhamento Coordenadas Nova Novo
Ângulo
X Y Rumo Azimute Ângulo
Est Pi PV Pi+1 X (m) Y (m) DH (m) Calculado
Horário
1 2 10009,053 9972,181 29,255 9,053436226 -27,81851959 18,027290 SE 161,972710 -125,356868 54,643132
2 3 9980,866 9944,203 39,715 -28,18715983 -27,97800296 45,213366 SW 225,213366 63,240657 243,240657
3 4 10005,102 9937,200 25,228 24,23598533 -7,003636682 73,881935 SE 106,118065 -119,095301 60,904699
4 5 10049,220 9984,642 64,785 44,11785359 47,44192229 42,920796 NE 42,920796 -63,197270 116,802730
5 1 10000,000 10000,000 51,561 -49,22011532 15,35823695 72,670422 NW 287,329578 244,408782 64,408782
1 5 72,670422 SE 107,329578 -25,995623 154,004377
1 M1 46,674799 NW 313,325201 25,995623 205,995623

Quadro 8 – Valores de vante

Valores de vante
Alinhamento Radianos Arco Segundos

Est Pi PV Pi+1 Kiji Liji Piji Qiji

1 2 0,309469955 -0,950909221 10880,1213 -3540,895985

2 3 -0,709735098 -0,704468659 -3213,808292 -3237,833955
3 4 0,960691669 -0,277617573 775,0573272 -2682,074879
4 5 0,680986701 0,732295783 3519,199632 3272,62317
5 1 -0,954607159 0,297867708 -845,4557317 2709,518596
 70

Novo vetor das coordenadas ajustadas:

-0,01198 10009,05344 10009,04146

-0,00804 9972,18148 9972,173441
0,01489 9980,866276 9980,881169
8 X1 = -0,03635 8 Xo1 = 9944,203477 8 Xa1 = 9944,167132
0,00595 10005,10226 10005,10822
-0,07823 9937,199841 9937,121606
-0,02058 10049,22012 10049,19953
-0,05503 (m) 9984,641763 (m) 9984,586733 (m)

Variância de peso “a posteriori” é igual a 0,009280.

5.1.2.3.3 Terceira iteração

Quadro 9 – Valores observados e calculados

Alinhamento Coordenadas Novo
Nova Ângulo
X Y Rumo Azimute Ângulo
Est Pi PV Pi+1 X (m) Y (m) DH (m) Calculado
Horário
1 2 10009,053 9972,181 29,255 9,053436226 -27,81851959 18,027290 SE 161,972710 -125,356868 54,643132
2 3 9980,866 9944,203 39,715 -28,18715983 -27,97800296 45,213366 SW 225,213366 63,240657 243,240657
3 4 10005,102 9937,200 25,228 24,23598533 -7,003636682 73,881935 SE 106,118065 -119,095301 60,904699
4 5 10049,220 9984,642 64,785 44,11785359 47,44192229 42,920796 NE 42,920796 -63,197270 116,802730
5 1 10000,000 10000,000 51,561 -49,22011532 15,35823695 72,670422 NW 287,329578 244,408782 64,408782
1 5 72,670422 SE 107,329578 -25,995623 154,004377
1 M1 46,674799 NW 313,325201 25,995623 205,995623
 71

Quadro 10 – Valores de Vante

Valores de Vante
Alinhamento Radianos Arco Segundos
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,309469955 -0,950909221 10880,1213 -3540,895985
2 3 -0,709735098 -0,704468659 -3213,808292 -3237,833955
3 4 0,960691669 -0,277617573 775,0573272 -2682,074879
4 5 0,680986701 0,732295783 3519,199632 3272,62317
5 1 -0,954607159 0,297867708 -845,4557317 2709,518596

Novo vetor de coordenadas ajustadas:

-0,011981 10009,0534 10009,041
-0,0080392 9972,18148 9972,1734
0,014893 9980,86628 9980,8812
8 X1 = -0,0363452 8 Xo1 = 9944,20348 8 Xa1 = 9944,1671
0,0059535 10005,1023 10005,108
-0,0782346 9937,19984 9937,1216
-0,0205838 10049,2201 10049,2
-0,0550305 (m) 9984,64176 (m) 9984,5867 (m)

Variância de peso “a posteriori” é igual a 1,00.

 72

Fez-se o Teste Qui-Quadrado da forma quadrática dos resíduos. Para o teste Bilateral
com o nível de significância a 5%, obtiveram-se os seguintes resultados:

Figura 9 – Teste Bilateral com nível de significância a 5%

Para o nível de significância  (%) = 5

0,5  = 0,025
 2 Teórico
2 Teórico coma =
com 5%
1 - 0,5  = 0,975
2 (2; 0,025) = 0,05
2 (2; 0,975) = 7,38

 2 Calculado 2,000

Hpótese Básica (Ho) Ho:  02 = ^ 02

^2
H1:  0 ≠  0
2
Hípótese Alternativa (H1)

O valor de χ2 calculado está entre os valores de χ2 teórico, portanto a hipótese H0 é

aceita ao nível de significância de 5%.

Para o teste Unilateral, obtiveram-se os seguintes resultados:

 73

Figura 10 – Teste Unilateral com nível de significância a 5%

Para o nível de significância  (%) = 5

 = 0,05
 2 Teórico
2 Teórico coma =
com 5%
1- = 0,95

2 (2; 0,95) = 3,00

 2 Calculado 2,000

Hpótese Básica (Ho) Ho: ^ 02 =  02

^2
H1:  0 >  0
2
Hípótese Alternativa (H1)

O valor de χ2 calculado está entre os valores de χ2 teórico, portanto a hipótese H0 é

aceita ao nível de significância de 5%.
 74

MVC das Coordenadas Ajustadas:

7,3051E-07 1,2273E-07 -7,117E-07 1,2614E-06 -5,677E-08 4,1299E-06 1,0505E-06 2,78759E-06

1,2273E-07 1,8141E-07 -2,345E-07 4,1156E-07 -3,582E-08 1,0489E-06 1,9919E-07 6,95729E-07
-7,117E-07 -2,345E-07 8,8494E-07 -1,307E-06 1,4672E-07 -4,254E-06 -1,017E-06 -2,8866E-06
1,2614E-06 4,1156E-07 -1,307E-06 2,5095E-06 -7,25E-08 7,6596E-06 1,856E-06 5,11982E-06
8 x8 = -5,677E-08 -3,582E-08 1,4672E-07 -7,25E-08 1,9148E-07 -3,603E-07 3,1775E-08 -2,9116E-07
4,1299E-06 1,0489E-06 -4,254E-06 7,6596E-06 -3,603E-07 2,4348E-05 5,9845E-06 1,63536E-05
1,0505E-06 1,9919E-07 -1,017E-06 1,856E-06 3,1775E-08 5,9845E-06 1,6633E-06 4,03768E-06
2,7876E-06 6,9573E-07 -2,887E-06 5,1198E-06 -2,912E-07 1,6354E-05 4,0377E-06 1,10382E-05

MVC dos valores observados ajustados:

1,6176E-07 -1,8411E-08 -6,4993E-08 2,29333E-08 6,96187E-08 5,40192E-05 6,13329E-05 -9,0223E-06 -8,6249E-05 -2,0081E-05
-1,8411E-08 2,46771E-07 -1,4241E-08 5,02503E-09 1,52545E-08 1,18364E-05 1,34389E-05 -1,9769E-06 -1,8898E-05 -4,4001E-06
-6,4993E-08 -1,4241E-08 1,93594E-07 1,77389E-08 5,38499E-08 4,17838E-05 4,74409E-05 -6,9787E-06 -6,6713E-05 -1,5533E-05
2,2933E-08 5,02503E-09 1,77389E-08 2,56786E-07 -1,9001E-08 -1,4744E-05 -1,674E-05 2,4625E-06 2,35402E-05 5,48088E-06
10 La10 = 6,9619E-08 1,52545E-08 5,38499E-08 -1,9001E-08 1,98868E-07 -4,4758E-05 -5,0817E-05 7,47541E-06 7,14611E-05 1,66383E-05
5,4019E-05 1,18364E-05 4,17838E-05 -1,4744E-05 -4,4758E-05 0,70770469 -0,22503898 -0,17980795 -0,13015957 -0,17269819
6,1333E-05 1,34389E-05 4,74409E-05 -1,674E-05 -5,0817E-05 -0,22503898 0,697664224 -0,17902263 -0,12265233 -0,17095028
-9,0223E-06 -1,9769E-06 -6,9787E-06 2,4625E-06 7,47541E-06 -0,17980795 -0,17902263 0,741464601 -0,19486942 -0,1877646
-8,6249E-05 -1,8898E-05 -6,6713E-05 2,35402E-05 7,14611E-05 -0,13015957 -0,12265233 -0,19486942 0,653902365 -0,20622104
-2,0081E-05 -4,4001E-06 -1,5533E-05 5,48088E-06 1,66383E-05 -0,17269819 -0,17095028 -0,1877646 -0,20622104 0,737634126
 75

MVC dos resíduos:

8,4025E-08 1,84111E-08 6,49931E-08 -2,2933E-08 -6,9619E-08 -5,4019E-05 -6,1333E-05 9,02231E-06 8,62485E-05 2,00813E-05
1,8411E-08 4,03415E-09 1,4241E-08 -5,025E-09 -1,5254E-08 -1,1836E-05 -1,3439E-05 1,97692E-06 1,88983E-05 4,4001E-06
6,4993E-08 1,4241E-08 5,02721E-08 -1,7739E-08 -5,385E-08 -4,1784E-05 -4,7441E-05 6,97874E-06 6,67131E-05 1,55328E-05
-2,2933E-08 -5,025E-09 -1,7739E-08 6,2593E-09 1,90014E-08 1,47437E-05 1,67399E-05 -2,4625E-06 -2,354E-05 -5,4809E-06
10 v10 = -6,9619E-08 -1,5254E-08 -5,385E-08 1,90014E-08 5,76824E-08 4,47575E-05 5,08172E-05 -7,4754E-06 -7,1461E-05 -1,6638E-05
-5,4019E-05 -1,1836E-05 -4,1784E-05 1,47437E-05 4,47575E-05 0,220337042 0,225038976 0,179807949 0,13015957 0,172698195
-6,1333E-05 -1,3439E-05 -4,7441E-05 1,67399E-05 5,08172E-05 0,225038976 0,230377507 0,179022631 0,122652334 0,170950284
9,0223E-06 1,97692E-06 6,97874E-06 -2,4625E-06 -7,4754E-06 0,179807949 0,179022631 0,18657713 0,194869417 0,187764604
8,6249E-05 1,88983E-05 6,67131E-05 -2,354E-05 -7,1461E-05 0,13015957 0,122652334 0,194869417 0,274139367 0,206221044
2,0081E-05 4,4001E-06 1,55328E-05 -5,4809E-06 -1,6638E-05 0,172698195 0,170950284 0,187764604 0,206221044 0,190407605
 76

Precisões:

Quadro 11 – Precisão Nominal

Parâmetros Ajustados Observações Ajustadas
Precisão Precisão
Pontos Coordenadas Pontos Valores
Nominal Nominal
X1 10000 m FIXO dh1-2 29,25859 m ± 0,000402 m
Y1 10000 m FIXO dh2-3 39,71591 m ± 0,000497 m
X2 10009,041455 m ± 0,000855 m dh3-4 25,230683 m ± 0,00044 m
Y2 9972,173441 m ± 0,000426 m dh4-5 64,784112 m ± 0,000507 m
X3 9980,881169 m ± 0,000941 m dh5-1 51,55734 m ± 0,000446 m
Y3 9944,167132 m ± 0,001584 m α1-2 54°54' 31,472" ± 0,841252"
X4 10005,108215 m ± 0,000438 m α2-3 243°32' 4,093" ± 0,835263"
Y4 9937,121606 m ± 0,004934 m α3-4 60°52' 37,236" ± 0,861083"
X5 10049,199532 m ± 0,00129 m α4-5 116°22' 5,365" ± 0,808642"
Y5 9984,586733 m ± 0,003322 m α5-1 64°18' 41,834" ± 0,858856"
 77

5.1.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda

Matriz de redundâncias:
0,341862346 0,073407924 0,266511804 -0,087183916 -0,271364213 -5,82077E-05 -6,60885E-05 9,72187E-06 9,29361E-05 2,16383E-05
0,074907111 0,016084765 0,05839669 -0,019103289 -0,059459925 -1,27542E-05 -1,4481E-05 2,13021E-06 2,03637E-05 4,74128E-06
0,264429901 0,056780895 0,206146394 -0,0674366 -0,209899723 -4,50236E-05 -5,11194E-05 7,51985E-06 7,18859E-05 1,67372E-05
-0,093306105 -0,02003557 -0,072740326 0,023795518 0,074064716 1,58869E-05 1,80379E-05 -2,65344E-06 -2,53655E-05 -5,90585E-06
10 R10 = -0,283249312 -0,06082198 -0,220817783 0,072236046 0,224838236 4,82279E-05 5,47575E-05 -8,05504E-06 -7,7002E-05 -1,79284E-05
-219,7816542 -47,1936003 -171,3391542 56,05011942 174,4587443 0,23742148 0,242487992 0,193749853 0,14025185 0,186088825
-249,537994 -53,5831637 -194,5368415 63,63877101 198,0787944 0,242487992 0,248240461 0,192903643 0,13216252 0,184205384
36,70799596 7,882288887 28,61711548 -9,361507287 -29,13815034 0,193749853 0,192903643 0,201043901 0,209979153 0,202323449
350,9093486 75,35058197 273,5647395 -89,4911405 -278,5455618 0,14025185 0,13216252 0,209979153 0,295395516 0,22221096
81,70230364 17,54389318 63,69414067 -20,83624265 -64,85382666 0,186088825 0,184205384 0,202323449 0,22221096 0,205171383

Enunciação da Hipótese Báscia Ho:

Ho: nenhum erro existe na observação li

Rejeita-se Ho se |wi| > k

k é um valor crítico conforme o nível de confiança especificado:

 78

Figura 11 – Estatística do teste

Ao nível de significância de 5% as observações não contem erros grosseiros.

Ao nível de significância de 1% as observações não contem erros grosseiros.

5.1.4 Parâmetros da Elípse dos Erros e Elípse de Confiança

Quadro 12 – Elipses dos Erros Padrão

Elipses dos Erros Padrão (39,4% de probabilidade)
Orientação () Quad. de I Semi-Eixo
II I
Azimute Semi-
Ponto tan(2) 2 No quadrante Maior (a) Menor (b)
III IV Eixo a
adequado (mm) (mm)
1 Fixo Fixo Fixo Fixo Fixo Fixo Fixo
2 0,447014 24°5' 7,124" 12°2' 33,562" I 0,869883 0,393983 77°57' 26,438"
3 1,608776 58°8' 7,077" 29°4' 3,539" III 1,798861 0,398195 60°55' 56,461"
4 0,029828 1°42' 30,710" 0°51' 15,355" III 4,934941 0,431408 89°8' 44,645"
5 -0,861382 - 40°44' 27,618" 159°37' 46,191" II 3,540822 0,405027 110°22' 13,809"
 79

Quadro 13 – Elipses de confiança pontual

Elipses de confiança pontual (95,0% de probabilidade)
Semi-Eixo
Ponto Maior (a) Menor (b) Azimute
(mm) (mm)
1 FIXO FIXO FIXO
2 2,128604 0,964076 77°57' 26,438"
3 4,401813 0,974382 60°55' 56,461"
4 12,075800 1,055654 89°8' 44,645"
5 8,664392 0,991101 110°22' 13,809"

5.2 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO DA

MÉDIA DAS OBSERVAÇÕES

Agora serão apresentados todos os cálculos obtidos utilizando a precisão da média das
observações.

5.2.1 Teste Qui-quadrado da forma quadrática do erro de fechamento

Utilizando os dados apresentados no Quadro 1 – Planilha de experimentos, tem-se

como ponto de controle, ponto 1, cujas coordenadas são fixas, X=10.000,00 m e Y=10.000,00
m. O azimute definido pelo ponto de controle e pelo ponto 1 é de 133°19’30,7235”.
 80

5.2.1.1 Matriz variância-covariância das distancias e ângulos

0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
10 Sa 10 = 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 13,024881 0 0 0 0
0 0 0 0 0 0 27,447121 0 0 0
0 0 0 0 0 0 0 2,5281 0 0
0 0 0 0 0 0 0 0 3,861225 0
0 0 0 0 0 0 0 0 0 4

5.2.1.2 Matriz variância-covariancia das distancias e azimutes

0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
10 SA10 = 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 13,02488 13,02488 13,02488 13,02488 13,02488
0 0 0 0 0 13,02488 40,472 40,472 40,472 40,472
0 0 0 0 0 13,02488 40,472 43,0001 43,0001 43,0001
0 0 0 0 0 13,02488 40,472 43,0001 46,86133 46,86133
0 0 0 0 0 13,02488 40,472 43,0001 46,86133 50,86133
 81

5.2.1.3 Matriz variância-covariância das Coordenadas dos últimos pontos

0,234 -0,763 0,9359 0,7363 -0,928 -0,000138 -0,000125 -4,31E-05 0,000213 9,29E-05
2 D10 =
-0,972 -0,647 -0,352 0,6767 0,3718 -3,32E-05 0,000147 -0,000114 -0,000231 0,000232

1,41E-06 1,64E-07
2( X,Y)2 =
1,64E-07 4,5E-07

Os desvios padrões da abscissa e da ordenada são respectivamente:

X = √1,41E-06 = 0,00119
Y = √4,5E-07 = 0,00067

5.2.1.4 Aplicação do teste

0,00374
2 E1 =
-0,01486
Para o nível de significância α =1% foram encontrados os valores apresentados na figura abaixo:
 82

Figura 12 – Cálculo para o nível de significância a 1%

Para o nível de significância  (%) = 1

0,5  = 0,005
 Teórico
2
2 Teórico coma =
com 1%
1 - 0,5  = 0,995
2 (2; 0,005) = 0,01
2 (2; 0,995) = 10,60

 2 Calculado com   1% 552,62

O valor de χ2 calculado não está entre os valores de χ2 teórico, portanto a poligonal não
é aceita ao nível de significância de 1%.
Para o nível de significância α =5% foram encontrados os valores apresentados na
figura abaixo:

Figura 13 – Cálculo para o nível de significância a 5%

Para o nível de significância  (%) = 5

0,5  = 0,025
 2 Teórico
2 Teórico coma =
com 5%
1 - 0,5  = 0,975
2 (2; 0,025) = 0,05
2 (2; 0,975) = 7,38

 2 Calculado com   5% 552,62

O valor de χ2 calculado não está entre os valores de χ2 teórico, portanto a poligonal não
é aceita ao nível de significância de 5%.
Como pode ser verificada nos cálculos acima, considerando os valores médios das
Precisões de Ângulos e Distâncias, esta poligonal não deve ser aceita para realizar o ajuste
pelo MMQ. No entanto, como a Precisão Linear Relativa obtida no pré-ajustamento
(1:13.737) alcançou um valor acima do recomendado para observações coletadas com Estação
Total (1:10.000), o ajustamento pelo MMQ será realizado.
 83

5.2.2 Ajustamento pelo Método dos Mínimos Quadrados

Quadro 14 – Valores observados e calculados

Ângulo Ângulo Coordendas Cartesianas
Ponto Observado Observado DH Observada Azimute Calculado
Estação
Visado Decimal (m) AZi,i+1 X (m) Y (m)
1 1
1 2 54º,38'42,700'' 54,64519444 29,259 166,469460 10006,84502 9971,55514
2 3 243º,14'06,867'' 243,2352407 39,716 229,704701 9976,55207 9945,87252
3 4 60º,55'15,700'' 60,92102778 25,231 110,625729 10000,16535 9936,98638
4 5 116º,47'20,200'' 116,7889444 64,784 47,414673 10047,86275 9980,82948
5 1 64º,24'34,533'' 64,40959259 51,557 291,824266 10000,00000 10000,00000

Quadro 15 – Coeficientes (Pontos a vante)

Coeficientes (Pontos a Vante)
Estação PV
Kiji Liji Piji Qiji
Pi Pi+1
1 2 0,233964 -0,972245 -6853,959432 1649,354432
2 3 -0,762721 -0,646727 -3358,773821 -3961,188958
3 4 0,935901 -0,352262 -2879,760740 7651,045559
4 5 0,736270 0,676687 2154,494982 2344,200312
5 1 -0,928328 0,371761 1487,309528 -3713,976579
 84

Novo vetor das coordenadas ajustadas:

5,878690945 10006,84502 10012,72371

1,414105241 9971,555139 9972,969244
11,18896103 9976,552074 9987,741035
8 X1 = -4,84771955 8 Xo1 = 9945,872525 8 Xa1 = 9941,024805
13,026025 10000,16535 10013,19138
0,032650608 9936,986385 9937,019035
3,963333479 10047,86275 10051,82608
9,892783534 (m) 9980,829477 (m) 9990,72226 (m)

A variância do peso “a posteriori” é 273,205423.

5.2.2.1 Iterações

Serão feitas iterações para que os valores dos parâmetros sejam estabilizados,
induzindo os valores do vetor a se aproximarem de zero.
 85

5.2.2.1.1 Primeira iteração

Quadro 16 – Valores observados e calculados

Alinhamento Coordenadas Nova Novo

Ângulo
X Y Rumo Azimute Ângulo
Est Pi PV Pi+1 X (m) Y (m) DH (m) Calculado
Horário
1 2 10012,724 9972,969 29,876 12,72371289 -27,03075601 25,206949 SE 154,793051 -125,356349 54,643651
2 3 9987,741 9941,025 40,553 -24,98267825 -31,94443868 38,027775 SW 218,027775 63,234724 243,234724
3 4 10013,191 9937,019 25,764 25,45034522 -4,005770008 81,055283 SE 98,944717 -119,083058 60,916942
4 5 10051,826 9990,722 66,156 38,63469991 53,70322511 35,731662 NE 35,731662 -63,213055 116,786945
5 1 10000,000 10000,000 52,650 -51,82607977 9,277739594 79,850600 NW 280,149400 244,417738 64,417738
1 5 79,850600 SE 100,149400 -33,175801 146,824199
1 M1 46,674799 NW 313,325201 33,175801 213,175801

Quadro 17 – Valores de vante

Valores de vante
Alinhamento Radianos Arco Segundos
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,425889031 -0,904775405 7403,645812 -3484,988124
2 3 -0,616043403 -0,78771221 -4272,595665 -3341,454324
3 4 0,987838821 -0,155481393 395,6600728 -2513,795206
4 5 0,583989883 0,811760936 4685,976058 3371,14351
5 1 -0,984351615 0,176215488 -455,188232 2542,712197
 86

Novo vetor das coordenadas ajustadas:

-0,26848998 10012,724 10012,45522

0,55531692 9972,9692 9973,524561
0,25396575 9987,741 9987,995
8 X1 = 1,20997234 8 Xo1 = 9941,0248 8 Xa1 = 9942,234778
-0,27419454 10013,191 10012,91719
1,28083964 9937,019 9938,299875
-1,07957964 10051,826 10050,7465
0,16965936 (m) 9990,7223 (m) 9990,89192 (m)

A variância de peso “a posteriori” é 5,117749.

5.2.2.1.2 Segunda iteração

Quadro 18 – Valores observados e calculados

Alinhamento Coordenadas Nova Novo
Ângulo
Es PV X Y Rumo Azimute Ângulo
X (m) Y (m) DH (m) Calculado
Pi Pi+1 Horário
1 2 10012,455 9973,525 29,259 12,45522292 -26,47543909 25,194378 SE 154,805622 -125,369598 54,630402
2 3 9987,995 9942,235 39,716 -24,46022252 -31,28978326 38,015875 SW 218,015875 63,210253 243,210253
3 4 10012,917 9938,300 25,231 24,92218492 -3,934902711 81,027775 SE 98,972225 -119,043650 60,956350
4 5 10050,747 9990,892 64,784 37,82931481 52,59204483 35,727362 NE 35,727362 -63,244863 116,755137
5 1 10000,000 10000,000 51,557 -50,74650013 9,108080234 79,824780 NW 280,175220 244,447858 64,447858
1 5 79,824780 SE 100,175220 -33,149981 146,850019
1 M1 46,674799 NW 313,325201 33,149981 213,149981
 87

Quadro 19- Valores de vante

Valores de vante
Alinhamento Radianos Arco Segundos
Est Pi PV Pi+1 Kiji Liji Piji Qiji
1 2 0,425690502 -0,9048688 7408,1049 -3485,1017
2 3 -0,61587979 -0,7878401 -4274,6272 -3341,6125
3 4 0,987764059 -0,1559556 397,001661 -2514,4583
4 5 0,583928958 0,81180476 4686,79308 3371,19752
5 1 -0,9842721 0,17665907 -456,48166 2543,32921

Novo vetor das coordenadas ajustadas:

-0,001804162 10012,45522 10012,45342
-0,001223937 9973,524561 9973,523337
-0,011087412 9987,995 9987,983913
8 X1 = 0,005714173 8 Xo1 = 9942,234778 8 Xa1 = 9942,240492
-0,014710212 10012,91719 10012,90248
-0,01877816 9938,299875 9938,281097
-0,005622065 10050,7465 10050,74088
-0,025650448 (m) 9990,89192 (m) 9990,866269 (m)
A variância de peso “a posteriori” é 13,022042.
 88

5.2.2.1.3 Terceira iteração

Quadro 20 – Valores observados e calculados

Alinhamento Coordenadas Nova
Ângulo Novo Ângulo
Est PV X Y Rumo Azimute
X (m) Y (m) DH (m) Calculado Horário
Pi Pi+1
1 2 10012,455 9973,525 29,259 12,45522292 -26,47543909 25,194378 SE 154,805622 -125,369598 54,630402
2 3 9987,995 9942,235 39,716 -24,46022252 -31,28978326 38,015875 SW 218,015875 63,210253 243,210253
3 4 10012,917 9938,300 25,231 24,92218492 -3,934902711 81,027775 SE 98,972225 -119,043650 60,956350
4 5 10050,747 9990,892 64,784 37,82931481 52,59204483 35,727362 NE 35,727362 -63,244863 116,755137
5 1 10000,000 10000,000 51,557 -50,74650013 9,108080234 79,824780 NW 280,175220 244,447858 64,447858
1 5 79,824780 SE 100,175220 -33,149981 146,850019
1 M1 46,674799 NW 313,325201 33,149981 213,149981

Quadro 21 – Valores de vante

Valores de vante
Alinhamento Radianos Arco Segundos
Est P i PV P i+1 Kiji Liji Piji Qiji

1 2 0,425690502 -0,904868828 7408,104899 -3485,101705

2 3 -0,615879789 -0,787840139 -4274,62719 -3341,612544
3 4 0,987764059 -0,155955647 397,0016608 -2514,458306
4 5 0,583928958 0,811804762 4686,793082 3371,197518
5 1 -0,984272104 0,176659066 -456,4816578 2543,32921
 89

Novo vetor das coordenadas ajustadas:

-0,001804162 10012,4552 10012,45342
-0,001223937 9973,52456 9973,523337
-0,011087412 9987,995 9987,983913
8 X1 = 0,005714173 8 Xo1 = 9942,23478 8 Xa1 = 9942,240492
-0,014710212 10012,9172 10012,90248
-0,01877816 9938,29987 9938,281097
-0,005622065 10050,7465 10050,74088
-0,025650448 (m) 9990,89192 (m) 9990,866269 (m)

A variância de peso “a posteriori” é igual a 1,00.

O teste global será aplicado. O Teste Bilateral e Unilateral foram feitos para o nível de
significância a 1%. Segue abaixo os valores obtidos:

Figura 14 – Teste bilateral para o nível de significância a 1%

Para o nível de significância  (%) = 1

0,5  = 0,005
 2 Teórico
2 Teórico coma =
com 1%
1 - 0,5  = 0,995
2 (2; 0,005) = 0,01
2 (2; 0,995) = 10,60

 2 Calculado 2,000

Hpótese Básica (Ho) Ho:  02 = ^ 02

^2
H1:  0 ≠  0
2
Hípótese Alternativa (H1)

O valor de χ2 calculado está entre os valores de χ2 teórico, portanto a hipótese H0 é

aceita ao nível de significância de 1%.
No Teste Unilateral para o nível de significância a 1%, obteve-se os valores abaixo:
 90

Figura 15 – Teste unilateral para o nível de significância a 1%

Para o nível de significância  (%) = 1

 = 0,01
 Teórico
2
2 Teórico coma =
com 1%
1- = 0,99

2 (2; 0,99) = 4,61

 2 Calculado 2,000

Hpótese Básica (Ho) Ho: ^ 02 =  02

^2
H1:  0 >  0
2
Hípótese Alternativa (H1)

O valor de χ2 calculado está entre os valores de χ2 teórico, portanto a hipótese H0 é

aceita ao nível de significância de 1%.
 91

MVC das coordenadas ajustadas:

5,56508E-06 2,51173E-06 -2,27585E-06 7,19161E-06 -6,15772E-08 2,4745E-05 5,68831E-06 1,93242E-05
2,51173E-06 1,81296E-06 -1,23444E-06 4,03673E-06 -1,47056E-07 1,2473E-05 2,72722E-06 9,77705E-06
-2,2759E-06 -1,23444E-06 4,13581E-06 -4,46382E-06 2,04616E-06 -1,814E-05 -2,79416E-06 -1,41065E-05
8x 8 = 7,19161E-06 4,03673E-06 -4,46382E-06 1,2351E-05 -8,55115E-07 3,9762E-05 8,41747E-06 3,10109E-05
-6,1577E-08 -1,47056E-07 2,04616E-06 -8,55115E-07 1,81982E-06 -4,634E-06 1,84958E-07 -3,66536E-06
2,47452E-05 1,24729E-05 -1,81351E-05 3,97615E-05 -4,63438E-06 0,0001411 2,92537E-05 0,000109773
5,68831E-06 2,72722E-06 -2,79416E-06 8,41747E-06 1,84958E-07 2,9254E-05 7,68419E-06 2,30184E-05
1,93242E-05 9,77705E-06 -1,41065E-05 3,10109E-05 -3,66536E-06 0,00010977 2,30184E-05 8,62509E-05

MVC das coordenadas ajustadas:

5,56508E-06 2,51173E-06 -2,27585E-06 7,19161E-06 -6,15772E-08 2,47452E-05 5,68831E-06 1,93242E-05
2,51173E-06 1,81296E-06 -1,23444E-06 4,03673E-06 -1,47056E-07 1,24729E-05 2,72722E-06 9,77705E-06
-2,27585E-06 -1,23444E-06 4,13581E-06 -4,46382E-06 2,04616E-06 -1,81351E-05 -2,79416E-06 -1,41065E-05
7,19161E-06 4,03673E-06 -4,46382E-06 1,2351E-05 -8,55115E-07 3,97615E-05 8,41747E-06 3,10109E-05
8x 8 = -6,15772E-08 -1,47056E-07 2,04616E-06 -8,55115E-07 1,81982E-06 -4,63438E-06 1,84958E-07 -3,66536E-06
2,47452E-05 1,24729E-05 -1,81351E-05 3,97615E-05 -4,63438E-06 0,000141103 2,92537E-05 0,000109773
5,68831E-06 2,72722E-06 -2,79416E-06 8,41747E-06 1,84958E-07 2,92537E-05 7,68419E-06 2,30184E-05
1,93242E-05 9,77705E-06 -1,41065E-05 3,10109E-05 -3,66536E-06 0,000109773 2,30184E-05 8,62509E-05
 92

MVC dos valores observados ajustados:

5,57887E-07 -1,6222E-08 -1,56931E-08 1,74935E-08 6,40837E-08 0,000321946 0,00098898 -0,0001327 -0,00074014 -0,000438135
-1,6222E-08 1,51108E-06 -1,16416E-08 1,29772E-08 4,75391E-08 0,000238829 0,00073366 -9,841E-05 -0,00054906 -0,000325021
-1,56931E-08 -1,1642E-08 5,68492E-07 1,25541E-08 4,59892E-08 0,000231043 0,00070974 -9,52E-05 -0,00053116 -0,000314424
1,74935E-08 1,29772E-08 1,25541E-08 1,43001E-06 -5,1265E-08 -0,00025755 -0,0007912 0,00010612 0,000592092 0,000350496
10La10 = 6,40837E-08 4,75391E-08 4,59892E-08 -5,12653E-08 2,13122E-06 -0,00094347 -0,0028982 0,00038875 0,002169001 0,001283967
0,000321946 0,000238829 0,000231043 -0,000257549 -0,00094347 121,4357735 -106,09002 -6,477587 -1,97956001 -6,888611043
0,000988984 0,000733656 0,000709738 -0,000791161 -0,00289825 -106,090015 119,810766 -11,766206 6,339562216 -8,294107508
-0,000132656 -9,8408E-05 -9,51997E-05 0,000106121 0,000388753 -6,47758704 -11,766206 30,4799247 -6,98918294 -5,246949108
-0,000740139 -0,00054906 -0,000531156 0,000592092 0,002169001 -1,97956001 6,33956222 -6,9891829 21,41281961 -18,78363887
-0,000438135 -0,00032502 -0,000314424 0,000350496 0,001283967 -6,88861104 -8,2941075 -5,2469491 -18,7836389 39,21330653

MVC dos resíduos:

2,18676E-08 1,6222E-08 1,56931E-08 -1,74935E-08 -6,4084E-08 -0,000321946 -0,000988984 0,000132656 0,000740139 0,000438135
1,6222E-08 1,20339E-08 1,16416E-08 -1,29772E-08 -4,7539E-08 -0,000238829 -0,000733656 9,8408E-05 0,000549056 0,000325021
1,56931E-08 1,16416E-08 1,12621E-08 -1,25541E-08 -4,5989E-08 -0,000231043 -0,000709738 9,51997E-05 0,000531156 0,000314424
-1,7494E-08 -1,2977E-08 -1,25541E-08 1,39944E-08 5,12653E-08 0,000257549 0,000791161 -0,000106121 -0,000592092 -0,000350496
10v10 = -6,4084E-08 -4,7539E-08 -4,59892E-08 5,12653E-08 1,87799E-07 0,000943473 0,002898248 -0,000388753 -0,002169001 -0,001283967
-0,00032195 -0,00023883 -0,000231043 0,000257549 0,000943473 48,17476849 106,0900154 6,477587042 1,979560012 6,888611043
-0,00098898 -0,00073366 -0,000709738 0,000791161 0,002898248 106,0900154 237,6067847 11,7662056 -6,339562216 8,294107508
0,000132656 9,8408E-05 9,51997E-05 -0,000106121 -0,00038875 6,477587042 11,7662056 2,44109863 6,989182941 5,246949108
0,000740139 0,000549056 0,000531156 -0,000592092 -0,002169 1,979560012 -6,339562216 6,989182941 28,8682129 18,78363887
0,000438135 0,000325021 0,000314424 -0,000350496 -0,00128397 6,888611043 8,294107508 5,246949108 18,78363887 12,8748598
 93

Precisões:

Quadro 22 – Precisão da média das observações

Parâmetros Ajustados Observações Ajustadas

Precisão da Precisão da
Pontos Coordenadas Pontos Valores
média média
X1 10000 m FIXO dh1-2 29,259209 m ± 0,000747 m
Y1 10000 m FIXO dh2-3 39,716155 m ± 0,001229 m
X2 10012,453419 m ± 0,002359 m dh3-4 25,23115 m ± 0,000754 m
Y2 9973,523337 m ± 0,001346 m dh4-5 64,783833 m ± 0,001196 m
X3 9987,983913 m ± 0,002034 m dh5-1 51,556387 m ± 0,00146 m
Y3 9942,240492 m ± 0,003514 m α1-2 51°33' 58,606" ± 11,01979"
X4 10012,902475 m ± 0,001349 m α2-3 233°46' 37,730" ± 10,94581"
Y4 9938,281097 m ± 0,011879 m α3-4 62°11' 22,835" ± 5,520863"
X5 10050,740878 m ± 0,002772 m α4-5 123°52' 2,017" ± 4,627399"
Y5 9990,866269 m ± 0,009287 m α5-1 68°35' 58,812" ± 6,262053"
 94

5.2.3 Localização de erros nas observações pelo teste “Data Snooping” de Baarda

Matriz das redundâncias:

0,037718738 0,010650577 0,027068606 -0,012114612 -0,027633986 -1,8981E-06 -2,76703E-06 4,02952E-06 1,472E-05 8,41141E-06
0,027980821 0,007900898 0,020080253 -0,00898696 -0,020499668 -1,4081E-06 -2,05266E-06 2,98921E-06 1,09197E-05 6,23982E-06
0,027068606 0,007643317 0,019425608 -0,008693972 -0,019831349 -1,3622E-06 -1,98574E-06 2,89176E-06 1,05637E-05 6,03639E-06
-0,03017401 -0,008520186 -0,021654183 0,009691375 0,022106472 1,51847E-06 2,21355E-06 -3,22351E-06 -1,17757E-05 -6,72891E-06
10 R10 = -0,11053594 -0,031211851 -0,079325398 0,03550225 0,080982263 5,56259E-06 8,10886E-06 -1,18086E-05 -4,31376E-05 -2,46499E-05
-555,314871 -156,8033347 -398,5180855 178,3576138 406,8419089 0,284031688 0,296823743 0,196761412 0,039369916 0,13224906
-1705,86711 -481,6828518 -1224,204372 547,8952616 1249,774256 0,625491872 0,66478768 0,357407043 -0,126082578 0,159232088
228,8141924 64,60988221 164,2070088 -73,49119484 -167,6367908 0,038190946 0,032920055 0,074150144 0,139002375 0,100732076
1276,643038 360,4835674 916,1745278 -410,0358518 -935,3106103 0,011671209 -0,017737132 0,212301509 0,574137233 0,360612404
755,7247452 213,392737 542,3409213 -242,7258288 -553,6687636 0,040614286 0,023205653 0,159379891 0,373573054 0,247174372

Enunciação da Hipótese Báscia Ho:

Ho: nenhum erro existe na observação li

Rejeita-se Ho se |wi| > k

k é um valor crítico conforme o nível de confiança especificado:

 95

Figura 16 – Estatística do teste

Ao nível de significância de 5% as observações não contem erros grosseiros.

Ao nível de significância de 1% as observações não contem erros grosseiros.

5.2.4 Parâmetros da Elipse dos Erros e Elipse de Confiança

Quadro 23 – Elipses dos Erros Padrão

Elipse dos Erros Padrão (39,4% de Probabilidade)

Orientação () Quad. de I Semi-Eixo Semi-Eixo
II I
Azimute
Ponto tan(2) 2 No Quadrante Maior (a) Menor (b)
III IV Semi-Eixo a
adequado (mm) (mm)
1 Fixo Fixo Fixo Fixo Fixo Fixo Fixo
2 1,338830 53°14' 35,453" 26°37' 17,727" I 2,612287 0,744310 63°22' 42,273"
3 1,086718 47°22' 46,865" 23°41' 23,432" III 3,782800 1,475557 66°18' 36,568"
4 0,066546 3°48' 25,884" 1°54' 12,942" III 11,885180 1,290653 88°5' 47,058"
5 -0,585959 - 30°22' 6,739" 164°48' 56,630" II 9,617592 1,198752 105°11' 3,370"
 96

Quadro 24 – Elipse de Confiança Pontual

Elipse de Confiança Pontual: 95% de Probabilidade
Semi-Eixo Semi-Eixo
Ponto Maior (a) Menor (b) Azimute
(mm) (mm)
1 FIXO FIXO FIXO
2 6,392267 1,821326 63°22' 42,273"
3 9,256512 3,610689 66°18' 36,568"
4 29,083035 3,158228 88°5' 47,058"
5 23,534247 2,933347 105°11' 3,370"
 97

5.3 ANÁLISE CONJUNTA DOS RESULTADOS

Através dos valores dos eixos maior e menor encontrados para a elipse de confiança
utilizando as observações com a precisão nominal da Estação Total e posteriormente
utilizando a precisão da média das observações, com intuito comparativo, a figura abaixo
apresenta a poligonal com as elipses de confiança.
 98

Figura 17 – Poligonal com as elipses de confiança

 99

É possível observar que quanto mais se afasta do ponto de controle, maior é a sua
elipse, e quando se aproxima do ponto de controle, as elipses são menores, as observações são
mais precisas.
As elipses de confiança foram menores, ou seja, mais precisas utilizando as
observações com a precisão nominal da Estação Total do que quando foi utilizada a precisão
da média das observações.
A partir de gráficos gerados com os resultados obtidos com a precisão nominal e com
a precisão das observações, é possível fazer comparativos entre os dois métodos.
O Gráfico 1 apresenta os ângulos ajustados pelo MMQ utilizando a precisão nominal e
posteriormente a precisão das observações.

Gráfico 1 - Gráfico de Ângulos Ajustados pelo MMQ

Ângulos Ajustados pelo MMQ

250º,00'00,000''
Ângulos Horários - Internos

200º,00'00,000''

150º,00'00,000''

100º,00'00,000''

50º,00'00,000''

0º,00'00,000''
5-1-2 1-2-3 2-3-4 3-4-5 4-5-1

Com Observações obtidas com a Precisão Nominal da Estação Total

Com Observações obtidas com a Precisão das Médias das Observações

O Gráfico 2 das precisões angulares ajustadas pelo MMQ mostra que utilizando a
precisão nominal da Estação Total, a precisão nos cinco pontos sofrem menos variância e são
menores do que utilizando a precisão das médias das observações, que sofrem oscilações
maiores de um ponto para outro e os valores da precisão angular nos pontos são maiores.
 100

Gráfico 2 – Gráfico das Precisões Angulares Ajustadas pelo MMQ

Precisões Angulares Ajustadas pelo

MMQ
12,000 ''
Precisões dos Ângulos

10,000 ''
8,000 ''
6,000 ''
4,000 ''
2,000 ''
0,000 ''
5-1-2 1-2-3 2-3-4 3-4-5 4-5-1

Com Observações obtidas com a Precisão Nominal da Estação Total

Com Observações obtidas com a Precisão das Médias das Observações

O Gráfico 3 apresenta as distancias horizontais ajustadas pelo MMQ, podendo

verificar que as distancias entre os pontos utilizando a precisão das médias das observações
são menores do que as distancias entre os mesmos pontos utilizando a precisão nominal da
Estação Total.

Gráfico 3 - Gráfico das Distâncias Horizontais Ajustadas pelo MMQ

Distâncias Horizontais Ajustadas pelo

MMQ
70,0000 m
Distâncias Horizontais

60,0000 m
50,0000 m
40,0000 m
30,0000 m
20,0000 m
10,0000 m
0,0000 m
1-2 2-3 3-4 4-5 5-1

Com Observações obtidas com a Precisão Nominal da Estação Total

Com Observações obtidas com a Precisão das Médias das Observações

O Gráfico 4 mostra as precisões das distancias horizontais ajustadas pelo MMQ,

utilizando a precisão das médias das observações, as precisões são maiores em cada ponto
comparando-se com a utilização da precisão da média das observações.
 101

Gráfico 4 - Gráfico das Precisões das Distâncias Horizontais Ajustadas pelo MMQ

Precisões das Distâncias Horizontais

Ajustadas pelo MMQ
1,500 mm
Precisões das Dh

1,000 mm

0,500 mm

0,000 mm
1-2 2-3 3-4 4-5 5-1

Com Observações obtidas com a Precisão Nominal da Estação Total

Com Observações obtidas com a Precisão das Médias das Observações

Distâncias
O Gráfico Horizontais
5 apresenta as Ajustadas
coordenadas topográficas “X” pelo
ajustadas pelo MMQ, em
MMQ
todos os pontos as coordenadas são menores utilizando a precisão nominal da estação total.
70,0000 m
Distâncias Horizontais

5 - Gráfico
60,0000
Gráfico m das Coordenadas Topográficas “X” Ajustadas pelo MMQ
50,0000 m
40,0000 m
30,0000 m Coordenadas Topográficas 'X'
20,0000 m
10,0000 m
Ajustadas pelo MMQ
0,0000 m m
10060,0000
1-2 2-3 3-4 4-5 5-1
10040,0000 m
Coordenadas X

Com Observações
10020,0000 m obtidas com a Precisão Nominal da Estação Total
10000,0000 m
Com Observações obtidas com a Precisão das Médias das Observações
9980,0000 m
9960,0000 m
9940,0000 m
1 2 3 4 5

Com Observações obtidas com a Precisão Nominal da Estação Total

Com Observações obtidas com a Precisão das Médias das Observações

O Gráfico 6 apresenta a precisão das coordenadas topográficas “X” ajustadas pelo

MMQ, pode-se verificar que as melhores precisões alcançadas foi atingida quando o ajuste foi
realizado utilizando a precisão nominal da Estação Total.
 102

Gráfico 6 - Gráfico da Precisão das Coordenadas Topográficas “X” Ajustadas pelo MMQ

Precisão das Coordenadas

Topográficas 'X' Ajustadas pelo MMQ
3,000 mm
2,500 mm
Precisão de X

2,000 mm
1,500 mm
1,000 mm
0,500 mm
0,000 mm
1 2 3 4 5

Com Observações obtidas com a Precisão Nominal da Estação Total

Com Observações obtidas com a Precisão das Médias das Observações

O gráfico 7 apresenta as coordenadas topográficas “Y” ajustadas pelo MMQ, na

maioria dos pontos as coordenadas obtidas utilizando a precisão nominal da estação total são
menores do que utilizando a precisão das médias das observações.

Gráfico 7 – Gráfico das Coordenadas Topográficas “Y” Ajustadas pelo MMQ

Coordenadas Topográficas 'Y'

Ajustadas pelo MMQ
10000,0000 m
9980,0000 m
Coordenadas Y

9960,0000 m
9940,0000 m
9920,0000 m
9900,0000 m
1 2 3 4 5

Com Observações obtidas com a Precisão Nominal da EstaçãoTotal

Com Observações obtidas com a Precisão das Médias das Observações

No Gráfico 8, podemos observar que a precisão das coordenadas topográficas “Y”

ajustadas pelo MMQ, assim como para as coordenadas “X”, Gráfico 6, as melhores precisões
novamente são obtidas através dos ajuste utilizando a precisão nominal da Estação Total.
 103

Gráfico 8 - Gráfico da Precisão das Coordenadas Topográficas “Y” Ajustadas pelo MMQ

Precisão das Coordenadas

Topográficas 'Y' Ajustadas pelo MMQ
12,000 mm
10,000 mm
Precisão de Y

8,000 mm
6,000 mm
4,000 mm
2,000 mm
0,000 mm
1 2 3 4 5

Com Observações obtidas com a Precisão Nominal da Estação Total

Com Observações obtidas com a Precisão das Médias das Observações

A partir desses gráficos comparativos apresentados anteriormente, podemos verificar

que as melhores precisões alcançadas foram obtidas quando o ajuste foi realizado utilizando
as precisões nominais da Estação Total. Fato que leva a sugerir para o ajuste de poligonal
fechada a utilização destas precisões e consequentemente as variâncias que iram compor da
MVC das Observações.
 104

6 CONCLUSÃO

O ajustamento da poligonal fechada em “loop” foi feita pelo método dos mínimos
quadrados utilizando ora as observações com a precisão nominal da Estação Nominal e ora
com a precisão da média das observações, através dos dados coletados em campo e
posteriormente processados, foi possível analisá-los. Com a coleta de dados, com o
ajustamento das observações da poligonal e por fim com a verificação da qualidade do
levantamento topográfico através das elipses de confiança, todos os objetivos do trabalho
foram alcançados.

A hipótese de que as precisões médias das observações obtidas por repetições quando
vinculadas ao processo de ajustamento pelo MMQ proporciona parâmetros ajustados com
maior precisão não foi verdadeira, pois através das analises dos dados processados,
concluímos que utilizando as observações com a precisão nominal das observações obteve-se
precisões maiores que utilizando a precisão da média das observações. A hipótese de que se o
erro de fechamento testado no pré-ajustamento passar no teste do qui-quadrado da forma
quadrática do erro de fechamento, não serão necessários, caso precise, mais do que três
iterações para obter um bom ajuste foi confirmada, pois não foi necessário aplicar mais do
que três iterações para que um ajuste bom e aceitável fosse obtido. Foi confirmada também a
hipótese de que nos pontos mais afastados do ponto de controle, os semi-eixos das elipses de
confiança apresentam maiores dimensões.
 105

REFERÊNCIAS BIBLIOGRÁFICAS

ASSOSSIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS NBR 14166 Rede de Referência

Cadastral Municipal – Procedimento. Rio de Janeiro 1998.

BAARDA, W. (1968). A testing procedure for use in geodetic networks. Netherlands

COMASTRI, J, 1992. Topografia:Planimetria, Imprensa Universitária, Viçosa - MG, Brasil,

336 páginas.

DALMOLIN, Quintino, 2004. Ajustamento por Mínimos Quadrados, Imprensa Universitária,

Curitiba, Brasil, 175 páginas.

GEMAEL, C. Introdução ao ajustamento de observações: aplicações geodésicas. Curitiba:

Editora da UFPR, 1994.

GEMAEL, Camil, 1994: Introdução ao ajustamento de observações - aplicações geodésicas,

Curitiba-PR: UFPR, 2004. 319p.

GHILANI, C. D., WOLF, P.R. Adjustment computations: spatial data analysis. 4th ed.
New Jersey: John Wiley & Sons, 2006

KRAKIWSKY, E.J. A synthesis of recent advances in the method of least squares.

Lecture note Nº 42, Department of Geodesy and Geomatics Engineering,

University of New Brunswick, Fredericton, NB, Canada, 1975.

KRAKIWSKY, E. J.; SZABO, D. J.; VANÍCEK, P.; CRAYMER, M. R. Development and

testing of in-context confidence regions for geodetic survey networks. Technical Report
Nº 198, Department of Geodesy and Geomatics Engineering, University of New Brunswick,
Fredericton, NB, Canada, 1999.

KUANG, S. Geodetic Network Analisys and Optimal Design: concepts and applications.
Chelsea: Ann Arbor Press. 1996.

LEICK, A. GPS satellite surveying. 2nd. New York: John Wiley and Sons, 1995.

LEICK, A. GPS satellite surveying. 3th. ed. New Jersey: John Wiley and Sons, 2004.
 106

MIKHAIL, E. M.; ACKERMANN, F. Observation and Least Squares. New York, IEP,
Dun-Donelly Publisher, 1976.

WELLS, D.E., KRAKIWSKY, E.J. The method of least squares. Lecture note Nº 18,
Department of Geodesy and Geomatics Engineering, University of New Brunswick,
Fredericton, NB, Canada, 1971.

SCHOFIELD, W.; BREACH, M. Engineering Surveying. 6th. ed. Elsevier Ltd. Burlington,
USA, 1972.

UOTILA, U.A. Introduction to adjustment computations with matrices. The Ohio State
University, Department of Geodetic Science, 1986.