Você está na página 1de 63

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.

br

SUMRIO
1 1.1 1.2 1.3 2 2.1 3 3.1 3.2 3.3 3.4 4 4.1 4.2 4.3 5 5.1 INTRODUO DEFINIO CONCEITO DE OBSERVAO MODELO MATEMTICO PROPRIEDADE DOS ERROS DE OBSERVAO O CONCEITO DE PRECISO E EXATIDO PROPAGAO DAS COVARINCIAS VARIVEL ALEATRIA. MATRIZ VARINCIA-COVARINCIA (M.V.C.) MATRIZ DE CORRELAO LEI DE PROPAGAO DAS COVARINCIAS 2 4 5 5 6 9 10 10 10 11 12

SISTEMA DE EQUAES LINEARES E O MTODO DOS MNIMOS QUADRADOS 23 RESOLUO DE SISTEMA DE EQUAES LINEARES O MTODO DOS MNIMOS QUADRADOS CONDICIONAMENTO DE SISTEMAS AJUSTAMENTO DE OBSERVAES AJUSTAMENTO DE OBSERVAES DIRETAS 23 24 26 28 29 29 29 30 40 42 53 54 60 63

5.1.1 ESTIMATIVA PONTUAL: MDIA. 5.1.2 ESTIMATIVA DA PRECISO: ERRO MDIO QUADRTICO. 5.1.3 ESTIMATIVA POR INTERVALO 5.2 AJUSTAMENTO DE OBSERVAES INDIRETAS

5.2.1 MTODO PARAMTRICO 5.3 AJUSTAMENTO DE OBSERVAES DIRETAS CONDICIONADAS

5.3.1 MTODO DOS CORRELATOS 5.4 MTODO COMBINADO

REFERNCIAS BIBLIOBRFICAS

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Introduo

Ao serem feitas medidas, pela prpria condio da imperfeio dos homens e dos instrumentos, estas esto impregnadas dos erros de observao. Tanto assim, que normalmente procedem-se a mais de uma medida para se ter garantias sobre o valor encontrado. Se as medidas forem de uma nica grandeza como, por exemplo, distncias ou ngulos, a mdia uma boa soluo. Contudo, quando esto envolvidas ao mesmo tempo grandezas de naturezas diferentes e que se relacionam atravs de uma funo matemtica, a soluo no to imediata. Um outro fato importante reside na premissa de que somente o valor da grandeza no suficiente, do ponto de vista tcnicocientfico. preciso saber qual o grau de confiana no valor obtido. Isto proporcionado pela estimativa de preciso da medida que numericamente igual ao desvio-padro. Como exemplo, vamos imaginar que se pretenda determinar as coordenadas de um ponto P a partir de uma estao E (com coordenadas conhecidas), da distncia entre a estao e o ponto, e do azimute da direo estao-ponto. Este um problema clssico da topografia cuja soluo a seguinte:

XP = XE + d E-P *senAE-P YP = YE + d E-P *cosAE-P onde : (XP,YP) (XE,YE) d E-P AE-P - coordenadas do ponto (incgnitas); - coordenadas da Estao; - distncia entre a Estao e o ponto; - azimute da direo estao ponto.

Observa-se que para resolver o sistema so necessrias duas observaes, a distncia e o Azimute. No caso a soluo nica.

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

N P AE-P dE-P

N AE1-P dE1-P

P dE2-P

E1 AE2-P

E2

Agora imaginemos o mesmo problema s que introduzindo mais uma estao E2. Este tambm um problema clssico. A soluo dada por:

XP = XE1 + d E1-P *senAE1- P YP = YE1 + d E1-P *cosAE1- P XP = XE2 + d E2-P *senAE2- P YP = YE2 + d E2-P *cosAE2- P onde : (XP,YP) (XE1,YE1) d E1-P AE1- P (XE2,YE2) d E2-P AE2- P - coordenadas do ponto (incgnitas); - coordenadas da estao 1; - distncia entre a estao 1 e o ponto; - azimute da direo estao 1 ponto. - coordenadas da estao 2; - distncia entre a estao 2 e o ponto; - azimute da direo estao 2 ponto.

Observa-se agora que existem duas maneiras de se obter as coordenadas do ponto P. Uma atravs da estao 1 e outra da estao 2. Se as medidas fossem isentas de erros, qualquer uma das solues levaria ao mesmo resultado, contudo isso no ocorre e a soluo que parece obvia adotar a mdia como resposta ao problema. Imaginemos ainda que de cada uma das estaes mediu-se com equipamentos com precises diferentes e com operadores diferentes. Qual das solues a mais correta? neste tipo de problema que as tcnicas de ajustamentos so importantes porque permitem que se equacionem todas as nuances do problema.

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

1.1

Definio O ajustamento o ramo da matemtica aplicada que tem por objetivo a soluo nica para problemas onde o nmero de observaes (ou medidas) redundante e o sistema de equaes inconsistente, bem como a preciso da soluo adotada Camargo, 2000. A redundncia representada pelo nmero de medidas a mais do que as

necessrias para se obter a soluo e a inconsistncia pelas diferentes solues que se obtm quando o nmero de observaes excede o de incgnitas. A figura a seguir mostra um problema passvel de ajustamento. Trata-se de uma rede de nivelamento onde L1, L2 ... L12 so linhas de nivelamento independentes. Para se determinar o desnvel entre o ponto P e a RN existem vrias possibilidades, como por exemplo :
RN L2 L5 L6 L4 L7 L9 L10 L12 L8 L1

h = L1 + L8 h = L2 + L5 + L7 + L11 h = L3 + L10 +L12 h = L1 + L4 + L7 + L11 h = L3 + L6 + L5 + L7 + L11 h = L3 + L10 + L9 + L11 ..

L3

L11 P

Estas so algumas das possibilidades de soluo. Todavia a probabilidade de cada uma delas gerar uma resposta diferente muito grande. O processo de ajustamento neste caso vai possibilitar que independentemente da soluo adotada a resposta ser nica. possvel ainda, com base nas tcnicas do ajustamento, detectar a presena de erros grosseiros em um conjunto de observaes, efetuar planejamento da coleta de dados e saber a priori se atendero as prescries estabelecidas.

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

1.2

Conceito de Observao Segundo Camargo 2000 o termo observao ou medida frequentemente usado

na prtica para referir-se operao, bem como para o resultado da operao. O valor numrico da observao de fundamental importncia para a cincia e engenharia, pois submete o instrumento anlise e manipulao. Ainda em Camargo 2000, so listadas as propriedades fundamentais da medida: a) Medir significa realizar uma operao fsica, e o processo de medida consiste de vrias operaes elementares; tais como: preparao, calibrao, pontaria, leitura e etc.; b) O resultado do processo representa a medida; c) A no ser na contagem de certos eventos, a medida sempre realizada com auxlio de instrumentos; d) As medidas esto referenciadas a um padro, os quais so estabelecidos por conveno. Medir comparar uma grandeza a um padro, tendo dimenso e unidade; e) A medida um conceito terico, tal como uma abstrao geomtrica usada para distncia e ngulo, os quais no tm equivalentes direto na natureza fsica. No entanto, tais conceitos permitem descrever certos elementos da natureza, como localizao, rea e etc.

Para descrever certos elementos da natureza necessrio utilizar modelos, como o caso da forma da Terra, onde se utiliza a esfera ou o elipside de revoluo. No caso do ajustamento, o modelo que interessa o matemtico que relaciona as medidas efetuadas com as grandezas procuradas. Este o caso das equaes que unem a distncia e o azimute com as coordenadas do ponto. 1.3 Modelo Matemtico Define-se modelo matemtico ao sistema terico ou abstrato que descreve uma situao fsica ou uma srie de eventos. Tal descrio no necessita explicar totalmente a situao fsica, mas relacionar somente os aspectos, ou propriedades de interesse. Tendo em vista que o modelo tem o propsito de atender um interesse particular, dependendo do propsito, ele pode assumir formas diferentes.

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Costuma-se dividir o modelo matemtico em funcional e estocstico. O modelo funcional constitui a parte determinstica da realidade fsica e o estocstico descreve as propriedades estatsticas das observaes. Um exemplo de modelo funcional, j explorado no incio nesta apostila, o da determinao das coordenadas de um ponto a partir da distncia e do azimute da direo entre esse ponto e outro de coordenadas conhecidas. Esse modelo funcional do tipo geomtrico, como a maioria dos modelos adotados na rea de geomtica. O modelo estocstico aborda a variabilidade dos resultados oriundos de influncias fsicas que no podem ser controladas, da falibilidade humana e das imperfeies dos instrumentos de medida. De qualquer modo, ambos os modelos devem ser tratados no ajustamento de forma conjunta. 2 Propriedade dos Erros de Observao As observaes so representaes numricas de quantidades fsicas como comprimento, ngulo, peso, entre outras. Estas observaes so obtidas atravs de medidas e, portanto possuem o que classicamente se chamava de erros de observao. Embora este conceito esteja sendo gradualmente substitudo por propriedades estatsticas das observaes, ainda comum o uso convencional do conceito de erro. Sabe-se que, mesmo se cercando de precaues e cuidados especiais no momento da obteno de uma medida, estas esto acompanhadas dos inevitveis erros de observao. Este fato esta relacionado a falibilidade humana, imperfeio dos equipamentos e as condies ambientais nas quais se processa a mensurao. Este erros so classificados em: a) erros grosseiros quando o valor medido extrapola a 3 vezes o valor do desvio padro da medida. Esse erro normalmente de fcil deteco e est associado desateno do operador ou mesmo do anotador; b) erros sistemticos quando o valor medido acrescido ou diminudo de uma quantidade constante. Estes erros so de causas conhecidas e podem ser evitados ou minimizados por tcnicas de observao ou por formulaes matemticas. o caso do erro causado pela catenria de uma trena que pode ser posteriormente eliminado;

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

c) erros acidentais quando existe uma flutuao do valor medido ao redor de um valor dito mdio. Este erro tambm conhecido como aleatrio, estocstico ou randmico no tem causa conhecido e est intimamente ligado as propriedades estatsticas das observaes. Para proceder-se ao ajustamento necessrio que sejam eliminados os erros grosseiros e os sistemticos. Os aleatrios so modelados pelo processo de ajustamento e distribudos pelo critrio desenvolvido separadamente por Gauss (1795) e Legendre (1805) denominado mtodo dos mnimos quadrados (M.M.Q.). Segundo Gemael 1994, a experincia tem demonstrado que quando o nmero de observaes cresce, os erros aleatrios tendem a ter um comportamento regular, de modo que a distribuio de freqncia dos erros se aproxima muito da distribuio normal (curva de Gauss). Este fato foi notado por Bradley no incio do sculo XVII, quando visando obter a posio do ponto vernal atravs de 462 determinaes da asceno reta do Sol, verificou que ao retirar as influncias sistemticas conhecidas na poca e calcular os desvios em relao mdia aritmtica existia uma grande simetria e o predomnio de valores ao redor da mdia.
Tabela 1 -Experincia de Bradley INTERVALOS Freqncia (fi) 0,9 1,0 3 0,8 0,9 5 0,7 0,8 7 0,6 0,7 13 0,5 0,6 18 0,4 0,5 25 0,3 0,4 29 0,2 0,3 39 0,1 0,2 44 0,0 0,1 47 0,0 -0,1 47 -0,1 -0,2 44 -0,2 -0,3 39 -0,3 -0,4 29 -0,4 -0,5 26 -0,5 -0,6 18 -0,6 -0,7 13 -0,7 -0,8 7 -0,8 -0,9 5 -0,9 -1,0 4 462 fiv2i 2,7075 3,6125 3,9375 5,4925 5,4450 5,0625 3,5525 2,4375 0,9900 0,1175 0,1175 0,9900 2,4375 3,5525 5,2650 5,4450 5,4925 3,9375 3,6125 3,6100 67,8150

f2i 9 25 49 169 324 625 841 1521 1936 2209 2209 1936 1521 841 676 324 169 49 25 16 15474

fivi 2,85 4,25 5,25 8,45 9,9 11,25 10,15 9,75 6,60 2,35 -2,35 -6,60 -9,75 -10,15 -11,70 -9,90 -8,45 -5,25 -4,25 -3,80 -1,40

Fi 2,3 4,1 7,1 11,4 17,0 24,9 31,7 38,7 44,3 47,4 47,4 44,3 38,7 31,7 24,9 17,0 11,4 7,1 4,1 2,3

Onde fi a freqncia real e Fi a terica.

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Ao se observar a Tabela 1, que reproduz os dados de Bradley, nota-se a partir da coluna das freqncias que existem 230 desvios positivos e 232 desvios negativos. Esses desvios foram determinados pela diferena entre o valor medido e a mdia aritmtica desses valores. A simetria e o predomnio de valores ao redor da mdia dos desvios (zero) sugere claramente a distribuio normal, visualizada no histograma e no polgono de freqncia abaixo. Ao se comparar a freqncia real com a terica (Fi) verifica-se uma impressionante concordncia de valores.

Existem outros exemplos prticos que demonstram esta tendncia. A partir desta constatao pode-se afirmar que quando o nmero de observaes cresce: Os resduos de mesmo mdulo e sinais opostos so equiprovveis; Os resduos menores ocorrem com menor freqncia; A mdia dos resduos praticamente nula. O predomnio de resduos com um sinal deve servir de alerta para a existncia de algum erro sistemtico.

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

2.1

O conceito de preciso e exatido Nos textos de lngua inglesa ocorrem dois vocbulos accuracy e precision, que

apesar de aparentados no so sinnimos. Sero traduzidos por acuracidade (exatido) e preciso. A acurcia vincula-se ao grau de aproximao de uma estimativa com o seu valor considerado verdadeiro e est vinculado aos efeitos aleatrios e sistemticos. O termo preciso est vinculado idia de disperso dos valores medidos ao redor da mdia e por isso, est ligado aos efeitos aleatrios. Para se entender a idia imagine dois atiradores a e b e um alvo onde os dois atiraram. Observa-se que o atirador a tem os tiros mais concentrados enquanto o atirador b tem os tiros mais dispersos. No

a b

entanto o centro da concentrao dos tiros de b est mais prximo do centro do alvo do que a do atirador a. Pode-se ento afirmar que o atirador a tem uma preciso maio que o b, porm sua exatido menor. Observa-se por este exemplo que existe um erro sistemtico maior conduzindo os tiros mais precisos de a.

A acurcia reflete a posio e a preciso a disperso.

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Propagao das Covarincias 3.1 Varivel aleatria. Varivel aleatria (v.a.) uma funo que associa a cada elemento de um

espao amostral um nmero real, ou simplesmente, uma funo que assume um valor real em cada ponto do espao amostral. Considerando que cada medida resulta em um nico valor, o conjunto destas medidas constitui uma v.a. Continuando o raciocnio, se o conjunto que constitui a v.a. de mesma natureza, diz-se que ele uma varivel aleatria unidimensional. Entretanto, quando no conjunto tm-se grandezas de natureza diversa, diz-se que uma v.a. multidimensional. Por exemplo, o conjunto constitudo por uma srie de medidas angulares uma v.a. unidimensional, e o conjunto constitudo por azimute e distncia, multidimensional. 3.2 Matriz varincia-covarincia (M.V.C.) A estimativa de preciso de uma v.a. fornecida pelo desvio padro dessa varivel ( i). Quando se tem uma v.a. multidimensional, a preciso representada pela matriz varincia covarincia (). Por exemplo, as varincias i2 e covarincias ij de um conjunto de n observaes (Lb) podem ser dispostas de maneira a formar uma matriz quadrada (nxn), representada por Lb, ou seja:
12 12 K 1n 2 2 K 2n = 21 M M M M 2 n1 n 2 K n

Lb

A matriz Lb, simtrica ( ij =

ji), recebe o nome de matriz varincia-

covarincia (M.V.C.), ou simplesmente matriz covarincia (M.C.). No caso das observaes serem independentes entre si, as covarincia sero nulas e Lb se degenera numa matriz diagonal.

10

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

3.3

Matriz de correlao Na matriz varincia-covarincia. a varincia ( i2 ) fornece, atravs da extrao

da raiz quadrada, a preciso de cada v.a. e a covarincia ( ij) indica que existe dependncia entre elas. A matriz dos coeficientes de correlao, derivada da matriz varinciacovarincia, fornece o grau de dependncia entre as diversas v.a.

1 R = 21 M n1

12 K 1n 1 K 2n n2
M M K M 1

onde :

ij =

ij i j

ij ij i, j
Se | ij | = 1 | ij | = 0

coeficiente de correlao entre a v.a. i e a j; covarincia entre a v.a. i e a j; desvio padro das v.a. i e j . a dependncia total - a independncia total

11

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

3.4

Lei de Propagao das Covarincias Consideremos duas v.a. multidimensionais Y e X, ligadas por um modelo

funcional linear:

m 1

Y = m Gn n X 1 + m C1

onde :

G C

matriz dos coeficientes; matriz dos termos independentes.

A Lei de propagao das Covarincias nos diz que se conhecermos a matriz varincia-covarincia da v.a. X (X) e o modelo funcional que a liga com a v.a. Y a matriz varincia-covarincia desta matriz (Y) calculada por:

Y = GXGT

Ou seja, obtida pela simples multiplicao de matrizes. Quando o modelo funcional no linear a Lei de Propagao toma a seguinte forma :

Y = DXDT
onde D a derivada da funo em relao aos parmetros incgnitos. Este conceito muito importante porque atravs dele possvel se determinar qual a preciso das coordenadas de um ponto obtidas com um equipamento com determinada preciso.

12

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Exemplo 1: Vamos admitir que foi realizada a medida de 5 direes com um equipamento cuja preciso angular de 5.
d1 d2

A se determinar o ngulo entre essas duas direes qual seria a preciso do resultado obtido?
d3

a1 a2

A priori algum poderia imaginar que a preciso


a3

P
a4

d4

seria os mesmos 5. Outro acharia que seria o dobro. A propagao das covarincias resolve o problema.

d5

O primeiro passo determinar o modelo funcional, ou seja, aquele que mostra a relao entre as direes e os ngulos: a1 = d2 d1 a2 = d3 d1 a3 = d4 d3 a4 = d5 d4 a1 = a2 = a3 = a4 = -1 d1 + 1 d2 + 0 d3 + 0 d4 + 0 d5 -1 d1 + 0 d2 + 1 d3 + 0 d4 + 0 d5 0 d1 + 0 d2 1 d3 + 1 d4 + 0 d5 0 d1 + 0 d2 + 0 d3 1 d4 + 1 d5

ou

Este modelo pode ser escrito na forma matricial e assume o seguinte formato:

a1 1 a 2 1 = a3 0 a 4 0

1 0 0 0 1 0 0 -1 1 0 0 -1

d1 0 0 d2 0 0 d 3 + assumindo o formato A = G.D +C 0 0 d4 1 0 d 5

O segundo passo reside em se determinar a matriz varinia-covarincia das direes (d). Sabendo-se que a determinao das direes independente, pois o erro cometido em uma no afeta a outra, conclui-se que a matriz em questo possui elementos apenas na diagonal principal e iguais a varincia ( i2 = 25"2 ), ou seja :

25 0 0 0 0 0 25 0 0 0 2 d = 0 0 25 0 0 (") 0 0 0 25 0 0 0 0 0 25

13

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Finalmente no terceiro passo procede-se multiplicao. 1 1 a = 0 0 1 0 0 0 1 0 0 1 1 0 0 1 25 0 0 0 0 1 1 0 0 0 0 25 0 0 0 1 0 0 0 0 0 0 25 0 0 0 1 1 0 0 1 1 0 0 0 25 0 0 0 1 0 0 0 0 25 0 0 0 1

25 0 0 50 25 50 25 0 2 (") a = 0 25 50 25 0 25 50 0 A partir desta matriz varincia-covarincia pode-se fazer algumas consideraes: a preciso dos ngulos a1, a2, a3 e a4 so iguais a i = 7,07; existe covarincia entre as variveis a1 com a2, a2 com a3 e a3 com a4; no existe covarincia entre as variveis a1 com a3, a1 com a4 e a2 com a4; o fator de correlao entre a1 com a2, a2 com a3 e a3 com a4, a menos do sinal, numericamente igual ao valor determinado pela equao de correlao. 25 = 0,5 ou 50%. 7,07 7.07

a1a 2 =

Este fator de correlao indica que o grau de dependncia da ordem de 50% ou seja, que um erro propagado em 50% na varivel correlacionada.

14

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Exemplo 2: Um observador com uma estao total mediu o azimute da direo


01 e a distncia entre as estaes 0 e 1 a partir do ponto 0 cujas coordenadas so (0, 0).

Os valores obtidos foram respectivamente, A01 = 60 e


d01 = 2.000 m. Considere que ele utilizou um

A01
0

d01

1 equipamento cuja preciso angular de 5 e a linear de


5mm 5ppm. Qual ser a preciso das coordenadas (x1,y1) do ponto 1 ? Da mesma forma que no exemplo anterior, o

primeiro passo estabelecer qual o modelo matemtico que faz a ligao entre os valores medidos (A01 e d01) com os valores procurados (x1,y1).
A frmula bastante conhecida da topografia :
x1 = x0 + d 01 sen A01
y1 = y 0 + d 01 cos A 01

Observa-se que esta frmula do tipo no linear e, portanto o modelo de propagao o seguinte: xy = D Ad D T A matriz D obtida derivando-se as equaes de x1 e y1 em relao ao azimute
A01 e a distancia d01, obtendo-se as seguintes expresses:

x = d 01 cos A01 = 1.000,00 m A

x = sen A01 = 0,866025 d

y = d 01 sen A01 = -1.732,05 m A

y = cos A01 = 0,500000 d

15

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

colocando-se estes valores na matriz D, vem : 1.000,00m 0,866025 D= 1.732,05m 0,500000 Definida a matriz D, o passo seguinte montar a matriz varincia-covarincia das observaes.
2 Ad Ad = A 2 dA d

O valor da varincia do Azimute oriundo da preciso angular do equipamento.


2 A = (5)2 = 252

Embora este valor esteja correto, necessrio pass-lo para radianos porque, ao se proceder a multiplicao entre as matrizes, se estar misturando metro com segundo de arco.

5" -10 2 Ento o valor de A = = 5,876107 x 10 radianos. 3600 180


A varincia da distncia tambm originada da preciso do equipamento.
2 d = 0,005m +

5 2.000m 2 2 = (0,015 m) = 0,000225 m 1.000.000 porque no existe nenhuma dependncia

As correlaes

Ad = dA = 0

entre o azimute e a distncia, ou seja, um erro no azimute no afeta a distncia e viceversa. Finalmente a matriz varincia covarincia das coordenas obtida da seguinte multiplicao:

1000,00m 1.732,05m 0 1.000,00m 0,866025 5,8761071010 xy = 0 0,000225m 2 0,866025 0,500000 1.732,05m 0,500000

16

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

0.00075636 - 0.00092034 2 xy = m - 0.00092034 0.0018191

Da matriz varincia-covarincia obtm-se as precises das coordenadas x1 e y1 . Ento : x1 = 0 + 2000.sen(60) = 1.732,05 m e x1 = 0.00075636 y1 = 0 + 2000.cos(60) = 1.000,00 m e ou seja, x1 = 1.732,05 m 0,0275 m y1 = 1.000,00 m 0,0426 m O grau de dependncia entre as v.a. x1 e y1 calculada pelo coeficiente de correlao

y1 = 0.0018191

x1 y 2 =

- 0.00092034 = 0,7846 ou 78,5% 0,0275 0,0426

Este valor mostra que existe uma forte correlao entre as duas variveis e que um erro em uma delas afeta a outra em 78,5%. O exemplo proposto acima teve apenas o propsito de demonstrar como se propagam as covarincias, e por esta razo, no enunciado, o observador mediu diretamente o azimute. Na prtica isso no acontece, o que se faz determinar o ngulo azimutal atravs da tcnica das direes. Neste caso necessrio se fazer a propagao dos azimutes. No prximo exemplo este processo ser abordado e ficar mais claro.

17

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Exemplo 3: Executou-se uma poligonal eletrnica a partir de um vrtice e do azimute de uma direo. Com os dados do levantamento verifique qual a preciso que se pode alcanar com um equipamento cuja preciso angular de 2 e a linear de 3mm + 10 ppm.

A0
A1
1

A2
2

A3
3

Obs.: A0 = 45 dados: 1 = 40 20 209 47 202 00 10 59 17 l1 = l2 = l3 = 6.000 m 3.000 m 1.500 m

2 = 3 =

1 Passo Modelo funcional x3 = x0 + x 01 + x12 + x 23 y 3 = y 0 + y 01 + y12 + y 23 onde: (1)

xi = l i sen Ai y i = l i cos Ai

(2)

Na equao observa-se que apenas o valor observado li aparece. Isto ocorre porque na prtica no se l o azimute diretamente, e sim a direo. Ento necessrio se estabelecer a equao que envolve os ngulos medidos i com os azimutes.

18

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Da figura se extrai as seguintes equaes: A1 = A0 + 1 A2 = A0 + 1 + 2 180 A3 = A0 + 1 + 2 + 3 360 = 85 2010 = 115 08 09 = 137 08 26

(3)

que genericamente pode ser escrita como :

Ai = A0 + i (n 1) 180
i =1

Escrevendo as equaes acima sob a forma matricial vem:


A1 1 0 0 1 A0 A = 1 1 0 + A 180 2 2 0 A3 1 1 1 3 A0 360

A = G +C

analisando a equao, conclui-se que ela do tipo linear e a propagao utiliza a frmula

A = GGT
Assim
2 1 0 0 4" A = 1 1 0 0 1 1 1 0

0 4" 0
2

0 1 1 1 4 4 4 0 0 1 1 = 4 8 8 "2 4"2 0 0 1 4 8 12

Os valores desta matriz esto em 2 . Para no se ter problemas com unidades, estes devem ser convertidos em radianos. Existe um modo prtico quando os valores esto em 2 que multiplicar por sen2( 1). Ento:
9,402 9,402 9,402 A = 9,402 18,803 18,803 10 11 radianos 9,402 18,803 28,205

19

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Calculada a propagao para o azimute passa-se propagao para as coordenadas. Substituindo as equaes (2) em (1). x3 = x0 +l 1sen A1 + l2 sen A2 + l3 sen A3 y3 = y0 + l1 cos A1 + l2 cos A2 + l3 cos A3 Estas equaes, por causa das funes trigonomtricas so do tipo no linear e, portanto utilizam outra forma de propagao.

xy = D l DT
A matriz D obtida derivando-se as equaes de x3 e y3 em relao aos azimutes Ai e as distancia li, obtendo-se as seguintes expresses: x A1 x A2 x A3 y A1 y A2 y A3 = l1 cos A1 = l2 cos A2 = l3 cos A3 = l1 sen A1 = l2 sen A2 = l3 sen A3 = = = = = = 487,862 m -1.274,297 m -1.099,537 m -5.980,133 m -2.715,910 m -1.020,303 m x = sen A1 l1 x = sen A2 l2 x = sen A3 l3 y = cos A1 l1 y = cos A2 l 2 y = cos A3 l3 = = = = = = 0,99668883 0,90530332 0,68020218 0,08131035 -0,42476569 -0,73302455

Colocando na matriz D
x A D= 1 y A1 x A2 y A2 x A3 y A3 x l1 y l1 x l2 y l2 x l3 y l3

487,862m 1.274,297m 1.099,537m 0,9966883 0,90530332 068020218 D= 5.980,133m 2.715,910m 1.020,303m 0,08131035 0,42476569 0,73302455

20

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Finalmente monta-se a matriz varincia-covarincia das observaes.


2 A1 A2 A1 A3 A1 Al = l1 A1 l 2 A1 l 3 A1

A1 A2
2 A2

A1 A3 A 2 A3
2 A3

A1l1 A 2 l1 A 3l 1 l21 l 2 l1 l 3l 1

A1l 2 A2l 2 A 3l 2 l1l 2 l22 l 3l 2

A3 A 2 l1 A 2 l 2 A2 l 3 A2

l 1 A3 l 2 A3 l 3 A3

A 2l 3 A 3l 3 l1l 3 l 2l 3 l23

A1l 3

Os valores da matriz varincia-covarincia dos azimutes j foram determinados na propagao dos ngulos para os azimutes e basta substituir na matriz Al. Contudo falta ainda calcular as varincia das distncias. Como as distncias no so correlacionadas entre si e nem com os azimutes, as covarincias que relacionam estas variveis so nulas. Ento :

l1 = 0,003m + l2 l3

10 6.000m = 0,063m l2 = 0,003969m 2 1 1.000.000 10 3.000m = 0,003m + = 0,033m l22 = 0,001089m 2 1.000.000 10 1.500m = 0,003m + = 0,018m l23 = 0,000324m 2 1.000.000

Substituindo-se pelos valores numricos:


9,402 10 11 9,402 10 11 11 9,402 10 Al = 0 0 0 9,402 10 11 18,803 10 11 18,803 10 0 0 0
11

9,402 10 11 18,803 10 11 28,205 10 0 0 0


11

0 0 0 0,003969 m 2 0 0

0 0 0 0 0,001089 m 2 0

0 0 0 0 0 0,000324 m 2

21

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Finalmente basta proceder multiplicao para obter a matriz varinciacovarincia das coordenadas x3,y3.
0,0059631 x3 y3 = 0,0024035 0,0024035 m 2 0,010683

A partir da matriz varincia-covarincia extrai-se as precises das coordenadas do ponto 3. x3 = 9.716,346 m 0,0772 m y3 = -1.885,972 m 0,1034 m O grau de dependncia entre as v.a. x3 e y3 calculada pelo coeficiente de correlao
x3 y 3 =
0,0024035 = 0,3011 0,0772 0,1034

ou 30,1%

Este valor mostra que existe uma baixa correlao entre as duas variveis e que um erro em uma delas afeta a outra em 30,1%. Estes demonstram que a priori no se pode prever qual o grau de correlao entre duas variveis antes de se efetuar a propagao. No exemplo anterior, o grau de correlao de 78,5% enquanto que neste atinge 30,1 %. Neste exemplo calculou-se o valor da preciso do terceiro ponto diretamente. Para se saber qual o valor do ponto 1 e 2 basta eliminar alguns elementos das matrizes D e Al. Procedendo-se desta forma encontram-se os seguintes valores. x1 = 5.980,133 m 0,0630 m y1 = 487,862 m 0,0582 m

x1y1 = 1,3 %
x2 = 8.696,043 m 0,0710 m y2 = -786,435 m 0,0896 m

x2y2 = 13,7 %

22

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Sistema de Equaes Lineares e o Mtodo dos Mnimos Quadrados 4.1 Resoluo de Sistema de Equaes Lineares

Dada uma equao do tipo ax = l onde: x um valor incgnito, l um valor conhecido e a uma constante qualquer, ento a soluo :
x= l a

No entanto, quando se tem um conjunto de equaes formando um sistema a soluo no to direta. Vamos imaginar um sistema de equaes a1 x1 + a2 x2 + a3 x3 = l1 a4 x1 + a5 x2 + a6 x3 = l2 a7 x1 + a8 x2 + a9 x3 = l3 Escrevendo este sistema na forma matricial
nAuuX1

= nL1

onde :

A X L n u

matriz formada pelos coeficiente ai vetor formado pelos valores incgnitos xi vetor formado pelos termos conhecidos li nmero de linhas (3) nmero de colunas (3)

No caso de matrizes a soluo dada por:


n X 1 = u Au 1 u L1

onde: A-1 a matriz inversa de A

23

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

4.2

O Mtodo dos Mnimos Quadrados

Quando um sistema de equaes possui o nmero de equaes iguais ao de incgnitas a soluo nica. No entanto, quando existem mais equaes que as necessrias, deve-se agrupa-las de forma que se tenham vrios sistemas formados pelas combinaes lineares destas equaes. Na teoria, independentemente do conjunto que se escolha, tem-se sempre a mesma soluo. Entretanto, quando se trabalha com dados reais, pela prpria caracterstica estocstica das observaes, via de regra se faz mais medidas que as necessrias. Cada observao resulta em uma equao. Toda medida vem acompanhada de erros aleatrios e desta forma o sistema de equaes resultante inconsistente. necessrio ento se proceder a uma homogeneizao do sistema de modo que independente do conjunto de equaes que se escolha tenha-se sempre a mesma soluo. Esta homogeneizao alcanada adicionando uma correo, tambm conhecida como resduo, a cada observao de modo a tornar o sistema consistente. a1 x1 + a2 x2 = l1 + v1 a3 x1 + a4 x2 = l2 + v2 a5 x1 + a6 x2 = l3 + v3 ou no formato matricial
) A X = Lb + V

Dependendo do critrio que se escolha para definir os valores desses ) resduos, tm-se solues diferentes para a incgnita X , que agora um valor estimado. Entretanto, o critrio aceito o do Mtodo dos Mnimos Quadrados (M.M.Q.), proposto por Gauss e Legendre. O M.M.Q. diz que a soma do quadrado dos resduos tem que ser mnima, e pode ser expresso matematicamente:

v
i =1

2 i

= min

24

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Na forma matricial: VTV = min Para o caso de observaes com graus diferentes de confiana introduz-se o critrio de peso, e as equaes passam a ser escritas:

pv
i =1

2 i i

= min

ou

VTPV = min

Isolando o vetor dos resduos na equao matricial, vem:

) V = A X Lb

Substituindo no critrio de M.M.Q.

= (AX Lb ) (AX Lb ) = min < = >


)
T

= (X T AT LT ) (AX Lb ) = min b
) )

= X T AT AX LT AX X T AT Lb + LT Lb = min b b
Para se determinar o mnimo da funo deriva-se esta em relao s incgnitas e igual a zero:
) d = 2 AT AX AT Lb AT Lb = 0 dX

) AT AX AT Lb = 0 Finalmente ) 1 X = (AT A) (AT Lb ) Se derivarmos novamente vamos descobrir que essa funo representa um ponto de mnimo.

25

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Considerando observaes com graus diferentes de confiana a equao assume o seguinte aspecto: ) 1 X = (AT PA) (AT PLb ) Esta equao representa a soluo dos mnimos quadrados.
4.3 Condicionamento de Sistemas

Um sistema dito mau condicionado quando pequenas variaes nos valores dos coeficientes ou dos termos independentes significa uma grande variao na soluo. Este fato ficar mais bem compreendido com o exemplo a seguir: Dados o sistema de equaes
1 1 x1 10 1 2 x = 5 2

cuja soluo

x1 = 5 e x2 = 5

Se introduzirmos uma pequena variao no termo independente, por exemplo


1 x1 10,01 1 1 2 x = 5 o resultado passa a ser x1 = 5,007 e x2 = 5,003. 2

Observa-se que esta pequena variao introduziu uma pequena variao na resposta do problema. Este o exemplo de um sistema bem condicionado. Agora vamos repetir a experincia com um outro sistema
1 1 x1 10 1,001 1 x = 10,005 2

cuja soluo x1 = 5 e x2 = 5

Efetuando uma pequena alterao no termo independente,vem


1 x1 10 1 1,001 1 x = 10,1 o resultado passa a ser x1 = 100 e 2

x2 = -90.

26

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Nota-se agora que uma variao no muito significativa resultou numa soluo completamente diferente. Quando isso acontece, diz-se o sistema mau condicionado. Este tipo de problema importante porque os sistemas de equaes utilizados na rea da geomtica so formados por valores observados e sabe-se que os erros de observao acompanham estes nmeros. Embora no seja um critrio conclusivo, quando o determinante da matriz dos coeficientes resulta em um nmero pequeno e em contra posio a matriz inversa composta por elementos grandes, geralmente este um indicador de mau condicionamento. Nos exemplos acima se verifica que no primeiro caso o determinante igual a
A = 3 e sua inversa vale :

1 2 1 A 1 = 3 1 1

e no segundo caso

A = 0,001

1000 1001 A 1 = 1000 1000

27

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Ajustamento de Observaes

As observaes so classificadas em diretas, indiretas e diretas condicionadas. As diretas so aquelas onde se utiliza um medidor de mesma natureza que a grandeza procurada. Por exemplo, quando se emprega uma trena para medir uma distncia ou um teodolito para um ngulo. Ao contrrio, so classificadas como indiretas quando se mede uma grandeza que se relaciona funcionalmente ou fisicamente com o valor procurado. o caso de se determinar uma distncia por estadimetria, onde se l os fios superior e inferior da estdia e se obtm a distancia entre o aparelho e ela. Finalmente classificada como direta condicionada quando alm de ser direta existir uma condio funcional, por exemplo. o caso da medida dos ngulos de um tringulo. Se forem medidos apenas dois, a medida direta, no entanto se o terceiro ngulo for medido, passa a existir a condio de que o somatrio tem que ser 180. Em qualquer das situaes, quando os valores no forem do mesmo grau de confiana, emprega-se o critrio de pesos diferentes. Cada um destes casos utiliza um processo de ajustamento especfico.

28

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

5.1 5.1.1

Ajustamento de observaes diretas Estimativa pontual: mdia.

Quando se medem vrias vezes a mesma grandeza, o melhor estimador para ela a mdia aritmtica ou a ponderada dependendo da amostra. Pode-se demonstrar que este critrio atende o dos mnimos quadrados, no entanto isso no ser feito aqui. A equao para a mdia a seguinte:

x=

l
i =1

ou

x=

pl
i =1 n

i i

p
i =1

onde:

x li pi n

- mdia aritmtica ou ponderada - valores observados - pesos das observaes - nmero de elementos da amostra

A primeira equao a da mdia aritmtica e a segunda da ponderada.

5.1.2

Estimativa da preciso: erro mdio quadrtico.

Como ndice indicador de preciso utiliza-se o erro mdio quadrtico (m) que numericamente igual ao desvio-padro (), porm adota o duplo sinal. Gauss definiu que o desvio-padro a raiz quadrada da mdia do quadrado dos erros verdadeiros, ou seja:

m = =

2 i

onde: m

2 i

- erro mdio quadrtico - quadrado dos erros verdadeiros - nmero de elementos da amostra ou de observaes

29

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Entretanto, a no ser em alguns casos como os ngulos de um polgono fechado, no se tem como determinar o erro verdadeiro. Neste caso se utilizam os erros aparentes que so calculados atravs dos resduos, ou seja:

) m=

2 i

n 1

(l

n 1

Na rea de geomtica normalmente no processo de clculo os valores verdadeiros so substitudos por valores fictcios, a mdia das observaes. Neste caso a estimativa de preciso que se necessita no diz respeito amostra, mas sim mdia. Assim necessrio que se calcule o erro mdio quadrtico dela.
) mx =

n(n 1)

2 i

Este valor obtido atravs da propagao das covarincias. No caso de medidas de desigual confiana as equaes ficam assim modificadas:
~ m=

pv
n 1

2 i i

~ m~ = x

pv (n 1) p
2 i i

5.1.3

Estimativa por intervalo

A estimativa por intervalo de confiana fornece dois valores entre os quais, deve estar um parmetro populacional estimado, com uma certa probabilidade, ou nvel de confiana. Escrevendo em linguagem matemtica: P(a b) = 1- onde: a e b 1 - extremos do intervalo - valor estimado - nvel de significncia - grau de confiana

30

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

O valor do nvel de significncia normalmente prefixado. Supondo o valor = 5%, ento: P(a b) = 0,95 A expresso acima indica que h 95% de probabilidade que a varivel estimada esteja entre os valores a e b.
Intervalo de confiana para a mdia

O intervalo de confiana pode ser aplicado na mdia em funo da varincia amostral. A expresso para o clculo a seguinte:
) ) P x t x + t = 1 n 1 2 n 1 2

onde: x n
t

- mdia amostral - desvio-padro amostral - nmero de elementos da amostra - valor interpolado da tabela de distribuio de STUDENT - mdia populacional

Esta expresso indica que existe (1-)% de probabilidade de que a mdia populacional esteja entre os valores extremos. No caso de medidas com desigual confiana a expresso acima assume a seguinte forma: ) ) P ~ ~ t ~ + ~ t x x x x 1 1 2 2 = 1

) onde: ~ - desvio-padro da mdia ponderada. x

31

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Intervalo de confiana para a varincia

Da mesma forma que para a mdia, pode-se aplica intervalo de confiana para a varincia. A expresso para este caso a seguinte:
) ) 2 (n 1) 2 (n 1) 2 P = 1 2 2 1 2 2
) onde: 2 - varincia amostral - nmero de elementos da amostra n n-1 - graus de liberdade 2 - valor interpolado da tabela de Qui-Quadrado 2 - varincia populacional

Na rea de geomtica substitui-se os valores medidos pelo valor mdio e neste caso, na frmula substitui-se a varincia amostral pela varincia da mdia.
) ) 2 (n 1) 2 (n 1) = 1 P 2 2 2 n n 1 2 2 ) )2 2 x (n 1) x (n 1) 2 P = 1 2 2 1 2 2

ou

No caso de medidas com desigual confiana a expresso acima assume a seguinte forma:
P

pv p
i

2 i i 2 1

p v = 1 p
2 i i 2 i 2

32

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Exemplo 1: Um ngulo foi medido dez vezes, com o resultado mostrado na tabela a seguir. Calcule os estimadores pontuais e os por intervalo.

Obs 1 2 3 4 5 6 7 8 9 10

li 120 31 40,1 41,2 40,8 42,1 42,9 42,4 43,0 40,7 41,9 41,5 1200 310 416,6

(li - x ) -1,56 -0,46 -0,86 0,44 1,24 0,74 1,34 -0,96 0,24 -0,16

(li - x )2 2,4336 2 0,2116 2 0,7396 2 0,1936 2 1,5376 2 0,5476 2 1,7956 2 0,9216 2 0,0576 2 0,0256 2 8,4640 2

Clculo dos estimadores pontuais: a) mdia aritmtica

x=

l
i =1

x = 120 31' 41,66

b) erro mdio quadrtico (desvio-padro)

) m=

2 i

n 1

(l

n 1

8,4640 ) m= = 0,9698 10 1

c) erro mdio quadrtico da mdia (desvio-padro da mdia) ) mx =

n(n 1)

2 i

) mx =

8,4640 = 0,3067 10(10 1)

33

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Clculo dos estimadores por intervalo de confiana: Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia. Ento supondo um nvel de significncia = 5%. a) Clculo do intervalo para a mdia:
) ) x P t x + t = 1 n 1 2 n 1 2

dos clculos acima se obtm os valores para x = 120 31' 41,66" ;

)
n

) = x = 0,3067"

O valor de t

obtido na tabela de distribuio de Student (pg. 35) com

= n - 1 graus de liberdade e P =1 - de probabilidade, ento : = 10 1 = 9 P = 1 0,05 = 95%


t0,=9 = 2,26 975

1 - 0,05/2 = 0,975

P(12031'41,66"0,3067"2,26 12031'41,66"+0,3067"2,26 ) = 95% P(12031'41,66"0,6931 12031'41,66"+0,6931) = 95% P(12031'40,97" 12031'42,35") = 95%

Esta expresso nos diz que a mdia populacional tem probabilidade de 95% de estar entre os valores 1203140,97 e 1203142,35. Se diminuirmos o nvel de significncia e conseqentemente aumentarmos o nvel de confiana este intervalo ampliado, ao ponto que se trabalharmos com probabilidade de 100% o intervalo se expande para ( ;+ ) .

34

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br


( t )

1-
t 1- t

Percentis da distribuio de Student (t1-)


P 0,550 0,158 0,142 0,137 0,134 0,132 0,131 0,130 0,130 0,129 0,129 0,129 0,128 0,128 0,128 0,128 0,128 0,125 0,127 0,127 0,127 0,128 0,125 0,127 0,127 0,127 0,128 0,125 0,127 0,127 0,127 0,127 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,126 0,600 0,325 0,289 0,277 0,271 0,267 0,265 0,263 0,262 0,261 0,260 0,260 0,259 0,259 0,258 0,258 0,258 0,257 0,257 0,257 0,257 0,257 0,256 0,256 0,256 0,256 0,256 0,256 0,256 0,256 0,256 0,255 0,255 0,255 0,254 0,254 0,254 0,254 0,254 0,253 0,253 0,253 0,253 0,253 0,253 0,253 0,253 0,650 0,510 0,445 0,424 0,414 0,408 0,404 0,402 0,400 0,398 0,397 0,396 0,395 0,394 0,393 0,393 0,392 0,392 0,392 0,391 0,391 0,391 0,390 0,390 0,390 0,390 0,390 0,389 0,389 0,389 0,389 0,388 0,388 0,387 0,387 0,387 0,387 0,386 0,386 0,386 0,386 0,385 0,385 0,385 0,385 0,385 0,385 0,700 0,727 0,617 0,584 0,569 0,559 0,553 0,549 0,546 0,544 0,542 0,540 0,539 0,538 0,557 0,536 0,535 0,534 0,534 0,533 0,533 0,533 0,532 0,532 0,531 0,531 0,531 0,531 0,530 0,530 0,530 0,529 0,528 0,527 0,527 0,527 0,526 0,526 0,525 0,525 0,525 0,525 0,525 0,525 0,524 0,524 0,524 0,750 1,000 0,817 0,765 0,741 0,727 0,718 0,711 0,706 0,703 0,700 0,697 0,696 0,694 0,692 0,691 0,690 0,689 0,688 0,688 0,687 0,686 0,686 0,685 0,685 0,684 0,684 0,684 0,683 0,683 0,683 0,681 0,679 0,679 0,678 0,678 0,677 0,677 0,676 0,675 0,675 0,675 0,675 0,675 0,675 0,675 0,675 0,800 1,376 1,061 0,979 0,941 0,920 0,906 0,896 0,889 0,883 0,879 0,876 0,873 0,870 0,868 0,866 0,865 0,863 0,862 0,861 0,860 0,859 0,858 0,858 0,857 0,856 0,856 0,855 0,855 0,854 0,854 0,851 0,849 0,848 0,847 0,846 0,846 0,845 0,843 0,843 0,842 0,842 0,842 0,842 0,842 0,842 0,842 0,850 1,963 1,386 1,250 1,190 1,156 1,134 1,119 1,108 1,100 1,093 1,088 1,083 1,080 1,076 1,074 1,071 1,069 1,067 1,066 1,064 1,063 1,062 1,060 1,059 1,058 1,058 1,057 1,056 1,055 1,055 1,050 1,047 1,046 1,044 1,043 1,042 1,042 1,039 1,038 1,037 1,037 1,037 1,037 1,037 1,037 1,037 0,900 3,078 1,886 1,638 1,533 1,476 1,440 1,415 1,397 1,383 1,372 1,363 1,356 1,350 1,345 1,341 1,337 1,333 1,330 1,328 1,325 1,323 1,321 1,320 1,318 1,316 1,315 1,314 1,313 1,311 1,310 1,303 1,299 1,296 1,294 1,292 1,291 1,290 1,285 1,284 1,283 1,283 1,283 1,282 1,282 1,282 1,282 0,950 6,314 2,920 2,353 2,132 2,015 1,943 1,895 1,860 1,833 1,813 1,796 1,782 1,771 1,761 1,753 1,746 1,740 1,734 1,729 1,725 1,721 1,717 1,714 1,711 1,708 1,706 1,703 1,701 1,699 1,697 1,684 1,676 1,671 1,667 1,664 1,662 1,660 1,652 1,649 1,648 1,647 1,647 1,646 1,646 1,646 1,645 0,975 12,71 4,30 3,18 2,78 2,57 2,45 2,36 2,31 2,26 2,23 2,20 2,18 2,16 2,14 2,13 2,12 2,11 2,10 2,09 2,09 2,08 2,07 2,07 2,06 2,06 2,06 2,05 2,05 2,05 2,04 2,02 2,01 2,00 1,99 1,99 1,99 1,98 1,97 1,97 1,96 1,96 1,96 1,96 1,96 1,96 1,96 0,990 31,82 6,96 4,54 3,75 3,36 3,14 3,00 2,90 2,82 2,76 2,72 2,68 2,65 2,62 2,60 2,58 2,57 2,55 2,54 2,53 2,52 2,51 2,50 2,49 2,49 2,48 2,47 2,47 2,46 2,46 2,42 2,40 2,39 2,38 2,37 2,37 2,36 2,34 2,34 2,33 2,33 2,33 2,33 2,33 2,33 2,33 0,995 63,65 9,43 5,84 4,60 4,03 3,71 3,50 3,36 3,25 3,17 3,11 3,05 3,01 2,98 2,95 2,92 2,90 2,88 2,86 2,85 2,83 2,82 2,81 2,80 2,79 2,78 2,77 2,76 2,76 2,75 2,70 2,68 2,66 2,65 2,64 2,63 2,63 2,60 2,59 2,58 2,58 2,58 2,58 2,58 2,58 2,58

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 29 21 22 23 24 25 26 27 28 29 30 40 50 60 70 80 90 100 200 300 400 500 600 700 800 900

35

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

b) Clculo do intervalo para a varincia da mdia:


) )2 2 x (n 1) x (n 1) 2 P = 1 2 2 1 2 2

Adotando o mesmo procedimento do clculo anterior vem:


2 x = (0,3067" ) 2 = 0,09406489"2

o valor da varivel 2 obtida de uma tabela (pg. 37) com = 9, P1 = 0,975 e P2 = 0,025.
0,=9 = 19,02 975

0,=9 = 2,70 025

substituindo os valores na frmula vem: 0,09406489 (10 1) 0,09406489 (10 1) 2 P = 95% 19,02 2,70 P 0,0445"2 2 0,3135"2 = 95% Extraindo-se a raiz quadrada da expresso acima se obtm o intervalo para o desvio padro.
P(0,211" 0,560") = 95%

Se o nvel de significncia for diminudo e conseqentemente o nvel de confiana aumentado o intervalo tende a diminuir. Se chegarmos a um nvel de 100% de confiana isso significa que o valor da varincia se iguala a zero.

36

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br


(2 )

1-

21-

Distribuio de Qui-Quadrado (2)


P 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 29 21 22 23 24 25 26 27 28 29 30 35 40 45 50 55 60 65 70 75 80 85 90 95 100 110 120 130 140 150 200 250 300 400 500 600 700 800 900 1000 0,005 0,00 0,01 0,07 0,21 0,41 0,68 0,99 1,34 1,74 2,16 2,60 3,07 3,57 4,08 4,60 5,14 5,70 6,27 6,84 7,43 8,03 8,64 9,26 9,89 10,52 11,16 11,81 12,46 13,12 13,79 17,19 20,71 24,31 27,99 31,74 35,53 39,38 43,28 47,21 51,17 55,17 59,20 63,25 67,33 75,55 83,85 92,22 100,7 109,1 152,2 196,2 240,7 330,9 422,3 514,5 607,4 700,7 794,5 888,6 0,010 0,00 0,02 0,12 0,30 0,55 0,87 1,24 1,65 2,09 2,56 3,05 3,57 4,11 4,66 5,23 5,81 6,41 7,02 7,63 8,26 8,90 9,54 10,20 10,86 11,52 12,20 12,88 13,57 14,26 14,95 18,51 22,16 25,90 29,71 33,57 37,49 41,44 45,44 49,48 53,54 57,63 61,75 65,90 70,07 78,46 86,92 95,45 104,0 112,7 156,4 200,9 246,0 337,2 429,4 522,4 615,9 709,9 804,3 898,9 0,025 0,00 0,05 0,22 0,49 0,83 1,24 1,69 2,18 2,70 3,25 3,82 4,40 5,01 5,63 6,26 6,91 7,56 8,23 8,91 9,59 10,28 10,98 11,69 12,40 13,12 13,84 14,57 15,31 16,05 16,79 20,57 24,43 28,37 32,36 36,40 40,58 44,60 48,76 52,94 57,15 61,39 65,65 69,93 74,22 82,87 91,57 100,3 109,1 118,0 162,7 208,1 253,9 346,5 439,9 534,0 628,6 723,5 818,8 914,3 0,050 0,00 0,10 0,35 0,71 1,15 1,64 2,17 2,73 3,33 3,94 4,58 5,23 5,89 6,57 7,26 7,96 8,67 9,39 10,12 10,85 11,59 12,34 13,09 13,85 14,61 15,38 16,15 16,93 17,71 18,49 22,47 26,51 30,61 34,76 38,96 43,19 47,45 51,74 56,05 60,39 64,75 69,13 73,52 77,93 86,79 95,71 104,7 113,7 122,7 168,3 214,4 260,9 354,6 449,1 544,2 639,6 735,4 831,4 927,6 0,100 0,02 0,21 0,58 1,06 1,61 2,20 2,83 3,49 4,17 4,87 5,58 6,30 7,04 7,79 8,55 9,31 10,09 10,67 11,65 12,44 13,24 14,04 14,85 15,66 16,47 17,29 18,11 18,94 19,77 20,60 24,80 29,05 33,35 37,69 42,06 46,46 50,88 55,33 59,80 64,28 68,78 73,29 77,82 82,36 91,47 100,6 109,8 119,0 128,3 174,8 221,8 269,1 364,2 459,9 556,1 652,5 749,2 846,1 943,1 0,250 0,10 0,58 1,21 1,92 2,68 3,46 4,26 5,07 5,90 6,74 7,58 8,44 9,30 10,17 11,04 11,91 12,79 13,68 14,56 15,45 16,34 17,24 18,14 19,04 19,94 20,84 21,75 22,66 23,57 24,48 29,05 33,66 38,29 42,94 47,61 52,29 56,99 61,70 66,42 71,15 75,88 80,63 85,38 90,13 99,67 109.2 118.8 128.4 138.0 186.2 234.6 283.1 380.6 478.3 576.3 674.4 772.7 871.0 969.5 0,750 1,32 2,77 4,11 5,39 6,63 7,82 9,04 10,22 11,39 12,55 13,70 14,85 15,98 17,12 18,25 19,37 20,49 21,61 22,72 23,83 24,94 26,04 27,14 28,24 29,34 30,42 31,53 32,62 33,71 34,80 40,22 45,62 50,99 56,33 61,67 66,98 72,29 77,58 82,86 88,13 93,39 98,65 103,9 109,1 119,6 130.1 140.5 150.9 161.3 213.1 264.7 316.1 418.7 521.0 523.0 0,900 2071 4,61 6,25 7,78 9,24 10,65 12,02 13,36 14,68 15,99 17,28 18,55 19,81 21,06 22,31 23,54 24,77 25,99 27,20 28,41 29,62 30,81 32,01 33,20 34,38 35,56 36,74 37,92 39,09 40,26 46,06 51,81 57,51 63,17 68,80 74,40 79,97 87,53 91,06 96,58 102,1 107,6 113,0 118,5 129,4 140.2 151.0 161.8 172.6 226.0 279.1 331.8 436.6 540.9 644.8 0,950 3,84 5,99 7,82 9,49 11,07 12,59 14,07 15,51 16,92 18,31 19,68 21,03 22,36 23,69 25,00 26,30 27,59 28,87 30,14 31,41 32,67 33,92 35,17 36,42 37,65 38,89 40,11 41,34 42,56 43,77 49,80 55,76 61,66 67,51 73,31 79,08 84,82 90,53 96,22 101,9 107,5 113,1 118,8 124,3 135,5 146.6 157.6 168.6 179.6 234.0 287.9 341.4 447.6 553.1 658.1 0,975 5,02 7,38 9,35 11,14 12,83 14,45 16,01 17,54 19,02 20,48 21,92 23,34 24,74 26,12 27,49 28,85 30,19 31,53 32,85 34,17 35,48 36,78 38,08 39,36 40,65 41,92 43,19 44,46 45,72 46,98 53,20 59,34 65,41 71,42 77,58 83,30 89,18 95,02 100,8 106,6 112,4 118,1 123,9 129,6 140,9 152.2 163.5 174.6 185.8 241.1 295.7 350.0 457.3 553.1 658.1 762.7 866.9 970.9 1090 0,990 6,64 9,21 11,35 13,28 15,09 16,81 18,48 20,09 21,67 23,21 24,73 26,22 27,69 29,14 30,58 32,00 33,41 34,81 36,19 37,57 38,93 40,29 41,64 42,98 44,31 45,64 46,96 48,28 49,59 50,89 57,34 63,69 69,96 76,15 82,29 88,40 94,42 100,4 106,4 112,3 118,2 124,1 130,0 135,8 147,4 159.0 170.4 181.8 193.2 249.4 304.9 359.9 468.7 576.5 683.5 0,995 7,88 10,60 12,84 14,86 16,75 18,55 20,28 21,96 23,59 25,19 26,76 28,30 29,82 31,32 32,80 34,27 35,72 37,16 38,58 40,00 41,40 42,80 44,18 45,56 46,93 48,29 48,29 50,99 52,37 53,67 60,28 66,77 73,17 79,49 85,75 91,95 98,11 104,2 110,3 116,3 122,3 128,3 134,2 140,2 151,9 163.6 175.3 186.8 198.4 255.3 311.3 366.8 476.6 585.2 893.0

724.9 748.4 762.7 826.6 851.7 866.9 928.2 954.8 970.9 1030.0 1058.0 1075.0

790.0 800.1 896.0 907.0 1002.0 1013.0 1107.0 1119.0

37

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Exemplo 2: Um ngulo foi medido em quatro etapas, conforme a tabela abaixo. Adotando pesos proporcionais ao nmero de observaes calcule os estimadores pontuais e por intervalo de confiana.
ngulo ( li ) 80 50 12 14 12 18 n de obs 6 3 9 6 24 pi 6 3 9 6 24 480 240 720 480 1920 pili 300 150 450 300 1200 72 42 108 108 330 (li - x ) -1,75 0,25 -1,75 4,25 pi(li - x )2 18,37502 0,18752 27,56252 108,37502 154,5002

Estimadores pontuais: a) Mdia ponderada

x=

pl
i =1 n

i i

p
i =1

x=

19201200'330" = 8050'13,75" 24

b) Erro mdio quadrtico de uma observao isolada pi vi2 ~ m= n 1


154,500 ~ m= = 2,59" 24 1

c) Erro mdio quadrtico da mdia ponderada ~ m~ = x pi vi2 (n 1) pi ~ m~ = x 154,500 = 0,53" (24 1) 24

Clculo dos estimadores por intervalo de confiana: Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia. Ento supondo um nvel de significncia = 5%.

38

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

a) Clculo do intervalo para a mdia: ) ) P ~ ~ t ~ + ~ t x x x x 1 1 2 2 da tabela de Student = 1

t 0,=3 = 3,18 ento : 975

P(8050'13,75" 0,53"3,18 8050'13,75" + 1,46"0,53) = 95% P(8050'12,07" 8050'15,43" ) = 95%

b) Clculo do intervalo para a varincia da mdia


P

pv p
i

2 i i 2 1

p v = 1 p
2 i i 2 i 2

da tabela de qui-quadrado

2 0,025 = 0,22

=3

2 0,975 = 9,35 ento:


P 0,69"2 2 29,26"2 = 95%

=3

154,500 154,500 P 2 = 95% 24 0,22 24 9,35

Extraindo-se a raiz tem-se o intervalo de confiana para o desvio padro P 0,83" 5,41" = 95%

39

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

5.2

Ajustamento de observaes indiretas

As observaes so classificadas como indiretas quando se mede uma grandeza de natureza diferente da procurada. Por exemplo, um ngulo para se determinar uma distncia. A soluo deste problema reside em se determinar qual o modelo matemtico que expressa a relao entre o valor medido e o procurado. Dependendo do tipo de equao encontrada se pode ter trs solues: a soluo pelo mtodo paramtrico, pelo correlato ou pelo combinado. Vamos supor que existam trs incgnitas (x, y e z) que se ligam aos valores medidos (lbi) pelas equaes abaixo: aix + biy +ciz + lbi = 0 onde i = 1,n (n 3) Se n = 3 a soluo nica, porm como lbi so observaes, e seus valores esto contaminados com os erros de observao, so feitas mais medidas que as necessrias. Para resolver o problema da inconsistncia do sistema formado (cada conjunto de 3 equaes fornece uma soluo diferente) aplica-se o principio dos mnimos quadrados. VTPV = min O sistema de equaes pode ser matricialmente representado como: AX + Lb =0 onde: A - a matriz formada pelos coeficientes do sistema (ai; i=1,n); X - so os valores incgnitos (x,y e z) Lb - so os valores medidos (lbi).

40

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Aps aplicarmos o M.M.Q. os valores observados no sero mais os originais e sim ajustados (La) assim como os parmetros calculados sero denominados de ajustados (Xa). Se ao montarmos o sistema de equaes for possvel isolar pela igualdade os valores incgnitos (parmetros) dos valores observados, resolve-se pelo mtodo paramtrico.

F(Xa) = La

Se ao montarmos o sistema de equaes s aparecerem valores medidos e nenhum parmetro, a soluo dada pelo mtodo correlato.

F(La) = 0

Finalmente, se no sistema de equaes no for possvel isolar os parmetros dos valores observados, a soluo dada pelo mtodo combinado.

F(Xa, La) = 0

Considerando a exigidade do tempo do curso, s ser dada ateno ao mtodo paramtrico.

41

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

5.2.1

Mtodo Paramtrico

As equaes que relacionam os valores medidos com os incgnitos, tambm denominados parmetros, so conhecidas como equaes de observao. A caracterstica delas que se pode separar observao de incgnita. F(Xa) = La fazendo Xa = X0 + X La = Lb + V onde : Xa Xo X La Lb V parmetros incgnitos ajustados parmetros aproximados correes aos parmetros aproximados valores observados ajustados valores observados correes aos valores observados (resduos)

Ento

F(X0 + X) = Lb + V

O primeiro termo da igualdade normalmente uma funo do tipo no linear, portanto a sua linearizao feita por Taylor :

F(X 0 ) +

F X a

X = Lb + V
xa = x 0

designando por

L0 = F(X0)

A=

F X a

vem:
xa = x 0

L0 + AX = Lb + V fazendo L = L0 - Lb

AX + L0 Lb = V

42

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Finalmente

AX + L = V

Aplicando o mtodo dos mnimos quadrados

= VTPV = ( AX + L )TP(AX + L ) = min


Derivando essa equao e igualando a zero encontra-se um ponto de mnimo. Esse procedimento j foi realizado no item sobre o M.M.Q, ou seja : X = - (ATPA) -1(ATPL) Fazendo N = (ATPA) X = - N -1U e U = (ATPL) Xa = Xo + X

<=>

Que a soluo de M.M.Q. para o mtodo paramtrico. Neste mtodo a matriz varincia-covarincia dos parmetros obtida diretamente da matriz normal invertida (N-1) mais um fator de varincia da unidade de
2 peso a priori. ( 0 )

X
equao:

2 = 0 N 1

A matriz varincia-covarincia dos valores ajustados obtida pela seguinte

2 = 0 A N 1 A T

e a matriz varincia-covarincia dos resduos por:

V =

2 0

( A N 1 AT P 1 )

2 O valor do 0 (sigma a priori) normalmente igual a 1.

2 Aps o ajustamento calcula-se um fator de varincia a posteriori 0 que ao ser comparado com o a priori informa a qualidade do ajustamento. 43

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Este valor calculado pela seguinte equao 02 = onde : V P n u V T PV nu

vetor dos resduos matriz dos pesos nmero de equaes superabundantes nmero de parmetros incgnitos denominado de graus de liberdade ( ).

A diferena entre n u

A matriz peso normalmente definida como sendo a inversa da matriz varincia-covarincia das observaes vezes o fator sigma a priori.

2 P = 0 1 Lb

Qualidade do ajustamento.

Aps o ajustamento preciso verificar a sua qualidade. No mtodo dos mnimos


2 2 quadrados aplica-se um teste de hiptese para verificar se estatisticamente 0 = 0

(sigma a priori igual a sigma a posteriori). No teste de hiptese adota-se a distribuio de Qui-quadrado (2).
Teste de hiptese.

Hiptese bsica Hiptese alternativa qui-quadrado amostral

Ho H1 2 = V T PV

02 = 02 2 0 > 02

02

44

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Verifica-se se o qui-quadrado amostral atende a equao abaixo:


P 2 < 2,1 = 1

onde:

2,1

valor terico da distribuio obtido da tabela de quiquadrado com graus de liberadade e com 1 de probabilidade nvel de significncia

Caso esta hiptese no se confirme, isto indica que existe algum problema ou com os dados (existncia de erros grosseiros ou sistemticos) ou com as equaes de observao (modelo inadequado).
Seqncia prtica de clculo

Quando se pretende ajustar pelo mtodo paramtrico existe uma seqncia de procedimentos que facilitam o clculo. Esta seqncia esta apresentada abaixo 1 Passo Define-se o modelo matemtico que liga parmetros com observaes; 2 Passo A partir da matriz varincia-covarincia das observaes, se estabelece a matriz dos pesos; 3 Passo atribuem-se valores aproximados aos parmetros incgnitos gerando o vetor X0; 4 Passo Calcula-se o vetor L = L0 -Lb. O vetor L0 obtido substituindo-se nas equaes de observao os parmetros por seus valores aproximados e o vetor Lb montado com as observaes. 5 Passo Gera-se a matriz dos coeficientes (A). Se o modelo no linear necessrio derivar as equaes de observao em relao aos parmetros e substituir nestas derivadas, os parmetros por valores aproximados; 6 Passo Calcula-se as matrizes N = ATPA (matriz normal) e a matriz U = ATPL; 7 Passo Inverte-se a matriz normal (N-1); 45

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

8 Passo Calcula-se o vetor de correo aos parmetros aproximados X= - N-1 U; 9 Passo Calcula-se os parmetros ajustados (Xa) e retorna-se ao quarto passo no caso de modelo no linear. Procede-se desta forma at que o vetor das correes (X) tenda a um valor que ns consideremos igual a zero. 10 Passo - Encerrado o processo de iterao, calcula-se o valor das observaes ajustadas substituindo-se os parmetros ajustados nas equaes de observao. La = F (Xa) 11 Passo Calcula-se o vetor dos resduos fazendo a diferena entre os valores observados ajustados e os observados. V = La Lb; 2 12 Passo Calcula-se o valor de sigma a posteriori 0 = V T PV ; nu

13 Passo Aplica-se o teste de hiptese. Se o teste for bem sucedido calcula-se as matrizes varincia-covarincia dos parmetros, dos valores observados e dos resduos. 14 Passo Clculo das matrizes varincia-covarincia dos parmetros, das observaes e dos resduos. Esta seqncia de clculo no precisa ser seguida exatamente nesta ordem, mas, ela privilegia uma lgica no clculo.

46

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Exemplo : A partir de quatro marcos com coordenadas conhecidas foi medida a distncia a um ponto central. Calcule as coordenadas desse ponto, ajuste as distncias observadas e determine a preciso dos valores ajustados.
M1 l1 P l3 M3 l2 M2

l4 M4

Marco M1 M2 M3 M4

X (m) 842,281 1337,554 1831,727 840,408

Y (m) 925,523 996,249 723,962 658,345

Caderneta de Campo lbi 1 2 3 4 1 Passo Modelo matemtico Inicialmente devemos levar em conta que os parmetros procurados so as coordenadas do ponto central P, que foram observadas distncias e finalmente, que se conhece as coordenadas dos marcos. Ento a equao que envolve todos esses valores a equao da reta, ou seja : Distncia (m) 244,512 321,570 773,154 279,992 m (m) 0,012 0,016 0,038 0,014

(x

m i

xP

+ ( y im y P ) 2 = li

i = 1, 4 onde : xim , y im xp , yp li so as coordenadas dos quatro marcos so os parmetros incgnitos so as distncias observadas

Observa-se que neste modelo os parmetros esto de um lado da igualdade e as observaes do outro.

47

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

2 Passo Matriz dos Pesos A matriz dos pesos e formada pela matriz inversa da varincia-covarincia das observaes. As observaes no so correlacionadas. Ento :
(0,012)2 0 Lb = 0 0 1 (0,012)2 0 P= 0 0 0 (0,016)2 0 0 0 0 (0,038)2 0 0 0 2 m 0 (0,014)2 0 1 2 m 0 1 2 (0,014) 0

0 0 1 (0,038)2 0

(0,016)2
0 0

3 Passo Atribuio de valores aproximados aos parmetros. Podem-se utilizar vrios critrios para se estabelecer um valor inicial, como por exemplo, obter o valor mdio das entre os quatro marcos. Ou ainda escolher arbitrariamente um valor. Independentemente do valor escolhido, aps algumas iteraes, os parmetros convergem para uma nica resposta. Adotaremos, para efeito de exemplo, os valores da penltima iterao como valores iniciais aproximados.

X0 = [ 1065,2 m 825,2 m ]T

48

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

4 Passo Clculo do valor L L = L0 - Lb e L0 = F(X0)

(842,281 1065,2)2 + (925,523 825,2)2 244,45365m (1337,544 1065,2 )2 + (996,249 825,2)2 321,60382m = L0 = 2 2 (1831,727 1065,2) + (723,962 825,2 ) 773,18353m (840,408 1065,2 )2 + (658,345 825,2)2 279,95006m 244,45365 244,512 0,05835m 321,60382 321,570 0,03382m = L= 773,18353 773,154 0,02953m 279,95006 279,992 0,04194m

5 Passo Matriz dos coeficientes (A) O modelo matemtico do tipo no linear. Deste modo necessrio se determinar as equaes derivadas da funo em relao a xp e yp e substituir nelas os parmetros aproximados.

(x
x xa F (l1 ) = 0,911907 = 1 l a1 x a x xa F (l 2 ) = -0,846831 = 2 la2 x a x xa F (l 3 ) = -0,991391 = 3 la3 x a x xa F (l 4 ) = 0,802972 = 4 la4 x a

m i

xP

+ ( y im y P ) 2 = li y ya F (l1 ) = 1 = -0,410397 l a1 y a y ya F (l 2 ) = 2 = -0,531862 la2 y a F (l3 ) y ya = 3 = 0,130937 la3 y a y ya F (l 4 ) = 4 = 0,596017 y a la4

49

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Colocando estes resultados na matriz dos coeficientes:

0,911907 0,410397 0,846831 0,531862 A= 0,991391 0,130937 0,596017 0,802972 6 Passo Clculo da matriz N (normal) e da matriz U N = ATPA e U = ATPL
0 0 0 6.944,44 0,911907 0,410397 0,846831 0,531862 0 3.906,25 0 0 0,911907 0,846831 0,991391 0,802972 N = 0,991391 0,130937 0 0 692,52 0 0,410397 0,531862 0,130937 0,596017 0 0 0 5.102,04 0,802972 0,596017

12.546,3385 1.512,3136 N = 1.512,3136 4.098,9137


0 0 0 0,05835 6.944,44 0 3.906,25 0 0 0,03382 0,911907 0,846831 0,991391 0,802972 U = 0 692,52 0 0,02953 0,410397 0,531862 0,130937 0,596017 0 0 0 5.102,04 0,04194 0

- 673,4800 U = - 28,8256 7 Passo Clculo da matriz inversa de N 0,083414 - 0.03078 N 1 = 10 3 - 0.03078 0,25532 8 Passo Vetor de correo aos parmetros.

X = - N-1U

X = [0,055291 -0,013367]T 50

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

9 Passo Parmetros ajustados. 1.065,2m 0,055291m 1.065,2551m Xa = + = 825,2m 0,013367m 825,1866m Como comentado anteriormente, numa situao normal, estes valores seriam utilizados para o clculo a partir do 4 passo. Este processo s seria interrompido quando o vetor das correes tivesse os seus valores abaixo de uma tolerncia. Por exemplo, quando os valores de X fossem menores que 0,00001m. Este no o caso. 10 Passo Clculo dos valores observados ajustados (842,281 1.065,2551)2 + (925,523 825,1866)2 244,50955m (1337,544 1.065,2551)2 + (996,249 825,1866)2 321,56411m = La = 2 2 (1831,727 1.065,2551) + (723,962 825,1866) 773,12697m (840,408 1.065,2551)2 + (658,345 825,1866 )2 279,98649m 11 Passo Clculo dos resduos 244,50955m 244,512m - 0,0024m 321,56411m 321,570m - 0,0059m = V = 773,12697 m 773,154m - 0,0270m 279,98649m 279,992m - 0,0055m

V = La - Lb

12 Passo Clculo do sigma a posteriori. VTPV = 0,8383

02 =

0,8383 = 0,4191 42

51

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

13 Passo Teste de Hiptese Hiptese bsica Hiptese alternativa qui-quadrado amostral


2 Com 0 = 1

Ho H1 2 = V T PV

02 = 02 02 > 02

02

2 = 0,8383

Determinao do 2 terico. Considerando = 5% de nvel de significncia 1 = 95% = n u = 4 2 = 2 (graus de liberdade)

2 Da tabela de 2 obtm-se : 0,95; = 2 = 5,99

P (0,8383 < 5,99 ) = 95%

Como o qui-quadrado amostral menor que o terico, ento a hiptese H0 considerada vlida, e neste caso considera-se que o ajustamento no apresenta problemas. 14 Passo Clculo das matrizes varincia-covarincia

2 = 0 N 1

0,083414 - 0.03078 3 2 Xa = 10 m - 0.03078 0,25532

2 = 0 A N 1 A T

52

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

0,1354 0,0045 0,1053 0,0080 0,0045 0,1043 0,0394 0,1090 10 3 m 2 La = 0,1053 0,0394 0,0944 0,0315 0,1150 0,0080 0,1090 0,0315 A partir destes resultados se pode montar uma tabela: lbi 1 2 3 4 Distncia medidas (m) 244,512 321,570 773,154 279,992 m (m) 0,012 0,016 0,038 0,014 Distncia ajustadas (m) 244,50955 321,56411 773,12697 279,98649 m (m) 0,0116 0,0102 0,0097 0,0107

xp yp

Coordenadas (m) 1.065,2551 825,1866

m (m) 0,0091 0,0160

A partir desse exemplo, observa-se que a grande diferena entre um processo de compensao, comum em topografia, com o de mnimos quadrados que no segundo, alm de se ter a coordenadas ajustadas, tem-se tambm a estimativa de suas precises.

5.3

Ajustamento de observaes diretas condicionadas

As observaes diretas condicionadas so aquelas onde as observaes so obtidas diretamente com um mensurador de mesma natureza que a grandeza procurada e se relacionam atravs de uma equao ou funo de condio. Neste caso a soluo de mnimos quadrados dada pelo mtodo conhecido como Correlatos.

53

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

5.3.1

Mtodo dos Correlatos

O modelo matemtico do mtodo dos correlatos ou das equaes de condio envolve apenas os valores observados e dado por : F(La) = 0 onde : La Lb V e La = Lb + V

valores observados ajustados valores observados correes aos valores observados (resduos)

Aplicando a equao no modelo, vem F(Lb + V) = 0 Fazendo-se uma linearizao por Taylor, obtm-se F ( La ) = F ( Lb + V ) F ( Lb ) + F La (L a Lb ) = 0
Lb

designando por

W = F(Lb)

B=

F La

Lb

onde :

W B

que corresponde a um vetor erro de fechamento; a matriz das derivadas derivadas parciais das equaes de condio em relao as observaes.

BV + W = 0

Equao correspondente ao modelo dos correlatos ou das equaes de condio linearizado.

54

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:

= V T PV 2 K T ( BV + W ) = min
onde : V P K B W correes aos valores observados (resduos) matriz dos pesos vetor dos multiplicadores de Lagrange ou dos correlatos matriz das derivadas parciais vetor erro de fechamento

Derivando a equao acima parcialmente em relao aos resduos e aos multiplicadores de Lagrange e igualando a zero as duas equaes resultantes, tem-se : = 2 PV 2 B T K = 0 V = 2( BV + W ) = 0 K isolando V na equao (1) V =P-1BTK e substituindo na (2), vem:

PV - B T K = 0 (1)

BV + W = 0 (2)

K = -(BP-1BT)-1W Reescrevendo numa seqncia lgica W = F(Lb) B= F La

ou

K = -M-1W

Lb

M = BP-1BT K = -M-1W 55

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

V =P-1BTK La = Lb + V

O conjunto destas equaes a soluo de M.M.Q para o mtodo dos correlatos. Neste mtodo a matriz varincia-covarincia dos valores ajustados obtida pela seguinte equao:

)2 = 0 P 1 I B T M 1 BP 1

e a matriz varincia-covarincia dos resduos pela equao:


) V = (P
2 0

B T M 1 BP 1

o valor de sigma a posteriori pode ser calculado como no mtodo paramtrico ou pela seguinte frmula:

02 =
onde : r

K TW r

nmero de equaes de condio ou graus de liberdade do problema

A qualidade do ajustamento tambm, neste caso feita com a aplicao do mesmo teste de hiptese utilizado no mtodo combinado.

56

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Exemplo: Ajustar a rede de nivelamento geomtrico dado, pelo mtodo das equaes de condio (correlato). A preciso da observao dada por : = 4mm K , sendo K em quilmetros. Linha 1 2 3 4 5 6 h (m) 6,16 12,57 6,41 1,09 11,58 5,07 Dist. (km) 4,5 2,0 1,8 4,0 2,2 4,5
C

Obs.: as setas indicam o sentido em que o terreno se eleva.

4 2 RNA

5 B 3 1

1 - Modelo Matemtico Observando o esquema se extrai trs circuitos diferentes que corresponde a trs equaes de condio. equao, vem: Lb1 - Lb2 + Lb3 = 0 Lb2 - Lb4 - Lb5 = 0 Lb3 - Lb5 + Lb6 = 0 Considerando que todas as vezes que o sentido de caminhamento for contrrio a seta (elevao do terreno) adota-se o sinal negativo na

que so as equaes de condio

2 - Vetor das observaes (LB) e dos erros de fechamento (W) 6,16 12,57 6,41 Lb = , 1,09 11,58 5,07

6,16 12,57 + 6,41 0,00 W = F (Lb) = 12,57 1,09 11,58 = 0,10 6,41 11,58 + 5,07 0,10

3 - Matriz das derivadas parciais (B) e dos Pesos (P) 1 1 1 0 0 0 1 0 1 1 0 Lb = 0 0 0 1 0 1 1

F ( La ) B= La

57

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Como as observaes so no correlacionadas, a matriz dos pesos s ter valores na diagonal principal. Estes valores sero calculados multiplicando-se a raiz das distncias em quilmetros por 0,003 m e quadrando-se em seguida o resultado. No mtodo correlato necessita-se do peso invertido. Neste caso ser gerada a matriz inversa diretamente. No caso de matrizes diagonais, basta inverter os valores da diagonal. Ento a matriz invertida de P recebe os seguintes valores: 0 0 0 0 0 0,008485 0 0,005657 0 0 0 0 0 0 0,005367 0 0 0 P 1 = 0 0 0 0,008000 0 0 0 0 0 0 0,005933 0 0 0 0 0 0 0,008485 4 - Clculo da Matriz M e dos vetores dos coeficientes de Lagrange (K), dos resduos (V) e dos valores observados (La)

0,01951 0,00566 0,00537 M = BP B = 0,00566 0,01959 0,00593 0,00537 0,00593 0,01978


1
T

27,0379 26,0848 66,2748 67,1767 27,4785 M 1 = 27,0379 26,0848 27,4785 65,8594

0,0008 6,161 0,0219 12,592 0,09531 0,0211 6,431 K = M 1W = 3,96982 , V = P 1BT K = , La = Lb + V = 0,0318 1,058 3,83809 0,0463 11,534 0,0326 5,103

58

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

)2 5 - Clculo de sigma a posteriori ( 0 ) e da Matriz varincia-covarincia dos


valores observados ajustados (La)

K T W 0,781 0 = = = 0,260 r 3

)2

10 5 1 5 ) La = 02 P 1 ( I B T M 1 P 1 ) = 1000 5 0 5

5 5 5 0 8 3 5 3 3 8 0 3 5 0 10 5 3 3 5 8 0 5 5 5

5 0 5 5 5 10

A partir desta matriz obtm-se as precises dos valores observados ajustados Linha 1 2 3 4 5 6 hobs (m) 6,16 12,57 6,41 1,09 11,58 5,07 V (m) 0,0008 0,0219 0,0211 -0,0318 -0,0463 0,0326 hajust (m) 6,161 12,592 6,431 1,058 11,534 5,103 h(m) 0,0311 0,0285 0,0282 0,0310 0,0288 0,0312 Dist. (km) 4,5 2,0 1,8 4,0 2,2 4,5

59

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

5.4

Mtodo Combinado

Quando no for possvel explicitar as observaes em funo dos parmetros a soluo por M.M.Q. dada pelo mtodo Combinado, cuja equao de definio a seguinte: F(La,Xa) = 0 onde : La = Lb + V Xa = Xo + X - valores observados ajustados - parmetros ajustados

Aplicando a equao no modelo, vem F(Lb + V, Xo + X) = 0 Fazendo-se uma linearizao por Taylor, obtm-se F ( La ) = F ( Lb + V , X 0 + X ) F ( Lb , X 0 ) + F X a ( X a X 0 ) +
Xo

F La

(L a Lb ) = 0
Lb

designando por

W = F(Lb; Xa) ; A =

F X a

e
X0

B=

F La

Lb

onde :

W A B

que corresponde a um vetor erro de fechamento; a matriz das derivadas derivadas parciais das equaes de observao em relao aos parmetros. a matriz das derivadas derivadas parciais das equaes de observao em relao s observaes.

AX + BV + W = 0

Equao correspondente ao modelo Linearizado do mtodo combinado.

60

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:

= V T PV 2 K T ( AX + BV + W ) = min
onde : V P K A B W correes aos valores observados (resduos) matriz dos pesos vetor dos multiplicadores de Lagrange ou dos correlatos Matriz das derivadas parciais (parmetros) matriz das derivadas parciais (observaes) vetor erro de fechamento

Derivando a equao acima parcialmente em relao aos resduos (V), aos multiplicadores de Lagrange (K) e as correes (X) e igualando a zero as trs equaes resultantes, tem-se : = 2 PV 2 B T K = 0 V = 2( AX + BV + W ) = 0 K = 2 AT K = 0 X isolando V na equao (1) V =P-1BTK e substituindo na equao (2), vem: AX + BP-1BTK + W = 0 Fazendo M = BP-1BT AX + MK + W = 0 Isolando K K = -M-1(AX +W ) 61 PV - B T K = 0 (1)

AX + BV + W = 0 (2)

AT K = 0 (3)

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Substituindo em (3) -ATM-1(AX +W ) = 0 < = > X = -(ATM-1A)-1ATM-1W

Reescrevendo numa seqncia lgica W = F(Lb;Xo) A= F X a F La

X0

B=

Lb

M = BP-1BT X = -(ATM-1A)-1ATM-1W K = -M-1(AX +W ) V =P-1BTK La = Lb + V Xa = Xo + X

O conjunto destas equaes a soluo de M.M.Q para o mtodo combinado. Neste mtodo a matriz varincia-covarincia dos parmetros obtida pela seguinte equao

X
seguinte equao:

2 = 0 AT M 1 A

A matriz varincia-covarincia dos valores observados ajustados obtida pela

La =

)2
0

P 1 ( I B T M 1 P 1 )

62

NILTON RICETTI XAVIER DE NAZARENO - ENGENHEIRO CARTGRAFO nazagyn@brturbo.com.br

Referncias Bibliobrficas

CAMARGO, P. O. Ajustamento de Observaes. Presidente Prudente. (Notas de aula do Curso de Graduao em Engenharia Cartogrfica, FCT/UNESP) , 2000. DALMOLIM, Q. Ajustamento por Mnimos Quadrados. Curitiba: Ed. UFPR, 2002. GEMAEL, C. Introduo ao Ajustamento de Observaes: Aplicaes Geodsicas. Curitiba: Ed. UFPR, 1994.

63