Slides Curso MMQ13 Fev 2014

Mtodo dos Mnimos
Quadrados
com nfase em varincias e com
recursos matriciais
(13/2/2014)
Otaviano Helene
Curso de extenso universitria, IFUSP, fevereiro/2014
Baseado no livro Mtodo dos Mnimos Quadrados com
Formalismo Matricial, LF Editorial, 2. edio, 2013
http://livrommq.blogspot.com.br/
Problema sem soluo
m0 60 kg m0+f0 65 kg f0 4 kg
m=60
m+f=65 SISTEMA INCONSISTENTE
f=4
Quanto pesam criana e me?

Mtodo dos Mnimos Quadrados, IFUSP,
2
fevereiro/2014
I Soluo do MMQ
Procurar valores de m e f que minimizem
Q(m, f ) (m 60) 2 (m f 65) 2 (f 4) 2

3
fevereiro/2014
Valores de Q para diferentes
valores de m e f
2 2 2
Q(m, f ) (m 60) (m f 65) (f 4)
Me, m (kg)
58 59 60 61 62
Filho, 3,5 16,5 7,5 2,5 1,5 4,5
f (kg) 4,0 13,0 5,0 1,0 1,0 5,0
4,5 10,5 3,5 0,5 1,5 6,5
5,0 9,0 3,0 1,0 3,0 9,0
5,5 8,5 3,5 2,5 5,5 12,5

4
fevereiro/2014
Outro exemplo
medidas de um quadrado
Lado do quadrado: l=10 cm
rea do quadrado: a=120 cm2
Permetro: p=35 cm
Evidentemente, inconsistentes
Q(l ) (l 10) 2 (l 2 120) 2 (4l 35) 2

5
fevereiro/2014
1000
900
800
700
600
Q(l) 500
400
300
200
100
0
9 10 11 12 13
l (cm)
O melhor valor para l 10,9 cm

6
fevereiro/2014
Soluo analtica
Quando os dados dependem linearmente dos
parmetros a serem ajustados, h uma soluo
analtica para os valores que minimizam Q. Exemplo
m 60
m+f 65
f4
2 2 2
Q(m, f ) (m 60) (m f 65) (f 4)

7
fevereiro/2014
Q(m, f ) (m 60) 2 (m f 65) 2 (f 4) 2
Q
0
m ~ ~
m, f
Q
0
f ~, ~
m f
Os valores ajustados tm um til
~ ~ ~
2(m 60) 2(m f 65) 0
~ ~
2(m f 65) 2( f 4) 0
8
fevereiro/2014
~ ~
2m f 125
~
m 2 f 69
Escrevendo na forma de matrizes
2 1 m~ 125
~
1 2 f 69
~
m 2 1
1
125 60,3
~
f 1 2 69 4,3
A menos de arredondamento, so os mesmo

valores obtidos numericamente acima
9
fevereiro/2014
Vamos nos restringir ao caso linear.
O caso no linear uma aproximao, e

algumas propriedades timas do MMQ no
so vlidas. Deixaremos isso para o fim.

10
fevereiro/2014
Sobre o MMQ
1) O MMQ mais geral do que se pensa. Ele
no serve apenas para ajustar funes, os
dados no precisam obedecer a distribuies
normais e pode haver dependncia entre eles.
(A Wikipdia em portugus est errada!)
2) O MMQ tem limitaes que nem sempre
so consideradas (p. ex., nos casos em que h
erro na varivel dependente ou a relao
entre dados e parmetros no linear).

11
fevereiro/2014
II O desvio padro e alguns
exemplos de ajustes de parmetros
H caso em que alguns dados so mais precisos
do que outros.
Exemplos: como combinar medidas com
instrumentos diferentes (paqumetro e rgua);
medidas de uma mesma grandeza com tcnicas
diferentes (acelerao da gravidade por queda
livre ou por oscilao de pndulos); medidas
feitas por pessoas com habilidades diferentes
(estudantes e pesquisadores experientes) ...
12
fevereiro/2014
Aprendendo o que fazer com medidas
equivalentes
x1, x2 e x3 trs medidas equivalentes (mesmos
procedimentos, equipamentos,
experimentadores, condies externas ...). O
melhor resultado (veremos em breve o que
melhor quer dizer) uma mdia simples:
x1 x2 x3
x
3
13
fevereiro/2014
Suponha, agora, que x2 e x3 tenham sido combinados,
x2 x3
x2 , 3
2
e no saibamos mais seus valores, apenas o valor
mdio x2,3. Como combin-lo com x1? Como x2,3 foi
calculado usando dois dados, razovel que ele
tenha peso 2. Portanto, a mdia deve ser
x1 2 x2,3 x1 x2 x3
x1; 2,3 x
3 3

14
fevereiro/2014
O peso deve refletir a preciso de um
dado. Esse dado pode ser o resultado de
vrias medies, uma mdia, o resultado
de um ajuste ...
O peso proporcional ao inverso da varincia: 1/2.
2 a varincia e o desvio padro.
uma medida de quanto um valor flutua em torno
do valor verdadeiro da grandeza medida.
Exemplo: rgua0,3 mm; paqumetro0,05 mm

15
fevereiro/2014
Como saber o valor de ?
O fabricante de um equipamento pode
informar
Fazendo vrias medidas de uma mesma
grandeza
Estudando as propriedades fsicas do processo
Conhecimento anterior
o d.p.; 2 a varincia
16
fevereiro/2014
Estimando o d.p.
I - Muitas vezes, precisamos estimar o d.p. a partir de
medidas independentes de uma mesma grandeza, p. ex.,
x1, x2, x3 ... xn. Neste caso, o desvio padro de cada dado
1 n
estimado por 2
x x
2
i
n 1i 1

17
fevereiro/2014
II O desvio padro da mdia de n dados
independentes 2
mdia
n
III Eventos contveis, como o nmero de

decaimentos de uma fonte radioativa (distribuio de
Poisson). Se N eventos forem observados, 2N.
IV Por experimentos anteriores, conhecemos muito
bem o d.p.

18
fevereiro/2014
No que segue:
Vamos nos restringir ao caso em que os
parmetros a serem ajustados dependem
linearmente do dados.
Vamos supor conhecidos os desvios padres.
Abrir mo dessas limitaes tm

consequncias que veremos mais adiante.
19
fevereiro/2014
Dois exemplos
1 Consumo de combustvel: gc e ge
(litros/km)
distncia percorrida consumo

(km) (l)
cidade estrada
100 200 28
300 100 43
400 0 49
20
fevereiro/2014
a equao do MMQ
Q( g c , g e ) (100 g c 200 g e 28) 2
(300 g c 100 g e 43) 2 (400 g c 49) 2
Derivando em relao a gc e ge, igualando a zero
~ ~
2600 g c 500 g e 353
~ ~
500 g c 500 g e 99
g~ 0,12 l / km c
Soluo: ~
ge 0,077 l / km
21
fevereiro/2014
2 Ajuste dos parmetros da funo
y=ax2+bx3 aos dados abaixo
x y
-1 3,9
0 -1,6
1 1,4
3 -15
2 3 2
Q ( a, b) yi axi bxi

22
fevereiro/2014
Derivando em relao a a e b ...
~
a~ 2 2
xi xi b 2 3
xi xi 2
xi yi
~ 3 2 ~ 3 3 3
a xi xi b xi xi xi yi
Soluo
~
a 2,6
~
b 1,4
23
fevereiro/2014
24
fevereiro/2014
~
a~ 2 2
xi xi b 2 3
xi xi 2
xi yi
~ 3 2 ~ 3 3 3
Essa forma estranha de escrever pelo seguinte
A funo y=ax2+bx3
~ 2 2 ~ 2 3 2
~ 3 2 ~ 3 3 3
25
fevereiro/2014
Isso facilita as coisas
y=a0 f+b0 g+c0 h+..., f, g, h... so valores conhecidos e
a0, b0, c0 ... parmetros a serem ajustados.
n yi afi bgi chi ... 2
Q(a, b, c,...) 2
i 1 i
fi yi fi2 fi gi fi hi
2 2 2

2
i i i i a~
gi yi fi gi gi2 gi hi b
~
2 2 2 2
i i i i c~
hi yi fi hi gi hi hi2
2
i 2 2 2
i i i

26
fevereiro/2014
Pequena digresso sobre tendenciosidade
Primeiro exemplo
Suponha que o tempo verdadeiro a ser medido
seja de 2s
Suponha que haja um medidor de tempo no
tendencioso que mea os valores abaixo com as
probabilidades indicadas:
resultado probabilidade
1,8 s 25%
2,0 s 50%
2,2 s 25%
27
fevereiro/2014
Um dado obtido pode ser 1,8s, 2,0s ou 2,2s.
Ex. de alguns dados possveis: 1,8, 2,2, 2,2, 2,0. A
mdia que ser adotada como resultado, pois o
experimentador no sabe que as probabilidades
so aquelas ser (1,8+2,2+2,2+2,0)/4=20,5s.
Fazer isso garante a no tendenciosidade das
medidas de tempo.
No tendenciosidade significa que se essa
medida for repetida indefinidamente, a mdia
ser 1,80,25+2,00,50+2,20,25=2,0, que o
valor verdadeiro.
Concluso: o tempo medido de forma no
tendenciosa

28
fevereiro/2014
Mas...
Suponha que algum mea a acelerao da
gravidade por queda livre, de um altura de 20m e,
para simplificar, suponha que o valor verdadeiro
seja g=10m/s2, a velocidade inicial seja nula e a
posio inicial, idem. Ou seja,
1 2s
s g t 2 ou g 2
2 t
Suponha, agora, que aquele mesmo processo
seja usado para medir o tempo:

29
fevereiro/2014
Os resultados de g sero estes, com as
probabilidade indicadas:
resultado probabilidade g (m/s2)
1,8 s 25% 12,35
2,0 s 50% 10,00
2,2s 25% 8,26
Essa uma medida tendenciosa de g, pois
12,350,25+10,000,50+8,260,25=10,15m/s2.
Origem da tendenciosidade: relao no linear
entre o dado e o parmetro
30
fevereiro/2014
Segundo exemplo medida da massa
de um liquido em um recipiente
Dez medidas no
Dados (g) Dados (g) Diferenas (g)
tendenciosas das 2,56 1,41 1,15
massas do lquido no 1,22 2,96 -1,74
3,51 1,91 1,60
recipiente e do 3,9 1,74 2,16
recipiente vazio. 4,09 1,84 2,25
2,38 1,84 0,54
As diferenas so os 2,27 0,67 1,60
3,78 2,25 1,53
dados correspondentes 2,58 3,05 -0,47
ao lquido apenas 3,99 0,76 3,23

31
fevereiro/2014
Se as medidas de massa so no tendenciosas,
ento as diferenas tambm no o so.
A mdia das diferenas tambm no
tendenciosa. Essa mdia 1,19 g.
Entretanto, se os dados no fsicos (massas
negativas) forem descartados, a mdia, que ser
1,76 g, ser tendenciosa. A tendenciosidade
surge por causa de um procedimento inadequado
do experimentador: os valores negativos so no
fsicos, mas estatisticamente necessrios!

32
fevereiro/2014
III Varincias
Funo densidade de probabilidade (fdp)
P intervalo
f ( x ) dx
0,1
Funo densidade de probabilidade
0,075
0,05
0,025
0
0 5 10 15 20
x - varivel
33
fevereiro/2014
Muitas vezes, a fdp conhecida.
Ex: Maxwell; lorentziana; uniforme...
A varincia mede a disperso da grandeza e
pode ter significado fsico ou informao
estatisticamente relevante
2
x (x x0 ) 2 (x x0 ) 2 f ( x) dx
sendo
x0 x x f ( x) dx
34
fevereiro/2014
Outras vezes conhecemos a forma e algum
parmetro da fdp e desconhecemos outro(s)
Ex. Sabemos que a fdp gaussiana, ou lorentziana etc.,

mas no conhecemos algum parmetros
Gaussiana: Conhecemos e desconhecemos x0.
2 2
( x x0 ) / 2
f ( x) A e

35
fevereiro/2014
Podemos conhecer (ou estimar muito bem) a varincia
a partir de experimentos anteriores e, no experimento
em questo, s precisamos estimar x0

36
fevereiro/2014
Covarincias
f(x1,x2)
x2
x1
cov( x1 , x2 ) x1 x01 x2 x02

x1 x01 x2 x02 f ( x1 , x2 )dx1dx2
37
fevereiro/2014
Representando varincias e covarincias
2
1 cov(y1 y2 ) cov(y1 yn )
2
cov(y1 y2 ) 2 cov(y2 yn )
VY

2
cov(y1 yn ) cov(y2 yn ) n

38
fevereiro/2014
Propagao de varincias uma
funo de uma varivel
z uma funo que depende de y, z(y). Se
expandirmos z at primeira ordem em torno de y0
dz
z( y) z ( y0 ) (y y0 )
dy y
0
ento
dz
z0 z( y) z ( y0 ) (y y0 ) z ( y0 )
dy y
0
pois <y>=y0
39
fevereiro/2014
A varincia de z pode ser
calculada assim:

40
fevereiro/2014
Propagao de matrizes de
covarincia
Repetindo o procedimento com mais funes e
mais variveis
z1(y1,y2,...yn), z2(y1,y2,...yn), ... zm(y1,y2,...yn),
so m funes de n variveis:

41
fevereiro/2014
t
VZ D VY D
z1 z1 z1

y01 y02 y0 n
z2 z2 z2

D y01 y02 y0 n

zm zm zm

y01 y02 y0 n

42
fevereiro/2014
Exemplo 1
Lados de um retngulo: y1=105 (4), y2=48 (3)
16 0
V
0 9
Varincia do permetro, z=2(y1+y2)
D z y1 z y2 2 2

43
fevereiro/2014
fazendo as contas ..
16 0 2
Vz 2 2 (100)
0 9 2
o desvio padro do permetro
z 100 10
Permetro 306 (10) ou 30610

44
fevereiro/2014
Exemplo 2
Varincia da rea z=y1y2. Neste caso no
linear, a varincia aproximada
D z y1 z y2 y2 y1 48 105
16 0 48
Vz 48 105 (136089 )
0 9 105
rea = 5040 (368)

45
fevereiro/2014
Exemplo 3
Permetro e rea, z1=2(y1+y2), z2=y1y2. Varincia e
covarincia
z1 y1 z1 y2 2 2
D
z2 y1 z2 y2 48 105
2 2 16 0 2 48 100 3426
V
48 105 0 9 2 105 3426 136089

46
fevereiro/2014
As varincias do permetro e da rea
aparecem na diagonal e a covarincia entre
ambas, fora da diagonal
Permetro = 30610
rea = 5040368
Covarincia = 3426

47
fevereiro/2014
Exemplo 4
Ajuste dos parmetros de uma reta y=a+bx (mais adiante, veremos
como estimar a matriz de covarincia dos parmetros ajustados).
x y
-2 2,9
-1 0,2
0 0,6
1 -0,7
2 -3,6

48
fevereiro/2014
Matriz de covarincia dos parmetros ajustados
0,20 0
0 0,10
Varincias em interpolaes yint=aaj+bajx
2 0,20 0 1
( y) 1 x (0,20 0,10 x 2 )
0 0,10 x

49
fevereiro/2014
Incertezas nas interpolaes e extrapolaes

50
fevereiro/2014
Covarincias entre valores interpolados ou
extrapolados:
t
1 xa 0,20 0 1 xa
Vya yb
1 xb 0 0,10 1 xb
0,20 0,10 xa2 0,20 0,10 xa xb

Vya yb
0,20 0,10 xa xb 0,20 0,10 xb2
Valores interpolados ou extrapolados

so cavariantes; so correlacionados
uns com os outros. Isso importante.
51
fevereiro/2014
Exemplo da relevncia da correlao entre valores
interpolados: clculo da incerteza de y=ya-yb
2 0,20 0,10 xa2 0,20 0,10 xa xb 1

( y) 1 1
0,20 0,10 xa xb 0,20 0,10 xb2 1
[0,10 ( xa2 xb2 ) 2 0,10 xa xb ]
Se xa=xb, evidentemente a incerteza em

y ser nula, como esperado.

52
fevereiro/2014
Fontes de covarincia
Clculos a partir de valores ajustados

Medidas com um mesmo equipamento (a
incerteza do equipamento afetar todos os
dados igualmente), Ex: rgua, aceleradores
No confundir covarincia com erro sistemtico

53
fevereiro/2014
IV a Equaes do MMQ com
matrizes
As equaes do MMQ escritas de forma matricial so
mais simples do que na forma tradicional. Como isso
s ficar totalmente claro daqui a pouco, peo
alguma pacincia.

54
fevereiro/2014
Peso me e criana
m0 60 kg m0+f0 65 kg f0 4 kg
m=60
m+f=65 SISTEMA INCONSISTENTE, POIS H ERROS
f=4
55
fevereiro/2014
60kg m0 e1
65kg m0 f0 e2
4kg f0 e3
m0, f0 valores verdadeiros (e desconhecidos) das
massas
e1 etc. erros de medida.
Essas equaes podem ser escritas como
60 1 0 e1
m0
65 1 1 e2
f0
4 0 1 e3
56
fevereiro/2014
Ateno: erro= diferena entre valor
verdadeiro e valor experimental.
No confundir erro com desvio

padro
Erro desconhecido (desvio padro

conhecido)
57
fevereiro/2014
Parmetros de uma reta
x1 y1
x2 y2
y a0 b0 x
x3 y3
y1 a0 b0 x1 e1 y1 1 x1 e1
a0
y2 a0 b0 x2 e2 y2 1 x2 e2
b0
y3 a0 b0 x3 e3 y3 1 x3 e3

58
fevereiro/2014
Notem: as equaes so lineares nos
parmetros (m0, f0, a0, b0).
Caso geral,
y1 a 01 x11 a 02 x12 ... a 0m x1m e1
y2 a 01 x 21 a 02 x 22 ... a 0m x 2 m e2

yn a 01 x n1 a 02 x n 2 ... a 0m x nm en
y1 x11 x12 x1m a01 e1

y2 x21 x22 x2 m a02 e2

yn xn1 xn 2 xnm a0 m en
59
fevereiro/2014
Escrevendo o problema
y1 x11 x12 x1m a01 e1

y2 x21 x22 x2 m a02 e2

yn xn1 xn 2 xnm a0 m en
Y X A0 e

60
fevereiro/2014
Y X A0 e
O que precisamos minimizar:
Q( A) (Y X A)t V 1
(Y X A)
V a matriz de covarincia dos dados

Quando no h covarincia entre os dados, essa
expresso se reduz
n yi afi bgi chi ... 2
Q(a, b, c,...) 2
i 1 i
61
fevereiro/2014
Estimativa dos parmetros pelo MMQ
Derivando Q(A) em relao a cada um dos
parmetros e igualando a zero obtemos o valor
ajustado,
Q
0 , j 1, 2, ...m
aj
Vamos chamar o valor ajustado de . Ele dado por
~ t 1 1 t 1
A (X V X) X V Y
62
fevereiro/2014
Exemplo 1: pesos, me e filho
60 1 0 e1
m0
65 1 1 e2
f0
4 0 1 e3
Vamos supor que todos os desvios padres

sejam iguais a 1 (V=matriz identidade de
ordem n=3) e no haja covarincia entre os
dados

63
fevereiro/2014
60 1 0 e1
m0
65 1 1 e2
f0
4 0 1 e3
60 1 0 1 0 0
Y 65 X 1 1 V 0 1 0
4 0 1 0 0 1
~
A (X t V 1
X) 1
Xt V 1
Y
Evidentemente, o mesmo
~ 60,3 resultado que havamos
A obtido usando o
4,3
procedimento tradicional
64
fevereiro/2014
Exemplo 2: parmetros de uma reta
y=a0+box y1=a0+box1+e1
x y
-2 1,8
y2=a0+box2+e2
-1 0,4 y3=a0+box3+e3
0 -4,2 y4=a0+box4+e4
2 -7,5
y5=a0+box5+e5
5 -10,8
1 2 1 0 0 0 0
1,8
1 1 0 1 0 0 0
0,4
X 1 0 V 0 0 1 0 0
Y 4,2
1 2 0 0 0 1 0
7,5
1 5 0 0 0 0 1
10,8

65
fevereiro/2014
2,57
~
A (X t V 1
X) 1
Xt V 1
Y 1,85

66
fevereiro/2014
Exemplo 3: mdia de dois dados
a) y1 e y2 com mesmos desvios padres :
y1= yo+ e1
y2= yo+ e2
Y X A0 e
y1 1
Y X A0 yo
y2 1
2
~ t 1 1 t 1 0
A (X V X) X V Y V 2
0
~ y1 y 2
y
2
67
fevereiro/2014
b) y1 e y2 com desvios padres diferentes:
y1= yo+ e1
Y X A0 e
y2= yo+ e2
y1 1
Y X A0 yo
y2 1
~
A (X t V 1
X) 1
Xt V 1
Y
2 2
~ y1 1 y2 2
y 2 2
1 1 1 2

68
fevereiro/2014
IV b Varincias e covarincias dos
parmetros ajustados
~
A (X t V 1
X) 1
Xt V 1
Y
Como depende de Y, sua matriz de

covarincia depende da matriz de
covarincia de Y. Vamos calcular isso por
propagao.

69
fevereiro/2014
~
A (X t V 1
X) 1
Xt V 1
Y
A1 A1 A1

y1 y2 yn
A2 A2 A2

D A~ y1 y2 yn (X t V 1 X) 1 X t V 1

Am Am Am

y1 y2 yn
Portanto,
VA~ D A~ V DtA~ (X t V 1 X) 1

70
fevereiro/2014
~ t 1 1 t 1
A (X V X) X V Y
t 1 1
VA~ (X V X)

71
fevereiro/2014
Quatro equaes bsicas
Y X A0 e
~ t 1 1 t 1
A (X V X) X V Y
t 1 1
VA~ (X V X)
t
VZ D VY D
72
fevereiro/2014
Exemplo 1: pesos, me e filho
1 0
60 1 0 e1
m0 X 1 1
65 1 1 e2
f0 0 1
4 0 1 e3
Vamos supor que todos os desvios padres sejam
iguais a 1 e no haja covarincia entre os dados
1
1 0 0
V 0 1 0
0 0 1
73
fevereiro/2014
t 1 1
VA~ (X V X)
0,67 0,33 ~ 60,3

VA~ A
0,33 0,67 4,3
m 60,30,8 kg
f 4,30,8 kg
Covarincia (m,f)= - 0,33

74
fevereiro/2014
Exemplo 2: Consumo de
combustvel: gc e ge (litros/km)
distncia percorrida consumo

(km) (l)
cidade estrada
100 200 28
300 100 43
400 0 49

75
fevereiro/2014
28 100 200
gc
43 300 100 e
ge
49 400 0
1
1 0 0
Vamos supor que V seja
V 0 1 0
uma matriz identidade, 0 0 1
~ 0,12
~ A
A (X t V 1
X) 1
Xt V 1
Y 0,077
VA~ (X t V 1 X) 1 0,048 0,048 4
VA~ 10
0,048 0,248

76
fevereiro/2014
Consumo em quilmetros/litro?
yc=1/gc=8,27km/l , ye=1/ge=13,0km/l
yc yc 1
0
gc ge g c2
Vy D V Dt D
ye ye 1
0
gc ge g e2
0.022 - 0.055
Vy
- 0.055 0.703
yc=(8,270,15) km/l
ye=(13,00,15) km/l
77
fevereiro/2014
Vale a pena insistir: resumo
Relao linear entre
dados e parmetros Y X A0 e
A matriz de covarincia dos dados deve ser
conhecida (os erros so desconhecidos)
~ t 1 1 t 1 VA~ t 1
(X V X) 1
A (X V X) X V Y
Em nenhum momento foi feita qualquer hiptese

quanto a forma da funo densidade de probabilidade
dos dados.
78
fevereiro/2014
V Teste de qui-quadrado (2)
O teste de qui-quadrado muito utilizado em
cincias experimentais. Mas ele nada tem a ver
com o Mtodo dos Mnimos Quadrados.
Para que o teste de 2 seja utilizado (na forma

que segue) necessrio que os dados obedeam
distribuies gaussianas (o que o MMQ no
exige) e que conheamos seus desvios padres.
Risco de confuso do teste com o MMQ.

79
fevereiro/2014
Definio 1 Comparao com valor verdadeiro
n 2
2 yi y 0i
2
i 1 yi
onde yi representa os dados experimentais, y0i os valores

que se pretende testar, yi os desvios padres dos dados e
no haja covarincias entre diferentes dados.
No que segue vamos supor que os dados experimentais

obedeam a f.d.p.s gaussianas, centradas nos valores
verdadeiros

80
fevereiro/2014
O valor absoluto de yi y0i da ordem de yi .
n 2
2 yi y 0i
Portanto, 2
da ordem de n.
i 1 yi
2
De fato, o valor esperado de igua l a n se y0i for
2
realmente o valor verdadeiro da grandeza medida e yi
a varincia de y.
Valor esperado: <2>=n e seu desvio

padro igual a
81
fevereiro/2014
Exemplo 1
Algumas meias-vidas e valores previstos por uma teoria (ou
hiptese, ou modelo...) aparecem abaixo. Vamos testar a teoria
Valor Previsto (yi-y0i)2/i2

experimental pela teoria
22218 235 0,5
21117 233 1,7
83747 780 1,4
12312 108 1,6
18212 170 1,0
2=6,2. Como o valor esperado 5, desvio padro 3,2, os valores
previstos pela teoria no discordam dos experimentos. No devemos
rejeitar a hiptese que a teoria esteja correta
82
fevereiro/2014
Exemplo 2 Teste de um produto
Outra teoria/modelo/hiptese
peso medido Res.
Peso esperado (d.p.) diferena/dp quad.
100 g 98,2 (1,0) g 1,8 3,2
200 g 197,7 (1,5) g 1,6 2,6
500 g 497,0 (2,0) g 1,7 3
1,00 kg 0,980 (0,012) kg 1,7 2,7
2,00 kg 1,980 (0,012) kg 1,7 2,8
3,00 kg 2,975 (0,015) kg 2,1 4,3
83
fevereiro/2014
2=18,6 . Valor esperado: 6,0; 2=3,6.
O que concluir? O produto est falsificado?
P(2>18,6)=0,5%.
0,16
Funo densidade de
0,14 probabilidade de qui-
0,12 quadrado com 6 graus
de liberdade
0,1
0,08
P
0,06
0,04
0,02
0
0 5 10 15 20

84
fevereiro/2014
Definio 2 Comparao com
valores ajustados
n yi ~
yi
2
2
2
i 1 yi
n 2
yi y( parmetros)i
Q( parmetros) 2
i 1 yi

85
fevereiro/2014
Valor esperado: <2>=n-m, m parmetros.
Desvio padro igual a
Exemplo: ajuste de parmetros de uma reta y(x)
n ~ ~ 2
2 yi a b xi
2
i 1 i

86
fevereiro/2014
87
fevereiro/2014
88
fevereiro/2014
89
fevereiro/2014
Exemplo com os ajustes acima
Dados experimentais: n=11; Parmetros (y
uma parbola): m=3. Portanto, <2>=n-m=8
com desvio padro 2(n m) 4
Se tudo estiver bem, esperamos que o qui-

quadrado observado no seja muito
diferente de 8, sendo a diferena no muito
maior do que 4.

90
fevereiro/2014
qui-quadrado P(2>valor
observado observado)
6,6 prximo ao 58%
esperado
0,7 muito menor 99,95%
que o esperado
130 muito maior zero
que o esperado

91
fevereiro/2014
Diagnsticos
58% - No podemos rejeitar a hiptese que tudo esteja
em ordem
99,95% - Desvios padres dos dados superestimados ou
h covarincias entre os dados no consideradas
0% - Os desvios padres dos dados esto errados
(subestimados ou h covarincias); ou a funo modelo
est errada; ou houve problemas durante os
experimentos.
92
fevereiro/2014
Definio geral incluindo covarincias
2 ~ t 1 ~
(Y X A) V (Y X A)
No confundir com a Q do MMQ

Teste de qui-quadrado: dados precisam ser
gaussianos

93
fevereiro/2014
VI Estimando as varincias
um breve captulo
1) Se os dados so independentes, todos tm o
mesmo desvio padro e xi, i=1, 2, ...n, so n dados
correspondentes a medidas de uma mesma grandeza,
1 n
2 2
xi x
n 1i 1
uma estimativa no tendenciosa da varincia de

cada dado. Lembrete:
mdia n
94
fevereiro/2014
2) Muitas vezes conhecemos a varincia de um
conjunto de dados a partir de experincias
anteriores, ou de informaes do fabricante de
um equipamento.
3) H casos nos quais o desvio padro pode ser

estimado com base em razes fsicas ou
estatsticas. Por exemplo, eventos que
obedecem a uma distribuio de Poisson com
mdia a tm desvio padro,
a
95
fevereiro/2014
4) Como <2>=n-m, se todos os dados de um
experimento tm o mesmo desvio padro e so
estatisticamente independentes, a varincia de
cada dado por ser estimada por
2
2 observado
n m
onde o valor de qui-quadrado o resultado
observado correspondente ao ajuste de m
parmetros e considerando =1. (O item (1) acima
um caso particular deste.)
96
fevereiro/2014
5) Se houver dois conjuntos de dados de medidas
de duas grandezas diferentes, digamos n dados x1,
x2, ... xn e m dados y1, y2, ... ym, com desvios padres
iguais e x e y forem estimativas desses desvios
padres, ento
2 2
2 ( n 1) x ( m 1) y
n m 2
uma estimativa (melhor) da varincia dos dados.

97
fevereiro/2014
VII Algumas propriedades do MMQ
e o TCL
(a) No tendenciosidade
O que se espera em cincias experimentais
que se y uma medida de uma grandeza (um
dado, uma mdia, o resultado de um
ajuste...), seu valor esperado seja igual ao
valor verdadeiro da grandeza,
y y0
98
fevereiro/2014
O MMQ no tendencioso quando os dados
tambm so no tendenciosos
Se yi representa os dados e <yi>=y0i, como
yi=y0i+ei , onde ei o erro, ento <ei>=0.
Vamos ver como fica o valor esperado de

parmetros ajustados pelo MMQ:
~
A (X t V 1
X) 1
Xt V 1
Y

99
fevereiro/2014
O valor esperado de
~
A (Xt V 1
X) 1
Xt V 1
Y
Como os dados se relacionam com os

parmetros na forma
Y X A0 e
ento
Y X A0 e X A0

100
fevereiro/2014
portanto,
~
A (X t V 1
X) 1
Xt V 1
Y
(X t V 1
X) 1
Xt V 1
X A0
~
A A0
Concluso: se os dados no so tendenciosos,

os parmetros ajustados pelo MMQ tambm
no sero tendenciosos
101
fevereiro/2014
(b) Mnima varincia
Entre todas as estimativas de parmetros que
dependem linearmente dos dados e que no
sejam tendenciosas, o MMQ fornece aquelas
com menor varincia
Exemplo: dois dados com mesmo desvio padro
e no covariantes. O resultado do MMQ
x1 x2 2 2
x x /2
2
102
fevereiro/2014
Outra estimativa geral, linear nos dados e no
tendenciosa:
x ax1 (1 a) x2
Qual valor de a leva menor varincia dessa
estimativa?
2 2 2 2
x (a (1 a ) )

103
fevereiro/2014
Derivando em relao a e igualando a zero,
obtemos:
x1 x2
x
2
que o resultado do MMQ:

104
fevereiro/2014
(c) O Teorema Central do Limite
Exemplo: mdias de dados uniformemente
distribudos entre zero e um.
Um s dado
10
8 a
6

105
fevereiro/2014
Mdia de dois, quatro e oito dados
12
15
10
b c
8
10
6
4
5
2
0 0
20
15 d
10

106
fevereiro/2014
O TCL garante que
2 2 2
x1 1 x2 2 xn n
x 2 2 2
1 1 1 2 1 n
tende uma gaussiana com desvio padro igual a

1, quaisquer que sejam as f.d.p.s dos dados

107
fevereiro/2014
O TCL no contexto do MMQ
~ t 1 1 t 1
A (X V X) X V Y
uma mdia dos vrios dados experimentais

yi, com pesos inversamente s respectivas
varincias

108
fevereiro/2014
Exemplo
x y d.p. Tipo
-3 5,0 1,0 gaussiana
-2 3,5 0,3 uniforme
-1 2,3 0,7 tipo qui2
0 1,1 1,0 gaussiana
1 -0,6 0,5 binomial
2 -0,2 0,4 duas uniformes
3 -2,8 0,5 binomial
y=a+bx, onde os diferentes valores yi obedecem

a diferentes f.d.p.s
109
fevereiro/2014
Parmetros a e b ajustados: 1,20(18); -1,14(9) devem
obedecer a uma f,d,p, gaussiana ou bem perto disso,
Seria exatamente gaussiana se a quantidade de dados
fosse infinita
110
fevereiro/2014
Ilustrao com muitas simulaes
Valores ajustados de a e b

111
fevereiro/2014
VIII Outros desenvolvimentos
Medida de uma grandeza altera valores de

outras
Vnculos entre parmetros
Funes no lineares nos parmetros
Incertezas nas variveis dependentes

112
fevereiro/2014
a) Medida de uma grandeza altera
outras
Exemplo: a e b foram medidos, obtendo-se os
valores 10,0 e 20,0, com matriz de covarincia
10 8
V
8 10
Uma medida independente de b forneceu o valor

25,0 com varincia igual a 10. Vamos ao MMQ.

113
fevereiro/2014
10 10 8 0 10 1 0 e1
V 8 10 0 a0
Y 20 20 0 1 e2
0 0 10 b0
25 25 0 1 e3
1 1
(X' V X) X' V Y 1 12,0 6,8 4,0
22,5 V
4,0 5,0
Evidentemente, valor adotado para b foi

alterado; seu d. p., idem.
Menos evidente: o valor adotado para a
alterado e seu d.p., idem.
114
fevereiro/2014
b) Vnculos entre parmetros
Exemplo: mede-se os trs ngulos internos de
um tringulo, digamos, 1, 2, e 3, sendo os
resultados y1,1; y2, 2; y3, 3. Mas queremos
impor a condio ~1 ~2 ~3 180 o.
Um procedimento geral ajustar valores para

os parmetros, 1, 2 e 3, impondo o vnculo.

115
fevereiro/2014
Uma forma geral de escrever vnculo lineares:
m
gij a j ri
j 1
onde aj so os parmetros a serem ajustados e

gij e ri so valores conhecidos. No caso do
triangulo s h um vnculo (r=180o) e todos os
gs so iguais a 1.

116
fevereiro/2014
A equaes de vnculo podem ser escritas como
GA R
Soluo do MMQ:
~ t 1 1
A VA~ X V Y BC R
1 1 t
VA~ H BC B
H t
XV X 1
B H G 1 t C GH 1G t

117
fevereiro/2014
Exemplo
ngulos de um tringulo: 48o, 41o, 94
(soma=183o) todos com =1 e no covariantes.
G=[1 1 1] e R=[180].
48 1 0 0
Y 41 V 0 1 0
94 0 0 1

118
fevereiro/2014
Resultado: Valores ajustados: 47o, 40o, 93o , cuja
soma 180o: obedece ao vnculo. As varincias
diminuem
1 0 0 0,67 - 0,33 - 0,33

V 0 1 0 V - 0,33 0,67 - 0,33
0 0 1 - 0,33 - 0,33 0,67
Vela a pena impor vnculos? Depende. P. ex., se

o que queremos apenas um dos ngulos, sim.

119
fevereiro/2014
c)Funes no lineares nos parmetros
O MMQ no tendencioso no caso linear. Mas

quando os dados no dependem linearmente
dos parmetros, tudo muda,
Exemplo: Ajustar da expresso
y(t)=100exp(-t) considerando os dados (t, y):
(1, 55) e (3; -10), ambos com desvio padro
igual a 10.
Resultado do ajuste: =0,82
120
fevereiro/2014
Problema: o valor estimado superestimado.
Por simulao, foi possvel estimar a
superestimao em 4,2%.
Corrigindo a superestimao, o valor a se adotar
0,79
121
fevereiro/2014
d) Erros em vrias variveis
Exemplo: Ajuste dos parmetros da funo y=a+bx,
com incertezas em x e y,
a) Ajusta-se os parmetros considerando apenas as
incertezas em y
b) Propaga-se as incertezas de x para y,
considerando-se dy/dx=bajustado
2 2 2 2
novo( y ) y bajustado x
c) Faz-se novamente o ajuste com os novos d.p.s.

122
fevereiro/2014
Perigo: se as incertezas de x no forem muito
menores do que a disperso dos valores xi, o
ajuste tendencioso

123
fevereiro/2014
Exemplo com uma simulao:
Y=2+2x, com distribuies normais para y e x,
com desvios padres iguais a 1
O valor ajustado de b flutua em torno de 1,7
Portanto, h uma tendncia para subestimar b

124
fevereiro/2014
Breve resumo
O MMQ deve ser usado:
Sempre que as incertezas dos dados sejam
conhecidas (ou todas sejam iguais)
H uma relao linear entre os dados e os

parmetros a serem ajustados

125
fevereiro/2014
O ajuste no tendencioso
Os dados no precisam obedecer a nenhum
f.d.p. particular
Se h uma quantidade grande de dados, as
f.d.p.s dos parmetros ajustados tende a uma
gaussiana
No precisa haver uma relao funcional do
tipo y=y(x)
As covarincias so to importantes quanto as
varincias
126
fevereiro/2014
Cuidados ou limitaes
Repetindo: ateno s covarincias

Caso no linear: problema
Idem, quando h erros nos termos que
multiplicam os parmetros a serem ajustados

127
fevereiro/2014

Slides Curso MMQ13 Fev 2014

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Slides Curso MMQ13 Fev 2014

Enviado por

Direitos autorais:

Formatos disponíveis

Mtodo dos Mnimos

Quanto pesam criana e me?

Procurar valores de m e f que minimizem

Q(m, f ) (m 60) 2 (m f 65) 2 (f 4) 2

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Q(l ) (l 10) 2 (l 2 120) 2 (4l 35) 2

Mtodo dos Mnimos Quadrados, IFUSP,

O melhor valor para l 10,9 cm

Mtodo dos Mnimos Quadrados, IFUSP,

Os valores ajustados tm um til

A menos de arredondamento, so os mesmo

O caso no linear uma aproximao, e

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Exemplo: rgua0,3 mm; paqumetro0,05 mm

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

III Eventos contveis, como o nmero de

Mtodo dos Mnimos Quadrados, IFUSP,

Vamos supor conhecidos os desvios padres.

Abrir mo dessas limitaes tm

distncia percorrida consumo

Mtodo dos Mnimos Quadrados, IFUSP,

Essa forma estranha de escrever pelo seguinte

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Ex. Sabemos que a fdp gaussiana, ou lorentziana etc.,

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

cov( x1 , x2 ) x1 x01 x2 x02

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

z1(y1,y2,...yn), z2(y1,y2,...yn), ... zm(y1,y2,...yn),

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

o desvio padro do permetro

Permetro 306 (10) ou 30610

Mtodo dos Mnimos Quadrados, IFUSP,

rea = 5040 (368)

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

Varincias em interpolaes yint=aaj+bajx

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

0,20 0,10 xa2 0,20 0,10 xa xb

Valores interpolados ou extrapolados

2 0,20 0,10 xa2 0,20 0,10 xa xb 1

[0,10 ( xa2 xb2 ) 2 0,10 xa xb ]

Se xa=xb, evidentemente a incerteza em

Mtodo dos Mnimos Quadrados, IFUSP,

Clculos a partir de valores ajustados

No confundir covarincia com erro sistemtico

Mtodo dos Mnimos Quadrados, IFUSP,

Mtodo dos Mnimos Quadrados, IFUSP,

No confundir erro com desvio

Erro desconhecido (desvio padro

Mtodo dos Mnimos Quadrados, IFUSP,