V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr.

Sergio Pilling

1
Clculo Numrico
Faculdade de Engenharia, Arquiteturas e Urbanismo FEAU

Prof. Dr. Sergio Pilling (IPD/ Fsica e Astronomia)



Objetivos: O objetivo desta aula apresentar o mtodo dos mnimos quadrados (MMQ) como
outra forma de aproximao de funes. Ao contrrio do polinmio interpolador visto no
capitulo anterior, agora no necessrio que o ajuste passe exatamente por cima dos pontos
ajustados. Em outras palavras, com esse mtodo encontramos uma funo (x) de um certo
tipo pr-estabelecido (ex. reta, parbola, senoide) que melhor ajusta um conjunto de pontos
ou uma funo dada.

1. Introduo

Como vimos na ltima aula, uma forma de se trabalhar com uma funo definida por
uma tabela de valores a interpolao. Contudo, a interpolao pode no ser aconselhvel
quando:
1) preciso obter um valor aproximado da funo em algum ponto fora do intervalo de
tabelamento (extrapolao).
2) Os valores tabelados so resultado de experimentos fsicos, pois estes valores podero
conter erros inerentes que, em geral, no so previsveis.
Surge ento a necessidade de se ajustar a estas funes tabeladas uma funo que seja
uma boa aproximao para as mesmas e que nos permita extrapolar com certa margem de
segurana. Assim, o objetivo deste processo aproximar uma funo f(x) por outra funo (x),
escolhida de uma famlia de funes ou por uma soma de funes em duas situaes distintas:




Domnio discreto: quando a funo f dada por uma tabela de valores.




Domnio contnuo: quando a funo f dada por sua forma analtica.




Veremos nesta aula o mtodo de ajuste de curva aos pontos experimentais (caso discreto)
pelo mtodo dos mnimos quadrados!
V Ajuste de curvas pelo mtodo dos mnimos quadrados
V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

2
2 Caso Discreto

O problema do ajuste de curvas no caso em que se tem uma tabela de m pontos



com x
1
, x
2
, x
3
, , x
m
[a,b], consiste em: escolhidas n funes contnuas g
1
(x), g
2
(x), g
3
(x),
, g
n
(x), contnuas em [a,b], obter n constantes a
1
, a
2
, a
3
, , a
n
tais que a funo
(x) = a
1
g
1
(x) + a
2
g
2
(x)+ a
3
g
3
(x)+ + a
n
g
n
(x) se aproxime ao mximo de f (x).

Este modelo matemtico linear pois os coeficientes que devem ser determinados a
1
, a
2
,
a
3
, , a
n
aparecem linearmente, embora as funes g
1
(x), g
2
(x), g
3
(x), , g
n
(x) possam ser
funes no lineares de x, como por exemplo, g
1
(x)=x
2
, g
2
(x)=e
x
, g
3
(x)=(1+x)
2
, etc.

Surge ento a primeira pergunta: Como escolher as funes contnuas g
1
(x), g
2
(x), g
3
(x),
, g
n
(x) ?

Esta escolha pode ser feita observando o grfico dos pontos tabelados (diagrama de
disperso) ou baseando-se em fundamentos tericos do experimento que forneceu a tabela.
Portanto, dada uma tabela de pontos (x
1
, f(x
1
)), (x
2
,f(x
2
)), ...., (x
n
,f(x
n
)), deve-se, em primeiro
lugar colocar estes pontes num grfico cartesiano e a partir da pode-se visualizar a curva que
melhor se ajusta aos dados.


EXEMPLO 1
Seja a tabela de pontos abaixo:



O diagrama de disperso para esses pontos apresentado ao lado:




Esse diagrama se assemelha muito a uma parbola com centro na origem, no e?
Portanto, nesse caso, natural escolhermos apenas uma funo g
1
(x)=x
2
e procurarmos
ento (x) = ax
2
(equao geral de uma parbola passando pela origem).





V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

3
EXEMPLO 2
Se considerarmos uma experincia onde
foram medidos vrios valores de corrente
eltrica (i) que passa por uma resistncia (R)
submetida a vrias tenses (V), colocando os
valores correspondentes de corrente eltrica e
tenso em um grfico podemos ter a figura ao
lado:



Neste caso, existe uma fundamentao terica relacionando a corrente com a tenso
(V=R i; Lei de Ohm), isto , V uma funo linear de i. Assim, g
1
(i)= i e (i)= a g
1
(i) = a i.
Queremos ajustar nesse caso uma reta.

Surge agora a segunda pergunta: Qual parbola com equao x
2
melhor se ajusta ao
diagrama do exemplo 1 e qual reta, passando pela origem, melhor se ajusta ao diagrama do
exemplo 2?

No caso geral, escolhidas as funes g
1
(x), g
2
(x), ..., g
n
(x), temos de estabelecer o
conceito de proximidade entre as funes (x) e f(x) para obter as constantes a
1
, a
2
, a
3
, , a
n
.
Uma idia impor que o desvio entre f(x) e (x), ou seja, d
k
=(f(x
k
)-(x
k
)) seja mnimo
para todos os pontos (k =1, 2, ...., m).
Existem varias formas de impor que os desvios sejam mnimos. Veremos nessa aula o
mtodo dos mnimos quadrados.




Seja d
k
= f (x
k
) (x
k
) o desvio em x
k
.








(x)


A derivada tem que ser
igual a zero!
a a a
a
a a a
a
V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

4
Para isto necessrio que:

































Obs: A derivada tem que
ser zero para acharmos o
valor mnimo de F.
^ ^ ^
a
a a
a
a
a
j
a
j
a a a
a a a
a a a
a
a
a
a a
a
a
a
a a
a a a
a
a
a a
a
a
a
1
a
1
a
1
a
2
a
2
a
2
a
n
a
n
a
n
a

b

a
1
V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

5

















OBS:
Produto escalar
Leitura opcional: produto escalar
a
i
a
1,
a
2,
...,

a
n
a
1
a
2
a
3
a
n a
1
a
2
a
3 a
n
a
i
b
i
^ ^ ^
a
i
b
i
^ ^ ^
a
1
a
2
a
n
V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

6
Na prtica, o funcionamento do MMQ pode ser dividido em 4 passos:

PASSO 1 Depois de escolhida a funo ajuste (x) identificar nela as funes auxiliares g(x) tal
que (x) seja do tipo:
+ + + = =

=
n x g a x g a x g a x g a x g a x
n n
n
i
i i
) ( )... ( ) ( ) ( ) ( ) (
3 3 2 2 1 1
1

PASSO 2 Montar o sistema de equaes. O numero de equaes do sistema igual ao numero de
funes auxiliares g
i
(x) (igual ao numero de incgnitas a
i
)

Ex 1. No caso da reta: (x) =a
1
+a
2
x g
1
(x) =1 e g
2
(x) =x

Teremos um sistema com 2 equaes.





Ex 2. No caso de uma parbola: (x) =a
1
+a
2
x +a
3
x
2
g
1
(x) =1 , g
2
(x) =x e g
3
(x) =x
2


Teremos um sistema com 3 equaes.






Ex 3. No caso de uma exponencial simples: (x) =a
1
e
x
g
1
(x) =e
x

Teremos um sistema com 1 equao.
1 1 11
b a a =




PASSO 3 Calcular os coeficientes a
ij
e b
i
do passo 2. Esses coeficientes so definidos pelos
seguintes somatrios e aps seu calculo obteremos nmeros.





PASSO 4 Reescrever o sistema de equaes do passo 2 (agora os a
ij
e b
i
so nmeros) e resolv-
lo, por exemplo, utilizando o mtodo de eliminao de Gauss ou algum mtodo iterativo (Gauss-J acobi
ou Gauss-Seidel).

2
1
2
1
22 21
12 11
b
b
a
a
a a
a a

=
=
m
k
k i k i
x g x f b
1
) ( ) (
ji
m
k
k j k i ij
a x g x g a

=
= =
1
) ( ) (

3
2
1
3
2
1
33 32 31
23 22 21
13 12 11
b
b
b
a
a
a
a a a
a a a
a a a
incgnitas
incgnita
incgnitas
nmero de pontos experimentais.
V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

7
Exerccio 1



Soluo a)
Nesse caso temos f(x) (x) =a
1
+a
2
x o que resulta em termos g
1
(x) =1 e g
2
(x) =x
Para encontrarmos a
1
e a
2
resolveremos o sistema de 2 equaes abaixo:




Escrevendo o sistema em termos dos a
ij
e b
i
, ficamos assim:




= = =
=

8
1
1 2
8
1
1 2 1
8
1
1 1
) ( ) ( ) ( ) ( ) ( ) (
k
k k
k
k k
k
k k
x g x f a x g x g a x g x g



= = =
=

8
1
2 2
8
1
2 2 1
8
1
2 1
) ( ) ( ) ( ) ( ) ( ) (
k
k k
k
k k
k
k k
x g x f a x g x g a x g x g


Cada somatrio da parte esquerda resultar em:

( ) 8 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 ) ( ) ( ) (
8
1
2
1
8
1
1 1
= + + + + + + + = =

= = k
k
k
k k
x g x g x g


36 1 8 1 7 1 6 1 5 1 4 1 3 1 2 1 1 ) ( ) (
8
1
1 2
= + + + + + + + =

= k
k k
x g x g


36 8 1 7 1 6 1 5 1 4 1 3 1 2 1 1 1 ) ( ) (
8
1
2 1
= + + + + + + + =

= k
k k
x g x g


( ) 204 8 8 7 7 6 6 5 5 4 4 3 3 2 2 1 1 ) ( ) ( ) (
8
1
2
2
8
1
2 2
= + + + + + + + = =

= = k
k
k
k k
x g x g x g



Temos 8 pontos experimentais
(x) =a
1
+a
2
x +a
3
x
2
g
1
(x) =1 , g
2
(x) =x e g
3
(x) =x
2

(x) =a
1
+a
2
x g
1
(x) =1 e g
2
(x) =x
x
k
1
x
k
x
k

1 1
1 x
k

2
1
2
1
22 21
12 11
b
b
a
a
a a
a a
V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

8
Cada somatrio da parte direita resultar em:
2 . 9 1 0 . 2 1 7 . 1 1 5 . 1 1 2 . 1 1 8 . 0 1 9 . 0 1 6 . 0 1 5 . 0 ) ( ) (
8
1
1
= + + + + + + + =

= k
k k
x g x f

5 . 50 8 0 . 2 7 7 . 1 6 5 . 1 5 2 . 1 4 8 . 0 3 9 . 0 2 6 . 0 1 5 . 0 ) ( ) (
8
1
2
= + + + + + + + =

= k
k k
x g x f

Reescrevendo o sistema de equaes teremos:
8a
1
+36a
2
=9.2 - 36a
1
- 162a
2
=-41.5

36a
1
+204a
2
=50.5 36a
1
+204a
2
=50.5

Subtraindo as duas equaes encontramos:
214 . 0
162 204
5 . 41 5 . 50
2
=

= a
e
176 . 0
36
214 . 0 204 50
1
=

= a


Podemos agora escrever a equao que ajusta os pontos experimentais f(x) (x) = a
1
+ a
2
x.
Resposta:
(x) = 0.176 + 0.214

x







Soluo b)
Nesse caso temos f(x) (x) = a
1
+ a
2
x + a
3
x
2
o que resulta em termos g
1
(x) = 1, g
2
(x) = x e
g
3
(x) = x
2
. De forma anloga ao caso anterior, para encontrarmos a
1
, a
2
e a
3
resolveremos o
sistema de 3 equaes abaixo:





Escrevendo o sistema em termos dos a
ij
e b
i
, ficamos assim:


= = = =
=

8
1
1 3
8
1
1 3 2
8
1
1 2 1
8
1
1 1
) ( ) ( ) ( ) ( ) ( ) ( ) ( ) (
k
k k
k
k k
k
k k
k
k k
x g x f a x g x g a x g x g a x g x g


= = = =
=

8
1
2 3
8
1
2 3 2
8
1
2 2 1
8
1
2 1
) ( ) ( ) ( ) ( ) ( ) ( ) ( ) (
k
k k
k
k k
k
k k
k
k k
x g x f a x g x g a x g x g a x g x g


= = = =
=

8
1
3 3
8
1
3 3 2
8
1
3 2 1
8
1
3 1
) ( ) ( ) ( ) ( ) ( ) ( ) ( ) (
k
k k
k
k k
k
k k
k
k k
x g x f a x g x g a x g x g a x g x g

L
1
=-4.5L
1

1 x
k

1 x
k

3
2
1
3
2
1
33 32 31
23 22 21
13 12 11
b
b
b
a
a
a
a a a
a a a
a a a
V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

9
Cada somatrio da parte esquerda resultar em:
( ) 8 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 ) ( ) ( ) (
8
1
2
1
8
1
1 1
= + + + + + + + = =

= = k
k
k
k k
x g x g x g

36 1 8 1 7 1 6 1 5 1 4 1 3 1 2 1 1 ) ( ) (
8
1
1 2
= + + + + + + + =

= k
k k
x g x g

204 1 8 1 7 1 6 1 5 1 4 1 3 1 2 1 1 ) ( ) (
2 2 2 2 2 2 2 2
8
1
1 3
= + + + + + + + =

= k
k k
x g x g


36 8 1 7 1 6 1 5 1 4 1 3 1 2 1 1 1 ) ( ) (
8
1
2 1
= + + + + + + + =

= k
k k
x g x g

( ) 204 8 8 7 7 6 6 5 5 4 4 3 3 2 2 1 1 ) ( ) ( ) (
8
1
2
2
8
1
2 2
= + + + + + + + = =

= = k
k
k
k k
x g x g x g

1296 8 8 7 7 6 6 5 5 4 4 3 3 2 2 1 1 ) ( ) (
2 2 2 2 2 2 2 2
8
1
2 3
= + + + + + + + =

= k
k k
x g x g

204 8 1 7 1 6 1 5 1 4 1 3 1 2 1 1 1 ) ( ) (
2 2 2 2 2 2 2 2
8
1
3 1
= + + + + + + + =

= k
k k
x g x g

1296 8 8 7 7 6 6 5 5 4 4 3 3 2 2 1 1 ) ( ) (
2 2 2 2 2 2 2 2
8
1
3 2
= + + + + + + + =

= k
k k
x g x g

( ) 8772 8 8 7 7 6 6 5 5 4 4 3 3 2 2 1 1 ) ( ) ( ) (
2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2
8
1
2
3
8
1
3 3
= + + + + + + + = =

= = k
k
k
k k
x g x g x g


Cada somatrio da parte direita resultara em:
2 . 9 1 0 . 2 1 7 . 1 1 5 . 1 1 2 . 1 1 8 . 0 1 9 . 0 1 6 . 0 1 5 . 0 ) ( ) (
8
1
1
= + + + + + + + =

= k
k k
x g x f

5 . 50 8 0 . 2 7 7 . 1 6 5 . 1 5 2 . 1 4 8 . 0 3 9 . 0 2 6 . 0 1 5 . 0 ) ( ) (
8
1
2
= + + + + + + + =

= k
k k
x g x f
1 . 319 8 0 . 2 7 7 . 1 6 5 . 1 5 2 . 1 4 8 . 0 3 9 . 0 2 6 . 0 1 5 . 0 ) ( ) (
2 2 2 2 2 2 2 2
8
1
3
= + + + + + + + =

= k
k k
x g x f


Reescrevendo o sistema de equaes teremos:

8a
1
+36a
2
+204a
3
=9.2

36a
1
+204a
2
+1296a
3
=50.5

204a
1
+1296a
2
+8772a
3
=319.1



1 1
x
k
2
1
x
k
1
1 x
k

x
k
x
k

x
k
2
x
k

1 x
k
2

x
k
x
k
2

x
k
2
x
k
2

1
x
k


x
k
2

V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

10
Nesse caso utilizaremos o mtodo direto de eliminao de Gauss para resolver o sistema de
equaes.
matriz sanduche otimizada 1 etapa de eliminao
204 1296 8772 319.1 204 1296 8772 319.1
36 204 1296 50.5 0 -24.706 -252 -5.812
8 36 204 9.2 0 -14.823 -140 -3.133


2 etapa de eliminao re-escrevendo o sistema de equaes
204 1296 8772 319.1 204a
1
+1296 a
2
+ 8772a
3
= 319.1
0 -24.706 -252 -5.812 -24.706 a
2
- 252 a
3
= -5.812
0 0 11.193 0.354 11.193a
3
= 0.354

Resolvendo o sistema de baixo para cima encontramos:
a
3
= 0.0316, a
2
=-0.0871 e a
1
=0.7587

Podemos agora escrever a equao da parbola que melhor ajusta os pontos experimentais
f(x) (x) =a
1
+a
2
x +a
3
x
2
.

Resposta:
(x) = 0.7587 -0.0871 x +0.0316 x
2












Exerccio 2
Resolveremos agora o exemplo 1 que vimos no inicio da aula.
A partir da funo tabelada abaixo, desenhamos o diagrama de
disperso e percebemos que a melhor curva que ajusta os
pontos seria um a parbola passando pela origem, ou seja,
f(x) (x)= a
1
x
2
(neste caso teremos apenas 1 funo g
1
(x) = x
2
).






V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

11
Como s temos uma funo de g(x) e f(x) (x)= a
1
x
2
temos de resolver apenas a
equao e com isso encontramos diretamente o valor de a
1


1 1 11
b a a =



= =
=
11
1
1 1
11
1
1 1
) ( ) ( ) ( ) (
k
k k
k
k k
x f x g a x g x g



Resolvendo os dois somatrios temos:

( ) 8464 . 2 1 2401 . 0 0625 . 0 0256 . 0 0016 . 0 0 0081 . 0 0625 . 0 1296 . 0 3164 . 0 1 ) (
11
1
2
1
= + + + + + + + + + + =

= k
k
x g

8756 . 5 05 . 2 588 . 0 128 . 0 096 . 0 008 . 0 0 045 . 0 1 . 0 162 . 0 6486 . 0 05 . 2 ) ( ) (
11
1
1
= + + + + + + + + + + =

= k
k k
x g x f

Logo nossa equao 2.8464 a = 5.8756 a = 2.0642

Ento (x) = 2.0642 x
2
a parbola que melhor se aproxima dos pontos tabelados segundo o mtodo
dos mnimos quadrados.


























x
k
2

(x
k
2
)
2
x
k
2

(x) = 2.0642 x
2
a<2.0642
a>2.0642
x
k
2
x
k
2

V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

12
Exerccio proposto 1


x 0 1 2 3 4
y 27 42 60 87 127


Resp: a) (x) =19,6 +24,5 x
b) (x) =28,02 +7,64 x +4,21 x
2





Exerccio proposto 2


DICA: Para usar o mtodo dos mnimos quadrados necessrio termos (x) no formato abaixo:
+ + + = =

=
n x g a x g a x g a x g a x g a x x f
n n
n
i
i i
) ( )... ( ) ( ) ( ) ( ) ( ) (
3 3 2 2 1 1
1

Portanto temos que reescrever a equao proposta para o ajuste y = a e
bx


Aplicando ln dos dois lados temos: ln(y) = ln(a e
bx
) = ln(a) + ln (e
bx
) = ln(a) + bx
Fazendo ln(y) = y
*
e ln(a) = a
*
ficamos com a equao da reta ao lado: y
*
= a
*
+ bx

Basta agora reescrever a tabela acima usando x e y
*
= ln(y) e aplicar o mtodo MMQ. Depois
de encontrarmos os valores a
*
= ln(a) e b escrevemos a funo original y = a e
bx

Resp: a) y
*
= 3,469 + 0,355 x y= 32,104 e
0,355 x
b) hs
b
a
y
x 64 , 11
ln
=

=

(x) =a
1
+a
2
x g
1
(x) =1 e g
2
(x) =x
(x) =a
1
+a
2
x +a
3
x
2
g
1
(x) =1 , g
2
(x) =x e g
3
(x) =x
2

V Mtodo dos Mnimos Quadrados Clculo Numrico Prof. Dr. Sergio Pilling

13
Exerccio proposto 3