UNI-FIM

Postgrado FIM

Ma200
Ajuste de mnimos cuadrados

Ajuste a una recta de la data

Dado m pares de datos: (xi,yi), i =1,m
Se desea encontrar los coeficientes c1 y c2 tales que
F(x) = c1 x+c2
sea un buen ajuste a la data
Surgen entonces las siguientes preguntas:
Cmo definimos que es un buen ajuste?
Cmo calculamos c1 y c2 a partir de la definicin de buen ajuste?
Ajustes posibles
Podemos obtener ajustes admisibles por adecuacin de la pendiente (c 1) y la
interseccin (c2). A continuacin se muestra la representacin grfica de algunos
candidatos a mejor ajuste para un conjunto particular de datos.

La pregunta es entonces cul de estas lneas provee el mejor ajuste?

Residual
En cada punto, la diferencia entre la ordenada de la data y la funcin ajustada es:
ri = yi F(xi) = yi (c1 x +c2)
ri es llamado el residual para el dato (xi, yi)
ri es la distancia vertical entre la data conocida y la funcin de ajuste.

UNI-FIM
Postgrado FIM

Ma200

Minimizando el residual
Dos criterios para escoger el mejor ajuste
Minimizar ri

Minimizar

ri 2

2
Por razones estadsticas y de clculo se elige la minimizacin de ri

yi (c1 xi c2 ) 2

Ajuste de la distancia ortogonal

Una alternativa para minimizar el residual es minimizar la distancia ortogonal a la recta.

La mimimizacin de d i 2 es conocida como el problema de regresin de la distancia

ortogonal. Este problema puede ser y es rpidamente resuelto con MATLAB.
Ajuste por mnimos cuadrados
El ajuste por mnimos cuadrados es obtenido escogiendo c1 y c2 tales que
m

ri

i 1

sea un mnimo. Para simplificar la notacin haremos = r 2 .

Para encontrar c1 y c2 se debe minimizar = (c1, c2). El mnimo requiere que
2

c1

c2 cte

2 yi (c1 xi c2 ) xi yi xi c1 xi 2 c2 xi
2

UNI-FIM
Postgrado FIM

c 2
m

i 0
m

c1 cte

yi xi c1

i 0
m

Ma200

2 yi (c1xi c2 )1 y
xi 2 c 2

i c1

xi c 2 1

xi

i 0

yi c1 xi c2 m

i0

i 0

UNI-FIM
Postgrado FIM

Ma200

Si hacemos

S xy c1 S xx c 2 S x
S y c1S x c 2 m

(1)
(2)

De (1) y (2) se obtiene

d S x 2 mS xx
1
c1 ( S x S y mS xy ) (4)
d
1
c 2 ( S x S xy S xx S y )
d

(3)

(5)

Sistema sobre-determinado para ajuste de una recta

Escribiendo la ecuacin c1x + c2 = y para todos los puntos conocidos (xi, yi), i =1,..,m
obtenemos un sistema sobre-determinado.

O
Donde

Ecuacin normal para el ajuste

El cuadrado de la norma 2 de r - y Ac es

La minimizacin de requiere que

4

UNI-FIM
Postgrado FIM

Ma200

o que

Estadstico R2
R2 es una medida de que tan bien la funcin de ajuste sigue la tendencia de la data.
Se define
es el valor de ajuste de la funcin en los puntos de la data conocida
y
y i c1 xi c 2 para el ajuste a una recta
y es el promedio de los valores y
y

1
m

yi

Luego:

Cuando R2 1 la funcin de ajuste tiende a la data

Cuando R2 0 la funcin de ajuste no es significativamente mejor que la aproximacin
a la data por este medio.
Ajuste de funciones no lineales transformadas

Algunas de funciones no lineales ajustadas y = F(x) pueden ser transformadas en

una ecuacin de la forma v =c1 u+c2
El ajuste por mnimos cuadrados a una recta es desarrollado en la transformacin de
variables.
Los parmetros no lineales de ajuste de la funcin son obtenidos por transformacin
inversa de las variables originales.
El ajuste de mnimos cuadrados a la ecuacin transformada no produce el mismo
ajuste de coeficientes como la solucin directa de un problemas de ajuste de
mnimos cuadrados no lineal que involucra el original ajuste de la funcin
Ejemplo
y = e x
ln y = c1x + c2

y=x
ln y = c1 ln x + c2
x
y=xe
ln (y/x) = c1x+c2

Ajuste de la combinacin lineal de funciones

Definicin de la funcin de ajuste y funciones base
Formulacin del sistema sobre-determinado
Solucin va ecuaciones normales

UNI-FIM
Postgrado FIM

Ma200

Considere la funcin de ajuste

F(x) = c1 f1(x)+c2 f2(x)+ +cn fk(x)

F(x) =

ci f i ( x )
i 1

Las funciones base

son seleccionadas por la persona que hace el ajuste
Los coeficientes
son determinados por el mtodo de los mnimos cuadrados
F(x) puede ser cualquier combinacin de funciones que sean lineales en los coeficientes
cj, por esta razn
son todas funciones base vlidas. Por otro lado
no son funciones base vlidas, desde que los cj son los parmetros del ajuste.
La funcin de ajuste para un polinomio cbico es

la cual tiene las funciones base

El objetivo es encontrar los cj tal que F(xi) y i .

Desde que F(xi) y i , el residual para cada punto de la data es

La solucin de mnimos cuadrados proporciona los cj que minimizan

Considere la funcin de ajuste con tres funciones base

Asumiendo que F(x) acta como una funcin interpolante. Entonces las ecuaciones
son todos satisfechas.

Las ecuaciones anteriores son equivalentes al sistema sobredeterminado

6

UNI-FIM
Postgrado FIM

Ma200
Ac=y

Donde

Si F(x) no interpola la data, entonces la ecuacin matricial precedente no puede ser

resuelta exactamente; b no cae en el espacio columna de A.
El mtodo de los mnimos cuadrados provee la solucin de compromiso que minimiza
El valor de c que minimiza

satisface la ecuacin normal

En general, para n funciones bsicas

Fuente: Scientific Computation by Michael T. Heath

http://www.cse.uiuc.edu/heath/scicomp/notes/index.html