Aproximación de funciones
Método de los mínimos cuadrados
by Darwin E. Quiroz (UNAH)
on 21 de julio de 2020
Aproximación de funciones
∗
∗
∗
∗
∗
∗
Mínimos cuadrados lineales
Ejemplo 1
Mínimos cuadrados polinomiales
Ejemplo 2
Linealización de relaciones no lineales
Ejemplo 3
Aproximación de funciones
∗
∗
∗
∗
∗
∗
Mínimos cuadrados lineales
Ejemplo 1
Mínimos cuadrados polinomiales
Ejemplo 2
Linealización de relaciones no lineales
Ejemplo 3
Aproximación de funciones
» Mínimos cuadrados lineales
Consideremos el problema de estimar los valores de una función
en puntos no tabulados, si contamos con los datos
experimentales de la siguiente tabla:
xi
1
2
3
4
5
6
7
8
9
10
yi
1.3
3.5
4.2
5.0
7.0
8.8
10.1
12.5
13.0
15.6
Datos experimentales
Grafica de los datos experimentales
Esta gráfica sugiere que la relación real entre x y y es lineal.
[1/21]
Aproximación de funciones
» Mínimos cuadrados lineales
(a) Interpolación de Lagrange
(b) Spline cúbico natural
Es claro que el polinomio de Lagrange y el spline cúbico natural
son malos predictores de la información entre varios de los
puntos dato.
[2/21]
Aproximación de funciones
» Mínimos cuadrados lineales
Un mejor enfoque sería encontrar la recta que se aproxima
“mejor” (en cierto sentido), aunque ésta no coincida con los
datos en ningún punto.
La razón probable de que ninguna recta se ajuste a estos datos
es que éstos tienen cierto error: no es razonable exigir que la
función de aproximación coincida exactamente con los datos. De
hecho, tal función introduciría oscilaciones que no estaban
presentes en un inicio.
[3/21]
Aproximación de funciones
» Mínimos cuadrados lineales
Sea a1 xi + a0 el i-ésimo valor de la recta de aproximación y yi el
i-ésimo valor dado para y.
El método de mínimos cuadrados para resolver este problema
requiere determinar la mejor línea de aproximación, cuando el
error es la suma de los cuadrados de las diferencias entre los
valores de y en la línea aproximación y los valores de y dados
(error cuadrático medio).
Por tanto, hay que encontrar las constantes a0 y a1 que reduzcan
al mínimo el error de mínimos cuadrados:
10
∑
E2 (a0 , a1 ) =
[yi − (a1 xi + a0 )]2 .
i=1
El método de mínimos cuadrados concede mayor valor relativo al
punto que está alejado del resto de los datos, pero no permitirá
[4/21]
que ese punto domine enteramente la aproximación.
Aproximación de funciones
» Mínimos cuadrados lineales
El problema general de ajustar la mejor recta con mínimos
cuadrados a una colección de datos {(xi , yi )}m
i=1 implica minimizar
el error total,
E ≡ E2 (a0 , a1 ) =
m
∑
[yi − (a1 xi + a0 )]2 ,
i=1
con respecto a los parámetros a0 y a1 .
[5/21]
Aproximación de funciones
» Mínimos cuadrados lineales
Para que se presente un mínimo, necesitamos que
∂E
=0
∂a0
y
∂E
= 0,
∂a1
es decir,
0=
m
m
∑
∂ ∑
[yi − (a1 xi + a0 )]2 = 2
(yi − a1 xi − a0 )(−1)
∂a0
i=1
i=1
y
0=
m
m
∑
∂ ∑
[yi − (a1 xi + a0 )]2 = 2
(yi − a1 xi − a0 )(−xi ).
∂a1
i=1
i=1
[6/21]
Aproximación de funciones
» Mínimos cuadrados lineales
La solución para este sistema de ecuaciones es
m
∑
a0 =
x2i
i=1
m
∑
i=1
(m
∑
m
yi −
m
∑
x i yi
i=1
)
−
x2i
(m
∑
i=1
m
∑
xi
i=1
)2
xi
i=1
y
m
a1 =
m
m
∑
x i yi −
i=1
(m
∑
i=1
)
x2i
m
∑
i=1
−
xi
m
∑
i=1
(m
∑
yi
)2 .
xi
i=1
[7/21]
Aproximación de funciones
∗
∗
∗
∗
∗
∗
Mínimos cuadrados lineales
Ejemplo 1
Mínimos cuadrados polinomiales
Ejemplo 2
Linealización de relaciones no lineales
Ejemplo 3
Aproximación de funciones
» Ejemplo 1
Ejemplo 1
Considere los datos de la tabla siguiente:.
xi 1
2
3 4 5 6
7
8
9
10
yi 1.3 3.5 4.2 5. 7. 8.8 10.1 12.5 13. 15.6
Obtenga la recta de mínimos cuadrados que aproxima estos
datos.
Solución:
Para este ejemplo tenemos que m = 10. Calculando x2i y xi yi :
xi
1
2
3
4
5
6
7
8
9
10
yi 1.3 3.5 4.2 5.0 7.0 8.8 10.1 12.5
13.
15.6
x2i
1
4
9
16 25
36
49
64
81
100
xi yi 1.3 7.0 12.6 20. 35.0 52.8 70.7 100.0 117.0 156.0
[8/21]
Aproximación de funciones
» Ejemplo 1
Luego,
10
∑
xi yi = 572.4,
i=1
10
∑
xi = 55,
i=1
10
∑
i=1
yi = 81.0
10
∑
x2i = 385.
i=1
Sustituyendo,
a0 =
(385)(81.0) − (572.4)(55)
= −0.36
10(385) − (55)2
a1 =
y
(10)(572.4) − (55.0)(81.0)
= 1.538,
10(385) − (55)2
de modo que P (x) = 1.538x − 0.36.
[9/21]
Aproximación de funciones
» Ejemplo 1
Utilizando el polinomio lineal P (x) = 1.538x − 0.36 aproximamos
los valores y, a continuación se muestran en la siguiente tabla:
xi
1
2
3
4
5
6
7
8
9
10
yi
P (xi ) = 1.538x − 0.36
1.3
1.178
3.5
2.716
4.2
4.254
5.0
5.792
7.0
7.33
8.8
8.868
10.1
10.406
12.5
11.944
13.0
13.482
15.6
15.02
El error total está dado por E =
10
∑
i=1
(yi − P (xi ))2 = 2.344740.
[10/21]
Aproximación de funciones
» Ejemplo 1
Gráfica del ajuste lineal para los datos experimentales del Ejemplo 1.
[11/21]
Aproximación de funciones
∗
∗
∗
∗
∗
∗
Mínimos cuadrados lineales
Ejemplo 1
Mínimos cuadrados polinomiales
Ejemplo 2
Linealización de relaciones no lineales
Ejemplo 3
Aproximación de funciones
» Mínimos cuadrados polinomiales
El problema general de ajustar una colección de datos
{(xi , yi )}m
i=1 , con un polinomio algebraico
Pn (x) = an xn + an−1 xn−1 + · · · + a1 x + a0 ,
de grado n < m − 1, implica minimizar el error total,
E ≡ E2 (a0 , a1 , . . . , an ) =
m
∑
[yi − Pn (xi )]2 ,
i=1
con respecto a los parámetros a0 , a1 , . . . , an−1 , an .
[12/21]
Aproximación de funciones
» Mínimos cuadrados polinomiales
Como en el caso lineal, para minimizar E es necesario que
∂E
= 0, para cada j = 0, 1, . . . , n. Por lo tanto, para cada j,
∂aj
debemos tener
∑
∑ ∑ j+k
∂E
0=
= −2
yi xji + 2
ak
xi .
∂aj
m
n
m
i=1
k=0
i=1
Esto nos da n + 1 ecuaciones normales en las n + 1 incógnitas aj ,
dadas por
m
m
n
∑
∑
∑
ak
xj+k
=
yi xji ,
i
k=0
i=1
i=1
para cada j = 0, 1, . . . , n.
[13/21]
Aproximación de funciones
» Mínimos cuadrados polinomiales
Es útil escribir las ecuaciones de acuerdo con lo siguiente:
a0
m
∑
i=1
m
∑
a0
x1i
i=1
a0
m
∑
i=1
x0i + a1
+
xni + a1
m
∑
i=1
m
∑
a1
x2i
i=1
m
∑
i=1
x1i + a2
+
m
∑
i=1
m
∑
a2
x3i
i=1
xn+1
+ a2
i
m
∑
i=1
x2i + · · · + an
+ ··· +
m
∑
xni =
i=1
m
∑
an
xn+1
i
i=1
xn+2
+ · · · + an
i
m
∑
i=1
=
..
.
x2n
i =
m
∑
i=1
m
∑
yi x0i ,
yi x1i ,
i=1
m
∑
yi xni .
i=1
Este sistema de ecuaciones lineales tiene una única solución
siempre y cuando las xi sean distintas.
[14/21]
Aproximación de funciones
∗
∗
∗
∗
∗
∗
Mínimos cuadrados lineales
Ejemplo 1
Mínimos cuadrados polinomiales
Ejemplo 2
Linealización de relaciones no lineales
Ejemplo 3
Aproximación de funciones
» Ejemplo 2
Ejemplo 2
Obtenga los polinomios de mínimos cuadrados de primero,
segundo y tercer grados para los datos de la tabla anexa. En
cada caso calcule el error E. Grafique los datos y los polinomios.
xi 0. 0.15 0.31 0.5
0.6
0.75
yi 1. 1.004 1.031 1.117 1.223 1.422
Solución:
[15/21]
Aproximación de funciones
» Ejemplo 2
Gráfica del ajuste polinomial para los datos del Ejemplo 2.
[16/21]
Aproximación de funciones
∗
∗
∗
∗
∗
∗
Mínimos cuadrados lineales
Ejemplo 1
Mínimos cuadrados polinomiales
Ejemplo 2
Linealización de relaciones no lineales
Ejemplo 3
Aproximación de funciones
» Linealización de relaciones no lineales
Algunas veces es adecuado asumir que los datos tienen una
relación no lineal, por ejemplo, una relación exponencial de la
forma y = beax para algunas constantes a y b.
La dificultad de aplicar el procedimiento de mínimos cuadrados
en una situación de este tipo proviene de intentar minimizar
E ≡ E2 (a, b) =
m
∑
(yi − beaxi )2 ,
i=1
es decir,
∑
∂E
(yi − beaxi )(−eaxi )
0=
=2
∂b
m
i=1
y
∑
∂E
=2
(yi − beaxi )(−bxi eaxi ).
∂a
m
0=
i=1
En general, no se puede encontrar una solución exacta para este
sistema en a y b.
[17/21]
Aproximación de funciones
» Linealización de relaciones no lineales
El método que suele emplearse cuando se sospecha que los datos
tienen una relación exponencial, consiste en considerar el
logaritmo de la ecuación de aproximación,
y = beax =⇒ ln(y) = ln(beax ) =⇒ ln(y) = ax + ln(b).
Como resultado se obtiene un problema lineal ,
Yi = a1 Xi + a0
con Yi = ln(yi ), Xi = xi , a1 = a, a0 = ln(b).
Las soluciones para ln(b) y a pueden obtenerse haciendo uso del
método de mínimos cuadrados lineales, luego resolvemos para a
y b,
a = a1 y b = ea0 .
[18/21]
Aproximación de funciones
» Linealización de relaciones no lineales
Algunos ejemplos de linealización de relaciones no lineales:
Función, y = f (x) Linealización, Y = Ax + B
D
−1
D
y=
y=
(xy) +
x+C
C
C
y=
1
Ax + B
y = CxA
1
= Ax + B
y
ln(y) = A ln(x) + ln(C)
Cambios
X = xy, Y = y,
−1
−a0
C=
,D =
a1
a1
1
X = x, Y = ,
y
A = a1 , B = a0
X = ln(x), Y = ln(y),
A = a1 , C = ea0
[19/21]
Aproximación de funciones
∗
∗
∗
∗
∗
∗
Mínimos cuadrados lineales
Ejemplo 1
Mínimos cuadrados polinomiales
Ejemplo 2
Linealización de relaciones no lineales
Ejemplo 3
Aproximación de funciones
» Ejemplo 3
Ejemplo 3
Un investigador obtiene de un experimento los siguientes datos
que se muestran a continuación
xi 1.2
1.4
1.6
1.8
2.0
2.2
yi 0.5073 0.5616 0.6098 0.6452 0.6824 0.7110
Se sabe que dichos datos pueden modelarse por la curva de
x
ajuste y =
donde c y d son parámetros. Determine la
ln(c/d + dex )
linealización de la curva de ajuste y la recta de regresión de
mínimos cuadrados para estimar c y d. Además aproxime el valor
de y cuando x = 2.5.
Solución:
[20/21]
Aproximación de funciones
... Gracias!!
[21/21]
