ULPGC Tutorial de Análisis Numérico Aproximación : Ajuste de funciones Método de los mı́nimos cuadrados Informática Página Web Página de Inicio Jesús Garcı́a Quesada Departamento de Informática y Sistemas Contenido Universidad de Las Palmas de Gran Canaria 35017 Campus de Tafira, España JJ II J I Email : [email protected] 2 de Octubre de 2000, v0.3 Página 1 de 16 Volver Pantalla completa Cerrar Salir ULPGC Índice General 1 AJUSTE DE FUNCIONES. APROXIMACIÓN MÍNIMO CUADRÁTICA 3 Informática 2 PROBLEMAS Soluciones a los Problemas 10 13 Página Web Página de Inicio Contenido JJ II J I Página 2 de 16 Volver Pantalla completa Cerrar Salir ULPGC 1. AJUSTE DE FUNCIONES. APROXIMACIÓN MÍNIMO CUADRÁTICA Sean (xi , yi ), i = 1, 2, . . . , n una nube de puntos con pesos wi > 0 y sea {gj }m j=1 una familia de funciones básicas. Si llamamos Informática Página Web φ(x) = c1 g1 (x) + c2 g2 (x) + · · · + cm gm (x) = m X cj gj (x) Página de Inicio j=1 donde las cj están por determinar, se trata de hacer mı́nimo el error cuadrático : Contenido e= n X wi (φ(xi ) − yi )2 (1) i=1 siendo yi = f (xi ), f desconocida. Por tanto, una condición necesaria de existencia de mı́nimo para e es : ∂e = 0, para k = 1, 2, . . . , m (2) ∂ck que se denomina sistema de ecuaciones normales y es en definitiva un sistema de ecuaciones lineales com m incógnitas cj . Desarrollando (1) tenemos : JJ II J I Página 3 de 16 Volver Pantalla completa 2 2 2 e =w1 (φ(x1 ) − y1 ) + w2 (φ(x2 ) − y2 ) + · · · + wn (φ(xn ) − yn ) = w1 (c1 g1 (x1 ) + · · · + cm gm (x1 ) − y1 )2 + · · · + wn (c1 g1 (xn ) + · · · + cm gm (xn ) − yn )2 Cerrar Salir ULPGC Por tanto : ∂e = 2w1 (φ(x1 ) − y1 )g1 (x1 ) + 2w2 (φ(x2 ) − y2 )gk (x2 ) + · · · + 2wn (φ(xn ) − yn )gk (xn ) = ∂ck n X =2 wi (φ(xi ) − yi )gk (xi ) = 0, k = 1, 2, . . . , n i=1 Informática Página Web (3) de la cual se puede eliminar el 2 ya que está igualado a cero. O sea : Página de Inicio Contenido w1 (c1 g1 (x1 )+· · ·+cm gm (x1 )−y1 )gk (x1 )+· · ·+wn (c1 g1 (xn )+· · ·+cm gm (xn )−yn )gk (xn ) = 0 Reordenando respecto a las ck y pasando al segundo miembro los términos con signo negativo tenemos : = c1 (w1 g1 (x1 )gk (x1 ) + · · · + wn g1 (xn )gk (xn )) + · · · + cm (w1 gm (x1 )gk (x1) + · · · + wn gm (xn )gk (xn )) = w1 y1 gk (x1 ) + · · · + wn yn gk (xn ) donde ya se han pasado al segundo miembro los sumandos con un signo negativo en la expresión anterior. Por tanto, queda : m n n X X X cj wi gj (xi )gk (xi ) = wi yi gk (xi ) j=1 i=1 i=1 JJ II J I Página 4 de 16 Volver Pantalla completa Cerrar Salir ULPGC para k = 1, 2, . . . , m. O también en forma matricial : P n n P wi g1 (xi )g1 (xi ) wi g2 (xi )g1 (xi ) i=1 i=1 P n P n wi g1 (xi )g2 (xi ) wi g2 (xi )g2 (xi ) i=1 i=1 .. .. . . n n P P wi g1 (xi )gm (xi ) wi g2 (xi )gm (xi ) i=1 i=1 ··· ··· .. . ··· n P wi gm (xi )g1 (xi ) wi gm (xi )g2 (xi ) i=1 .. . n P wi gm (xi )gm (xi ) i=1 n P i=1 c1 c2 .. . cm P n wi yi g1 (xi ) i=1 n P wi yi g2 (xi ) = i=1 .. . n P wi yi gm (xi ) i=1 que se denomina sistema de ecuaciones normales para la aproximación por mı́nimos cuadrados. De aquı́ se obtienen c1 , c2 , . . . , cm . Nótese que la matriz es simétrica, y definida positiva. Un caso particular importante es cuando se quiere ajustar los datos a un polinomio de un determinado grado, o sea, cuando : φ(x) = pn (x) = α0 + α1 x + α2 x2 + · · · + αm xm−1 = m−1 X αj xj j=0 En éste caso es gj (x) = xj−1 y por tanto gj (xi )gk (xi ) = xj+k−2 y el sistema normal i queda de la siguiente forma : Informática Página Web Página de Inicio Contenido JJ II J I Página 5 de 16 Volver Pantalla completa Cerrar Salir ULPGC n P P x2i xi .. .P xm−1 i P P x2i P xi3 xi .. .P xm i P 2 P xi3 P x4i xi .. .P xm+1 i P m−1 i P xm x P im+1 xi .. .P ··· x2m−2 i ··· ··· ··· ... α0 α1 α2 .. . αm−1 P yi P yi xi P yi x2i = .. . P m−1 yi xi Ejemplo. Dados los puntos P1 (1, 6), P2 (2, 1), P3 (4, 2), P4 (5, 3), P5 (10, 4), P6 (16, 5) encontrar los polinomios de grados 1,2,3,4,5 y 6 que mejor se ajusten por mı́nimos cuadrados. Solución: Para el caso de grado uno tenemos p1 (x) = α0 + α1 x y entonces : P P n x α y i 0 i P P 2 = P xi xi α1 yi xi Y sustituyendo : 6 38 38 402 α0 α1 = 21 151 cuya solución nos da la recta de regresión p1 (x) = 2.793 + 0.1116x. Análogamente, para el caso de grado dos tenemos: P P P 2 n α0 P P x2i P xi3 P yi α1 = P x2i P x3i P xi4 P yi xi2 xi xi xi α2 yi xi Informática Página Web Página de Inicio Contenido JJ II J I Página 6 de 16 Volver Pantalla completa Cerrar Salir ULPGC Y sustituyendo : 6 38 402 α0 21 38 402 5294 α1 = 151 402 5294 76434 α2 1797 Informática 2 cuya solución nos da p2 (x) = 4.0593 − 0.4159x + 0.03097x . 6 38 402 5294 α0 38 402 5294 76434 α1 = 402 5294 76434 1152758 α2 5294 76434 1152758 17797002 α2 2 Página Web 21 151 1797 24997 Página de Inicio Contenido 3 cuya solución nos da p3 (x) = 6.4822 − 2.1813x + 0.3075x − 0.01106x . El resto de los polinomios resultantes del ajuste son: p3 (x) = 6.482 − 2.181x + 0.3075x2 − 0.011076x3 p4 (x) = 15.43 − 12.75x + 3.494x2 − 0.33714x3 + 0.010375x4 p5 (x) = 20.72 − 21.74x + 8.28x2 − 1.3582x3 + 0.098876x4 − 0.002579x5 con error cuadrático de 0.182823 × 10−17 . p6 (x) = 13.2005 − 5.8561x − 3.3569x2 + 2.4861x3 − 0.5130x4 + 0.04205x5 − 0.001174x5 con error cuadrático de 0.229023 × 10−19 . JJ II J I Página 7 de 16 Volver Pantalla completa Cerrar Salir ULPGC En algunas ocasiones la función de ajuste no aparece expresada como una combinación lineal de funciones básicas, debiéndose realizar previamente algunas transformaciones con el fin de obtener una ecuación transformada que sea lineal, como es el caso del siguiente ejemplo. Ejemplo. La intensidad de la radiación emitida de una fuente radiactiva viene dada por la fórmula I = I0 e−αt . Determinar las constantes α e I0 usando los datos dados : t I 0.2 0.3 0.4 0.5 0.6 0.7 0.8 3.16 2.38 1.75 1.34 1.00 0.74 0.56 Solución: Tomando logaritmos neperianos, tenemos : I = I0 e−αt =⇒ ln I = ln I0 − αt =⇒ Y = A + Bt con Y = ln I, A = ln I0 y B = −α, con lo que hay que añadir una lı́nea más en la tabla, la correspondiente a ln I que nos ha aparecido en la linealización : ln I 1.1506 0.8671 0.5596 0.2927 0 −0.3011 −0.5798 El sistema que resulta es pues : P P P A 1 t y i i P P 2 = P ti ti B yi ti O sea : Informática Página Web Página de Inicio Contenido JJ II J I Página 8 de 16 Volver Pantalla completa Cerrar Salir ULPGC 7 3.5 3.5 2.03 A B = 1.9891 0.18583 Y de aquı́ : Informática 3.387468 = 1.7283 =⇒ I0 = eA = 5.631073 ' 5.63 1.96 −5.66104 B= = −2.8883 =⇒ α = −B = 2.8883 ' 2.89 1.96 A= Página Web Página de Inicio siendo el error cuadrático cometido de 0.366075 × 10−3 . Contenido JJ II J I Página 9 de 16 Volver Pantalla completa Cerrar Salir ULPGC 2. PROBLEMAS Problema 1. Dada la siguiente nube de puntos : xi yi −1.3 1 1.2 1.4 −1.1 −2 3 0.8361 1.0 0.7053 1.0398 0.6865 2.1981 11.7514 √ √ √ √ 2 encontrar la función del tipo y = A x2 − 1 + Be x −1 + C sen( x2 − 1) sen( x2 − 1) que mejor se ajuste por mı́nimos cuadrados. Estimar asimismo el error cuadrático cometido. Problema 2. Dada la siguiente nube de puntos : xi yi Informática Página Web Página de Inicio Contenido 0.1 0.2 0.3 0.4 0.5 0.6 0.4204 0.4460 0.4726 0.5027 0.5378 0.5792 2 √ encontrar la función del tipo y = α 2βx +γ x−1 que mejor se ajuste por mı́nimos cuadrados. Estimar asimismo el error cuadrático cometido. JJ II J I Página 10 de 16 Volver Pantalla completa Cerrar Salir ULPGC Referencias [Act90] F.S. Acton. Numerical Methods That (Usually) Work. The Mathematical Association of America, Washington, 1990. [Atk89] K. E. Atkinson. An Introduction to Numerical Analysis. John Wiley, New York, 2nd. edition, 1989. [BF80] [CC89] Informática Página Web R.L. Burden and D. Faires. Análisis Numérico. Grupo Editorial Iberoamericana, México, 1980. Página de Inicio S.C. Chapra and R.P. Canale. Numerical Methods for Engineers. McGraw-Hill International, New York, second edition, 1989. Contenido [CdB80] S. D. Conte and C. de Boor. Elementary Numerical Analysis: An Algorithmic Approach. McGraw–Hill, New York, third edition, 1980. JJ II [DB74] J I Germund Dahlquist and Åke Björck. Numerical Methods. Prentice-Hall, Englewood Cliffs, New Jersey, 1974. [Fad59] V.N. Faddeeva. Computational Methods of Linear Algebra. Dover Publications, Inc, New York, 1959. Página 11 de 16 Volver [Frö79] C.-E. Fröberg. Introduction to Numerical Analysis. Adison–Wesley, Reading, Massachusetts, 2nd. edition, 1979. [GW89] C.F. Gerald and P.O. Wheatley. Applied Numerical Analysis. Addison–Wesley Publishing Co., Reading, Massachusets, fourth edition, 1989. Pantalla completa Cerrar Salir ULPGC [Hen72] P. Henrici. Elementos de Análisis Numérico. Ed. Trillas, México, 1972. [Hil74] F. B. Hildebrand. Introduction to Numerical Analysis. McGraw–Hill, New York, second edition, 1974. [KC94] D. Kincaid and W. Cheney. Análisis Numérico : las matemáticas del cálculo cientı́fico. Addison-Wesley Iberoamericana, 1994. Informática Página Web [Mar87] M. J. Maron. Numerical Analysis: A Practical Approach. Macmillan Publishing Co., New York, second edition, 1987. [ML91] M. J. Maron and R. J. Lopez. Numerical Analysis: A Practical Approach. Wadsworth, Belmont, California, third edition, 1991. Página de Inicio Contenido [RR78] Anthony Ralston and Philip Rabinowitz. A First Course in Numerical Analysis. McGraw-Hill, New York, 2nd. edition, 1978. JJ II [Sch89] H.R. Schwarz. Numerical Analysis. John Wiley & Sons, Chichester, 1989. J I [Wer84] W. Werner. Mathematics of Computation, 43:205–217, 1984. Página 12 de 16 [YG73a] David M. Young and R.T. Gregory. A Survey of Numerical Mathematics, volume I. Dover Publications, New York, 1973. Volver [YG73b] David M. Young and R.T. Gregory. A Survey of Numerical Mathematics, volume II. Dover Publications, New York, 1973. Pantalla completa Cerrar Salir ULPGC Soluciones a los Problemas Problema 1. Construyendo las siguientes lineas: xi p yi x2i − 1 √ 2 epxi −1 sen x2i − 1 −1.3 1 1.2 1.4 −1.1 −2 0.8361 1.0 0.7053 1.0398 0.6865 2.1981 0.830662 0.0 0.663325 0.979796 0.458258 1.732051 3 11.7514 2.828427 2.294837 1.0 1.941236 2.663913 1.581317 5.652235 16.918827 0.545202 0.0 0.379136 0.689537 0.195706 0.974222 9.490827 × 10−2 y resultan: A = −2.085593, B = 1.040882, C = 0.141162 siendo entonces la función : √ √ x2 − 1 + 1.040882 e x2 −1 Página Web Página de Inicio Contenido y la matriz que queda es por tanto: 13.3 64.172273 3.425502 A 39.540944 64.172273 337.826137 11.245750 B = 219.387459 3.425502 11.245750 1.912867 C 4.831323 y = −2.085593 Informática JJ II J I Página 13 de 16 √ √ + 0.141162 sen( x2 − 1) sen( x2 − 1) Volver y el error cuadrático ||e||2 = 0.332221. Pantalla completa J Cerrar Salir ULPGC Problema 2. √ √ x Tenemos log2 y = log2 α + βx2 + γ x − 1 =⇒ log2 y = (log2 α − 1) + β x2 + γ |{z} | {z } | {z } |{z} B C Y A √ 2 2 + C o sea, Y = A + Bx x, con funciones básicas g (x) = 1, g (x) = x , g 1 2 3 (x) = √ x. Construyendo entonces la lineas necesarias: Informática Página Web xi yi Y = log2 yi √ xi x2i 0.1 0.2 0.3 0.4 0.5 0.6 0.4204 0.4460 0.4726 0.5027 0.5378 0.5792 −1.25016506 −1.164884 −1.081308 −0.992230 −0.894858 −0.787866 0.316228 0.447214 0.547723 0.632456 0.707107 0.774597 0.01 0.04 0.09 0.16 0.25 0.36 El sistema que resulta es: 6 6 6 √ P P P 2 1 x xi i i=1 i=1 i=1 6 6 6 P P P √ x2i x4i x2i xi i=1 i=1 i=1 6 √ 6 6 P P P √ xi x2i xi xi i=1 Y sustituyendo : i=1 i=1 6 P yi i=1 A 6 B = P yi x2 i C i=1 6 P √ yi xi i=1 Página de Inicio Contenido JJ II J I Página 14 de 16 Volver Pantalla completa Cerrar Salir ULPGC 6 0.91 3.425325 A −6.171311 −4.277627 0.91 0.2275 0.6271071 B = −0.822518 (o también −0.570126 si es ln) 3.425325 0.627171 2.1 C −3.379128 −2.342233 con lo que queda: A = −1.414679 = log2 α − 1 =⇒ α = s−0.414679 ' 0.750186 y por otra parte B = β = 0.667617, C = γ = 0.498999 siendo entonces la función : √ 0.667617x2 +0.498999 x−1 Informática Página Web Página de Inicio y = 0.7501862 siendo el error cuadrático 0.161628 × 10−7 en éste caso. Contenido JJ II J I Página 15 de 16 Volver Pantalla completa Cerrar Salir J