Método del gradiente conjugado

“Método del gradiente
conjugado”
Método del gradiente conjugado
•Introducción
•Definiciones previas
•Desarrollo del método
•Aplicación del método
•Conclusión
Método del gradiente conjugado
In trod u cción
Se
p retend e d ar a co no cer el m éto d o d el grad iente co njugad o
p ara p od er reso lver siste m as d e n ecuacio ne s lineale s sim u ltan eas a
través d e m atrices, e nco ntra nd o así
las n so lucio nes lo m a s exacta s
p o sib les (d e acuerd o a las p o sib ilid ad es d e este m éto d o ), d and o un
ejem p lo d e su ap licació n y luego a nalizar sus p o sib ilid ad es d e
p ro gram ació n p ara cálculo s nu m érico s .
Método del gradiente conjugado
•Introducción
•Definiciones previas
•Desarrollo del método
•Aplicación del método
•Conclusión
Método del gradiente conjugado
D ef in icion es p revias
C o m o se ha bía dic ho a nte rio rm e nte e l o bje tivo de l m é to do de l g ra die nte c o njuga do e s
en con tra r un a solu ci ón l o m a s exa cta pa ra n ecua cion es lin eal es sim ul ta n ea s con n i n cógni ta s ,
la s c ua les de finire m os de la s ig uie nte fo rm a :
n
a
ij
x j  bi
i= 1,...,n
j 1
e s ta ec uac ió n s e e sc ribe co nve nie nte m e nte e n la fo rm a m a tric ia l:
Ax  b
e n do nde
 
A  a ij
es la m a triz
n x n
de coe fic ie ntes
x
T
 ( x1 ,..., x n )
de no ta ndo la tra ns pue s ta . S upo ne m os que A y b so n rea les.
ve c to r res idua l es :
r  b  Ax c
do nde
xc
es la so luc ió n c o m puta da
xt
si
es la s o luc ió n e xa c ta no s que da que :
r  A ( xt  xc )
y
b
T
 ( b1 ,..., b n )
co n la T
Método del gradiente conjugado
•Introducción
•Definiciones previas
•Desarrollo del método
•Aplicación del método
•Conclusión
Método del gradiente conjugado
D esa rrollo del m éto do
xt
C o ns ide re m os que v1 ,..., v n s ea una bas e pa ra un es pac io e uc lidia no n y que
sea la s o luc ió n
e xac ta. E nto nc es s i x1 es nues tra a pro xim a c ió n inic ia l de la so luc ió n, po de m os esc ribir
n
1)
xt  x1   j v j
j 1
v
s i po r e je m plo , lasj
so n o rto go na le s, e nto nces
v j  x t  x1 
T
2)
j 
j = 1 ,..., n
T
vjvj
pe ro e s to es de poc a a yuda , ya que es
3)
xt
la que es ta m o s bus ca ndo . Po r o tro la do , s upo ne r que
i  j
v Av i  0
T
j
vj
e n es te c aso las
s o n lla m a das A o rto go na l y A co njug a da. E nto nce s
v j A  x t  x1 
T
4)
j 
j = 1,...,n
T
v j Av
j

de do nde fác ilm e nte po de mo s ca lc ula r a las
T
j
. (O bse rve que
v j Av
j
 0
s i A es po s itiva de finida .)La
v 
j
ide a bás ic a de l m étod o d el g rad i en te con jug ad o e s ge ne ra r una se c ue nc ia

o rto go na les , ca lc ula r las
j
xt
c o m o e n 4 ) y de es ta m a ne ra o bte ne r
.
de vec to re s A
Método del gradiente conjugado
P ar a g e ne r ar un c o nju nto A o r to g o nal de ve c to r e s , s upo ne m o s q ue te ne m o s al g ún c o n ju nto de ve c to r e s
u 1 ,..., u n que s o n u n a bas e . E nto nc e s us a m o s e l
pr o c e di mi e nto de o r to g o nali zac i o n de
G r am -Sc hm i dt p ar a
c al c ul ar
v1  u 1

vi 1  u i 1 
5)
i
k 1
 i  1, k v k
i= 1 ,. .., n-1
do n de
 i  1 , k   v k Au i  1 / v k Av k 
T
6)
ui
c o m o l as
u 
j
T
v
i
s o n l i ne al m e nte i nde pe n di e nte s , l o s e r án po r l o tanto l as
. N o s r e s ta e nto nc e s e s c o g e r l a s e c ue nci a
. U n a po s i bili dad s e r i a us ar l o s n ve c to r e s c o or de na do s . Si l o hac e m o s as í , p ue de de m o s tr ar s e que e l
pr o c e di mi e nto r es ul tante e s fu nc i o nal m e nte e qui val e nte a l a e li mi nac i ó n g aus s i ana. Si n e m bar g o , un a e l e c ci ó n
que c o n d uc e a u n al g o ritm o m as c o nve ni e nte e s l a s i g ui e nte :
D e fi ni m o s :
i 1
xi  x1   j v j
7)
j 1

c o n l as
8)
i= 1 ,..., n
j
da d as po r 4 ). D e e s ta m a ne r a,
xi 1  xi  i vi
i= 1 ,..., n
e l e né si m o re si duo e s ta d ado po r
ri  b  Ax i
9)
i= 1 ,..., n
Método del gradiente conjugado
L a b as e de l m é to do de l g r adi e nte c o njug a do e s e s c o g e r u i  ri , i  1,..., n . D e ja m o s
de m o s tr ac i ó n de l he c ho de q ue l a s e c ue nc i a ri
ri
te r mi na (e s de c i r al g una
a u n pr o bl e m a l a
= 0 ) ante s de i  1  n
e n c u yo
c as o te ne m o s un a s o l uc i ó n o que l a s e c ue nc i a fo r m a un a bas e o r to g o nal par a e s p ac i o s n. A pr i o ri no
c o no c e m o s l a s e c ue nc i a ri
pe r o c o m o lo i ndic ar e m o s aho r a, po de m o s de te r m i nar l as v j
pr o c e s o i te r ati vo .
D e l a a pr o xi m ac i ó n i ni ci al te ne m o s
10)
r1  b  Ax 1
de 5 )
11)
v1  r1
e nto nc e s de 4 ) y 8 )
T
12)
13)
1 
v1 r1
T
v1 Av 1
y
x2  x1  1v1
e nto nc e s
r2  b  Ax 2  r1   1 Av 1
14)
y
v 2  r2   21 v1
15)
do n de T
T
 21   v1 Ar 2 / v1 Av 1 
ri
y l as
po r u n
Método del gradiente conjugado
l as e c ua c ione s d e l a lg or itm o g e ne r a l s o n:
T
i 
17)
v i ri
T
v i Av i
xi 1  xi  i vi
i= 1 ,..., n
ri  1  ri   i Av i
v1  r1  b  Ax 1
 i   v i Ar i  1 / v i Av i 
T
T
v i  1  ri  1   i v i
o bs e r ve que
i
c o m o e s ta da da ante r i o r m e nte di fi e re de
o r tog o nali dad A de l as
úni c am e nte un a s o l a
vi
i
c o m o e s ta d a da po r 4 ). Si n e m b ar g o , us an do l a
v
, pue de de m o s tr ar s e que l as do s fo r m as s o n i dé nti c as . Ta m bi é n i  1
e n 1 7 ) i nvo l uc r a
i
e n c o ntr as te c o n 5 ). P e r o nue v a m e nte us an do l a o r to g o nali dad A de l as
 ik
de m o s tr ar s e que to d as l as o tr as
s e an ul an. D e 1 ) y 1 7 ) s e de d uc e q ue :
18)
vi
, pue de
xn 1  xt
3
E l m é to do de l g r adi e nte co njug a do e s po r l o tanto , no u n m é to do i te r ati vo i nfi nito si no m as bi e n un
n m é to do fi ni to (e s
de c i r n pas o s ). E n e s te s e nti do e s di r ec tam e nte a nál o g o a l o s m é to do s di r e cto s . L a s o l uc ió n r e qui e r e
o pe r ac io ne s .
Método del gradiente conjugado
P ara m atrices d isp ersas, el n um er o d e op eracion es p ue d e ser red ucid o c ons id erab le m e n te
d eb id o a q u e se usa u na m atriz origin al A en ca d a etap a. S in e m b arg o p ara ta les m atrices hay
otr os m étod os q u e son m as fácilm e nte orga n izad os p ara u n a c om p utad ora d igita l.
E n la c om p u tación real, usa n d o el m étod o d el grad ie n te c onju ga d o, n iteraciones no
con d uce n a la s olución e xacta d e b id o al red on d e o ac u m ula d o. U n asp ecto útil d el m étod o es q ue,
si la iteración 1 7 ) es realiza d a p ara valores d e i> n , en tonces
19)
 i 1   i
p ara tod a i d on d e
 i  xt  xi
h asta q ue el red on d e o e n cad a etap a im p id a u n m ejora m ie n to ad icion al.
Método del gradiente conjugado
•Introducción
•Definiciones previas
•Desarrollo del método
•Aplicación del método
•Conclusión
Método del gradiente conjugado
A p licación
E jem plo
U se el m etod o d el grad ie n te con ju gad o p ara d eter m inar la s olución d el sig uie n te sistem a :
4 x1  x 2  2
 x1  4 x 2  x 3  6
 x2  4 x3  2
solu ción :
escogem os x1  0 d e tal m a nera
r1  ( 2 , 6 , 2 )  v1
T
T
usa n d o las ecu aciones d el alg oritm o ge nera l (17) calc u lam os :
1 
1 
2 
11
32
49
512
x2 
T
T
v2
11
(1, 3 ,1)
16
77
( 5 ,  1, 5 )
256
16
77
x 3  (1, 2 ,1)
T
r2 
T
7
16
( 3 ,  2 ,3 )
Método del gradiente conjugado
D e esta m a n era n o ob sta nte qu e 1 8 ) nos ha ce p en sar qu e la solució n
ex acta estuviera da da po r
x4 , x3
es la solució n ex acta. E nto nces este ejem p lo
ilustra otra ventaja del m éto do d el g radiente co njug a d o: q ue puede ser
con verg ente o casi con verg ente a la solu ció n ex acta en m en os de n
iteracio nes, red ucien do de este m o d o la co m p uta ció n total.
Método del gradiente conjugado
•Introducción
•Definiciones previas
•Desarrollo del método
•Aplicación del método
•Conclusión
Método del gradiente conjugado
C on clu sión :
A p esa r d e la eleg a n cia d el m éto d o
d el g ra d ien te co n ju g a d o ,
este m éto d o (d e a cu erd o a la b ib lio g ra fía ) ca si n o es o cu p a d o o m ejo r
d ich o ra ra v ez es u tiliza d o en co m p u ta d o ra s d ig ita les p a ra la
so lu ció n d e ecu a cio n es lin ea les sim u lta n ea s. L a ra zó n p rin cip a l d e
esto , es q u e a l ser
m éto d o d irecto ca si n o req u ieren co m p u ta ció n
(ca lcu lo rea liza d o p o r u n a m a q u in a ) y a q u e si esta s rea liza ra n el
ca lcu lo red o n d ea n lo s v a lo res o b ten id o s en ca d a eta p a lo q u e im p id e
u n a d ism in u ció n e n el erro r.