Ejercicios - Optimización No Lineal FaMAF

Ejercicios - Optimización No Lineal
FaMAF - 2015
Rn → R y x ∈ Rn, f 0(x) es el vector columna con coordenadas ∂x∂f (x) y f 00(x)
f
es la matriz con coordenadas ∂x∂ ∂x
(x). Dada F : Rn → Rm , F 0 (x) es la matriz m × n
1. Dada f :
i
2
i
con coordenadas
∂Fi
∂xj (x).
j
Demuestre que
(a) si f (x) = 21 hAx, xi − hb, xi + c con A ∈
Rn×n, b ∈ Rn, c ∈ R, entonces
1
1
f 0 (x) = (A + AT )x − b y f 00 (x) = (A + AT ).
2
2
(b) Si f (x) = 12 kAx − bk2 con A ∈
Rm×n, b ∈ Rm, entonces
f 0 (x) = AT (Ax − b)
(c) Si f (x) = 12 kF (x)k2 con F :
0
0
T
y f 00 (x) = AT A.
Rn → Rm diferenciable, entonces
f (x) = F (x) F (x)
00
0
T
0
y f (x) = F (x) F (x) +
m
X
Fj (x)Fj00 (x).
j=1
(d) Si f (x) = g(F (x)) con g :
Rm → R y F : Rn → Rm diferenciables, entonces
f 0 (x) = F 0 (x)T g 0 (F (x))
y
f 00 (x) = F 0 (x)T g 00 (F (x))F 0 (x) +
m
X
∂g
∂yj
j=1
(F (x))Fj00 (x).
2. Para cada valor del escalar β, hallar todos los puntos estacionarios del problema de
minimizar f (x) donde
R2
x∈
f (x) = x21 + x22 + βx1 x2 + x1 + 2x2 .
Determinar en cada caso si tal punto es un minimizador (local o global), un maximizador
o un punto de ensilladura.
R
R
3. Considere f : 2 → tal que f (x) = (x2 − px21 )(x2 − qx21 ) con 0 < p < q y sea x̄ = (0, 0).
Demuestre que para cualquier dirección d ∈ 2 la función ϕ : → t.q. ϕ(α) = f (x̄+αd)
tiene un minimizador local en α = 0. Más aún, muestre que dada una cantidad finita de
direcciones d1 , . . . , dr existe ε > 0 tal que f (x̄) < f (x̄ + αdi ) para todo i = 1, . . . , r y para
todo α ∈ (0, ε). No obstante, verifique que x̄ no es minimizador local de f en 2 (use la
curva x(t) = (t, mt2 ) con p < m < q).
R
R R
R
4. Sean n ≥ 2 y f :
Rn → R definida por
f (x) = (1 − xn )3
n−1
X
x2i + x2n .
i=1
Probar que x̄ = 0 es el único punto estacionario de f en
estricto de f y que no es un minimizador global de f en
1
Rn, que es un minimizador local
Rn .
R R
5. Determine si puede o no existir una función f : →
diferenciable que tenga un único
punto estacionario que sea minimizador local pero no minimizador global de f en .
6. Considere un método tipo gradiente que en vez de usar la derivada de f
aproxima por una diferencia hacia adelante, o sea
R
: Rn → R, la
f (x + hei ) − f (x)
∂f
(x) ≈
,
∂xi
h
donde h ∈ (0, 1) y ei es el i-ésimo vector canónico. Aplicando este método para minimizar
f (x) = max{|x1 |, |x2 |} en 2 , muestre que si para algún k, xk = (−100, −100) entonces el
método retorna xk como aproximación de la solución x̄ = (0, 0). Note que, por más que no
se usen derivadas, los métodos desarrollados para funciones diferenciables no deben usarse
con funciones no diferenciables.
R
7. Sea F :
Rn → Rn continuamente diferenciable.
Muestre que F (x̄) = 0 si y solo si x̄ es
1
un punto estacionario del problema de minimizar
kF (x)k2 y existe una solución d del
x∈Rn
2
sistema lineal 0 = F (x̄) + F 0 (x̄)d.
8. Un minimizador local irrestricto x̄ de una función f se dice localmente estable si existe
δ > 0 tal que para toda sucesión {xk } con f (xk ) → f (x̄) y xk ∈ B(x̄, δ), vale que xk → x̄.
Suponga que f es continua y x̄ es un minimizador local irrestricto de f .
(a) Muestre que x̄ es localmente estable si y solo si x̄ es un minimizador local estricto.
(b) Sea g una función continua. Muestre que si x̄ es localmente estable, entonces existe
δ > 0 tal que para todo ε > 0 suficientemente pequeño, la función fε t.q. fε (x) =
f (x) + εg(x) tiene un minimizador local irrestricto xε ∈ B(x̄, δ) (i.e., la solución del
problema perturbado no se aleja demasiado). Más aún, xε → x̄ cuando ε → 0+ .
Rn → R y γ > 0. Demuestre que las siguientes son equivalentes:
(a) f fuertemente convexa en Rn con módulo γ.
(b) f (x) − γkxk2 es convexa en Rn .
Si f es diferenciable en Rn , también son equivalentes a:
(c) f (y) ≥ f (x) + hf 0 (x), y − xi + γky − xk2 , ∀x, y ∈ Rn .
(d) hf 0 (y) − f 0 (x), y − xi ≥ 2γky − xk2 , ∀x, y ∈ Rn .
Si f es dos veces diferenciable en Rn , también son equivalentes a:
(e) hf 00 (x)d, di ≥ 2γkdk2 , ∀x ∈ Rn , ∀d ∈ Rn .
10. Sea f : Rn → R fuertemente convexa en Rn con módulo γ. Demuestre que existe x̄ tal
9. Sea f :
que f 0 (x̄) = 0 y existe c > 0 tal que
kx − x̄k ≤ ckf 0 (x)k
para todo x ∈
Rn.
Sea f (x) = 21 hAx, xi − hb, xi con A simétrica definida positiva. Exprese γ y c en términos
de A y muestre que si Ax̄ = b entonces kx − x̄k ≤ ckAx − bk.
11. Sea W ∈
Rn×n simétrica definida positiva, ξ ∈ [0, 1] y para p, q ∈ Rn defina
W+ = W +
ppT
W qq T W
−
+ ξτ vv T
hp, qi
τ
donde v =
p
Wq
−
, τ = hW q, qi.
hp, qi
τ
(a) Demuestre que W+ es simétrica y que W+ es definida positiva si y solo si hp, qi > 0.
2
(b) La corrección de Powell consiste en definir W+ cambiando p por p̃ = θp + (1 − θ)W q
donde para κ ∈ (0, 1),
(
θ=
1
q,qi
(1 − κ) hW hW
q,qi−hp,qi
si hp, qi ≥ κhW q, qi,
caso contrario.
Demuestre que con esta corrección W+ es definida positiva.
12. Considere el problema
maximizar xa11 xa22 . . . xann
sujeto a
Pn
i=1 xi
= 1, xi ≥ 0 i = 1, . . . , n,
donde ai > 0 para todo i. Encuentre el maximizador global y muestre que es único.
13. Demuestre que
(a) si ker(A) = {x ∈
entonces
Rn
| Ax = 0} y las filas de A son linealmente independientes,
Pker(A) (x) = [I − AT (AAT )−1 A]x.
(b) Si [a, b] = {x ∈
Rn | ai ≤ xi ≤ bi, i = 1, . . . , n} con a, b ∈ Rn, entonces
P[a,b] (x) = max{a, min{x, b}}.
(c) Si B(x̄, r) = {x ∈
Rn | kx − x̄k ≤ r} con r > 0, entonces
PB(x̄,r) (x) = x̄ + min 1,
r
(x − x̄),
kx − x̄k
x 6= x̄.
14. Considere el problema

 minimizar f (x)
g(x)
(?)

sujeto a x ∈ X,
R
R R
R
donde f : n → y g :
q : → tal que
Rn → R son funciones tal que g(x) > 0 para todo x ∈ X. Defina
q(λ) = min{f (x) − λg(x)},
x∈X
y suponga que λ̄ y x̄ satisfacen q(λ̄) = 0 y x̄ = argmin{f (x) − λ̄g(x)}. Demuestre que x̄
x∈X
es solución del problema (?).
3