Transparencias

Valores singulares
Curso 2016-17
1
Producto escalar y ortogonalidad
< x, y >=
Si x ∈
Cn
x ∗x
Cn
=
x ∗y
 n
P


yi xi = y T x




n
P
i=1
i=1
n
P
i=1
y i xi = y ∗ x
si F = R,
si F = C
|xi |2 = kxk22 .
Si x, y ∈
= y ∗ x, pero si x, y ∈ Rn entonces
x T y = y T x.
x, y ortogonales: x ⊥ y ⇔ y ∗ x = 0.
Si S ⊆ Fn su (subespacio) ortogonal:
S ⊥ = {y ∈ Fn |x ∗ y = 0, ∀x ∈ S}.
S ortogonal ⇔ ∀x, y ∈ S, x ∗ y = 0.
S ortonormal ⇔ S ortogonal y ∀x ∈ S, kxk2 = 1.
Proposición
Si S = {v1 , . . . , vt } ortogonal entonces linealmente independientes
2
Matrices unitarias y ortogonales
Definición
(a) Una matriz U ∈ Cn×n es unitaria si sus columnas forman una base
ortonormal de vectores de Cn .
(b) Una matriz P ∈ Rn×n es ortogonal si sus columnas forman una
base ortonormal de vectores de Rn .
Proposición
Para U ∈ Cn×n las siguientes condiciones son equivalentes:
(i) U es unitaria.
(ii) U es no singular y U ∗ = U −1 .
(iii) UU ∗ = In .
(iv) U ∗ es unitaria.
(v) Las filas de U (mejor: las columnas de U ∗ ) forman un sistema
ortonormal de vectores de Cn .
(vi) Para todo x ∈ Cn se tiene kxk2 = kUxk2
3
Normas unitariamente invariantes
Definición
Una norma k · k en Cm×n se dice que es unitariamente invariante si
∀A ∈ Cm×n y para todo par de matrices unitarias U ∈ Cm×m y
V ∈ Cn×n se cumple que kUAV k = kAk.
Proposición
Las normas k · k2 y k · kF definidas en Cn×n son unitariamente
invariantes.
4
Descomposición en valores singulares
Definición
Sea m, n enteros positivos y A ∈ Cm×n . Una descomposición en valores
singulares (completa) de A es una factorización
A = UΣV ∗
donde U ∈ Cm×m y V ∈ Cn×n son unitarias y Σ es diagonal. Además,
 Diag(σ
,
.
.
.
,
σ
)

1
n

si m ≥ n

0m−n×n
Σ=


 Diag(σ1 , . . . , σm ) 0m×n−m si n ≥ m
En cualquier caso, σ1 ≥ · · · ≥ σp ≥ 0, p = mı́n{m, n} son números reales
no negativos ordenados de mayor a menor y se llaman valores singulares
de A. Además, a los vectores u1 , . . . , um y v1 , . . . , vn que forman las
columnas de U y V se les llama vectores singulares de A por la izquierda
y por la derecha, respectivamente.
Si A ∈ Rm×n basta cambiar “matriz unitaria” por “matriz ortogonal”.
5
El teorema SVD
Teorema (Teorema SVD)
Toda matriz A ∈ Fm×n admite una descomposición en valores
singulares. Además, los valores singulares están determinados de
forma única, y, si A es cuadrada y sus valores singulares son todos
distintos, entonces los vectores singulares están también
determinados de forma única salvo producto por un número
complejo de módulo 1.
6
Propiedades de los valores singulares
1
2
3
4
5
6
rang(A) = número de valores singulares de A distintos de cero
Si A = UΣV ∗ es una descomposición
de A ∈ Cm×n
en valores
singulares,
r = rang A, y U = u1 u2 · · · um y
V = v1 v2 · · · vn entonces Im A =< u1 , . . . , ur > y
Ker A =< vr +1 , . . . , vn >.
Im A∗ =< v1 , . . . , vr >, Ker A∗ =< ur +1 , . . . , um >
Los valores singulares de A ∈ Cm×n distintos de cero son las
raı́ces cuadradas positivas de los valores propios distintos de
cero de A∗ A y también de los de AA∗ .
Los valores singulares de A están determinados de forma
única. Y si A es cuadrada y sus valores singulares son todos
distintos, entonces los vectores singulares están también
determinados de forma única salvo producto por un número
complejo de módulo 1.
Si A ∈ Cm×n y σ1 ≥ · · · σp ≥ 0, p = mı́n{m, n}, son sus
valores singulares, entonces kAk2 = σ1 y
kAkF = σ12 + · · · + σp2 .
7
Propiedades de los valores singulares (cont.)
7
8
9
Si A ∈ Cn×n y σ1 ≥ · · · ≥ σn son sus valores singulares
entonces
| det(A)| = σ1 · . . . · σn
Si A ∈ Cn×n es invertible y σ1 ≥ · · · ≥ σn son sus valores
singulares entonces los valores singulares de A−1 son
1
1
1
≥ ··· ≥
. En particular, kA−1 k2 =
.
σn
σ1
σn
Si A = UΣV ∗ ∈ Cm×n es una descomposición de A en valores
singulares y rang(A) = r entonces
A=
r
X
σi ui vi∗
i=1
donde U = u1 · · · um , V = v1 · · · vn y
σ1 ≥ · · · ≥ σr > 0 son los valores singulares positivos de A.
r
P
Observación: A =
σi ui vi∗ = Ur Σr Vr∗ ,.
Ur = U(:, 1 : r ),
i=1
∗
Vr =
V ∗ (1 8: r , :), Σr = Diag(σ1 , . . . , σr ).
Aproximación a matrices de menor rango
Teorema
Sea A ∈ Cm×n una matriz de rango r ; y sea k < r un entero no negativo.
Entonces
mı́n kA − Bk2 = σk+1
rang(B)=k
donde σ1 ≥ σ2 ≥ . . . ≥ σr > 0 son los valores singulares no nulos de A.
Corolario
Si A ∈ Cn×n es una matriz no singular y σ1 ≥ σ2 ≥ . . . ≥ σn > 0 son sus
valores singulares, entonces
mı́n kA − Bk2 = σn .
det(B)6=0
Corolario
El conjunto de las matrices de rango completo de Cm×n es abierto.
9
La inversa de Moore-Penrose
Si A invertible
A = U Diag(σ1 , . . . , σn )V ∗ ⇔ A−1 = V Diag(1/σ1 , . . . , 1/σn )U ∗
Diag(σ1 , . . . , σr ) 0
m×n
∗
Si A ∈ C
o singular: U AV =
.
0
0


1
1
Diag
,...,
0
Σ† = 
σ1
σr
0
0
Definición
A la matriz A† = V Σ† U ∗ se le llama inversa generalizada de
Moore-Penrose o pseudoinversa de A.
(i) AA† A = A,
(ii) A† AA† = A† ,
(iii) A† A = (A† A)∗ , (iv ) AA† = (AA† )∗ .
Proposición
Para cada A ∈ Cm×n hay una única inversa de Moore-Penrose.
10