SVM and Kernel machine

SVM and Kernel machine
Stéphane Canu
[email protected]
Escuela de Ciencias Informáticas 2011
November 22, 2011
Régimen de aprobación: cumplir can las siguientes tareas
1
Escribir las KKT condiciones de los problemas siguientes
(
1
min
kwk2 + λkwk1
2
w∈IRd ,b∈IR
1
such that
2



yi (w⊤ xi + b) ≥ 1,
min
f ∈H,b∈IR,ξi ∈,b∈IRn
1
kf k2H + λ1
2
1


i = 1, n
n
n
X
X
ξi + 2λ1
ξi2
i =1
2
i =1
such that
yi (f (xi ) + b) ≥ 1 + ξi , ξi ≥ 0,
Escribir el teorema de representación de este problema.
i = 1, n
2
Construir un kernel con respecto a objetos complejos (no un vector de valores reales). Por
ejemplo se puede considerar un kernel de imágenes, de textos, de programa, de sistemas
biológicos o agropecuarios...
3
Hacer el resumen de un artículo reciente que trate de kernel machines and cited by more
than 10 in Google Scholar. Resumen quiere decir no más de cuatro transparencias.
Reciente quiere decir que se ha publicado después del 2008 en NIPS, ICML, ECML,
ACML, AISTATS o COLT, (o una revista typo JMLR).
4
Laboratorio: instalar un SVM sofware (ver MLOSS1 , libsvm2 o cualquiera otra svm
toolbox si es possible en matlab3 ). Escribir el programa para hacer la classification de
unos datos del UC Irvine Machine Learning Repository4 .
1
2
3
4
http://mloss.org/software/
http://www.csie.ntu.edu.tw/~cjlin/libsvm/
http://asi.insa-rouen.fr/enseignants/~arakotom/toolbox/index.html
http://archive.ics.uci.edu/ml/
Opcional
1
proponer un algoritmo efficiente (typo proximal) para resolver el
problema 1.1
2
proponer un algoritmo efficiente (typo active constraints o camino de
regularización) para resolver el problema 1.2
3
proponer un algoritmo efficiente (typo no se que) para resolver el
problema
de regression siguiente (o su approximacion)5 :






min
f ∈H




 such that
1
2
n
X
f (xi )2 + λ2 kf k2H
i=1
n
X
sup (f (xi ) − yi )k(x, xi ) < t
x
i=1
A ver si con λ = 0 se puede.
4
5
6
comentar el problema 1.16
ver http://www1.ee.ucla.edu/~vandenbe/236C/lectures/subgradients.pdf para el subgradiente
http://www.datadivided.com/2011/01/yes-but-they-overfit/