V - GTE - Universidad de Sevilla

Anuncio
Redes Neuronales
Otras Redes
Realizaciones
José Manuel Quero Reboul
Dpto. Ingeniería Electrónica
Universidad de Sevilla
Indice
• Redes de Retraso en el Tiempo
(TDNN)
• Redes de Funciones Radiales
(RBF)
• Redes de Hopfield
• Realizaciones Físicas
• Simuladores
– Matlab
– SNNS
TDNN
y
Neurona
Z-1 ... Z-k
f1(t)
Z-1 ... Z-k
fj(t)
Z-1 ... Z-k
fN(t)
N x (K+1) entradas: Patrones espacio-temporales
TDNN
Salida
Red
2ª Capa Oculta
1ª Capa Oculta
Entradas
Tiempo
Indice
• Redes de Retraso en el Tiempo
(TDNN)
• Redes de Funciones Radiales
(RBF)
• Redes de Hopfield
• Realizaciones Físicas
• Simuladores
– Matlab
– SNNS
RBF
Salidas
Σ
Gausiana f (r ) = e
−
r2
σ2
W
Función Radial
f ( X − Ci
W=1
)
Multicuadrática
f (r ) = r 2 + σ 2
Lineal a trozos
Xi
f (r ) =
Entradas
Parámetros: σ , Ci ,W
1
(r + 1 − r −1)
2
RBF
Aprendizaje
1) DeterminaciónH de
los Centroides.
N
2
Mínimo de: E = ∑∑ B jn X (n) − C j
j =1 n =1
Matriz hxn de pertenencia:
vale 1 para el Ci más
próximo al patrón n
RBF
Aprendizaje
1) DeterminaciónH de
los Centroides.
N
2
Mínimo de: E = ∑∑ B jn X (n) − C j
j =1 n =1
2) Determinación dep distancias.
Mínimo de: σ i = 1 ∑ C j − Ci
p
1
3) Determinación de pesos W mediante
mínimos cuadrados
Indice
• Redes de Retraso en el Tiempo
(TDNN)
• Redes de Funciones Radiales
(RBF)
• Redes de Hopfield
• Realizaciones Físicas
• Simuladores
– Matlab
– SNNS
Redes de Hopfield
I1
Rn1
Rj1
R21
R11
R1
I2
Rn2
Rj2
R22
Ij
In
C1
Cj
R12
V2
R2
Rnj
Rjj
R2j
C2
Rjn
R2n
dU j
dt
+
uj
rj
n
= ∑ ViTij + I j
i =1
n
1 1
; = ∑ Tij + Ri
Tij =
Rij ri i =1
R1j
Vj
Rnn
Vi = g (U i )
V1
Rj
R1n
Cj
Rn
Cn
V
i
n
1 n
g −1 (v)
E = − ∑ TijViV j − ∑ Vi I i + ∫
dv
2 i =1
ri
i =1
0
Vn
Redes de Hopfield
Obtención de Parámetros por comparación:
Ejemplo, partición optima de grafos
Vi = 1
n
n
n
1 n n
2
E = ∑∑ cij [Vi (1 − V j ) + (1 − Vi )V j ] + k1[∑ Vi + ∑ (1 − V j )] + k 2 ∑ Vi (1 − Vi )
2 i =1 i =1
i =1
j =1
i =1
Cij
Vi = 0
Número de
conexiones
Comparación con:
Saturación a
0ó1
Diferencia de
nodos
V
i
n
1 n
g −1 (v)
E = − ∑ TijViV j − ∑ Vi I i + ∫
dv
2 i =1
r
i =1
i
0
2(− 4k1 + k 2 ) i = j
Tij = 
4cij
i≠ j

n
I i = −4n k1 + k 2 + 2∑ cij
j =1
Indice
• Redes de Retraso en el Tiempo
(TDNN)
• Redes de Funciones Radiales
(RBF)
• Redes de Hopfield
• Realizaciones Físicas
• Simuladores
– Matlab
– SNNS
Realizaciones Físicas
Alta Conectividad
Aprendizaje
Arquitec. Flexible
Proc. Paralelo
Velocidad
Alternativas:
•Hardware específico
•Tarjetas Aceleradoras
•Neurocomputadores
Optica
Analógica
Digital (Mono)
Multiprocesador
Realizaciones Físicas
Tecnología
Digital
Digital
Digital
Analog
Híbrida
Fabricante
Microdevices
Siemens
IBM
INTEL
RICOH
Id
Neuronas
MD1220
8
MA-16
4
ZISC036
36
80170NW
64
RN-100
1
Tarjetas Aceleradoras
•RISCs
•Transputers
Neurocomputadores
•CNAPS
•SYNAPSE-1
Pesos
8
4
64
10280
8
Indice
• Redes de Retraso en el Tiempo
(TDNN)
• Redes de Funciones Radiales
(RBF)
• Redes de Hopfield
• Realizaciones Físicas
• Simuladores
– Matlab
– SNNS
Descargar