Redes Neuronales Otras Redes Realizaciones José Manuel Quero Reboul Dpto. Ingeniería Electrónica Universidad de Sevilla Indice • Redes de Retraso en el Tiempo (TDNN) • Redes de Funciones Radiales (RBF) • Redes de Hopfield • Realizaciones Físicas • Simuladores – Matlab – SNNS TDNN y Neurona Z-1 ... Z-k f1(t) Z-1 ... Z-k fj(t) Z-1 ... Z-k fN(t) N x (K+1) entradas: Patrones espacio-temporales TDNN Salida Red 2ª Capa Oculta 1ª Capa Oculta Entradas Tiempo Indice • Redes de Retraso en el Tiempo (TDNN) • Redes de Funciones Radiales (RBF) • Redes de Hopfield • Realizaciones Físicas • Simuladores – Matlab – SNNS RBF Salidas Σ Gausiana f (r ) = e − r2 σ2 W Función Radial f ( X − Ci W=1 ) Multicuadrática f (r ) = r 2 + σ 2 Lineal a trozos Xi f (r ) = Entradas Parámetros: σ , Ci ,W 1 (r + 1 − r −1) 2 RBF Aprendizaje 1) DeterminaciónH de los Centroides. N 2 Mínimo de: E = ∑∑ B jn X (n) − C j j =1 n =1 Matriz hxn de pertenencia: vale 1 para el Ci más próximo al patrón n RBF Aprendizaje 1) DeterminaciónH de los Centroides. N 2 Mínimo de: E = ∑∑ B jn X (n) − C j j =1 n =1 2) Determinación dep distancias. Mínimo de: σ i = 1 ∑ C j − Ci p 1 3) Determinación de pesos W mediante mínimos cuadrados Indice • Redes de Retraso en el Tiempo (TDNN) • Redes de Funciones Radiales (RBF) • Redes de Hopfield • Realizaciones Físicas • Simuladores – Matlab – SNNS Redes de Hopfield I1 Rn1 Rj1 R21 R11 R1 I2 Rn2 Rj2 R22 Ij In C1 Cj R12 V2 R2 Rnj Rjj R2j C2 Rjn R2n dU j dt + uj rj n = ∑ ViTij + I j i =1 n 1 1 ; = ∑ Tij + Ri Tij = Rij ri i =1 R1j Vj Rnn Vi = g (U i ) V1 Rj R1n Cj Rn Cn V i n 1 n g −1 (v) E = − ∑ TijViV j − ∑ Vi I i + ∫ dv 2 i =1 ri i =1 0 Vn Redes de Hopfield Obtención de Parámetros por comparación: Ejemplo, partición optima de grafos Vi = 1 n n n 1 n n 2 E = ∑∑ cij [Vi (1 − V j ) + (1 − Vi )V j ] + k1[∑ Vi + ∑ (1 − V j )] + k 2 ∑ Vi (1 − Vi ) 2 i =1 i =1 i =1 j =1 i =1 Cij Vi = 0 Número de conexiones Comparación con: Saturación a 0ó1 Diferencia de nodos V i n 1 n g −1 (v) E = − ∑ TijViV j − ∑ Vi I i + ∫ dv 2 i =1 r i =1 i 0 2(− 4k1 + k 2 ) i = j Tij = 4cij i≠ j n I i = −4n k1 + k 2 + 2∑ cij j =1 Indice • Redes de Retraso en el Tiempo (TDNN) • Redes de Funciones Radiales (RBF) • Redes de Hopfield • Realizaciones Físicas • Simuladores – Matlab – SNNS Realizaciones Físicas Alta Conectividad Aprendizaje Arquitec. Flexible Proc. Paralelo Velocidad Alternativas: •Hardware específico •Tarjetas Aceleradoras •Neurocomputadores Optica Analógica Digital (Mono) Multiprocesador Realizaciones Físicas Tecnología Digital Digital Digital Analog Híbrida Fabricante Microdevices Siemens IBM INTEL RICOH Id Neuronas MD1220 8 MA-16 4 ZISC036 36 80170NW 64 RN-100 1 Tarjetas Aceleradoras •RISCs •Transputers Neurocomputadores •CNAPS •SYNAPSE-1 Pesos 8 4 64 10280 8 Indice • Redes de Retraso en el Tiempo (TDNN) • Redes de Funciones Radiales (RBF) • Redes de Hopfield • Realizaciones Físicas • Simuladores – Matlab – SNNS