Download Introducción a las Redes Neuronales Arti ciales

Document related concepts

Red neuronal prealimentada wikipedia , lookup

Red neuronal artificial wikipedia , lookup

Redes neuronales convolucionales wikipedia , lookup

Neuroph wikipedia , lookup

Conexionismo wikipedia , lookup

Transcript
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Introducción a las Redes Neuronales Articiales
Novena Sesión
Hugo Franco, PhD
14 de marzo de 2011
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como
Inspiración
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Sistema Nervioso Humano
Características:
Complejo
No Lineal
Paralelo
Multifuncional
Vegetativo
Interacción con el medio
(Estímulo/Respuesta)
Cognitivo
Unidad funcional: Neurona
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Neurona
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Sinápsis
La transmisión de la información entre
neuronas (impulso nervioso) es un
fenómeno electrobioquímico (enzimas) que
se maniesta como inversiones de voltaje
Se produce mediante la conexión entre los
extremos dendríticos de una neurona y las
ramicaciones de los axones de la siguiente
La transferencia del impulso nervioso entre
neuronas implica la existencia de
neurotransmisores (serotonina, dopamina)
Neurotransmisores
eyectados desde las ramicaciones del
axón hacia los receptores de
neurotransmisores de la siguiente célula
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Funcionalidad, Especialización
Corteza premotora
coordinación muscular
Área motora
suplementaria
Corteza motora
Regulación de músculos
estriados
Corteza sensitiva
Interpretación de
datos de órganos
sensoriales
Corteza prefrontal
Sentimientos, razonamientos
planificación. Olfato
Área de Wernicke
Comprensión del
lenguaje
Área de Brocca
(hemisferio izquierdo)
Regula los músculos del
habla
Centros auditivos
Centros visuales
Cerebelo
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Función y Actividad
La actividad neuronal en regiones
especícas del sistema nervioso da una
idea de cómo se distribuyen las cargas
de procesamiento de estímulos y tareas
dentro del cerebro
Las neuronas se activan con
diferentes intensidades dependiendo del
nivel de actividad, lo que puede ser
medido mediante diferentes técnicas
Potenciales Evocados
(electroencefalograma)
Imágenes de Resonancia Magnética
Funcional (fMRI). Derecha: ejemplo
de estudio de la respuesta del cerebro
a estímulos autidivos (variación del
volumen)
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Aprendizaje
Subiendo en la cadena evolutiva, la información de la que depende el
individuo para sobrevivir va dependiendo cada vez menos de lo codicado
en el ADN, creciendo dicha dependencia con el conocimiento adquirido
a través de los sentidos y la interacción con otros individuos
(comportamientos sociables)
Informalmente se pueden clasicar los
tipos de aprendizaje según su forma de
Los dominios en los que se da el proceso
adquisición
de aprendizaje en el ser humano son
Por imitación
Psicomotor
Por asociación/analogía
Afectivo
Por generalización
Cognitivo
Por descubrimiento (exploración)
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Capacidad de clasicación
Clasicar es una de las funciones
elementales del cerebro en los seres
vivos
Parte del entrenamiento básico del
individuo en maduración consiste en
adquirir (aprender) a establecer
patrones de similaridad y adquirir la
habilidad de diferenciar objetos
(estímulos)
El aprendizaje crea físicamente
conexiones dendríticas entre
diferentes regiones del cerebro
estableciendo redes neuronales
que permiten realizar diferentes
tareas de procesamiento no
programadas genéticamente
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Redes Neuronales Articiales
(ANN)
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Analogía biológica
Neurona biológica
Neurona articial
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Características
Una ANN es un modelo de caja negra: el funcionamiento interno
del modelo no tiene una analogía explícita con a los sistemas
observados, analizados o controlados.
La respuesta del sistema depende de los datos de entrada y de cómo
éstos generan una salida al ser presentados a cada neurona según los
pesos asociados a cada enlace y la función de activación asociada a
la neurona
Los pesos asociados a los enlaces, determinantes de la funcionalidad
de cada red neuronal, se establecen en el proceso de aprendizaje
(entrenamiento)
El aprendizaje puede ser supervisado o nosupervisado.
El aprendizaje supervisado presenta patrones de entrada asociados a
salidas conocidas. El error en la salida respecto a la salida esperada
es realimentado al sistema en un proceso de corrección, usualmente
iterativa (algoritmos de aprendizaje)
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Funciones de Activación
f
1
0
Binarias
(
0
f (a) =
1
si
si
a
a≤0
a>0
f
1
Lineales


0
f (a) = ca


1
0
a min
si
si
si
a max
a < amin
amin ≤ a ≤ amax
a > ama
f
1
0
Sigmoidales
f (a) = 1+e1 ca
f (a) = arctan(a)
f (a) = tanh(a)
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Capas de neuronas
Capa de Neuronas
Entradas Capa de Neuronas
Modelo de neurona articial
individual
Entradas
Salidas
Procesamiento
Salida
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Modelos Básicos
Clasicación no formal
(
Modelos mononeuronales
Modelos monocapa
Perceptrón
ADALINE
n
Recurrentes Monocapa (Hopeld)
Modelos multicapa


FeedForward





MADALINE
Recurrentes multicapa



Redes



Redes
Hugo Franco, PhD
Neuronales dinámicas
de Elman
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Perceptrón
Fue la primera aproximación a
los modelos de redes
neuronales articiales
(McCulloc, Pitts 1949)
Tenía por objeto el
Sesgo
modelamiento del
Función de
activación
comportamiento siológico del
sistema nervioso humano
Entradas
Salidas
Por su funcionamiento. se
convirtió en un modelo de
clasicación (separación) de
regiones
Se suele tener una función
de transferencia de paso
unitario (binaria)
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
ADALINE
ADALINE: Extensión del
modelo de perceptrón
La neurona no devuelve un
parámetro de decisión
binario sino un valor acorde
Sesgo
a una función de activación
Función de
activación
arbitraria, usualmente lineal
Especialización aplicada a
procesamiento de señales
Entradas
Salidas
Cuando se implementa con
una función de salida de tipo
lineal, su comportamiento se
hace análogo al de la
aproximación por mínimos
cuadrados
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Red Feedforward, MADALINE
Capa de
Entrada
Capas
Ocultas
Capa de
Salida
Cuando se organiza un conjunto de neuronas organizadas por capas,
siendo las entradas de una capa dada las salidas de las neuronas de
la capa anterior, se tiene una red neuronal multicapa.
Si las neuronas son modelos ADALINE, se tiene una red MADALINE
En el caso de las redes multicapa genéricas, se suelen usar
aproximaciones continuas a funciones de clasicación (sigmoides)
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Radial Basis Neural Network
Redes multicapa que usan funciones de activación de tipo base
radial (función de la distancia al origen, ej. la gaussiana) se
conocen como Redes Neuronales de Base Radial
Modelo especializado no isotrópico: las neuronas tienen diferentes
funciones de activación, cada una de ellas una base radial
Función de base
radial parametrizada
por neuronas
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales
Inteligencia Humana como Inspiración
Redes Neuronales Articiales
Redes Recurrentes
Ejemplo Red de Hopeld
Red recurrente de estados y función
de activación binarios
(
1
f (a) =
0
si
P
j
wij sj > θi
en otro caso
Útil en modelos destinados a la
detección de patrones sobre datos
binarios (reducibles a
representaciones binarias) a manera
de Memoria Asociativa
La recurrencia (paso de salidas a
entradas) se da al mismo nivel que
el patrón de entrada. No se usa la
salida de una neurona como
entrada de sí misma
Convergencia no garantizada
Hugo Franco, PhD
Introducción a las Redes Neuronales Articiales