Download Introducción a las Redes Neuronales Arti ciales
Document related concepts
Transcript
Inteligencia Humana como Inspiración Redes Neuronales Articiales Introducción a las Redes Neuronales Articiales Novena Sesión Hugo Franco, PhD 14 de marzo de 2011 Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Inteligencia Humana como Inspiración Redes Neuronales Articiales Sistema Nervioso Humano Características: Complejo No Lineal Paralelo Multifuncional Vegetativo Interacción con el medio (Estímulo/Respuesta) Cognitivo Unidad funcional: Neurona Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Neurona Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Sinápsis La transmisión de la información entre neuronas (impulso nervioso) es un fenómeno electrobioquímico (enzimas) que se maniesta como inversiones de voltaje Se produce mediante la conexión entre los extremos dendríticos de una neurona y las ramicaciones de los axones de la siguiente La transferencia del impulso nervioso entre neuronas implica la existencia de neurotransmisores (serotonina, dopamina) Neurotransmisores eyectados desde las ramicaciones del axón hacia los receptores de neurotransmisores de la siguiente célula Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Funcionalidad, Especialización Corteza premotora coordinación muscular Área motora suplementaria Corteza motora Regulación de músculos estriados Corteza sensitiva Interpretación de datos de órganos sensoriales Corteza prefrontal Sentimientos, razonamientos planificación. Olfato Área de Wernicke Comprensión del lenguaje Área de Brocca (hemisferio izquierdo) Regula los músculos del habla Centros auditivos Centros visuales Cerebelo Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Función y Actividad La actividad neuronal en regiones especícas del sistema nervioso da una idea de cómo se distribuyen las cargas de procesamiento de estímulos y tareas dentro del cerebro Las neuronas se activan con diferentes intensidades dependiendo del nivel de actividad, lo que puede ser medido mediante diferentes técnicas Potenciales Evocados (electroencefalograma) Imágenes de Resonancia Magnética Funcional (fMRI). Derecha: ejemplo de estudio de la respuesta del cerebro a estímulos autidivos (variación del volumen) Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Aprendizaje Subiendo en la cadena evolutiva, la información de la que depende el individuo para sobrevivir va dependiendo cada vez menos de lo codicado en el ADN, creciendo dicha dependencia con el conocimiento adquirido a través de los sentidos y la interacción con otros individuos (comportamientos sociables) Informalmente se pueden clasicar los tipos de aprendizaje según su forma de Los dominios en los que se da el proceso adquisición de aprendizaje en el ser humano son Por imitación Psicomotor Por asociación/analogía Afectivo Por generalización Cognitivo Por descubrimiento (exploración) Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Capacidad de clasicación Clasicar es una de las funciones elementales del cerebro en los seres vivos Parte del entrenamiento básico del individuo en maduración consiste en adquirir (aprender) a establecer patrones de similaridad y adquirir la habilidad de diferenciar objetos (estímulos) El aprendizaje crea físicamente conexiones dendríticas entre diferentes regiones del cerebro estableciendo redes neuronales que permiten realizar diferentes tareas de procesamiento no programadas genéticamente Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Redes Neuronales Articiales (ANN) Inteligencia Humana como Inspiración Redes Neuronales Articiales Analogía biológica Neurona biológica Neurona articial Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Características Una ANN es un modelo de caja negra: el funcionamiento interno del modelo no tiene una analogía explícita con a los sistemas observados, analizados o controlados. La respuesta del sistema depende de los datos de entrada y de cómo éstos generan una salida al ser presentados a cada neurona según los pesos asociados a cada enlace y la función de activación asociada a la neurona Los pesos asociados a los enlaces, determinantes de la funcionalidad de cada red neuronal, se establecen en el proceso de aprendizaje (entrenamiento) El aprendizaje puede ser supervisado o nosupervisado. El aprendizaje supervisado presenta patrones de entrada asociados a salidas conocidas. El error en la salida respecto a la salida esperada es realimentado al sistema en un proceso de corrección, usualmente iterativa (algoritmos de aprendizaje) Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Funciones de Activación f 1 0 Binarias ( 0 f (a) = 1 si si a a≤0 a>0 f 1 Lineales 0 f (a) = ca 1 0 a min si si si a max a < amin amin ≤ a ≤ amax a > ama f 1 0 Sigmoidales f (a) = 1+e1 ca f (a) = arctan(a) f (a) = tanh(a) Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Capas de neuronas Capa de Neuronas Entradas Capa de Neuronas Modelo de neurona articial individual Entradas Salidas Procesamiento Salida Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Modelos Básicos Clasicación no formal ( Modelos mononeuronales Modelos monocapa Perceptrón ADALINE n Recurrentes Monocapa (Hopeld) Modelos multicapa FeedForward MADALINE Recurrentes multicapa Redes Redes Hugo Franco, PhD Neuronales dinámicas de Elman Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Perceptrón Fue la primera aproximación a los modelos de redes neuronales articiales (McCulloc, Pitts 1949) Tenía por objeto el Sesgo modelamiento del Función de activación comportamiento siológico del sistema nervioso humano Entradas Salidas Por su funcionamiento. se convirtió en un modelo de clasicación (separación) de regiones Se suele tener una función de transferencia de paso unitario (binaria) Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales ADALINE ADALINE: Extensión del modelo de perceptrón La neurona no devuelve un parámetro de decisión binario sino un valor acorde Sesgo a una función de activación Función de activación arbitraria, usualmente lineal Especialización aplicada a procesamiento de señales Entradas Salidas Cuando se implementa con una función de salida de tipo lineal, su comportamiento se hace análogo al de la aproximación por mínimos cuadrados Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Red Feedforward, MADALINE Capa de Entrada Capas Ocultas Capa de Salida Cuando se organiza un conjunto de neuronas organizadas por capas, siendo las entradas de una capa dada las salidas de las neuronas de la capa anterior, se tiene una red neuronal multicapa. Si las neuronas son modelos ADALINE, se tiene una red MADALINE En el caso de las redes multicapa genéricas, se suelen usar aproximaciones continuas a funciones de clasicación (sigmoides) Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Radial Basis Neural Network Redes multicapa que usan funciones de activación de tipo base radial (función de la distancia al origen, ej. la gaussiana) se conocen como Redes Neuronales de Base Radial Modelo especializado no isotrópico: las neuronas tienen diferentes funciones de activación, cada una de ellas una base radial Función de base radial parametrizada por neuronas Hugo Franco, PhD Introducción a las Redes Neuronales Articiales Inteligencia Humana como Inspiración Redes Neuronales Articiales Redes Recurrentes Ejemplo Red de Hopeld Red recurrente de estados y función de activación binarios ( 1 f (a) = 0 si P j wij sj > θi en otro caso Útil en modelos destinados a la detección de patrones sobre datos binarios (reducibles a representaciones binarias) a manera de Memoria Asociativa La recurrencia (paso de salidas a entradas) se da al mismo nivel que el patrón de entrada. No se usa la salida de una neurona como entrada de sí misma Convergencia no garantizada Hugo Franco, PhD Introducción a las Redes Neuronales Articiales