Fundamentos de las Redes Neuronales

Curso:Taller de Investigacin Aplicada

Profesor:Mario Loayza Jaqui

FUNDAMENTO DE LAS REDES NEURONALESTRABAJO DE INVESTIGACIN

Estudiantes: Jorge Acua Gomez Jesus Cervantes Moreno Jean Luna Villalba Paolo Pazzaglia Matto

2015 I

INDICE

I.INTRODUCCIN3II.RESUMEN4III.ABSTRACT4Palabras Clave:4IV.PROBLEMTICA DE LA INVESTIGACIN54.1.Planteamiento del problema5V.JUSTIFICACIN6VI.FORMULACIN DE LA HIPTESIS7VII.IDENTIFICACIN DE VARIABLES7VIII.MARCO TEORICO88.1.EL MODELO BIOLOGICO88.1.1.Naturaleza bioelctrica de la neurona88.2.ELEMENTOS DE UNA RED NEURONAL ARTIFICIAL118.2.1.Unidades de proceso: La neurona artificial138.2.2.Estado de activacin148.2.3.Funcin de salida o de transferencia158.2.4.Funcin Gaussiana:15IX.CONCLUSIONES17X.RECOMENDACIONES17XI.BIBLIOGRAFA18

I. INTRODUCCIN

El presente trabajo busca dar a entender de una manera ms profunda los fundamentos que toman las redes neuronales artificiales.

Partiendo de ese punto necesitamos conocer los principios, funcionamiento y fundamentos de las redes neuronales y que las hacen tan especiales, por lo cual tomaremos como referencia investigaciones anteriores, sobre las redes neuronales artificiales as tambin como otras fuentes bibliogrficas como libros y revistas sobre las redes neuronales tanto el punto de vista mdico, tecnolgico y de la ingeniera.

En primero lugar definiremos las problemticas sobre el estudio de las redes neuronales artificiales encontradas por esta investigacin y anteriores. Con esto tendremos una base para el planteamiento del problema el cual esta tesis se enfocara en encontrar y dar una ptima solucin.

II. RESUMEN

Esta investigacin intentara encontrar un modelo matemtico que se adecue precisamente al funcionamiento de nuestro sistema nervioso. La principal razn de de esto es el hecho de que la funcionalidad de la comunicacin entre nuestras neuronas es la base terica del funcionamiento de una red neuronal, por lo que encontrar un modelo preciso de la red real, biolgica, sera una base ideal para la creacin de una red artificial.

III. ABSTRACT

This research is intended to find the most accurate mathematic model for our nervous system. The main reason for this is the fact that the functionality of the communication between neurons is the foundations of the neural networks. Finding an accurate model of the real, biological, network would be ideal for the creation of an artificial network

Palabras Clave:Redes neuronales, Neurona, Modelamiento, Sistema nervioso.

IV. PROBLEMTICA DE LA INVESTIGACIN

El mayor problema de investigaciones en este mbito es establecer los fundamentos de las redes neuronales artificiales inspiradas en las estructuras y funcionamiento de los sistemas nerviosos.

Se ha estructurado la investigacin del modelo de las redes neuronales artificiales tomando como base la unidad de la red, la neurona definiendo sus funciones en el sistema nervioso y sus conexiones con otras neuronas. Para ello, se han utilizado varios conceptos y frmulas matemticas para generar varios modelos analticos y matemticos que intentar simular y sustentar matemticamente dichos funcionamientos cuyos modelos los enfatizaremos a lo largo de la investigacin.

4.1. Planteamiento del problema

Cul es el modelo matemtico y fundamento ms ptimo para las redes neuronales artificiales?

V. JUSTIFICACIN

La intencin del proyecto de investigacin es encontrar el mejor modelo matemtico que represente las funciones que tienen las neuronas en las redes neuronales en nuestro sistema nervioso.

Se busca este modelo ya que la base del fundamento de las redes neuronales se encuentra en la funcionalidad que tienen las neuronas para comunicarse con otras por medio de conexiones o redes entre s, tomando este punto se dice que para que las redes neuronales artificiales tenga un funcionamiento ptimo o que represente en forma eficiente las redes neuronales biolgicas necesita que el modelo matemtico represente con gran exactitud el comportamiento de las neuronas en el sistema nervioso.

Teniendo un buen modelo matemtico como fundamento en las redes neuronales artificiales, el procedimiento para efectuar las redes neuronales como: ecuaciones, funcionamiento, pruebas, etc. Se simplifica o se facilita con un buen fundamento (modelo matemtico).

VI. FORMULACIN DE LA HIPTESISSe utilizara la funcin de transferencia Gaussiana ( ) como salida de las neuronas y como de activacion la funcion de identidad para optimizar el fundamento y funcionamiento de las redes neuronales artificiales.

VII. IDENTIFICACIN DE VARIABLES

El indicador principal es optimizar el comportamiento de las redes neuronales artificiales.

Variables independientes: La funcin de identidad como la funcin de activacin de la neurona. Variable dependiente: La utilizacin de la funcin Gaussiana como salida de la neurona. La optimizacin del modelo de las redes neuronales artificiales.

VIII. MARCO TEORICO

8.1. EL MODELO BIOLOGICOLa teora y modelado de redes neuronales artificiales est inspirada en la estructura y funcionamiento de los sistemas nerviosos, donde la neurona es el elemento fundamental. Existen neuronas de diferentes formas, tamaos y longitudes. Estos atributos son importantes para determinar la funcin y utilidad de la neurona.[footnoteRef:1] [1: Sociedad Andaluza de Educacin Matemtica Thales. Fundamento de las redes neuronales. Disponible en: http://thales.cica.es/rd/Recursos/rd98/TecInfo/07/capitulo2.html#Modelo ]

Partiendo de esto una neurona es una clula viva y, como tal, contiene los mismos elementos que forman parte de todas las clulas biolgicas. Adems, contienen elementos caractersticos que las diferencian. Una de las caractersticas que diferencian a las neuronas del resto de las clulas vivas, es su capacidad de comunicarse. En trminos generales, las dendritas y el cuerpo celular reciben seales de entrada; el cuerpo celular las combina e integra y emite seales de salida. Por lo general, una neurona recibe informacin de miles de otras neuronas y, a su vez, enva informacin a miles de neuronas ms.

8.1.1. Naturaleza bioelctrica de la neuronaLas seales que se utilizan, y a las que nos estamos refiriendo, son de dos tipos distintos de naturaleza: elctrica y qumica. La seal generada por la neurona y transportada a lo largo del axn es un impulso elctrico, mientras que la seal que se transmite entre los terminales axnicos de una neurona y las dendritas de la neuronas siguientes es de origen qumico; concretamente, se realiza mediante molculas de sustancias transmisoras (neurotransmisores) que fluyen a travs de unos contactos especiales, llamados sinapsis, que tienen la funcin de receptor y estn localizados entre los terminales axnicos y las dendritas de la neurona siguiente (espacio sinptico, entre 50 y 200 Angstroms).

Figura 1. Forma general de una neurona

Existen muchos procesos complejos relacionados con la generacin de dichas seales, sin embargo se pueden simplificar del siguiente modo: la neurona, como todas las clulas, es capaz de mantener en su interior un lquido cuya composicin difiere marcadamente de la composicin del lquido de exterior. El medio externo es unas 10 veces ms rico en sodio que el interno, mientras que el medio interno es unas 10 veces ms rico en potasio que el externo. Esta diferencia de concentracin en iones sodio y potasio a cada lado de la membrana produce una diferencia de potencial de aproximadamente 70 milivoltios, negativa en el interior de la clula. Es lo que se llama potencial de reposo de la clula nerviosa.[footnoteRef:2] [2: Sandoval, Claudia. Marin, Christian. Diseo de software de simulacin de redes neuronales artificiales. 2008]

Figura 2. Propagacin del impulso elctrico a lo largo del axn. Afluencia localizada de iones de sodio (Na+) seguida de una salida de iones potasio (K-)La llegada de seales procedentes de otras neuronas a travs de las dendritas (recepcin de neurotransmisores) acta acumulativamente, bajando ligeramente el valor del potencial de reposo. Dicho potencial modifica la permeabilidad de la membrana, de manera que cuando llega a cierto valor crtico comienza una entrada masiva de iones sodio que invierten la polaridad de la membrana. La inversin del voltaje de la cara interior de la membrana cierra el paso a los iones sodio y abre el paso a los iones potasio hasta que se restablece el equilibrio en reposo. [footnoteRef:3] [3: Fausett L. (1994). Fundamentals of neural networks. Prentice-Hall.]

Figura 3. La inversin del voltaje (potencial de accin) cierra el canal de sodio y abre el canal de potasio. La salida de iones potasio restablece rpidamente el potencia negativo.

Existen dos tipos de sinapsis: a. Las sinapsis excitadoras, cuyos neurotransmisores provocan disminuciones de potencial en la membrana de la clula postsinptica, facilitando la generacin de impulsos a mayor velocidad.[footnoteRef:4] [4: ESCOM. Introduccin redes neuronales artificiales. 2006]

b. Las sinapsis inhibidoras, cuyos neurotransmisores tienden a estabilizar el potencial de la membrana, dificultando la emisin de impulsos.

Casi todas las neuronas reciben entradas procedentes de sinapsis excitadoras e inhibidoras. Para establecer una similitud directa entre la actividad sinptica y la analoga con las redes neuronales artificiales, vamos a fijar los siguientes aspectos: Las seales que llegan a la sinapsis son las entradas a la neurona; stas son ponderadas (atenuadas o amplificadas) a travs de un parmetro, denominado peso, asociado a la sinapsis correspondiente.[footnoteRef:5] Estas seales de entrada pueden excitar a la neurona (sinapsis con peso positivo) o inhibirla (peso negativo). Si la suma es igual o mayor el umbral de la neurona, entonces la neurona se activa (da salida). La facilidad de transmisin de seales se altera mediante la actividad del sistema nervioso. Otros eventos pueden incrementar el grado de activacin. Esta habilidad de ajustar seales es un mecanismo de aprendizaje. Las funciones umbral integran la energa de las seales de entrada en el espacio y en el tiempo. [5: Aguilar, Alma. Las redes neuronales artificiales como una herramienta alternativa o complementaria a los mtodos de clasificacin tradicionales. 2008]

8.2. ELEMENTOS DE UNA RED NEURONAL ARTIFICIAL Las redes neuronales son modelos que intentan reproducir el comportamiento del cerebro. Cualquier modelo de red neuronal consta de dispositivos elementales de proceso: las neuronas. En el siguiente apartado se realiza la idealizacin del funcionamiento neurobiolgico descrito anteriormente, que sirve de base de las redes neuronales artificiales (RNA). Generalmente, se pueden encontrar tres tipos de neuronas.

1) Aquellas que reciben estmulos externos, relacionadas con el aparato sensorial, que tomarn la informacin de entrada. 2) Dicha informacin se transmite a ciertos elementos internos que se ocupan de su procesado. Es en las sinapsis y neuronas correspondientes a este segundo nivel donde se genera cualquier tipo de representacin interna de la informacin. Puesto que no tienen relacin directa con la informacin de entrada ni con la de salida, estos elementos se denominan unidades ocultas. 3) Una vez ha finalizado el perodo dc procesado, la informacin llega a las unidades de salida, cuya misin es dar la respuesta del sistema.

La neurona artificial pretende mimetizar las caractersticas ms importantes de las neuronas biolgicas. Cada neurona i-sima est caracterizada en cualquier instante por un valor numrico denominado valor o estado de activacin ai(t); asociado a cada unidad, existe una funcin de salida, fi, que transforma el estado actual de activacin en una seal de salida, Vi. Las seales moduladas que han llegado a la unidad j-sima se combinan entre ellas, generando as la entrada total, Netj.[footnoteRef:6] [6: Villanueva, Mara. Las redes neuronales artificiales y su importancia como herramienta en la toma de decisiones. 2007.]

Una funcin de activacin, F, determina el nuevo estado de activacin aj(t+l) de la neurona, teniendo en cuenta la entrada total calculada y el anterior estado de activacin aj(t).

La dinmica que rige la actualizacin de los estados de las unidades (evolucin de la red neural) puede ser de dos tipos: modo asncrono y modo sncrono. En el primer caso, las neuronas evalan su estado continuamente, segn les va llegando informacin, y lo hacen de forma independiente.

Figura 4. Entradas y salidas de una neurona Uj

En los siguientes apartados se describirn los conceptos bsicos de los distintos componentes de un modelo de red neural artificial: tipos de unidades de proceso o neuronas, su estado de activacin, su funcin de salida y de activacin, su conexin con otras neuronas y el concepto de aprendizaje de una red neuronal.

8.2.1. Unidades de proceso: La neurona artificial Si se tienen N unidades (neuronas), podemos ordenarlas arbitrariamente y designar la j-sima unidad como Uj. Su trabajo es simple y nico, y consiste en recibir las entradas de las clulas vecinas y calcular un valor de salida, el cual es enviado a todas las clulas restantes. [footnoteRef:7] [7: J. Manuel. Fundamentos de las redes neuronales artificiales. 2010.]

En cualquier sistema que se est modelando, es til caracterizar tres tipos de unidades: entradas, salidas y ocultas. Las unidades de entrada reciben seales desde el entorno; estas entradas (que son a la vez entradas a la red) pueden ser seales provenientes de sensores o de otros sectores del sistema. Las unidades de salida envan la seal fuera del sistema (salidas de la red); estas seales pueden controlar directamente potencias u otros sistemas. Las unidades ocultas son aquellas cuyas entradas y salidas se encuentran dentro del sistema; es decir, no tiene contacto con el exterior.

Se conoce como capa o nivel a un conjunto de neuronas cuyas entradas provienen de la misma fuente (que puede ser otra capa de neuronas) y cuyas salidas se dirigen al mismo destino (que puede ser otra capa de neuronas). El estudio ms detallado de la estructura de las redes neuronales los trataremos al final del captulo, ahora nos centraremos en el modelado de la neurona artificial.

8.2.2. Estado de activacin Adicionalmente al conjunto de unidades, la representacin necesita los estados del sistema en un tiempo t. Esto se especifica por un vector de N nmeros reales A(t), que representa el estado de activacin del conjunto de unidades de procesamiento. Cada elemento del vector representa la activacin de una unidad en el tiempo t.[footnoteRef:8] La activacin de una unidad Ui en el tiempo t se designa por es decir: [8: Cruz, Alejandro. Estabilidad de entrada-estado (ISS) para identificacin con redes neuronales dinmicas. 2003]

El procesamiento que realiza la red se ve como la evolucin de un patrn de activacin en el conjunto de unidades que lo componen a travs del tiempo.

Todas las neuronas que componen la red se hallan en cierto estado. Los valores de activacin pueden ser continuos o discretos. Si son discretos, suelen tomar un conjunto pequeo de valores o bien valores binarios. En notacin binaria, un estado activo se indicara por un 1, y se caracteriza por la emisin de un impulso por parte de la neurona (potencial de accin), mientras que un estado pasivo se indicara por un 0, y significara que la neurona est en reposo. En otros modelos se considera un conjunto continuo de estados de activacin, en lugar de slo dos estados, en cuyo caso se les asigna un valor entre [0,1] o en el intervalo [-1,1], generalmente siguiendo una funcin sigmoidal.

Finalmente, es necesario saber qu criterios o reglas siguen las neuronas para alcanzar tales estados de activacin. En principio, esto va a depender de dos factores:

a) El estado de activacin estar fuertemente influenciado por tales interacciones, ya que el efecto que producir una neurona sobre otra ser proporcional a la fuerza, peso o magnitud de la conexin entre ambas. b) Por otro lado, la seal que enva cada una de las neuronas a sus vecinas depender de su propio estado de activacin.[footnoteRef:9] [9: Rocha, Martha. Reconocimiento de patrones de fallas en generadores elctricos empleando redes neuronales artificiales. 1999.]

8.2.3. Funcin de salida o de transferencia Entre las unidades o neuronas que forman una red neural artificial existe un conjunto de conexiones que unen unas a otras. Cada unidad transmite seales a aquellas que estn conectadas con su salida. Asociada con cada unidad Ui hay una funcin de salida fi(ai(t)), que transforma el estado actual de activacin ai(t) en una seal de salida yi(t); es decir:

El vector que contiene las salidas de todas las neuronas en un instante t es:

8.2.4. Funcin Gaussiana:La funcin gaussiana (en honor a Carl Friedrich Gauss) es una funcin definida por la expresin:

El parmetro a es la altura de la campana centrada en el punto b, determinando c el ancho de la misma.[footnoteRef:10] [10: Prez, Victoria. Funcin gaussiana. 2010. Disponible en: http://matematica.laguia2000.com/general/funcion-gaussiana ]

Lagrficade la funcin es simtrica con forma de campana, conocida comocampana

IX. CONCLUSIONES

Entre las unidades o neuronas que forman una red neural artificial existe un conjunto de conexiones que unen unas a otras. Cada unidad transmite seales a aquellas que estn conectadas con su salida. En cualquier sistema que se est modelando, es til caracterizar tres tipos de unidades: entradas, salidas y ocultas. Las redes neurales son modelos que intentan reproducir el comportamiento del cerebro. Cualquier modelo de red neuronal consta de dispositivos elementales de proceso: las neuronas.

X. RECOMENDACIONES Hacer un anlisis previo del sistema para poder determinar correctamente las variables. El uso de bibliografa del rea de medicina es altamente recomendado. Especficamente de las especialidades de neurologa y neurofisiologa.

XI. BIBLIOGRAFA

[1]. Sociedad Andaluza de Educacin Matemtica Thales. Fundamento de las redes neuronales. Disponible en: http://thales.cica.es/rd/Recursos/rd98/TecInfo/07/capitulo2.html#Modelo[2]. Sandoval, Claudia. Marin, Christian. Diseo de software de simulacin de redes neuronales artificiales. 2008[3]. Fausett L. (1994). Fundamentals of neural networks. Prentice-Hall.[4]. ESCOM. Introduccin redes neuronales artificiales. 2006[5]. Aguilar, Alma. Las redes neuronales artificiales como una herramienta alternativa o complementaria a los mtodos de clasificacin tradicionales. 2008[6]. Villanueva, Mara. Las redes neuronales artificiales y su importancia como herramienta en la toma de decisiones. 2007.[7]. J. Manuel. Fundamentos de las redes neuronales artificiales. 2010.[8]. Cruz, Alejandro. Estabilidad de entrada-estado (ISS) para identificacin con redes neuronales dinmicas. 2003[9]. Rocha, Martha. Reconocimiento de patrones de fallas en generadores elctricos empleando redes neuronales artificiales. 1999.[10]. Prez, Victoria. Funcin gaussiana. 2010. Disponible en: http://matematica.laguia2000.com/general/funcion-gaussiana2