Estudio, implementación y análisis de nuevos algoritmos de aprendizaje y nuevas medidas de tolerancia al ruido para redes funcionales y neuronales

Abstract

Esta tesis doctoral está organizada en dos partes, En la primera parte de la memoria se presentan nuevos algoritmos para el aprendizaje de redes de neuronas artificiales con alimentación hacia delante. En primer lugar se presenta un nuevo método para el aprendizaje de redes de una capa que permite el entrenamiento de este tipo de sistemas empleando un sistema de ecuaciones lineales. El método propuesto obtiene siempre el óptimo global de la función de error y, además, presenta una mayor velocidad de convergencia que los métodos iterativos empleados actualmente para este tipo de sistemas. Posteriormente, el método es mejorado permitiendo el aprendizaje de las funciones neuronales que, como se muestra en los experimentos realizados, permite mejorar el rendimiento de la red de neuronas. A continuación, se proponen tres nuevos algoritmos para la inicialización y el aprendizaje de redes de neuronas multicapa. Los dos primeros métodos están basados en el uso de mínimos cuadrados para obtener de forma óptima los pesos de todas o alguna de las capas de la red. En concreto, el primero de ellos está basado en la retropropagación de la salida deseada desde la capa de salida de la red hacia la de entrada y obtener, capa a capa, los pesos óptimos para cada una de ellas. El segundo método se basa en un método híbrido que utiliza una regla de optimización estándar para las primeras capas de la red y un sistema de ecuaciones lineales para la última cpa. Este método permite mejorar, significativamente, la velocidad de convergencia de los métodos actuales. Finalmente, el último método propuesto emplea una aproximación basada en modelos locales que consiste en la división de un problema complejo en varios subproblemas más fáciles de resolver.