Comparación del desempeño de funciones de activación en redes feedforward para aproximar funciones de datos con y sin ruido

Abstract

Las redes neuronales en muchos casos han dado buenos resultados en la aproximación de funciones en muchas aplicaciones, aun así existen muchos problemas que no se han podido resolver. La selección de funciones de activación se realiza de acuerdo con el problema y a criterio del investigador, en ocasiones por ensayo y error. Comúnmente, la función de activación logística ha sido la más frecuentemente usada trayendo buenos resultados. En la literatura no existe un criterio estándar para la selección de estas funciones de activación en las redes neuronales, ni tampoco existe una exhaustiva investigación en este tema. Es por esta razón que el objetivo principal de este articulo es obtener un criterio de selección para tres funciones de activación en una red neuronal feedforward con una capa oculta, comparando su desempeño con múltiples neuronas, para aproximar las funciones objetivo propuestas en [4] las cuales fueron diseñadas para evaluar la capacidad de regresión de modelos de redes neuronales.