Explainable deep learning for EEG-based brain activity recognition
Cargando...
Autores
Tipo de contenido
Editor
Document language:
Inglés
Fecha
Título de la revista
ISSN de la revista
Título del volumen
Documentos PDF
Resumen
La interpretabilidad confiable continúa siendo uno de los principales desafíos para la adopción de modelos de aprendizaje profundo en aplicaciones basadas en electroencefalografía (EEG), particularmente en interfaces cerebro--computador (BCI) y sistemas de apoyo a la decisión clínica. Aunque las arquitecturas modernas de aprendizaje profundo alcanzan desempeños predictivos competitivos, sus procesos de decisión suelen permanecer ocultos, limitando la comprensión neurocientífica y reduciendo la confianza necesaria para su utilización en entornos reales. Los métodos actuales de inteligencia artificial explicable (XAI) generalmente proporcionan explicaciones en un único dominio, lo que dificulta caracterizar de manera conjunta la organización espacial, temporal y espectral de las señales EEG. Además, muchas estrategias basadas en perturbaciones generan modificaciones fisiológicamente poco plausibles de la señal, mientras que los métodos basados en gradientes dependen del acceso a representaciones internas del modelo y, por tanto, son dependientes de la arquitectura utilizada.
Para abordar estas limitaciones, esta tesis propone STF-KernelSHAP, un marco de interpretabilidad espacio--tiempo--frecuencia independiente de la arquitectura, diseñado para proporcionar explicaciones fisiológicamente coherentes en señales EEG. La metodología propuesta descompone cada ensayo EEG en celdas estructuradas de canal--tiempo--frecuencia mediante análisis espectral, permitiendo atribuciones sobre regiones neurofisiológicamente significativas en lugar de muestras aisladas. Las perturbaciones se definen sobre unidades completas espacio--tiempo--frecuencia y posteriormente se reconstruyen en el dominio de la señal, preservando la organización estructural de la actividad cerebral. Los valores de atribución son estimados mediante un modelo sustituto ponderado basado en KernelSHAP que utiliza únicamente las salidas del clasificador, garantizando una estimación de valores de Shapley independiente de la arquitectura del modelo.
El marco propuesto se valida inicialmente mediante un estudio piloto controlado y posteriormente se evalúa en dos escenarios heterogéneos de clasificación EEG: decodificación de imaginación motora (Motor Imagery, MI) y detección de Trastorno por Déficit de Atención e Hiperactividad (TDAH). STF-KernelSHAP se compara con KernelSHAP, LIME, Occlusion, Integrated Gradients y Grad-CAM++, mientras que la calidad de las explicaciones se evalúa mediante métricas de fidelidad basadas en perturbaciones, incluyendo Deletion y ROAD. Los resultados experimentales muestran que STF-KernelSHAP produce explicaciones competitivas desde el punto de vista de la fidelidad cuantitativa, al tiempo que proporciona un nivel adicional de interpretación temporal y espectral que no está disponible en los métodos convencionales de atribución espacial. En el paradigma de imaginación motora, el método identifica contribuciones asociadas al intervalo efectivo de ejecución de la tarea y a bandas sensoriomotoras fisiológicamente relevantes. En el caso del TDAH, revela patrones estructurados de relevancia espectral consistentes con hallazgos neurofisiológicos reportados en la literatura.
En conjunto, STF-KernelSHAP constituye un marco de interpretabilidad multidominio, fisiológicamente informado e independiente de la arquitectura, que permite analizar las decisiones de modelos de aprendizaje profundo en las dimensiones espacial, temporal y espectral de las señales EEG, preservando simultáneamente la calidad cuantitativa de las explicaciones (Texto tomado de la fuente)
Abstract
Reliable interpretability remains a critical challenge for the deployment of deep learning models in EEG-based neurotechnology, particularly in Brain--Computer Interfaces (BCIs) and clinical decision-support systems. Although modern deep learning architectures achieve competitive predictive performance, their decision-making processes often remain opaque, limiting neuroscientific understanding and reducing clinical trust. Existing explainable artificial intelligence (XAI) methods typically provide explanations in a single domain and therefore struggle to jointly characterize the spatial, temporal, and spectral organization of EEG signals. Furthermore, many perturbation-based approaches generate physiologically implausible signal modifications, while gradient-based methods depend on access to internal model representations and are therefore architecture-dependent.
To address these limitations, this thesis introduces STF-KernelSHAP, a model-agnostic space--time--frequency explainability framework designed for physiologically coherent EEG interpretation. The proposed methodology decomposes EEG trials into structured channel--time--frequency cells through spectral analysis, enabling attribution over neurophysiologically meaningful regions rather than isolated samples. Coalition-based perturbations are defined over complete space--time--frequency units and reconstructed in the signal domain, preserving the structural organization of EEG activity. Attribution values are subsequently estimated through a KernelSHAP-based weighted surrogate model using only classifier outputs, ensuring architecture-independent Shapley-value estimation.
The proposed framework is validated through a controlled pilot study and subsequently evaluated in two heterogeneous EEG classification scenarios: motor imagery (MI) decoding and Attention-Deficit/Hyperactivity Disorder (ADHD) detection. STF-KernelSHAP is compared against KernelSHAP, LIME, Occlusion, Integrated Gradients, and Grad-CAM++, while explanation quality is assessed using perturbation-based fidelity metrics including Deletion and ROAD. Experimental results demonstrate that STF-KernelSHAP produces explanations that remain competitive in terms of quantitative fidelity while providing additional temporal and spectral interpretability unavailable through conventional spatial attribution methods. In the MI paradigm, the method identifies contributions associated with the effective motor imagery interval and physiologically relevant sensorimotor frequency bands, whereas in ADHD it reveals structured spectral relevance patterns consistent with reported neurophysiological findings.
Overall, STF-KernelSHAP provides a physiologically informed and model-agnostic framework for multidomain EEG interpretability, enabling the analysis of deep learning decisions across spatial, temporal, and spectral dimensions while preserving quantitative explanation quality
Descripción
ilustraciones, graficas, tablas
Palabras clave propuestas
EEG; Explainable artificial intelligence; Deep learning; ADHD; Motor imagery; Shapley value; Model-agnostic interpretability; Multi-domain attribution; Spatio-temporal; Frequential analysis; Inteligencia artificial explicable (XAI); Aprendizaje profundo; Valores de shapley; Interpretabilidad agnóstica al modelo; Atribución multidominio; Análisis espacio-tiempo-frecuencial