A hybrid Spiking Neural Network-Transformer architecture for motor imagery and sleep apnea detection

Abstract

Introduction: Motor imagery (MI) classification and sleep apnea (SA) detection are two critical tasks in brain-computer interface (BCI) and biomedical signal analysis. Traditional deep learning models have shown promise in these domains, but often struggle with temporal sparsity and energy efficiency, especially in real-time or embedded applications.Methods: In this study, we propose SpiTranNet, a novel architecture that deeply integrates Spiking Neural Networks (SNNs) with Transformers through Spiking Multi-Head Attention (SMHA), where spiking neurons replace standard activation functions within the attention mechanism. This integration enables biologically plausible temporal processing and energy-efficient computations while maintaining global contextual modeling capabilities. The model is evaluated across three physiological datasets, including one electroencephalography (EEG) dataset for MI classification and two electrocardiography (ECG) datasets for SA detection.Results: Experimental results demonstrate that the hybrid SNN-Transformer model achieves competitive accuracy compared to conventional machine learning and deep learning models.Discussion: This work highlights the potential of neuromorphic-inspired architectures for robust and efficient biomedical signal processing across diverse physiological tasks.Úvod: Klasifikace představy pohybu (MI) a detekce spánkové apnoe (SA) jsou dva kritické úkoly v oblasti rozhraní mozek-počítač (BCI) a analýzy biomedicínských signálů. Tradiční modely hlubokého učení se v těchto oblastech jeví jako slibné, ale často se potýkají s časovou sparsitou a energetickou účinností, zejména v aplikacích pracujících v reálném čase nebo vestavěných aplikacích.Metody: V této studii navrhujeme SpiTranNet, novou architekturu, která hluboce integruje impulzní neuronové sítě (SNN) s Transformery s využitím impulzního vícehlavového mechanismu pozornosti (SMHA), kde spiking neurony nahrazují standardní aktivační funkce v mechanismu pozornosti. Tato integrace umožňuje biologicky věrohodné časové zpracování a energeticky efektivní výpočty a zároveň zachovává možnosti globálního kontextového modelování. Model je vyhodnocen napříč třemi fyziologickými datovými sadami, včetně jedné datové EEG sady pro klasifikaci MI a dvou EKG datových sad pro detekci spánkové apnoe.Výsledky: Experimentální výsledky ukazují, že hybridní model SNN-Transformer dosahuje konkurenceschopné přesnosti ve srovnání s konvenčními modely strojového učení a hlubokého učení.Diskuse: Tato práce zdůrazňuje potenciál neuromorfních architektur pro robustní a efektivní zpracování biomedicínských signálů napříč různými fyziologickými úkoly.