Membaca Atribusi SHAP pada Fitur EEG

Model dengan akurasi tinggi tapi atribusi yang tidak masuk akal secara fisiologis lebih berbahaya daripada model biasa saja — karena kelihatan meyakinkan.

Nilai SHAP tinggi pada satu channel EEG tidak otomatis berarti channel itu penyebab klinis; bisa saja itu artefak korelasi antar channel yang berdekatan secara spasial. Validasi silang LOSO membantu, tapi tidak menghilangkan masalah ini sepenuhnya.

Yang saya lakukan selanjutnya: membandingkan pola atribusi SHAP dengan literatur neurofisiologi untuk band frekuensi yang relevan, bukan hanya menerima ranking fitur apa adanya.