Label Budget and Adaptation

RQ3. How do label budget, adaptation strategy, and same-architecture Scratch controls change the evidence for pretraining-attributable benefit?

Full Fine-Tuning Frozen Encoder Same-Architecture Scratch Supervised Baselines

Full Fine-Tuning

Pretrained FM parameters and downstream heads are optimized under each label budget.

Lower scoreHigher scoreUnsupported

Dataset · task · split	CBraMod							CSBrain							CodeBrain							EEGMamba							EEGPT							LEAD							NeuroRVQ							REVE
Dataset · task · split	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%
HGDLeft/Right/Hand/Foot/TongueCS	0.302	0.331	0.22	0.353	0.553	0.49	0.58	0.19	0.263	0.273	0.33	0.45	0.503	0.613	0.301	0.05	0.321	0.372	0.602	0.572	0.642	0.213	0.282	0.26	0.22	0.48	0.44	0.53	-0.07	0.00	0.05	0.08	0.14	0.18	0.32	0.06	-0.06	0.12	0.20	0.40	0.49	0.59	0.00	-	-	0.00	-	-	-	0.04	0.15	0.302	0.491	0.671	0.631	0.711
Meng2019Cursor Control + RestCS	0.212	0.08	0.09	0.12	0.10	0.08	0.04	0.193	0.14	0.13	0.08	0.20	0.23	0.22	-0.03	0.12	0.203	0.20	0.16	0.16	0.19	0.231	0.233	0.17	0.243	0.24	0.24	0.273	0.07	0.01	0.09	0.13	0.16	0.21	0.26	-0.01	0.242	0.17	0.292	0.333	0.343	0.392	0.12	0.18	0.242	-	0.392	0.352	-	0.07	0.311	0.361	0.361	0.411	0.401	0.521
OpenBMILeft/Right Hand MICS	0.503	0.533	0.52	0.55	0.53	0.54	0.52	0.561	0.572	0.61	0.57	0.60	0.61	0.65	0.38	0.48	0.50	0.50	0.51	0.52	0.50	0.48	0.49	0.632	0.593	0.63	0.66	0.67	0.502	0.44	0.54	0.45	0.51	0.61	0.673	0.48	0.53	0.641	0.622	0.733	0.782	0.822	0.49	0.651	-	-	0.752	0.763	-	0.45	0.45	0.623	0.681	0.831	0.821	0.861
PhysioNet-MIHand vs Feet MICS	0.16	-0.07	0.243	0.183	0.24	0.382	0.382	0.492	0.032	0.262	0.14	0.312	0.343	0.373	0.27	-0.00	0.08	0.14	0.17	0.25	0.31	0.501	0.00	0.381	0.242	0.283	0.26	0.29	0.00	0.023	0.00	0.00	0.09	0.07	0.14	0.07	-0.04	0.00	0.00	0.15	0.20	0.26	0.00	-	0.00	0.00	-	-	-	0.353	0.051	0.13	0.261	0.371	0.421	0.421
EEGMatMental Arithmetic vs RestCS	0.50	0.631	0.50T	0.50	0.65	0.761	0.841	0.67T	0.50	0.46	0.56T	0.58	0.72	0.773	0.50	0.50	0.50T	0.50	0.732	0.743	0.75	0.50	0.50	0.50T	0.50	0.57	0.66	0.65	0.50	0.50	0.49	0.681	0.60	0.70	0.73	0.40	0.42	0.47	0.50	0.771	0.742	0.792	0.50	0.50	0.50T	0.50	0.50	0.50	0.50	0.67T	0.38	0.47	0.56T	0.683	0.68	0.71
TUSLBackground Slowing DetectionCS	0.50	0.50	0.931	0.811	0.622	0.65	0.773	0.50	0.50	0.643	0.773	0.57	0.62	0.62	1.00T	0.50	0.60	0.782	0.58	0.772	0.791	0.50	0.50	0.50	0.61	0.57	0.713	0.65	0.50	0.50	0.50	0.50	0.55	0.50	0.58	0.50	0.50	0.51	0.57	0.623	0.57	0.782	0.50	0.50	0.50	0.50	0.50	0.50	0.50	1.00T	0.50	0.702	0.75	0.821	0.771	0.77
ERP-BCIP300 Target DetectionCS	0.00	0.00	0.212	0.361	0.441	0.531	0.561	0.00	0.00	0.113	0.09	0.342	0.482	0.542	0.131	0.101	0.231	0.183	0.25	0.38	0.483	0.00	0.00	0.00	0.202	0.263	0.413	0.46	0.062	0.00	0.00	0.00	0.00	0.00	0.00	-0.07	-0.04	0.00	0.10	0.15	0.22	0.32	0.00	0.00	0.00	0.00	0.00	0.00	0.00	-	-	-	-	-	-	-
Kaggle-INRIAP300 Feedback CorrectnessCS	0.50	0.50	0.50	0.41	0.51	0.53	0.593	0.50	0.44	0.51	0.43	0.50	0.582	0.51	0.582	0.44	0.553	0.50	0.50	0.50	0.50	0.33	0.652	0.55	0.48	0.49	0.56	0.59	0.50	0.50	0.53	0.50	0.50	0.49	0.50	0.751	0.711	0.602	0.48	0.621	0.56	0.56	0.38	0.50	0.46	0.522	0.622	0.563	0.652	0.50	0.44	0.601	0.521	0.623	0.641	0.681
SEEDEmotion RecognitionCS	0.173	0.262	0.292	0.381	0.19	0.24	0.09	0.222	0.243	0.23	0.303	0.20	0.342	0.272	0.16	0.09	0.293	0.18	0.23	0.24	0.23	0.13	0.17	0.23	0.26	0.243	0.283	0.273	0.01	0.17	0.13	0.15	0.21	0.21	0.21	0.11	0.10	0.22	0.25	0.23	0.24	0.23	0.11	0.11	-	-	0.262	-	0.22	0.391	0.381	0.371	0.352	0.411	0.411	0.381

Frozen Encoder

The pretrained backbone is fixed, so the matrix isolates head-only adaptation under scarce labels.

Dataset · task · split	CBraMod							CSBrain							CodeBrain							EEGMamba							EEGPT							LEAD							NeuroRVQ							REVE
Dataset · task · split	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%
HGDLeft/Right/Hand/Foot/TongueCS	0.09	0.09	0.14	0.193	0.411	0.303	0.403	0.191	0.252	0.153	0.12	0.24	0.17	0.32	0.05	0.153	0.181	0.202	0.333	0.371	0.422	0.09	0.261	0.14	0.241	0.392	0.362	0.461	0.00	0.00	0.00	0.00	0.00	0.04	0.02	0.163	-0.01	-0.02	0.06	0.04	0.11	0.19	0.00	0.00	0.00	0.00	0.00	0.00	0.00	0.172	0.05	0.162	0.13	0.18	0.16	0.18
Meng2019Cursor Control + RestCS	-0.00	0.16	0.09	0.18	0.19	0.09	0.02	-0.00	0.14	0.10	0.15	0.06	0.17	0.13	0.033	0.242	0.103	0.193	0.223	0.233	0.233	0.201	0.183	0.202	0.271	0.251	0.232	0.292	0.00	0.00	0.00	0.00	0.00	0.00	0.00	0.112	-0.04	0.02	0.04	0.11	0.18	0.20	0.00	0.03	0.02	0.01	0.04	0.05	0.04	0.00	0.241	0.241	0.232	0.252	0.311	0.331
OpenBMILeft/Right Hand MICS	0.48	0.522	0.48	0.51	0.50	0.50	0.52	0.503	0.49	0.52	0.55	0.54	0.58	0.58	0.40	0.48	0.50	0.54	0.51	0.55	0.58	0.40	0.52	0.572	0.612	0.592	0.642	0.661	0.42	0.48	0.49	0.43	0.51	0.50	0.52	0.48	0.531	0.543	0.621	0.621	0.661	0.662	0.551	0.50	0.581	0.50	0.52	0.52	0.52	0.512	0.523	0.46	0.563	0.563	0.593	0.593
PhysioNet-MIHand vs Feet MICS	0.07	0.00	0.143	0.07	0.213	0.20	0.21	0.352	0.061	0.11	0.172	0.261	0.243	0.281	0.193	0.00	0.172	0.103	0.19	0.301	0.233	0.501	0.00	0.341	0.221	0.232	0.252	0.262	0.00	0.00	0.01	0.00	-0.01	0.00	0.00	0.17	-0.06	-0.08	0.05	-0.00	-0.00	0.11	0.00	0.00	0.00	0.00	0.00	0.00	0.00	-0.40	-0.20	0.00	0.00	0.09	0.15	0.08
EEGMatMental Arithmetic vs RestCS	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.831	0.50	0.50	0.50	0.54	0.671	0.702	0.50	0.731	0.701	0.571	0.632	0.652	0.741	0.50	0.50	0.50	0.50	0.593	0.613	0.673	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.40	0.42	0.41	0.48	0.49	0.50	0.61	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.46	0.50	0.50	0.631	0.58	0.61
TUSLBackground Slowing DetectionCS	0.50	0.50	0.69	0.64T	0.52	0.52	0.53	0.50	0.50	0.71	0.64T	0.50	0.69	0.68	1.00T	0.33	0.901	0.691	0.603	0.762	0.742	0.50	0.50	0.50	0.61	0.59	0.723	0.66	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.73T	0.57	0.722	0.52	0.733	0.50	0.50	0.50	0.50	0.50	0.50	0.50	1.00T	0.831	0.73T	0.57	0.841	0.771	0.781
ERP-BCIP300 Target DetectionCS	0.00T	0.00T	0.172	0.173	0.252	0.283	0.233	0.00T	0.00T	0.201	0.311	0.193	0.332	0.382	-0.08	-0.01	0.093	0.08	0.00	0.25	0.15	0.00T	0.00T	0.00	0.202	0.321	0.401	0.441	-0.01	-0.00	0.00	0.00	0.00	0.00	0.00	-0.05	-0.03	0.00	0.00	0.00	0.00	0.00	0.00T	0.00T	0.00	0.00	0.00	0.00	0.00	-	-	-	-	-	-	-
Kaggle-INRIAP300 Feedback CorrectnessCS	0.50T	0.50	0.543	0.41	0.513	0.52	0.51	0.42	0.36	0.552	0.543	0.49	0.523	0.562	0.38	0.57T	0.50	0.40	0.551	0.51	0.51	0.42	0.651	0.45	0.49	0.50	0.532	0.543	0.50T	0.50	0.50	0.49	0.50	0.50	0.50	0.50T	0.57T	0.52	0.552	0.49	0.51	0.51	0.50T	0.50	0.50	0.50	0.50	0.50	0.50	0.38	0.53	0.611	0.631	0.552	0.531	0.581
SEEDEmotion RecognitionCS	0.261	0.203	0.24	0.321	0.23	0.21	0.04	0.173	0.251	0.292	0.24	0.263	0.20	0.22	0.13	0.202	0.23	0.21	0.24	0.283	0.243	0.16	0.18	0.293	0.273	0.272	0.312	0.272	0.03	0.07	0.07	0.14	0.13	0.17	0.15	-0.01	0.06	0.15	0.21	0.19	0.20	0.20	0.00	0.04	-0.00	0.01	0.10	0.09	0.13	0.222	0.07	0.301	0.302	0.321	0.361	0.311

Same-Architecture Scratch

The same FM architectures are trained from random initialization, isolating architecture from pretraining.

Dataset · task · split	CBraMod							CSBrain							CodeBrain							EEGMamba							LEAD							NeuroRVQ							REVE
Dataset · task · split	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%
HGDLeft/Right/Hand/Foot/TongueCS	0.08	0.201	-	0.302	0.39	0.32	0.482	-	-	-0.053	-	0.33	0.21	-	-	-	-	0.253	0.461	0.431	-	0.131	-	-	0.20	0.442	0.392	-	0.08	-0.033	0.132	0.14	0.433	0.37	0.433	-	-	-	-	-	-	-	0.102	0.122	0.301	0.341	0.40	0.383	0.521
Meng2019Cursor Control + RestCS	0.172	0.04	0.18	0.15	0.14	0.15	0.00	0.201	0.182	0.213	0.17	0.13	0.19	0.20	0.10	0.183	-	0.213	0.23	0.19	0.21	0.143	0.251	0.18	-	0.243	-	-	0.00	0.16	0.281	0.232	0.272	0.282	0.302	-0.04	-0.00	0.13	0.06	0.18	0.203	0.233	0.12	0.16	0.212	0.291	0.331	0.371	0.391
OpenBMILeft/Right Hand MICS	0.502	0.603	0.583	0.52	0.54	0.52	0.51	0.44	0.48	0.56	0.563	0.56	-	0.57	0.27	0.602	0.54	0.562	0.53	0.543	0.50	-	0.631	0.582	-	0.583	-	0.653	0.483	0.42	0.50	0.53	0.621	0.732	0.771	-	-	-	-	-	-	-	0.531	0.52	0.611	0.641	0.622	0.741	0.742
PhysioNet-MIHand vs Feet MICS	0.521	0.141	0.391	0.231	0.192	0.202	0.25	0.212	0.062	-0.03	0.03	0.113	0.16	0.22	0.00	0.00	0.063	0.00	0.00	0.17	0.263	0.083	-	0.02	0.202	-	0.193	0.272	0.00	0.00	-0.02	0.00	0.00	0.00	0.17	-	-	-	-	-	-	-	0.00	0.00	0.202	0.093	0.331	0.331	0.331
EEGMatMental Arithmetic vs RestCS	0.503	0.44	0.50	0.512	0.641	0.642	0.711	-	0.561	0.591	0.611	0.523	0.56	0.65	0.503	0.503	0.50	0.50	0.50	0.751	0.702	-	0.41	-	0.50	0.572	-	0.663	0.503	0.42	0.50	0.50	0.50	0.603	0.56	0.503	0.503	0.50	0.50	0.50	0.50	0.50	0.503	0.503	0.50	0.50	0.50	0.50	0.56
TUSLBackground Slowing DetectionCS	0.50	0.50	0.662	0.582	0.533	0.622	0.55	0.50	0.50	0.643	0.621	0.552	0.621	0.592	0.50	0.50	0.711	0.50	0.50	0.623	0.621	0.50	0.50	-	-	0.50	0.51	-	0.00	0.50	0.41	0.563	0.581	0.48	0.55	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.50	0.54	0.573
ERP-BCIP300 Target DetectionCS	0.131	0.073	0.162	0.05	0.223	0.323	0.452	-0.18	0.251	0.10	0.083	0.321	0.401	0.481	0.00	0.00	0.241	0.231	0.292	0.362	0.423	0.00	0.182	0.103	0.102	-	-	-	0.00	0.00	0.00	0.00	0.12	0.26	0.29	0.00	0.00	0.00	0.00	0.00	0.00	0.00	-	-	-	-	-	-	-
Kaggle-INRIAP300 Feedback CorrectnessCS	0.751	0.50	0.533	0.541	0.553	0.52	0.55	0.25	0.622	0.591	-	-	0.53	0.55	0.503	0.50	0.50	0.50	0.50	0.50	0.50	-	0.50	-	-	-	0.583	0.54	0.503	0.44	0.53	0.48	0.601	0.661	0.612	0.46	0.641	0.47	0.542	0.55	0.53	0.593	0.503	0.553	0.552	0.523	0.582	0.632	0.661
SEEDEmotion RecognitionCS	0.202	0.261	0.173	0.242	0.19	0.21	0.11	0.241	0.193	0.231	0.21	0.21	-	0.183	0.123	0.11	0.192	0.261	-	0.263	-	0.10	0.262	-	-	0.272	0.26	-	0.07	-0.06	0.07	0.20	0.233	0.272	0.272	-	-	-	-	-	-	-	-0.09	-0.00	0.08	0.223	0.321	0.281	0.331

Supervised Baselines

Task-supervised baselines are shown at the same train-label ratios for direct budget comparison.

Dataset · task · split	ATCNet							DeepConvNet							EEGConformer							EEGNet							ShallowConvNet
Dataset · task · split	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%	1%	2%	5%	10%	25%	50%	100%
HGDLeft/Right/Hand/Foot/TongueCS	-0.23	-0.06	0.191	0.232	0.36	0.503	0.622	0.252	0.111	0.112	0.12	0.492	0.582	0.573	0.00	0.02	0.08	0.371	0.531	0.631	0.691	0.133	0.033	0.083	0.09	0.18	0.43	0.50	0.281	0.112	0.02	0.213	0.433	0.47	0.43
Meng2019Cursor Control + RestCS	0.072	0.133	0.123	0.201	0.221	0.262	0.292	0.04	0.07	0.00	0.01	0.03	0.08	0.11	0.073	0.191	0.181	0.193	0.17	0.22	0.283	-0.07	0.12	0.01	0.09	0.213	0.233	0.25	0.101	0.142	0.142	0.202	0.212	0.301	0.351
OpenBMILeft/Right Hand MICS	0.522	0.562	0.603	0.632	0.681	0.701	0.732	0.47	0.50	0.641	0.651	0.682	0.682	0.723	0.691	0.681	0.612	0.623	0.65	0.68	0.71	0.503	0.50	0.50	0.61	0.663	0.683	0.71	0.47	0.553	0.51	0.48	0.52	0.66	0.731
PhysioNet-MIHand vs Feet MICS	-0.013	0.00T	-0.04	0.043	0.05	0.211	0.273	0.00T	-0.05	0.01	0.072	0.211	0.212	0.301	-0.25	0.161	0.171	-0.01	0.172	0.203	0.27	0.00T	0.00T	0.032	0.02	0.073	0.13	0.09	-0.03	-0.06	0.023	0.111	0.07	0.18	0.292
EEGMatMental Arithmetic vs RestCS	0.40	0.42	0.50	0.521	0.501	0.50	0.50	0.503	0.541	0.581	0.40	0.48	0.48	0.50	0.701	0.42	0.50	0.503	0.503	0.661	0.652	0.503	0.50T	0.50	0.503	0.503	0.503	0.50	0.503	0.50T	0.50	0.503	0.503	0.632	0.691
TUSLBackground Slowing DetectionCS	0.50T	0.50T	0.50	0.50	0.50	0.50	0.50	0.50T	0.33	0.66T	0.563	0.701	0.54T	0.631	0.00	0.50T	0.36	0.622	0.503	0.54T	0.582	0.50T	0.42	0.66T	0.40	0.43	0.523	0.513	0.50T	0.671	0.50	0.631	0.552	0.48	0.48
ERP-BCIP300 Target DetectionCS	-	-	-	-	-	-	-	0.021	0.051	0.013	0.003	0.003	-0.00	0.00	-0.02	0.022	0.012	0.051	0.00	0.003	0.00	0.00T	0.00	0.00	0.002	0.081	0.121	0.121	0.00T	0.003	0.071	-0.02	0.012	0.022	0.022
Kaggle-INRIAP300 Feedback CorrectnessCS	-	-	-	-	-	-	-	0.08	0.39	0.612	0.671	0.541	0.601	0.591	0.50T	0.50T	0.50	0.503	0.503	0.522	0.573	0.423	0.413	0.553	0.50	0.48	0.46	0.582	0.50T	0.50T	0.641	0.522	0.502	0.473	0.48
SEEDEmotion RecognitionCS	-0.19	-0.013	0.073	0.132	0.291	0.303	0.293	0.02	-0.05	0.082	0.113	0.12	0.18	0.20	0.033	-0.07	0.03	0.10	0.24	0.321	0.302	0.042	0.052	-0.02	-0.04	0.283	0.27	0.27	0.051	0.111	0.131	0.281	0.292	0.312	0.321