【儀表網 研發快訊】近日，北大電子學院程翔教授團隊提出首個面向信道預測的無線基座模型WiFo，該研究成果以“WiFo: Wireless Foundation Model for Channel Prediction”為題發表于期刊SCIENCE CHINA Information Sciences(IF=7.3，JCR Q1，CCF-A類期刊)。
 

　　精確的信道狀態信息(CSI)是B5G/6G MIMO-OFDM無線通信系統設計的基石，在預編碼和資源分配等關鍵任務中發揮著決定性作用。然而，傳統的基于信道估計的CSI獲取方式在高速移動等復雜場景中易受到“信道老化”等問題影響，嚴重制約系統性能。相比之下，信道預測技術通過預測獲取CSI，大大降低了信道估計和反饋開銷，顯著提升了系統頻譜效率，因而在過去幾十年中得到了廣泛研究，如圖1所示。早期工作探索了基于參數化模型的信道預測方案，但其性能嚴重依賴于信道模型的準確度。而基于深度學習小模型的方案在高動態等復雜環境下性能受限，且泛化能力較差，難以滿足未來通信系統高速率和低開銷的要求。
 

　　近年來，基座模型的興起推動了深度學習范式的變革，即通過在大規模數據集上進行自監督預訓練，基座模型可以在多種下游任務中展現出卓越的泛化能力，并大幅超越任務專用模型。基座模型在自然語言處理等領域取得了突破性進展，催生了以ChatGPT和DeepSeek為代表的大語言模型(LLM)。前期LLM賦能通信物理層的相關工作局限于語言形式和語義提取等相關任務，難以直接處理非語言形式的信道預測任務。為突破語言局限，團隊前期工作(LLM4CP)首次將LLM應用于信道預測任務，通過微調技術實現預訓練LLM的通用知識遷移，提升了預測精度和泛化能力。然而，由于語言域和信道域的天然差異，LLM4CP在面臨超高速移動場景時仍然性能不足。當遷移到新場景時，LLM4CP只能降低而無法完全避免額外的數據收集和訓練開銷。此外，現有基于深度學習小模型和LLM的方案均針對時域和頻域兩種信道預測任務單獨設計網絡，大大增加了基站側模型部署開銷。
 

　　綜上所述，由于并非針對信道域進行構建，基于通用基座模型(LLM)的信道預測方案在預測精度和泛化能力方面存在局限，無法從根本上突破傳統深度學習設計范式，無法打破新場景需重新訓練和模型分立設計的瓶頸。那么，能否針對信道域構建專用的無線基座模型，在大幅提升預測精度的同時實現一模多用，并能夠直接應用于新場景而不加任何微調？ 程翔團隊對該問題首次進行了初步探索和系統回答，提出了首個面向信道預測的無線基座模型WiFo(Wireless Foundation Model)，開辟了全新的信道預測設計范式，從根本上克服了現有基于深度學習小模型和LLM信道預測方案的局限性，開創了信道預測技術的基座模型時代。
 

圖1. 信道預測技術發展歷史
 

　　打破分立設計的瓶頸，WiFo首次將時域和頻域的MIMO-OFDM信道預測統一建模為信道重建任務。為解決信道預測任務和CSI數據的異構性，團隊提出了一種基于掩碼自編碼器(MAE)的網絡架構，從而可以處理任意尺寸的三維CSI數據并應用于異構的信道預測任務。同時，他們設計了一種新的空時頻位置編碼結構，以學習CSI樣本的三維位置信息。為充分捕獲通用的信道空時頻特征，團隊設計了三種自監督預訓練任務，即隨機掩碼重建，時域掩碼重建和頻域掩碼重建。預訓練后的WiFo可直接零樣本用于信道預測任務，而無需額外訓練。
 

圖2. WiFo網絡架構圖
 

　　團隊基于QuaDRiGa仿真器構建了大規模異構CSI數據集，包括16個預訓練數據集(包括16萬條CSI訓練樣本)和3個泛化性測試數據集，覆蓋多種場景、用戶速度、頻點、天線和時間等配置，并考慮了5種參數量大小(從0.3M到86.1M)的模型，如表1和表2所示。WiFo在16個預訓練數據集的時域和頻域預測結果分別如表3和表4所示，WiFo的平均NMSE(歸一化均方根誤差)性能達到SOTA，并且在大多數數據集上實現最優或次優，說明WiFo能夠同時在多個異構數據集上訓練，并同時掌握時域和頻域預測，實現“一模多用”。值得注意的是，為完成上述16個數據集上的時域和頻域信道預測任務，每種對比方案需要訓練32個單獨的模型，而WiFo僅需訓練1個模型。以D17數據集為例，WiFo的零樣本泛化性能如圖3所示。對比方案的零樣本泛化能力較差，難以有效預測，而WiFo的零樣本泛化性能超越了所有對比方案的全樣本訓練性能，有望不加微調直接部署于新場景。此外，WiFo-Base的參數量僅為LLM4CP的1/4，而推理時間與普通小模型相當，有望實際部署。
 

　　圖3. D17數據集：WiFo零樣本預測NMSE和對比方案的全樣本/零樣本預測NMSE

 

　　該工作的主要亮點包括：首個面向信道預測的無線基座模型和首個零樣本信道預測方案，首次實現一個模型同時解決異構的信道預測任務和多樣的CSI數據；設計了基于MAE的無線基座模型架構以解決任務與數據異構性，并設計多種掩碼重建自監督預訓練任務以充分捕獲空時頻信道特征；構建了大規模異構數據集用于預訓練(訓練樣本數16萬)，仿真結果說明WiFo具備優越的多數據集聯合學習能力，在新場景上的零樣本預測性能超越對比方案的全樣本性能，并具備與普通深度學習小模型相當的推理開銷。
 

　　北京大學為該研究工作的第一完成單位，合作單位包括香港科技大學(廣州)。程翔為該論文的通訊作者，北京大學博士生劉伯珣為第一作者。這項工作得到了國家自然科學基金委杰出青年科學基金、國家重點研發計劃、新基石科學基金會科學探索獎等項目的支持。