近日，華東師范大學(xué)統(tǒng)計(jì)學(xué)院於州教授團(tuán)隊(duì)在統(tǒng)計(jì)學(xué)及機(jī)器學(xué)習(xí)領(lǐng)域取得顯著進(jìn)展，在統(tǒng)計(jì)學(xué)頂級(jí)期刊Annals of Statistics、Journal of the Royal Statistical Society Series B及機(jī)器學(xué)習(xí)頂級(jí)期刊Journal of Machine Learning Research上在線發(fā)表了多項(xiàng)創(chuàng)新研究成果，標(biāo)志著統(tǒng)計(jì)學(xué)理論研究的新突破。
· 基于神經(jīng)網(wǎng)絡(luò)的非線性充分降維
於州教授及其博士生陳胤峰、邱銳與武漢大學(xué)焦雨領(lǐng)副教授合作研究中，提出了基于神經(jīng)網(wǎng)絡(luò)的非線性充分降維方法，并成功應(yīng)用于數(shù)據(jù)低維表示的估計(jì)。該方法通過借助廣義鞅差散度刻畫條件獨(dú)立性，應(yīng)用深度神經(jīng)網(wǎng)絡(luò)擬合非線性充分降維函數(shù)，并發(fā)展了有限階U過程理論以深入探究估計(jì)量的非漸近收斂性質(zhì)。與經(jīng)典的算子特征分解相比，其提出的方法表現(xiàn)出更高的效率和靈活性。相關(guān)論文Deep Nonlinear Sufficient Dimension Reduction將發(fā)表于統(tǒng)計(jì)學(xué)期刊Annals of Statistics。
· 隨機(jī)森林和神經(jīng)網(wǎng)絡(luò)的有機(jī)結(jié)合
於州教授及其博士生邱銳、徐順拓，將隨機(jī)森林與神經(jīng)網(wǎng)絡(luò)有機(jī)結(jié)合，提出了一種精度更高的回歸及分類方法。該方法結(jié)合了兩種技術(shù)的優(yōu)點(diǎn)，尤其在小樣本、高噪音的數(shù)據(jù)類型中表現(xiàn)出色。通過隨機(jī)森林生成權(quán)重，神經(jīng)網(wǎng)絡(luò)能夠更準(zhǔn)確地?cái)M合復(fù)雜函數(shù)，并在理論上證明了估計(jì)器的極大極小最優(yōu)收斂速率。這一創(chuàng)新方法不僅提高了預(yù)測(cè)精度，還為解決導(dǎo)數(shù)估計(jì)及充分降維等任務(wù)提供了新的解決方案。相關(guān)論文Neural Networks Meet Random Forests在線發(fā)表于統(tǒng)計(jì)學(xué)期刊Journal of the Royal Statistical Society Series B。
· 基于隨機(jī)森林的非歐數(shù)據(jù)回歸
邱銳博士在於州教授及美國(guó)伊利諾伊大學(xué)香檳分校朱若青副教授的指導(dǎo)下，針對(duì)一般度量空間中的復(fù)雜數(shù)據(jù)回歸問題進(jìn)行了深入研究。他們基于隨機(jī)森林誘導(dǎo)的自適應(yīng)權(quán)重提出了兩種局部非歐回歸方法，有效消減了現(xiàn)有方法存在的維數(shù)災(zāi)難問題，在大量數(shù)值實(shí)驗(yàn)中驗(yàn)證了新方法的優(yōu)良效果；并詳盡給出了估計(jì)器的一致性、非漸近收斂速率等理論結(jié)果，為復(fù)雜數(shù)據(jù)的分析提供了堅(jiān)實(shí)的理論支撐。其研究成果Random Forest Weighted Local Fréchet Regression with Random Objects在線發(fā)表于機(jī)器學(xué)習(xí)期刊Journal of Machine Learning Research。
上述研究成果得到了科技部重點(diǎn)研發(fā)計(jì)劃（2021YFA1000100，2023YFA1008700），國(guó)家自然科學(xué)基金面上項(xiàng)目（NSFC 12371289）以及上海市基礎(chǔ)研究特區(qū)計(jì)劃（TQ20220105）的支持。
統(tǒng)計(jì)學(xué)院始終秉持“立德樹人”的教育方針，積極推進(jìn)“卓越育人”體系建設(shè)，致力于為學(xué)生營(yíng)造良好的學(xué)術(shù)氛圍和創(chuàng)新環(huán)境。鼓勵(lì)學(xué)生勇于探索、勇于創(chuàng)新。同時(shí)，學(xué)院積極擁抱人工智能等新興前沿領(lǐng)域，為學(xué)生提供豐富的實(shí)踐機(jī)會(huì)和挑戰(zhàn)平臺(tái)。這些舉措不僅提升了學(xué)生的專業(yè)素養(yǎng)和創(chuàng)新能力，也為“AI在華師大”提供了統(tǒng)計(jì)學(xué)維度的新質(zhì)生產(chǎn)力。
論文鏈接：
1. Yinfeng Chen, Yuling Jiao, Rui Qiu and Zhou Yu (2024+).Deep Nonlinear Sufficient Dimension Reduction. To appear in Annals of Statistics.https://imstat.org/journals-and-publications/annals-of-statistics/annals-of-statistics-future-papers.
2.Rui Qiu, Shuntuo Xu andZhou Yu(2024). NeuralNetworksMeetRandomForests.Journal of the Royal Statistical Society Series B: Statistical Methodology. DOI: 10.1093/jrsssb/qkae038.
3.Rui Qiu, Zhou Yu and Ruoqing Zhu (2024). Random Forest Weighted Local Fréchet Regression with Random Objects.Journal of Machine Learning Research, 25(107), 1-69.
來源｜統(tǒng)計(jì)學(xué)院、科技處 編輯｜沈韻婷 編審｜郭文君
