報(bào) 告 人:廖振宇 副研究員
報(bào)告題目:大維隨機(jī)矩陣?yán)碚撨M(jìn)展及其在深度學(xué)習(xí)中應(yīng)用
報(bào)告時(shí)間:1月11日和12日(周四、周五),上午9點(diǎn)-11點(diǎn)30
報(bào)告地點(diǎn):騰訊會(huì)議:913-816-8075 (無(wú)密碼)
主辦單位:數(shù)學(xué)與統(tǒng)計(jì)學(xué)院、數(shù)學(xué)研究院、科學(xué)技術(shù)研究院
報(bào)告人簡(jiǎn)介:
廖振宇,于法國(guó)巴黎薩克雷大學(xué)獲信號(hào)與圖像處理碩士和計(jì)算機(jī)博士學(xué)位,后在美國(guó)加州大學(xué)伯克利分校從事博士后研究工作,于2021年起至今在華中科技大學(xué)電信學(xué)院工作,任副研究員。長(zhǎng)期從事“面向高維數(shù)據(jù)的大規(guī)模機(jī)器學(xué)習(xí)的基礎(chǔ)理論和關(guān)鍵技術(shù)”的研究,將高維統(tǒng)計(jì)學(xué)和隨機(jī)矩陣?yán)碚搼?yīng)用于復(fù)雜大規(guī)模機(jī)器學(xué)習(xí)系統(tǒng)設(shè)計(jì),以解決非、自監(jiān)督學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)優(yōu)化設(shè)計(jì)、壓縮和加速問(wèn)題,成果發(fā)表在ICML、NeurIPS、ICLR、COLT、AISTATS、TSP、AAP、JSTAT、PRA等人工智能、機(jī)器學(xué)習(xí)、概率論的頂級(jí)會(huì)議與期刊,合著專著Random Matrix Methods for Machine Learning,長(zhǎng)期受邀擔(dān)任多個(gè)人工智能、機(jī)器學(xué)習(xí)領(lǐng)域頂級(jí)會(huì)議和期刊的審稿人或程序委員會(huì)委員,受邀擔(dān)任歐盟自然科學(xué)基金ERC和加拿大自然科學(xué)基金NSERC外部評(píng)審。獲評(píng)湖北百人計(jì)劃,武漢英才,華中科技大學(xué)東湖青年學(xué)者和法國(guó)巴黎薩克雷大學(xué)ED STIC優(yōu)秀博士論文。
報(bào)告摘要:
在兩個(gè)半天的短課中,我們將:
1. 簡(jiǎn)介大維隨機(jī)矩陣?yán)碚摚ㄟ^(guò)聚焦經(jīng)典的樣本協(xié)方差矩陣模型,討論隨機(jī)矩陣?yán)碚撈渑c傳統(tǒng)漸進(jìn)統(tǒng)計(jì)學(xué)的聯(lián)系和區(qū)別,討論相關(guān)理論方法和證明技術(shù),以及領(lǐng)域內(nèi)的最新進(jìn)展;
2. 圍繞機(jī)器學(xué)習(xí)中的深度神經(jīng)網(wǎng)絡(luò)這一類模型,具體討論高維統(tǒng)計(jì)和大維隨機(jī)矩陣?yán)碚撛冢ㄉ疃龋┥窠?jīng)網(wǎng)絡(luò)理論和方法中的相關(guān)研究進(jìn)展。將按照網(wǎng)絡(luò)從淺到深、數(shù)據(jù)結(jié)構(gòu)從簡(jiǎn)單到復(fù)雜、模型從隨機(jī)到非隨機(jī)的邏輯,回顧和梳理近年來(lái)隨機(jī)矩陣?yán)碚撛谏疃壬窠?jīng)網(wǎng)絡(luò)中得到的諸如“非線性網(wǎng)絡(luò)性能分析”、“雙下降”和“神經(jīng)正切核”等一系列應(yīng)用成果。最后,我們將展望未來(lái)用隨機(jī)矩陣?yán)碚摻鉀Q深度學(xué)習(xí)中核心問(wèn)題可能的機(jī)遇和技術(shù)挑戰(zhàn)。