學(xué)術(shù)報(bào)告丨如何為深度模型找到好的顯式正則化方法

智能車參考 2019-12-25 18:05:41 來(lái)源：量子位

深度模型有高超的學(xué)習(xí)（數(shù)據(jù)擬合）能力，但為了提高模型的泛化能力、讓模型在新的數(shù)據(jù)上也有好的表現(xiàn)，我們需要尋找一些方法干擾模型的訓(xùn)練過(guò)程，避免模型“記住”訓(xùn)練數(shù)據(jù)，這就是正則化。

本次報(bào)告邀請(qǐng)了斯坦福大學(xué)計(jì)算機(jī)科學(xué)和統(tǒng)計(jì)學(xué)助理教授馬騰宇博士，他將給大家?guī)?lái)的報(bào)告題目是《為深度模型設(shè)計(jì)顯示正則器》，在這次分享中，馬騰宇老師會(huì)介紹一些近期的顯式正則化方法。設(shè)計(jì)顯示正則器以提高深度神經(jīng)網(wǎng)絡(luò)的推廣能力，推導(dǎo)深度神經(jīng)網(wǎng)絡(luò)基于數(shù)據(jù)依賴的推廣邊界，并根據(jù)經(jīng)驗(yàn)對(duì)邊界進(jìn)行規(guī)范化，以在標(biāo)準(zhǔn)精度或穩(wěn)健精度方面獲得改進(jìn)的推廣能力，最終將這些技術(shù)應(yīng)用于不平衡數(shù)據(jù)集等最新研究結(jié)果。

報(bào)告嘉賓

馬騰宇博士

現(xiàn)為斯坦福大學(xué)計(jì)算機(jī)科學(xué)和統(tǒng)計(jì)學(xué)助理教授。主要研究領(lǐng)域包括機(jī)器學(xué)習(xí)和算法，如非凸優(yōu)化、深度學(xué)習(xí)及其理論、強(qiáng)化學(xué)習(xí)、表示學(xué)習(xí)、高維統(tǒng)計(jì)等。已在國(guó)際頂級(jí)會(huì)議和期刊上發(fā)表高質(zhì)量論文40多篇。獲得2018 ACM博士論文獎(jiǎng)榮譽(yù)獎(jiǎng)(Honorable Mentions)，NeuRIPS 2016最佳學(xué)生論文， COLT 2018最佳論文獎(jiǎng)。本科就讀于清華大學(xué)交叉信息研究院，是2008級(jí)“姚班”學(xué)生。畢業(yè)后前往美國(guó)在普林斯頓攻讀博士學(xué)位，期間師從Sanjeev Arora教授。

活動(dòng)日程

報(bào)名通道

時(shí)間：2019年12月30日16:00-17:40（15:30簽到）

地點(diǎn)：北京大學(xué)科技園創(chuàng)新中心報(bào)告廳

溫馨提示：

1. 本次活動(dòng)免費(fèi)，歡迎大家邀請(qǐng)同事和朋友一起參加；

2. 請(qǐng)確認(rèn)手機(jī)號(hào)無(wú)誤，以便報(bào)名后及時(shí)獲取到門票信息；

3. 為倡導(dǎo)綠色出行，建議您乘坐公共交通工具前往參會(huì)。

—?完?—

量子位 QbitAI · 頭條號(hào)簽約

關(guān)注我們，第一時(shí)間獲知前沿科技動(dòng)態(tài)