陳天奇CMU新課程線上免費(fèi)聽(tīng)，剖析DL框架底層原理，學(xué)完你也能開(kāi)發(fā)mini版PyTorch/TF
可以做一回大佬的學(xué)生了～
豐色 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
CMU又一門(mén)線下課程要在網(wǎng)上同步開(kāi)課了。
這次，授課老師正好是機(jī)器學(xué)習(xí)領(lǐng)域的著名學(xué)者陳天奇。
以及CMU的副教授Zico Kolter（兼博世研究院首席人工智能科學(xué)家）。
課程名叫《深度學(xué)習(xí)系統(tǒng)（算法和實(shí)現(xiàn)）》。
這里的“深度學(xué)習(xí)系統(tǒng)”指的就是像PyTorch或TensorFlow這樣的工具。
我們知道，深度學(xué)習(xí)能夠迅速推廣開(kāi)來(lái)并取得成效少不了這些系統(tǒng)的支持。
但大部分人對(duì)于它們的態(tài)度都是“會(huì)用就完了”，對(duì)內(nèi)部結(jié)構(gòu)和底層運(yùn)作原理并不清楚。
Kolter和陳天奇就將在這門(mén)課程中帶大家深入了解其原理，并教大家實(shí)現(xiàn)一個(gè)基本的深度學(xué)習(xí)庫(kù)，可以和小型版本的PyTorch或TensorFlow相媲美的那種。
上完這門(mén)課，我們就能在以后的“煉丹”過(guò)程中更好地利用這些工具的功能，還能學(xué)會(huì)在需要時(shí)自己上手開(kāi)發(fā)擴(kuò)展庫(kù)做一些自定義的東西。
一位有著1.9萬(wàn)粉絲的機(jī)器學(xué)習(xí)從業(yè)者就表示：
如果你想充分利用你最喜歡的框架，強(qiáng)烈推薦。
怎么樣，心動(dòng)否？
9月13日開(kāi)課，線上免費(fèi)注冊(cè)參與
該課程將在下個(gè)月13號(hào)開(kāi)課。
主要面向高年級(jí)本科到博士在讀階段的學(xué)生。
需要參與者有基本的數(shù)學(xué)背景，對(duì)機(jī)器學(xué)習(xí)有一定的了解，掌握系統(tǒng)編程（Python和C/C++ ）和線性代數(shù)。
具體來(lái)說(shuō)，課程囊括了深度學(xué)習(xí)系統(tǒng)的“全棧”開(kāi)發(fā)：
從現(xiàn)代深度學(xué)習(xí)系統(tǒng)的高級(jí)建模設(shè)計(jì)，到自動(dòng)微分工具的基本實(shí)現(xiàn)，再到底層高效算法的設(shè)備級(jí)實(shí)現(xiàn)……它將全部涉及。
通過(guò)這門(mén)課，你將學(xué)會(huì)從頭開(kāi)始設(shè)計(jì)和構(gòu)建一個(gè)完整的深度學(xué)習(xí)庫(kù)。
該庫(kù)能夠?qū)崿F(xiàn)基于GPU的高效操作，自動(dòng)區(qū)分所有實(shí)現(xiàn)的功能，并帶有支持參數(shù)化層、損失函數(shù)、數(shù)據(jù)加載和優(yōu)化器的必要模塊。
在自己開(kāi)發(fā)的這個(gè)庫(kù)之上，你可以構(gòu)建幾種SOTA模型，包括用于圖像分類(lèi)和分割的卷積網(wǎng)絡(luò)、用于語(yǔ)言建模等連續(xù)任務(wù)的遞歸網(wǎng)絡(luò)和自注意力模型，以及用于圖像生成的生成模型等。
如果你不清楚自己適不適合該課程，可以先聽(tīng)一聽(tīng)開(kāi)頭幾節(jié)并試著完成第一次作業(yè)后再作評(píng)估。
——是的，除了純聽(tīng)課，你也可以免費(fèi)注冊(cè)一個(gè)賬號(hào)參與作業(yè)和期末大項(xiàng)目。
（可以說(shuō)，基本和CMU學(xué)生享受一個(gè)待遇了。）
其中，日常作業(yè)一共包括四個(gè)獨(dú)立完成的編程任務(wù)以及一個(gè)附加的介紹性作業(yè)（introductory homwork）。
期末項(xiàng)目需要2-3人組隊(duì)完成，需要在你們做出來(lái)的庫(kù)（not現(xiàn)成的PyTorch或TensorFlow）上開(kāi)發(fā)一個(gè)重要的新功能，并在一個(gè)模型上實(shí)現(xiàn)該功能。
這份大作業(yè)除了提交代碼，還需要寫(xiě)一個(gè)報(bào)告。
你的最終成績(jī)將按以下比例計(jì)算：
- 日常作業(yè)：55%
- 最終項(xiàng)目：35%
- 課堂參與（通過(guò)課程論壇）：10%
如果合格，可以拿到一個(gè)（非正式的）結(jié)業(yè)證書(shū)。
Ps. 線上課程會(huì)比CMU實(shí)際晚倆個(gè)禮拜上傳，純視頻也會(huì)在Youtube的Deep Learning Systems Course頻道播放。
如果你要參與作業(yè)，一定要注冊(cè)賬號(hào)，鏈接在此：
https://docs.google.com/forms/d/e/1FAIpQLScNVr8wf8dwEz6aNYFbIgBWi9fPIDVpuwBJEGhoNZJO-cYaDA/viewform
更多課程介紹：
https://dlsyscourse.org/
https://www.youtube.com/watch?v=qbJqOFMyIwg
- GPT-5不能停！吳恩達(dá)田淵棟反對(duì)千人聯(lián)名，OpenAI CEO也發(fā)聲了2023-03-30
- ChatGPT標(biāo)注數(shù)據(jù)比人類(lèi)便宜20倍，80%任務(wù)上占優(yōu)勢(shì) | 蘇黎世大學(xué)2023-03-29
- 馬斯克嘲諷比爾蓋茨不懂AI/ 蘋(píng)果收購(gòu)AI視頻公司/ 壁仞GPU聯(lián)創(chuàng)出走…今日更多新鮮事在此2023-03-28
- GPT-4老板：AI可能會(huì)殺死人類(lèi)，已經(jīng)出現(xiàn)我們無(wú)法解釋的推理能力2023-03-28
相關(guān)閱讀
神“腦補(bǔ)”！只要一段話，就知道你的說(shuō)話手勢(shì) | UC伯克利
以后打電話，一邊在電話里說(shuō)著愛(ài)對(duì)方，一邊卻搞著小動(dòng)作，會(huì)暴露的。
