碳栗子 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI
當(dāng)你打開(kāi)這篇文章的時(shí)候，你的模型可能正在安靜地訓(xùn)練。
模型的身后，有飛速運(yùn)轉(zhuǎn)的GPU，為它提供訓(xùn)練的動(dòng)力。
曲線(xiàn)顯示，它的學(xué)習(xí)情況良好，你在一旁露出了“孺子可教”的圍笑。
就在此時(shí)，有人向你發(fā)射了直擊靈魂的提問(wèn)：
你總是關(guān)心模型學(xué)得好不好，就不關(guān)心它學(xué)得累不累 (誤) ，就不關(guān)心它排了多少二氧化碳？
發(fā)問(wèn)的是名叫Emma Strubell (簡(jiǎn)稱(chēng)艾瑪) 的研究人員，來(lái)自美國(guó)馬薩諸塞大學(xué)阿姆赫斯特分校。
艾瑪和小伙伴一起，研究了許多優(yōu)秀NLP?(自然語(yǔ)言處理) 模型的碳排，還和人類(lèi)日常生活的碳足跡做了對(duì)比：
比如，訓(xùn)練一只Transformer的碳排，相當(dāng)于從坐飛機(jī)在舊金山和紐約之間往返200次。
過(guò)不了多久，團(tuán)隊(duì)就會(huì)前往ACL 2019，與NLP領(lǐng)域的佼佼者們，分享自家的成果。
而在那之前，這項(xiàng)酸爽的研究，已經(jīng)在推特上引發(fā)了大規(guī)模圍觀(guān)，有2200人點(diǎn)贊，也惹來(lái)了不小的爭(zhēng)議。
能排多少?lài)崳?/strong>
如果看艾瑪提供的數(shù)據(jù)，訓(xùn)練好一只NLP領(lǐng)域的State-of-the-Art，包括調(diào)參包括實(shí)驗(yàn)，大概需要排放3.3萬(wàn)磅二氧化碳，相當(dāng)于15噸：
而要訓(xùn)練一只Transformer，包含神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索 (NAS) 的那種，排放二氧化碳大概39.5萬(wàn)磅，相當(dāng)于180噸。
比剛才的SOTA多了10倍不止。
那么，這些噸位到底是什么概念？
如果還看艾瑪提供的數(shù)據(jù)：
訓(xùn)練一只Transformer的碳排放量，相當(dāng)于把三輛汽車(chē)從全新用到報(bào)廢；
如果換算成，一個(gè)人從紐約坐飛機(jī)去舊金山，再?gòu)呐f金山回紐約，可以往返200次。
一個(gè) (平均) 美國(guó)人10年日常生活的碳排，不過(guò)如此。
一個(gè) (平均) 地球人30年日常生活的碳排，也不過(guò)如此。
現(xiàn)在，完整論文還沒(méi)放出，艾瑪說(shuō)快了快了。
即便如此，驚人的數(shù)據(jù)也已在眾人矚目之下，收獲了許多質(zhì)疑：
“你這碳排怎么算的？”
谷歌大腦的研究員David Ha，就提出了問(wèn)題：
用千瓦時(shí)作指標(biāo)才比較科學(xué)吧。因?yàn)椴煌哪茉?，每千瓦時(shí)的碳排會(huì)差出很多啊?？磾?shù)據(jù)：
他覺(jué)得，如果不知道能源是什么，就計(jì)算二氧化碳排放量，作為一篇論文并不嚴(yán)謹(jǐn)；
但如果是為了讓大家重視環(huán)境問(wèn)題，用碳排來(lái)博眼球，那就說(shuō)得通了。
評(píng)論區(qū)，有同樣感受的人類(lèi)不在少數(shù)：
看來(lái)保護(hù)地球，也需要有一顆嚴(yán)謹(jǐn)?shù)男摹?/p>
One More Thing
當(dāng)然，觀(guān)眾大多還是對(duì)這項(xiàng)研究表示喜聞樂(lè)見(jiàn)，有人說(shuō)：
以后交論文的時(shí)候，應(yīng)該要求把碳排信息附上。
閣下以為如何？
—?完?—
