NeurIPS今年將加入道德評審，論文作者還需聲明財務資助，獲正面評價才能接收
曉查 發(fā)自 凹非寺
量子位 報道 | 公眾號 QbitAI
AI研究的道德問題越來越突顯。
上周，YOLO之父Redmon宣布退出CV研究，因為不想看到自己研發(fā)的技術被用于軍事和隱私窺探。
有人說，Redmon很難以一己之力改變學術界。然而事實上，Redmon的做法正是因為學術界開始重視AI的道德倫理，他這一激進的決定來自于與其他學者之間的爭論。
全球最大的AI學術會議NeurIPS組織方在最新公告中表示，今年向大會提交論文的學者必須陳述其研究潛在的更廣泛的影響，以及自己的研究是否存在任何財務利益沖突。
社會影響力聲明將要求AI研究人員說明其工作的正面和負面潛在結果，而財務披露要求闡明行業(yè)和大型科技公司在該領域中發(fā)揮的作用，以及與提交的研究直接相關的潛在利益沖突。
NeurIPS是首批制定該要求的頂級AI學術會議，不知其他學術會議是否會跟進。
NeurIPS 2020通訊主席Michael Littman表示 ，每篇論文都會發(fā)表“道德方面和未來社會后果”的聲明。
但是聲明只會出現(xiàn)在最初發(fā)表的論文版本中，因此不會影響評審過程的雙盲性質(zhì)。具有潛在道德問題的研究將增加一輪評審程序。
評審員和領域主席的評估將僅基于技術。但是如果將某篇論文標記為潛在的道德問題，則該論文將被發(fā)送給另一組具有道德和機器學習專長的審稿人。
這些論文的最終接受也取決于第二批審稿人的正面評價。
大會要求的財務披露，要求研究者公布受捐助的資金、數(shù)據(jù)集、計算硬件、云計算服務等。受科技公司資助的AI研究者將收到該條款的影響。
NeurIPS的新要求也令一些學者感到不滿。CIFAR成員Roger Grosse說，新政策將“導致重要問題的瑣碎化”，希望將這類問題交給注重倫理或社會影響的研究者。
作為回應，目標識別算法YOLO發(fā)明者Joseph Redmon直接宣布退出CV界，因為擔心該技術對世界的潛在危險。
實際上去年的NeurIPS就已經(jīng)開始考慮AI的社會影響，大會組織者曾建議今年論文作者提交計算過程的碳排放，即訓練模型對氣候變化的影響，不過今年大會并沒有加入這一條。
2020年的NeurIPS仍將在加拿大溫哥華舉行，時間為12月6日至12日。今年論文提交的截止日期為5月12日。
參考資料：
NeurIPS requires AI researchers to account for societal impact and financial conflicts of interest
https://nips.cc/Conferences/2020/CallForPapers
- 腦機接口走向現(xiàn)實，11張PPT看懂中國腦機接口產(chǎn)業(yè)現(xiàn)狀｜量子位智庫2021-08-10
- 張朝陽開課手推E=mc2，李永樂現(xiàn)場狂做筆記2022-03-11
- 阿里數(shù)學競賽可以報名了！獎金增加到400萬元，題目面向大眾公開征集2022-03-14
- 英偉達遭黑客最后通牒：今天必須開源GPU驅(qū)動，否則公布1TB機密數(shù)據(jù)2022-03-05
