中國AI創(chuàng)業(yè)公司霸榜NeurIPS-AutoDL競賽，冠軍代碼已開源
乾明 發(fā)自 凹非寺
量子位 報道 | 公眾號 QbitAI
人工智能頂會NeurIPS舉辦的AutoDL 2019-2020系列競賽落幕，來自中國的AI創(chuàng)業(yè)公司，斬獲冠亞軍。
與往年相比，這屆競賽難度進一步加大。
比賽不只局限在單一技術(shù)領(lǐng)域，而是要求參賽選手設(shè)計開發(fā)能解決包括圖像、視頻、語音、文本和結(jié)構(gòu)化表格數(shù)據(jù)等多模態(tài)、多領(lǐng)域的全自動多標(biāo)簽分類系統(tǒng)，探索自動深度學(xué)習(xí)技術(shù)落地。
歷時四個月角逐后，來自中國廈門深度賦智的DeepWisdom團隊拿下冠軍，并在GitHub上開源。
這不是一個簡單的競賽，不僅在于參賽選手實力強悍，還在于賽題具有挑戰(zhàn)性。
中國AI創(chuàng)業(yè)公司奪冠
挑戰(zhàn)賽一共分為反饋階段和最終階段。在反饋階段，參賽選手基于24個訓(xùn)練數(shù)據(jù)集，離線開發(fā)AutoDL程序，實現(xiàn)訓(xùn)練數(shù)據(jù)處理、模型結(jié)構(gòu)設(shè)計、參數(shù)調(diào)校等過程。
然后將AutoDL程序代碼上傳到比賽平臺上，通過另外5個線上私有數(shù)據(jù)集測試，得到程序性能的即時反饋。
在最終階段，參賽選手的AutoDL程序在無任何人工干預(yù)的前提下，通過10個私有數(shù)據(jù)集進行評估。最終階段多輪評估的平均排名將決定獲勝者。
競賽采用ALC(Area under ROC Learning Curve)作為評估指標(biāo)，來對現(xiàn)實場景中低成本、快速應(yīng)用、高準(zhǔn)確率等要求進行模擬。
這對參賽選手的方案提出了一系列的挑戰(zhàn)，比如，“如何在不同的數(shù)據(jù)中自動發(fā)現(xiàn)有效信息？”、“如何提高解決方案的通用性？即如何保證解決方案在未知任務(wù)中的適用性？”、“如何控制計算和內(nèi)存成本？”等等。
參賽選手來自清華大學(xué)、北京大學(xué)、南京大學(xué)、卡內(nèi)基梅隆大學(xué)、首爾大學(xué)、弗萊堡大學(xué)、漢諾威大學(xué)等國內(nèi)外著名前沿科研院校，以及Google、微軟、阿里、騰訊、浪潮等大型科技公司，總計進行了超過2600余次提交。
最后，中國AI創(chuàng)業(yè)公司深度賦智雙項總分第一，拿下了冠軍。亞軍和季軍也都來自于中國，分別是上海的AI創(chuàng)業(yè)公司深蘭科技和浪潮。
冠軍方案
據(jù)深度賦智介紹，其核心技術(shù)在于其獨立研發(fā)的Fully Automatic Machine Learning（Full-AutoML / 全自動機器學(xué)習(xí)）系統(tǒng)。
這套系統(tǒng)量化了AI生產(chǎn)的所有環(huán)節(jié)，可以全自動、端到端地生產(chǎn)全流程AI，能擺脫以往的AI設(shè)計需要諸多人類經(jīng)驗、難以快速落地的約束。
一名人類AI工程師需要在單個領(lǐng)域進行持續(xù)數(shù)年的學(xué)習(xí)、摸索，隨著接觸數(shù)據(jù)集的增多、掌握技巧的增多、對整體流程的積累，才能在單個領(lǐng)域下獲得較好效果。
與人類AI工程師類似，F(xiàn)ull-AutoML需要接觸較多的學(xué)習(xí)任務(wù)，以掌握在不同任務(wù)上的共性與特異性技巧。
其中，MetaAI子系統(tǒng)模擬了人類AI工程師的學(xué)習(xí)過程，通過觀察已有任務(wù)的數(shù)據(jù)流形與策略效果，以進行全自動的探索性優(yōu)化。
經(jīng)過觀察，MetaAI可以很好地總結(jié)不同任務(wù)知識，將原本耗時數(shù)年的AI構(gòu)建過程縮短到最短數(shù)十秒。
而且，這套系統(tǒng)也具備自動數(shù)據(jù)探索、自動數(shù)據(jù)處理、自動特征工程、自動模型搜索、自動模型設(shè)計、自動模型壓縮、自動超參優(yōu)化、自動集成等多項核心組件，內(nèi)含F(xiàn)ew-shot Learning小樣本學(xué)習(xí)、Weakly supervised learning 弱監(jiān)督學(xué)習(xí)、Transfer Learning遷移學(xué)習(xí)、Ensemble Learning集成學(xué)習(xí)等多類特性。
從而能較好地處理本次競賽涉及的包含結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)分類任務(wù)。
目前，這套系統(tǒng)已經(jīng)被深度賦智落地，核心產(chǎn)品自動信息分發(fā)系統(tǒng)AutoDist（包含自動搜索系統(tǒng)AutoSearch、自動推薦系統(tǒng)AutoRecsys）以及自動決策系統(tǒng)AutoTables已經(jīng)在相應(yīng)的場景中發(fā)揮出了作用。
來自廈門的AI創(chuàng)業(yè)公司
深度賦智成立于2019年，位于廈門，主要是通過AutoDL技術(shù)，降低客戶的AI開發(fā)成本。已經(jīng)為電商平臺提供了落地的AI解決方案。
創(chuàng)始人兼CEO吳承霖出自騰訊，帶領(lǐng)團隊設(shè)計與實現(xiàn)了億級用戶規(guī)模、千億級數(shù)據(jù)規(guī)模的推薦系統(tǒng)、搜索引擎、用戶畫像、自然語言處理、知識圖譜等系統(tǒng)。
2019年11月，公司宣布完成數(shù)百萬元種子輪融資，由迅雷及遠望資本創(chuàng)始人程浩、Flow Capital創(chuàng)始人賴蘊琦以及騰訊系電商賣座網(wǎng)創(chuàng)始人王星投資。
當(dāng)時，深度賦智擁有近20人的團隊，核心成員均為騰訊、Google、百度、華為等前沿公司資深研究員、架構(gòu)師。
截止目前，深度賦智及其學(xué)術(shù)團隊在協(xié)同學(xué)習(xí)/NAS/深度強化學(xué)習(xí)等領(lǐng)域發(fā)布了100余篇論文。
并在KDD 2019 AutoML/ACML 2019 AutoSpeech/PKDD 2019 AutoCV2/ACML 2019 AutoWSL等頂級國際AI競賽中，拿下了單項/總分第一。
傳送門
冠軍方案開源地址：
https://github.com/DeepWisdom/AutoDL
相關(guān)閱讀
