上海強攻算力高地，打響大模型商用基建第一槍

十三 2023-06-05 18:05:58 來源：量子位

金磊 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

劍指大算力，上海有了新動作——

正式成立臨港新片區(qū)智能算力產業(yè)聯(lián)盟（下文簡稱聯(lián)盟）。

這就是在由上海臨港新片區(qū)管理委員會主辦的“臨港新片區(qū)智算大會”上所公布的最新消息。

整體來看，聯(lián)盟的構成圍繞著一條“鏈”而展開：臨港新片區(qū)智算產業(yè)鏈。

顧名思義，這條“鏈”上的企業(yè)均是與智算產業(yè)息息相關的單位。

至于鏈主企業(yè)，在本次大會中也已經(jīng)被上海臨港新片區(qū)管理委員確定——商湯科技。

△商湯科技董事長兼CEO，徐立

而除了這條“鏈”上的企業(yè)之外，聯(lián)盟還涵蓋了智算產業(yè)上下游行業(yè)翹楚，以及知名高校及科研院所等。

那么這個聯(lián)盟的成立，到底要做什么？根據(jù)官方回答：

匯聚各方資源共建開放、完善的AI基礎設施服務體系，為加速應用落地提供強大易用的智算底層支撐，助力構筑上海人工智能發(fā)展新高地。

一言蔽之，就是落地，落地，落地；并以此來推動商業(yè)的大變革。

變革之道：大算力+大模型

自從去年11月ChatGPT爆火以來，生成式AI在全球范圍內受到了高度的關注。

與此同時，同樣熱度不減的一個概念，便是“大模型”。

從整個業(yè)界目前的趨勢來看，各家科技巨頭乃至中小企業(yè)，都是在大模型身上發(fā)力，不斷突破參數(shù)量的極限。

例如OpenAI的GPT-3參數(shù)量是1750億，而據(jù)傳言，GPT-4的參數(shù)量已經(jīng)突破了驚人的萬億。

之所以如此，正是應了那句“大力出奇跡”——參數(shù)量越大，訓練出來的模型效果一般都會更好。

而如此量變引發(fā)質變的背后，還有一大關鍵因素，那便是大算力。

畢竟單是訓練一個GPT-3，便是要用10000張V100卡，訓練個整整近15天，消耗了大約600PFLOPS的算力。

因此，在這種大背景之下，商湯針對臨港新片區(qū)智算產業(yè)鏈所要實現(xiàn)的變革，提出了一條道路——

大模型+大算力。

在商湯看來，AGI時代之下，數(shù)據(jù)、算法和算力三要素有了新的需求：

計算量（GPU數(shù)量 x 運行時間 x 并行效率 ）=?模型參數(shù)量?x?處理數(shù)據(jù)量。

怎么理解？

模型參數(shù)量要足夠多，才能實現(xiàn)AI智慧的涌現(xiàn)，而這也帶來了對算力的劇增，需要更高的并行效率，才能有效支持大參數(shù)模型訓練。

數(shù)據(jù)方面，高質量自然語言數(shù)據(jù)逐漸稀缺，而視覺數(shù)據(jù)相較自然語言在數(shù)量、質量、容納信息等方面有多種優(yōu)勢，能夠使得AI更好地理解世界。

變革之道是提出來了，那又取得了怎樣的效果？

在現(xiàn)場，商湯聯(lián)合創(chuàng)始人楊帆便介紹道：

對臨港實景進行大規(guī)模三維場景重建這種任務，在“大模型+大算力”的加持之下，數(shù)小時就可以完成以往人工數(shù)周乃至數(shù)月才能完成的高精渲染工作。

再如在氣象氣候預報任務中，全球中期天氣預報是最重要的預測任務之一。

而現(xiàn)如今，隨著商湯全球中期氣象預報AI大模型“風烏”的問世，首次實現(xiàn)在高分辨率上對核心大氣變量進行超過10天的有效預報，且在80%的評估指標上超越GraphCast模型。

不僅如此，“風烏”還可以模擬臺風等極端氣象，準確預測臺風軌跡。

遙感AI大模型方面，商湯以通用視覺大模型為基礎，具有不同地物種類、影像類型、影像時間和譜段的高泛化能力，擁有先進的地物解譯能力和媲美人工標注的生成式圖斑效果。

再如自動駕駛方面，商湯提出的UniAD是業(yè)內首個感知決策一體化的端到端自動駕駛解決方案，將環(huán)視的圖片通過Transformer映射得到BEV的特征，同時進行目標跟蹤，在線建圖，目標軌跡預測，以及障礙物預測。

甚至在游戲領域，商湯在近日還聯(lián)合清華提出通才AI智能體GITM，能夠在緊密模擬真實世界的暢銷游戲《我的世界》中做到像人類一樣生存、探索和創(chuàng)造。

并在主世界所有技術挑戰(zhàn)上實現(xiàn)了100%的任務覆蓋率。

不僅是在各種領域量的積累，商湯自身在大模型的發(fā)展也是堪稱飛速。

例如今年3月開源的“書生2.5”多模態(tài)大模型在檢測、分割、分類三大主流視覺任務下二十多個權威數(shù)據(jù)集上全面領先。

這也為上述自動駕駛、機器人等通用場景任務提供高效精準的感知和理解能力支持。

而在最新的發(fā)布中，商湯憑借“日日新”大模型體系，一口氣涵蓋AI內容創(chuàng)作、AI數(shù)字人視頻生成和3D內容生成等。

而這些大模型所要發(fā)力之處，正是諸如醫(yī)療、短視頻、教育、營銷以及開發(fā)等產業(yè)領域。

……

不難看出，商湯的大模型已然是覆蓋了產業(yè)中方方面面。

據(jù)楊帆介紹，截至今年5月，商湯“大模型+大算力”的方式，已經(jīng)涵蓋智能駕駛、生物制藥、芯片設計、智慧商業(yè)、高?？蒲械惹把仡I域，并已在超過20個落地場景中實現(xiàn)大模型交付。

不僅如此，本次大會上，商湯還與中國信息通信研究院聯(lián)合預發(fā)布《新型AI智算基礎設施白皮書》，將從多個層面解析新型AI基礎設施的發(fā)展特征和建設需求，以適應生產范式的重大轉變，支撐AI發(fā)展進入2.0階段。

為什么要采取這種模式？

若是將人工智能的發(fā)展歷史鋪開來看，就不難理解商湯如此之舉的原因了。

因為整個人工智能的技術迭代進步的歷史，其實就是對暴力美學的追求，以及算法、算力、數(shù)據(jù)三要素由量變產生質變的技術迭代過程。

但這種暴力美學并不意味著擁有更多的資源、算力、數(shù)據(jù)，就一定能讓智能得到飛躍；更準確的來講，它只是一個必要而非充分的條件。

對此，楊帆認為：

真正支撐暴力美學背后產生重大的技術創(chuàng)新和成果的，恰恰是在每一個環(huán)節(jié)的一些持續(xù)性的優(yōu)化和改進。

一言蔽之，大力出奇跡的背后，是通過人工智能三要素的持續(xù)規(guī)模上升帶來的技術價值的提升。

而且這三要素很多時候是聯(lián)合調優(yōu)的，算法的優(yōu)化、數(shù)據(jù)的整理和選取，以及算力的平臺性，這三者間往往是互相連通的，很難把它變成割裂的環(huán)節(jié)獨自去做。

這也同樣解釋了為什么要成立智能算力產業(yè)鏈的原因：

只有鏈上的更多企業(yè)，通過促進彼此的交流合作思考，更深度的進行合作，我們才能夠在新的關鍵性的重大技術浪潮中，做到更好的技術進步和支持。

而在如此新一輪技術的大浪潮之中，我們還需要有一個認知上的變化，那便是“新二八定律”。

在舊二八定律中，對于業(yè)務的開發(fā)邏輯，是20%由AI模型處理，80%的壓力給到了人類開發(fā)者這邊。

而在未來的大模型時代，80%的任務應當由AI大模型來完成，人類只需要負責20%的提示工程等。

所有行業(yè)從業(yè)者，不管是應用的開發(fā)者，還是技術的工程師，未來可能更大的精力是需要跟大模型對話。

最后，說到關鍵的持續(xù)發(fā)力，商湯多年來亦是如此。

無論是新出的日日新大模型，還是商湯AI大裝置SenseCore，都不是一蹴而就的事情。

例如早在五年前，商湯便已經(jīng)在大模型領域著手研發(fā)。

并且在2019年，商湯便使用上千張GPU進行單任務訓練，推出了10億參數(shù)規(guī)模的視覺模型，并實現(xiàn)了當時業(yè)界最好的算法效果。

后來在2021年到2022年期間，商湯訓練并開源了30億參數(shù)的多模態(tài)大模型——書生。

就目前來看，商湯已經(jīng)成功研發(fā)了320億參數(shù)量的全球最大的通用視覺模型；并且已經(jīng)打造了CV、NLP和AIGC相關大模型。

所以，它是通過一步一步的“小作業(yè)”，才有了如今的這份“大作業(yè)”。

再如算力方面，商湯在2022年1月便首付56億元，啟動運營亞洲最大的AI超算中心之一的人工智能計算中心（AIDC）。

時隔一年，現(xiàn)如今，這個算力數(shù)字已然是翻了個小翻，達到了5000PFLOPS！

它可以以最大3200卡規(guī)模集群進行單任務訓練，并可做到七天以上不間斷的穩(wěn)定訓練。

總而言之，商湯可以說是用“大模型+大算力”的方式，在自身做了多年的試驗，也取得了一定的成績。

因此，面對加速智能產業(yè)落地這樣的任務，這種模式可以說是正解之一。

至于未來會取得怎樣的效果，是值得期待了。