懂AI PC的人要先擁抱新世界了 | 模力時(shí)代

魚羊 明敏 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

2024年第一個(gè)四分之一還沒過完，PC市場(chǎng)的最熱關(guān)鍵詞，已是非「AI」莫屬。

最新消息，繼聯(lián)想、榮耀之后，微軟的首款AI PC馬上也要來了。

據(jù)Windows Central爆料，微軟將于3月21日發(fā)布新款Surface Pro和Surface Laptop。

兩款新品圍繞人工智能打造：

硬件方面，Intel版本搭載號(hào)稱“AI CPU”的全新Intel Core Ultra，arm版本則用上了能把130億參數(shù)大模型塞進(jìn)PC的高通驍龍X Elite。

軟件方面，兩款新品均將首批支持Windows 11的“下一代”AI體驗(yàn)，包括一個(gè)內(nèi)部名為“AI Explorer”的全新AI功能。

消息人士稱，AI Explorer將會(huì)“使AI PC與非AI PC完全區(qū)分開來”，依靠自然語言交互，用戶就能在PC上完成一切。

（賈維斯內(nèi)味兒，這不就來了嗎doge）

這還不算完，各種老牌PC玩家也都坐不住了，紛紛放出自家首款A(yù)I PC的消息。

由大模型技術(shù)風(fēng)暴掀起的「模力時(shí)代」中，我們?nèi)粘Ｊ褂玫纳a(chǎn)工具正在加速變革。

這樣的趨勢(shì)，現(xiàn)在越發(fā)明朗。而終端產(chǎn)品的變革，也意味著，對(duì)于人們的日常工作生活而言，新一代的辦公、學(xué)習(xí)姿勢(shì)已經(jīng)在醞釀之中。

△ChatGPT4生成

那么，問題來了——

對(duì)于普通打工人而言，產(chǎn)品概念花里胡哨，但究竟怎樣的PC，才算是真正的AI PC？

PC可以怎樣AI？

終端側(cè)AI趨勢(shì)開始后，終端、芯片、應(yīng)用廠商正在用一個(gè)個(gè)面向生成式AI的芯片逐步補(bǔ)全關(guān)于AI PC的定義。

最先勾勒出想象的是微軟。

去年9月，Colpilot正式進(jìn)入Windows 11，成為電腦系統(tǒng)的AI助手。

這徹底掀開PC上自然語言交互的序幕，更改設(shè)置、整理桌面、打開軟件都能通過聊天的方式實(shí)現(xiàn)。

聯(lián)想緊隨其后，推出首款A(yù)I PC，展示了大模型運(yùn)行在本地后，給用戶帶來更加專屬化的體驗(yàn)。

基于用戶個(gè)性化信息創(chuàng)建本地知識(shí)庫，量身定制完成一系列新任務(wù)。

比如基于電腦上的家庭照片和視頻，創(chuàng)作一段“智能剪輯”。

再或者是成為更本地化的工作助手，幫助寫文檔、總結(jié)知識(shí)點(diǎn)、提升生產(chǎn)力。

與此同時(shí)，最關(guān)鍵的底層芯片也重大更新。

高通發(fā)布驍龍X Elite，就從底層角度給出了關(guān)于AI PC的一系列思考。

這塊4nm制程的CPU支持130億參數(shù)大模型的本地運(yùn)行，70億參數(shù)模型可每秒生成30個(gè)token。

AI引擎算力可達(dá)75TOPS，AI處理速度可達(dá)競(jìng)品的4.5倍。

CPU、GPU性能均是競(jìng)品的2倍，相同峰值性能功耗比競(jìng)品低68%。

除此之外，剛落幕不久的MWC 2024上，高通還展示了多模態(tài)大模型在PC本地運(yùn)行的示例。

它能理解音頻并進(jìn)行推理，可實(shí)現(xiàn)語音輸入的多輪對(duì)話。

這意味著，AI PC趨勢(shì)和多模態(tài)趨勢(shì)正在交匯融合，傳統(tǒng)PC的交互方式將發(fā)生更加徹底的變革。

透過廠商們的實(shí)際動(dòng)作，一些關(guān)于AI PC的初步共識(shí)已逐漸清晰。

即AI PC應(yīng)該成為一個(gè)用戶專屬的個(gè)人助理，它具備強(qiáng)大的AI能力和底層計(jì)算能力，將人類從日常生活中常規(guī)的、重復(fù)性的、看似瑣碎的工作中解放出來，轉(zhuǎn)而從事更加具有創(chuàng)造性、求變的工作。

但問題是，現(xiàn)在的傳統(tǒng)PC如何才能走到這一步？哪些地方已經(jīng)悄然發(fā)生改變？

技術(shù)趨勢(shì)給出了一定答案。

AI如何重塑PC？

面向生成式AI，PC要經(jīng)歷的是一場(chǎng)全新計(jì)算架構(gòu)的變革。從底層硬件到上層應(yīng)用，都正在發(fā)生變化。

因?yàn)樯墒紸I浮現(xiàn)出的典型場(chǎng)景，給計(jì)算連接等都提出新要求。

高通最新公布的《通過NPU和異構(gòu)計(jì)算開啟終端側(cè)生成式AI》白皮書中總結(jié)，生成式AI用例可分為三類：

• 按需型：由用戶出發(fā)，需要立即響應(yīng)。比如在PC上生成會(huì)議摘要、開車時(shí)用語音查詢最近的加油站。
• 持續(xù)型：運(yùn)行時(shí)間較長。比如用手機(jī)進(jìn)行實(shí)時(shí)對(duì)話翻譯，PC上玩游戲時(shí)逐幀運(yùn)行超級(jí)分辨率。
• 泛在型：在后天持續(xù)運(yùn)行。比如始終開啟的預(yù)測(cè)性AI助手。

這些情況都面臨兩大關(guān)鍵挑戰(zhàn)。

第一，考慮到終端的功耗和散熱問題，通用CPU和GPU難以滿足這些AI任務(wù)的計(jì)算需求。

第二，生成式AI應(yīng)用還在不斷豐富，不能在功能完全固定的硬件上進(jìn)行部署。

硬件方面，NPU和異構(gòu)計(jì)算成為應(yīng)對(duì)挑戰(zhàn)的關(guān)鍵。

在終端側(cè)AI趨勢(shì)興起后，原本更常出現(xiàn)在手機(jī)芯片上的NPU，也開始在電腦芯片上發(fā)揮更加重要的作用。

NPU（Neural Processing Unit）專門為加速神經(jīng)網(wǎng)絡(luò)和AI任務(wù)而生，可以快速處理AI推理任務(wù)。它不易于編程，但能實(shí)現(xiàn)更高的峰值性能、能效和面積效率，從而運(yùn)行機(jī)器學(xué)習(xí)所需的標(biāo)量、向量和張量數(shù)學(xué)運(yùn)算。

隨著AI趨勢(shì)演變，NPU的設(shè)計(jì)也發(fā)生了一系列變化。比如2015年時(shí)，NPU主要面向音頻和語音AI設(shè)計(jì)，用于簡(jiǎn)單CNN并主要需要標(biāo)量和向量數(shù)學(xué)運(yùn)算。

后面隨著AI在拍照和視頻中的使用增多，以及Transformer、RNN、LSTM和高維度CNN等模型相繼出現(xiàn)，NPU又增加了張量加速器和卷積加速，可以降低內(nèi)存帶寬占用和能耗。

發(fā)展到大模型時(shí)期，低時(shí)延、續(xù)航、內(nèi)存、等因素共同要求下，NPU往往比GPU表現(xiàn)出更好的能效和性能，也使得NPU成為生成式AI終端上不可或缺的部分。

舉例來看，驍龍X Elite上集成的Hexagon NPU算力達(dá)到45TOPS。

在不損失太多精度的情況下，F(xiàn)ast Stable Diffusion能夠在0.6秒內(nèi)生成一張512×512分辨率的圖像。

但隨著生成式AI終端逐漸發(fā)展，端側(cè)運(yùn)行的模型可能規(guī)模還將繼續(xù)擴(kuò)大，多模態(tài)趨勢(shì)已經(jīng)顯現(xiàn)，還有可能會(huì)搭載多個(gè)大模型。

僅靠NPU來支撐生成式AI任務(wù)，可能還不是最佳方案。

目前廠商們已經(jīng)開始通過異構(gòu)計(jì)算，讓不同處理器分別處理擅長的任務(wù)，也就是讓全部處理器都來支持生成式AI任務(wù)。這一直是高通堅(jiān)持且擅長的賽道。

GPU不僅用于處理圖像任務(wù)，也能用于以高精度格式進(jìn)行AI并行處理，支持FP32、FP16、INT8運(yùn)算。

CPU則能用于計(jì)算量低、要求低時(shí)延的AI任務(wù)上，如高通Oryon CPU性能達(dá)競(jìng)品的2倍，功耗還降低了三分之二。

處理器之間的相互配合，可以進(jìn)一步釋放AI引擎性能，超越單NPU效果。

與此同時(shí)，軟件層面也受到AI影響發(fā)生改變。

一方面，生成式AI終端需要軟硬結(jié)合才能更充分釋放性能；另一方面，開發(fā)者也需要適宜當(dāng)下的工具，能夠更快速將大模型加入到應(yīng)用中。

在MWC 2024上，高通宣布推出的AI Hub正是這樣一個(gè)平臺(tái)。

它是一個(gè)全面的模型優(yōu)化庫，為開發(fā)者提供超過75個(gè)主流模型，如Stable Diffusion、ControlNet、Baichuan-7B等。這些模型全部經(jīng)過優(yōu)化，可以充分利用高通AI引擎內(nèi)所有核心的硬件加速能力，實(shí)現(xiàn)4倍推理速度提升。開發(fā)者能快速將大模型無縫集成到應(yīng)用程序中，縮短產(chǎn)品面市時(shí)間。

同時(shí)這些優(yōu)化后的模型也同步上線到GitHub、Hugging Face。開發(fā)者可在搭載高通和驍龍平臺(tái)的云托管終端上自行運(yùn)行模型。

更早推出的高通AI Stack可全棧支持主流AI框架（如TensorFlow、PyTorch、ONNX和Keras）和runtime。集成高通神經(jīng)網(wǎng)絡(luò)SDK，面向Android、Linux和Windows不同版本。

此外還提供一系列量化、壓縮開發(fā)工具，能夠在盡量不降低模型精確度同時(shí)壓縮模型。一些生成式AI模型由此可以量化至INT4。

總之，從底層硬件到上層軟件，都在以生成式AI為中心進(jìn)行快速變革。

巨頭們腳步一致，紛紛加速All in AI，也讓生成式AI帶來的變革更加迷人。

AI變革究竟會(huì)如何影響每一個(gè)人的生活？

AI PC展現(xiàn)出的演進(jìn)過程，已經(jīng)給大家做了一些小劇透。

AI PC通往何處？

細(xì)數(shù)起來，AI PC從概念興起到初步產(chǎn)品落地，剛剛過去半年的時(shí)間。

高通產(chǎn)品管理高級(jí)副總裁兼AI負(fù)責(zé)人Ziad Asghar將其類比為“人們剛剛能夠?qū)崿F(xiàn)手機(jī)上網(wǎng)”的階段：數(shù)十億人都能夠通過手機(jī)連接到網(wǎng)絡(luò)，奠定了此后移動(dòng)互聯(lián)網(wǎng)應(yīng)用大爆發(fā)的格局。

我想如果我們能夠在終端側(cè)實(shí)現(xiàn)AI的發(fā)展，就可以把生成式AI的能力和優(yōu)勢(shì)充分發(fā)揮出來，打破所有的界限，利用生成式AI的能力讓我們?cè)谏?、工作、娛樂、醫(yī)療等各個(gè)方面都獲得更好的體驗(yàn)。

換言之，AI重構(gòu)PC，現(xiàn)在正是打地基的階段。

從上述各大廠商的動(dòng)作之中，可以梳理出幾個(gè)關(guān)鍵的環(huán)節(jié)：

• 云端大模型能力向終端側(cè)的遷移
• 為生成式AI打造的芯片+AI開發(fā)平臺(tái)
• 基于AI+5G技術(shù)的設(shè)備互聯(lián)

前兩者不再做過多贅述，設(shè)備互聯(lián)，則關(guān)系到生成式AI的發(fā)展從第一階段走向第二階段的實(shí)質(zhì)：

數(shù)據(jù)在哪里，AI推理就在哪里進(jìn)行。

短期來看，終端生成式AI基礎(chǔ)能力的構(gòu)建，能在手機(jī)、PC這樣的生產(chǎn)力終端上率先帶來應(yīng)用的爆發(fā)，提高生產(chǎn)效率、帶來新的創(chuàng)新機(jī)會(huì)——

對(duì)于普通用戶，人機(jī)交互方式徹底變革，自然語言操作一切，帶來的是更高的終端使用效率。

對(duì)于開發(fā)者而言，新一輪的AI原生應(yīng)用爆發(fā)機(jī)遇，已經(jīng)是現(xiàn)在進(jìn)行時(shí)。AI搜索應(yīng)用Perplexity，剛剛被曝估值將破10億美元，躋身獨(dú)角獸行列。

而對(duì)于終端廠商而言，從底層芯片到操作系統(tǒng)的變革，也將帶來重塑市場(chǎng)格局的機(jī)會(huì)。

從更長期來看，更重大的影響則是，AI PC、AI手機(jī)的背后，真正的私人AI助理將會(huì)出現(xiàn)：用戶能夠在本地打造專屬的Agent，而通過終端設(shè)備互聯(lián)，AI Agent將可以滲透到生活的方方面面。

工業(yè)革命的核心，是生產(chǎn)力的突破和生產(chǎn)方式的變革。AI掀起的技術(shù)風(fēng)暴，概莫能外。

而就像從紙質(zhì)辦公到網(wǎng)絡(luò)辦公，處在當(dāng)下的我們還無法窺見未來的全貌，但可以預(yù)見的是，以人為中心，AI將自然流轉(zhuǎn)于手機(jī)、PC、智能車、AR/VR，乃至全新的AI硬件之上，構(gòu)建起真正的萬物互聯(lián)。

身處這樣的時(shí)代，對(duì)于直面風(fēng)暴的技術(shù)廠商們而言，如何跟上趨勢(shì)，已有高通這樣的先行者給出參考。

而對(duì)于我們每一個(gè)普通而言，更重要的是，認(rèn)真思考如何擁抱新變革的時(shí)間點(diǎn)，已經(jīng)到來。

畢竟先擁抱新趨勢(shì)的人，先享受世界。