消費(fèi)級顯卡輕松跑AI，英偉達(dá)RTX領(lǐng)跑AI PC競爭

克雷西 2024-04-30 20:02:53 來源：量子位

克雷西 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

AI PC的競爭，越來越火熱了！

就連數(shù)據(jù)中心收入占比達(dá)到四分之三的英偉達(dá)，也用消費(fèi)級的AI PC顯卡領(lǐng)跑這場戰(zhàn)斗。

換言之，老黃在做工業(yè)級“核彈”的同時，在RTX這樣的消費(fèi)級產(chǎn)品中，也要全力發(fā)展AI運(yùn)算。

而且規(guī)模還不小，據(jù)介紹，RTX AI PC目前已成為擁有超過1億用戶和500款A(yù)I應(yīng)用和游戲的生態(tài)。

在RTX AI PC的一場技術(shù)品鑒會中，量子位也體驗(yàn)到了英偉達(dá)AI算力在消費(fèi)級顯卡上的應(yīng)用。

更高效地利用算力，需要軟硬件配合

古語有云，“工欲善其事，必先利其器”，對于AI創(chuàng)作者而言，選擇高性能的運(yùn)算設(shè)備是無比重要的。

當(dāng)然了，也并不是說就要直接上專業(yè)卡，對于單純的創(chuàng)作來說，消費(fèi)級的顯卡已經(jīng)足夠。

吐司是一家大型在線生圖的AI模型社區(qū)，提供了包括超16w+的模型在內(nèi)的AI模型資源。

最近，吐司使用第三方測試軟件UL Procyon AI基準(zhǔn)，完整測試了英偉達(dá)RTX 40系列多款型號的顯卡和筆記本電腦的生圖能力。

相比于集成顯卡，在同時開啟兩個廠商加速框架的情況下，筆記本版的4090在運(yùn)行SD 1.5的UL Benchmark時，性能超出了27倍。

但做AI運(yùn)算，單靠硬件性能是不夠的，軟件程序需要針對硬件特征做專門的優(yōu)化，才能更高效地利用硬件資源，用相同的配置實(shí)現(xiàn)更高的推理速度。

比如英偉達(dá)的Tensor RT（簡稱TRT）加速框架，就起到了讓模型更好適配顯卡中的Tensor Core，從而實(shí)現(xiàn)更高運(yùn)算性能的作用。

同樣在吐司的測試當(dāng)中，對于RTX 40系列的各種顯卡，開啟TRT前后，無論是運(yùn)行SD1.5還是SDXL，每分鐘生成圖片的數(shù)量均有顯著提升，其中4090D的SD 1.5生成速度達(dá)到了每秒54.55張圖。

而如果改用StreamDiffusion，同時忽略硬盤讀寫帶來的降速，在4090D上開啟TRT，最快可達(dá)到每秒128張圖。

在實(shí)際環(huán)境中，這個速度會被硬盤拖慢，最終的速度大約是每秒八張，但TRT依然是當(dāng)下最快的Stable Diffusion加速方式。

不過需要說明的是，對于內(nèi)容生成而言，單純速度快并不等于直接的生產(chǎn)力提升。

那么，這樣的速度優(yōu)勢又該如何利用起來呢？

速度不能直接變成生產(chǎn)力，還要與工作特點(diǎn)結(jié)合

要想把生成速度變?yōu)樯a(chǎn)力，關(guān)鍵不僅在于技術(shù)，更在于與行業(yè)工作特點(diǎn)的充分結(jié)合。

比如在建筑行業(yè)，即致AI就基于擴(kuò)散模型和蒸餾技術(shù)，通過RTX 4090 D GPU的加速，實(shí)現(xiàn)了秒級的AI實(shí)時繪畫，實(shí)時將手繪草稿繪制成建筑效果圖。

艾哎集瑟科技聯(lián)合創(chuàng)始人、前沿建筑設(shè)計師言蕭表示：

作為一名經(jīng)常使用AI工具的建筑師，我對RTX平臺的加速優(yōu)勢深有體會。

它極大提高了AI圖形生成軟件，特別是Stable Diffusion等工具的性能，在建筑設(shè)計的方案概念階段尤為重要。

這種技術(shù)進(jìn)步不僅提升了設(shè)計效率，也為建筑師提供更廣闊的創(chuàng)作空間。

數(shù)字藝術(shù)家、策展人土豆人tudou_man是許多知名品牌的合作藝術(shù)家。他以將新銳的藝術(shù)方式，與AIGC技術(shù)極其自然的交融在一起，創(chuàng)作出了許多經(jīng)典作品。

比如他用AI創(chuàng)造的麥當(dāng)勞“傳家寶”系列作品就曾在網(wǎng)絡(luò)上刷屏，還獲得了官方的轉(zhuǎn)發(fā)。

他本人表示，RTX 40系列AI PC平臺帶來的運(yùn)算加持，讓人震驚之余，RTX平臺為數(shù)字藝術(shù)家提供高效的AI算力加速。

AbleSlide聯(lián)合創(chuàng)始人Blender藝術(shù)家AI創(chuàng)作者、Blender 藝術(shù)家、AI創(chuàng)作者Simon阿文，參與了今年春晚中AI視頻的創(chuàng)作。

他還用AI創(chuàng)作了《花中維納斯》系列作品，展現(xiàn)了一場視覺交響曲，通過AI的力量，靜態(tài)圖像被轉(zhuǎn)化為一種動態(tài)體驗(yàn)，用自然的鏡頭見證了維納斯的重生。

阿文表示，AI在消費(fèi)級硬件上的普及，讓社區(qū)參與者有機(jī)會參與到讓AI塑造生活的過程。

“AI 如何塑造我們的工作與生活”，在過去聽起來是少數(shù)大公司才有資格討論的問題。

但在如今，這個問題的答案由AI社區(qū)和創(chuàng)作者塑造。

包括央視春晚AI動畫等作品在內(nèi)，從文字、圖像到影像，我的許多探索是基于本地RTX 4090完成的。
AIGC的可能性是一片藍(lán)海，AI PC是我的帆船。