加速3.47倍！火山引擎助力AIGC突破性能瓶頸
為客戶帶來(lái)更多低成本、便捷的部署方案
AIGC（AI-Generated Content 人工智能生成內(nèi)容）一經(jīng)推出火爆全網(wǎng)，各種畫(huà)風(fēng)和產(chǎn)品形態(tài)頻頻出現(xiàn)且快速演進(jìn)。以Stable Diffusion模型為例，一次完整的預(yù)訓(xùn)練大約需要在128張A100計(jì)算卡上運(yùn)行25天，用戶付費(fèi)上百萬(wàn)，高額的研發(fā)費(fèi)用是用戶的痛點(diǎn)之一。同時(shí)，AIGC產(chǎn)品演進(jìn)快速，對(duì)性能和資源提出更高要求。
火山引擎云服務(wù)，為此類(lèi)問(wèn)題提供了解決方案，推動(dòng)AIGC產(chǎn)業(yè)的發(fā)展。火山引擎打造同時(shí)支持訓(xùn)練加速與推理加速的自主研發(fā)高性能算子庫(kù)，在全面提升AI計(jì)算性能的基礎(chǔ)上，不斷追求節(jié)省顯存、簡(jiǎn)單適配，同時(shí)支持多款GPU卡，為客戶帶來(lái)更多低成本、便捷的部署方案。
在推理場(chǎng)景下，基于Stable Diffusion模型的端到端推理速度達(dá)到66.14 it/s，是PyTorch推理速度的3.47倍，運(yùn)行時(shí)GPU顯存占用量降低60%。在客戶AI視頻創(chuàng)作的AIGC推理業(yè)務(wù)實(shí)踐中，火山引擎高性能算子庫(kù)搭載客戶的推理模型幫助其推理性能提升一倍，GPU資源使用量減少一半，可為客戶節(jié)省50%成本。
在訓(xùn)練場(chǎng)景下，使用該高性能算子庫(kù)可將上文Stable Diffusion模型在128張A100的訓(xùn)練時(shí)間從25天減少到15天，訓(xùn)練性能提升40%。同時(shí)，由于AIGC模型在訓(xùn)練時(shí)占用GPU顯存容量非常大，未經(jīng)優(yōu)化時(shí)的模型只能運(yùn)行在最高端的A100 80GB GPU卡上?；鹕揭娓咝阅芩阕訋?kù)通過(guò)大量消減中間操作，將運(yùn)行時(shí)GPU顯存占用量降低50%，使得大多數(shù)模型可從A100遷移到成本更低的V100或A30等GPU卡上運(yùn)行，擺脫特定計(jì)算卡的限制，而且不需要做額外的模型轉(zhuǎn)換工作。
以AIGC場(chǎng)景為代表，無(wú)論是迭代速度，還是單次的訓(xùn)練成本，火山引擎為客戶帶來(lái)了顯著的性能提升和成本節(jié)省。火山引擎相關(guān)負(fù)責(zé)人表示，將持續(xù)在機(jī)器學(xué)習(xí)、科學(xué)計(jì)算、圖形處理等領(lǐng)域深耕，不斷追求極致性能。
相關(guān)閱讀
KDD 2022：火山語(yǔ)音提出“無(wú)中生有式”對(duì)抗語(yǔ)音攻擊的創(chuàng)新方案
火山語(yǔ)音通過(guò)火山引擎開(kāi)放給外部企業(yè)
元戎X火山｜AI汽車(chē)加速進(jìn)化
雙方將深度協(xié)同，聯(lián)合車(chē)企共同打造AI汽車(chē)
火山引擎AI一體機(jī)DeepSeek版來(lái)了！開(kāi)箱即用，小時(shí)級(jí)部署，還有大模型應(yīng)用經(jīng)驗(yàn)加持
打通模型到應(yīng)用“最后一公里”
創(chuàng)意-913623570655871053.jpeg)
字節(jié)跳動(dòng)加碼企業(yè)服務(wù)，旗下火山引擎正式進(jìn)軍云市場(chǎng)
希望在未來(lái)3年聯(lián)合一千家生態(tài)伙伴
