亞馬遜云科技王曉野：八成CEO認(rèn)為生成式AI在18個(gè)月內(nèi)顛覆所有行業(yè)丨中國(guó)AIGC產(chǎn)業(yè)峰會(huì)

夢(mèng)晨 2024-04-22 15:57:41 來(lái)源：量子位

編輯部 整理自 AIGC峰會(huì)
量子位 | 公眾號(hào) QbitAI

在AIGC時(shí)代，云計(jì)算是不可或缺的算力參與者。如何為企業(yè)大模型應(yīng)用護(hù)航，幫助他們以更強(qiáng)的性能、更低的成本完成部署，是每個(gè)底層能力廠商都在思索的難題。

本次中國(guó)AIGC產(chǎn)業(yè)峰會(huì)上，亞馬遜云科技大中華區(qū)產(chǎn)品部技術(shù)總監(jiān)王曉野分享了企業(yè)如何抓住時(shí)代的機(jī)遇，以及應(yīng)對(duì)生成式AI的關(guān)鍵步驟。

為了完整體現(xiàn)王曉野的思考，在不改變?cè)獾幕A(chǔ)上，量子位對(duì)演講內(nèi)容進(jìn)行了編輯整理，希望能給你帶來(lái)更多啟發(fā)。

中國(guó)AIGC產(chǎn)業(yè)峰會(huì)是由量子位主辦的行業(yè)峰會(huì)，20位產(chǎn)業(yè)代表與會(huì)討論。線下參會(huì)觀眾近千人，線上直播觀眾300萬(wàn)，獲得了主流媒體的廣泛關(guān)注與報(bào)道。

話題要點(diǎn)

• 80%的企業(yè)CEO認(rèn)為生成式AI將在18個(gè)月內(nèi)顛覆所有行業(yè)
• 企業(yè)應(yīng)對(duì)生成式AI需要遵循幾大關(guān)鍵步驟，數(shù)據(jù)是核心競(jìng)爭(zhēng)力
• 亞馬遜云科技通過(guò)加速層、中間層、應(yīng)用層三層能力幫助企業(yè)抓住生成式AI的機(jī)遇。
• 生成式AI最適用于客戶服務(wù)、決策洞見、營(yíng)銷內(nèi)容生成、運(yùn)營(yíng)自動(dòng)化等8大場(chǎng)景

以下為王曉野演講全文：

生成式 AI 時(shí)代的機(jī)遇

大家好，我的分享題目是《共贏生成式AI時(shí)代》，這里用的是“贏”，并不是迎接的“迎”，想傳達(dá)的是：

我們今天離生成式AI這個(gè)時(shí)代已經(jīng)開始了，并不是未來(lái)將發(fā)生的事情。

根據(jù)麥肯錫的調(diào)研結(jié)果，全球生成式AI將帶來(lái)2.6-4.4萬(wàn)億美元的市場(chǎng)商機(jī)。對(duì)超過(guò)五千人的企業(yè)進(jìn)行調(diào)查，結(jié)果顯示，80%的被調(diào)研CEO認(rèn)為生成式AI將在18個(gè)月之內(nèi)顛覆所有產(chǎn)業(yè)，同時(shí)也有 30%的企業(yè)已經(jīng)在今天部署生成式AI相關(guān)的投資。

所以說(shuō)在各個(gè)行業(yè)，生成式AI是幾乎所有人都認(rèn)為會(huì)發(fā)生的，或者說(shuō)正在發(fā)生的一件大事。

亞馬遜云科技從電商起家，到云計(jì)算、云助手，一直在以技術(shù)和AI顛覆原有產(chǎn)業(yè)并不斷創(chuàng)新。

隨著生成式AI應(yīng)用的發(fā)展，這里有八個(gè)場(chǎng)景介紹亞馬遜云科技如何應(yīng)用生成AI。

首先，Alexa語(yǔ)音助手背后的模型正在全面更新，將采用生成式AI新模式。

其次，在亞馬遜云科技整個(gè)產(chǎn)品列表中，我們通過(guò)生成式AI為產(chǎn)品列表添加更有用的信息。

第三，在廣告領(lǐng)域，亞馬遜云科技為電商賣家提供了眾多產(chǎn)品上架和展示工具，其中包括生成式AI一鍵式生成產(chǎn)品和營(yíng)銷素材的功能。

第四，亞馬遜云科技在無(wú)人商鋪中使用掌紋識(shí)別技術(shù)來(lái)識(shí)別顧客身份，該技術(shù)需要大量數(shù)據(jù)進(jìn)行模型訓(xùn)練，而亞馬遜通過(guò)生成數(shù)據(jù)集的方式來(lái)幫助提高掌紋識(shí)別的準(zhǔn)確性。

第五，針對(duì)電商評(píng)論，我們的電商平臺(tái)上有非常多的評(píng)論。如何通過(guò)這些評(píng)論快速了解一款產(chǎn)品是否符合自己的購(gòu)買期望呢？我們可以通過(guò)生成式 AI 快速進(jìn)行內(nèi)容總結(jié)。

第六，亞馬遜云科技也有視頻平臺(tái)，針對(duì)一些比賽我們通過(guò)生成式AI進(jìn)行整個(gè)比賽的解說(shuō)，增強(qiáng)用戶體驗(yàn)。

第七無(wú)人商店人流預(yù)測(cè)上面，我們進(jìn)行快速驗(yàn)證，包括亞馬遜云科技在藥店場(chǎng)景下幫助店員使用生成式AI快速的解釋某一款藥針對(duì)某一種類型是否更加適合。

最后一個(gè)也是最近的用例，我們?cè)陔娚唐脚_(tái)上推出了導(dǎo)購(gòu)助手Shopping Assistant。當(dāng)你明確想買iPhone17 Pro時(shí)，可能會(huì)直接使用檢索功能；而當(dāng)你的購(gòu)買目的不那么明確，或者只是想簡(jiǎn)單地進(jìn)行戶外郊游時(shí)，你可能希望 AI 助手能夠推薦適合的產(chǎn)品，比如除了帳篷和燒烤爐，還需要什么東西。

AI 助手正在幫助電商顛覆傳統(tǒng)的購(gòu)物體驗(yàn)。

想通過(guò)這些給大家展示的是不僅僅是調(diào)研，亞馬遜云科技作為全球領(lǐng)先的科技公司已經(jīng)在全面的擁抱生成式AI，每個(gè)地方都在進(jìn)行嘗試。

亞馬遜云科技一直致力于通過(guò)科技為企業(yè)賦能，我們?cè)谏墒紸I領(lǐng)域的定位是為云計(jì)算賦能產(chǎn)業(yè)提供未來(lái)的巨大機(jī)會(huì)。

通過(guò)三層能力，我們?yōu)榭蛻籼峁┳プ∩墒紸I浪潮的核心能力：

最下層是加速層，專注于模型訓(xùn)練到推理的加速，提供更好的框架，幫助模型優(yōu)化的人員實(shí)現(xiàn)加速。

中間層是應(yīng)用構(gòu)建層，我們不直接投入模型或AI本身的能力，而是提供核心產(chǎn)品 Amazon Bedrock，讓客戶可以直接利用AI的能力構(gòu)建自己的專屬應(yīng)用。除了模型能力外，還提供Agent和知識(shí)庫(kù)等功能。

最上面一層是應(yīng)用層，我們知道有些企業(yè)希望直接使用開箱即用的應(yīng)用，因此我們會(huì)挑選亞馬遜云科技最擅長(zhǎng)的應(yīng)用場(chǎng)景，包括Amazon Q和企業(yè)知識(shí)庫(kù)，提供智能助力。此外，我們還提供Amazon Quicksight，這是一款生成式BI產(chǎn)品；以及Amazon Connect，它可以幫助訓(xùn)練客服人員快速總結(jié)客戶電話溝通的需求；還有Amazon CodeWhisperer，它通過(guò)智能生成代碼助力的形式，提供開箱即用的應(yīng)用。

亞馬遜云科技希望通過(guò)這三層架構(gòu)，為客戶提供抓住生成式AI浪潮的核心能力。

企業(yè)應(yīng)對(duì)生成式 AI 的關(guān)鍵步驟

亞馬遜云科技在與客戶溝通的過(guò)程中，幫助企業(yè)總結(jié)了抓住生成式AI關(guān)鍵的幾個(gè)步驟：

選對(duì)場(chǎng)景：選擇適合的應(yīng)用場(chǎng)景，以充分發(fā)揮生成式AI的優(yōu)勢(shì)。

選對(duì)工具或提供工具的合作伙伴：選擇合適的工具或與提供工具的合作伙伴合作，以支持生成式AI的應(yīng)用。

數(shù)據(jù)的重要性：在生成式AI時(shí)代，如果所有人能夠掌握的模型能力相同，那么數(shù)據(jù)將成為每個(gè)企業(yè)最核心的競(jìng)爭(zhēng)力和差異化所在。因此，企業(yè)對(duì)數(shù)據(jù)的重視程度應(yīng)該與以往有所不同。

人才培養(yǎng)和監(jiān)管治理：在落地過(guò)程中，培養(yǎng)相關(guān)人才以及對(duì)生成式AI進(jìn)行監(jiān)管和治理至關(guān)重要。

對(duì)于第一點(diǎn)，如何找到合適的應(yīng)用場(chǎng)景？我們根據(jù)客戶經(jīng)驗(yàn)，總結(jié)出當(dāng)前生成式AI非常適合的六大場(chǎng)景。

首先，是和服務(wù)客戶有關(guān)的場(chǎng)景。在中國(guó)企業(yè)大量出海的背景下，許多業(yè)務(wù)都是全球化的，因此在多國(guó)文化和語(yǔ)言之間建立橋梁，生成式AI可以發(fā)揮非常重要的作用。

其次，是商業(yè)決策和洞察場(chǎng)景。

再次，是智能服務(wù)和營(yíng)銷素材的生成場(chǎng)景。

第四，是整體運(yùn)營(yíng)效率方面，在辦公工具和軟件自動(dòng)化方面，大模型生成式 AI 為我們提供了前所未有的能力。

最后兩個(gè)專業(yè)知識(shí)的支持，以及剛才提到的產(chǎn)品側(cè)，顛覆我們產(chǎn)品前所未有的體驗(yàn)，這都是正在發(fā)生的生成式AI比較適合應(yīng)用的六大領(lǐng)域。

許多人都有這樣的疑問(wèn)：我應(yīng)該在什么時(shí)候進(jìn)行微調(diào)，什么時(shí)候使用RAG，以及什么時(shí)候進(jìn)行持續(xù)預(yù)訓(xùn)練？

今天的大模型存在幾個(gè)無(wú)法回避的問(wèn)題：首先，實(shí)時(shí)性支持在模型中無(wú)法實(shí)現(xiàn)；其次，用戶隱私數(shù)據(jù)也不可能在模型中循環(huán)使用；最后，模型仍然會(huì)產(chǎn)生幻覺，很多回答正確的情況只是一種恰到好處的巧合。

如何真正完全避免幻覺，只有一個(gè)方式，就是用你絕對(duì)確定的答案去引導(dǎo)它，這些都是在中間做RAG應(yīng)該做的事情。

什么時(shí)候進(jìn)行微調(diào)呢？如果對(duì)角色的理解存在特殊的引導(dǎo)性，或者對(duì)格式的理解有特定需求，那么就可以進(jìn)行微調(diào)。我們希望模型具備這樣的能力。

關(guān)于持續(xù)預(yù)訓(xùn)練，對(duì)于產(chǎn)業(yè)術(shù)語(yǔ)和行業(yè)術(shù)語(yǔ)，我們建議在最原始的預(yù)訓(xùn)練階段，將整個(gè)數(shù)據(jù)集中加入相應(yīng)的資料。

我們認(rèn)為，企業(yè)最重要的是構(gòu)建自己的數(shù)據(jù)飛輪，實(shí)現(xiàn)從應(yīng)用模型到數(shù)據(jù)的真正打通。應(yīng)用產(chǎn)生的數(shù)據(jù)越來(lái)越多，有助于企業(yè)更好地定制自己的模型，從而充分發(fā)揮模型的作用。

亞馬遜云科技提供端到端全棧的數(shù)據(jù)能力，希望客戶關(guān)注我們用數(shù)據(jù)做什么，而不是我們用什么做數(shù)據(jù)這件事情。

生成式 AI 去年和今年有何不同？

首先回顧去年，大家對(duì)AIGC的概念還停留在文生圖和文生視頻，而如今提到的多模態(tài)輸入、文本理解或者全模態(tài)、多模態(tài)輸入輸出等概念尚未普及。

在去年，最常見的應(yīng)用場(chǎng)景包括：創(chuàng)意類內(nèi)容生成，如文生圖，以及企業(yè)內(nèi)部的內(nèi)容設(shè)計(jì)，如游戲公司的素材設(shè)計(jì)；ToB的營(yíng)銷生成，如為品牌商提供營(yíng)銷素材；將生成式AI能力嵌入設(shè)計(jì)類軟件，如Adobe將其嵌入工具中。

而中間這一類APP則僅局限于一些較小且有趣的場(chǎng)景，如妙鴨相機(jī)提供一些個(gè)性化的照片和頭像等。至于聊天機(jī)器人，雖然在各個(gè)領(lǐng)域都有應(yīng)用，但主要局限于企業(yè)內(nèi)部知識(shí)庫(kù)、售后客服、游戲NPC等相對(duì)簡(jiǎn)單的場(chǎng)景。

我們總結(jié)主要原因在于模型能力和成本這兩個(gè)核心因素，只有真正了解產(chǎn)品目標(biāo)客群以及大模型相應(yīng)能力的產(chǎn)品經(jīng)理，才能找到所謂的產(chǎn)品市場(chǎng)契合點(diǎn)（PMF），并在有限的場(chǎng)景中加以應(yīng)用。

在這一階段，我們也有一些優(yōu)秀的案例。例如，易點(diǎn)天下是我們服務(wù)的一家廣告行業(yè)的公司，他們抓住了這一波機(jī)遇，推出了KreadoAI營(yíng)銷素材生成平臺(tái)。該平臺(tái)在營(yíng)銷素材電商領(lǐng)域?qū)崿F(xiàn)了50%的增效。

這一波如果重新定義的話，我想借著Amazon Bedrock中間平臺(tái)層這款產(chǎn)品的更新跟大家做一個(gè)解讀，為什么現(xiàn)在跟剛才我提的文生圖、文生文那一波又不一樣。

最核心首先介紹一下Amazon Bedrock作為工具，我們會(huì)提供不同的模型能力，同時(shí)以API的方式用云最安全的方式，隱私保護(hù)的機(jī)制來(lái)去保障用戶使用到最好的一些大模型。不會(huì)有一個(gè)模型統(tǒng)治全天下，我們會(huì)在相對(duì)比較好的一些模型里，為大家提供模型的API的調(diào)用，事實(shí)也證明，我們現(xiàn)在看到模型能力是此消彼漲，大家互相競(jìng)爭(zhēng)的狀態(tài)，與Anthropic的 Claude也是在近期吸引到了大家的眼球。

亞馬遜云科技跟Anthropic是戰(zhàn)略投資關(guān)系，Anthropic在加速層會(huì)嘗試使用亞馬遜云科技的芯片，以及類似模型微調(diào)的功能也會(huì)優(yōu)先在亞馬遜云科技平臺(tái)上提供。

首先是成本。今天調(diào)用一個(gè)大模型的成本，通過(guò)模型提供商以及云廠商的優(yōu)化，能做到什么程度？

Haiku是Claude 3系列最小的模型，速度非?？?，在價(jià)格上也有一個(gè)質(zhì)的飛躍，低到已經(jīng)可以挑戰(zhàn)傳統(tǒng)機(jī)翻如Google translate的成本。

在這一基礎(chǔ)上，語(yǔ)言翻譯的場(chǎng)景將得到拓展。過(guò)去，大模型客戶主要嘗試批量翻譯，而現(xiàn)在，許多人開始嘗試實(shí)時(shí)翻譯。這是因?yàn)樾碌姆椒ㄒ呀?jīng)達(dá)到了SOTA，并且比原有的方法更經(jīng)濟(jì)實(shí)惠。

此外，Claude模型的特點(diǎn)在于其出色的語(yǔ)義理解能力和對(duì)自身角色個(gè)性的識(shí)別能力。在今天的角色扮演場(chǎng)景中，它被置于首位。情感陪伴機(jī)器人、AI男女友等提供情緒價(jià)值的APP大量涌現(xiàn)。首先，這些APP的擬人化交互效果出色。更重要的是，收費(fèi)方面，許多公司已找到平衡點(diǎn)，可通過(guò)用戶付費(fèi)實(shí)現(xiàn)盈利。

多模態(tài)已經(jīng)是未來(lái)的一個(gè)趨勢(shì)，Claude 3系列三個(gè)模型都是朝著多模態(tài)輸入的方向發(fā)展。同時(shí)對(duì)語(yǔ)義的理解和對(duì)圖和文字背后的意義的理解方面都有很好的基礎(chǔ)。

多模態(tài)解鎖了哪些不同的能力呢？例如，通過(guò)物體檢測(cè)來(lái)判斷是否有老人跌倒或嬰兒從嬰兒床里掉出來(lái)。同時(shí)，這種多模態(tài)能力也為新興的短劇提供了支持。在短劇里，如何在適當(dāng)?shù)那楣?jié)和最關(guān)鍵的地方進(jìn)行識(shí)別，然后插入廣告，直接實(shí)現(xiàn)盈利回報(bào)。

基于這個(gè)新的模型能力，游戲公司沐瞳科技正在使用新興的SOTA多模態(tài)大模型替代傳統(tǒng)的作戰(zhàn)類游戲內(nèi)容審核。這是因?yàn)樵谟螒蜻^(guò)程中可能會(huì)出現(xiàn)一些臟話、辱罵和不正當(dāng)言論。

這種變化悄然發(fā)生，表面上看起來(lái)沒(méi)有變化，但背后的實(shí)現(xiàn)方式已經(jīng)發(fā)生了改變。

最后，我們來(lái)談?wù)勅瞬乓约叭绾卧趯?shí)踐中用好AI并進(jìn)行負(fù)責(zé)任的監(jiān)管與治理。這一點(diǎn)非常重要。如果企業(yè)在推出產(chǎn)品時(shí)稍有疏忽，可能會(huì)對(duì)其聲譽(yù)造成影響，甚至可能損害之前與客戶建立的信任關(guān)系。在人才和相關(guān)方面，亞馬遜云科技投入了大量資源，致力于幫助客戶共同打造和諧的環(huán)境，推動(dòng)負(fù)責(zé)任的AI應(yīng)用。

每年，亞馬遜云科技的創(chuàng)始人或CEO都會(huì)寫一封致股東的信，信中會(huì)解釋公司在過(guò)去一年中取得的成績(jī)以及未來(lái)的投資方向。在今年的信中，“Primitives”這個(gè)詞被使用了41次。

如果用一個(gè)比喻來(lái)解釋這個(gè)詞，它可以被直譯為原子原件原力量。以機(jī)械設(shè)備為例，杠桿和滑輪就是原子的力量。在電商領(lǐng)域，支付能力和物流能力就是原子力量，它們幫助第三方買家接入亞馬遜平臺(tái)。

同樣，對(duì)于云計(jì)算，從誕生的第一天起，它就是為企業(yè)提供原子能力，幫助他們構(gòu)建大型分布式系統(tǒng)，實(shí)現(xiàn)更好的數(shù)據(jù)治理。在生成式AI的時(shí)代，我們正在構(gòu)建或持續(xù)投入的下一個(gè)領(lǐng)域就是關(guān)于生成式AI的三層原子能力。我們希望與客戶一起，共同贏得生成式AI的時(shí)代。

One More Thing

今天我們宣布，Meta Llama3基礎(chǔ)模型可以通過(guò)Amazon SageMaker JumpStart進(jìn)行部署和推理運(yùn)行。

Llama3是預(yù)訓(xùn)練和精調(diào)的生成式文本模型，目前有8B和70B兩種參數(shù)尺寸，上下文長(zhǎng)度為8K，適用于推理、代碼生成和指令執(zhí)行等多種使用場(chǎng)景。

它采用了僅解碼器的Transformer架構(gòu)和新的tokenizer，提供了128K大小的改進(jìn)模型性能。此外，Meta改進(jìn)了后訓(xùn)練程序，大幅降低了錯(cuò)誤拒絕率，提高了對(duì)齊性，增加了模型響應(yīng)的多樣性。

通過(guò)Amazon SageMaker的功能（如Amazon SageMaker Pipelines、SageMaker Debugger或容器日志），您可以獲得Llama3性能和MLOps控制的組合優(yōu)勢(shì)。該模型將在您的VPC控制下的亞馬遜云科技安全環(huán)境中部署，有助于提供數(shù)據(jù)安全性。