國(guó)內(nèi)大模型數(shù)據(jù)之困有解了！頭部標(biāo)注廠商打造，專為垂直行業(yè)落地

白交 2023-09-26 14:23:09 來(lái)源：量子位

白交 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

大模型落地垂直行業(yè)，數(shù)據(jù)已打響第一槍。

現(xiàn)在，專門面向垂直大模型的數(shù)據(jù)解決方案來(lái)了——

直接幫助通用大模型產(chǎn)業(yè)落地那種。

背后是將交付精度標(biāo)準(zhǔn)拉到99.99%，在業(yè)內(nèi)連續(xù)霸榜的云測(cè)數(shù)據(jù)。

高質(zhì)量數(shù)據(jù)，作為大模型時(shí)代下的關(guān)鍵“燃料”，直接決定著大模型效果的好壞。

不少業(yè)內(nèi)大佬包括張勇、李彥宏、周鴻祎等在內(nèi)都曾談到大模型產(chǎn)業(yè)落地中數(shù)據(jù)的價(jià)值和意義。

但從大模型訓(xùn)練流程、行業(yè)數(shù)據(jù)的稀缺性，又決定著數(shù)據(jù)生產(chǎn)處理并非易事。

既然如此，云測(cè)數(shù)據(jù)又是如何解決的呢？

劍指垂直大模型

首先，不同于傳統(tǒng)數(shù)據(jù)服務(wù)方案基于任務(wù)劃分的維度，整套垂直大模型數(shù)據(jù)解決方案按階段劃分，分為三個(gè)階段：

• 持續(xù)預(yù)訓(xùn)練
• 下游任務(wù)微調(diào)
• 灰度發(fā)布聯(lián)調(diào)

這種模塊化設(shè)計(jì)，一方面交付更為高效，大模型企業(yè)可根據(jù)自身需求選擇特定的服務(wù)內(nèi)容；另一方面這恰好也是云測(cè)數(shù)據(jù)所認(rèn)為從通用大模型到行業(yè)大模型所需要的“三段論”。

首先，持續(xù)預(yù)訓(xùn)練階段，需要往通用大模型中注入垂直行業(yè)知識(shí)。一方面，需要場(chǎng)景化數(shù)據(jù)的采集和處理能力；另一方面，還要保證數(shù)據(jù)質(zhì)量的穩(wěn)定性和持續(xù)性。

隨著大模型構(gòu)建之后還有后續(xù)的持續(xù)迭代，所以需要長(zhǎng)期、穩(wěn)定的高質(zhì)量行業(yè)數(shù)據(jù)輸送。

其次，下游任務(wù)微調(diào)階段，也就是根據(jù)企業(yè)需要去進(jìn)行任務(wù)端到端定制。

據(jù)介紹，云測(cè)數(shù)據(jù)的數(shù)據(jù)標(biāo)注平臺(tái)集成了既有像語(yǔ)音分類、語(yǔ)音撰寫、文生圖、視頻標(biāo)注等傳統(tǒng)標(biāo)注工具支持，也有像問(wèn)答對(duì)編寫、Prompt編寫、多輪對(duì)話等大模型特定標(biāo)注工具。這一階段需要人機(jī)協(xié)同來(lái)運(yùn)作。

完成微調(diào)之后，也就是最后的灰度發(fā)布聯(lián)調(diào)階段，邀請(qǐng)比如像保險(xiǎn)、金融、智駕等特定垂直領(lǐng)域人員和專家的評(píng)測(cè)評(píng)估；還有基于特定環(huán)境要求，搭建真實(shí)還原的使用場(chǎng)景。

遇到一些bad case就將數(shù)據(jù)通過(guò)平臺(tái)回流到最初清洗標(biāo)注，以及調(diào)優(yōu)階段，以此來(lái)形成數(shù)據(jù)閉環(huán)。

總結(jié)來(lái)看，整套方案主要體現(xiàn)了兩大特點(diǎn)：持續(xù)訂閱、專業(yè)定制。

前者是大模型持續(xù)迭代升級(jí)、滿足時(shí)效性的共性，企業(yè)需要數(shù)據(jù)持續(xù)高質(zhì)量地輸入；后者則是在保證高效高質(zhì)的前提下，大模型垂直場(chǎng)景落地所必備的特性。

為此，云測(cè)數(shù)據(jù)特別在下游任務(wù)微調(diào)、灰度發(fā)布聯(lián)調(diào)兩個(gè)階段，他們有著特定領(lǐng)域?qū)＜页?，里面都是了解?chǎng)景的深度用戶，去評(píng)估有效的交互內(nèi)容。

以電商中文案生成這一典型場(chǎng)景為例。

據(jù)云測(cè)數(shù)據(jù)總經(jīng)理賈宇航介紹，首先是持續(xù)預(yù)訓(xùn)練環(huán)節(jié)，云測(cè)數(shù)據(jù)基于已有的數(shù)據(jù)集積累，比如不同產(chǎn)品信息、 商家評(píng)分、用戶評(píng)論等各類型數(shù)據(jù)，進(jìn)行一個(gè)持續(xù)數(shù)據(jù)提供。

微調(diào)環(huán)節(jié)，則是進(jìn)一步結(jié)合企業(yè)實(shí)際使用需求去生成相關(guān)文案，包括像品類特點(diǎn)、內(nèi)容風(fēng)格、客戶畫像等維度的定制。

至于聯(lián)調(diào)評(píng)測(cè)階段，一方面是公司專業(yè)的功能測(cè)試專家去整合系統(tǒng)進(jìn)行評(píng)測(cè)；另一方面，是專業(yè)標(biāo)注人員去對(duì)生成內(nèi)容去進(jìn)行評(píng)價(jià)和評(píng)分。

除了電商之外，云測(cè)數(shù)據(jù)在保險(xiǎn)、智駕、智能家居領(lǐng)域都已經(jīng)有了相關(guān)大模型合作落地。

為什么是云測(cè)？為什么是垂直大模型？

現(xiàn)在，通用大模型浪潮已經(jīng)趨于冷靜，各領(lǐng)域企業(yè)都在思考如何應(yīng)用大模型來(lái)降本增效。

云測(cè)數(shù)據(jù)率先給出垂直大模型的數(shù)據(jù)解決方案，并明確表示“大模型應(yīng)走向行業(yè)”。

為什么會(huì)是云測(cè)數(shù)據(jù)？而這解決方案背后又是基于什么考量？

在與云測(cè)數(shù)據(jù)交談之中，談及最多的定位是數(shù)據(jù)生產(chǎn)者和處理商——

基于AI數(shù)據(jù)處理的經(jīng)驗(yàn)以及行業(yè)經(jīng)驗(yàn)，持續(xù)輸出相應(yīng)的方案和標(biāo)準(zhǔn)。巧合的是，每年服貿(mào)會(huì)都成為了云測(cè)數(shù)據(jù)階段性的成果展示平臺(tái)。

• 2020年云測(cè)數(shù)據(jù)代表行業(yè)首次對(duì)外宣布：項(xiàng)目最高交付精準(zhǔn)度達(dá)到99.99%；
• 2021年，云測(cè)數(shù)據(jù)先后發(fā)布云測(cè)數(shù)據(jù)標(biāo)注平臺(tái)、AI數(shù)據(jù)集管理系統(tǒng)等技術(shù)成果，率先形成AI訓(xùn)練數(shù)據(jù)的“采、標(biāo)、管、存”一站式服務(wù)，實(shí)現(xiàn)從“數(shù)據(jù)原料”到最后的“數(shù)據(jù)成品”全鏈條打通，輸出完整的數(shù)據(jù)價(jià)值。
• 又經(jīng)過(guò)一年的打磨和完善后，應(yīng)對(duì)AI工程化演進(jìn)趨勢(shì)，云測(cè)數(shù)據(jù)在2022年發(fā)布了面向AI工程化的新一代數(shù)據(jù)解決方案。方案不僅包括標(biāo)注數(shù)據(jù)、管理數(shù)據(jù)所需的平臺(tái)工具，還涉及管理體系以及數(shù)據(jù)安全。

其中數(shù)據(jù)處理工作臺(tái)支持持續(xù)任務(wù)處理、人機(jī)協(xié)作，同時(shí)以標(biāo)準(zhǔn)API接口與各類系統(tǒng)對(duì)接，將AI數(shù)據(jù)訓(xùn)練過(guò)程中的綜合效率提升200%。

今年大模型時(shí)代來(lái)臨，在云測(cè)數(shù)據(jù)看來(lái)，行業(yè)數(shù)據(jù)之所以稀缺，核心是因?yàn)楝F(xiàn)有數(shù)據(jù)不夠clean，需要做清洗處理。

有業(yè)內(nèi)機(jī)構(gòu)表示，大模型數(shù)據(jù)清洗率，即清洗出來(lái)正確的數(shù)據(jù)占原數(shù)據(jù)百分比，不到10%。

而解決方案以工具鏈集成的方式，能夠幫助企業(yè)根據(jù)自身需求，快速本地部署處理數(shù)據(jù)。這樣還能保證數(shù)據(jù)不出外網(wǎng)，保障數(shù)據(jù)資產(chǎn)的安全性。

事實(shí)上細(xì)心一點(diǎn)發(fā)現(xiàn)，這一輪輪方案看似是面向不同趨勢(shì)和場(chǎng)景，實(shí)際上都是基于已有方案基礎(chǔ)上的迭代。

賈宇航對(duì)此回應(yīng)，都是基于數(shù)據(jù)底座集成。

經(jīng)過(guò)數(shù)年AI數(shù)據(jù)處理經(jīng)驗(yàn)的累積，這也正是云測(cè)數(shù)據(jù)「以不變應(yīng)萬(wàn)變」的方式應(yīng)對(duì)AI技術(shù)趨勢(shì)。

至于選擇垂直大模型部署，這則是與行業(yè)經(jīng)驗(yàn)有關(guān)。

一來(lái)，多年來(lái)在汽車、安防、手機(jī)、家居、金融、教育、新零售、地產(chǎn)等行業(yè)多場(chǎng)景的優(yōu)勢(shì)，能滿足大模型高質(zhì)量、多樣性、時(shí)效性的數(shù)據(jù)需求。

二來(lái)，云測(cè)數(shù)據(jù)本身也能結(jié)合自身優(yōu)勢(shì)，將公司在軟件測(cè)試業(yè)務(wù)上10多年ToB服務(wù)經(jīng)驗(yàn)也遷移沉淀至云測(cè)數(shù)據(jù)的AI數(shù)據(jù)服務(wù)中，提質(zhì)增效的作用十分顯著。

于是乎，憑借在產(chǎn)品、服務(wù)、技術(shù)研發(fā)等方面的綜合實(shí)踐，云測(cè)數(shù)據(jù)已連續(xù)四年被評(píng)為行業(yè)第一，被認(rèn)定具備豐富的研發(fā)及產(chǎn)業(yè)化服務(wù)經(jīng)驗(yàn)。

數(shù)據(jù)之于大模型時(shí)代

大模型，正在加速讓人工智能朝著以數(shù)據(jù)為中心的方向轉(zhuǎn)變。數(shù)據(jù)的價(jià)值也在這一進(jìn)程中來(lái)到了前所未有的高度。

從大模型預(yù)訓(xùn)練、監(jiān)督微調(diào)、強(qiáng)化學(xué)習(xí)，再到迭代、應(yīng)用，數(shù)據(jù)可以說(shuō)是貫穿整個(gè)流程。如何清洗處理高質(zhì)量數(shù)據(jù)，利用數(shù)據(jù)去提高模型性能，在產(chǎn)學(xué)研界仍然在積極探索之中。

至少?gòu)母骷艺衅妇W(wǎng)站上看到，數(shù)據(jù)標(biāo)注人才成為剛需，市場(chǎng)十分火熱：基本平均本科以上，各領(lǐng)域?qū)I(yè)人才都有涉及。

甚至有公司在招物理學(xué)博士來(lái)做標(biāo)注了。

既然如此，身處于浪潮之中的數(shù)據(jù)服務(wù)公司，又在卷什么往什么方向卷呢？

一來(lái)，技術(shù)能力。數(shù)據(jù)作為AI算法的底層設(shè)施，降本增效成為數(shù)據(jù)行業(yè)中的首要目的和第一標(biāo)準(zhǔn)。

以往談到數(shù)據(jù)行業(yè)，無(wú)非是勞動(dòng)密集型，只需靠人力堆積，將各維度數(shù)據(jù)轉(zhuǎn)化為結(jié)構(gòu)化數(shù)據(jù)。

隨著之后模型規(guī)模增大，?數(shù)據(jù)量與模型性能成正相關(guān)成為普遍共識(shí)時(shí)，單靠人力無(wú)法提高效率，一體化的數(shù)據(jù)處理平臺(tái)、算法工具鏈開始發(fā)展起來(lái)。

尤其是以自動(dòng)駕駛為典型場(chǎng)景，它不僅涉及各種交通路況的復(fù)雜長(zhǎng)尾場(chǎng)景，還有在感知層面就涉及激光雷達(dá)、相機(jī)等多維數(shù)據(jù)的融合，這就需要自動(dòng)化工具、多模態(tài)、甚至多種算法來(lái)提高效率。

現(xiàn)在以ChatGPT為代表的大模型，對(duì)數(shù)據(jù)的需求不再只是參數(shù)規(guī)模，還在于更高維度的——高質(zhì)量、多領(lǐng)域和多模態(tài)；這也就需要AI數(shù)據(jù)服務(wù)公司更高效的技術(shù)實(shí)力來(lái)響應(yīng)。

二來(lái)，場(chǎng)景化數(shù)據(jù)。大模型的技術(shù)路徑已經(jīng)清晰，落地垂直領(lǐng)域也已經(jīng)成為必經(jīng)之勢(shì)。而在行業(yè)場(chǎng)景中多年深耕，掌握核心行業(yè)資源和用戶，就能快速享受到紅利。

而且現(xiàn)在越來(lái)越多開源通用大模型問(wèn)世，大模型的訓(xùn)練門檻也就逐漸降低，更多工程化、系統(tǒng)化難題在后續(xù)迭代和應(yīng)用的部署上。

垂直企業(yè)想要用上大模型，就需要專業(yè)AI數(shù)據(jù)服務(wù)商持續(xù)性地、緊密地合作，獲取行業(yè)知識(shí)數(shù)據(jù)。

如果說(shuō)，自動(dòng)駕駛讓數(shù)據(jù)標(biāo)注告別人力走向了工具/平臺(tái)標(biāo)注，那么大模型將數(shù)據(jù)標(biāo)注重新迎來(lái)了洗牌時(shí)刻——

真正從勞動(dòng)密集型變?yōu)橹R(shí)密集型、技術(shù)密集型。

只有掌握行業(yè)Know-how，持續(xù)技術(shù)創(chuàng)新的AI數(shù)據(jù)公司能站到最后，你覺(jué)得呢？