1分鐘內完成報銷核對，微軟AI Day現(xiàn)場展示Copilot生產力革命

明敏 2024-06-16 15:50:47 來源：量子位

西風 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

微軟Build大會前腳剛放出一籮筐生產力革命最新進展：自定義Copilot、Team Copilot、Copilot擴展……

這兩天在微軟AI Day上，Copilot到底是如何提升生產力的，直接被搬到了臺面上現(xiàn)場演示。

假設你的身份是一名公司財務，老板讓你1分鐘內完成報銷核對，現(xiàn)在你有一個Excel，其中有公司報銷單、銀行賬單這兩個sheet，要如何在一分鐘內迅速核對完？

別著急，打開具有Copilot for Finance的Excel賬號，就會發(fā)現(xiàn)在菜單欄右側多出了一個Copilot for Finance的圖標：

微軟亞洲區(qū)Microsoft Azure策略運營總經理康容表示：

以生成式智能為代表的新一代AI技術創(chuàng)新正在加速演進，在今天的Scaling Laws下，AI技術的能力大約每六個月內就會翻倍增長。

與此同時，如何讓技術成果對齊行業(yè)、企業(yè)的實際業(yè)務需求，加速技術能力的落地轉化，助力更多客戶加速智能化轉型與創(chuàng)新，成為當前微軟最關注的業(yè)務領域。

PS：

最新消息，微軟還將與Cognition攜手，把AI程序員Devin帶給客戶，來完成代碼遷移和現(xiàn)代化項目等復雜任務。作為雙方協(xié)議的一部分，Devin將由微軟智能云Azure提供支持。

AI時代，報表可以幫老板寫報表

微軟在北京舉辦的以“共創(chuàng)AI創(chuàng)新，智啟無限可能”為主題的Microsoft AI Day活動中，集中展示了在生成式智能技術加速發(fā)展普及的過程中，微軟取得的最新技術突破與進展。

并同步更新了在Microsoft Build 2024全球開發(fā)者大會上發(fā)布的一系列Azure AI新服務與新功能、加速壯大的Microsoft Copilot智能副駕駛(? )技術棧，以及用以幫助企業(yè)開發(fā)者打造專屬Copilot智能副駕駛(?)的Microsoft Copilot Studio等一系列開發(fā)工具與平臺服務等。

微軟亞洲區(qū)Microsoft Azure策略運營總經理康容介紹，Azure AI方面，GPT-4o現(xiàn)已加入Azure AI Studio。

同時Azure AI Studio還提供Coherence、Databricks、Deci、Meta、Mistral AI、Snowflake等大模型服務支持。

微軟開發(fā)的Phi-3系列“小”模型最新推出的全新多模態(tài)模型Phi-3-vision，也可使用。開發(fā)者還能在Azure AI Studio中構建和定制模型。

除此之外，陶然還展開分享了微軟的Copilot愿景。

首先，Copilot是個人的智能副駕駛(?)，微軟用Copilot打通了自家辦公產品線，讓個人實現(xiàn)生產力的提升。

在此基礎之上，微軟的最終目的是讓Copilot深入企業(yè)業(yè)務場景，實現(xiàn)部門級別的Copilot產品落地和業(yè)務能力的提升。

除了開頭所展示的Demo，現(xiàn)場還展示了Copilot的更多功能，例如用Copilot做報表：

在AI時代，報表也可以幫老板寫報表了。

在眾多服務基礎之上，微軟也透露了目前與企業(yè)的合作情況。

例如，攜程采用Azure OpenAI服務為旗下Trip.com海外網站提供面向海外39個國家的多語言服務，為海外旅行者打造自動化客服機器人和郵件咨詢系統(tǒng)，還進一步借助Azure OpenAI服務開發(fā)了高質量的智能旅行對話機器人TripGenie。

TripGenie能夠自動搜索、整合Trip.com海外平臺上的實時旅行線路、航班、酒店等信息，根據(jù)境外客戶提出的旅行需求和預算，自動設計出最佳行程計劃。

在微軟支持下，TripGenie的構建周期僅用時兩個月，目前可提供英、日、韓及繁體中文服務。

聯(lián)想選擇引入Dynamics 365 Sales作為全球統(tǒng)一的銷售管理系統(tǒng)。

Dynamics 365 Sales能夠整合不同來源的新老業(yè)務系統(tǒng)與業(yè)務流程，并集成了銷售協(xié)作與AI功能，讓全球70%的聯(lián)想銷售團隊得以實時記錄客戶互動活動、即時共享銷售信息，為客戶提供更加主動、個性化的服務體驗。

麥當勞中國選擇微軟為量身定制了整套智能化創(chuàng)新解決方案，包括由Azure云平臺提供自然語言交互、生成式智能、機器學習等企業(yè)級的智能化服務；以融入Copilot智能副駕駛(?)的Microsoft 365為基礎，構建高效的員工協(xié)作平臺；通過GitHub Copilot智能副駕駛(?)加速IT開發(fā)和系統(tǒng)運維，提升IT系統(tǒng)及業(yè)務應用開發(fā)迭代效率等。

麥當勞中國南京創(chuàng)新中心成立“AI-Lab”，將智能技術引入麥當勞中國“漢堡大學”，為20萬名員工提供職業(yè)發(fā)展與技術技能培訓。

端上做應用，小模型又快又劃算

會后，微軟亞洲區(qū)Microsoft Azure策略運營總經理康容、微軟大中華區(qū)首席運營官陶然回答了大家感興趣的一些問題。

量子位在不改變原意的基礎上，對部分問答進行了整理。

Q：您講到Scaling Laws，參數(shù)越多性能越好。那對于小模型，怎樣能達到很好的推理能力？主要的原理是什么？

陶然：第一，我們在云端大模型開放兼容并蓄；第二，在端側其實很多場景都需要用小模型的能力。您剛才講Scaling Laws也好，性能也好，隨著時間的演變和算力不斷加持，以及我們對于數(shù)據(jù)和算法的調優(yōu)，它的質量肯定是穩(wěn)步提升。

大模型在往前走，但微軟研發(fā)的Phi小模型為什么能夠實現(xiàn)用更低的成本和更小的size實現(xiàn)更高的質量？

第一個關鍵在于算法，微軟有幾十年的技術研發(fā)實力。

第二是數(shù)據(jù)質量，微軟采取了一個Synthetic Data的訓練模式。通過和高質量，甚至是超高質量合成數(shù)據(jù)去實現(xiàn)Phi的小模型，用更小的size實現(xiàn)更高的性能。

在微軟看來，小模型的場景正在不斷分化。小模型并不是說，只幫我寫詩、作畫就夠了。小模型也可以有多模態(tài)，也可以變成行業(yè)定制的模型。小模型和行業(yè)數(shù)據(jù)和企業(yè)業(yè)務場景的集成即將會變成更多的強需求。

Finetune一個大模型非常痛苦，有的時候也不一定達到效果。但小模型不一樣，企業(yè)業(yè)務數(shù)據(jù)可以更加高效實現(xiàn)常用場景下的Finetune，以及一些更好的embedding。

然后是復雜場景，比如真的是需要Agent，繼續(xù)交給云端大模型去完成。但是也可以把重用、常用、高頻、低延遲的場景交給小模型，這就是我們現(xiàn)在看到的行業(yè)發(fā)展的一些趨勢。

康容：我完全同意陶然講的。不是小模型是不是會把大模型取代的問題，而是我們認為未來會有多模型的合作。各個模型有不同的優(yōu)勢。

比如沒有網絡的場景，肯定小模型有優(yōu)勢。而對于非常復雜的項目或場景，要做大量自然語言翻譯，就要走大模型那一步，消耗大量的數(shù)據(jù)去理解，小模型“吞”不了那么多。如果你要快速在端上做基本的應用，小模型又快又劃算。

Q：Copilot Studio最近推出新功能可以自定義Agent，底層用的哪些技術？

陶然：Copilot Studio不是一夜之間出現(xiàn)的全新獨立技術產品，而是基于微軟過去幾十年在商業(yè)應用領域的云端的Business Applications積累快速迭代、快速生成的結果，比如Dynamics365 for Sales、for Finance、for Operation，傳統(tǒng)意義上理解的云端CRM、云端的ERP、云端HR系統(tǒng)，這些系統(tǒng)讓微軟可以快速打造Copilot。

基于我們對企業(yè)業(yè)務流程、數(shù)據(jù)、系統(tǒng)的理解，可以快速找到企業(yè)如何把核心的CRM、ERP、財務的系統(tǒng)做智能化改造的方法，很多企業(yè)都是在這個基礎上連接AI的layer。

Copilot Studio就是基于這樣的基礎框架實現(xiàn)產品的研發(fā)和迭代。產品背后本身集成三大核心能力：第一，微軟ERP、CRM和云端Dynamics365的能力；第二，結合了OpenAI大模型能力；第三，結合對于Agent、Copilot生態(tài)的理解以及生態(tài)的滲透。

Q：對于大模型在企業(yè)落地，一種思路是把大模型的能力跟企業(yè)私有數(shù)據(jù)結合，另外一種思路是用小模型，也就是Phi-3的思路。您認為哪種思路更好？

陶然：微軟全球和微軟中國每天與眾多客戶探討大模型的應用落地。根據(jù)我們的觀察，沒有哪種技術路線是絕對對或錯的，關鍵在于是否適用以及相應的成本。

大模型與企業(yè)數(shù)據(jù)的集成是一個平衡的決策過程，需綜合考慮成本、數(shù)據(jù)質量、數(shù)據(jù)量、模型的成熟度和復雜度等因素。如果企業(yè)預算充足，當然可以不計成本地購買數(shù)據(jù)、進行訓練和推理。

康容：甚至訓練自己的大模型。

陶然：企業(yè)都希望以高效且成本可控的方式實施方案，但這需要實際評估。

例如，若客戶希望對GPT模型進行微調，但只有一萬行數(shù)據(jù)，對于擁有1750億參數(shù)的GPT模型而言，一萬行數(shù)據(jù)無法顯著影響其推理過程，因此無法實現(xiàn)預期效果。然而，如果通過添加企業(yè)數(shù)據(jù)集，如RAG技術，就能在大模型進行數(shù)據(jù)輸入和輸出時，整合企業(yè)數(shù)據(jù)集并生成Embedding數(shù)據(jù)集。

微軟提供了多種技術選擇，例如在全球范圍內開源的Semantic Kernel，任何企業(yè)都可以通過編程實現(xiàn)RAG和Embedding數(shù)據(jù)集成，并通過微軟網站下載使用。

同時，微軟也支持開源，可以使用第三方開源的RAG模型和編程開發(fā)SDK。最終，我們需要討論數(shù)據(jù)量和數(shù)據(jù)質量的問題。如果國內客戶有此類需求，微軟中國可以幫助客戶進行實際評估，選擇成本和效能最優(yōu)的技術路線，以推進項目進展。

Q：小模型相比大模型有何優(yōu)劣？

陶然：同樣去做Embedding與Fine-tuning，小模型的成本大多情況下比大模型低。

應用場景是關鍵，如果希望小模型幫忙完成寫詩作畫，可以把企業(yè)內部寫詩作畫的信息導入，然后它就可以根據(jù)上下文完成任務。

小模型跟大模型有能力上的差異，比如微軟的Phi-3，雖然我們盡可能把它的每一個能力象限往往前延申，但跟GPT4、GPT4o相比，肯定有些地方是缺失的。

針對不同場景有的放矢去做一些Embedding和Fine-tuning、RAG，可以更加事半功倍。小模型和大模型一樣，第一，可以定制化和集成；第二，定制化集成的東西可以到設備里去；第三，找到合適的場景。