國產(chǎn)開源大模型，首次實現(xiàn)代碼解釋

十三 2023-08-22 17:34:19 來源：量子位

編者按：

快速成長中的大語言模型功能日新月異。為解決復(fù)雜問題，它甚至可以調(diào)用工具，“自動”寫代碼進行編程！

近日，上海人工智能實驗室（上海AI實驗室）推出書生·浦語大語言模型的升級版對話模型InternLM-Chat-7B v1.1（以下簡稱“InternLM-Chat”）。InternLM-Chat為首個具有代碼解釋能力的開源對話模型，能夠根據(jù)需要靈活調(diào)用Python解釋器等外部工具，在解決復(fù)雜數(shù)學(xué)計算等任務(wù)上的能力顯著提升；此外，該模型還可通過搜索引擎獲取實時信息，提供具有時效性的回答。

與此同時，上海AI實驗室還發(fā)布了開源智能體框架Lagent以輔助用戶體驗新模型的完整功能。通過Lagent，用戶可便捷實現(xiàn)由大語言模型到智能體的轉(zhuǎn)換，從而輕松實現(xiàn)模型的插件調(diào)用功能并探索新的智能體范式。

開源鏈接：

書生·浦語開源體系InternLM：
https://github.com/InternLM

InternLM-Chat：
https://github.com/InternLM/InternLM

Lagent：
https://github.com/InternLM/lagent

OpenCompass：
https://opencompass.org.cn/

LMDeploy：
https://github.com/InternLM/lmdeploy

在今年7月舉行的WAIC 2023上，上海人工智能實驗室（上海AI實驗室）正式開源了書生·浦語大模型70億參數(shù)的輕量級版本InternLM-7B，并推出首個面向大模型研發(fā)與應(yīng)用的全鏈條開源體系，同時提供免費商用，受到了學(xué)術(shù)和產(chǎn)業(yè)界的廣泛關(guān)注。開放評測平臺OpenCompass的評測結(jié)果顯示，書生·浦語在數(shù)十項評測中體現(xiàn)出強大的知識體系與推理能力。

隨著大模型的發(fā)展，大模型在實際場景落地中的價值越來越受到關(guān)注。單靠大語言模型的聊天能力無法滿足例如報告分析、電子商務(wù)、數(shù)理問題求解等具體場景下的任務(wù)需求。為使大模型能夠執(zhí)行復(fù)雜任務(wù)，OpenAI于今年7月9日向用戶正式開放了Code Interpreter，使得ChatGPT和GPT-4可以根據(jù)用戶問題來編寫和執(zhí)行代碼，從而拓展了模型在數(shù)據(jù)分析、復(fù)雜計算與功能調(diào)用方面的能力。

在InternLM-7B基礎(chǔ)上，上海AI實驗室面向?qū)嵱眯枨?，正式開源了書生·浦語具有代碼解釋能力的對話模型版本，填補了開源社區(qū)中模型代碼解釋能力的空白，進一步助力大模型能力構(gòu)建與應(yīng)用探索。

大語言模型為什么需要代碼解釋器

大語言模型雖然在對話能力上表現(xiàn)出色，但是在數(shù)學(xué)計算等復(fù)雜場景下，依然具有一定的局限性，例如，模型雖然可以完成小數(shù)字的基本運算，但是難以進行大數(shù)運算。此時，如果有代碼解釋器或者計算器等工具進行輔助，就能夠比較方便地解決這類問題。

例如，用戶可以讓模型求解如下題目：

題目：已知水庫水位為海拔148.5m，相應(yīng)水面的面積為140.0km2；水位為海拔157.5m時，相應(yīng)水面的面積為180.0km2。將該水庫在這兩個水位間的形狀看作一個棱臺，則該水庫水位從海拔148.5m上升到157.5m時，增加的水量約為？

在沒有代碼解釋器的情況下，模型的回復(fù)是：

由題意知,水庫的體積增加了

可以發(fā)現(xiàn)，模型雖然知道計算公式，但卻無法正確計算出結(jié)果。但是，如果模型具有調(diào)用代碼解釋器的能力，就可以產(chǎn)生如下內(nèi)容，調(diào)用 Python代碼解釋器對問題進行求解：

用戶可以基于一定的規(guī)則，從模型的回復(fù)中提取出模型對代碼解釋器的調(diào)用并執(zhí)行代碼，計算得到結(jié)果 1440.0并返回給模型，模型在接收到計算結(jié)果后可以組織回復(fù)并告訴用戶最終答案。

根據(jù)題意可知，棱臺的體積為：

可見，代碼解釋器等外部插件能夠有效彌補模型的不足，提升模型解決實際應(yīng)用中復(fù)雜問題的能力。

調(diào)用開源插件，賦能復(fù)雜任務(wù)

本次書生·浦語開源升級，使大模型具備了調(diào)用代碼解釋器及搜索引擎等外部插件的能力，為大模型解決復(fù)雜任務(wù)賦能。

當(dāng)前，大多數(shù)開源模型主要聚焦于對話主觀體驗的提升，并不具備良好的調(diào)用外部插件的能力。針對此情況，書生·浦語團隊進行了積極研究探索，賦予了InternLM-Chat調(diào)用代碼解釋器、檢索工具等外部插件的新能力。

寫代碼解難題

面對解方程等復(fù)雜的數(shù)學(xué)計算問題，模型僅憑自身能力難以完全做對，而有了代碼解釋器的加持，模型只要能寫對方程式，就可調(diào)動代碼解釋器完成方程求解。

面對復(fù)數(shù)題，模型也能夠調(diào)用 Python 代碼解釋器并寫出正確的代碼，對問題進行求解。如題目：若 ，

檢索獲取新知

由于大語言模型迭代周期較長，往往難以獲取最新的知識，調(diào)用檢索工具則可以顯著地增強模型對最新知識的獲取和了解，提高回答的時效性和有效性。例如，向新版大模型詢問“LK-99 真的是常溫常壓超導(dǎo)體嗎”，此時大模型會先搜索“LK-99 常溫超導(dǎo)體”，并檢索到三篇參考資料，在閱讀這些資料內(nèi)容后，給出總結(jié)回答“LK-99 并沒有被證實為常溫常壓超導(dǎo)體”。

千億參數(shù)模型能力再上臺階

書生·浦語團隊還將最新研究成果運用于書生·浦語千億參數(shù)版本大語言模型的能力提升中，使其實現(xiàn)了在復(fù)雜場景中進行多步推理和計算。目前，書生·浦語千億參數(shù)版本大語言模型已擁有多知識點運用、自主反思及修正錯誤等能力，模型的推理能力和插件調(diào)用能力也日漸提升。

當(dāng)使用該模型求解以下數(shù)學(xué)題時，模型能夠準(zhǔn)確理解向量垂直的性質(zhì)并進一步列出方程解答。

同時，模型還能夠理解三角函數(shù)的性質(zhì)并對問題進行求解。在以下問題中，模型使用方程求解出多個答案并能夠根據(jù)題意回答實數(shù)的最小值。

在調(diào)用插件的過程中，大語言模型可能無法一次性成功調(diào)用工具解決問題。此時模型的反思和修正能力就顯得尤為關(guān)鍵。如下圖所示，讓千億參數(shù)的模型統(tǒng)計滿足題目要求的集合個數(shù)，計算指出模型并沒有導(dǎo)入對應(yīng)的模塊依賴，但隨后能根據(jù)報錯修復(fù)代碼并正確求解。

可以發(fā)現(xiàn)，隨著模型參數(shù)量的提升，模型的推理能力和插件調(diào)用能力也得到顯著提升。

開源Lagent框架，助力智能體研發(fā)

當(dāng)大語言模型能夠以“自主”思考方式調(diào)用外部工具完成復(fù)雜任務(wù)時，其可謂經(jīng)進化成為智能體。

為達到此目標(biāo)，除了需要提升大語言模型本身的推理和調(diào)用工具能力，還需要一套智能體框架，構(gòu)建大語言模型作為智能體的思維過程，并實現(xiàn)對應(yīng)的工具供大語言模型調(diào)用執(zhí)行。

因此，書生·浦語團隊同時開源了智能體框架，支持用戶快速地將一個大語言模型轉(zhuǎn)變?yōu)槎喾N類型的智能體，并提供典型工具為大語言模型賦能。

這套開源框架具備如下特點：

1. 集合了多種類型的智能體能力，包括ReAct、AutoGPT 和 ReWoo 等，這些智能體能夠調(diào)用大語言模型進行多輪的推理和工具調(diào)用，并在工作過程中及時進行反思和自我修正；
2. 框架簡單易拓展，支持Python解釋器、API調(diào)用和搜索三類常用典型工具；
3. 靈活支持多個大語言模型應(yīng)用，包括InternLM、Llama-2等開源模型和GPT-4、GPT-3.5等基于API的閉源模型。

為了方便社區(qū)基于Lagent靈活地實現(xiàn)和探索各種新的Agent及工具，Lagent采用了一套簡潔的模塊設(shè)計。智能體（Agent）模塊包含了動作執(zhí)行器（ActionExecutor）和大語言模型（LLM），并確立了特定類型的規(guī)劃和執(zhí)行機制。Agent模塊接收用戶輸入后，LLM進行對應(yīng)的規(guī)劃和決策過程，發(fā)出調(diào)用工具的指令。不同類型的工具，如 Python解釋器和搜索引擎等被分別定義為智能體的一個動作（Action），由 ActionExecutor接收并解析調(diào)用工具的指令，完成具體的工具調(diào)用并向LLM返回執(zhí)行結(jié)果。

目前廣泛使用的開源框架Langchain也實現(xiàn)了類似的功能，能夠為大語言模型提供工具擴展，但在多重抽象和封裝之下，學(xué)習(xí)上手和調(diào)試相對較復(fù)雜，Lagent采用簡潔直觀的設(shè)計，統(tǒng)一的接口并提供清晰的文檔，為用戶在構(gòu)建不同Agent和工具調(diào)用流程中提供一致性的流暢體驗。

研究人員用10行代碼快速實現(xiàn)了一個Agent，它能夠調(diào)用代碼解出數(shù)學(xué)題，并輸出正確的結(jié)果。

題目： ，

在實際使用過程中，無論采用何種工具和Agent，用戶都可以通過類似的10行代碼快速構(gòu)建一個Demo并調(diào)試。未來，Lagent也將繼續(xù)支持各種豐富的Agent和工具，不斷拓寬大語言模型作為智能體的能力邊界，助力開源社區(qū)高效構(gòu)建和研發(fā)基于大語言模型的智能體。