北大數(shù)學(xué)課，啟用AI助教

衡宇 2023-10-25 13:11:27 來源：量子位

衡宇 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

這門北大數(shù)學(xué)課，學(xué)生和老師竟然都在用AI“摸魚”？！

不僅如此，老師還是主動推薦你用，“方便跟上授課進(jìn)度”。

原來，這是一位北大數(shù)學(xué)老師專門構(gòu)思并落地的AI助教，不僅能當(dāng)學(xué)生的課后助理，還能當(dāng)老師的貼心秘書。

對學(xué)生來說，學(xué)校的冗長教案看不懂，直接扔給AI助教，馬上就能劃好重點，真·喂飯喂到嘴邊。

而對老師來說，一拖、一拉、一拽，3步就能把自己的課程教案丟給AI助教，省去了對著人類助教大費口舌的時間。

因為使用絲滑，這個AI助教被北大數(shù)院21級本科生劉梓豪起名為Brainiac Buddy，意為“那個聰明又勤奮的家伙”（doge）。

不賣關(guān)子了，這門課叫《圖像處理中的數(shù)學(xué)方法》，開課老師是北京國際數(shù)學(xué)研究中心教授、國際機器學(xué)習(xí)研究中心副主任董彬。

整個Brainiac Buddy，由董彬團(tuán)隊和校外公司Answer.Ai團(tuán)隊聯(lián)合打造。

在與量子位的交流過程中，董彬表示：

OpenAI創(chuàng)始成員Andrej Karpathy之前講未來是Agent Base，我深以為然。
所以想在AI助教上試試，能不能實現(xiàn)個性化、定制化和互動式，以此提高教學(xué)質(zhì)量。

基于不同prompt“一鍵變身”

Brainiac Buddy（以下簡稱BB），基于GPT-4開發(fā)。

團(tuán)隊針對數(shù)學(xué)課程進(jìn)行了重點優(yōu)化，首先拿來試手的就是《圖像處理中的數(shù)學(xué)方法》這門課。

簡而言之，通過學(xué)習(xí)和分析課程大綱、參考書、講義和代碼示例，BB不僅專業(yè)知識拔尖，“大腦”也已經(jīng)是數(shù)學(xué)老師的形狀了。

親身上手體驗一下~

登陸后，以《機器學(xué)習(xí)》第一章緒論章為例，可以看到如下的界面：

BB界面共有三個分欄：

最左側(cè)，是關(guān)于本章節(jié)課件的演示文檔（支持多種格式），章節(jié)相關(guān)的附件及掛載的知識庫；中間欄呈現(xiàn)了課件文件的渲染，提供在線瀏覽功能；最右側(cè)則是與BB的對話界面，可以與課件、知識庫進(jìn)行問題的討論以幫助學(xué)習(xí)了解課程內(nèi)容。

在右側(cè)分欄直接提問，可以從embedding教案后的課程知識庫中檢索出該問題的解答。

眾所周知，大模型具有通用知識，但針對具體的領(lǐng)域可能不是很精準(zhǔn)。

于是基于大模型的基座模型，當(dāng)前BB是基于GPT-4，把課程存儲到向量數(shù)據(jù)庫中，方便學(xué)生在學(xué)習(xí)知識的過程中，得到大模型的支持，幫助他們分解知識難點，使不同基礎(chǔ)的學(xué)生都可以得到適合自己的解讀方式。

不過董彬也談到，作為研究者，其實是比較喜歡大模型幻覺（hallucination）的，“因為幻覺和創(chuàng)造/創(chuàng)新其實只有一線之隔?！?/p>

通過不同的prompt，BB能夠調(diào)用不同的具體服務(wù)。

BB提供給教師最大的靈活度，讓他們能夠充分利用大模型優(yōu)點的同時，給予最大程度的自定義prompt，讓課程的交互性和交互過程按照不同的課程，呈現(xiàn)不同的效果。

比如調(diào)用測試模式：

又或者總結(jié)文件主要內(nèi)容：

整體感受，BB沒有什么花里胡哨的UI界面，使用起來和一般的AI Chatbot比較類似。

“AI Agent=大模型+記憶+主動規(guī)劃+工具使用，基本上呈現(xiàn)出的就是現(xiàn)在大家看到的這個樣子?！倍蛘f道。

至于后續(xù)對BB還有什么完善（的想法），他表示，希望能讓BB能圍繞一個數(shù)據(jù)庫來準(zhǔn)確提取信息，并根據(jù)問題判斷，到底應(yīng)該用數(shù)據(jù)庫信息來回答問題，應(yīng)該調(diào)用內(nèi)外部工具，還是調(diào)用通用能力回答問題。

AI 輔助數(shù)學(xué)學(xué)習(xí)

目前AI工具這么多，為什么要專門做這樣一個AI助教？

其中當(dāng)然有現(xiàn)實的掣肘。

最基礎(chǔ)的，就算只把《圖像處理中的數(shù)學(xué)方法》這門課的教案丟給GPT，也已經(jīng)超出了GPT系列的token限制。

但更多來源于董彬本人的認(rèn)知和實踐。這也是他尋求與校外公司Answer.AI合作，做出BB，并實際運用到課程中的主要原因。

董彬雖然是數(shù)學(xué)專業(yè)出身，但2016年起轉(zhuǎn)向機器學(xué)習(xí)，現(xiàn)在的主要研究領(lǐng)域為科學(xué)計算、機器學(xué)習(xí)及其在計算成像和數(shù)據(jù)分析中的應(yīng)用。

他自稱從大模型大顯威力的第一天起，就是其忠實追隨者，根本沒有國內(nèi)外那些大學(xué)“先禁用再應(yīng)用”的心態(tài)轉(zhuǎn)變。

尤其是GPT-4問世后，董彬成為了大模型高頻率的重度依賴用戶，“它很大的作用，不是幫我干雜事，而是我通過它來學(xué)東西”。

董彬的切身體驗是，只要問題問得好，回答的質(zhì)量就會非常高。無論何時何地，只要有突發(fā)奇想，就可以跟領(lǐng)域內(nèi)最博學(xué)的“人”交流，并且從不覺得他提出的問題蠢。

有了這樣的體驗，董彬腦子里冒出一個念頭：

不行，要給我的學(xué)生也配備這樣一個工具。

“學(xué)習(xí)就是跟作者交流，聽作者講課，接受知識的形式是非常被動的?！倍蚪忉?，“聽課或看書的過程中，會產(chǎn)生各種各樣的疑問和想法。但老師的認(rèn)知、精力、耐心都是有限的?！痹谒磥?，如果無法跟作者交互，學(xué)習(xí)就會變得非常低效，特別是還無法1v1答疑解惑的情況下。

但AI 助教，或者說大模型，就遍讀全人類知識，且精力和耐心永遠(yuǎn)充沛，能夠“極大程度上提升教育的效率，以及個性化和定制化?！?/p>

有了自己的想法，恰巧教過的兩位學(xué)生——數(shù)學(xué)學(xué)院21級本科生劉梓豪和20級本科生唐藝銘，想跟隨董彬做一些暑期項目。

于是，BB被提上日程。

這時候董彬了解到了Answer.AI。這家創(chuàng)業(yè)公司旨在利用智能助教（AI Tutor）讓廣大學(xué)生享有到最優(yōu)質(zhì)的教育資源和最好的學(xué)習(xí)體驗。他們的教育產(chǎn)品發(fā)布后，在很短時間內(nèi)取得美區(qū)iOS教育榜單第三名的成績。

恰巧，他們也希望與各個學(xué)校和機構(gòu)一起探索全新的教學(xué)方式，并提供成熟的產(chǎn)品和技術(shù)方案。

和Answer.AI接觸后，董彬帶著劉梓豪和唐藝銘與其工程師團(tuán)隊交流了自己的想法，雙方一拍即合。

而后，Answer.AI 為BB提供了產(chǎn)品化方案。并且在工程師的幫助下，最終完成了BB的計劃、設(shè)計、數(shù)據(jù)處理、自然語言編程、UI制作等。

后續(xù)可能做“學(xué)會提問”主題在線分享

最后，正式介紹一下這位熱情邀請學(xué)生在課程中使用AI助教的數(shù)學(xué)老師。

董彬，北京大學(xué)北京國際數(shù)學(xué)研究中心長聘教授、國際機器學(xué)習(xí)研究中心副主任、國家生物醫(yī)學(xué)成像科學(xué)中心研究員。

2003年，他在北京大學(xué)數(shù)學(xué)科學(xué)學(xué)院拿下學(xué)士學(xué)位，兩年后，在新加坡國立大學(xué)數(shù)學(xué)系獲得碩士學(xué)位。

后來，董彬又遠(yuǎn)赴UCLA數(shù)學(xué)系，并于2009年獲得博士學(xué)位。

他表示，希望更多的同僚同儕參與使用BB，能夠從中得到更多反饋和啟發(fā)。

根據(jù)目前得到的一些反饋來看，最令董彬“痛心疾首”的，就是學(xué)生在對AI提問能力上的欠缺——既不愛提問題，也不擅長提問（prompt）。

普遍來講，學(xué)生總是愛直接把問題本身丟給AI。

這本身沒什么問題，但還達(dá)不到事半功倍的效果。

在量子位的追問下，董彬分享了自己常用的提問模式。在他每一次針對具體問題的提問中，往往含有好幾步過程：

• 首先，先告訴AI這個問題的背景，比如自己是在做什么的時候、看到什么東西、如何產(chǎn)生了這個問題；
• 其次告訴AI，這個問題的難點在哪？可能和哪些已知問題相關(guān)，也會談一下為什么自己覺得這是個好的問題；
• 然后會談?wù)勛约簩栴}的初步思考，以及對自己現(xiàn)有想法不滿意的地方，并在期待什么樣的更好的想法。
• 最后再問AI，能不能幫忙提供一些建議。

相比于直接把問題本身丟給AI，然后不停追問，這樣的方式可能兩三輪就能很好地解答一個問題。

董彬舉了個近期的例子。

最近，他和基礎(chǔ)數(shù)學(xué)家何旭華在arXiv上掛了一篇用機器學(xué)習(xí)輔助數(shù)學(xué)前沿探索的論文。第二天，何旭華的一位合作者看到論文，發(fā)來一封郵件，開頭是“et tu Brutus”。

董彬此前從未見過這個表述，于是去問了Claude。

對比可見，只有完整告訴Claude背景信息，它的解讀才會正確，還給人一種“情商很高”的感覺。

作為AI重度用戶，董彬在日常和做報告時發(fā)現(xiàn)，好的提問和不好的提問，得到的答案差異其實有明顯差異。

往后會考慮開設(shè)課程或進(jìn)行在線分享，讓學(xué)生學(xué)會如何提問。

通過BB，董彬使用prompt的經(jīng)驗和方法論也可以更方便的沉淀給學(xué)生，通過教師功能，可以方便的為每個章節(jié)設(shè)置獨特的prompt。

據(jù)了解，后續(xù)BB會為學(xué)生提供prompt預(yù)設(shè)功能，并針對學(xué)生提供快捷輸入prompt的功能，以提高使用體驗。

以及現(xiàn)階段，董彬剛在arXiv上掛出了一篇論文《Prompt Engineering Through the Lens of Optimal Control》，有關(guān)從最優(yōu)控制視角解讀交互工程，感興趣的小伙伴可以閱讀一下～

arXiv：https://arxiv.org/pdf/2310.14201.pdf

Answer.ai郵箱：business@answerai.pro