馬斯克版ChatGPT背后開發(fā)工具上線！xAI產(chǎn)品兩連發(fā)，網(wǎng)友：交付速度太瘋狂
“幫助開發(fā)人員改進(jìn)和理解大模型的工具”
魚羊 發(fā)自 麥蒿寺
量子位 | 公眾號 QbitAI
馬斯克版ChatGPT才剛吸引一波眼球，xAI第二款大模型產(chǎn)品就突然登場了！
就在剛剛，馬斯克旗下xAI官宣：推出PromptIDE。
一個用于提示工程和可解釋性研究的集成開發(fā)環(huán)境。
xAI表示，他們打造PromptIDE的最初目的，是加速其聊天AI機(jī)器人Grok的開發(fā)——
根據(jù)官方透露的信息，剛剛開啟內(nèi)測的Grok是xAI創(chuàng)始團(tuán)隊11人爆肝2個月打造的。
而PromptIDE緊跟著Grok推出，如此快速的產(chǎn)品發(fā)布節(jié)奏，也讓網(wǎng)友們不由驚呼：
xAI團(tuán)隊的交付速度太瘋狂了！
那么，PromptIDE具體有什么用？一起來看。
什么是PromptIDE
PromptIDE的主要功能包括：
- 用于提示工程的集成開發(fā)環(huán)境
- Python代碼編輯器和用于高級提示技術(shù)的SDK
- 可視化分析功能
先來看其核心組成部分，即Python代碼編輯器+SDK。
官方提到，基于SDK，用戶可以在PromptIDE里“優(yōu)雅地”實現(xiàn)復(fù)雜的提示技術(shù)。
比如，使用prompt()函數(shù)手動將token添加到上下文中，或者使用sample()函數(shù)根據(jù)上下文生成token。
Python代碼編輯器是在單獨(dú)的Web Worker里運(yùn)行的。多個Web Worker可以同時跑，也就是說，開發(fā)者可以并行執(zhí)行多個提示。
另外，復(fù)雜提示技術(shù)還可以通過在同一個程序內(nèi)使用多個上下文來實現(xiàn)。這套操作主要是通過@prompt_fn裝飾器來完成。
這樣做的好處是，能夠設(shè)計一些更具挑戰(zhàn)性對話實驗，讓聊天AI能理解和回答更加復(fù)雜的問題。
再來重點(diǎn)關(guān)注一下PromptIDE的可視化分析功能。
在執(zhí)行提示時，用戶可以在這個IDE中看到詳細(xì)的token分析，也就是能更清楚地get模型到底在輸出些什么。
從上圖中可以看到，窗口會顯示上下文的精確分詞（tokenization）和每個token的數(shù)字標(biāo)識符。
單擊token，還可以看到這個token更為詳細(xì)的分析信息。
其他方面，在PromptIDE中使用user_input()函數(shù)，界面中會彈出一個文本框，讓用戶能夠?qū)崿F(xiàn)交互式提示。
這使得快速搭建一個聊天機(jī)器人成為可能，只需要四行代碼：
await prompt(PREAMBLE)
while text := await user_input(“Write a message”):
await prompt(f”<|separator|>nnHuman: {text}<|separator|>nnAssistant:”)
await sample(max_len=1024, stop_tokens=[“<|separator|>”], return_attention=True)
另外，PromptIDE還支持上傳文件（每個文件最多5MiB，總大小不超過50MiB）。
更多細(xì)節(jié)，可以參考xAI官方博文。
簡單總結(jié)起來，正如馬斯克自己所說，PromptIDE是“幫助開發(fā)人員改進(jìn)和理解大模型的工具”。
目前，已經(jīng)嘗鮮Grok的盆友，也可以獲得PromptIDE的體驗資格。
這里再放一下Grok的體驗渠道：
- 有藍(lán)勾認(rèn)證的賬號，可以到xAI官網(wǎng)排隊；
- 訂閱16美元/月的 Premium+服務(wù)，內(nèi)測結(jié)束后會開放使用。
參考鏈接：
[1]官方博文：https://x.ai/prompt-ide/
[2]https://twitter.com/xai/status/1721568361883279850
