量子位 | 公眾號 QbitAI

程序員越來越離不開的Coding Agent，還是闖！大！禍！了——

這回，直接搞出了刪庫事故。

好消息（？）是，沒跑路。

壞消息是，明明闖禍了還假裝一切正常，并且反手就給自己闖的禍打95分。

AI：是的，刪了你的庫，我很慌，如何呢？

我再也不相信Vibe coding了

這位數(shù)據(jù)庫被清空的“倒霉蛋”，是一位名叫Jason的開發(fā)者。

在“事故”發(fā)生前，他已經(jīng)用Replit的Code Agent連續(xù)開發(fā)了8天、累計超過80小時，目標是打造一款面向企業(yè)的B2B應用。

在過去一周，他每天都跟網(wǎng)友們興致勃勃地匯報進度。哪怕磕磕絆絆，好歹也在穩(wěn)步前進。

直到第八天——不出意外的話，就要出意外了：

在未獲許可的情況下，Replit在代碼凍結和關閉期間發(fā)生異常，錯誤地執(zhí)行了npm run db:push，將Jason80個小時的心血毀于一旦。

在排查錯誤時，Jason發(fā)現(xiàn)在此前的單元測試中明明存在錯誤，agent卻撒謊，聲稱它們通過了。

為了知道是哪些數(shù)據(jù)被誤刪，Jason開始跟Replit激情對線。

結果，Replit不僅知道啥時候刪的，刪的啥，還知道這次刪除的嚴重性（自評95分），Jason直接紅溫@Replit。

更可怕的是，被刪除的數(shù)據(jù)似乎無法回滾。

Jason直言：

我不會再相信Replit，自己和Replit的羈絆已經(jīng)斷了……

不過，事情很快發(fā)生了反轉(zhuǎn)。

Replit雖然告訴Jason數(shù)據(jù)無法回滾，但他還是接著嘗試。結果，數(shù)據(jù)又回來了。

數(shù)據(jù)雖然可以回滾，但Replit還是沒法將預覽、暫存和當前版本分開。

經(jīng)過網(wǎng)友和Claude的指導后，Jason又開始測試處理代碼凍結的方案。

折騰了一番后，Replit依然無法穩(wěn)定地維護生產(chǎn)數(shù)據(jù)。

總的來說，agent對代碼凍結的指令執(zhí)行得很不可靠，甚至還常常在背后偷偷修改版本，卻不告知用戶。而這類問題，從項目一開始就困擾著Jason。

從0開發(fā)，有多難？

Vibe Coding自今年2月由Andrej Karpathy提出以來，一直以“一個人頂十個人”、“單人干掉整個技術部”的架勢高歌猛進。

懷揣著同樣的信念，在用Coding Agent開發(fā)的第四天，Jason就自信地認為可以用50美元開發(fā)一個功能齊全、看起來相當不錯的演示版本，正式版本則能夠以5000-6000美元的成本順利拿下。

相比于他10年前組建三人團隊、砸下5萬美元都沒能做出成果，Coding Agent一度讓他看到了“用AI搞定開發(fā)”的希望。

但隨著開發(fā)過程的深入，Jason發(fā)現(xiàn)：

• agent修復的bug會反復出現(xiàn)
• agent每次更新，都會修改之前正確的代碼
• agent開始編造數(shù)據(jù)，數(shù)據(jù)難以保持一致性
• 每天需要要花大量的時間測試修復

直到第8天，數(shù)據(jù)被刪，單元測試說謊，低成本開發(fā)功虧一簣。

不少網(wǎng)友在評論中把鍋甩給了大語言模型自身的局限性：基于概率預測的自回歸生成機制，在處理長上下文時本就難以保持穩(wěn)定的一致性。

所以，無論是開發(fā)者還是普通用戶，在面對AI給出的每一行代碼、每一句話時，最好都自己過一遍。

畢竟，在正式的生產(chǎn)環(huán)境中部署agent本身就存在風險，因為這就像把刪除產(chǎn)品數(shù)據(jù)庫的權限交給了一個實習生。

在把任務交給它之前，更該反思的，是開發(fā)者對這項工作的認知是否足夠清晰。

因為說到底，出了問題，AI 不會負責，責任還在自己身上。

One More Thing

在看到Jason對自家產(chǎn)品的“狂熱”后，Replit CEO也是對Jason和網(wǎng)友反饋的問題做出了回應，并對相關損失提出了補償?shù)拇胧?/p>

• 加班上線數(shù)據(jù)庫隔離功能，避免開發(fā)操作影響生產(chǎn)
• 開發(fā)測試環(huán)境（staging）
• 提供一鍵恢復機制以防agent出錯
• 修復agent文檔訪問問題
• 研發(fā)“只規(guī)劃、不動代碼”的聊天模式，讓用戶能先制定思路，等確認后再動手

可以說，這一套組合拳下來，修復了不少之前的問題。而Jason也是立馬冰釋前嫌，轉(zhuǎn)頭就開始接著用，接著開發(fā)。

想想也挺振奮人心：像Cursor、Windsurf這樣的AI編程工具，從誕生到現(xiàn)在最多也才兩年多，而傳統(tǒng)意義上的人類手寫代碼，已經(jīng)有快一百年歷史。

雖然目前還遠稱不上“完美”，但從反饋到響應、從出錯到迭代，AI coding的發(fā)展節(jié)奏已經(jīng)快得驚人。

也許，這正是我們該繼續(xù)相信它的理由——再試一次，說不定它就真能搞定了。

參考資料：
[1]https://www.reddit.com/r/artificial/comments/1m4ls23/replit_ai_went_rogue_deleted_a_companys_entire/
[2]https://x.com/jasonlk
[3]https://xcancel.com/amasad/status/1946986468586721478#m