OpenAI：紐約時(shí)報(bào)雇黑客攻擊我

夢晨 2024-02-28 13:31:46 來源：量子位

夢晨 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

堂堂AI巨頭，怎么就被一家報(bào)紙雇黑客攻擊了？

《紐約時(shí)報(bào)》訴OpenAI侵犯版權(quán)索賠數(shù)十億美元案最新進(jìn)展：

在最新提交的法庭文件中，OpenAI聲稱《紐約時(shí)報(bào)》花錢找黑客攻擊ChatGPT，人為制造侵權(quán)結(jié)果。

使用欺騙性手段進(jìn)行數(shù)萬次嘗試，才得到高度異常結(jié)果。

這項(xiàng)訴訟要是輸了，那對OpenAI來說可能是毀滅性打擊。

數(shù)十億美元罰款都是小事了，按法律界的分析，連ChatGPT都可能被迫全部擦除，重頭開始訓(xùn)練。

大家都知道，美國法律要遵循之前判例的原則。

在過去幾十年的科技公司vs版權(quán)方的案子中，法院可并不總是站在科技公司一邊。

這次OpenAI主張《紐約時(shí)報(bào)》雇傭黑客，還真的非常關(guān)鍵了。

紐約時(shí)報(bào)如何攻擊ChatGPT

去年12月，《紐約時(shí)報(bào)》起訴OpenAI和他的微軟爸爸，稱ChatGPT和Copilot都未經(jīng)許可利用其內(nèi)容訓(xùn)練。

當(dāng)時(shí)，《紐約時(shí)報(bào)》展示了足足100個(gè)GPT-4一字不落背出真實(shí)報(bào)道段落的例子。

這樣一來，ChatGPT就可以算作報(bào)紙的競爭品。

OpenAI這邊，辯稱這是一個(gè)漏洞，并承諾已經(jīng)在修復(fù)。

具體來說，當(dāng)AI生成與訓(xùn)練數(shù)據(jù)非常相似的樣本時(shí)，可能發(fā)生“數(shù)據(jù)回流”（regurgitation of training data），類似于人類聽到上句就會(huì)條件反射般的接下句，誰也攔不住。

他們認(rèn)為《紐約時(shí)報(bào)》利用這一漏洞，使用特殊的提示詞要求ChatGPT輸出特定文章的開頭，并繼續(xù)要求輸出下一句話。

OpenAI預(yù)計(jì)需要反復(fù)嘗試上萬次才能生成這些整篇的文章，而且還不是按順序的，而是“分散和無序的引用”。

正常人不可能這么使用ChatGPT，也不會(huì)把它當(dāng)成《紐約時(shí)報(bào)》的替代品。

OpenAI指責(zé)《紐約時(shí)報(bào)》故意誤導(dǎo)法庭，“使用省略號來掩蓋”ChatGPT吐出報(bào)道片段的順序，造成了“ChatGPT生成了文章的連續(xù)和不間斷片段的錯(cuò)誤印象”。

并且《紐約時(shí)報(bào)》從來沒有披露過他們生成這些證據(jù)的具體提示詞，以及是否修改了系統(tǒng)提示詞等等細(xì)節(jié)，就挺心虛的。

至于提示詞攻擊算不算黑客行為，有網(wǎng)友表示怎么不算，如果認(rèn)可提示詞工程真的算一種工程，那提示詞攻擊就算攻擊。

現(xiàn)在OpenAI主要從兩個(gè)地方反擊：

一是主張這種提示詞攻擊公然違反了OpenAI的產(chǎn)品使用條款。

二是主張互聯(lián)網(wǎng)上公開內(nèi)容是可以被合理使用的。

這就要抱緊谷歌大腿了，20年前谷歌整了個(gè)大活，掃描數(shù)百萬本圖書放到搜索引擎上，被一堆出版商和作家協(xié)會(huì)給告了。

官司反反復(fù)復(fù)打了10多年，最終谷歌艱難的贏了，被判這些數(shù)據(jù)是合理使用。

當(dāng)時(shí)裁決認(rèn)為用戶只能看到圖書的簡短片段，永遠(yuǎn)無法從受版權(quán)保護(hù)的書籍中恢復(fù)較長的段落。

谷歌制作書籍的數(shù)字副本以提供搜索功能是一種變革性的使用，它通過提供有關(guān)原告書籍的信息來增加公眾知識，而不向公眾提供書籍的實(shí)質(zhì)性替代品。

不光OpenAI，同樣面臨版權(quán)訴訟的Stability AI等AI圖像生成公司，都在堅(jiān)持他們做的事與谷歌當(dāng)年一樣：

都是“學(xué)習(xí)訓(xùn)練數(shù)據(jù)中關(guān)于作品的信息，但不復(fù)制作品本身的創(chuàng)造性表達(dá)”。

然鵝還有一個(gè)有爭議的地方，AIGC產(chǎn)品確實(shí)會(huì)產(chǎn)生創(chuàng)造性的作品，與接受訓(xùn)練的作品直接競爭。

所以這一批AI公司面臨的危機(jī)，比谷歌當(dāng)年面臨危機(jī)還要大一些。

再不賣數(shù)據(jù)就晚了

實(shí)際上，像《紐約時(shí)報(bào)》這樣和AI鬧得不愉快的內(nèi)容公司是少數(shù)。

更多互聯(lián)網(wǎng)公司都在爭先恐后出售自己的數(shù)據(jù)，反正這些AI公司又不是沒錢。

Sora視頻，就被找出明顯有OpenAI合作伙伴Shutterstock素材的影子。

上周，“美國貼吧”Reddit剛剛跟谷歌簽了協(xié)議，6千萬美元一年，讓谷歌可以實(shí)時(shí)獲取論壇數(shù)據(jù)用于AI訓(xùn)練。

OpenAI這邊肯定早就用上了，畢竟山姆奧特曼本人就和Reddit公司關(guān)系匪淺，而且早年比GPT-1還早的原型研究，就是在Reddit數(shù)據(jù)上訓(xùn)練聊天機(jī)器人。

現(xiàn)在Tumblr和WordPress也趕緊跟進(jìn)，把用戶數(shù)據(jù)出售給OpenAI和Midjourney。

雖然他們的用戶聽到這個(gè)消息都挺不高興的，但是沒辦法，當(dāng)初注冊賬號的時(shí)候可是必須同意使用條款，其中把數(shù)據(jù)歸屬早就安排明白了。

當(dāng)然AI公司買過來這些數(shù)據(jù)也不是直接塞AI嘴里就好使的，學(xué)術(shù)界現(xiàn)在也研究如何高效利用。

剛剛還有一篇語言模型訓(xùn)練的數(shù)據(jù)選擇綜述出爐，提出用于比較和對比不同的數(shù)據(jù)選擇方法的框架，還倡議：

• 加速數(shù)據(jù)選擇研究，如開發(fā)直接評估數(shù)據(jù)質(zhì)量的指標(biāo)，減少對昂貴模型訓(xùn)練的依賴。
• 更好地理解數(shù)據(jù)分布的特性，以便更精確地選擇數(shù)據(jù)。
• 將計(jì)算時(shí)間從模型訓(xùn)練轉(zhuǎn)移到數(shù)據(jù)處理。

隨著AI生成的內(nèi)容在互聯(lián)網(wǎng)上鋪開，后面再訓(xùn)練大模型的都繞不開使用AI生成的數(shù)據(jù)了，就說多少家大模型“承認(rèn)”過自己是OpenAI訓(xùn)練的了吧。

同樣中文數(shù)據(jù)也繞不開文心一言，谷歌Gemini都鬧過笑話（已修復(fù)）。

坐擁大量人類古法手打數(shù)據(jù)的互聯(lián)網(wǎng)公司，再不抓緊賣，AI就能自給自足了。

參考鏈接：
[1]https://s3.documentcloud.org/documents/24443836/nysd-case-612697.pdf
[2]https://arstechnica.com/tech-policy/2024/02/openai-accuses-nyt-of-hacking-chatgpt-to-set-up-copyright-suit/
[3]https://arxiv.org/abs/2402.16827