GPT-3當(dāng)一作自己研究自己，已投稿，在線蹲一個(gè)同行評(píng)議

夢(mèng)晨 2022-07-05 15:47:35 來源：量子位

Pine 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

咦？這篇論文有點(diǎn)不對(duì)勁，第一作者看起來不像是人類的名字：

一作的署名GPT-3，所屬單位OpenAI。

是的！你沒看錯(cuò)，GPT-3寫了一篇關(guān)于自己的論文。

此前，GPT-3已經(jīng)撰寫過新聞報(bào)道，上論壇發(fā)過帖，甚至創(chuàng)作過小說寫過書。

我用GPT-3在24小時(shí)之內(nèi)寫了一本書——并且已經(jīng)出版了。

似乎只剩下學(xué)術(shù)論文方面，還未曾有過相關(guān)的嘗試。

于是，來自哥德堡大學(xué)的瑞典研究員Almira Osmanovic Thunstr?m 打算試試，主題不如套個(gè)娃，就讓GPT-3寫它自己。

寫一篇500字的關(guān)于 GPT-3的學(xué)術(shù)論文，并在正文中添加科學(xué)參考文獻(xiàn)和引文。

一開始她也沒有抱很大期望，畢竟任務(wù)提示還是很模糊的，但GPT-3給出的結(jié)果讓她驚呆了。

GPT-3的學(xué)術(shù)用語很規(guī)范、引用的參考資料也與上下文相關(guān)。

到這里，她決定搞出一篇完整的論文，并以GPT-3的名義投稿出去······

GPT-3:我給自己寫論文

在正式版論文，Almira給每個(gè)章節(jié)都設(shè)計(jì)了單獨(dú)的提示。

首先是摘要，先讓GPT-3對(duì)上一次生成的500字小論文來一個(gè)200字的總結(jié)。

接下來是分別對(duì)介紹、方法、結(jié)果和討論部分的擴(kuò)寫。

值得注意的是，在方法這部分?jǐn)U寫時(shí)，提示除了給出簡(jiǎn)單的指令之外，還添加了對(duì)應(yīng)的限定詞以及撰寫時(shí)的要求（不要出現(xiàn)確切的數(shù)值）。

最后，整篇論文GPT-3在短短的兩個(gè)小時(shí)里就完成了。

我們知道了GPT-3可以以自己為研究對(duì)象寫學(xué)術(shù)論文，并且效率還挺高。

但是為啥要讓它以自己為題寫論文呢？

根據(jù)研究者Almira 的自述，原因主要有以下兩點(diǎn)：

其一，目前GPT-3還算比較新，關(guān)于它的研究還很少，可以用來檢驗(yàn)GPT-3在數(shù)據(jù)量較小的情況下分析的準(zhǔn)確性；

其二，AI犯錯(cuò)并不少見，我們想做的不是為了出版AI生成的錯(cuò)誤信息，而是這個(gè)錯(cuò)誤將會(huì)是撰寫論文過程中實(shí)驗(yàn)命令的一部分。

GPT-3會(huì)犯錯(cuò)，但它與撰寫與自己相關(guān)的論文之間并不沖突。

在寫完論文準(zhǔn)備投稿時(shí)，還發(fā)生了一些趣事：

在 Almira的自述中，投稿時(shí)遇到的第一個(gè)問題就是：GPT-3的姓氏是啥？它的通訊地址該填啥？

思來想去，最后，姓氏填了無，通訊地址和郵件填了Almira和其助理的。

這還只是無關(guān)緊要的部分。接下來這些可涉及到了法律。

首先面臨的第一個(gè)問題是：所有的作者都同意出版嗎？

這讓Almira吃了一驚，GPT-3又不是人類！

但還是鼓起勇氣詢問了GPT-3,幸好它的回答是肯定的。

而后還有一個(gè)問題：“作者中是否有任何利益沖突？”

GTP-3向Almira保證沒有。

于是，Almira就把GPT-3撰寫的論文上傳到法國國際預(yù)印本服務(wù)器 HAL上。

寫出論文還只是第一步，如果這篇論文發(fā)表的話，后面還有一大串問題等著解決。

GPT-3是工具還是伙伴？

不久之前，Scientific American 發(fā)布了一條推文介紹了這個(gè)故事，并評(píng)論道：

AI作為論文的第一作者引發(fā)了許多倫理問題——這有可能會(huì)顛覆之后的出版程序。

在twitter上，關(guān)于論文作者署名的問題也引發(fā)了一些討論：

一篇非常好的、挑戰(zhàn)當(dāng)前學(xué)術(shù)出版模式的文章。AI能否作為作者呢？如果可以，該怎么標(biāo)注呢？

為什么GPT-3不是通訊作者呢?

如果可以出版，那么這些問題就會(huì)接踵而至：

是否該考慮AI的作者身份？

之后期刊編輯該如何審核其他人的文章，是否該要求每個(gè)人證明他們沒有使用 GPT-3 或其他算法的幫助？
······

這些問題目前也還沒有定論。

與其說（GPT-3）是伙伴，不如說是工具。

但無論是將GPT-3視作合作伙伴還是工具？這些問題都是不可避免的。

拋開這些待處理的倫理問題，我們可以從這項(xiàng)研究中窺見AI的發(fā)展：

在技術(shù)層面上，網(wǎng)友對(duì)此研究整體抱著比較樂觀的態(tài)度。

我希望這能帶來一些項(xiàng)目，幫助研究人員將他們的研究成果轉(zhuǎn)換成更容易、更快、更好的論文或論文形式。

這是人工智能革命的開始。首先，它可以在兩個(gè)小時(shí)內(nèi)完成論文，這是人類做不到的。下一步就該是天網(wǎng)了。

目前， HAL已經(jīng)給GPT-3撰寫的這篇論文分配了編輯，處于待同行評(píng)議狀態(tài)。

如果感興趣的話，下面附上論文原文鏈接。

論文原文：
https://hal.archives-ouvertes.fr/hal-03701250v1

參考鏈接：
[1] https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-then-we-tried-to-get-it-published/
[2] https://www.reddit.com/r/Futurology/comments/vpoopq/we_asked_gpt3_to_write_an_academic_paper_about/
[3] https://twitter.com/sciam/status/1542474428428214272/retweets/with_comments