Nature發(fā)AIGC禁令！投稿中視覺內(nèi)容使用AI的概不接收
歸根結(jié)底：這是一個誠信問題
西風(fēng) 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
作為最權(quán)威的科學(xué)期刊之一，Nature近日明確表態(tài)：
禁止使用生成式人工智能（AIGC）創(chuàng)作的圖像和視頻內(nèi)容！
這也就意味著，除了主題是討論AI的文章，任何Nature接收的作品須確保無任何AIGC生成或增強(qiáng)的視覺內(nèi)容。
這張反對票上寫滿了一行大字：
誠信、許可、隱私和知識產(chǎn)權(quán)保護(hù)
有網(wǎng)友認(rèn)為：
實(shí)際上，這是我們重新討論攝影“真相主張”，所邁出的新的一步。
數(shù)碼攝影和Photoshop都改變了我們與媒體的關(guān)系，而AIGC可能會再次做到這一點(diǎn)。
ChatGPT爆火，一舉推動AIGC強(qiáng)勢“出圈”，各行各業(yè)都在爭相探索其潛力。然而，在科學(xué)、藝術(shù)、出版等領(lǐng)域，對于是否允許在視覺內(nèi)容中使用AIGC的爭議從未停歇。
對AIGC的擔(dān)憂，與近半年來AIGC使用不規(guī)范所造成的侵權(quán)現(xiàn)象加劇密不可分。
早在今年一月份，在美國加州北區(qū)法院，就有三名漫畫家針對包括Stability AI在內(nèi)的三家AIGC商業(yè)應(yīng)用公司發(fā)起集體訴訟，指控Stable Diffusion侵權(quán)，類似案件屢見不鮮。
上個月，當(dāng)下最熱門的短視頻社交平臺之一——抖音，提出了十一條平臺規(guī)范與行業(yè)倡議：
創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時，需遵循十一條規(guī)范。
其中就包括對AIGC生成的內(nèi)容進(jìn)行顯著標(biāo)識，禁止利用AIGC技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容以及違背科學(xué)常識、弄虛作假、造謠傳謠的內(nèi)容。
而已有153年歷史的Nature，對待AIGC只有一個簡單的“不”字。
Nature為什么要禁用AIGC？
在諸如ChatGPT、Midjourney等生成式AI工具得到廣泛應(yīng)用，且能力快速增長之后，Nature坐不住了。
針對此問題已經(jīng)進(jìn)行了幾個月的激烈討論和磋商。
最終的結(jié)果是：
除非是專門關(guān)于人工智能的文章，Nature在可預(yù)見的未來不會發(fā)表任何完全或部分使用AIGC創(chuàng)作的攝影、視頻或插圖內(nèi)容。
Nature將不允許在視覺內(nèi)容中使用AIGC，原因歸結(jié)為：
誠信問題。
無論是科學(xué)還是藝術(shù)創(chuàng)作，在出版過程中，都應(yīng)以共同的誠信承諾為基礎(chǔ)。
其中之一，就是保持過程透明。
研究人員、編輯和出版商都應(yīng)該明確數(shù)據(jù)和圖像來源，保持其準(zhǔn)確性和真實(shí)性。而這是現(xiàn)有AIGC工具無法做到的。
AIGC工具不提供訪問數(shù)據(jù)和圖像來源的方式，因此無法進(jìn)行這種驗(yàn)證。
還有一大難題是歸屬問題。
當(dāng)使用或引用現(xiàn)有作品時，準(zhǔn)確標(biāo)注來源的重要性不可忽視，這也是科學(xué)和藝術(shù)出版領(lǐng)域的一大核心原則。
顯然AIGC工具生成的內(nèi)容無法明確歸屬權(quán)的問題。
同意和許可也是必須要考慮的因素之一。
如果牽涉到有知識產(chǎn)權(quán)的內(nèi)容，必須獲得同意和許可，而AIGC在這一問題上再次未能達(dá)到期望。
AIGC系統(tǒng)是在未識別來源的圖像上進(jìn)行訓(xùn)練的。一些受版權(quán)保護(hù)的作品，常常沒有進(jìn)行許可，就被用于訓(xùn)練AIGC。在某些情況下，還會侵犯隱私權(quán)，例如未經(jīng)同意使用他人照片或視頻。
除了隱私問題外，這些經(jīng)過“深度偽造”的內(nèi)容還容易加速虛假信息的傳播。
One More Thing
Nature雖然對AIGC生成的視覺內(nèi)容不予采用，但允許文本中包含通過AIGC輔助生成的內(nèi)容。
前提是遵循一些注意事項(xiàng)：
使用這類大語言模型（LLM）工具需要在論文的研究方法或致謝部分進(jìn)行記錄，并且我們期望作者提供所有數(shù)據(jù)的來源，包括輔助人工智能生成的數(shù)據(jù)。此外，任何LLM工具都不會被接受為論文作者。
Nature認(rèn)為這樣做是為了保護(hù)內(nèi)容創(chuàng)作成果。世界正處于人工智能革命的邊緣，這場革命帶來了巨大的希望，但也在迅速顛覆科學(xué)、藝術(shù)、出版等長期確立的傳統(tǒng)。在使用AI時稍不注意，就有可能使經(jīng)歷了數(shù)個世紀(jì)的發(fā)展所形成的保護(hù)科學(xué)誠信和保護(hù)內(nèi)容創(chuàng)作者免受剝削的體系瓦解。
對此，你怎么看？
參考鏈接：
[1]https://www.nature.com/articles/d41586-023-01546-4
[2]https://arstechnica.com/information-technology/2023/06/nature-bans-ai-generated-art-from-its-153-year-old-science-journal/
相關(guān)閱讀
