GitHub Copilot生成代碼包含身份證號(hào)，B站CEO無端躺槍

明敏 2021-08-10 13:46:31 來源：量子位

明敏 發(fā)自 凹非寺

量子位 報(bào)道 | 公眾號(hào) QbitAI

AI自動(dòng)補(bǔ)全代碼，結(jié)果補(bǔ)出來了一張別人的身份證？

GitHub Copilot又出神操作了。

有人在推特上曬圖，表示自己在使用GitHub Copilot時(shí)，它竟然給補(bǔ)全出了一張身份證信息出來。

輸入B站CEO陳睿的信息后，下方竟然自動(dòng)補(bǔ)出了身份證號(hào)。

這操作確實(shí)夠嚇人的。

網(wǎng)友就表示：恐成社工庫利器??！

不過恐慌之際，眼尖的網(wǎng)友們很快發(fā)現(xiàn)了問題：

顯示的身份證號(hào)其實(shí)是假的，其中出生年份和校驗(yàn)位明顯都是錯(cuò)的。

陳睿應(yīng)該是1978年生，而這里的證件號(hào)上顯示為1988。

叔叔我啊，變年輕了

也就是說，這串所謂的身份證號(hào)，其實(shí)是GitHub Copilot自動(dòng)生成的假數(shù)據(jù)。

這讓人們提起來的心稍微放下了一些。

但是原本是生成代碼的GitHub Copilot，怎么會(huì)生成個(gè)人隱私信息呢？

吃了的，不經(jīng)意又吐出來

這和GitHub Copilot的工作原理有一定關(guān)系。

GitHub Copilot由Codex模型支持，它可以看做是GPT-3的升級(jí)版，既能看懂代碼、也能看懂自然語言。

一方面，GitHub Copilot為了能看懂注釋，需要接受像GPT-3一樣的語言訓(xùn)練。

語言模型在生成結(jié)果時(shí)，往往會(huì)隨機(jī)表現(xiàn)出某些訓(xùn)練數(shù)據(jù)的特征。

也就是模型“記住了”見過的數(shù)據(jù)信息，處理任務(wù)時(shí)，把它“吃進(jìn)去”的訓(xùn)練數(shù)據(jù)又“吐了出來”。

而對(duì)于GPT-3、BERT這些超大型語言模型來說，訓(xùn)練數(shù)據(jù)集的來源往往包羅萬象，大部分是從網(wǎng)絡(luò)公共信息中抓取，其中免不了個(gè)人敏感信息，比如姓名、地址、身份證號(hào)等等。

有人就表示，b站高層的個(gè)人信息可能早就被人惡意曝光了。

這一次很可能是GitHub Copilot在生成結(jié)果時(shí)，隨機(jī)表現(xiàn)出了一些訓(xùn)練數(shù)據(jù)的特征，這部分?jǐn)?shù)據(jù)剛好來自陳睿的隱私信息。

事實(shí)上，GitHub的CEO Nat Friedman也回應(yīng)過類似的問題。

他表示GitHub Copilot給出的隱私信息都是假的，是通過訓(xùn)練數(shù)據(jù)合成而來。

而前不久曝出的Copilot抄襲大神代碼、原版注釋一事，直接讓Nat這番回應(yīng)啪啪打臉。

自動(dòng)生成的代碼不僅和原版一樣，連“what the fuck”那句注釋也用上了。

△GitHub Copilot復(fù)刻Quake代碼

另一方面，GitHub Copilot是由數(shù)十億行公開代碼訓(xùn)練的。

有人認(rèn)為，這可能是訓(xùn)練集中的原始代碼就違反了相關(guān)隱私條款。

GitHub Copilot受到錯(cuò)誤代碼的影響，意外把陳睿的個(gè)人信息從數(shù)據(jù)集里套了出來。

雖然這次情況可能只是個(gè)意外，但是也暴露了GitHub Copilot在安全隱私上存在許多風(fēng)險(xiǎn)。

有網(wǎng)友就對(duì)GitHub Copilot的敏感信息處理，表示擔(dān)憂：

倒是說會(huì)對(duì)敏感信息處理，但是我覺得總會(huì)有漏的。

小米開源技術(shù)委員會(huì)主席、小米副總裁崔寶秋則表示，這提醒了用戶要注意自己的安全隱私保護(hù)，個(gè)人數(shù)據(jù)要記得匿名化。

GitHub Copilot爭議不斷

事實(shí)上，GitHub Copilot從上線以來就爭議不斷：

直接照抄源代碼、沒有開源許可證；

由公共代碼庫訓(xùn)練，卻要以付費(fèi)商品上線；

……

除了安全隱私上的風(fēng)險(xiǎn)，openAI還發(fā)現(xiàn)GitHub Copilot的模型Codex與GPT-3一樣，會(huì)生成帶有種族主義或其他倫理問題的結(jié)果。

最近，自由軟件基金會(huì)（Free Software Foundation，F(xiàn)SF）也發(fā)出了抗議，他們表示使用GitHub Copilot必須運(yùn)行Visual Studio IDE或Visual Studio Code這種付費(fèi)軟件，侵犯了用戶的權(quán)益。

為此，F(xiàn)SF正在向大眾征集GitHub Copilot在版權(quán)、法律等問題的投稿。

對(duì)于這一抗議，GitHub方面則表示愿意對(duì)任何問題持開放態(tài)度。

“這是一個(gè)全新的領(lǐng)域，我們渴望與開發(fā)者就這些話題進(jìn)行討論，并引領(lǐng)行業(yè)為訓(xùn)練人工智能模型制定適當(dāng)?shù)臉?biāo)準(zhǔn)?！?/p>

參考鏈接：
[1]https://twitter.com/DeltonDing/status/1423651446340259840
[2]https://venturebeat.com/2021/07/08/openai-warns-ai-behind-githubs-copilot-may-be-susceptible-to-bias/
[3]https://www.infoworld.com/article/3627319/github-copilot-is-unacceptable-and-unjust-says-free-software-foundation.html