蘋果禁用ChatGPT，為防機(jī)密泄露！大模型版Siri即將升級推出

白交 2023-05-20 13:13:38 來源：量子位

明敏 楊凈 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

前腳ChatGPT剛剛上線iOS嗨翻全球，火速霸榜APP Store；

后腳卻曝出消息——蘋果自家員工不能用ChatGPT，而且已經(jīng)好幾個月了。

這事兒馬上引發(fā)巨大討論。

要知道，從ChatGPT趨勢到來后，蘋果就幾乎保持“隱身”，好不容易iPhone擁抱ChatGPT了，現(xiàn)在好像又潑了盆冷水。

有人已經(jīng)開始嘲諷：

蘋果是害怕員工發(fā)現(xiàn)AI真的有用嗎？

所以他們要用自己的？最好別像Siri那樣。

誒？還真說不定。

借著這次大新聞，蘋果研究自家大模型的消息也不脛而走，而且Siri也將很快上線AI新功能。

最新庫克公開表態(tài)：生成AI技術(shù)潛力很大，但有問題需要解決，也側(cè)面印證了他們的AI進(jìn)展。

所以蘋果不是不搞，或許只是發(fā)布時間沒到。

擔(dān)憂數(shù)據(jù)泄露

據(jù)《華爾街日報》消息，蘋果禁止員工使用的包括ChatGPT和Copilot。

知名蘋果產(chǎn)品追蹤記者也在推特上進(jìn)一步爆料，ChatGPT在蘋果員工禁用名單上已經(jīng)好幾個月了。

會有這樣的決策倒也不稀奇。

一方面，ChatGPT本身在數(shù)據(jù)使用方面一直備受爭議。

最初，除了API用戶以外的所有用戶聊天記錄，都會被用來訓(xùn)練和提升模型性能，這意味著用戶數(shù)據(jù)有被泄露的風(fēng)險。

事實上，今年3月確實發(fā)生這樣的意外事故。

一個bug導(dǎo)致一些用戶的對話標(biāo)題泄露，其他人能在自己的界面上看到這些信息。當(dāng)時這個bug一度導(dǎo)致ChatGPT臨時關(guān)閉。

上個月，OpenAI正式推出新規(guī)定，以進(jìn)一步保護(hù)用戶數(shù)據(jù)安全：

用戶可以通過關(guān)閉聊天記錄功能，來避免自己的個人數(shù)據(jù)被官方拿去訓(xùn)練。

另一方面，出于安全方面的考慮，不少大型企業(yè)都出臺相關(guān)政策要求員工不要使用ChatGPT。

如亞馬遜在1月就要求員工不要將代碼輸入ChatGPT，此前有消息稱，它們發(fā)現(xiàn)了ChatGPT會模仿亞馬遜內(nèi)部代碼。

摩根大通在2月限制全球員工使用ChatGPT，原因是出于合規(guī)方面的考慮。

還有更加離奇一些的，三星曾表示20天內(nèi)因ChatGPT發(fā)生了3起數(shù)據(jù)泄露事故。

而一直以強(qiáng)調(diào)安全著稱的蘋果，做出類似舉措也就合情合理了。

畢竟一旦員工不小心將機(jī)密項目的信息輸入系統(tǒng)，這些內(nèi)容就可能泄露給OpenAI。

還有人表示，ChatGPT的輸出結(jié)果還是有出錯的可能，或許會導(dǎo)致bug產(chǎn)生、數(shù)據(jù)漏洞等，所以大公司禁止使用也合情合理。

不過，ChatGPT爆火幾個月以來，它在工作效率、工作創(chuàng)意上的提升是不可否認(rèn)的。

很多人都將它加入到了自己的工作流，包括陶哲軒這樣的大佬。

最初明令禁止學(xué)生使用ChatGPT的紐約公立中學(xué)，也在這兩天內(nèi)取消禁令。

所以不免有人擔(dān)心，蘋果這樣封閉ChatGPT，是否會扼殺自身的創(chuàng)新能力。

值得一提的是，曾經(jīng)禁止員工使用ChatGPT的亞馬遜，近期也加入了大模型浪潮，發(fā)布自家大模型平臺。

這也開始讓人猜測，大廠不是不擁抱ChatGPT，只是要擁抱自己的ChatGPT？

事實上，蘋果的最新語言大模型，真的有消息了。

Siri被曝很快上線新AI功能

據(jù)9to5Mac爆料，Siri將很快上線新的AI功能。

新技術(shù)代號為Bobcat，早在今年3月就被爆出已經(jīng)在進(jìn)行測試了——

首先是在最新tvOS 16.4 beta上測試，新框架叫做Siri Natural Language Generation（Siri自然語言生成）功能，之后這一功能進(jìn)入到蘋果的其他操作系統(tǒng)中。

但爆料顯示只不過是實現(xiàn)了在Apple TV上與Siri講笑話。除此之外，還在試驗如何將語言生成用于計時器。

與此同時，這一新項目的領(lǐng)導(dǎo)人也被爆出。

John Giannandrea，目前是蘋果負(fù)責(zé)機(jī)器學(xué)習(xí)和AI戰(zhàn)略的高級副總裁，直接向庫克匯報。

他早在2018年就加入蘋果，負(fù)責(zé)監(jiān)督整個公司的AI和ML戰(zhàn)略以及Core ML和Siri技術(shù)的開發(fā)。在加入蘋果之前，他曾在谷歌呆了八年，領(lǐng)導(dǎo)機(jī)器智能、研究和搜索團(tuán)隊。

而就在最近的投資者電話會議上庫克表態(tài)，也側(cè)面證實了他們在做相關(guān)的研發(fā)，只不過發(fā)布時機(jī)還沒到。

此前，就有蘋果員工曾抱怨Siri工作效率低下。Siri之所以逐漸走向沒落，是因為內(nèi)部團(tuán)隊混亂、決策緩慢、代碼笨重，導(dǎo)致在Siri和AI開發(fā)上受到嚴(yán)重阻礙。

更本質(zhì)的原因，還在于技術(shù)研發(fā)和判斷上。

比如現(xiàn)在ChatGPT所展現(xiàn)的核心功能和技術(shù)，就曾被蘋果高管否決過。

就像長對話能力，他們認(rèn)為會導(dǎo)致對話容易失控，而且“很花哨”。

為了防止Siri胡言亂語，蘋果選擇讓人工團(tuán)隊預(yù)先寫出答案，并且還多次拒絕允許用戶對Siri回答問題進(jìn)行反饋，導(dǎo)致開發(fā)團(tuán)隊無法理解模型的局限。

雖然不能肯定蘋果禁用ChatGPT，與自身開發(fā)AI工具有關(guān)。

但是蘋果Siri上線新AI功能，想必也是不少人所期待了。

參考鏈接：
[1]https://www.wsj.com/articles/apple-restricts-use-of-chatgpt-joining-other-companies-wary-of-leaks-d44d7d34
[2]https://9to5mac.com/2023/05/18/apple-bans-employees-from-using-chatgpt/