蘋果禁用ChatGPT，為防機(jī)密泄露！大模型版Siri即將升級(jí)推出

白交 2023-05-20 13:13:38 來(lái)源：量子位

明敏 楊凈 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

前腳ChatGPT剛剛上線iOS嗨翻全球，火速霸榜APP Store；

后腳卻曝出消息——蘋果自家員工不能用ChatGPT，而且已經(jīng)好幾個(gè)月了。

這事兒馬上引發(fā)巨大討論。

要知道，從ChatGPT趨勢(shì)到來(lái)后，蘋果就幾乎保持“隱身”，好不容易iPhone擁抱ChatGPT了，現(xiàn)在好像又潑了盆冷水。

有人已經(jīng)開始嘲諷：

蘋果是害怕員工發(fā)現(xiàn)AI真的有用嗎？

所以他們要用自己的？最好別像Siri那樣。

誒？還真說(shuō)不定。

借著這次大新聞，蘋果研究自家大模型的消息也不脛而走，而且Siri也將很快上線AI新功能。

最新庫(kù)克公開表態(tài)：生成AI技術(shù)潛力很大，但有問(wèn)題需要解決，也側(cè)面印證了他們的AI進(jìn)展。

所以蘋果不是不搞，或許只是發(fā)布時(shí)間沒(méi)到。

擔(dān)憂數(shù)據(jù)泄露

據(jù)《華爾街日?qǐng)?bào)》消息，蘋果禁止員工使用的包括ChatGPT和Copilot。

知名蘋果產(chǎn)品追蹤記者也在推特上進(jìn)一步爆料，ChatGPT在蘋果員工禁用名單上已經(jīng)好幾個(gè)月了。

會(huì)有這樣的決策倒也不稀奇。

一方面，ChatGPT本身在數(shù)據(jù)使用方面一直備受爭(zhēng)議。

最初，除了API用戶以外的所有用戶聊天記錄，都會(huì)被用來(lái)訓(xùn)練和提升模型性能，這意味著用戶數(shù)據(jù)有被泄露的風(fēng)險(xiǎn)。

事實(shí)上，今年3月確實(shí)發(fā)生這樣的意外事故。

一個(gè)bug導(dǎo)致一些用戶的對(duì)話標(biāo)題泄露，其他人能在自己的界面上看到這些信息。當(dāng)時(shí)這個(gè)bug一度導(dǎo)致ChatGPT臨時(shí)關(guān)閉。

上個(gè)月，OpenAI正式推出新規(guī)定，以進(jìn)一步保護(hù)用戶數(shù)據(jù)安全：

用戶可以通過(guò)關(guān)閉聊天記錄功能，來(lái)避免自己的個(gè)人數(shù)據(jù)被官方拿去訓(xùn)練。

另一方面，出于安全方面的考慮，不少大型企業(yè)都出臺(tái)相關(guān)政策要求員工不要使用ChatGPT。

如亞馬遜在1月就要求員工不要將代碼輸入ChatGPT，此前有消息稱，它們發(fā)現(xiàn)了ChatGPT會(huì)模仿亞馬遜內(nèi)部代碼。

摩根大通在2月限制全球員工使用ChatGPT，原因是出于合規(guī)方面的考慮。

還有更加離奇一些的，三星曾表示20天內(nèi)因ChatGPT發(fā)生了3起數(shù)據(jù)泄露事故。

而一直以強(qiáng)調(diào)安全著稱的蘋果，做出類似舉措也就合情合理了。

畢竟一旦員工不小心將機(jī)密項(xiàng)目的信息輸入系統(tǒng)，這些內(nèi)容就可能泄露給OpenAI。

還有人表示，ChatGPT的輸出結(jié)果還是有出錯(cuò)的可能，或許會(huì)導(dǎo)致bug產(chǎn)生、數(shù)據(jù)漏洞等，所以大公司禁止使用也合情合理。

不過(guò)，ChatGPT爆火幾個(gè)月以來(lái)，它在工作效率、工作創(chuàng)意上的提升是不可否認(rèn)的。

很多人都將它加入到了自己的工作流，包括陶哲軒這樣的大佬。

最初明令禁止學(xué)生使用ChatGPT的紐約公立中學(xué)，也在這兩天內(nèi)取消禁令。

所以不免有人擔(dān)心，蘋果這樣封閉ChatGPT，是否會(huì)扼殺自身的創(chuàng)新能力。

值得一提的是，曾經(jīng)禁止員工使用ChatGPT的亞馬遜，近期也加入了大模型浪潮，發(fā)布自家大模型平臺(tái)。

這也開始讓人猜測(cè)，大廠不是不擁抱ChatGPT，只是要擁抱自己的ChatGPT？

事實(shí)上，蘋果的最新語(yǔ)言大模型，真的有消息了。

Siri被曝很快上線新AI功能

據(jù)9to5Mac爆料，Siri將很快上線新的AI功能。

新技術(shù)代號(hào)為Bobcat，早在今年3月就被爆出已經(jīng)在進(jìn)行測(cè)試了——

首先是在最新tvOS 16.4 beta上測(cè)試，新框架叫做Siri Natural Language Generation（Siri自然語(yǔ)言生成）功能，之后這一功能進(jìn)入到蘋果的其他操作系統(tǒng)中。

但爆料顯示只不過(guò)是實(shí)現(xiàn)了在Apple TV上與Siri講笑話。除此之外，還在試驗(yàn)如何將語(yǔ)言生成用于計(jì)時(shí)器。

與此同時(shí)，這一新項(xiàng)目的領(lǐng)導(dǎo)人也被爆出。

John Giannandrea，目前是蘋果負(fù)責(zé)機(jī)器學(xué)習(xí)和AI戰(zhàn)略的高級(jí)副總裁，直接向庫(kù)克匯報(bào)。

他早在2018年就加入蘋果，負(fù)責(zé)監(jiān)督整個(gè)公司的AI和ML戰(zhàn)略以及Core ML和Siri技術(shù)的開發(fā)。在加入蘋果之前，他曾在谷歌呆了八年，領(lǐng)導(dǎo)機(jī)器智能、研究和搜索團(tuán)隊(duì)。

而就在最近的投資者電話會(huì)議上庫(kù)克表態(tài)，也側(cè)面證實(shí)了他們?cè)谧鱿嚓P(guān)的研發(fā)，只不過(guò)發(fā)布時(shí)機(jī)還沒(méi)到。

此前，就有蘋果員工曾抱怨Siri工作效率低下。Siri之所以逐漸走向沒(méi)落，是因?yàn)?strong>內(nèi)部團(tuán)隊(duì)混亂、決策緩慢、代碼笨重，導(dǎo)致在Siri和AI開發(fā)上受到嚴(yán)重阻礙。

更本質(zhì)的原因，還在于技術(shù)研發(fā)和判斷上。

比如現(xiàn)在ChatGPT所展現(xiàn)的核心功能和技術(shù)，就曾被蘋果高管否決過(guò)。

就像長(zhǎng)對(duì)話能力，他們認(rèn)為會(huì)導(dǎo)致對(duì)話容易失控，而且“很花哨”。

為了防止Siri胡言亂語(yǔ)，蘋果選擇讓人工團(tuán)隊(duì)預(yù)先寫出答案，并且還多次拒絕允許用戶對(duì)Siri回答問(wèn)題進(jìn)行反饋，導(dǎo)致開發(fā)團(tuán)隊(duì)無(wú)法理解模型的局限。

雖然不能肯定蘋果禁用ChatGPT，與自身開發(fā)AI工具有關(guān)。

但是蘋果Siri上線新AI功能，想必也是不少人所期待了。

參考鏈接：
[1]https://www.wsj.com/articles/apple-restricts-use-of-chatgpt-joining-other-companies-wary-of-leaks-d44d7d34
[2]https://9to5mac.com/2023/05/18/apple-bans-employees-from-using-chatgpt/