寡姐怒斥ChatGPT盜用自己聲音，OpenAI：已下架，但真沒(méi)模仿她

克雷西 2024-05-21 14:52:47 來(lái)源：量子位

克雷西 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

OpenAI的新王炸GPT-4o還沒(méi)全面鋪開(kāi)，就攤上事了！

抓馬的是，此次推出的“視頻通話”功能一度被稱為電影《Her》現(xiàn)實(shí)版，而怒斥OpenAI的剛好是給電影中AI配音的斯嘉麗·約翰遜（寡姐）。

寡姐控訴，OpenAI未經(jīng)允許就在ChatGPT中使用了自己相似度極高的聲音，對(duì)此感到既震驚又憤怒。

OpenAI這邊則是予以否認(rèn)，一邊表示自己并沒(méi)有模仿寡姐，但另一邊還是把受到爭(zhēng)議的聲音下架了。

控訴一出，就引發(fā)了網(wǎng)友們的熱議，本特利大學(xué)教授Noah Giansiracusa就表示，OpenAI使用和名人高度相似的聲音，這種做法哪怕沒(méi)違法，也是不道德的。

當(dāng)然，這件事到現(xiàn)在還沒(méi)有被實(shí)錘，OpenAI也做出了辯解，網(wǎng)友們認(rèn)為，如果聲音和名人真的只是相似的話，那就沒(méi)有被禁止的理由了。

所以，OpenAI的這個(gè)新瓜到底保不保熟，下面就一起來(lái)吃一吃。

寡姐：我拒絕過(guò)奧特曼

整件事情的導(dǎo)火索，是在GPT-4o發(fā)布后，“實(shí)時(shí)視頻通話”功能爆火，一度被稱為電影《Her》的現(xiàn)實(shí)版。

在該功能中，ChatGPT可以同時(shí)進(jìn)行看、聽(tīng)和說(shuō)，也就是在語(yǔ)音對(duì)話的同時(shí)調(diào)用攝像頭分析環(huán)境信息，而且過(guò)程十分流暢，就像在和AI打視頻電話。

而且聲音、語(yǔ)調(diào)甚至氣息都和真人十分接近，可以選擇的音色一共有五種。

引發(fā)爭(zhēng)議的是，其中一個(gè)叫做Sky的聲音，被認(rèn)為聽(tīng)起來(lái)很像寡姐。

這個(gè)備受爭(zhēng)議的Sky，在GPT-4o團(tuán)隊(duì)成員Rocky Smith的測(cè)試視頻中有過(guò)展現(xiàn)，大家可以感受下：

寡姐則表示，自己本人和親朋好友都覺(jué)得這個(gè)聲音簡(jiǎn)直和自己如出一轍，和自己熟悉的一些媒體也這樣認(rèn)為。

不光聲音很像，更關(guān)鍵的是寡姐的聲明中還透露，OpenAI的確有過(guò)使用自己聲音的想法。

事情要追溯到去年9月，寡姐受到了奧特曼的邀請(qǐng)，想要讓她給ChatGPT配音，但考慮許久后，她拒絕了。

甚至直到GPT-4o發(fā)布前兩天，奧特曼還聯(lián)系過(guò)寡姐的經(jīng)紀(jì)人，要求她重新考慮一下，結(jié)果當(dāng)然是沒(méi)有答應(yīng)。

本以為事情就此結(jié)束，直到寡姐和周圍的人聽(tīng)到了Sky，這個(gè)和自己高度相似的聲音，她對(duì)此表示震驚、憤怒，又難以置信。

在GPT-4o發(fā)布的那天，奧特曼還發(fā)了一條推文，內(nèi)容只有一個(gè)“her”，寡姐認(rèn)為奧特曼這是在暗示使用和自己相似的聲音就是故意的。

事后寡姐才回過(guò)味來(lái)，奧特曼在發(fā)布前兩天找到自己的時(shí)候，GPT-4o肯定早就做好了（原文：Before we could connect, the system was out there.）。

忍無(wú)可忍的寡姐聘請(qǐng)了法律顧問(wèn)，給OpenAI發(fā)去了兩封信，要求對(duì)Sky一事做出解釋，詳細(xì)說(shuō)明其創(chuàng)建過(guò)程。

按照寡姐一方的說(shuō)法，OpenAI收到這兩封信之后，才“極不情愿”地把Sky下了架。

順便提一句，Sky雖然下架了但是按鈕還在，不過(guò)如果選擇了Sky的話，實(shí)際使用的聲音會(huì)被替換成Juniper。

當(dāng)然，這些都是寡姐一方的說(shuō)法，OpenAI則表示自己并沒(méi)有試圖模仿她。

OpenAI的解釋

收到寡姐的控訴后，OpenAI在官方推特中給出了這樣的回復(fù)：

我們收到了關(guān)于ChatGPT中聲音，特別是Sky的疑問(wèn)，我們正在采取措施暫停Sky的使用，直到問(wèn)題被厘清。

同時(shí)，OpenAI還附上了一則官網(wǎng)中的聲明，介紹了ChatGPT中聲音的選擇流程。

其中就表示，Sky并沒(méi)有用寡姐的聲音，而是另一名專業(yè)的演員，但出于隱私保護(hù)考慮不能透露其姓名。

甚至在早些時(shí)候，OpenAI的CTO Mira Murati還對(duì)The Verge表示，ChatGPT里的聲音和寡姐并不像，而且已經(jīng)使用一段時(shí)間了。

至于具體的選角流程，OpenAI介紹說(shuō)是與知名的選角導(dǎo)演和制片人合作進(jìn)行招募。

2023年5月，招募正式開(kāi)始，在不到一周的時(shí)間里就收到了400多份作品。

在試鏡時(shí)，演員們被要求錄制包含ChatGPT回復(fù)的腳本，內(nèi)容涵蓋旅行規(guī)劃、日常聊天等。

經(jīng)過(guò)試鏡之后，有14人被確定為初步人選，然后OpenAI與他們討論了對(duì)于人機(jī)AI語(yǔ)音交互和OpenAI的愿景。

同時(shí)，OpenAI還向候選人介紹了該技術(shù)的功能、局限性和所涉及的風(fēng)險(xiǎn)，以及OpenAI實(shí)施的保障措施，目的是讓每個(gè)演員在投入該項(xiàng)目之前都充分了解OpenAI的意圖。

最終，OpenAI選擇了最終選定了Breeze、Cove、Ember、Juniper和Sky這五個(gè)人的聲音，然后在6月和7月期間，讓演員們飛到舊金山進(jìn)行錄制，并與OpenAI產(chǎn)品和研究團(tuán)隊(duì)進(jìn)行面對(duì)面的會(huì)議。

9月25日，這些聲音被發(fā)布到了ChatGPT。

而至于斯嘉麗提到的被奧特曼找到過(guò)，還在GPT-4o發(fā)布之前與自己聯(lián)系的事情，OpenAI并未做出回應(yīng)；針對(duì)OpenAI介紹的選角流程，斯嘉麗這邊也還沒(méi)有評(píng)論。

不過(guò)今年3月，OpenAI在發(fā)布聲音合成引擎Voice Engine的時(shí)候，就有提到過(guò)采取了措施避免克隆公共人物的聲音。

而出于安全考慮，Voice Engine被雪藏了一年多之后才被正式發(fā)布。

所以，OpenAI也十分清楚，克隆名人的聲音就是一個(gè)雷區(qū)，但如果這次他們真的用了寡姐的聲音，事情就變得有意思了。

不過(guò)盡管有爭(zhēng)議，但研發(fā)的腳步還得繼續(xù)，OpenAI總裁Brockman仍在推特上發(fā)布著語(yǔ)音團(tuán)隊(duì)的招聘信息。

推文中，Brockman寫(xiě)到，OpenAI正在招募工程師擴(kuò)大并安全推進(jìn)多模態(tài)語(yǔ)音模型。

總之關(guān)于這件事，可能還要讓子彈再飛一會(huì)兒。在最終結(jié)果出爐之前還是理性吃瓜，就像這位網(wǎng)友說(shuō)的：

如果OpenAI所述為真，確實(shí)沒(méi)有用寡姐的聲音，那么即使她本人感到擔(dān)憂，也不能把這件事稱之為丑聞。

但其實(shí)，這已經(jīng)不是寡姐第一次對(duì)AI企業(yè)提出控訴了。

One More Thing

去年十一月，寡姐對(duì)一款名為L(zhǎng)isa AI的AI繪圖工具采取了法律行動(dòng)。

理由是Lisa未經(jīng)同意使用了她的肖像和姓名拍攝了一段廣告片。

廣告的開(kāi)頭是一段寡姐在漫威電影《黑寡婦》幕后的片段，然后屏幕轉(zhuǎn)變成人工智能生成的與演員相似的照片。

接著，一個(gè)模仿寡姐的假聲音開(kāi)始說(shuō)話，對(duì)Lisa AI進(jìn)行了宣傳。

最終這段廣告當(dāng)然沒(méi)有逃過(guò)被下架的結(jié)局，但和OpenAI“打擦邊球”相比，Lisa AI的做法已經(jīng)屬于貼臉開(kāi)大了。

參考鏈接：
[1]https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/
[2]https://www.bloomberg.com/news/articles/2024-05-20/openai-to-pull-johansson-soundalike-sky-s-voice-from-chatgpt
[3]https://variety.com/2024/digital/news/scarlett-johansson-responds-shocked-angered-openai-chatgpt-her-1236011135/
[4]https://www.theverge.com/2024/5/13/24155652/chatgpt-voice-mode-gpt4o-upgrades