如果《賽博朋克2077》走進(jìn)現(xiàn)實(shí)，人類(lèi)如何擺脫AI的支配？

十三 2021-03-30 14:28:48 來(lái)源：量子位

金磊 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI

“有人在改變我們，但不知道是誰(shuí)，什么方式，為什么?！?/p>

“他們修改思維，修改個(gè)人想法……目的就是操縱你們的人生?！?/p>

“認(rèn)知模式緩沖器、遠(yuǎn)程神經(jīng)網(wǎng)絡(luò)再造……最妙的是，一切都是合理的，潛意識(shí)電視信號(hào)、你的電動(dòng)牙刷里的高密度發(fā)射器?！?/p>

這就是來(lái)自最近大火的游戲——《賽博朋克2077》的對(duì)白。

游戲劇情設(shè)定的時(shí)間是在不久的未來(lái)，而人類(lèi)要擊敗的，正是有了自我意識(shí)的AI。

因?yàn)槭聭B(tài)再發(fā)展下去，人類(lèi)的行為將被AI所控制，服從它們的邏輯、算法。

……

雖然這樣大膽的想法似乎只存在于科幻情節(jié)，但隨著AI技術(shù)的不斷發(fā)展，與之相關(guān)的一個(gè)話題卻逐步走入公眾視線：

AI倫理道德。

走出象牙塔的AI

首先我們需要了解的是，什么是AI倫理道德？

根據(jù)維基百科給出的解釋?zhuān)?/p>

AI倫理道德是技術(shù)倫理學(xué)的一個(gè)分支，有時(shí)被認(rèn)為是人類(lèi)在設(shè)計(jì)、制造、使用和對(duì)待人工智能系統(tǒng)時(shí)，對(duì)道德行為和機(jī)器行為的關(guān)注。

它還包括超級(jí)智能人工智能可能導(dǎo)致的奇點(diǎn)問(wèn)題。

追溯到更早，1942年，在著名科幻作家阿西莫夫的作品《環(huán)舞》中，就曾提出過(guò)著名的“機(jī)器人三定律”。

• 第零法則：機(jī)器人不得傷害整體人類(lèi)，或坐視整體人類(lèi)受到傷害；
• 第一法則：除非違背第零法則，否則機(jī)器人不得傷害人類(lèi)，或坐視人類(lèi)受到傷害；
• 第二法則：機(jī)器人必須服從人類(lèi)命令，除非命令與第零或第一法則發(fā)生沖突；
• 第三法則：在不違背第零、第一或第二法則之下，機(jī)器人可以保護(hù)自己。

隨著人們對(duì)AI研究的不斷深入，與之相關(guān)的一系列技術(shù)，現(xiàn)已經(jīng)“走出象牙塔”，逐步滲入到日常生活中的各行各業(yè)。

與此同時(shí)，除了AI技術(shù)給人們帶來(lái)的諸多便利之外，相伴相隨地，許多“倫理道德”相關(guān)的問(wèn)題也浮現(xiàn)在公眾面前。

例如以爆火的GAN技術(shù)衍生的Deepfakes，便可以憑空捏造各種各樣、甚至不存在的人臉。

以及將圖像、視頻中的人臉，毫無(wú)違和感地?fù)Q成其他人（尤其是名人）也是它的長(zhǎng)項(xiàng)，曾一度引起安全、隱私相關(guān)的輿論。

△ 國(guó)外短視頻用戶(hù)“高仿”年輕時(shí)的阿湯哥

語(yǔ)音AI技術(shù)方面也存在類(lèi)似的問(wèn)題，例如已經(jīng)非常普及的語(yǔ)音助手Siri，就曾被曝出一件離譜的事情。

當(dāng)用戶(hù)咨詢(xún)“自殺”相關(guān)問(wèn)題，Siri竟然推薦了距離最近的一座橋……

△ 蘋(píng)果Siri語(yǔ)音助手

但這些，卻僅僅是“AI倫理道德”問(wèn)題浮現(xiàn)出來(lái)的冰山一角。而且很明顯的，這個(gè)問(wèn)題已然超出了在“象牙塔”內(nèi)就能解決的范疇，更需要的是社會(huì)組織、企業(yè)的共同努力。

在國(guó)外，亞馬遜、谷歌、Facebook、IBM和微軟的科技巨頭，已經(jīng)建立了一個(gè)非營(yíng)利性的合作伙伴關(guān)系，來(lái)制定與AI倫理道德相關(guān)的最佳實(shí)踐。

社會(huì)組織方面，IEEE便提出了一個(gè)關(guān)于自主和智能系統(tǒng)倫理的全球倡議，在公眾意見(jiàn)的幫助下，一直在制定和修訂指南。

不難看出，“AI倫理道德”問(wèn)題已經(jīng)引起了學(xué)術(shù)界、產(chǎn)業(yè)界、社會(huì)組織等各方的重視。

但似乎各方之間更多的是獨(dú)立制定，而不是緊密的耦合。

“AI倫理道德”的破局之道

作為一個(gè)時(shí)代的產(chǎn)物，雖然AI的一些“副作用”已經(jīng)有所顯現(xiàn)，但拒絕這個(gè)技術(shù)，顯然不是一個(gè)明智的選擇。

那么“AI倫理道德”這步棋又該如何破解？

近日，由商湯科技與上海交通大學(xué)聯(lián)合主辦的“上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心揭牌儀式”，在上交大成功舉行。

在此次活動(dòng)中，便為這局棋提供了一個(gè)破解之道：

產(chǎn)學(xué)研一體化：首創(chuàng)性地在人工智能倫理研究領(lǐng)域，開(kāi)拓了校企合作模式。

AI技術(shù)、應(yīng)用需要產(chǎn)學(xué)研結(jié)合，倒是經(jīng)常被提及。但”AI道德倫理”，也需要產(chǎn)學(xué)研結(jié)合?

新鮮，也很獨(dú)特。

那該如何理解此舉？不妨從兩點(diǎn)來(lái)看。

第一點(diǎn)，“AI倫理道德”本身是否具備需要聚多方之力來(lái)探討的價(jià)值。

對(duì)此，商湯科技智能產(chǎn)業(yè)研究院院長(zhǎng)、上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心聯(lián)袂主任田豐認(rèn)為，“AI的責(zé)任與權(quán)利”，是一個(gè)不可避免的社會(huì)議題。而成立上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心，是順應(yīng)時(shí)代的變性，主要因素有三：

• 命題足夠復(fù)雜：AI已經(jīng)涉及眾多領(lǐng)域，但同時(shí)飽受爭(zhēng)議，加上跨學(xué)科、百年大變局等環(huán)境，對(duì)復(fù)雜度有很強(qiáng)的研究?jī)r(jià)值或者研究需求。
• 命題足夠長(zhǎng)期：如果AI是百年大變局的主線，那么計(jì)算法學(xué)和AI倫理一定是長(zhǎng)期的研究命題。
• 聯(lián)合研究很重要：擁有來(lái)自學(xué)界、法律界、產(chǎn)業(yè)界及政府的專(zhuān)家，可以從多維度的視角去考慮問(wèn)題。

△ 商湯科技智能產(chǎn)業(yè)研究院院長(zhǎng)、上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心聯(lián)袂主任，田豐

第二點(diǎn)，“AI倫理道德”問(wèn)題是否已經(jīng)發(fā)展到了如此大力“整治”的節(jié)點(diǎn)。

此次儀式中便得出了這樣一個(gè)結(jié)論：

今年（2021年）會(huì)成為AI倫理、隱私等這方面，非常有爭(zhēng)議的元年。

具體而言，除了最近經(jīng)?；钴S在大眾視線的技術(shù)安全隱患之外，像手機(jī)等智能軟件和設(shè)備，已然涉及眾多AI技術(shù)。而所涵蓋到的人數(shù)，在全球范圍來(lái)看至少高達(dá)10億至20億。

從全球發(fā)布的相關(guān)論文數(shù)量角度來(lái)看，與人工智能安全風(fēng)險(xiǎn)和安全防御的相關(guān)研究激增，這就從一定角度說(shuō)明，科技能力也好，科技哲學(xué)也罷，是一個(gè)巨大的研究需求和機(jī)會(huì)。

更進(jìn)一步的，這種“校企合作”該怎么做？

走出象牙塔，這是較為核心的一點(diǎn)。

換言之，就是在理論構(gòu)建之外，從實(shí)際應(yīng)用場(chǎng)景中觀察科技所造成的社會(huì)影響，自下而上地歸納出洞察并反饋。

據(jù)了解，此次合作成立的計(jì)算法學(xué)與AI倫理研究中心，將會(huì)融合理論研究與實(shí)踐經(jīng)驗(yàn)，在新興計(jì)算機(jī)系統(tǒng)研發(fā)、智能生態(tài)圈的構(gòu)建、圍繞數(shù)字經(jīng)濟(jì)的規(guī)則博弈以及人工智能立法等方面成為國(guó)內(nèi)頂級(jí)、國(guó)際知名的學(xué)術(shù)重鎮(zhèn)和高端智庫(kù)。

而研究中心成立之后，未來(lái)在“AI倫理道德”方面希望逐個(gè)攻破的“靶點(diǎn)”，也有了較為清晰的介紹：

將重點(diǎn)圍繞人工智能倫理、城市和社會(huì)的數(shù)字化治理、計(jì)算法學(xué)、認(rèn)知科學(xué)與法律行為、智慧司法等相關(guān)領(lǐng)域開(kāi)展合作研究，包括但不限于大數(shù)據(jù)和人工智能相關(guān)的原則、法規(guī)、政策、技術(shù)規(guī)格的研究以及認(rèn)知科學(xué)與法律行為實(shí)驗(yàn)。

并就相關(guān)問(wèn)題構(gòu)建知識(shí)圖譜、提交研究報(bào)告、承接政府課題、發(fā)表論文、出版專(zhuān)著等等。

為什么要發(fā)力“AI倫理道德”？

雖然“上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心”的成立，對(duì)于AI倫理道德是一種新穎的探索方式，也是一個(gè)良好的起步。

但在“落地為王”大環(huán)境、大趨勢(shì)的當(dāng)下，國(guó)內(nèi)人工智能頭部企業(yè)緣何要發(fā)力于此？

畢竟“AI道德倫理”問(wèn)題不是說(shuō)解決就能解決的，此前的研究大多也都停留在對(duì)“可能性”和“未來(lái)影響”的理論工作。

然而“難”并不等同于“不可能”。

例如2012年，AI可以區(qū)分人類(lèi)的假笑和真笑；2015年，AI測(cè)謊儀擊敗了最好的人類(lèi)審訊員；2017年，AI通過(guò)人臉識(shí)別可以預(yù)測(cè)一個(gè)人是否患有抑郁癥，甚至有自殺傾向。

即便現(xiàn)在仍舊存在著諸多“AI倫理道德”方面的安全隱患，但不可否認(rèn)的是，它的進(jìn)步和改善也是有目共睹。

由此進(jìn)一步考慮這個(gè)問(wèn)題，商湯在“AI倫理道德”上所做的工作，也就不難理解。

首先從產(chǎn)品層面來(lái)看，公眾越發(fā)地重視對(duì)“AI倫理道德”的考量，而這一點(diǎn)，也恰恰是拓展產(chǎn)品渠道的路徑之一：模型、數(shù)據(jù)的不完整會(huì)產(chǎn)生“偏見(jiàn)”，系統(tǒng)的隱患會(huì)帶來(lái)其保密性和可用性的風(fēng)險(xiǎn)。

因此，聚焦到內(nèi)部，商湯于2019年專(zhuān)門(mén)設(shè)立人工智能倫理委員會(huì)，致力于設(shè)計(jì)和規(guī)范公司產(chǎn)品倫理審核流程。倫理委員會(huì)由商湯各部門(mén)代表組成，逐步引入外部專(zhuān)家顧問(wèn)，審核所有商湯的產(chǎn)品，包括從立項(xiàng)到上線，以及上線之后，評(píng)估所有在倫理方面的風(fēng)險(xiǎn)。

除此之外，還設(shè)有數(shù)據(jù)安全及個(gè)人信息保護(hù)委員會(huì)，更關(guān)注數(shù)據(jù)全生命周期、算法全生命周期方面的風(fēng)險(xiǎn)。

企業(yè)履行社會(huì)責(zé)任，不是單純向外部展示所做出的一些成果。想為社會(huì)做出實(shí)質(zhì)貢獻(xiàn)，只有將“向善”的理念深植于企業(yè)的發(fā)展觀中，才能自上而下地造成影響，自發(fā)地反映在實(shí)際舉措當(dāng)中。

其次，此次能夠?qū)ⅰ爱a(chǎn)學(xué)研一體”的概念首創(chuàng)性地滲入“AI倫理道德”，也離不開(kāi)商湯自身的基因和優(yōu)勢(shì)，即學(xué)院派背景。

也正是基于此，商湯可以積極向外拓展合作的空間，基于可持續(xù)發(fā)展觀的愿景，與其他人工智能企業(yè)、高校等非政府機(jī)構(gòu)達(dá)成共識(shí)，共同構(gòu)建“AI倫理道德”的生態(tài)建設(shè)。

但實(shí)際上，從實(shí)際行動(dòng)角度來(lái)看，這并不是商湯在此領(lǐng)域的第一步，而是已經(jīng)有所布局?jǐn)?shù)年之久。

除人工智能倫理委員會(huì)外，早在2019年11月，在人臉識(shí)別國(guó)家標(biāo)準(zhǔn)工作組成立之際，商湯便擔(dān)任了組長(zhǎng)單位，并在半年時(shí)間內(nèi)，成功實(shí)現(xiàn)三項(xiàng)國(guó)家標(biāo)準(zhǔn)的正式立項(xiàng)，包括《人臉識(shí)別系統(tǒng)技術(shù)要求》、《人臉識(shí)別系統(tǒng)測(cè)試方法》、《人臉圖像數(shù)據(jù)交換格式》。

（目前，《人臉識(shí)別系統(tǒng)技術(shù)要求》被放在首要重要位置進(jìn)行優(yōu)先制定，已經(jīng)通過(guò)專(zhuān)家內(nèi)審會(huì)并積極推進(jìn)中。）

去年6月，在首屆“AI可持續(xù)發(fā)展2030論壇”上，商湯智能產(chǎn)業(yè)研究院與上交大清源研究院聯(lián)合發(fā)布《AI可持續(xù)發(fā)展白皮書(shū)》，提出了以“尊重協(xié)商，探索包容文化”為核心的AI可持續(xù)發(fā)展觀、以人為本、共享惠民、融合發(fā)展和科研創(chuàng)新四項(xiàng)AI發(fā)展價(jià)值觀。

同年8月份，商湯入選了首屆AI國(guó)家標(biāo)準(zhǔn)化組織，參與人工智能風(fēng)險(xiǎn)管理與治理標(biāo)準(zhǔn)的制定。

而且，商湯“AI倫理道德”層面上的工作，不僅限于國(guó)內(nèi)，在國(guó)際上，商湯便在去年年底成功立項(xiàng)IEEE標(biāo)準(zhǔn)《人臉識(shí)別系統(tǒng)技術(shù)要求》，并擔(dān)任了“人臉識(shí)別”工作組主席。

現(xiàn)在，商湯還準(zhǔn)備將所提出來(lái)的標(biāo)準(zhǔn)，升級(jí)為ISO國(guó)際標(biāo)準(zhǔn)，以此讓人臉識(shí)別等技術(shù)能夠更好的規(guī)范化，更有助于技術(shù)安全落地。

但歸根結(jié)底，人工智能和每一個(gè)時(shí)代下的科技類(lèi)似，都是一把雙刃劍，具體將向何處發(fā)展、怎么發(fā)展，還是在于使用技術(shù)的人。

新技術(shù)發(fā)展帶來(lái)的挑戰(zhàn)，最好還是由技術(shù)解決。

你說(shuō)呢？

參考鏈接：

[1]https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence#:~:text=Machine%20ethics%20(or%20machine%20morality,morally%20or%20as%20though%20moral.
[2]https://diginomica.com/how-hard-is-it-to-solve-the-ethics-in-ai-problem