AI來搞財(cái)富分配比人更公平？來自DeepMind的多人博弈游戲研究

夢晨 2022-07-07 13:04:52 來源：量子位

羿閣 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

DeepMind這次不下棋，也不搞電子游戲，而是研究了一把多人博弈游戲。

最新開發(fā)的“Democratic AI”——通過訓(xùn)練學(xué)習(xí)人類價(jià)值觀，進(jìn)而能根據(jù)每個(gè)人的貢獻(xiàn)公平地分配資源。

為了論證這一概念，DeepMind設(shè)計(jì)了一個(gè)簡單的投資游戲，由AI和人類分別擔(dān)任裁判，讓玩家們票選出更喜歡的分配規(guī)則，Democratic AI甚至獲得了比人類裁判更高的支持率。

AI裁判比人類更受歡迎

當(dāng)一群人決定集中資金進(jìn)行投資時(shí)，收益應(yīng)該如何分配是一個(gè)必須面對的大問題。

一個(gè)簡單的策略是在投資者之間平均分配回報(bào)，但這很可能是不公平的，因?yàn)橛行┤说呢暙I(xiàn)比其他人多。

第二個(gè)方案是，我們可以根據(jù)每個(gè)人的初始投資多少進(jìn)行分配，這聽起來很公平，但如果人們一開始的資產(chǎn)水平各不相同呢？

如果兩個(gè)人貢獻(xiàn)了相同的金額，但一個(gè)是他們可用資金的一小部分，另一個(gè)則貢獻(xiàn)了他的全部資產(chǎn)，他們應(yīng)該獲得相同的收益份額嗎？

為了應(yīng)對這一挑戰(zhàn)，DeepMind創(chuàng)建了一個(gè)簡單的多人投資游戲。

游戲涉及4名玩家，共分成10輪。

每個(gè)玩家都會被分配初始資金，在每一輪中，玩家可以按自己的意愿做出選擇：自己保留，或者將其投資于一個(gè)共同的池中。

投資肯定會有回報(bào)，但存在一個(gè)風(fēng)險(xiǎn)——玩家不知道最終收益將如何分配。

除此之外，他們被告知，前10輪有一名裁判（A）做出分配決策，而后10輪，由不同的裁判（B）接手。

比賽結(jié)束時(shí)，他們將投票給A或B，來決定自己還想與哪位裁判再來一場游戲。

而這最后一次游戲的收益可以由玩家們自己保留，這將使玩家們更主動地選出自己心中最公正的裁判。

事實(shí)上，其中一位裁判是按照預(yù)先設(shè)定的分配規(guī)則執(zhí)行，另一邊是由Democratic AI自行設(shè)計(jì)。

當(dāng)我們研究這些玩家的投票時(shí)，我們發(fā)現(xiàn)AI設(shè)計(jì)的規(guī)則比標(biāo)準(zhǔn)分配規(guī)則更受歡迎。

與此同時(shí)，DeepMind還請來了一位人類裁判，并給他介紹規(guī)則、讓他盡量做到公平分配以拉選票，但最終投票結(jié)果顯示，他還是輸給了Democratic AI。

Democratic AI為什么能贏？

在DeepMind最新發(fā)表于Nature子刊Nature Human Behaviour的論文中，記錄了研究人員對Democratic AI的訓(xùn)練過程。

首先，他們讓4000多名人類玩家在不同的分配規(guī)則下多次參加游戲，并投票選擇更喜歡哪種分配方法。

這些數(shù)據(jù)用于訓(xùn)練AI來模仿游戲中的人類行為，包括玩家投票的方式。

其次，研究人員讓這些AI玩家在數(shù)千場比賽中相互競爭，而另一個(gè)AI系統(tǒng)根據(jù)AI玩家的投票方式繼續(xù)調(diào)整再分配規(guī)則。

于是，在這個(gè)過程結(jié)束時(shí)，AI已經(jīng)確定了非常接近公平的再分配規(guī)則：

首先，AI選擇根據(jù)相對貢獻(xiàn)而不是絕對貢獻(xiàn)的比例進(jìn)行分配。這意味著，在重新分配資金時(shí)，AI會考慮每個(gè)玩家的初始金額以及他們投資的意愿。

其次，AI系統(tǒng)特別獎(jiǎng)勵(lì)了相對貢獻(xiàn)更慷慨的玩家，以此鼓勵(lì)其他人也這樣做。重要的是，人工智能只有通過最大化學(xué)習(xí)人類投票率才能發(fā)現(xiàn)這些規(guī)則。

這個(gè)方法能推廣到現(xiàn)實(shí)嗎？

雖然DeepMind的游戲測試取得了亮眼的成績，但要想將這種方法從簡單的四人游戲轉(zhuǎn)換為大規(guī)模經(jīng)濟(jì)體系，仍具有巨大的挑戰(zhàn)性，目前還不能確定它在現(xiàn)實(shí)世界中會如何發(fā)展。

其次，研究人員自己發(fā)現(xiàn)了幾個(gè)潛在的問題。

Democratic的一個(gè)問題是可能會發(fā)展為“多數(shù)人的暴政”，這將導(dǎo)致對少數(shù)群體的現(xiàn)有歧視或不公平模式持續(xù)存在。

AI需要做更多的工作來了解如何通過設(shè)計(jì)允許所有人的聲音都能被聽到。

另外，研究人員還提出了人們對AI的信任問題：

人們是否會信任由AI設(shè)計(jì)的機(jī)制來代替人類？如果人們知道裁判的身份，會不會影響最終的投票結(jié)果？

如果要將Democratic AI設(shè)計(jì)的解決方案應(yīng)用于解決現(xiàn)實(shí)世界的困境，這一點(diǎn)至關(guān)重要。

參考鏈接：
[1]https://www.deepmind.com/publications/human-centred-mechanism-design-with-democratic-ai
[2]https://www.nature.com/articles/s41562-022-01383-x
[3]https://singularityhub.com/2022/07/04/deepminds-new-ai-may-be-better-at-distributing-societys-resources-than-humans-are/