在大多數(shù)科幻電影中，人工智能（AI）最典型的形象莫過(guò)于冷酷和無(wú)情的智慧機(jī)器，它們具備了人類(lèi)大腦的部分智力，但 沒(méi)有人類(lèi)的情感，當(dāng)然也就沒(méi)有所謂的 “人性” 。 

事實(shí)上，盡管近年來(lái) AI 技術(shù)發(fā)展迅猛，給我們的生活帶來(lái)了前所未有的改變，但它仍是一種尚未完全成熟的計(jì)算機(jī)技術(shù)，因而 AI 可能導(dǎo)致的倫理道德后果也難以準(zhǔn)確預(yù)料 。 

（來(lái)源：Pixabay） 

近日，來(lái)自挪威的科學(xué)家 Inga Strümke、Marija Slavkovik 和 Vince Madai 在一篇名為《人工智能發(fā)展中的社會(huì)困境以及我們?yōu)槭裁匆鉀Q它》（The social dilemma in AI development and why we have to solve it）的論文中就指出了現(xiàn)有 AI 存在的倫理道德問(wèn)題。 

在他們看來(lái)，AI 發(fā)展中面臨的最大問(wèn)題之一是， AI 開(kāi)發(fā)者在 AI 道德發(fā)展方面存在嚴(yán)重的社會(huì)困境（social dilemma） ，如果我們無(wú)法制定出一套統(tǒng)一有效的職業(yè)道德準(zhǔn)則和立法，這個(gè)社會(huì)困境就會(huì)一直存在，并且影響甚至危害人類(lèi)的生活。 

社會(huì)困境是指?jìng)€(gè)人狹隘的自我利益與更大的社會(huì)群體的利益直接相悖，如果每個(gè)人都試圖以犧牲群體利益為代價(jià)最大化自己的利益，那么每個(gè)群體成員的凈結(jié)果都會(huì)比采用合作社時(shí)更糟糕。 

社會(huì)困境最典型的例子就是公地悲劇（the tragedy of the commons） 。 

公地悲劇能夠更好地說(shuō)明現(xiàn)實(shí)生活中的社會(huì)困境，每個(gè)參與者都有權(quán)使用私人資源，但也可以使用公共共享資源。 

一個(gè)純粹自利的參與者將從共享資源中獲得最大的價(jià)值，甚至是破壞它，然后再利用私人資源，這個(gè)過(guò)程最終會(huì)給所有人帶來(lái)更壞的結(jié)果。 

過(guò)度使用公共土地、空氣和水資源有時(shí)被認(rèn)為是這種社會(huì)困境的現(xiàn)實(shí)世界版本。 

圖｜“公地悲劇” 是一種解釋過(guò)度開(kāi)發(fā)的好例子（來(lái)源：維基百科） 

Strümke 等人表示， 在 AI 發(fā)展的社會(huì)困境中，主要存在三方面利益沖突：社會(huì)、商業(yè)公司，和作為社會(huì)成員和商業(yè)公司雇員的 AI 開(kāi)發(fā)者。

社會(huì)的利益是道德發(fā)展，商業(yè)公司的利益是利潤(rùn)和市場(chǎng)中的生存，AI 開(kāi)發(fā)者的利益主要是維持他們的就業(yè)，其次是 AI 的道德發(fā)展，因?yàn)殚_(kāi)發(fā)者也是社會(huì)的一部分。 

因此， AI 開(kāi)發(fā)者必須權(quán)衡其作為社會(huì)成員的利益和作為公司雇員的利益，這就是他們面臨的社會(huì)困境。

如今，AI 技術(shù)可以為商業(yè)公司帶來(lái)不菲的利潤(rùn)。因此，商業(yè)公司為了讓自己處于競(jìng)爭(zhēng)態(tài)勢(shì)，必須要快速發(fā)展 AI 技術(shù)。然而，技術(shù)的快速發(fā)展可能與道德規(guī)范背道而馳： 

后者需要降低開(kāi)發(fā)速度以實(shí)施必要的道德分析，甚至可能需要基于道德考慮決定取消某些系統(tǒng)。 

在這種情況下， 如果 AI 開(kāi)發(fā)者對(duì) AI 發(fā)展道德表達(dá)了擔(dān)憂或因?yàn)槟承┑赖聠?wèn)題拒絕為公司發(fā)展做出 “貢獻(xiàn)”，他們則可能會(huì)丟失這份工作。

因此，AI 開(kāi)發(fā)者一直糾結(jié)于 AI 發(fā)展道德問(wèn)題與自己的工作利益沖突之間。 

Strümke 等人在論文中指出，當(dāng)前的 AI 仍然存在一些發(fā)展道德問(wèn)題，其中最典型的就是歧視和偏見(jiàn)。 

也許有人會(huì)感到迷惑與不解：就像我們潛意識(shí)中認(rèn)為的那樣， AI 冷漠又無(wú)情，根本沒(méi)有人類(lèi)的感情，何來(lái)歧視與偏見(jiàn)呢？

事實(shí)上，AI 技術(shù)本身確實(shí)不存在歧視與偏見(jiàn)，但 AI 技術(shù)的背后，需要有 AI 研究人員用來(lái)訓(xùn)練的大量數(shù)據(jù)，盡管 AI 本身不知道歧視和偏見(jiàn)是何種行為，以及蘊(yùn)含著何種意思，但其背后的研究人員可能會(huì)有這些想法。 

因此， AI 怎么看待這個(gè)世界，在一定程度上反映了人類(lèi)的想法，如果其背后的研究人員存在歧視與偏見(jiàn)，那設(shè)計(jì)、開(kāi)發(fā)出的 AI 必然也存在同樣的道德問(wèn)題。

（來(lái)源：Pixabay） 

在 AI 技術(shù)應(yīng)用領(lǐng)域，人臉識(shí)別是 AI 被廣泛應(yīng)用于人類(lèi)日常生活中的一種應(yīng)用方向，而它恰巧會(huì)成為種族和性別偏見(jiàn)的一個(gè)潛在來(lái)源。 

2018 年 2 月，麻省理工學(xué)院（MIT）媒體實(shí)驗(yàn)室計(jì)算機(jī)科學(xué)家 Joy Buolamwini 發(fā)現(xiàn)，IBM、微軟等公司的性別識(shí)別 AI 系統(tǒng)能以 99% 的精度從一張照片中準(zhǔn)確識(shí)別出一個(gè)人的性別，但僅限于白人。而用于黑人女性時(shí)，這個(gè)數(shù)字會(huì)驟降至 35%。 

一個(gè)最合理的解釋是，AI 的 “偏見(jiàn)” 取決于其背后算法訓(xùn)練的數(shù)據(jù)，如果用于訓(xùn)練的數(shù)據(jù)中白人男性比黑人女性更多，那顯然白人男性的識(shí)別率就會(huì)更高。后來(lái)，IBM 宣布他們已經(jīng)采用了新的數(shù)據(jù)集并重新訓(xùn)練，微軟也表示會(huì)采取措施提高準(zhǔn)確性。 

事實(shí)上， AI 開(kāi)發(fā)中的道德準(zhǔn)則非常重要，因?yàn)椴坏赖碌?AI 開(kāi)發(fā)會(huì)對(duì)個(gè)人和整個(gè)社會(huì)產(chǎn)生嚴(yán)重的負(fù)面影響 。 

受近期提出的 AI 監(jiān)管框架的影響，人們可能會(huì)認(rèn)為，AI 開(kāi)發(fā)的道德挑戰(zhàn)完全可以通過(guò)立法得到解決。 

但事實(shí)上，立法根本無(wú)法有效地解決這個(gè)問(wèn)題： 因?yàn)榱⒎ǖ陌l(fā)展速度比技術(shù)發(fā)展慢得多，這意味著立法可能在危害結(jié)果已經(jīng)造成之后才會(huì)出臺(tái)。 

此外，立法會(huì)禁止任何可能不道德或被濫用的行為，這將會(huì)在一定程度上阻礙 AI 技術(shù)的進(jìn)步，而且對(duì)小企業(yè)的影響超過(guò)對(duì)大型企業(yè)的影響，會(huì)加劇用戶和供應(yīng)商之間已經(jīng)存在的權(quán)力不平衡問(wèn)題。 

當(dāng)然，職業(yè)道德準(zhǔn)則并不是憑空制定的，它需要參考倫理道德理論、社會(huì)期望以及從業(yè)者的形象。 

因此，它也從來(lái)不是一成不變的，而是需要根據(jù)技術(shù)進(jìn)步、社會(huì)規(guī)范和價(jià)值觀的發(fā)展以及監(jiān)管制度而不斷修訂。 

然而，盡管它們是動(dòng)態(tài)的，但在任何給定的時(shí)間內(nèi)，仍然有一個(gè)唯一的版本是有效的，可以保護(hù) AI 開(kāi)發(fā)者免受社會(huì)困境的影響，并最大限度地為社會(huì)帶來(lái)利益。 

但直到如今，依然沒(méi)有一個(gè)被廣泛接受的 AI 職業(yè)道德準(zhǔn)則存在。

（來(lái)源：Pixabay） 

論文作者認(rèn)為，可以歸因于以下兩個(gè)主要原因：

第一點(diǎn)，目前的分析主要接受許多給定的邊界條件，而不是建議如何改變這些條件。

即使像 IEEE 這樣的大型機(jī)構(gòu)采用了 AI 開(kāi)發(fā)的職業(yè)規(guī)范準(zhǔn)則，也仍然存在著大量挑戰(zhàn)。 比如，到底誰(shuí)是 AI 開(kāi)發(fā)者？ 加入這些組織并遵守準(zhǔn)則的動(dòng)機(jī)是什么？ 如果存在潛在的巨大收益，如何防止組織放棄準(zhǔn)則？ 

更糟糕的是，幾個(gè)相互競(jìng)爭(zhēng)的組織可能會(huì)提出不同的準(zhǔn)則，然后將該領(lǐng)域分割開(kāi)，讓開(kāi)發(fā)人員和公眾無(wú)法真正了解 AI 行業(yè)的道德規(guī)范。 

此外，這些努力甚至也可能被大型科技公司劫持：“支持” 某些組織發(fā)布道德準(zhǔn)則，對(duì)內(nèi)容產(chǎn)生重大影響，本質(zhì)上導(dǎo)致一種新的道德清洗（ethics washing）形式。 

另外一點(diǎn)是，只要當(dāng)前的舉措不能有效解決開(kāi)發(fā)者所處的社會(huì)困境，AI 的職業(yè)道德準(zhǔn)則就不會(huì)有任何作用。

比如，已有研究工作討論了在開(kāi)發(fā)團(tuán)隊(duì)中加入倫理學(xué)家可能會(huì)有助于合乎倫理的 AI 開(kāi)發(fā)。然而，如果這些倫理學(xué)家也屬于這一家公司，社會(huì)困境也同樣適用于他們。 

但反過(guò)來(lái)，建立統(tǒng)一的 AI 職業(yè)道德準(zhǔn)則又是解決 AI 開(kāi)發(fā)者社會(huì)困境的最佳途徑。 

為了避免 AI 發(fā)展的道德危機(jī)，Strümke 等人提出了一個(gè)有效的應(yīng)對(duì)方案。 

首先，AI 的發(fā)展必須成為一個(gè)統(tǒng)一的職業(yè)，就像醫(yī)學(xué)領(lǐng)域那樣，必須設(shè)定相應(yīng)的從業(yè)許可，該許可必須是強(qiáng)制性的，且適用于所有中高風(fēng)險(xiǎn) AI 系統(tǒng)的開(kāi)發(fā)人員。

AI 開(kāi)發(fā)者將以一種前所未有的方式得到保護(hù)，被其他專(zhuān)業(yè)人員取代的可能性非常小，由于社會(huì)困境而被解雇的可能性就會(huì)大大降低，因?yàn)樨澬牡睦习鍌冎溃?AI 開(kāi)發(fā)者都遵守相同的準(zhǔn)則，不會(huì)為了商業(yè)利益違反準(zhǔn)則。 

因此，AI 開(kāi)發(fā)者有權(quán)拒絕執(zhí)行不道德的開(kāi)發(fā)行為，而不用擔(dān)心社會(huì)困境帶來(lái)的后果。 

 圖｜a) 之前，社會(huì)對(duì)道德行為的需求和雇主開(kāi)發(fā)產(chǎn)品的需求使開(kāi)發(fā)者陷入兩難境地；b) 如今，開(kāi)發(fā)者之前面臨的兩難困境轉(zhuǎn)變成了社會(huì)和雇主必須使用既定方法來(lái)處理的一種權(quán)衡（來(lái)源：該論文） 

其次，要建立一個(gè)全國(guó)性 AI 開(kāi)發(fā)者組織，來(lái)維護(hù)雇用 AI 開(kāi)發(fā)者的注冊(cè)登記。

這些組織，包括其所有成員，將成為 AI 職業(yè)道德準(zhǔn)則發(fā)展的核心，并且負(fù)責(zé)維護(hù)、更新和完善這些準(zhǔn)則。凡是不遵守職業(yè)道德準(zhǔn)則的人都將被吊銷(xiāo)從業(yè)執(zhí)照。 

我們無(wú)法否認(rèn)，建立統(tǒng)一的道德準(zhǔn)則是一件難事，但這是解決 AI 開(kāi)發(fā)者社會(huì)困境的最有效途徑。 

一旦有了統(tǒng)一的職業(yè)道德規(guī)范，它將能阻止一些公司和政府實(shí)施不道德獲利行為，從而避免 AI 給人類(lèi)及社會(huì)帶來(lái)的不良后果。

關(guān)于以上討論，你怎么看？ 歡迎在留言區(qū)發(fā)表你的觀點(diǎn)～

參考資料： 

https://arxiv.org/abs/2107.12977 

本文來(lái)自微信公眾號(hào) “學(xué)術(shù)頭條”（ID：SciTouTiao），作者：王言心，36氪經(jīng)授權(quán)發(fā)布。