谷歌AI道德委員會(huì)解散 如何讓人工智能明辨是非？

據(jù)外媒報(bào)道，3月26日，Google全球事務(wù)高級(jí)副總裁Kent Walker在Google博客中發(fā)文宣布，為了貫徹落實(shí)Google AI七原則，完善相關(guān)的內(nèi)部治理結(jié)構(gòu)和流程，成立ATEAC委員會(huì)，用來(lái)處理人工智能中的棘手問(wèn)題。

委員會(huì)設(shè)置8名成員，有經(jīng)濟(jì)學(xué)家、有心理學(xué)家、有美國(guó)前副國(guó)務(wù)卿，但成立不到一周，一位專家自愿退出。在本周，谷歌員工發(fā)起了一項(xiàng)請(qǐng)?jiān)福笤?a target="_blank">公司撤換另一名委員會(huì)成員，因?yàn)樗磳?duì)保障同性戀和變性人同等權(quán)利的法律。

為了回應(yīng)抗議，谷歌決定完全解散這個(gè)名為先進(jìn)技術(shù)外部咨詢委員會(huì)(ATEAC)的團(tuán)隊(duì)，并在聲明中稱：“很明顯，在當(dāng)前的環(huán)境中，ATEAC不能按我們所希望的方式運(yùn)行，所以我們要解散它，并回到原計(jì)劃上來(lái)，我們將繼續(xù)在AI帶來(lái)的重要問(wèn)題上進(jìn)行我們的工作，并將找到不同的方式來(lái)獲取外部對(duì)這些問(wèn)題的意見。”

雖然谷歌的AI道德委員會(huì)成立一周就土崩瓦解，但這并不意味著人工智能道德委員會(huì)的失敗和無(wú)意義。實(shí)際上，人工智能道德委員會(huì)的存在尤為必要。AI倫理問(wèn)題究竟何去何從依然值得深思。

AI與倫理的平衡，如何規(guī)避道德風(fēng)險(xiǎn)?

早到艾薩克阿西莫夫(Isaac Asimov)提出“機(jī)器人三定律”，再到《西部世界》、《機(jī)械姬》、《黑客帝國(guó)》、《終結(jié)者》等影視劇都對(duì)人工智能倫理問(wèn)題做出了思考，人工智能可以解放人類勞動(dòng)力，但也有可能損害人類的利益，將大眾引向深淵。

人工智能的算法來(lái)自于數(shù)據(jù)，當(dāng)數(shù)據(jù)里帶有潛在的價(jià)值觀傾向，隱含著偏見等問(wèn)題，被系統(tǒng)學(xué)習(xí)吸收，誰(shuí)來(lái)維持民眾的共識(shí)，保證社會(huì)的公平?當(dāng)機(jī)器自我進(jìn)化擁有了自主意識(shí)，脫離人的控制，人類作為其生產(chǎn)創(chuàng)作者，是否依舊能夠穩(wěn)穩(wěn)地掌握全局?當(dāng)不成熟的人工智能技術(shù)陷入異常，造成失誤，甚至非法入侵而傷害人類，誰(shuí)該為此承擔(dān)責(zé)任?

像谷歌自動(dòng)駕駛汽車造成人員傷亡、機(jī)器人傷人事件、保險(xiǎn)公司利用臉書數(shù)據(jù)預(yù)測(cè)事故發(fā)生率涉嫌存在偏見等都現(xiàn)實(shí)中的失敗案例，也是人工智能存在倫理和道德風(fēng)險(xiǎn)的例證。

面對(duì)人工智能引發(fā)的倫理問(wèn)題，科技巨頭們紛紛成立倫理委員會(huì)應(yīng)對(duì)挑戰(zhàn)。2016年，亞馬遜、微軟、谷歌、IBM和Facebook聯(lián)合成立了一家非營(yíng)利性的人工智能合作組織(Partnership on AI)，而蘋果于2017年1月加入該組織。

在科技巨頭們的共識(shí)里，與其靠外界強(qiáng)加約束AI發(fā)展，不如先成立倫理委員會(huì)自主監(jiān)督。AI道德委員會(huì)是一種監(jiān)督保障，更是風(fēng)險(xiǎn)評(píng)估標(biāo)準(zhǔn)。它能夠幫助人工智能公司做出道德決策，使社會(huì)受益。

就像麻省理工學(xué)院情感計(jì)算研究組主任羅薩琳德皮卡德教授所言，“機(jī)器越自由，就越需要道德準(zhǔn)則。”而學(xué)者們也給出了讓人工智能規(guī)避風(fēng)險(xiǎn)的新思考。

《道德機(jī)器：如何讓機(jī)器人明辨是非》中美國(guó)認(rèn)知科學(xué)哲學(xué)家科林艾倫和技術(shù)倫理專家溫德爾瓦拉赫強(qiáng)調(diào)了兩個(gè)維度針對(duì)道德相關(guān)事實(shí)的自主性維度和敏感性維度，給出了一個(gè)關(guān)于日趨復(fù)雜的AMAs(人工道德智能體)軌跡的理解框架，以“評(píng)估它們面對(duì)的選項(xiàng)的倫理可接受性”。他們認(rèn)為“自上而下”和“自下而上”相混合的模式是機(jī)器道德發(fā)展模式的最佳選擇。即將從數(shù)據(jù)當(dāng)中學(xué)習(xí)經(jīng)驗(yàn)的自下向上和用確定的規(guī)則進(jìn)行預(yù)編程自上向下結(jié)合起來(lái)。

美國(guó)機(jī)器智能研究院奠基人尤德科夫斯基提出了“友好人工智能”的概念，認(rèn)為“友善”從設(shè)計(jì)伊始就應(yīng)當(dāng)被注入機(jī)器的智能系統(tǒng)中。

2017年12月12日，電氣電子工程師學(xué)會(huì)(IEEE)發(fā)布了《人工智能設(shè)計(jì)的倫理準(zhǔn)則》(第2版)，提出合乎倫理地設(shè)計(jì)、開發(fā)和應(yīng)用人工智能技術(shù)應(yīng)該遵循以下一般原則：人權(quán)確保它們不侵犯國(guó)際公認(rèn)的人權(quán);福祉在它們的設(shè)計(jì)和使用中優(yōu)先考慮人類福祉的指標(biāo);問(wèn)責(zé)確保它們的設(shè)計(jì)者和操作者負(fù)責(zé)任且可問(wèn)責(zé);透明確保它們以透明的方式運(yùn)行。

各國(guó)的學(xué)者、專家不斷提出關(guān)于人工智能的新倫理原則，但以人為本的理念始不曾改變。歐盟在近日也提交了他們對(duì)于人工智能倫理的答卷。

人工智能時(shí)代的道德重建：可信賴的AI

4月9日，歐盟發(fā)布了AI倫理指導(dǎo)方針，作為公司和政府機(jī)構(gòu)未來(lái)開發(fā)AI時(shí)應(yīng)遵循7大原則，呼吁“值得信賴的人工智能”。“可信賴 AI”是對(duì)人工智能時(shí)代的道德重建，為AI的發(fā)展指明了一條合乎倫理的方向。

歐盟 AI 道德準(zhǔn)則草案指出，可信賴的 AI 有兩個(gè)組成要素：一、應(yīng)尊重基本權(quán)利，適用法規(guī)、核心原則和價(jià)值觀，以確保“道德目的”(ethical purpose)，二、兼具技術(shù)魯棒性(robust)和可靠性，因?yàn)榧词褂辛己玫囊鈭D，缺乏技術(shù)掌握也會(huì)造成無(wú)意的傷害。

歐盟提出可信賴 AI 的道德準(zhǔn)則草案以及框架

七大關(guān)鍵原則如下：

人類作用和監(jiān)督：人工智能不應(yīng)該踐踏人類的自主性。人們不應(yīng)該被AI系統(tǒng)操縱或脅迫，而且，人類應(yīng)該能夠干預(yù)或監(jiān)督軟件做出的每一個(gè)決定。

技術(shù)的穩(wěn)健性和安全性：人工智能應(yīng)該是安全的、準(zhǔn)確的。它不應(yīng)該易于受到外部攻擊(例如對(duì)抗性實(shí)例)的影響，而且，應(yīng)該是相當(dāng)可靠的。

隱私和數(shù)據(jù)管理：人工智能系統(tǒng)收集的個(gè)人數(shù)據(jù)應(yīng)該是安全的、私有的。它不應(yīng)該讓任何人接觸，也不應(yīng)該輕易被盜。

透明性：用于創(chuàng)建人工智能系統(tǒng)的數(shù)據(jù)和算法應(yīng)該是可訪問(wèn)的，軟件所做的決定應(yīng)“由人類理解和跟蹤”。換句話說(shuō)，操作員應(yīng)該能夠解釋AI系統(tǒng)所做的決定。

多樣性、非歧視和公平性：人工智能提供的服務(wù)應(yīng)面向所有人，無(wú)論年齡、性別、種族或其他特征。同樣地，系統(tǒng)不應(yīng)該在這些方面存在偏見。

環(huán)境和社會(huì)福祉：人工智能系統(tǒng)應(yīng)該是可持續(xù)的(即它們應(yīng)該對(duì)生態(tài)負(fù)責(zé))并“促進(jìn)積極的社會(huì)變革”。

問(wèn)責(zé)制：人工智能系統(tǒng)應(yīng)該是可審計(jì)的，并被納入企業(yè)可舉報(bào)范疇，以便受到現(xiàn)有規(guī)則的保護(hù)。應(yīng)事先告知和報(bào)告系統(tǒng)可能產(chǎn)生的負(fù)面影響。

有數(shù)據(jù)顯示，美國(guó)人工智能企業(yè)數(shù)量2039家位列全球第一，中國(guó)(不含港澳臺(tái)地區(qū))有1040家，占全球人工智能企業(yè)數(shù)的一半以上，《2019年全球AI人才報(bào)告》則展示了全球36524位頂尖AI人才，一半以上在中美。中國(guó)與美國(guó)在AI領(lǐng)域的人才和企業(yè)上占盡了優(yōu)勢(shì)，可謂你追我趕，難分高低，歐盟從倫理角度切入，率先對(duì)人工智能的發(fā)展倫理做出規(guī)范，或許不失為一大良策。