如何阻止機器人傷害人？現(xiàn)在的許多機器人，比如在工廠里組裝汽車的機械臂，當人類靠近時，它們會馬上停機。但這種機制在某些地方并不適用，比如需要快速移動來避免碰撞的無人駕駛汽車，或者需要扶起摔倒老人的護理機器人。隨著機器人技術(shù)的快速發(fā)展，它們將成為我們的仆人、伴侶還有同事，我們需要應(yīng)對日益復(fù)雜的形勢，將會面臨更多的道德和安全問題。

　　科幻已經(jīng)設(shè)想了這個問題，并提出了各種潛在的解決方案，其中最著名的是Isaac Asimov的機器人三定律，旨在防止機器人傷害人類。但現(xiàn)實表明，機器人三定律在很多時候并不管用，從2005年開始，我和赫特福德大學的同時一直在研究一個可替代的解決方案。

　　我們認為，規(guī)則不應(yīng)該限制機器人的行為，而應(yīng)該賦予機器人更大的自主性，讓他們在任何場合都能合理選擇最佳解決方案。正如我們在Frontiers上發(fā)表的一篇新論文描述的那樣，這一原則可以構(gòu)成一套新的機器人普遍指導(dǎo)原則，以盡可能地保護人類的安全。

　　機器人三定律

　　阿西莫夫的機器人三定律是這樣描述的：

　　? 機器人不能傷害人類，也不能明知人類受傷害而袖手旁觀；

　　? 機器人必須服務(wù)人類的命令，除非這些命令與第一定律相沖突；

　　? 在不違反第一、第二定律的前提下，機器人應(yīng)保證自身安全。

　　這些規(guī)則聽起來似乎很合理，但無數(shù)的事實證明他們?nèi)源嬖诤芏嗖蛔恪０⑽髂虻男≌f可以說是最好的反證，它們證明在很多情況下機器人三定律都是不起作用的。大多數(shù)新起草的規(guī)則都遵循類似的原則以構(gòu)建更安全、合規(guī)而穩(wěn)定的機器人。

　　所有制定出來的機器人指南都存在一個問題，那就是如何轉(zhuǎn)化為機器人可以執(zhí)行的格式。理解人類的所有語言以及它所代表的經(jīng)驗，對機器人來說是非常困難的事情。廣義的行為目標，比如不得傷害人類，或保護機器人的安全，在不同的情況下可能意味著不同的內(nèi)容。遵守這些規(guī)則，最終可能讓機器人束手無策，并不能達成創(chuàng)造者的目的。

　　我們的另一個概念，授權(quán)代表的是無助的反面。被授權(quán)意味著有能力該表狀況，并意識到你可以。我們一直在研究如何將這種社會概念轉(zhuǎn)化為可量化和可操作的技術(shù)語言。這將給機器人帶來啟發(fā)，以保持他們的選擇開放，并采取行動，增強他們對世界的影響力。

　　當我們嘗試在各種場景中模擬機器人如何使用授權(quán)原則時，我們發(fā)現(xiàn)他們通常會以驚人的“自然”方式行事。通常只需要他們來模擬現(xiàn)實世界的工作原理，但不需要專門的人工智能編程來處理特定的場景。

　　但是為了保護人們的安全，機器人需要努力維護或改善人類授權(quán)以及自己的能力。這基本上意味著保護和支持。為某人打開一扇鎖好的門將增加他們的授權(quán)。限制他們將導(dǎo)致授權(quán)短期喪失。嚴重傷害可以徹底取消他們的授權(quán)。同時，機器人必須努力保持自己的授權(quán)，例如確保它具有足夠的操作能力，并且不會卡住或損壞。