8月19日，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在機(jī)器人大會主論壇上表示，純粹靠數(shù)據(jù)學(xué)習(xí)生成的人工智能不可解釋，處于不可控狀態(tài)，為了避免危險，需要發(fā)展安全、可靠、可信的智能機(jī)器人。此外，張鈸對機(jī)器人的倫理行為也提出了自己的思考，他認(rèn)為讓機(jī)器人完全遵守道德規(guī)范和機(jī)器人的智能化存在矛盾，需要通過研究新的倫理分析工具等方式解決該問題。

要把知識加到數(shù)據(jù)驅(qū)動中

“目前機(jī)器是人的奴隸，我們叫它做什么它就做什么。但是我們希望進(jìn)一步發(fā)展智能機(jī)器人，這就存在另一種可能性，即機(jī)器人會不會成為我們的主人？現(xiàn)在，大家越來越認(rèn)識到這個可能性是存在的，阿西莫夫、霍金也提出過相關(guān)觀點(diǎn)，如果機(jī)器的智能超過我們，我們就失去對它控制，對于這樣的機(jī)器人要加以限制，加以治理。”張鈸說。

張鈸表示，當(dāng)前機(jī)器人智能還很低的時候就處于不可控狀態(tài)，這讓人類面臨危險。“比如用深度學(xué)習(xí)的方法處理事情，生成的人工智能算法危險、不魯棒（魯棒性，指系統(tǒng)對異常情況的適應(yīng)能力），沒有可靠性保證，如果使用這種人工智能算法，必然會對人類帶來傷害，這已經(jīng)成為現(xiàn)實(shí)問題。參考當(dāng)前人工智能的發(fā)展?fàn)顩r，此擔(dān)心看起來是一個近憂，而不是遠(yuǎn)慮。”

在他看來，（人工智能）純粹靠數(shù)據(jù)驅(qū)動的方法必然不魯棒，必然不可解釋，必然不可靠。人在從事人工智能工作的時候就一定要考慮到相關(guān)的可能性，要解決這類問題，唯一的可能性就是加上知識，加上模型，辦法很簡單，但執(zhí)行起來很困難，因?yàn)榘阎R加到數(shù)據(jù)驅(qū)動中去，方法上要有很多改變。

張鈸表示，我們提出的第三代人工智能就是要解決第二代人工智能算法不安全，不可靠，不可信，不可控的狀態(tài)。第一代人工智能主要靠知識驅(qū)動，第二代人工智能主要靠數(shù)據(jù)驅(qū)動，這兩個方法都有片面性，必須把這兩個方法加起來，才有可能發(fā)展安全的、可靠、可信的智能機(jī)器人。

機(jī)器人如何遵守道德規(guī)范？

張鈸表示，提出過著名“機(jī)器人三定律”的阿西莫夫曾說，如果機(jī)器人有了意識，如何讓機(jī)器人能夠按照倫理準(zhǔn)則行動是一個問題。但實(shí)際上，什么是道德以及什么是不道德本身就存在非常大的爭議，如存在電車難題這樣的困惑，而且對于機(jī)器來說還要把道德和倫理形式化，這需要法律、道德、倫理各界的共同研究。

他認(rèn)為，假設(shè)給機(jī)器一個道德規(guī)范，也涉及機(jī)器人的行為可控不可控的問題，“給機(jī)器加上人工智能就不可控了，因?yàn)橥耆凑找粋€規(guī)則來執(zhí)行的，不是智能機(jī)器人，只有給予其一定的靈活性，機(jī)器人才能有創(chuàng)造性，才能自主解決問題，這是必然要付出的代價。”

“而且我們對于一些技術(shù)本身都做不到預(yù)測，都不知道怎么做出來的，例如用深度學(xué)習(xí)做模式識別，識別率提高非常多（記者注：深度學(xué)習(xí)的輸入和輸出的部分通俗易懂，但其中間的運(yùn)算部分的構(gòu)造是一個極其復(fù)雜難以理解的‘黑箱’），大家沒有預(yù)計(jì)到這種方法魯棒性非常差。目前，機(jī)器人被濫用的現(xiàn)象非常嚴(yán)重，機(jī)器人在設(shè)計(jì)的過程中，要做很好的評估和預(yù)測，不能隨便定一個規(guī)劃，對智能機(jī)器人要做非常嚴(yán)格的評估。”張鈸表示。

在他看來，可以通過研究新的倫理分析工具進(jìn)行更好的倫理分析結(jié)果預(yù)測，利用深度學(xué)習(xí)方法對不道德和道德行為給出樣本進(jìn)行分析，以及通過仿真模擬大量實(shí)驗(yàn)來解決安全性的問題和倫理問題。

審核編輯 ：李倩