人工智能的發(fā)展應(yīng)用如火如荼，但其誤用、錯(cuò)用、濫用甚至惡意使用所帶來(lái)的安全問(wèn)題不可小視！

近期，美歐多國(guó)開(kāi)發(fā)出多種基于人工智能的新興偽造技術(shù)。該技術(shù)偽裝性強(qiáng)、欺騙性高、難以監(jiān)管且相關(guān)成果正在不斷涌現(xiàn)，可用于社會(huì)生產(chǎn)生活及國(guó)家治理等各個(gè)方面，或?qū)ξ覈?guó)家安全構(gòu)成嚴(yán)峻威脅。

“人工智能偽造技術(shù)”以假亂真

人工智能偽造技術(shù)是指利用人工智能在深度學(xué)習(xí)、大數(shù)據(jù)處理語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理等方面的強(qiáng)大功能，偽造社會(huì)生活中人體指紋、語(yǔ)音等生理特征及合成虛假音頻、視頻等媒體文件的技術(shù)。現(xiàn)階段的人工智能已經(jīng)可以偽造個(gè)人筆跡、聲音、動(dòng)畫以及視頻等，且仿真度極高。

偽造筆跡方面，英國(guó)UCL大學(xué)研究人員開(kāi)發(fā)出“My text in your hand writing”人工智能算法，能夠分析一個(gè)人的字形及其特殊的書寫方式，生成字形、字號(hào)、顏色、筆線紋理、垂直及水平間距等完全相同的筆跡，達(dá)到完美偽造。

偽造語(yǔ)音方面，谷歌Deepmind公司開(kāi)發(fā)出 “WaveNet”軟件，可利用其神經(jīng)網(wǎng)絡(luò)系統(tǒng)對(duì)原始音頻波形進(jìn)行建模，生成帶有強(qiáng)調(diào)性音節(jié)、抑揚(yáng)頓挫和體現(xiàn)情緒的目前世界上最接近人類自然語(yǔ)言的音頻。加拿大Lyrebird公司正在開(kāi)發(fā)一種深度學(xué)習(xí)算法，使任何人都可以使用任何其他人的聲音偽造出令人驚訝的逼真演講。目前該公司已利用該技術(shù)仿造出特朗普、奧巴馬及克林頓等人的聲音進(jìn)行演講。此外，Adobe公司的 Project VoCo軟件可以識(shí)別出一段語(yǔ)音中的文字，之后針對(duì)語(yǔ)音中的文字進(jìn)行編輯和修改，生成音色和音調(diào)與本人完全一樣的語(yǔ)音。

偽造視頻方面，美國(guó)華盛頓大學(xué)研究人員開(kāi)發(fā)出“可偽造真人視頻”的人工智能技術(shù)，成功將聲音片段合成轉(zhuǎn)化為對(duì)應(yīng)的口型，并將該口型嫁接到視頻中的人臉上，成功偽造出口型一致的虛假視頻。研究人員演示了美國(guó)前總統(tǒng)奧巴馬在多個(gè)場(chǎng)景下談?wù)?**的視頻，其口型完全一致，難辨真假。此外，該技術(shù)還可以實(shí)現(xiàn)小幅時(shí)移，使神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)說(shuō)話者接下來(lái)所要表達(dá)的內(nèi)容。

引發(fā)嚴(yán)重的國(guó)家安全和社會(huì)穩(wěn)定問(wèn)題

“人工智能偽造技術(shù)”或擾亂正常的社會(huì)生活和管理秩序，引發(fā)嚴(yán)重的社會(huì)安全問(wèn)題

“人工智能偽造技術(shù)”對(duì)社會(huì)秩序的各個(gè)層面構(gòu)成了嚴(yán)重威脅。在社會(huì)生活層面，“人工智能偽造技術(shù)”使日常生活所用的合同、契約、證書及相關(guān)法律文本的防偽鑒定面臨新的困難。在涉及公民、法人和組織切身利益和財(cái)產(chǎn)安全的重要問(wèn)題上，該技術(shù)帶來(lái)了諸多不確定性的挑戰(zhàn)。在司法層面，“人工智能偽造技術(shù)”將可用于偽造證人證言、視聽(tīng)資料、電子數(shù)據(jù)及鑒定意見(jiàn)等虛假證據(jù)，為司法證據(jù)的鑒定采用和非法證據(jù)排除帶來(lái)了新的困難，對(duì)社會(huì)公正和社會(huì)穩(wěn)定帶來(lái)極大的挑戰(zhàn)。在公共安全層面，“人工智能偽造技術(shù)”為不法分子從事違法犯罪活動(dòng)提供了便利條件。例如，不法分子出于擾亂社會(huì)治安或敲詐勒索等目的，可利用該技術(shù)制作高逼真度的殺人、綁架、爆炸等嚴(yán)重暴力犯罪的音頻視頻，將對(duì)社會(huì)穩(wěn)定構(gòu)成嚴(yán)重威脅。

“人工智能偽造技術(shù)”用于社交媒體或?yàn)閲?guó)內(nèi)外分裂、恐怖勢(shì)力提供新的工具

社交媒體上的資訊傳播速度快、范圍廣、成本風(fēng)險(xiǎn)低、易于聚攏共識(shí)等特點(diǎn)，其社會(huì)動(dòng)員能力強(qiáng)大，已成為分裂、恐怖勢(shì)力傳播極端思想、煽動(dòng)不安情緒甚至制造分裂、***的重要媒介。***“***”事件中，“學(xué)運(yùn)”分子在社交媒體上被塑造成“意識(shí)形態(tài)先遣隊(duì)”和“覺(jué)醒的政治力量”，加劇了***青少年的分裂思潮。Facebook中充滿了“警察***、***”等片面的消息以及很多血腥暴力的虛假圖片，激發(fā)了觀者的負(fù)面情緒，加劇了“***”事件的擴(kuò)大升級(jí)。與此同時(shí)，近年來(lái)“***”組織嫻熟地利用社交媒體宣傳“***”思想，招募我國(guó)***地區(qū)的“***”活動(dòng)分子，使其自發(fā)前往土耳其、敘利亞伊拉克等地參加***培訓(xùn)，并企圖回國(guó)開(kāi)展***活動(dòng)。此外，卡塔爾近期的“外交危機(jī)”也是由社交媒體引起，黑客組織通過(guò)入侵卡塔爾通訊社網(wǎng)站并偽造國(guó)家元首埃米爾?塔米姆的講話，聲稱支持伊朗和巴勒斯坦******哈馬斯，批評(píng)美國(guó)和沙特阿拉伯，并譴責(zé)對(duì)卡塔爾支持***的有關(guān)指控，導(dǎo)致嚴(yán)重的外交危機(jī)。

對(duì)我啟示

“人工智能偽造技術(shù)”的出現(xiàn)，尤其是對(duì)筆跡、音頻、視頻的高逼真度偽造，為分裂、恐怖勢(shì)力偽造領(lǐng)導(dǎo)人發(fā)布虛假聲明、簽署虛假命令、遭遇不測(cè)等虛假視頻提供了便利條件。這些虛假視頻一旦流入社交媒體，將在短時(shí)間內(nèi)迅速擴(kuò)散，煽動(dòng)強(qiáng)烈的社會(huì)不安情緒。

“人工智能偽造技術(shù)”已引起美國(guó)的關(guān)注。新美國(guó)安全中心發(fā)布的《人工智能與國(guó)家安全》報(bào)告中，明確將人工智能偽造技術(shù)列為威脅國(guó)家安全的重點(diǎn)技術(shù)，建議美國(guó)防部和情報(bào)部門成立專門的人工智能安全組織，并由國(guó)家安全局牽頭開(kāi)發(fā)針對(duì)該技術(shù)的應(yīng)對(duì)方法。我國(guó)同樣面臨人工智能偽造技術(shù)帶來(lái)的現(xiàn)實(shí)威脅，應(yīng)趁該威脅尚處萌芽階段及早布局，通過(guò)政策管理和技術(shù)限制等途徑積極應(yīng)對(duì)其潛在風(fēng)險(xiǎn)。