“1元購買健康寶查詢方式”“2元70多位藝人健康寶照片”……近日，眾多明星核酸檢測照片的泄露，再度引發(fā)人們對(duì)人臉識(shí)別信息安全的擔(dān)憂。

“人臉識(shí)別‘一次泄露，終身風(fēng)險(xiǎn)’的特點(diǎn)，使這種安全隱患的影響可能是長期的。”1月14日，中國科學(xué)院自動(dòng)化所研究員、北京智源人工智能研究院AI倫理中心主任、國家新一代人工智能治理專委會(huì)委員曾毅在接受時(shí)代周報(bào)記者專訪時(shí)表示，在拯救生命等嚴(yán)肅問題面前，AI倫理紅線不應(yīng)有任何程度的放寬。

疫情中，人臉識(shí)別技術(shù)搜集的海量數(shù)據(jù)如何避免泄露隱私，成為大眾普遍關(guān)心話題。曾毅認(rèn)為，在人臉識(shí)別相關(guān)產(chǎn)品與服務(wù)中，應(yīng)做到設(shè)計(jì)、研發(fā)、使用、部署等全生命周期均符合倫理要求。

隱私數(shù)據(jù)保護(hù)缺位

時(shí)代周報(bào)：近日，大量明星核酸檢測照片從網(wǎng)絡(luò)上泄漏出來，包括楊冪、鹿晗、李易峰、王源等眾多明星的核酸檢測結(jié)果、素顏照片在微信群流傳。這一現(xiàn)象透露出什么問題？

曾毅：通過這一現(xiàn)象可以看到，一方面，某些承接政府機(jī)構(gòu)信息系統(tǒng)建設(shè)的企業(yè)并沒有能很好地實(shí)現(xiàn)對(duì)公民關(guān)鍵隱私數(shù)據(jù)的有效保護(hù)。另一方面，相關(guān)政府機(jī)構(gòu)對(duì)包含公民隱私數(shù)據(jù)的應(yīng)用，特別是政府委托的相關(guān)應(yīng)用服務(wù)，在數(shù)據(jù)保護(hù)方面急需加強(qiáng)管理和監(jiān)督。

可以看到，之所以通過輸入部分信息就可以獲取他人核酸檢測相關(guān)細(xì)節(jié)信息，從系統(tǒng)設(shè)計(jì)角度而言存在不嚴(yán)格的倫理設(shè)計(jì)。

他人代查這項(xiàng)功能仍具有現(xiàn)實(shí)意義，例如子女和朋友幫助老年人等非手機(jī)用戶代查這樣的需求仍然存在，但是如何確認(rèn)代查結(jié)果經(jīng)過當(dāng)事人授權(quán)，確保知情同意，是系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)過程中必須思考清楚并通過技術(shù)實(shí)現(xiàn)的。

時(shí)代周報(bào)：你曾提出，從人工智能模型中刪除數(shù)據(jù)十分困難。目前幾乎沒有一家企業(yè)可以做到在訓(xùn)練好的人工智能模型中，把某個(gè)用戶數(shù)據(jù)的影響從模型中刪除。當(dāng)前還是這種現(xiàn)狀嗎？

曾毅：很遺憾，當(dāng)前仍然是這種狀況，這個(gè)問題雖然明確存在，但并沒有引起學(xué)術(shù)界和產(chǎn)業(yè)界足夠的重視。

安全隱患影響長遠(yuǎn)

時(shí)代周報(bào)：人臉識(shí)別應(yīng)用場景擴(kuò)展后，其涉及的安全重要性是否越來越大，我們對(duì)數(shù)據(jù)是否做好保護(hù)？

曾毅：目前，人臉識(shí)別應(yīng)用領(lǐng)域急速擴(kuò)展，然而相關(guān)負(fù)責(zé)任的、符合倫理的相關(guān)設(shè)計(jì)完全跟不上應(yīng)用領(lǐng)域的擴(kuò)張需求。很顯然，從技術(shù)研發(fā)單位到監(jiān)管部門對(duì)數(shù)據(jù)保護(hù)都沒有完全做好準(zhǔn)備。

人臉識(shí)別“一次泄露，終身風(fēng)險(xiǎn)”的特點(diǎn)增加了風(fēng)險(xiǎn)的不確定性。在人臉識(shí)別相關(guān)產(chǎn)品與服務(wù)中做到設(shè)計(jì)、研發(fā)、使用、部署等全生命周期符合倫理要求，避免安全隱患是未來人臉識(shí)別研發(fā)與應(yīng)用必須做到的。

時(shí)代周報(bào)：人臉識(shí)別的準(zhǔn)確度需要靠大量人臉數(shù)據(jù)來“投喂”。而對(duì)于一些用戶來說，人臉數(shù)據(jù)被采集很多時(shí)候是缺乏選擇權(quán)和知情權(quán)的，人臉識(shí)別的使用邊界到底在哪里？如何才能不越過AI倫理紅線？

曾毅：知情同意在我國個(gè)人數(shù)據(jù)保護(hù)相關(guān)規(guī)范中是有明確規(guī)定必須落實(shí)的。這其實(shí)并不存在商量的余地。

下一步的重要工作是人工智能研發(fā)與服務(wù)企業(yè)自律自治。此外，主管部門多方協(xié)同治理，引導(dǎo)和監(jiān)督政策進(jìn)行技術(shù)落地，落實(shí)數(shù)據(jù)與人工智能服務(wù)的合規(guī)發(fā)展。

中科院曾毅：人臉隱私數(shù)據(jù)“一次泄露，終身風(fēng)險(xiǎn)”

責(zé)任編輯：PSY