2020年，中共中央印發(fā)《法治社會(huì)建設(shè)實(shí)施綱要（2020—2025年）》。綱要提出，制定完善對(duì)“算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。作為一項(xiàng)互聯(lián)網(wǎng)新技術(shù)應(yīng)用，深度偽造技術(shù)正越來越廣泛地應(yīng)用于現(xiàn)實(shí)場景，也出現(xiàn)被濫用錯(cuò)用的情況。推動(dòng)技術(shù)的健康成長和使用，需構(gòu)建更完善的法律和技術(shù)保護(hù)體系。
有一種技術(shù)，能對(duì)聲音、影像進(jìn)行篡改、偽造，從而實(shí)現(xiàn)“變聲”“換臉”，并且高度逼真、很難甄別——這項(xiàng)互聯(lián)網(wǎng)新技術(shù)叫做深度偽造技術(shù)。
借助人工智能技術(shù)可實(shí)現(xiàn)“換臉”“變聲”
日常生活中，深度偽造技術(shù)的應(yīng)用并不少見：智能客服的擬人回答、影視劇對(duì)角色的換臉處理……這些應(yīng)用場景通過對(duì)圖像、聲音、視頻的篡改、偽造和自動(dòng)生成，產(chǎn)生高度逼真的效果。
深度偽造技術(shù)本質(zhì)上是一種人工智能合成內(nèi)容技術(shù)。據(jù)奇安信集團(tuán)反金融犯罪專家盧維清介紹，起初，研究者使用自編碼器實(shí)現(xiàn)對(duì)原始人臉的圖像分解再還原。隨著深度學(xué)習(xí)和先進(jìn)算法的出現(xiàn)，深度偽造技術(shù)變得更加復(fù)雜成熟，除了圖像，聲音、視頻都能被更精細(xì)地偽造或自動(dòng)合成。以生成對(duì)抗網(wǎng)絡(luò)算法為例，其同時(shí)搭載了生成器和鑒別器兩個(gè)神經(jīng)網(wǎng)絡(luò)，前者基于一個(gè)數(shù)據(jù)庫自動(dòng)生成模擬該庫中數(shù)據(jù)的樣本，后者評(píng)估生成器生成數(shù)據(jù)的真?zhèn)危瑑烧咴诨ハ嗖┺膶W(xué)習(xí)中產(chǎn)生大規(guī)模和高精確度的輸出，實(shí)現(xiàn)真假難辨的效果。
技術(shù)是一把雙刃劍。深度偽造這項(xiàng)人工智能技術(shù)起初僅限于學(xué)術(shù)研究，后來廣泛應(yīng)用于多個(gè)現(xiàn)實(shí)場景，發(fā)揮著一定正面效應(yīng)。
盧維清舉例說，在教育場景中出現(xiàn)的虛擬教師和虛擬歷史人物，能讓數(shù)字教學(xué)更具互動(dòng)性和代入感；影視制作通過還原或者修改角色鏡頭，降低修復(fù)成本，提高制作效率；虛擬新聞主播和客服，無需真人出現(xiàn)，可以降低人力投入；安防領(lǐng)域借此技術(shù)生成更加逼真的圖像、視頻，測試現(xiàn)有安全系統(tǒng)，尋找技術(shù)漏洞，助力更新迭代；娛樂休閑應(yīng)用程序則可以對(duì)圖片和視頻做特效處理，增加趣味性……
但是，隨著技術(shù)的發(fā)展及應(yīng)用門檻的降低，許多個(gè)人用戶也能輕松實(shí)現(xiàn)“換臉”“變聲”，還有一些人將深度偽造技術(shù)應(yīng)用于安全漏洞攻擊、虛假音視頻詐騙等，技術(shù)濫用帶來的風(fēng)險(xiǎn)逐漸為人們所知。
可能被詐騙、網(wǎng)絡(luò)攻擊等非法行為利用
此前，有國外網(wǎng)民利用換臉技術(shù)偽造藝人的影像資料并發(fā)布了視頻，引發(fā)爭議。
深度偽造技術(shù)被濫用的隱患，簡單來說就是盜用他人的身份，讓人“言”所未言、“行”所未行，以假亂真，混淆真相。
據(jù)專家介紹，若無有效的監(jiān)管措施，任由深度偽造技術(shù)被濫用錯(cuò)用，社會(huì)生活中的每個(gè)人都存在被這項(xiàng)技術(shù)侵害的可能性。
例如，面部識(shí)別、聲紋認(rèn)證等生物特征識(shí)別機(jī)制有可能面臨失效；公司企業(yè)可能被虛假消息欺詐，內(nèi)部資料可能因?yàn)閭窝b登錄而面臨丟失、篡改、刪除；有關(guān)部門在司法認(rèn)證、證據(jù)收集、識(shí)別環(huán)節(jié)將面臨真假難題；金融機(jī)構(gòu)管理的賬戶可能遭遇偽裝竊取，轉(zhuǎn)移資金；電信詐騙里偽裝公檢法、銀行、通信人員的手段會(huì)更加復(fù)雜，令人防不勝防……這些場景有可能帶來一系列更深層次的社會(huì)問題。
構(gòu)建更完善的法律和技術(shù)保護(hù)體系
2020年，中共中央印發(fā)《法治社會(huì)建設(shè)實(shí)施綱要（2020—2025年）》。綱要提出，制定完善對(duì)“算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。今年3月，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門、公安機(jī)關(guān)加強(qiáng)對(duì)語音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評(píng)估工作，并對(duì)未履行安全評(píng)估程序的11家企業(yè)進(jìn)行約談，引發(fā)社會(huì)關(guān)注。
面對(duì)深度偽造技術(shù)被濫用錯(cuò)用引發(fā)的犯罪和不良社會(huì)影響，專家建議，需盡快制定應(yīng)對(duì)措施，防范化解風(fēng)險(xiǎn)。
宜鼓勵(lì)研發(fā)鑒偽和溯源技術(shù)。盧維清認(rèn)為，目前學(xué)術(shù)界和商業(yè)界的防偽開發(fā)項(xiàng)目多針對(duì)特定產(chǎn)品而非通用的音視頻，還沒有構(gòu)建通用性的視頻鑒偽網(wǎng)絡(luò)。要加大對(duì)通用且高效鑒偽技術(shù)的研發(fā)投入和支持力度，鼓勵(lì)科研院所和企業(yè)研究檢測算法、主動(dòng)防御算法、深度偽造圖像和偽造語音的融合檢測技術(shù)等。
宜加強(qiáng)對(duì)社會(huì)各界的科普。通過培訓(xùn)等方式讓人們意識(shí)到深度偽造技術(shù)被濫用錯(cuò)用帶來的危害，逐步提高用戶的防范意識(shí)和鑒別能力，為相關(guān)鑒別技術(shù)的發(fā)展提供機(jī)會(huì)，促進(jìn)深度偽造技術(shù)的合法利用。
宜加強(qiáng)相關(guān)司法體系的建立。專家建議，建立更加完整的法律法規(guī)體系，對(duì)惡意制作或傳播的用戶進(jìn)行懲戒。2019年，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動(dòng)。盡管已出臺(tái)了相關(guān)法律法規(guī)遏制深度偽造技術(shù)的濫用，但還需要相關(guān)部門建立更加完整細(xì)致的法律體系，在區(qū)分偽造視頻是屬于娛樂還是惡性傳播等問題上厘清邊界，為新技術(shù)的應(yīng)用劃好紅線。
對(duì)一般用戶而言，由于不具有專業(yè)知識(shí)，很難識(shí)別出偽造的信息。尤其在技術(shù)發(fā)展迅速的背景下，專業(yè)人士也很難鑒別深度偽造的音視頻。
盧維清建議，在有關(guān)財(cái)產(chǎn)、信用、安全等敏感問題的處理上，用戶要更加謹(jǐn)慎，做好數(shù)據(jù)備份以便取證，對(duì)于不確定的情形及時(shí)聯(lián)系官方客服或報(bào)警求助。
日常使用手機(jī)時(shí)，最好設(shè)置安全等級(jí)高的訪問密碼，拒絕打開陌生的網(wǎng)站和應(yīng)用軟件，尤其是系統(tǒng)提示有安全隱患的訪問要及時(shí)停止，并定期對(duì)電腦系統(tǒng)殺毒，盡量減少在網(wǎng)上發(fā)布帶有個(gè)人信息的圖像、音視頻等。如果身份證、駕駛證等有關(guān)個(gè)人安全和信息的物件丟失，要第一時(shí)間掛失。平時(shí)多學(xué)習(xí)法律知識(shí)，關(guān)鍵時(shí)刻采用法律武器維護(hù)個(gè)人的合法權(quán)益。
防范深度偽造技術(shù)被濫用錯(cuò)用，僅依靠個(gè)人的力量還不夠，國家、企業(yè)都要肩負(fù)起重任，保護(hù)公民隱私，依據(jù)社會(huì)職能構(gòu)建更完善的法律和技術(shù)保護(hù)體系。
