在過(guò)去的一年中，可用于生成逼真、虛假或人為操控的音、視頻機(jī)器學(xué)習(xí)模型深度偽造技術(shù)（deepfake）逐漸進(jìn)入人們的視野，成為新興的網(wǎng)絡(luò)安全威脅。今天，我們就來(lái)一探究竟，看看深度偽造技術(shù)存在哪些安全風(fēng)險(xiǎn)與威脅，應(yīng)如何進(jìn)行防范？

       什么是深度偽造技術(shù)？

       深度偽造是深度學(xué)習(xí)（deep learning）與偽造（fake）二者的組合詞，一開(kāi)始專(zhuān)指基于人工智能尤其是深度學(xué)習(xí)的人像合成技術(shù)。隨著技術(shù)的進(jìn)步，深度偽造技術(shù)已經(jīng)發(fā)展為包括視頻偽造、聲音偽造、文本偽造和微表情合成等在內(nèi)的多模態(tài)視頻欺騙技術(shù)。 

       深度偽造技術(shù)的特點(diǎn)

       1. 產(chǎn)品逼真而多元，識(shí)別難度大

       深度偽造技術(shù)的產(chǎn)品涵蓋假視頻、音頻、文本、微表情等，其一大特性就是，提供訓(xùn)練的樣本數(shù)據(jù)越多，對(duì)目標(biāo)對(duì)象的模擬就會(huì)越準(zhǔn)確，偽造出來(lái)的假視頻和音頻等產(chǎn)品就會(huì)顯得越逼真，識(shí)別難度越大。目前，流傳在網(wǎng)上的假視頻主要涉及明星等公眾人物，因?yàn)樗麄兊恼掌鸵曨l在網(wǎng)上可以輕易獲取，用作偽造視頻的素材。 

       2. 與社交媒體結(jié)合，傳播速度快

       基于深度偽造技術(shù)制作的假視頻、音頻等產(chǎn)品迎合了大眾的獵奇心理，很容易借助facebook、微信、微博等社交媒體的效力，在全世界快速傳播。互聯(lián)網(wǎng)將世界連為一體，各類(lèi)信息能夠在轉(zhuǎn)瞬之間傳遍全球，自然也包括了利用深度偽造技術(shù)制作的假消息。

       安全風(fēng)險(xiǎn)及威脅

       1. 給國(guó)家安全帶來(lái)挑戰(zhàn)

       深度偽造技術(shù)存在著一些正面使用的前景，例如為商業(yè)發(fā)展、藝術(shù)創(chuàng)作、醫(yī)療行業(yè)等領(lǐng)域提供了新的發(fā)展空間。但鑒于其以假亂真的技術(shù)本質(zhì)以及目前的發(fā)展趨勢(shì)，這項(xiàng)技術(shù)對(duì)于國(guó)家安全可能帶來(lái)更多挑戰(zhàn)，如果被不法分子出于政治或惡意牟利動(dòng)機(jī)使用，將給政治安全帶來(lái)諸多風(fēng)險(xiǎn)和威脅。

       2. 破壞企業(yè)形象和金融市場(chǎng)穩(wěn)定

       如果深度偽造技術(shù)被利用，進(jìn)而篡改企業(yè)高層的說(shuō)話(huà)內(nèi)容、散播虛假消息，或通過(guò)合成假視頻直接抹黑企業(yè)負(fù)責(zé)人，無(wú)疑會(huì)破壞企業(yè)在公眾心中的形象。與此同時(shí)，深度偽造還可能為引發(fā)金融市場(chǎng)動(dòng)蕩提供了新的不穩(wěn)定源。 

       3. 造成社會(huì)信任危機(jī)

       從本質(zhì)上來(lái)看，深度偽造技術(shù)惡意使用所帶來(lái)的最根本影響在于，它會(huì)進(jìn)一步模糊真相與假象之間的界限，使大家對(duì)相關(guān)事物產(chǎn)生懷疑的態(tài)度，從而造成一定社會(huì)范圍內(nèi)的信任危機(jī)。 

       4. 給現(xiàn)有法律體系帶來(lái)新挑戰(zhàn)

       法律講究證據(jù)，錄像和錄音材料常常作為重要的舉證支撐，法官要根據(jù)原告和被告的證詞以及相應(yīng)的舉證材料對(duì)案件進(jìn)行評(píng)判。深度偽造技術(shù)能夠自動(dòng)生成高可信度的假視頻和假音頻，如果被別有用心的人利用，將給現(xiàn)有法律體系尤其是取證領(lǐng)域帶來(lái)很大挑戰(zhàn)。 

       5. 威脅個(gè)人隱私及財(cái)產(chǎn)安全

       隨著照片等相關(guān)數(shù)據(jù)在社交媒體上變得越來(lái)越多，任何人都可能成為潛在目標(biāo)。上傳到社交媒體的照片可能會(huì)被不法分子利用深度偽造技術(shù)制作成虛假視頻，用于提供虛假證據(jù)，進(jìn)行詐騙、勒索等違法行為，威脅公民的個(gè)人隱私及財(cái)產(chǎn)安全。 

       如何來(lái)防范安全風(fēng)險(xiǎn)？

       1. 加快預(yù)警檢測(cè)技術(shù)研發(fā)

       各國(guó)需要意識(shí)到深度偽造給國(guó)家安全帶來(lái)的風(fēng)險(xiǎn)的嚴(yán)重性和緊迫性，增加對(duì)預(yù)警檢測(cè)技術(shù)研發(fā)資金的投入，鼓勵(lì)技術(shù)平臺(tái)技術(shù)創(chuàng)新，加大開(kāi)發(fā)預(yù)警檢測(cè)技術(shù)工具力度，構(gòu)建合作與共享機(jī)制。

       2. 推進(jìn)對(duì)深度偽造的立法與監(jiān)管

       明確深度偽造產(chǎn)品生產(chǎn)主體的法律責(zé)任，從源頭上防止假消息的出現(xiàn)；強(qiáng)化傳播媒介尤其是社交媒體的法律和社會(huì)責(zé)任，從傳播過(guò)程中阻止深度偽造產(chǎn)品的擴(kuò)散；建立必要的危機(jī)應(yīng)對(duì)機(jī)制，在發(fā)現(xiàn)假消息肆意傳播時(shí)要快速響應(yīng)，避免其惡劣影響的擴(kuò)大化。 

       3. 個(gè)人應(yīng)提升警惕和甄別意識(shí)

       （1）提升警惕意識(shí)，避免在遇到深度偽造產(chǎn)品時(shí)上當(dāng)受騙；

       （2）學(xué)會(huì)甄別利用了深度偽造技術(shù)的APP，不在此類(lèi)APP上上傳個(gè)人照片等相關(guān)信息，如近期流行的”換臉“APP等；

       （3）切勿在社交媒體上制作和傳播虛假音視頻。