AI換臉技術(shù)（央廣網(wǎng)發(fā) 圖片來源：CFP）
央廣網(wǎng)北京3月19日消息（記者馮爍）據(jù)中央廣播電視總臺中國之聲《新聞縱橫》報(bào)道，近日，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門、公安機(jī)關(guān)加強(qiáng)對語音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評估工作，并依法約談映客、小米等11家企業(yè)。“深度偽造技術(shù)”究竟是什么意思？如何讓技術(shù)不跨越危險(xiǎn)的邊界？
一年前，一條“愛因斯坦生前預(yù)告新冠肺炎”的視頻流傳于網(wǎng)絡(luò)，這段視頻里的愛因斯坦看上去如假包換，如果他說的不是新冠肺炎病毒，確實(shí)會讓人信以為真。
而這個視頻里運(yùn)用的技術(shù)就是“深度合成技術(shù)”。所謂深度偽造（Deep Fake）是深度合成技術(shù)的一個具體應(yīng)用，指借助深度合成技術(shù)偽造以人為主體（不光是人臉，還有頭部、肢體和聲音）的視聽覺內(nèi)容，以達(dá)到欺騙的目的。
當(dāng)我們?yōu)檫@樣的技術(shù)催生了一些娛樂視頻而哈哈大笑時，卻不知在大洋彼岸，這樣的技術(shù)也能成為攻擊他人的利器。
就在本月，美國賓夕法尼亞州東部的一名女子在一場騷擾和欺凌活動中制作了一系列深度偽造視頻，意在恐嚇跟她女兒競爭的十幾歲女孩并將她們踢出當(dāng)?shù)氐睦?duì)。受迫害的女孩們在被偽造的視頻中看起來像是裸體，吸電子煙或喝酒。
從技術(shù)溯源的角度講，深度合成技術(shù)本身沒有善惡之分，問題的出現(xiàn)是在于有人濫用技術(shù)，跨越了倫理和法理的邊界。中國科學(xué)院自動化研究所模式識別國家重點(diǎn)實(shí)驗(yàn)室研究員赫然告訴記者，深度合成技術(shù)是人工智能技術(shù)的前沿方向，但它和人工智能技術(shù)一樣都存在兩面性。赫然說：“深度合成技術(shù)實(shí)際上是廣泛存在于我們現(xiàn)實(shí)生活中的，比如說語音導(dǎo)航、智能語音客服，我們平常見到的虛擬主播、銀行的虛擬客服，平常使用的美顏相機(jī)里面的換臉或者換發(fā)型，都屬于深度合成，所以整個技術(shù)還是有正面意義的，它也代表人工智能在生活方面的前沿應(yīng)用。但是深度合成如果被不法分子所使用的時候，就會產(chǎn)生比較大的影響或者產(chǎn)生惡劣的影響�！�
深度偽造技術(shù)的可怕之處在于——普通人難辨真假。除了AI換臉有可能帶來的色情泛濫以外，人們更加擔(dān)心“深度偽造”技術(shù)在侵犯隱私、操縱政治選舉等方面帶來的挑戰(zhàn)。美國加利福尼亞大學(xué)伯克利分校教授哈尼·法里德表示，如果相關(guān)的偽造信息在互聯(lián)網(wǎng)中肆意蔓延，將會進(jìn)一步?jīng)_毀互聯(lián)網(wǎng)世界的真實(shí)性邊界。哈尼·法里德說：“我們應(yīng)該擔(dān)心‘深度偽造視頻’的出現(xiàn)，如果我們不能相信看到的來自世界各地的視頻、聽到的音頻，那就是很危險(xiǎn)的，事關(guān)國家安全。”
這也是為什么此次國家網(wǎng)信辦及公安部加強(qiáng)對涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用進(jìn)行安全評估工作。目前為止，從國家監(jiān)管層再到業(yè)界、學(xué)界也都在不斷探索，如何去為合成技術(shù)鑄造一道墻，避免人們對它的惡意運(yùn)用。科大訊飛AI研究院視頻分析技術(shù)專家吳子揚(yáng)說：“比如說我們結(jié)合著一些語音假音檢測、口型的口唇識別，包括一些音視頻的同步性檢測，人臉的一些活體的檢測，其實(shí)都對深度偽造有一定的抵抗力�！�
不過有觀點(diǎn)認(rèn)為，技術(shù)發(fā)展和監(jiān)管之間始終在上演“道高一尺魔高一丈”的博弈。在赫然看來，要想讓技術(shù)能在合理的范圍內(nèi)被人們善用，關(guān)鍵在于不斷研發(fā)鑒偽技術(shù)，并配合管控政策一起打一套“組合拳”。
赫然說：“現(xiàn)在學(xué)術(shù)界有很多具體的算法去鑒別合成的視頻是否是真實(shí)的，但是由于深度合成技術(shù)它發(fā)展比較快，所以鑒別難度還是比較大的，它相當(dāng)于一個矛盾的對抗體，它們都是快速發(fā)展的。但是專業(yè)的機(jī)構(gòu)，比如說大的企業(yè)，還有國家層面的機(jī)構(gòu)，它們有一定的計(jì)算能力去區(qū)分合成的結(jié)果�！�
目前從我國的相關(guān)法律法規(guī)來看，如果未經(jīng)本人許可，換臉行為是被法律所禁止的。同時，民法典第一千零一十九條第一款規(guī)定，不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人肖像權(quán)。此次兩部門的加強(qiáng)管理其實(shí)也釋放出一個明顯的信號：那就是要進(jìn)一步遏制由深度偽造技術(shù)引發(fā)的亂象。北京岳成律師事務(wù)所高級合伙人岳屾山說：“在我們國家就很明確的把不管是丑化還是進(jìn)行深度偽造，至少現(xiàn)在在民法層面有一個非常明確的禁止性規(guī)定了�！�
