（原標(biāo)題：換臉？合成？新規(guī)重拳整治亂象）

最近，國家互聯(lián)網(wǎng)信息辦公室，工業(yè)和信息化部和公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對深度合成做了相關(guān)規(guī)定，包括深度合成的內(nèi)容，深度合成服務(wù)提供者的提示義務(wù)，辟謠機制的建立以及對于深度合成涉及到的相關(guān)生物信息要取得同意等。

深度合成技術(shù)的發(fā)家史

深度合成技術(shù)的發(fā)家史有點并不光彩，深度合成最開始出現(xiàn)是2017年，一男子利用AI換臉制作色情視頻在外網(wǎng)發(fā)布。之后特朗普在任期間，由于其本身的社交屬性，網(wǎng)絡(luò)上出現(xiàn)了各種惡搞特朗普的AI換臉視頻，至此，深度合成技術(shù)正式進入大眾視野。這樣不甚光彩的發(fā)家史使得深度合成技術(shù)一出生就仿佛帶著原罪，席卷著傷害、侮辱、和虛假，人們擔(dān)憂深度合成技術(shù)只會引來技術(shù)濫用和道德滑坡。

于是，在AI換臉帶著色情視頻席卷外網(wǎng)之時，社交媒體上為這種技術(shù)起了一個負(fù)向的名字“deepfake”，即“deep learning”和“fake”的合成詞，利用AI的深度學(xué)習(xí)來做虛假之物，直譯的話就會譯為“深度造假”。但是該詞在引入中國之時，有學(xué)者認(rèn)為深度合成技術(shù)本身并無錯，利用的好也可以推動社會發(fā)展，而且如果譯為“深度造假”也會給學(xué)術(shù)研究蒙上污點，不利于AI技術(shù)的發(fā)展，于是便譯為了更為中性的“深度合成”，這就是我們現(xiàn)在大規(guī)模使用的深度合成技術(shù)的命名由來了。

而從技術(shù)史來說，深度合成技術(shù)從圖像合成技術(shù)發(fā)展而來，圖像合成技術(shù)就是我們常說的PS技術(shù)，在簡單的圖像合成基礎(chǔ)之上，利用各種方式讓合成更加逼真。更學(xué)術(shù)一點來說，深度合成指利用以深度學(xué)習(xí)、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)。我們所熟知的元宇宙場景構(gòu)建，AI換臉換頭，包括這段時間大火的ChatGPT，都屬于深度合成技術(shù)。

根據(jù)清華大學(xué)人工智能研究院發(fā)布的《深度合成十大趨勢報告2022》，互聯(lián)網(wǎng)中深度合成視頻的發(fā)布數(shù)量逐年上升，到了2021年已達24317條，其點贊數(shù)已超3億。2021年虛擬偶像洛天依登上央視春晚舞臺，虛擬偶像正式進入主流視野。在深度合成與現(xiàn)實生活聯(lián)系愈加緊密的背景下，國家互聯(lián)網(wǎng)信息辦公室，中華人民共和國工業(yè)和信息化部和中華人民共和國公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，專門規(guī)定互聯(lián)網(wǎng)深度合成相關(guān)內(nèi)容。下面，颯姐團隊為大家介紹一下新規(guī)重點。

新規(guī)重點解讀

什么是深度合成

規(guī)范深度合成，首先就要知道規(guī)范范圍，在新規(guī)里，第二十三條專門用了一整條來解釋深度合成技術(shù)：深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于：

（一）篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)；

（二）文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)；

（三）音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)；

（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；

（五）圖像生成、圖像增強、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；

（六）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)。

重點提示＋辟謠機制

深度合成技術(shù)和其他互聯(lián)網(wǎng)技術(shù)最大的不同在于其極易混淆性，隨著技術(shù)的進步，網(wǎng)友可能憑借一雙肉眼很難判斷出自己所接觸到的到底是真是假，于是在本法中就專門列出兩條來解決這個問題，一是重點提示，二是要有辟謠機制。

根據(jù)新規(guī)第十七條 深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標(biāo)識，向公眾提示深度合成情況：

（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務(wù)；

（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務(wù)；

（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)；

（四）沉浸式擬真場景等生成或者編輯服務(wù)；

（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。

深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識功能，并提示深度合成服務(wù)使用者可以進行顯著標(biāo)識。

也就是說要在明顯位置提示使用者這是合成的，防止被混淆。而一旦大面積的混淆出現(xiàn)，變成謠言怎么辦呢？新規(guī)還專門規(guī)定了辟謠機制。

根據(jù)新規(guī)第十一條，深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)主管部門報告。俗話說造謠一張嘴，辟謠跑斷腿。新規(guī)這一條就是把被造謠者的辟謠負(fù)擔(dān)轉(zhuǎn)接一部分給平臺，平臺作為一般來說較強勢一方，要承擔(dān)起一部分辟謠的責(zé)任。

取得同意

如果要讓AI學(xué)習(xí)人臉或者人聲，要征得別人的同意嗎？新規(guī)明確地給出了答復(fù)：要。而且作為人臉、人聲編輯功能的提供者，平臺背負(fù)著提醒使用者的義務(wù)。

根據(jù)新規(guī)第十四條，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。也就是說所有的生物信息被嚴(yán)格地保護，應(yīng)當(dāng)征得生物信息所有人的單獨同意。

除了以上幾點重點內(nèi)容以外，新規(guī)還對深度合成的內(nèi)容，范圍等做出了規(guī)范。篇幅限制，颯姐團隊在這里就不一一展開了，感興趣的老友們可以直接翻來看看。

寫在最后

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》其實在今年一月份就開始發(fā)征求意見稿，并于本月正式對外發(fā)布，將于2023年1月10日起正式施行。該規(guī)定的實施是我國互聯(lián)網(wǎng)管理向精細(xì)化前進的重要一步，在《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》的基礎(chǔ)上對深度合成做出特別提示，值得各位讀者注意。

本文系未央網(wǎng)專欄作者:肖颯 發(fā)表，內(nèi)容屬作者個人觀點，不代表網(wǎng)站觀點，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點和立場。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識產(chǎn)權(quán)的作品，請與我們?nèi)〉寐?lián)系，我們會及時修改或刪除。

Tags：[db:TAG標(biāo)簽](1451068)

轉(zhuǎn)載請標(biāo)注：信息網(wǎng)——換臉？合成？新規(guī)重拳整治亂象