泰伯網(wǎng)3月8日訊  據(jù)報(bào)道，深度合成技術(shù)的影響范圍正在不斷擴(kuò)大，深度合成技術(shù)濫用所造成的負(fù)面風(fēng)險(xiǎn)也在不斷加劇，但鑒別難度也在快速提升。

根據(jù)瑞萊智慧發(fā)布的《深度合成十大趨勢(shì)報(bào)告》，深度合成技術(shù)的影響范圍正在不斷擴(kuò)大。相比2017年，2021年國(guó)內(nèi)外十家主流音視頻平臺(tái)中的深度合成內(nèi)容新增量級(jí)超過(guò)十倍。

同時(shí)，深度合成技術(shù)濫用所造成的負(fù)面風(fēng)險(xiǎn)也在不斷加劇，并且產(chǎn)生許多實(shí)質(zhì)性的傷害。例如危害可能涉及社會(huì)國(guó)家安全、公司以及個(gè)人名譽(yù)造成的損失。

而在社會(huì)層面，中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心段偉文教授表示，由于人類對(duì)視覺(jué)更加信任，視覺(jué)上的偽造要比其他媒體形式的偽造影響更大。如果視頻內(nèi)容的造假持續(xù)，公眾會(huì)對(duì)所有的視覺(jué)內(nèi)容真實(shí)性產(chǎn)生懷疑，它會(huì)大大削弱公眾對(duì)于媒體的信任，甚至喪失對(duì)揭示真相的信心。

目前深度合成的鑒別需求在快速增長(zhǎng)，但是鑒別難度也在快速提升。人工智能公司瑞萊智慧CEO田天表示，鑒別難度提升的原因主要有兩點(diǎn)，一是深度合成的逼真度正在快速提高，已經(jīng)超越了人眼鑒別的能力范圍，人眼鑒別它的難度越來(lái)越大，甚至到?jīng)]有辦法分辨的成都。其次，目前新的深度合成技術(shù)具有強(qiáng)對(duì)抗性，它天然針對(duì)一些檢測(cè)方法進(jìn)行對(duì)抗攻擊，使檢測(cè)方法失效。

具體來(lái)看，瑞萊智慧副總裁唐家渝分析稱，深度合成鑒別具體的技術(shù)難度主要有三點(diǎn)：偽造的規(guī)則不斷快速迭代、再編輯導(dǎo)致的傳播效果折損可能無(wú)法保證檢測(cè)效果、算法判斷需要可解釋性。

目前，圍繞深度合成技術(shù)，國(guó)家層面已經(jīng)逐步建立治理和監(jiān)管的機(jī)制。2022年，網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見(jiàn)稿）》里，旨在促進(jìn)深度合成技術(shù)依法合理有效利用，并且規(guī)范發(fā)展互聯(lián)網(wǎng)信息服務(wù)深度合成活動(dòng)，對(duì)深度合成的應(yīng)用治理提出了非常明確的要求規(guī)范。