雷軍、劉德華都成受害者！最新曝光

從惡搞企業(yè)家雷軍到AI制作張文宏醫(yī)生音視頻為自己帶貨，甚至還有不法分子利用AI深度合成視頻，進(jìn)行詐騙。過(guò)去一年，AI深度合成音視頻侵權(quán)現(xiàn)象愈演愈烈。

此前就曾有網(wǎng)友曾利用AI制作的劉德華聲音，為自己博取流量，劉德華電影公司還緊急發(fā)布聲明提醒網(wǎng)民，不要落入偽造劉德華聲音的AI語(yǔ)音合成技術(shù)騙局。近日記者調(diào)查發(fā)現(xiàn)，實(shí)現(xiàn)AI深度合成音視頻并不算難事，甚至在一些購(gòu)物平臺(tái)，AI深度合成技術(shù)已經(jīng)成為眾多網(wǎng)店牟利的工具，只需花費(fèi)幾十元，就可定制AI深度合成名人音視頻。

網(wǎng)絡(luò)主播直播教學(xué)

用開(kāi)源工具AI深度合成

這些AI深度合成的聲音和換臉是如何制作出來(lái)的？記者調(diào)查發(fā)現(xiàn)，相應(yīng)的深度合成軟件在網(wǎng)絡(luò)上下載并不算難，而且還有一些網(wǎng)絡(luò)主播會(huì)開(kāi)直播教網(wǎng)友如何使用。

戳圖看視頻

記者在手機(jī)應(yīng)用商城搜索換臉換聲，會(huì)出現(xiàn)眾多工具。不過(guò)記者發(fā)現(xiàn)換臉工具，設(shè)定了固定的場(chǎng)景，且從效果看逼真度不高。那么網(wǎng)店制作的逼真度高的AI深度合成的聲音和換臉是如何做到的？

中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)專(zhuān)家 薛智慧：當(dāng)前咱們有很多開(kāi)源的這些軟件和工具都可以實(shí)現(xiàn)這種換聲換臉的效果，可以供網(wǎng)民自由下載，在自己的電腦上進(jìn)行安裝和使用。

專(zhuān)家表示此類(lèi)軟件目前在網(wǎng)絡(luò)上有數(shù)十種，不過(guò)不論換聲還是換臉軟件，不同的場(chǎng)景需要調(diào)整相應(yīng)的參數(shù)，步驟較多，屬于半專(zhuān)業(yè)軟件，有一定的技術(shù)門(mén)檻，所以不被網(wǎng)民熟知。但是記者發(fā)現(xiàn)目前在短視頻平臺(tái)有眾多主播在教網(wǎng)民使用相關(guān)軟件。

未經(jīng)授權(quán)

合成制作他人視頻聲音屬侵權(quán)

那么，在網(wǎng)絡(luò)購(gòu)物平臺(tái)使用AI深度合成技術(shù)，制作出售名人的音視頻，是否觸犯相關(guān)法律呢？專(zhuān)家表示，相關(guān)法律法規(guī)明確規(guī)定，未經(jīng)授權(quán)，不得深度合成制作發(fā)布他人信息。網(wǎng)店接單AI深度合成制作名人視頻，已經(jīng)屬于侵權(quán)行為，并應(yīng)該承擔(dān)相應(yīng)的法律責(zé)任。

戳圖看視頻

中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專(zhuān)業(yè)委員會(huì)委員 呂延輝：《中華人民共和國(guó)民法典》規(guī)定，自然人享有肖像、聲音等權(quán)益，任何組織或個(gè)人利用信息技術(shù)偽造都是侵權(quán)行為。2023年國(guó)家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。2024年網(wǎng)信辦發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》也提出，對(duì)AI生成合成內(nèi)容要進(jìn)行標(biāo)識(shí)，以便公眾識(shí)別和區(qū)分，防止誤導(dǎo)性信息傳播。

網(wǎng)店使用AI深度合成技術(shù)制作名人的視頻，應(yīng)該承擔(dān)什么樣的法律責(zé)任？

北京航空航天大學(xué)法學(xué)院副教授 趙精武：在司法實(shí)踐中，國(guó)內(nèi)已經(jīng)審結(jié)了首例AI生成聲音人格權(quán)侵權(quán)案。在這個(gè)案子里，原告作為配音演員，在沒(méi)有經(jīng)過(guò)授權(quán)的情況下，他的聲音被AI生成后對(duì)外出售。法院在審理中認(rèn)為，我國(guó)的民法典已經(jīng)在人格權(quán)編，將自然人的聲音視為一種人格權(quán)益，具有人身專(zhuān)屬性。所以，法院最終認(rèn)定被告的行為構(gòu)成侵權(quán)。

專(zhuān)家：提高防范意識(shí) 可以用AI檢測(cè)AI

其實(shí)，不僅是名人，普通人甚至動(dòng)畫(huà)形象，如果未經(jīng)本人或版權(quán)方同意，就用AI合成制作其音視頻，也可以判斷為侵權(quán)行為，應(yīng)當(dāng)承擔(dān)法律責(zé)任。隨著相關(guān)技術(shù)的普及，我們又該如何防范AI深度合成音視頻侵權(quán)的問(wèn)題呢？繼續(xù)看專(zhuān)家的解讀。

戳圖看視頻

中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)專(zhuān)家 薛智慧：從技術(shù)角度來(lái)說(shuō)，其實(shí)可以利用AI技術(shù)來(lái)對(duì)抗跟檢測(cè)AI。當(dāng)前也有一些典型的AI技術(shù)，能夠?qū)@些圖片或者音視頻進(jìn)行檢測(cè)，來(lái)判斷或者分析這些圖片是否后期加工和合成的。

中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專(zhuān)業(yè)委員會(huì)委員 呂延輝：防范AI侵權(quán)問(wèn)題需要從法律、平臺(tái)和公眾等多個(gè)層面綜合施策。法律層面，要進(jìn)一步完善相關(guān)立法，細(xì)化AI克隆技術(shù)的法律條款，明確侵權(quán)行為的定義和責(zé)任，同時(shí)加強(qiáng)執(zhí)法力度。平臺(tái)層面，要強(qiáng)化相關(guān)政策法規(guī)的宣貫和執(zhí)行，做好已有數(shù)據(jù)的保護(hù)，應(yīng)用技術(shù)手段來(lái)規(guī)避AI克隆侵權(quán)問(wèn)題的發(fā)生，同時(shí)也要建立健全內(nèi)容審核和侵權(quán)舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)和處理侵權(quán)問(wèn)題。

法律專(zhuān)家也提醒AI深度合成制作和信息發(fā)布者，不要存僥幸心理，法律沒(méi)有灰色地帶，切勿因小失大。

北京航空航天大學(xué)法學(xué)院副教授 趙精武：法律并不是禁止使用AI合成技術(shù)，而是禁止不合法不合理的使用，尤其是禁止不進(jìn)行任何顯著標(biāo)識(shí)和提示的AI合成信息的發(fā)布和傳播。

（原標(biāo)題：雷軍、劉德華都成受害者！最新曝光）

【責(zé)任編輯：謝鎮(zhèn)蔚】

【內(nèi)容審核：吳鐘旺】