點(diǎn)藍(lán)色字關(guān)注“中央廣電總臺(tái)中國(guó)之聲”

近日，因AI換臉技術(shù)導(dǎo)致的詐騙案件引發(fā)了人們的關(guān)注。伴隨著AI大模型的發(fā)展，“換臉”技術(shù)應(yīng)用范圍越來(lái)越廣，技術(shù)的突破還使得換臉后的人物表情、動(dòng)作細(xì)節(jié)更為逼真，一旦被不法分子利用，可能會(huì)帶來(lái)嚴(yán)重危害。記者調(diào)查發(fā)現(xiàn)，在網(wǎng)上，AI換臉軟件的獲取非常容易，利用AI換臉軟件的法律邊界在哪里？如何做好事前監(jiān)管？

01

網(wǎng)絡(luò)上出現(xiàn)付費(fèi)AI換臉軟件

套餐價(jià)格從499元到2888元不等

當(dāng)下，依托于大模型及算法的突破，AI換臉正在實(shí)現(xiàn)更大范圍的應(yīng)用，引發(fā)更多擔(dān)憂(yōu)。在網(wǎng)絡(luò)上，演示換臉軟件使用方法及效果的教程比比皆是。不同于大量給普通人“嘗鮮”的免費(fèi)軟件，記者發(fā)現(xiàn)，在網(wǎng)絡(luò)上還有很多高價(jià)的付費(fèi)AI換臉軟件，這些付費(fèi)軟件與免費(fèi)軟件有什么樣的不同？

記者搜索“AI換臉軟件”后聯(lián)系上了一個(gè)開(kāi)發(fā)者，他給記者提供了一段使用其軟件實(shí)現(xiàn)換臉的示范視頻——雙視窗頁(yè)面左側(cè)是換臉之前的原始視頻，右側(cè)則是換臉之后的視頻，肉眼來(lái)看，換臉之后的“數(shù)字人”口型、表情、微小的動(dòng)作幾乎毫無(wú)破綻。

△賣(mài)家展示的素人換臉效果（S為原視頻，D為更換之后）

在其銷(xiāo)售網(wǎng)站上，該軟件開(kāi)發(fā)者還展示了如何將兩位知名女星的眼睛和嘴巴拼接到一起，生成全新“數(shù)字人”的視頻。

△賣(mài)家展示的局部五官更換

這一付費(fèi)軟件提供從初級(jí)（LV1）到超級(jí)（LV4）再到全套（LV5）的不同版本。以初級(jí)套餐來(lái)說(shuō)，499元提供軟件界面、視頻指導(dǎo)、換臉模型等，如果花2888元，則可以得到全套（LV5）等級(jí)的視頻換臉模型。

△網(wǎng)絡(luò)上提供多種不同等級(jí)的換臉軟件產(chǎn)品?

02

???????

“想換什么臉都可以”

AI大模型可集成多種功能打造“數(shù)字人”

打開(kāi)該網(wǎng)站，底部沒(méi)有任何文字顯示其經(jīng)過(guò)了備案。賣(mài)家也十分謹(jǐn)慎，全程僅用文字交流。他表示，與初級(jí)（LV1）至超級(jí)（LV4）套餐相比，全套（LV5）版本迭代更多，能力更強(qiáng)，也可以理解為換臉效果更為逼真，同時(shí)，不僅可以實(shí)現(xiàn)視頻換臉，還支持直播換臉。

記者進(jìn)一步詢(xún)問(wèn)，能否根據(jù)自己的需求換臉？軟件開(kāi)發(fā)者表示：“想換什么樣的臉拿素材訓(xùn)練就可以”。

△軟件開(kāi)發(fā)者在與記者的聊天截圖

一位從事AI開(kāi)發(fā)的技術(shù)人員表示，這意味著可能會(huì)有更多難以控制的風(fēng)險(xiǎn)?！邦?lèi)似于這樣的AI換臉技術(shù)是開(kāi)源的，最近的AI大模型火起來(lái)，它的算法又有了更新，就可以集成文生圖、文生文，文生音頻、文生視頻、換臉，這樣的功能結(jié)合起來(lái)，就可以打造出一個(gè)完全嶄新的‘?dāng)?shù)字人’或者叫‘AI人’，監(jiān)管的成本和難度高了好幾個(gè)數(shù)量級(jí)。”