近日，知名傳染病學(xué)專家張文宏直播賣蛋白棒的視頻，讓不少老人信以為真，瘋狂買單，櫥窗商品已售出上千件。但最終發(fā)現(xiàn)這是一起利用AI換臉技術(shù)合成的侵權(quán)視頻。

張文宏等名人成為被AI技術(shù)假冒的“躺槍者”，并非個(gè)案。今年315期間，本報(bào)曾發(fā)表了《AI換臉下的扭曲生意鏈》一文，揭露一些不良商家利用AI換臉構(gòu)建起一條低成本牟暴利的灰色產(chǎn)業(yè)鏈。9個(gè)月后，AI換臉騙局不僅沒有得到遏制，反而愈演愈烈。引導(dǎo)AI換臉回歸正軌，不僅需要平臺(tái)方更多的監(jiān)管，也真正考驗(yàn)相關(guān)管理者的智慧。

名人到公眾  泛濫的銷售產(chǎn)業(yè)鏈

添加一段視頻，輸入一段語音，便能提取克隆相關(guān)的嗓音特質(zhì)，根據(jù)預(yù)設(shè)好的文本內(nèi)容，智能修改口型。當(dāng)前，AI換臉技術(shù)已經(jīng)非常成熟，在合成軟件上生成這樣一個(gè)時(shí)長(zhǎng)1分鐘的換臉視頻，只需等待幾小時(shí)。

北京商報(bào)記者使用了幾款熱門AI換臉合成軟件發(fā)現(xiàn)，僅需提供一張照片，就可以生成寫真照片、跳舞視頻等。如果不確定需要哪種風(fēng)格的照片或視頻，軟件內(nèi)還提供各種模板，包括古風(fēng)漢服、民族服飾、熱門大咖、明星換臉等選擇。

AI技術(shù)的進(jìn)步給用戶帶來了便利性和娛樂性，但同時(shí)，由AI換臉引起的侵權(quán)和違法行為不在少數(shù)。10月30日，根據(jù)北京互聯(lián)網(wǎng)法院發(fā)布的數(shù)據(jù)，近一年共受理個(gè)人信息保護(hù)糾紛案件113件，呈增長(zhǎng)趨勢(shì)，侵權(quán)主體以互聯(lián)網(wǎng)企業(yè)為主，AI換臉等新型侵權(quán)案件不斷涌現(xiàn)。

據(jù)報(bào)道，換臉明星名人直播帶貨的產(chǎn)品銷量往往數(shù)小時(shí)可達(dá)上千件，并且已形成換臉銷售產(chǎn)業(yè)鏈；山東濟(jì)南一男子接通了由AI換臉成親戚的視頻通話，7秒的視頻時(shí)間被騙了30萬元；今年2月，一跨國(guó)公司在開視頻會(huì)議時(shí)，不法分子換臉成公司高管，讓員工先后15次將2億港元轉(zhuǎn)到指定賬戶。

“不僅是面部特征一樣，AI還會(huì)說方言，我打了兩次視頻電話都沒有發(fā)現(xiàn)對(duì)方不是自己的爸媽。”曾被AI換臉騙走8000元的李女士向北京商報(bào)記者說道。

天使投資人、資深人工智能專家郭濤說：“AI換臉技術(shù)主要基于深度學(xué)習(xí)算法，尤其是生成對(duì)抗網(wǎng)絡(luò)（GAN）。通過不斷訓(xùn)練，生成器能夠逐漸生成難以被判別器識(shí)別的假臉。同時(shí)，結(jié)合面部特征點(diǎn)識(shí)別、3D建模等技術(shù)輔助，實(shí)現(xiàn)臉部表情、動(dòng)作等逼真合成。”

面對(duì)這些明目張膽的侵權(quán)行為，張文宏在接受采訪時(shí)表示：“這樣的賣貨賬號(hào)不止一個(gè)，且一直在變，我多次向平臺(tái)投訴但屢禁不絕。很多不明真相的老百姓，特別是有些對(duì)AI不是很熟悉的、年紀(jì)較大的市民，就很容易相信。”此外，張文宏也考慮求助警方，但對(duì)方看不見、摸不著，經(jīng)常更換賬號(hào)，很難找到準(zhǔn)確的報(bào)警對(duì)象。

郭濤補(bǔ)充到，當(dāng)前AI技術(shù)飛速發(fā)展，特別是深度學(xué)習(xí)算法的不斷成熟，使得換臉技術(shù)的門檻大大降低。“可以說，AI換臉的泛濫與技術(shù)門檻的降低具有密不可分的關(guān)系。”

侵權(quán)與違法  被踐踏的肖像權(quán)

“我的人臉信息他們從何獲得？”“AI換臉違法嗎？”對(duì)于AI換臉?biāo)|及到的侵害個(gè)人權(quán)益和欺詐問題，北京觀韜律師事務(wù)所執(zhí)行合伙人、知識(shí)產(chǎn)權(quán)業(yè)務(wù)委員會(huì)主任李洪江律師對(duì)此直言：“AI根據(jù)用戶指令生成的某些換臉視頻可能涉嫌侵權(quán)甚至構(gòu)成違法。”

近日，廣州互聯(lián)網(wǎng)法院就審結(jié)了一起由“AI換臉”視頻合成模板引發(fā)的侵權(quán)糾紛。一位知名短視頻博主發(fā)現(xiàn)自己的漢服裝扮視頻被某科技公司擅自制成了付費(fèi)“AI換臉”模板。法院審理后認(rèn)定，該公司的行為侵犯了博主的肖像權(quán)。廣州互聯(lián)網(wǎng)法院綜合審判三庭庭長(zhǎng)曹鈺說，本案的焦點(diǎn)就在于，沒有使用他人面部形象的情況下是否構(gòu)成侵害肖像權(quán)。

此外，北京互聯(lián)網(wǎng)法院提供的典型案例也顯示，原告廖某是一名古風(fēng)短視頻博主，在全網(wǎng)擁有較多粉絲。被告某科技文化有限公司在未經(jīng)原告授權(quán)同意的情況下，使用原告出鏡的系列視頻制作換臉模板，并上傳至其運(yùn)營(yíng)的案涉軟件中，提供給用戶付費(fèi)使用并以此牟利。最終法院判決被告向原告賠禮道歉、賠償精神損害撫慰金和維權(quán)費(fèi)用。

根據(jù)《民法典》，公民享有肖像權(quán)，這意味著他人不得隨意使用肖像，同時(shí)，對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。

李洪江認(rèn)為，AI換臉技術(shù)被濫用后，不僅會(huì)侵犯他人的肖像權(quán)，如果被用于丑化、污損他人形象，或制作不雅視頻等會(huì)侵犯他人的名譽(yù)權(quán)，另外，涉及獲取、處理、使用他人的人臉信息等敏感個(gè)人信息，且未經(jīng)權(quán)利人同意則可能侵犯?jìng)€(gè)人信息權(quán)益。

李洪江進(jìn)一步指出：“利用換臉技術(shù)進(jìn)行直播帶貨，涉嫌違反民法典關(guān)于肖像權(quán)和個(gè)人信息保護(hù)的規(guī)定，同時(shí)可能涉嫌虛假宣傳；而如果利用換臉技術(shù)進(jìn)行詐騙，違反了刑法關(guān)于詐騙罪和幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪等的規(guī)定，可能構(gòu)成犯罪。”

對(duì)此，郭濤建議：“可以通過觀察面部細(xì)節(jié)是否自然、表情動(dòng)作是否連貫，以及視頻中光影效果的變化來判斷是否是AI換臉視頻。”

“如遇到AI換臉視頻，受害者要第一時(shí)間保存證據(jù)，同時(shí)注意保存與侵權(quán)行為相關(guān)的所有信息，并尋求專業(yè)的技術(shù)鑒定機(jī)構(gòu)對(duì)涉嫌侵權(quán)的作品進(jìn)行鑒定，以確認(rèn)其是否由AI合成。”李洪江補(bǔ)充道。

預(yù)防和識(shí)別 全鏈條進(jìn)行治理

AI換臉等新型侵權(quán)案件不斷涌現(xiàn)，除了用戶自身提高網(wǎng)絡(luò)安全意識(shí)，對(duì)于AI換臉相關(guān)風(fēng)險(xiǎn)的預(yù)防與整治，需要從源頭進(jìn)行監(jiān)管，司法形成多主體、全鏈條的治理。

“AI換臉與個(gè)人肖像密切相關(guān)，不免引起公眾對(duì)肖像權(quán)與個(gè)人信息權(quán)益的擔(dān)憂。”北京互聯(lián)網(wǎng)法院在闡述上述案件典型意義時(shí)指出，本案明確了肖像權(quán)“可識(shí)別性”不局限于面部，但應(yīng)當(dāng)主要集中于自然人的個(gè)人生理特征，避免肖像權(quán)的任意擴(kuò)張影響妝容、造型等領(lǐng)域的合法使用及創(chuàng)作傳播。

現(xiàn)階段，不少平臺(tái)已經(jīng)明確要求在使用AI換臉技術(shù)時(shí)標(biāo)明身份，并對(duì)不當(dāng)使用的行為作出了處置措施。

3月26日，抖音安全中心發(fā)布不當(dāng)利用AI生成虛擬人物的治理公告，指出將嚴(yán)格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容；12月15日，“微信珊瑚安全”微信公眾號(hào)發(fā)布關(guān)于打擊利用AI仿冒知名人士進(jìn)行營(yíng)銷宣傳的公告，已處理532條內(nèi)容，關(guān)閉賬號(hào)209個(gè)。

另外，相關(guān)規(guī)定也為AI換臉劃定了“底線”和“紅線”。2023年起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，深度合成服務(wù)提供者應(yīng)當(dāng)以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)。

但AI換臉技術(shù)涉及復(fù)雜的算法和數(shù)據(jù)處理過程，使得法律難以全面覆蓋所有可能的濫用情況。

李洪江認(rèn)為：“AI換臉技術(shù)的法律地位尚未明確，導(dǎo)致侵權(quán)責(zé)任的界定困難。一方面，因AI換臉技術(shù)的高度逼真性和隱蔽性，受害者往往難以發(fā)現(xiàn)侵權(quán)行為并獲取有力證據(jù)；另一方面，AI換臉技術(shù)發(fā)展迅速，不斷出現(xiàn)新的應(yīng)用場(chǎng)景和濫用方式，使得法律難以跟上技術(shù)的步伐。”

“從多主體、全鏈條預(yù)防和識(shí)別這類內(nèi)容是解開騙局的關(guān)鍵。”在郭濤看來，從加強(qiáng)監(jiān)管入手，在源頭上阻止這些虛假視頻的傳播；另外，要完善法律法規(guī)，明確AI換臉技術(shù)的使用規(guī)范和違法界限。

對(duì)于未來在監(jiān)管方面視頻平臺(tái)如何應(yīng)對(duì)，北京商報(bào)記者采訪了多家短視頻平臺(tái)企業(yè)，但多數(shù)平臺(tái)都回避了這個(gè)問題。某視頻平臺(tái)內(nèi)部人士對(duì)記者表示，AI換臉是全行業(yè)問題，源頭來自于AI換臉網(wǎng)站，平臺(tái)也深受其害。建議全行業(yè)形成規(guī)范，在AI內(nèi)容生成時(shí)即自動(dòng)植入某種計(jì)算機(jī)能夠識(shí)別的標(biāo)記，以便于各平臺(tái)識(shí)別AI內(nèi)容，防止虛假信息傳播。

此外，北京商報(bào)記者聯(lián)系了相關(guān)監(jiān)管部門，但截至發(fā)稿均未得到回復(fù)。記者之后也撥打了12345熱線和12315熱線，兩方均表示：如果遇到AI換臉視頻，可以幫用戶聯(lián)系到相關(guān)平臺(tái)方，根據(jù)用戶要求進(jìn)行視頻下架等處理；如AI換臉視頻涉及詐騙，則建議盡快報(bào)警。

中國(guó)政法大學(xué)傳播法研究中心副主任朱巍表示，對(duì)AI的約束要跟上AI技術(shù)的發(fā)展，在傳播渠道上，可以對(duì)AI作品實(shí)現(xiàn)溯源。

此前，全國(guó)人大法工委曾就AI換臉現(xiàn)象作出回應(yīng)，表示將不斷建立健全制度和監(jiān)管，以保障公民的合法權(quán)益。今年9月14日，國(guó)家網(wǎng)信辦起草了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》，該辦法出臺(tái)后，將進(jìn)一步加強(qiáng)對(duì)AI生成技術(shù)的約束和規(guī)范，督促服務(wù)提供者和網(wǎng)絡(luò)平臺(tái)承擔(dān)起應(yīng)有的法律責(zé)任。

北京商報(bào)記者 金朝力 實(shí)習(xí)記者 劉曼華