“活躍在巴黎時(shí)尚秀場(chǎng)上的明星居然也開始帶貨了”“楊冪、劉亦菲竟然賣起了減肥茶”，消費(fèi)者在直播間里看得一頭霧水，但卻因“眼見為實(shí)”屢屢瘋狂下單，被騙了還渾然不知。更有甚者，打出“包教包會(huì)”的旗號(hào)當(dāng)起了職業(yè)培訓(xùn)師。“培訓(xùn)費(fèi)用”從29.9元到上萬(wàn)元，涵蓋工具、承諾包教包會(huì)，消費(fèi)者繳費(fèi)后才知道所謂的包教包會(huì)，是“只售出無(wú)售后”。從“AI換臉”到“Sora”,當(dāng)消費(fèi)者們還沉浸在科技對(duì)世界的重塑力上時(shí)，有這樣一些商家早已經(jīng)構(gòu)建起了一條低成本牟暴利的灰色產(chǎn)業(yè)鏈。

“主播”變“明星” 帶貨騙你沒(méi)商量

晚上9點(diǎn)，點(diǎn)進(jìn)電商直播間，“楊冪”和“劉亦菲”竟然賣起了減肥茶，不久后“迪麗熱巴”也加入到直播帶貨中。在短短4個(gè)小時(shí)的時(shí)間里，依靠著“明星同款”“頂流力薦”的標(biāo)簽，直播間內(nèi)的商品銷量已達(dá)上千件。

“追直播追了好幾天，結(jié)果追了個(gè)‘李鬼’，簡(jiǎn)直欺騙了我的感情和信任。”消費(fèi)者李響憤憤不平道。

消費(fèi)者在觀看直播購(gòu)物時(shí)，會(huì)因?yàn)閷?duì)某個(gè)明星的喜愛和信任而購(gòu)買產(chǎn)品。部分商家正是抓住了消費(fèi)者的這一心理，開始借助AI換臉技術(shù)誘導(dǎo)消費(fèi)者消費(fèi)購(gòu)物。

北京商報(bào)記者在實(shí)際對(duì)比了十余個(gè)同類型“明星”直播間后發(fā)現(xiàn)，通常情況下，只要直播間里的“明星”不做過(guò)于大幅度的動(dòng)作，真的很難分辨出真?zhèn)巍?/p>

但只要直播時(shí)間一長(zhǎng)，仔細(xì)觀察就不難發(fā)現(xiàn)，該直播間內(nèi)的“女明星”如果動(dòng)作稍大，就會(huì)暴露“面具”之下的本來(lái)樣貌，或者出現(xiàn)“面具”出畫的現(xiàn)象。

當(dāng)眼見也不一定為實(shí)，針對(duì)疑似“AI換臉”的畫面，消費(fèi)者如何防范？產(chǎn)業(yè)觀察家陳一凡指出，大面積遮擋臉部，或在臉部前方揮手，將導(dǎo)致人臉檢測(cè)失效，消費(fèi)者可以由此判斷是否應(yīng)用了相關(guān)技術(shù)。

“騙術(shù)”當(dāng)“技術(shù)”輸出 玩多元變現(xiàn)

光直播帶貨還不過(guò)癮。如今部分商家還做起了更“高級(jí)”的生意，將已經(jīng)爛熟于心的“騙術(shù)”，當(dāng)作“技術(shù)”輸出。

順著某科普博主的賬號(hào)，北京商報(bào)記者進(jìn)入一個(gè)獨(dú)立站點(diǎn)，而該博主科普AI技術(shù)的身份背后，掩藏著一條完整的“AI換臉”套餐銷售鏈。

除了售價(jià)29.9元的“AI換臉”教程，該博主還提供人臉模型定制。整體定制服務(wù)在2000元至上萬(wàn)元不等，具體價(jià)格視質(zhì)量要求和應(yīng)用場(chǎng)景而定，能夠在全流程幫助科技“小白”完成“AI換臉”的一系列操作，實(shí)現(xiàn)視頻通話、直播等多個(gè)場(chǎng)景下“換臉”。

而服務(wù)于“技術(shù)流”的套餐則更加簡(jiǎn)單直接。通過(guò)電商平臺(tái)直接檢索“AI換臉模型”，無(wú)法顯示出相關(guān)結(jié)果，但用于訓(xùn)練人臉模型的src（源視頻）素材包卻可在平臺(tái)公開兜售。

素材包售價(jià)低至16.8元，最貴的僅29.8元。北京商報(bào)記者購(gòu)買了其中一款素材包，其中約含圖片4000張，大部分是對(duì)應(yīng)演員的影視劇截圖和個(gè)人照片。而在明星之外，該商家還提供“大眾臉女帶貨主播”“中年男路人”等素材包。

北京商報(bào)記者以消費(fèi)者身份暗訪了某素材包銷售商家，該商家向記者介紹，“如果是純新手，不推薦購(gòu)買，需要有一定搭建此類模型的基礎(chǔ)。”而在記者的一再追問(wèn)下，該商家表示，也有可以直接使用的人臉模型，但需要脫離平臺(tái)私下購(gòu)買，女性面孔居多售價(jià)更高，男性面孔較少。

想售后？不支持任何理由退款和換貨

這筆存在于“技術(shù)流”層面的交易也并不省心。

通過(guò)“AI換臉”從事虛擬主播的柒柒談道，“模型用得久了，慢慢出現(xiàn)了一些運(yùn)行不穩(wěn)定、臉部有鋸齒、表情無(wú)法識(shí)別的問(wèn)題，當(dāng)時(shí)砸進(jìn)去近萬(wàn)元做的模型，但商家已經(jīng)聯(lián)系不上了，如果另外找人修改模型，幾乎要重新開始，又是一大筆費(fèi)用”。

在暗訪中，北京商報(bào)記者注意到，幾乎所有的“換臉”明星素材包商家商品詳情，都在商品介紹中寫明：“本店為虛擬產(chǎn)品，下單后自動(dòng)發(fā)貨，不支持任何理由退款和換貨。”

聚焦在人臉模型定制服務(wù)上的問(wèn)題同樣是售后。北京商報(bào)記者以咨詢換臉明星進(jìn)行直播帶貨為由與提供人臉模型定制的商家劉先生取得聯(lián)系，對(duì)方稱需要預(yù)先支付99元作為定金，隨后可以進(jìn)行一個(gè)初步的“換臉嘗試”，看看效果再判斷是否要進(jìn)行進(jìn)一步的需求對(duì)接。

當(dāng)涉及如果最終的成品無(wú)法達(dá)到滿意的效果如何進(jìn)行售后服務(wù)時(shí)，劉先生三緘其口，始終回避交貨后的維護(hù)問(wèn)題。

消費(fèi)者趙月告訴北京商報(bào)記者，當(dāng)初為了“AI換臉”充了月卡，結(jié)果生成視頻居然需要花168元成為終身會(huì)員，到現(xiàn)在平臺(tái)卻沒(méi)有預(yù)兆地突然下架了“AI換臉”功能。

此類情況并非個(gè)例，在黑貓投訴中以“AI換臉”為關(guān)鍵詞檢索，出現(xiàn)了近百條投訴，其中包括“換臉”效果不合心意但平臺(tái)不受理退款等。

嚴(yán)重?fù)p害消費(fèi)者權(quán)益 平臺(tái)需強(qiáng)監(jiān)管

對(duì)于“AI換臉”所觸碰到的版權(quán)及損害消費(fèi)者權(quán)益等問(wèn)題，商家們也紛紛預(yù)先表態(tài)“不背鍋”，在多位提供人臉模型定制服務(wù)的業(yè)務(wù)介紹中，均提到“不接任何違反道德或者法律的相關(guān)業(yè)務(wù)，業(yè)務(wù)范圍僅限于個(gè)人娛樂(lè)、合法直播領(lǐng)域”。

根據(jù)《民法典》相關(guān)規(guī)定，公民享有肖像權(quán)，這意味著他人不得隨意使用肖像，同樣地，使用明星的臉部圖像也可能涉及到侵犯明星的肖像權(quán)。

北京市中聞律師事務(wù)所律師趙虎指出，如果使用“AI換臉”技術(shù)來(lái)制造虛假的代言人形象，誤導(dǎo)消費(fèi)者購(gòu)買商品或服務(wù)，那么這種行為就可能構(gòu)成虛假宣傳。同時(shí)，人臉作為識(shí)別個(gè)人身份的重要信息，如果被不當(dāng)使用，也可能涉及到名譽(yù)權(quán)的問(wèn)題，應(yīng)由商家承擔(dān)相應(yīng)的法律責(zé)任。此外，發(fā)生數(shù)據(jù)泄露的情況，需要查明原因并確定責(zé)任，當(dāng)由于AI工具本身存在缺陷導(dǎo)致的數(shù)據(jù)泄露，那么AI工具的提供者應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。

那么買了假明星帶貨的產(chǎn)品，消費(fèi)者要不要負(fù)連帶責(zé)任？

對(duì)于消費(fèi)者而言，趙虎進(jìn)一步指出，消費(fèi)者在購(gòu)買商品時(shí)仍需保持理性，注意辨別直播間內(nèi)容的真?zhèn)?。?dāng)消費(fèi)者基于對(duì)直播內(nèi)容的信任和興趣進(jìn)行購(gòu)買，他們通常是受害者，而非責(zé)任方。如果消費(fèi)者因?yàn)樯碳业奶摷傩麄骰蚯謾?quán)行為而遭受損失，有權(quán)向商家維權(quán)，可及時(shí)向平臺(tái)或相關(guān)部門舉報(bào)，維護(hù)自身權(quán)益和市場(chǎng)秩序。

事實(shí)上，相關(guān)規(guī)定早已為“AI換臉”劃定了“底線”和“紅線”。2023年起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，深度合成服務(wù)提供者應(yīng)當(dāng)以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)。

今年全國(guó)兩會(huì)，全國(guó)政協(xié)委員靳東再談“假靳東”，再度回應(yīng)了犯罪分子冒名其身份，通過(guò)運(yùn)營(yíng)“高仿”社交賬號(hào)，再以投資、戀愛等各種理由索要錢款這一事件，他對(duì)媒體表示，希望從法律層面加大對(duì)網(wǎng)絡(luò)平臺(tái)的監(jiān)管，讓網(wǎng)絡(luò)空間更加清朗。

相關(guān)業(yè)內(nèi)人士也向北京商報(bào)記者表示，現(xiàn)階段，盡管不少平臺(tái)已經(jīng)明確要求商家在使用“AI換臉”技術(shù)時(shí)注明身份，以確保AI合成視頻的發(fā)布者身份清晰可辨，但在利益驅(qū)動(dòng)下，仍存在試圖通過(guò)模糊身份來(lái)規(guī)避責(zé)任或誤導(dǎo)消費(fèi)者的商家。此外，平臺(tái)監(jiān)管的不到位和處罰力度不夠，也可能使得一些商家對(duì)規(guī)定置若罔聞。

陳一凡指出，新質(zhì)生產(chǎn)力確實(shí)以其顛覆性和原創(chuàng)性的特點(diǎn)，為傳統(tǒng)生產(chǎn)格局注入了新的活力，為經(jīng)濟(jì)社會(huì)發(fā)展提供了新的動(dòng)能，催生出眾多新產(chǎn)業(yè)，成為推動(dòng)社會(huì)進(jìn)步的重要力量。新科技的應(yīng)用往往帶來(lái)市場(chǎng)的變革，但如果被錯(cuò)誤使用，可能導(dǎo)致市場(chǎng)信號(hào)失真，資源配置不合理。

北京商報(bào)沸點(diǎn)調(diào)查小組