AI技術(shù)的初衷，從科學(xué)探索角度而言，是為了模擬人類智慧，拓展人類對(duì)自身和世界的認(rèn)知，以助力科學(xué)向更深領(lǐng)域探索。在實(shí)際應(yīng)用層面，利用AI算法處理大量數(shù)據(jù)、自動(dòng)化生產(chǎn)流程等，代替和減少人類的重復(fù)性、精細(xì)化和體力工作，以提高生產(chǎn)效率，提升人類生活質(zhì)量等。

然而，如今一些不法分子卻利用AI深度合成技術(shù)假冒名人公然在直播間帶貨，這種行為能夠大行其道的原因何在？張毅分析認(rèn)為，科學(xué)技術(shù)的快速發(fā)展導(dǎo)致AI使用門檻降低，讓偽造視頻變得難以辨識(shí)且造假成本低廉。比如生成式AI開源工具的普及使偽造技術(shù)“平民化”，普通人無須專業(yè)能力即可生成逼真視頻。而傳播這些生成圖或者視頻的商業(yè)收益如帶貨分成、獲利較高，極易形成“低成本高回報(bào)”的違法激勵(lì)。加之名人IP自帶流量，假冒其形象的視頻能快速吸引用戶點(diǎn)擊，平臺(tái)算法往往也會(huì)優(yōu)先推薦高互動(dòng)內(nèi)容，如此就容易形成“造假—流量—變現(xiàn)—更多造假”的惡性循環(huán)。

周友軍的看法跟張毅一致，他表示，AI深度合成技術(shù)從最初的新奇娛樂應(yīng)用，逐漸運(yùn)用于各個(gè)行業(yè)、各個(gè)領(lǐng)域，包括電子商務(wù)領(lǐng)域，具體來說，主要運(yùn)用在直播帶貨和短視頻營銷領(lǐng)域。

AI假冒名人帶貨現(xiàn)象泛濫，一方面，商家應(yīng)用AI技術(shù)到電子商務(wù)領(lǐng)域愈發(fā)簡(jiǎn)單快捷。比如，對(duì)于已有模型的AI語音，只需輸入想要生成的語音文本，3秒鐘即可生成相應(yīng)的音頻。如果沒有模型，用戶只需上傳最短10秒鐘的語音素材，不到1分鐘即可訓(xùn)練出新的聲音模型，整個(gè)操作過程零技術(shù)門檻、零成本。周友軍說，即便商家沒有掌握AI技術(shù)，他們也可以在網(wǎng)購平臺(tái)上購買AI“克隆人”的商品；另一方面，商家可以借助名人的知名度和影響力，輕松達(dá)到推廣商品的目的。實(shí)踐來看，利用AI合成技術(shù)假冒名人營銷絕不是新技術(shù)的試錯(cuò)或無心之舉，而是商家惡意利用新技術(shù)，意圖獲取非法利益的行為。

AI假冒名人帶貨侵犯了公眾哪些權(quán)益？

據(jù)《2024年人工智能安全報(bào)告》統(tǒng)計(jì)，基于AI的深度偽造欺詐在2023年激增了30倍，商家利用AI假冒名人帶貨的行為對(duì)信息的正常傳播、電子商務(wù)的發(fā)展都帶來了極大的負(fù)面影響。

周友軍表示，從民法角度來看，AI假冒名人侵犯了名人的肖像權(quán)、名譽(yù)權(quán)和聲音權(quán)益、個(gè)人信息權(quán)益。根據(jù)民法典第1018條、第1019條規(guī)定，AI換臉只要未經(jīng)被假冒者的同意，就會(huì)侵害名人的肖像權(quán)，這里應(yīng)當(dāng)適用可識(shí)別性標(biāo)準(zhǔn)，就是說，只要足以識(shí)別出是特定名人的肖像，就構(gòu)成對(duì)其肖像權(quán)的侵害；如果換臉的同時(shí)，還模仿了名人的聲音，則構(gòu)成對(duì)聲音權(quán)益的侵害；因換臉還要獲取被假冒者的面部信息，依據(jù)個(gè)人信息保護(hù)法，商家還可能構(gòu)成對(duì)被假冒者的個(gè)人信息權(quán)益的侵害；如果假冒的名人發(fā)表了不當(dāng)言論，還可能侵害該名人的名譽(yù)權(quán)。被假冒的名人可以要求商家承擔(dān)侵權(quán)責(zé)任，包括財(cái)產(chǎn)損害和精神損害賠償。

從消費(fèi)者權(quán)益保護(hù)法的角度來看，商家以AI合成技術(shù)假冒名人進(jìn)行虛假宣傳，違反了經(jīng)營者應(yīng)當(dāng)提供真實(shí)、準(zhǔn)確信息的規(guī)定，構(gòu)成對(duì)消費(fèi)者知情權(quán)、選擇權(quán)的侵害。對(duì)消費(fèi)者而言，若因AI假冒名人帶貨而購買了商品，可依據(jù)消費(fèi)者權(quán)益保護(hù)法第55條的規(guī)定，要求商家“退一賠三”，賠償金額最低為500元。

從行政法角度來看，商家以AI合成假冒名人，監(jiān)管機(jī)構(gòu)可以依據(jù)消費(fèi)者權(quán)益保護(hù)法、個(gè)人信息保護(hù)法等規(guī)定，對(duì)商家進(jìn)行行政處罰；如果平臺(tái)構(gòu)成行政違法，可能面臨罰款、責(zé)令整改等。

AI假冒名人帶貨“是否屬于詐騙”？張毅表示，需要看以下幾個(gè)方面：一是行為人是否具有非法占有的故意；二是行為人是否實(shí)施虛假事實(shí)、隱瞞真相的欺騙行為；三是行為人是否剝奪被害人的財(cái)產(chǎn)或財(cái)產(chǎn)性利益，且達(dá)到入罪標(biāo)準(zhǔn)。綜上，若行為人明知自己無名人授權(quán)，仍虛構(gòu)“名人推薦”事實(shí)，具有非法占有他人財(cái)物的目的，通過偽造內(nèi)容使消費(fèi)者陷入錯(cuò)誤認(rèn)識(shí)并支付財(cái)物，且詐騙金額超過法定金額，即構(gòu)成詐騙罪。據(jù)《關(guān)于辦理詐騙刑事案件具體應(yīng)用法律若干問題的解釋》第一條，詐騙公私財(cái)物價(jià)值3000元至1萬元以上、3萬元至10萬元以上、50萬元以上的，應(yīng)當(dāng)分別認(rèn)定為刑法第266條規(guī)定的“數(shù)額較大”“數(shù)額巨大”“數(shù)額特別巨大”。

如何追責(zé)？張毅說，“民事方面，被侵權(quán)的名人可以依據(jù)民法典第1197條，要求平臺(tái)立即刪除偽造內(nèi)容，同時(shí)，可主張侵權(quán)賠償，包括經(jīng)濟(jì)損失和精神損害賠償。刑事方面，若構(gòu)成詐騙罪，消費(fèi)者或權(quán)利人可提供交易記錄、偽造視頻等證據(jù)，向公安機(jī)關(guān)報(bào)案。”

短視頻平臺(tái)需承擔(dān)審查失職之責(zé)嗎？

傳統(tǒng)社會(huì)“眼見為實(shí)”，如今，因AI合成的圖像或視頻已突破人類感官的鑒別極限，公眾難以辨別真?zhèn)?。“偽造視頻泛濫還有一個(gè)原因是責(zé)任追查有一定困難，相關(guān)監(jiān)管機(jī)制尚未完善?！睆堃阏f。

平臺(tái)把關(guān)不嚴(yán)，一是審核有局限，人工審核工作量太大，且無法肉眼鑒別，必須依賴AI等技術(shù)手段。根據(jù)民法典、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、網(wǎng)絡(luò)安全法等相關(guān)法律規(guī)定，平臺(tái)對(duì)平臺(tái)內(nèi)利用AI深度合成視頻負(fù)有合理注意的義務(wù)，包括主動(dòng)標(biāo)識(shí)合成內(nèi)容、攔截明顯侵權(quán)信息等，尤其電子商務(wù)法第38條明確要求，平臺(tái)在“知道或者應(yīng)當(dāng)知道”情況下，需要采取措施。因此，平臺(tái)在“知道或者應(yīng)當(dāng)知道”情況下，未主動(dòng)攔截信息、刪除視頻的，需要承擔(dān)責(zé)任?！暗菃栴}在于，平臺(tái)責(zé)任具有模糊地帶。因?yàn)椤阑蛘邞?yīng)當(dāng)知道’的標(biāo)準(zhǔn)在深度合成技術(shù)情況下難以確定?！贝送?，張毅表示，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，平臺(tái)需要對(duì)深度合成內(nèi)容進(jìn)行標(biāo)識(shí)，但未明確平臺(tái)的檢測(cè)義務(wù)及處罰細(xì)則。也就是說，如果發(fā)布者沒有標(biāo)識(shí)，平臺(tái)的檢測(cè)義務(wù)及不檢測(cè)出了問題如何處罰沒有明確規(guī)定。

周友軍稱，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第7條明確規(guī)定，深度合成服務(wù)提供者應(yīng)當(dāng)落實(shí)信息安全主體責(zé)任，建立健全算法機(jī)制機(jī)理審核、用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、未成年人保護(hù)、從業(yè)人員教育培訓(xùn)等管理制度，具有安全可控的技術(shù)保障措施。據(jù)此，平臺(tái)發(fā)現(xiàn)商家存在AI合成情形，就要對(duì)商家的AI合成帶貨視頻等進(jìn)行審核，防止出現(xiàn)違法行為；應(yīng)當(dāng)建立用戶投訴舉報(bào)機(jī)制，并及時(shí)采取措施進(jìn)行處理。

如何規(guī)避AI合成濫用給信息傳播帶來的災(zāi)難？

未來與AI共存將是生活的常態(tài)，當(dāng)公眾“眼見不一定為實(shí)”時(shí)，可能會(huì)加劇數(shù)字時(shí)代人與人之間的“信任危機(jī)”。若虛假信息通過算法擴(kuò)散的速度遠(yuǎn)超信息核查能力，就會(huì)破壞社會(huì)信任基礎(chǔ)。因此，張毅建議，可通過法律規(guī)制、人工智能檢測(cè)技術(shù)（強(qiáng)制數(shù)字標(biāo)識(shí)）、平臺(tái)問責(zé)、公眾媒介素養(yǎng)教育等方式防止信任危機(jī)風(fēng)險(xiǎn)加劇。

“當(dāng)前，網(wǎng)絡(luò)平臺(tái)的責(zé)任認(rèn)定標(biāo)準(zhǔn)不夠清晰，尤其在深度合成技術(shù)下，因平臺(tái)‘知道或者應(yīng)當(dāng)知道’的標(biāo)準(zhǔn)難以界定，一定程度上模糊了平臺(tái)避風(fēng)港原則的適用范圍?！睆堃憬ㄗh，將原則性條款轉(zhuǎn)化為平臺(tái)可落地的技術(shù)合規(guī)清單，擴(kuò)大平臺(tái)必要措施的范圍，如要求平臺(tái)部署必要的檢測(cè)工具，以加強(qiáng)深度合成內(nèi)容檢測(cè)。同時(shí)，也可設(shè)置連帶責(zé)任觸發(fā)標(biāo)準(zhǔn)，如平臺(tái)從AI假冒名人帶貨視頻中獲得直接收益，可視平臺(tái)為非中立的，需要承擔(dān)連帶責(zé)任。

“就AI深度合成技術(shù)侵權(quán)來說，我國已經(jīng)制定了比較完備的法律，包括民法典、個(gè)人信息保護(hù)法、消費(fèi)者權(quán)益保護(hù)法、廣告法、刑法等，從不同角度對(duì)該行為予以規(guī)制?！敝苡衍娬f，網(wǎng)信辦等監(jiān)管機(jī)構(gòu)還制定了一些部門規(guī)章和規(guī)范性文件。如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等行政法規(guī)和部門規(guī)章。2023年，最高法、最高檢、公安部還聯(lián)合發(fā)布了《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》，其中規(guī)定，對(duì)“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形，要求依法從重處罰。

當(dāng)然，考慮到AI深度合成技術(shù)的發(fā)展，實(shí)踐中不斷出現(xiàn)新情況、新問題，因此，我國立法還可以進(jìn)一步完善。周友軍建議進(jìn)一步明確AI深度合成技術(shù)的應(yīng)用范圍和法律邊界，細(xì)化平臺(tái)、技術(shù)提供商、內(nèi)容制作者及用戶的法律責(zé)任；構(gòu)建多元主體協(xié)同治理的體系架構(gòu)，全過程規(guī)制和打擊涉AI違法行為和犯罪活動(dòng)；另外，還應(yīng)制定AI行業(yè)行為準(zhǔn)則，推動(dòng)行業(yè)自律，切實(shí)實(shí)現(xiàn)科技向善。