AI技術的初衷，從科學探索角度而言，是為了模擬人類智慧，拓展人類對自身和世界的認知，以助力科學向更深領域探索。在實際應用層面，利用AI算法處理大量數(shù)據(jù)、自動化生產流程等，代替和減少人類的重復性、精細化和體力工作，以提高生產效率，提升人類生活質量等。

然而，如今一些不法分子卻利用AI深度合成技術假冒名人公然在直播間帶貨，這種行為能夠大行其道的原因何在？張毅分析認為，科學技術的快速發(fā)展導致AI使用門檻降低，讓偽造視頻變得難以辨識且造假成本低廉。比如生成式AI開源工具的普及使偽造技術“平民化”，普通人無須專業(yè)能力即可生成逼真視頻。而傳播這些生成圖或者視頻的商業(yè)收益如帶貨分成、獲利較高，極易形成“低成本高回報”的違法激勵。加之名人IP自帶流量，假冒其形象的視頻能快速吸引用戶點擊，平臺算法往往也會優(yōu)先推薦高互動內容，如此就容易形成“造假—流量—變現(xiàn)—更多造假”的惡性循環(huán)。

周友軍的看法跟張毅一致，他表示，AI深度合成技術從最初的新奇娛樂應用，逐漸運用于各個行業(yè)、各個領域，包括電子商務領域，具體來說，主要運用在直播帶貨和短視頻營銷領域。

AI假冒名人帶貨現(xiàn)象泛濫，一方面，商家應用AI技術到電子商務領域愈發(fā)簡單快捷。比如，對于已有模型的AI語音，只需輸入想要生成的語音文本，3秒鐘即可生成相應的音頻。如果沒有模型，用戶只需上傳最短10秒鐘的語音素材，不到1分鐘即可訓練出新的聲音模型，整個操作過程零技術門檻、零成本。周友軍說，即便商家沒有掌握AI技術，他們也可以在網購平臺上購買AI“克隆人”的商品；另一方面，商家可以借助名人的知名度和影響力，輕松達到推廣商品的目的。實踐來看，利用AI合成技術假冒名人營銷絕不是新技術的試錯或無心之舉，而是商家惡意利用新技術，意圖獲取非法利益的行為。

AI假冒名人帶貨侵犯了公眾哪些權益？

據(jù)《2024年人工智能安全報告》統(tǒng)計，基于AI的深度偽造欺詐在2023年激增了30倍，商家利用AI假冒名人帶貨的行為對信息的正常傳播、電子商務的發(fā)展都帶來了極大的負面影響。

周友軍表示，從民法角度來看，AI假冒名人侵犯了名人的肖像權、名譽權和聲音權益、個人信息權益。根據(jù)民法典第1018條、第1019條規(guī)定，AI換臉只要未經被假冒者的同意，就會侵害名人的肖像權，這里應當適用可識別性標準，就是說，只要足以識別出是特定名人的肖像，就構成對其肖像權的侵害；如果換臉的同時，還模仿了名人的聲音，則構成對聲音權益的侵害；因換臉還要獲取被假冒者的面部信息，依據(jù)個人信息保護法，商家還可能構成對被假冒者的個人信息權益的侵害；如果假冒的名人發(fā)表了不當言論，還可能侵害該名人的名譽權。被假冒的名人可以要求商家承擔侵權責任，包括財產損害和精神損害賠償。

從消費者權益保護法的角度來看，商家以AI合成技術假冒名人進行虛假宣傳，違反了經營者應當提供真實、準確信息的規(guī)定，構成對消費者知情權、選擇權的侵害。對消費者而言，若因AI假冒名人帶貨而購買了商品，可依據(jù)消費者權益保護法第55條的規(guī)定，要求商家“退一賠三”，賠償金額最低為500元。

從行政法角度來看，商家以AI合成假冒名人，監(jiān)管機構可以依據(jù)消費者權益保護法、個人信息保護法等規(guī)定，對商家進行行政處罰；如果平臺構成行政違法，可能面臨罰款、責令整改等。

AI假冒名人帶貨“是否屬于詐騙”？張毅表示，需要看以下幾個方面：一是行為人是否具有非法占有的故意；二是行為人是否實施虛假事實、隱瞞真相的欺騙行為；三是行為人是否剝奪被害人的財產或財產性利益，且達到入罪標準。綜上，若行為人明知自己無名人授權，仍虛構“名人推薦”事實，具有非法占有他人財物的目的，通過偽造內容使消費者陷入錯誤認識并支付財物，且詐騙金額超過法定金額，即構成詐騙罪。據(jù)《關于辦理詐騙刑事案件具體應用法律若干問題的解釋》第一條，詐騙公私財物價值3000元至1萬元以上、3萬元至10萬元以上、50萬元以上的，應當分別認定為刑法第266條規(guī)定的“數(shù)額較大”“數(shù)額巨大”“數(shù)額特別巨大”。

如何追責？張毅說，“民事方面，被侵權的名人可以依據(jù)民法典第1197條，要求平臺立即刪除偽造內容，同時，可主張侵權賠償，包括經濟損失和精神損害賠償。刑事方面，若構成詐騙罪，消費者或權利人可提供交易記錄、偽造視頻等證據(jù)，向公安機關報案?！?/p>

短視頻平臺需承擔審查失職之責嗎？

傳統(tǒng)社會“眼見為實”，如今，因AI合成的圖像或視頻已突破人類感官的鑒別極限，公眾難以辨別真?zhèn)巍！皞卧煲曨l泛濫還有一個原因是責任追查有一定困難，相關監(jiān)管機制尚未完善。”張毅說。

平臺把關不嚴，一是審核有局限，人工審核工作量太大，且無法肉眼鑒別，必須依賴AI等技術手段。根據(jù)民法典、《互聯(lián)網信息服務算法推薦管理規(guī)定》、網絡安全法等相關法律規(guī)定，平臺對平臺內利用AI深度合成視頻負有合理注意的義務，包括主動標識合成內容、攔截明顯侵權信息等，尤其電子商務法第38條明確要求，平臺在“知道或者應當知道”情況下，需要采取措施。因此，平臺在“知道或者應當知道”情況下，未主動攔截信息、刪除視頻的，需要承擔責任?！暗菃栴}在于，平臺責任具有模糊地帶。因為‘知道或者應當知道’的標準在深度合成技術情況下難以確定?！贝送?，張毅表示，根據(jù)《互聯(lián)網信息服務算法推薦管理規(guī)定》，平臺需要對深度合成內容進行標識，但未明確平臺的檢測義務及處罰細則。也就是說，如果發(fā)布者沒有標識，平臺的檢測義務及不檢測出了問題如何處罰沒有明確規(guī)定。

周友軍稱，《互聯(lián)網信息服務深度合成管理規(guī)定》第7條明確規(guī)定，深度合成服務提供者應當落實信息安全主體責任，建立健全算法機制機理審核、用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護、未成年人保護、從業(yè)人員教育培訓等管理制度，具有安全可控的技術保障措施。據(jù)此，平臺發(fā)現(xiàn)商家存在AI合成情形，就要對商家的AI合成帶貨視頻等進行審核，防止出現(xiàn)違法行為；應當建立用戶投訴舉報機制，并及時采取措施進行處理。

如何規(guī)避AI合成濫用給信息傳播帶來的災難？

未來與AI共存將是生活的常態(tài)，當公眾“眼見不一定為實”時，可能會加劇數(shù)字時代人與人之間的“信任危機”。若虛假信息通過算法擴散的速度遠超信息核查能力，就會破壞社會信任基礎。因此，張毅建議，可通過法律規(guī)制、人工智能檢測技術（強制數(shù)字標識）、平臺問責、公眾媒介素養(yǎng)教育等方式防止信任危機風險加劇。

“當前，網絡平臺的責任認定標準不夠清晰，尤其在深度合成技術下，因平臺‘知道或者應當知道’的標準難以界定，一定程度上模糊了平臺避風港原則的適用范圍?！睆堃憬ㄗh，將原則性條款轉化為平臺可落地的技術合規(guī)清單，擴大平臺必要措施的范圍，如要求平臺部署必要的檢測工具，以加強深度合成內容檢測。同時，也可設置連帶責任觸發(fā)標準，如平臺從AI假冒名人帶貨視頻中獲得直接收益，可視平臺為非中立的，需要承擔連帶責任。

“就AI深度合成技術侵權來說，我國已經制定了比較完備的法律，包括民法典、個人信息保護法、消費者權益保護法、廣告法、刑法等，從不同角度對該行為予以規(guī)制?！敝苡衍娬f，網信辦等監(jiān)管機構還制定了一些部門規(guī)章和規(guī)范性文件。如《互聯(lián)網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等行政法規(guī)和部門規(guī)章。2023年，最高法、最高檢、公安部還聯(lián)合發(fā)布了《關于依法懲治網絡暴力違法犯罪的指導意見》，其中規(guī)定，對“利用‘深度合成’等生成式人工智能技術發(fā)布違法信息”的情形，要求依法從重處罰。

當然，考慮到AI深度合成技術的發(fā)展，實踐中不斷出現(xiàn)新情況、新問題，因此，我國立法還可以進一步完善。周友軍建議進一步明確AI深度合成技術的應用范圍和法律邊界，細化平臺、技術提供商、內容制作者及用戶的法律責任；構建多元主體協(xié)同治理的體系架構，全過程規(guī)制和打擊涉AI違法行為和犯罪活動；另外，還應制定AI行業(yè)行為準則，推動行業(yè)自律，切實實現(xiàn)科技向善。