當(dāng)前，全球人工智能技術(shù)發(fā)展已進入快車道，新一輪科技革命正在重塑經(jīng)濟和社會結(jié)構(gòu)。2025年政府工作報告首次將“人工智能﹢”單獨列為政策章節(jié)，明確提出要持續(xù)推進“人工智能﹢”行動，將數(shù)字技術(shù)與制造優(yōu)勢、市場優(yōu)勢更好結(jié)合起來，支持大模型廣泛應(yīng)用。據(jù)數(shù)據(jù)公司IDC預(yù)測，到2028年中國人工智能總投資規(guī)模將突破1000億美元，5年復(fù)合增長率為35.2%。然而，技術(shù)快速發(fā)展的同時，AI詐騙、AI侵權(quán)等新型違法犯罪行為層出不窮，給數(shù)據(jù)安全、知識產(chǎn)權(quán)保護和社會倫理帶來嚴(yán)峻挑戰(zhàn)。近日，在2025中關(guān)村論壇“科技與法治論壇”現(xiàn)場，與會嘉賓就如何通過立法為人工智能“保駕護航”進行深入探討。

人工智能安全風(fēng)險逐漸顯露

“過去常說‘有圖有真相’，如今哪怕有視頻也可能是精心設(shè)計的騙局?！闭搲希迦A大學(xué)智能法治研究院院長、清華大學(xué)法學(xué)院教授申衛(wèi)星分享了一個案例：某企業(yè)財務(wù)人員收到一封轉(zhuǎn)賬郵件，憑借日常反詐意識準(zhǔn)確識別出這是釣魚郵件。然而，不一會，又收到一段“公司CFO召開高管會議”的視頻，視頻中CFO神態(tài)自若，并明確指示其進行轉(zhuǎn)賬操作。隨后，財務(wù)分15次給5個賬戶轉(zhuǎn)了兩億港幣，全程未察覺視頻系偽造。

這并非個案。公安部數(shù)據(jù)顯示，近兩年來，全國共發(fā)生“AI換臉”類詐騙案近百起。奇安信集團副總裁段繼平透露：“除了金融詐騙，AI技術(shù)還被用于制造虛假新聞、侵犯知識產(chǎn)權(quán)等違法行為。從AI換臉詐騙到偽造身份盜取賬戶，犯罪手段已形成完整產(chǎn)業(yè)鏈，甚至出現(xiàn)定制化AI犯罪服務(wù)?！?/p>

傳統(tǒng)法律遭遇“數(shù)字鴻溝”

面對AI技術(shù)帶來的新型法律問題，現(xiàn)有法律體系顯得有些滯后。全國人大常委會委員、全國人大憲法和法律委員會副主任委員、清華大學(xué)法學(xué)院院長周光權(quán)坦言，“由于人工智能技術(shù)迅猛發(fā)展，現(xiàn)有法律制度體系難以囊括或銜接人工智能技術(shù)引發(fā)的各類問題，出現(xiàn)了一定程度滯后。”

中國人民大學(xué)法學(xué)院教授、未來法治研究院副院長丁曉東也表示，人工智能發(fā)展高度依賴訓(xùn)練數(shù)據(jù)，但許多現(xiàn)有的個人信息保護、著作權(quán)和數(shù)據(jù)互聯(lián)制度誕生于傳統(tǒng)工業(yè)時代，在人工智能時代已顯脫節(jié)，難以適應(yīng)大規(guī)模數(shù)據(jù)匯聚和規(guī)模效應(yīng)的需求。

盡管監(jiān)管部門已采取行動，如國家互聯(lián)網(wǎng)信息辦公室出臺《人工智能生成合成內(nèi)容標(biāo)識辦法》，明確規(guī)定自9月1日起，AI生成內(nèi)容必須添加“AI”標(biāo)識。但專家們認(rèn)為，僅靠規(guī)則難以完全填補漏洞。

段繼平建議，大模型安全治理需要政策規(guī)范與技術(shù)手段并重，通過動態(tài)監(jiān)管和全流程防控，確保AI應(yīng)用的健康發(fā)展，在段繼平看來，不僅要事前對大模型生成內(nèi)容進行合規(guī)性約束，還要保證事中出現(xiàn)問題時可以實時監(jiān)測、攔截，事后實現(xiàn)精準(zhǔn)溯源和取證，形成一套“技術(shù)對抗﹢源頭治理”的總體方案。

法治護航下的創(chuàng)新發(fā)展

在剛剛過去的全國兩會期間，人工智能安全防護、大模型數(shù)據(jù)安全、監(jiān)管立法成為政協(xié)委員們熱議的焦點議題。多位委員指出，我國人工智能領(lǐng)域的法律規(guī)范存在諸多空白，呼吁加快立法進程。

實際上，從國際層面來看，許多國家已經(jīng)認(rèn)識到人工智能立法的重要性并付諸行動。2022年美國發(fā)布《人工智能權(quán)利法案藍(lán)圖》，為技術(shù)發(fā)展劃定倫理邊界，2024年歐盟通過《人工智能法案》，建立起分級監(jiān)管框架。

“目前我國在大數(shù)據(jù)和人工智能立法領(lǐng)域呈現(xiàn)‘頂層規(guī)劃＋地方試點＋行業(yè)協(xié)同’的特點。”北京市人民檢察院第四分院檢察長劉惠表示，未來需要進一步填補法律空白，強化技術(shù)安全和倫理規(guī)范，推動數(shù)智技術(shù)和法治的深度融合。

全國政協(xié)委員、中華全國律師協(xié)會監(jiān)事長呂紅兵建議加快制定一部有關(guān)生成式人工智能的行政法規(guī)。在他看來，制定一部既要解決當(dāng)下問題，又能充分考慮長遠(yuǎn)的人工智能法難度極大，可以選擇生成式人工智能這一社會最關(guān)心最直接最現(xiàn)實的“切口”，重點加快出臺有關(guān)生成式人工智能全方位規(guī)范的立法。

全國政協(xié)委員、金杜律師事務(wù)所高級合伙人張毅提出，立法應(yīng)當(dāng)堅持以人民為中心，保障人的主體地位和權(quán)益，遵循“以人為本、智能向善、造福人類”的原則。

申衛(wèi)星表示，科學(xué)合理的法律規(guī)制有利于提升應(yīng)用部門和消費者對于人工智能產(chǎn)品的信任度。人工智能技術(shù)的可持續(xù)發(fā)展不僅是技術(shù)競爭，也是法治軟實力競爭，人工智能立法已經(jīng)成為各國彰顯人工智能治理國際競爭力和話語權(quán)的重要標(biāo)志。對于立法形式，申衛(wèi)星建議：“應(yīng)以綜合立法為主，兼顧單行法的配套，考慮好與既有法律之間的關(guān)系?！?/p>

“要采取具有問題導(dǎo)向、試錯性質(zhì)、有彈性的立法思路，通過行業(yè)實踐等多種規(guī)制手段逐步探索形成數(shù)字經(jīng)濟發(fā)展所需要的法律制度?！北本┐髮W(xué)電子商務(wù)法研究中心主任薛軍表示。丁曉東則建議在個人信息保護方面，對目的必要性原則作擴張解釋，以廣泛匯聚合理利用為前提，輔助程序性保護機制和個人信息拒絕權(quán)。在數(shù)據(jù)互聯(lián)方面，構(gòu)建合理預(yù)期機制，完善爬蟲技術(shù)責(zé)任規(guī)則等，在保護權(quán)益與促進創(chuàng)新之間尋求平衡。

周光權(quán)表示，當(dāng)前，社會各界對人工智能相關(guān)法律的制定充滿期待，全國人大常委會也在緊鑼密鼓地開展相關(guān)調(diào)研工作。“立法研究既要積極，又要穩(wěn)慎，統(tǒng)籌好發(fā)展與安全的關(guān)系，確保人工智能安全發(fā)展。既要通過立法為新技術(shù)新產(chǎn)業(yè)發(fā)展提供法律保障，又要深入研究相關(guān)法律和倫理問題，有效應(yīng)對新技術(shù)的不確定性所帶來的新挑戰(zhàn)?！保ㄓ浾?馬嘉悅）