當(dāng)前，全球人工智能產(chǎn)業(yè)規(guī)模已達(dá)1.8萬億美元，人工智能技術(shù)在各行各業(yè)的滲透融合逐步深入，核心領(lǐng)域呈現(xiàn)三大特征：一是?認(rèn)知智能跨越?。GPT-5等大模型在醫(yī)療診斷、法律咨詢等專業(yè)領(lǐng)域準(zhǔn)確率超過90%，引發(fā)教育、醫(yī)療等行業(yè)結(jié)構(gòu)性變革?。二是?實體智能融合。美國波士頓動力的Atlas機器人已實現(xiàn)建筑工地全場景作業(yè)，中國“天工”機器人突破柔性抓取技術(shù)，推動制造業(yè)自動化率提升至68%?。三是?公共決策參與度增強。比如，美國的法院已開始試點AI量刑輔助系統(tǒng)，我國杭州的城市大腦3.0啟動建設(shè)，邁入“AI智辦”時代。

在人工智能技術(shù)不斷推動顛覆性創(chuàng)新的同時，也給社會治理乃至人類文明帶來了新問題和新挑戰(zhàn)。主要表現(xiàn)在算法權(quán)力問題、真實世界中的人際關(guān)系出現(xiàn)“數(shù)字真空”?、人類?創(chuàng)造力的異化等。對此，要加快探索完善人工智能倫理準(zhǔn)則、規(guī)范及問責(zé)機制，明確人工智能的價值底線。

建立完善倫理約束框架。首先要堅持?立法先行?，研究制定《人工智能倫理審查法》，設(shè)立算法透明度、公平性、可問責(zé)性的法定標(biāo)準(zhǔn)，對醫(yī)療診斷等高風(fēng)險系統(tǒng)實施準(zhǔn)入審查?。其次是進(jìn)行?分級監(jiān)管，建立分級風(fēng)險清單，按照風(fēng)險程度初步可分為禁止、限制和鼓勵三個級別，比如，禁止AI操控核設(shè)施，限制情緒識別技術(shù)商業(yè)應(yīng)用，鼓勵氣候預(yù)測模型開發(fā)等?。

重塑技術(shù)治理體系。建立完善?權(quán)力制衡機制，吸納哲學(xué)家、社會學(xué)家（占比不低于40%）參與國家人工智能倫理和治理機構(gòu)，對公共領(lǐng)域AI系統(tǒng)實施動態(tài)倫理評估?。建設(shè)?技術(shù)免疫工程?，在自動駕駛等系統(tǒng)中強制植入生命優(yōu)先權(quán)、公平性原則，從硬件層面約束算法邏輯?。

推進(jìn)全球協(xié)同治理。推動國際?規(guī)則對接?，在G20等框架下探索建立人工智能倫理互認(rèn)機制，統(tǒng)一跨境數(shù)據(jù)流動、知識產(chǎn)權(quán)保護(hù)等標(biāo)準(zhǔn)，減少“監(jiān)管套利”空間?。建立完善?風(fēng)險聯(lián)防機制，?創(chuàng)建國際AI安全預(yù)警網(wǎng)絡(luò)，對自主武器、基因編輯等高風(fēng)險研發(fā)行為實施全球溯源追蹤與聯(lián)合懲戒?。

總之，守牢人工智能的價值底線是事關(guān)人類文明主導(dǎo)權(quán)的重要課題。只有通過前瞻性的制度設(shè)計、穿透性的技術(shù)治理和包容性的社會政策，才能讓人工智能真正成為照亮人類世界未來的火炬?。

（作者伍愛群系全國政協(xié)委員、上海航天信息科技研究院院長、華東師范大學(xué)特聘教授）