當(dāng)前，全球人工智能產(chǎn)業(yè)規(guī)模已達(dá)1.8萬億美元，人工智能技術(shù)在各行各業(yè)的滲透融合逐步深入，核心領(lǐng)域呈現(xiàn)三大特征：一是?認(rèn)知智能跨越?。GPT-5等大模型在醫(yī)療診斷、法律咨詢等專業(yè)領(lǐng)域準(zhǔn)確率超過90%，引發(fā)教育、醫(yī)療等行業(yè)結(jié)構(gòu)性變革?。二是?實(shí)體智能融合。美國波士頓動(dòng)力的Atlas機(jī)器人已實(shí)現(xiàn)建筑工地全場(chǎng)景作業(yè)，中國“天工”機(jī)器人突破柔性抓取技術(shù)，推動(dòng)制造業(yè)自動(dòng)化率提升至68%?。三是?公共決策參與度增強(qiáng)。比如，美國的法院已開始試點(diǎn)AI量刑輔助系統(tǒng)，我國杭州的城市大腦3.0啟動(dòng)建設(shè)，邁入“AI智辦”時(shí)代。

在人工智能技術(shù)不斷推動(dòng)顛覆性創(chuàng)新的同時(shí)，也給社會(huì)治理乃至人類文明帶來了新問題和新挑戰(zhàn)。主要表現(xiàn)在算法權(quán)力問題、真實(shí)世界中的人際關(guān)系出現(xiàn)“數(shù)字真空”?、人類?創(chuàng)造力的異化等。對(duì)此，要加快探索完善人工智能倫理準(zhǔn)則、規(guī)范及問責(zé)機(jī)制，明確人工智能的價(jià)值底線。

建立完善倫理約束框架。首先要堅(jiān)持?立法先行?，研究制定《人工智能倫理審查法》，設(shè)立算法透明度、公平性、可問責(zé)性的法定標(biāo)準(zhǔn)，對(duì)醫(yī)療診斷等高風(fēng)險(xiǎn)系統(tǒng)實(shí)施準(zhǔn)入審查?。其次是進(jìn)行?分級(jí)監(jiān)管，建立分級(jí)風(fēng)險(xiǎn)清單，按照風(fēng)險(xiǎn)程度初步可分為禁止、限制和鼓勵(lì)三個(gè)級(jí)別，比如，禁止AI操控核設(shè)施，限制情緒識(shí)別技術(shù)商業(yè)應(yīng)用，鼓勵(lì)氣候預(yù)測(cè)模型開發(fā)等?。

重塑技術(shù)治理體系。建立完善?權(quán)力制衡機(jī)制，吸納哲學(xué)家、社會(huì)學(xué)家（占比不低于40%）參與國家人工智能倫理和治理機(jī)構(gòu)，對(duì)公共領(lǐng)域AI系統(tǒng)實(shí)施動(dòng)態(tài)倫理評(píng)估?。建設(shè)?技術(shù)免疫工程?，在自動(dòng)駕駛等系統(tǒng)中強(qiáng)制植入生命優(yōu)先權(quán)、公平性原則，從硬件層面約束算法邏輯?。

推進(jìn)全球協(xié)同治理。推動(dòng)國際?規(guī)則對(duì)接?，在G20等框架下探索建立人工智能倫理互認(rèn)機(jī)制，統(tǒng)一跨境數(shù)據(jù)流動(dòng)、知識(shí)產(chǎn)權(quán)保護(hù)等標(biāo)準(zhǔn)，減少“監(jiān)管套利”空間?。建立完善?風(fēng)險(xiǎn)聯(lián)防機(jī)制，?創(chuàng)建國際AI安全預(yù)警網(wǎng)絡(luò)，對(duì)自主武器、基因編輯等高風(fēng)險(xiǎn)研發(fā)行為實(shí)施全球溯源追蹤與聯(lián)合懲戒?。

總之，守牢人工智能的價(jià)值底線是事關(guān)人類文明主導(dǎo)權(quán)的重要課題。只有通過前瞻性的制度設(shè)計(jì)、穿透性的技術(shù)治理和包容性的社會(huì)政策，才能讓人工智能真正成為照亮人類世界未來的火炬?。

（作者伍愛群系全國政協(xié)委員、上海航天信息科技研究院院長(zhǎng)、華東師范大學(xué)特聘教授）