人工智能（AI）技術快速發(fā)展，賦能各行各業(yè)，也帶來難以預知的風險。如何平衡人工智能的應用與治理，是博鰲亞洲論壇2025年年會上與會人士熱議的話題。

人工智能的推廣應用與加強監(jiān)管并不矛盾。專家認為，AI從信息智能到物理智能再到生物智能，風險會增加很多倍。與此同時，當人工智能大模型的安全性提升20%至30%，對其本身的求解能力幾乎沒有影響。

中國人工智能大模型的陸續(xù)發(fā)布改變了全球人工智能的版圖，并以其低成本和開放性促進了人工智能在全球的更公平應用，更多中小企業(yè)加入進來分享人工智能紅利，也豐富了人工智能應用場景。各國與會人士有一個共識，就是推進人工智能的全球治理需要中國發(fā)揮重要作用。

AI需要通過大量數(shù)據(jù)學習來提升能力。數(shù)據(jù)越多，數(shù)據(jù)的質量越高，系統(tǒng)的能力就越強，未來出現(xiàn)“幻覺”和推理謬誤的可能性就越小。中國龐大的制造業(yè)體系和巨大的消費市場為人工智能提供了用武之地，既提升了規(guī)模化生產效率，又促進了個性化需求滿足。

當前，全球標準化的數(shù)據(jù)服務商數(shù)量相對較少，很多大模型獲取的數(shù)據(jù)量雖然很大，但質量較低。如何構建一個完善而成熟的數(shù)據(jù)市場，是人工智能發(fā)展面臨的迫切問題。中國正在統(tǒng)籌開展數(shù)據(jù)領域規(guī)劃編制工作，致力于培育全國一體化數(shù)據(jù)市場，這將為人工智能的高質量應用奠定基礎。

算法透明化是監(jiān)管人工智能的又一關鍵環(huán)節(jié)。對用戶而言，既要得到答案，又要知道這個答案的求解之道。例如，在交通和醫(yī)療領域，人工智能的推理偏差直接關系人們的生命安全和健康安全。在教育領域，算法的偏頗會影響教育體系的效能。因此，針對不同應用領域，需要建立風險等級測試評估體系，分類分級管理，快速有效響應。對人工智能技術研發(fā)企業(yè)而言，要保持人工智能的可解釋性和可預測性。

目前世界上一些欠發(fā)達國家和地區(qū)沒有廣泛使用互聯(lián)網，人工智能時代的來臨使得數(shù)字鴻溝變成智能鴻溝。彌補智能鴻溝，需要人工智能發(fā)展走在前列的國家探索共通標準，通過對話與合作，在充分尊重各國政策和實踐差異性基礎上，推動各利益相關方積極參與，在國際人工智能治理領域形成廣泛共識。

確保人工智能始終處于人類控制下是論壇年會與會人士的共識。不論人工智能如何發(fā)展，“不能自我復制”等紅線是永遠不能突破的。人工智能的創(chuàng)新要遵守現(xiàn)有的版權、專利、技術等制度設計，而不能置身于人類社會的倫理系統(tǒng)之外。只有將人類的道德價值投射到人工智能領域，才能確保其始終朝著有利于人類文明進步的方向發(fā)展。（劉 亮）