新華社天津5月18日電(記者翟永冠 尹思源)公安指揮中心建設(shè)、智能人臉識(shí)別、“特警”機(jī)器人、智慧醫(yī)療……第二屆世界智能大會(huì)正在天津舉行,一系列著眼于公共安全、生命健康的智能科技亮相,給人們提供更多的“安全感”。隨著人工智能技術(shù)應(yīng)用越來越廣,如何解決人工智能系統(tǒng)中存在的安全漏洞和潛在風(fēng)險(xiǎn),已引起業(yè)界更多關(guān)注。

5月17日,觀眾在天津梅江會(huì)展中心智能科技展上參觀深之藍(lán)的水下機(jī)器人。新華社記者 李然 攝

智能科技發(fā)展帶來更多“安全感”

著眼于公共安全的“城市安全大腦”、著眼于個(gè)人健康安全的智慧醫(yī)療、代替人從事危險(xiǎn)工作的機(jī)器人……在第二屆世界智能大會(huì)上,記者看到,人工智能技術(shù)的發(fā)展為人們帶來更多保護(hù),有效化解公共安全風(fēng)險(xiǎn)、維護(hù)個(gè)人身體健康安全,成為人工智能發(fā)展帶來的好處之一。

迅速識(shí)別犯罪分子、提供智慧消防服務(wù)、幫助警察收集現(xiàn)場蛛絲馬跡并智能分析,多款著眼于維護(hù)公共安全的智能科技吸引人們圍觀。天津中環(huán)系統(tǒng)工程有限公司“城市安全大腦”項(xiàng)目負(fù)責(zé)人劉哲說,城市安全大腦將指揮消防系統(tǒng)、智能安防系統(tǒng)、巡檢運(yùn)維系統(tǒng)、動(dòng)態(tài)人臉識(shí)別等集納在一起,成為城市公共安全的指揮中心?！耙员汇y行、醫(yī)院等廣泛采用的智能安防為例,可以迅速識(shí)別不良行為,天津的一家三甲醫(yī)院每天可以發(fā)現(xiàn)三四名‘慣偷’,有效維護(hù)公眾人身財(cái)產(chǎn)安全?！眲⒄苷f。

在個(gè)人健康安全方面,智慧醫(yī)療系統(tǒng)提供個(gè)人健康顧問系統(tǒng)解決方案,實(shí)現(xiàn)個(gè)人健康大數(shù)據(jù)收集和分析,及時(shí)實(shí)施健康干預(yù),更好地維護(hù)個(gè)人身體健康安全。科大訊飛高級(jí)副總裁江濤介紹,科大訊飛近年來在人工智能領(lǐng)域取得技術(shù)突破和成果,將會(huì)在智慧醫(yī)療、智慧家庭等行業(yè)領(lǐng)域廣泛應(yīng)用。

智能科技帶來的安全風(fēng)險(xiǎn)與日俱增

人工智能發(fā)展在維護(hù)生活安全的同時(shí),其帶來的安全風(fēng)險(xiǎn)也不容忽視。與會(huì)專家和業(yè)內(nèi)人士表示,人工智能所依賴的傳感器和使用的開源軟件等都可能存在安全隱患。

“當(dāng)網(wǎng)絡(luò)受到攻擊時(shí),你可能遇到不能網(wǎng)上訂餐、購物、約車,甚至做不了手術(shù)、機(jī)動(dòng)車上不了牌照等問題。”周鴻祎說。

——隱私泄露?！拔覀兯碛玫木W(wǎng)絡(luò)服務(wù)比我們自己更懂我們自己”。攝像頭無處不在,個(gè)人信息在網(wǎng)絡(luò)世界頻頻“裸奔”,個(gè)人信息和隱私的保護(hù)也日益嚴(yán)峻。IBM全球安全事業(yè)部網(wǎng)絡(luò)風(fēng)險(xiǎn)管理合伙人查理·辛格說,歐洲最新的通用數(shù)據(jù)保護(hù)條例里,特別規(guī)定了數(shù)據(jù)主體對(duì)于個(gè)人數(shù)據(jù)的權(quán)利,對(duì)用戶拍照行為有特別嚴(yán)格的限制。

——攻擊智能經(jīng)濟(jì)。周鴻祎說,智能經(jīng)濟(jì)已經(jīng)成為網(wǎng)絡(luò)攻擊選取的目標(biāo)。在“軟件定義一切,萬物皆可互聯(lián)”的同時(shí),網(wǎng)絡(luò)攻擊已經(jīng)開始威脅智能經(jīng)濟(jì)的健康發(fā)展。比如,2017年5月發(fā)生的勒索病毒事件,全球150多個(gè)國家受到影響,中國也有大量工業(yè)企業(yè)中招。

——劫持智能設(shè)備。人工智能會(huì)用于許多無人值守系統(tǒng),一旦被網(wǎng)絡(luò)劫持,將帶來嚴(yán)重的安全問題。比如智能汽車都是可以用手機(jī)進(jìn)行控制的,要跟車廠的服務(wù)器保持連接,定期更新軟件保證汽車的駕駛模式。智能汽車可以聯(lián)網(wǎng),用手機(jī)可以遠(yuǎn)程打開車門和空調(diào),也有可能被網(wǎng)絡(luò)劫持。

智能時(shí)代,如何更好維護(hù)安全?

中國科協(xié)主席萬鋼說,人工智能在國家安全、生產(chǎn)安全、社會(huì)安全和金融安全的風(fēng)險(xiǎn)防范和管理控制要給予高度重視?！皼]有網(wǎng)絡(luò)安全,就沒有國家安全。”在人工智能發(fā)展成為雙刃劍的背景下,如何給人更多“安全感”?

首先,要建立有效安全防護(hù),抵御網(wǎng)絡(luò)攻擊。中國工程院院士,北京工業(yè)大學(xué)教授沈昌祥認(rèn)為,應(yīng)該建立主動(dòng)免疫的計(jì)算架構(gòu),對(duì)計(jì)算進(jìn)行安全防護(hù),使計(jì)算全程可測(cè)可控,不被干擾。此外,要有以密碼為基因的防護(hù)部件,對(duì)處理信息進(jìn)行實(shí)時(shí)識(shí)別和排查,按照安全規(guī)則進(jìn)行判別處理。

其次,利用人工智能應(yīng)對(duì)網(wǎng)絡(luò)攻擊。查理·辛格說,“免疫系統(tǒng)”中不管哪個(gè)系統(tǒng)受到攻擊,都有統(tǒng)一的人工智能系統(tǒng)發(fā)出指令采取相應(yīng)措施?！巴ㄟ^對(duì)網(wǎng)絡(luò)設(shè)備進(jìn)行檢測(cè)或?qū)?shù)據(jù)進(jìn)行掃描,一旦有一個(gè)內(nèi)容受到侵襲,那么對(duì)它的數(shù)據(jù)進(jìn)行分析處理,也會(huì)方便后臺(tái)采取相應(yīng)的措施,以提高網(wǎng)絡(luò)安全的性能。”辛格說。

另外,在維護(hù)網(wǎng)絡(luò)安全方面,人的因素更為重要。阿里巴巴集團(tuán)董事局主席馬云說:“決定世界未來的不是技術(shù),而是技術(shù)背后的人?！?/p>

沈昌祥說,人的管理就是信息服務(wù)、策略管理,要做信息系統(tǒng)數(shù)據(jù)安全的守護(hù)者?！爸鲃?dòng)防護(hù)必不可少,現(xiàn)在的防護(hù)都是單向防護(hù),要建立雙向防護(hù)機(jī)制,在主動(dòng)防御的同時(shí)建立可信策略安全管控工作?！?/p>

另外,專家還建議要促進(jìn)行業(yè)規(guī)范、企業(yè)自律和社會(huì)監(jiān)督。加大對(duì)數(shù)據(jù)濫用、侵犯隱私權(quán)等行為的懲戒力度,還要考慮和研究人工智能的立法問題,形成自律、他律和法律的社會(huì)生態(tài)。