首頁(yè)>社情·民意>你言我語(yǔ) 你言我語(yǔ)
人工智能將拷問(wèn)現(xiàn)有倫理規(guī)范 你會(huì)愛(ài)上機(jī)器人嗎
未雨綢繆
專家建議完善人工智能技術(shù)規(guī)范和法律約束
面對(duì)人工智能帶來(lái)的種種沖擊,專家認(rèn)為,上世紀(jì)50年代美國(guó)科幻小說(shuō)家阿西莫夫提出的機(jī)器人三大定律,今天依然有借鑒意義。這三大定律是:機(jī)器人不得傷害人,也不得見(jiàn)人受到傷害而袖手旁觀;機(jī)器人應(yīng)服從人的一切命令,但不得違反第一定律;機(jī)器人應(yīng)保護(hù)自身的安全,但不得違反第一、第二定律。
“歸根結(jié)底,人是智能行為的總開(kāi)關(guān)?!眳秋w認(rèn)為,人類完全可以做到未雨綢繆,應(yīng)對(duì)人工智能可能帶來(lái)的威脅。
“開(kāi)發(fā)者應(yīng)該始終把人工智能對(duì)社會(huì)負(fù)責(zé)的要求,放在技術(shù)進(jìn)步的沖動(dòng)之上。正如生物克隆技術(shù),從提出克隆技術(shù)那一天開(kāi)始,克隆的社會(huì)倫理問(wèn)題就始終優(yōu)先于克隆的技術(shù)問(wèn)題?!壁w聯(lián)飛認(rèn)為,人類應(yīng)該在開(kāi)發(fā)人工智能的過(guò)程中,逐步積累控制人工智能的經(jīng)驗(yàn)和技術(shù),尤其是防止人工智能失控的經(jīng)驗(yàn)和技術(shù)。
在技術(shù)上加強(qiáng)對(duì)人工智能的控制是完全可行的。“人工智能盡管日益高級(jí),但究其根本,仍然是在智能程序?qū)Υ罅繑?shù)據(jù)處理基礎(chǔ)上得到的結(jié)果。進(jìn)行編程時(shí),開(kāi)發(fā)者可以通過(guò)程序?qū)ζ溥M(jìn)行安全設(shè)置。比如,如果識(shí)別出來(lái)是人類,要自動(dòng)保持距離;不能做出攻擊性動(dòng)作,從力學(xué)幅度上予以約束。”中科院自動(dòng)化所研究員孫哲南說(shuō),還可以把人類的法律規(guī)范和道德要求用代碼的形式寫入機(jī)器,全部數(shù)字語(yǔ)言化,使其遵守人類的行為準(zhǔn)則。
“除了設(shè)計(jì)和建造要遵循技術(shù)規(guī)范,還可由政府有關(guān)部門牽頭,成立由人工智能技術(shù)專家、社會(huì)科學(xué)研究人員、政府管理人員為核心的人工智能管理委員會(huì),對(duì)涉及人工智能的研究和開(kāi)發(fā)項(xiàng)目進(jìn)行審核評(píng)估,嚴(yán)格控制從技術(shù)轉(zhuǎn)化為產(chǎn)品的環(huán)節(jié)?!壁w聯(lián)飛認(rèn)為,此外,應(yīng)從多個(gè)方面加強(qiáng)對(duì)人工智能的研究,跟蹤、了解人工智能的發(fā)展趨勢(shì)和實(shí)踐,開(kāi)展以未來(lái)學(xué)為基本范式的研究。
編輯:梁霄
關(guān)鍵詞:人工智能 倫理 規(guī)范 機(jī)器人
更多
更多
- 中國(guó)制造助力孟加拉國(guó)首條河底隧道項(xiàng)目
- 澳大利亞豬肉產(chǎn)業(yè)協(xié)會(huì)官員看好進(jìn)博會(huì)機(jī)遇
- 聯(lián)合國(guó)官員說(shuō)敘利亞約1170萬(wàn)人需要人道主義援助
- 伊朗外長(zhǎng)扎里夫宣布辭職
- 中國(guó)南極中山站迎來(lái)建站30周年
- 聯(lián)合國(guó)特使赴也門斡旋荷臺(tái)達(dá)撤軍事宜
- 以色列前能源部長(zhǎng)因從事間諜活動(dòng)被判11年監(jiān)禁
- 故宮博物院建院94年來(lái)首開(kāi)夜場(chǎng)舉辦“燈會(huì)”