“當(dāng)基于人工智能的機(jī)器人能夠真正感受到自我意識(shí)時(shí)，人工智能的安全和道德挑戰(zhàn)會(huì)更加復(fù)雜。屆時(shí)，他們應(yīng)該像人一樣對(duì)待嗎？”

9月18日，2018世界人工智能大會(huì)安全高端對(duì)話在上海舉行，峰橋集團(tuán)公司總裁陳實(shí)在發(fā)表對(duì)人工智能安全倫理規(guī)范的幾點(diǎn)思考時(shí)問(wèn)道。

陳實(shí)曾任通用汽車(chē)（中國(guó)）有限公司副總裁及通用汽車(chē)（中國(guó)）北京分部總經(jīng)理、微軟公司副總裁及大中華區(qū)法律及公司事務(wù)部總經(jīng)理，今年年初卸任了在微軟的職務(wù), 從事咨詢(xún)工作。會(huì)后，他接受了澎湃新聞（www.thepaper.cn）的專(zhuān)訪。

人工智能距離人的智慧還有很遠(yuǎn)

在演講中，陳實(shí)談到，現(xiàn)下流行的人工智能技術(shù)主要基于數(shù)據(jù)驅(qū)動(dòng)的優(yōu)化方法來(lái)解決特定的具體問(wèn)題，而不是一般問(wèn)題。

“我們都對(duì)AI在國(guó)際象棋和圍棋等游戲中擊敗人類(lèi)印象深刻。然而，游戲只代表一類(lèi)智力活動(dòng)，其中游戲的規(guī)則是確定的，獲勝目標(biāo)也是明確定義的。但在現(xiàn)實(shí)世界中，規(guī)則并不總是很明確確定，目標(biāo)也可以不斷變化?！?/span>

他告訴澎湃新聞，人工智能在游戲領(lǐng)域可以做到很“聰明”，但這是一種狹隘的“聰明”，“如果把這種智慧想象成為能做任何事情的話，我覺(jué)得夸大了。”

“機(jī)器可以玩游戲，可以玩得比人好，但是目前沒(méi)有哪一款受人歡迎的游戲是機(jī)器設(shè)計(jì)的。機(jī)器可以參加高考，并且考得很好，因?yàn)椴还苁菙?shù)學(xué)題還是化學(xué)題，都有嚴(yán)格的規(guī)則和正確答案，但是有沒(méi)有高考題目是機(jī)器出的？”

他認(rèn)為，人之所以聰明，是因?yàn)椴粌H見(jiàn)多識(shí)廣，而且能夠融會(huì)貫通，不僅能學(xué)習(xí)知識(shí)，還能夠進(jìn)行抽象、總結(jié)，應(yīng)用到其他的領(lǐng)域。這種常人具有的智慧在機(jī)器上談何容易？

圖靈獎(jiǎng)獲得者Raj Reddy在17日在世界人工智能大會(huì)主論壇的發(fā)言中表達(dá)了對(duì)人工智能的積極看法。面對(duì)AI，他看到的是積極和繁榮景象，縱觀過(guò)去幾百年的歷史，戰(zhàn)爭(zhēng)來(lái)源于每個(gè)人都想獲取別人的資源，而當(dāng)人工智能賦予全人類(lèi)富足的資源，戰(zhàn)爭(zhēng)自然消弭于無(wú)形。

陳實(shí)對(duì)此表示贊同，“有很多人對(duì)AI的發(fā)展都有點(diǎn)擔(dān)憂，但我認(rèn)為AI就是一個(gè)十分有用的工具，用的好的話可以造福于人類(lèi)的?！?/span>

他指出，人工智能不是萬(wàn)能的，但它確實(shí)讓每個(gè)行業(yè)發(fā)生了改變，每個(gè)行業(yè)都要數(shù)字轉(zhuǎn)型，都要利用人工智能來(lái)提高效率、擴(kuò)大服務(wù)功能，人工智能已經(jīng)帶來(lái)了一場(chǎng)革命。

對(duì)人工智能可能產(chǎn)生的安全道德問(wèn)題還沒(méi)有好的答案

由于人工智能存在的局限性，隨之產(chǎn)生的安全和道德問(wèn)題需要人們關(guān)注。

陳實(shí)在演講中談到，機(jī)器學(xué)習(xí)的結(jié)果會(huì)受到訓(xùn)練數(shù)據(jù)質(zhì)量和算法假設(shè)的影響，許多機(jī)器學(xué)習(xí)方法沒(méi)有成熟的自我糾錯(cuò)機(jī)制。

譬如，誰(shuí)應(yīng)對(duì)以下錯(cuò)誤負(fù)責(zé)：基于人工智能的投資損失；基于人工智能的信用評(píng)估中出現(xiàn)貸款拒絕；基于AI的醫(yī)療診斷系統(tǒng)發(fā)生了醫(yī)療事故？

此外，算法建模的偏見(jiàn)和數(shù)據(jù)收集中的差錯(cuò)可能導(dǎo)致決策偏見(jiàn)，不穩(wěn)定和易受操縱。這一點(diǎn)在數(shù)字營(yíng)銷(xiāo)、政治選舉等事例中已經(jīng)時(shí)有發(fā)生。

在道德層面，人工智能開(kāi)發(fā)團(tuán)隊(duì)面臨的考驗(yàn)更大。

可能產(chǎn)生的問(wèn)題例如，人工智能可以大規(guī)模提高效率和生產(chǎn)力，但可能只會(huì)使少數(shù)人受益；人工智能可以操縱人類(lèi)行為，例如游戲成癮、投票偏見(jiàn)、媒體炒作：人可能無(wú)法閱讀/查看想要讀到的客觀內(nèi)容，而閱讀到別人希望他閱讀的內(nèi)容。

人工智能開(kāi)發(fā)人員可能會(huì)將他/她的意識(shí)形態(tài)、道德信仰、道德規(guī)范注入到算法中，這些算法在社會(huì)上可能無(wú)法被接受或認(rèn)定是道德合理的。

接下來(lái)的問(wèn)題是，如果一個(gè)機(jī)器人有像人類(lèi)一樣的感覺(jué)和意識(shí)，它是否具有像人類(lèi)一樣的機(jī)器人權(quán)利？

“我們對(duì)這些問(wèn)題沒(méi)有答案，至少是好的答案。這就是我們今天在這里討論人工智能安全和道德的原因?！彼f(shuō)道。

傳統(tǒng)車(chē)企和軟件互聯(lián)網(wǎng)企業(yè)應(yīng)合作研制自動(dòng)駕駛汽車(chē)

對(duì)于時(shí)下熱點(diǎn)，陳實(shí)也與澎湃新聞分享了他的看法。

兼有在通用汽車(chē)和微軟公司的工作經(jīng)歷，陳實(shí)認(rèn)為，傳統(tǒng)車(chē)企和軟件互聯(lián)網(wǎng)企業(yè)在研發(fā)制造自動(dòng)駕駛汽車(chē)上，各有各的優(yōu)勢(shì)，最好兩方面合作?！巴耆慊ヂ?lián)網(wǎng)的，不一定能夠做出一輛汽車(chē)，完全搞汽車(chē)的，也未必能做出自動(dòng)駕駛的車(chē)。”

他認(rèn)為，人工智能不會(huì)像AR、VR或者區(qū)塊鏈一樣只是一個(gè)風(fēng)口，AR、VR、區(qū)塊鏈只是技術(shù)的某些應(yīng)用，但人工智能的實(shí)用范圍更加廣大，應(yīng)用無(wú)處不在。

“現(xiàn)在人工智能的智能化程度越來(lái)越高，機(jī)器人裝了傳感器，能夠感知環(huán)境，從而表現(xiàn)得更加智慧，應(yīng)用更加廣泛；在語(yǔ)音識(shí)別方面，它能夠聽(tīng)懂人的話，然后進(jìn)行翻譯。從感知到語(yǔ)言，機(jī)器人就可以獲得知識(shí)，有了知識(shí)以后未來(lái)或許就能產(chǎn)生創(chuàng)造力?！彼麑?duì)此表示樂(lè)觀。

對(duì)于人工智能進(jìn)一步的發(fā)展，陳實(shí)提出應(yīng)該加強(qiáng)跨學(xué)科合作。

“其實(shí)人工智能涉及的學(xué)科很多，如果是計(jì)算機(jī)科學(xué)、物理學(xué)、生物學(xué)、哲學(xué)、心理學(xué)、大腦科學(xué)等學(xué)科能夠在一起的話，我覺(jué)得可以研究出一些更具有一般智慧的廣泛應(yīng)用?！彼f(shuō)。