國外媒體報道，經(jīng)過幾十年發(fā)展，人工智能已經(jīng)從科幻小說里的一個概念，變成了當(dāng)今科技發(fā)展的主流。蘋果的語音控制系統(tǒng)Siri、亞馬遜的智能助手Alexa、IBM的沃森超級電腦、谷歌大腦等等，能夠理解這個世界并且給出高效反饋的智能機(jī)器似乎就在眼前。

　　強(qiáng)大的互聯(lián)網(wǎng)接入和計算機(jī)運(yùn)算法則讓機(jī)器在理解人類語音、視頻信息的方面取得了飛躍性的進(jìn)步，也逐漸向真正的人工智能邁進(jìn)。AI(Artificial Intelligence)，可實現(xiàn)自動響應(yīng)的人工智能產(chǎn)品距離我們還遠(yuǎn)嗎？如何讓他們保持不斷自我更新升級但是依然保持人類可控范圍內(nèi)？

　　這個問題給人們帶來普遍的擔(dān)心和焦慮。“我認(rèn)為人工智能的發(fā)展最終會導(dǎo)致人類族群的滅絕，”物理學(xué)家斯蒂芬·霍金接受BBC的采訪給出了這樣的觀點。特斯拉的創(chuàng)始人埃隆·馬斯克把AI稱為“人類最大的潛在威脅”。微軟前總裁比爾·蓋茨也表示過類似的擔(dān)憂。

　　有多少擔(dān)憂是必要的？問題有多緊迫？我們聚集了多位工業(yè)、科研、政策決策領(lǐng)域的專家，一起評估人工智能的發(fā)展風(fēng)險。參加此次話題討論的包括Skype創(chuàng)始人之一、人類未來發(fā)展?jié)撛陲L(fēng)險研究院的智庫成員——Jaan Tallinn，IBM的沃森超級電腦研究院負(fù)責(zé)電腦認(rèn)知研究的專家——Guruduth S. Banavar，帕多瓦大學(xué)計算機(jī)系教授、哈佛大學(xué)拉德克利夫高級研究所研究院和聚集最多AI研究者的國際人工智能研究協(xié)會主席——Francesca Ross。

　　以下是經(jīng)過編輯整理的專家談話內(nèi)容。

　　危險究竟是什么？

　　記者：人工智能會對人類造成哪些威脅？

　　Banavar：受科幻小說、電影的影響，人工智能帶來的威脅主要是人類與機(jī)器之間的矛盾沖突，這個觀點其實是錯誤的。人工智能在某些領(lǐng)域能夠比人類更出色地解決問題，比如大數(shù)據(jù)篩選。然而，某些人類擅長的領(lǐng)域里，機(jī)器的表現(xiàn)非常糟糕。比如常識推理、提出精彩的問題以及“跳出來”想問題。人類和機(jī)器的結(jié)合體，既我們研究的計算機(jī)認(rèn)知能力的基礎(chǔ)，是對解決各個領(lǐng)域的復(fù)雜問題的革命性的設(shè)想。

　　以人工智能為基礎(chǔ)的系統(tǒng)已經(jīng)在很多方面為我們的生活提供了便利：股票自動交易系統(tǒng)、自動飛行控制系統(tǒng)、工業(yè)流水作業(yè)機(jī)器人、錯誤檢測和搜索引擎... 在過去的5-10年間，計算機(jī)運(yùn)算法則和先進(jìn)的計算機(jī)架構(gòu)讓我們開發(fā)出了很多新應(yīng)用。

　　然而需要認(rèn)識到，計算機(jī)運(yùn)算法則已經(jīng)被運(yùn)用到極致。要實現(xiàn)更大的進(jìn)步，則需要引入更多復(fù)雜的符號系統(tǒng)——這是個很高的要求。今天我們的神經(jīng)科學(xué)和認(rèn)知科學(xué)研究，對于人類智能的研究也只是掌握到皮毛。

　　我個人的觀點是，能夠達(dá)到人類水平，實現(xiàn)一般感知、推測的人工智能機(jī)器只是個娛樂話題。

　　TALLINN：今天的人工智能不可能對人類構(gòu)成威脅。如果我們要討論人工智能的長遠(yuǎn)影響，（也就是人工智能能夠比人類更好地完成策略、科學(xué)、人工智能研究的時候。）我們就要涉及到控制超級智能的問題。

　　記者：什么是超級智能控制問題？

　　TALLINN：現(xiàn)在最先進(jìn)的機(jī)器人也存在一個能夠讓人類實現(xiàn)完全控制的“關(guān)機(jī)鍵”。然而，“關(guān)機(jī)鍵”發(fā)揮作用的前提是它在機(jī)器人的工作領(lǐng)域之外。舉個例子，一個會下棋的電腦工作領(lǐng)域僅限于與人對弈，它并不會覺察到它的人類對手可以拔掉它的電源終止游戲。

　　然而，超級智能機(jī)器，經(jīng)過有意或者無意的程序設(shè)定，能夠全面的了解周圍世界并且對于有人可以動他們的“關(guān)機(jī)鍵”的后果作出預(yù)測，人類就很難再控制它。

　　記者：這個問題有多嚴(yán)重？

　　TALLINN: 目前這還只是理論上的推測。但是需要謹(jǐn)慎的認(rèn)識到，超級智能機(jī)器可能會僅僅受控于物理學(xué)定律和人們給早期智能機(jī)器人設(shè)定的程序。

　　早期的程序是基于我們十分有限的物理學(xué)知識設(shè)計的。想象一下，如果面對一個智能機(jī)器人，我們給出的指令是“為人類創(chuàng)建更偉大的未來”時，我們最好能夠十分確定它會做出怎樣的反應(yīng)。

　　ROSSI：在很多具體的領(lǐng)域，人工智能的表現(xiàn)已經(jīng)超越人類，其中就包括一些涉及精確判斷的領(lǐng)域。目前，人工智能并未威脅到人類，但是人類已經(jīng)受到機(jī)器判斷的影響，如線上自動交易系統(tǒng)，健康檢查系統(tǒng)以及很快就將普及的無人駕駛汽車和無人操控武器。

　　我們需要明確了解分析人工智能在具體領(lǐng)域內(nèi)存在的潛在威脅，既讓它們發(fā)揮作用，又要確保它們能夠安全、友好、按照人類價值觀運(yùn)轉(zhuǎn)。這并不是個簡單的課題，因為即使是人類，在大多數(shù)時間里都無法遵照自己設(shè)定的原則行動。

　　給日常生活帶來的影響

　　記者：人工智在具體領(lǐng)域會給人類帶來怎樣的威脅？

　　ROSSI: 比如自動交易系統(tǒng)，機(jī)器給出的一個錯誤的決策會給很多人帶來經(jīng)濟(jì)損失。無人駕駛汽車的失誤也會給人類帶來生命安全的威脅。

　　記者：應(yīng)該怎么看待這些風(fēng)險？

　　BANAVAR: 任何風(fēng)險都有兩面性：做這件事的風(fēng)險和不做這件事的風(fēng)險。我們已經(jīng)有很多基于信息不完全、專業(yè)人士的不專業(yè)做出的錯誤決定，造成數(shù)千人死亡，上百萬美金損失以及在諸如醫(yī)療等核心領(lǐng)域緩慢的發(fā)展?fàn)顩r?；贗BM沃森超級電腦在很多領(lǐng)域的應(yīng)用經(jīng)驗，我認(rèn)為，在具體領(lǐng)域上，人工智能能夠有效的降低風(fēng)險。

　　然而對于全面人工智能領(lǐng)域，我持有謹(jǐn)慎的觀點。我認(rèn)為我們一直低估了這個問題的復(fù)雜性。我們有太多未知未知了。

　　記者：IBM采取哪些措施來降低人工智能技術(shù)風(fēng)險？

　　BANAVAR: IBM的計算機(jī)認(rèn)知系統(tǒng)，和其他現(xiàn)代計算機(jī)系統(tǒng)一樣，是基于云計算結(jié)構(gòu)，運(yùn)算法則和大量數(shù)據(jù)構(gòu)建的。為了防止違規(guī)現(xiàn)象出現(xiàn)，這些系統(tǒng)的運(yùn)轉(zhuǎn)是可以被記錄、追蹤和審查的。這些認(rèn)知系統(tǒng)不是自主運(yùn)轉(zhuǎn)，所以他們的指令、數(shù)據(jù)、結(jié)構(gòu)需要我們采取一定保護(hù)措施來防止人為的外部攻擊。任何接入、更新系統(tǒng)的人都是可控的。

　　我們主要通過復(fù)雜的加密和數(shù)字簽名來保護(hù)數(shù)據(jù)，通過漏洞掃描和其他技術(shù)手段保護(hù)運(yùn)算代碼，通過隔離等手段保護(hù)計算機(jī)結(jié)構(gòu)。

　　這些支持人工智能安全運(yùn)行的政策是基于對風(fēng)險的深度分析設(shè)計的。這些政策需要經(jīng)過安全和交易委任, 管理銷售和公共安全提供的委員會(SEC)、食品及藥物管理局(FDA)以及美國國家標(biāo)準(zhǔn)技術(shù)研究院(NIST）這些各自領(lǐng)域內(nèi)負(fù)責(zé)設(shè)定安全標(biāo)準(zhǔn)的機(jī)構(gòu)審查。

　　記者：沃森超級電腦正在幫助醫(yī)生解決醫(yī)療難題。它能夠?qū)ψ陨硎д`造成的醫(yī)療傷害負(fù)責(zé)嗎？

　　BANAVAR: 沃森超級電腦不會給出診斷意見。它通過處理大量患者醫(yī)療數(shù)據(jù)為醫(yī)生提供多種處理建議。醫(yī)生會考慮沃森提出的建議并綜合分析其它因素做出最終的治療判斷。

　　ROSSI: 醫(yī)生也在一直犯錯，主要原因在于他們無法完全掌握關(guān)于某種疾病的全部信息。像沃森電腦這樣的系統(tǒng)，能夠幫助他們減少失誤。

　　TALLINN: 曾經(jīng)一項研究把醫(yī)生和醫(yī)療自動診斷系統(tǒng)作比較。結(jié)論是，大多數(shù)醫(yī)生輸給了電腦。

　　BANAVAR：我認(rèn)為，沃森電腦提供更加完備的醫(yī)療建議是十分有益的。我很希望有機(jī)會讓它為我做診斷。

　　對人類的影響

　　記者：有些專家認(rèn)為人工智能以及搶了一些人類的飯碗，你們同意嗎？

　　TALLINN: 科技進(jìn)步確實會讓一些工作崗位消失。有一位Uber司機(jī)曾經(jīng)興奮地向我介紹他是如何把目的地輸入到平板電腦上，得到行程路線的。我告訴他，幾年之后，可能來是這些科技小物件把我送到目的地。司機(jī)高興地說，到時候他就更省事了，坐在駕駛座上享受就可以了。坐在后排的我卻不住搖頭。我認(rèn)為，無人駕駛汽車給人類帶來的最大影響不是便利，而是消失的工作崗位。

　　長遠(yuǎn)看來，除了工作以外，還應(yīng)該設(shè)想一下，我們的社會還可以圍繞什么運(yùn)轉(zhuǎn)。

　　BANAVAR: 有史以來，我們一直通過打造工具來幫助我們完成我們做不到的事情。每一代工具的產(chǎn)生都會引發(fā)我們關(guān)于自然和工作方式的思考。生產(chǎn)力提高，工作被重新定義，新的職業(yè)誕生，一些職業(yè)消失。電腦認(rèn)知系統(tǒng)拓展了人類的思維力，替代性潛力更強(qiáng)。

　　問題的關(guān)鍵是應(yīng)該建立一個機(jī)構(gòu)，快速培養(yǎng)專業(yè)人士，讓他們能夠開發(fā)電腦認(rèn)知系統(tǒng)作為助手輔助他們各自的工作。這些技能能夠加強(qiáng)人類的專業(yè)性，為“專家”設(shè)定一個全新的標(biāo)準(zhǔn)。

　　記者：我們該為人工智能社會做怎樣準(zhǔn)備？

　　TALLINN: 全面人工智能何時實現(xiàn)甚至是否能夠?qū)崿F(xiàn)都存在很大不確定性。（雖然作為一名物理學(xué)家，我覺得一切皆有可能?。┑遣淮_定性并不是我們不去思考控制問題的借口。針對如何控制的問題，有針對性的研究剛剛開始，可能需要幾十年才能有結(jié)果。

　　ROSSI: 我相信，我們完全可以把應(yīng)用在具體領(lǐng)域的人工智能對人類的不良影響控制到最小的程度。我們需要為機(jī)器設(shè)定人類的價值標(biāo)準(zhǔn)，設(shè)定工作原則和優(yōu)先級，如與人類相符的沖突解決能力。具體領(lǐng)域的人工智能設(shè)計工作完成好，就能夠為設(shè)計出不危害人類的全面人工智能做好準(zhǔn)備。

　　BANAVAR: 上個世紀(jì)90年代初期，計算機(jī)走進(jìn)醫(yī)療領(lǐng)域的時候，多國社會運(yùn)動分子為維護(hù)病人權(quán)利奔走呼吁。10年之后，醫(yī)療信息保密協(xié)議誕生。同樣，在具體領(lǐng)域的人工智能也面臨一個嚴(yán)肅問題，哪些權(quán)利不容侵犯，侵犯之后要承擔(dān)哪些責(zé)任？

　　ROSSI：現(xiàn)在銷售普通汽車要通過一系列安全測試，未來銷售無人駕駛汽車，也需要有新的安全測試標(biāo)準(zhǔn)。需要仔細(xì)檢測的不僅是汽車運(yùn)行程序，也包括以人類倫理、道德原則為基礎(chǔ)設(shè)計的突發(fā)情況判斷程序。

　　BANAVAR: 駕駛員、乘客、行人在無人駕駛汽車世界各自的權(quán)利是什么？消費(fèi)者可以不向投資顧問和智能助手提供全部信息嗎？誰該為投資建議負(fù)責(zé)？是投資顧問、投資服務(wù)組織者、智能助手設(shè)計者還是數(shù)據(jù)監(jiān)管人？未來有智能機(jī)器的人類社會需要面臨、解決的問題依然很多。

　　相關(guān)新聞：

　　霍金、蓋茨都在警惕人工智能 實則是在自欺欺人?

　　不過對人類的監(jiān)控和??取代，并不是霍金、馬斯克和蓋茨所擔(dān)心的未來。他們關(guān)注的是更遙遠(yuǎn)的未來擁有認(rèn)知和學(xué)習(xí)能力的機(jī)器人與人類的利益產(chǎn)生沖突。

　　軟銀創(chuàng)始人孫正義:機(jī)器超過人類的一天終會到來

　　軟銀擁有美國Sprint公司，在日本擁有一家移動網(wǎng)絡(luò)公司。該公司計劃從今年夏天開始，面向消費(fèi)者發(fā)售數(shù)千臺人形機(jī)器人。該機(jī)器人命名為“Pepper”，一直被標(biāo)榜為全球首款可以感知人類感情的機(jī)器人。

　　類人機(jī)器人不斷進(jìn)階 人工智能奇點臨近？

　　類人機(jī)器人是開發(fā)難度最高的機(jī)器人之一，因為人臉有上千塊肌肉，而機(jī)器人要對人的指令做出反應(yīng)，還要模擬人的表情。目前，類人機(jī)器人可以用于娛樂和服務(wù)?？茖W(xué)家們正在開發(fā)更智能的軟件，使機(jī)器人能和人交流并具備學(xué)習(xí)能力。從某種角度說，類人機(jī)器人的研發(fā)是真正考驗人類智慧的行為，這也就意味著，人工智能在未來很可能達(dá)到一個我們無法想象的水平。

　　人工智能熱潮反反復(fù)復(fù) 為何在這時候又被點燃？

　　基礎(chǔ)設(shè)施的速度、普及度以及絕對規(guī)模已經(jīng)有了長足的進(jìn)步，足以承載更加復(fù)雜的算法來解決更具野心的問題。處理器陣列（例如GPU）極大的提高了硬件處理速度，而且，這些運(yùn)算能力通過云服務(wù)的形式，可以很容易被更多人接觸到。