10 月 31 日，由北京智源人工智能研究院主辦的 2019 北京智源大會(huì)在國家會(huì)議中心開幕，本次大會(huì)吸引了國際人工智能領(lǐng)域的頂級(jí)專家學(xué)者參加，圍繞人工智能基礎(chǔ)研究現(xiàn)狀及面臨的機(jī)遇和挑戰(zhàn)、人工智能技術(shù)未來發(fā)展的核心方向等話題，回歸 AI 技術(shù)本身，開展深入研討，探索人工智能前沿科技發(fā)展趨勢(shì)。

　　會(huì)議第一天，在上午場(chǎng)的尖峰對(duì)話上，張鈸、朱松純、黃鐵軍、文繼榮四位學(xué)術(shù)界大牛就《人工智能的“能”與“不能”》這一話題展開了一場(chǎng)思辨，探索 AI 的真理和本質(zhì)。

　　主持人：

　　唐杰，智源研究院學(xué)術(shù)副院長(zhǎng)，清華大學(xué)教授

　　劉知遠(yuǎn)，清華大學(xué)副教授，智源青年科學(xué)家

　　嘉賓：

　　張鈸，中國科學(xué)院院士，智源研究院學(xué)術(shù)委員會(huì)主席

　　朱松純，加州大學(xué)洛杉磯分校教授，智源研究院學(xué)術(shù)委員會(huì)委員

　　黃鐵軍，北京大學(xué)教授，智源研究院院長(zhǎng)

　　文繼榮，中國人民大學(xué)教授，智源研究院首席科學(xué)家

　　以下為 Panel 環(huán)節(jié)全程對(duì)話內(nèi)容，AI 科技大本營整理（ID:rgznai100）：

　　唐杰（主持人）：從1956年在美國開始的一場(chǎng)討論至今，人工智能已經(jīng)走過了六十多年的歷程，這中間有波峰，也有波谷，而且波谷時(shí)間很長(zhǎng)。在一代和又一代科學(xué)家的不懈努力下，終于到達(dá)今天機(jī)器學(xué)習(xí)成為推動(dòng)力的發(fā)展階段。而對(duì)于人工智能的能與不能，學(xué)術(shù)界有較大的分歧，且這種分歧將會(huì)持續(xù)下去。這里，請(qǐng)幾位專家就“人工智能的能與不能”的主題來分享各自的觀點(diǎn)。

　　本論壇名為 AI Time，這個(gè)名字源自于我的一個(gè)想法，當(dāng)時(shí)也得到張鈸院士的大力支持。我在英國看到很多辯論性的思維，所以萌生了在中國也通過這種思辨的方法來探索科學(xué)的本質(zhì)，所以今天創(chuàng)造了一個(gè)平緩寬松的環(huán)境，大家可以一起思辨，探索 AI 的真理和本質(zhì)。

　　今天選了一個(gè)非常有意思的話題——人工智能的能與不能。這個(gè)題目中有三個(gè)“能”，但是意思完全不同，所以今天我們來探索一下這三個(gè)“能”到底都是哪些“能”。

　　下面進(jìn)入 AI Time 思辨環(huán)節(jié)。我們知道，很多科幻電影為我們呈現(xiàn)了未來 AI 的場(chǎng)景。

　　電影中的AI實(shí)現(xiàn)難度如何？

　　劉知遠(yuǎn)（主持人）：大家看一下在人工智能相關(guān)的科幻電影里，人工智能都能做什么？

　　第一個(gè)是非常有名的動(dòng)畫電影《超能陸戰(zhàn)隊(duì)》，里面大白就是人工智能。第二個(gè)是來自于《復(fù)仇者聯(lián)盟》的相關(guān)案例，里面的鋼鐵俠的助手賈維斯為鋼鐵俠提供了非常好的可視化交互和手勢(shì)智能識(shí)別系統(tǒng)。第三個(gè)是《流浪地球》的同聲傳譯，影片中劉培強(qiáng)使用了具有同聲傳譯功能的軟件，然后可以去和外國人進(jìn)行無縫交流。第四個(gè)是《速度與激情》中展現(xiàn)的無人駕駛場(chǎng)景。第五個(gè)是非常有名的文藝電影《Her》，其中男主角與人工智能系統(tǒng)建立了戀愛關(guān)系，稱為人工智能的情感伴侶。

　　這些是科幻電影中幾個(gè)非常有代表性的場(chǎng)景：以大白為代表的智能診斷系統(tǒng)，以賈維斯為代表的手勢(shì)交互系統(tǒng)，使用了很多計(jì)算機(jī)視覺和可視化交互手段，以及同聲傳譯、自動(dòng)駕駛、感情伴侶。在電影世界中，這些人工智能技術(shù)人們似乎已經(jīng)司空見慣，但實(shí)際上在現(xiàn)實(shí)中，這些技術(shù)距離我們還非常遙遠(yuǎn)。

　　唐杰：科幻電影中的一些AI技術(shù)已經(jīng)在現(xiàn)實(shí)生活中實(shí)現(xiàn)，但還有一些AI技術(shù)距離實(shí)現(xiàn)還比較遙遠(yuǎn)，所以第一個(gè)問題是這五種相關(guān)技術(shù)最有可能實(shí)現(xiàn)的是哪些？最難實(shí)現(xiàn)的是哪些？前三個(gè)容易實(shí)現(xiàn)的技術(shù)是哪些？闡述一下另外兩種技術(shù)不容易實(shí)現(xiàn)的原因。

　　張鈸：手勢(shì)交互實(shí)現(xiàn)相對(duì)容易一點(diǎn)，智能診斷其次，然后是同聲傳譯、自動(dòng)駕駛和情感伴侶，情感伴侶肯定是最難的?，F(xiàn)在，人工智能究竟能解釋什么問題？我認(rèn)為做人工智能只有兩個(gè)資源，一個(gè)資源是知識(shí)和經(jīng)驗(yàn)，特別是常識(shí)。第二個(gè)是數(shù)據(jù)，人類也使用一些數(shù)據(jù)。

　　所以根據(jù)這兩個(gè)資源，人工智能領(lǐng)域當(dāng)時(shí)提出兩個(gè)模型。最早的模型就是以知識(shí)和經(jīng)驗(yàn)為基礎(chǔ)的推理模型，但做得不很成功。后來，人們發(fā)現(xiàn)機(jī)器在運(yùn)用知識(shí)方面與人類差距很大，很困難。之后，另外一個(gè)思路是利用數(shù)據(jù)，結(jié)果得到意想之外的成就，發(fā)現(xiàn)計(jì)算機(jī)使用數(shù)據(jù)的能力遠(yuǎn)超人類，所以現(xiàn)在人工智能的成功很大一部分是基于大數(shù)據(jù)的深度學(xué)習(xí)，目前大多數(shù)的應(yīng)用都基于這些技術(shù)。這種模型在圖像識(shí)別、語音識(shí)別、自然語言處理上取得了一些成果，中國很多應(yīng)用領(lǐng)域中用的都是這個(gè)成果。

　　但是，我們必須要看到這個(gè)成果本身的局限性，它的應(yīng)用場(chǎng)景必須符合四個(gè)條件。第一個(gè)條件是信息基本上是完全確定的；第二是環(huán)境基本上是結(jié)構(gòu)化的，如果有變化，變化需要是可預(yù)測(cè)的；第三是限定領(lǐng)域；第四是關(guān)鍵重要的場(chǎng)景不能用，主要是因?yàn)檫@個(gè)技術(shù)有四大缺點(diǎn)：不可靠、不可信、不安全、難以推廣，這就是單純數(shù)據(jù)驅(qū)動(dòng)造成的問題。

　　為了克服這個(gè)問題，最重要的是需要加入知識(shí)。剛才講到了通用，這兩個(gè)資源必須要用，沒有這些資源不可能做出來人工智能。我的體會(huì)是盡量應(yīng)用常識(shí)和知識(shí)，現(xiàn)在的問題是單靠數(shù)據(jù)在一些應(yīng)用場(chǎng)景下可以解決一些問題，但在很多應(yīng)用場(chǎng)景下不能解決問題。

　　關(guān)于同聲翻譯，目前在一般情況下做翻譯沒有很大問題，犯一些錯(cuò)誤關(guān)系也不大。但是要知道這種系統(tǒng)一定會(huì)不可避免地產(chǎn)生重大錯(cuò)誤，因?yàn)樗狈χR(shí)和常識(shí)。比如現(xiàn)在所有的翻譯系統(tǒng)，“說你行的人行”這句話一定翻譯不好，最好的翻譯系統(tǒng)也翻得一塌糊涂。為什么出現(xiàn)這樣的錯(cuò)誤？因?yàn)闆]有常識(shí)。

　　自動(dòng)駕駛也是如此，關(guān)鍵場(chǎng)景不可靠，經(jīng)常會(huì)犯人類不可能犯的大錯(cuò)。下一步最重要的是要把數(shù)據(jù)與知識(shí)結(jié)合起來，這樣才能做好系統(tǒng)。

　　朱松純：我不看科幻片，因?yàn)槔鲜强床欢?，邏輯不通看不進(jìn)去。很有意思的是我明天晚上要趕回去，后天約了一幫好萊塢拍電影的人聊天。他們要拍新的人工智能電影，編劇希望和我聊一聊，到底哪些是可行和不可行的，哪些是將來可行的，這也正好是今天問到的問題。

　　我完全同意張老師的看法，手勢(shì)交互可能會(huì)實(shí)現(xiàn)。大白的狀況取決于感知器，我不知道現(xiàn)實(shí)中是否存在這樣的感知器。同聲翻譯和自動(dòng)駕駛都非常危險(xiǎn)，特別是用在外交上是不可靠的。智能情侶是很有趣的現(xiàn)象，將來人工智能會(huì)在方面超過人類，因?yàn)槿说挠洃浟Ψ浅６虝?，如果人擁有這種能力可以同時(shí)維持好多個(gè)女朋友，因?yàn)樗挠洃浟Ψ浅：?，與誰交談過什么內(nèi)容、撒過什么謊都能圓過來。計(jì)算機(jī)在這方面超過人是沒有問題的。

　　至于“能”和“不能”，如果能夠把任務(wù)定義清楚，即某一個(gè)單一任務(wù)，并且有數(shù)據(jù)，基本上都可以做。我極力反對(duì)百度、谷歌宣稱在某些任務(wù)上超過人類的做法，因?yàn)槟侵皇嵌x了一個(gè)任務(wù)，如果重新定義新的任務(wù)，人工智能可能就不奏效了。這就是核心的分水嶺，即能夠做多大的任務(wù)、多少任務(wù)，是否能自己定義任務(wù)。

　　“任務(wù)陷阱”這個(gè)詞不是我的發(fā)明?，F(xiàn)在所有刷榜的數(shù)據(jù)庫是陷阱，讓大家陷進(jìn)去爬不起來。2008 年開了一個(gè)會(huì)，提出計(jì)算機(jī)視覺的方向，把計(jì)算機(jī)視覺變成一個(gè)圖像分類問題。我當(dāng)時(shí)就認(rèn)為，這是把大家引到了一個(gè)任務(wù)陷阱中了，這是非常危險(xiǎn)的。但不管我怎么說，大家還是很感興趣，玩得很嗨。但是我也很高興，我們能有十年的時(shí)間獨(dú)立研究，沒有受到太多的打擾，堅(jiān)持了自己研究理念。

　　文繼榮：基本上我是同意張老師和朱老師的意見，因?yàn)槲易约菏莻€(gè)科幻電影迷，這些電影我都看過。不好意思，因?yàn)槲抑览锩嬗泻芏郆ug，但是還能看下去，跟朱老師不太一樣，朱老師是看不下去。我自己從這五個(gè)功能來說，可能有一點(diǎn)點(diǎn)不一樣的，剛才張老師和朱老師說賈維斯的手勢(shì)，其實(shí)不是手勢(shì)交互系統(tǒng)，更多是接近于通用的人工智能助手，實(shí)際上有點(diǎn)接近于你問它什么，它都可以幫你。

　　因?yàn)榇蟀字皇轻t(yī)療方面的信息助手，所以我覺得最容易的是大白。接著應(yīng)該是賈維斯和同聲傳譯。自動(dòng)駕駛的問題，主要是容錯(cuò)性要求太高了，除了技術(shù)上實(shí)現(xiàn)的難度以外，還要從另外一個(gè)維度考慮問題，比如說技術(shù)難度實(shí)現(xiàn)的差不多，但是從用戶角度有些技術(shù)是容易接受的。比如同聲翻譯也很難，但是翻譯錯(cuò)一些內(nèi)容問題不大，但是無人駕駛不一樣，容錯(cuò)性特別特別低。情感伴侶的話，應(yīng)該是最難的，因?yàn)檫@里面有更復(fù)雜的東西，甚至涉及到意識(shí)的問題。

　　黃鐵軍：我也得表個(gè)態(tài)，剛才各位專家回答的都很謹(jǐn)慎、很專業(yè)，我的回答跟你們不一樣，我是另類，腦洞派。這五個(gè)功能，每一個(gè)功能人都能做得到，包括最后一個(gè)情感伴侶，我們這一生大概花不少時(shí)間去折騰這個(gè)事，只要找一個(gè)異性就可以找到一個(gè)伴侶。實(shí)現(xiàn)難度排序我排不出來，但是我的回答是所有的都能實(shí)現(xiàn)。

　　為什么呢？我們?nèi)颂焯鞂?shí)現(xiàn)的不挺好的嗎？所以人工智能如果能夠做一個(gè)像人一樣的機(jī)器，為什么不能做這些事情呢？這個(gè)機(jī)器不是今天的計(jì)算機(jī)，我們可以構(gòu)造一個(gè)全新的不同的系統(tǒng)，比如我推銷的類腦智能，我們可以構(gòu)造一個(gè)新的像人的神經(jīng)系統(tǒng)，只不過是電子版本的機(jī)器。它在復(fù)雜環(huán)境里面去訓(xùn)練，我們?nèi)四茉谧匀画h(huán)境里面長(zhǎng)出這些功能，為什么它不能呢？所以我認(rèn)為這在未來的機(jī)器里面是完全有可能的。

　　唐杰：剛才大家提到了數(shù)據(jù)開放共享，包括競(jìng)賽可能是一個(gè)陷阱，這樣的陷阱甚至對(duì)未來AI發(fā)展產(chǎn)生阻礙。黃鐵軍院長(zhǎng)是否要回應(yīng)一下這個(gè)問題？

　　黃鐵軍：我覺得不是阻礙，這是一個(gè)重要的階段。我從來不反對(duì)大數(shù)據(jù)，因?yàn)槿司褪谴髷?shù)據(jù)訓(xùn)練出來的一個(gè)結(jié)果。我們從單細(xì)胞動(dòng)物進(jìn)化到今天這么復(fù)雜的一個(gè)身體、神經(jīng)系統(tǒng)，那是因?yàn)檫M(jìn)化過程中的大數(shù)據(jù)。不管我們叫不叫它大數(shù)據(jù)，也就是環(huán)境、地球的自然環(huán)境給予我們的刺激和約束，使我們不斷地去調(diào)整系統(tǒng)，這是一個(gè)大數(shù)據(jù)。從廣義的大數(shù)據(jù)意義上我是同意的。今天收集這么多數(shù)據(jù)變成靜態(tài)的、標(biāo)好的圖像，這只不過是一種比較僵化的大數(shù)據(jù)，從大的思路上講還是必要的，因?yàn)闆]有這樣足夠數(shù)據(jù)和環(huán)境的刺激，我們很難做出更強(qiáng)的智能。

　　張鈸：大數(shù)據(jù)、計(jì)算機(jī)處理數(shù)據(jù)的能力遠(yuǎn)比人類強(qiáng)，我們要充分利用它，它可以發(fā)展出來在某些方面比人類強(qiáng)的機(jī)器。我對(duì)黃教授的看法有一點(diǎn)質(zhì)疑，我們的目標(biāo)一定是要做一個(gè)與人類完全一樣的機(jī)器嗎？我認(rèn)為不是。做一些在某些方面比人強(qiáng)得多，在某些方面比人弱的機(jī)器才是我們需要的，這樣人與機(jī)器就可以互補(bǔ)，建立和諧的人與機(jī)器的共同體，沒有必要讓兩者站在對(duì)立面。

　　劉知遠(yuǎn)：關(guān)于最容易實(shí)現(xiàn)和最難實(shí)現(xiàn)的 AI 技術(shù)，現(xiàn)場(chǎng)觀眾的投票結(jié)果已經(jīng)出來了。大約 300 張投票顯示，大家對(duì)于最難實(shí)現(xiàn)的 AI 技術(shù)意見比較一致，就是情感伴侶。最容易實(shí)現(xiàn)的 AI 技術(shù)，有超過一半的觀眾投給了同聲傳譯，各位嘉賓老師對(duì)此有何評(píng)價(jià)？

　　唐杰：朱老師可以回答一下，因?yàn)橹炖蠋熤v同聲傳譯非常難，在外交上如果翻錯(cuò)一個(gè)詞會(huì)很危險(xiǎn)。

　　朱松純：我估計(jì)是科大訊飛的廣告做的好，讓大家都知道以為同聲傳譯已經(jīng)成為現(xiàn)實(shí)了。我覺得如果看看真正翻譯結(jié)果的話，其實(shí)還是有很大差距的?？拼笥嶏w也是我們校友師弟做的公司，我們支持他們，但是科學(xué)還是科學(xué)，我相信他們做不了，這是現(xiàn)實(shí)。

　　唐杰：這里有幾個(gè)來自線上朋友提出的問題，第一個(gè)問題是實(shí)現(xiàn)人工智能有幾個(gè)基本的要素？第二個(gè)問題是實(shí)現(xiàn)人工智能的自我意識(shí)最基本的元素是什么？

　　張鈸：計(jì)算機(jī)是否會(huì)有意識(shí)？這些問題目前不可能進(jìn)行科學(xué)的討論，因?yàn)槲覀儗?duì)人類的意識(shí)了解太少。持支持和不支持觀點(diǎn)的人都不可能拿出充分的科學(xué)證據(jù)來支持自己的觀點(diǎn)。我的意思是，這個(gè)問題不應(yīng)該在科學(xué)領(lǐng)域里爭(zhēng)論，但可以在哲學(xué)領(lǐng)域中討論。因?yàn)檎軐W(xué)的討論就是討論現(xiàn)在科學(xué)還解釋不了和解決不了的問題。

　　這涉及到智能這條路究竟是唯一的，還是有別的途徑。我們知道，現(xiàn)在的智能，包括意識(shí)在內(nèi)是通過幾億年的進(jìn)化產(chǎn)生的。除了進(jìn)化這條路以外，是否還有別的路？如果有別的路，就可以通過機(jī)器技術(shù)的不斷提高來解決。人家常說哲學(xué)家非常痛苦，要討論目前都解決不了的問題。但是我勸搞技術(shù)的人，作為科學(xué)家或技術(shù)人員還是做快樂的科學(xué)家和技術(shù)人員，不要去討論這些問題，因?yàn)檫@些問題是討論不清楚的。

　　黃鐵軍：我的觀點(diǎn)跟張老師幾乎完全不同，我覺得從不同的角度來看這個(gè)問題。我認(rèn)為要產(chǎn)生自我意識(shí)的必要條件，第一是要有一個(gè)類似甚至超越人類的神經(jīng)系統(tǒng)的物理載體?？梢韵胂胱詈?jiǎn)單的是把人的神經(jīng)系統(tǒng)做一個(gè)電子拷貝，做一個(gè)身體。你要有一個(gè)身體，而且要有一個(gè)類似于神經(jīng)系統(tǒng)的可以被訓(xùn)練、可以被改變調(diào)整的物理載體。

　　第二是要有一個(gè)復(fù)雜的環(huán)境，其實(shí)這個(gè)很容易。地球就是一個(gè)很復(fù)雜的環(huán)境，要有一個(gè)自然的環(huán)境，或者像朱老師說的要訓(xùn)練仿真的環(huán)境，無論如何要讓它有嘗試失敗、成功的環(huán)境。

　　有了這兩個(gè)條件之后，就可以進(jìn)行交互、嘗試，然后不斷地去訓(xùn)練。在這個(gè)過程中會(huì)發(fā)生很多種可能性，包括自我意識(shí)的產(chǎn)生。為什么我剛才說跟張老師的觀點(diǎn)不太一樣呢？張老師說科學(xué)范圍不適合討論，我完全同意。在哲學(xué)領(lǐng)域的討論，我不同意，哲學(xué)再討論也是空談，討論不出什么東西。但是我們可以做的是在技術(shù)領(lǐng)域去討論、在技術(shù)領(lǐng)域去實(shí)現(xiàn)，這件事是可做的。為什么？我就只舉一個(gè)例子，請(qǐng)問宋朝的時(shí)候中國發(fā)明指南針的時(shí)候，誰告訴我們有一種東西能夠沿著地磁的方向去指南？沒有。那時(shí)候科學(xué)還沒有、還不存在。那時(shí)候根本不知道電磁學(xué)、地球、磁場(chǎng)，所有的知識(shí)理論都沒有。但是這沒有影響中國人發(fā)明指南針。

　　在宋朝的時(shí)候絕對(duì)解釋不清楚司南為什么老往南指，我們覺得很神秘，但是是可重復(fù)、可實(shí)現(xiàn)的裝置。這種裝置引導(dǎo)著人類前行進(jìn)入了航海時(shí)代，發(fā)現(xiàn)了地球是圓的，對(duì)科學(xué)的發(fā)展起到了很大的作用。今天我們才明白了為什么是指南的。

　　回過來講，我們做一個(gè)有自我意識(shí)的系統(tǒng)，前提是先去做這個(gè)系統(tǒng)，而不是解釋人智能背后的原理問題，它不是科學(xué)問題、哲學(xué)問題，而是技術(shù)問題。

　　唐杰：剛才這個(gè)問題有上升到人的意識(shí)形態(tài)，下一個(gè)問題，我們是否能拋開意識(shí)形態(tài)、自我意識(shí)做一些更具體的解釋？比如是否能自動(dòng)進(jìn)行任務(wù)分解，分解以后針對(duì)不同的任務(wù)用一種大神經(jīng)網(wǎng)絡(luò)、小神經(jīng)網(wǎng)絡(luò)，甚至自動(dòng)機(jī)器學(xué)習(xí)的方法全部自動(dòng)分解以后做自動(dòng)學(xué)習(xí)？這樣是否就可以實(shí)現(xiàn)技術(shù)層面的人工智能？

　　朱松純：我再補(bǔ)充一下關(guān)于意識(shí)的問題，關(guān)于人的意識(shí)，這個(gè)事情一直是個(gè)迷，心理學(xué)和認(rèn)知科學(xué)方面大概在十年前是不許討論的，把所有的經(jīng)費(fèi)都卡掉了，不支持這方面的研究。這幾年又開始了，我覺得人的意識(shí)是說不清楚的，因?yàn)槿说倪M(jìn)化系統(tǒng)不是最優(yōu)的系統(tǒng)，是多少年沉淀慢慢積累下來的系統(tǒng)，很多東西是跟我們的神經(jīng)系統(tǒng)相關(guān)的。很大程度上它依賴于我們這個(gè)特定的系統(tǒng)。

　　我同意黃鐵軍說的情況，這樣人工智能來解決意識(shí)的話本身不是一個(gè)問題。你可以認(rèn)為里面所有的狀態(tài)，都可以隨機(jī)被調(diào)用、抽取出來，也就是意識(shí)的表達(dá)，這倒不是一個(gè)很大的問題。

　　回到剛才的問題，技術(shù)能不能把任務(wù)分解，用每個(gè)不同的任務(wù)去訓(xùn)練，然后總結(jié)在一塊。我不否認(rèn)這種路線，就是說我們?nèi)四X里面有很多不同的區(qū)，我的同事用不同的芯片來做不同的任務(wù)，他發(fā)現(xiàn)比如說人做加法和減法都是完全不同的區(qū)域在做，這就是一個(gè)問題。

　　至于特定的怎么總和起來達(dá)成一個(gè)自洽的解釋，這有另外的算法來做。這種計(jì)算的機(jī)理我們也考慮過，數(shù)據(jù)驅(qū)動(dòng)的算法，每一個(gè)邊緣分布，相當(dāng)于每一個(gè)子任務(wù)都可以來算數(shù)據(jù)系統(tǒng)，但是互相之間要保證自洽性、完整性，必須要有聯(lián)合的推理過程，這個(gè)過程是另外一個(gè)區(qū)域完成的。我倒不完全否定大數(shù)據(jù)的訓(xùn)練方式在工程上的作用，可能大部分的學(xué)生被黃鐵軍的訓(xùn)練集吸引過去了，或者調(diào)參去了，這是一個(gè)陷阱。

　　黃鐵軍：剛才的問題我想是否定的回答，我可以肯定地說“NO”。因?yàn)槲蚁脒@位聽眾想問的問題，實(shí)際上是能不能設(shè)計(jì)一種機(jī)器，把任意的任務(wù)分解，分別有其他的機(jī)器完成，最后是全自動(dòng)了，智能問題就解決了，我想他背后的意思是這個(gè)，這個(gè)顯然是“NO”。因?yàn)橹灰x一下圖靈的論文就知道答案，1936年的文章說的很清楚，因?yàn)椴豢捎?jì)算理論的奠基才有了計(jì)算機(jī)。

　　我沒有時(shí)間展開，我的意思是結(jié)論很清楚，不可能設(shè)計(jì)一臺(tái)機(jī)器把所有可計(jì)算的過程來自動(dòng)完成，不存在這樣的機(jī)器，更不存在你說的一個(gè)機(jī)器能分配任務(wù)。你想象中強(qiáng)大的機(jī)器是不存在的，邏輯上就不可能，而不是說任務(wù)的難度和不難的問題。

　　張鈸：其實(shí)大家說的意見是一致的，剛才黃教授也表示爭(zhēng)論機(jī)器是否意識(shí)的條件不成熟；第二，我并不反對(duì)做研究，只是說不要去爭(zhēng)論，按照自己的觀點(diǎn)去實(shí)踐，我們應(yīng)該鼓勵(lì)。最后有一點(diǎn)不同的，哲學(xué)家肯定會(huì)去討論這個(gè)問題，我們也無法阻止他們?nèi)ビ懻?。而且我認(rèn)為這個(gè)討論肯定是有益處的，哲學(xué)會(huì)討論出一些很有啟發(fā)性的思想。

　　黃鐵軍：最后這一點(diǎn)我同意張老師，哲學(xué)家不僅可以討論，確實(shí)需要討論。我希望他們討論的是如果技術(shù)走的太快，捅出簍子來怎么可以和諧的問題，但是讓哲學(xué)家給我們提出路線，我覺得不太現(xiàn)實(shí)。

　　實(shí)現(xiàn)AI不會(huì)一蹴而就，AI發(fā)展應(yīng)該分級(jí)嗎？

　　唐杰：很多人工智能技術(shù)可以實(shí)現(xiàn)，有的不容易實(shí)現(xiàn)，人工智能的發(fā)展不可能一蹴而就，一下子就擁有自我意識(shí)，甚至有些技術(shù)自動(dòng)化也是有必要的。我們是否有必要和自動(dòng)駕駛一樣對(duì)人工智能發(fā)展進(jìn)行分級(jí)，甚至是認(rèn)證，比如哪家公司的某項(xiàng)技術(shù)，或者某個(gè)學(xué)校的技術(shù)達(dá)到人工智能一級(jí)、二級(jí)、三級(jí)、四級(jí)、五級(jí)？這個(gè)分級(jí)怎么分？

　　文繼榮：我記得上次跟張老師在 AI Time 討論的時(shí)候就在想，一個(gè)程序到底為什么是人工智能的程序，而不是一個(gè)普通程序？我不知道各位想沒想過這個(gè)問題，你怎么判斷一個(gè)程序是人工智能還是普通的？我后來琢磨了這個(gè)事情，其實(shí)有一個(gè)隱含的判斷標(biāo)準(zhǔn)，這個(gè)程序是不是具有一些人才有的特質(zhì)。比如說人跟傳統(tǒng)的程序比起來有一些特性包括了什么？

　　第一是靈活性，它能夠處理各種不確定性，有各種不確定性，靈活性、可泛化等等。

　　第二是有自適應(yīng)性，能夠適應(yīng)不同的變化，能夠自學(xué)習(xí)。

　　第三是可解釋性。其實(shí)可解釋性的事情對(duì)人是很重要的，背后的含義是人的理性。我們做任何東西背后是有理性的支持，這是可解釋性。

　　第四，還有創(chuàng)造性和自主性等等。

　　我自己根據(jù)這些特性，把人工智能做了一個(gè)分級(jí)。

　　Level 0 是能夠完成固定邏輯任務(wù)的，就是預(yù)定義邏輯任務(wù)，其實(shí)就是現(xiàn)在說的普通的程序。

　　Level 1 是定義為完成特定領(lǐng)域任務(wù)，不管用什么方法，用大數(shù)據(jù)方法或其他方法也好，它可以處理不確定的輸入、可泛化，像人臉識(shí)別。

　　Level 2 是可以對(duì)結(jié)果行為可解釋，能夠從相關(guān)到因果。這個(gè)事情很重要，為什么要有理性，其實(shí)是因?yàn)槲覀兿虢Y(jié)果可控。剛才大家討論了很多，基于大數(shù)據(jù)深度學(xué)習(xí)和可解釋性是有一些矛盾和沖突的。

　　Level 3 是剛才朱教授談到的通用人工智能，實(shí)際上這一塊就需要能夠具有多領(lǐng)域的自適應(yīng)性，并且具有常識(shí)推理能力等等，使得能夠在多個(gè)領(lǐng)域自由游走。

　　Level 4 應(yīng)該是讓系統(tǒng)具有一些創(chuàng)造性。AI產(chǎn)生的一些新的、有意義的東西，比如真的能夠?qū)懗鲆徊啃≌f了，但是這個(gè)東西必須是要有意義的，所以這是創(chuàng)造性，也是人很重要的特性。

　　Level 5 是具有自我意識(shí)，剛才已經(jīng)進(jìn)行了哲學(xué)層面的討論，如果到了這一級(jí)是真的有生命了。

　　我立了一個(gè)靶子，請(qǐng)各位老師來批判。

　　朱松純：我覺得這個(gè)分級(jí)在各個(gè)垂直應(yīng)用行業(yè)是非常有意義的，因?yàn)槟繕?biāo)和任務(wù)非常清楚。但是作為一個(gè)通用人工智能的分級(jí)，整體的分級(jí)我覺得目前還很難。因?yàn)榈降兹斯ぶ悄馨卸嗌賯€(gè)模塊，包含有多少個(gè)功能，在整體的框架沒有說清楚之前，在維度沒有說清楚之前，去分析的話可能會(huì)引起很大的爭(zhēng)論。

　　關(guān)于這個(gè)問題，更簡(jiǎn)單的情況下把它說成是智商。比如說智商到底有多少個(gè)維度，為什么我們測(cè)人的智商是從0到150，這其實(shí)就是個(gè)分級(jí)，人也可以分級(jí)。我們最近也在研究這個(gè)事情，美國也在研究這個(gè)事情，為什么我們比動(dòng)物聰明，為什么有的人比我聰明，基本的機(jī)制在哪兒？天才到底是因?yàn)槭裁醋兂闪颂觳?，比如?shù)學(xué)天才或者下棋的天才。這就是有很多種維度，這個(gè)維度在大的空間里面到底是有限的還是無限的，那就說到了任務(wù)的邊界在哪兒。到底有多少個(gè)任務(wù)，智能的邊界在哪兒，智能極限在那，或者學(xué)習(xí)的終極極限在哪兒。

　　原來圖靈有一個(gè)停機(jī)問題，剛才黃鐵軍也提到了。我們其實(shí)在學(xué)習(xí)也有個(gè)停機(jī)問題，我提出了學(xué)習(xí)的極限。是什么東西決定了我們智商的極限、學(xué)習(xí)的極限，這個(gè)是可以作為一個(gè)科學(xué)的問題來研究。

　　張鈸：我基本上同意他的意見，對(duì)于具體問題要進(jìn)行一些分級(jí)，這對(duì)于我們的研究很意義。比如自動(dòng)駕駛現(xiàn)在分成五級(jí)，這樣就可以知道這個(gè)階段究竟可以做到什么程度。

　　但是，我認(rèn)為對(duì)整個(gè)智能進(jìn)行分級(jí)很難，因?yàn)檫@涉及到了很多方面。什么叫聰明？智能在不同方面的表現(xiàn)不同，牽涉的面很寬，所以分級(jí)的可能性較小、較難。特別是對(duì)于通用人工智能一定要謹(jǐn)慎，要有明確的定義。最早看到他（朱松純）講的題目，我覺得他的膽子夠大了。后來聽他講了，感覺就不一樣了，等于是做大任務(wù)。我們對(duì)通用人工智能的使用要謹(jǐn)慎，這在人工智能歷史上有過激烈的爭(zhēng)論，到現(xiàn)在為止都沒有搞清楚。

　　黃鐵軍：我就補(bǔ)充一點(diǎn)，我覺得我們除了功能，還要考慮性能的維度。為什么呢？比如說下圍棋，現(xiàn)在毫無疑問機(jī)器比人強(qiáng)大得多，不能說機(jī)器就超越人了，因?yàn)樗康氖撬俣?、性能的維度。剛才提到幾個(gè)級(jí)別的時(shí)候，性能一件事就足以顛覆我們對(duì)功能的分級(jí)。比如說我們昨天給朱老師看視覺芯片，速度比人眼快一千倍。這樣的傳感器如果照著這樣的感知，動(dòng)作也是這樣，推理也是這樣的，就可能遠(yuǎn)遠(yuǎn)超越人類了。

　　我們?cè)瓉砗芏鄷r(shí)候想的以人的功能為標(biāo)準(zhǔn)，制定了級(jí)別，又考慮場(chǎng)景，在被性能沖擊的時(shí)候可能完全就不適用了。

　　AI隱私問題

　　唐杰：今天的主題是討論“能”與“不能”，剛才大量的時(shí)間都在討論第一個(gè)“能”，第二個(gè)”能”還沒有討論。第一個(gè)“不能”和第二個(gè)”能”的含義不同?，F(xiàn)在隨著AI技術(shù)的發(fā)展，我們可以做到很多事情，比如國內(nèi)的在課堂通過視頻自動(dòng)觀察學(xué)生有沒有認(rèn)真聽課，深圳的交警窗口把闖紅燈者的照片、姓名自動(dòng)打在大屏幕上，看起來非常厲害。

　　今年5月份，美國加州通過了網(wǎng)絡(luò)隱私法保護(hù)，禁止在任何公共場(chǎng)所使用拍照的人臉，甚至包括警察抓小偷。關(guān)于隱私問題，幾位嘉賓是否有相關(guān)考慮，你們是支持更多的保護(hù)隱私，還是在當(dāng)下，尤其是中國當(dāng)前的情況下，可以放開隱私（問題）做更多的技術(shù)探索？

　　黃鐵軍：我認(rèn)為人工智能技術(shù)嵌入到社會(huì)生活中，嵌入到方方面面過程中一定有適應(yīng)過程。但是這個(gè)適應(yīng)過程是雙向的，既要技術(shù)適應(yīng)人類社會(huì)，人類有時(shí)候也要一定程度上適應(yīng)技術(shù)，構(gòu)成一個(gè)和諧的共同體。

　　可能對(duì)于技術(shù)應(yīng)該適應(yīng)人類，我覺得不用論證，大家多數(shù)都會(huì)同意。但是從人類要適應(yīng)技術(shù)的這一點(diǎn)，我們心理上也要做一定的調(diào)整。我就不舉那么多例子了，比如說圖靈之所以1954年去世，就是因?yàn)楫?dāng)年的倫理給了他致命一擊。如果沒有人類倫理限制的話，今天的計(jì)算機(jī)科學(xué)、人工智能可能完全是另外一個(gè)狀態(tài)，所以人類自己適當(dāng)?shù)恼{(diào)整是必要的。

　　張鈸：這個(gè)問題涉及廣泛，屬于人工智能治理的問題。我認(rèn)為涉及到了三個(gè)層面，第一是誤用人工智能技術(shù)，第二是濫用人工智能技術(shù)，第三是有益利用人工智能技術(shù)進(jìn)行國家與國家之間的對(duì)抗、集團(tuán)與集團(tuán)之間的對(duì)抗，這三個(gè)層面是不同的，應(yīng)該采取不同的治理方法。

　　朱松純：我覺得隱私和自由，隱私是侵犯了自由的空間，人家看到你的時(shí)候，你做事情就不自由了。我覺得這個(gè)問題應(yīng)該是由社會(huì)中大部分人來決定。以前我說了倫理道德不是絕對(duì)的，是相對(duì)的，在人和人之間交流過程中達(dá)成的共識(shí)。道德的“德”字我原來解釋過，就是一大堆人有十個(gè)人眼睛看著你心里怎么想的，這個(gè)東西合適是道德，不合適就是不道德，這是隨著時(shí)間在改變的事情。

　　我覺得自由的話，像人臉識(shí)別系統(tǒng)，我們的機(jī)場(chǎng)、火車站都非常方便，也是大家選擇的一個(gè)問題，要由公眾選擇。公眾如果通過法律不讓你這么做，那就不能做。

　　文繼榮：第一點(diǎn)，這次在 AI Time 時(shí)張老師提了一個(gè)觀點(diǎn)，我分享一下。大家可以看到在（美國）加州禁止了人臉的東西，但在中國可以看見各種人臉監(jiān)控還是比較普遍的，跟這兩個(gè)國家的特點(diǎn)有關(guān)系?？赡芪鞣礁鼜?qiáng)調(diào)的是個(gè)人自由。在咱們這兒更強(qiáng)調(diào)集體主義。在中國一直提倡可以為了集體、國家的利益，甚至可以犧牲一些個(gè)人利益，這對(duì)這個(gè)社會(huì)大多數(shù)人來說是接受這一點(diǎn)，這是不同點(diǎn)。

　　在中國的話，我們不能簡(jiǎn)單說加州不讓做，中國就一定要這樣做，其實(shí)不是這樣的。但是邊界在哪里？我同意朱老師說的，這要交給人民去決定。比如說前兩天看新聞，比教室監(jiān)控更厲害，教室是用攝像頭，而他們是給學(xué)生戴一個(gè)東西，可以監(jiān)測(cè)你的腦電波，然后看你走神沒走神，最后給你弄個(gè)大數(shù)據(jù)來分析你，這是不是有點(diǎn)走的太遠(yuǎn)了，所以有一個(gè)邊界。

　　第二，隱私安全另一點(diǎn)比較重要的是人工智能要可控?，F(xiàn)在深度學(xué)習(xí)黑箱的問題是很麻煩的事情，我是比較擔(dān)心的。比如說武器，如果里面的可解釋性、可控性解決不了，這才是真正危險(xiǎn)的東西。

　　劉知遠(yuǎn)：實(shí)際上，隨著AI技術(shù)的深入應(yīng)用，已經(jīng)出現(xiàn)了很多隱私、安全和倫理相關(guān)問題，各位嘉賓都非常認(rèn)可AI技術(shù)應(yīng)用應(yīng)該有一些邊界。很多國家和機(jī)構(gòu)也都意識(shí)到了這個(gè)問題，紛紛發(fā)起了如何以負(fù)責(zé)任的態(tài)度發(fā)展人工智能的行動(dòng)。

　　唐杰：最近各很多國家發(fā)表了AI宣言，北京也發(fā)布了《人工智能北京共識(shí)》，因?yàn)辄S鐵軍參加了很多相關(guān)工作，我們請(qǐng)他簡(jiǎn)單解讀一下《人工智能北京共識(shí)》。

　　黃鐵軍：發(fā)展人工智能，讓它造福、服務(wù)于人類，這樣的宗旨我相信是大家的共識(shí)。我不僅參加了《人工智能北京共識(shí)》的討論，也參加了國家新一代人工智能治理委員會(huì)的一些討論。這些原則，我想既然是大家討論的結(jié)果，就是一個(gè)多數(shù)人的共識(shí)，我也是同意的。

　　但是像我剛才說的，其實(shí)在剛才的兩個(gè)委員會(huì)里面我都是另類，都是提反對(duì)意見比較多的。我的一個(gè)觀點(diǎn)，一方面在現(xiàn)階段或者在未來的一段時(shí)間之內(nèi)，我們確實(shí)要從人的利益、幸福感出發(fā)來考慮這個(gè)問題，但這不是永遠(yuǎn)的。

　　從長(zhǎng)遠(yuǎn)來看，我個(gè)人的觀點(diǎn)還是要跳出以人為中心的思維慣性，而要考慮智能在地球、宇宙的意義下的長(zhǎng)遠(yuǎn)未來，這是同樣要考慮的問題。在那個(gè)時(shí)候就不是說智能怎么服務(wù)于人，而是人和智能系統(tǒng)如何共處、共融，共同融合在一起在未來去發(fā)展下去的問題。

　　AI技術(shù)安全和倫理的邊界在哪里？

　　唐杰：人工智能的發(fā)展離不開倫理，請(qǐng)幾位嘉賓簡(jiǎn)單論述對(duì)于倫理和 AI發(fā)展邊界的觀點(diǎn)。

　　張鈸：一兩句話說不清楚，治理應(yīng)該分成幾個(gè)層面，有的涉及到安全，有的涉及到倫理，作為宣言，籠統(tǒng)地提倡是可以的。但是具體到技術(shù)問題，還需要具體界定，這比較復(fù)雜。

　　朱松純：這個(gè)問題確實(shí)是非常難，現(xiàn)在大概花不到1000 美金就可以造一個(gè)殺人武器，無人機(jī)和攝像頭有人臉識(shí)別，定位某個(gè)人，就可以開槍了，其實(shí)這是非常危險(xiǎn)的事情，肯定也無法阻止有人這么做。既然這個(gè)工具產(chǎn)生了，他拿這個(gè)工具砸銀行或者干什么是別人的事情。我想科學(xué)家在這個(gè)方面上阻止不了他，只能通過社會(huì)去做。

　　將來最好的辦法是計(jì)算機(jī)能夠形成一定的倫理，它能夠判斷這么去做會(huì)造成的社會(huì)后果是什么，這是一般人基本的能力。因?yàn)槲覀兩鐣?huì)上的每一個(gè)人都可能做一些違法的事情，但是它會(huì)考慮到后果。如果機(jī)器沒有考慮到這個(gè)后果的話，每一個(gè)都是自殺炸彈性質(zhì)的機(jī)器人，這是危險(xiǎn)所在。

　　文繼榮：其實(shí)這個(gè)問題特別難，我有一個(gè)很樸素的想法，大家為什么會(huì)討論人工智能倫理，是因?yàn)榇蠹覔?dān)心讓人工智能去做一些人不能做，或者不敢做的事情，或者不愿意做的事情，將來交給機(jī)器或者人工智能去做。一個(gè)簡(jiǎn)單、樸素的邊界在哪里？就是在這個(gè)地方。如果讓人工智能去做對(duì)人的倫理評(píng)價(jià)這么大事情的話，實(shí)際上是要三思一下。

　　唐杰：醫(yī)療領(lǐng)域的容錯(cuò)率很低，在醫(yī)療領(lǐng)域中，未來五年哪些AI技術(shù)真的可以實(shí)現(xiàn)在這個(gè)場(chǎng)景中落地？

　　張鈸：現(xiàn)在的技術(shù)實(shí)際上用在了非關(guān)鍵的場(chǎng)景，如分診、醫(yī)療健康管理、醫(yī)院管理、醫(yī)療系統(tǒng)的支撐系統(tǒng)等。現(xiàn)在的技術(shù)還難以支持人命關(guān)天的醫(yī)療場(chǎng)景，比如計(jì)算機(jī)疾病診斷用起來大家就很慎重。簡(jiǎn)單來講，現(xiàn)在大家做了很多醫(yī)療圖像識(shí)別系統(tǒng)，識(shí)別率都做的很高，有的聲稱超過人類。但是醫(yī)生還是不敢用，為什么？因?yàn)椴豢山忉?，做出的判斷解釋不了原因，醫(yī)生敢簽字嗎？所以，在關(guān)鍵領(lǐng)域還要下工夫，人命關(guān)天的問題還是要慎重，大家還沒有真正普遍使用。

　　唐杰：我們現(xiàn)在研究人工智能有兩個(gè)思路，一個(gè)思路是用計(jì)算機(jī)模擬人腦的思維方式，然后用人腦的思維方式求解這個(gè)問題。另一個(gè)思路是作為純算法，然后用純算法的思路來求解，比如可確定性的問題，或者人很難求解，但是計(jì)算可以求解的問題。這兩個(gè)思路哪個(gè)在當(dāng)下最可行，為什么？

　　黃鐵軍：我覺得兩個(gè)思路好像是一個(gè)思路。當(dāng)然我知道有點(diǎn)區(qū)別，一個(gè)是人把規(guī)則定下來然后去做，另外一個(gè)是訓(xùn)練，總的來說也沒有繞出計(jì)算機(jī)的范圍。因?yàn)闀r(shí)間已經(jīng)到了，我就簡(jiǎn)單說兩句。其實(shí)我昨天晚上被唐杰抓來做找茬的，只看到了題目，不知道今天討論的不能是那個(gè)意思。實(shí)際上我腦子里想的“不能”是人工智能作為一種技術(shù)，它不能的邊界在什么地方，這個(gè)事情跟你剛才提的問題有關(guān)系。

　　計(jì)算機(jī)的能與不能有很多討論，也有很多著作、文章可以去看。最基本的是圖靈在1936年論文說計(jì)算邊界有了很清楚的結(jié)論，絕對(duì)不是無所不能，計(jì)算的范圍是很有限的。因此你剛才說的兩個(gè)問題在人工智能是一種方法，但是它是一種可能的有限范圍內(nèi)的方法。

　　但這并不等于人工智能永遠(yuǎn)就只能限制在這樣的范圍之內(nèi)，我們完全可以去制造、去創(chuàng)造全新的系統(tǒng)。這個(gè)系統(tǒng)不一定非要計(jì)算，或者它超越了圖靈機(jī)，所謂超越了圖靈機(jī)因?yàn)椴皇窃跈C(jī)械計(jì)算的方式在進(jìn)行的。從這個(gè)意義上講，它的能力比剛才那樣的方法要大得多。我認(rèn)為人也有不能，因?yàn)槿祟惿窠?jīng)元有幾百億，人也有一個(gè)智能上限的天花板。天花板的突破要靠未來的機(jī)器，機(jī)器從物理載體的能力上超越我們，這是完全有可能的。

　　當(dāng)然誰要敢給一個(gè)說“不能”，因?yàn)檎f“不能”都是最偉大的貢獻(xiàn)，你敢肯定一件事不能，能說人工智能的“不能”，那一定也是一個(gè)偉大的貢獻(xiàn)。但是我認(rèn)為說“不能”時(shí)代的遠(yuǎn)遠(yuǎn)還沒有到來，而是有巨大的探索空間。

　　唐杰：非常感謝黃老師，最后的“不能”講得非常好。今天我們用了一個(gè)小時(shí)探討了人工智能的“能”與“不能”，但其實(shí)這沒有標(biāo)準(zhǔn)答案，很多 AI 相關(guān)技術(shù)和應(yīng)用場(chǎng)景，還有很長(zhǎng)的路要走。