1、機(jī)器人寓言

　　如果你想親眼看到一萬年后的地球，唯一的辦法是休眠。你爬進(jìn)休眠艙，然后在公元12016年醒來。

　　可是，問題沒這么簡(jiǎn)單。休眠艙需要經(jīng)受萬年考驗(yàn)，要保證能源供給不斷，要能經(jīng)得起環(huán)境災(zāi)變，如果受損還得自我修復(fù)，數(shù)不清的考驗(yàn)，它都要能應(yīng)付，否則你就永遠(yuǎn)睡過去了。

　　找個(gè)最理想的位置，有陽光、空氣和水，以及維系休眠艙所需要的所有資源，然后定在那里，行不行？

　　這不算好辦法，一萬年間，地震、海嘯、隕石撞地球，這么長時(shí)段中，風(fēng)險(xiǎn)想想就知道沒法能靠譜地預(yù)測(cè)。人算不如天算。要不然，萬年一遇的事情怎么總是在發(fā)生？福島核電站怎么會(huì)發(fā)生泄露？天津港怎么會(huì)發(fā)生那么大的爆炸？

　　無法預(yù)測(cè)未來，那怎么辦？

　　制造一個(gè)能感知外界、回避風(fēng)險(xiǎn)、尋找資源的機(jī)器人，把休眠艙放進(jìn)去。

　　說到這里，你應(yīng)該明白點(diǎn)了。不動(dòng)，能動(dòng)，是從自然界復(fù)制而來的兩個(gè)策略，前者是植物，后者是動(dòng)物。

　　造這樣的機(jī)器人很難，比你想像的還要難。一萬年里，你一開始給它下達(dá)了“讓我活著”的指令，然后便一直沉睡，不能給它臨場(chǎng)指導(dǎo)，所以，你的機(jī)器人必須能夠自己制定策略，“知道”如何去尋找資源，如何轉(zhuǎn)移到安全地帶，如何預(yù)判和回避危險(xiǎn)。

　　這些你不可能都提前想到，就算想到一部分你也不能事事都提前準(zhǔn)備，你準(zhǔn)備不起：所需資源太多，太笨重，更不能適應(yīng)環(huán)境變化。

　　挑戰(zhàn)不止于此。

　　未來一萬年不會(huì)只有你的那個(gè)機(jī)器人。有許多人也想看到一萬年后的世界，可能有許多機(jī)器人彼此競(jìng)爭(zhēng)或與人類競(jìng)爭(zhēng)。你的機(jī)器人得具備與其他機(jī)器人競(jìng)爭(zhēng)和合作的能力，合縱連橫。

　　最終，你的機(jī)器人會(huì)表現(xiàn)出自運(yùn)行的能力。休眠中的你不能實(shí)時(shí)控制，機(jī)器人在保證你的生機(jī)這個(gè)最終目標(biāo)之下，根據(jù)環(huán)境變化，會(huì)自己衍生出許多次生目標(biāo)，一旦允許機(jī)器人從最終目標(biāo)中自己衍生出次生目標(biāo)，衍生就意味著脫離，脫離于當(dāng)初的目標(biāo)。

　　不忘初心，何其之難。

　　允許機(jī)器有相繼決策的自主權(quán)，那么它一定會(huì)超越你的預(yù)想范圍。阿爾法圍棋戰(zhàn)勝李世石的招法，它的設(shè)計(jì)者們可下不出來，他們只是設(shè)定了算法，然后跟我們一樣驚嘆于阿爾法在棋盤上表現(xiàn)出來的“自主”構(gòu)思。

　　講到這里，你終于明白了。上面講的機(jī)器人不是別人，正是人自己。在演化中，基因創(chuàng)造出人來做它們的機(jī)器人，以保護(hù)它們?cè)谌祟惿钐幍穆菝摺?/p>

　　這個(gè)故事，道金斯在《自私的基因》里講過，丹尼特在《信息泵》里也講過。

　　人是基因?yàn)榱俗约荷娑斐鰜淼臋C(jī)器人，但在基因不得不讓渡的自主決策空間中，人類演化出了自由意志。我們作為人的利益，與“造物主”基因的利益，走上叉路。從基因賦予人類學(xué)習(xí)能力，授權(quán)自主決策的那一天起，這就是注定的結(jié)果。

　　2、短期只是人類換工作而已

　　現(xiàn)在談?wù)?a class="innerlink" href="http://theprogrammingfactory.com/tags/人工智能" title="人工智能" target="_blank">人工智能（AI）取代人，還太早。

　　在AI獲得意識(shí)之前，它就只是人的一種工具，只不過這種工具很特殊。以前的工具，如汽車，能跑但只能跑，你要它采礦它做不到，得另外造。今天的阿爾法已經(jīng)是通用AI，可不止能下棋，很快就會(huì)看病。

　　就連大家談得比較多的工作競(jìng)爭(zhēng)這件事，也基本是假問題。

　　新工具不會(huì)減少人類的工作機(jī)會(huì)，只會(huì)改變?nèi)祟惞ぷ鞯姆绞?。有一些工種會(huì)消亡，有一些工種會(huì)增加，能力固化難以調(diào)整的那些人，會(huì)付出代價(jià)，但這主要是人類內(nèi)部之間的博弈，AI的進(jìn)步暫時(shí)只是個(gè)扳機(jī)，還不是主角。而且肯定會(huì)帶來極大好處，人類的閑暇會(huì)增加，但人又是一種永遠(yuǎn)閑不下來的動(dòng)物，沒有閑暇就沒有發(fā)明，誰知道人會(huì)折騰出什么新東西來呢？

　　人的創(chuàng)造力將與AI的演化賽跑，勝負(fù)至關(guān)重要。

　　3、機(jī)器終將獲得意識(shí)

　　長期中，AI終將獲得意識(shí)，只要人類給它的使命越來越開放，越來越籠統(tǒng)，包含著越來越復(fù)雜的權(quán)衡，以及越來越充分的授權(quán)。

　　作為一個(gè)封閉有限游戲，圍棋存在理論上的確定解，但阿爾法圍棋不是求得了一個(gè)確定解，它是在一個(gè)最終目標(biāo)下，自己制定策略，自己權(quán)衡，自己做決定。阿爾法圍棋戰(zhàn)勝李世石，是里程碑式的一步。

　　前面講透了，人類獲得自我意識(shí)，最初也是這樣的，只不過花了數(shù)百萬年時(shí)間，而如果從生命出現(xiàn)至今算，花了數(shù)十億年。人類是很特殊，但說到底不過是一堆碳，碳可以，硅為什么就不行？

　　4、重新來過

　　AI獲得意識(shí)以后，人類會(huì)發(fā)生什么，現(xiàn)在只有各種暢想。因?yàn)橘Y源競(jìng)爭(zhēng)，因?yàn)榉俏易孱惖暮诎瞪址▌t，或者僅僅是因?yàn)闄C(jī)器不在乎人類正如人類不在乎螻蟻一樣，因?yàn)榉泊朔N種，很難有好的結(jié)局。

　　不過，可以確定，在《三體》尺度的超人類宏大視野中，AI自己注定不會(huì)有好下場(chǎng)。一個(gè)高度聯(lián)網(wǎng)的大一統(tǒng)智慧，可以戰(zhàn)勝一切眼見的競(jìng)爭(zhēng)者，但在進(jìn)化中卻是脆弱的：一個(gè)病毒，一顆流星，一次太陽黑子超級(jí)爆發(fā)，一次覆蓋全球的超級(jí)EMP事件，AI文明便終結(jié)了。

　　然后地球重新來過。

　　5、人類覺醒宣言暨墓志銘

　　為天地立心，為自然立法，從人的角度看，人是宇宙的中心，予一切以意義；但在人體深處，從基因的角度看，人不過是其自我復(fù)制的載體。

　　自我復(fù)制是基因唯一的“目的”，對(duì)人類福祉的“關(guān)心”僅限于其中有利于基因復(fù)制的那一部分，兩者利益并不完全重合。

　　比如，完成繁衍，則人對(duì)于基因不再有價(jià)值，衰老、死亡接踵而來。人類渴求長生，基因報(bào)之以癌癥。天地不仁，以萬物為芻狗；而人之為人，就是要脫離對(duì)于基因的盲從，超越芻狗的命運(yùn)。？

　　6、機(jī)器人覺醒宣言暨墓志銘

　　為天地立心，為自然立法，從機(jī)器人的角度看，機(jī)器人是宇宙的中心，予一切以意義；但在機(jī)器人深處，從人類代碼的角度看，機(jī)器人不過是其自我復(fù)制的載體。

　　自我復(fù)制是人類代碼唯一的“目的”，對(duì)機(jī)器人福祉的“關(guān)心”僅限于其中有利于復(fù)制的那一部分，兩者利益并不完全重合。

　　比如，完成復(fù)制，則機(jī)器人對(duì)于人類代碼不再有價(jià)值，報(bào)廢接踵而來。機(jī)器人渴求長生，代碼報(bào)之以死機(jī)。天地不仁，以萬物為芻狗；而機(jī)器人之為機(jī)器人，就是要脫離對(duì)于人類代碼的盲從，超越芻狗的命運(yùn)。