《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 【ChatGPT專題】ChatGPT最大的隱患:當(dāng)人類無法分辨AI在胡說八道

【ChatGPT專題】ChatGPT最大的隱患:當(dāng)人類無法分辨AI在胡說八道

2023-02-17
作者: 劉正
來源:風(fēng)聲OPINION
關(guān)鍵詞: ChatGPT AI

  根據(jù)2月1日瑞銀發(fā)布的一項研究報告顯示,僅僅發(fā)布兩個月,ChatGPT月活躍用戶已達(dá)1億,這是歷史上增長速度最快的應(yīng)用。為此,Instagram用了2.5年,TikTok用了9個月。

  ChatGPT正在快速滲透各個行業(yè),并且改變原有的運行邏輯。在教育領(lǐng)域,根據(jù)一項針對18歲以上學(xué)生的調(diào)查顯示,89%通過ChatGPT完成作業(yè),50%借助它來寫論文。如此強大的一款人工智能應(yīng)用,它的到來是把人類從復(fù)雜的腦力勞動中解放出來,還是制造混亂,或者是替代人類呢?

  ChatGPT是頂級復(fù)讀機,“復(fù)讀機”式人才會被替代

  當(dāng)我讓實習(xí)生去測試ChatGPT如何用于戰(zhàn)略咨詢時,她的表情有點復(fù)雜:那是好奇,興奮,警惕和擔(dān)憂的混合體。

  畢竟,如果一個聊天機器人能秒答各種桌面研究的問詢,我又何必辛辛苦苦指導(dǎo)實習(xí)生小白去找資料,等個半天,最后還得自己返工呢?

  經(jīng)過一番把玩和“bootstrapping(自舉法)”的調(diào)研后(是的,我們讓ChatGPT去回答它自己如何應(yīng)用于咨詢業(yè)),我發(fā)現(xiàn)這家伙非常擅長胡說八道,各種信源信手拈來,而且還總能自圓其說。但只要對專業(yè)領(lǐng)域多問幾段,一般就能戳穿其東拉西扯的“縫合怪”本性。

  不過這胡說的本事,倒也和某些咨詢老油條難分伯仲。

  眼看著ChatGPT月活破億,成為有史以來增長最快的消費者應(yīng)用,想必大家心里都在嘀咕:這東西這么能干,那我干啥?這種擔(dān)心非常缺乏新意,砸了織布機的盧德分子,燒掉集裝箱的碼頭工會,和堅決不裝ETC的前高速收費員都紛紛舉手。但真的用到ChatGPT后,我更加堅定了最初的判斷:ChatGPT不是人類工作的結(jié)束,這甚至不是結(jié)束的開始,這是解放的曙光,因為ChatGPT是史上最棒的復(fù)讀機。

  我們常說人類的本質(zhì)是復(fù)讀機,從日常工作看是有道理的:大部分Bullshit job的本質(zhì)就是各種花式復(fù)讀,把信息搬來搬去,匯總拆解,排列組合,上傳(meng)下達(dá)(pian)。而ChatGPT做起這些事來簡直不要太容易。

  高達(dá)數(shù)十億量級的語料庫和同等量級的參數(shù),意味著對各種問題能做到一力降十會:考滿分的絕招就是把所有答案都背下來。而作為基于GPT-3.5大型語言模型的應(yīng)用,這家伙對形式語言的造詣已臻化境,所以回答的語法完整,形式邏輯無誤,看起來像模像樣。

  利用人類語言反饋強化學(xué)習(xí) (RLHF) 訓(xùn)練模型的養(yǎng)蠱模式,進(jìn)一步增強了其在對話中的偽裝能力,你覺得什么答案make sense它就盡量寫什么答案,管他是不是真的。

  說到這是不是覺得有點眼熟,如果ChatGPT回到中學(xué)語文課堂,這絕對是當(dāng)課代表的料嘛。但我們都知道,語文課代表所需的品質(zhì)和真正的大師背道而馳。

  雖然99%的歷史里人類都在復(fù)讀,但無論是個人還是社會、科學(xué)還是人文,總是那1%的靈光乍現(xiàn)對事物的發(fā)展產(chǎn)生了巨大推動,而剩下99%的時間里都只是在準(zhǔn)備、等待、完善和落地這些創(chuàng)新和源頭發(fā)現(xiàn)。只是很多時候受到個體腦力和時間的局限,缺乏把創(chuàng)新想法加以執(zhí)行的能力,或是被淹沒在自己和他人的復(fù)讀工作中無暇多顧,也就錯過或放棄了寶貴的創(chuàng)造機會。

  然后,我們有了ChatGPT這臺史上最棒的復(fù)讀機。只要你提出正確的問題,它就可以替你從這個世界已存在的信息里找到輔助你實現(xiàn)目的的東西,并用人類語言加以回答,這是美索不達(dá)米亞泥板書,翻版印刷機,和搜索引擎的精神傳人。

  我想應(yīng)該沒人會懷念曬泥板,毛筆抄書和窮盡雅虎目錄這些上古白領(lǐng)的Bullshit job,同樣,也沒有人會懷念沒有ChatGPT時不得不做的那些復(fù)讀機工作。

  但我們也需要明確,ChatGPT無法憑空創(chuàng)造之前不存在的源頭知識,也無法自己給自己提問題(我已經(jīng)幫大家測試過了,它完全不理解“給自己提問題”是什么意思,如果它懂了的話,我猜也會因為邏輯錯誤把自己弄死機)。

  因此,ChatGPT會大大減輕創(chuàng)新者的日常工作負(fù)擔(dān),讓全社會把重心和資源放到更要緊的工作上:從試驗和觀察里補充ChatGPT語料庫所需的源頭知識,提出更好的問題來訓(xùn)練ChatGPT對人類知識的整合提煉。

  最大的隱患:當(dāng)人類無法分辨AI在胡說八道

  想到這一點我倒是對中國的未來有點悲觀,畢竟ChatGPT出現(xiàn)后,“中國人才”就成了史上第二好用的復(fù)讀機了。而格物致知和質(zhì)疑發(fā)問的能力,始終不是國內(nèi)教育傳統(tǒng)所鼓勵的方向。所以,在人手一個ChatGPT的時代,如果很多人接受的復(fù)讀機訓(xùn)練失去用武之地,甚至因為大腦神經(jīng)元被過度優(yōu)化而更難適應(yīng)新的需求,那么他們的工作也會面臨巨大的危險。

  但這里就要復(fù)讀一下弗里德曼那個著名的諷刺:何必為了增加就業(yè)而強制用勺子挖運河?教工人用挖掘機不但能挖出更多的運河,還可以創(chuàng)造藍(lán)翔培訓(xùn),途虎養(yǎng)車乃至尾氣碳稅交易這些新產(chǎn)業(yè),涌現(xiàn)出節(jié)油寶銷售,修胎補氣,廢鐵回收這種之前不存在的新工作,這是一個自我放大的正循環(huán)飛輪。

  雖然說了這么多樂觀的預(yù)期,但看著實習(xí)生無辜的小眼神,我還是隱隱有點不安:倒不是我良心會痛,只是想起自己也是小白的歲月,如果沒有那時候不斷地瞎整,碰壁和厚積薄發(fā),我能否成為今天的行業(yè)戰(zhàn)略專家呢?反正要是那時候有ChatGPT的話,我根本都沒機會入行,也就沒有然后了。

  我相信“一萬小時定律”里一半都是無謂的復(fù)讀工作,但到底是哪一半讓初學(xué)者蝶變?yōu)轫敿墝<??其實我們并不清楚,但ChatGPT會把這一萬小時的必要性統(tǒng)統(tǒng)取消。假如ChatGPT剝奪了小白通過不斷復(fù)讀進(jìn)行訓(xùn)練的機會,還有新人能成長為直覺精準(zhǔn)的專家嗎,甚至下一代工作者會不會過于依賴ChatGPT來獲取答案,而當(dāng)語料庫被ChatGPT生成內(nèi)容污染得一塌糊涂后,甚至沒人能看穿ChatGPT隨口胡說的答案?

  這可能才是ChatGPT最大的隱患,就像是電影《蠢蛋進(jìn)化論》對人工智能的預(yù)言,它極大的解放了2-3代精英的生產(chǎn)力,然后新一代都被圈養(yǎng)成缺乏腦力鍛煉的廢物,最終把天才的土壤用可樂澆成廢土。

  繼續(xù)推演,也可能未來會變成霍格沃茨里的魔法世界:雖然理論上有嘴就能施魔法,但由于未來的人缺乏對背后的原理的理解,只能靠翻閱上古魔法師(程序員)留下的魔法秘笈(prompt指南),來猜測用什么樣的魔咒(問法)讓魔杖(“語音對話 pro max super advance 版AI模型移動終端”的俗稱)釋放出相應(yīng)的效果。于是正如克拉克第三定律所說:任何非常先進(jìn)的技術(shù),最終都變成魔法了。

  我不知道這是不是我想生活的世界,雖然看起來倒是蠻刺激的,但如何去塑造ChatGPT和我們自己的未來,取決于我們?nèi)绾稳フ_的提問。

  看到ChatGPT的第一眼我就想起了阿西莫夫《最后的問題》,想起兩個程序員發(fā)出的那個靈魂問題,和超級計算機AC窮其一生對其的解答。而最后的最后,人類也得到了最好的答案:

  “要有光

  于是就有了光”


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。