安全內(nèi)參2月2日消息，去年11月OpenAI正式發(fā)布ChatGPT時(shí)，程序員們驚訝地發(fā)現(xiàn)，這個(gè)AI驅(qū)動(dòng)的聊天機(jī)器人不僅能輕松模仿人類語(yǔ)言，甚至可以編寫代碼。

　　在發(fā)布的幾天之后，程序員們貼出了一條條令人瞠目結(jié)舌的代碼生成示例。從串接云服務(wù)到將Python代碼移植為Rust，ChatGPT至少在某些基礎(chǔ)編程任務(wù)上已經(jīng)表現(xiàn)出非凡的能力。

　　但我們也需要擦亮雙眼，將圍繞ChatGPT掀起的炒作跟真實(shí)情況區(qū)分開來(lái)。ChatGPT的編程能力先后登上一系列頭條新聞，類似“ChatGPT對(duì)網(wǎng)絡(luò)安全的威脅遠(yuǎn)超大多數(shù)人想象”的標(biāo)題也確實(shí)讓人心頭一緊。不單是普通讀者好奇于ChatGPT編寫惡意軟件的能力，經(jīng)驗(yàn)豐富的黑客更想檢驗(yàn)這個(gè)大語(yǔ)言模型到底能在惡意攻擊中發(fā)揮多大作用。

　　實(shí)測(cè)：

　　ChatGPT缺乏編碼專業(yè)知識(shí)

　　Marcus Hutchins（ID為MalwareTech）是一位從黑帽轉(zhuǎn)型為白帽的黑客，曾在2017年因阻止WannaCry勒索軟件傳播而備受關(guān)注。此前曾編寫銀行木馬的他，當(dāng)然也對(duì)ChatGPT究竟有多大本事充滿好奇。聊天機(jī)器人真能用來(lái)編寫惡意軟件嗎？

　　一番嘗試之下，結(jié)果令人失望。Hutchins在采訪中表示，“這十年來(lái)，我一直在以合法身份開發(fā)惡意軟件。我一般要花三個(gè)小時(shí)才能寫出一段功能性代碼，而且得用開發(fā)效率較高的Python語(yǔ)言?！?/p>

　　經(jīng)過(guò)幾個(gè)小時(shí)的忙碌，Hutchins成功編寫出勒索軟件程序中的一個(gè)組件：文件加密例程。接下來(lái)，他嘗試讓ChatGPT把該組件跟其他必要功能組合成完整的惡意軟件，但這位“AI新秀”笨拙地失敗了。事實(shí)證明，ChatGPT不光難以把各種組件整合起來(lái)，甚至連正確打開文件都很費(fèi)勁。

　　在這類基本排序問(wèn)題中的糟糕表現(xiàn)，證明ChatGPT等生成式AI系統(tǒng)仍存在嚴(yán)重缺陷。盡管它們能夠創(chuàng)建出與訓(xùn)練數(shù)據(jù)極為相似的內(nèi)容，但大語(yǔ)言模型往往缺乏構(gòu)成專業(yè)知識(shí)的糾錯(cuò)工具與上下文知識(shí)。人們?cè)隗@訝于ChatGPT模仿效果的同時(shí)，卻經(jīng)常忽視了它的局限性。

　　如果大家全盤接受炒作所灌輸?shù)挠^點(diǎn)，那ChatGPT已經(jīng)幾乎無(wú)所不能。從文職工作到學(xué)術(shù)論文、再到專業(yè)考試，也包括黑客們擅長(zhǎng)的惡意軟件開發(fā)，這一切都將被ChatGPT所掌控。然而，這種論調(diào)其實(shí)掩蓋了ChatGPT等工具的核心應(yīng)用方式——并不是要取代人類專業(yè)知識(shí)，而是充當(dāng)高效的AI助手。

　　ChatGPT編碼依賴專家指導(dǎo)

　　在ChatGPT發(fā)布的幾周之后，就有多家網(wǎng)絡(luò)安全公司發(fā)布一系列報(bào)告，證明該機(jī)器人可能被用于編寫惡意軟件。消息一出，旋即催生了一大堆關(guān)于ChatGPT編寫“多態(tài)惡意軟件”的頭條新聞。但這些報(bào)告往往掩蓋了技術(shù)專家在指示模型編寫代碼，特別是糾正所生成代碼結(jié)果方面發(fā)揮的重要作用。

　　去年12月，安全解決方案供應(yīng)商CheckPoint的研究人員展示了ChatGPT如何從頭到尾構(gòu)建惡意軟件——包括編寫網(wǎng)絡(luò)釣魚電子郵件和惡意代碼。然而，要想讓它生成功能完備的代碼，必須由專業(yè)程序員一步步提供引導(dǎo)和提示，例如添加沙箱檢測(cè)和檢查某項(xiàng)功能是否對(duì)SQL注入開放。

　　CheckPoint公司研究員Sergey Shykevich表示，“攻擊者必須知道自己想要什么，并指定相應(yīng)功能。單純要求其「編寫惡意軟件代碼」并不能生成真正有用的結(jié)果?！?/p>

　　對(duì)于Hutchins這樣的黑客來(lái)說(shuō)，提出正確的問(wèn)題就是成功的一半。另外，很多將ChatGPT宣傳成編程工具的媒體，往往也忽視了使用ChatGPT協(xié)助軟件開發(fā)對(duì)于研究人員自身的專業(yè)知識(shí)要求。

　　Hutchins認(rèn)為，“精通編程的用戶其實(shí)是在引導(dǎo)ChatGPT進(jìn)行開發(fā)，他們可能沒(méi)意識(shí)到自己在過(guò)程中起了多么重要的作用。如果缺乏編程經(jīng)驗(yàn)，用戶甚至不知道該給ChatGPT什么樣的提示。”

　　必須承認(rèn)，ChatGPT目前仍是眾多惡意軟件開發(fā)工具中的一員。在上周發(fā)布的報(bào)告中，威脅情報(bào)公司Recorded Future在暗網(wǎng)和內(nèi)部論壇中，發(fā)現(xiàn)了1500多條關(guān)于使用ChatGPT開發(fā)惡意軟件、創(chuàng)建概念驗(yàn)證代碼的參考資料。這份報(bào)告還提到，其中大部分代碼都公開可用。

　　Recorded Future認(rèn)為，ChatGPT對(duì)于“腳本小子、黑客行動(dòng)主義者、欺詐分子/垃圾郵件發(fā)送者、支付卡欺騙者等技術(shù)水平不高的網(wǎng)絡(luò)犯罪分子”最有幫助。

　　對(duì)于惡意開發(fā)領(lǐng)域的新手，ChatGPT也能提供一定幫助。報(bào)告總結(jié)稱，“ChatGPT能為迷茫的初學(xué)者提供實(shí)時(shí)示例、教程和資源，降低了惡意軟件開發(fā)的準(zhǔn)入門檻?！?/p>

　　ChatGPT有望降低黑客技術(shù)門檻，

　　但掀起革命火候未足

　　但總體來(lái)看，惡意黑客方獲得的助益非常有限。ChatGPT雖然降低了黑客技術(shù)的學(xué)習(xí)難度和接觸門檻，但同樣的內(nèi)容也完全可以在谷歌上輕松查到。

　　外媒CyberScoop在去年12月曾報(bào)道，隨著ChatGPT和其他大語(yǔ)言模型的發(fā)展成熟，其編寫合法和惡意原始代碼的能力也將不斷提高。但在真正的轉(zhuǎn)折來(lái)臨之前，ChatGPT等工具所發(fā)揮的仍以輔助作用為主，做不到憑空生成惡意軟件。

　　例如，ChatGPT確實(shí)能夠高效生成網(wǎng)絡(luò)釣魚電子郵件。對(duì)于難以順暢使用英語(yǔ)（或其他目標(biāo)語(yǔ)言）編寫含鏈接惡意消息的俄語(yǔ)黑客來(lái)說(shuō)，ChatGPT能迅速提高他們的寫作技巧。

　　哥倫比亞大學(xué)計(jì)算機(jī)科學(xué)助理教授、Barracuda網(wǎng)絡(luò)安全公司顧問(wèn)Asaf Cidon提到，“目前絕大多數(shù)攻擊源自電子郵件，而絕大多數(shù)郵件攻擊并不屬于惡意軟件攻擊。對(duì)方只是想誘導(dǎo)用戶交出憑證或者執(zhí)行轉(zhuǎn)賬操作?！盋idon認(rèn)為“ChatGPT確實(shí)很擅長(zhǎng)這方面工作”，所以釣魚欺詐會(huì)變得更容易。

　　但這只是變化中的一環(huán)，還不至于掀起黑客革命。高質(zhì)量的網(wǎng)絡(luò)釣魚郵件已經(jīng)很容易制作——可以由攻擊者自己編寫，也可以在外包平臺(tái)上雇用專業(yè)翻譯完成。ChatGPT的出現(xiàn)，只是把釣魚郵件推向了規(guī)?；瘯r(shí)代。在Cidon看來(lái)，ChatGPT“降低了所需投入”。

　　還有一種特殊的使用方法，惡意黑客可以利用以往郵件歸檔對(duì)大語(yǔ)言模型進(jìn)行微調(diào)，使其學(xué)會(huì)企業(yè)CEO的文字風(fēng)格。Cidon提到，這樣訓(xùn)練出的大語(yǔ)言模型往往能輕松騙過(guò)公司員工。

　　但專家們強(qiáng)調(diào)，在對(duì)ChatGPT的網(wǎng)絡(luò)安全影響進(jìn)行廣泛評(píng)估時(shí)，必須持續(xù)關(guān)注整體趨勢(shì)。目前，已經(jīng)出現(xiàn)了在針對(duì)性攻擊中使用大語(yǔ)言模型的有趣案例。不過(guò)至少在多數(shù)情況下，ChatGPT恐怕還無(wú)法提高成功幾率。畢竟根據(jù)喬治敦大學(xué)安全與新興技術(shù)中心研究員Drew Lohn的觀察，“網(wǎng)絡(luò)釣魚活動(dòng)已經(jīng)非常成功，ChatGPT的加入可能并不會(huì)產(chǎn)生太大影響?！?/p>

　　總的來(lái)說(shuō)，ChatGPT等工具有望降低準(zhǔn)入門檻、擴(kuò)大惡意黑客的群體規(guī)模。Lohn認(rèn)為，ChatGPT也許能“引導(dǎo)黑客在不借助任何新型惡意軟件的情況下，順利完成入侵過(guò)程。……目前網(wǎng)絡(luò)上已經(jīng)充斥著大量開源工具和預(yù)先打包的惡意軟件，我擔(dān)心ChatGPT的普及會(huì)把這些工具交付到每個(gè)人手上?！?/p>

　　他也承認(rèn)這個(gè)領(lǐng)域仍處于快速變化階段，情況隨時(shí)可能不同：“一個(gè)禮拜之后，也許一切都將改變?！?/p>