2個月用戶破億迅速爆火的ChatGPT，讓普通人擁抱人工智能變得不再遙不可及。已經(jīng)成為互聯(lián)網(wǎng)領(lǐng)域發(fā)展20年來，增長速度最快的一款2C的消費類應(yīng)用程序。
你只要給ChatGPT發(fā)提示（問題）就可以生成任意主題的文本內(nèi)容，可以寫詩歌，小說散文，段子，甚至寫論文，做方案PPT等等，也可以讓ChatGPT寫代碼進行編程，甚至生成惡意軟件和鏈接。
ChatGPT的“入侵”已經(jīng)引起了各行各業(yè)對內(nèi)容抄襲的擔(dān)憂，及網(wǎng)絡(luò)數(shù)據(jù)安全的提防意識的提高。雖然AI技術(shù)是中立的，但并不能成為規(guī)避責(zé)任與義務(wù)的理由。
教育界和學(xué)術(shù)界已最先做出反擊。目前已有數(shù)千種科學(xué)期刊明令禁止或限制投稿人使用 ChatGPT 撰寫或編輯論文，包括知名學(xué)術(shù)期刊《科學(xué)》，《自然》等都更新了編輯規(guī)則。美國一些大學(xué)也通過網(wǎng)絡(luò)禁止接入ChatGPT，甚至要取消回家作業(yè)。
其實AI倫理風(fēng)險也一直被廣泛關(guān)注，即指AI可能會生產(chǎn)違反常規(guī)、違背法律和道德的內(nèi)容，或幫助人類以作弊等形式完成違反常規(guī)、違背法律和道德。ChatGPT涉及的網(wǎng)絡(luò)數(shù)據(jù)安全合規(guī)主要涉及數(shù)據(jù)獲取，及惡意濫用所產(chǎn)生的問題。
曾參與過行研社數(shù)據(jù)安全研討會的專家，北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院院長助理吳沈括教授認為ChatGPT在實際應(yīng)用層面將面臨三種風(fēng)險：
第一種是在更巨量數(shù)據(jù)匯聚的過程中，可能會產(chǎn)生法律和安全風(fēng)險；
第二種是在模型和算法設(shè)計的過程中，可能產(chǎn)生倫理和違法風(fēng)險；
第三種是在實際應(yīng)用過程中，可能被用于違法犯罪行為，進而帶來社會風(fēng)險。
知識產(chǎn)權(quán)
目前最大的爭議是ChatGPT的“文本數(shù)據(jù)挖掘”是否需要相應(yīng)的知識產(chǎn)權(quán)授權(quán)？ChatGPT通過互聯(lián)網(wǎng)抓取信息進行深度學(xué)習(xí)，而大多數(shù)網(wǎng)站都有防止第三方收集信息的網(wǎng)站隱私政策條款。從法律角度來看，國內(nèi)的文本數(shù)據(jù)挖掘理論上需要相應(yīng)的知識產(chǎn)權(quán)授權(quán)。并且，目前國內(nèi)外大部分國家的知識產(chǎn)權(quán)法律下，僅有自然人可以享有著作權(quán)。這意味這如果AI利用真人的作品拼接出的創(chuàng)作，有可能存在侵權(quán)。因此，我國也已出臺了對AI深度合成技術(shù)的一些規(guī)范要求。
數(shù)據(jù)合規(guī)
生成式AI技術(shù)的商業(yè)化趨勢已經(jīng)到來，眾多公司正在應(yīng)用到自身的產(chǎn)品和服務(wù)中去。通過在線服務(wù)、智能客服，融入各類產(chǎn)品文本理解分析，多模態(tài)檢索等等，全面提升自身產(chǎn)品和服務(wù)的AI化。因此，網(wǎng)絡(luò)數(shù)據(jù)安全問題也開始被重視。
ChatGPT可能導(dǎo)致一些敏感數(shù)據(jù)泄露風(fēng)險。本月開始微軟和亞馬遜于已宣布禁止公司員工向ChatGPT分享。微軟內(nèi)部的工程師也警告不要將敏感數(shù)據(jù)發(fā)送給OpenAI終端，因為OpenAI可能會將其用于未來模型的訓(xùn)練。
ChatGPT的虛假信息回復(fù)問題。作為基于語言模型的人工智能工具，ChatGPT也會編造一些看似正確的答案，即“一本正經(jīng)的胡說八道”。這樣的虛假回復(fù)在商業(yè)化中會造成嚴重后果，甚至有法律風(fēng)險。
企業(yè)數(shù)字安全風(fēng)險
行研社APP平臺的數(shù)字化轉(zhuǎn)型行業(yè)圈匯聚了國內(nèi)網(wǎng)絡(luò)數(shù)字安全領(lǐng)域頂級專家團隊。下面是在數(shù)字化轉(zhuǎn)型行業(yè)圈的行研會上，專家對企業(yè)在數(shù)字化轉(zhuǎn)型中遇到的各類數(shù)據(jù)安全、數(shù)據(jù)合規(guī)問題進行的深入講解。