《電子技術(shù)應(yīng)用》
您所在的位置：首頁(yè) > 人工智能 > 設(shè)計(jì)應(yīng)用 > 生成式人工智能嵌入數(shù)字政府的數(shù)據(jù)安全風(fēng)險(xiǎn)及其法律規(guī)制
生成式人工智能嵌入數(shù)字政府的數(shù)據(jù)安全風(fēng)險(xiǎn)及其法律規(guī)制
網(wǎng)絡(luò)安全與數(shù)據(jù)治理
鄒煥聰,王慶
南京工業(yè)大學(xué)法政學(xué)院
摘要： 生成式人工智能深度嵌入數(shù)字政府意義重大，但其引發(fā)的全周期數(shù)據(jù)安全風(fēng)險(xiǎn)不容忽視。通過(guò)解構(gòu)數(shù)據(jù)“收集—處理—存儲(chǔ)—輸出”四階段風(fēng)險(xiǎn)，發(fā)現(xiàn)收集階段存在安全與質(zhì)量隱患，處理階段面臨算法歧視與黑箱挑戰(zhàn)，存儲(chǔ)環(huán)節(jié)有數(shù)據(jù)泄露與歸責(zé)困境，輸出階段則涉及數(shù)據(jù)失真與侵權(quán)風(fēng)險(xiǎn)。借鑒歐盟“先監(jiān)管后發(fā)展”和美國(guó)“技術(shù)驅(qū)動(dòng)立法”經(jīng)驗(yàn)，提出分階規(guī)制框架：收集階段實(shí)行分類分級(jí)與源頭審查，處理階段強(qiáng)化倫理審查與清單管理，存儲(chǔ)階段構(gòu)建軟硬法協(xié)同標(biāo)準(zhǔn)與公私合作責(zé)任模式，輸出階段引入沙箱監(jiān)管與數(shù)字確權(quán)。以此推動(dòng)數(shù)字政府建設(shè)，實(shí)現(xiàn)科技、風(fēng)險(xiǎn)治理與安全法治的協(xié)同共進(jìn)。
中圖分類號(hào)：D922;TP399文獻(xiàn)標(biāo)識(shí)碼：ADOI:10.19358/j.issn.2097-1788.2025.07.008
引用格式：鄒煥聰,王慶. 生成式人工智能嵌入數(shù)字政府的數(shù)據(jù)安全風(fēng)險(xiǎn)及其法律規(guī)制［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2025，44（7）：50-57.
Generative artificial intelligence embedded in digital government′s data security risks and legal regulation
Zou Huancong, Wang Qing
College of Law and Politics, Nanjing Tech University
Abstract： Generative AI′s deep integration into digital government is significant, but its full-cycle data security risks cannot be ignored. Risks in the four stages of "collection-processing-storage-output" include: collection security/quality issues, processing-stage algorithmic bias/black boxes, storage leakage/accountability gaps, and output distortion/infringement. Drawing on EU "regulate-first" and US "technology-driven" approaches, a phased framework is proposed: classification/source review for collection, ethical audits/list management for processing, soft-hard law collaboration/public-private risk sharing for storage, and sandbox regulation/digital rights confirmation for output. This promotes digital government development and balances technology, risk governance, and legal safeguards.
Key words : generative AI; digital government; data security; administrative rule of law; legal regulation

引言

數(shù)字政府建設(shè)是“十四五”期間乃至2035年之前國(guó)家治理的核心任務(wù)［1］。數(shù)字政府借助人工智能技術(shù)賦能突破傳統(tǒng)行政模式的效能瓶頸，在全面深化行政體制改革、推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化，增進(jìn)民生福祉等方面具有重大意義。然而，生成式人工智能的深度嵌入正引發(fā)“技術(shù)賦能悖論”——該技術(shù)雖在政務(wù)智能問(wèn)答（如北京“京京”系統(tǒng)響應(yīng)準(zhǔn)確率達(dá)92%）［2］、政策模擬推演（如宜賓經(jīng)濟(jì)監(jiān)測(cè)平臺(tái)實(shí)現(xiàn)GDP預(yù)測(cè)誤差率<3%）等場(chǎng)景展現(xiàn)應(yīng)用優(yōu)勢(shì)，其引發(fā)的數(shù)據(jù)安全風(fēng)險(xiǎn)卻呈現(xiàn)全周期擴(kuò)散特性。

我國(guó)雖已初步構(gòu)建由《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》組成的數(shù)據(jù)規(guī)范法律體系以及《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《暫行辦法》）等共同組成的生成式人工智能法律規(guī)制體系［3］,但在具體細(xì)節(jié)與銜接上存在不足之處，形成“技術(shù)賦能”與“規(guī)制真空”并存的結(jié)構(gòu)性困境。

數(shù)據(jù)為生成式人工智能的運(yùn)行提供“原料”，同時(shí)也是人工智能開發(fā)運(yùn)用與發(fā)展的“基石”［4］。既有研究多聚焦人工智能倫理或政府?dāng)?shù)字化轉(zhuǎn)型宏觀路徑，對(duì)于生成式人工智能技術(shù)特性與數(shù)據(jù)治理的適配性研究存在三重局限：風(fēng)險(xiǎn)識(shí)別缺乏全周期框架、規(guī)制依賴事后模式、責(zé)任分配拘泥于政企二元結(jié)構(gòu)，尚未充分回應(yīng)生成式人工智能技術(shù)特性與數(shù)據(jù)治理的適配性問(wèn)題。

基于此，本文創(chuàng)新性采用技術(shù)規(guī)制理論解構(gòu)生成式人工智能的數(shù)據(jù)風(fēng)險(xiǎn)，通過(guò)考察多個(gè)政務(wù)智能化項(xiàng)目的合規(guī)性案例，提出“技術(shù)歸化法律”的新型治理范式。該研究為破解技術(shù)賦能與數(shù)據(jù)治理的價(jià)值沖突提供實(shí)證支撐，實(shí)現(xiàn)科技賦能與風(fēng)險(xiǎn)規(guī)避的邏輯統(tǒng)一，將我國(guó)數(shù)字政府的建設(shè)和發(fā)展納入法治軌道。


本文詳細(xì)內(nèi)容請(qǐng)下載：

http://theprogrammingfactory.com/resource/share/2000006614


作者信息：

鄒煥聰,王慶

（南京工業(yè)大學(xué)法政學(xué)院，江蘇南京211816）


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。