摘 要：網(wǎng)絡(luò)空間安全是國家安全的重要組成部分。人工智能技術(shù)不但能夠賦能網(wǎng)絡(luò)空間安全治理，同時(shí)也為其帶來了不確定、不穩(wěn)定等諸多挑戰(zhàn)。首先，從利、弊兩個(gè)方面分析了人工智能技術(shù)對(duì)于我國網(wǎng)絡(luò)空間安全的影響；隨后，針對(duì)技術(shù)、軍事與政治三個(gè)領(lǐng)域，提出了我國網(wǎng)絡(luò)空間人工智能安全治理的重點(diǎn)關(guān)注方向；最后，從頂層設(shè)計(jì)、主體職責(zé)、人才培養(yǎng)、話語權(quán)等四個(gè)視角，提出了推進(jìn)我國網(wǎng)絡(luò)空間人工智能安全治理的幾點(diǎn)舉措。

　　關(guān)鍵詞：網(wǎng)絡(luò)空間安全；人工智能安全；風(fēng)險(xiǎn)與治理

　　引言

　　“要堅(jiān)持統(tǒng)籌推進(jìn)各領(lǐng)域安全，統(tǒng)籌應(yīng)對(duì)傳統(tǒng)安全和非傳統(tǒng)安全。”網(wǎng)絡(luò)空間作為關(guān)系國計(jì)民生的新空間，網(wǎng)絡(luò)空間安全是國家安全所不可分割的重要組成部分，是“新疆域”、“新藍(lán)海”。近年來，隨著人工智能技術(shù)與互聯(lián)網(wǎng)、大數(shù)據(jù)、實(shí)體經(jīng)濟(jì)的深度融合與持續(xù)滲透，人工智能自身的安全性以及對(duì)于政治、經(jīng)濟(jì)、軍事、社會(huì)等各領(lǐng)域安全帶來的重大影響，愈發(fā)引起社會(huì)各界的高度關(guān)注。人工智能技術(shù)為網(wǎng)絡(luò)空間安全注入了新的生命力，同時(shí)也帶來了諸多挑戰(zhàn)。我國必須高度重視與主動(dòng)應(yīng)對(duì)網(wǎng)絡(luò)空間安全背景下的人工智能安全風(fēng)險(xiǎn)，確保網(wǎng)絡(luò)空間的和諧、穩(wěn)定與安全。

　　本文的研究思路如圖1所示。首先，分析網(wǎng)絡(luò)空間安全的定義與內(nèi)涵，并從利弊兩方面分析人工智能技術(shù)對(duì)于網(wǎng)絡(luò)空間安全的影響；隨后，從技術(shù)、軍事、政治三個(gè)領(lǐng)域，詳細(xì)分析網(wǎng)絡(luò)空間人工智能安全治理的重點(diǎn)關(guān)注方向；最后，從戰(zhàn)略、生態(tài)、人才、標(biāo)準(zhǔn)四個(gè)視角，提出我國推進(jìn)網(wǎng)絡(luò)空間人工智能安全治理的幾點(diǎn)舉措。

　　1 人工智能技術(shù)對(duì)于網(wǎng)絡(luò)空間安全的影響分析

　　人工智能技術(shù)是網(wǎng)絡(luò)空間安全的一把“雙刃劍”[1]，在提高網(wǎng)絡(luò)態(tài)勢(shì)感知與防御的實(shí)時(shí)性、準(zhǔn)確性、靈敏性，極大地提升網(wǎng)絡(luò)攻擊的自動(dòng)化程度與效率的同時(shí)，也為網(wǎng)絡(luò)空間安全帶了極大的復(fù)雜性與不確定性。

　　1.1 網(wǎng)絡(luò)空間安全應(yīng)追求軟件、硬件與信息的全面安全

　　網(wǎng)絡(luò)空間安全是網(wǎng)絡(luò)空間中所有要素和活動(dòng)免受來自各種威脅的狀態(tài)[2]。從網(wǎng)絡(luò)信息技術(shù)的自身邏輯看，網(wǎng)絡(luò)空間安全可以分為三大領(lǐng)域：

　　1）物理層面的物理系統(tǒng)安全。該層面的安全是網(wǎng)絡(luò)空間安全的物質(zhì)基礎(chǔ)與基本保障，包括計(jì)算機(jī)硬件、互聯(lián)網(wǎng)網(wǎng)路、物聯(lián)網(wǎng)設(shè)施設(shè)備等，需要能夠抵御各種隨機(jī)或人為的針對(duì)物理世界的破壞、毀傷、斷網(wǎng)等威脅事件；

　　2）軟件層面的網(wǎng)絡(luò)系統(tǒng)安全。該層面的安全是保障網(wǎng)絡(luò)環(huán)境和計(jì)算機(jī)系統(tǒng)穩(wěn)定運(yùn)行、用戶信息與數(shù)據(jù)安全的基礎(chǔ)，包括計(jì)算機(jī)系統(tǒng)、信息基礎(chǔ)設(shè)施、計(jì)算機(jī)軟件、用戶數(shù)據(jù)等內(nèi)容，需要能夠抵御各種惡意網(wǎng)絡(luò)監(jiān)視、入侵、探測(cè)、滲透、降級(jí)與破壞；

　　3）信息層面的網(wǎng)絡(luò)信息安全。該層面的安全是網(wǎng)絡(luò)空間安全的核心追求與重要保障，包括在網(wǎng)絡(luò)環(huán)境中產(chǎn)生、流轉(zhuǎn)信息的保密性、可用性、完整性、可控性和不可抵賴性，目標(biāo)是追求網(wǎng)絡(luò)信息在數(shù)據(jù)采集、傳輸、存儲(chǔ)、管理、分析與處理使用等各個(gè)環(huán)節(jié)的安全性，避免對(duì)政治、軍事、經(jīng)濟(jì)與社會(huì)產(chǎn)生不良影響與危害。

　　物理系統(tǒng)安全、網(wǎng)絡(luò)系統(tǒng)安全與網(wǎng)絡(luò)信息安全三者相互影響又互為交織，由于網(wǎng)絡(luò)空間的復(fù)雜性與級(jí)聯(lián)效應(yīng)，無論哪一方面的安全威脅都有可能對(duì)于網(wǎng)絡(luò)空間的整體安全造成重大影響，這一點(diǎn)在人工智能時(shí)代將更加突出。

　　1.2 人工智能技術(shù)將是網(wǎng)絡(luò)空間安全治理的強(qiáng)大使能器

　　近年來，國內(nèi)外業(yè)界正在探索網(wǎng)絡(luò)空間安全領(lǐng)域與人工智能相結(jié)合的可能性與應(yīng)用場(chǎng)景，嘗試通過運(yùn)用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)分析處理網(wǎng)絡(luò)空間態(tài)勢(shì)大數(shù)據(jù)，通過運(yùn)用強(qiáng)化學(xué)習(xí)、知識(shí)圖譜等技術(shù)自主、自動(dòng)生成網(wǎng)絡(luò)防御策略。人工智能技術(shù)將成為網(wǎng)絡(luò)空間安全治理的強(qiáng)大賦能器，有助于改進(jìn)完善網(wǎng)絡(luò)安全防御體系，高效、快速應(yīng)對(duì)各類隨機(jī)或蓄意威脅。

　　一是有助于更加高效、自主、精準(zhǔn)識(shí)別應(yīng)對(duì)網(wǎng)絡(luò)空間安全威脅。通過對(duì)網(wǎng)絡(luò)空間信息、行為、態(tài)勢(shì)等大數(shù)據(jù)中所蘊(yùn)含的網(wǎng)絡(luò)空間安全要素、安全風(fēng)險(xiǎn)進(jìn)行深度挖掘與關(guān)聯(lián)分析，人工智能技術(shù)有助于構(gòu)建動(dòng)態(tài)、精準(zhǔn)與高效的網(wǎng)絡(luò)空間安全威脅感知預(yù)警體系，同時(shí)還能推動(dòng)構(gòu)建自適應(yīng)、分布式協(xié)同與演進(jìn)優(yōu)化的網(wǎng)絡(luò)空間安全威脅主動(dòng)防御體系。

　　二是有助于推動(dòng)網(wǎng)絡(luò)安全治理新業(yè)態(tài)的彎道超車、變道超車。無論是戰(zhàn)略創(chuàng)新還是深度學(xué)習(xí)框架、人工智能（Artificial Intelligence，AI）芯片等戰(zhàn)術(shù)應(yīng)用，由人工智能賦能的網(wǎng)絡(luò)安全新業(yè)態(tài)都備受關(guān)注。面對(duì)國外封鎖與技術(shù)壁壘，我國不僅有針對(duì)性地對(duì)專項(xiàng)技術(shù)開展“定點(diǎn)爆破”，更有望實(shí)現(xiàn)人工智能整體層面的“全面開花”，建立多點(diǎn)聯(lián)動(dòng)、具有我國獨(dú)立、完整知識(shí)產(chǎn)權(quán)的人工智能技術(shù)體系，形成AI核心競(jìng)爭(zhēng)力，推動(dòng)我國網(wǎng)絡(luò)安全治理的彎道超車、變道超車。

　　三是有助于克服網(wǎng)絡(luò)安全治理專業(yè)人才人力資源的嚴(yán)重短缺。根據(jù)McAfee公司調(diào)查顯示，公司普遍認(rèn)為需要增加高達(dá)24%的安全人員，才能有效應(yīng)對(duì)網(wǎng)絡(luò)威脅。尤其是面對(duì)突如其來的新冠疫情，網(wǎng)絡(luò)安全人員的全球化協(xié)同辦公與威脅處置將面臨諸多挑戰(zhàn)[3]。利用人工智能技術(shù)結(jié)合網(wǎng)絡(luò)安全人員的經(jīng)驗(yàn)，能夠更好、更快地推動(dòng)網(wǎng)絡(luò)空間安全感知與防御體系的自主化、自動(dòng)化，極大地降低安全風(fēng)險(xiǎn)分析與威脅應(yīng)對(duì)的技術(shù)難度與心理壓力，提升網(wǎng)絡(luò)安全治理的效率[4]。

　　1.3 人工智能技術(shù)將為網(wǎng)絡(luò)空間安全治理帶來重大挑戰(zhàn)

　　人工智能技術(shù)的自主化、智能化程度越高，其“雙刃劍”特征越明顯。目前，國內(nèi)外在競(jìng)相推動(dòng)人工智能技術(shù)發(fā)展的同時(shí)，也在高度重視其可能蘊(yùn)含的各種安全風(fēng)險(xiǎn)，積極應(yīng)對(duì)人工智能技術(shù)為網(wǎng)絡(luò)空間安全治理帶來復(fù)雜性與不確定性等諸多挑戰(zhàn)[5]。

　　一是人工智能技術(shù)有可能拉大我國與強(qiáng)國的信息技術(shù)代差。人工智能基礎(chǔ)理論與關(guān)鍵算法等基礎(chǔ)研究水平的高低，將直接決定著人工智能技術(shù)的發(fā)展上限。當(dāng)前，我國人工智能技術(shù)在基礎(chǔ)研究領(lǐng)域與國外先進(jìn)水平尚有一定差距，嚴(yán)重制約了我國人工智能的可持續(xù)發(fā)展。根據(jù)2019年《自然》雜志文章《到2030年，中國能否在AI世界中成功領(lǐng)軍？》[6]的統(tǒng)計(jì)，全球領(lǐng)軍AI專家中68%分布在美國，中國僅占6%；在論文影響力方面，代表人工智能發(fā)展最前沿水平的高被引論文數(shù)目中國僅是美國的18.9%，排在全球第6位；93%的中國研究者使用Tensorflow、Caffee等美國公司研發(fā)的人工智能開源框架。中國人工智能核心技術(shù)的自主性、安全性、可靠性，將是信息安全與網(wǎng)絡(luò)空間安全的根本保證。

　　二是人工智能技術(shù)有可能加速推動(dòng)網(wǎng)絡(luò)空間武器化戰(zhàn)場(chǎng)化。人工智能技術(shù)將會(huì)進(jìn)一步放大網(wǎng)絡(luò)空間安全在進(jìn)攻和防御中的作用，使得“強(qiáng)者愈強(qiáng)，強(qiáng)者恒強(qiáng)”，推動(dòng)網(wǎng)絡(luò)空間攻防裝備的研發(fā)與運(yùn)用。美軍也非常重視人工智能技術(shù)對(duì)于網(wǎng)絡(luò)空間作戰(zhàn)能力的使能作用[3]。近年來，美軍陸續(xù)推出了“自適應(yīng)雷達(dá)對(duì)抗”（ARC）、“自適應(yīng)電子戰(zhàn)行為學(xué)習(xí)”（BLADE）、“破壞者智能網(wǎng)電對(duì)抗裝備”（SRx）等認(rèn)知網(wǎng)電對(duì)抗項(xiàng)目[7-8]，通過網(wǎng)電空間態(tài)勢(shì)的深度感知、網(wǎng)電對(duì)抗策略的自主優(yōu)化、網(wǎng)電對(duì)抗效能的在線評(píng)估等人工智能與網(wǎng)電對(duì)抗技術(shù)的深度融合來爭(zhēng)奪網(wǎng)電空間制權(quán)。我國必須高度重視與警惕由人工智能推動(dòng)的網(wǎng)絡(luò)空間武器化、戰(zhàn)場(chǎng)化趨勢(shì)。

　　三是人工智能本體安全風(fēng)險(xiǎn)有可能衍生網(wǎng)絡(luò)空間重大災(zāi)變。算法與數(shù)據(jù)是人工智能發(fā)展的核心關(guān)鍵，掌控的越多，供人工智能學(xué)習(xí)的資源就越多，就能取得突破性的進(jìn)展，也就越有可能產(chǎn)生一些風(fēng)險(xiǎn)后果。隨著人工智能技術(shù)與網(wǎng)絡(luò)空間的深度融合，人工智能的本體風(fēng)險(xiǎn)將有可能隨著網(wǎng)絡(luò)空間特別是物聯(lián)網(wǎng)的泛在互聯(lián)而加以放大，衍生演化出網(wǎng)絡(luò)空間的重大災(zāi)變，具體表現(xiàn)在[9]：一是物理世界風(fēng)險(xiǎn)。機(jī)械、化工、核工業(yè)等智能物聯(lián)網(wǎng)系統(tǒng)的安全風(fēng)險(xiǎn)，可能會(huì)破壞大氣、海洋、植被等地球環(huán)境。二是人身財(cái)產(chǎn)風(fēng)險(xiǎn)。無人機(jī)、無人駕駛汽車、醫(yī)療機(jī)器人等無人化智能系統(tǒng)的安全風(fēng)險(xiǎn)，可能會(huì)直接危害人類自身的生命與財(cái)產(chǎn)安全。三是國家社會(huì)風(fēng)險(xiǎn)。偽造新聞、虛假視頻、金融詐騙等智能化社會(huì)網(wǎng)絡(luò)的安全風(fēng)險(xiǎn)，可能會(huì)引發(fā)社會(huì)騷亂，危害國家安全。

　　2 網(wǎng)絡(luò)空間人工智能安全治理的重點(diǎn)關(guān)注方向

　　網(wǎng)絡(luò)空間人工智能安全治理是針對(duì)網(wǎng)絡(luò)空間創(chuàng)建、運(yùn)行、維持與維護(hù)中所采用的各類人工智能技術(shù)進(jìn)行合理、合法、適度的管理與控制，確保人工智能本體技術(shù)的安全性并使其能夠?yàn)榫W(wǎng)絡(luò)空間安全治理服務(wù)。目前，世界各國關(guān)于網(wǎng)絡(luò)空間領(lǐng)域的人工智能安全治理，重點(diǎn)關(guān)注技術(shù)、軍事與政治三個(gè)方面。

　　2.1 技術(shù)方面

　　技術(shù)方面重點(diǎn)關(guān)注基于深度學(xué)習(xí)的人工智能賦能技術(shù)。

　　隨著2006年深度學(xué)習(xí)模型的提出，人工智能引入了層次化學(xué)習(xí)的概念，推動(dòng)人工智能技術(shù)的井噴式、跨越式發(fā)展。憑借著當(dāng)前信息化、網(wǎng)絡(luò)化社會(huì)所積累的海量大數(shù)據(jù)，以及并行圖形處理器（Graphics Processing Unit，GPU）處理技術(shù)、超算技術(shù)等計(jì)算能力的飛速提升，深度學(xué)習(xí)能夠從大數(shù)據(jù)中提取、發(fā)現(xiàn)、甚至洞見前所未有的知識(shí)，具有強(qiáng)大的學(xué)習(xí)能力、推理能力與靈活性。特別是Google公司的人工智能圍棋程序AlphaGo、IBM公司的專家輔助系統(tǒng)Watson、以及Boston Dynamics公司的人形機(jī)器人等產(chǎn)品，體現(xiàn)了專用人工智能的突破性進(jìn)展以及深度學(xué)習(xí)的巨大潛力，也昭示著深度學(xué)習(xí)技術(shù)在網(wǎng)絡(luò)空間安全領(lǐng)域廣泛應(yīng)用的可能性、必要性。

　　2.1.1 深度學(xué)習(xí)技術(shù)可提升網(wǎng)絡(luò)空間威脅感知、防御能力

　　基于網(wǎng)絡(luò)空間大數(shù)據(jù)提供的數(shù)據(jù)資源，深度學(xué)習(xí)技術(shù)提升了網(wǎng)絡(luò)空間感知與防御手段對(duì)于各種不確定性環(huán)境的動(dòng)態(tài)適應(yīng)能力，能夠?qū)Ａ磕：?、非線性、異構(gòu)數(shù)據(jù)進(jìn)行自動(dòng)化的分類聚合與關(guān)聯(lián)分析，全面感知網(wǎng)絡(luò)安全威脅，自主學(xué)習(xí)認(rèn)知網(wǎng)絡(luò)空間態(tài)勢(shì)；能夠主動(dòng)生成與快速調(diào)整網(wǎng)絡(luò)威脅防御策略，在與自主化、智能化網(wǎng)絡(luò)空間攻擊手段的攻防博弈中不斷學(xué)習(xí)演進(jìn)，逐漸形成適應(yīng)性強(qiáng)、反應(yīng)迅速靈敏的網(wǎng)絡(luò)空間安全防御“智慧”。我國必須高度重視網(wǎng)絡(luò)空間安全治理領(lǐng)域深度學(xué)習(xí)技術(shù)的最新進(jìn)展，包括基于遷移學(xué)習(xí)的高效威脅識(shí)別技術(shù)、基于聚類分析的精準(zhǔn)威脅分析技術(shù)、基于深度強(qiáng)化學(xué)習(xí)的自主防御技術(shù)等。

　　2.1.2 重視深度學(xué)習(xí)技術(shù)中算法與數(shù)據(jù)的安全性、可靠性

　　人工智能的本體安全對(duì)于網(wǎng)絡(luò)安全具有多維依賴關(guān)系。當(dāng)前，深度學(xué)習(xí)等人工智能的算法尚缺乏魯棒性、可解釋性較差、易被干擾與欺騙。例如，卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks,CNN）、人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）等關(guān)鍵算法存在安全隱患，通過偽造數(shù)據(jù)、污染樣本等方式能夠干擾甚至操縱深度學(xué)習(xí)模型的運(yùn)行結(jié)果。同時(shí)，深度學(xué)習(xí)的數(shù)據(jù)隱私性、可靠性較差，缺乏密碼保護(hù)，容易遭到竊取、破壞、偽造，甚至重大泄密。我國必須筑牢人工智能本體的安全防線，提升深度學(xué)習(xí)等關(guān)鍵技術(shù)的可信性、可解釋性，加強(qiáng)人深度學(xué)習(xí)軟硬件的脆弱性分析和防護(hù)，研發(fā)面向大數(shù)據(jù)的個(gè)人生物特征加密技術(shù)，確定深度學(xué)習(xí)算法與數(shù)據(jù)等關(guān)鍵基礎(chǔ)設(shè)施的安全性、健壯性。

　　2.1.3 大力加強(qiáng)深度學(xué)習(xí)基礎(chǔ)理論與核心算法的儲(chǔ)備攻關(guān)

　　深度學(xué)習(xí)等人工智能基礎(chǔ)理論與核心算法是推動(dòng)網(wǎng)絡(luò)空間人工智能安全治理的核心競(jìng)爭(zhēng)力與內(nèi)在驅(qū)動(dòng)力，也是確保網(wǎng)絡(luò)空間人工智能安全的最后屏障。目前，深度學(xué)習(xí)算法基礎(chǔ)研發(fā)平臺(tái)也幾乎為美國Google等大公司所壟斷。許多公司與研究人員需要將訓(xùn)練樣本數(shù)據(jù)、人工智能算法通過國際互聯(lián)網(wǎng)上傳到境外網(wǎng)站，才能開展深度學(xué)習(xí)的研究、開發(fā)與應(yīng)用，這為網(wǎng)絡(luò)空間人工智能安全治理帶來了重大挑戰(zhàn)。建議大力加強(qiáng)“Cyber+AI”理論研究與技術(shù)儲(chǔ)備，發(fā)揮我國在網(wǎng)絡(luò)空間大數(shù)據(jù)、人工智能商業(yè)模式創(chuàng)新等方面的優(yōu)勢(shì)，大力推動(dòng)國產(chǎn)深度學(xué)習(xí)平臺(tái)的大規(guī)模普及與應(yīng)用。

　　2.2 軍事方面

　　軍事方面重點(diǎn)關(guān)注基于自主網(wǎng)絡(luò)攻防武器的混合作戰(zhàn)。與陸、海、空等傳統(tǒng)作戰(zhàn)域不同，發(fā)生在網(wǎng)絡(luò)空間的攻防博弈具有速度快、智能程度高、節(jié)奏變化快、技術(shù)難度大等突出特征，網(wǎng)絡(luò)空間作戰(zhàn)的“秒殺性”越來越明顯。同時(shí)，隨著網(wǎng)絡(luò)空間對(duì)于人類社會(huì)生活、生產(chǎn)與工作的關(guān)鍵性支撐作用越來越強(qiáng)，人們也更加關(guān)注網(wǎng)絡(luò)攻防對(duì)于人類社會(huì)政治、經(jīng)濟(jì)、心理等方面的衍生性影響。僅僅依靠人類自身的智力、體力與能力，已經(jīng)難以獨(dú)自勝任網(wǎng)絡(luò)空間作戰(zhàn)使命任務(wù)，必須依托于自主化、智能化的網(wǎng)絡(luò)攻防武器，并在物理、網(wǎng)絡(luò)、心理、社會(huì)等多個(gè)域開展混合作戰(zhàn)。

　　2.2.1 自主網(wǎng)絡(luò)攻防是混合作戰(zhàn)的一種典型非對(duì)稱作戰(zhàn)樣式

　　混合作戰(zhàn)是一種攻防界限模糊，融合網(wǎng)絡(luò)空間作戰(zhàn)、心理戰(zhàn)、金融戰(zhàn)等多種作戰(zhàn)樣式于一體的新型作戰(zhàn)行動(dòng)，具有投入少、見效快，隱蔽性強(qiáng)、不易察覺，預(yù)見性差、難以防范等突出特點(diǎn)。網(wǎng)絡(luò)空間作戰(zhàn)正是混合作戰(zhàn)的中心與核心，是混合作戰(zhàn)的典型非對(duì)稱作戰(zhàn)樣式。

　　2014年以來，俄羅斯在混合作戰(zhàn)理論指導(dǎo)下應(yīng)對(duì)烏克蘭與克里米亞局勢(shì)的一系列戰(zhàn)術(shù)戰(zhàn)法，已經(jīng)成為混合作戰(zhàn)的實(shí)踐典范，而網(wǎng)絡(luò)攻防成為其中不可或缺的重要組成部分[10]。烏克蘭政府網(wǎng)絡(luò)系統(tǒng)曾遭到計(jì)算機(jī)病毒“毒蛇”的連續(xù)攻擊，使得黑客獲取大量烏克蘭機(jī)密。歐洲能源網(wǎng)絡(luò)的多個(gè)工業(yè)管理系統(tǒng)也曾感染了可實(shí)時(shí)監(jiān)控能源消耗、破壞擾亂系統(tǒng)的“能量熊”計(jì)算機(jī)病毒。建議應(yīng)該加強(qiáng)混合作戰(zhàn)及其應(yīng)對(duì)措施的理論與對(duì)策研究，尤其需要重視國外敵對(duì)勢(shì)力通過互聯(lián)網(wǎng)散布謠言、網(wǎng)絡(luò)竊密、木馬攻擊等手段，對(duì)我輿情社情、關(guān)鍵基礎(chǔ)設(shè)施的襲擾破壞。

　　2.2.2 自主網(wǎng)絡(luò)攻防武器將顯著增加網(wǎng)絡(luò)空間安全的不確定性

　　現(xiàn)階段在人工智能技術(shù)的賦能下，具有高度自主性的網(wǎng)絡(luò)攻防武器由于其內(nèi)部自身理論與技術(shù)的不成熟性，以及外部人員使用的不合理性，有可能顯著增加網(wǎng)絡(luò)空間安全的不確定性。

　　一是深度學(xué)習(xí)等典型人工智能技術(shù)的基礎(chǔ)理論建立在概率論和數(shù)理統(tǒng)計(jì)基礎(chǔ)之上，并沒有嚴(yán)格的因果對(duì)應(yīng)關(guān)系，而現(xiàn)有技術(shù)也難以預(yù)估自主網(wǎng)絡(luò)攻防武器的風(fēng)險(xiǎn)事件和安全邊界。同傳統(tǒng)基于規(guī)則、基于人類知識(shí)與判斷的網(wǎng)絡(luò)攻防武器相比，基于人工智能的自主網(wǎng)絡(luò)攻防武器內(nèi)生風(fēng)險(xiǎn)性更高。

　　二是自主攻擊網(wǎng)絡(luò)武器的擴(kuò)散與不規(guī)范使用，將會(huì)對(duì)網(wǎng)絡(luò)空間安全造成難以控制、難以評(píng)估的危害。2017年以來，不法分子利用美國國家安全局（National Security Agency，NSA）泄漏的0 day漏洞“Eternal Blue”（永恒之藍(lán)）進(jìn)行傳播的WannaCry勒索病毒，至少感染了150多個(gè)國家的30余萬名用戶，嚴(yán)重影響了金融、能源、醫(yī)療等關(guān)乎國計(jì)民生的重要行業(yè)，造成損失達(dá)80億美元[11]。

　　國際上需要形成制約自主網(wǎng)絡(luò)攻防武器的規(guī)章制度與公約規(guī)范，嚴(yán)格自主網(wǎng)絡(luò)攻防武器的加密、解密與使用權(quán)限，完善自主網(wǎng)絡(luò)攻防武器的自我刪除、取消激活等功能。

　　2.2.3  加速推進(jìn)自主網(wǎng)絡(luò)攻防的關(guān)鍵技術(shù)突破與作戰(zhàn)概念設(shè)計(jì)

　　人類戰(zhàn)爭(zhēng)歷史的進(jìn)程與結(jié)局充分證明，技術(shù)是戰(zhàn)爭(zhēng)形態(tài)演進(jìn)的第一推動(dòng)力，是戰(zhàn)斗力的核心組成部分[12]。

　　在軍事領(lǐng)域，自主化、智能化網(wǎng)絡(luò)攻防具有技術(shù)性強(qiáng)、實(shí)施復(fù)雜度高等特點(diǎn)，高度依賴網(wǎng)絡(luò)態(tài)勢(shì)深度認(rèn)知、攻防手段學(xué)習(xí)優(yōu)化等先進(jìn)技術(shù)。同時(shí)，如何更好地在信息化、網(wǎng)絡(luò)化、智能化戰(zhàn)場(chǎng)中最大程度地發(fā)揮網(wǎng)絡(luò)攻防作戰(zhàn)效能，如何更好地“以己之長(zhǎng)攻敵之短”，尤其需要通過戰(zhàn)情虛擬仿真實(shí)驗(yàn)、實(shí)兵演習(xí)等手段，設(shè)計(jì)科學(xué)合理且富有前瞻性的自主網(wǎng)絡(luò)攻防作戰(zhàn)概念。

　　近年來，美軍頂層決策機(jī)構(gòu)、軍兵種、專業(yè)智庫與軍火商等機(jī)構(gòu)，圍繞著網(wǎng)絡(luò)攻防深度融合于跨域作戰(zhàn)、全域作戰(zhàn)等全新作戰(zhàn)理論，以應(yīng)對(duì)所謂A2/AD能力為出發(fā)點(diǎn)，先后推出了一系列備受關(guān)注的網(wǎng)絡(luò)攻防作戰(zhàn)概念。例如，2017年8月DARPA公布的“馬賽克戰(zhàn)”， 2017年10月CSBA推出的“電磁對(duì)抗無人敢死隊(duì)”（EMW Expendables）、2015年1月美國海軍提出的“分布式殺傷”等[13]。這些作戰(zhàn)概念為相關(guān)網(wǎng)絡(luò)攻防、無人作戰(zhàn)等指揮體制變革、部隊(duì)訓(xùn)練演習(xí)、關(guān)鍵技術(shù)突破與武器裝備研發(fā)提供了使能方向與重要驅(qū)動(dòng)力。建議從技術(shù)與軍事兩個(gè)層次認(rèn)識(shí)與推動(dòng)網(wǎng)絡(luò)攻防裝備與手段的研究與建設(shè)，通過建設(shè)專業(yè)靶場(chǎng)、仿真系統(tǒng)、演習(xí)環(huán)境等措施，推動(dòng)自主網(wǎng)絡(luò)攻防技術(shù)的突破與驗(yàn)證、先進(jìn)裝備的試驗(yàn)鑒定與作戰(zhàn)力量的戰(zhàn)備訓(xùn)練。

　　2.3 政治方面

　　政治方面重點(diǎn)關(guān)注基于人工智能的社會(huì)輿情預(yù)測(cè)管控。

　　網(wǎng)絡(luò)輿情是廣大網(wǎng)民以網(wǎng)絡(luò)為載體，對(duì)于某事件的情感、態(tài)度、意見與觀點(diǎn)的表達(dá)、傳播與影響的集中表現(xiàn)。網(wǎng)絡(luò)輿情管控是網(wǎng)絡(luò)空間安全的重要組成部分，也是關(guān)乎國家政治安全的重要陣地。目前，國外特別重視將人工智能技術(shù)與社交網(wǎng)絡(luò)緊密結(jié)合，綜合運(yùn)用社交大數(shù)據(jù)深度挖掘與分析、輿情精準(zhǔn)推送與管理，甚至虛假新聞生成與傳播等手段，通過網(wǎng)絡(luò)空間對(duì)于社會(huì)民眾心理與行為的衍生效應(yīng)、放大效應(yīng)與示范效應(yīng)，管控國內(nèi)輿論民意與社會(huì)矛盾，擾亂、破壞甚至顛覆別國政權(quán)與國際利益。

　　2.3.1 “AI+社交大網(wǎng)絡(luò)”為社會(huì)輿情管控提供有力手段

　　當(dāng)前，各種社交手段的飛速發(fā)展與落地應(yīng)用，已經(jīng)推動(dòng)人類形成了以國際互聯(lián)網(wǎng)為核心、以移動(dòng)互聯(lián)網(wǎng)、泛在物聯(lián)網(wǎng)為枝干的一張廣泛聯(lián)系、動(dòng)態(tài)變化、規(guī)模巨大的社交大網(wǎng)絡(luò)。而“AI+社交大網(wǎng)絡(luò)”既能夠反映個(gè)人的職業(yè)、愛好、政治傾向等細(xì)微生物特征，又能夠通過人與人之間的泛在社會(huì)聯(lián)系極大地影響群體與個(gè)人的心理與行為。

　　通過基于統(tǒng)計(jì)機(jī)器學(xué)習(xí)的自然語言處理技術(shù)（Natural Language Processing, NLP）實(shí)現(xiàn)多源異構(gòu)海量網(wǎng)絡(luò)輿情實(shí)時(shí)監(jiān)測(cè)采集與結(jié)構(gòu)化提取、基于知識(shí)圖譜與圖神經(jīng)網(wǎng)絡(luò)技術(shù)實(shí)現(xiàn)不同場(chǎng)景下的網(wǎng)絡(luò)輿情知識(shí)體系構(gòu)建、基于深度學(xué)習(xí)技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)短語立場(chǎng)判定等手段，能夠極速精準(zhǔn)地刻畫網(wǎng)絡(luò)個(gè)人與群體的“精確畫像”。

　　通過基于無監(jiān)督學(xué)習(xí)的生成對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Networks, GAN）技術(shù)實(shí)現(xiàn)智能圖像處理與虛假圖像生成、通過基于大數(shù)據(jù)聚類分析實(shí)現(xiàn)個(gè)性化新聞分發(fā)與推送等手段，能夠迅速、準(zhǔn)確、高效地對(duì)于目標(biāo)受眾心理與行為產(chǎn)生積極或消極影響。

　　近年來，在美國、英國等西方國家選舉中，陸續(xù)出現(xiàn)利用網(wǎng)絡(luò)社交平臺(tái)部署“機(jī)器人水軍”，從而人為地操縱、引導(dǎo)輿論走向，達(dá)到干預(yù)選舉結(jié)果的目的。2018年3月，英國咨詢機(jī)構(gòu)劍橋分析公司干擾美國大選丑聞被西方媒體曝光[14]。該公司收集了Facebook網(wǎng)站上超過5 000萬用戶的行為模式、性格特征、價(jià)值觀趨向、成長(zhǎng)經(jīng)歷等信息，并有針對(duì)性地推送競(jìng)選信息、競(jìng)選廣告甚至一些虛假新聞，部分影響到了2016年美國總統(tǒng)大選結(jié)果。

　　2.3.2  加強(qiáng)計(jì)算社會(huì)科學(xué)研究推動(dòng)智慧社會(huì)發(fā)展轉(zhuǎn)型

　　近年來，隨著大數(shù)據(jù)與人工智能時(shí)代的來臨，以廣域分布的社會(huì)傳感網(wǎng)絡(luò)為基礎(chǔ)，人類在生活、工作、交往、娛樂等過程中所積累的海量、高維、動(dòng)態(tài)的數(shù)據(jù)信息，為提高社會(huì)管理水平提供了難得的戰(zhàn)略機(jī)遇與嚴(yán)峻的問題挑戰(zhàn)。

　　計(jì)算社會(huì)科學(xué)（Computational Social Science）概念首次出現(xiàn)于1994年，之后隨著近30年的蓬勃發(fā)展，已經(jīng)在大規(guī)模傳染病傳播與控制、網(wǎng)絡(luò)輿情傳播與管控等方面取得了眾多研究成果與轉(zhuǎn)化應(yīng)用，推動(dòng)著信息對(duì)稱、權(quán)利對(duì)等、組織扁平的社會(huì)組織新結(jié)構(gòu)逐漸演進(jìn)，以及集約化、分布化、智能化、快速化的社會(huì)管理新模型轉(zhuǎn)型發(fā)展[15]。

　　例如，在抗擊新冠肺炎疫情的斗爭(zhēng)中，我國許多地方政府、企業(yè)、高校等機(jī)構(gòu)都在探索將病毒大數(shù)據(jù)與計(jì)算社會(huì)科學(xué)相結(jié)合，綜合提升病毒防控能力與社會(huì)管理能力，為抗疫斗爭(zhēng)的偉大勝利提供了科學(xué)理論與工具支撐。

　　將人工智能技術(shù)與計(jì)算社會(huì)科學(xué)相結(jié)合，一是能夠提升其通過模擬微觀個(gè)體互動(dòng)，涌現(xiàn)宏觀社會(huì)現(xiàn)象的水平；二是能夠提升其通過網(wǎng)絡(luò)爬蟲、文本挖掘、深度學(xué)習(xí)等技術(shù)提取分析網(wǎng)絡(luò)大數(shù)據(jù)，研究社會(huì)復(fù)雜系統(tǒng)的水平。由此，我們能夠更加清晰地描述個(gè)人與群體之間的新型互動(dòng)過程和模式，更加合理地解釋社會(huì)現(xiàn)象及發(fā)生機(jī)制，更加準(zhǔn)確地預(yù)測(cè)管控個(gè)人與社會(huì)的發(fā)展趨勢(shì)，從而推動(dòng)傳統(tǒng)社會(huì)向著智慧社會(huì)的目標(biāo)不斷轉(zhuǎn)型發(fā)展。

　　2.3.3 更加注重個(gè)人隱私與特征敏感數(shù)據(jù)的安全防護(hù)

　　當(dāng)前，隨著5G通信、物聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)等網(wǎng)絡(luò)通信技術(shù)的發(fā)展，人類的日常生活、工作中的一切行為，都有可能通過網(wǎng)絡(luò)以數(shù)字的形式被記錄與記載下來。人類在逐漸數(shù)字化的同時(shí)，也正在逐漸透明化。

　　境外一些公司甚至敵對(duì)勢(shì)力通過網(wǎng)絡(luò)爬蟲、木馬植入、郵箱竊密、網(wǎng)絡(luò)調(diào)查等手段，非法收集、竊取個(gè)人與群體的隱私與行為特征數(shù)據(jù)，并通過人工智能技術(shù)進(jìn)行深度挖掘與分析，精準(zhǔn)、迅速刻畫個(gè)人的性格、收入、社會(huì)關(guān)系等身份特征，將個(gè)人完全暴露于網(wǎng)絡(luò)之中，為進(jìn)一步分析、判斷、掌握社情輿情積累數(shù)據(jù)信息與情報(bào)資料。

　　為盡可能地切斷境外敵對(duì)勢(shì)力通過國際互聯(lián)網(wǎng)對(duì)網(wǎng)絡(luò)空間安全的滲透與破壞路徑，需要加強(qiáng)基于生物特征的個(gè)人隱私加密技術(shù)、面向大數(shù)據(jù)的數(shù)據(jù)加密技術(shù)、可信計(jì)算技術(shù)等網(wǎng)絡(luò)安全防護(hù)技術(shù)，完善社交網(wǎng)絡(luò)數(shù)據(jù)收集與應(yīng)用相關(guān)法律、法規(guī)，綜合運(yùn)用技術(shù)、政策、法律與標(biāo)準(zhǔn)等手段保證個(gè)人隱私與特征敏感數(shù)據(jù)的安全。

　　3 推進(jìn)網(wǎng)絡(luò)空間人工智能安全治理的幾點(diǎn)舉措

　　網(wǎng)絡(luò)空間是既陸、海、空、天之后，關(guān)乎人類生存與發(fā)展、關(guān)乎國家前途與命運(yùn)的“第五維空間”。而人工智能是搶占新一輪產(chǎn)業(yè)競(jìng)爭(zhēng)、軍事競(jìng)爭(zhēng)、國家競(jìng)爭(zhēng)制高點(diǎn)的戰(zhàn)略性、前沿性、顛覆性技術(shù)，將成為國家重要的戰(zhàn)略威懾力量。建議應(yīng)從利弊兩個(gè)方面，以發(fā)展、改革、創(chuàng)新的眼光去辯證認(rèn)識(shí)網(wǎng)絡(luò)空間人工智能安全治理面臨的問題與挑戰(zhàn)，堅(jiān)持發(fā)展這個(gè)硬道理，抓住創(chuàng)新這個(gè)牛鼻子[1]，主動(dòng)作為，趨利避害，探索網(wǎng)絡(luò)空間人工智能安全治理之路。

　　3.1 強(qiáng)化網(wǎng)絡(luò)空間安全觀念，統(tǒng)籌完善人工智能發(fā)展戰(zhàn)略

　　“網(wǎng)絡(luò)安全和信息化是事關(guān)國家安全和國家發(fā)展，事關(guān)廣大人民群眾工作生活的重大戰(zhàn)略問題?！痹诳傮w安全觀的指導(dǎo)下，頂層設(shè)計(jì)、系統(tǒng)規(guī)劃與全方面統(tǒng)籌完善人工智能發(fā)展戰(zhàn)略，在社會(huì)普及與強(qiáng)化網(wǎng)絡(luò)安全觀念。建議從國家層面通過設(shè)立重大科技專項(xiàng)牽引技術(shù)進(jìn)步，從政府層面通過配套政策制訂引導(dǎo)社會(huì)關(guān)注與資金投入，逐步提升在該領(lǐng)域的核心競(jìng)爭(zhēng)力。

　　3.2 構(gòu)建四位一體安全生態(tài)，壓實(shí)政府高校企業(yè)個(gè)人職責(zé)

　　開展網(wǎng)絡(luò)空間人工智能安全治理需要在頂層理論與協(xié)調(diào)機(jī)制的支撐下，匯聚產(chǎn)、學(xué)、研、用多領(lǐng)域資源，形成群策群力、群防群治的治理模式，構(gòu)建政府、高校、企業(yè)、個(gè)人等多類型主體的四位一體安全生態(tài)。

　　政府方面需要承擔(dān)“壓艙石”主體責(zé)任，建立包括“新一代人工智能治理專業(yè)委員會(huì)”在內(nèi)的網(wǎng)絡(luò)安全人工治理頂層決策機(jī)構(gòu)、統(tǒng)籌協(xié)調(diào)機(jī)制、政策法規(guī)標(biāo)準(zhǔn)與高端智囊機(jī)構(gòu)，做好服務(wù)與監(jiān)督職責(zé)，推動(dòng)網(wǎng)絡(luò)安全人工智能治理與國家戰(zhàn)略、區(qū)域規(guī)劃與社會(huì)需求協(xié)調(diào)同步發(fā)展。

　　高校方面需要承擔(dān)“助推器”主體責(zé)任，發(fā)揮在科技研究與人才培養(yǎng)方面的優(yōu)勢(shì)，集中智力、物力、財(cái)力資源攻克人工智能、網(wǎng)絡(luò)信息、大數(shù)據(jù)、計(jì)算社會(huì)等領(lǐng)域的基礎(chǔ)理論與關(guān)鍵技術(shù)，搶占理論高地與技術(shù)前沿。

　　企業(yè)方面需要承擔(dān)“發(fā)動(dòng)機(jī)”主體責(zé)任，發(fā)揮網(wǎng)絡(luò)空間的數(shù)據(jù)優(yōu)勢(shì)、人力優(yōu)勢(shì)，推動(dòng)人工智能技術(shù)在網(wǎng)絡(luò)空間態(tài)勢(shì)感知、網(wǎng)絡(luò)安全防御等方面的落地應(yīng)用，搶占產(chǎn)業(yè)制高點(diǎn)。

　　個(gè)人需要承擔(dān)“前沿哨”主體責(zé)任，提高網(wǎng)絡(luò)安全意識(shí)與人工智能素養(yǎng)，保護(hù)個(gè)人隱私與特征數(shù)據(jù)不輕易泄漏，自覺分辨虛假社會(huì)輿情與網(wǎng)絡(luò)輿情，不盲目信謠傳謠。

　　3.3 培育“AI+”復(fù)合型人才，打造網(wǎng)絡(luò)空間安全人才高地

　　“得人者興，失人者崩?！苯ㄔO(shè)網(wǎng)絡(luò)強(qiáng)國、人工智能強(qiáng)國的關(guān)鍵在于人才。政府、高校與企業(yè)要下大力氣解決網(wǎng)絡(luò)空間人工智能治理高端人才的培養(yǎng)問題、使用問題。網(wǎng)絡(luò)空間人工智能治理涉及網(wǎng)絡(luò)安全、人工智能、政治學(xué)、行政管理、法學(xué)等多學(xué)科交叉融合。

　　要推動(dòng)政府、軍隊(duì)、高校、科研機(jī)構(gòu)與企業(yè)在網(wǎng)絡(luò)安全與人工智能領(lǐng)域的對(duì)接合作，為高端人才創(chuàng)造良好的政策環(huán)境、科研環(huán)境與工作環(huán)境，并從薪酬待遇、發(fā)展前景等多個(gè)方面加大力度吸引、留住國際頂尖人才。建議對(duì)待網(wǎng)絡(luò)空間人工智能治理高端人才要有特色政策，在不違法法律法規(guī)的前提下甚至“一人一策”，不搞論資排輩，不搞求全責(zé)備，讓高端人才能夠?qū)⑷可硇耐度氲窖芯俊?chuàng)新與實(shí)踐中來，提高人才的使用效率。

　　3.4 搶抓規(guī)則標(biāo)準(zhǔn)制定先機(jī)，搶占人工智能安全話語制權(quán)

　　“大國網(wǎng)絡(luò)安全博弈不單是技術(shù)博弈，還是理念博弈、話語權(quán)博弈。”在人工智能成為國家核心競(jìng)爭(zhēng)力與國際競(jìng)爭(zhēng)重要議題的情況下，建議在網(wǎng)絡(luò)空間人工智能安全治理上貫徹人類命運(yùn)共同體理念，具備國際視野與全球眼光，加強(qiáng)與外國政府、企業(yè)與國際組織的交流、溝通、合作，通過參與國際網(wǎng)絡(luò)空間與人工智能行為規(guī)范、法律法規(guī)、倫理準(zhǔn)則的研究與制訂，主動(dòng)搭建網(wǎng)絡(luò)空間與人工智能國際合作平臺(tái)，積極爭(zhēng)取國際網(wǎng)絡(luò)空間人工智能安全治理的主導(dǎo)權(quán)、話語權(quán)。

　　結(jié) 語

　　美國著名未來學(xué)家Ray Kurzweil指出：“我們的未來不再是經(jīng)歷進(jìn)化，而是經(jīng)歷爆炸?！碑?dāng)前，人類正處于由人工智能技術(shù)作為核心驅(qū)動(dòng)力所引發(fā)的新一輪科技革命、產(chǎn)業(yè)革命、工業(yè)革命的歷史新階段。人工智能技術(shù)將對(duì)人類社會(huì)的生活生產(chǎn)方式、社會(huì)組織結(jié)構(gòu)、倫理道德觀念、世界觀價(jià)值觀等，產(chǎn)生革命性、顛覆性的巨大沖擊。能否在即將到來的信息化、網(wǎng)絡(luò)化、智能化融合發(fā)展的新時(shí)代，牢牢地把握人工智能技術(shù)賦能網(wǎng)絡(luò)空間安全這一重大歷史機(jī)遇，需要從國家戰(zhàn)略、國家安全的高度重視網(wǎng)絡(luò)空間人工智能安全治理的相關(guān)議題，聚合國際國內(nèi)的人才、技術(shù)、產(chǎn)業(yè)與政策資源，“搶抓機(jī)遇，乘勢(shì)而上”。