2020年初，美國海軍發(fā)布《人工智能技術(shù)安全性》。該報告重點關(guān)注對此項技術(shù)帶來的安全性問題。美國海軍乃至整個國防部系統(tǒng)，都在嚴(yán)肅認(rèn)真地對待軍事人工智能的發(fā)展。2019 年的 2、6、9 月，美國先后公布《國防部人工智能戰(zhàn)略》、《國家人工智能戰(zhàn)略》《空軍人工智能戰(zhàn)略》三大戰(zhàn)略，表明其在國家、軍隊、軍種三個層面的“智能化戰(zhàn)略”全面啟動?？煽闯雒绹斯ぶ悄茉谲娛骂I(lǐng)域的發(fā)展態(tài)勢日趨激烈。

　　一、推出多項政令戰(zhàn)略規(guī)劃，聚力發(fā)展人工智能

　　人工智能作為驅(qū)動第四次工業(yè)革命的重要引擎，深刻影響著經(jīng)濟(jì)產(chǎn)業(yè)和各技術(shù)學(xué)科的發(fā)展，為此美國以國家戰(zhàn)略地位提升對人工智能在社會發(fā)展各領(lǐng)域（ 特別是國防領(lǐng)域） 的動能，以推動人工智能技術(shù)的研發(fā)。2019年10月，世界經(jīng)濟(jì)論壇發(fā)布制定國家人工智能戰(zhàn)略的框架白皮書，創(chuàng)建了最低限度可行的人工智能國家戰(zhàn)略制定框架，指出國家人工智能戰(zhàn)略的制定應(yīng)考量具有戰(zhàn)略意義的優(yōu)先事項人口需求資源限制和地緣政治等因素，旨在指導(dǎo)尚未或正在制定人工智能國家戰(zhàn)略的政府。

　　美國多措并舉，繼續(xù)把發(fā)展人工智能技術(shù)作為提升國力維護(hù)國家安全的重大戰(zhàn)略，從國家戰(zhàn)略層面強(qiáng)化人工智能技術(shù)布局。2019年2月，美國政府科技政策辦公室發(fā)布由美國總統(tǒng)特朗普簽發(fā)的《維持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》行政令，提出了美國發(fā)展人工智能的政策和原則戰(zhàn)略目標(biāo)和重點領(lǐng)域，啟動旨在推進(jìn)美國在人工智能領(lǐng)域領(lǐng)導(dǎo)地位的美國人工智能倡議，指示聯(lián)邦政府整合資源，聚力發(fā)展人工智能。

　　同年2月，美國國防部公布《2018年國防部人工智能戰(zhàn)略》的摘要部分（ 題為《利用人工智能促進(jìn)安全與繁榮》） 。該戰(zhàn)略是美國國防部首個人工智能戰(zhàn)略，旨在落實美國政府《國家安全戰(zhàn)略》和《國防戰(zhàn)略》提出的人工智能重要事項，為美國國防部謀求軍事人工智能優(yōu)勢發(fā)展軍事人工智能實戰(zhàn)化能力提供戰(zhàn)略指導(dǎo)。2019年7月，美國空軍推出數(shù)字空軍計劃，旨在改進(jìn)其在數(shù)據(jù)管理信息技術(shù)架構(gòu)和業(yè)務(wù)運營方面的不足，使美國空軍保持競爭力。2019年9月，美國能源部成立人工智能與技術(shù)辦公室，旨在為美國人工智能研究人員提供聯(lián)邦數(shù)據(jù)模型和高性能計算資源。2019年9月，美國空軍以美國《國防部人工智能戰(zhàn)略》附錄形式發(fā)布《2019空軍人工智能戰(zhàn)略》，詳細(xì)闡釋在數(shù)字時代如何有效管理引導(dǎo)和引領(lǐng)所必須的基本原則職能和目標(biāo)。2020年初，美國海軍分析中心發(fā)布專題報告《人工智能技術(shù)安全性———對海軍的行動方案建議》。該報告從當(dāng)前美國海軍推動軍事領(lǐng)域人工智能技術(shù)運用過程中引發(fā)的公眾關(guān)注進(jìn)行介紹入手，提出了海軍乃至整個國防部系統(tǒng)在軍事領(lǐng)域接收采用新興技術(shù)手段的總體態(tài)度與思路。

　　二、多家軍事機(jī)構(gòu)開展研發(fā)項目，探索人工智能技術(shù)的軍用新場景

　　作為軍事大國，美國對于人工智能軍事作戰(zhàn)賦能的目標(biāo)非常清晰，強(qiáng)力推動美國頂尖人工智能研究走向新的技術(shù)突破，促進(jìn)科學(xué)新成果的發(fā)現(xiàn)、增強(qiáng)經(jīng)濟(jì)競爭力、鞏固國家安全。2019年3月，美國參議院軍事委員會舉行主題為國防部人工智能計劃的聽證會，美國國防預(yù)先研究計劃局 DARPA、國防創(chuàng)新小組（ DIU） 、國防部聯(lián)合人工智能中心（ JAIC）等機(jī)構(gòu)主管分別發(fā)言，闡述所在部門的人工智能項目及運行機(jī)制等情況，鞏固并強(qiáng)化了人工智能技術(shù)及應(yīng)用與軍方之間的聯(lián)系，保障美國的人工智能軍用化步伐進(jìn)一步加快。以DARPA為例，DARPA正將投資和研發(fā)重點轉(zhuǎn)向第三代人工智能技術(shù)，用于創(chuàng)建能在特定語境下進(jìn)行推理的機(jī)器。資助的主要項目包括終身學(xué)習(xí)機(jī)器（ L2M，2017年啟動），可解釋人工智能（ XAI，2018年啟動）和機(jī)器常識（ MCS，2018年啟動）等，探索提高人工智能技術(shù)水平的方法，實現(xiàn)語境推理能力。DARPA認(rèn)為，將這些技術(shù)集成到與軍事作戰(zhàn)人員合作的軍事系統(tǒng)中，將有助于在對空間敏感的復(fù)雜戰(zhàn)場環(huán)境中做出及時決策，了解不完整或者相互矛盾的海量信息，并使用無人系統(tǒng)安全自主地執(zhí)行關(guān)鍵任務(wù)。

　　2019年1月，DARPA啟動知識導(dǎo)向型人工智能推理模式（ KAIROS）項目，旨在提升面向復(fù)雜戰(zhàn)場環(huán)境挖掘和理解海量信息中的復(fù)雜事件及其相互關(guān)系的能力。2019年1月，美國陸軍研究實驗室（ ARL）啟動異構(gòu)戰(zhàn)術(shù)環(huán)境中的分布處理（ DPHTE）計劃，基于霧計算平臺在對抗性軍事環(huán)境中為作戰(zhàn)人員提供更多的態(tài)勢感知。2019年2月，美國空軍研究實驗室發(fā)布多域戰(zhàn)和目標(biāo)定位支持信息分析項目，旨在開發(fā)基于算法戰(zhàn)和人工智能等技術(shù)，針對時敏有價值的敵對移動目標(biāo)進(jìn)行快速預(yù)判和打擊。2019年5月，DARPA啟動旨在將人工智能應(yīng)用于空戰(zhàn)演變（ ACE） 項目，人工智能空戰(zhàn)應(yīng)用成熟后可替代飛行員完成部分空戰(zhàn)任務(wù)。2019年5月，麻省理工學(xué)院發(fā)布為美國空軍打造人工智能加速器項目，該項目研究領(lǐng)域包括救災(zāi)和醫(yī)療準(zhǔn)備、數(shù)據(jù)管理、維護(hù)物流、車輛安全以及網(wǎng)絡(luò)還原能力。2019年9月，美國國防部聯(lián)合人工智能中心宣布美國軍方網(wǎng)絡(luò)安全數(shù)據(jù)制定新框架，重點為未來人工智能網(wǎng)絡(luò)防御體系奠定基礎(chǔ)。

　　2020年初，美國特朗普政府向國會提交2021財年預(yù)算申請，加速發(fā)展人工智能等技術(shù)。提議政府預(yù)算從2020財年1560億美元削減至1422億美元，下降138億美元，但預(yù)算申請仍強(qiáng)調(diào)優(yōu)先發(fā)展“未來產(chǎn)業(yè)”，必須加速發(fā)展人工智能等技術(shù)。其中，500萬美元用于能源部新立“人工智能與技術(shù)辦公室”，加強(qiáng)人工智能的項目研發(fā)。

　　三、夯實人工智能實踐應(yīng)用的道德準(zhǔn)繩和安全邊界

　　隨著人工智能技術(shù)的發(fā)展，人權(quán)倫理、隱私保障、歧視偏見、安全問題等困境日益突出。美國亦在探索中多措并舉，確保人工智能在充分的監(jiān)督和控制之下發(fā)展。特別是在2019年發(fā)布的國家級人工智能戰(zhàn)略和2020年初發(fā)布人工智能技術(shù)安全性報告中，將道德、隱私、安全等問題擺在突出位置，認(rèn)為應(yīng)在尊重道德、重視安全的前提下最大限度地發(fā)揮其社會效益。

　　（一）明確戰(zhàn)爭中使用人工智能技術(shù)的道德原則和標(biāo)準(zhǔn)

　　美國推動多項研究，闡明美國合法道德地使用人工智能的愿景和指導(dǎo)原則，引導(dǎo)負(fù)責(zé)任的人工智能應(yīng)用和開發(fā)。2019年1月，美國國防部要求國防創(chuàng)新委員會制定在戰(zhàn)爭中使用人工智能的道德原則，用以指導(dǎo)軍方在戰(zhàn)爭中使用人工智能技術(shù)和武器，并向硅谷科技公司確認(rèn)其人工智能產(chǎn)品將如何被使用。美國國防部這一舉措被認(rèn)為旨在形成全球軍用人工智能規(guī)范的指導(dǎo)方針，并吸引硅谷科技公司參與防御工作；10月，人工智能原則： 國防部人工智能應(yīng)用倫理的若干建議推出，被認(rèn)為是美國對軍事人工智能應(yīng)用所導(dǎo)致倫理問題的首次回應(yīng)。2019年1月，美國著名智庫布魯金斯學(xué)會發(fā)布《自動化和人工智能：機(jī)器對人及地區(qū)的影響》報告，著重分析了過去近30年間的資助系統(tǒng)與人工智能對行業(yè)、就業(yè)、地理和人口的影響，并對當(dāng)前至2030年的趨勢進(jìn)行了預(yù)測。最后針對國家、州和地方的政策制定者提出一個綜合響應(yīng)框架，為人們理解并規(guī)范自動化和人工智能的作用提供參考。

　?。ǘ┤斯ぶ悄軐娛骂I(lǐng)域尚屬新興技術(shù)，安全性不容忽視

　　人類歷史上，充斥著軍隊利用技術(shù)取得軍事優(yōu)勢的實例。比如戰(zhàn)車。戰(zhàn)車，是出現(xiàn)在戰(zhàn)場上的第一種車輛裝備，由民間通用馬車提高速度和機(jī)動性改進(jìn)而來，在軍事運用方面取得了顯著的優(yōu)勢。戰(zhàn)車被描述為當(dāng)時的“超級武器”。又比如火藥?；鹚幵雌鹩谝粋€偶然發(fā)現(xiàn)，它的出現(xiàn)，使得軍隊能夠駕馭化學(xué)反應(yīng)能量來提高速度與威力，由此徹底改變了戰(zhàn)爭的形態(tài)和樣式。再比如內(nèi)燃機(jī)。這種發(fā)動機(jī)繼承并發(fā)展了蒸汽機(jī)的優(yōu)勢，改變了戰(zhàn)爭活動的速度與范圍。對內(nèi)燃機(jī)的應(yīng)用方案，包括為后勤物流（補(bǔ)給運輸卡車）提供動力以及為潛艇、飛機(jī)與導(dǎo)彈賦予持久的遠(yuǎn)程監(jiān)視及打擊能力。

　　對大多數(shù)技術(shù)手段的接收和運用，一度都曾起到了改變了戰(zhàn)爭樣式的作用。而其中有幾項，更是徹底顛覆了以往戰(zhàn)爭活動的樣式和范圍，其中便包括火藥與核武器。人工智能技術(shù)，亦被認(rèn)為位居此類。此項技術(shù)能夠應(yīng)用于整個戰(zhàn)爭事業(yè)的方方面面，大幅提高了戰(zhàn)爭活動的效能與效率。各類人工智能技術(shù)，也因其各自獨有的特性而有所區(qū)別。首先應(yīng)注意到，現(xiàn)實世界中人工智能技術(shù)應(yīng)用方案，是用以解決特定領(lǐng)域問題的狹義人工智能技術(shù)，而非具備普遍通用性的通用人工智能技術(shù)應(yīng)用方案。人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用，可以與美國軍隊對核武器的運用方式進(jìn)行類比：安全方面的關(guān)鍵性技術(shù)領(lǐng)域知識，必須在很大程度上由軍隊文職機(jī)構(gòu)掌握，在很大程度上亦屬技術(shù)范疇。

　　（三）給予人工智能技術(shù)安全性 “恰到好處”的信任

　　人工智能技術(shù)安全性，也與對其信任程度有關(guān)。美國軍方運用人工智能技術(shù)方面的一個關(guān)鍵問題是，軍方人員和美國政府高層領(lǐng)導(dǎo)能否相信這些系統(tǒng)確實有效且不會引發(fā)意外問題。2016年國防科學(xué)委員會對自主控制技術(shù)的研究報告指出：“決定在特定任務(wù)中部署運用某系統(tǒng)的個人，必須信任該系統(tǒng)?！痹谝晾撕桶⒏缓沟男袆颖砻鳎?fù)責(zé)實施特定行動的指揮官和戰(zhàn)斗/操作人員在不完全了解后果的情況下，不一定會使用某些系統(tǒng)。當(dāng)某些系統(tǒng)被部署至戰(zhàn)場以滿足緊急需求時（如反簡易爆炸裝置系統(tǒng)或用于提供關(guān)鍵性情報的監(jiān)視系統(tǒng)），一些部隊還是選用了他們已經(jīng)熟悉的武器系統(tǒng)和情報監(jiān)視偵察平臺，即便是老系統(tǒng)的功能指標(biāo)比不上那些已經(jīng)可以選用的新系統(tǒng)。

　　對人工智能系統(tǒng)的信任度過低是一種危險，會阻止部隊運用他們所需的功能。而另一種危險，則是對某項能力的過度信任。人類傾向于過度信任機(jī)器，即便在有證據(jù)表明不能夠給予這種程度的信任情況下，也是如此。戰(zhàn)爭活動中的過度信任，也有具體案例。如，2003年，陸軍“愛國者”防空導(dǎo)彈系統(tǒng)曾擊落1架海軍F/A-18飛機(jī)，該系統(tǒng)將飛機(jī)誤判定為戰(zhàn)術(shù)彈道導(dǎo)彈，并向操作人員提出了建議，要求其發(fā)射導(dǎo)彈實施攔截。操作人員在沒有獨立核實可用信息的情況下，批準(zhǔn)實施了這項建議。這表明，在實際作戰(zhàn)行動中，軍方需要對人工智能給予程度“恰到好處”的信任，不能過熱也不可太冷，避免滑向兩個極端。需要達(dá)成的目標(biāo)，是程度恰當(dāng)?shù)男湃?，并且?yīng)該讓人來參與決策過程。而這種決策過程，則需要以各種相關(guān)能力及對系統(tǒng)功能所具備的經(jīng)驗與知識為依托。

　?。ㄋ模┸娛氯斯ぶ悄馨踩珕栴}將寫入政策方針

　　軍方和政府的高層領(lǐng)導(dǎo)，還應(yīng)通過政策方針層面的決策對相關(guān)軍事行動的性質(zhì)施加影響，包括確定戰(zhàn)爭活動中應(yīng)該使用哪些特定的技術(shù)手段。這些方針政策，可能會對監(jiān)管程度構(gòu)成影響。例如，國防部第3000.09號指令，就要求對某些類型的自主控制系統(tǒng)進(jìn)行高級別審核。明確戰(zhàn)爭活動中允許使用的技術(shù)手段（例如，對白磷（彈藥）運用的限制和使用集束彈藥時相關(guān)設(shè)定要求以及對其它此類武器具體性能參數(shù)的限制要求），并且對某些特定類型作戰(zhàn)行動中的策略原則進(jìn)行限制。例如，《2013版總統(tǒng)政策指導(dǎo)（Presidential Policy Guidance，PPG）》及《2017版總統(tǒng)政策指導(dǎo)》中，對某些反恐行動的批準(zhǔn)與監(jiān)管流程的總體原則框架進(jìn)行了明確。這些政策方針原則，有助于確保相關(guān)軍事活動符合美國的原則、價值觀及利益。這些政策方針層級的決定，都有反映出對此類系統(tǒng)或作戰(zhàn)行動可靠性所應(yīng)持有的信任程度的意味。

　　值得注意的是，以上這些實例內(nèi)容都涉及到了安全性原則問題，而《國防部第3000.09號指令》的目的，就在于避免“意外交戰(zhàn)（inadvertent engagements）”事件的出現(xiàn)（例如致使平民傷亡）。限制白磷彈藥和集束彈藥的目的，還在于減少使用這些武器時給平民帶來的危險?！?013版總統(tǒng)政策指導(dǎo)》中，直接將致使平民傷亡明確列為作戰(zhàn)行動批準(zhǔn)程序中的否決條件（no-gocriterion）。因此可以預(yù)見，安全性問題，勢必將成為未來高層領(lǐng)導(dǎo)人對于將人工智能技術(shù)手段運用于戰(zhàn)爭活動方面所明確的相關(guān)指導(dǎo)與指令內(nèi)容中的一部分。

　?。ㄎ澹┸姺巾毰c業(yè)界協(xié)助解決安全問題

　　人工智能技術(shù)的巨大進(jìn)步，也使美國政府產(chǎn)生了對業(yè)界新的依賴性。自第二次世界大戰(zhàn)以來，美國政府一直在很大程度上依賴于自身投入的研發(fā)資金。然而，人工智能技術(shù)方面的研發(fā)投資，越來越多地由私營機(jī)構(gòu)所主導(dǎo)。其特征，是過去十年來科技行業(yè)的研發(fā)支出急劇增加。在圖1中，我們將整個美國政府在網(wǎng)絡(luò)和信息技術(shù)研發(fā)方面的支出與美國排名前五位的高科技公司（亞馬遜、谷歌/阿爾法控股、英特爾、微軟、蘋果）的研發(fā)投資進(jìn)行了對比。如圖1所示，科技行業(yè)企業(yè)在研發(fā)方面的投入明顯更多，而且兩者間的差距正在擴(kuò)大。2010年，科技行業(yè)企業(yè)的研發(fā)支出，已經(jīng)是美國政府整體科技研發(fā)投資規(guī)模的6倍。8年后，企業(yè)在這方面的投入規(guī)模將激增至美國政府的15倍。總體而言，美國政府在尖端技術(shù)方面研究工作的投資面臨著迅速擴(kuò)大的缺口。這種現(xiàn)狀，為美國政府營造出了一種處于不斷變化中的環(huán)境。在這種環(huán)境中，與業(yè)界的協(xié)作，對于美國政府實現(xiàn)其戰(zhàn)略目標(biāo)必須保持的技術(shù)優(yōu)勢而言至關(guān)重要。在這個意義上，人工智能技術(shù)安全性應(yīng)該是業(yè)界關(guān)注的問題——正如谷歌等公司放棄了對美國政府軍事領(lǐng)域應(yīng)用方案的支持，并開始運用倫理性審查程序?qū)ζ鋬?nèi)部工作流程進(jìn)行監(jiān)測所證明的那樣，美國政府必須與業(yè)界協(xié)作，依托其幫助解決此類問題。

　　圖1 美國政府與科技行業(yè)企業(yè)研發(fā)投資差距對比圖

　　四、美國軍事人工智能面向未來的發(fā)展趨向

　　人工智能技術(shù)一般可分為弱人工智能、強(qiáng)人工智能、超人工智能 3 個等級，預(yù)計強(qiáng)人工智能技術(shù)可能在 2050 年前問世。未來美軍智能化建設(shè)發(fā)展可能經(jīng)歷三個階段：

　　2025 年前，美軍重點是搭起智能化軍隊框架，總體水平處于弱人工智能階段。美軍建設(shè)主要圍繞構(gòu)建“全球監(jiān)視打擊體系”，以升級水下、網(wǎng)電、空天、全球快速打擊和導(dǎo)彈防御作戰(zhàn)系統(tǒng)為重點，突出發(fā)展無人化、隱身化、遠(yuǎn)程化作戰(zhàn)平臺，提升“全球公域”介入能力，確保可信的“拒止”和“懲罰”威懾。這一階段，美軍無人系統(tǒng)在數(shù)量上將逐步超過有人系統(tǒng)，自主無人系統(tǒng)將成為美軍前沿作戰(zhàn)的重要力量，無形、無人、隱形、靈巧等力量將成為美軍事干預(yù)的主要手段。

　　2035 年前，美國初步建成智能化作戰(zhàn)體系，總體水平進(jìn)入強(qiáng)人工智能階段。美軍建設(shè)主要通過發(fā)展智能化作戰(zhàn)平臺、信息系統(tǒng)和決策支持系統(tǒng)，以及定向能、高超聲速、仿生、基因、納米等新型武器，對主要對手形成新的軍事“代差”。在這一階段，美軍無人系統(tǒng)的投資將超過有人系統(tǒng)，無人系統(tǒng)建設(shè)規(guī)模及作戰(zhàn)運用皆居于主導(dǎo)地位。

　　2050 年前，美軍智能化作戰(zhàn)體系將更先進(jìn)、更完善，總體水平達(dá)到超強(qiáng)人工智能階段。美軍在強(qiáng)人工智能、通用量子計算、可控核聚變、納米機(jī)器人、再生、創(chuàng)生、腦聯(lián)網(wǎng)等技術(shù)方面可能取得突破。作戰(zhàn)平臺、信息系統(tǒng)、指揮控制可能全面實現(xiàn)智能化、無人化，更多樣的仿生、基因、納米等新型武器走上戰(zhàn)場，作戰(zhàn)空間進(jìn)一步向生物空間、納米空間、智能空間拓展，人類進(jìn)入“機(jī)器人戰(zhàn)爭時代”。