2017年7月，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，對(duì)我國(guó)未來(lái)人工智能工作提出了明確要求。《規(guī)劃》指出“加強(qiáng)人工智能標(biāo)準(zhǔn)框架體系研究，逐步建立并完善人工智能基礎(chǔ)共性、互聯(lián)互通、行業(yè)應(yīng)用、網(wǎng)絡(luò)安全、隱私保護(hù)等技術(shù)標(biāo)準(zhǔn)”。人工智能安全標(biāo)準(zhǔn)是人工智能標(biāo)準(zhǔn)體系中一類(lèi)重要標(biāo)準(zhǔn)，因此需加強(qiáng)安全標(biāo)準(zhǔn)化工作，保障人工智能產(chǎn)業(yè)安全健康發(fā)展。

　　人工智能安全風(fēng)險(xiǎn)分析

　　國(guó)家安全影響。人工智能在國(guó)防領(lǐng)域、涉密系統(tǒng)、關(guān)鍵信息基礎(chǔ)設(shè)施中的應(yīng)用，可能對(duì)國(guó)家安全產(chǎn)生影響。根據(jù)美國(guó)近期發(fā)布的《人工智能與國(guó)家安全》報(bào)告，未來(lái)的人工智能技術(shù)有可能與核武器、飛機(jī)、計(jì)算機(jī)和生物技術(shù)一樣，成為給國(guó)家安全帶來(lái)深刻變化的顛覆性技術(shù)。

　　社會(huì)安全風(fēng)險(xiǎn)。人工智能可使機(jī)器實(shí)現(xiàn)自動(dòng)化、智能化操作，這將對(duì)某些類(lèi)型工作和行業(yè)帶來(lái)潛在影響，導(dǎo)致工作薪水降低、中低技術(shù)要求的職業(yè)消失，從而影響社會(huì)安全。2014年皮尤研究中心做了一項(xiàng)關(guān)于人工智能與就業(yè)的調(diào)查研究，認(rèn)為自動(dòng)化的普及已經(jīng)很大程度影響到了藍(lán)領(lǐng)的就業(yè)，而以人工智能為首的下一輪科技創(chuàng)新很可能會(huì)顛覆白領(lǐng)的勞動(dòng)市場(chǎng)。

　　人身安全風(fēng)險(xiǎn)。隨著人工智能與物聯(lián)網(wǎng)的深入結(jié)合，智能產(chǎn)品日益應(yīng)用到人們的家居、醫(yī)療、交通等工作生活中，一旦這些智能產(chǎn)品（如智能醫(yī)療設(shè)備、無(wú)人汽車(chē)等）遭受網(wǎng)絡(luò)攻擊，可能危害人身安全。2016年，針對(duì)心臟病設(shè)備等智能醫(yī)療產(chǎn)品存在嚴(yán)重安全漏洞等問(wèn)題，美國(guó)食品藥品監(jiān)督管理局（FDA）頒布了《售后醫(yī)療設(shè)備網(wǎng)絡(luò)安全管理》，并成立了一個(gè)小組協(xié)助監(jiān)管人工智能醫(yī)療產(chǎn)品。

　　網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。人工智能算法、系統(tǒng)和應(yīng)用可能遭受惡意網(wǎng)絡(luò)攻擊，例如通過(guò)實(shí)施一些干擾技術(shù)，計(jì)算機(jī)在進(jìn)行深度學(xué)習(xí)時(shí)容易被欺騙；利用數(shù)據(jù)欺詐等手段遠(yuǎn)程控制無(wú)人汽車(chē)，讓汽車(chē)偏航甚至逼停汽車(chē)造成事故；APT攻擊利用人工智能技術(shù)實(shí)現(xiàn)高度自動(dòng)化，并在黑市廣泛出售等。

　　隱私保護(hù)風(fēng)險(xiǎn)。人工智能驅(qū)動(dòng)的應(yīng)用需要建立起豐富的數(shù)據(jù)集，數(shù)據(jù)收集使用時(shí)可能面臨數(shù)據(jù)安全和隱私保護(hù)問(wèn)題。以無(wú)人駕駛為例，自動(dòng)駕駛車(chē)輛網(wǎng)絡(luò)的有效運(yùn)轉(zhuǎn)需要依賴(lài)大量位置數(shù)據(jù)及其他個(gè)人數(shù)據(jù)，這種大規(guī)模的數(shù)據(jù)實(shí)踐可能帶來(lái)諸多層面的數(shù)據(jù)安全和隱私保護(hù)風(fēng)險(xiǎn)。

　　法律倫理挑戰(zhàn)。人工智能的目標(biāo)是使機(jī)器像人類(lèi)一樣去理性思考和行動(dòng)，但隨著人工智能的應(yīng)用推廣和智能化程度提高，會(huì)面臨現(xiàn)有法律、社會(huì)規(guī)范和道德倫理的挑戰(zhàn)，如何確定人工智能產(chǎn)品或系統(tǒng)的法律主體、權(quán)利、義務(wù)和責(zé)任，及如何確保研究人員開(kāi)發(fā)出與現(xiàn)有法律、社會(huì)規(guī)范和道德倫理一致或相符的算法和架構(gòu)等方面都面臨挑戰(zhàn)。

　　人工智能安全標(biāo)準(zhǔn)現(xiàn)狀

　　人工智能安全標(biāo)準(zhǔn)，是與人工智能安全、倫理、隱私保護(hù)等相關(guān)的標(biāo)準(zhǔn)規(guī)范。從廣義來(lái)說(shuō)，人工智能安全標(biāo)準(zhǔn)涉及人工智能本身、平臺(tái)、技術(shù)、產(chǎn)品和應(yīng)用相關(guān)的安全標(biāo)準(zhǔn)。國(guó)內(nèi)外對(duì)人工智能標(biāo)準(zhǔn)化工作也越來(lái)越重視。2017年10月，國(guó)際標(biāo)準(zhǔn)化組織ISO/IEC JTC1在俄羅斯召開(kāi)會(huì)議，決定JTC1新成立人工智能的分委員會(huì)SC42，負(fù)責(zé)人工智能標(biāo)準(zhǔn)化工作，SC42將建立基礎(chǔ)標(biāo)準(zhǔn)（Foundational Standards）、計(jì)算方法（Computational Methods）、可信賴(lài)（Trustworthiness）、社會(huì)關(guān)注（Societal Concerns）4個(gè)工作組，并將ISO/IEC JTC1 WG9（大數(shù)據(jù)工作組）放到人工智能SC42。

　　人工智能基礎(chǔ)安全標(biāo)準(zhǔn)

　　20世紀(jì)90年代，ISO/IEC JTC1發(fā)布了ISO/IEC 2382-28：1996《信息技術(shù)詞匯第28部分：人工智能基本概念與專(zhuān)家系統(tǒng)》、《信息技術(shù)詞匯第29部分：人工智能語(yǔ)音識(shí)別與合成》，ISO/IEC 2382-31：1997《信息技術(shù)詞匯第31部分：人工智能機(jī)器學(xué)習(xí)》，ISO/IEC 2382-34：1999《信息技術(shù)詞匯第34部分：人工智能神經(jīng)網(wǎng)絡(luò)》等4項(xiàng)標(biāo)準(zhǔn)。目前，上述詞匯標(biāo)準(zhǔn)已經(jīng)廢止，相關(guān)術(shù)語(yǔ)收錄在2015年發(fā)布的ISO/IEC 2382:2015《信息技術(shù)詞匯》中。

　　IEEE標(biāo)準(zhǔn)協(xié)會(huì)正在努力確保人工智能技術(shù)的設(shè)計(jì)者，在其工作中優(yōu)先考慮道德。2017年3月，IEEE在《IEEE機(jī)器人與自動(dòng)化》雜志發(fā)表了名為“旨在推進(jìn)人工智能和自治系統(tǒng)的倫理設(shè)計(jì)的IEEE全球倡議書(shū)”，倡議通過(guò)基于倫理的設(shè)計(jì)原則和標(biāo)準(zhǔn)幫助人們避免對(duì)人工智能技術(shù)的恐懼和盲目崇拜，從而推動(dòng)人工智能技術(shù)的創(chuàng)新。2017年底，IEEE將發(fā)布《以倫理為基準(zhǔn)的設(shè)計(jì)：人工智能及自主系統(tǒng)中將人類(lèi)福祉擺在優(yōu)先地位的愿景（第二版）》報(bào)告，新版本收集了250多名在全球從事人工智能、法律和倫理、哲學(xué)、政策相關(guān)工作的專(zhuān)家，對(duì)人工智能及自主系統(tǒng)領(lǐng)域的問(wèn)題見(jiàn)解及建議。

　　目前，IEEE工作組正在開(kāi)發(fā)IEEE P7000系列中涉及道德規(guī)范的7項(xiàng)倫理標(biāo)準(zhǔn)，分別對(duì)系統(tǒng)設(shè)計(jì)中倫理問(wèn)題、自治系統(tǒng)透明度、系統(tǒng)/軟件收集個(gè)人信息的倫理問(wèn)題、消除算法負(fù)偏差、兒童和學(xué)生數(shù)據(jù)安全、人工智能代理等方面進(jìn)行規(guī)范，包括：IEEE P7000《在系統(tǒng)設(shè)計(jì)中處理倫理問(wèn)題的模型過(guò)程》、IEEE P7001《自治系統(tǒng)的透明度》、IEEE P7002《數(shù)據(jù)隱私處理》、IEEE P7003《算法偏差注意事項(xiàng)》、IEEE P7004《兒童和學(xué)生數(shù)據(jù)治理標(biāo)準(zhǔn)》、IEEE P7005《透明雇主數(shù)據(jù)治理標(biāo)準(zhǔn)》、IEEE P7006《個(gè)人數(shù)據(jù)人工智能代理標(biāo)準(zhǔn)》、IEEE P7007《道德驅(qū)動(dòng)的機(jī)器人和自動(dòng)化系統(tǒng)的本體標(biāo)準(zhǔn)》、IEEE P7008《機(jī)器人、智能和自治系統(tǒng)的倫理驅(qū)動(dòng)推進(jìn)標(biāo)準(zhǔn)》、IEEE P7009《自治和半自治系統(tǒng)的故障安全設(shè)計(jì)標(biāo)準(zhǔn)》和IEEE P7010《道德人工智能與自主系統(tǒng)的健康度量標(biāo)準(zhǔn)》。

　　人工智能應(yīng)用安全標(biāo)準(zhǔn)

　　目前，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（TC260）已在生物特征識(shí)別、汽車(chē)電子、智能制造等部分人工智能技術(shù)、產(chǎn)品或應(yīng)用安全方面開(kāi)展了一些標(biāo)準(zhǔn)化工作。在生物特征識(shí)別安全方面，TC260已發(fā)布GB/T 20979-2007《信息安全技術(shù) 虹膜識(shí)別系統(tǒng)技術(shù)要求》標(biāo)準(zhǔn)，正在研制《基于可信環(huán)境的生物特征識(shí)別身份鑒別協(xié)議》《指紋識(shí)別系統(tǒng)技術(shù)要求》《網(wǎng)絡(luò)人臉識(shí)別認(rèn)證系統(tǒng)安全技術(shù)要求》等標(biāo)準(zhǔn)；在自動(dòng)駕駛安全方面，2017年TC260立項(xiàng)《信息安全技術(shù) 汽車(chē)電子系統(tǒng)網(wǎng)絡(luò)安全指南》標(biāo)準(zhǔn)項(xiàng)目，這是我國(guó)在汽車(chē)電子領(lǐng)域第一個(gè)網(wǎng)絡(luò)安全國(guó)家標(biāo)準(zhǔn)；在智能制造安全方面，TC260正在研制《工業(yè)控制網(wǎng)絡(luò)監(jiān)測(cè)安全技術(shù)要求及測(cè)試評(píng)價(jià)方法》《工業(yè)控制網(wǎng)絡(luò)安全隔離與信息交換系統(tǒng)安全技術(shù)要求》《工業(yè)控制系統(tǒng)產(chǎn)品信息安全通用評(píng)估準(zhǔn)則》《工業(yè)控制系統(tǒng)風(fēng)險(xiǎn)評(píng)估實(shí)施指南》等工控安全標(biāo)準(zhǔn)。

　　國(guó)際和國(guó)外標(biāo)準(zhǔn)化組織在生物特征識(shí)別、自動(dòng)駕駛等領(lǐng)域也開(kāi)展了許多安全標(biāo)準(zhǔn)工作。以自動(dòng)駕駛領(lǐng)域?yàn)槔?012年歐洲電信標(biāo)準(zhǔn)化協(xié)會(huì)（ETSI）發(fā)布ETSI TS 102941《智能交通系統(tǒng)可信和隱私管理》；2014年美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院（NIST）發(fā)布《車(chē)聯(lián)網(wǎng)網(wǎng)絡(luò)攻擊防護(hù)安全框架》；2016年美國(guó)汽車(chē)工程師學(xué)會(huì)（SAE）發(fā)布SAE J3061《信息物理汽車(chē)系統(tǒng)網(wǎng)絡(luò)安全指南》；ISO/TC22（道路車(chē)輛技術(shù)委員會(huì)）正在研制ISO/TR 15497《道路車(chē)輛——車(chē)用軟件開(kāi)發(fā)指南》等標(biāo)準(zhǔn)。

　　人工智能安全支撐標(biāo)準(zhǔn)

　　由于人工智能通常以大數(shù)據(jù)為基礎(chǔ)，并且會(huì)面臨大量隱私保護(hù)的需求，因此大數(shù)據(jù)安全、隱私保護(hù)方面的標(biāo)準(zhǔn)可作為人工智能安全標(biāo)準(zhǔn)的重要支撐。ISO/IEC JTC1 SC27和TC260均開(kāi)展了隱私保護(hù)、大數(shù)據(jù)安全等標(biāo)準(zhǔn)研究，如ISO/IEC 29100《隱私框架》、ISO/IEC 29134《隱私影響評(píng)估指南》、ISO/IEC 29151《個(gè)人標(biāo)識(shí)信息保護(hù)實(shí)用規(guī)則》、ISO/IEC 20547-4《信息技術(shù)—大數(shù)據(jù)參考架構(gòu)—第4部分：安全和隱私架構(gòu)》等國(guó)際標(biāo)準(zhǔn)，以及TC260即將發(fā)布的《信息安全技術(shù) 個(gè)人信息安全規(guī)范》《信息安全技術(shù) 大數(shù)據(jù)服務(wù)安全能力要求》等國(guó)內(nèi)標(biāo)準(zhǔn)。

　　人工智能安全標(biāo)準(zhǔn)化工作建議

　　當(dāng)前，人工智能技術(shù)和產(chǎn)業(yè)正在蓬勃發(fā)展，國(guó)內(nèi)在人工智能的網(wǎng)絡(luò)安全應(yīng)用、智慧城市安全、生物特征識(shí)別安全、汽車(chē)電子安全等方面已有初步的產(chǎn)業(yè)實(shí)踐。同時(shí)，人工智能可能面臨國(guó)家安全、社會(huì)安全、人身安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全的風(fēng)險(xiǎn)及法律倫理方面的挑戰(zhàn)。因此，需要加強(qiáng)人工智能安全標(biāo)準(zhǔn)化工作，為我國(guó)人工智能產(chǎn)業(yè)的健康發(fā)展保駕護(hù)航。針對(duì)國(guó)內(nèi)人工智能安全標(biāo)準(zhǔn)現(xiàn)狀，根據(jù)《新一代人工智能發(fā)展規(guī)劃》對(duì)人工智能標(biāo)準(zhǔn)和安全的要求，提出以下建議。

　　統(tǒng)籌規(guī)劃人工智能安全標(biāo)準(zhǔn)體系

　　為確保人工智能安全標(biāo)準(zhǔn)研制工作有序推進(jìn)，建議統(tǒng)籌規(guī)劃人工智能安全標(biāo)準(zhǔn)化工作，通過(guò)調(diào)研國(guó)內(nèi)人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀和國(guó)外標(biāo)準(zhǔn)化現(xiàn)狀，分析國(guó)內(nèi)人工智能安全標(biāo)準(zhǔn)化需求，優(yōu)先開(kāi)展人工智能安全標(biāo)準(zhǔn)體系研究。建議標(biāo)準(zhǔn)體系能覆蓋人工智能的基礎(chǔ)、平臺(tái)、技術(shù)、產(chǎn)品、應(yīng)用等多個(gè)對(duì)象的安全需求，能明確與大數(shù)據(jù)安全、個(gè)人信息保護(hù)、云計(jì)算安全、物聯(lián)網(wǎng)安全等相關(guān)標(biāo)準(zhǔn)的關(guān)系。在標(biāo)準(zhǔn)體系研究的基礎(chǔ)上，加快啟動(dòng)人工智能安全標(biāo)準(zhǔn)化工作，充分吸收人工智能技術(shù)、服務(wù)、產(chǎn)品、安全、運(yùn)營(yíng)等相關(guān)領(lǐng)域的企業(yè)、科研院所、高等院校、行業(yè)協(xié)會(huì)或產(chǎn)業(yè)聯(lián)盟參與研制標(biāo)準(zhǔn)。

　　加強(qiáng)人工智能安全基礎(chǔ)標(biāo)準(zhǔn)研究

　　目前，我國(guó)人工智能安全標(biāo)準(zhǔn)主要集中在應(yīng)用安全領(lǐng)域，缺乏人工智能自身安全或基礎(chǔ)共性的安全標(biāo)準(zhǔn)。建議加強(qiáng)人工智能基礎(chǔ)安全標(biāo)準(zhǔn)研究，根據(jù)《新一代人工智能發(fā)展規(guī)劃》對(duì)人工智能安全提出的監(jiān)測(cè)預(yù)警、風(fēng)險(xiǎn)評(píng)估、安全問(wèn)責(zé)、研發(fā)設(shè)計(jì)人員安全準(zhǔn)則等要求，針對(duì)人工智能安全的參考架構(gòu)、安全風(fēng)險(xiǎn)、倫理設(shè)計(jì)、安全評(píng)估等方面開(kāi)展標(biāo)準(zhǔn)研究，并規(guī)范人工智能算法、產(chǎn)品和系統(tǒng)的安全要求和測(cè)評(píng)方法。

　　深化人工智能應(yīng)用安全標(biāo)準(zhǔn)工作

　　雖然TC260在生物特征識(shí)別、汽車(chē)電子安全、智能制造安全、大數(shù)據(jù)安全等領(lǐng)域已經(jīng)開(kāi)展了一些標(biāo)準(zhǔn)研究，但現(xiàn)有這些標(biāo)準(zhǔn)大多是規(guī)范相關(guān)領(lǐng)域產(chǎn)品或系統(tǒng)的自動(dòng)化行為，離智能化行為安全還有差距。因此，建議進(jìn)一步深化人工智能應(yīng)用安全標(biāo)準(zhǔn)工作，針對(duì)已有標(biāo)準(zhǔn)完善智能安全要求，并繼續(xù)開(kāi)展網(wǎng)絡(luò)安全領(lǐng)域的人工智能應(yīng)用安全、智能機(jī)器人安全、自動(dòng)駕駛安全、智能家居安全、智能交通安全、智能物流安全、智慧城市安全等領(lǐng)域的標(biāo)準(zhǔn)研究。