近年來(lái)，恐怖組織和極端勢(shì)力越來(lái)越多地將社交媒體作為工具，傳播暴恐思想、進(jìn)行招募培訓(xùn)、相互傳遞訊息、組織恐怖活動(dòng)等。一些青少年因長(zhǎng)期受網(wǎng)絡(luò)暴恐內(nèi)容毒害，導(dǎo)致思想極化，甚至淪為恐怖活動(dòng)幫兇。各國(guó)和地區(qū)越來(lái)越認(rèn)識(shí)到，社交媒體暴恐內(nèi)容已經(jīng)嚴(yán)重威脅國(guó)家安全，給國(guó)際反恐行動(dòng)帶來(lái)巨大挑戰(zhàn)，必須加強(qiáng)治理、重拳打擊。

　　一、社交媒體暴恐內(nèi)容國(guó)際治理的現(xiàn)狀

　　目前，國(guó)際社會(huì)在社交媒體暴恐內(nèi)容治理方面沒有統(tǒng)一和權(quán)威的國(guó)際法。歐洲委員會(huì)于 2005 年發(fā)布的《防止恐怖主義公約》（European Conventionon the Prevention of Terrorism）要求締約國(guó)將“公開煽動(dòng)恐怖主義行為”（public provocation to commita terrorist offence）定罪懲治。但是，聯(lián)合國(guó)及其他多邊框架下的 30 多個(gè)反恐公約，沒有一項(xiàng)明確要求成員國(guó)打擊網(wǎng)絡(luò)暴恐內(nèi)容。聯(lián)合國(guó)、亞非法協(xié)等多邊組織曾就網(wǎng)絡(luò)有害內(nèi)容的國(guó)際治理組織過一些討論，但沒有實(shí)質(zhì)的國(guó)際立法動(dòng)作。2019 年新西蘭清真寺槍擊案后，在新西蘭總理阿德恩與法國(guó)總統(tǒng)馬克龍共同推動(dòng)下，英國(guó)、加拿大等 18 個(gè)國(guó)家的政要與臉書、微軟等 8 家社交媒體平臺(tái)及科技公司的代表共同簽署《克賴斯特徹奇倡議》（ChristchurchCall），承諾加強(qiáng)協(xié)調(diào)合作，采取更有力措施及時(shí)刪除社交媒體上的暴恐內(nèi)容，遏制暴力極端主義的網(wǎng)上擴(kuò)散。2021 年 5 月，阿德恩與馬克龍共同主持召開《克賴斯特徹奇倡議》簽署兩周年峰會(huì)，特朗普時(shí)期一直拒絕加入的美國(guó)政府宣布加入倡議。至此，倡議簽署國(guó)達(dá)到 60 個(gè)，企業(yè)達(dá)到 10 個(gè)，臉書、谷歌、推特、微軟、亞馬遜等均在其中。但總體看，參與倡議的國(guó)家和企業(yè)數(shù)量仍比較有限，倡議本身也不具法律約束力，極大制約了其在社交媒體暴恐內(nèi)容治理方面的作用。

　　對(duì)暴恐內(nèi)容的治理現(xiàn)階段仍主要依賴平臺(tái)自律和各國(guó)法律的規(guī)制。美國(guó)的《通信規(guī)范法》（Communication Decency Act）第 230 節(jié)使社交媒體得以對(duì)用戶發(fā)布的內(nèi)容豁免民事責(zé)任，同時(shí)將網(wǎng)絡(luò)內(nèi)容的監(jiān)管和處置權(quán)幾乎完全交予社交媒體。社交媒體在新用戶注冊(cè)時(shí)，會(huì)要求用戶接受統(tǒng)一適用的“社區(qū)守則”，絕大多數(shù)“社區(qū)守則”禁止用戶在平臺(tái)上散布恐怖主義或仇恨言論。平臺(tái)通過網(wǎng)絡(luò)內(nèi)容審核機(jī)制，依據(jù)“社區(qū)守則”對(duì)暴恐內(nèi)容采取屏蔽、刪除等處理措施，甚至直接封禁發(fā)布此類內(nèi)容的用戶賬號(hào)，以阻止其傳播擴(kuò)散。一些大的社交媒體也加強(qiáng)了在處置暴恐內(nèi)容方面的合作。例如，臉書、推特、谷歌和微軟于 2016 年共同發(fā)起成立“全球互聯(lián)網(wǎng)反恐論壇”，建立了一個(gè)甄別暴恐內(nèi)容的哈希共享數(shù)據(jù)庫(kù)，并承諾與加入該論壇的各國(guó)企業(yè)分享該技術(shù)。加入論壇的任何一家企業(yè)如發(fā)現(xiàn)相關(guān)暴恐內(nèi)容，首先自己會(huì)刪除，然后還會(huì)將該內(nèi)容的哈希值放入數(shù)據(jù)庫(kù)，其他成員公司可以查看這個(gè)哈希值，從自己的平臺(tái)查找和刪除相同的內(nèi)容，這有利于提升企業(yè)間的協(xié)作，在更廣范圍遏制暴恐內(nèi)容的傳播。

　　隨著社交媒體上暴恐內(nèi)容的泛濫，各國(guó)也加強(qiáng)了打擊力度。一些國(guó)家將在社交媒體傳播暴恐內(nèi)容的行為規(guī)定為網(wǎng)絡(luò)犯罪。歐洲傳統(tǒng)上將言論和表達(dá)自由作為基本人權(quán)，對(duì)網(wǎng)絡(luò)內(nèi)容的監(jiān)管態(tài)度寬松，主要依靠社交媒體通過自律處理，政府很少介入。但近年來(lái)網(wǎng)絡(luò)暴恐內(nèi)容泛濫使政府的監(jiān)管變得更加積極主動(dòng)。例如，德國(guó)聯(lián)邦議會(huì)于 2017 年 6 月通過了《改進(jìn)社交網(wǎng)絡(luò)中的法律執(zhí)行的法案》（NetzDG Law），明確將建立恐怖組織、煽動(dòng)族群仇恨的網(wǎng)絡(luò)言論規(guī)定為“違法內(nèi)容”，要求平臺(tái)對(duì)其進(jìn)行通報(bào)并及時(shí)刪除，否則將追究法律責(zé)任。法國(guó)國(guó)民議會(huì)于 2020 年 5 月通過《打擊網(wǎng)絡(luò)仇恨言論法》（Online Hate SpeechLaw），將包含煽動(dòng)恐怖主義行為、為恐怖主義罪辯護(hù)、鼓動(dòng)仇恨的內(nèi)容認(rèn)定為非法，強(qiáng)制平臺(tái)在 24 小時(shí)內(nèi)刪除，否則就承擔(dān)法律責(zé)任。歐盟于 2021 年通過的《防止恐怖主義內(nèi)容在線傳播條例》（Terrorist ContentOnline：Council Agrees on Regulation）（將于 2022 年5 月生效）規(guī)定，歐盟任一成員國(guó)均有權(quán)向在歐盟境內(nèi)運(yùn)營(yíng)的社交媒體發(fā)出指令，命令其在一小時(shí)內(nèi)刪除相關(guān)恐怖主義內(nèi)容，或確保所有歐盟成員國(guó)無(wú)法訪問該內(nèi)容，否則將對(duì)其處以最高可達(dá)全年?duì)I業(yè)額 4%的罰款。英國(guó) 2019 年發(fā)布《在線危害白皮書》（OnlineHarms White Paper），提議立法強(qiáng)化社交媒體自我監(jiān)管，以保護(hù)用戶免受恐怖主義等有害內(nèi)容影響。根據(jù)媒體報(bào)道，英國(guó)議會(huì)正擬定《在線危害法案》OnlineHarms Bill），預(yù)計(jì)于 2021 年內(nèi)出臺(tái)。

　　歐洲之外的其他西方國(guó)家在這方面也有很多動(dòng)作。澳大利亞政府于 2019 年通過刑法修正案，強(qiáng)化打擊網(wǎng)絡(luò)暴恐內(nèi)容，對(duì)社交媒體克以嚴(yán)格的內(nèi)容監(jiān)管責(zé)任。新西蘭、馬來(lái)西亞、新加坡等國(guó)也都紛紛通過立法等手段，加強(qiáng)對(duì)社交媒體平臺(tái)暴恐等有害內(nèi)容的監(jiān)管。加拿大政府正在推進(jìn)打擊恐怖主義等有害內(nèi)容的立法。

　　二、社交媒體暴恐內(nèi)容國(guó)際治理的難點(diǎn)

　　一是暴恐內(nèi)容難界定。國(guó)際層面對(duì)暴力極端主義和恐怖主義的定義缺乏普遍共識(shí)。2001 年提交聯(lián)大的《關(guān)于國(guó)際恐怖主義的全面公約》（ComprehensiveConvention on International Terrorism）草案對(duì)恐怖主義進(jìn)行了定義，但也正因各國(guó)對(duì)該定義存在分歧，公約談判進(jìn)程陷入停滯。目前，對(duì)暴恐內(nèi)容的界定很大程度上由各個(gè)成員國(guó)自主決定，其中難免隱含政治性成分，且受到各國(guó)不同文化、風(fēng)俗、價(jià)值觀深度影響。從社交媒體角度而言，一些暴恐內(nèi)容處于“社區(qū)守則”的灰色地帶，作出處理決定常常很困難。例如，社交媒體上不少支持恐怖主義的言論多含有政治宣示、自我表達(dá)等成分，在美國(guó)受到憲法第一修正案保護(hù)，社交媒體采取刪除等措施十分謹(jǐn)慎。

　　二是不同管網(wǎng)治網(wǎng)理念難協(xié)調(diào)。不同國(guó)家對(duì)網(wǎng)絡(luò)內(nèi)容的治理理念和模式存在差異。政府管理互聯(lián)網(wǎng)上與暴恐相關(guān)內(nèi)容的權(quán)力邊界何在，一直都存在爭(zhēng)議。中國(guó)和俄羅斯等國(guó)家強(qiáng)調(diào)依法管理互聯(lián)網(wǎng)的主權(quán)權(quán)力，嚴(yán)格規(guī)管網(wǎng)絡(luò)有害內(nèi)容，希望營(yíng)造安全有序的網(wǎng)絡(luò)空間。而美國(guó)等西方國(guó)家則強(qiáng)調(diào)所謂“網(wǎng)絡(luò)言論自由”，反對(duì)政府過度介入網(wǎng)絡(luò)內(nèi)容監(jiān)管，主張“無(wú)為而治”，通過平臺(tái)自律處理網(wǎng)絡(luò)有害內(nèi)容。在這一背景下，當(dāng)一個(gè)國(guó)家要求刪除它認(rèn)為的暴恐內(nèi)容，但這些內(nèi)容托管在另一個(gè)管網(wǎng)治網(wǎng)理念完全不同的國(guó)家的服務(wù)器上時(shí)，這種沖突常會(huì)在個(gè)案中被擺上桌面。

　　三是平衡內(nèi)容審核與保障人權(quán)難。社交媒體刪除或屏蔽網(wǎng)絡(luò)內(nèi)容主要與用戶的言論和表達(dá)自由相關(guān)。根據(jù)《世界人權(quán)宣言》（Universal Declarationof Human Rights）和《公民和政治權(quán)利國(guó)際公約》（International Covenant on Civil and PoliticalRights），人人享有言論和表達(dá)自由，國(guó)家應(yīng)當(dāng)保護(hù)此項(xiàng)人權(quán)?！稓W洲人權(quán)公約》（European Conventionon Human Rights）等其他區(qū)域人權(quán)條約也有類似條款。這些人權(quán)條約的締約國(guó)承擔(dān)保護(hù)言論與表達(dá)自由的國(guó)際法義務(wù)，具體到社交媒體內(nèi)容治理，則是通過立法監(jiān)督本國(guó)社交媒體在審核用戶內(nèi)容時(shí)不侵犯言論與表達(dá)自由。

　　社交媒體平臺(tái)也有“尊重人權(quán)”的責(zé)任。根據(jù)聯(lián)合國(guó)人權(quán)理事會(huì)的《工商企業(yè)與人權(quán)：實(shí)施聯(lián)合國(guó)“保護(hù)、尊重和補(bǔ)救”框架指導(dǎo)原則》（Guiding Principles on Business and Human Rights:Implementing the United Nations“Protect, Respect andRemedy”Framework），企業(yè)應(yīng)切實(shí)尊重人權(quán)，將其內(nèi)化為戰(zhàn)略、愿景或文化，綜合評(píng)估其活動(dòng)對(duì)人權(quán)的潛在影響，在已造成負(fù)面影響后積極補(bǔ)救。行使言論和表達(dá)自由也要受到國(guó)際人權(quán)法的一些限制。例如，出于保障國(guó)家安全或公共秩序的需要，或在宣布了“緊急狀態(tài)”情況下，國(guó)家可以對(duì)言論與表達(dá)自由進(jìn)行合法限制。煽動(dòng)民族、種族或宗教仇恨的言論也不受言論與表達(dá)自由的保護(hù)。在社交媒體煽動(dòng)恐怖主義以號(hào)召更多人支持暴恐行動(dòng)，是暴力極端勢(shì)力和恐怖組織常用的戰(zhàn)略。而禁止煽動(dòng)恐怖主義是保護(hù)國(guó)家安全和公共秩序的應(yīng)有之義，構(gòu)成上述限制言論與表達(dá)自由的合法理由。

　　更突出的挑戰(zhàn)在于，很多網(wǎng)絡(luò)內(nèi)容游走在“煽動(dòng)恐怖主義”的邊緣，國(guó)家既要審慎處理這些言論，又要確保相關(guān)的措施是必要和相稱的。聯(lián)合國(guó)《互聯(lián)網(wǎng)被用于恐怖主義》報(bào)告（The Use of the Internetfor Terrorist Purposes）也指出，在評(píng)估對(duì)網(wǎng)絡(luò)內(nèi)容的干預(yù)辦法和水平時(shí)，政府需考慮有關(guān)言論自由權(quán)的憲法或其他保障等多種因素。此外，對(duì)暴恐內(nèi)容的認(rèn)定往往涉及法律、倫理、價(jià)值觀等層面，一些社交媒體用來(lái)審核內(nèi)容的網(wǎng)絡(luò)過濾、內(nèi)容 ID、算法等技術(shù)可能導(dǎo)致過度刪除或算法歧視等問題，存在引發(fā)人權(quán)和倫理問題的風(fēng)險(xiǎn)。

　　四是國(guó)際合作難。互聯(lián)網(wǎng)的全球聯(lián)通使社交媒體內(nèi)容治理天然就是跨國(guó)問題，但完善的國(guó)際合作機(jī)制卻尚未建立。實(shí)體上，各國(guó)認(rèn)定網(wǎng)絡(luò)暴恐內(nèi)容的標(biāo)準(zhǔn)存在差異。經(jīng)常出現(xiàn)的情況是，同一個(gè)涉嫌暴恐的內(nèi)容在一國(guó)可能違法并會(huì)被平臺(tái)移除，但在另一國(guó)可能不違法。為調(diào)查網(wǎng)絡(luò)暴恐內(nèi)容，一國(guó)經(jīng)常需要向另一國(guó)提出司法協(xié)助請(qǐng)求，調(diào)取某些重要的數(shù)據(jù)，但如果相關(guān)內(nèi)容在被請(qǐng)求國(guó)不構(gòu)成暴恐內(nèi)容，就會(huì)被拒絕。程序上，國(guó)家對(duì)網(wǎng)絡(luò)暴恐內(nèi)容的管轄權(quán)需要協(xié)調(diào)，根據(jù)屬地管轄原則，一國(guó)只對(duì)本國(guó)境內(nèi)的網(wǎng)絡(luò)有害內(nèi)容有管轄權(quán)，可以要求平臺(tái)采取屏蔽、刪除等活動(dòng)。2019年，歐盟法院在皮斯?jié)煽耍≒iesczek）訴臉書一案中開創(chuàng)性地提出了歐盟對(duì)網(wǎng)絡(luò)內(nèi)容的域外管轄權(quán)。根據(jù)這個(gè)判決，社交媒體的內(nèi)容如果被歐盟或其任一成員國(guó)認(rèn)定為非法，則社交媒體不僅應(yīng)在歐盟境內(nèi)刪除非法內(nèi)容，還應(yīng)在全球范圍內(nèi)刪除。歐盟法院的這一判決在國(guó)際上引起了很多非議，側(cè)面反映了各國(guó)對(duì)“全球刪帖”仍持消極態(tài)度。對(duì)域外的網(wǎng)絡(luò)有害內(nèi)容如何處理，仍將是各國(guó)長(zhǎng)期頭疼的難題。社交媒體之間的合作也有局限性，類似“全球互聯(lián)網(wǎng)反恐論壇”的信息共享與合作機(jī)制只能對(duì)各家企業(yè)存在共識(shí)的有害內(nèi)容發(fā)揮作用，但不同社交媒體認(rèn)定有害內(nèi)容的標(biāo)準(zhǔn)常常并不一致。

　　三、社交媒體暴恐內(nèi)容國(guó)際治理的前景展望

　　雖然對(duì)社交媒體暴恐內(nèi)容的國(guó)際治理面臨各種挑戰(zhàn)，但各國(guó)的合作共識(shí)正逐步凝聚。2017 年的 G7峰會(huì)呼吁社交媒體平臺(tái)加大合作力度，共同治理網(wǎng)絡(luò)暴恐內(nèi)容，提升平臺(tái)自動(dòng)檢測(cè)此類內(nèi)容的能力。2019 年的 G20 峰會(huì)發(fā)布《關(guān)于防止利用互聯(lián)網(wǎng)從事恐怖主義和暴力極端主義活動(dòng)的聲明》（G20 OsakaLeaders' Statement on Preventing Exploitation of theInternet for Terrorism and Violent Extremism Conduciveto Terrorism），強(qiáng)調(diào)各國(guó)政府有責(zé)任加強(qiáng)與網(wǎng)絡(luò)平臺(tái)的合作，防止恐怖主義勢(shì)力利用網(wǎng)絡(luò)進(jìn)行恐怖活動(dòng)。2005 年 7 月 倫敦恐襲后，聯(lián)合國(guó)安理會(huì)通過第 1642號(hào)決議，呼吁各國(guó)預(yù)防和禁止“煽動(dòng)恐怖主義”的行為。

　　打擊網(wǎng)絡(luò)暴恐內(nèi)容的國(guó)際法雖然發(fā)展緩慢，但也并非全無(wú)建樹。歐盟正計(jì)劃就打擊仇恨言論立法，將有助于進(jìn)一步明確仇恨言論和暴恐言論的關(guān)聯(lián)與區(qū)別。《克賴斯特徹奇倡議》的簽署國(guó)逐年增加，有成為某種程度的國(guó)際標(biāo)準(zhǔn)的潛力。正如外交部涉外安全事務(wù)專員程國(guó)平在《全球網(wǎng)絡(luò)反恐格局中的中國(guó)力量》一文中所言，在應(yīng)對(duì)網(wǎng)絡(luò)恐怖主義問題上，沒有哪個(gè)國(guó)家能夠獨(dú)善其身，也沒有哪個(gè)政府或組織能夠單獨(dú)應(yīng)對(duì)，需要在全球、區(qū)域和國(guó)家各層面采取協(xié)調(diào)一致的行動(dòng)。由于各國(guó)逐漸認(rèn)識(shí)到打擊網(wǎng)絡(luò)暴恐內(nèi)容的緊迫性，在該問題上也有較高的政治共識(shí)，未來(lái)預(yù)計(jì)將在不同多邊平臺(tái)圍繞暴恐內(nèi)容的認(rèn)定標(biāo)準(zhǔn)與國(guó)際合作等關(guān)鍵問題展開討論，甚至不排除開啟一個(gè)國(guó)際談判進(jìn)程。

　　隨著互聯(lián)網(wǎng)領(lǐng)域多利益攸關(guān)方的治理模式獲得更多認(rèn)可，社交媒體暴恐內(nèi)容的國(guó)際治理未來(lái)也將日益呈現(xiàn)國(guó)家、企業(yè)、技術(shù)社群等不同主體多方共治的特點(diǎn)。國(guó)家要承擔(dān)主導(dǎo)角色，推進(jìn)相關(guān)政策與立法的出臺(tái)和完善，積極參與網(wǎng)絡(luò)有害內(nèi)容治理的國(guó)際討論，推動(dòng)形成打擊網(wǎng)絡(luò)有害內(nèi)容的國(guó)際規(guī)則。平臺(tái)企業(yè)要提升內(nèi)容審核技術(shù)和能力，更迅速、精準(zhǔn)地識(shí)別和處理暴恐內(nèi)容，加強(qiáng)與其他平臺(tái)的信息共享，針對(duì)打擊暴恐內(nèi)容的需要改進(jìn)內(nèi)容政策，主動(dòng)參與行業(yè)標(biāo)準(zhǔn)和規(guī)則的制定。只有各方共同努力，才能在社交媒體上徹底清除暴恐內(nèi)容，打贏網(wǎng)絡(luò)反恐的一場(chǎng)硬仗。