作為擁有先進(jìn)技術(shù)的科技巨頭，谷歌這樣的公司不免會與軍事計劃產(chǎn)生聯(lián)系。在有侵犯隱私、違背倫理的風(fēng)險下，是否應(yīng)該接下巨額合同？最近，聽聞公司正在參與美國國防部「Project Maven」AI 軍事計劃，很多谷歌員工發(fā)起了抵制，他們上書 CEO Sundar Pichai 的公開信現(xiàn)在已經(jīng)獲得了數(shù)千人的聯(lián)名簽署。

五角大樓項目「Project Maven」主要應(yīng)用深度學(xué)習(xí)計算機視覺技術(shù)，旨在幫助國防部門從圖像和視頻中提取值得注意的對象。該項目是在 2017 年 4 月由時任副國防部長 Bob Work 在一份備忘錄中首次披露的。目前，美國已經(jīng)成立了一個算法戰(zhàn)爭混合任務(wù)團隊（Algorithmic Warfare Cross-Functional Team），由國防情報局副部長監(jiān)督。

數(shù)千名谷歌員工簽署了一封致 CEO Sundar Pichai 的信函，抗議谷歌參與一個旨在提高無人機打擊能力的項目。（圖源：Michael Short/Bloomberg）

近日，數(shù)千名谷歌員工（包括數(shù)十名高級工程師）簽署了一份聯(lián)名信函，抗議該公司參與五角大樓的一個項目，該項目利用人工智能解讀視頻圖像，旨在提高無人機打擊的精準(zhǔn)度。

該信函在谷歌內(nèi)部迅速流傳開來，已有超過 3100 人簽名，反映了硅谷與聯(lián)邦政府之間的文化沖突。隨著人工智能前沿技術(shù)越來越多地用于軍事領(lǐng)域，這種沖突可能會愈演愈烈。

信是寫給谷歌 CEO Sundar Pichai 的。信中寫道：「我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭?！剐胖幸蠊雀璩烦鑫褰谴髽堑脑圏c項目 Project Maven，并宣布永遠(yuǎn)不會「發(fā)展戰(zhàn)爭技術(shù)」。

當(dāng)然，這種理想主義的想法并不是所有谷歌員工都認(rèn)同的，但對于一家以「不作惡」（信中也有引用）為座右銘的公司來說，提出這種想法是很正常的。但這顯然與華盛頓龐大的國防工業(yè)不同，當(dāng)然也與五角大樓不同?，F(xiàn)任美國國防部長 Jim Mattis 經(jīng)常說，五角大樓的中心目標(biāo)是提高美國軍隊的「殺傷力」。

從早期開始，谷歌就鼓勵員工就涉及公司的問題發(fā)表意見。該公司提供了內(nèi)部留言板和社交網(wǎng)絡(luò)，員工可以在這些平臺上就公司的產(chǎn)品和政策向管理層或同事提出意見。最近，圍繞谷歌努力打造一支更加多元化的員工隊伍的激烈辯論日益公開化。

谷歌員工已就一系列問題發(fā)出了抗議請愿書，包括該公司落后于 Facebook 的社交網(wǎng)站 Google Plus 以及谷歌對保守政治行動會議（CPAC）的贊助。

在最近的一次公司會議上，員工就谷歌參與 Project Maven 提出質(zhì)疑。當(dāng)時，谷歌云基礎(chǔ)設(shè)施業(yè)務(wù)主管 Diane Greene 為這一項目辯護(hù)，并試圖安撫相關(guān)員工。公司發(fā)言人表示，抗議信上的大多數(shù)簽名是在公司對此情況進(jìn)行解釋之前收集的。

該公司隨后將 Project Maven 的工作描述為「非攻擊性的」，盡管五角大樓的視頻分析通常用于反暴動和反恐行動，國防部也曾發(fā)文表示該項目用于支持這些行動。谷歌和五角大樓都表示，谷歌的產(chǎn)品不會創(chuàng)造出無需人類操作者就能開火的自主武器系統(tǒng)，自主武器系統(tǒng)在人工智能應(yīng)用中也有很大爭議。

對無人機視頻做進(jìn)一步分析，可以挑選出人類目標(biāo)并實施襲擊，換個角度來說，這也有助于更好地分辨出平民，以減少無辜者被意外殺害的風(fēng)險。

谷歌周二發(fā)布的一項聲明并未直接提及這份致 CEO Sundar Pichai 的信函，聲明中提到：「任何機器學(xué)習(xí)的軍事化應(yīng)用都會導(dǎo)致人們的合理擔(dān)憂，這是自然的。我們正在公司內(nèi)部積極鼓勵對該重要議題進(jìn)行充分討論。」谷歌稱這種交流「非常重要，也非常有益」，而熟知信件內(nèi)容的多名谷歌員工僅在匿名條件下發(fā)聲，并表示這是因為擔(dān)心被報復(fù)。

該聲明稱谷歌在 Project Maven 中所參與的部分「僅限于非攻擊性的目的」，雖然官方拒絕提供相關(guān)的合同內(nèi)容。美國國防部稱由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商，它不能提供谷歌合同或合同內(nèi)容。ECS Federal 尚未回應(yīng)該詢問。

谷歌稱五角大樓在使用基于未分類數(shù)據(jù)且「對任何谷歌云客戶開放的開源目標(biāo)識別軟件」。谷歌表示，「這項技術(shù)用于標(biāo)記圖像，以幫助人工審查，其目的是把人們從高度單調(diào)的工作中解放出來?！?/p>

谷歌部分高管和五角大樓有密切聯(lián)系。該公司前執(zhí)行董事長 Eric Schmidt（目前仍是谷歌母公司 Alphabet 的執(zhí)行董事會成員）為五角大樓顧問團 Defence Innovation Board 的成員，該顧問團還包括谷歌副總裁 Milo Medin。

在 11 月份的一個采訪中，Mr. Schmidt 承認(rèn)「技術(shù)社區(qū)普遍擔(dān)心軍工行業(yè)會使用他們的成果去錯誤地傷害人類」。他說他將在董事會中「至少起到交流作用」，并且建議軍方「使用這些技術(shù)來幫助保護(hù)國家安全」。

谷歌這一小部分對軍事合同感到不安的員工（超過 70000 名）也許并不能對公司的發(fā)展造成大的阻礙。但在人工智能研究領(lǐng)域中，谷歌正忙于和其它技術(shù)公司激烈「搶人」，因此如果某些候選者被谷歌的辯解所推遲，這將會造成人事聘用上的麻煩。

谷歌在內(nèi)部異議中為國防合同辯護(hù)，但與此同時它的競爭對手并不羞于宣傳自己的國防項目。亞馬遜向國防部大力宣傳其圖像識別研究成果，而微軟則表示他們的云技術(shù)已經(jīng)與美國政府簽訂合同，為軍事和國防機構(gòu)處理機密信息。

當(dāng)前的爭論由 Gizmodo 首次報道，主要集中在 Project Maven。該試點項目于去年開始，旨在找到加速軍方應(yīng)用最新 AI 技術(shù)的方式。五角大樓發(fā)言人表示，預(yù)計該項目第一年花費不到 7000 萬美元。但谷歌公開信的簽名者明確希望阻止谷歌參與更大規(guī)模的五角大樓合同（人工智能國防應(yīng)用不斷發(fā)展）。

外界普遍認(rèn)為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競爭一份為期多年、價值數(shù)十億美元的國防部云服務(wù)合同。國防部首席管理官 John Gibson 在三月份的一次講話中提到：「聯(lián)合企業(yè)國防基礎(chǔ)設(shè)施云（Joint Enterprise Defense Infrastructure Cloud）」采購計劃的部分目的是「提升殺傷力和做好準(zhǔn)備」，這凸顯了將軟件、云服務(wù)等相關(guān)服務(wù)與實際商業(yè)戰(zhàn)爭之間分開的難度。

谷歌員工寫給 Pichai 的公開信已經(jīng)在谷歌內(nèi)部通信系統(tǒng)中傳播了數(shù)周，信中認(rèn)為，參與軍事項目可能會疏遠(yuǎn)用戶，甚至影響未來的人才引進(jìn)。

「這一計劃將不可挽回地?fù)p害谷歌的品牌和人才吸引力，」信中提到，「由于人們越來越擔(dān)心人工智能的偏見與武器化，谷歌爭取用戶信任的道路已經(jīng)越來越難走了?！乖谖磥?，谷歌或許會被視為加入雷神、通用動力以及 Palantir 這樣的國防承包商行列。

「其他大型科技公司如微軟和亞馬遜也參與了這一項目，但這并不會讓谷歌承擔(dān)的風(fēng)險變小。」信中說，「谷歌擁有獨特的歷史，它的座右銘是『不作惡』（Don't Be Evil），谷歌直接觸及數(shù)十億用戶的生活，這讓它與眾不同?！?/p>

和其它新貴最終成為了強大的硅谷巨人一樣，谷歌也正被迫面對早年引導(dǎo)公司的理念。Facebook 開始時的使命是連接世界上所有的人，但是最近因為虛假消息渠道和被俄羅斯用來影響 2016 年的選舉而受到抨擊，此外，它同樣還被指控在美國選民中傳播異議。

考慮到谷歌的歷史和五角大樓目前在軍事方面對 AI 的強烈需求，前五角大樓的官員和「Army of None」的作者 Paul Scharre 表示，這在谷歌內(nèi)部是不可避免的。

華盛頓新國家安全中心的高級成員 Scharre 說：「技術(shù)開發(fā)者之間存在著強烈的自由主義精神，并且對政府使用技術(shù)會感到擔(dān)憂。目前，人工智能突然且快速地從實驗室走出來，邁進(jìn)了現(xiàn)實生活，這尤其加劇他們的擔(dān)憂。」

公開信原文：

親愛的 Sundar：

我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭。因此，我們請求公司撤銷 Project Maven，同時起草、公布并執(zhí)行一項明確的決策：谷歌及其合約商永不發(fā)展戰(zhàn)爭科技。

谷歌目前正在實施 Project Maven，這是一個定制的 AI 監(jiān)控引擎，它使用美國政府獲取的「廣域運動圖像（Wide Area Motion Imagery）」來檢測汽車和其他物體并追蹤其運動，檢測和追蹤結(jié)果提交給國防部。

最近，谷歌員工在公司內(nèi)部表示了對 Maven 的擔(dān)憂。Diane Greene 在回應(yīng)中保證該技術(shù)不會「在無人機上運行」，也「不會被用于武器開發(fā)」。雖然這排除了極小部分的直接應(yīng)用，但該技術(shù)是為軍事用途而開發(fā)，一旦交付，就會輕易被用于這些任務(wù)的輔助工作。

這一計劃將對谷歌的品牌及人才吸引力造成不可挽回的傷害。隨著對 AI 偏見化和武器化的恐懼日益加劇，谷歌谷歌爭取用戶信任的道路已經(jīng)越來越難走了。而簽署這份協(xié)議，谷歌將加入 Palantir、雷神、通用動力等公司的行列。其他大型科技公司如微軟和亞馬遜也參與了這一項目，但這并不會讓谷歌承擔(dān)的風(fēng)險變小。谷歌擁有獨特的歷史，它的座右銘是『不作惡』，谷歌直接觸及數(shù)十億用戶的生活，這讓它與眾不同。

我們不能把技術(shù)的道德責(zé)任外包給第三方。谷歌宣揚的價值觀清晰地表明：每一個用戶都在給予我們信任，永遠(yuǎn)不要辜負(fù)這一點。這個合同使谷歌的名譽受到威脅，而且與我們的核心價值觀相悖。發(fā)展一項技術(shù)協(xié)助美國政府進(jìn)行軍事監(jiān)控，而且該技術(shù)可能造成致命結(jié)果，這是不可接受的。

考慮到谷歌的道德倫理責(zé)任，以及這對谷歌名譽的潛在危害，我們請求你：

1. 立即取消這一項目。

2. 起草、公布并執(zhí)行一項明確的策略，聲明谷歌及其合約商永遠(yuǎn)不會染指軍事技術(shù)。