作為擁有先進技術的科技巨頭，谷歌這樣的公司不免會與軍事計劃產(chǎn)生聯(lián)系。在有侵犯隱私、違背倫理的風險下，是否應該接下巨額合同？最近，聽聞公司正在參與美國國防部“Project Maven”AI 軍事計劃，很多谷歌員工發(fā)起了抵制，他們上書 CEO Sundar Pichai 的公開信現(xiàn)在已經(jīng)獲得了數(shù)千人的聯(lián)名簽署。
五角大樓項目“Project Maven”主要應用深度學習計算機視覺技術，旨在幫助國防部門從圖像和視頻中提取值得注意的對象。該項目是在 2017 年 4 月由時任副國防部長 Bob Work 在一份備忘錄中首次披露的。目前，美國已經(jīng)成立了一個算法戰(zhàn)爭混合任務團隊（Algorithmic Warfare Cross-Functional Team），由國防情報局副部長監(jiān)督。
數(shù)千名谷歌員工簽署了一封致 CEO Sundar Pichai 的信函，抗議谷歌參與一個旨在提高無人機打擊能力的項目。（圖源：Michael Short/Bloomberg）
近日，數(shù)千名谷歌員工（包括數(shù)十名高級工程師）簽署了一份聯(lián)名信函，抗議該公司參與五角大樓的一個項目，該項目利用人工智能解讀視頻圖像，旨在提高無人機打擊的精準度。
該信函在谷歌內部迅速流傳開來，已有超過 3100 人簽名，反映了硅谷與聯(lián)邦政府之間的文化沖突。隨著人工智能前沿技術越來越多地用于軍事領域，這種沖突可能會愈演愈烈。
信是寫給谷歌 CEO Sundar Pichai 的。信中寫道：“我們認為谷歌不應卷入戰(zhàn)爭。”信中要求谷歌撤出五角大樓的試點項目 Project Maven，并宣布永遠不會“發(fā)展戰(zhàn)爭技術”。
當然，這種理想主義的想法并不是所有谷歌員工都認同的，但對于一家以“不作惡”（信中也有引用）為座右銘的公司來說，提出這種想法是很正常的。但這顯然與華盛頓龐大的國防工業(yè)不同，當然也與五角大樓不同。現(xiàn)任美國國防部長 Jim Mattis 經(jīng)常說，五角大樓的中心目標是提高美國軍隊的“殺傷力”。
從早期開始，谷歌就鼓勵員工就涉及公司的問題發(fā)表意見。該公司提供了內部留言板和社交網(wǎng)絡，員工可以在這些平臺上就公司的產(chǎn)品和政策向管理層或同事提出意見。最近，圍繞谷歌努力打造一支更加多元化的員工隊伍的激烈辯論日益公開化。
谷歌員工已就一系列問題發(fā)出了抗議請愿書，包括該公司落后于 Facebook 的社交網(wǎng)站 Google Plus 以及谷歌對保守政治行動會議（CPAC）的贊助。
在最近的一次公司會議上，員工就谷歌參與 Project Maven 提出質疑。當時，谷歌云基礎設施業(yè)務主管 Diane Greene 為這一項目辯護，并試圖安撫相關員工。公司發(fā)言人表示，抗議信上的大多數(shù)簽名是在公司對此情況進行解釋之前收集的。
該公司隨后將 Project Maven 的工作描述為“非攻擊性的”，盡管五角大樓的視頻分析通常用于反暴動和反恐行動，國防部也曾發(fā)文表示該項目用于支持這些行動。谷歌和五角大樓都表示，谷歌的產(chǎn)品不會創(chuàng)造出無需人類操作者就能開火的自主武器系統(tǒng)，自主武器系統(tǒng)在人工智能應用中也有很大爭議。
對無人機視頻做進一步分析，可以挑選出人類目標并實施襲擊，換個角度來說，這也有助于更好地分辨出平民，以減少無辜者被意外殺害的風險。
谷歌周二發(fā)布的一項聲明并未直接提及這份致 CEO Sundar Pichai 的信函，聲明中提到：“任何機器學習的軍事化應用都會導致人們的合理擔憂，這是自然的。我們正在公司內部積極鼓勵對該重要議題進行充分討論。”谷歌稱這種交流“非常重要，也非常有益”，而熟知信件內容的多名谷歌員工僅在匿名條件下發(fā)聲，并表示這是因為擔心被報復。
該聲明稱谷歌在 Project Maven 中所參與的部分“僅限于非攻擊性的目的”，雖然官方拒絕提供相關的合同內容。美國國防部稱由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商，它不能提供谷歌合同或合同內容。ECS Federal 尚未回應該詢問。
谷歌稱五角大樓在使用基于未分類數(shù)據(jù)且“對任何谷歌云客戶開放的開源目標識別軟件”。谷歌表示，“這項技術用于標記圖像，以幫助人工審查，其目的是把人們從高度單調的工作中解放出來�！�
谷歌部分高管和五角大樓有密切聯(lián)系。該公司前執(zhí)行董事長 Eric Schmidt（目前仍是谷歌母公司 Alphabet 的執(zhí)行董事會成員）為五角大樓顧問團 Defence Innovation Board 的成員，該顧問團還包括谷歌副總裁 Milo Medin。
在 11 月份的一個采訪中，Mr. Schmidt 承認“技術社區(qū)普遍擔心軍工行業(yè)會使用他們的成果去錯誤地傷害人類”。他說他將在董事會中“至少起到交流作用”，并且建議軍方“使用這些技術來幫助保護國家安全”。
谷歌這一小部分對軍事合同感到不安的員工（超過 70000 名）也許并不能對公司的發(fā)展造成大的阻礙。但在人工智能研究領域中，谷歌正忙于和其它技術公司激烈“搶人”，因此如果某些候選者被谷歌的辯解所推遲，這將會造成人事聘用上的麻煩。
谷歌在內部異議中為國防合同辯護，但與此同時它的競爭對手并不羞于宣傳自己的國防項目。亞馬遜向國防部大力宣傳其圖像識別研究成果，而微軟則表示他們的云技術已經(jīng)與美國政府簽訂合同，為軍事和國防機構處理機密信息。
當前的爭論由 Gizmodo 首次報道，主要集中在 Project Maven。該試點項目于去年開始，旨在找到加速軍方應用最新 AI 技術的方式。五角大樓發(fā)言人表示，預計該項目第一年花費不到 7000 萬美元。但谷歌公開信的簽名者明確希望阻止谷歌參與更大規(guī)模的五角大樓合同（人工智能國防應用不斷發(fā)展）。
外界普遍認為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競爭一份為期多年、價值數(shù)十億美元的國防部云服務合同。國防部首席管理官 John Gibson 在三月份的一次講話中提到：“聯(lián)合企業(yè)國防基礎設施云（Joint Enterprise Defense Infrastructure Cloud）”采購計劃的部分目的是“提升殺傷力和做好準備”，這凸顯了將軟件、云服務等相關服務與實際商業(yè)戰(zhàn)爭之間分開的難度。
谷歌員工寫給 Pichai 的公開信已經(jīng)在谷歌內部通信系統(tǒng)中傳播了數(shù)周，信中認為，參與軍事項目可能會疏遠用戶，甚至影響未來的人才引進。
“這一計劃將不可挽回地損害谷歌的品牌和人才吸引力，”信中提到，“由于人們越來越擔心人工智能的偏見與武器化，谷歌爭取用戶信任的道路已經(jīng)越來越難走了�！痹谖磥�，谷歌或許會被視為加入雷神、通用動力以及 Palantir 這樣的國防承包商行列。
“其他大型科技公司如微軟和亞馬遜也參與了這一項目，但這并不會讓谷歌承擔的風險變小。”信中說，“谷歌擁有獨特的歷史，它的座右銘是‘不作惡’（Don't Be Evil），谷歌直接觸及數(shù)十億用戶的生活，這讓它與眾不同。”
和其它新貴最終成為了強大的硅谷巨人一樣，谷歌也正被迫面對早年引導公司的理念。Facebook 開始時的使命是連接世界上所有的人，但是最近因為虛假消息渠道和被俄羅斯用來影響 2016 年的選舉而受到抨擊，此外，它同樣還被指控在美國選民中傳播異議。
考慮到谷歌的歷史和五角大樓目前在軍事方面對 AI 的強烈需求，前五角大樓的官員和 Army of None的作者 Paul Scharre 表示，這在谷歌內部是不可避免的。
華盛頓新國家安全中心的高級成員 Scharre 說：“技術開發(fā)者之間存在著強烈的自由主義精神，并且對政府使用技術會感到擔憂。目前，人工智能突然且快速地從實驗室走出來，邁進了現(xiàn)實生活，這尤其加劇他們的擔憂�！� |
