喜大普奔：谷歌停止作惡 宣布與軍方終止合作

谷歌周五在內(nèi)部會議上作出決定：不再與美國國防部續(xù)約Project Maven項目，雙方的合作2019年到期后結(jié)束。

Google 終于放棄了與國防部的合作計劃，并表示將對外公布一份關于 AI 的倫理規(guī)范，可以說是面向輿論壓力做出了妥協(xié)。

合作雖然終止了，但是給谷歌聲譽帶來的影響永遠也不會消除。

然而，谷歌打算建立一個類似“谷歌地球”的監(jiān)測系統(tǒng)，讓五角大樓的分析師能“點擊建筑，查看與之相關的一切”，并為“整個城市”建立車輛、人員、土地特性和大量人群的圖像。

谷歌云CEO Diane Greene此前因為輿論壓力，在內(nèi)部開會告訴谷歌員工，合同價值僅900萬美元。財大氣粗的谷歌與美國軍方只簽訂900萬美元的項目合作，想想感覺有點兒欺負大眾智商。

據(jù)Gizmodo獲得的內(nèi)部電子郵件顯示，最初的合同價值至少1500萬美元，預計該項目的預算將增長到高達2.5億美元。這個內(nèi)部郵件透露的內(nèi)容才是谷歌云高層真正的胃口。

據(jù)悉，Maven項目的主要是幫助美國國防部有效地處理來自全球各地的海量的視頻資料。美國國防部每天收集到數(shù)量龐大的無人機飛行畫面，但人類圖像分析師遠遠跟不上視頻數(shù)量的增長。

因此，國防部希望能利用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。國防部在自身資源不足的情況下，轉(zhuǎn)向了學界與業(yè)界的人工智能專家合作。

但是雙方具體合作的內(nèi)容并沒有對外披露，谷歌內(nèi)部員工曾施壓，要求谷歌公開具體與軍方的合作內(nèi)容。一位谷歌辭職員工曾表示，高管們對有爭議的商業(yè)決策的態(tài)度已經(jīng)變得不那么透明了，他們似乎不太愿意聽取員工的反對意見。

自2000年以來，不作惡原則一直是谷歌公司的核心行為準則之一;此前在2015年的時候，谷歌重新組建成立新的母公司時，這個口號被修改為“做正確的事”，但仍然保留了“不作惡”原則的重要內(nèi)容，并依舊將之作為其核心行為準則和價值觀之一。

谷歌促進了一種開放的文化，鼓勵員工挑戰(zhàn)和討論產(chǎn)品決策。但員工們真正向高層呼吁反對的時候，谷歌選擇冷處理。

“谷歌在Maven項目中的相關參與計劃將不可挽回地毀滅谷歌的品牌和它吸納人才的能力。在越來越多的對于人工智能可能會偏激化和武器化的恐懼中，谷歌在獲取公眾信任方面已經(jīng)顯得力不從心了。這一協(xié)議將會使谷歌的聲譽面臨威脅，并將會使谷歌站在其核心價值觀的對立面。”谷歌的員工在信中寫到。

今年4月初，大約有3000多名谷歌員工簽名，向谷歌現(xiàn)任CEO桑達爾·皮查伊提交了一封信，要求皮查伊立即取消參與Maven項目，并起草公開一份清晰的政策表明：谷歌和它的合作方不會開發(fā)用于戰(zhàn)爭的技術(shù)。

除了內(nèi)部員工強烈反對外，外部其他科技大公司從業(yè)者也公開反對，也有學者機構(gòu)對外呼吁發(fā)聲。

4月中旬，來自 Google、Amazon、Microsoft 和 IBM 等科技公司的員工發(fā)布了一封聯(lián)合請愿信，聲明稱科技公司不應該參與到與戰(zhàn)爭有關的商業(yè)中去，因此 Google 應該中止與美國國防部的合作。

五月中旬左右，國際機器人武器控制委員會（ICRAC）也向佩奇、Pichai、Diane Greene和李飛飛發(fā)出了一封公開信，呼吁谷歌退出軍方項目，承諾不開發(fā)軍事技術(shù)，不收集個人數(shù)據(jù)用于軍事行動，不參與或支持發(fā)展、制造、貿(mào)易或使用自主武器;并支持禁止自主武器。截止到目前，已經(jīng)有 1144 名專家學者在這封公開信上簽名。

谷歌內(nèi)部也因為該項目爆發(fā)了一次小規(guī)模辭職潮，有十幾名員工因為這一項目正式向谷歌請辭。

在“不作惡”和“做正確的事”之間，谷歌遇到了道德困境。

谷歌原本有機會在項目合作時就避免事態(tài)嚴重化。去年9月份，谷歌內(nèi)部在討論如何向公眾解釋這個事情時，谷歌云首席科學家、副總裁李飛飛曾在郵件中強烈建議雙方在合同中回避“AI”（人工智能）這個字眼。

李飛飛一直堅持相信的是以人為中心的人工智能，可以用積極和慈善的方式讓人類受益。她還表示，任何將人工智能武器化的項目研究，都將違背她的原則。

“武器化人工智能可能是AI領域里最敏感的話題，沒有之一。對于媒體而言這簡直就是紅肉（red meat），他們會找到一切方式毀掉谷歌。”李飛飛在郵件中建議道。

“我不知道如果媒體開始谷歌正在秘密建造AI武器或AI技術(shù)，并為國防工業(yè)服務會發(fā)生什么。”李飛飛說，因此她希望在對外公布合同時，能將項目描繪為是谷歌云平臺的重大勝利。

但是最終對外的結(jié)果大家都看到了，并且?guī)砹艘幌盗械倪B鎖反應。

輿論雖然是一邊倒的情形，但是還是有位為谷歌站臺的人出現(xiàn)。華盛頓大學教授、《終極算法》作者Pedro Domingos就此公開提出了質(zhì)疑。

他在Twitter上對Google員工說道：“如果前幾代技術(shù)人員都像你們這樣，拒絕國防相關的工作，我們現(xiàn)在就不會有互聯(lián)網(wǎng)，也不會有Google。”

有人附議說：其他國家正在高科技領域全速前進，而且沒有道德約束。

關于如何界定技術(shù)聯(lián)合軍事的爭議一直都存在，新技術(shù)并非總能帶來便利，已經(jīng)有研究人員發(fā)出警告，人工智能技術(shù)可能會以不易察覺的方式產(chǎn)生重大偏見。

谷歌一直致力于組織和提高信息的有效性。在互聯(lián)網(wǎng)上提供搜索相關的網(wǎng)頁，收集了大量關于用戶行為、活動和興趣的數(shù)據(jù)。人們確實享受到了谷歌科技帶來的便利，但人們也會擔心谷歌不僅僅是停留在利用這些數(shù)據(jù)擴大業(yè)務造福社會，手握大量全球敏感私人數(shù)據(jù)的科技公司與國家軍隊的危險聯(lián)盟這種事情時刻都有發(fā)生的可能。

如果輿論壓力沒有這么大，如果合作的事情不會被曝光，僅靠企業(yè)自身的道德感約束發(fā)展和利益，結(jié)局可想而知。對于和平來說，不要小看每個人參與的力量，需謹記：覆巢之下焉有完卵。