為防止人工智能背叛人類 谷歌微軟決心聯(lián)手合作

從《2001：太空漫游》到《黑客帝國(guó)》，電影和科幻作家一直都在提醒我們要警惕人工智能，因?yàn)樗鼈冸S時(shí)都有可能背叛人類甚至毀滅人類。隨著人類在人工智能領(lǐng)域不斷取得突破，這種擔(dān)憂正在越來越多地被人們提及。

現(xiàn)在，Google 母公司 Alphabet、Facebook、微軟、IBM 和 亞馬遜這 5 家在人工智能領(lǐng)域積極布局的科技巨頭也意識(shí)到了這個(gè)問題，他們正打算為人工智能制定一套成熟的道德標(biāo)準(zhǔn)。

根據(jù)《紐約時(shí)報(bào)》的報(bào)道，這 5 家公司近期舉行了一場(chǎng)會(huì)談，在人工智能對(duì)勞動(dòng)市場(chǎng)、交通和戰(zhàn)爭(zhēng)等方面的道德倫理標(biāo)準(zhǔn)展開了討論。他們還打算成立一個(gè)相關(guān)的行業(yè)協(xié)會(huì)，這個(gè)協(xié)會(huì)的目的是確保人工智能有利于人類而不是傷害人類，但參會(huì)者還沒有確定具體的協(xié)會(huì)名稱。

雖然科技巨頭們都在積極研究人工智能，但警惕人工智能統(tǒng)治人類的呼聲也不絕于科技界。例如在今年 6 月份舉辦的 Code Conference 上，特斯拉和 Space X 的創(chuàng)始人伊隆·馬斯克就曾說過，按照人工智能的發(fā)展，未來人類在智力上將被遠(yuǎn)遠(yuǎn)拋在后面，并淪落為人工智能的寵物。

去年 7 月，馬斯克還資助了未來生命研究所(Future of Life Institute) 1000 萬(wàn)美元，該機(jī)構(gòu)主要評(píng)估和分析人工智能帶來的風(fēng)險(xiǎn)。

隨后史蒂芬·霍金也在一場(chǎng)電視節(jié)目里聲稱硅谷某處的一些實(shí)驗(yàn)室正在醞釀一個(gè)邪惡的計(jì)劃，而人工智能將會(huì)以比人類更快的速度進(jìn)化，它們的目標(biāo)是人類無(wú)法預(yù)測(cè)的。

“一旦機(jī)器達(dá)到了一種可以自我進(jìn)化的關(guān)鍵階段，我們就無(wú)法預(yù)測(cè)它們的使命是否和人類一樣了。”霍金說。

對(duì)此，谷歌董事長(zhǎng) Eric Schmidt 回應(yīng)稱，人工智能將會(huì)以人類的福祉為發(fā)展方向，而且將會(huì)有一個(gè)系統(tǒng)來組織人工智能向不對(duì)的方向發(fā)展。“我們都看過那些科幻電影。”他說，“但是在現(xiàn)實(shí)世界中，人類肯定知道如何在人工智能變得危險(xiǎn)的時(shí)候關(guān)閉掉它的系統(tǒng)。”

不僅是科技公司和民間組織想要讓人工智能在道德和法律上走向正規(guī)化，政府機(jī)構(gòu)也參與到了這場(chǎng)討論中。今年 5 月，美國(guó)政府在西雅圖舉辦了第一次關(guān)于AI法律法規(guī)的白宮探討會(huì)。

本次探討會(huì)的主題是“政府應(yīng)不應(yīng)該對(duì)人工智能進(jìn)行管理”，但會(huì)議并沒有就此議題得出結(jié)論，更不用說出臺(tái)具體的監(jiān)管措施了。

因此，在政府沒有做出具體的動(dòng)作之前，科技公司們已經(jīng)開始行動(dòng)了——他們決定自己制定框架，讓人工智能研究能夠進(jìn)行下去，并確保它不會(huì)傷害人類。

參與本次行業(yè)討論的微軟研究人員 Eric Horvitz 曾在斯坦福大學(xué)創(chuàng)辦過一個(gè)叫“人工智能百年研究”的協(xié)會(huì)，該協(xié)會(huì)最近發(fā)表了其 2016 年的研究報(bào)告。

在這份名為《2030 年的人工智能與生活》的報(bào)告中，作者認(rèn)為人工智能“很可能受到監(jiān)管。”報(bào)告稱：“研究組達(dá)成的共識(shí)是，試圖監(jiān)管人工智能的努力常常受到誤導(dǎo)，因?yàn)槲覀儧]有對(duì)人工智能這一概念的明確定義，因此在不同領(lǐng)域，我們需要考慮不同的風(fēng)險(xiǎn)。”

這份報(bào)告還建議政府機(jī)構(gòu)提升對(duì)人工智能的專業(yè)認(rèn)識(shí)，并加強(qiáng)在人工智能領(lǐng)域的公共和私人投資。

一份關(guān)于本次會(huì)議的備忘錄顯示，這 5 家公司將于 9 月中旬宣布建立監(jiān)管人工智能的行業(yè)組織。有知情人士表示，Alphabet 的子公司 Google DeepMind 要求以獨(dú)立的身份參與此行業(yè)協(xié)會(huì)。

該協(xié)會(huì)將以全球網(wǎng)絡(luò)倡議(Global Network Initiative)等人權(quán)組織的模式組建，但更加關(guān)注言論自由和隱私權(quán)問題。