AI領(lǐng)袖再次警告 AI難以控制兩年就可造出生化武器

盡管不少大佬并不看好AI的爆炸式發(fā)展，不過并不影響世界各大巨頭們的布局，7月26日信消息，美國當(dāng)?shù)貢r間周二，三位人工智能(AI)行業(yè)領(lǐng)袖在美國國會參議院司法委員會舉行的聽證會上作證。

他們警告稱，AI的瘋狂發(fā)展速度可能會在未來幾年內(nèi)造成嚴(yán)重危害，比如流氓國家或恐怖分子會利用這項(xiàng)技術(shù)制造生化武器。

此次聽證會很好地展示了人們對于AI會超過人類智慧的擔(dān)憂。多年來，人們的這種擔(dān)憂原本只存在于科幻小說中。然而，隨著ChatGPT橫空出世并引發(fā)AI競賽，這一擔(dān)憂迅速成為主流聲音。

美國AI創(chuàng)業(yè)公司Anthropic CEO達(dá)里奧·阿莫代伊(Dario Amodei)在聽證會上表示，他擔(dān)心尖端AI技術(shù)可能在短短兩年時間內(nèi)就會被用來制造危險的病毒和其他生化武器。

蒙特利爾大學(xué)AI教授、“現(xiàn)代AI科學(xué)之父”約書亞·本吉奧(Yoshua Bengio)認(rèn)為，美國應(yīng)該推動國際合作來控制AI的發(fā)展，他還概述了一種類似于核技術(shù)國際監(jiān)管規(guī)則的管理制度。

“最近，我和其他許多人都對ChatGPT等AI系統(tǒng)實(shí)現(xiàn)的巨大飛躍感到驚訝。AI進(jìn)步的加快更令人擔(dān)憂?！北炯獖W表示。與本吉奧、拉塞爾不同的是，阿莫代伊經(jīng)營著一家正在推動AI技術(shù)向前發(fā)展的公司Anthropic。

該公司的員工都是前谷歌和OpenAI的研究人員，試圖將自己定位為比大型科技公司的技術(shù)考慮更周到、更謹(jǐn)慎的替代品。而且，Anthropic從谷歌那里獲得了大約3億美元的投資，并依靠谷歌的數(shù)據(jù)中心來運(yùn)行其AI模型。

他還呼吁為AI研究提供更多聯(lián)邦資金，以學(xué)習(xí)如何降低AI帶來的一系列風(fēng)險。阿莫代伊預(yù)測，在未來兩到三年內(nèi)，惡意分子可能會利用AI來幫助開發(fā)生化武器，繞過旨在阻止人們開發(fā)此類武器的嚴(yán)格行業(yè)控制?！拔覔?dān)心我們能否及時做到這一點(diǎn)，但我們必須嘗試?！彼硎尽?/span>