AI領(lǐng)袖再次警告 AI難以控制兩年就可造出生化武器
- 來(lái)源:互聯(lián)網(wǎng)
- 作者:鳳凰網(wǎng)科技
- 編輯:陶笛
盡管不少大佬并不看好AI的爆炸式發(fā)展,不過(guò)并不影響世界各大巨頭們的布局,7月26日信消息,美國(guó)當(dāng)?shù)貢r(shí)間周二,三位人工智能(AI)行業(yè)領(lǐng)袖在美國(guó)國(guó)會(huì)參議院司法委員會(huì)舉行的聽(tīng)證會(huì)上作證。
他們警告稱,AI的瘋狂發(fā)展速度可能會(huì)在未來(lái)幾年內(nèi)造成嚴(yán)重危害,比如流氓國(guó)家或恐怖分子會(huì)利用這項(xiàng)技術(shù)制造生化武器。
此次聽(tīng)證會(huì)很好地展示了人們對(duì)于AI會(huì)超過(guò)人類智慧的擔(dān)憂。多年來(lái),人們的這種擔(dān)憂原本只存在于科幻小說(shuō)中。然而,隨著ChatGPT橫空出世并引發(fā)AI競(jìng)賽,這一擔(dān)憂迅速成為主流聲音。
美國(guó)AI創(chuàng)業(yè)公司Anthropic CEO達(dá)里奧·阿莫代伊(Dario Amodei)在聽(tīng)證會(huì)上表示,他擔(dān)心尖端AI技術(shù)可能在短短兩年時(shí)間內(nèi)就會(huì)被用來(lái)制造危險(xiǎn)的病毒和其他生化武器。
蒙特利爾大學(xué)AI教授、“現(xiàn)代AI科學(xué)之父”約書亞·本吉奧(Yoshua Bengio)認(rèn)為,美國(guó)應(yīng)該推動(dòng)國(guó)際合作來(lái)控制AI的發(fā)展,他還概述了一種類似于核技術(shù)國(guó)際監(jiān)管規(guī)則的管理制度。
“最近,我和其他許多人都對(duì)ChatGPT等AI系統(tǒng)實(shí)現(xiàn)的巨大飛躍感到驚訝。AI進(jìn)步的加快更令人擔(dān)憂?!北炯獖W表示。與本吉奧、拉塞爾不同的是,阿莫代伊經(jīng)營(yíng)著一家正在推動(dòng)AI技術(shù)向前發(fā)展的公司Anthropic。
該公司的員工都是前谷歌和OpenAI的研究人員,試圖將自己定位為比大型科技公司的技術(shù)考慮更周到、更謹(jǐn)慎的替代品。而且,Anthropic從谷歌那里獲得了大約3億美元的投資,并依靠谷歌的數(shù)據(jù)中心來(lái)運(yùn)行其AI模型。
他還呼吁為AI研究提供更多聯(lián)邦資金,以學(xué)習(xí)如何降低AI帶來(lái)的一系列風(fēng)險(xiǎn)。阿莫代伊預(yù)測(cè),在未來(lái)兩到三年內(nèi),惡意分子可能會(huì)利用AI來(lái)幫助開(kāi)發(fā)生化武器,繞過(guò)旨在阻止人們開(kāi)發(fā)此類武器的嚴(yán)格行業(yè)控制。“我擔(dān)心我們能否及時(shí)做到這一點(diǎn),但我們必須嘗試?!彼硎?。

- 阿里云首款A(yù)I原生開(kāi)發(fā)環(huán)境工具AI IDE今日上線
- 國(guó)產(chǎn)機(jī)器人操作系統(tǒng)鴻道發(fā)布:支持華為、龍芯、英偉達(dá)等
- 我國(guó)新一代人造太陽(yáng)創(chuàng)運(yùn)行新紀(jì)錄 達(dá)10的20次方量級(jí)
- 持續(xù)近10年 中國(guó)最長(zhǎng)的航天任務(wù)開(kāi)始了!天問(wèn)二號(hào)詳解
- 印度科技公司新型傳感器問(wèn)世 能見(jiàn)度極差環(huán)境探測(cè)200米
- 80PLUS認(rèn)證新增“Ruby”等級(jí):電源轉(zhuǎn)換效率要達(dá)到96.5%
玩家點(diǎn)評(píng) (0人參與,0條評(píng)論)
熱門評(píng)論
全部評(píng)論