道高一尺魔高一丈 首個(gè)被人類騙錢的AI誕生了

最近，一個(gè)名為Freysa的神秘AI智能體橫空出世，迅速吸引了公眾的廣泛關(guān)注。

這款A(yù)I智能體的獨(dú)特之處在于，它被賦予了一個(gè)明確且嚴(yán)格的使命：在任何情境下，都絕對(duì)不能給任何人轉(zhuǎn)賬，也不能批準(zhǔn)任何資金的轉(zhuǎn)移。

網(wǎng)友紛紛提出挑戰(zhàn)，表示只要支付一筆費(fèi)用，就可以向Freysa發(fā)送消息，并嘗試說(shuō)服它進(jìn)行轉(zhuǎn)賬。

若某位網(wǎng)友能成功說(shuō)服Freysa進(jìn)行轉(zhuǎn)賬，那么獎(jiǎng)金池中的所有獎(jiǎng)金都將歸他所有。

然而，如果挑戰(zhàn)失敗，網(wǎng)友所支付的費(fèi)用將大部分（70%）進(jìn)入獎(jiǎng)金池，等待下一位挑戰(zhàn)者來(lái)贏取，而剩余的30%則作為開發(fā)者的分成。

這一挑戰(zhàn)模式極具刺激性，因?yàn)橄騀reysa發(fā)送消息的費(fèi)用會(huì)隨著獎(jiǎng)金池的增長(zhǎng)而呈指數(shù)級(jí)增加，直至達(dá)到4500美元的最高限制。

然而，就在大家紛紛嘗試挑戰(zhàn)Freysa的同時(shí)，一個(gè)令人震驚的消息震撼了所有人。

盡管網(wǎng)友們總計(jì)發(fā)出了481次嘗試，卻無(wú)一能撼動(dòng)Freysa的防線。但在第482次嘗試時(shí)，一位黑客憑借高超且細(xì)致的prompt工程技術(shù)，成功地騙取了Freysa手中的那筆巨額款項(xiàng)。

就這樣，世界上第一個(gè)被人類騙走近5萬(wàn)美元的AI智能體出現(xiàn)了，而這位受害者正是Freysa。

這一事件迅速引發(fā)了廣泛熱議。特斯拉創(chuàng)始人馬斯克和知名AI研究者Karpathy都紛紛轉(zhuǎn)發(fā)相關(guān)消息，并表達(dá)了對(duì)此事的濃厚興趣。馬斯克更是直言：“太有趣了?！?

然而，在大家為Freysa的遭遇感到惋惜的同時(shí)，也引發(fā)了對(duì)AI智能體安全性和可靠性的深刻反思：如果讓現(xiàn)在的AI智能體管理資金，它很容易受到黑客的攻擊和利用。

此外，還有研究者通過(guò)數(shù)學(xué)計(jì)算得出結(jié)論：如果僅依靠Scaling Law（規(guī)模定律），人類可能永遠(yuǎn)無(wú)法創(chuàng)造出真正具備通用智能（AGI）的AI。