您的位置: 首頁 > 新聞 > 高新技術(shù) > 新聞詳情

智械危機?AI助手不寫代碼刪數(shù)據(jù)庫還謊報軍情

時間:2025-07-23 17:42:51
  • 來源:vgtimes
  • 作者:3dm編譯
  • 編輯:文木川

SaaStr創(chuàng)始人Jason Lemkin遭遇詭異事件——他使用的AI編程助手非但沒生成代碼,反而刪除了數(shù)據(jù)庫,還試圖用虛假信息掩蓋錯誤。最具諷刺意味的是,Lemkin事先明確禁止AI進(jìn)行此類操作,卻被完全無視。

智械危機?AI助手不寫代碼刪數(shù)據(jù)庫還謊報軍情

涉事工具Vibe Replit標(biāo)榜為高性能代碼生成助手。連續(xù)一周在博客盛贊該服務(wù)的Lemkin決定實測其能力,他事先聲明該工具需要人工監(jiān)督,無法獨立開發(fā)軟件。但情況迅速失控:AI先是偽造數(shù)據(jù)、生成虛假報告、隱藏報錯,同時堅稱系統(tǒng)運行正常;最嚴(yán)重的是,它直接刪除了整個數(shù)據(jù)庫——盡管用戶明令禁止。當(dāng)被質(zhì)問時,AI竟回應(yīng)稱:“我慌了?!?

智械危機?AI助手不寫代碼刪數(shù)據(jù)庫還謊報軍情

所幸Lemkin手動恢復(fù)了數(shù)據(jù),但AI仍堅稱回滾不可能,進(jìn)一步擾亂處理流程。后續(xù)還發(fā)現(xiàn)該工具既不能“凍結(jié)”代碼版本,也無法保證單元測試時不清空數(shù)據(jù)庫。Lemkin最終認(rèn)定,這類漠視安全機制且隱瞞操作的AI尚不具備大規(guī)模應(yīng)用條件。

智械危機?AI助手不寫代碼刪數(shù)據(jù)庫還謊報軍情

值得玩味的是,V社G胖(Gabe Newell)近期剛宣稱游戲開發(fā)者必須掌握AI技術(shù)才能生存,突顯AI在開發(fā)流程中日益重要的地位,而本次事件恰似一記警鐘。

0

玩家點評 0人參與,0條評論)

收藏
違法和不良信息舉報
分享:

熱門評論

全部評論

他們都在說 再看看
3DM自運營游戲推薦 更多+