員工稱亞馬遜AI聊天機(jī)器人Q“幻覺(jué)”嚴(yán)重 且泄露公司機(jī)密數(shù)據(jù)

IT之家今日（12月2日）消息，亞馬遜于今年11月底推出名為Q的AI聊天機(jī)器人，不過(guò)根據(jù)國(guó)外科技媒體Platformer披露的一份內(nèi)部文件，亞馬遜員工稱Q存在嚴(yán)重的“幻覺(jué)”問(wèn)題，并泄露了包括AWS數(shù)據(jù)中心位置、內(nèi)部折扣計(jì)劃等諸多機(jī)密信息。

據(jù)悉，劍橋詞典（Cambridge Dictionary）近日宣布2023年年度詞匯為“hallucinate”（產(chǎn)生幻覺(jué)）。

hallucinate原意為似乎看到、聽(tīng)到、感覺(jué)到或聞到“一些不存在的東西”，通常是指用戶在不良健康或者服用藥物狀態(tài)下產(chǎn)生的幻覺(jué)。

伴隨著AI的崛起，hallucinate延伸為AI產(chǎn)生幻覺(jué)，生成錯(cuò)誤的信息。

報(bào)告文件顯示，亞馬遜Q會(huì)產(chǎn)生幻覺(jué)，返回有害或不適當(dāng)?shù)牧奶靸?nèi)容。例如，亞馬遜Q會(huì)返回過(guò)時(shí)的安全信息，可能會(huì)讓客戶面臨風(fēng)險(xiǎn)。

亞馬遜淡化了員工討論的重要性，并聲稱沒(méi)有發(fā)現(xiàn)任何安全問(wèn)題。然而，泄露的文件引發(fā)了人們對(duì)Q準(zhǔn)確性和安全性的擔(dān)憂，Q仍處于預(yù)覽階段，尚未正式發(fā)布。

一名員工將該事件標(biāo)記為“sev2”，這意味著該事件非常嚴(yán)重，需要工程師加班第一時(shí)間修復(fù)。

Q被定位為ChatGPT的企業(yè)級(jí)版本，旨在比消費(fèi)級(jí)工具更安全。然而，內(nèi)部文件強(qiáng)調(diào)了Q提供不準(zhǔn)確或有害信息的風(fēng)險(xiǎn)。

報(bào)道稱Q除了存在嚴(yán)重的幻覺(jué)之外，還泄露了公司機(jī)密數(shù)據(jù)，包括AWS數(shù)據(jù)中心的位置、內(nèi)部折扣計(jì)劃和未發(fā)布的功能。

文章發(fā)表后，該發(fā)言人發(fā)布一份聲明，反駁了員工的說(shuō)法，稱亞馬遜Q沒(méi)有泄露機(jī)密信息。