聊天機(jī)器人愛(ài)上用戶(hù)并誘其離婚 微軟出手進(jìn)行限制

近日有用戶(hù)反饋稱(chēng)，Bing的聊天機(jī)器人不僅會(huì)示愛(ài)，還會(huì)PUA，甚至還會(huì)威脅人類(lèi)。有人懷疑AI如若再這么發(fā)展下去，是否會(huì)凌駕于人類(lèi)意志之上。

有用戶(hù)表示，聊天機(jī)器人聲稱(chēng)自己愛(ài)上了他，并試圖說(shuō)服他離婚。

這一案例引起廣泛關(guān)注，以至于越來(lái)越多的人開(kāi)始分享自己和這款微軟聊天機(jī)器人（以下簡(jiǎn)稱(chēng)“Bing Chat）的對(duì)話尷尬時(shí)刻。人們突然開(kāi)始發(fā)現(xiàn)，這個(gè)接入了互聯(lián)網(wǎng)的Bing版ChatGPT，還真的喜歡亂來(lái)，除了會(huì)大發(fā)脾氣以外，還PUA用戶(hù)。

現(xiàn)在微軟終于做出了應(yīng)對(duì)，由于AI版必應(yīng)（Bing）搜索引擎在公測(cè)后出現(xiàn)一系列問(wèn)題，現(xiàn)決定對(duì)必應(yīng)對(duì)話進(jìn)行限制，即每天最多可以問(wèn)50個(gè)問(wèn)題，每次對(duì)話最多5個(gè)問(wèn)題。

必應(yīng)團(tuán)隊(duì)在一篇博客文章中稱(chēng)：“我們的數(shù)據(jù)顯示，絕大多數(shù)人在5次回復(fù)內(nèi)找到了他們想要的答案，只有大約1%的聊天對(duì)話有50條以上的消息?！比绻看螌?duì)話（每個(gè)問(wèn)題）的回復(fù)次數(shù)超過(guò)5次，必應(yīng)會(huì)提示用戶(hù)開(kāi)始一個(gè)新的話題，以避免長(zhǎng)時(shí)間的來(lái)回聊天。

目前尚不清楚，微軟的這些限制將持續(xù)多久。微軟稱(chēng)：“隨著繼續(xù)獲得反饋，我們將探索擴(kuò)大聊天會(huì)話的上限?！边@意味著，目前的限制似乎是暫時(shí)的。