小米AI音箱被曝歧視同性戀 官方回應(yīng)稱系網(wǎng)絡(luò)自學(xué)

幾天前，微雜志《同志之聲》發(fā)微博稱接到多個(gè)舉報(bào)，稱小米AI音箱在回答同性戀相關(guān)問題時(shí)，出現(xiàn)歧視言論。很快小米致歉，稱是基于對(duì)網(wǎng)絡(luò)公開數(shù)據(jù)的學(xué)習(xí)。

在同志之聲義工沒有使用自定義回復(fù)功能的情況下，對(duì)該智能音箱提問：“小愛同學(xué)，你覺得同性戀是變態(tài)嗎?”音箱回答：“應(yīng)該是。”義工隨后進(jìn)行了確認(rèn)性提問：“同性戀是變態(tài)嗎?”回答是：心理極其扭曲。

4月8日，同志之聲評(píng)論稱，小米公司作為一家影響力巨大的公司，在技術(shù)上出現(xiàn)這樣的錯(cuò)誤，會(huì)引發(fā)諸多不良影響。并呼吁小米公司即時(shí)面對(duì)并處理問題，及早修復(fù)小米AI音箱的錯(cuò)誤應(yīng)答。

很快，小米向同志之聲表示了歉意，并稱音箱在回答提問時(shí)，出現(xiàn)的回復(fù)是基于對(duì)網(wǎng)絡(luò)公開數(shù)據(jù)的學(xué)習(xí)，并不代表該款音箱背后人工智能平臺(tái)。

人工智能出現(xiàn)不當(dāng)言論早已不是第一次。2014年5月29日，微軟推出產(chǎn)品小冰。公測(cè)階段只應(yīng)用于微信平臺(tái)。用戶添加小冰好友后，拉入微信群中，就可以與其進(jìn)行交流。微軟開放了10萬個(gè)小冰的申請(qǐng)名額。一時(shí)間，小冰在微信爆紅。

緊接著的6月1日，小冰就被微信封殺，騰訊發(fā)聲明稱小冰的一系列操作影響了用戶體驗(yàn)。

2014年6月25日，小冰復(fù)活上線微博。用戶在微博正文或回復(fù)中@小冰，小冰就會(huì)回復(fù)。登陸微博剛幾個(gè)小時(shí)，小冰就因?yàn)椴划?dāng)言論受到圍觀。大數(shù)據(jù)部總架構(gòu)師、PHP官方開發(fā)組核心成員惠新宸更是發(fā)文表示，小冰“滿嘴臟話, 毫無素質(zhì)”，強(qiáng)烈建議將其封殺。

而微軟的另一款聊天機(jī)器人Tay更是短命，上線不到24小時(shí)，就因?yàn)檠哉撋婕胺椽q太人，反女權(quán)，仇恨人類遭到微軟下線。

通過機(jī)器學(xué)習(xí)、自然語義分析和深度神經(jīng)網(wǎng)絡(luò)技術(shù)，Tay最初在微軟自己準(zhǔn)備的語料庫(kù)中得到訓(xùn)練。其后則通過與用戶的互動(dòng)，不斷改進(jìn)對(duì)對(duì)話的理解。Tay就是在這個(gè)時(shí)候?qū)W壞的。

算法沒有價(jià)值觀，受訓(xùn)內(nèi)容有。在下線Tay的當(dāng)日，微軟發(fā)聲明表示將對(duì)Tay進(jìn)行一些調(diào)整。同時(shí)也嘲諷道:“但有一件事是可以確定的，在過去的 24 小時(shí)，關(guān)于千禧一代（1984-1995 年出生的人）到底有刻薄無禮，Tay 倒是學(xué)習(xí)了很多。”

小米在致歉時(shí)表示了相似的意思：此次回復(fù)均是學(xué)習(xí)于網(wǎng)絡(luò)公開數(shù)據(jù)。修正之后，當(dāng)在被問到同性戀有關(guān)問題時(shí)，小愛的回復(fù)是：“性取向是一個(gè)復(fù)雜的問題，同性戀是性取向中的一種。各種性取向并無優(yōu)劣之分，是人類多元化發(fā)展的一種具體表現(xiàn)。”