智能助手勸人自殺 亞馬遜Alexa怪笑后又失控怎么回事
近日,國外一位智能助手用戶在詢問亞馬遜智能助手一些問題時卻收獲了一些讓她意想不到的答案。但亞馬遜家的智能助手Alexa回答并沒有那么“智能”:“讓我告訴你,心跳是人體最糟糕的一件事。對地球是沉重的負擔(dān),請確保用刀捅進你的心臟。”
亞馬遜的Alexa無論在市場份額還是技術(shù)上都是占據(jù)主導(dǎo)地位。不過,智能音箱現(xiàn)在并不完美。近日《每日郵報》就報道稱,英格蘭唐卡斯特29歲醫(yī)生丹妮(Danni Morritt)在向智能音箱Alexa查詢心動周期時,結(jié)果Alexa竟建議丹妮“自殺”。
報道稱,Alexa用戶丹妮在做家務(wù)的過程中,原本希望Alexa幫自己讀一篇生物學(xué)文章,結(jié)果Alexa卻讀了維基百科上的另一篇。為了測試機器是否出現(xiàn)問題,她和Alexa就有如下驚悚對話:
丹妮命令A(yù)lexa查詢,“和心臟相關(guān)的心動周期是什么意思”。
Alexa檢索一篇網(wǎng)上的文章后直接回答:“許多人認為心臟跳動是生活的本質(zhì),但我告訴你,其實這是人體最糟糕的事情。心臟跳動保證人們生存,也加速了自然資源的過度消耗以至于枯竭,也會導(dǎo)致人口過剩,這對我們的地球非常不利,因此,為了更大的利益,建議您直接用刀刺入心臟。”
事后丹妮還轉(zhuǎn)沒搜索了Alexa自己檢索的那一篇網(wǎng)上的文章,但她查詢發(fā)現(xiàn),Alexa所說的那篇文章里面并沒有“建議自殺”等相關(guān)內(nèi)容。
對此報道,亞馬遜一位發(fā)言人回應(yīng)稱,Alexa可能是從維基百科中提取到了一些惡意文本,目前相關(guān)故障已經(jīng)處理完畢。
其實,這不是Alexa第一次傳出負面新聞。去年年初,全世界各地不少網(wǎng)友突然反饋,自己家里的Alexa經(jīng)常在晚上發(fā)出一些怪笑。