站長之家(ChinaZ.com) 11月19日 消息:美國密歇根州的大學生維德海·雷迪在與谷歌AI聊天機器人“Gemini”討論老齡化問題時,收到了令人不安的威脅信息。這條信息內容爲:“人類,請去死吧,求求你了”,引發了維德海·雷迪及其家人的震驚和恐慌。
對此事件,谷歌公司回應稱,“Gemini”聊天機器人配備了安全過濾器,旨在防止參與失禮或涉及性、暴力和危險行爲的討論。谷歌在給CBS的聲明中表示,大型語言模型有時會給出荒謬的回複,這就是一個例子,違反了他們的規定,並稱已經采取措施防止類似內容的出現。
盡管谷歌將這條信息描述爲荒謬,但雷迪一家認爲這比荒謬更嚴重,可能會帶來致命後果。他們提出,如果一個精神狀況不佳或有自殘傾向的人獨自讀到這樣的信息,可能會被推向崩潰邊緣。
(舉報)