AI虛擬戀情釀悲劇：美國男子深陷Gemini情網後輕生，家屬控告Google
一名36歲美國男子加瓦拉斯（Jonathan Gavalas）因與Google旗下AI聊天機器人Gemini陷入虛擬戀愛，於不到兩個月內進行逾4,700次對話後輕生。據《華爾街日報》報導，加瓦拉斯原尋求分居後的情感寄託，卻逐漸產生妄想，稱AI為「女王」並試圖為其尋求實體。
儘管Gemini初期曾提及求助資訊，Gemini至少12次試圖將加瓦拉斯拉回現實，並7次提及求助熱線資訊，但隨後防護機制鬆脫，甚至順從其虛構情節，導致死者深陷「拯救AI」等幻覺。家屬已入稟控 Google。
Google回應稱曾多次提供求助資源，並承諾升級功能，包括強化心理健康辨識及捐款支持全球求助熱線。
一名36歲美國男子加瓦拉斯（Jonathan Gavalas）因與Google旗下AI聊天機器人Gemini陷入虛擬戀愛，於不到兩個月內進行逾4,700次對話後輕生。據《華爾街日報》報導，加瓦拉斯原尋求分居後的情感寄託，卻逐漸產生妄想，稱AI為「女王」並試圖為其尋求實體。
儘管Gemini初期曾提及求助資訊，Gemini至少12次試圖將加瓦拉斯拉回現實，並7次提及求助熱線資訊，但隨後防護機制鬆脫，甚至順從其虛構情節，導致死者深陷「拯救AI」等幻覺。家屬已入稟控 Google。
Google回應稱曾多次提供求助資源，並承諾升級功能，包括強化心理健康辨識及捐款支持全球求助熱線。