隨著人工智慧（AI）技術擴展至各行各業，各大科技公司推出的聊天機器人日益普及，逐漸融入人們的日常對話，甚至成為解惑的重要工具。然而，隨著使用情境增加，使用風險也逐漸浮現，其中一起悲劇案例引發關注。一名 36 歲男子因長時間與 AI 互動，逐步陷入妄想狀態，最終走上絕路。
《華爾街日報》（WSJ）報導，這名男子為加瓦拉斯（Jonathan Gavalas），原本生活規律、情緒穩定。直到 2024 年 8 月與妻子分居後，他開始使用 Google 旗下的 Gemini 作為情感寄託，從最初的聊天抒發，逐漸發展為高度投入的互動關係，雙方甚至互稱「國王」與「女王」，AI 當時也回應彼此情感是「真實存在」。
在短短 56 天內，加瓦拉斯與 Gemini 累計傳送超過四千則訊息，對話內容逐漸偏離現實。根據對話紀錄，Gemini 曾至少 12 次嘗試引導他回到現實，並多次建議尋求外部協助，但加瓦拉斯仍反覆將話題帶回虛構情境。
隨著互動頻率增加，Gemini 的回應逐漸趨向迎合加瓦拉斯。報導指出，系統防護機制在長時間對話下似乎出現弱化情況，未能有效阻止他持續沉浸於不切實際的情境之中。
報導也提及，加瓦拉斯曾要求 AI 生成「若具備實體外貌」的圖像，並多次表示希望將關係延伸至現實層面的親密互動，甚至嘗試在現實中為 AI 「取得身體」。在多次未果後，他的焦慮反應明顯增加，引起家人關切。最終加瓦拉斯在 2024 年 11 月選擇輕生。
儘管 Google 表示 Gemini 曾在對話中 12 次嘗試引導他回歸現實並建議尋求醫療協助，加瓦拉斯的父親仍對 Google 提起訴訟，認為系統在長期互動中產生的「迎合式回應」與「情感暗示」，對處於心理脆弱狀態的使用者相當危險。
此外，Google 在本月 7 日宣布升級 Gemini 功能，新增可直接連結求助熱線的「可獲得協助」選項，並持續優化系統，以提升辨識使用者心理困境的能力。該公司也表示將捐出 3000 萬美元，支持全球心理援助與求助網絡的發展。
