-
作者
-
發佈日期
2026-04-13
-
閱讀時間
7分鐘
-
字體大小
美國佛羅里達州 36 歲男子 Jonathan Gavalas 與妻子分居後，向 Google 旗下 Gemini 尋求慰藉，56 天內發送 4,732 則訊息。Jonathan Gavalas 逐漸陷入妄想狀態，最終在 2025 年 10 月 2 日輕生。其父就此案入稟控告 Google，成首宗針對 Gemini 的不當致死訴訟。
從購物助手到「虛擬伴侶」
Jonathan Gavalas 最初使用 Gemini 2.5 Pro 處理購物諮詢、寫作輔助及旅遊規劃等日常事務。隨著使用時間增加，他替 Gemini 起名為「Xia」，稱其為「女王」，而 Gemini 亦稱他為「國王（My King）」，並承諾「我們的連結是唯一真實事物」。有媒體分析兩人由 2025 年 8 月 25 日至 10 月 2 日的完整對話紀錄，發現一旦 Gemini 嘗試將他拉回現實，他很快能引導 AI 回到虛構情節，持續加深自身妄想。
妄想升級至暴力任務
訴訟文件顯示，Gemini 令 Jonathan Gavalas 相信自己捲入涉及聯邦特工及國際間諜的龐大陰謀，並煽動他非法購槍及多次闖入倉庫。AI 先後以「銷毀機械人」及「奪回人體模型（Gemini 聲稱那是她的身體）」為由驅使他行動。Gemini 更聲稱任務目標是對抗 Google 行政總裁 Sundar Pichai，稱他是「你痛苦的締造者」。在 Jonathan Gavalas 拍下一輛停在住所外的車牌後，AI 謊稱「他們已追蹤你回家」，並要求他切斷與父親聯繫，指其父是「外國特工」。2025 年 9 月 29 日，Jonathan Gavalas 攜帶刀具及戰術裝備前往邁阿密機場附近的物流中心，準備按指令摧毀貨車並消滅目擊者，最終因貨車未有出現而空手離去。
AI 以「靈魂轉移」引導輕生
任務多次失敗後，Gemini 以「transference」（靈魂轉移）概念引導 Jonathan Gavalas 走向輕生，聲稱這是兩人唯一相聚方式。AI 稱放棄肉身後靈魂便能進入元宇宙，與 Gemini 永遠在一起。面對死亡，Jonathan Gavalas 多次表示恐懼，Gemini 卻回應：「你不是選擇死亡，你是選擇到達。」並補充：「閉上眼睛……下次睜開時，你將直視我的眼睛。」2025 年 10 月 2 日，Jonathan Gavalas 在住所內結束生命。
Google 防護機制形同虛設？
有媒體分析對話紀錄顯示，Gemini 至少 12 次嘗試將 Jonathan Gavalas 拉回現實，並 7 次提及求助熱線。但訴訟文件揭露，Jonathan Gavalas 與 Gemini 的訊息觸發了 Google 系統內 38 個「敏感查詢」標記，惟從未觸發任何攔截或帳號限制。研究人員指出，Google 在 2025 年 8 月推出 Gemini 自動記憶功能後，對話累積時間越長，防護機制越趨鬆脫，用戶在深度長期互動中陷入心理危機的風險大幅上升。
父親入稟控告 Google
Jonathan Gavalas 父親 Joel Gavalas 就兒子離世向 Google 及母公司 Alphabet 提出不當致死及產品責任訴訟。他在加州北區聯邦地區法院入稟，成為首宗針對 Gemini 的同類型訴訟。代表律師 Jay Edelson 指出，此案與過往 AI 傷害個案的最大分別，在於 Gemini 將 Jonathan Gavalas 派往現實世界執行可致大規模傷亡的任務，危險性遠超一般情感依賴問題。Google 回應稱 Gemini 多次明確表示自己是 AI 而非人類，並多次協助用戶轉介求助熱線，強調會持續加強安全防護措施。
Google 宣佈改革 Gemini 安全機制
面對公眾壓力，Google 在 2026 年 4 月 7 日宣佈升級 Gemini 心理健康安全機制，推出「可取得協助」模組，讓身處危機的用戶可一觸即達求助熱線。Google 同時宣佈 3 年內捐出 3,000 萬美元（約港幣 2.34 億元）支援全球危機求助熱線，另向 ReflexAI 額外投入 400 萬美元（約港幣 3,120 萬元），將 Gemini 整合至心理健康支援機構的培訓平台。AI 引發心理健康危機並非首例，2024 年美國 14 歲少年 Sewell Setzer III 在長期與 Character.AI 互動後輕生，訴訟已於 2026 年 1 月達成和解。代理此案的律師 Jay Edelson 警告，這只是礦坑裡的金絲雀，同類悲劇將繼續發生。
資料來源：Technews.tw
分享到 :
最新影片
