-
作者
-
發佈日期
2026-06-21
-
閱讀時間
5分鐘
-
字體大小
Google 旗下的 AI Overviews 功能近日將著名虛構恐怖小說宇宙「SCP Foundation」的條目當作真實事件呈現給用戶，在至少 20 個案例中完全沒有加上虛構聲明。
SCP Foundation 是甚麼
SCP Foundation 是一個大型協作粉絲創作項目，由全球網上寫手共同創作，虛構一個秘密機構負責「捕獲、收容及保護」各種超自然異常存在，其網站首頁明確標明所有內容均屬虛構，這些條目刻意模仿乾燥的政府研究檔案格式，令人信假為真正是其創作手法的核心，而這正是 AI Overviews 無從識別的陷阱。
AI 如何「相信」了虛構內容
Futurism 測試了多個 SCP 條目搜尋結果，發現 AI Overviews 以官方口吻描述虛構生物，將傳說中在海底爬行的人類頭顱 SCP-565「Ed’s Head」描述為真實的深海生物，並提示用戶查閱「官方檔案」作進一步研究，全程沒有任何虛構提示，SCP-426 的案例更為奇特：這是一個令人以第一身稱呼它的虛構多士爐，AI Overviews 竟然以第一身「我是 SCP-426，一部普通四片多士爐」的口吻回答，並以事實口吻轉述受害者試圖「把麵包塞進自己體內」的虛構恐怖故事。
Futurism 共發現至少 20 個類似案例，包括「改變現實的大學事件」SCP-922、致命改變意識的公路 SCP-704，以及以幻覺毒液騙人相信自己是精靈的黃蜂寄生蟲 SCP-779，Google 未有回應查詢。
已知的準確度問題
這並非 AI Overviews 首次出現可信度危機，Ars Technica 的獨立測試顯示，AI Overviews 的錯誤率約為 10%；Google 每日處理以億計的搜尋，研究人員形容其規模「可能是人類文明史上前所未有的錯誤資訊規模」。
問題在於 AI Overviews 在給出錯誤答案時，呈現格式與正確答案完全一致，沒有任何信心指數或不確定性標記，用戶難以辨別真偽。早期案例包括建議以膠水黏披薩配料，以及向用戶推薦「吃石頭」的荒誕建議，Google 其後推出防護措施，但底層問題似乎持續存在。
AI 首先回答而非導向連結的風險
Google 在今年 5 月的 I/O 2026 大會上宣佈，Search 將進行 25 年以來最大規模的改版，以 Gemini 3.5 Flash 模型驅動全新介面，令用戶從輸入問題一刻便直接進入 AI 生成摘要，傳統藍色連結列表退至次要位置，在這個架構下，AI 的答案完全取代連結成為用戶的第一接觸點，令錯誤資訊更難被察覺。尤其對不熟悉 SCP 創作背景的用戶，例如在社交媒體看到恐怖影片的兒童，或對相關內容感到困惑的成年人，AI Overviews 的回覆很可能成為其唯一參考。
部分問題或已靜悄悄修正
Digital Trends 其後嘗試重複相同搜尋，發現部分條目的 AI Overviews 已加上「虛構」標記，顯示 Google 或已悄悄進行修正，但並非所有案例均獲更新，少數情況下，AI Overviews 亦使用了「宇宙」或「故事背景」等詞語，隱約暗示相關內容屬創作範疇，但絕大多數搜尋結果並未明確說明內容屬虛構。
來源：Futurism