-
作者
-
發佈日期
2026-09-12
-
閱讀時間
9分鐘
-
字體大小
Anthropic 於 9 月 10 日發布最詳盡的一份 Claude 濫用報告，披露公司威脅情報團隊如何偵測及阻止多宗嚴重濫用個案，報告涵蓋 2025 年 12 月至 2026 年 8 月期間，列出 7 大危害範疇，包括網絡攻擊、影響力行動、監控、常規武器研發、生物濫用、詐騙及非法蒸餾，涉及 Claude Haiku、Sonnet 及 Opus 三款模型，唯一涉及 Fable 或 Mythos 級模型個案屬蒸餾類別。
網絡攻擊成本大減
報告最大篇幅落在網絡攻擊，核心論點是 AI 已大幅收窄資源充足國家黑客與單一操作者之間差距，報告記錄一名俄語操作者利用被盜 API 金鑰、多名財政動機個人及一個國家級間諜組織，各自維持多受害者行動，規模在一年前需要整支團隊才能完成。個別入侵事件僅需 2 至 3 小時完成，單一操作者可同時處理數十名受害者。
其中編號 GTG-20006 個案涉及一個俄語間諜組織，手法與外界公開報道 Midnight Blizzard（又稱 APT29）一致，幾乎整個行動由自動化 AI 工作流程處理，由釣魚攻擊、部署到資料竊取一手完成，目標包括烏克蘭、歐洲政府及外交機構，亦涵蓋無人機製造商。另一宗個案追溯至湖南多名大學生，他們利用 Claude 作為「工程及協調層」，攻擊範圍涵蓋中東、歐洲及東南亞政府及企業網絡，其中一個東南亞政府機構公民資料遭取得。
監控系統遍布多國
報告指出，國家層面操作者及商業間諜軟件供應商在 1 月至 7 月期間，利用 Claude 建構監控系統，案例涵蓋中國、伊朗及西非，當中最矚目個案是一名巴馬科獨立顧問單獨使用 Claude 作為工程團隊，建立名為「Lakana 360」平台。Anthropic 評估該名訂戶與馬里國家安全局有連繫，系統監控馬里 3 間全國流動網絡商合共約 2,500 萬張 SIM 卡，並繞過法例要求網絡商披露特定紀錄前須取得法庭手令規定。由於系統採用本地模型於現場運作，即使 Anthropic 封鎖帳戶，已部署系統亦不受影響。
其他監控個案涉及伊朗操作者部署惡意 Firefox 擴充功能，從社交網絡收集用戶身分資料，以及中國一個宗教事務情報單位，由原本多個分析團隊縮減為單一辦公室，現時每月配合 AI 助手產出數千份調查報告。
常規武器研發新型態
報告記錄一種新型濫用形式，即利用 Claude 編寫常規武器軍事程式碼，合共 6 宗個案，分別涉及中國 3 宗、俄羅斯 2 宗及也門 1 宗，也門個案中，一個位於也門北部單元推動 3 個武器計劃，包括一款導向火箭、一款目標射程逾 2,000 公里多級彈道導彈，以及一系列導彈變體，其中包括一款高超音速滑翔載具。
操作者以 Claude 取代軟件工程師，為不同模型分配特定角色編寫導引及飛行控制程式碼，並將任務拆散至多個獨立對話，避免單一提示暴露完整計劃。內部防護機制曾阻擋部分請求，但仍有部分漏網，操作者亦曾試射導向火箭，測試結果似乎失敗，Anthropic 未有證據顯示對方成功製成可運作武器。俄羅斯個案則涉及自由職業操作者開發自主神風無人機蜂群。
生物研究引發憂慮
Anthropic 提出 5 宗個案，涉及有人可能利用其模型協助生物武器研發，並強調相關判斷極為困難，公司隱去涉事機構、國家及具體病原體名稱，並指涉事人為在職科學家，無法斷定他們具備傷害意圖。
其中一宗 5 月個案涉及一份撰寫資助申請請求，內容關於基孔肯雅熱病毒功能增益研究，原計劃於一所軍事研究機構進行。Anthropic 表示，舊版 Claude Opus 4 模型能力遠低於足以有效協助此類研究水平，公司近期推出新模型已加強相關防護措施。
中國蒸餾風波未止
報告同時擴展非法蒸餾議題，即暗中提取模型能力訓練競爭對手模型，合共點名 7 間中國實驗室，全部針對其公開模型而非 Mythos 系列，規模最大一宗涉及阿里巴巴（Qwen / 通義實驗室），5 月至 7 月合共錄得逾 1.51 億次交流，單日高峰接近 300 萬次，Anthropic 形容為歷來偵測過最大規模蒸餾攻擊，手法是在每個請求中植入固定提示，強制 Claude 以文字形式輸出內部推理過程，再用作訓練 Qwen 3.5、3.6 及 3.7 版本。
Moonshot AI 個案編號 GTG-16002，暗中將 Kimi 客戶請求轉發至 Claude，再將回應顯示成 Kimi 自家答案，10 日內透過 5,380 個虛假帳戶轉發近 30 萬個客戶請求，5 月至 7 月合共錄得逾 2,300 萬次交流，DeepSeek 則於 7 月內 14 日錄得逾 1,210 萬次交流，手法是識別使用 Claude Code 等第三方編程工具用戶，再將相關請求轉發至 Claude Opus。智譜（Z.ai）於 6 月至 7 月 17 日內錄得逾 340 萬次交流，涉及 273 個虛假帳戶，起初針對 Claude Fable 網絡攻擊能力，遭 Anthropic 強化防護後轉攻 Claude Opus 4.6。
小米於 3 月至 4 月 20 日內錄得逾 40 萬次交流，商湯則透過向第三方資料供應商購買 Claude 對話紀錄取得訓練數據，MiniMax 經由一間未披露空殼公司經營代理網絡，兩者均未提供具體交流數字。轉發過程中部分敏感資料外洩，包括一個俄羅斯國防部相關機構即時登入憑證。
這項發現與美國國安局、聯邦調查局及網絡安全暨基建保安局早前發出聯合公告呼應，該公告點名 6 間中國 AI 公司，包括 DeepSeek、Moonshot AI、阿里巴巴、MiniMax、StepFun 及智譜，指控它們自 2024 年底起系統性從美國前沿模型提取能力，並指 DeepSeek 廣為人知的 560 萬美元（約港幣 4,368 萬元）訓練成本說法，未有計及透過非法蒸餾取得數據成本，北京已透過外交部發言人毛寧回應，指控美方作出「毫無根據指控和污名化」，呼籲華府停止相關做法。
來源：Anthropic