AI 錯誤情報險釀中美衝突 聊天機械人誤指中國船隻藏核武

  • 作者

  • 發佈日期

    2026-09-20

  • 閱讀時間

    5分鐘

  • 字體大小

有外媒引述 4 名知情人士報道,今年春季伊朗戰爭期間,一份由人工智能生成的錯誤情報,幾乎導致美軍向一艘中國船隻採取軍事行動,消息人士形容 AI 情報「完全失實」但幾乎觸發一場戰爭,任何針對中國船隻的軍事行動,都有可能演變成中美兩國武裝衝突。

分析員查船隻艙單 AI 誤判藏核武部件

事件源於美國太平洋特種作戰司令部一名分析員,向 AI 聊天機械人查詢一艘中國船隻的情報資料,涉及船隻艙單,系統結合公開來源情報與機密訊號情報,錯誤判斷船上載有核武器計劃相關部件。分析員其後再用 AI 將分析結果整理成標準情報報告格式,令這份錯誤情報看似一般可信的情報產品,並在軍方內部廣泛發佈。

報告發出後,武裝美軍人員一度準備登船,軍機亦已升空待命,高級官員在行動展開前深入審視報告來源,才發現內容由 AI 生成且分析員使用的聊天機械人錯誤識別船隻載運物資。CNN 未能查證船隻實際載運貨物,亦無法確認分析員使用商用抑或政府專用 AI 工具,美國太平洋特種作戰司令部及五角大樓均未回應 CNN 查詢。

一名前資深美國官員形容,軍方內部 AI 工具「大多只是商用產品換個包裝」,消息人士亦指出,這類 AI「幻覺」並非情報體系內的單一事件,而年輕分析員特別容易不加批判地信任 AI 結果,其中一人形容:「AI 讓你更快得出錯誤結論。」

五角大樓 AI 分散應用 缺統一查證標準

美國國防部長 Pete Hegseth 今年 1 月公布「人工智能加速戰略」,推動國防部轉型為「AI 優先」作戰部隊,目標讓 300 萬名軍民人員可直接使用美國頂尖 AI 模型,戰略亦涵蓋 AI 輔助戰場管理及決策支援,由作戰計劃制定延伸至「殺傷鏈執行」層面。

不過報道指,AI 於軍方及情報體系的應用高度分散,不同部門採用不同系統及安全標準,並無統一機制查證 AI 產生的資訊,五角大樓雖然訂立要求軍用 AI 系統「可追溯、可靠、可管控」的負責任原則,但實際執行仍存在明顯落差。

值得留意的是,海事媒體 gCaptain 上周亦報道,Anthropic 早前偵測到一個與伊朗有關連的黑客組織,利用其 Claude 模型建立以 Python 編寫的情報系統,追蹤美國海軍船艦位置,並研究船上衛星通訊終端及工業控制系統的保安漏洞,兩宗事件合看,反映 AI 正加快軍事情報蒐集及分析速度,但同時為敵對雙方帶來新型風險。

美軍近月大舉引入商業 AI,SpaceXAI 今年 2 月與軍方達成協議提供 Grok,Nvidia、Microsoft 及 Amazon 亦於 5 月加入合作;9 月初五角大樓進一步擴展 GenAI.mil 平台,向 300 萬名軍民人員提供 ChatGPT 及 Grok 特製版本,OpenAI 及 SpaceXAI 各自獲最高 2 億美元(約港幣 15.6 億元)國防合約,這類政府合約利潤豐厚,惟今次事件顯示,將 AI 大規模應用於國防敏感領域,存在一般企業軟件所沒有的風險。

來源:CNN

Comments (0)
Add Comment