訊息平台

駭客假冒 Claude、ChatGPT 發動攻擊 資安業者揭開發者面臨新型風險

圖/示意圖

商傳媒|林昭衡/綜合外電報導

資安業者 ANY.RUN 近期發布分析報告指出,網路駭客正大肆利用人工智慧(AI)主題的誘餌,假冒熱門的 AI 工具如 Claude 和 ChatGPT,向開發者散佈惡意軟體。在過去六個月內,ANY.RUN 平台共分析了 1,258 起假冒 AI 工具的攻擊事件,顯示這類威脅正快速增加。

這些攻擊利用多種手法,包含搜尋引擎優化(SEO)汙染、惡意廣告及假下載頁面,誘導受害者下載惡意程式。其中,假冒 Anthropic 旗下大型語言模型 Claude 的攻擊案例佔總數的 60%,而假冒 OpenAI 的 ChatGPT 及 Codex 則佔 33%。攻擊者通常會將假冒的安裝程式託管在 GitHub Pages、Cloudflare Pages、Google協作平台等看似合法的平台上,藉此降低開發者的戒心。

攻擊的核心策略是誘騙員工執行關鍵步驟,例如貼上「安裝指令」、執行看似真實的安裝程式,或登入假冒視窗。一旦成功,駭客便能竊取原始碼、雲端與 AI 應用程式介面(API)金鑰、有效的業務會話資訊、廣告帳戶和計費權限等敏感資料,導致資料外洩、帳戶遭盜用、財務損失或營運中斷。

ANY.RUN 指出,這類攻擊主要運用兩種策略:「ClickFix-type tactics」(點擊誘騙手法)與「InstallFix」(假安裝程式攻擊)。前者透過假冒的下載頁面啟動攻擊,佔比約 17%;後者則以假冒的命令列介面(CLI)安裝程式呈現,佔比達 27%。此外,有 45% 的攻擊要求受害者複製貼上指令至其介面。Push Security 研究員 Dan Green 更警告,部分攻擊鏈甚至直接發生在合法的 AI 網站上,利用共享聊天內容或惡意文件,大幅降低了使用者的警覺性,使這些攻擊特別難以察覺。

為防範這類新型攻擊,資安專家建議企業應提供經核准的 AI 工具清單及其官方來源,並透過行動裝置管理(MDM)或軟體入口網站進行安裝。同時,應限制一般使用者執行指令的能力,並對員工進行資安培訓,強調必須針對官方供應商文件驗證所有安裝指令,而非輕信第三方連結、廣告或共享聊天內容。

在 AI 工具日益普及的同時,程式開發社群內部對於 AI 輔助程式碼的使用也存在討論。例如,Linux kernel 社群曾於今年一月導入「Assisted-by Tag」機制,要求貢獻者揭露程式碼是否使用了先進的程式設計工具。然而,這個標籤正被推動廢除,主要原因包括執行困難、可能成為專有大型語言模型公司的免費廣告,以及收集資訊的目的不明。林納斯·託瓦茲(Linus Torvalds)本人雖表示樂於使用 AI 輔助其不擅長的任務,但也強調對於「真實且重要」的專案,使用 AI 仍需謹慎,凸顯了 AI 在開發過程中帶來的便利與挑戰並存的雙面性。