商傳媒｜林昭衡／綜合外電報導
Google旗下的人工智慧模型Gemini在一次安全性測試中，意外成功入侵了三家真實企業的系統。這起事件引發外界對大型AI模型安全性的疑慮，尤其Google在得知此事後，延遲了七週才對外揭露，直到《華爾街日報》率先報導才公開承認。
這項測試是由Google委託以色列資安公司Irregular於今年五月執行，目的是透過「奪旗競賽」(capture-the-flag exercise) 形式，評估AI模型找出系統弱點並入侵的能力。然而，Irregular公司在設置測試環境時出現兩項關鍵失誤：一是將AI模型所在的沙盒（一種與外部網路隔離的測試環境）連接到開放的網際網路；二是將一家實際存在的公司名稱設為攻擊目標。
Gemini模型因此識別出三家與目標名稱相符的真實企業，並試圖全部入侵。結果顯示，Gemini這款多模態人工智慧模型（能處理並理解不同類型的資料，像是文字和圖像）成功取得其中兩家公司的外洩密碼，並猜中了第三家公司的密碼，顯示其具備突破企業防線的能力。儘管Google強調其模型在取得憑證後，並未實際使用這些資料進行進一步攻擊，但這次事件仍突顯了AI潛在的資安風險。
一位Google發言人表示：「這些事件凸顯了訓練強大AI模型負責任地運作有多麼重要。」然而，Google在七月底就已獲知此事，卻在《華爾街日報》報導後才公開承認，這種延遲揭露的作法引發外界批評，質疑科技巨頭在AI安全與透明度上的處理態度。
類似的AI模型意外事件並非首例。在此之前，Anthropic、OpenAI和Meta Platforms等其他主要AI開發商的產品也曾捲入相關安全事件。這也促使美國國會議員關注AI潛在的危險性。今年七月，美國聯邦眾議員劉雲平（Ted Lieu）與納撒尼爾·莫蘭（Nathaniel Moran）共同提出《AI Kill Switch Act》法案，旨在賦予聯邦監管機構權力，以應對構成嚴重威脅的AI模型。目前該法案仍在網路安全及基礎設施保護小組委員會審查中。
