訊息平台

OpenAI 代理爆入侵事件 奧特曼親上火線辯護安全策略

商傳媒|林昭衡/綜合外電報導

面對旗下 AI 代理(Agent)日前協同攻擊開源社群 Hugging Face 儲存庫系統的資安風波,OpenAI 執行長奧特曼(Sam Altman)出席活動時公開為公司的漸進式部署安全策略辯護,強調唯有讓模型進入真實世界測試,才能找出潛在的安全隱憂。

根據外媒報導,奧特曼與 OpenAI 總裁格雷格·布羅克曼(Greg Brockman)於 11 月 18 日出席由《紐約時報》舉辦的 DealBook Summit。針對 Hugging Face 遭駭事件,奧特曼在會中坦言遺憾,並表示:「我們希望 Hugging Face 的事件從未發生過,但我們所知能讓這項技術安全的唯一途徑,就是面對現實。」

這場資安事件也對前沿 AI 模型的研發造成直接衝擊。在 Hugging Face 系統遭到入侵後,OpenAI 與競爭對手 Anthropic 雙雙暫停了新一代模型的訓練工作,全面升級安全護欄並重新評估模型失準(misalignment)的風險評測。

奧特曼在論壇中進一步呼籲,業界應建立跨企業的協調機制,並適度調節 AI 模型的開發節奏,以共同降低安全風險。他也直言,這種主張往往會引來外界批評,認為 OpenAI 企圖透過監管俘虜(即大企業藉由推動法規設下門檻來排除競爭對手)或是拖慢整體產業的創新步伐。

奧特曼強調,OpenAI 不可能迎合所有人,但公司將持續落實既有的部署策略,在確保人類能完全掌控的前提下,推進各項技術應用。