訊息平台

川普政府擬強制審查AI模型 防國安漏洞與關鍵設施遭駭

圖/本報資料庫

商傳媒|何映辰/台北報導

美國川普政府據報導正準備發布一項劃時代的行政命令,要求科技巨擘在對外公布其最強大的人工智慧(AI)模型前,必須先提交政府進行嚴格審查。此舉凸顯美國政府正重新定義AI的地位,將其從單純的科技工具提升至國家安全資產層級。

促使這項政策轉變的關鍵,是Anthropic公司近期有限度釋出的Claude Mythos模型。《Tom’s Guide》指出,聯邦官員對該模型展示出的「駭人」能力感到警惕,它能夠自主發現並利用關鍵基礎設施中無法修補的軟體漏洞。

行政命令背後主要有三大考量:首先是「Mythos效應」,即前沿AI模型已具備繞過傳統網路防禦的能力;其次是「國內運算主權」,政府希望確保美國能優先取得全球最強大的運算資源;第三是「Anthropic裂痕」,據傳白宮與Anthropic公司在AI軍事應用權限上產生分歧,導致政府轉而加強與OpenAI和Google的合作。

上週,白宮高階官員已分別與Google執行長皮蔡(Sundar Pichai)、OpenAI執行長奧特曼(Sam Altman),以及Anthropic執行長達里奧·阿莫代(Dario Amodei)會面,討論由政府主導的「工作小組」運作細節。此次會議目標在建立一套標準化的「紅隊演練」流程,讓聯邦專家在AI模型正式推出前,就能審計其潛在能力與風險。

若這項行政命令正式簽署,可能將會減緩AI創新快速推進的腳步。未來,新的「Pro」和「Ultra」級模型更新可能因為需經過嚴格的審查程序而延遲推出,這也意味著AI發展將在速度與安全之間做出權衡。支持者認為,這將提升AI的可靠性;但批評者則擔憂,如果國際競爭對手如DeepSeek等面臨較少限制,此舉恐將讓美國AI產業失去優勢。《Tom’s Guide》分析,這項潛在的轉變可能預示著未來AI世界將走向「雙軌制」:一類是經政府認證、供企業與機構使用的「安全」模型;另一類則是限制較少、供愛好者及高階用戶使用的模型。