訊息平台

AI雙面刃:助醫學亦藏生物武器風險 專家倡管理存取

商傳媒|林昭衡/綜合外電報導

隨著人工智慧(AI)技術的快速發展,其在生物科技領域的應用,也引發了對生物安全(即防範生物威脅、確保生物實驗與技術不被濫用)的深切關注。美國智庫蘭德公司(RAND)的專家 Steph Guerra 指出,AI 如同雙面刃,能推動醫學突破,卻也潛藏著協助製造生物武器的風險。

Guerra 領導蘭德公司在 AI 與生物科技交界領域的研究,其團隊發現,即使是可公開下載、使用與修改的「開源權重 AI 模型」(open-weight AI models),其能力已與主流的「前沿模型」(frontier models)相當。研究更指出,移除這些開源模型內建的安全防護措施以獲取敏感資訊,過程既簡單又成本低廉,許多具備基本技術能力的人士都能做到。Guerra 強調:「獲取一個高能力的開源權重模型,並移除其拒絕某些問題的防護措施,對許多有能力的行為者來說都唾手可得。」

不過,Guerra 也強調,單從 AI 模型中獲取資訊,僅是發動生物攻擊漫長過程中的一小步。惡意行為者仍需取得生物材料、設計、製造、測試、武器化,最終才能釋放生物製劑。她表示,有效的生物安全戰略必須在整個攻擊發展路徑上製造阻礙。

蘭德公司為此制定了四層防禦理論,以防範大規模生物攻擊:首先是「管理資訊存取」,例如強化模型安全防護、實施受控存取計畫;其次是「預防取得必要材料」,如透過基因合成篩選;第三為「早期偵測誤用」,透過即時監測;最後則是「快速反應與歸因」,以達到威懾效果。Guerra 強調,單靠模型安全防護可能無法阻止擁有生物武器計畫的國家級行為者,需要多層次策略才能全面應對威脅。

生物學本身即具備「雙重用途」(dual-use)性質,AI 在生物領域的應用也不例外。Guerra 說明,那些可能被用於製造危害的 AI 能力,同時也能為醫療創新帶來巨大助益。因此,目標應是「管理存取」而非全面禁止,精確定義合法使用者,並確保他們能取得所需的強大工具。她以人類基因組資料的隱私與安全框架為例,說明此類管理機制的先例。

Guerra 早在「大型語言模型」一詞普及前,就已投入 AI 安全研究。她過去曾是分子生物學家,專注於癌症預防。Guerra 回憶,當她參與聯邦團隊對 AI 模型進行「紅隊演練」時,觀察到 AI 能流暢且自信地提供關於生物攻擊的創意資訊,讓她意識到需更密切監測這些風險。她強調,從預防著手,超前部署風險,是其職涯一貫的重心。