![]() |
Microsoft 透過全新的 AI 透明度倡議,與包括 Accenture、Adobe、KPMG、Mastercard 及 Volvo Cars 在內的逾 40 家機構合作,推動在 AI 透明度、安全及管治方面採用適用於不同模型及供應商的共通做法。Microsoft 亦將提升旗下產品及服務的透明度,讓企業更清楚了解 AI 模型及代理如何與企業數據互動
華盛頓州雷德蒙德2026年11月19日 /美通社/ — 機構雖然能夠監察與 AI 模型相關的大部分活動,卻往往無法還原由提出請求到產生結果之間的過程,因此難以獨立驗證模型的行為。在週二舉行的 Microsoft Ignite 上,Microsoft 主席兼行政總裁 Satya Nadella 宣佈推出「AI 透明度倡議」,作為 Microsoft 履行提升 AI 安全性承諾的下一階段工作。這項倡議將聯同客戶及合作夥伴,建立適用於不同模型及供應商的共通、開放的安全及管治做法。這項倡議體現一項簡單原則:AI 的自主程度越高,透明度就必須越高。
Microsoft Security 執行副總裁 Hayete Gallot 表示:「要讓安全管控措施發揮效用,每家機構都需要更清楚了解模型本身的運作。透過這項工作,我們將提升所有模型的透明度。這是讓遏制措施更智能、更有力的重要一步,有助我們為問責及追溯提供更充分的依據。」
企業正將 AI 模型連接至數據、工具、憑證及基礎架構,讓代理能夠採取行動,而毋須每一步都經人員批准。現有管控措施雖能監察與 AI 模型相關的大部分活動,卻無法掌握模型內部的運作,亦無法獨立核實模型對自身行為的描述。這限制了機構了解代理採取行動背後背景的能力。這種證據不足的情況,會帶來安全、合規、審計及問責風險。隨著 AI 代理的能力不斷提升,所帶來的內部風險亦日益增加,安全團隊需要全新的信任架構來應對。
Adobe 首席安全官 Aanchal Gupta 表示:「隨著 AI 代理更深入融入企業營運,安全團隊需要清楚掌握這些代理正在存取甚麼、採取哪些行動,以及如何驗證這些行動。在整個行業建立提升 AI 透明度的共通做法,對加強信任至關重要,亦有助機構在維持安全及問責的同時,充滿信心地推動創新。」
從原則走向實踐
這項倡議涵蓋三個部分。首先,Microsoft 將擴大參與美國國家標準與技術研究院(NIST)的「SI 代理標準倡議」,並借鑑相關研究,制定適用於整個行業的 AI 透明度、安全及管治開放標準。其次,Microsoft 正與包括 Accenture、Adobe、KPMG、Mastercard 及 Volvo Cars 在內的逾 40 家機構合作,協助制定開放標準,讓 AI 系統具備問責機制、可接受獨立驗證,並從設計之初便融入安全保障,不受模型或供應商選擇所限。
第三,Microsoft 將把這項工作的成果融入 Microsoft AI、Microsoft Foundry 及 Microsoft Copilot,讓客戶可在自身的安全及合規工具中使用由此取得的證據,不論這些工具來自 Microsoft 還是其他供應商。
KPMG International 全球首席資訊安全官 John Israel 表示:「我們的客戶希望藉助 AI 加快步伐,而他們不應被迫在創新與安全之間作出取捨。對 AI 的信任,需要透明度、可解釋性及負責任的監督。我們很榮幸能與 Microsoft 合作推動 AI 透明度倡議,協助建立適用於整個行業的開放標準,讓機構具備所需的可見性及控制能力,以負責任的方式大規模部署 AI。」
明確責任歸屬
能夠存取數據、工具及憑證的代理,其風險特徵與擁有高權限的內部人員相若,卻以機器的速度及規模運作,因此獨立監督不可或缺。
責任始終由機構承擔。一旦發生重大事件,管理層便須向客戶、員工、董事會、審計人員及監管機構交代。不能以 AI 為由推卸責任,也不能將「相信模型」視為管控措施。
這項倡議旨在適用於不同模型及供應商,包括封閉式模型及開放權重模型。因此,開發團隊可以更換或更新支援代理運作的模型,而不會削弱 IT 及安全團隊對代理實施安全管治的能力,亦不會影響合規團隊審計代理行動的能力。
Accenture 全球網絡安全主管 Harpreet Sidhu 表示:「當機構在利用 AI 重塑業務的過程中邁出下一步時,需要以穩固的信任及信心作為基礎。Microsoft 這類以開放、由行業推動的方式提升 AI 透明度的倡議,有助我們保障 AI 模型安全,並為其建立管控及管治機制。Accenture 很榮幸能與 Microsoft 及這個領域的其他領導企業合作。」
看清、驗證、管控
Microsoft 相信,每家機構都應能看清 AI 系統存取甚麼及執行甚麼工作、獨立驗證其行動,並管控其獲准執行的工作。
- 看清: 清楚知道 AI 被要求及獲授權執行甚麼工作、使用了哪個模型及執行環境、存取了哪些數據及工具,以及採取了哪些行動。持續依據政策及門檻值,監察代理的活動及風險訊號。
- 驗證: 代理對自身行為的描述,不能作為判斷事實的唯一依據;亦不能依賴前沿模型進行自我管治。涵蓋代理身份、受託任務目的及行動的證據,應註明其來源,包括模型、模型所在的執行環境,或身份管理及政策管理等獨立系統,以便將模型自行回報的訊號與獨立觀察所得的記錄互相核對。機構應能透過自身的安全及合規系統,獨立驗證 AI 活動,而毋須單憑模型供應商對模型行為的描述。
- 管控: 始終掌握 AI 的行動權限。清楚反映每項工作流程的目的、負責人、所用數據及獲授予權限的證據,有助機構在可能產生重大影響的行動發生前執行政策,並在調查、遏制、復原及審計過程中還原事件經過。即使更換模型或供應商,機構亦應繼續保有這些證據。不論使用哪個模型或供應商,機構都應保留控制權,決定其代理可以存取哪些數據,以及如何管治這些存取權限。
參與倡議
有意協助制定倡議方向或了解其進展的機構,可瀏覽 aka.ms/learnmoreAItransparency 了解詳情及登記。
請關注 Microsoft Ignite 的最新消息,Microsoft 及行業領袖將在活動中分享見解,探討機構如何充滿信心地管理 AI 模型及代理。更多資訊可參閱 Microsoft Security 網誌。






