背景介紹：潛伏代理後門的威脅與挑戰
隨著大型語言模型（Large Language Models, LLMs）在企業與組織中廣泛應用，供應鏈安全成為安全專家關注的重點。這些來自第三方的模型常具備開放權重，進而產生潛在風險，即被植入“潛伏代理”（sleeper agent）後門的可能性。這些後門在未被觸發前不顯現，其內部結構會隱藏記憶洩漏（memory leaks）及特殊注意力模式，是難以透過常規掃描發現的惡意程式碼。
面對未知觸發器及預期行為，如何精準識別這類“中毒模型”成為迫切的研究課題。
Microsoft 團隊提出的新型掃描方法
2024年，Microsoft 研究人員開發出一套創新的掃描技術，能夠在未得知觸發條件或結果的前提下，偵測潛入模型的後門。此方法透過分析模型的內部注意力結構與記憶狀態，尋找異常的模式與記憶洩漏跡象，簡化了潛在後門檢測流程，並提高判斷精準度。
技術核心與影響
- 供應鏈安全性提升：新方法可作為第三方模型評估標準，強化在引入外部 LLM 時的安全防護。
- 不依賴 trigger 信息：突破傳統後門檢測必須知道觸發器和行為的限制，增加了防禦靈活性。
- 內部模式異常分析：著重鏈路記憶洩漏及注意力分佈的異常，這些是傳統靜態分析難以察覺的特徵。
產業意義與未來展望
此技術發布代表著大型 AI 模型安全治理的一大步。隨著 LLM 成為眾多商業解決方案的基石，供應鏈中毒風險不容忽視。Microsoft 的研究成果為業界提供了篩查後門模型的有效工具，促進安全透明及可信賴的 AI 生態系統構建。未來，結合此掃描技術與動態行為監控將能進一步削弱潛伏後門的威脅。
欲瞭解更多AI安全最新動態，請瀏覽：https://www.okx.com/join?channelId=16662481
