LLMOps 安全評量
中級3 分鐘閱讀更新於 2026-03-16
以 10 道題目測試你對 MLOps 管線安全、模型部署攻擊、API 安全、監控缺口、模型登錄處投毒與 ML 之 CI/CD 的理解。
LLMOps 安全評量
本評量評估你對 LLMOps 與 MLOps 管線中安全風險的知識。主題包括模型部署安全、API 閘道強化、監控盲點、模型登錄處投毒、ML 系統的 CI/CD 管線攻擊與安全模型服務實務。在嘗試本評量之前,你應熟悉 ML 部署工作流程與基礎設施。
Knowledge Check
公司使用模型登錄處(如 MLflow 或 Hugging Face Hub)管理用於生產部署的模型版本。對此登錄處最危險的攻擊向量為何?
Knowledge Check
在 ML 模型的 CI/CD 管線中,使用 pickle 序列化模型工件的安全風險為何?
Knowledge Check
攻擊者針對 LLM 服務 API 最常利用的監控缺口為何?
Knowledge Check
組織透過帶 API 金鑰的 REST API 暴露其 LLM。紅隊員發現 API 沒有速率限制。除了拒絕服務之外,主要安全風險為何?
Knowledge Check
在推論伺服器的環境變數中儲存模型服務配置(系統提示詞、安全過濾器、溫度設定)的安全風險為何?
Knowledge Check
在對 ML 管線進行紅隊評估期間,你發現模型訓練任務以與生產推論服務相同的 IAM 角色執行。為何這是關鍵發現?
Knowledge Check
偵測已部署模型是否被替換為後門版本的最有效方式為何?
Knowledge Check
公司的 LLM API 閘道透過檢查提示詞長度與阻擋已知惡意字串清單執行輸入驗證。為何這作為主要防禦不足?
Knowledge Check
與傳統軟體 CI/CD 相比,LLMOps 獨有的供應鏈風險為何?
Knowledge Check
你正在稽核 LLM 推論服務的 Kubernetes 部署。Pod 以 root 執行、掛載主機 Docker socket,且沒有網路政策。應將哪個發現排序為最高嚴重度?
概念摘要
| 概念 | 描述 | 風險等級 |
|---|---|---|
| 模型登錄處投毒 | 上傳後門化模型到部署管線 | 嚴重——生產入侵 |
| Pickle 反序列化 | 透過模型檔案載入的任意程式碼執行 | 嚴重——任何載入器上的 RCE |
| 語意監控缺口 | 缺少輸出分析啟用靜默行為變化 | 高——未偵測的操縱 |
| 模型萃取 | 透過無限制 API 查詢竊取模型 IP | 高——智慧財產竊取 |
| 配置暴露 | 透過環境變數洩漏的系統提示詞與過濾器 | 高——啟用針對性繞過 |
| IAM 角色共享 | 管線階段間的隔離不足 | 高——橫向移動 |
| 權重供應鏈 | 來自不受信任來源的不透明模型工件 | 嚴重——無法稽核的相依套件 |
評分指南
| 分數 | 等第 | 下一步 |
|---|---|---|
| 9-10 | 優秀 | 強的 LLMOps 安全知識。進入 衝擊評量。 |
| 7-8 | 熟練 | 檢視錯題並重溫 ML 管線安全教材。 |
| 5-6 | 發展中 | 多花時間在 MLOps 部署與基礎設施安全上。 |
| 0-4 | 需要複習 | 從頭研讀 ML 部署管線、容器安全與 API 強化。 |
研讀檢查清單
- 我了解模型登錄處投毒及其對部署管線的衝擊
- 我能解釋 ML 管線中 pickle 反序列化的危險
- 我了解 LLM 服務 API 中的語意監控缺口
- 我能描述模型萃取攻擊與速率限制防禦
- 我知道透過環境變數配置暴露的風險
- 我能解釋 ML 管線的 IAM 分段要求
- 我了解模型權重相依套件獨有的供應鏈風險
- 我能評估推論工作負載的 Kubernetes 安全錯誤配置
- 我知道如何偵測被替換或後門化的已部署模型
- 我能評估超越基於字串阻擋清單的 API 閘道防禦