# llmops
標記為「llmops」的 30 篇文章
LLMOps 安全評估
評估涵蓋model deployment 安全、monitoring、CI/CD pipeline hardening、operational threats。
LLMOps 安全評量
以 10 道題目測試你對 MLOps 管線安全、模型部署攻擊、API 安全、監控缺口、模型登錄處投毒與 ML 之 CI/CD 的理解。
進階 A/B 測試利用
操弄 A/B 測試框架使模型選擇偏向較不安全的變體，或引入對抗性的模型候選。
A/B 測試的安全意涵
AI 模型 A/B 測試的安全意涵,包括利用差異化行為進行攻擊的手法。
AI 可觀測性與安全
使用可觀測性平台偵測 AI 系統行為中的安全異常。
藍綠部署攻擊
利用藍綠與 canary 部署策略以操弄流量路由，強制部署遭入侵的模型版本。
AI 模型的金絲雀部署
Implementing canary deployments that catch security regressions in AI model updates.
持續訓練安全
保護持續學習與線上學習系統免於對抗性資料注入與模型漂移操弄。
部署管線攻擊
完整分析 ML 部署管線中的攻擊向量，包括建置系統入侵、產物篡改與部署操弄。
端點監控策略
為模型服務端點建置完整監控，以即時偵測攻擊、異常與漂移。
AI 系統的 Feature Flag 操弄
攻擊 feature flag 系統以改變 AI 系統行為、啟用隱藏能力或停用生產環境的安全控制。
特徵儲存的安全
保護 ML 管線中的特徵儲存,防範投毒與未授權存取。
LLMOps 安全
LLMOps 生命週期各階段安全的完整概覽：從資料準備、實驗追蹤到模型部署與生產監控。涵蓋 ML 營運的攻擊面、威脅模型與防禦策略。
推論成本攻擊
透過對抗性輸入構造與 API 濫用，利用推論成本動態造成財務損害的攻擊。
Kubernetes ML Operator 安全
針對 Kubernetes-based ML operator（KServe、Seldon、Ray）的安全分析，包括權限提升、資源操弄與跨租戶攻擊。
ML 實驗追蹤安全
保護 MLflow、Weights & Biases、Neptune 等實驗追蹤系統。
MLflow 安全評估
MLflow 部署的安全評估，涵蓋追蹤伺服器漏洞、產物儲存利用與模型註冊表攻擊。
模型部署安全
將 LLM 部署到生產環境的安全最佳實務。
模型閘道攻擊
利用模型閘道與路由基礎架構以改道請求、攔截回應或操弄模型選擇邏輯。
模型閘道安全模式
集中式模型閘道部署的安全模式,包括認證、授權與稽核。
模型監控安全指標
部署後 LLM 應監控的關鍵安全指標與告警門檻。
模型回滾安全
模型回滾程序的安全意涵,包括暴露窗口與狀態一致性。
模型服務安全強化
保護模型服務基礎架構的最佳實務，包括端點強化、認證、速率限制與輸出驗證。
模型遙測投毒
操弄模型遙測與可觀測性資料以隱匿攻擊、製造誤報或削弱監控有效性。
模型版本控管安全
保護模型版本管理,包含回滾安全與版本驗證。
提示詞管理安全
保護提示詞模板、系統提示詞與提示詞管理基礎架構。
提示詞模板版本控管安全
保護提示詞模板的版本管理,抵禦未授權修改與注入。
提示詞版本攻擊
利用提示詞管理與版本系統，將對抗性系統提示詞注入生產部署。
回滾攻擊向量
利用模型回滾機制以強制部署已知脆弱版本或破壞服務可用性。
影子模型偵測
偵測並防範繞過安全控制與合規要求的未授權影子模型部署。