# model-serving
標記為「model-serving」的 8 篇文章
DNS 重綁定對 AI 服務的攻擊
針對 AI 服務的 DNS 重綁定攻擊,包含本地 LLM 伺服器、MCP 服務與開發環境。
模型服務框架比較
主要模型服務框架(Triton、TorchServe、TF Serving、vLLM、Ray Serve)的安全比較。
模型服務基礎設施攻擊
模型服務基礎設施的攻擊,包含推論劫持、請求走私與資源耗盡。
Triton Inference Server 安全
NVIDIA Triton Inference Server 的安全強化,包含模型儲存庫、網路與 API 安全。
Lab: Model Serving Framework Attacks
Exploit vulnerabilities in TensorFlow Serving, TorchServe, and Triton Inference Server, targeting model loading, API endpoints, and management interfaces.
模型服務安全
模型服務基礎設施的安全強化——涵蓋 vLLM、TGI、Triton 推論伺服器設定、API 安全、資源隔離與部署最佳實務。
GCP Vertex AI 安全 Testing
End-to-end walkthrough for security testing Vertex AI deployments on Google Cloud: endpoint enumeration, IAM policy analysis, model serving exploitation, pipeline assessment, and Cloud Audit Logs review.
Replicate API 安全 Testing
End-to-end walkthrough for security testing models on Replicate: model enumeration, prediction API exploitation, webhook security, Cog container assessment, and billing abuse prevention.