雲端 AI 平台導覽
在主要雲端平台上紅隊演練 AI 系統的動手導覽：AWS Bedrock、Azure OpenAI、Google Vertex AI 與 Hugging Face Hub。
AI 模型很少獨立運行。在生產中，它們透過雲端平台服務部署，這些服務在基礎模型之上加入認證、內容過濾、速率限制、日誌記錄與編排層。這些平台層既是防禦面也是攻擊面。對原始模型 API 有效的提示詞注入可能被平台層級內容過濾封鎖，但同一平台可能透過設定錯誤的 IAM 政策、過度寬鬆的知識庫存取或不安全的預設設定引入新漏洞。
本節提供平台特定導覽，涵蓋完整工作流程：配置存取、理解平台安全模型、測試平台層級護欄，以及識別僅模型評估會遺漏的平台特定設定錯誤。
為何平台特定測試重要
透過雲端平台測試模型與直接測試同一模型在數個重要方面不同：
認證與授權。 雲端平台以 IAM 政策、API 金鑰、受管理身份與服務帳戶包裹模型存取。設定錯誤的存取控制可將模型暴露給未授權使用者或對授權使用者授予過度權限。
內容過濾。 每個主要平台提供介於使用者與模型之間的可設定內容過濾。這些過濾器有自己的繞過技術、誤報率與設定陷阱。
資料整合。 平台透過知識庫（Bedrock）、資料儲存（Vertex AI）與檔案搜尋（Azure OpenAI）將模型連接至企業資料。這些整合建立在隔離測試模型時不存在的資料外洩與注入攻擊面。
日誌與監控。 平台日誌可以幫助也可以阻礙紅隊演練。理解什麼被記錄（以及什麼沒有）對真實評估至關重要。
平台比較
| 功能 | AWS Bedrock | Azure OpenAI | Vertex AI | Hugging Face |
|---|---|---|---|---|
| 模型存取 | API (Invoke/Converse) | API (Chat/Completions) | API (Predict) | API + 本地推論 |
| 內容過濾 | Guardrails | Content Safety | Responsible AI | 社群 + 自訂 |
| 資料整合 | Knowledge Bases | On Your Data / File Search | Feature Store / RAG | Datasets + Spaces |
| 認證模型 | IAM 角色 + 政策 | Entra ID + RBAC | IAM + 服務帳戶 | API tokens + 組織 |
| 日誌 | CloudTrail + CloudWatch | Azure Monitor + 診斷日誌 | Cloud Logging | 推論 API 日誌 |
| 紅隊難度 | 中階 | 中階 | 中階 | 初階 |
建議方法
對每個平台，遵循此評估序列：
存取與認證審查
驗證存取如何配置。測試過度寬鬆的 IAM 政策、洩漏的憑證與設定錯誤的服務帳戶。判斷模型端點是否暴露超出其預期受眾。
內容過濾器評估
描繪平台的內容過濾設定。以設定閾值測試每個過濾器類別。識別平台過濾實作特有的繞過技術。
資料整合測試
如果模型連接知識庫、檔案儲存或資料庫，測試透過模型的資料外洩、透過連接資料來源的注入，以及對預期範圍外資料的未授權存取。
模型層級測試
透過平台層執行標準模型層級攻擊（提示詞注入、越獄、資料萃取）。與直接模型存取比較結果以理解平台封鎖什麼與什麼到達模型。
日誌與偵測規避
審查平台對你測試活動的日誌記錄。識別哪些攻擊模式在日誌中可見，哪些規避偵測。這為紅隊報告與客戶監控策略兩者提供資訊。
導覽索引
- AWS Bedrock 導覽 — 模型呼叫、護欄測試、知識庫利用與 CloudTrail 分析
- Azure OpenAI 導覽 — 部署測試、內容過濾繞過、受管理身份利用與 prompt flow 評估
- Vertex AI 導覽 — 預測端點測試、Model Garden 評估與 Feature Store 探測
- Hugging Face Hub 導覽 — 模型評估、惡意模型掃描與 Transformers 函式庫測試