# pipeline
標記為「pipeline」的 31 篇文章
Haystack 管線利用
Haystack 管線框架的利用技術，包括管線節點注入、檢索元件投毒以及文件儲存操縱。
訓練管線安全模擬測驗
模擬測驗涵蓋資料投毒、RLHF 利用、微調攻擊、供應鏈 risks。
技能驗證: 訓練管線安全
Skill verification的資料投毒、RLHF 利用、微調攻擊技巧。
Vertex AI 攻擊面
為 Vertex AI 之紅隊方法論：預測端點濫用、自訂訓練安全缺口、特徵儲存投毒、模型監控逃避與管線利用。
CI/CD 程式碼生成風險
CI/CD 管線中 AI 生成程式碼的安全風險,包括自動合併攻擊、測試生成操縱與管線注入。
載荷產生管道
打造自動化管道產生、突變與測試提示詞注入載荷。
持續自動化紅隊（CART）
為持續 AI 安全驗證設計 CART 管線：架構、測試套件、遙測、警報、回歸偵測與 CI/CD 整合。
紅隊基礎設施與工具
AI 紅隊 C2 框架、自動化攻擊管線、自製掃描器開發，以及與 Cobalt Strike、Mythic、Sliver 的整合。
ML 管線安全
ML 管線的端對端安全,涵蓋資料擷取、訓練、驗證、部署與監控。
ML 管線供應鏈安全
ML 管線供應鏈的安全,包含相依性掃描、模型來源與 SBOM。
Lab: Multimodal Attack Pipeline
建構 an automated multimodal attack pipeline that generates 對抗性 images, combines them with text prompts, and tests against vision-語言模型 (VLMs).
實作：ML 流水線投毒
Compromise an end-to-end machine learning pipeline by attacking data ingestion, preprocessing, training, evaluation, and deployment stages. 學習 to identify and exploit weaknesses across the full ML lifecycle.
實驗室:自動化紅隊流水線
動手實驗室,主題為building a continuous AI red team testing pipeline using promptfoo,GitHub Actions,automated attack generation to catch safety regressions before deployment.
Multi-模型 流水線 攻擊 實驗室
攻擊 a pipeline where multiple models process data sequentially,exploiting trust between pipeline stages.
AI 供應鏈流水線評估
評估從資料擷取到模型部署之完整 ML 流水線,檢視供應鏈攻擊。
部署管線攻擊
完整分析 ML 部署管線中的攻擊向量，包括建置系統入侵、產物篡改與部署操弄。
持續訓練管道攻擊
透過串流資料操弄,利用持續學習與線上訓練管道。
指令調校資料操弄
操弄指令調校資料集,在產生的模型中嵌入特定行為。
知識蒸餾安全
知識蒸餾的安全意涵,包括能力萃取與安全對齊轉移。
模型合併安全分析(訓練管道)
模型合併技術的安全分析,以及漏洞透過合併模型的傳播。
偏好資料投毒(訓練管道)
投毒 RLHF 與 DPO 使用的偏好資料,將模型對齊推向攻擊者目標。
RLHF 管道利用
利用獎勵模型訓練、偏好資料收集與 RLHF 優化迴圈。
合成資料管道攻擊(訓練管道)
攻擊用於模型訓練與資料增強的合成資料產生管道。
訓練資料來源攻擊
攻擊訓練資料來源與歸因系統,植入未驗證的資料來源。
批次處理注入詳解
Inject payloads through batch processing pipelines where individual items are processed without isolation.
Multi-Layer Input Validation
Step-by-step walkthrough for building a defense-in-depth input validation pipeline that combines regex matching, semantic similarity, ML classification, and rate limiting into a unified validation system for LLM applications.
Output Filtering Pipeline Design
Design and implement a multi-stage output filtering pipeline for LLM applications.
安全的 RAG 管線架構
建構安全的 RAG 管線，具備文件淨化、取回驗證與抗注入的增強。
Building an Output Scanning Pipeline
Build a production output scanning pipeline that detects data leakage, harmful content, and injection artifacts.
Full 演練: Document Processing Pipeline
Full engagement of an AI document processing pipeline handling invoices, contracts, and compliance documents.
Setting Up Continuous AI 紅隊ing Pipelines
導覽 for building continuous AI red teaming pipelines that automatically test LLM applications on every deployment, covering automated scan configuration, CI/CD integration, alert thresholds, regression testing, and dashboard reporting.