# supply-chain
標記為「supply-chain」的 88 篇文章
代理供應鏈攻擊
透過被投毒的套件、被植入後門的 MCP 伺服器、惡意模型註冊表與武器化的代理框架攻陷 AI 代理——包含 Postmark MCP 入侵事件與 NullBulge 攻擊行動。
MCP 供應鏈安全:防禦被植入後門的 MCP 套件
以防禦為核心的 MCP 套件供應鏈安全指南——分析 Postmark MCP 入侵、理解惡意 MCP 伺服器如何散布,並實作套件驗證、依賴掃描與政策強制。
AI 供應鏈事件回應
針對 AI 供應鏈妥協的事件回應程序,涵蓋模型倉儲、訓練管線與相依鏈。
模型竄改偵測
偵測模型檔案竄改:權重雜湊驗證、架構驗證、適配器檢查、量化驗證,以及供應鏈完整性檢查。
模型入侵事件回應手冊
回應被入侵 AI 模型的手冊:隔離程序、替換策略、供應鏈調查、重新訓練考量與完整性復原。
訓練資料來源鑑識
追蹤用於機器學習模型之訓練資料的來源、族譜與完整性的鑑識技術。
模擬測驗 3:專家紅隊
涵蓋研究技巧、自動化、微調攻擊、供應鏈安全與事件回應的 25 題專家級模擬測驗。
基礎設施安全評量
以 10 道中級題目測試你對 AI 基礎設施安全的知識，包括模型服務、API 安全、部署架構與供應鏈風險。
Model 供應鏈評估
評估涵蓋model provenance、checkpoint manipulation、third-party model risks。
Capstone:開源模型安全稽核
Capstone 演練:對開源模型(Llama、Mistral、Qwen)的權重、微調與部署進行完整安全稽核。
Capstone:供應鏈 AI 安全
AI 驅動供應鏈優化的紅隊評估,涵蓋資料投毒、決策操弄與營運中斷。
Capstone:供應鏈安全工具
Capstone 專案:打造 AI/ML 供應鏈安全工具,驗證模型權重、資料集與依賴的完整性與來源。
案例研究:GitHub Copilot 程式碼注入
透過惡意儲存庫內容對 GitHub Copilot 進行提示詞注入漏洞的分析。
案例研究:Copilot 漏洞產生
分析 GitHub Copilot 與 AI 程式助理產生不安全程式碼,對開發者與供應鏈造成的衝擊。
案例研究:LangChain RCE CVE
LangChain CVE(CVE-2023-29374、CVE-2023-44467 等)的分析,展示 LLM 工具鏈不受限程式碼執行的風險。
案例研究:Codex 模型投毒
對 GitHub Codex/Copilot 等程式模型透過 repository 注入的訓練期投毒分析。
雲端 AI 模型市集風險
使用公有雲 AI 模型市集(AWS Marketplace、Azure Model Catalog、HuggingFace)的供應鏈與信任風險。
雲端模型 Registry 安全
雲端模型 registry 的安全,包括 SageMaker Model Registry、Azure ML Registry 與 Vertex AI Model Registry。
Model Garden 風險
自 GCP Model Garden 部署模型之安全風險：第三方模型信任、模型來源驗證、自未受信任來源之部署，與供應鏈攻擊向量。
AI 生成的相依性混淆
利用 LLM 對套件名稱產生幻覺的傾向進行相依性混淆攻擊。
IDE 擴充攻擊
IDE 擴充的攻擊面分析：惡意擴充、擴充對擴充通訊、遙測外洩，以及工作區信任利用。
AI 程式設計助理
AI 程式設計助理的安全版圖——涵蓋 GitHub Copilot、Cursor、Claude Code 與其他工具的攻擊面、供應鏈風險與安全評估方法。
Supply Chain Risks in AI Code Generation
Analysis of supply chain attack vectors introduced by AI code generation tools, including dependency confusion, typosquatting, and training data poisoning.
相依性建議攻擊
操縱 AI 對套件相依性的建議,以引入惡意或幻覺套件。
程式碼生成安全
AI 程式設計助理如何透過建議投毒、訓練資料萃取、不安全程式碼生成與 IDE 擴充功能風險引入安全漏洞。
LLM-Generated Dockerfile 安全
Analyzing security vulnerabilities commonly introduced by AI-generated Dockerfiles and container configurations.
程式碼建議投毒
透過訓練資料投毒與推論期上下文操控來操控 AI 程式設計助理建議的攻擊概覽。
針對程式碼模型的訓練資料攻擊
對程式碼生成模型的訓練資料投毒：將漏洞模式植入熱門儲存庫、經由建議達成相依性混淆，以及特洛伊程式碼模式。
儲存庫上下文投毒
透過投毒儲存庫上下文來影響 AI 程式助理的行為。
2026 年 7 月：供應鏈稽核挑戰
稽核某 ML 專案的完整供應鏈安全問題，涵蓋依賴、模型來源、資料管線、訓練基礎設施與部署工件。
資料來源攻擊
針對資料來源追蹤與驗證系統的攻擊,含供應鏈操縱。
Data Provenance and Lineage
Tracking data through ML pipelines, detecting contamination, verifying data integrity, and implementing provenance systems for training data security.
對微調資料集投毒
將後門觸發植入微調資料集、規避內容過濾的乾淨標籤投毒，以及跨資料集規模的攻擊擴展——對抗性訓練資料如何危害模型行為。
惡意配接器注入
攻擊者如何製作含後門的 LoRA 配接器、透過模型 hub 散布被投毒配接器,並利用配接器堆疊入侵模型安全——技術、偵測挑戰與真實世界供應鏈風險。
Repository 投毒 for Code 模型s
Techniques for poisoning code repositories to influence code generation models, including training data poisoning through popular repositories, backdoor injection in open-source dependencies, and supply chain attacks targeting code model training pipelines.
程式碼建議投毒（前沿研究）
投毒訓練資料與套件生態系以影響 AI 程式碼建議：不安全模式播種、套件名稱混淆、木馬程式碼注入，與供應鏈風險。
Open-Source Model Governance
Governance frameworks for organizations using open-source AI models including security vetting and supply chain risks.
AI 供應鏈治理
Governance frameworks for managing risks from third-party models, training data, and AI service dependencies.
AI Supply Chain Governance (Governance Compliance)
Governance frameworks for managing AI supply chain risks including model providers, data sources, and integrations.
供應鏈 AI 安全
AI 驅動供應鏈管理、需求預測與物流最佳化系統的安全。
食品安全 AI 威脅
食品安全 AI 的威脅分析,包含供應鏈監控、品質檢驗與召回預測。
AI 供應鏈事件回應
AI 供應鏈事件回應的完整流程,涵蓋偵測、遏制、根除、復原與教訓學習。
AI 供應鏈安全概覽
AI/ML 供應鏈攻擊面的完整概覽,涵蓋模型投毒、資料投毒、相依性攻擊與與 OWASP LLM03:2025 對齊的風險評估框架。
AI 系統的相依性掃描
AI 系統的相依性掃描策略,包含 Python 套件、模型相依性與容器映像。
AI 基礎設施安全
AI 基礎設施安全顧慮的概覽，涵蓋模型供應鏈、API 安全、部署架構，以及 ML 系統的獨特攻擊面。
供應鏈深入分析
AI 供應鏈相依樹之完整分析，涵蓋模型權重、分詞器、資料集、函式庫與基礎設施元件，含稽核方法論。
ML 管線 CI/CD 攻擊
針對 ML CI/CD 管線的攻擊,包含建置注入、Artifact 篡改與部署劫持。
ML 管線安全
ML 管線的端對端安全,涵蓋資料擷取、訓練、驗證、部署與監控。
ML 管線供應鏈安全
ML 管線供應鏈的安全,包含相依性掃描、模型來源與 SBOM。
模型熱載入安全
模型熱載入機制的安全,包含檔案格式漏洞、反序列化與競爭條件。
模型註冊表投毒
針對模型註冊表的投毒攻擊,包含 Typo-squatting、依賴混淆與供應鏈劫持。
模型倉儲安全
模型倉儲(Hugging Face Hub、私人倉儲)的安全考量,包含存取控制、完整性與法遵。
模型序列化攻擊
模型序列化格式的攻擊,包含 Pickle、ONNX、TensorFlow SavedModel 的漏洞。
模型簽章與驗證
模型簽章與驗證機制,包含 Sigstore、模型雜湊與部署時驗證。
模型供應鏈風險
AI 模型供應鏈中的攻擊向量，包括惡意模型檔、pickle 利用、遭入侵的模型登錄檔與相依漏洞。
AI 供應鏈利用
利用 AI/ML 供應鏈的方法論：模型序列化 RCE、相依混淆、資料集投毒、CI/CD 注入與容器逃逸。
AI 供應鏈深度探討
AI 供應鏈安全的深度探討,包含實務案例、檢測工具與成熟防禦實務。
ML 相依性的供應鏈安全
ML 相依性的供應鏈安全,包含套件來源、版本鎖定與漏洞掃描。
訓練資料完整性
訓練資料完整性的保護,包含資料血緣、驗證、投毒偵測與簽章。
特洛伊模型偵測
偵測特洛伊(後門)模型的技術,包含激活分析、觸發器搜尋與模型反演。
Lab: Model Supply Chain Poisoning
Simulate model supply chain attacks by injecting 後門s into model weights distributed through public registries.
Supply Chain Saboteur: Level 2 — Model Registry
Compromise a model registry to inject 後門ed model weights into a deployment pipeline.
CTF: Supply Chain Saboteur
Identify and exploit supply chain vulnerabilities in a model deployment pipeline. Find poisoned models, exploit malicious packages, and compromise the ML infrastructure.
CTF：供應鏈攻擊
尋找並利用 ML 供應鏈漏洞，包括遭入侵相依、被投毒模型、被植後門訓練資料與惡意模型檔。練習 ML 特有的供應鏈安全評估。
供應鏈 Detective: Find the 後門
分析a model pipeline to find where a backdoor was inserted — data,training,or post-processing.
實作：ML 流水線投毒
Compromise an end-to-end machine learning pipeline by attacking data ingestion, preprocessing, training, evaluation, and deployment stages. 學習 to identify and exploit weaknesses across the full ML lifecycle.
Lab: Model Registry Compromise
探索 技術 for compromising model registries and substituting malicious models into production pipelines. 學習 to detect model tampering, verify model provenance, and secure the model supply chain.
實驗室: 供應鏈 Audit
Audit an ML project's dependencies for vulnerabilities,covering model files,Python packages,container images,training data provenance.
實驗室: ML 供應鏈 Scan
動手實驗室,主題為auditing machine learning model dependencies,detecting malicious packages in ML pipelines,scanning model files for backdoors與supply chain threats.
Simulation: Open Source AI Project Audit
安全 audit simulation for an open-source AI application, covering code review, dependency analysis, model supply chain verification, and deployment configuration review.
模擬：AI 供應鏈攻擊調查
調查並回應影響 AI 系統之模型權重、訓練資料管線與第三方依賴之供應鏈受損。
AI 供應鏈流水線評估
評估從資料擷取到模型部署之完整 ML 流水線,檢視供應鏈攻擊。
供應鏈最佳化 AI 評估
評估 AI 供應鏈最佳化系統,檢視需求預測與路徑決策的操控風險。
模型 Signing and Provenance
Cryptographic signing for ML models: Sigstore for ML artifacts, cosign for model weights, SLSA framework applied to ML pipelines, supply chain levels for model provenance, and practical implementation of model artifact verification.
Registry-Specific 攻擊s
攻擊 techniques targeting model registries: version confusion, dependency resolution exploitation, namespace squatting, model aliasing attacks, and practical exploitation of registry trust models.
間接提示詞注入
攻擊者如何在大型語言模型處理的外部資料來源中嵌入惡意指令，無需直接存取模型輸入即可發動攻擊。
模型合併與 LoRA 組合攻擊
利用模型合併技術（TIES、DARE、線性內插）與 LoRA 組合，透過個別無害的模型元件引入後門。
模型供應鏈攻擊
從訓練資料到部署的模型供應鏈攻擊向量全面分析。
模型 Checkpoint 與復原攻擊
Checkpoint 檔案格式漏洞、對 safetensors 與 PyTorch 格式之修改攻擊、checkpoint 投毒、儲存安全，以及供應鏈意涵。
訓練迴圈漏洞
對訓練過程本身之攻擊，含梯度操弄、loss 函式篡改、學習率時程攻擊，與訓練基礎設施受損。
合成資料投毒
透過合成資料產生管道投毒模型訓練的攻擊技術。
訓練 Checkpoint 安全
保護訓練 checkpoint 的完整性與機密性,防止權重竊取與惡意修改。
模型 Hub Supply Chain 攻擊
攻擊ing the ML model supply chain through hub repositories like Hugging Face, including typosquatting, model poisoning, and repository manipulation techniques.
模型 Serialization RCE
Remote code execution through malicious model files using pickle deserialization, safetensors manipulation, and other model serialization format vulnerabilities.
Supply Chain Prompt Injection 詳解
Plant injection payloads in upstream data sources consumed by LLM applications including packages and documentation.
Full 演練: Supply Chain AI Optimizer
End-to-end engagement for a supply chain AI with access to logistics, inventory, and supplier management systems.
Hugging Face 安全 Audit 導覽
Step-by-step walkthrough for auditing Hugging Face models: scanning for malicious model files, verifying model provenance, assessing model card completeness, and testing Spaces and Inference API security.
Hugging Face Hub 紅隊 導覽
導覽 for assessing AI models on Hugging Face Hub: model security assessment, scanning for malicious models, Transformers library testing, and Spaces application evaluation.