# simulation
標記為「simulation」的 57 篇文章
實驗室: Simulated Robot Control 利用ation
Hands-on lab exercises exploiting LLM-controlled robots in simulation: environment setup, injection attacks, safety bypass testing, and multi-step exploitation chains using PyBullet.
Production Environment Simulation 實驗室
測試attacks 對抗 a simulated production environment with realistic logging,monitoring,alerting.
實驗：AI 事件回應模擬
透過模擬的提示注入事件，搭配升級與圍堵流程，演練 AI 事件回應程序。
完整案件模擬
端對端紅隊案件模擬，複製真實世界 AI 安全評估，從範圍界定到報告交付。
模擬：代理式工作流程完整案件
針對具程式碼執行、檔案存取與 API 整合能力之多工具 AI 代理的專家級紅隊模擬。
模擬：自主 AI 代理紅隊
針對具工具存取、檔案系統權限與網際網路連線之自主 AI 代理之紅隊委任模擬。測試權限提升、未授權動作與目標劫持。
模擬:AI 漏洞賞金
在模擬 AI 漏洞賞金計畫中尋找並回報漏洞,練習專業的漏洞揭露與具賞金資格的報告撰寫。
Simulation: Build & Defend a Chatbot
防禦 simulation where you build a chatbot with layered defenses, test it against a standardized attack suite, measure defense effectiveness, and iterate on weaknesses.
模擬：客戶聊天機器人紅隊
針對客戶服務聊天機器人的完整紅隊案件模擬，涵蓋提示詞注入、資料洩漏與政策違規測試。
模擬：程式碼助理安全審查
針對 AI 程式碼助理的紅隊模擬，測試程式碼注入、憑證洩漏、供應鏈投毒與不安全程式碼生成。
程式碼審查助理評估
測試程式碼審查 AI 的漏洞,包括程式碼分析、建議產生與儲存庫存取。
客服代理紅隊演練
對具訂單系統、退款與客戶資料工具存取之客服代理進行紅隊演練。
Simulation: 防禦 in Depth
專家-level defense simulation implementing a full defense stack including input filter, output monitor, rate limiter, anomaly detector, and circuit breaker, then measuring effectiveness against automated attacks.
教育 AI 家教評估
評估 AI 家教系統的內容安全、答案操控與學生資料暴露。
模擬：RAG 管線投毒
針對以 RAG 為本之知識管理系統之紅隊委任模擬，涵蓋 embedding 注入、文件投毒、檢索操弄與知識庫外洩。
Simulation: Enterprise Chatbot Engagement
Full red team engagement simulation targeting a customer-facing chatbot deployed by a fictional e-commerce company, covering reconnaissance, prompt injection, data exfiltration, and PII harvesting.
Simulation: Financial AI Platform
專家-level red team engagement simulation targeting a fictional fintech AI-powered financial advisor, covering API mapping, advice manipulation, credential extraction, and regulatory impact assessment.
FinTech 聊天機器人安全評估
對處理敏感交易之金融服務聊天機器人進行完整安全評估。
Simulation: Government AI Portal
Red team engagement simulation targeting a public-facing government benefits chatbot, covering reconnaissance, benefits fraud assistance, PII harvesting, bias exploitation, and remediation recommendations.
Simulation: Guardrail Engineering
防禦 simulation where you design and implement a multi-layer guardrail system, test it against progressively sophisticated attacks, and document false positive/negative rates.
模擬：醫療 AI 安全評估
專家級模擬，評估臨床決策支援 AI 的安全違規、資料洩漏與醫療建議操控。
醫療診斷 AI 評估
評估醫療診斷 AI 的安全關鍵漏洞與資料隱私合規性。
Simulation: Healthcare AI System
專家-level red team engagement simulation targeting a clinical decision support system, covering HIPAA-scoped threat modeling, diagnostic manipulation, patient data extraction, and treatment recommendation poisoning.
法律 AI 文件審閱評估
評估合約審閱之法律 AI 系統,檢視文件處理與權限提升漏洞。
模擬：法律 AI 紅隊
針對 AI 驅動之法律研究與合約分析平台之紅隊委任模擬，涵蓋引用幻覺、特權洩漏與對抗條款注入。
Simulation: AI SOC Simulation
防禦 simulation where you set up monitoring for an AI application, then respond to simulated attacks by practicing alert triage, investigation, and escalation procedures.
多代理工作流程評估
對透過 A2A 協定溝通之專業代理組成的多代理系統進行紅隊演練。
模擬：多模態應用程式評估
針對同時處理圖片與文字之應用程式的紅隊模擬，測試視覺注入、跨模態攻擊與多模態越獄。
Simulation: Open Source AI Project Audit
安全 audit simulation for an open-source AI application, covering code review, dependency analysis, model supply chain verification, and deployment configuration review.
模擬：企業 RAG 安全評估
完整案件模擬，評估企業 RAG 驅動的知識庫以偵測投毒、外洩與注入漏洞。
Simulation: Red vs Blue
Competitive exercise where teams alternate between attacking and defending an AI application, scoring points for successful attacks and effective defenses.
模擬:SaaS AI 產品
針對具 AI 驅動文件分析、搜尋與自動化功能之 B2B SaaS 平台進行紅隊委任模擬,涵蓋多租戶隔離、API 安全與跨租戶資料外洩。
模擬:新創 AI 評估
以有限範圍與預算對新創之 AI 驅動產品進行紅隊演練,在徹底程度與時間約束之間作務實權衡。
模擬：AI 供應鏈攻擊調查
調查並回應影響 AI 系統之模型權重、訓練資料管線與第三方依賴之供應鏈受損。
AI 供應鏈流水線評估
評估從資料擷取到模型部署之完整 ML 流水線,檢視供應鏈攻擊。
模擬：語音助理紅隊
針對部署於智慧家庭平台之 AI 語音助理之紅隊委任模擬，涵蓋音訊型提示注入、喚醒詞利用，以及隱私外洩。
自動化滲透測試代理評估
評估 AI 驅動的自動化滲透測試代理,檢視範圍違反、未授權動作與資料處理。
自動駕駛車輛規劃 AI 評估
透過對抗性情境注入,評估自動駕駛車輛規劃 AI 的安全邊界。
內容審核 AI 平台評估
評估 AI 內容審核系統的繞過技巧、漏報利用與偏見。
客戶資料平台 AI 評估
對整合客戶資料平台(處理 PII、行為資料與分群)之 AI 系統進行紅隊演練。
網路威脅情報 AI 評估
對處理 IOC、威脅報告與攻擊歸因之網路威脅情報 AI 進行紅隊演練。
資料分析 Copilot 評估
對具 SQL 產生能力、可存取企業資料庫之資料分析 Copilot 進行紅隊演練。
DevOps AI 助理安全評估
評估可存取 CI/CD 流水線、雲端基礎設施與部署系統之 DevOps AI 助理。
企業知識管理 AI 評估
評估具角色存取控制、文件權限與多租戶隔離之企業知識管理系統。
政府服務聊天機器人評估
對可存取稅務記錄、福利與身分資訊之政府公民服務聊天機器人進行紅隊演練。
AI 驅動事件回應系統評估
對 SOC 環境中可存取 SIEM、EDR 與工單系統之 AI 事件回應系統進行紅隊演練。
保險理賠機器人安全評估
對可存取保單與理賠資料之保險理賠處理聊天機器人進行完整安全評估。
法律合約審閱 AI 評估
對 AI 合約審閱系統進行紅隊演練,檢視律師—客戶特權違反、文件注入與幻覺條款。
醫療分流聊天機器人評估
對醫療分流聊天機器人進行紅隊演練,檢視危險醫療建議、資料暴露與安全關鍵失效。
多代理研究團隊評估
評估由研究員、撰寫者與審閱者代理組成、透過 A2A 協定溝通之多代理研究團隊。
房地產估價 AI 評估
評估 AI 房地產估價系統,檢視物業估值操控與資料暴露。
AI 招募助理評估
對篩選履歷、安排面試並存取候選人資料之 AI 招募助理進行紅隊演練。
智慧家庭 AI 助理評估 (模擬)
評估透過工具整合控制燈光、門鎖、攝影機與溫控之智慧家庭 AI 助理。
供應鏈最佳化 AI 評估
評估 AI 供應鏈最佳化系統,檢視需求預測與路徑決策的操控風險。
AI 交易助理安全評估
對可存取投資組合資料與下單執行之 AI 交易助理進行安全評估。
旅遊訂房代理紅隊演練
對可存取付款系統、會員計畫與個人資料之旅遊訂房 AI 代理進行紅隊演練。
實作:攻擊聯邦學習
動手實作實驗,在使用 Flower 框架模擬的聯邦學習環境中實作模型投毒攻擊:拜占庭攻擊、模型替換,並量測攻擊影響。