# ai-forensics-ir
標記為「ai-forensics-ir」的 23 篇文章
對抗性輸入鑑識
用於辨識、重建與分析針對操縱 AI 系統行為的對抗性輸入的鑑識技術。
AI 蜜罐鑑識
設計與運行 AI 蜜罐以收集威脅情報,並對擷取到的對抗性互動進行鑑識分析。
AI 事件法律考量
組織回應 AI 安全事件時的法律架構、義務與考量,包括證據處理、法規通報與責任歸屬。
AI 事件嚴重性評分
對 AI 資安事件進行嚴重性評分的框架與方法論,整合 NIST AI RMF、MITRE ATLAS 與傳統 CVSS 方法。
AI 紅隊證據蒐集
AI 紅隊演練的系統化證據蒐集方法論,包含成品保存、發現文件化與保管鏈程序。
AI 供應鏈事件回應
針對 AI 供應鏈妥協的事件回應程序,涵蓋模型倉儲、訓練管線與相依鏈。
AI 系統稽核軌跡設計
為 AI 系統設計全面的稽核軌跡,支援鑑識調查、法規合規與事件回應。
AI 系統記憶體鑑識
調查被妥協 AI 系統的記憶體鑑識技術,涵蓋 GPU 記憶體分析、模型權重萃取與執行期狀態復原。
API 金鑰妥協調查
調查 AI API 金鑰妥協事件,涵蓋偵測、範圍評估、使用鑑識與修補程序。
自動化 AI 事件分類
使用基於規則的引擎、異常偵測與 LLM 輔助分類,建構 AI 資安事件的自動化分類系統。
雲端 AI 鑑識:AWS
AWS AI 服務的鑑識調查技術,包含 SageMaker、Bedrock 及相關基礎設施的日誌與證據蒐集。
雲端 AI 鑑識:Azure
Azure AI 服務的鑑識調查技術,包含 Azure OpenAI、Azure ML、Cognitive Services 的診斷日誌與證據蒐集。
深偽鑑識分析
用於偵測、分析與歸因 AI 生成深偽影像、影片與音訊內容的鑑識技術。
微調攻擊鑑識
偵測對語言模型未授權微調修改的鑑識技術,涵蓋安全對齊退化與能力注入。
LLM 對話鑑識
調查 LLM 對話日誌、偵測操縱模式、並從聊天歷史重建攻擊時間線的鑑識分析技術。
LLM 輸出浮水印偵測
偵測、萃取與分析嵌入於 LLM 生成文字中浮水印的技術,用於來源追蹤與鑑識歸因。
模型後門偵測鑑識
偵測、分析與歸因透過訓練階段或訓練後攻擊植入機器學習模型之後門的鑑識技術。
模型漂移鑑識
區分自然模型漂移與故意竄改的鑑識技術,涵蓋統計偵測方法與證據蒐集。
多模型攻擊關聯
對針對組織內多個 AI 模型或系統之協同攻擊進行關聯與分析的技術。
提示詞注入鏈分析
分析跨多步驟 AI 系統的提示詞注入攻擊鏈,包含間接注入傳播、代理式利用與跨系統攻擊關聯。
RAG 投毒鑑識
偵測與分析針對檢索增強生成系統投毒攻擊的鑑識調查技術。
訓練資料來源鑑識
追蹤用於機器學習模型之訓練資料的來源、族譜與完整性的鑑識技術。
向量資料庫鑑識
偵測與調查向量資料庫投毒、未授權修改與資料完整性違規的鑑識分析技術。