# observability
標記為「observability」的 11 篇文章
AI 系統記錄分析
為鑑識調查之 AI 系統記錄架構:推論記錄、提示與 completion 記錄、工具呼叫軌跡、embedding 查詢記錄,與記錄基礎設施要求。
雲端 AI 日誌與監控
為雲端 AI 部署實作完整日誌與監控,涵蓋 API 呼叫、資源使用與異常偵測。
AI 監控與可觀測性
於 AI 系統監控什麼、為偵測濫用與漂移之關鍵指標、警報策略,與 LLM 應用之可觀測性架構。
執行時監控與異常偵測
於生產中監控 LLM 應用之 token 使用異常、輸出模式偵測、行為漂移,並使用如 Langfuse、Helicone 與自訂記錄之工具。
AI 基礎設施的可觀測性
AI 基礎設施的可觀測性與監控,包含日誌、指標與追蹤的安全意涵。
透過遙測資料的 AI 外洩
透過 AI 系統遙測資料的資料外洩技術,包含日誌洩漏、指標通道與追蹤資料。
AI 可觀測性與安全
使用可觀測性平台偵測 AI 系統行為中的安全異常。
模型遙測投毒
操弄模型遙測與可觀測性資料以隱匿攻擊、製造誤報或削弱監控有效性。
Production Monitoring for LLM 安全 Events
導覽 for building production monitoring systems that detect LLM security events in real time, covering log collection, anomaly detection, alert configuration, dashboard design, and incident correlation.
AI Monitoring Setup
Step-by-step walkthrough for implementing AI system monitoring: inference logging, behavioral anomaly detection, alert configuration, dashboard creation, and integration with existing SIEM platforms.
Langfuse Observability 導覽
Complete walkthrough for using Langfuse to monitor AI applications for security anomalies: setting up tracing, building security dashboards, detecting prompt injection patterns, and creating automated alerts.