外部資源
精選的 AI 紅隊與大型語言模型安全相關框架、工具、社群與研究集合。所有連結指向由各組織維護的外部資源。
框架與標準
紅隊工具
社群與組織
- AI VillageDEF CON 的 AI 安全社群
- OWASP GenAIOWASP 的生成式 AI 安全專案
- HuntrProtect AI 的 AI/ML 漏洞賞金平台
- ML Security DiscordML 安全研究人員社群
漏洞資料庫與事件追蹤
研究與部落格
漏洞賞金計畫
- Huntr專注 AI/ML 的漏洞賞金平台
- OpenAI Bug BountyOpenAI 漏洞揭露
- Anthropic Bug BountyAnthropic 責任揭露計畫
- Google AI Bug BountyGoogle 漏洞獎勵
認證與訓練
- AIRTP+AI 紅隊專業認證
- OWASP AI Security TrainingOWASP 的 AI 訓練
- SANS AI Security coursesSANS Institute 的 AI 課程