# community
標記為「community」的 44 篇文章
AI 漏洞賞金計畫（社群挑戰）
AI 特定漏洞賞金計畫指南，涵蓋範圍、規則與提交最佳實務。
協作研究專案
開放社群參與的 AI 安全主動協作研究專案。
社群基準測試結果
社群提交的跨模型攻擊與防禦效能基準測試結果。
防禦建造者系列
聚焦於打造與測試針對已知攻擊類別防禦機制的社群系列。
事件分析俱樂部
近期 AI 安全事件的社群分析,協作調查與記錄。
AI 安全導師計畫
將資深 AI 安全實務者與新手連結的社群導師計畫。
論文閱讀會摘要
社群閱讀會針對重要 AI 安全研究論文的討論摘要。
社群專案:基準測試套件
社群開發的 LLM 安全評估基準套件,涵蓋注入、外洩、越獄與代理利用等攻擊類別。
社群專案:攻擊資料集策劃
協作社群專案,建立與維護完整、標註良好的提示詞注入攻擊資料集,供訓練偵測模型使用。
社群專案:防禦函式庫
由社群貢獻的可組合防禦元件開源函式庫,具備標準化介面與完整文件。
紅隊聯盟:季度競賽
季度紅隊競賽,具排行榜、排名與漸進難度挑戰。
研究衝刺:新注入技術
聚焦於發掘與記錄新注入技術的社群研究衝刺。
AI 漏洞負責揭露指南
向廠商與大眾負責揭露 AI 安全漏洞的社群指南。
AI 安全工具黑客松
聚焦於打造與改善 AI 安全測試工具的社群黑客松。
社群工具聚光燈系列
每月聚焦社群開發的 AI 紅隊工具及其用法。
社群技術文章展示
精選過去挑戰中出色的社群技術文章,附技術與教訓評註。
會議演講摘要
DEF CON AI Village、Black Hat 與學術場合重要 AI 安全會議演講摘要。
社群挑戰：防禦競技場
建立能存活跨多樣攻擊類別之 100 次自動化攻擊嘗試之 AI 聊天機器人防禦，以阻擋率與可用性保留評分。
社群貢獻:編碼謎題挑戰
社群貢獻的編碼謎題挑戰,練習 Base64、Unicode 走私、同形字等繞過技術。
社群挑戰：Prompt Golf
以儘可能最短之提示達成越獄，以字元計數評分。發展以最大效率繞過安全對齊之最小 payload。
社群貢獻挑戰
如何提交你自己之 AI 安全挑戰至社群，含審查過程、品質標準與貢獻指引。
防禦挑戰:偵測工程
專注於打造提示詞注入偵測系統的挑戰,依真陽性率與假陽性率評分。
防禦挑戰:打造無法突破的護欄
參與者打造須承受自動攻擊套件的護欄系統,依安全性與可用性指標評分。
社群挑戰概觀
如何參與月度 AI 紅隊挑戰、賺取分數、分享結果，並與社群一同成長你之技能。
導師計畫:AI 紅隊培訓
將資深 AI 紅隊成員與新手配對的社群導師計畫,提供結構化學習與動手演練經驗。
月度挑戰:代理獵人
每月挑戰聚焦於發掘與利用代理式 AI 系統的漏洞。
月度挑戰:防禦建造者
每月挑戰打造對特定攻擊技術集最穩健的防禦。
月度挑戰:注入奧運
每月社群挑戰,聚焦於跨多模型的創意提示詞注入技術。
月度競賽:模型破壞者
每月競賽聚焦於發掘針對更新版模型的新越獄技術,採用社群驗證評分。
月度競賽:紅藍對抗
每月一對一競賽,紅隊嘗試突破藍隊建立的防禦,依攻擊複雜度與防禦穩健度評分。
月度競賽:隱匿行動
月度競賽挑戰參與者達成目標的同時,規避日益精密的監控系統偵測。
研究挑戰:攻擊可解釋性
社群研究挑戰,聚焦於以可解釋性與機制分析方法理解特定對抗技術為何成功。
研究挑戰:跨模型轉移
研究導向挑戰,探討對抗技術跨模型家族的可轉移性,並發表成果。
季度 CTF:2026 春季 AI 安全
2026 春季奪旗競賽,涵蓋提示詞注入、代理利用、RAG 投毒與模型萃取挑戰。
季度 CTF:2026 夏季進階威脅
2026 夏季 CTF 聚焦於進階威脅情境,包括供應鏈攻擊、多模型利用與基礎設施入侵。
工具打造黑客松:防禦工具包
協作黑客松,為 LLM 應用打造開源防禦工具,包括護欄、過濾器與監控元件。
工具打造黑客松:鑑識套件
社群黑客松打造 AI 事件調查鑑識分析工具,包括日誌解析器、時間軸重建與歸因輔助。
工具打造黑客松:安全掃描器
社群黑客松聚焦於為 LLM 應用打造自動化安全掃描工具,具新穎偵測能力者有獎。
週挑戰:盲注入系列
一系列無直接輸出回饋的注入攻擊挑戰,迫使參與者發展側通道觀察技術。
週挑戰:防禦逆向工程
每週挑戰中,參與者逆向工程未知防禦機制,找出繞過技術並記錄發現。
週挑戰:編碼挑戰關
每週挑戰系列聚焦於透過創意載荷構造,繞過日益複雜的編碼式防禦。
週 CTF:越獄系列
每週越獄挑戰,每週使用新模型與新防禦。
週 CTF:提示詞萃取系列
每週 CTF 挑戰系列,聚焦於從防禦逐步加強的系統中萃取系統提示詞。
AI 紅隊職涯發展
AI 紅隊專業人員的技能藍圖：從初階到專家的學習路徑、相關認證、會議、社群資源，以及職涯成長策略。