歡迎來到 redteams.ai

AI 安全版圖的演變速度比防禦者能跟上的還要快。新的模型架構、代理式框架與部署模式每週建立新型攻擊面。redteams.ai 的存在是為了成為 AI 紅隊員的定義性知識庫——從提示詞注入基礎到尖端多代理利用。

問題

AI 系統正以前所未有的速度被部署。聊天機器人、自主代理、RAG 管線與多代理系統在數週內從研究原型轉向生產部署。這些系統的安全評估遠遠落後。

現有資源分為兩類：不解釋就名列攻擊的膚淺部落格文章，以及描述新型技術但沒有實務應用指引的學術論文。兩者都未服務需要評估真實 AI 系統的工作中安全專業人員。

我們涵蓋什麼

redteams.ai 涵蓋 AI 紅隊演練的完整光譜：

• LLM 內部 — 從安全視角看 transformer 架構
• 提示詞注入 — 從基本注入到專家級防禦規避
• 代理利用 — 自主 AI 代理的擴大攻擊面
• 資料攻擊 — RAG 投毒、訓練資料操控與資料萃取
• 基礎設施 — 供應鏈、API 安全與部署漏洞
• 技藝 — 專業評估的方法論與偵察技能
• 工具 — 建構並使用可擴展紅隊演練的工具
• Capstone — 從規劃到報告的完整案件方法論

這是為誰

• 擴展至 AI 紅隊演練的 安全專業人員
• 想理解其系統安全意涵的 ML 工程師
• 界定並規劃 AI 安全評估的 紅隊主管
• 在 AI 安全建立基礎知識的 學生與研究人員

接下來

我們正積極擴展所有主題領域的涵蓋。即將推出的內容包含 MCP 傳輸層攻擊、多代理 A2A 協議利用與進階越獄模糊測試技術的深入探討。

訂閱電子報或追蹤 RSS feed 以保持更新。