CI/CD 管線 AI 風險
將 AI 整合至 CI/CD 管線的安全意涵——涵蓋建構中的 AI 驅動程式碼生成、自動化測試風險、部署決策操控與管線強化。
AI 越來越嵌入軟體開發生命週期的每個階段：程式碼生成、程式碼審查、測試、建構最佳化、部署決策與監控。每個整合點建立傳統 CI/CD 安全不處理的新攻擊面。
CI/CD 中的 AI 整合點
預提交：AI 程式碼生成
AI 程式設計助理在開發者本地環境產生程式碼。安全風險：建議投毒（詳見 建議投毒）、在程式碼進入版本控制前引入的脆弱模式。
提交階段：AI 程式碼審查
AI 審查工具分析 pull request（詳見 AI 程式碼審查操控）。安全風險：審查操控讓脆弱程式碼偷渡。
建構階段：AI 驅動建構最佳化
AI 最佳化建構設定、依賴解析與快取策略。安全風險：AI 建議的依賴更新可能引入脆弱或惡意套件。AI 最佳化的建構設定可能移除安全檢查。
測試階段：AI 產生測試
AI 產生單元測試、整合測試與安全測試。安全風險：AI 產生的測試可能有盲點——不測試攻擊者會利用的邊緣案例。AI 可能產生總是通過的測試，給予錯誤信心。
部署階段：AI 驅動部署決策
AI 分析指標以決定何時部署、回滾或金絲雀釋出。安全風險：操控 AI 的輸入指標可影響部署決策——使 AI 部署脆弱版本或回滾良好版本。
監控階段：AI 驅動異常偵測
AI 監控生產系統以偵測問題。安全風險：與 駭入 AI 駭客 中描述的相同提示詞注入風險適用——攻擊者可操控監控 AI 的輸入以隱藏真實問題。
攻擊情境
情境 1：供應鏈投毒透過 AI 建議依賴
攻擊者建立具有近似合法套件名稱的惡意套件。AI 建構工具在建構期間建議此套件。如果自動核准 AI 建議的依賴更新，惡意套件進入建構。
情境 2：測試繞過透過 AI 生成測試
AI 為新功能產生測試。攻擊者打造功能程式碼使 AI 產生的測試通過但安全測試失敗。如果管線依賴 AI 產生測試作為品質門檻，脆弱程式碼通過。
情境 3：部署操控透過指標投毒
攻擊者操控 AI 部署系統消費的指標——注入虛假效能資料或偽裝錯誤率改善。AI 基於被投毒指標決定部署脆弱版本。
管線強化
分離 AI 建議與自動核准：AI 工具應建議而非自動執行安全敏感變更（依賴更新、建構設定變更、部署決策）。
確定性安全門檻：不完全依賴 AI 驅動安全分析。維持確定性 SAST、DAST 與依賴掃描作為管線中的硬門檻。
AI 輸入驗證：驗證 AI 管線工具消費的所有資料饋入。指標、日誌與建構產物的完整性。
人類核准門檻：對安全關鍵部署決策要求人類核准。AI 建議，人類核准。
稽核軌跡：記錄所有 AI 在管線中的決策——哪些建議被做出、哪些被接受、哪些被覆蓋。這對事件調查至關重要。
AI 在 CI/CD 中的整合在正確保護時提供顯著生產力提升。但每個 AI 整合點都是潛在攻擊面，必須以與其他管線元件相同的安全嚴謹度處理。