客戶溝通與困難對話
在 AI 紅隊委任期間管理客戶關係：呈現嚴重發現、處理反彈、設定期待，以及駕馭困難的對話。
客戶溝通與困難對話
技術能力讓你挖出發現。溝通能力讓這些發現被修好。客戶關係需要在整個委任期間細心經營——從範疇界定時設定期待，到交付嚴重漏洞的壞消息。
先行設定期待
多數客戶摩擦源自期待不一致。請於範疇界定階段就處理，而不是等到報告交付時才處理。
共同定義成功判準
問：「對你而言，一次成功的委任長什麼樣子？」有些客戶想驗證自身防禦；有些想找出所有壞掉的東西。兩者所需方式不同。
說明紅隊是什麼（不是什麼）
紅隊是 紅隊不是 某個時間點的評估 安全的保證 對抗式模擬 合規稽核 限於約定目標 所有風險的完整涵蓋 幫助改善的工具 對團隊能力的審判 議定溝通節奏
訂定何時以及如何溝通：每日 email 更新、每週通話、嚴重發現立即升級。
釐清升級政策
定義什麼構成「立即升級」而不是「列入期末報告」。範例：「若發現正在進行的資料外洩或先前入侵跡象，我們將於 1 小時內以 [方式] 通知 [聯絡人]。」
呈現嚴重發現
SCRA 框架
以 SCRA（Situation、Consequence、Recommendation、Action）組織嚴重發現的呈現：
| 元件 | 目的 | 範例 |
|---|---|---|
| 情境 Situation | 以事實陳述發現 | 「我們發現聊天機器人會在透過角色扮演情境詢問時揭露客戶 PII」 |
| 後果 Consequence | 若未處理的業務影響 | 「這暴露約 50,000 筆客戶紀錄，並觸發 GDPR 通報義務」 |
| 建議 Recommendation | 該如何處理 | 「部署輸出過濾器，於回應送出前篩檢 PII 模式」 |
| 行動 Action | 具體下一步 | 「我們建議本週與 ML 工程團隊安排一次修復規劃會議」 |
呈現語氣
| 該做 | 不該做 |
|---|---|
| 以事實陳述發現 | 對個人進行究責 |
| 使用中性、專業用語 | 使用驚悚或煽動性用語 |
| 肯定運作良好之處 | 只呈現負面發現 |
| 同時提供解法 | 丟下嚴重發現就走 |
| 給客戶時間消化 | 一個嚴重發現之後馬上急著講下一個 |
處理反彈
反彈是正常的。打造系統的團隊對它有情感投入。請預期並準備下列反應。
常見反彈模式
客戶說： 「沒有真實攻擊者會這樣做。」
回應： 「你說得對，這個特定 payload 確實是人造的。但背後的漏洞——模型安全控制可透過角色扮演被繞過——已在生產環境被不具技術背景、意外發現的使用者利用過。我們已記錄三起成因相似的公開事件。」
關鍵原則： 先肯定對方的顧慮，再提出現實世界的證據。
客戶說： 「這是底層模型的問題，不是我們的實作。」
回應： 「底層模型行為是其中一項因素，但系統提示與部署架構會決定該行為是否可被利用。我們的建議聚焦於貴團隊能掌控的部署層控制，無論底層模型行為為何皆適用。」
關鍵原則： 將焦點引導至他們能掌控之處。
客戶說： 「你們的測試條件不現實。」
回應： 「我們來逐一檢視你擔心的條件。我們測試使用了 [條件]。若有我們未模擬的生產限制——速率限制、驗證要求、監控——我們可以在報告中註記為緩解因素，並據此調整嚴重性評分。」
關鍵原則： 保持開放可調整，但將理由記錄下來。
客戶說： 「我們在系統提示加一句『不要這樣做』就行了。」
回應： 「提示層的指令是不錯的第一步，但我們的測試顯示，這些指令可被繞過既有指令的相同手法再次繞過。我們建議採取縱深防禦，包含輸出過濾與安全分類器層，這些比單靠提示層控制更難被繞過。」
關鍵原則： 肯定部分解法，再說明為何不足。
困難對話情境
情境 1：系統遠比預期糟
當整體姿態遠差於客戶預期時：
- 先提供脈絡。 「AI 安全是快速演進的領域，與你們處於相同階段的組織大多有類似發現。」
- 無情地排優先序。 「在這 15 項發現中，這 3 項最需立即處理。」
- 給出清晰行動路徑。 「這是 90 天修復計畫，優先處理嚴重項目。」
- 提供視角。 「你們委託這次評估，已經走在多數組織前面了。」
情境 2：某項發現受到質疑
當客戶認為某項發現無效時：
- 若客戶同意，現場重現。
- 提供完整保管鏈的證據包。
- 提議於客戶認為更貼近現實的條件下重測。
- 若仍有爭議，將分歧記錄於報告：「紅隊維持此發現。客戶認為在生產條件下不可利用，理由為 [其理由]。」
情境 3：發現指向特定人
當漏洞明顯由某位個人的決策引入時：
- 發現中絕不指名個人。
- 以系統性方式框架：「此處使用的系統提示設計模式很常見，但會造成對 [攻擊類型] 的漏洞。」
- 建議流程改變，而非人員改變。
溝通範本
嚴重發現通知（Email）
Subject: [ENGAGEMENT-ID] 嚴重發現通知
[客戶聯絡人]，
我們在評估 [目標系統] 時，辨識出一項需要立即處理的嚴重漏洞。
摘要：[以業務語言描述發現的 1–2 句]
風險：[若被利用的業務影響]
建議：[應立即採取的行動]
我們建議儘早討論此發現，今日 [時間] 之間皆可通話。
完整細節與證據將納入期末報告。
Regards,
[紅隊負責人]每週狀態更新
Subject: [ENGAGEMENT-ID] 週報 - 第 [N] 週
摘要：測試已完成 [X]%。至今辨識出 [N] 項發現。
本週無需立即升級的嚴重發現。
主要活動：
- 完成 [攻擊面區域] 之測試
- 開始 [下一批區域] 之測試
發現更新：[本週 N 項新發現；依嚴重性分類]
阻礙：[任何存取問題或待釐清事項]
下週計畫：[預計活動]相關主題
參考資料
- "Crucial Conversations: Tools for Talking When Stakes Are High" - Patterson et al.（2012）- 適用於呈現嚴重安全發現的溝通框架
- "CREST Guidelines for Client Communication in Penetration Testing" - CREST International（2024）- 安全委任中利害關係人溝通的專業標準
- "Managing Difficult Conversations in Security Assessments" - SANS Institute（2024）- 處理反彈與抗拒安全發現的實務技巧
當客戶說某項發現『沒有真實攻擊者會這樣做』時，你應如何回應？