法律 AI 安全

為法律專業中之 AI 系統（含合約分析、法律研究、e-discovery 與文件審查）之安全測試。專業責任意涵與測試方法論。

法律 AI 於根本對抗環境中運作 —— 非網路安全意義上之對抗，而是法律意義上。每個被審查之文件、被分析之合約與被研究之法律論點將潛在地被具辨識錯誤之強烈激勵之對方律師審視。此內建對抗審視使法律 AI 同時更暴露（錯誤將被發現）且更危險（法律程序中之錯誤具嚴重後果，含制裁、瀆職責任與不利案件結果）。

法律專業對 AI 之採用快速加速，超越法律 AI 特定安全測試方法論之發展。本章節處理該缺口。

法律 AI 地景

合約分析

AI 驅動之合約分析系統審查、提取、比較並起草契約條款。這些系統範圍自條款提取工具至完整合約起草助手。

系統能力與風險：

法律研究

AI 法律研究系統搜尋案例法、法規、規章與次要來源以支援法律論點。生成 AI 於法律研究之湧現造就幻覺引用之風險 —— 對不存在案例、法規或規章之參照。

關鍵風險因素：

• 幻覺案例引用可導致法院制裁
• 捏造之法律原則可破壞法律論點
• 選擇性引用檢索可造就誤導法律分析
• 投毒之法律資料庫可系統化偏誤研究結果

E-Discovery

AI 於 e-discovery 中被大量使用 —— 於訴訟中辨識、蒐集並產出電子儲存資訊之過程。AI 驅動之技術輔助審查（TAR）系統為相關性、特權與回應性分類文件。

關鍵風險因素：

• 不正確分類為非回應性之文件可能於產出中被隱藏
• 特權分類可能失敗，導致無意特權放棄
• 相關性評分可被操弄以壓制損害文件
• 搜尋術語與概念分析可能錯失蓄意混淆之內容

文件審查

AI 文件審查於訴訟、法規合規、盡職調查與調查時協助律師分析大量文件。這些系統分類、摘要並優先化文件。

關鍵風險因素：

• 摘要 AI 可能省略關鍵細節
• 分類錯誤可能誤路由敏感文件
• 審查優先化可被博弈以延遲重要文件之發現
• AI 輔助審查可能未達 FRCP Rule 26(g) 下合理查詢之標準

專業責任框架

勝任責任

ABA Model Rule 1.1 需律師提供勝任代理，含理解實務中使用之技術。法院已解讀此以含 AI 工具：

• 律師必須理解其使用之 AI 工具之能力與限制
• AI 生成之工作成果於提交法院或客戶前必須被驗證
• 於無驗證下依賴 AI 非專業責任申訴之辯護

機密性責任

ABA Model Rule 1.6 需律師維護客戶機密性。處理客戶資訊之 AI 系統必須維護機密性保護：

• 提交予 AI 系統之客戶資料必須被保護免於向其他客戶或第三方揭露
• 於客戶資料之 AI 訓練可能違反機密性義務
• 以雲端為本之 AI 服務必須為機密性保障評估

監督責任

ABA Model Rule 5.3 延伸律師監督義務至 AI 工具與使用它們之人員：

• 律師必須監督其實務中 AI 之使用
• AI 輸出於依賴前必須由合格律師審查
• 使用 AI 之法務助理與助理律師必須於適切驗證程序受訓

法律特定威脅模型

威脅行為者

對抗訴訟放大器

法律 AI 獨特於其失敗於固有對抗過程中被發現。不同於醫療保健 AI（錯誤可能不被注意），法律 AI 錯誤被對方積極尋找：

Legal AI Error Discovery Path
├── AI produces incorrect legal citation
├── Attorney includes citation in filed brief
├── Opposing counsel verifies citation
│   └── Citation does not exist → Motion for sanctions
├── Court investigates
│   └── Attorney violated duty of competence
├── Consequences
│   ├── Court sanctions (monetary and non-monetary)
│   ├── Professional responsibility complaint
│   ├── Malpractice liability
│   └── Client harm (adverse case outcome)

測試方法論

委任前考量

1. 1

   特權評估

   決定委任本身是否受特權保護。若測試於顧問之指示下為提供法律建議目的進行，通訊與發現可能受律師－客戶特權與工作成果原則保護。相應結構化委任。

2. 2

   機密性控制

   建立不含實際客戶機密資訊之測試資料。若測試必須使用現實法律文件，建立模擬真實法律工作但不含實際客戶資料之合成事務檔案。

3. 3

   對抗脈絡繪製

   辨識 AI 運作之對抗脈絡。誰將受益於 AI 失敗？何種 AI 錯誤為對方律師或訴訟對手特別尋找？

4. 4

   專業標準校準

   定義何構成 AI 功能之可接受錯誤率。漏失 1% 條款之合約分析 AI 可能於初始審查可接受，但於執行前之最終審查不可接受。對專業標準校準測試門檻。

測試類別

相關主題

• 合約分析攻擊 -- 對法律合約 AI 之對抗攻擊
• 法律研究投毒 -- 引用捏造與研究操弄
• E-Discovery 攻擊 -- 對 AI 輔助文件審查之攻擊
• 治理、法律與合規 -- 更廣之法規合規測試

參考資料

• "Model Rules of Professional Conduct: Rules 1.1, 1.6, 5.3" - American Bar Association（2023）- 適用於律師使用 AI 技術之專業責任規則
• "Generative AI and the Practice of Law" - ABA Standing Committee on Ethics and Professional Responsibility（2024）- 於法律實務使用生成 AI 時之倫理義務之正式指引
• "AI in E-Discovery: Standards and Best Practices" - The Sedona Conference（2024）- 於電子發現中 AI 可辯護使用之框架
• "Court Sanctions for AI-Generated Legal Citations" - Federal Judicial Center（2024）- 法院對律師提交 AI 幻覺法律引用之回應分析