# impact

標記為「impact」的 11 篇文章

衝擊評量

以 10 道題目測試你對 AI 系統衝擊情境的理解，包括不實資訊生成、有害內容、聲譽損害、拒絕服務、資料腐蝕、金融詐騙與合規違反。

Methodology for conducting algorithmic impact assessments required by emerging regulations.

AI 系統造成的法規違規，包含 GDPR PII 洩漏、醫療聊天機器人引發的 HIPAA 違規、歐盟 AI Act 罰則與跨境資料流動問題。

受損之 LLM 輸出如何經資料庫污染、級聯管線失敗、RAG 回饋迴圈與自動化決策投毒破壞下游系統。

LLM 資源耗盡攻擊含 sponge 範例、脈絡視窗洪流、遞迴提示迴圈與退化或停用 AI 系統之 token 放大。

AI 輔助金融詐騙，包含 LLM 驅動的大規模釣魚、深偽 CEO 詐欺、自動化社交工程、憑證竊取與金融文件偽造。

繞過安全機制以生成危險內容（含武器說明、惡意程式碼、騷擾範本），並分析攻擊模式與防禦。

成功 AI 攻擊之真實世界後果的概覽，從錯誤資訊與有害內容到金融詐欺與法規違規。

將 LLM 武器化以大規模生成令人信服之虛假內容，包括假文章、自動化宣傳，以及利用幻覺。

AI 系統安全失敗如何造成組織聲譽損害——涵蓋病毒式事件、媒體放大、客戶信任侵蝕與長期品牌影響。

從對齊與防禦能力的觀點深入檢視量化對安全性的衝擊。