事件分析：Air Canada 聊天機器人裁定

深入分析 Air Canada 聊天機器人事件——AI 提供錯誤退款政策導致的法律裁定、其意涵與教訓。

2024 年，Air Canada 的客戶服務聊天機器人向旅客提供關於喪親退款政策的錯誤資訊。旅客基於此資訊購買機票並申請退款，但被拒絕。加拿大民事法庭裁定 Air Canada 必須兌現其 AI 聊天機器人做出的承諾。

時間軸

旅客詢問喪親旅行退款政策 → AI 聊天機器人聲稱可在購票後申請退款 → 旅客購票 → Air Canada 拒絕退款聲稱聊天機器人是「獨立法律實體」 → 法庭裁定 Air Canada 對其聊天機器人的陳述負責。

關鍵裁定

法庭明確拒絕 Air Canada 的論點——公司不能聲稱其 AI 聊天機器人是不受其控制的「獨立實體」。AI 的回應是公司的回應。

教訓

AI 輸出是公司的責任：部署 AI 的組織對其輸出負法律責任。準確性至關重要：AI 系統必須提供準確資訊，特別是關於政策與合約條款。備援機制：高風險查詢（退款、法律、醫療）應路由至人類代理。測試與監控：定期測試 AI 對關鍵業務問題的回應準確性。