達美航空 AI 客服出錯 竟將「溫暖同理心」指令發畀乘客

達美航空 AI 客服失誤事件

最近喺航空界發生咗一單尷尬事件。達美航空（Delta Air Lines）一名擁有鑽石會員（Diamond Medallion）資格嘅乘客，喺對聊天客服（Chat Support）嘅表現唔滿意而投訴之後，收到咗一封回覆電郵。點知封信嘅開頭竟然包含咗一段 AI 提示詞（AI Prompt），要求 AI 喺回覆時要使用「溫暖同理心（warm, empathetic tone）」嘅語氣。

錯將後台指令發出

正常情況下，呢類提示詞係公司設定畀 AI 嘅後台指令，目的係確保 AI 生成嘅文字唔會太過機械化，而係要表現出關心乘客嘅態度。但今次達美航空嘅系統出現失誤，將呢段指令直接連同回覆內容一齊發咗畀乘客，導致乘客睇到 AI 係如何被「教」去表現出同理心。

總結

今次事件反映出企業喺將 A.I. 整合入客戶服務流程時，如果缺乏嚴謹嘅輸出過濾機制，好容易會將內部運作邏輯洩露畀用戶。對於追求專業形象嘅航空公司嚟講，呢類失誤雖然唔會影響飛行安全，但會令顧客覺得所謂嘅「關心」只係一段預設指令，而唔係真心嘅服務。