AI（人工智慧）客服能快速回覆，卻可能把過期價格、退換貨條件或不確定資訊說得很肯定。本文用五項驗收問題，協助企業確認知識來源、拒答範圍、人工接手、紀錄與修正流程，避免自動化把單次答錯放大成客訴與責任爭議。
客服同仁下班後，網站上的 AI（人工智慧）客服仍在回答問題。顧客問活動價是否適用某門市，系統引用了舊頁面，還用肯定語氣承諾可以退差價。隔天店員才發現，卻查不到顧客看過哪個版本、為何沒有轉真人，也不知道誰能立刻停止同類回答。
真正的風險不是 AI 偶爾說不知道，而是它不知道時仍代表企業對外作答。這些商業後果很具體：價格、庫存、退換貨、付款與合約條件一旦答錯，可能造成訂單爭議、客服重工、品牌信任下降，也可能讓門市、行銷與網站廠商互相等待處理。
可以把 AI 客服想成新進的夜班同仁。給他一本手冊，不代表能讓他獨自承諾所有事情。企業還要標出哪些問題可直接回答、哪些必須請示、找不到規定時要怎麼說，以及交班時留下哪些紀錄。人工接手不是失敗，而是把不確定性送到有權判斷的人手上。
回答得像真的，不等於有足夠依據
生成式 AI，也就是根據輸入產生新內容的系統，可能把不同頁面的資訊組合成流暢答案。知識檢索可以讓系統先從企業提供的文件找資料再作答，但來源過期、規則互相衝突或問題超出文件範圍時，仍需要拒答與接手條件。
美國國家標準暨技術研究院（NIST）的 AI 風險管理架構要求組織定義人與 AI 的角色、在接近實際使用的情境測試，並在上線後持續監測。這提醒採購方，驗收不能只看示範時回答順不順，也要看答錯、找不到答案與系統異常時，營運能不能接得住。
用五個問題驗收「可以轉真人」
- 哪些內容可以直接回答？ 列出價格、營業時間、商品說明等允許範圍，並標出退款、客訴、付款、個人資料與特殊承諾等需人工確認的情境。不要只寫模糊的「敏感問題」。
- 答案依據是哪一份資料？ 要求畫面或紀錄能指出來源、版本與更新時間。若兩份規定衝突、來源不存在或已過期，系統應降低回答範圍，不該自行選一個說法。
- 什麼情況會停止自動回答？ 除了顧客主動要求真人，也要涵蓋連續答非所問、無法辨識需求、涉及例外處理、系統查詢失敗與可能造成金錢承諾的情況。單一信心分數不能取代實際情境測試。
- 接手後真人拿得到什麼？ 客服需要看到顧客問題、AI 已回覆內容、引用來源與待確認事項，避免顧客從頭重講。也要明確告知服務時間、等待方式，以及無人在線時如何留下聯絡資料。
- 答錯後怎麼阻止再次發生？ 確認誰能暫停某類回答、修正知識、審核後重新上線，並保留變更版本與複測結果。只刪掉一段對話，無法修正仍在運作的原因。
便宜方案常省略的是接管能力
只把常見問答放進聊天視窗，成本較低，適合營業時間、門市位置與公開服務流程等低風險問題。限制是文件更新、例外判斷與轉真人可能仍靠人工巡查。若系統會讀取會員、訂單、庫存或即時價格，串接範圍與錯誤後果都會增加，不能沿用單純 FAQ（常見問答）的驗收方式。
另一個較穩健的起點，是先讓 AI 產生客服回覆草稿，由真人確認後送出。速度提升較有限，卻能先收集真實問題、找出規則衝突並建立測試題。Google Cloud 的人員介入設計也指出，關鍵動作加入人工檢查能提高安全與可靠性，但會增加流程與系統複雜度。這是需要列入報價與人力安排的取捨，不是免費附加功能。
今天先用二十題做一次失敗演練
從近期客服紀錄挑選常見問題、模糊問題、規則衝突、過期活動、退款例外與顧客要求真人等題型，去除姓名、電話與訂單資訊後，整理二十題測試清單。每題先寫出允許回答的範圍、必須引用的資料、何時拒答、要轉給哪個角色，以及接手人應收到哪些上下文。
測試時不要只記「答對或答錯」，還要記錄來源是否正確、語氣有沒有過度承諾、轉接是否成功、等待訊息是否清楚、真人能否接續，以及修正後同類問題是否通過。這份清單可拿來比較廠商，也能成為之後更換模型或更新規則時的回歸測試，也就是確認原本能做對的事情沒有因變更而壞掉。
自行處理的邊界與接洽準備
企業可以先限制 AI 只回答公開、低風險且有固定來源的問題，清楚提供真人管道，並指定一位內容負責人定期檢查失敗紀錄。若沒有客服人力承接，就不應假設放一個「轉真人」按鈕已經完成機制。
當 AI 會查詢訂單、修改預約、處理退款、讀取個人資料，或回答會形成價格與契約承諾的內容，就需要客服主管、流程負責人、網站與 AI 技術團隊共同盤點權限、資料來源、接手機制、紀錄與測試。接洽前可準備現行 FAQ、價格與退換貨規則、客服服務時間、二十個真實但已去識別的問題、目前使用工具、可接手人員與不能接受的錯誤。邊境部署可以協助把這些資料整理成回答邊界、接手流程與可驗收測試，先讓一段高價值客服流程可控地運作，再決定是否擴大自動化。