Hãy hình dung một khách hàng nhắn hỏi chatbot của doanh nghiệp: “Tôi muốn huỷ dịch vụ, có được hoàn tiền không?”. Chatbot trả lời rất tự tin rằng khách được hoàn 100% trong 30 ngày, trong khi chính sách thật chỉ cho phép hoàn trong 7 ngày. Khách chụp màn hình, quay lại đòi quyền lợi. Lúc này doanh nghiệp đứng trước hai lựa chọn đều tốn kém: chấp nhận lời hứa mà mình chưa từng đưa ra, hoặc từ chối và mất lòng tin của khách.
Bài viết dưới đây của Wecan Group giải thích ảo giác AI là gì, vì sao chatbot chăm sóc khách hàng trả lời sai, doanh nghiệp phải chịu trách nhiệm ra sao khi AI nói sai, 5 lớp kiểm soát nên có trước khi đưa AI ra tuyến đầu, và cách Sumo AI Agent giữ câu trả lời bám đúng tài liệu của doanh nghiệp.
Ảo giác AI (AI hallucination) là hiện tượng AI tạo ra câu trả lời sai hoặc không có thật nhưng trình bày như thể đó là sự thật. Trong bộ hướng dẫn quản lý rủi ro AI tạo sinh NIST AI 600-1 (tháng 7/2024), Viện Tiêu chuẩn và Công nghệ Hoa Kỳ gọi hiện tượng này là “confabulation”: việc tạo ra nội dung sai được nêu một cách tự tin, thường được gọi là “ảo giác”, có thể khiến người dùng hiểu sai hoặc bị đánh lừa (NIST AI 600-1).
Điểm nguy hiểm của ảo giác AI không nằm ở việc AI sai, vì con người cũng có lúc sai. Nguy hiểm là AI sai với giọng điệu chắc chắn, câu chữ trôi chảy, nên khách hàng rất khó nhận ra.
Với bộ phận chăm sóc khách hàng, ảo giác AI thường xuất hiện dưới các dạng sau:
| Kiểu trả lời sai | Ví dụ | Rủi ro cho doanh nghiệp |
|---|---|---|
| Bịa chính sách | Nói khách được hoàn tiền, đổi trả dù chính sách không cho phép | Tranh chấp, phải chấp nhận chi phí ngoài dự kiến |
| Sai con số | Báo sai phí, giá, hạn mức, thời gian xử lý | Khiếu nại, mất uy tín |
| Hứa ngoài thẩm quyền | Hứa miễn phí, đền bù, ưu tiên xử lý | Cam kết mà doanh nghiệp không muốn thực hiện |
| Dùng thông tin cũ | Trả lời theo chương trình khuyến mãi đã kết thúc | Khách cảm thấy bị lừa |
| Trả lời ngoài phạm vi | Tư vấn pháp lý, đầu tư, sức khoẻ thay vì chuyển chuyên viên | Rủi ro pháp lý, khách ra quyết định sai |
Khách hàng cũng nhận thức rõ rủi ro này. Trong khảo sát của Gartner với 5.728 khách hàng (công bố tháng 7/2024), “AI trả lời sai” nằm trong ba mối lo hàng đầu khi doanh nghiệp dùng AI chăm sóc khách hàng, cùng với việc khó gặp người thật và AI làm mất việc làm (Gartner).
Câu trả lời ngắn gọn: doanh nghiệp. Một vụ việc thường được nhắc tới là Moffatt kiện Air Canada, do Toà Giải quyết Tranh chấp Dân sự tỉnh British Columbia (Canada) ra quyết định vào tháng 2/2024. Chatbot trên website của Air Canada nói với khách hàng rằng anh có thể mua vé rồi xin giảm giá vé tang lễ sau chuyến bay, trong khi chính sách của hãng không áp dụng cho yêu cầu gửi sau khi đã bay. Air Canada lập luận rằng chatbot là một thực thể riêng, tự chịu trách nhiệm về hành động của nó, và thông tin đúng đã có ở trang khác trên website.
Toà bác lập luận này: doanh nghiệp chịu trách nhiệm về mọi thông tin trên website của mình, dù thông tin đến từ một trang tĩnh hay từ chatbot, và việc thông tin đúng nằm ở chỗ khác không làm thay đổi điều đó. Air Canada phải bồi thường cho khách (American Bar Association; McCarthy Tétrault).
Vụ việc xảy ra ở Canada, nhưng bài học áp dụng cho mọi doanh nghiệp: khách hàng coi câu trả lời của AI là lời của doanh nghiệp. Tại Việt Nam, doanh nghiệp dùng chatbot AI cũng cần lưu ý các quy định về minh bạch và bảo vệ người tiêu dùng, xem thêm bài Nghị định 330/2026: 8 lỗi trên website và chatbot AI có thể khiến doanh nghiệp bị phạt.

Tài liệu chính sách được rà soát và cập nhật là nền tảng để AI trả lời đúng.
Không có công nghệ nào cam kết loại bỏ hoàn toàn ảo giác AI. Điều doanh nghiệp làm được là thiết kế nhiều lớp kiểm soát để câu trả lời sai khó lọt tới khách, và nếu lọt thì được phát hiện, sửa nhanh.
AI chỉ được trả lời dựa trên tài liệu doanh nghiệp đã duyệt: chính sách, quy trình, câu hỏi thường gặp, hướng dẫn xử lý tình huống. Kiến thức chung trên Internet không phải là nguồn cho câu trả lời về sản phẩm, phí hay quyền lợi của khách.
Khi câu hỏi nằm ngoài tài liệu, câu trả lời đúng nhất của AI là chuyển cho nhân viên, không phải đoán. Gartner khuyến nghị chatbot phải cho khách biết sẽ kết nối với nhân viên khi AI không giải quyết được, và cuộc trò chuyện phải được tiếp nối liền mạch.
Mỗi chính sách chỉ nên có một phiên bản đang hiệu lực, ghi rõ ngày áp dụng. Bản cũ phải được gỡ khỏi bộ tài liệu của AI ngay khi chính sách thay đổi. Kinh nghiệm chuẩn hoá dữ liệu cho chatbot được Wecan chia sẻ trong bài Chuẩn hoá dữ liệu tour để chatbot AI trả lời chính xác, áp dụng được cho nhiều ngành khác.
Doanh nghiệp nên ghi rõ những việc AI không tự quyết: hứa đền bù, thay đổi giao dịch, tư vấn pháp lý hay đầu tư, xử lý khiếu nại nghiêm trọng. Những tình huống này luôn chuyển cho nhân viên có thẩm quyền.
Định kỳ đọc lại một phần hội thoại, đặc biệt các ca khách phản ánh lại. Mỗi lỗi phát hiện được là một chỗ cần sửa trong tài liệu hoặc một ca mẫu cần bổ sung. Nguyên tắc kiểm tra nội dung AI trước khi công bố cũng được Wecan trình bày trong bài Cách kiểm tra bài viết AI trước khi đăng lên website doanh nghiệp.
Sumo AI Agent là AI agent hỗ trợ khách hàng của Wecan Group, làm tuyến đầu trên Zalo, Messenger, SMS và giọng nói qua tổng đài. Cách Sumo vận hành gắn trực tiếp với các lớp kiểm soát ở trên:
Hai lớp còn lại thuộc về doanh nghiệp: giữ tài liệu luôn đúng và cập nhật (lớp 3), và quy định rõ những việc phải chuyển người (lớp 4). AI chỉ đúng khi tài liệu đúng, vì vậy đây là phần việc doanh nghiệp không nên giao phó hoàn toàn cho bất kỳ công cụ nào.

Câu hỏi ngoài tài liệu được chuyển cho nhân viên thay vì để AI tự đoán.
Ảo giác AI có loại bỏ hoàn toàn được không?
Chưa có công nghệ nào cam kết điều đó. Doanh nghiệp giảm rủi ro bằng cách giới hạn nguồn trả lời trong tài liệu đã duyệt, cho AI chuyển nhân viên khi không chắc chắn và rà soát hội thoại thường xuyên.
Ảo giác AI tiếng Anh là gì?
Thường gọi là AI hallucination. Tài liệu NIST AI 600-1 dùng thuật ngữ “confabulation”.
Chatbot trả lời sai thì doanh nghiệp có phải chịu trách nhiệm không?
Vụ Moffatt kiện Air Canada cho thấy cơ quan giải quyết tranh chấp coi doanh nghiệp chịu trách nhiệm về thông tin chatbot đưa ra. Với từng tình huống cụ thể tại Việt Nam, doanh nghiệp nên tham khảo ý kiến luật sư.
Sumo AI Agent xử lý câu hỏi không có trong tài liệu thế nào?
Sumo chuyển cho nhân viên. Sau khi nhân viên xử lý mẫu một lần, Sumo cập nhật vào cơ sở dữ liệu để lần sau tự xử lý được.
Bao lâu nên cập nhật tài liệu cho AI?
Ngay khi chính sách, giá hoặc quy trình thay đổi. Ngoài ra nên rà soát toàn bộ tài liệu theo lịch cố định, ví dụ hằng tháng, để loại bỏ nội dung đã hết hiệu lực.
Nội dung về trách nhiệm pháp lý trong bài mang tính tham khảo, không thay thế tư vấn pháp lý cho từng trường hợp cụ thể.
Wecan Group thiết kế website, ứng dụng di động, triển khai digital marketing và các giải pháp AI cho doanh nghiệp. Sumo AI Agent làm tuyến đầu hỗ trợ khách hàng trên Zalo, Messenger, SMS và tổng đài, xử lý theo tài liệu hướng dẫn tổng đài viên của doanh nghiệp, chuyển nhân viên khi gặp vấn đề ngoài hiểu biết và chỉ thu phí khi ticket được xử lý xong.
Doanh nghiệp muốn đưa AI ra tuyến đầu mà vẫn kiểm soát được câu trả lời có thể liên hệ Wecan Group để trao đổi về tài liệu và các kênh đang dùng.