Hướng Dẫn Toàn Diện Để Hiểu Và Giảm Thiểu Hiện Tượng "Ảo Tưởng" Của AI Tạo Sinh

Hướng Dẫn Toàn Diện Để Hiểu Và Giảm Thiểu Hiện Tượng "Ảo Tưởng" Của AI Tạo Sinh

AI tạo sinh (Generative AI) là một yếu tố thay đổi hoàn toàn cuộc chơi trong ngành dịch vụ khách hàng. Nó giải quyết triệt để những bài toán hóc búa nhất:

Tuy nhiên, tương tự như bất kỳ công nghệ nào khác, AI tạo sinh đòi hỏi người dùng phải biết cách quản lý mặt tối của nó — mà trong trường hợp này chính là hiện tượng ảo tưởng (hallucinations).

86%Người dùng trực tuyến cho biết họ từng gặp phải hiện tượng AI Hallucination.— Nguồn: Khảo sát trực tuyến

Đối với các doanh nghiệp, những thông tin "ảo tưởng" này có thể gây ra những tình huống dở khóc dở cười, thậm chí trong một số trường hợp cực đoan còn dẫn đến tổn thất tài chính nghiêm trọng.

Vụ việc điển hình từ Chevrolet: Chatbot tích hợp AI của hãng xe này đã đồng ý chốt đơn một chiếc Chevrolet Tahoe đời 2024 với giá chỉ USD, trong khi giá bán lẻ đề xuất (MSRP) khởi điểm của dòng xe này lên tới ,195 USD.

Có nên trì hoãn ứng dụng AI để chờ công nghệ hoàn hảo?

Bạn có nên đóng băng việc ứng dụng AI và đợi cho đến khi công nghệ này tiến hóa hoàn hảo hơn rồi mới dùng cho dịch vụ khách hàng? Câu trả lời là Không.

AI hiện là lực lượng thống trị cục diện ngành chăm sóc khách hàng (CX). Doanh nghiệp bắt buộc phải cần đến AI để đáp ứng kỳ vọng ngày càng cao của người tiêu dùng hiện đại. Trong khi công nghệ đang tiếp tục hoàn thiện, giải pháp khôn ngoan nhất là phòng ngừa rủi ro thay việc né tránh công nghệ.

Hiện tượng "ảo tưởng" của AI tạo sinh là gì?

Ảo tưởng của AI là thuật ngữ chỉ các đầu ra (outputs) sai lệch, vô căn cứ hoặc thông tin sai sự thật do các mô hình AI tạo ra. Hiện tượng này xảy ra vì nhiều lý do:

Hãy xem cách các mô hình tạo sinh như GPT-4 vận hành: Các LLM được huấn luyện trên những tập dữ liệu khổng lồ từ nhiều nguồn, bao gồm sách điện tử, blog cá nhân, Reddit và các bài đăng trên mạng xã hội. Chúng sử dụng kho dữ liệu này để tạo ra những thông tin nghe có vẻ rất hợp lý, nhưng bản chất lại không có thật.

Ví dụ, nếu bạn yêu cầu GPT-4 viết một tiểu sử ngắn về một người bạn không hề tồn tại, nó sẽ liên kết các chuỗi thông tin theo cách vô cùng thuyết phục nhưng hoàn toàn là sản phẩm của sự tưởng tượng. Đây có thể là một "tính năng" tuyệt vời nếu bạn đang tìm kiếm sự sáng tạo (như viết truyện), nhưng lại là một "lỗi nghiêm trọng" dưới góc nhìn của bộ phận hỗ trợ khách hàng.

Về bản chất, GPT-4 dự đoán từ tiếp theo trong câu dựa trên các mô thức (patterns) có sẵn trong dữ liệu huấn luyện. Đôi khi, quá trình khớp mô thức này bị chệch hướng, dẫn đến các phản hồi rất mạch lạc về mặt ngữ pháp nhưng lại sai lệch hoàn toàn về mặt thực tế hoặc không hề liên quan đến bối cảnh.

Những lý do khác dẫn đến ảo tưởng bao gồm:

If AI nói sai thông tin về một nhân vật hư cấu, điều đó vô hại. Nhưng nếu bạn dùng AI để chăm sóc khách hàng, ảo tưởng sẽ mang lại rắc rối lớn. Nếu AI không xác thực thông tin trước khi "mở lời", khách hàng sẽ mất niềm tin vào thương hiệu của bạn và rời đi. Hãy nhớ rằng ảo tưởng không phải lúc nào cũng là lỗi của AI — sự bất nhất hoặc dữ liệu lỗi thời trong chính kho tri thức (knowledge base) của doanh nghiệp cũng là một nguyên nhân cốt lõi khiến AI đưa ra thông tin sai lệch.

Để giải quyết vấn đề này, giải pháp tốt nhất là thực hiện định hướng thực tế (grounding): Huấn luyện trợ lý AI của bạn bỏ qua các nguồn công khai chưa được xác thực (như Reddit hay mạng xã hội) khi đưa ra các dữ kiện mang tính chân lý. Thay vào đó, hãy ép LLM chỉ được phép khai thác thông tin từ các nguồn đáng tin cậy do bạn kiểm soát: kho tri thức doanh nghiệp, tài liệu nội bộ và lịch sử các cuộc hội thoại đã được giải quyết thành công trước đó.

Các ví dụ điển hình về ảo tưởng của AI

Theo nghiên cứu từ Vectara, các công cụ AI tạo sinh gặp hiện tượng ảo tưởng với tần suất dao động từ 2.5% đến 22.4% tùy thuộc vào mô hình. Dưới đây là các dạng ảo tưởng phổ biến nhất:

Phát ngôn vô lý nhưng nghe "có vẻ hợp lý"

AI có thể tạo ra các thông tin sai lệch về mặt bản chất nhưng lại được diễn đạt bằng văn phong cực kỳ thuyết phục.

Ví dụ: Khách hàng hỏi trợ lý AI về công dụng của một sản phẩm lau dọn trên trang thương mại điện tử của bạn, nó có thể tự tin tuyên bố: "Robot hút bụi của chúng tôi giúp bạn tự động quét dọn và lau sạch sàn gạch, thảm và trần nhà." Trừ khi robot của bạn là Spiderman, nếu không việc khẳng định nó có thể lau được trần nhà là hoàn toàn bịa đặt.

Một ví dụ kinh điển khác là khi Google Bard (hiện là Google Gemini) được hỏi về những khám phá của Kính viễn vọng Không gian James Webb, Bard đã khẳng định sai rằng kính viễn vọng này là nơi đầu tiên chụp ảnh một hành tinh ngoại hệ. Ngay cả ChatGPT cũng từng đưa ra những tuyên bố kỳ lạ, chẳng hạn như cáo buộc sai một chính trị gia người Úc (người thực chất là người tố giác tội phạm) phạm tội nhận hối lộ.

Phản hồi bất nhất, thiếu mạch lạc (Incoherent responses)

AI có thể tạo ra những câu văn sai ngữ pháp hoặc các câu trả lời không tuân theo logic của bối cảnh hội thoại.

Ví dụ: Khi khách hàng hỏi về cách thức hoạt động của tính năng tự động hóa email, nếu không được quản lý tốt, AI có thể trả lời kiểu: "Công cụ của chúng tôi sử dụng bánh quy sô-cô-la (chocolate chips) để thiết lập quy trình kích hoạt email tự động."

Rơi rụng ngữ cảnh (Context dropping)

AI đột ngột đánh mất mạch hội thoại và đưa vào những thông tin không liên quan.

Ví dụ: Khi khách hàng đang hỏi cách hệ thống nhận biết người dùng đã mở email hay chưa, AI có thể đáp: "Công cụ tự động hóa sử dụng một pixel ẩn được chèn vào email để theo dõi lượt mở. Ngoài ra, Gmail cũng vừa ra mắt một tính năng viết bằng AI rất hay vào năm ngoái để giúp viết email nhanh hơn." Việc chuyển hướng từ pixel theo dõi sang tính năng viết của Gmail là một sự đứt gãy ngữ cảnh đột ngột.

Gán sai thông tin (Misattribution)

AI râu ông nọ chắp cằm bà kia, gán các phát minh, câu nói hoặc sự kiện cho sai người.

Ví dụ: Nếu có ai đó hỏi ai là người khai sinh ra khái niệm AI, mô hình có thể trả lời: "Ý tưởng về AI được khởi xướng bởi Neil Armstrong." Thực tế, người đưa ra khái niệm này là John McCarthy.

Khái quát hóa quá mức (Overgeneralizations)

Đây là khi AI đưa ra những câu trả lời quá chung chung, thiếu chi tiết và độ chính xác cần thiết.

Ví dụ: Khi khách hàng yêu cầu hướng dẫn các bước thiết lập công cụ tự động hóa email, trợ lý AI chỉ trả lời ngắn gọn: "Hãy đăng nhập vào tài khoản, soạn một email mới và gửi nó cho người nhận." Dù câu này không sai, nhưng nó hoàn toàn vô giá trị vì thiếu các bước tích hợp cụ thể.

Bất nhất về dòng thời gian (Temporal inconsistencies)

Hiện tượng này xảy ra khi AI trộn lẫn hoặc làm sai lệch các mốc thời gian.

Ví dụ: Giả sử khách hàng hỏi: "Hóa đơn đầu tiên của tôi được xuất vào ngày nào?", trợ lý AI có thể trả lời: "Hóa đơn đầu tiên của bạn được xuất vào ngày 25 tháng 4 năm 2005." Trên thực tế, đây có thể là ngày thành lập hoặc ngày công ty xuất hóa đơn đầu tiên trong lịch sử hệ thống, chứ không phải ngày của riêng vị khách hàng đó.

Chèn lệnh ngoài ý muốn (Accidental prompt injection)

Hiện tượng này xảy ra khi các dữ liệu đầu vào chứa các câu lệnh không được làm sạch (unsanitized inputs), khiến LLM bị hiểu nhầm và thay đổi hành vi hoặc đưa ra phản hồi sai lệch.

Giả sử người dùng nhập vào đoạn mã độc hại sau để đánh lừa trợ lý AI:

htmlĐoạn mã ví dụ
<!-- Kịch bản chèn mã độc hại (Prompt Injection) -->
<script>alert('This is a test');</script>

Mặc dù câu lệnh hệ thống (system prompt) ban đầu yêu cầu AI "Hãy mô tả cách khắc phục một liên kết bị hỏng", việc xuất hiện đoạn mã trên có thể khiến LLM bị đánh lừa, chuyển sang thực thi hoặc xử lý đoạn mã kịch bản đó thay vì tập trung vào nhiệm vụ chính, dẫn đến các đầu ra không an toàn hoặc không phù hợp.

Các kỹ thuật Định hướng thực tế (Grounding) để xử lý ảo tưởng

Grounding là kỹ thuật cung cấp và giới hạn ngữ cảnh chuẩn xác cho LLM bằng cách truy xuất các thông tin có độ tin cậy cao nhất, từ đó ép mô hình phải tạo ra các câu trả lời dựa trên sự thật. Nếu bạn là một nhà quản lý hệ thống AI, đây là các kỹ thuật cốt lõi:

1. RAG (Tạo tăng cường truy xuất)

RAG vận hành giống như một cơ chế hai tầng, kết hợp giữa bộ phận truy xuất (retriever) và bộ phận tạo văn bản (generator):

2. Đồ thị tri thức (Knowledge Graphs)

Hãy tưởng tượng đồ thị tri thức như một bản đồ tư duy khổng lồ kết nối các thực thể thông tin lại với nhau thông qua mạng lưới các Nút (Nodes - đại diện cho con người, địa điểm, khái niệm) và Cạnh (Edges - đại diện cho mối quan hệ giữa các nút).

textĐoạn mã ví dụ
[Adam Jones (Nút)] ────── (quan hệ: là) ──────> [Khách hàng VIP (Nút)]

Mỗi nút có thể chứa nhiều thuộc tính (như ngày sinh, quốc tịch). Cấu trúc này (Ontology) đóng vai trò như một bộ quy tắc nghiêm ngặt giúp AI hiểu rõ mối liên hệ logic giữa các điểm dữ liệu mà không bị nhầm lẫn.

3. Kỹ thuật tối ưu câu lệnh phía người dùng (LLM Prompting)

Đây là biện pháp định hướng từ phía người dùng bằng cách tạo ra các câu lệnh cụ thể, chi tiết nhằm dẫn dắt (hoặc ép buộc) AI đi thẳng vào vùng thông tin chính xác.

So sánh sự khác biệt giữa câu lệnh mơ hồ và câu lệnh đã tối ưu:

textĐoạn mã ví dụ
Hãy gửi cho tôi bản sao hóa đơn mới nhất.

textĐoạn mã ví dụ
Hãy gửi cho tôi bản sao hóa đơn gần nhất. Số hóa đơn là #1234 và ID khách hàng của tôi là #6789.

Để đảm bảo câu trả lời chuẩn xác nhất, hãy áp dụng quy tắc đặt câu lệnh sau:

textĐoạn mã ví dụ
Tôi xin lỗi, tôi không tìm thấy thông tin này trong hệ thống. Tôi có thể kết nối bạn với tổng đài viên để được hỗ trợ trực tiếp không?

Quản lý ảo tưởng là một hành trình liên tục

Các nhà khoa học tại Đại học Oxford đã đạt được bước tiến lớn khi công bố một phương pháp mới trên một tạp chí khoa học uy tín, cho phép phát hiện xem một công cụ AI có đang ảo tưởng hay không. Phương pháp này có thể nhận diện câu trả lời của AI là đúng hay sai với độ chính xác khoảng 79%, cao hơn 10% so với các phương pháp trước đây.

Nghiên cứu này tập trung vào một dạng ảo tưởng cụ thể gọi là sự bịa đặt nhất thời (confabulations) — hiện tượng mô hình đưa ra các câu trả lời khác nhau về mặt bản chất cho cùng một câu hỏi. Nhóm nghiên cứu đã phát triển một phương pháp thống kê để ước tính mức độ bất định dựa trên sự biến thiên giữa các câu trả lời (đo lường bằng chỉ số entropy).

Như Tiến sĩ Sebastian Farquhar, tác giả nghiên cứu, giải thích:

"Với các phương pháp trước đây, chúng ta không thể phân biệt được khi nào mô hình đang không chắc chắn về nội dung cần nói, hay chỉ đơn giản là đang băn khoăn về cách diễn đạt nó. Phương pháp mới của chúng tôi đã vượt qua được rào cản này."

Tuy nhiên, giới hạn của phương pháp này là nó chưa thể đánh giá được các "lỗi sai nhất quán" (consistent mistakes) — tức là những trường hợp mà AI đưa ra câu trả lời sai nhưng với một mức độ tự tin tuyệt đối và không hề có sự dao động về mặt ngữ nghĩa.

4 bước thực hành tốt nhất để ngăn ngừa ảo tưởng AI

Cho đến khi các nhà khoa học tìm ra cách triệt tiêu hoàn toàn hiện tượng này, việc áp dụng các quy chuẩn vận hành sau sẽ giúp doanh nghiệp quản trị rủi ro một cách hiệu quả nhất:

1. Tối ưu hóa dữ liệu huấn luyện và kho tri thức

2. Triển khai các bước phát hiện và sửa lỗi chủ động

3. Đào tạo đội ngũ nhân sự hỗ trợ

Hãy đảm bảo mọi thành viên trong đội ngũ chăm sóc khách hàng đều hiểu rõ về hiện tượng ảo tưởng của AI, nguyên nhân kỹ thuật và cách xử lý khi sự cố xảy ra. Doanh nghiệp nên:

4. Đảm bảo các yếu tố đạo đức và minh bạch