Ảo giác AI: là gì, vì sao xảy ra và cách xử lý

Ảo giác AI là gì?

Ảo giác AI là kết quả từ công cụ AI tạo sinh được trình bày một cách tự tin nhưng sai, bịa đặt hoặc không được dữ liệu đầu vào hỗ trợ. Hồ sơ AI tạo sinh của NIST dùng thuật ngữ bịa đặt cho cùng hiện tượng này và mô tả đó là việc các hệ thống tạo sinh tạo ra rồi tự tin trình bày nội dung sai sót hoặc không đúng sự thật. NIST cũng đưa vào định nghĩa này những kết quả đi chệch câu lệnh hoặc dữ liệu đầu vào khác, hay mâu thuẫn với những phát biểu trước đó trong cùng cuộc hội thoại.

Từ ảo giác là một cách nói ẩn dụ và có phần gây hiểu lầm. Công cụ không nhìn thấy những thứ không tồn tại. Nó tạo ra văn bản có vẻ hợp lý về mặt thống kê trong ngữ cảnh, nhưng đôi khi văn bản có vẻ hợp lý lại sai. Vì vậy, ảo giác hiếm khi trông giống một lỗi. Nó trông như một câu trả lời bình thường, được viết chỉn chu.

Vì sao ChatGPT bị ảo giác?

ChatGPT và các công cụ tương tự tạo ra thông tin ảo giác vì chúng được xây dựng để tạo phần văn bản tiếp nối có khả năng xuất hiện cao, chứ không phải để truy xuất dữ kiện đã được kiểm chứng. NIST mô tả hiện tượng bịa thông tin này là kết quả tự nhiên từ cách thiết kế các mô hình tạo sinh: chúng mô phỏng gần đúng phân phối thống kê của dữ liệu huấn luyện. Điều đó có thể tạo ra đầu ra chính xác, nhưng cũng có thể tạo ra đầu ra sai sự thật hoặc thiếu nhất quán. NIST lưu ý rằng vấn đề này đặc biệt đáng chú ý với các câu trả lời dài, có tính mở và những câu hỏi cần kiến thức chuyên môn sâu.

Một bài nghiên cứu năm 2025 của Kalai, Nachum, Vempala và Zhang đưa ra phần lý giải thứ hai. Các tác giả cho rằng quy trình huấn luyện và đánh giá thường khuyến khích việc đoán hơn là thừa nhận sự không chắc chắn, vì một mô hình đưa ra phỏng đoán đạt điểm cao hơn trong nhiều bài đánh giá chuẩn so với một mô hình nói rằng mình không biết. Theo cách lý giải của họ, các mô hình được tối ưu hóa để làm bài kiểm tra tốt. Dù cơ chế chính xác là gì, bài học thực tế cho nhân viên vẫn không thay đổi: sự tự tin của công cụ không cho bạn biết một nhận định có đúng hay không.

Ảo giác dễ xảy ra hơn khi bạn hỏi về điều ít được biết đến, mới xảy ra, rất cụ thể hoặc nằm ngoài tài liệu bạn cung cấp: một số liệu chính xác, vai trò của một người cụ thể, một câu trích dẫn, một vụ án, giá hiện tại của một sản phẩm. Ảo giác ít xảy ra hơn, nhưng vẫn có thể xảy ra, khi công cụ được yêu cầu chỉ làm việc dựa trên tài liệu bạn đã dán vào.

Hiện tượng ảo giác AI biểu hiện như thế nào trong công việc?

Trong công việc, ảo giác AI thường xuất hiện dưới dạng những chi tiết nhỏ, cụ thể và nghe có vẻ đúng. Danh sách này bao gồm các dạng mà nhân viên thường gặp nhất. Học cách nhận biết những dạng đó sẽ giúp phát hiện chúng dễ hơn.

Điều gì xảy ra khi hiện tượng ảo giác AI không được phát hiện?

Ví dụ công khai nổi tiếng nhất là vụ Mata v. Avianca, được Tòa án Liên bang Khu vực phía Nam New York của Hoa Kỳ ra phán quyết vào ngày 22 tháng 6 năm 2023. Các luật sư đã nộp tài liệu cho tòa có chứa những ý kiến tư pháp không tồn tại, cùng các trích dẫn và dẫn chiếu giả do ChatGPT tạo ra. Tòa xác định có hành vi thiếu thiện chí và áp dụng khoản phạt 5,000 đô la Mỹ đối với các luật sư và hãng luật của họ, với trách nhiệm liên đới và riêng rẽ, đồng thời yêu cầu họ viết thư cho khách hàng và các thẩm phán bị gán tên vào những ý kiến bịa đặt. Khi cân nhắc hình phạt, tòa ghi nhận hãng luật đã tổ chức chương trình bồi dưỡng pháp lý bắt buộc cho luật sư và nhân viên về năng lực công nghệ và công cụ AI: nói cách khác, đào tạo sau khi sự việc đã xảy ra.

Bài học không phải là luật sư thiếu cẩn thận. Vấn đề là một trích dẫn bịa đặt trông giống hệt trích dẫn thật, và người dựa vào nó đã bỏ qua đúng bước có thể phát hiện sai sót: mở nguồn để kiểm tra. Hầu hết các trường hợp AI ảo giác trong công việc đều nhỏ hơn, chẳng hạn ngày giao hàng sai trong email gửi khách hàng hoặc số liệu thống kê bịa đặt trong bản trình bày chào hàng, nhưng bản chất sai sót vẫn như nhau.

Ảo giác AI vẫn còn là vấn đề phải không?

Có. Các nhà cung cấp đã bổ sung những tính năng hỗ trợ, như tìm kiếm trên web kèm trích dẫn và khả năng trả lời dựa trên tệp được tải lên, nhưng không nhà cung cấp nào tuyên bố đã loại bỏ hiện tượng ảo giác. Chính tài liệu của Anthropic dành cho Claude nêu rằng các kỹ thuật được khuyến nghị giúp giảm ảo giác nhưng không loại bỏ hoàn toàn, đồng thời khuyên xác minh thông tin quan trọng, đặc biệt khi đưa ra quyết định có ảnh hưởng lớn. Các trang trợ giúp của Google về Gemini trong Gmail và Sheets cảnh báo rằng các tính năng Gemini có thể đề xuất thông tin không chính xác hoặc không phù hợp.

Hãy hoài nghi mọi tuyên bố rằng một công cụ không còn bị ảo giác. Câu hỏi hữu ích hơn là công cụ cụ thể đó xử lý những nhiệm vụ nào đủ đáng tin cậy cho mục đích của bạn, và cần những bước kiểm tra nào.

Làm thế nào để giảm hiện tượng ảo giác của AI?

Bạn giảm hiện tượng ảo giác bằng cách hạn chế những gì công cụ phải tự tạo ra: cung cấp nguồn, yêu cầu công cụ chỉ dùng nguồn đó, cho phép công cụ nói rằng mình không biết và yêu cầu đưa ra bằng chứng cho từng nhận định. Các kỹ thuật dưới đây dựa trên hướng dẫn của nhà cung cấp, bao gồm tài liệu của Anthropic về giảm hiện tượng ảo giác, được điều chỉnh cho công việc không chuyên về kỹ thuật. Không kỹ thuật nào loại bỏ được nhu cầu kiểm tra.

Ví dụ về câu lệnh kết hợp nhiều kỹ thuật: Chỉ dựa vào nội dung chính sách dưới đây, hãy liệt kê ba quy định áp dụng cho chuyến công tác của nhân viên được đặt trong vòng 48 giờ trước giờ khởi hành. Với mỗi quy định, hãy trích nguyên văn câu làm căn cứ. Nếu chính sách không đề cập đến nội dung nào đó, hãy ghi Không nêu. Không sử dụng kiến thức chung.

Việc phát hiện ảo giác AI diễn ra như thế nào trong thực tế?

Hãy xét Northgate Supply, một nhà phân phối vật tư nha khoa giả định có 25 nhân viên. Một điều phối viên bán hàng dán chính sách đổi trả dài hai trang của công ty vào và hỏi trợ lý: Thời hạn trả hàng đối với sản phẩm đã mở là bao lâu, và có phí nhập lại kho không? Chính sách được cung cấp nêu rằng hàng chưa mở có thể được trả trong vòng 30 ngày, hàng đã mở chỉ được trả nếu bị lỗi, và không đề cập đến phí nhập lại kho.

Câu trả lời đầu tiên: Sản phẩm đã mở có thể được trả lại trong vòng 14 ngày, chịu phí nhập lại kho 15 phần trăm. Cả hai chi tiết đều được bịa ra. Chính sách không đề cập đến 14 ngày hay bất kỳ khoản phí nào. Chúng có vẻ hợp lý vì nhiều chính sách đổi trả có những điều khoản này, và đó chính là cách một câu trả lời có xác suất xuất hiện cao về mặt thống kê lại sai.

Điều phối viên đặt lại câu hỏi bằng các kỹ thuật trên: chỉ dùng chính sách, trích nguyên câu, ghi Không nêu nếu thiếu thông tin. Câu trả lời thứ hai: Hàng đã mở: chỉ được trả lại nếu bị lỗi (trích dẫn: Hàng đã mở chỉ được trả lại khi sản phẩm bị lỗi). Phí nhập lại kho: Không nêu. Câu trả lời đó có thể được đối chiếu với tài liệu trong vài giây, còn phần thiếu về phí được chuyển đến người phụ trách chính sách thay vì đưa vào thư gửi khách hàng.

Nhân viên nên làm gì sau khi phát hiện AI tạo ra thông tin ảo giác?

Xóa hoặc sửa phát biểu sai, rồi xác định xem đã có ai dựa vào thông tin đó hay chưa. Nếu nội dung chỉ mới là bản nháp, hãy sửa rồi tiếp tục, đồng thời ghi rõ trong phần rà soát rằng công cụ đã bịa ra chi tiết đó. Nếu nội dung đã được gửi, chia sẻ hoặc dùng để ra quyết định, hãy báo cho người phụ trách để họ có thể đính chính. Đừng âm thầm sửa tài liệu mà người khác đã đọc.

Bạn cũng nên cho đồng nghiệp biết những loại câu hỏi nào đã gây ra lỗi. Một nhóm chia sẻ ví dụ về những gì đã sai sẽ học nhanh hơn nhóm mà mỗi người phải tự phát hiện cùng một lỗi. Phương pháp kiểm tra bản nháp từng bước có trong hướng dẫn kiểm chứng thông tin do AI tạo ra.

Khi nào một câu trả lời kém của AI không phải là ảo giác?

Không phải câu trả lời sai nào cũng là ảo giác AI, và cách khắc phục cũng khác nhau. Nếu công cụ đưa ra câu trả lời lỗi thời vì thông tin đã thay đổi sau khi công cụ được huấn luyện, cách khắc phục là dùng nguồn cập nhật. Nếu câu trả lời có thiên kiến hoặc phiến diện, vấn đề nằm ở cách đặt vấn đề và tính công bằng, chứ không phải bịa đặt. Nếu công cụ làm theo một câu lệnh mơ hồ và cho ra kết quả hợp lý nhưng không đúng ý, cách khắc phục là mô tả yêu cầu rõ hơn. Còn nếu ai đó cố tình dùng AI để gây hiểu lầm, đó là vấn đề về hành vi, không phải đào tạo.

Hướng dẫn này cũng không thể khẳng định một công cụ cụ thể là an toàn cho một công việc cụ thể có hệ quả lớn. Với các quyết định pháp lý, y tế, tài chính hoặc việc làm liên quan đến cá nhân, hãy nhờ người có chuyên môn kiểm tra, bất kể đầu ra được tạo ra bằng cách nào.

Nguồn và phạm vi

NIST, AI 600-1: Hồ sơ AI tạo sinh, July 2024 ↗

Kalai, Nachum, Vempala và Zhang, Vì sao mô hình ngôn ngữ bị ảo giác, arXiv, 4 tháng 9 năm 2025 ↗

Anthropic, tài liệu Claude: Giảm hiện tượng ảo giác, truy cập ngày 16 October 2026 ↗

Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), bản sao do CLLA lưu trữ ↗

Trợ giúp Gmail, Cộng tác với Gemini trong Gmail, truy cập ngày 16 October 2026 ↗

Trợ giúp trình chỉnh sửa tài liệu Google, Cộng tác với Gemini trong Google Sheets, truy cập ngày 16 October 2026 ↗