AI Hallucination là gì? Nguyên nhân và cách giảm

AI Hallucination (ảo giác AI) là hiện tượng AI tạo ra thông tin sai, bịa hoặc không kiểm chứng được, nhưng trình bày bằng giọng rất tự tin như thể đó là sự thật. Chính vì nghe mượt và chắc nịch nên người đọc dễ tin, đó là lý do AI Hallucination nguy hiểm hơn một lỗi sai thông thường.

Key Takeaways

AI Hallucination là khi AI "bịa" ra thông tin nghe hợp lý nhưng không có thật.
Nó xảy ra vì model đoán chữ tiếp theo cho trôi câu, ít khi chịu nói "tôi không biết".
Đã có vụ thật: luật sư bị toà phạt vì trích dẫn án lệ do ChatGPT bịa ra.
Dấu hiệu dễ thấy: số liệu, trích dẫn, tên riêng quá cụ thể mà không có nguồn.
Hạn chế bằng cách: hỏi rõ ràng, yêu cầu dẫn nguồn, tự kiểm chứng và dùng model đời mới.

AI Hallucination là gì?

AI Hallucination, hay "ảo giác AI", là khi một mô hình AI sinh ra nội dung sai sự thật hoặc bịa đặt mà vẫn nói một cách rất thuyết phục.

Từ "hallucination" (ảo giác) được mượn để mô tả việc AI "nhìn thấy" thứ không tồn tại trong dữ liệu. Nó không cố ý nói dối, mà đơn giản là tạo ra câu trả lời nghe trôi chảy dù nội dung sai. Điều đáng ngại là bề ngoài câu trả lời bịa và câu trả lời đúng gần như giống hệt nhau.

Vì sao AI Hallucination xảy ra?

Bản chất của các mô hình ngôn ngữ lớn (LLM) là đoán từ tiếp theo dựa trên xác suất, chứ không phải tra cứu một kho sự thật. Khi gặp chỗ không chắc, nó vẫn cố điền cho trôi câu thay vì dừng lại.

Sơ đồ 3 bước vì sao AI bịa thông tin: gặp chỗ không chắc, đoán cho trôi câu, ra thông tin bịa

Minh hoạ: Học lỏm

Mấy nguyên nhân chính khiến ảo giác AI xuất hiện:

Dữ liệu huấn luyện thiếu hoặc lỗi thời - model không có thông tin đúng nên tự suy ra, dễ chệch khỏi thực tế.
Model không tự kiểm chứng - nó không truy ngược xem thông tin có thật hay không, chỉ chọn câu chữ nghe hợp lý.
Câu hỏi mơ hồ hoặc gài giả định sai - prompt thiếu dữ kiện khiến AI phải đoán, và đoán thì dễ sai.
Thói quen "nói cho trôi" - model hiếm khi trả lời "tôi không biết", nên lấp chỗ trống bằng thông tin bịa.

Ví dụ thực tế về AI Hallucination

Ảo giác AI không chỉ là chuyện lý thuyết, nó đã gây hậu quả thật.

Ví dụ ảo giác AI: người dùng hỏi về kính JWST, AI trả lời sai nhưng rất tự tin và bị đóng dấu SAI

Minh hoạ: Học lỏm

2 vụ hay được nhắc tới nhất:

Luật sư bị toà phạt (2023) - trong một vụ kiện ở Mỹ, luật sư dùng ChatGPT để tra án lệ và nộp lên toà 6 vụ án hoàn toàn không có thật, kèm số hồ sơ và lập luận bịa. Toà phát hiện và ra án phạt. ?
Google Bard và kính JWST - trong video demo đầu năm 2023, Bard trả lời rằng kính James Webb chụp tấm ảnh ngoại hành tinh đầu tiên. Thông tin này sai, và sự cố góp phần khiến vốn hoá công ty mẹ của Google giảm mạnh ngay sau đó. ?

Điểm chung: AI nói sai nhưng cực kỳ tự tin, tới mức cả người có chuyên môn cũng suýt tin theo.

Dấu hiệu nhận biết AI Hallucination

Bạn khó biết chắc 100%, nhưng vài dấu hiệu sau đáng để cảnh giác:

Trích dẫn, số liệu, tên riêng quá cụ thể nhưng không kèm nguồn rõ ràng.
Câu trả lời trơn tru bất thường cho một câu hỏi vốn khó hoặc ít dữ liệu.
Thông tin mâu thuẫn khi bạn hỏi lại cùng một việc theo cách khác.
Link, tên sách, tên nghiên cứu nghe thật nhưng tìm lại không ra.

Cách hạn chế AI Hallucination

Không thể diệt sạch ảo giác AI, nhưng giảm rõ rệt thì được. Về phía người dùng:

Hỏi rõ ràng, đủ bối cảnh - prompt càng cụ thể, AI càng ít phải đoán.
Cho phép AI nói "không biết" - thêm câu như "nếu không chắc thì nói không biết, đừng bịa".
Yêu cầu dẫn nguồn và tự kiểm chứng lại - nhất là với số liệu, trích dẫn, tên riêng.
Cung cấp tài liệu cho AI đọc - dán sẵn dữ liệu đúng để nó bám vào thay vì tự nhớ.
Dùng model đời mới - các model mới nhìn chung bịa ít hơn và biết dừng đúng lúc hơn.

Kết quả vẫn tuỳ loại câu hỏi và model, nên khâu con người soát lại vẫn là quan trọng nhất.

Câu hỏi thường gặp về AI Hallucination

AI Hallucination có phải AI cố tình nói dối không?
Không, AI không có ý định lừa bạn. Nó chỉ sinh câu chữ nghe hợp lý dựa trên xác suất, nên khi thiếu dữ liệu đúng thì "lấp" bằng thông tin bịa. Không có động cơ, chỉ là cách mô hình hoạt động. Vì vậy cứ coi mọi câu trả lời là cần kiểm chứng.

Model càng mới thì hết ảo giác phải không?
Chưa hết hẳn, nhưng giảm đáng kể. Các model đời mới được tinh chỉnh để bịa ít hơn và biết nói "không chắc" nhiều hơn. Dù vậy, với chủ đề hiếm dữ liệu hoặc câu hỏi mơ hồ, ảo giác vẫn có thể xảy ra. Đừng tin tuyệt đối vào bất kỳ đời model nào.

Làm sao kiểm tra một câu trả lời có bị ảo giác không?
Đối chiếu với nguồn đáng tin bên ngoài AI. Tìm lại số liệu, trích dẫn hoặc tên riêng mà AI đưa ra xem có thật không. Nếu không tra được hoặc thông tin lệch, nhiều khả năng đó là ảo giác. Với việc quan trọng, luôn xác minh trước khi dùng.

AI Hallucination có nguy hiểm không?
Có, nhất là trong các lĩnh vực cần chính xác như pháp lý, y tế, tài chính. Vì thông tin sai được nói rất tự tin nên dễ bị dùng nhầm, như vụ luật sư trích án lệ bịa. Rủi ro tuỳ ngữ cảnh, nhưng càng quan trọng thì càng phải soát kỹ.

Kết luận

AI Hallucination là mặt trái khó tránh của AI hiện nay: nó có thể bịa thông tin sai mà vẫn nói chắc như đúng rồi. Hiểu vì sao nó xảy ra và giữ thói quen kiểm chứng, bạn vẫn dùng AI hiệu quả mà không bị nó dắt mũi. Nhớ một câu: AI nói hay chưa chắc là AI nói đúng.