Hallucination ทำไม AI ถึงตอบมั่นใจในสิ่งที่ไม่มีอยู่

AI ตอบชื่องานวิจัยมาพร้อมปีที่ตีพิมพ์และชื่อวารสาร คุณเอาไปอ้างในรายงาน แล้วมีคนทักมาว่าค้นไม่เจอ ปรากฏว่างานนั้นไม่มีอยู่จริง

คนส่วนมากสรุปว่า "AI โกหก" ซึ่งไม่ถูก เพราะการโกหกต้องรู้ความจริงก่อน สิ่งที่เกิดขึ้นต่างออกไปโดยสิ้นเชิง

มันถูกออกแบบมาให้เดา

โมเดลถูกฝึกมาให้เติมช่องว่างให้น่าเชื่อที่สุด ไม่ได้ถูกฝึกมาให้ตอบว่า "ไม่รู้" เวลาเจอช่องว่างที่ไม่มีข้อมูล มันจึงเติมด้วยสิ่งที่ดูเข้าท่าที่สุด ซึ่งก็คือสิ่งที่หน้าตาคล้ายความจริงที่สุด

สถานการณ์ที่เสี่ยงสูงเป็นพิเศษ

ลดความเสี่ยงอย่างไร

1. ให้แหล่งข้อมูลไปด้วย — แปะเอกสารจริงให้มันอ่าน ดีกว่าให้มันดึงจากความจำเยอะ
2. อนุญาตให้ตอบว่าไม่รู้ — เขียนใน prompt ตรง ๆ ว่าถ้าไม่มั่นใจให้บอก
3. ถามเป็นข้อ ๆ — คำถามเฉพาะเจาะจงมีโอกาสเพี้ยนน้อยกว่าคำถามกว้าง
4. ตรวจสิ่งที่ตรวจได้ — ตัวเลข ชื่อคน ลิงก์ กฎหมาย ต้องไปเช็คกับแหล่งจริงเสมอ

จุดที่หลายคนเข้าใจผิด

การต่อข้อมูลจริงเข้าไปช่วยได้มาก แต่ก็ไม่ได้กำจัดปัญหาทั้งหมด โมเดลยังอาจอ่านเอกสารผิด สรุปเกินจริง หรือหยิบประโยคมาผิดบริบท

เวลาทำงานที่ความถูกต้องสำคัญจริง ๆ ให้มอง AI เป็นคนร่างที่เร็วและมั่นใจเกินตัว ไม่ใช่ผู้เชี่ยวชาญที่พูดอะไรก็เชื่อได้