นิตยสารYamroongเรื่องราวที่ควรค่าแก่การอ่าน
Hallucination ทำไม AI ถึงตอบมั่นใจในสิ่งที่ไม่มีอยู่
AI ตอบชื่องานวิจัยมาพร้อมปีที่ตีพิมพ์และชื่อวารสาร คุณเอาไปอ้างในรายงาน แล้วมีคนทักมาว่าค้นไม่เจอ ปรากฏว่างานนั้นไม่มีอยู่จริง
คนส่วนมากสรุปว่า "AI โกหก" ซึ่งไม่ถูก เพราะการโกหกต้องรู้ความจริงก่อน สิ่งที่เกิดขึ้นต่างออกไปโดยสิ้นเชิง
มันถูกออกแบบมาให้เดา
โมเดลถูกฝึกมาให้เติมช่องว่างให้น่าเชื่อที่สุด ไม่ได้ถูกฝึกมาให้ตอบว่า "ไม่รู้" เวลาเจอช่องว่างที่ไม่มีข้อมูล มันจึงเติมด้วยสิ่งที่ดูเข้าท่าที่สุด ซึ่งก็คือสิ่งที่หน้าตาคล้ายความจริงที่สุด
สถานการณ์ที่เสี่ยงสูงเป็นพิเศษ
| สถานการณ์ | ทำไมอันตราย |
|---|---|
| ถามเรื่องเฉพาะทางมาก ๆ | ข้อมูลในการฝึกมีน้อย โมเดลเติมช่องว่างจากรูปแบบทั่วไป |
| ถามตัวเลข วันที่ สถิติ | ตัวเลขที่ดูสมเหตุสมผลกับตัวเลขที่ถูกต้อง หน้าตาเหมือนกันมาก |
| ขออ้างอิง งานวิจัย URL | รูปแบบของชื่องานวิจัยเลียนแบบง่ายมาก จึงแต่งขึ้นได้เนียน |
| ถามเรื่องที่เพิ่งเกิดขึ้น | เลยวันที่ตัดข้อมูล โมเดลจะเติมด้วยการคาดเดา |
| ตั้งคำถามที่มีสมมติฐานผิด | โมเดลมักคล้อยตามสมมตินั้นแทนที่จะค้าน |
ลดความเสี่ยงอย่างไร
- ให้แหล่งข้อมูลไปด้วย — แปะเอกสารจริงให้มันอ่าน ดีกว่าให้มันดึงจากความจำเยอะ
- อนุญาตให้ตอบว่าไม่รู้ — เขียนใน prompt ตรง ๆ ว่าถ้าไม่มั่นใจให้บอก
- ถามเป็นข้อ ๆ — คำถามเฉพาะเจาะจงมีโอกาสเพี้ยนน้อยกว่าคำถามกว้าง
- ตรวจสิ่งที่ตรวจได้ — ตัวเลข ชื่อคน ลิงก์ กฎหมาย ต้องไปเช็คกับแหล่งจริงเสมอ
จุดที่หลายคนเข้าใจผิด
การต่อข้อมูลจริงเข้าไปช่วยได้มาก แต่ก็ไม่ได้กำจัดปัญหาทั้งหมด โมเดลยังอาจอ่านเอกสารผิด สรุปเกินจริง หรือหยิบประโยคมาผิดบริบท
เวลาทำงานที่ความถูกต้องสำคัญจริง ๆ ให้มอง AI เป็นคนร่างที่เร็วและมั่นใจเกินตัว ไม่ใช่ผู้เชี่ยวชาญที่พูดอะไรก็เชื่อได้
ความคิดเห็น
กำลังโหลดความคิดเห็น