LLM ทำนายคำถัดไป แล้วทำไมมันถึงดูฉลาด

เวลาคุยกับแชทบอต AI แล้วมันตอบเป็นย่อหน้ายาว หลายคนนึกว่ามัน "คิด" คำตอบทั้งก้อนออกมา จริง ๆ แล้วมันทำงานทีละชิ้น โดยถามคำถามเดิมซ้ำ ๆ ว่า "จากทุกอย่างที่มีอยู่ตอนนี้ ชิ้นถัดไปควรเป็นอะไร"

คำว่า "ชิ้น" หมายถึงอะไร

โมเดลไม่ได้มองโลกเป็นตัวอักษร แต่มองเป็น token ซึ่งมักเป็นชิ้นส่วนของคำ คำภาษาอังกฤษที่ใช้บ่อยอาจเป็น token เดียว ส่วนคำไทยมักโดนซอยเป็นหลายชิ้นกว่าที่คิด

ทำนายทีละชิ้น แล้ววนซ้ำ

เมื่อได้ token ใหม่หนึ่งตัว มันจะเอาตัวนั้นต่อท้ายข้อความแล้วทำนายตัวถัดไปอีกที วนแบบนี้ไปเรื่อย ๆ นี่คือเหตุผลที่คำตอบค่อย ๆ ไหลออกมาทีละคำแทนที่จะโผล่มาทั้งก้อน

อินพุต : "เมืองหลวงของประเทศไทยคือ"
ทำนาย  : กรุงเทพ (92%) / กรุง (5%) / นคร (1%) ...
เลือก  : "กรุงเทพ"

อินพุตรอบถัดไป:
"เมืองหลวงของประเทศไทยคือกรุงเทพ" → ทำนายตัวต่อไป

แล้วความฉลาดมาจากไหน

คำถามที่ดีคือ ทำไมเครื่องที่ทำแค่ทำนายคำถัดไปถึงเขียนโค้ดได้ คำตอบคือ การจะทำนายคำถัดไปในข้อความทั้งอินเทอร์เน็ตได้แม่น จำเป็นต้องเรียนรู้โครงสร้างของภาษา เหตุผล และการจัดหมวดหมู่ไปด้วย

ทำไมคำตอบถึงไม่เหมือนเดิมทุกครั้ง

เพราะการเลือกมีการสุ่มอยู่ ค่าที่คุมการสุ่มนี้เรียกว่า temperature ถ้าตั้งเป็น 0 คำตอบจะเสถียรขึ้นมาก แต่ก็จืดชืดขึ้นด้วย

สิ่งที่ควรติดตัวไปจากบทนี้

• โมเดลไม่มีฐานข้อมูลให้ค้น มันมีแต่น้ำหนักที่เรียนมา
• ความมั่นใจในน้ำเสียงไม่เท่ากับความถูกต้อง
• การต่อประโยคได้สวยไม่ได้แปลว่าข้อเท็จจริงข้างในถูก

เมื่อเข้าใจตรงนี้ การใช้งาน AI จะเปลี่ยนไป คุณจะเริ่มหาวิธีป้อนข้อมูลที่ถูกต้องเข้าไปเอง แทนที่จะหวังว่ามันจำทุกอย่างได้เอง