นิตยสารYamroongเรื่องราวที่ควรค่าแก่การอ่าน

Prompting RAG หรือ fine-tuning เลือกยังไงดี

เวลาอยากให้ AI ทำงานเฉพาะทางได้ดีขึ้น มีสามทางให้เลือก แต่หลายคนกระโดดข้ามไปที่ fine-tuning เพราะมันฟังจริงจังที่สุด ทั้งที่มันมักเป็นตัวเลือกที่แพงและช้าที่สุด

แต่ละทางแก้ปัญหาคนละแบบ

วิธีแก้ปัญหาต้นทุน
Promptingโมเดลไม่รู้ว่าเราอยากได้อะไรต่ำมาก แก้ได้ทันที
RAGโมเดลไม่รู้ข้อมูลของเรากลาง ต้องดูแลระบบค้นหา
Fine-tuningโมเดลไม่เข้าใจสไตล์หรือรูปแบบงานที่เราต้องการสูง ต้องมีชุดข้อมูลและทำซ้ำทุกรอบ

ลำดับที่ควรลอง

  1. เขียน prompt ให้ดีก่อน — ให้ตัวอย่าง กำหนดรูปแบบผลลัพธ์ อธิบายข้อจำกัดให้ชัด
  2. เติม RAG ถ้าปัญหาคือความรู้ — โมเดลไม่รู้เอกสารภายใน กฎของบริษัท หรือข้อมูลล่าสุด
  3. ค่อย fine-tune ถ้าสองข้อแรกไม่พอ — ใช้เมื่อต้องการรูปแบบเฉพาะ หรือต้องลดค่าใช้จ่ายต่อครั้ง

ใช้ร่วมกันได้และมักดีกว่า

ระบบจริงส่วนมากใช้ทั้งสามอย่างปนกัน เช่น ใช้ RAG ดึงเอกสาร ใช้ prompt กำหนดรูปแบบคำตอบ และ fine-tune โมเดลเล็กไว้ทำงานจัดหมวดหมู่ที่ซ้ำสูงเพื่อประหยัดค่าใช้จ่าย

ก่อนลงทุนกับวิธีที่แพงที่สุด ให้สร้างชุดข้อสอบขึ้นมาก่อนสักสามสิบข้อ ไม่งั้นคุณจะไม่มีทางรู้เลยว่าสิ่งที่จ่ายไปทำให้ดีขึ้นจริงหรือไม่

ความคิดเห็น

กำลังโหลดความคิดเห็น