AI agent คืออะไร และทำไมมันถึงพังบ่อย

คำว่า agent ถูกใช้จนเฝือ จนบางทีอ่านแล้วไม่รู้ว่าตกลงหมายถึงอะไรกันแน่ แก่นของมันจริง ๆ สั้นมาก คือ LLM ที่เรียกเครื่องมือได้ และวนทำอย่างนั้นซ้ำจนกว่างานจะเสร็จ

ลูปที่อยู่เบื้องหลัง

1. รับเป้าหมาย + รายชื่อเครื่องมือที่ใช้ได้
2. โมเดลตัดสินว่าจะเรียกเครื่องมือไหน ด้วย input อะไร
3. ระบบเรียกเครื่องมือจริง แล้วส่งผลกลับเข้าโมเดล
4. วนกลับข้อ 2 จนกว่าโมเดลบอกว่าเสร็จ
5. ส่งคำตอบสุดท้ายให้ผู้ใช้

ความสามารถทั้งหมดขึ้นอยู่กับสองสิ่ง คุณภาพของการตัดสินเลือกเครื่องมือ กับคุณภาพของเครื่องมือเอง

ทำไม agent ถึงพังบ่อย

• คำอธิบายเครื่องมือกำกวม โมเดลจึงหยิบตัวผิดหรือใส่ argument ผิด
• เครื่องมือคืน error ดิบ ๆ โมเดลเลยเดาต่อว่าเกิดอะไรขึ้น
• ไม่มีเงื่อนไขหยุด วนซ้ำไปจน token หมดหรือค่าใช้จ่ายพุ่ง
• ให้สิทธิ์กว้างเกิน เช่น ลบไฟล์หรือส่งอีเมลได้โดยไม่ต้องขอยืนยัน

งานที่ agent ทำได้ดีจริง

งานที่มีขั้นตอนชัดเจน ตรวจผลลัพธ์ได้ทันที และผิดแล้วไม่เสียหาย เช่น ค้นข้อมูลหลายแหล่งแล้วสรุป หรือแก้โค้ดแล้วรันเทสต์เอง

ส่วนงานที่ผิดแล้วแก้ยาก เช่น โอนเงิน ลบข้อมูล หรือส่งของหาลูกค้า ควรให้ agent ทำแค่ขั้นเตรียม แล้วให้คนกดยืนยันขั้นสุดท้ายเอง