ใช้ AI กับเอกสารยาว: เทคนิค Long Context ที่ได้ผลจริง

Plants.work · · upskilling
ใช้ AI กับเอกสารยาว: เทคนิค Long Context ที่ได้ผลจริง

ทำไม AI พลาดเมื่อเอกสารยาว ปรากฏการณ์ Lost in the Middle และเทคนิคจัดวางเอกสาร คำถาม และการอ้างอิงจากคู่มือ Anthropic

คุณอัปโหลด TOR งานประมูล 120 หน้าให้ AI แล้วถามว่า "มีเงื่อนไขค่าปรับกรณีส่งงานล่าช้าไหม" AI ตอบอย่างมั่นใจว่าไม่มี ทั้งที่เงื่อนไขนั้นอยู่ในหน้า 67 โมเดลรุ่นใหม่รับเอกสารยาวได้มากขึ้นเรื่อยๆ แต่ "รับได้" ไม่ได้แปลว่า "ใช้ได้ดีทุกส่วน" บทความนี้คือเทคนิคที่ช่วยให้ AI อ่านเอกสารยาวแม่นขึ้น

Long Context คืออะไร

Long context คือการส่งข้อมูลปริมาณมาก เช่น สัญญา รายงานประจำปี หรือเอกสารหลายฉบับ เข้าไปใน context window ของโมเดลในครั้งเดียว แทนการตัดเป็นชิ้นเล็ก เอกสาร prompting ของ Anthropic ให้คำแนะนำเฉพาะสำหรับ prompt ที่มีข้อมูลตั้งแต่ราว 20,000 token ขึ้นไป

ทำไม AI พลาดกับเอกสารยาว

Lost in the Middle

งานวิจัย "Lost in the Middle: How Language Models Use Long Contexts" ของ Nelson F. Liu และคณะ (2023) พบว่าโมเดลทำงานได้ดีที่สุดเมื่อข้อมูลสำคัญอยู่ต้นหรือท้ายอินพุต และประสิทธิภาพลดลงอย่างมีนัยสำคัญเมื่อข้อมูลนั้นอยู่กลางเอกสาร แม้แต่โมเดลที่ออกแบบมาสำหรับ context ยาว

Context Rot

บทความ context engineering ของ Anthropic เรียกปรากฏการณ์ที่ความสามารถดึงข้อมูลกลับมาใช้ลดลงเมื่อ context ยาวขึ้นว่า context rot ซึ่งเกิดกับทุกโมเดลในระดับต่างกัน (อ่านเพิ่มใน Context Engineering)

4 เทคนิคจากคู่มือ Anthropic

1. วางเอกสารไว้ด้านบน คำถามไว้ท้าย

Anthropic แนะนำให้วางเอกสารยาวไว้ส่วนบนของ prompt เหนือคำสั่งและตัวอย่าง และระบุว่าการวางคำถามไว้ท้ายสุด "ช่วยเพิ่มคุณภาพคำตอบได้สูงสุดถึง 30% ในการทดสอบ" โดยเฉพาะกับอินพุตหลายเอกสารที่ซับซ้อน

2. ครอบแต่ละเอกสารด้วยแท็ก

ใส่เอกสารแต่ละฉบับใน <document> โดยมี <source> บอกที่มา และ <document_content> เป็นเนื้อหา รวมทั้งหมดไว้ใน <documents> เพิ่มข้อมูลเมตาอย่างวันที่หรือเลขเวอร์ชันได้ AI จะอ้างถึงเอกสารได้ถูกฉบับ

3. ให้ดึงข้อความอ้างอิงก่อนตอบ

Anthropic แนะนำให้ขอให้ AI ยกข้อความที่เกี่ยวข้องจากเอกสารออกมาก่อน แล้วค่อยทำงานจากข้อความเหล่านั้น ช่วยให้โมเดลโฟกัสส่วนที่สำคัญและตัดส่วนที่ไม่เกี่ยวออก

4. ส่งเฉพาะสิ่งที่จำเป็น

ถ้ารู้ว่าคำถามเกี่ยวกับบทไหน ส่งแค่บทนั้น หลัก "token น้อยแต่สัญญาณสูง" ยังใช้ได้แม้โมเดลรับได้มาก

ตัวอย่าง: เทียบรายงานประจำปี 3 บริษัท

<documents> <document><source>รายงานประจำปี บริษัท ก ปี 2025</source><document_content>...</document_content></document> (บริษัท ข และ ค ในรูปแบบเดียวกัน) </documents> ขั้นแรก ยกข้อความที่พูดถึงความเสี่ยงด้านซัพพลายเชนจากแต่ละฉบับมาไว้ใน <quotes> พร้อมระบุที่มา จากนั้นเปรียบเทียบว่าแต่ละบริษัทรับมือต่างกันอย่างไร ถ้าเอกสารฉบับไหนไม่มีเรื่องนี้ ให้บอกตรงๆ

สังเกตว่าคำถามอยู่ท้าย มีแท็กแยกฉบับ บังคับให้ยกข้อความก่อน และมีทางออกเมื่อไม่พบข้อมูล

เมื่อไหร่ไม่ควรยัดทั้งหมดลงไป

ใส่เอกสารได้ยาวแค่ไหนไม่สำคัญเท่าจัดวางยังไง

ข้อควรระวัง

เริ่มต้นยังไง

  1. เลือกเอกสารยาวที่คุณต้องอ่านบ่อย เช่น สัญญา นโยบาย หรือรายงาน
  2. จัด prompt ใหม่ เอกสารอยู่บน ครอบด้วยแท็ก คำถามอยู่ท้าย
  3. เพิ่มขั้นให้ยกข้อความอ้างอิงก่อนตอบ
  4. ทดสอบด้วยคำถามที่คุณรู้คำตอบอยู่แล้ว โดยเฉพาะข้อมูลที่อยู่กลางเอกสาร

ทักษะอ่านและสรุปเอกสารด้วย AI ใช้ได้แทบทุกสายงาน ตั้งแต่บัญชี กฎหมาย ไปจนถึงจัดซื้อ ลองดูคอร์สที่ช่วยต่อยอดใน Plants.work Learn หรือหาตำแหน่งที่ใช้ทักษะนี้ใน หน้างาน