Open-source LLM และการรัน AI ในองค์กรเอง
รู้จัก Open-source และ Open-weight LLM ข้อดีข้อเสียของการรัน AI บนเครื่องขององค์กรเอง โมเดลภาษาไทยที่มีให้ใช้ และวิธีเริ่มทดลองแบบไม่เสี่ยง
ฝ่ายกฎหมายของบริษัทแห่งหนึ่งอยากใช้ AI ช่วยอ่านสัญญาหลายร้อยฉบับ แต่ติดเงื่อนไขข้อเดียวคือ เอกสารเหล่านี้ห้ามออกนอกเครือข่ายบริษัทเด็ดขาด คำถามจึงตามมาว่า เป็นไปได้ไหมที่จะมี AI แบบ ChatGPT ที่ทำงานอยู่บนเซิร์ฟเวอร์ของเราเอง คำตอบคือเป็นไปได้ และนี่คือโลกของ Open-source LLM กับการรัน AI แบบ Self-hosted แต่ก่อนตัดสินใจ คุณควรรู้ทั้งข้อดีและภาระที่มาด้วย
Open-source LLM คืออะไร
Open-source LLM คือโมเดลภาษาที่ผู้พัฒนาเปิดให้ดาวน์โหลดไฟล์โมเดลไปใช้เองได้ ต่างจากบริการแบบ API ที่คุณส่งข้อความไปประมวลผลบนเซิร์ฟเวอร์ของผู้ให้บริการ ในทางเทคนิคควรแยกให้ออกระหว่าง
- Open-weight: เปิดไฟล์น้ำหนักของโมเดล (Weights) ให้ดาวน์โหลด แต่อาจไม่เปิดข้อมูลหรือโค้ดที่ใช้ฝึก
- Open-source เต็มรูปแบบ: เปิดมากกว่านั้น และใช้สัญญาอนุญาตแบบโอเพนซอร์สที่ชัดเจน
สิ่งที่สำคัญที่สุดคือสัญญาอนุญาต (License) ของแต่ละโมเดล ซึ่งกำหนดว่าใช้เชิงพาณิชย์ได้ไหม และมีเงื่อนไขอะไร
ตัวอย่างโมเดลที่เกี่ยวกับภาษาไทย
Typhoon จาก SCB 10X
SCB 10X เปิดตัว Typhoon เป็นตระกูลโมเดลที่ปรับให้เก่งภาษาไทย โดยบล็อกของ SCB 10X ระบุว่าได้เผยแพร่โมเดล Typhoon-7B แบบ Pre-trained เป็นโอเพนซอร์สภายใต้สัญญาอนุญาต Apache 2.0 และพัฒนาต่อยอดจาก Mistral-7B
OpenThaiGPT
ตามรายงานของ Bangkok Post โครงการ OpenThaiGPT เปิดตัวโดย NECTEC ร่วมกับสมาคมผู้ประกอบการปัญญาประดิษฐ์ประเทศไทย (AIEAT) สมาคมปัญญาประดิษฐ์ประเทศไทย (AIAT) และศูนย์ ThaiSC โดยวางตัวเป็นซอฟต์แวร์โอเพนซอร์สที่ใช้ได้ฟรีและปรับแต่งได้
ก่อนใช้งานจริง ควรตรวจรุ่นล่าสุดและสัญญาอนุญาตจากหน้าเผยแพร่ทางการของแต่ละโครงการอีกครั้ง
รันเองได้ยังไง
สำหรับการทดลอง มีเครื่องมืออย่าง Ollama ซึ่ง Real Python อธิบายว่าเป็นเครื่องมือโอเพนซอร์สฟรีสำหรับดาวน์โหลดและรันโมเดลบนเครื่องของคุณเอง ใช้ได้บน macOS, Windows และ Linux และเมื่อดาวน์โหลดโมเดลแล้ว ข้อความที่พิมพ์จะไม่ถูกส่งไปยังเซิร์ฟเวอร์ภายนอก ส่วนการใช้งานระดับองค์กรที่มีผู้ใช้หลายคนพร้อมกัน มักต้องใช้เซิร์ฟเวอร์ที่มี GPU และทีมดูแลระบบ
ข้อดีและภาระที่ต้องชั่งน้ำหนัก
ข้อดี
- ควบคุมข้อมูลได้เต็มที่ ข้อมูลไม่ต้องออกนอกองค์กร
- ปรับแต่ง (Fine-tune) ให้เข้ากับงานเฉพาะได้
- ไม่ขึ้นกับการเปลี่ยนราคาหรือนโยบายของผู้ให้บริการภายนอก
ภาระ
- ต้นทุนฮาร์ดแวร์ ค่าไฟ และคนดูแลระบบ
- ต้องอัปเดตโมเดล แพตช์ความปลอดภัย และวางระบบสิทธิ์การเข้าถึงเอง
- โมเดลขนาดที่รันได้บนเครื่องทั่วไปอาจยังทำงานซับซ้อนได้ไม่ดีเท่าโมเดลใหญ่บนคลาวด์
รัน AI เองไม่ได้แปลว่าปลอดภัยโดยอัตโนมัติ แค่ย้ายความรับผิดชอบด้านความปลอดภัยมาไว้ที่คุณ
แบบไหนเหมาะกับองค์กรของคุณ
รันเองน่าสนใจเมื่อ: ข้อมูลอ่อนไหวมากจนส่งออกไม่ได้ มีงานปริมาณสูงและคงที่ที่คำนวณแล้วคุ้มกว่าจ่ายตามการใช้งาน หรือมีทีม IT ที่พร้อมดูแลระบบระยะยาว
ใช้บริการคลาวด์เหมาะกว่าเมื่อ: ทีมเล็ก ต้องการเริ่มเร็ว งานต้องการโมเดลที่ฉลาดที่สุด หรือปริมาณงานยังไม่แน่นอน หลายองค์กรจึงเลือกแบบผสม และค่อยๆ ย้ายงานบางส่วนมาไว้ในองค์กรเมื่อเห็นความจำเป็นชัดเจน
ข้อควรระวัง
- อ่านสัญญาอนุญาตทุกครั้ง บางโมเดลมีเงื่อนไขการใช้เชิงพาณิชย์
- ดาวน์โหลดโมเดลจากแหล่งทางการเท่านั้น ไฟล์โมเดลจากแหล่งไม่น่าเชื่อถือคือความเสี่ยงด้าน Supply Chain ซึ่ง OWASP จัดไว้ใน Top 10 for LLM Applications 2025
- แม้ข้อมูลไม่ออกนอกองค์กร การใช้ข้อมูลส่วนบุคคลยังต้องเป็นไปตาม PDPA อ่านเพิ่มที่ PDPA กับการใช้ AI
เริ่มต้นยังไง
- ระบุงานที่ข้อมูลอ่อนไหวจนส่งออกนอกองค์กรไม่ได้จริงๆ
- ทดลองรันโมเดลขนาดเล็กบนเครื่องทดสอบด้วยเครื่องมืออย่าง Ollama
- เทียบคุณภาพกับบริการคลาวด์ด้วยชุดงานจริงเดียวกัน
- ประเมินต้นทุนรวม ทั้งฮาร์ดแวร์และคนดูแล ไม่ใช่แค่ค่าโมเดล
- ตัดสินใจแบบผสม ใช้โมเดลในองค์กรกับงานอ่อนไหว และใช้คลาวด์กับงานทั่วไป
ถ้ายังลังเลว่าจะเลือกโมเดลแบบไหน อ่านต่อที่ เลือก LLM ให้เหมาะกับงาน และถ้าคุณสนใจงานสายนี้ ดูตำแหน่งงานด้าน AI และ Data ได้ที่ Plants.work Jobs