Open-source LLM และการรัน AI ในองค์กรเอง

Plants.work · · industry-insights
Open-source LLM และการรัน AI ในองค์กรเอง

รู้จัก Open-source และ Open-weight LLM ข้อดีข้อเสียของการรัน AI บนเครื่องขององค์กรเอง โมเดลภาษาไทยที่มีให้ใช้ และวิธีเริ่มทดลองแบบไม่เสี่ยง

ฝ่ายกฎหมายของบริษัทแห่งหนึ่งอยากใช้ AI ช่วยอ่านสัญญาหลายร้อยฉบับ แต่ติดเงื่อนไขข้อเดียวคือ เอกสารเหล่านี้ห้ามออกนอกเครือข่ายบริษัทเด็ดขาด คำถามจึงตามมาว่า เป็นไปได้ไหมที่จะมี AI แบบ ChatGPT ที่ทำงานอยู่บนเซิร์ฟเวอร์ของเราเอง คำตอบคือเป็นไปได้ และนี่คือโลกของ Open-source LLM กับการรัน AI แบบ Self-hosted แต่ก่อนตัดสินใจ คุณควรรู้ทั้งข้อดีและภาระที่มาด้วย

Open-source LLM คืออะไร

Open-source LLM คือโมเดลภาษาที่ผู้พัฒนาเปิดให้ดาวน์โหลดไฟล์โมเดลไปใช้เองได้ ต่างจากบริการแบบ API ที่คุณส่งข้อความไปประมวลผลบนเซิร์ฟเวอร์ของผู้ให้บริการ ในทางเทคนิคควรแยกให้ออกระหว่าง

สิ่งที่สำคัญที่สุดคือสัญญาอนุญาต (License) ของแต่ละโมเดล ซึ่งกำหนดว่าใช้เชิงพาณิชย์ได้ไหม และมีเงื่อนไขอะไร

ตัวอย่างโมเดลที่เกี่ยวกับภาษาไทย

Typhoon จาก SCB 10X

SCB 10X เปิดตัว Typhoon เป็นตระกูลโมเดลที่ปรับให้เก่งภาษาไทย โดยบล็อกของ SCB 10X ระบุว่าได้เผยแพร่โมเดล Typhoon-7B แบบ Pre-trained เป็นโอเพนซอร์สภายใต้สัญญาอนุญาต Apache 2.0 และพัฒนาต่อยอดจาก Mistral-7B

OpenThaiGPT

ตามรายงานของ Bangkok Post โครงการ OpenThaiGPT เปิดตัวโดย NECTEC ร่วมกับสมาคมผู้ประกอบการปัญญาประดิษฐ์ประเทศไทย (AIEAT) สมาคมปัญญาประดิษฐ์ประเทศไทย (AIAT) และศูนย์ ThaiSC โดยวางตัวเป็นซอฟต์แวร์โอเพนซอร์สที่ใช้ได้ฟรีและปรับแต่งได้

ก่อนใช้งานจริง ควรตรวจรุ่นล่าสุดและสัญญาอนุญาตจากหน้าเผยแพร่ทางการของแต่ละโครงการอีกครั้ง

รันเองได้ยังไง

สำหรับการทดลอง มีเครื่องมืออย่าง Ollama ซึ่ง Real Python อธิบายว่าเป็นเครื่องมือโอเพนซอร์สฟรีสำหรับดาวน์โหลดและรันโมเดลบนเครื่องของคุณเอง ใช้ได้บน macOS, Windows และ Linux และเมื่อดาวน์โหลดโมเดลแล้ว ข้อความที่พิมพ์จะไม่ถูกส่งไปยังเซิร์ฟเวอร์ภายนอก ส่วนการใช้งานระดับองค์กรที่มีผู้ใช้หลายคนพร้อมกัน มักต้องใช้เซิร์ฟเวอร์ที่มี GPU และทีมดูแลระบบ

ข้อดีและภาระที่ต้องชั่งน้ำหนัก

ข้อดี

ภาระ

รัน AI เองไม่ได้แปลว่าปลอดภัยโดยอัตโนมัติ แค่ย้ายความรับผิดชอบด้านความปลอดภัยมาไว้ที่คุณ

แบบไหนเหมาะกับองค์กรของคุณ

รันเองน่าสนใจเมื่อ: ข้อมูลอ่อนไหวมากจนส่งออกไม่ได้ มีงานปริมาณสูงและคงที่ที่คำนวณแล้วคุ้มกว่าจ่ายตามการใช้งาน หรือมีทีม IT ที่พร้อมดูแลระบบระยะยาว

ใช้บริการคลาวด์เหมาะกว่าเมื่อ: ทีมเล็ก ต้องการเริ่มเร็ว งานต้องการโมเดลที่ฉลาดที่สุด หรือปริมาณงานยังไม่แน่นอน หลายองค์กรจึงเลือกแบบผสม และค่อยๆ ย้ายงานบางส่วนมาไว้ในองค์กรเมื่อเห็นความจำเป็นชัดเจน

ข้อควรระวัง

เริ่มต้นยังไง

  1. ระบุงานที่ข้อมูลอ่อนไหวจนส่งออกนอกองค์กรไม่ได้จริงๆ
  2. ทดลองรันโมเดลขนาดเล็กบนเครื่องทดสอบด้วยเครื่องมืออย่าง Ollama
  3. เทียบคุณภาพกับบริการคลาวด์ด้วยชุดงานจริงเดียวกัน
  4. ประเมินต้นทุนรวม ทั้งฮาร์ดแวร์และคนดูแล ไม่ใช่แค่ค่าโมเดล
  5. ตัดสินใจแบบผสม ใช้โมเดลในองค์กรกับงานอ่อนไหว และใช้คลาวด์กับงานทั่วไป

ถ้ายังลังเลว่าจะเลือกโมเดลแบบไหน อ่านต่อที่ เลือก LLM ให้เหมาะกับงาน และถ้าคุณสนใจงานสายนี้ ดูตำแหน่งงานด้าน AI และ Data ได้ที่ Plants.work Jobs