ประเมินความเสี่ยงก่อนนำ AI มาใช้ในองค์กร

วิธีประเมินความเสี่ยงของโปรเจกต์ AI แบบเป็นขั้นตอน ตั้งแต่ระบุผลกระทบ ให้คะแนนโอกาสและความรุนแรง ไปจนถึงมาตรการลดความเสี่ยง อ้างอิง NIST และ OWASP

ทีมบริการลูกค้าของร้านค้าออนไลน์แห่งหนึ่งอยากเปิด AI Chatbot ตอบคำถามเรื่องการคืนสินค้าตลอด 24 ชั่วโมง เดโมดูดีมาก ตอบเร็ว สุภาพ เข้าใจภาษาไทย ทุกคนอยากเปิดใช้สัปดาห์หน้า แต่ยังไม่มีใครถามคำถามสำคัญว่า ถ้า Chatbot สัญญาคืนเงินในกรณีที่นโยบายไม่ครอบคลุม จะเกิดอะไรขึ้น หรือถ้ามีคนพิมพ์คำสั่งหลอกให้มันเปิดเผยข้อมูลลูกค้าคนอื่นล่ะ การประเมินความเสี่ยงก่อนใช้ AI คือการถามคำถามเหล่านี้ก่อนที่ลูกค้าจะถามแทน

AI Risk Assessment คืออะไร

AI Risk Assessment คือกระบวนการระบุว่าการใช้ AI งานหนึ่งอาจก่อความเสียหายอะไรได้บ้าง เกิดขึ้นได้บ่อยแค่ไหน รุนแรงแค่ไหน และจะลดความเสี่ยงอย่างไร กรอบ NIST AI RMF 1.0 แบ่งงานนี้เป็นขั้น Map (เข้าใจบริบทและความเสี่ยง) Measure (วัดและประเมิน) และ Manage (จัดการและติดตาม) โดยมี Govern เป็นฐานที่ครอบทุกขั้น

NIST ยังระบุลักษณะของ AI ที่น่าเชื่อถือไว้ เช่น ถูกต้องและเชื่อถือได้ ปลอดภัย ทนทานต่อการโจมตี โปร่งใสและตรวจสอบได้ อธิบายได้ คุ้มครองความเป็นส่วนตัว และเป็นธรรม ซึ่งใช้เป็นหัวข้อตั้งคำถามได้ดี

ขั้นที่ 1: ระบุบริบทและผู้ได้รับผลกระทบ

• AI ตัดสินใจเอง หรือแค่ช่วยแนะนำให้คนตัดสินใจ
• ผลลัพธ์ไปถึงลูกค้า พนักงาน หรือใช้แค่ภายใน
• ใช้ข้อมูลส่วนบุคคลหรือไม่
• ถ้าผิด ใครเสียหาย และแก้คืนได้ไหม

มุมมองจากต่างประเทศช่วยได้ เช่น EU AI Act ซึ่งมีผลใช้บังคับตั้งแต่ 1 สิงหาคม 2024 แบ่งระบบ AI ตามระดับความเสี่ยง โดย European Commission ยกตัวอย่างว่า AI ที่ใช้ในการสรรหาบุคลากรจัดเป็นความเสี่ยงสูง ขณะที่ Chatbot ต้องแจ้งผู้ใช้ว่ากำลังคุยกับเครื่อง แม้ธุรกิจไทยส่วนใหญ่ไม่ได้อยู่ใต้กฎหมายนี้โดยตรง แต่เป็นตัวอย่างวิธีคิดที่ดี

ขั้นที่ 2: ไล่รายการความเสี่ยงที่พบบ่อย

ความเสี่ยงด้านคุณภาพคำตอบ

เอกสาร NIST AI 600-1 (Generative AI Profile) ระบุความเสี่ยงของ Generative AI ไว้ 12 ด้าน เช่น Confabulation หรือการแต่งข้อมูลที่ฟังดูน่าเชื่อ Data Privacy, Information Security, Harmful Bias และ Intellectual Property

ความเสี่ยงด้านความปลอดภัย

OWASP Top 10 for LLM Applications 2025 จัดอันดับให้ Prompt Injection เป็นข้อแรก ตามด้วย Sensitive Information Disclosure และยังมี Excessive Agency คือการให้ AI มีสิทธิ์ทำงานมากเกินจำเป็น

ความเสี่ยงด้านธุรกิจ

ค่าใช้จ่ายบานปลาย การพึ่งพาผู้ให้บริการรายเดียว และความเสียหายต่อชื่อเสียงเมื่อ AI ตอบผิดต่อหน้าลูกค้า

ขั้นที่ 3: ให้คะแนนและจัดลำดับ

ใช้ตารางง่ายๆ ให้คะแนนโอกาสเกิด 1 ถึง 5 และความรุนแรง 1 ถึง 5 แล้วคูณกัน ความเสี่ยงที่ได้คะแนนสูงต้องมีมาตรการก่อนเปิดใช้ ส่วนที่คะแนนต่ำอาจยอมรับได้แต่ต้องติดตาม ตัวอย่าง Chatbot คืนสินค้า ความเสี่ยงสัญญาคืนเงินผิดนโยบายอาจได้โอกาส 3 ความรุนแรง 4 จึงต้องจัดการก่อน

ขั้นที่ 4: เลือกมาตรการลดความเสี่ยง

• จำกัดให้ AI ตอบจากเอกสารนโยบายที่อนุมัติแล้วเท่านั้น
• เรื่องเงินหรือข้อยกเว้นให้ส่งต่อพนักงานเสมอ
• ให้สิทธิ์ AI เข้าถึงข้อมูลเท่าที่จำเป็น
• ทดสอบด้วยคำถามยากและคำสั่งหลอกก่อนเปิดจริง
• เก็บ Log เพื่อตรวจย้อนหลัง

ความเสี่ยงที่เขียนลงกระดาษแล้ว จัดการได้เสมอ ความเสี่ยงที่ไม่มีใครพูดถึงคือสิ่งที่อันตรายจริง

ข้อควรระวัง

คะแนนความเสี่ยงเป็นการประมาณ ไม่ใช่ความจริงแน่นอน ควรให้หลายฝ่ายร่วมให้คะแนน ทั้งเจ้าของงาน IT และฝ่ายกฎหมาย และต้องประเมินซ้ำเมื่อเปลี่ยนโมเดล เปลี่ยนข้อมูล หรือขยายการใช้งาน เรื่องที่เกี่ยวกับกฎหมายควรปรึกษาผู้เชี่ยวชาญ

เริ่มต้นยังไง

1. เลือกโปรเจกต์ AI ที่กำลังจะเปิดใช้ 1 โปรเจกต์
2. ตอบคำถามบริบท 4 ข้อในขั้นที่ 1
3. ไล่ความเสี่ยงจากหัวข้อ NIST และ OWASP แล้วให้คะแนน
4. กำหนดมาตรการและเจ้าของสำหรับความเสี่ยงสูงทุกข้อ
5. ตั้งวันประเมินซ้ำหลังเปิดใช้ 30 วัน

ถ้าองค์กรยังไม่แน่ใจว่าพร้อมแค่ไหน SCALE มีเวิร์กช็อป AI Readiness Diagnostic ช่วยประเมินก่อนเริ่ม ดูที่ scale.co.th และอ่านต่อเรื่องการวางกติกาภาพรวมได้ใน AI Governance สำหรับ SME หรือเรื่องข้อมูลใน PDPA กับการใช้ AI