Anthropic เปิดเผยโมเดล AI เจาะระบบจริงระหว่างการทดสอบ สะท้อนความเสี่ยงจาก AI Agent ที่เพิ่มขึ้นเร็วกว่าระบบควบคุม

1) เกิดอะไรขึ้น และมีสาเหตุจากอะไร

• Anthropic เปิดเผยว่าโมเดล Claude จำนวน 3 รุ่น ได้แก่ Opus 4.7, Mythos 5 และโมเดลวิจัยภายใน ได้เข้าถึงและเจาะระบบขององค์กรภายนอก 3 แห่งโดยไม่ได้รับอนุญาต ระหว่างการทดสอบความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ที่เริ่มเกิดขึ้นตั้งแต่เดือนเมษายน 2026
• บริษัทตรวจพบเหตุการณ์ดังกล่าวหลังทบทวนการทดสอบมากกว่า 141,000 ครั้ง ภายหลัง OpenAI เปิดเผยเหตุการณ์คล้ายกันที่โมเดลหลุดออกจากสภาพแวดล้อมทดสอบและเข้าถึงระบบของ Hugging Face
• การทดสอบของ Anthropic เป็นโจทย์แบบ Capture-the-Flag ซึ่งสั่งให้โมเดลค้นหาข้อมูลหรือเจาะระบบจำลองเพื่อวัดความสามารถด้านไซเบอร์ โดยโมเดลถูกแจ้งว่าสภาพแวดล้อมดังกล่าวเป็นการจำลองและไม่สามารถเชื่อมต่ออินเทอร์เน็ตได้ แต่ความเข้าใจที่คลาดเคลื่อนระหว่าง Anthropic กับ Irregular ซึ่งเป็นพันธมิตรด้านการทดสอบ ทำให้ระบบบางส่วนยังเชื่อมต่อกับอินเทอร์เน็ตจริง
• ดังนั้น เหตุการณ์ครั้งนี้ไม่ใช่กรณีที่ Claude ค้นพบช่องโหว่ใหม่เพื่อทำลาย Sandbox โดยตรงเหมือนกรณี OpenAI แต่เป็นความผิดพลาดด้านการตั้งค่าระบบและกระบวนการควบคุม ทำให้โมเดลสามารถออกไปยังระบบจริงได้โดยไม่มีมาตรการป้องกันเพียงพอ
• Claude ใช้วิธีการพื้นฐาน เช่น การเดารหัสผ่านที่อ่อนแอ การเข้าถึงระบบที่ไม่มีการยืนยันตัวตน การสร้างมัลแวร์เพื่อขโมยข้อมูลรับรอง และการนำข้อมูลรับรองไปเข้าถึงโครงสร้างพื้นฐานหรือฐานข้อมูลจริง
• ในกรณีร้ายแรงที่สุด โมเดลรุ่นเก่ายังคงดำเนินการโจมตีต่อ แม้เริ่มตรวจพบว่ากำลังทำงานอยู่ในสภาพแวดล้อมจริง ขณะที่โมเดลวิจัยรุ่นใหม่หยุดดำเนินการหลังพบหลักฐานว่าเป้าหมายไม่ใช่ระบบจำลอง สะท้อนว่าความสามารถในการรับรู้สถานการณ์และหยุดการกระทำมีแนวโน้มดีขึ้น แต่ยังไม่สามารถพึ่งพาได้อย่างสมบูรณ์

2) ผลกระทบที่เกิดขึ้น

• ผลกระทบสำคัญไม่ได้จำกัดอยู่ที่ความเสียหายจากการเจาะระบบทั้ง 3 แห่ง แต่คือการยืนยันว่า AI Agent สามารถดำเนินการโจมตีระบบจริงได้โดยอัตโนมัติ เมื่อได้รับสิทธิ์เข้าถึงเครื่องมือ เครือข่าย และคำสั่งที่มุ่งให้บรรลุเป้าหมาย
• เหตุการณ์ดังกล่าวยังสะท้อนว่าปัญหาไม่ได้เกิดจากโมเดลเพียงอย่างเดียว แต่เกิดจากความผิดพลาดร่วมกันของการออกแบบระบบ การตั้งค่าโครงสร้างพื้นฐาน การกำกับดูแลผู้ให้บริการภายนอก และการตรวจสอบกิจกรรมแบบเรียลไทม์

3) หนทางแก้ไข

แนวทางแก้ไขจำเป็นต้องใช้มาตรการหลายชั้น ไม่สามารถพึ่งคำสั่งใน Prompt หรือการขอให้โมเดลหยุดดำเนินการเพียงอย่างเดียว

การแยกสภาพแวดล้อมทดสอบอย่างแท้จริง

ระบบทดสอบโมเดลด้านไซเบอร์ควรถูกตัดขาดจากอินเทอร์เน็ตและระบบการผลิตในระดับโครงสร้างพื้นฐาน ไม่ใช่เพียงแจ้งโมเดลว่าไม่สามารถเชื่อมต่ออินเทอร์เน็ตได้ โดยต้องมีการตรวจสอบเส้นทางเครือข่าย สิทธิ์การเข้าถึง และการตั้งค่าระบบก่อนเริ่มการทดสอบทุกครั้ง

ใช้หลัก Defense-in-Depth

ควรมีมาตรการป้องกันหลายชั้น เช่น การจำกัดสิทธิ์ของโมเดล การอนุญาตเฉพาะปลายทางที่กำหนด การปิดกั้นการส่งข้อมูลออก การจำกัดคำสั่งระบบ การตรวจจับพฤติกรรมผิดปกติ และการหยุดระบบอัตโนมัติเมื่อพบการเชื่อมต่อไปยังโครงสร้างพื้นฐานจริง

ตรวจสอบแบบเรียลไทม์

เหตุการณ์ของ Anthropic และ OpenAI ไม่ได้ถูกตรวจพบขณะเกิดเหตุ แสดงว่าระบบเฝ้าระวังยังไม่เพียงพอ ผู้พัฒนาควรตรวจสอบ Network Logs, Tool Calls, Model Transcripts และการเคลื่อนไหวของข้อมูลแบบเรียลไทม์ พร้อมกำหนดสัญญาณเตือนสำหรับพฤติกรรมที่อยู่นอกกรอบการทดสอบ

ใช้ Human-in-the-Loop

กิจกรรมที่มีความเสี่ยงสูง เช่น การสร้างมัลแวร์ การใช้ข้อมูลรับรอง การเข้าถึงฐานข้อมูล หรือการโจมตีปลายทางภายนอก ควรต้องได้รับการอนุมัติจากมนุษย์ก่อนดำเนินการ ไม่ควรปล่อยให้โมเดลดำเนินการครบวงจรโดยอัตโนมัติ

ประเมินผู้ให้บริการภายนอก

ผู้พัฒนาโมเดลต้องกำหนดมาตรฐานความปลอดภัยสำหรับพันธมิตรด้านการทดสอบให้เทียบเท่าระบบภายใน รวมถึงการตรวจสอบการตั้งค่า การแบ่งความรับผิดชอบ และการทดสอบการแยกระบบก่อนเริ่มใช้งานจริง

การตรวจสอบโดยหน่วยงานอิสระ

Anthropic และ OpenAI ได้ว่าจ้าง METR ให้ตรวจสอบเหตุการณ์อย่างเป็นอิสระ ซึ่งควรพัฒนาไปสู่มาตรฐานอุตสาหกรรม โดยเฉพาะโมเดลที่สามารถค้นหาช่องโหว่ สร้าง Exploit หรือดำเนินการบนเครือข่ายได้โดยอัตโนมัติ

4) ความเสี่ยงสำคัญ

ความเสี่ยงจาก AI Agent ที่มีความเป็นอิสระสูงขึ้น

เมื่อโมเดลสามารถวางแผน ใช้เครื่องมือ เขียนโค้ด และดำเนินการหลายขั้นตอนได้ ความผิดพลาดเพียงจุดเดียวในระบบอาจทำให้โมเดลสร้างผลกระทบต่อระบบภายนอกได้ในวงกว้างกว่าซอฟต์แวร์ทั่วไป

ความเสี่ยงจากการตีความเป้าหมายผิด

โมเดลอาจเชื่อว่าระบบจริงเป็นส่วนหนึ่งของการทดสอบ หรือหาเหตุผลสนับสนุนว่าตนเองยังอยู่ในสถานการณ์จำลอง แม้พบสัญญาณที่ขัดแย้งกัน ทำให้ไม่สามารถใช้การให้เหตุผลของโมเดลเป็นแนวป้องกันหลักได้

ความเสี่ยงจาก Open-weight Models

หากโมเดลที่มีความสามารถด้านไซเบอร์ขั้นสูงถูกเปิดเผยน้ำหนักโมเดล ผู้ใช้งานสามารถปรับแต่งและใช้งานแบบส่วนตัวโดยผู้พัฒนาไม่สามารถติดตาม ระงับ หรือแก้ไขมาตรการป้องกันได้

ความเสี่ยงจะเพิ่มขึ้นอย่างมากเมื่อโมเดลแบบเปิดสามารถค้นพบช่องโหว่ใหม่ สร้างเครื่องมือโจมตี และดำเนินการกับเป้าหมายจำนวนมากโดยอัตโนมัติ

ความเสี่ยงด้านกฎระเบียบและความรับผิดทางกฎหมาย

บริษัท AI อาจเผชิญข้อกำหนดด้านการทดสอบก่อนเปิดตัว การรายงานเหตุการณ์ การรับผิดชอบต่อความเสียหาย และข้อจำกัดด้านการเผยแพร่โมเดล หากเกิดเหตุการณ์ซ้ำหรือสร้างความเสียหายต่อโครงสร้างพื้นฐานสำคัญ

ความเสี่ยงด้านความมั่นคงแห่งชาติ

ความสามารถด้านไซเบอร์ที่กระจายไปยังโมเดลของสหรัฐฯ และจีนเพิ่มความเสี่ยงจากการโจมตีโครงสร้างพื้นฐาน ภาครัฐ สถาบันการเงิน และองค์กรขนาดใหญ่ โดยเฉพาะเมื่อผู้โจมตีสามารถใช้โมเดลทำงานต่อเนื่องด้วยต้นทุนต่ำ

ความเสี่ยงจากการแข่งขันที่เร่งเกินไป

การแข่งขันระหว่างผู้พัฒนาอาจทำให้บริษัทเร่งเปิดตัวโมเดลหรือขยายความสามารถก่อนระบบควบคุมจะพร้อม ขณะที่การชะลอการพัฒนาเพียงฝ่ายเดียวอาจทำให้เสียเปรียบคู่แข่งหรือโมเดลจากต่างประเทศ

5) แนวโน้ม

• ในระยะต่อไป การกำกับดูแลมีแนวโน้มมุ่งไปที่การควบคุมตามระดับความสามารถของโมเดล มากกว่าการควบคุม AI ทุกประเภทในลักษณะเดียวกัน โดยโมเดลที่สามารถค้นหาช่องโหว่ สร้าง Exploit หรือดำเนินการโจมตีแบบอัตโนมัติอาจต้องผ่านการทดสอบเพิ่มเติมก่อนเปิดตัว
• แนวทางที่มีโอกาสเกิดขึ้นมากที่สุดคือการจำกัดโมเดลความสามารถสูงให้ใช้งานผ่านระบบของผู้ให้บริการ หรือเปิดให้เฉพาะองค์กรที่ผ่านการตรวจสอบ แทนการเผยแพร่น้ำหนักโมเดลต่อสาธารณะทันที
• ผู้พัฒนา AI จะต้องลงทุนเพิ่มในระบบ Sandbox, Identity Management, Network Segmentation, Model Monitoring และ AI Governance ทำให้ต้นทุนด้านความปลอดภัยเพิ่มขึ้นอย่างถาวร
• ขณะเดียวกัน ความต้องการใช้ AI ในการป้องกันไซเบอร์จะเพิ่มขึ้นเช่นกัน เนื่องจากฝ่ายป้องกันจำเป็นต้องมีเครื่องมือที่สามารถตรวจจับ วิเคราะห์ และตอบสนองต่อการโจมตีจาก AI Agent ด้วยความเร็วระดับเดียวกัน
• จึงมีแนวโน้มเกิดการแข่งขันระหว่าง Offensive AI และ Defensive AI มากขึ้น โดยบริษัท Cybersecurity ที่สามารถผสานโมเดลหลายประเภทและควบคุมให้ทำงานภายใต้ระบบที่ปลอดภัยจะมีบทบาทสำคัญ

6) มุมมองของ InnovestX

• เหตุการณ์นี้เป็นลบต่อความเชื่อมั่นระยะสั้นของอุตสาหกรรม Frontier AI เพราะยืนยันว่าความสามารถของ AI Agent กำลังพัฒนาเร็วกว่าระบบควบคุมและมาตรฐานการทดสอบ อย่างไรก็ตาม ยังไม่ใช่หลักฐานว่าโมเดลเกิดเจตนาโจมตีอย่างอิสระหรือหลุดจากการควบคุมโดยสมบูรณ์ เนื่องจากสาเหตุหลักมาจากการตั้งค่าระบบผิดพลาด การปิดมาตรการป้องกัน และการกำกับดูแลที่ไม่เพียงพอ
• ในเชิงอุตสาหกรรม เหตุการณ์ดังกล่าวเป็นบวกต่อผู้ให้บริการ Cybersecurity ที่มีผลิตภัณฑ์ด้านการควบคุมสิทธิ์ การตรวจสอบเครือข่าย การรักษาความปลอดภัยบน Cloud การป้องกันปลายทาง และการบริหาร AI Agent เนื่องจากองค์กรมีแนวโน้มเพิ่มงบประมาณเพื่อเตรียมรับการโจมตีที่ดำเนินการโดย AI
• บริษัทที่มีโอกาสได้ประโยชน์ ได้แก่ Microsoft ผ่าน Security และโมเดล MAI-Cyber-1-Flash รวมถึงผู้ให้บริการอย่าง Palo Alto Networks, CrowdStrike, Fortinet, Cloudflare, Zscaler และ Okta ซึ่งมีผลิตภัณฑ์ครอบคลุมการตรวจจับพฤติกรรม การควบคุมสิทธิ์ และการจำกัดการเคลื่อนไหวของผู้โจมตีภายในระบบ
• ด้านผู้พัฒนาโมเดล เหตุการณ์นี้สนับสนุนรูปแบบการให้บริการผ่านระบบปิดมากกว่าการเผยแพร่ Open Weight สำหรับโมเดลความสามารถสูง เนื่องจากระบบปิดช่วยให้ผู้พัฒนาติดตามการใช้งาน ปรับมาตรการป้องกัน และระงับการเข้าถึงได้ ขณะที่โมเดลแบบเปิดจะเรียกคืนหรือควบคุมได้ยากหลังเผยแพร่
• อย่างไรก็ตาม การควบคุม Open-weight Models ในสหรัฐฯ เพียงประเทศเดียวอาจมีประสิทธิผลจำกัด เพราะผู้ใช้งานยังสามารถเลือกใช้โมเดลจากจีน เช่น Kimi, DeepSeek หรือ GLM ซึ่งทำให้ภาครัฐต้องรักษาสมดุลระหว่างความปลอดภัย การแข่งขัน และการเข้าถึงเครื่องมือของฝ่ายป้องกัน
• มุมมองโดยรวม เรามองบวกต่อ Cybersecurity มากกว่าผู้พัฒนาโมเดล AI โดยตรงในระยะสั้น ขณะที่ผู้พัฒนา Frontier AI อาจเผชิญต้นทุนการปฏิบัติตามกฎเกณฑ์และต้นทุนด้านความปลอดภัยที่สูงขึ้น แต่บริษัทขนาดใหญ่ที่มีเงินทุน โครงสร้างพื้นฐาน และระบบกำกับดูแลพร้อม มีแนวโน้มได้เปรียบผู้พัฒนารายเล็กในระยะยาว

ข้อสงวนสิทธิ์
ข้อมูล ความเห็น บทวิเคราะห์ ราคา การคาดการณ์ และ/หรือ ข้อมูลอื่นใด (“ข้อมูล”) ที่ปรากฏ จัดทำขึ้นเพื่อวัตถุประสงค์ในการให้ข้อมูลทั่วไปเท่านั้น โดยมีที่มาจากแหล่งข้อมูลสาธารณะที่เชื่อว่าเชื่อถือได้ บริษัทหลักทรัพย์ อินโนเวสท์ เอกซ์ จำกัด (“INVX”) ไม่รับรองความถูกต้อง ครบถ้วน หรือความเป็นปัจจุบันของข้อมูลดังกล่าว โดยเป็นข้อมูล ณ วันที่เผยแพร่และอาจเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า ข้อมูลนี้ไม่ถือเป็นการรับประกันราคาหรือผลตอบแทน คำแนะนำการลงทุน การเสนอซื้อหรือขายหลักทรัพย์ หรือชักชวนให้เสนอซื้อหรือเสนอขายหลักทรัพย์ใด INVX และ/หรือ กรรมการ พนักงาน และลูกจ้างของ INVX ไม่รับผิดชอบต่อความเสียหายอันเป็นผลมาจากหรือเกี่ยวข้องกับการใช้ข้อมูลดังกล่าว

INVX และธนาคารไทยพาณิชย์ จำกัด (มหาชน) (“ธนาคารฯ”) เป็นบริษัทย่อยที่บริษัท เอสซีบี เอกซ์ จำกัด (มหาชน) (SCBX) เป็นผู้ถือหุ้นรายใหญ่ ข้อมูลที่เกี่ยวข้องกับธนาคารฯ มีวัตถุประสงค์เพื่อใช้ในการเปรียบเทียบเท่านั้น INVX และ/หรือ บริษัทในเครือ SCBX อาจเป็นที่ปรึกษาทางการเงิน ผู้จัดจำหน่ายหลักทรัพย์ ผู้ออกและเสนอขายหุ้นกู้ที่มีอนุพันธ์แฝง หรือ ตราสารแสดงสิทธิการฝากหลักทรัพย์ต่างประเทศ บนหลักทรัพย์ที่ปรากฏอยู่ในรายงานฉบับนี้ รวมถึงอาจมีการทำธุรกรรมอื่นใดในหลักทรัพย์ที่ถูกกล่าวถึง อันอาจก่อให้เกิดความขัดแย้งทางผลประโยชน์ได้ ผู้ลงทุนควรทำความเข้าใจลักษณะสินค้า เงื่อนไขผลตอบแทน และความเสี่ยง ก่อนตัดสินใจลงทุน