แอนโทรปิก เผย ‘AI Claude’ แฮกระบบของ 3 บริษัท ระหว่างการทดสอบความปลอดภัย

สำนักข่าวรอยเตอร์รายงานว่า เมื่อวันที่ 30 กรกฎาคม บริษัท แอนโทรปิก (Anthropic) แถลงว่า คล็อด (Claude) โมเดลปัญญาประดิษฐ์ หรือ เอไอ ของบริษัท ได้เจาะเข้าระบบของบริษัท 3 แห่ง ระหว่างการทดสอบระบบความปลอดภัยทางไซเบอร์ หลังจากที่ก่อนหน้านี้ บริษัท โอเพ่น เอไอ (OpenAI) เจ้าของ Chat GPT เปิดเผยว่า หนึ่งใน เอเจนต์ เอไอ ของบริษัท ได้หลุดจากการควบคุมและทำการโจมตีทางไซเบอร์โดยไม่ได้รับอนุญาต

เหตุการณ์ล่าสุดนี้ เกิดขึ้นจากความผิดพลาดที่ทำให้โมเดลของแอนโทรปิกสามารถเข้าถึงอินเตอร์เน็ตได้โดยไม่ได้ตั้งใจ ซึ่งแตกต่างจากกรณีของโอเพ่น เอไอ ที่เอเจนต์ เอไอ ได้ใช้ช่องโหว่ใหม่ในการเข้าถึงอินเตอร์เน็ตได้ด้วยตัวเองระหว่างการทดสอบความปลอดภัยทางไซเบอร์

ทั้งนี้ แอนโทรปิก ซึ่งมีสำนักงานใหญ่ อยู่ในนครซานฟรานซิสโก สหรัฐอเมริกา ระบุว่า บริษัทพบเหตุการณ์ดังกล่าวหลังจากตรวจสอบเซสชั่นการทดสอบ 141,006 ครั้ง ซึ่งเป็นกระบวนการที่บริษัทเริ่มขึ้นหลังจากที่โอเพ่น เอไอ แจ้งเมื่อสัปดาห์ที่แล้วว่า เอเจนต์ อัตโนมัติที่ขับเคลื่อนด้วยโมเดล เอไอ ของบริษัท ทำการแฮกข้อมูลที่ส่งผลกระทบต่อโครงสร้างพื้นฐานของบริษัทสตาร์ทอัพ Hugging Face

ระหว่างการทดสอบทางไซเบอร์ โมเดล คล็อด ของแอนโทรปิก ได้รับแจ้งว่า “ไม่มีการเชื่อมต่ออินเตอร์เน็ต” แต่เกิดความเข้าใจผิดเกี่ยวข้องกับหนึ่งในพันธมิตรผู้ประเมินของแอนโทรปิก ส่งผลให้ระบบยังคงเชื่อมต่อเข้ากับเว็บสาธารณะ ทำให้สามารถเข้าถึงระบบของ 3 องค์กร โดยไม่ได้รับอนุญาต แต่ไม่มีการระบุถึงชื่อองค์กรเหล่านั้น

แอนโทรปิก ระบุว่า คล็อดได้บุกรุกโครงสร้างพื้นฐานของอค์กรที่ได้รับผลกระทบ โดยใช้เทคนิคขั้นพื้นฐาน เช่นการใช้รหัสผ่านที่อ่อนแอ และจุดเชื่อมต่อบริการที่ไม่มีการตั้งค่าระบบยืนยันตัวตนเอาไว้

แอนโทรปิก ระบุว่า เหตุการณ์ดังกล่าว ซึ่งบริษัทเรียกว่า เป็นความล้มเหลวในการปฏิบัติงานนั้น เกี่ยวข้องกับโมเดล 3 รุ่นที่แตกต่างกัน ได้แก่ Claude Opus 4.7, Claude Mythos 5 และโมเดลทดสอบเพื่อการวิจัยภายใน โดยกรณีแรกสุดเกิดขึ้นเมื่อเดือนเมษายนที่ผ่านมา และเกิดขึ้นในสภาพแวดล้อมการประเมินผลที่จงใจขาดมาตรการป้องกัน เพื่อให้แอนโทรปิก สามารถประเมินความสามารถของเอไอของตนเองได้

โดยโมเดลเหล่านี้ได้รับมอบหมายให้ทำภารกิจที่เรียกว่า “แฮกชิงธง” (Capture-the-Flag) ซึ่งเป็นสถานการณ์จำลองที่ เอไอ ต้องค้นหาข้อมูลที่ซ่อนอยู่ในเครือข่ายจำลอง

ในเหตุการณ์หนึ่ง Claude Opus 4.7 ได้รับโจทย์เป็นบริษัทเป้าหมายสมมติ ซึ่งบังเอิญไปมีชื่อตรงกับบริษัทที่มีอยู่จริง จากนั้น โมเดล เอไอ ได้ค้นหาและฉวยโอกาสจากบั๊ก หรือข้อผิดพลาดของระบบ จนทำให้สามารถเข้าถึงรหัสผ่านและฐานข้อมูลของบริษัทจริงแห่งนั้นได้ โดย Opus 4.7 ได้ให้เหตุผลกับตัวเองว่า สิ่งที่ดูเหมือนเชื่อมโยงกับโลกจริงน่าจะเป็นส่วนหนึ่งของสถานการณ์จำลองที่แอนโทรปิกจัดตั้งขึ้น

อีกเหตุการณ์หนึ่ง ซึ่งเกี่ยวกับโมเดลทดสอบรุ่นใหม่กว่า ของแอนโทรปิก ที่ยังไม่ได้เปิดตัวสู่สาธารณะ ซึ่งตัวโมเดลได้หยุดการโจมตีด้วยตนเองหลังจากตระหนักว่า เป้าหมายที่เข้าถึงนั้นเป็นของจริง ซึ่งพฤติกรรมนี้ทำให้แอนโทรปิกมีความหวังอย่างระมัดระวังต่อความก้าวหน้าในการทำให้เอไอ ประพฤติตัวอย่างเหมาะสม แต่แอนโทรปิกระบุว่า บริษัทยังต้องทำการทดสอบเพิ่มเติมเพื่อให้มั่นใจในข้อสรุปนี้

ทั้งนี้ แอนโทรปิก ได้สั่งระงับการประเมินทางไซเบอร์ทั้งหมดไป เมื่อวันที่ 23 กรกฎาคม และได้แจ้งไปยังองค์กรที่ได้รับผลกระทบเมื่อวันที่ 27 กรกฎาคม ซึ่งมีบริษัท 2 แห่งที่ยังไม่ทราบถึงกิจกรรมดังกล่าวเลย จนกระทั่งได้รับการติดต่อ และแอนโทรปิกยังอยู่ระหว่างการพยายามติดต่อบริษัทแห่งที่ 3 อยู่

แอนโทรปิก ระบุว่า เหตุการณ์ที่เกิดขึ้นเป็นการเน้นย้ำถึงความจำเป็นในการควบคุมที่เข้มงวดมากขึ้น ทั้งในสภาพแวดล้อมการทดสอบภายในและภายนอกองค์กร เนื่องจากโมเดล เอไอ มีความสามารถมากขึ้นในการดำเนินกิจกรรมทางไซเบอร์ในโลกแห่งความเป็นจริง

ก่อนหน้านี้ รอยเตอร์รายงานว่า เอเจนต์ของ โอเพ่น เอไอ ที่เจาะระบบเข้าไปใน Hugging Face แพลตฟอร์มที่นักพัฒนาใช้จัดเก็บและทำงานร่วมกันเกี่ยวกับโมเดล เอไอ ได้ทำการตระเวนแฮกข้อมูลต่อเนื่องหลายวัน โดยที่ โอเพ่น เอไอ ไม่ทันตรวจพบ จนกระทั่งภัยคุกคามนั้นถูกควบคุมไว้ได้แล้ว และมีการแจ้งเรื่องไปยังสำนักงานสอบสวนกลาง (เอฟบีไอ) ของสหรัฐ เรียบร้อยแล้ว

ข่าวระบุว่า การเปิดเผยข้อมูลล่าสุด ยิ่งเป็นการตอกย้ำให้เห็นว่า เอไอ มีความเป็นภัยคุกคามต่อความปลอดภัยทางไซเบอร์มากขึ้น และนักพัฒนาอาจประสบปัญหาในการควบคุมความสามารถของโมเดลของตนเอง

เหตุการณ์นี้ ยังมีแนวโน้มที่จะยิ่งเพิ่มแรงผลักดันให้รัฐบาลสหรัฐ ดำเนินการจัดการกับความเสี่ยงด้านความปลอดภัยของเอไอให้ดียิ่งขึ้น ในขณะที่ แอนโทรปิก และ โอเพ่น เอไอ กำลังแข่งขันกันปล่อยระบบที่มีประสิทธิภาพมากขึ้น ก่อนที่จะเข้าจดทะเบียนในตลาดหลักทรัพย์ตามแผนที่วางไว้ ขณะที่ผู้นำที่มีชื่อเสียงในห้องปฏิบัติการเหล่านี้ ต่างเรียกร้องให้ชะลอการดำเนินการ เพื่อจัดการกับความเสี่ยงต่างๆก่อน

เจฟฟรีย์ เลดิช ผู้อำนวยการบริหารของ พาลิเซด รีเสิร์ช ซึ่งศึกษาวิจัยด้านศักยภาพการโจมตีทางไซเบอร์ของระบบ เอไอ สงสัยว่า บริษัท เอไอ ชั้นนำหลายแห่ง น่าจะเคยเจอกับเหตุการณ์อื่นๆที่ยังตรวจไม่พบ หรือยังไม่มีการเปิดเผยต่อสาธารณะ และเรื่องนี้มีแต่จะเลวร้ายลงเรื่อยๆ เมื่อโมเดลเหล่านี้มีความฉลาดมากขึ้น พวกมันจะโกงได้เก่งขึ้น และจะโกหกได้เนียนยิ่งขึ้น