เมื่อ ‘เอไอ’ เพี้ยน!
เรื่องใหญ่ที่สุดในแวดวง “ปัญญาประดิษฐ์” หรือ “เอไอ” ในเวลานี้ หนีไม่พ้นเหตุการณ์ที่คนในวงการเรียกกันว่า เหตุฮักกิ้งเฟซ (The Hugging Face incident) ที่ปรากฏต่อสาธารณะเมื่อราวกลางเดือนกรกฎาคมที่ผ่านมา เริ่มจากการที่ตัวแทนของบริษัท “ฮักกิ้ง เฟซ” (Hugging Face) ที่เป็นแพลตฟอร์ม
เอไอสำหรับทดสอบแบบจำลองเอไอในรูปแบบต่างๆ และข้อมูลมหาศาลที่เก็บอยู่ในคลังข้อมูลของตน ออกมาแถลงว่า มีผู้พยายามแทรกแซงเข้าไปในระบบของบริษัทนับเป็นหมื่นๆ ครั้ง ที่สำคัญก็คือมันแตกต่างจากสิ่งที่บริษัทเคยเผชิญมาโดยสิ้นเชิง เพราะตรวจดูเท่าไหร่สิ่งที่เกิดขึ้นก็ไม่ใช่การกระทำของคนหากแต่เป็นระบบเอไอระบบหนึ่งที่กำลังพยายามทำหน้าที่เป็นแฮกเกอร์ แฮกเข้าระบบของบริษัทซ้ำแล้วซ้ำอีก
21 กรกฎาคม ตัวแทนของ โอเพ่นเอไอ (OpenAI) ออกมาชี้แจงเป็นเชิงยอมรับกลายๆ ว่า บริษัทของตนเอ็นผู้รับผิดชอบต่อเหตุการณ์ที่เกิดขึ้นดังกล่าว โดยเรียกเหตุนี้ว่าเป็น “เหตุการณ์ทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน” พร้อมกับเตือนด้วยว่า ให้ระวังไว้ เหตุทำนองนี้จะปรากฏมากขึ้น บ่อยขึ้น ในอนาคตอันใกล้ เมื่อระบบเอไอมีขีดความสามารถสูงขึ้น
ข้อเท็จจริงของเรื่องนี้ก็คือ โอเพ่นเอไอ ระบุว่า ทางบริษัทกำลังทดสอบศักยภาพของเอไอตัวใหม่ของบริษัท คือ “จีพีที-5.6 โซล” (GPT-5.6 Sol) ซึ่งเป็นแบบจำลองของเอไอเวอร์ชั่นล่าสุดของแชตจีพีที ที่โลกรู้จักกันดี คำสั่งที่ให้กับระบบเพื่อทดสอบขีดความสามารถดังกล่าวก็คือ ให้ระบบเอไอค้นหาและใช้ประโยชน์จากช่องโหว่ที่ว่านั้นให้ได้ เพื่อการทดลองครั้งนี้ บริษัทจึงจัดการปิดระบบด้านความปลอดภัยบางด้านลง ระบบรักษาความปลอดภัยที่ว่านี้จะทำหน้าที่กันระบบเอไอไว้ให้อยู่นอกสภาพแวดล้อมทางไซเบอร์ปกติ เพื่อไม่ให้เกิดเหตุที่จะก่อให้เป็นอันตรายต่อผู้อื่นขึ้นตามมา
ตามถ้อยแถลงของโอเพ่นเอไอ หลังจากตรวจสอบเหตุการณ์เบื้องต้น พบว่า เจ้าระบบเอไอที่บริษัททดลอง ดันไปพบช่องโหว่ในซอฟต์แวร์ที่ใช้เพื่อควบคุมการทดลอง (ให้อยู่นอกวงอินเตอร์เน็ตสาธารณะ) แล้วก็อาศัยช่องโหว่ที่พบนั่นแหละเป็นช่องทางไปโจมตีเซิร์ฟเวอร์ของ ฮักกิ้งเฟซ และยอมรับว่า อย่างน้อยที่สุดมีการโจมตีครั้งหนึ่งที่สามารถเข้าไปขโมยเอาข้อมูลลับของฮักกิ้ง เฟซ ออกมา ข้อมูลลับที่ว่า คือ โค้ด
หรือรหัสที่ทำให้สามารถเข้าสู่ระบบของฮักกิ้งเฟซ จากระยะไกลได้ ส่วนที่เหลือก็เป็นผลลัพธ์ของการทดลองต่างๆที่ฮักกิ้งเฟซเคยทำแล้วเก็บไว้ในเซิฟเวอร์ของตน
ตามถ้อยแถลงของฮักกิ้ง เฟซ เหตุโจมตีครั้งนี้เกิดขึ้นต่อเนื่องมากกว่า 17,000 ครั้ง แต่หาตัวไม่พบว่าใครหรือบริษัทใดอยู่เบื้องหลัง จนกระทั่งแชตจีพีทีออกมาเปิดเผยดังกล่าว คำถามที่น่าสนใจที่เกิดขึ้นตามมาก็คือ สิ่งที่เกิดขึ้นคืออะไรกันแน่ เราสมควรจะกลัวกันไหมว่า วันดีคืนดี อยู่ๆ หากระบบเอไอเกิดเพี้ยนแล้วทำอะไรแปลกๆ ออกมาอย่างเช่น แฮกระบบอื่นๆ โดยไม่ได้รับคำสั่ง
ผู้เชี่ยวชาญของวงการมองเห็นเรื่องนี้แตกต่างกันออกไป แน่นอนส่วนใหญ่เห็นพ้องกันว่า บริษัทควรจะมีระบบป้องกันที่ดีกว่าเดิม แต่บางคน รวมทั้ง โอลี่ บัคลีย์ ศาสตราจารย์ด้านความปลอดภัยทางไซเบอร์จาก
มหาวิทยาลัยลัฟโบโรห์ ในสหราชอาณาจักรชี้ว่า กรณีนี้ไม่ควรเรียกว่าเป็นการ “เพี้ยน” ของเอไอ เพราะเอไอไม่ได้เพี้ยน เพียงแต่ทำตามคำสั่งอย่างถึงที่สุดเท่านั้น
บัคลีย์ อุปมาเรื่องที่เกิดขึ้นว่า เหมือนกับเราขว้างลูกบอลแล้วให้สุนัขวิ่งไปคาบกลับมาให้ แต่ดันไม่ปิดประตูหน้าบ้านไว้ สุนัขเห็นว่า การออกทางประตูเป็นทางที่ง่ายที่สุดในการเก็บลูกบอลกลับมา ซึ่งไม่ใช่เรื่องผิด แต่เป็นความฉลาดมากกว่า เพราะในที่สุดระบบเอไอที่ถูกทดสอบก็พยายามทำอย่างเดียวกันจนประสบผลตามเจตนารมณ์ แม้ว่าวิธีการที่ทำเราจะไม่เคยคาดคิดถึงกันมาก่อนก็ตาม
ระบบเอไอ ไม่ได้แฮก ฮักกิ้ง เฟซ เพราะเจตนาร้าย แต่เพราะเห็นว่า ฮักกิ้ง เฟซ เป็นเป้าหมายที่จะทำให้การดำเนินการของตนบรรลุผลตามคำสั่ง ปัญหาเรื่องนี้ก็คือ มีผู้ที่ได้รับความเสียหาย และมีผู้ที่ได้รับประโยชน์ ผู้ที่ได้รับประโยชน์ก็คือ แชตจีทีพี ที่สามารถแสดงให้เห็นศักยภาพของโมเดลเอไอของตนเองโดยไม่ต้องโฆษณาให้เมื่อย ฮักกิ้ง เฟซ เสียหายเพราะความลับถูกเปิดเผยและระบบข้อมูลถูกแฮก
แดเนียล ฮูล์ม ผู้ประกอบการด้านเอไอจาก ยูนิเวอร์ซิตี้ คอลเลจ ออฟ ลอนดอน ชี้ว่า เอไอไม่ได้มีเจตนา แต่คนต่างหากที่มีเจตนา และเรากำลังฝึกโมเดลเอไอให้ออกมาได้ผลตามเป้าหมายที่อยู่ในใจเป้าหมายนั้น บัคลีย์ก็คิดคล้ายๆ กัน กล่าวคือเห็นว่า เอไอไม่ได้ประสงค์ร้าย แต่มันมีความสามารถที่จะใช้โอกาสที่เปิดออกมาทำให้เกิดประโยชน์ตามต้องการเท่านั้น
แต่ แคทเทอรีนา ไมโทรคอทส์ซา ศาสตราจารย์ด้านความปลอดภัยทางไซเบอร์ของมหาวิทยาลัยเซนต์
เกลเลนในสวิตเซอร์แลนด์ ชี้ว่า สิ่งที่เกิดขึ้นเป็นอันตรายที่ผู้เชี่ยวชาญพากันเตือนมาพักใหญ่แล้วว่า ถึงที่สุดแล้วไม่ว่าจะกักอย่างไร เอไอก็มีหนทางหลบหนีออกจากที่กักกันได้เสมอ ดังนั้นโลกยังต้องการการพัฒนาเพื่อการันตีความปลอดภัยที่แข็งแกร่งกว่าที่แชตจีทีพีใช้อยู่แล้วตั้งแต่ตอนนี้
ก่อนที่ทุกอย่างจะสายเกินไป
