รายงานพิเศษ | โชคชัย บุณยะกลัมพ
https://chokcyberai.blogspot.com
https://chokweekly.blogspot.com
หากอาวุธอัจฉริยะ AI สั่งฆ่ามนุษย์เองได้!
นักวิเคราะห์ด้าน AI หรือ “ปัญญาประดิษฐ์” มองย้อนกลับไปในประวัติศาสตร์ว่าด้วยสงครามก็สรุปว่า
วันนี้เราอยู่ในยุคการปฏิวัติครั้งที่สามของภาวะสงคราม
ปฏิวัติครั้งแรกคือการประดิษฐ์ดินปืน
ยุคที่สองคืออาวุธนิวเคลียร์
จากนี้ไปจะเป็นอาวุธอัจฉริยะเทียม (Artificial Intelligence หรือ AI weapons)
หรือเรียกมันให้น่ากลัวกว่านั้นอีกคือ Autonomous Weapons (อาวุธอัตโนมัติ…อันเป็นอิสระจากการสั่งการของมนุษย์)
เปรียบได้กับ “รถที่ขับเคลื่อนด้วยตนเอง” หรือ Autonomous Vehicles
ผู้เชี่ยวชาญ AI อย่างไค-ฟู ลี (Kai Fu-Lee) ตั้งคำถามที่น่ากลัวว่า
จะเกิดอะไรขึ้นถ้าผู้ก่อการร้ายในโลกนี้เข้าถึงเทคโนโลยีแห่ง AI และไม่จำเป็นต้องใช้กลยุทธแบบ “ระเบิดฆ่าตัวตาย” แบบเดิมอีก
ภัยคุกคามต่อมนุษยชาติในยุคต่อไปอาจจะมาจากการใช้เทคโนโลยีปัญญาประดิษฐ์และวิทยาการหุ่นยนต์
จากดินปืนสู่อาวุธนิวเคลียร์ก็น่ากลัวมากอยู่แล้ว
แต่หากศึกษาสงครามในอดีตถึงปัจจุบันจะเห็นวิวัฒนาการจากทุ่นระเบิดสู่จรวดนำวิถี
นั่นเป็นเพียงจุดเริ่มต้นของสิ่งที่เรียกว่า “อาวุธระบบอัตโนมัติ” ที่ต่อมาพัฒนาเป็น AI อย่างเต็มรูปแบบที่เรากำลังประสบพบเห็นอยู่ในขณะนี้
คําถามจากแวดวงนักวิทยาศาสตร์และนักวิจับด้าน AI กำลังถกแถลงประเด็นที่ร้อนแรงที่สุดประเด็นหนึ่งว่า จะเกิดอะไรขึ้นหากการประหัตประหารมนุษย์ด้วยกันเอง หรือการค้นหาเป้าการเข่นฆ่า หรือการตัดสินใจเข้าปะทะ และทำลายล้างชีวิตมนุษย์อีกคนหนึ่งเกิดขึ้นโดยปราศจากการมีส่วนร่วมของมนุษย์?
มันเป็นไปได้หรือ? โลกเรามาถึงจุดนี้แล้วหรือ?
คำตอบคือใช่ เราเข้าใกล้จุดนั้นแล้วจริงๆ
มีตัวอย่างที่เด่นชัดคือตัวอย่างของ “อาวุธอิสระ” ที่ใช้อยู่ในปัจจุบันคือโดรน Harpy ของอิสราเอล
เป็นอาวุธที่ถูกตั้งโปรแกรมให้บินไปยังพื้นที่เจาะจงเพื่อล่าเป้าหมายเฉพาะ
เมื่อเจอเป้าหมายแล้ว เจ้า Harpy ก็สั่งยิงด้วยหัวรบระเบิดแรงสูงที่มีชื่อเล่นว่า “Fire and forget”
แปลว่า “ระเบิดทิ้ง…แล้วลืมมันไปเลย”
หรือตัวอย่างที่เร้าใจยิ่งกว่านั้นมีให้เห็นในภาพยนตร์สั้นแนวดิสโทเปียเรื่อง Slaughterbots
แปลว่า “บ็อทนักฆ่า”
เป็นเรื่องราวของโดรนขนาดเท่านกที่สามารถค้นหาเหยื่อรายใดรายหนึ่งที่เป็นมนุษย์
พอเจอเป้ามันก็ยิงไดนาไมต์ในระยะเผาขนเจาะกะโหลกของศัตรูรายนั้นต่อหน้าต่อตา
หนังเรื่องที่ Kai-Fu Lee นำมาอ้างถึงนั้นเล่าถึงโดรนที่บินได้เอง มีขนาดเล็กและบินโฉบเฉี่ยวอย่างคล่องแคล่วว่องไวเกินไปที่อีกฝ่ายหนึ่งจะถูกจับ หยุด หรือทำลายได้ง่าย
แต่เจ้า “slaughterbots” นี้เป็นเพียงนิยายฝันเฟื่องเท่านั้นมิใช่หรือ เราจะต้องไปกังวลกับมันทำไม?
ความจริงน่ากลัวกว่านั้นมาก
เพราะเมื่อปี 2018 มีโดรนลำหนึ่งที่ถูกส่งขึ้นโดยฝ่ายศัตรูทางการเมืองขึ้นบนฟ้าเพื่อภารกิจพิเศษที่เกือบสังหารประธานาธิบดีเวเนซุเอลา
และนั่นคือเหตุการณ์ที่เกิดเมื่อกว่า 4 ปีก่อน
วันนี้ การวิจัยและพัฒนา AI ก้าวล้ำนำหน้าไปอีกหลายขุม
สิ่งที่เคยคิดว่าเป็นเพียงจินตนาการในหนังแฟนตาซีกำลังจะกลายเป็นความจริงที่มนุษย์ต้องเริ่มตั้งคำถามกันอย่างจริงจัง
ทุกวันนี้ มือสมัครเล่นใช้งบประมาณต่ำกว่า 30,000 บาทก็สามารถสร้างโดรนประเภทที่ทำงานแบบอัตโนมัติได้แล้ว
การประกอบโครนสมัครเล่นก็ไม่ได้ยุ่งยากสลับซับซ้อนแต่อย่างไร
ชิ้นส่วนส่วนใหญ่ที่จำเป็นมีขายทางออนไลน์ และเทคโนโลยี open-source ที่ทุกคนเข้าถึงได้อย่างง่ายดายก็มีพร้อมให้ดาวน์โหลดไปใช้ได้
Kai Fu-Lee เรียกมันว่า “มือสังหารการเมือง 1,000 ดอลลาร์”
มันไม่ใช่เรื่องไกลตัวอีกต่อไป…มันคือภัยอันชัดแจ้งในวันนี้
ที่ฝรั่งเรียกว่า “clear and present danger”
ในอนาคตอันใกล้นี้ “หุ่นยนต์นักฆ่า” เหล่านี้จะฉลาดขึ้น แม่นยำขึ้น เร็วขึ้น และราคาถูกลง
อีกทั้งอาวุธอัตโรมัติเหล่านี้ก็ “ฉลาด” ขึ้นตลอดเวลา
เช่น มันสามารถเรียนรู้วิธีการสร้าง “กองทัพโดรน” ที่ทำงานเป็นทีมบนท้องฟ้า และปฏิบัติภารกิจที่สลับซับซ้อนกว่าที่มนุษย์ทำอยู่ในขณะนี้
ลองวาดภาพของฝูงโดรน 10,000 ลำ (ปฏิบัติการรุกแบบฝูงผึ้ง) ที่สามารถกวาดล้างเมืองครึ่งเมืองได้ต่อหน้าต่อตาเพราะมันติดอาวุธร้ายแรงได้อย่างเต็มพิกัด
ด้วยงบประมาณไม่กี่สิบล้านบาท! (ขณะที่เครื่องบินลำเดียวก็ปาเข้าไปเป็นพันล้านบาทแล้ว)
แต่มองในแง่บวก หากมนุษย์ใช้ให้เป็นประโยชน์ อาวุธอัตโนมัติเหล่านี้ก็ใช้ปฏิบัติการเพื่อช่วยชีวิตทหารได้…หากมาถึงจุดที่ทำสงครามกันด้วยหุ่นยนต์
หากใช้อย่างรับผิดชอบ กองทัพก็อาจจะใช้มันเพื่อกำหนดเป้าหมายเฉพาะในจุดของผู้ติดอาวุธ ไม่ทำลายเป้าหมายพลเรือน เด็กหรือฝ่ายเดียวกัน
สามารถจะหลีกเลี่ยงการยิงใส่พวกเดียวกันโดยไม่ตั้งใจที่เรียกว่า friendly fire
ทำนองเดียวกับที่ยานพาหนะอัตโนมัติ (AV) สามารถเบรกให้ผู้ขับขี่เมื่อก่อนจะเกิดการชนขึ้นได้
ขณะเดียวกันหากใช้อย่างมีสติ อาวุธอัตโนมัติสามารถใช้เพื่อสกัดกั้นการทำงานของมือสังหารและผู้กระทำความผิดได้
ทางออกคืออะไร?
ผู้ศึกษาเรื่อง AI อย่างรอบด้านสรุปตรงกันว่าท้ายที่สุดแล้วก็ต้องกลับมาสู่คำว่า “จรรยาบรรณ”
หรือกติกาของสังคมที่จะต้องไม่ให้วิวัฒนาการแห่งเทคโนโลยีเข้าครอบงำ “สัญชาตญาณดิบ” ของมนุษย์
อ้างคำพูดของ Ant?nio Guterres เลขาธิการสหประชาชาติว่า “การคาดหวังให้เครื่องจักรที่มีดุลยพินิจขณะที่มันมีอำนาจที่จะปลิดชีวิตมนุษย์เป็นสิ่งที่น่ารังเกียจทางศีลธรรม”
อันตรายที่เห็นชัดคือเมื่อมีอาวุธอัตโนมัติแล้ว ค่าใช้จ่ายในการปลิดชีวิตเพื่อนมนุษย์ก็ถูกลง
เพราะหากเปรียบเทียบกับการที่ “มือสังหารฆ่าตัวตาย” หรือ suicide bomber ต้องตัดสินใจยอมสละชีพตัวเองเพื่อทำลายอีกคนหนึ่งนั้นยังเป็นเรื่องที่ต้องคิดใคร่ครวญไม่น้อย
มันคือราคาทางใจที่ผู้ก่อเหตุต้องคิดก่อนจะตัดสินใจลงมือทำ
แต่การใช้อาวุธที่สั่งการโดย AI ไม่มีความเสี่ยงเรื่องชีวิตสำหรับผู้ก่อเหตุ จึงเป็นการตัดสินใจที่ง่ายกว่า…และอันตรายกว่า
คําถามต่อมาก็คือว่าหากการทำสงครามเริ่มใช้อาวุธ AI แล้ว ใครคือผู้ต้องรับผิดชอบต่อการประหัตประหารหากเกิดความผิดพลาดขึ้นมา
ถ้าเป็นมนุษย์ที่อยู่ในกระบวนการสั่งการและตัดสินใจของการทำสงคราม เรารู้ว่าใครจะต้องรับผิดชอบเพียงใด
แต่เมื่อการสังหารถูกกำหนดให้เป็นระบบอาวุธอัตโนมัติ เส้นแบ่งและขอบข่ายของความรับผิดชอบก็ขาดความชัดเจน
เหมือนเมื่อรถที่ขับเคลื่อนด้วยตัวเองเกิดไปวิ่งชนคนเดินถนนเป็นความรับผิดชอบของใคร
ดังนั้น หากกฎกติกาว่าด้วยการใช้อาวุธอัตโนมัติยังคลุมเครือเช่นนั้น ก็อาจไม่สามารถจับมือใครดมได้ว่าผู้ที่ต้องรับผิดชอบต่อการเสียชีวิตของฝ่ายตรงกันข้ามคือใครกันแน่
ก็เท่ากับเป็นการเปิดทางให้เกิดความอยุติธรรม หรือแม้การละเมิดกฎหมายมนุษยธรรมระหว่างประเทศได้เช่นกัน
และหากทุกคนเข้าถึงอาวุธอัตโนมัติเช่นนั้นได้ การเข่นฆ่าในทุกระดับรวมไปถึงสงครามใหญ่ก็ระเบิดขึ้นได้ทุกขณะ
สังคมโลกจะหมดความปลอดภัยทันที
ไม่แต่เท่านั้น ในเมื่ออาวุธอัตโนมัติสามารถกำหนดเป้าหมายบุคคล โดยใช้การจดจำใบหน้าหรือท่าทางการเคลื่อนไหวหรือใช้วิธีการติดตามสัญญาณโทรศัพท์หรือ IoT ก็จะยิ่งเพิ่มความเสี่ยงหนักขึ้นอีก
เพราะหากทำเช่นนั้นได้เจ้าอาวุธ AI เหล่านี้ก็ไม่ใช่แค่สังหารคนใดคนหนึ่งที่ถูกเล็งเป็นเป้าเท่านั้น แต่ยังรวมถึงการฆ่าล้างเผ่าพันธุ์เป็นสิบเป็นร้อยเป็นพันได้
ไม่พักต้องพูดถึงฉากทัศน์ “สิ้นโลก” เช่น AI สามารถกำหนดให้เกิดสงครามนิวเคลียร์ได้เพียงด้วยข้อมูลว่าด้วยอาวุธร้ายแรงของแต่ละฝ่ายล้วนๆ โดยไม่คำนึงถึงศีลธรรมจรรยาแห่งมนุษยชาติเลย
เพราะท้ายที่สุดต้องยอมรับว่าสิ่งที่น่ากลัวที่สุดคือ AI ถูกจำกัดด้วยการขาดสามัญสำนึก
และความสามารถเยี่ยงมนุษย์ที่สามารถใช้เหตุผลข้ามฝักข้ามฝ่ายได้
ไม่ว่าจะพยายามฝึกฝนระบบอาวุธอัตโนมัติให้มีสำนึกมโนธรรมและการ “เอาใจเขามาใส่ใจเรา” มากเพียงใด ก็ไม่มีทางที่จะสอนให้มันมี “จิตใจเยี่ยงมนุษย์” ได้
AI “ฉลาด” ขึ้นก็อาจจะทำอะไรได้มากขึ้นจนเกินกว่าที่มนุษย์จะจินตนาการได้
แต่มันไม่สามารถจะเข้าใจถึงผลกรรมอันเกิดจากการตัดสินใจของมันอันเกิดจากข้อมูลและตัวเลขล้วนๆ ที่ไม่เข้าใจคำว่า “ประนีประนอม” หรือ “แพ้เป็นพระชนะเป็นมาร”
เพราะมันถูกสอนให้ชนะอย่างเดียว…ไม่ว่าใครจะต้องเสียหายมากน้อยเพียงใด
สะดวก ฉับไว คุ้มค่า สมัครสมาชิกนิตยสารมติชนสุดสัปดาห์ได้ที่นี่https://t.co/KYFMEpsHWj
— MatichonWeekly มติชนสุดสัปดาห์ (@matichonweekly) July 27, 2022
