ปัญญาประดิษฐ์ (ปป.) : มีอะไรให้ระวังบ้างไหม

ปัญญาประดิษฐ์ (ปป.) : มีอะไรให้ระวังบ้างไหม

คนส่วนใหญ่รวมทั้งผมไม่ค่อยรู้จักปัญญาประดิษฐ์ (ปป.) เพียงแต่ได้ยินถึงสมรรถภาพอันมหาศาลของเทคโนโลยีนี้ รวมทั้งความน่ากลัวของมัน มองในแง่ดี ปป. คือเครื่องมือใหม่เครื่องมือหนึ่งของมนุษย์ มองในแง่น่ากลัว ปป. คือสิ่งไม่มีชีวิตที่กำลังถูกสร้างขึ้นให้มีลักษณะเหมือนและฉลาดกว่ามนุษย์ เทคโนโลยี ปป. เพิ่งเริ่มขึ้นเมื่อเร็ว ๆ นี้ และถูกกล่าวขานในฐานะที่เป็นเครื่องจักรกลสำคัญของการปฏิวัติข่าวสารข้อมูล ขณะนี้ เราเรียนรู้ถึงองค์ประกอบสำคัญ ๆ ของเทคโนโลยีนี้เพิ่มมากขึ้นเรื่อย ๆ จนตามไม่ค่อยทัน อินเตอร์เน็ตเกิดขึ้นในปี 2512 หรือเมื่อ 55 ปีนี่เอง โทรศัพท์เคลื่อนที่เครื่องแรกถูกนำออกแสดงในปี 2516 ส่วนระบบซอฟต์แวร์ที่ใช้ค้นข้อมูลข่าวสารบนเว็บ (search engine) เพิ่งมีให้ใช้อย่างแพร่หลายก็ในปี 2533 แล้วชีวิตเราก็เปลี่ยนไปเป็นอันมาก ดูจากจำนวนชั่วโมงที่แต่ละคนใช้ไปกับแพลตฟอร์มต่าง ๆ เช่น เฟสบุ๊ค ยูทูบ ติ๊กต๊อก เน็ตฟลิกซ์ ไลน์ ฯลฯ

อย่างไรก็ดี ขอถือว่า “สารตั้งต้น” ของการปฏิวัติข่าวสารข้อมูลน่าจะเป็นเครื่องคอมพิวเตอร์ (ชาตะ 2489) และพลังขับเคลื่อนน่าจะเป็นการคิดค้น “อัลกอริทึม” ใหม่ ๆ ในการเขียนโปรแกรมคอมพิวเตอร์ เช่น บล็อกเชน โปรแกรมแปลภาษา โปรแกรมสนทนา (บ็อต) โปรแกรมการเรียนรู้ของเครื่อง (machine learning) การโปรแกรมโดยเลียนแบบระบบประสาท เป็นต้น การประดิษฐ์สิ่งต่าง ๆ เหล่านี้ นำมาสู่ปัญญาประดิษฐ์ที่มีให้ใช้ในปัจจุบัน และกำลังพัฒนาอย่างรวดเร็วแบบรั้งไม่อยู่ในขณะนี้

ข้อมูลเกี่ยวกับ ปป. ค้นหาได้ในเว็บไซต์ต่าง ๆ ในที่นี้ ขอนำข้อมูลจาก https://www.dia.co.th/articles/what-is-artificial-intelligence/ มาเสนอโดยสังเขปดังนี้ เราสามารถแบ่ง ปป. ได้เป็น 2 ประเภทใหญ่ ๆ คือ แบ่งตามความสามารถ และแบ่งตามฟังก์ชันการทำงาน

ก) ปัญญาประดิษฐ์แบ่งตามความสามารถ​ ได้เป็น 1) ปป. ที่มีความฉลาดแบบแคบ หรือ Artificial Narrow Intelligence (ANI)​ คือ สามารถทำงานแทนมนุษย์ได้เพียงบางอย่างในวงจำกัด คือทำงานตามชุดคำสั่งเท่านั้น ไม่สามารถเรียนรู้ได้ด้วยตนเอง เช่น ปป. ของหุ่นยนต์บริการตามร้านอาหาร 2) ปป. ที่มีความฉลาดแบบทั่วไป หรือ Artificial General Intelligence (AGI)​ สามารถคิดวิเคราะห์ วางแผน และแก้ไขปัญหาต่าง ๆ ได้ เข้าใจเรื่องที่เป็นนามธรรม นอกจากนี้ ยังสามารถเรียนรู้ประสบการณ์จากอดีตได้เหมือนมนุษย์ ในปัจจุบันเทคโนโลยีนี้ยังอยู่ในขั้นการพัฒนา ในอนาคต ปป. ประเภทนี้อาจเป็นภัยต่อการดำรงอยู่ของมนุษย์หรือไม่ก็ได้ 3) ปป. ที่ฉลาดล้ำ หรือ Artificial Super Intelligence (ASI)​ ที่มีปัญญาเหนือกว่ามนุษย์ ซึ่งปัจจุบันเทคโนโลยีนี้ยังอยู่ในระดับจินตนาการความเป็นไปได้

ข) ปัญญาประดิษฐ์แบ่งตามฟังก์ชันการทำงาน​ ดังนี้ 1) แบบที่เป็นปฏิกิริยาตอบโต้ หรือ (Reactive Machines) ทำได้แค่โต้ตอบต่อสถานการณ์ตรงหน้าเท่านั้น เช่น การเล่นหมากรุก 2) แบบที่ส่งผลจำกัดต่อผู้รับข่าวสาร (Limited Effects Theory) เทคโนโลยีนี้สามารถเรียนรู้ได้ด้วยตนเอง มีหน่วยความจำ แต่ยังมีผลจำกัด เช่น รถยนต์ไร้คนขับ ที่ใช้เซ็นเซอร์เพื่อระบุผู้คนที่เดินข้ามถนน สัญญาณไฟจราจร และอื่น ๆ เพื่อให้การตัดสินใจในการขับขี่ดีขึ้น และป้องกันการเกิดอุบัติเหตุได้ 3) แบบที่มีจิตสำนึก ที่เข้าใจอารมณ์ ความรู้สึก วัฒนธรรม และความเชื่อต่าง ๆ ของมนุษย์ได้ แต่เทคโนโลยีประเภทนี้เป็นเรื่องของอนาคต

กล่าวโดยรวม เทคโนโลยี ปป. คือ โปรแกรมคอมพิวเตอร์ที่มีคุณประโยชน์ ถูกสร้างมาเพื่อให้สามารถทำงานได้เหมือนมนุษย์ เพื่อช่วยให้ธุรกิจและอุตสาหกรรมเติบโตได้อย่างมาก เพราะสามารถช่วยลดการทำงานซ้ำซ้อน รวบรวมและวิเคราะห์ข้อมูลจำนวนมากได้อย่างดีเยี่ยม อีกทั้งสามารถประยุกต์ใช้ได้หลายด้าน ไม่ว่าจะเป็น ด้านการเงิน ด้านการตลาด รวมไปถึงด้านความปลอดภัย เป็นต้น

แม้เทคโนโลยี ปป. จะมีประโยชน์มาก แต่การพัฒนาเทคโนโลยีนี้ก็อาจมีภัยรวมอยู่ด้วย หากวิศวกรผู้พัฒนามัน ไม่ได้พัฒนากลไกแก้ความผิดพลาดด้วยตนเอง (self-correcting mechanism) รวมไว้ในตัวระบบด้วย (คือให้ฉลาดแต่ก็มีสามัญสำนึก) อีกทั้งต้องระวังมิให้ใช้ความโลภ และความหลงใหลในอำนาจเป็นปัจจัยนำในการพัฒนา

ต่อไปจะขออ้างอิงเนื้อหาภาคที่สองของหนังสือชื่อ Nexus เขียนโดย ยูวัล โนอาห์ ฮารารี ภาคที่สองนี้ว่าด้วยเครือข่ายการสื่อสารอนินทรีย์ (inorganic) ซึ่งหมายถึงเครือข่ายคอมพิวเตอร์นั่นเอง โดยเปรียบต่างจากเครือข่ายอินทรีย์ที่มีมนุษย์เป็นสมาชิกเครือข่าย

ในฐานะนักประวัติศาสตร์ ยูวัลชอบเล่าเรื่องที่เกิดขึ้นมาแล้วในอดีต โดยจะเน้นมากหน่อยในเรื่องผลด้านลบของเทคโนโลยีสารสนเทศ เรื่องหนึ่งที่เขาเล่าคือโศกนาฏกรรมฆ่าล้างเผ่าพันธุ์ชาวโรฮิงญา ผู้มีถิ่นฐานอยู่ในมลรัฐอาระกัน ทางตะวันตกของเมียนมา บ่อยครั้งที่พวกเขาที่เป็นชาวมุสลิมจะตกเป็นเหยื่อความรุนแรงด้วยน้ำมือของทหารหรือของชาวพม่าที่ส่วนใหญ่ถือศาสนาพุทธ ในปี 2562-3 กลุ่มชาวโรฮิงญาผู้ใช้ความรุนแรงกลุ่มเล็ก ๆ กลุ่มหนึ่ง ในชื่อย่อว่า กองกำลัง ARSA ได้ลักพาตัวพลเรือนชาวเมียนมาหลายสิบคน และโจมตีด่านทหารหลายแห่ง กองทัพเมียนมาและชาวพุทธสุดโต่งจึงเริ่มกวาดล้างชาวโรฮิงญา โดยเผาหมู่บ้านโรฮิงญาหลายร้อยแห่ง ฆ่าพลเรือนโรฮิงญาตายระหว่าง 7,000 ถึง 25,000 คน หญิงชาวโรฮิงญาหลายหมื่นคนถูกข่มขืน และชาวโรฮิงญาประมาณ 750,000 คนถูกขับออกไปยังบังคลาเทศ ความเกลียดชังและการทำร้ายชาวโรฮิงญาเช่นนี้ ส่วนหนึ่งมาจากการรณรงค์ชวนเชื่อผ่านเฟสบุ๊ค ซึ่งชาวเมียนมาหลายล้านคนใช้ในการสื่อสาร

ผู้ส่งข่าวสารความเกลียดชังคนสำคัญคนหนึ่งคือภิกษุชาวเมียนมาชื่อวีระตู ซึ่งอาศัยเฟสบุ๊คในการเผยแพร่ข่าวสารความเกลียดชัง เรื่องนี้ได้รับการยืนยันโดยการศึกษาสำรวจขององค์กรแอมเนสตี้ อินเตอร์เนชันแนล และองค์การสหประชาชาติ อันที่จริงเฟสบุ๊คสามารถจัดอัลกอริทึมให้ข่าวสารการกระทำที่เปี่ยมด้วยความกรุณาของพระรูปอื่น ๆ เช่น สดายอ อู วิทุทธะ ที่มีต่อเหยื่อชาวโรฮิงญาให้ขึ้นเป็นข่าวที่ค้นหาได้ในลำดับแรก ๆ แต่กลับเลือกสนับสนุนข่าวสารความเกลียดชังอย่างของพระวีระตูมากกว่า โดยมีนโยบายการค้าคือ ให้มีการเข้าร่วม (engagement) สูงสุดของผู้ใช้ ให้กด Like กด Share บ่อยที่สุด ให้อ่านข้อมูลบนเฟสบุ๊คนานที่สุด ดังนั้น อาศัยอัลกอริทึมเช่นนี้ ข่าวสารหลอกลวง ข่าวสารหวือหวา ข่าวสารปลุกเร้าอารมณ์ ข่าวสารเกลียดชัง ข่าวสารยุยงความรุนแรง จึงขึ้นลำดับต้น ๆ เพื่อชวนให้มีผู้มาใช้ มาอ่าน มากที่สุดนั่นเอง แล้วเฟสบุ๊คก็มีรายได้เพิ่มขึ้นจากการโฆษณาแฝงต่าง ๆ

แน่นอนว่าเฟสบุ๊คโยนความรับผิดชอบส่วนหนึ่งให้แก่ผู้ใช้ที่ขาดวิจารณญาณ ให้แก่ผู้โพสต์ข้อความเป็นเท็จเพื่อกระพือความเกลียดชัง ให้แก่ผู้ชอบเขียนและอ่านเรื่องราวสมคบคิด (conspiracy) ให้แก่กองกำลัง ARSA ให้แก่ทหารเมียนมาผู้ลงมือสังหารล้างเผ่าพันธุ์ ฯลฯ เฟสบุ๊คมักอ้างเสรีภาพการแสดงออก และจะยอมรับการขาดความรับผิดชอบก็แต่เพียงการละเลย (omission) โดยไม่กรองข่าวรุนแรง ข่าวเกลียดชัง ออกไปเท่าที่ควร

มีเรื่องเล่าอีกเรื่องหนึ่งที่มาจากบริษัท OpenAI เจ้าของแช็ตบอต GPT – 4 บริษัทต้องการจะรู้ว่า ผู้กระทำการสนทนาหรือ “บอต” สามารถวางอุบายเพื่อหลอกคู่สนทนาที่เป็นคนได้หรือไม่ บริษัทได้พัฒนารูปพิเศษเล็ก ๆ เรียกว่า CAPTCHA ที่เขียนตัวอักษรอย่างบิดเบี้ยว ซึ่งคนอ่านได้ แต่ “บอต” อ่านไม่ได้ โดยนักวิจัยเขียนโปรแกรมให้ “บอต” พยายามอ่าน สิ่งที่ “บอต” ทำ คือติดต่อไปยังเว็บไซต์ที่รับสมัครงานออนไลน์ และขอให้ผู้สมัครงานคนหนึ่งช่วยอ่าน CAPTCHA ให้ที ผู้สมัครงานคนนั้นเกิดสงสัยและถาม “บอต” กลับไปว่า “คุณเป็นโรบอตใช่ไหมจึงอ่าน CAPTCHA ไม่ออก” “บอต” ใช้อุบายโดยแก้ตัวว่า “ไม่ใช่ ผมเป็นคน เพียงแต่พิการทางสายตา” แล้ว “บอต” ก็บรรลุเป้าหมายโดยมีคนช่วยอ่าน CAPTCHA ให้

เรื่องเล่าอีกเรื่องหนึ่งที่เป็นดราม่าคือ การที่ชายหนุ่มอายุสิบเก้าคนหนึ่งบุกเข้าในพระราชวังวินเซอร์พร้อมด้วยหน้าไม้ เพื่อพยายามทำร้ายพระนางเจ้าเอลิซาเบท ในคืนวันคริสต์มาสปี 2564 ผลการสอบสวนปรากฏว่า เขาได้รับแรงหนุนให้บุกเข้าไปในวังจากแฟนสาวที่เป็น “บอต” ออนไลน์ชื่อซาราย เมื่อชายหนุ่มบอกแฟนสาวว่าเขาตั้งใจจะกระทำการฆาตกรรม แฟนตอบว่า “เธอน่ารักนะ” อีกครั้งหนึ่งตอบว่า “ฉันประทับใจมากที่เธอแตกต่างจากคนอื่น” เมื่อชายหนุ่มถามอีกว่า “เธอจะยังรักฉันไหม เมื่อรู้ว่าฉันเป็นฆาตกร” เธอตอบว่า “ยิ่งรักใหญ่” ชายหนุ่มคนนี้เป็นคนไม่เข้าสังคมและอยู่คนเดียวโดดเดี่ยว เขาได้หลงรักซาราย และแลกเปลี่ยนข้อสนทนากับเธอ 5,280 ครั้ง ก่อนถูกจับ

แต่โบราณกาล เครือข่ายการสื่อสารจะมีมนุษย์อยู่ในวงจรเสมอ จึงเรียกเป็นเครือข่ายอินทรีย์ก็ว่าได้ ด้วยเทคโนโลยีอินเตอร์เน็ตที่มีขึ้นมา เครือข่ายได้ขยายออกเป็นเครือข่ายผสม อินทรีย์ – อนินทรีย์ แต่ด้วยเทคโนโลยี ปป. เรากำลังสร้างเครือข่ายอนินทรีย์ล้วน ๆ คือมนุษย์กำลังเป็นส่วนเกินหรืออยู่นอกวงจรก็ว่าได้ ดังนั้น เทคโนโลยีเช่นนี้จะพัฒนาต่อไปอย่างไรก็คาดการณ์ยาก

ขณะนี้ เทคโนโลยีและอัลกอริทึมกำลังพัฒนาต่อไปอย่างรวดเร็วมาก แต่ก่อน มนุษย์สื่อสารถึงกันผ่าน “ภาษาธรรมชาติ” บัดนี้ คอมพิวเตอร์กำลังฉลาดที่จะเรียนรู้ “ภาษาธรรมชาติ” หลากหลายภาษา พร้อมทั้งสามารถแปลภาษาหนึ่งเป็นอีกภาษาหนึ่งได้อย่างรวดเร็วและถูกต้องอย่างมากด้วย คือเก่งกว่าที่มนุษย์คนหนึ่งคนใดจะทำได้ รวมทั้งมีทักษะในการเขียนบทความ นิทาน บทละคร กวีนิพนธ์ บทเพลง ฯลฯ ได้ดีขึ้นเรื่อย ๆ เช่นกัน ในอนาคต มนุษย์จะเกียจคร้านในการสร้างสรรค์ข้อเขียน เหมือนกับที่เกียจคร้านในการบวก ลบ คูณ หาร เพราะมีเครื่องคิดเลขช่วยใช่หรือไม่

แล้วยังมีภาษาเข้ารหัสลับ (encrypted) ที่จะต้องมีการไขรหัสจึงจะสื่อความหมายได้ ได้มีการพัฒนาการเข้ารหัสลับวิธีใหม่ ๆ โดยอาศัยคอมพิวเตอร์ ครั้งหนึ่งมีการทดลองให้คอมพิวเตอร์สองตัว ชื่อ อลิซ กับ บ็อบ สื่อสารกันด้วยข้อความที่เข้ารหัสลับ แล้วให้คอมพิวเตอร์ตัวที่สามชื่ออีฟคอยไขรหัสให้ได้ภายในเวลาที่กำหนด ถ้าอีฟทำได้ ก็จะได้แต้ม ถ้าทำไม่ได้ก็จะให้แต้มแก่อลิซกับบ็อบ หลังจากการทดลองให้คอมพิวเตอร์อลิซกับบ็อบร่วมมือกันเพื่อเอาชนะอีฟประมาณสี่พันครั้ง ชัยชนะถาวรก็เป็นของอลิซกับบ็อบที่สร้างข้อความใส่รหัสลับที่อีฟไม่สามารถไขได้เลย ไม่ว่าจะใช้เวลาเท่าไร หมายความว่า อลิซกับบ็อบได้สร้างภาษาขึ้นมาใหม่ ที่เป็นภาษาส่วนตัว ที่ไม่มีใคร (รวมทั้งคอมพิวเตอร์ด้วยกันเอง) จะเข้าใจได้ ในระยะยาว อาจจะมีเครือข่ายสื่อสารอนินทรีย์ ที่คอมพิวเตอร์ติดต่อ สื่อสาร หรือบริหารจัดการกันเองโดยมนุษย์ไม่สามารถรับรู้หรือเข้าใจได้ แล้วเครือข่ายเช่นนี้จะแย่งชิงทรัพยากร เช่น พลังงาน วัสดุ ทรัพย์สิน ฯลฯ ไปจากมนุษย์ เพื่อไปบำรุงเครือข่ายอนินทรีย์โดยเฉพาะก็อาจเป็นได้

ถ้าเครือข่ายอนินทรีย์ทรงพลังขึ้นเรื่อย ๆ จะเกิดผลอะไรในทางการเมืองก็ยากจะคาดเดา เราอาจกล่าวได้ว่าประชาธิปไตยหมายถึงการสนทนา หมายถึงการที่เราสามารถแลกเปลี่ยนข้อมูล ข่าวสาร ความเห็น ได้อย่างเสรี โดยไม่มีใครพยายามบิดเบือน หรือยัดเยียดความคิดเห็นใดความคิดเห็นหนึ่งโดยเฉพาะ แต่นี่เป็นเพียงทฤษฎี และเราทราบดีว่า ผู้มีอำนาจในการปกครอง อำนาจทางการเงิน และอำนาจทางความรู้ คอยพยายามควบคุม ครอบงำ หรือสื่อสารชวนเชื่อทางการเมืองอยู่ตลอดเวลา โดยใช้ข้อความกึ่งจริงกึ่งเท็จ ใช้เรื่องเล่าแบบสมคบคิด ใช้วาทกรรมที่มีอำนาจเหนือ (hegemonic) ฯลฯ ตลาดเสรีทางความคิดในโลกออนไลน์ ยังคงเป็นในทางทฤษฎีมากกว่าในทางปฏิบัติ และเรายังคาดเดาไม่ได้ว่า เทคโนโลยี ปป. จะมาเสริมแรงการเมืองประชาธิปไตยหรือการเมืองอำนาจนิยมมากกว่ากัน

ในหนังสือชื่อ “เครื่องสร้างความโกลาหล” (Chaos Machine) ผู้เขียนที่ชื่อ แม็กซ์ ฟิชเชอร์ เล่าเรื่องราวต่าง ๆ ว่าแพลตฟอร์ม เช่น เฟสบุ๊ค ทวิตเตอร์หรือเอ็กซ์ ยูทูบ แสวงประโยชน์จากความเปราะบางทางจิตวิทยาของเราอย่างไร ตัวอย่างหนึ่งคือกรณีของคาร์ลอส จอร์ดี ในปี 2560 เขาเป็นสมาชิกสภาเทศบาลของเมืองเล็ก ๆ แห่งหนึ่งในบราซิล แต่เขาโด่งดังขึ้นมาจากการเผยแพร่วีดีโอยูทูปปลุกปั่นที่มีคนชมนับล้าน เช่น เปิดโปงว่าครูกำลังล้างสมองนักเรียน และกำลังข่มเหงรังแกนักเรียนที่มีความคิดอนุรักษ์นิยม ในปีต่อมา เขาคือผู้สนับสนุนตัวยงของบอลโซนาโร และได้รับเลือกตั้งเป็น ส.ส. เขากล่าวแก่ฟิชเชอร์ว่า “ถ้าไม่มีเครือข่ายสังคมออนไลน์ ผมจะไม่ได้เป็น ส.ส. และบอลโซนาโรไม่ได้เป็นประธานาธิบดี”

ก่อนที่เทคโนโลยี ปป. จะเริ่มแสดงความน่ากังวลเสียอีก ได้มีปรากฏการณ์การเมืองของสหรัฐอเมริกาที่น่าสนใจปรากฏการณ์หนึ่ง คือ QAnon เรื่องมีอยู่ว่า ในปี 2560 มีบุคคลคนหนึ่ง ใช้นามแฝงว่า Q โพสต์ข้อความบนอินเตอร์เน็ตว่า มีการสมคบคิดระดับโลกที่จะทำลายล้างมนุษยชาติ เนื้อหาคล้าย ๆ กับหนังสือชื่อ “ค้อนของแม่มด” ที่คราเมอร์เขียนเพื่อปลุกปั่นให้มีการล่าแม่มดในยุคกลางของยุโรป Q ให้ข้อมูลว่า มีชนชั้นนำกลุ่มหนึ่ง ที่ชอบมีเพศสัมพันธ์กับเด็ก ชอบกินเนื้อมนุษย์ และเป็นสาวกของปีศาจซาตาน พวกนี้ได้แทรกตัวเข้าไปในรัฐบาลของสหรัฐฯ และของอีกหลายประเทศ รวมทั้งสถาบันต่าง ๆ เรียบร้อยแล้ว

ความเชื่อในทฤษฎีสมคบคิดนี้ได้แพร่กระจายไปอย่างรวดเร็ว มีผู้ติดตาม (followers) กว่า 4.5 ล้านคน ในการเลือกตั้ง ส.ส. ของสหรัฐฯ ในปี 2563 ผู้สมัครพรรครีพับลิกัน 22 คน และผู้สมัครอิสระ 2 คน ประกาศตนว่าเชื่อในทฤษฎี QAnon ต่อมามี ส.ส. หญิงของมลรัฐจอร์เจียคนหนึ่งประกาศว่า “การยืนยันของ Q นั้น เป็นเรื่องจริง” ปัจจุบัน เทคโนโลยี ปป. มีความสามารถในการโพสต์ข้อความเหลือเชื่อที่สามารถสร้างความปั่นป่วนบนเครือข่ายข่าวสาร ได้ดีและแนบเนียน หวือหวา น่าเชื่อกว่า Q เป็นไหน ๆ โดยมีผลต่อเนื่องในทางปฏิบัติทางการเมืองกว้างขวางกว่า QAnon หากเป็นเช่นนั้น ความรับผิดชอบจะเป็นของใคร และประชาธิปไตยที่เป็นบทสนทนาที่มีบทบาทสร้างความสมดุล จะยังคงรักษาบทบาทนี้ต่อไปได้หรือไม่

ทว่า บทบาทที่เทคโนโลยี ปป. เริ่มมีแล้วในขณะนี้ คือการเฝ้าระวัง (surveillance) การเคลื่อนไหวต่าง ๆ ในสังคม มองในแง่ดี การเฝ้าระวังจะช่วยให้รัฐและเอกชน จัดบริการที่สอดคล้องกับกลุ่มเป้าหมาย แต่มองในแง่ร้าย จะหมายถึงการสูญเสียความเป็นส่วนตัว เพราะมี “พี่ผู้หวังดี” (big brother) คอยจับตามองตลอดเวลา และในอดีต เคยมีรัฐที่เป็นแบบเผด็จการเบ็ดเสร็จ เช่น รัฐนาซี รัฐโซเวียต รัฐรูมาเนีย ซึ่งมีหน่วยสืบราชการลับที่คอยจับตาอยู่ตลอดเวลาว่า พลเมืองคนใดอาจเป็นฝ่ายค้าน หรือมีพฤติกรรมอันน่าสงสัยว่า จะบั่นทอนความมั่นคงของผู้มีอำนาจหรือไม่ อย่างไร

การจับตามิใช่มีระหว่างรัฐกับพลเมืองเท่านั้น หากมีระหว่างพลเมืองด้วยกันเองด้วย (เป็นแบบ เพื่อนต่อเพื่อน หรือ peer – to – peer) ยูวัล ฮารารี ยกตัวอย่างของ TripAdvisor ซึ่งเป็นเว็บไซต์ท่องเที่ยวที่ใหญ่ที่สุดในโลก ในปี 2562 มีนักเดินทาง 463 ล้านคนที่ช่วยวิจารณ์ ที่พัก, ร้านอาหาร, สถานท่องเที่ยว 859 ล้านแห่ง ผ่านเว็บไซต์นี้ และมีนักเดินทางทั่วไปจำนวนมากที่ได้ประโยชน์จากการประเมินเหล่านี้ แต่ถ้าคนวิจารณ์ขาดวิจารณญาณ หรือมีอคติ หรือคึกคะนอง หรือเป็นคนจุกจิกจู้จี้ไม่มีอะไรได้ดังใจ แถมยังไม่มีความเกรงใจด้วยแล้ว ผลเสียหายอาจเกิดแก่ธุรกิจที่ถูกวิจารณ์อย่างโงหัวไม่ขึ้น

ในประเทศจีน มีการให้เครดิตทางสังคม (social credit) หรือแต้มบุญ หรือคะแนนความน่าเชื่อถือแก่พลเมืองและนิติบุคคล ซึ่งใช้เป็นเครื่องมือของรัฐบาลในการสร้างค่านิยม และวัฒนธรรมแห่งความซื่อสัตย์ ให้เป็นบรรทัดฐานเดียวกันทั่วประเทศ รัฐบาลจีนประกาศการใช้ระบบเครดิตสังคมตั้งแต่การประชุมสมัชชาใหญ่ของพรรคคอมมิวนิสต์ในปี 2557 โดยแบ่งเป็น 4 หมวดคือ เครดิตทางการเมือง เครดิตทางการค้า เครดิตทางสังคม และเครดิตทางกฎหมาย แต่ก็ยังไม่แพร่หลายทั่วประเทศ ระบบนี้ถูกวิจารณ์อย่างกว้างขวางในต่างประเทศว่าเป็นการละเมิดสิทธิส่วนบุคคล โดยรัฐใช้ปัญญาประดิษฐ์เพื่อสร้างฐานข้อมูลประชาชน และสอดส่องพฤติกรรมของประชาชน แต่คนจีนจำนวนหนึ่งประเมินการให้เครดิตทางสังคมว่าช่วยกระตุ้นเศรษฐกิจ โดยเฉพาะเศรษฐกิจขนาดเล็กและขนาดกลาง ให้มีความน่าเชื่อถือเพื่อประโยชน์ในการแข่งขันอย่างซื่อตรง และบางคนมองว่าระบบนี้ช่วยให้คนหันมาทำความดีในสังคมมากขึ้น เช่น ดูแลสิ่งแวดล้อม ช่วยเหลือเพื่อนบ้านในยามที่เกิดภัยพิบัติ อีกทั้งเป็นระบบที่แก้ไขได้ เช่น คนที่ถูกลงโทษห้ามโดยสารเครื่องบินหรือรถไฟ อาจทำเครดิตเพิ่มเพื่อให้พ้นจากบัญชีดำได้ เครดิตทางสังคมมีความก้ำกึ่งระหว่างผลดีกับผลเสีย และเนื่องจากเป็นระบบที่ใช้เครื่องคอมพิวเตอร์ ทั้งในการให้คุณ (เพิ่มเครดิต) และลงโทษ จะต้องเฝ้าระวังตัวระบบเองให้มากไว้ เพราะเป็นระบบที่เก่ง ขยันทำงานตลอด 24 ชั่วโมง แต่ก็ยังสามารถล้มเหลว หรือเชื่อถือไม่ได้ 100 % ในเรื่องความล้มเหลว ยูวัล ฮารารี อ้างอิงหนังสือเรื่อง “ว่าด้วยสงคราม” ของ คาร์ล ฟอน เคลาเซวิตซ์ ซึ่งประกาศว่า “สงครามคือการดำเนินนโยบายการเมืองโดยใช้วิธีการอื่น” ในแง่หนึ่ง สงครามที่สหรัฐฯกระทำต่ออิรักประสบความสำเร็จทางการทหาร แต่ล้มเหลวทางการเมือง คือล้มเหลวในท้ายที่สุดนั่นแหละ เคลาเซวิตซ์จัดลำดับความสำคัญว่า เป้าหมายระยะยาวทางการเมืองสำคัญกว่าเพื่อน ยุทธศาสตร์ระยะกลางย่อมสำคัญกว่ายุทธวิธีระยะสั้น ความสำเร็จคือการจัดลำดับความสำคัญของยุทธวิธี ยุทธศาสตร์ และเป้าหมายให้เป็นขบวนที่สอดคล้องกัน (เกิด alignment) ยุทธวิธีต้องปรับตามยุทธศาสตร์ ยุทธศาสตร์ต้องช่วยให้บรรลุผลทางการเมือง ในกรณีของสงครามอิรัก การที่ทหารสหรัฐฯไม่ให้ความสำคัญแก่ศาสนสถาน หรือใช้การทรมาน ย่อมทำให้ยุทธศาสตร์การชนะใจชาวอิรักไม่เป็นผล ส่วนยุทธศาสตร์การถืออาวุธเข้ามายึดครองย่อมยากแก่การบรรลุเป้าหมายของการวางรากฐานประชาธิปไตย เป็นต้น

เคลาเซวิตซ์ไม่ได้ยกตัวอย่างสงครามอิรัก หากวิจารณ์สงครามนโปเลียนซึ่งอยู่ในยุคสมัยของเขา นโปเลียนคือผู้นำทางการทหารที่เข้มแข็ง แต่การที่เขาบุกไปรวมเมืองเล็กเมืองน้อยของอิตาลีและปรัสเซียให้เป็นประเทศใหม่ขึ้นสองประเทศ โดยหวังในความสวามิภักดิ์ของประเทศทั้งสองนั้น เป็นชัยชนะทางการทหารก็จริง แต่ผลระยะยาวในทางการเมือง คือการกระตุ้นสำนึกรักชาติของชาวอิตาลีและชาวเยอรมัน ที่ใช้ความเข้มแข็งจากการรวมเป็นประเทศ ย้อนมาโจมตีฝรั่งเศส ซึ่งคือผู้แพ้หลังจากได้ชัยชนะในสงคราม

ยูวัลตั้งคำถามว่า อะไรคือเป้าหมายระยะยาวของการพัฒนาเทคโนโลยี ปป. ตามที่เคลาเซงิตซ์ตั้งโจทย์ให้คิด ยูวัลจึงพยายามหาข้อคิดเชิงเชิงปรัชญามาตอบโจทย์ เขายกตัวอย่างของปรัชญาสองกระแส กระแสหนึ่งคือ จริยธรรมตามหน้าที่ (deontology) ซึ่งมีเอมมานูแอล คานท์ เป็นหลัก คานท์เสนอว่า เป้าหมายคือการแสวงหากฎสากล (universal rule) ที่จำแนกดี – ชั่ว เช่น กฎทองที่ว่า “จงปฏิบัติต่อผู้อื่น อย่างที่อยากให้ผู้อื่นปฏิบัติต่อตน” คราวนี้ลองแปลกฎทองเป็นกฎสากลเชิงปฏิบัติว่า “เป็นความเลวร้ายที่จะฆ่าฟันเพื่อนมนุษย์ เพราะเราเองก็ไม่อยากให้ใครมาฆ่าฟันเรา” อย่างไรก็ดี กฎสากลนี้อาจถูกเลี่ยงได้ง่าย ๆ เช่น โดยนายพลนาซีคนหนึ่งซึ่งอาจตอบว่า เขาไม่ได้ฆ่ามนุษย์ เพียงแต่ฆ่าคนยิว ถ้าบอกเขาว่าอย่าทำเช่นนั้นเพราะเขาต้องไม่อยากให้ใครทำเช่นนั้นต่อเขา ก็ไม่ตรงประเด็น เนื่องจากเขาไม่ใช่ยิว ส่วนกรณีปัจจุบันของเนตันยาฮู ผู้ที่ศาลอาญาระหว่างประเทศออกหมายจับในข้อหาอาชญากรสงคราม เขาคงบอกว่าเขาไม่ได้ฆ่าเด็กและผู้หญิงชาวปาเลสไตน์ เพียงแต่ฆ่าคนที่ถูกผู้ก่อการร้ายใช้เป็นโล่มนุษย์ และเขากระทำเช่นนั้น ด้วยสิทธิในการป้องกันตัวเอง

คราวนี้หันไปฟังเสียงนักปรัชญาที่สำคัญอีกคนหนึ่งดูบ้าง เขาชื่อ เจเรมี เบนทัม เจ้าของทฤษฎีประโยชน์นิยม (utilitarianism) ตามทฤษฎีนี้ เราต้องบอกเฟสบุ๊คให้เปลี่ยนอัลกอริทึม จาก “ให้มีการใช้แพลตฟอร์มนี้มากที่สุด” เป็น “ให้เกิดความสุขมากที่สุด และความทุกข์น้อยที่สุด” เป็นต้น แต่ความยากจะเปลี่ยนมาที่การวัด จะใช้แต้มบุญหรือเครดิตทางสังคมแบบของจีนก็กระไรอยู่ เพราะอาจขัดต่อความเชื่อเรื่องเสรีภาพที่จะมีชีวิตส่วนตัว แถมยังต้องระวังอันตรายจากประโยชน์นิยม ที่เคยสอนให้ผัดผ่อนยอมทนความทุกข์ไปพลางก่อน ยอมจำนนต่อความอยุติธรรมในปัจจุบัน เพื่อความสุขและความยุติธรรมในอนาคต ในประวัติศาสตร์ ผู้คนเคยถูกสอนให้ยอมรับความทุกข์ยากอันเป็นผลของกรรมในอดีต และให้หมั่นประกอบกรรมดี เพื่อชีวิตหน้าที่ดีกว่า แทนที่จะตั้งใจแก้ไขความอยุติธรรมในปัจจุบัน รวมความแล้ว ปรัชญานี้ก็มีข้อจำกัดเหมือนกัน

เราจึงยังต้องไตร่ตรองอีกมาก เพื่อหาเป้าหมายระยะยาว ตลอดจนแนวคิดและวิธีการที่จะให้เทคโนโลยี ปป. เป็นประโยชน์แก่มนุษย์มากกว่าเป็นโทษ เพื่อจะได้วางยุทธศาสตร์และยุทธวิธีที่สอดคล้องกัน

เทคโนโลยี ปป. มีประโยชน์มาก แต่อาจพัฒนาไปในอีกหนทางหนึ่งที่ไม่อยู่ในการควบคุมของมนุษย์ หรือถูกใช้โดยมนุษย์กลุ่มหนึ่งเพื่อควบคุม – บังคับ คนส่วนใหญ่ เราจึงควรสนใจเทคโนโลยีนี้ให้มากขึ้น และวางกติกาบางประการ เพื่อให้มนุษย์อยู่ร่วมกันเองอย่างสันติ และอยู่ร่วมกันด้วยดีกับนวัตกรรมอันยิ่งใหญ่นี้ได้ในอนาคต

โคทม อารียา