สะพานแห่งกาลเวลา : ปัญหาของ ‘เอไอ’
ข้อมูลดิจิทัลทั่วโลกยิ่งเพิ่มมากขึ้นเท่าไหร่ ความจำเป็นในการต้องพึ่งพาโปรแกรม “ปัญญาประดิษฐ์” หรือ “เอไอ” ยิ่งทวีมากขึ้นเท่านั้น
ตัวอย่างเช่นในแวดวงธนาคาร เมื่อมีการใช้งานในเชิงดิจิทัลและออนไลน์เพิ่มมากขึ้นเรื่อยๆ การใช้เอไอ เข้ามาช่วยเหลือในการจัดการข้อมูลก็ยิ่งจำเป็นมากขึ้น ล่าสุดรอยเตอร์ให้ข้อมูลเอาไว้ว่าในบรรดาธนาคารที่ใหญ่ที่สุดของโลก 100 อันดับแรก มีมากถึง 2 ใน 3 ที่นำระบบเอไอเข้ามาใช้งานเพื่อช่วย “กรอง” ข้อมูลตามที่ต้องการ
ซึ่งในบางกรณีความช่วยเหลือที่ว่านี้ก็คือ การทำหน้าที่ตรวจสอบเพื่อตัดสินใจในการให้เครดิตกู้ยืมแก่ลูกค้า, การอนุญาตให้ถอนเงินสดผ่านบัตรเครดิต, การยินยอมให้ตัดบัญชีเพื่อชำระเงิน ฯลฯ
คำถามก็คือ หากเกิดปัญหาขึ้นกับระบบเอไอ ที่ทำให้การทำงานในหน้าที่ดังกล่าวเหล่านี้ผิดเพี้ยนไป อะไรจะเกิดขึ้นตามมา?
ในกรณีที่เกิดขึ้นเพียงไม่กี่ราย ปัญหาที่เกิดขึ้นตามมาก็คงไม่ใหญ่โตกระไรนัก แต่ถ้าเป็นธนาคารหรือสถาบันการเงินใหญ่ๆ ที่มีลูกค้าหรือธุรกิจที่เป็นลูกค้าของธนาคารเป็นจำนวนมาก ปัญหาอาจถึงระดับวิกฤตได้
บริษัท แฟร์ ไอแซค คอร์ป หรือ ฟีโก ที่เป็นบริษัทให้คะแนนสินเชื่อยักษ์ใหญ่ในสหรัฐอเมริกาเปิดเผยออกมาเมื่อเร็วๆ นี้ว่า ซอฟต์แวร์ปัญญาประดิษฐ์ที่บรรดาธนาคารต่างๆ ใช้ เคยก่อให้เกิดความปั่นป่วนโกลาหลขึ้นมาแล้วครั้งหนึ่ง
เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อตอนที่โควิด-19 เริ่มระบาดหนักในสหรัฐอเมริกา บรรดาธนาคารหลายแห่งที่ใช้เครื่องมือเอไอของบริษัท โบซแมน ผู้ให้บริการซอฟต์แวร์เอไอจากมอนทานา สำหรับช่วยให้ธนาคารต่างๆ สามารถบ่งชี้ว่า เกิดการฉ้อโกงขึ้นกับเครดิตการ์ด หรือเดบิตการ์ด ของธนาคารหรือไม่
ในตอนนั้น เอไอของโบซแมน สรุปข้อมูลการสั่งซื้อออนไลน์ด้วยบัตรเดบิตและบัตรเครดิต ที่จู่ๆ ก็เพิ่มขึ้นกะทันหัน แล้วก็เป็นการซื้อซ้ำๆ อย่างเช่นการกระหน่ำซื้อกระดาษชำระ จนเกิดขาดตลาด เพื่อการกักตุนเนื่องจากกำลังจะมีการล็อกดาวน์เกิดขึ้นว่า เกิดจากความพยายามจะทำธุรกรรมฉ้อโกงออนไลน์
ซอฟต์แวร์ดังกล่าวใช้งานกันอยู่ในสถาบันการเงินราว 9,000 แห่ง เกี่ยวข้องกับผู้ถือบัตรเครดิตและเดบิตรวมกันมากถึง 2,000 ล้านใบ
ผลก็คือ เอไอของธนาคารเหล่านี้ สั่งระงับการซื้อขายออนไลน์ไปหลายล้านราย ทั้งๆ ที่เป็นการซื้อที่ถูกต้องตามกฎหมาย เนื่องจากต้องสงสัยว่าจะเป็นส่วนหนึ่งของอาชญากรรมทางไซเบอร์ครั้งใหญ่
โชคดีนะครับที่ทางโบซแมน มีกลุ่มนักวิเคราะห์ข้อมูลจากทั่วโลกอยู่กลุ่มหนึ่งรวมกันราว 20 คน พบความผิดปกติในพฤติกรรมของเอไอดังกล่าว และสามารถเข้าไปตรวจสอบข้อเท็จจริงและแก้ไข จนในที่สุดหลงเหลือคนที่ถูกปฏิเสธการซื้อจริงๆ เพียงไม่กี่รายเท่านั้น
แต่ก็ทำให้น่าคิดว่า ถ้าหากไม่มีกลุ่มนักวิเคราะห์ข้อมูลดังกล่าว อะไรจะเกิดขึ้น?
นี่คือตัวอย่างที่ทำให้เห็นได้ว่า เอาเข้าจริง แม้แต่เอไอที่ตรงเผงที่สุดก็ยังสามารถ “เอ๋อ” ได้เหมือนกัน
ผู้เชี่ยวชาญระบุว่า เอไอสามารถสร้างความผิดพลาดให้เกิดขึ้นได้ในหลายๆ ทาง ทางหนึ่งอย่างที่ปรากฏในตัวอย่างข้างต้นนี้ก็คือ ความผิดพลาดที่เกิดจากการเปลี่ยนแปลงข้อมูลในโลกความเป็นจริงที่เกิดขึ้นอย่างกะทันหัน และกว้างขวางมาก อย่างกรณีของการระบาดของโควิดเป็นต้น
นอกจากนั้น ยังเกิดขึ้นได้จากการคลาดเคลื่อนของข้อมูล เมื่อเทียบกับข้อมูลจำลองที่เอไอได้รับระหว่างการ “เทรน” ได้อีกด้วย
แต่ประเด็นที่สำคัญที่สุดที่ ฟีโก ต้องการจะบอกก็คือ โดยปกติแล้ว เมื่อเราเริ่มต้นใช้งานซอฟต์แวร์ที่เป็นเอไอแล้วก็มัก “ลืมไปเลย” ปล่อยให้มันทำหน้าที่ของมันไปตามเรื่องตามราว
แมคเคนซีแอนด์โค บริษัทที่ปรึกษาชื่อดัง ก็ระบุเช่นเดียวกันว่า หลังจากที่ติดตั้งแล้ว บริษัทธุรกิจ “ส่วนใหญ่” ไม่เคยตรวจสอบการทำงานของเอไออีกเลย
ทั้งๆ ที่การตรวจสอบโดยใช้ “คน” ยังคงจำเป็นต้องทำ เนื่องจากเอไอทำงานตามหลักการของตรรกะ ด้วยเงื่อนไขที่ทำให้เกิดตัวแปรมากมาย การเปลี่ยนแปลงของตัวแปรเหล่านั้นย่อมส่งผลกระทบต่อการทำงานและการตัดสินชี้ขาดของเอไอได้ทั้งสิ้น
เรื่องการใช้คนตรวจสอบเอไอนี้ มีนัยสำคัญมากขึ้นเรื่อยๆ ถึงขนาดทางทำเนียบขาวต้องออกแนวทางการทำงานใหม่ กำหนดให้มีการตรวจสอบการทำงานของระบบเอไอที่ใช้กันอยู่อย่างสม่ำเสมอ เพื่อป้องกันไม่ให้ประสิทธิภาพของระบบลดต่ำลงกว่าที่ “ยอมรับได้”
สหภาพยุโรปก็กำลังบัญญัติกฎหมายใหม่ กำหนดประกาศใช้ในราวต้นปีหน้า
กำหนดให้ระบบเอไอ ต้องมีการตรวจสอบจาก “คน” อย่างสม่ำเสมออีกด้วยครับ
