เดือนกรกฎาคมปีที่แล้ว มีคดีเล็กๆ คดีหนึ่งที่อาจส่งผลต่อคำถามสำคัญในอนาคต
วอนด้า ฮอลบรูค ช่างซ่อมบำรุงเครื่องจักร กำลังทำงานของเธอตามปกติ ในโรงงานผลิตชิ้นส่วนรถยนต์ในมิชิแกน ก่อนที่จะถูก ‘หุ่นยนต์’ ขวางทาง แล้วหลังจากนั้นหุ่นยนต์ตัวนี้ (หรือ ‘เครื่องจักร’ นี้) ก็ทิ้งชิ้นส่วนฮาร์ดแวร์ลงบนศีรษะของเธอ จนถึงแก่ความตาย
ตามหลักแล้ว หุ่นยนต์นี้ไม่ควรจะเข้าในบริเวณที่วอนด้าปฏิบัติงานอยู่ได้ มันเป็นหุ่นจาก ‘พื้นที่ 130’ ในขณะที่วอนด้าปฏิบัติงานอยู่ใน ‘พื้นที่ 140’ นี่เป็นความผิดพลาด เป็นบั๊ก ที่ทำให้มนุษย์คนหนึ่งต้องเสียชีวิต
เดือนมีนาคมปีนี้ สามีของวอนด้ายื่นฟ้องศาล โดยมีจำเลยเป็นบริษัทหุ่นยนต์ 5 บริษัทที่มีส่วนรับผิดชอบในการสร้างเครื่องจักรนี้ขึ้นมา เขาเห็นว่าบริษัทเหล่านี้ออกแบบหุ่นยนต์ที่ทำงานผิดพลาดอย่างไม่สมควรจะเกิดขึ้น
ในทางหนึ่ง การที่หุ่นยนต์ทำงาน ‘ผิดพลาด’ นี้ก็เป็น ‘บั๊ก’ หรือข้อบกพร่องของโปรแกรม – แต่อย่างที่เราได้เห็นกันแล้วจากข่าวในช่วงที่ผ่านมา หลายๆ ข่าว ว่าการพัฒนาปัญญาประดิษฐ์ในหุ่นยนต์นั้นเป็นเรื่องที่ซับซ้อนขึ้นเรื่อยๆ จากเดิมที่การพัฒนาปัญญาประดิษฐ์จะหวังพึ่งกฎอันชัดเจนตายตัว ในปัจจุบัน เราใช้วิธี ‘ฝึก’ ปัญญาประดิษฐ์ ด้วยชุดข้อมูลซ้ำๆ เพื่อให้ปัญญาประดิษฐ์หา ‘รูปแบบ’ ในข้อมูลเหล่านั้น (ซึ่งมนุษย์อาจจะไม่มีความสามารถในการเห็นรูปแบบดีเท่าด้วยซ้ำ) เพื่อพัฒนาเป็น ‘กฎ’ ของตนเองต่อไป
ปัญหาก็คือ – บางครั้ง ‘รูปแบบ’ ที่ปัญญาประดิษฐ์สรุปออกมาได้ ก็อาจไม่ใช่คำตอบที่ถูกเช่น ในกรณีหนึ่ง รถยนต์ไร้คนขับก็คิดว่าภาพสะท้อนจากรถบรรทุกนั้นเป็นท้องฟ้าจริงๆ (เพราะสีเหมือนท้องฟ้า) จนทำให้เกิดอุบัติเหตุครั้งใหญ่
ว่ากันว่า ปัจจุบันปัญญาประดิษฐ์ที่เกิดจากการเรียนรู้ที่มีรูปแบบซับซ้อนนี้ บางครั้ง (หรือแทบทุกครั้ง!) ก็ ‘ซับซ้อน’ จนกระทั่งคนสร้างก็อธิบาย
สิ่งที่ตัวเองสร้างขึ้นมาไม่ได้ด้วยซ้ำ!
ตัวอย่างหนึ่งเช่นปัญญาประดิษฐ์ที่ใช้ ‘การเรียนรู้เชิงลึก’ ชื่อว่า Deep Patient มันเป็นโปรแกรมที่ถูกฝึกโดยใช้ข้อมูลของคนไข้กว่า 700,000 คน เพื่อให้มันมี ‘ญาณทัสนะ’ สามารถคาดเดาได้ว่าคนไข้คนไหนกำลังมีความเสี่ยงที่จะป่วยเป็นโรคอะไร (โดยใช้หลักทางสถิติ) การ ‘ฝึกฝน’ นี้ ไม่ได้ทำด้วยการให้ผู้เชี่ยวชาญมาคอยตั้งกฎ กติกา บอกปัญญาประดิษฐ์นะครับว่าถ้าคนไข้มีประวัติแบบนี้ๆ พวกเขาน่าจะเสี่ยงเป็นโรคนี้ๆ มากขึ้น แต่มันมาจากข้อมูลล้วนๆ
Deep Patient ทำงานได้ดีจน – แพทย์หลายคนก็ตั้งคำถามขึ้นมาว่ามัน ‘ดี’ ขนาดนี้ได้อย่างไร
ตัวอย่างเช่น มันสามารถทำนายผู้มีความเสี่ยงป่วยเป็นจิตเภท (schizophrenia) ได้อย่างถูกต้องจำนวนมาก ซึ่งกระทั่งแพทย์ผู้เชี่ยวชาญก็ยังยอมรับว่าการทำนายลักษณะนี้ยากเย็นมากๆ เขาจึงสงสัยว่าแล้วโปรแกรม ‘อัตโนมัติ’ อย่าง Deep Patient ที่เพียงดูข้อมูลคนไข้เพียงอย่างเดียว ทำไมจึงทำนายได้อย่างแม่นยำเหลือเชื่อ เขาคิดว่า ถ้า Deep Patient ให้คำตอบได้อย่างถูกต้อง พร้อมกับ ‘เหตุผล’ ที่ว่า ทำไมจึงได้คำตอบแบบนี้ออกมา ก็น่าจะเป็นประโยชน์กับวงการแพทย์ มากกว่าแค่ให้คำตอบเฉยๆ
คำตอบก็คือ ‘ไม่รู้’
ผู้สร้าง Deep Patient บอกว่า “เราสามารถสร้างปัญญาประดิษฐ์พวกนี้ได้ แต่เราก็ไม่รู้
หรอก ว่ามันทำงานอย่างไร” – อ้าว!
นี่ไม่ใช่ปัญหาที่เกิดกับ Deep Patient เท่านั้นนะครับ แต่เกิดกับวงการปัญญาประดิษฐ์ในปัจจุบันที่ใช้วิธีการ ‘Deep Learning’ แทบทั้งหมด เพราะต่างก็ใช้วิธีฝึกปัญญาประดิษฐ์ด้วยข้อมูล เพื่อให้ได้ผลลัพธ์ หรือสูตรสำเร็จบางอย่างในการนำไปใช้กับข้อมูลอื่นๆ ต่อไป เหมือนกับโยนมหาสมุทรลงไปในกล่องดำ แล้วเมื่อพิสูจน์หลายครั้งก็พบว่ากล่องดำนั้นน่าจะใช้ได้ แต่ก็ไม่มีใครรู้จริงๆ ว่ากล่องดำนั้นทำงานอย่างไร
นี่ต่างจากปัญญาประดิษฐ์ในสมัยก่อนหน้าที่ถูกคลุมไว้ด้วยกฎที่ชัดเจน ตายตัว เมื่อได้คำตอบมาแบบหนึ่ง โปรแกรมเมอร์ก็สามารถวิศวกรรมย้อนกลับได้ว่าที่ได้คำตอบเช่นนั้นเพราะอะไร
ปัญหานั้นค่อนข้างเห็นได้ชัดอยู่แล้วครับ-ในโลกที่ปัญญาประดิษฐ์เข้ามาเกี่ยวข้องกับชีวิตเรามากขึ้นเรื่อยๆ มันถูกใช้ในการซื้อ-ขายหลักทรัพย์ มันถูก
ใช้เพื่อตัดสินว่าใครควรจะมีสิทธิได้กู้เงินจากธนาคารและใครไม่ควร มันถูกใช้เพื่อตัดสิน ‘เบี้ยประกัน’ ที่คนคนหนึ่งควรจ่ายโดยประเมินจากความเสี่ยงที่เขาจะประสบอุบัติเหตุหรือเสียชีวิต มันถูกใช้ในศาล เพื่อประเมินว่าจำเลยจะทำความผิดซ้ำหรือไม่ (โดยดูจากสถิติเช่นกัน)
เมื่อมันเกี่ยวข้องขนาดนี้ คำตอบแค่ว่า ‘อะไร’ ก็อาจไม่พอ แต่ผู้ที่ได้รับผลกระทบตรงๆ จากการ ‘ตัดสินใจ’ ของปัญญาประดิษฐ์ ย่อมมีสิทธิที่จะได้รับคำอธิบายว่า ‘ทำไม’ ด้วย
ซึ่งก็ไม่ต่างจากการตัดสินใจของคนหรือผู้มีอำนาจในหลายๆ ครั้ง – ผู้คนที่ได้รับผลกระทบก็มีสิทธิทวงถามเสมอว่า ‘ทำไม’ เพื่อที่จะพิจารณาได้ว่าคำตอบที่ได้นั้นน่าพอใจ หรือกระทั่งสมเหตุสมผลหรือไม่
