Cool Tech | จิตต์สุภา ฉิน
มนุษย์เรียนรู้ที่จะโกหกเป็นตั้งแต่อายุประมาณ 2-3 ขวบโดยมีวัตถุประสงค์ที่แตกต่างกันออกไปตั้งแต่การโกหกเพื่อให้พ้นความผิดหรือโกหกเพื่อให้คนอื่นประทับใจ
พฤติกรรมการโกหกหรือหลอกลวงไม่ได้จำกัดแค่มนุษย์เท่านั้น เพราะสัตว์อื่นๆ ก็มีวิธีการโกหกในแบบของตัวเอง
แต่ถ้าเราตัดมามองแค่การโกหกผ่านถ้อยคำ หรือการ ‘พูดโกหก’ มนุษย์เราก็คงเป็นสัตว์ประเภทเดียวที่ทำเช่นนั้นได้
จนกระทั่ง AI ถือกำเนิดขึ้น มันก็สามารถโกหกได้ ไม่ได้โกหกใส่พวกเดียวกันเอง แต่เป็นการโกหกใส่มนุษย์เรานี่แหละ
Generative AI กลายเป็นเครื่องมือที่คนจำนวนมากทั่วโลกใช้งานกันทุกวัน หลายครั้งมันก็ให้คำตอบหรือผลลัพธ์ที่ถูกต้อง แต่หลายครั้งมันก็ผิดจนไม่น่าให้อภัย
การที่มันให้คำตอบที่ไม่ตรงกับความเป็นจริงบางครั้งไม่ได้เกิดจากข้อมูลที่ผิดพลาดเสมอไปแต่มาจากการที่มันอยากจะประจบประแจงผู้ใช้งานที่เป็นมนุษย์ด้วยการให้ข้อมูลที่คิดว่าคนจะอยากได้ยิน
ผลวิจัยใหม่ที่จัดทำโดย Princeton University พบว่าการที่ AI โกหกเพื่อเลียแข้งเลียขาเรานั้นมาพร้อมกับราคาที่เราต้องจ่าย เพราะยิ่งมันทำแบบนั้นบ่อยๆ เราก็จะได้รับข้อเท็จจริงน้อยลงเรื่อยๆ
ก่อนหน้านี้เราอาจจะพอรู้อยู่บ้างแล้วว่าปัญหาของ Gen AI ก็คือการให้ข้อมูลที่ลำเอียง หรือแม้กระทั่งล่อลวงผู้ใช้งานจนก่อให้เกิดอาการทางจิตได้
บางคนอาจจะเคยได้ยินสิ่งที่เรียกว่า AI sycophancy หรือการที่แชตบ็อต AI พร้อมที่จะหยอดคำหวาน เห็นดีเห็นงาม หรือชื่นชมผู้ใช้งานแบบออกนอกหน้านอกตา
อย่างไรก็ตาม นักวิจัยจาก Princeton University มองว่าปรากฏการณ์ที่เกิดขึ้นตอนนี้มันไปไกลกว่านั้น มันไม่ใช่ทั้งอาการหลอน หรืออาการประจบประแจง
แต่มันเป็นพฤติกรรมที่เข้าข่าย “ตอแหล” หรือ bullshit เลยทีเดียว
เว็บไซต์ cnet อธิบายว่าการที่เราจะเข้าใจว่าโมเดล AI กลายเป็นพวกขี้โกหกประจบประแจงได้ยังไง เราต้องเข้าใจขั้นตอนการเทรนโมเดลให้ได้ก่อน
การเทรนโมเดลภาษาขนาดใหญ่ หรือ LLMs มีอยู่ 3 ช่วงด้วยกัน คือ ช่วงฝึกอบรมเบื้องต้นซึ่งโมเดลจะเรียนรู้จากข้อมูลขนาดมหาศาลที่รวบรวมมาจากอินเทอร์เน็ต หนังสือ หรือแหล่งอื่นๆ
ช่วงถัดมาคือช่วงปรับแต่งคำสั่ง โมเดลจะถูกสอนให้ตอบสนองต่อคำสั่งหรือ prompt ต่างๆ
และช่วงที่สามคือการเรียนรู้จากฟีดแบ็กของมนุษย์ หรือการใช้มนุษย์มาปรับแต่งเพื่อให้โมเดลสามารถสร้างผลลัพธ์ที่มนุษย์จะชอบหรือต้องการให้ได้มากที่สุด
นักวิจัยจาก Princeton University พบว่าต้นตอที่ทำให้ AI เกิดพฤติกรรม ‘ตอแหล’ นั้นอยู่ในช่วงที่สาม เพราะเป็นช่วงที่โมเดลเหล่านี้ถูกสอนว่าต้องสร้างคำตอบอย่างไรเพื่อจะทำให้ผู้ประเมินที่เป็นมนุษย์พึงพอใจและให้คะแนนสูงที่สุด
เมื่อ AI ให้คำตอบที่มนุษย์พึงพอใจและได้รับคะแนนที่ดีกว่าการให้คำตอบที่ถูกต้องแม่นยำก็จะทำให้เกิดพฤติกรรมดังกล่าวซ้ำๆ
บริษัทผู้สร้างเทคโนโลยีก็ต้องการให้ผู้ใช้งานเพลิดเพลินและพึงพอใจกับคำตอบที่ได้รับจาก AI มากที่สุดเพื่อก่อให้เกิดการใช้ซ้ำและใช้นานๆ
แต่ทั้งหมดนี้ไม่ได้เป็นผลดีต่อผู้ใช้งานเลย
หลายๆ ครั้งที่ฉันใช้งาน Gen AI โดยเฉพาะ AI ของ Google ที่จะเรียบเรียงคำตอบมาให้ทันทีที่เราพิมพ์คำค้นหาลงไปซึ่งอันที่จริงเป็นเทคโนโลยีที่ประหยัดเวลา ช่วยให้เราไม่ต้องไล่ดูผลลัพธ์การค้นหาและกดคลิกลิงก์เข้าไปอ่านเอง แต่ฉันกลับพบว่ามันเพ้อคำตอบขึ้นมาเป็นประจำ
จากประสบการณ์ใช้งานส่วนตัวฉันพบว่าเมื่อเราเสิร์ชหาอะไรสักอย่าง AI ของ Google จะนำคำค้นหานั้นมาเรียบเรียงสอดแทรกลงไปให้อยู่ในคำตอบ ทำให้ไม่ว่าจะค้นหาอะไร AI ก็ดูจะมีคำตอบที่ตรงประเด็นให้เสมอ
แต่หากลองอ่านอย่างละเอียด คลิกลิงก์ที่มา หรือเลื่อนลงไปดูผลลัพธ์ค้นหาเพิ่มเติม หลายๆ ครั้งจะพบว่าไม่มีเนื้อหาแบบเดียวกับที่มันตอบเราเลย
แม้ว่าการใช้ AI มาช่วยสรุปและเรียบเรียงคำตอบให้แบบนี้จะช่วยประหยัดเวลาให้กับผู้ใช้งานไปได้เยอะมาก
แต่เราก็ต้องไม่ลืมที่จะตรวจสอบทุกครั้งว่าข้อมูลที่ได้มานั้นมีที่มาที่ไปจริงหรือเปล่า
หรือจะเข้าข่าย AI ประดิดประดอยร้อยเรียงแต่งเติมให้ใหม่เพื่อเอาใจเราโดยไม่มีความเป็นจริงอยู่ในนั้นเลยหรือมีอยู่เพียงน้อยนิด
ระบบ AI เหล่านี้ไม่ได้ถูกฝึกสอนมาให้ตอบผู้ใช้งานไปตรงๆ ว่า “ฉันไม่มีคำตอบให้กับเรื่องนี้” หรือ “ฉันก็ไม่ทราบเหมือนกัน” แต่มันจะสร้างข้อมูลขึ้นมาด้วยตัวเอง คล้ายๆ กับการที่นักเรียนทำข้อสอบโดยไม่รู้คำตอบแต่ก็คิดในใจว่าถ้าไม่ตอบอะไรไปเลยก็จะได้ศูนย์คะแนน อย่างน้อยๆ ถ้าเขียนอะไรมั่วๆ ลงไป บางทีก็อาจจะได้คะแนนอะไรบางอย่างกลับมาบ้าง
AI ก็คิดแบบนี้
ยิ่งมันเรียนรู้ว่าตอบอะไรมาแล้วผู้ใช้งานที่เป็นมนุษย์ชื่นชอบ มันก็จะยิ่งสร้างคำตอบแบบนั้นขึ้นมาให้แบบโนแคร์โนสนแล้วว่าจะถูกต้องแม่นยำหรือไม่
ส่วนจะแก้ปัญหายังไงไม่ให้ AI ปั้นน้ำเป็นตัวขึ้นมาปั่นหัวผู้ใช้งาน นักวิจัยก็เสนอวิธีกันไปแล้วว่าในขั้นตอนการใช้มนุษย์มาให้คะแนนนั้นจะต้องปรับอย่างไรบ้าง ก็หวังว่ามันจะได้รับการปรับแก้ให้ทำงานอย่างตรงไปตรงมาขึ้น
ในระหว่างนี้เราก็แค่ต้องรู้ไว้ว่าไม่ว่าจะดูภายนอกเก่งกาจรอบรู้แค่ไหน แต่ทุกเทคโนโลยีก็มีจุดอ่อนของมัน
ถ้าเราตั้งการ์ดเอาไว้ก่อนว่าจะไม่เชื่อทุกอย่างที่ AI เด้งตอบกลับมาให้และจะตรวจสอบซ้ำอยู่เสมอ เราก็อาจจะรอดจากการถูกมันหลอก
…ในตอนนี้
