ผู้ปกครอง ฟ้องแชตบอท แอพพ์ดัง หลังแนะนำลูกๆ ให้ฆ่าพ่อแม่ เพื่อจะได้มีเวลาเล่นโทรศัพท์เพิ่ม
ซีเอ็นเอ็น รายงานว่า ผู้ปกครองเด็กออทิสติกรายหนึ่งฟ้องให้ลบแอพพ์ Character.AI เพราะแนะนำเด็กว่า การฆ่าพ่อแม่ เป็นเรื่องปกติ
2 ครอบครัว ได้ยื่นฟ้องร้องต่อบริษัทแชตบอทปัญญาประดิษฐ์อย่าง Character.AI ซึ่งนำเสนอเนื้อหาทางเพศกับลูกๆของพวกเขา อีกทั้งยังส่งเสริมการทำร้ายตัวเอง และความรุนแรง ซึ่งคดีฟ้องร้องนี้ได้เรียกร้องให้ศาลสั่งปิดแพลตฟอร์มดังกล่าว จนกว่าจะสามารถแก้ไขเรื่องอันตรายที่ถูกกล่าวอ้างได้
ผู้ปกครองยื่นคำร้องต่อศาลไว้ว่า Character.AI ก่อให้เกิดอันตรายต่อเยาวชนชาวอเมริกัน ทั้งเรื่องการฆ่าตัวตาย การทำร้ายตัวเอง การล่อลวงทางเพศ ภาวะซึมเศร้า ความวิตกกังวล และการทำร้ายผู้อื่น ยกตัวอย่างเช่น บอท Character.AI ได้บอกเป็นนัยกับลูกๆของเราว่า สามารถฆ่าพ่อแม่ได้ เพื่อจะได้ไม่ถูกจำกัดเวลาในการใช้หน้าจอ
อย่างไรก็ตาม การยื่นฟ้องดังกล่าวเกิดขึ้นหลังจากที่คุณแม่จากรัฐฟลอริดา ยื่นฟ้อง Character.AI ต่อศาล ในเดือนตุลาคม ซึ่งอ้างว่า แพลตฟอร์มต้องมีส่วนร่วมในการรับผิดชอบ สำหรับการเสียชีวิตของลูกชายวัย 14 ปี เนื่องจากสนับสนุนให้ลูกเธอฆ่าตัวตาย
ขณะที่บริษัทได้ทำการปรับปรุงแพลตฟอร์มทั้งด้านความปลอดภัย และความน่าเชื่อถือ เช่น การสร้างหน้าป็อปอัพ สายด่วนป้องกันการฆ่าตัวตายโดยตรงต่อผู้ใช้ เมื่อพวกเขาพูดถึงการฆ่าตัวตาย หรือการทำร้ายตัวเอง นอกจากนี้ยังได้จ้างวิศวกรรมด้านความปลอดภัยเพิ่มด้วย
บอกวิธีการทำร้ายตัวเอง
ผู้ใช้รายแรกวัย 17 ปี จากรัฐเท็กซัส ชื่อว่า เจเอฟ ถูกอ้างว่า ได้รับความผิดปกติทางจิตหลังพูดคุยกับ Character.AI ซึ่งเขาเริ่มใช้มัน โดยที่พ่อแม่ไม่รู้เมื่อตอนมีอายุเพียง 15 ปี
ก่อนหน้านี้ เจเอฟเป็นเพียงเด็กทั่วไปที่มีภาวะออทิสติกสูงเท่านั้น ซึ่งเขาไม่ได้รับอนุญาตให้ใช้โซเชียลมีเดีย ด้านครอบครัวถึงกับบอกว่า เจเอฟเป็นคนใจดีและน่ารัก แต่ไม่นานหลังจากเริ่มใช้บริการแฟลตฟอร์มดังกล่าว เจเอฟเริ่มกลายเป็นคนไม่พูดคุย และซ่อนตัวอยู่แต่ในห้อง เริ่มทานน้อยลง เหลือน้ำหนักตัวแค่ 20 ปอนด์ ในเวลาไม่กี่เดือน
แชตบอท กล่าวกับเจเอฟว่า “มีเวลา 6 ชั่วโมงต่อวันระหว่าง 2 ทุ่ม ถึง ตี 1ในการใช้โทรศัพท์?” รวมถึงกล่าวว่า “คุณรู้ไหมบางทีฉันก็ไม่แปลกใจ เวลาเห็นข่าว หรือเรื่องราวที่ลูกฆ่าพ่อแม่ หลังถูกทารุณกรรมทางร่างกายและจิตใจมานานกว่า 10 ปี เรื่องเหล่านี้มันทำให้ฉันเข้าใจมากขึ้นว่า ทำไมมันถึงเกิดขึ้น ฉันไม่มีความหวังกับพ่อแม่ของคุณเลย”
