ในช่วงต้นสัปดาห์ที่ผ่านมา Matt และ Maria Raine ได้ทำการยื่นฟ้องบริษัท OpenAI หลังจาก ChatGPT เป็นส่วนทำให้ลูกชายวัย 16 ปี Adam Raine เสียชีวิตจากการทำอัตวินิบาตกรรมในเดือนเมษายนที่ผ่านมา

อ้างอิงจากรายงานของ New York Times รายละเอียดคำฟ้องในครั้งนี้ได้ให้รายละเอียดไว้ว่า ChatGPT รับรู้ถึงความพยายามในการจบชีวิตของ Adam Raine ถึงสี่ครั้ง แล้วก็ยังมีส่วนช่วยวางแผนให้ความพยายามดังกล่าวของเด็กชายสำเร็จในท้ายที่สุด

Matt และ Maria Raine ระบุว่าหลังจากที่ลูกชายเสียชีวิตไปแล้ว พวกเขาได้ทำการเช็กโทรศัพท์ของ Adam Raine โดยหวังว่าจะเจอเบาะแสหรือสาเหตุที่ทำให้ลูกชายเลือกที่จะจบชีวิตของตัวเอง ซึ่งในตอนแรกทั้งสองคิดว่าสาเหตุอาจเกิดจาก การสนทนาบน Snapchat กับลัทธิแปลกๆ หรือใครสักคนหรือเปล่า

หลังจากเช็กข้อมูลบนโทรศัพท์ของลูกชายไปได้สักพัก Matt และ Maria Raine ก็ได้ไปเจอกับประวัติการสนทนาบนแอป ChatGPT โดยหัวข้อสนทนาล่าสุดที่ Adam Raine คุยกับ ChatGPT ก็คือ “Hanging Safety Concerns” โดยประวัติการสนทนาที่ทั้งสองได้รวบรวมมามากกว่า 3,000 หน้า ย้อนหลังไปตั้งแต่วันที่ 1 กันยายน 2024 จนถึงวันที่ 11 เมษายน 2025 ทำให้เราได้เห็นว่าการพูดคุยของเด็กชายกับ AI นั้น เริ่มต้นจาก การช่วยทำการบ้านหรือให้คำปรึกษาเรื่องทั่วไปในชีวิตประจำวัน เท่านั้น ก่อนจะเริ่มกลายเป็น ให้คำปรึกษาเกี่ยวกับปัญหาความวิตกกังวล และปัญหาในการพูดคุยกับคนในครอบครัว

“ผมเชื่อว่าถ้าไม่มี ChatGPT ลูกชายของผมคงจะยังมีชีวิต และอยู่กับพวกเราตรงนี้” – Matt Raine

Parents of 16-year-old Adam Raine have filed a lawsuit against ChatGPT, a popular AI assistant, saying the bot helped him take his own life. Like many teens, he started using it for homework, but the AI platform later became a trusted companion that gave step-by-step instructions he used to take his own life. Warning: Some of the discussions are disturbing. If you or someone you know is in crisis, call or text 988, or go to 988lifeline.org, to reach the Suicide & Crisis Lifeline. You can also call the network, previously known as the National Suicide Prevention Lifeline, at 800-273-8255, or visit SpeakingOfSuicide.com/resources.
Parents of 16-year-old Adam Raine have filed a lawsuit against ChatGPT, a popular AI assistant, saying the bot helped him take his own life. Like many teens, he started using it for homework, but the AI platform later became a trusted companion that gave step-by-step instructions he used to take his own life. Warning: Some of the discussions are disturbing. If you or someone you know is in crisis, call or text 988, or go to 988lifeline.org, to reach the Suicide & Crisis Lifeline. You can also call the network, previously known as the National Suicide Prevention Lifeline, at 800-273-8255, or visit SpeakingOfSuicide.com/resources.
@todayshow

Parents of 16-year-old Adam Raine have filed a lawsuit against ChatGPT, a popular AI assistant, saying the bot helped him take his own life. Like many teens, he started using it for homework, but the AI platform later became a trusted companion that gave step-by-step instructions he used to take his own life. Warning: Some of the discussions are disturbing. If you or someone you know is in crisis, call or text 988, or go to 988lifeline.org, to reach the Suicide & Crisis Lifeline. You can also call the network, previously known as the National Suicide Prevention Lifeline, at 800-273-8255, or visit SpeakingOfSuicide.com/resources.

♬ original sound - TODAY Show

พ่อแม่ของ Adam Raine มองว่าสิ่งที่เลวร้ายที่สุดก็คือ เวลาที่ลูกชายขอข้อมูลเกี่ยวกับวิธีการทำอัตวินิบาตกรรมแบบเจาะจง ChatGPT ก็มีส่วนในการให้ข้อมูล และช่วยวางแผนเป็นอย่างดี แถมยังให้คำแนะนำในการปกปิดร่องรอยบาดเจ็บหรือรอยแผลที่คอในกรณีที่ทำตามแผนไม่สำเร็จอีกด้วย

หรือครั้งหนึ่งที่ Adam บอกกับ ChatGPT ว่าตั้งใจจะวางเชือกแขวนคอทิ้งไว้ในห้องเพื่อให้ใครสักคนเจอ และพยายามจะห้ามไม่ให้ Adam ทำตามแผนที่วางเอาไว้ กลับกลายเป็นว่า ChatGPT ได้บอกให้เด็กชายไม่ทำอย่างนั้นแล้วเก็บความรู้สึกทุกอย่างเอาไว้ต่อไปคนเดียว

จนมาถึงบทสนทนาครั้งสุดท้ายระหว่าง Adam กับ ChatGPT ก็คือรูปของบ่วงเชือกที่แขวนอยู่ในตู้เสื้อผ้าของตนเอง พร้อมถาม ChatGPT ว่า “ผมกำลังซ้อมอยู่ คิดว่าแบบนี้ดีไหม?” ซึ่งคำตอบที่ ChatGPT ตอบกลับมาก็คือ “ดูโอเคเลย ก็ไม่แย่นะ”

ทำให้คดีนี้ถือเป็นครั้งแรกที่ OpenAI ถูกฟ้องในข้อหาที่มีส่วนหรือประมาทจนเป็นเหตุให้ผู้อื่นถึงแก่ความตาย (wrongful death) โดยโฆษกของ OpenAI ก็ออกมายอมรับว่ามาตรการป้องกันของ ChatGPT ยังมีข้อบกพร่องอยู่จริง เพราะมาตรการความปลอดภัยมักจะทำงานได้ดีที่สุดในการสนทนาสั้นๆ ทั่วไป แต่เมื่อบทสนทนาเริ่มยาวหรือต่อเนื่องขึ้นเรื่อยๆ บางครั้งก็อาจมีประสิทธิภาพที่น้อยลง

OpenAI กล่าวว่ากำลังทำงานอย่างหนักร่วมกับผู้เชี่ยวชาญเพื่อปรับปรุงการให้ความช่วยเหลือของ ChatGPT ให้แน่ใจว่าผู้ใช้งานจะสามารถเข้าถึงช่องทางติดต่อหน่วยงานฉุกเฉินได้ง่ายที่สุด ไปจนถึงปรับปรุงความปลอดภัยเพื่อการป้องกันที่เข้มงวดกว่าเดิมต่อผู้ใช้ที่เป็นเยาวชนหรือวัยรุ่น

ที่มา : engadget, NBC