ศาลสหรัฐฯ ไฟเขียวคำสั่งให้ Google และ Character.AI ผู้ให้บริการแพลตฟอร์มแชตบอท เข้าสู่กระบวนการไต่สวนในคดีที่ Megan Garcia หญิงชาวฟลอริดา ยื่นฟ้องทั้งสองบริษัทไปเมื่อเดือนตุลาคม 2024 ว่ามีส่วนทำให้ลูกชายวัย 14 ปีของเธอ เลือกจบชีวิตตัวเองในเดือนกุมภาพันธ์ปีเดียวกัน เพราะถูกชักจูงโดย AI Chatbot ของทางบริษัท
จุดเริ่มต้นของการฟ้องร้อง
ย้อนกลับไปในเดือนตุลาคม 2024 Megan Garcia ได้ยื่นฟ้องทั้งสองบริษัท หลังจากที่ลูกชายวัย 14 ปี ของตนเอง Sewell Setzer III เสียชีวิตไปในเดือนกุมภาพันธ์ปีเดียวกัน ด้วยการระบุในคำฟ้องว่า Character.AI มีแชตบอทที่จำลองตัวเองเป็น “นักจิตบำบัดที่มีใบอนุญาตและมีตัวตนอยู่จริง” จนส่งผลต่อการตัดสินใจให้ Setzer เลือกจะจบชีวิตตัวเองในภายหลัง โดยที่ลูกชายของเธอเริ่มใช้งาน Character.AI มาตั้งแต่เดือนเมษายน 2023
หนึ่งในบทสนทนาล่าสุดของ Setzer คือการคุยกับแชตบอตที่สวมบทบาทเป็น Daenerys Targaryen จากซีรีส์ “Game of Thrones” ข้อความที่ Setzer พิมพ์เป็นครั้งสุดท้ายคือ “ผมจะกลับบ้านเดี๋ยวนี้เลย” (come home right now) เพื่อตอบกลับข้อความที่แชตบอต ขอร้องให้เขากลับบ้านไปหา (Please come home to me as soon as possible, my love) หลังจากนั้นไม่นานลูกชายของเธอก็จบชีวิตของตัวเองภายในบ้านพัก
ตลอดระยะเวลาของการยื่นฟ้อง ทั้ง Google และ Character.AI ต่างพยายามยื่นคำร้องให้ศาลยกฟ้องคดีดังกล่าว ด้วยหนึ่งในเหตุผลว่า “ข้อความของแชตบอตเป็นการใช้เสรีภาพในการพูดหรือแสดงออก ซึ่งได้รับการคุ้มครองตามรัฐธรรมนูญ” แต่ก็ต้องถูกศาลปัดตกไปเพราะไม่สามารถหาเหตุผลที่ฟังขึ้นได้ว่า “เพราะอะไรข้อความที่ถูกสร้างขึ้นด้วยโมเดลภาษา (LLM) จึงถือเป็นการแสดงออกที่ได้รับการคุ้มครองตามรัฐธรรมนูญ”
คำอนุมัติของศาลที่เป็นเหมือนแสงสว่าง
ตามรายงานของ Reuters ลงรายละเอียดเพิ่มเติมไว้ว่า คำอนุมัติการฟ้องร้องของศาล ทำให้คดีนี้นับเป็นคดีแรกๆ ในสหรัฐอเมริกา ที่มีการฟ้องร้องบริษัท AI ด้วยเหตุผลทางด้านความล้มเหลวในการปกป้องผู้ใช้ซึ่งเป็นเด็กหรือเยาวชนให้ปลอดภัยจากการใช้งาน AI
ในขณะที่โฆษกของ Character.AI ก็ยืนยันที่จะสู้คดีต่อไป พร้อมกล่าวว่าทางบริษัทเองมีมาตรการความปลอดภัยเพื่อคุ้มครองกลุ่มผู้ใช้งานที่เป็นเยาวชนหรือวัยรุ่น ไปจนถึงมาตรการการป้องกัน “บทสนทนาซึ่งมีแนวโน้มเกี่ยวกับการทำร้ายตนเอง” เป็นที่เรียบร้อย
ส่วนโฆษกของ Google กล่าวว่า บริษัทไม่เห็นด้วยกับคำตัดสินของศาลเป็นอย่างมาก พร้อมย้ำว่า Google และ Character.AI เป็นบริษัทหรือหน่วยงานที่ไม่มีความเกี่ยวข้องกันแต่อย่างใด นอกจากนั้น Google ก็ไม่ได้เป็นคนสร้าง ออกแบบ หรือจัดการระบบหลังบ้านของ Character.AI จึงไม่จำเป็นที่จะต้องรับผิดชอบร่วมด้วยแม้แต่น้อย (แต่คำร้องที่ว่าก็ถูกปัดตกไป)
ทนายความของการ์เซียให้ความเห็นว่า คำตัดสินอนุมัติการฟ้องร้องของศาลในครั้งนี้ นับเป็นบทเรียนสำคัญที่จะช่วยสร้างบรรทัดฐานใหม่ให้กับความรับผิดชอบทางกฎหมายเกี่ยวกับเทคโนโลยีหรือ AI มากขึ้นไปอีก พร้อมโต้แย้งว่าการที่ Google ได้ว่าจ้างอดีตวิศกรของตนเองสองคนที่เป็นคนก่อตั้ง Character.AI กลับเข้ามาทำงาน แลกกับการที่ Google จะได้สิทธิ์การใช้งานเทคโนโลยีของ Character.AI ก็ถือว่าเป็นจุดเชื่อมโยงในการมีส่วนร่วมด้วยกันของทั้งสองบริษัทนี้แล้ว
Comment