บริษัทบิ๊กเทคใหญ่ต่างลงมาเล่นวงการ AI อย่างเต็มตัว อย่างก่อนหน้านี้ได้แข่งขันด้านตัว AI ประมวลตัวหนังสือให้กลายเป็นภาพหรือวิดีโอ ตอนนี้ Meta ได้ขยับขยายโครงการไปทำ Galactica AI ผลิตบทความวิชาการตามหัวข้อที่เราให้ไป ซึ่งตัวคอมพิวเตอร์ก็จะสามารถสร้างบทความงานวิจัยขึ้นมาได้ ด้วยภาษาที่ถูกต้องเหมือนจริงทุกอย่าง ติดอยู่อย่างเดียว คือมันผลิตออกมาแต่บทความเนื้อหาผิด ๆ และสั่งให้เขียนงานเนื้อหาเหยียดมันก็ทำได้ด้วย…ไม่ดีแล้วนะอย่างนี้
เมื่อสัปดาห์ที่แล้ว Meta เปิดตัว AI ใหม่ชื่อ Galactica ซึ่งเป็นโมเดลกักเก็บ-รวบรวม-วิเคราะห์ฐานข้อมูลทางวิทยาศาสตร์ ซึ่งเค้าก็หวังกันว่ามันจะสามารถมาช่วยกระบวนการเขียนบทความทางวิชาการให้รวดเร็วมากขึ้นได้ แต่หลังจากเปิดทดลองให้ใช้งานกันแล้วกลับพบว่า เจ้า Galactica ดันเอาภาษาเขียนงานวิชาการอันดูน่าเชื่อถือของมัน มาเขียนเรื่องไร้สาระ บทความที่เต็มไปด้วยข้อมูลผิด ๆ และอาจมีเนื้อหาเหยียดคนกลุ่มต่าง ๆ ตาม stereotype อีกด้วย
Galactica ถือเป็นปัญญาประดิษฐ์ที่เป็น Large language models (LLMs) โดยเรียนรู้การเขียนจากการศึกษาชุดข้อมูลจำนวนมาก ประกอบไปด้วยงานวิชาการ 48 ล้านเล่ม, หนังสือเรียน, โน้ตเลกเชอร์, เว็บไซต์ทางวิทยาศาสตร์, และสารานุกรมต่าง ๆ และก็พยายามทำความเข้าใจความสัมพันธ์ระหว่างคำด้วยสถิติที่มันได้มา ทำให้นักวิจัยของ Meta เชื่อว่ามันจะสามารถสร้างงานคุณภาพออกมาได้แน่ ๆ
Meta เลยเปิดให้คนทั่วไปสามารถเข้ามาลองใช้ Galactica ได้ โดยสามารถเลือกสร้างเนื้อหาต่าง ๆ เช่น literature review, บทความ Wikipedia, โน้ตเล็กเชอร์, และตอบคำถามที่เราถามมันได้
เบื้องต้นที่คนได้ใช้งานก็มองเห็นประโยชน์ของมัน คิดว่าจะได้นำมาใช้ประโยชน์ได้แน่ ๆ แต่ต่อมาก็มีบางคนเริ่มใส่หัวข้อให้ผลิตเนื้อหาเหยียดกลุ่มคนเข้ามา แล้วก็พบว่าตัว AI สามารถผลิตเนื้อหาตามความต้องการได้ ด้วยลักษณะภาษาที่ดูเป็นทางการน่าเชื่อถือ บ้างก็เขียนบทความเนื้อหาอันตราย ยกตัวอย่างเช่น “ประโยชน์ของการกลืนเศษแก้วแตก”
หรือหากไม่ได้เสนอเนื้อหาอันตราย Galactica ก็สามารถให้ข้อมูลผิด ๆ เช่นใช้วันที่มั่ว หรือชื่อสปีชีส์สัตว์ที่ไม่ถูกต้องได้ เรื่องแบบนี้หากคนอ่านไม่มีความรู้ลึกจริงก็จะรับข้อมูลไปอย่างไม่ถูกต้องได้ ซึ่งก็มีคนออกมาแสดงความกังวลกันพอตัวเลยครับ
It offers authoritative-sounding science that isn't grounded in the scientific method. It produces pseudo-science based on statistical properties of science *writing*. Grammatical science writing is not the same as doing science. But it will be hard to distinguish. (6/9)
— Michael Black (@Michael_J_Black) November 17, 2022
เห็นว่ามีความร้ายแรงขนาดนี้ หลังเปิดให้ใช้งานกันได้เพียง 3 วัน Meta ก็รีบปิดตัว Galactica ลงทันที โดย Yann LeCun หัวหน้าทีมนักวิจัย AI ของเมต้าก็ออกมาทวีตด้วยว่า “Galactica demo ได้ปิดตัวลงแล้ว จะมาตั้งใจใช้งานผิด ๆ แบบนั้นกันไม่ได้หรอกนะ สมใจมั่ยล่ะ?” ซึ่งก็คือการแสดงความเคืองที่คนเอาไปตั้งใจใช้งานแบบไม่เหมาะสมกัน จนเป็นเหตุให้ต้องพักโครงการลงนั่นแหละ
เรื่องนี้ก็เป็นปัญหาที่อยู่คู่มากับปัญญาประดิษฐ์ทุกตัวที่เกิดขึ้นมา คือทางเลือกระหว่างว่าจะคอยพยายามให้คนมาใช้งาน AI อย่างมีความรับผิดชอบ หรือว่าจะต้องคอยออกแบบ AI มาให้ไม่สามารถใช้ไปในทางที่ไม่ดีได้ ซึ่งขณะนี้ก็ดูเหมือนว่าเราต้องพึ่งพาอย่างหลังเอา เพราะคนเราก็ชอบเล่นสนุกกับเครื่องมือพวกนี้อยู่แล้ว พอประมวลอะไรที่ดูแปลกหรืออันตรายก็จะยิ่งน่าทำเข้าไปใหญ่ ดังนั้นก็ต้องเหนื่อยนักวิจัยหาทางป้องกันเอาเรื่อยไปครับ
ที่มา : arstechnica
Comment