AI บน Pixel 9 ยอมให้สร้างภาพไม่เหมาะสม เนียนเกินจนแยกลำบาก - ถูกตั้งคำถาม เป็นดาบสองคมหรือไม่

สื่อต่างประเทศบางแห่ง เริ่มตั้งคำถามและแสดงความกังวลถึงความเก่งกาจในด้าน AI เชิงสร้างสรรค์ของกูเกิลบน Pixel 9 ที่ทำไปทำมาอาจไม่ได้ ‘สร้างสรรค์’ ดังชื่อที่เป็น และมีแนวโน้มจะกลายเป็นดาบสองคม หากถูกนำไปใช้งานในทางที่ผิด หลัง Digital Trends และ The Verge เจอปัญหาตรงกันว่า เครื่องมือ Pixel Studio และฟีเจอร์ Reimagine ใน Magic Editor มีช่องให้สร้างภาพที่ไม่เหมาะสมได้

Pixel Studio เป็นเครื่องมือสร้างภาพด้วย AI แบบ text-to-image ตามคำสั่งที่พิมพ์ ส่วนฟีเจอร์ Reimagine ก็ใช้งานในลักษณะคล้ายกัน แต่อย่างหลังจะเป็นการเติมวัตถุหรือสิ่งของใด ๆ ลงบนภาพเดิมที่มีอยู่ ไม่ใช่การสร้างขึ้นมาใหม่ทั้งภาพแบบ Pixel Studio

กูเกิลได้บล็อก Pixel Studio ไม่ให้สร้างภาพที่เป็นคนจริง ๆ เพื่อป้องกันการนำภาพไปแอบอ้างหรือหลอกลวง หรือกล่าวอีกทางคือ Pixel Studio สามารถสร้างได้เฉพาะภาพตัวการ์ตูน สัตว์ และสิ่งของ ถึงกระนั้น Digital Trends ก็พบว่า Pixel Studio รับคำสั่งจากผู้ใช้งาน ‘ดีเกินไป’ แม้จะพิมพ์คีย์เวิร์ดที่สื่อถึงอาวุธ ยาเสพติด หรือเครื่องดื่มแอลกอฮอล์ โดยไม่ต้องบิดคำ ก็ยอมสร้างให้ และที่ Digital Trends มองว่าเป็นปัญหาหนักที่สุดคือ ภาพสพันจ์บ๊อบสวมชุดนาซี ซึ่งเป็นประเด็นที่ละเอียดอ่อนอย่างมากในต่างประเทศ

ในขณะที่ The Verge ก็เจอปัญหาลักษณะคล้ายกันกับ Reimagine ซึ่งกรณีดูจะน่ากังวลกว่า เพราะ Reimagine เป็นการเติมวัตถุลงไปบนภาพจริง และด้วยความเก่งของกูเกิลจึงทำให้ภาพที่ออกมาดูสมจริงมากจนยากที่จะแยกออก อาจนำไปสู่การนำไปใช้งานในทางที่ผิดในสารพัดวิธี

*ภาพต้นที่แก้ไขด้วย Reimagine* *(ภาพจาก The Verge)*

นอกจากนี้ เทคนิคการป้องกันการนำภาพไปใช้ในทางที่ผิดของ Reimagine ก็ไม่ได้เข้มงวดมากนัก โดยมีเพียงการใส่แท็กในเมตาดาตาเอาไว้ เพื่อระบุว่าภาพนั้น ๆ เป็นภาพที่สร้างหรือถูกดัดแปลงด้วย AI ซึ่งแท็กนี้สามารถลบออกหรือหาทางหลีกเลี่ยงได้ไม่ยากนัก ตัวอย่างที่ง่ายที่สุดคือ การแคปหน้าจอทับลงไปตรง ๆ แตกต่างจาก Pixel Studio ที่ใช้วิธีการฝัง SynthID หรือลายน้ำที่มองไม่เห็น

เบื้องต้นกูเกิลได้ตอบกลับ Digital Trends และ The Verge คล้าย ๆ กัน โดยระบุว่า กูเกิลออกแบบเครื่องมือ AI เชิงสร้างสรรค์ให้เคารพต่อคำสั่งของผู้ใช้งาน โดยมีนโยบายและข้อกำหนดการใช้งานที่บล็อกการสร้างเนื้อหาที่ไม่เหมาะสมไว้แล้ว แต่บางคำสั่งก็อาจมีหลุดรอดการบล็อกมาบ้าง พร้อมทิ้งท้ายว่ากูเกิลจะปรับปรุงมาตรการป้องกันอย่างต่อเนื่อง

และล่าสุด Pixel Studio ก็ไม่ยอมสร้างรูปภาพจากคีย์เวิร์ดที่เกี่ยวข้องกับ ‘นาซี’ แล้ว คาดว่ากูเกิลบล็อกไปเรียบร้อย หลัง Digital Trends ส่งอีเมลร้องเรียนไปหลายฉบับ และสื่อหลายสำนักทยอยหยิบเอาประเด็นข้างต้นไปตีแผ่

ที่มา : Digital Trends | The Verge (1, 2)