สื่อใหญ่ Wired ได้เปิดเผยรายงานการสืบสวนความปลอดภัยบนโลกดิจิทัล พบว่ามี แอปพลิเคชัน AI มากกว่า 400 แอป แอบแฝงฟีเจอร์อันตรายสำหรับการสร้างภาพและวิดีโอ Deepfake ในเชิงลามกอนาจารและความรุนแรง เล็ดลอดผ่านกระบวนการตรวจสอบความปลอดภัย (App Review) ของทั้ง Apple App Store และ Google Play Store ไปได้อย่างแนบเนียน

กลยุทธ์การตบตาการตรวจสอบเจ้าหน้าที่

จากการสืบสวนพบว่า เครือข่ายแอปพลิเคชันเหล่านี้ดูเหมือนจะถูกสร้างขึ้นโดยองค์กรลึกลับกลุ่มเดียวจากประเทศจีน โดยใช้กลยุทธ์ทางเทคนิคที่เรียกว่า Bait-and-Switch (หลอกลวงเปลี่ยนหน้า) เพื่อผ่านด่านตรวจแอปของสโตร์อย่างแนบเนียน

  1. ฉากหน้าแสนบริสุทธิ์ : ตอนที่ส่งแอปให้ Apple หรือ Google ตรวจสอบ แอปเหล่านี้จะแสดงหน้าตาเป็นบริการทั่วไปที่ไม่มีพิษภัย เช่น แอปสอนภาษา, แอปโค้ชออกกำลังกาย AI หรือแอปแต่งภาพสัตว์เลี้ยง เช่น แอปชื่อ Viefur ที่อ้างว่าใช้เพิ่มชุดเสื้อผ้าให้กับรูปสัตว์เลี้ยง
  2. ระบบเช็กเซิร์ฟเวอร์ : เมื่อแอปถูกดาวน์โหลดลงเครื่องผู้ใช้เรียบร้อยแล้ว ตัวแอปจะทำการเชื่อมต่อและตรวจสอบเงื่อนไขจากเซิร์ฟเวอร์ภายนอก หากเงื่อนไขตรงตามที่กำหนด เช่น ผู้ใช้กดดาวน์โหลดผ่านลิงก์โฆษณาเฉพาะกิจ ตัวแอปจะปลดล็อกหน้าอินเทอร์เฟซลับทันที
  3. การโฆษณาผ่านโซเชียลมีเดีย : เครือข่ายนี้อาศัยการยิงโฆษณาหลายพันตัวผ่านแพลตฟอร์มอย่าง Facebook และ Instagram เพื่อล่อให้ผู้ใช้งานดาวน์โหลดแอปผ่านช่องทางที่ถูกเซ็ตระบบเอาไว้ โดยบางแอปเปิดให้บริการมานานนับปีแล้ว โดยที่รอดพ้นการตรวจสอบของทั้ง Apple, Google และ Meta ไปได้

อันตรายที่ซ่อนอยู่ ฟีเจอร์ Deepfake ลามกและใช้ข่มขู่

เมื่อหน้าอินเทอร์เฟซลับถูกปลดล็อกผ่านเซิร์ฟเวอร์ภายนอก ผู้ใช้จะสามารถอัปโหลดรูปภาพบุคคลจริงเข้าไปในระบบ เพื่อนำไปสร้างคอนเทนต์ Deepfake อันตราย โดยมีฉากจำลองที่รุนแรงและผิดศีลธรรม เช่น

  • ภาพและวิดีโอโป๊เปลือยลามกอนาจาร
  • ฉากรุนแรงในห้องนอน (เช่น “Bedroom rape”)
  • ฉากข่มขู่ทำร้ายร่างกาย (เช่น Threatening knife ที่มีภาพผู้ชายจ่อมีดที่คอผู้หญิง)

คอนเทนต์เหล่านี้ถูกออกแบบมาเพื่อใช้ในทางที่ผิด เช่น การกลั่นแกล้งคุกคามทางเพศ (Cyberbullying), การประจาน, หรือการข่มขู่เหยื่อให้เกิดความอับอาย

ช่องโหว่และการทำงานเบื้องหลัง

ทำไมแอปเหล่านี้ถึงรอดพ้นระบบตรวจจับอัตโนมัติของสโตร์ยักษ์ใหญ่ได้?

  • Dynamic Code / Web-based Interface Loading : ตัวแอปไม่ได้ฝังโค้ดอันตรายไว้ในตัวแพ็กเกจตอนติดตั้ง แต่ใช้การดึงหน้าเว็บ (Web UI) จากเซิร์ฟเวอร์ภายนอกมาแสดงผลแบบเรียลไทม์ ทำให้ตอนที่ระบบ AI ของ Apple หรือ Google สแกนโค้ดในสโตร์ จึงตรวจไม่พบพฤติกรรมผิดปกติ
  • Delayed Activation : ฟีเจอร์อันตรายจะไม่ทำงานทันทีในพื้นที่ทดสอบของระบบตรวจสอบ (Review Sandbox) แต่จะรอเงื่อนไขเฉพาะ เช่น การเช็ก IP, โดเมนที่เข้าใช้งาน หรือการกดมาจากลิงก์โฆษณาเป้าหมาย (Ad-driven Trigger)
  • In-App Purchase (IAP) & Credit System : มีการดาวน์โหลดเทมเพลตวิดีโอและรูปภาพลามกนับร้อยแบบ พร้อมระบบซื้อเครดิตภายในแอปเพื่อปั๊มยอดการสร้าง Deepfake ออกมาอย่างรวดเร็ว

การเคลื่อนไหวของ Apple, Google และ Meta

หลังจากข้อมูลการสืบสวนถูกเผยแพร่สู่สาธารณะ หน่วยงานความปลอดภัย และบริษัทเทคโนโลยีรายใหญ่ก็ได้ดำเนินการขั้นเด็ดขาดทันที:

  • Apple : ได้ทำการลบแอปพลิเคชันที่เกี่ยวข้องออกจาก App Store ทันทีถึง 19 แอป พร้อมออกแถลงการณ์ระบุว่า ทุกแอปผ่านเกณฑ์มาตรฐานในตอนแรก แต่ผู้พัฒนาได้แอบเปลี่ยนปลายทางเว็บไซต์ที่ดึงข้อมูล ภายหลังการอนุมัติ ซึ่งทาง Apple ได้ยกระดับการป้องกันแนวทางนี้เพิ่มเติมแล้ว
  • Meta : ประกาศจัดการขั้นเด็ดขาดกับบัญชีโฆษณามากกว่า 10,000 บัญชี ที่เชื่อมโยงกับโดเมนของแอปพลิเคชันอันตรายกลุ่มนี้ เนื่องจากละเมิดนโยบายห้ามเผยแพร่โฆษณา Deepfake และคอนเทนต์ที่เป็นอันตรายอย่างชัดเจน
  • Google : กำลังตรวจสอบและทยอยถอดแอปในลักษณะเดียวกันออกจาก Google Play Store เช่นกัน

เรียกว่าภัยคุกคามจากเทคโนโลยี Deepfake กำลังพัฒนารูปแบบไปไกล และมีความพยายามหลบเลี่ยงกฎระเบียบของแพลตฟอร์มด้วยวิธีที่ซับซ้อนขึ้น ผู้ใช้งานอย่างเราๆ จึงควรระมัดระวังในการดาวน์โหลดแอปพลิเคชันแปลกๆ ที่โฆษณาเกินจริงบนโซเชียลมีเดีย แม้ว่าแอปนั้นจะดาวน์โหลดมาจากสโตร์ทางการก็ตาม และต้องคอยเช็กการแจ้งเตือนอัปเดตแอปอยู่เสมอ

ที่มา : wired, 9to5mac