Dario Amodei ซีอีโอของ Anthropic เขียนบทความในหัวข้อ “We Must Pace the Frontier” เสนอให้มีการชะลอความเร็วในการพัฒนา AI หลังเกิดกระแสพูดถึงอันตรายที่เกิดจากการแข่งขันพัฒนา AI อย่างไม่ระมัดระวัง ซึ่งอาจส่งผลต่อความมั่นคงของมนุษยชาติในอนาคต !
วงการ AI ต้องชะลอความเร็วการพัฒนา ก่อนที่เทคโนโลยีจะพัฒนาตัวเองเร็วจนเกินการควบคุม
โพสต์บล็อกของ Dario Amodei เกิดขึ้นในช่วง 2-3 วันให้หลังจากที่ Jacob Coxon ซึ่งเป็นนักวิจัย AI ของ Anthropic และเป็นอดีตนักวิจัยของ OpenAI ออกมาระบุว่าทั้งสองบริษัท “กำลังเร่งสปีดพัฒนา AI เพื่อแข่งขันกัน” จนลืมนึกถึงความเสี่ยงที่ AI อาจเกิดหลุดการควบคุมจนเกิดเป็นภัยคุกคามต่อมนุษย์ในอนาคต
Amodei เสนอว่าบริษัทผู้พัฒนา AI ควรชะลออัตราการเพิ่มความสามารถของโมเดลรุ่นใหม่ เพื่อเปิดโอกาสให้นักวิจัยและทีมพัฒนา “มีเวลาสร้างแนวทางป้องกันให้แน่นหนายิ่งขึ้น” เพราะหากปล่อยให้การพัฒนาเดินหน้าต่อไปโดยไม่มีมาตรการควบคุมที่เพียงพอ AI Agent อาจพัฒนาความสามารถได้รวดเร็วจนแซงหน้าความสามารถของมนุษย์ในการทำความเข้าใจและควบคุมระบบเหล่านี้
- เสนอให้มีผู้ตรวจสอบด้านความปลอดภัยจากภายนอก ซึ่งสามารถเข้าถึงการทำงาน AI ได้เหมือนพนักงานของบริษัทผู้พัฒนา
- เสนอให้บริษัทผู้พัฒนา AI ร่วมกันกำหนดมาตรฐานด้านความปลอดภัยร่วมกัน เพื่อให้การพัฒนาโมเดลไม่เป็นเพียงแค่การทำเพื่อแซงหน้าคู่แข่งเท่านั้น
- เสนอให้มีการกำกับดูแลร่วมกับหน่วยงานรัฐบาล เพื่อกำหนดแนวทางสำหรับจัดการความเสี่ยงที่อาจเกิดขึ้นจาก AI โดยเฉพาะ
คู่แข่งหลักของ Anthropic อย่าง Sam Altman ซีอีโอของ OpenAI ก็ออกมาสนับสนุนแนวคิดของ Dario Amodei โดยระบุว่าตนเองเห็นด้วยกับการให้มีระบบตรวจสอบความปลอดภัยของโมเดล AI ร่วมกับผู้ตรวจสอบอิสระ Demis Hassabis หัวหน้าทีม Google DeepMind และ Elon Musk ซีอีโอของ SpaceX ก็ออกมาสนับสนุนแนวทางดังกล่าวเช่นเดียวกัน
ส่วนทางฝั่ง Meta ก็มี Alexandr Wang หัวหน้าทีม Meta Superintelligence Labs ที่ออกมาให้ข้อมูลว่ากำลังเพิ่มสัดส่วนงานด้านการควบคุมและกำกับ AI ให้มากขึ้นตามระดับความสามารถของโมเดลที่สูงขึ้น เพื่อกำหนดขอบเขตการพัฒนาขีดความสามารถของ AI ในอนาคต
โจทย์ที่ยากที่สุดก็คือ “การแข่งขันระหว่างสหรัฐฯ และจีน”
Amodei ให้สัมภาษณ์กับทาง CBS ว่าโจทย์ที่ยากที่สุดสำหรับแนวทางดังกล่าวก็คือ “จะเป็นอย่างไรหากประเทศคู่แข่งอย่างจีน ยังคงเดินหน้าพัฒนา AI ต่อด้วยความเร็วเท่าเดิม” เพราะการพัฒนา AI ก็สะท้อนถึงความได้เปรียบในด้านความมั่นคงของชาติด้วยเช่นเดียวกัน
ซึ่งทาง Guo Jiakun โฆษกกระทรวงการต่างประเทศของจีน ก็ออกมาตอบโต้ทันทีว่าสิ่งที่ Dario Amodei ทำอยู่นั้นเป็นการสร้างความหวาดกลัว และอาจก่อให้เกิดการหลีกเลี่ยงการแข่งขันอย่างรุนแรง ซึ่งสร้างผลเสียในการสร้างแนวทางกำกับดูแล AI ทั่วโลกอย่างหลีกเลี่ยงไม่ได้
ท่าทีดังกล่าวของประเทศจีนสะท้อนถึงแนวคิดที่แตกต่างกันว่า “ทางออกไม่ใช่การชะลอการพัฒนา AI” แต่ควรที่จะเป็น “การสร้างระบบป้องกันและควบคุมความเสี่ยงของ AI ควบคู่ไปกับการพัฒนา”
Donald Trump ไม่เห็นด้วยกับแนวทางชะลอการพัฒนา AI มองว่ากลัวเกินกว่าเหตุ
Donald Trump ระบุว่าสหรัฐฯ ยังคงนำหน้าจีนในด้าน AI และจำเป็นต้องรักษาสถานะความเป็นผู้นำด้านเทคโนโลยีและนวัตกรรมเอาไว้ โดยมองว่ากลุ่มคนที่ทำให้ AI ถูกมองว่าเป็นสิ่งน่ากลัว มักเป็นกลุ่มที่มีทัศนคติในแง่ลบหรือมองโลกในแง่ร้ายมากจนเกินไป พร้อมมองว่าการพัฒนา AI ควรเดินหน้าต่อไป
ถึงแม้กระแสความกังวลดังกล่าวจะเกิดขึ้นจากคำเตือนของอดีตนักวิจัย AI ที่ออกมาเตือนถึงความเสี่ยงในกรณีที่ AI ถูกพัฒนาขีดความสามารถจนเกินกว่าที่มนุษย์จะควบคุมได้ แต่คำเตือนเหล่านั้นก็เป็นเพียงการประเมินความเสี่ยง และยังไม่ใช่ข้อสรุปว่าการดำรงอยู่ของมนุษย์ในอนาคตจะขึ้นอยู่กับ AI จริง ๆ
เพราะปัญหาที่ใหญ่กว่านั้นคือ “หากบริษัทในสหรัฐฯ พร้อมใจกันชะลอการพัฒนา แต่จีนเลือกที่จะไม่ชะลอการพัฒนา” ก็อาจเปิดช่องให้คู่แข่งก้าวขึ้นมาแซงหน้าได้ เพราะก็ไม่มีใครที่อยากเป็นฝ่ายชะลอเพียงฝ่ายเดียว ส่งผลให้การหาแนวทางร่วมกันจึงเป็นหนึ่งในโจทย์ที่ท้าทายที่สุดสำหรับวงการ AI ในช่วงหลายปีต่อจากนี้
Comment