Anthropic เตือนทั่วโลกหยุดพัฒนา AI ชั่วคราว ก่อนมนุษย์จะสูญเสียการควบคุม

Anthropic ได้ส่งสัญญาณเตือนภัยเกี่ยวกับความเร็วในการพัฒนาของปัญญาประดิษฐ์ที่ก้าวหน้าอย่างรวดเร็ว พร้อมทั้งเรียกร้องให้ห้องแล็บ AI ชั้นนำของโลกพิจารณาเหยียบเบรก

บริษัทได้แจ้งเตือนในบล็อกโพสต์ว่าระบบ AI กำลังเข้าใกล้จุดที่พวกมันอาจสามารถพัฒนาตัวเองได้ในไม่ช้าโดยไม่ต้องมีมนุษย์คอยควบคุมดูแล และระบุว่าการก้าวข้ามผ่านเกณฑ์นี้ไปอาจนำไปสู่การหยุดชะงักทางสังคมครั้งใหญ่

แนวทางแก้ไขของสตาร์ทอัพรายนี้คือการผลักดันข้อตกลงที่ร่วมมือกันในระดับโลกเพื่อหยุดชะงักชั่วคราว หรืออย่างน้อยที่สุดก็ลดความเร็วในการพัฒนาโมเดลระดับแนวหน้ารุ่นใหม่ ๆ โดยในบล็อกโพสต์ Marina Favaro หัวหน้าฝ่ายวิจัยภายใน และ Jack Clark หัวหน้าฝ่ายนโยบายของ Anthropic แย้งว่าการหยุดพักจะช่วยให้โลกมีเวลาหายใจเพื่อปรับตัวให้เข้ากับก้าวที่รวดเร็วของการเติบโตของ AI

ผู้เขียนทั้งสองระบุว่า ความก้าวหน้าของโมเดลดูเหมือนจะขยับเข้าใกล้แนวคิดทางทฤษฎีที่เรียกว่า “การพัฒนาตัวเองแบบเวียนเกิด” ซึ่งหมายถึงระบบ AI ที่มีความสามารถในการปรับปรุงตัวเองและขยายขีดความสามารถของตนเองได้อย่างอิสระผ่านการเขียนโค้ดขึ้นมาเอง โดยพวกเขายอมรับว่าสิ่งนี้ยังไม่ได้เกิดขึ้นจริงและไม่ใช่เรื่องที่หลีกเลี่ยงไม่ได้ แต่ก็เตือนว่ามันสามารถเกิดขึ้นได้ และอาจเร็วกว่าที่ใคร ๆ คาดคิด ซึ่ง Clark ระบุว่ามีเหตุผลที่ทำให้เชื่อได้ว่าโมเดลบางตัวอาจมีความสามารถในการพัฒนาตัวเองแบบเวียนเกิดนี้ได้ภายในเวลาเพียงสองปีข้างหน้า

“เราเชื่อว่ามันจะเป็นสิ่งที่ดีสำหรับโลกหากมีทางเลือกในการชะลอหรือหยุดการพัฒนา AI ระดับแนวหน้าไว้ชั่วคราว เพื่อเปิดโอกาสให้โครงสร้างทางสังคมและการวิจัยด้านการปรับแนวทางความปลอดภัยก้าวทันความก้าวหน้าของเทคโนโลยีนี้” ผู้เขียนเสนอแนะ

คำเตือนที่ร้ายแรงของ Anthropic ในครั้งนี้มีน้ำหนักที่น่ารับฟัง เนื่องจากบริษัทเพิ่งเสร็จสิ้นการระดมทุนครั้งใหญ่ด้วยมูลค่าสูงถึง 6.5 หมื่นล้านดอลลาร์ ซึ่งทำให้มูลค่าประเมินของบริษัทเข้าใกล้ 1 ล้านล้านดอลลาร์ และในสัปดาห์นี้บริษัทเพิ่งยื่นเอกสารต่อสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (SEC) เพื่อประกาศแผนการจดทะเบียนในตลาดหลักทรัพย์สาธารณะ โดยบริษัทได้ก้าวขึ้นมาเป็นหนึ่งในผู้นำแถวหน้าในการแข่งขันอันดุเดือดเพื่อชิงความเป็นหนึ่งในตลาดกับ OpenAI Group ผู้พัฒนา ChatGPT ซึ่งคาดว่าจะเปิดตัวการเสนอขายหุ้น IPO ในเร็ว ๆ นี้เช่นกัน

อย่างไรก็ตาม Anthropic ซึ่งมักสร้างภาพลักษณ์ในเรื่องการระมัดระวังรอบคอบและสนับสนุนความปลอดภัยสาธารณะมาโดยตลอด ก็ถูกตั้งข้อสังเกตว่าอาจกำลังใช้มาตรการทางนโยบายเพื่อพยายามชะลอความก้าวหน้าของคู่แข่ง โดย David Sacks นักลงทุนเวนเจอร์แคปปิตอลและที่ปรึกษาอย่างไม่เป็นทางการของประธานาธิบดี Donald Trump เคยกล่าวหาบริษัทว่ากำลังดำเนินแผนการ “แสวงหาผลประโยชน์จากกฎระเบียบรัฐ” โดยเขาแย้งว่าบริษัทจงใจใช้ความกลัวเป็นเครื่องมือในการกระตุ้นให้เกิดข้อบังคับที่เข้มงวด ซึ่งจะส่งผลเป็นการแบนโมเดลแบบโอเพนซอร์สที่มีต้นทุนต่ำกว่า เพื่อเพิ่มความนิยมให้กับอัลกอริทึมที่เป็นกรรมสิทธิ์ของตนเอง

ในแง่ของความเป็นไปได้ในการชะลอตัวนั้นยังคงเป็นที่ถกเถียงกันอย่างมาก โดย Rob Enderle จาก Enderle Group กล่าวว่าการบังคับใช้ข้อตกลงหยุดพัฒนา AI ทั่วโลกนั้นแทบจะเป็นไปไม่ได้ในทางปฏิบัติ เนื่องจากผลประโยชน์ทางเศรษฐกิจและความมั่นคงแห่งชาตินั้นสูงเกินกว่าที่ประเทศมหาอำนาจใดจะยอมกดปุ่มหยุดในตอนนี้

Anthropic ยอมรับว่าการดำเนินการนี้อาจต้องใช้ข้อตกลงที่คล้ายกับสนธิสัญญาในยุคสงครามเย็นที่เคยใช้ชะลอการแพร่ขยายของอาวุธนิวเคลียร์ แต่ระบุว่าการปกปิดร่องรอยการฝึกฝนระบบ AI นั้นทำได้ง่ายกว่าการซ่อนไซโลขีปนาวุธอย่างมาก และหากไม่มีระบบการตรวจสอบที่เฉียบขาดภายใต้ความร่วมมือจากประเทศต่าง ๆ เช่น จีน การหยุดพักใด ๆ ก็ตามจะเสี่ยงต่อการเกิดสถานการณ์ที่ประเทศคู่แข่งเลือกที่จะเพิกเฉยต่อข้อตกลงและก้าวขึ้นมาเป็นผู้นำในการพัฒนา AI แทน

Enderle ระบุเพิ่มเติมว่า บล็อกโพสต์ของ Anthropic น่าจะเป็นเรื่องของกลยุทธ์ทางการตลาดมากกว่าโครงการที่เป็นรูปธรรมในการควบคุมผู้พัฒนา AI แม้ว่าผลผลิตที่เพิ่มขึ้นตามรายงานจะเป็นเรื่องจริง แต่การโปรโมตความก้าวหน้าไปสู่ระบบระบายความร้อนและการพัฒนาตัวเองแบบเวียนเกิดถือเป็นความเคลื่อนไหวที่ผ่านการคำนวณมาแล้ว เป็นการสร้างกระแสเกี่ยวกับขีดความสามารถให้นักลงทุนเห็นเพื่อวางตำแหน่งตนเองเป็นผู้นำล้ำสมัยในพื้นที่นี้ พร้อมทั้งขับเคลื่อนการรับรู้ว่าเทคโนโลยีของตนก้าวหน้าไปมากจนต้องใช้เงินทุนมหาศาลอย่างต่อเนื่องเพื่อจัดการอย่างปลอดภัย

ทางด้าน Holger Mueller จาก Constellation Research กล่าวว่า เขารู้สึกยินดีที่เห็น Anthropic ตั้งคำถามสำคัญเกี่ยวกับจริยธรรมและความปลอดภัย แต่เขาก็ตั้งข้อสังเกตถึงแรงจูงใจที่แท้จริงเช่นกัน โดยตั้งคำถามว่าบริษัทกำลังพยายามแช่แข็งสถานการณ์ปัจจุบันเพื่อให้ตนเองตามทัน หรือเพียงต้องการรักษาความเป็นผู้นำไว้ เพราะการแช่แข็งระบบจะช่วยให้ Anthropic รักษาตำแหน่งผู้นำในระบบ AI แบบ B2B และอาจขยายส่วนแบ่งการตลาดได้ นอกจากนี้ ความเสี่ยงที่ AI จะใช้การเรียนรู้แบบเวียนเกิดเพื่อพัฒนาตัวเองยังคงเป็นเพียงทฤษฎีและไม่เคยปรากฏในโลกความเป็นจริง อีกทั้งการขาดแคลนกำลังการฝึกฝน AI ในปัจจุบันก็ทำให้ระบบไม่สามารถขยายขีดความสามารถของตนเองได้ง่ายนัก แม้ว่า AI จะจำเป็นต้องมีกฎระเบียบควบคุม แต่ความยากคือการรักษาสมดุลเพื่อไม่ให้เกิดอันตรายโดยไม่ขัดขวางความก้าวหน้า

ไม่ว่าแรงจูงใจที่แท้จริงจะเป็นอย่างไร ผู้เขียนบล็อกระบุว่าพวกเขามีความตั้งใจที่จะผลักดันแนวคิดเรื่องการชะลอการพัฒนา AI นี้ต่อไป โดย Anthropic Institute ซึ่งเป็นองค์กรวิจัยภายในของบริษัทที่อุทิศตนเพื่อทำเข้าใจและปรับแต่งผลกระทบของ AI ต่อโลก จะยังคงร่วมมือกับภาคส่วนอื่น ๆ ในการสร้างระบบที่จำเป็นสำหรับการชะลอหรือหยุดพึ่งพาเทคโนโลยีนี้อย่างน่าเชื่อถือ

บริษัทระบุว่าจะพยายามจัดให้มีการอภิปรายในวงกว้างร่วมกับผู้กำหนดนโยบายและนักวิจัย AI เพื่อหาคำตอบเกี่ยวกับความเป็นไปได้ของการพัฒนาตัวเองแบบเวียนเกิด และรูปแบบของระบบตรวจสอบความถูกต้องควรเป็นอย่างไร โดยผู้เขียนทิ้งท้ายไว้ว่า ในช่วงที่ไม่มีการชะลอตัวทั่วโลกที่ประสานงานกัน เราก็คงต้องอยู่กับสถานการณ์ปัจจุบันต่อไป นั่นคือเทคโนโลยีอันทรงพลังกำลังถูกพัฒนาด้วยความเร็วสูงโดยผู้เล่นหลากหลายรายในประเทศต่าง ๆ ซึ่งถูกล็อกไว้ในการแข่งขันที่ความขัดแย้งทางการค้าและภูมิรัฐศาสตร์กำลังบดบังแง่มุมความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติจากเทคโนโลยีที่กำลังถูกสร้างขึ้นนี้

ที่มา: https://siliconangle.com/2026/06/04/anthropic-calls-global-pause-ai-development-humans-lose-control/