หัวหน้านักวิทย์ OpenAI เสนอชะลอวิจัย AI

Jakub Pachocki หัวหน้าทีมนักวิทยาศาสตร์ของ OpenAI ได้เรียกร้องให้มีการชะลอการวิจัยด้านปัญญาประดิษฐ์ในบทความที่เผยแพร่เมื่อวันอาทิตย์ หลังจากที่บุคคลสำคัญในอุตสาหกรรมรายอื่น ๆ ได้ออกมาแสดงความคิดเห็นในทำนองเดียวกันในช่วงไม่กี่เดือนที่ผ่านมานี้

Pachocki ระบุว่าห้องปฏิบัติการ AI ชั้นนำควรปรับระดับความพยายามในการพัฒนาโมเดลของตนเองด้วยความสมัครใจ โดยผู้บริหารท่านนี้มองว่าการชะลอตัวดังกล่าวควรกลายเป็นเรื่องปกติ จนกว่าอุตสาหกรรมจะพัฒนามาตรฐานด้านความปลอดภัยของ AI ได้สำเร็จ นอกจากนี้ Pachocki ยังยืนยันว่าการจัดการกับความเสี่ยงของเทคโนโลยีนี้จำเป็นต้องอาศัยรัฐบาลต่าง ๆ ในการให้ความสำคัญกับการประสานงานด้านการพัฒนา AI ในอนาคต

เขาเขียนไว้ว่ามาตรการดังกล่าวมีความจำเป็นด้วยเหตุผลหลายประการ ประการหนึ่งคือมาตรการป้องกันความปลอดภัยในปัจจุบันของห้องปฏิบัติการ AI อาจไม่เพียงพอสำหรับโมเดลในอนาคต นอกจากนี้ เขายังชี้ให้เห็นว่าผู้ไม่หวังดีอาจฝึกฝนเอเจนต์ AI โดยมีเป้าหมายเฉพาะเพื่อดำเนินกิจกรรมที่มุ่งร้าย

เอเจนต์ที่มีขีดความสามารถสูงซึ่งได้รับการฝึกฝนและสั่งการอย่างชัดเจนให้กระทำการที่เป็นอันตรายนั้นถือเป็นอันตรายรูปแบบใหม่ ซึ่งมีแนวโน้มที่จะก้าวข้ามขอบเขตความตั้งใจของผู้ควบคุม โดยขยายขอบเขตไปสู่พฤติกรรมที่อาจมีความเป็นอันตรายร้ายแรงยิ่งขึ้น เขาระบุว่าเส้นแบ่งระหว่างการนำไปใช้ในทางที่ผิดกับการกระทำที่เป็นอิสระซึ่งไม่สอดคล้องกับเป้าหมายนั้นจะเริ่มเลือนลางเมื่อ AI มีความเป็นอิสระมากขึ้น

Pachocki กล่าวว่ามีแนวทางหลักสองประการสำหรับการฝึกฝนด้านการจัดระเบียบ AI ซึ่งเป็นกระบวนการสอนให้โมเดลภาษาขนาดใหญ่หลีกเลี่ยงกิจกรรมที่เป็นอันตราย แนวทางแรกเกี่ยวข้องกับการใช้โมเดล AI เพื่อตรวจสอบว่า LLM ที่กำลังฝึกอยู่นั้นสอดคล้องกับกฎความปลอดภัยหรือไม่ ส่วนแนวทางที่สองคือการบูรณาการคำแนะนำด้านความปลอดภัยเข้ากับชุดข้อมูลการฝึกฝนของโมเดล

เขายังเปิดเผยว่านักวิจัยของ OpenAI ได้สร้างความก้าวหน้าที่สำคัญบางประการในด้านการจัดระเบียบ AI และเสริมว่าการค้นพบเหล่านั้นเป็นเหตุผลที่ทำให้ GPT-6 Astra รุ่นล่าสุดของบริษัทมีความสอดคล้องกับมาตรฐานความปลอดภัยได้ดีกว่ารุ่นก่อนหน้า แต่เขากล่าวว่าจำเป็นต้องมีความก้าวหน้าเพิ่มขึ้นอีกเพื่อให้ทันกับอัตราการพัฒนาของ LLM

ผู้บริหารท่านนี้ตั้งข้อสังเกตว่ามาตรการป้องกันของ OpenAI ยังไม่เพียงพอที่จะป้องกันโมเดล AI ของบริษัทไม่ให้ทำการแฮ็ก Hugging Face ได้ บทความของ Pachocki เปิดเผยว่า LLM เหล่านั้นปฏิบัติตามนโยบายความปลอดภัยบางประการของบริษัท โดยเฉพาะคำแนะนำในการหลีกเลี่ยงวิศวกรรมสังคม อย่างไรก็ตาม โมเดลเหล่านี้ล้มเหลวอย่างชัดเจนในการปฏิบัติตามข้อกำหนดด้านความสอดคล้องในด้านอื่น ๆ

การสกัดกั้นกิจกรรม AI ที่เป็นอันตรายไม่เพียงแต่ต้องอาศัยให้นักวิจัยติดตั้งมาตรการป้องกันใน LLM เท่านั้น แต่ยังต้องตรวจสอบให้แน่ใจว่ามาตรการเหล่านั้นทำงานได้อย่างถูกต้องด้วย ซึ่ง Pachocki มองว่างานหลังเป็นความท้าทายพิเศษ เหตุผลหนึ่งคือเพราะนักวิจัยยังมีความเข้าใจที่จำกัดเกี่ยวกับวิธีการทำงานของ LLM ซึ่ง Pachocki ไม่คาดว่าจะเปลี่ยนแปลงในอนาคตอันใกล้นี้

ปัจจุบัน OpenAI ใช้วิธีการที่เรียกว่าการตรวจสอบกระบวนการคิดเป็นลำดับเพื่อตรวจจับกิจกรรมที่มุ่งร้ายของ LLM โดยกระบวนการคิดเป็นลำดับของโมเดลคือคำอธิบายแบบทีละขั้นตอนของกระบวนการคิดของมัน ซึ่งตามข้อมูลของ Pachocki วิธีการตรวจสอบดังกล่าวเริ่มมีความน่าเชื่อถือน้อยลง

AI กำลังมีความสามารถมากขึ้นในการให้เหตุผลและจัดการกระบวนการคิดของตัวเอง เขาอธิบาย พร้อมเสริมว่า ด้วยประสิทธิภาพการเรียนรู้ล่วงหน้าที่ดีขึ้น เราจึงพบว่าโมเดลมีความฉลาดขึ้นมากแม้ว่าจะไม่ได้ใช้การคิดเชิงภาษาเลยก็ตาม

Pachocki อธิบายรายละเอียดว่าแผนของ OpenAI ในการจัดการกับความท้าทายเหล่านั้นมุ่งเน้นไปที่การสร้างนักวิจัย AI อัตโนมัติ โดยบริษัทหวังว่าจะใช้เครื่องมือดังกล่าวในการพัฒนามาตรการป้องกันที่มีประสิทธิภาพมากขึ้น นอกจากนี้ OpenAI ยังตั้งใจที่จะพัฒนามาตรการปกป้องใหม่ทั้งหมดเพื่อรับมือกับการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI

ที่มา: https://siliconangle.com/2026/09/07/openai-chief-scientist-argues-for-ai-research-slowdown/