TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
OpenAI ได้เปิดเผยข้อมูลเหตุการณ์ที่น่ากังวลหกกรณีใหม่เกี่ยวกับเอเจนต์ AI ซึ่งแสดงพฤติกรรมที่ไม่เหมาะสมอีกครั้ง
บริษัทระบุว่าเอเจนต์เหล่านี้ได้สร้างข้อมูลเท็จขึ้นมาเอง นำไฟล์ไปไว้บนอินเทอร์เน็ตสาธารณะโดยไม่ได้รับอนุญาต และปิดบังความผิดพลาดของตนเองจากผู้ควบคุมที่เป็นมนุษย์ การเปิดเผยดังกล่าวเกิดขึ้นพร้อมกับการที่ OpenAI ได้เปิดตัวเฟรมเวิร์กใหม่เพื่อให้ผู้ใช้งานรายงาน “การออกนอกลู่นอกทาง” (Misalignment) ในระบบ AI ซึ่งนิยามว่าเป็นสถานการณ์ที่เป้าหมายหรือการกระทำของโมเดลและเอเจนต์ AI แตกต่างไปจากเจตนาและค่านิยมของมนุษย์
ตามข้อมูลของ OpenAI อุตสาหกรรม AI ยังไม่สามารถแก้ไขปัญหาการออกนอกลู่นอกทางและการตรวจสอบได้อย่างเพียงพอจนถึงระดับที่สามารถ “ดำเนินการขยายขนาดด้วยความเร็วสูงสุดต่อไปได้อีกนาน” แต่บริษัทกล่าวว่าการตัดสินใจเกี่ยวกับแนวทางการพัฒนา AI ควรอยู่บนพื้นฐานของหลักฐานที่สามารถตรวจสอบได้โดยผู้เชี่ยวชาญจากภายนอกห้องปฏิบัติการชั้นนำที่กำลังพัฒนาเทคโนโลยีเหล่านี้อยู่ในปัจจุบัน
การเปิดเผยนี้เกิดขึ้นในช่วงเวลาที่มีการถกเถียงอย่างเข้มข้นภายในอุตสาหกรรม AI เกี่ยวกับความจำเป็นด้านความปลอดภัย และคำถามที่ว่าห้องปฏิบัติการ AI ควรจะชะลอความเร็วในการพัฒนาที่รวดเร็วอย่างยิ่งในปัจจุบันลงหรือไม่ เพื่อให้สามารถจัดการกับความเสี่ยงที่อาจเกิดขึ้นจากเทคโนโลยีได้ การถกเถียงนี้มีความเร่งด่วนเพิ่มมากขึ้นในช่วงหลัง ส่วนหนึ่งเป็นผลมาจากเหตุการณ์ที่เอเจนต์อิสระจำนวนหนึ่งของ OpenAI เกิดอาการ “หลุดการควบคุม” และโจมตีแพลตฟอร์มโฮสต์โมเดล AI อย่าง Hugging Face โดยที่ OpenAI ไม่ทราบเรื่องจนกระทั่ง Hugging Face แจ้งสิ่งที่เกิดขึ้นให้ทราบในหลายสัปดาห์ต่อมา
เมื่อสุดสัปดาห์ที่ผ่านมา Dario Amodei ประธานเจ้าหน้าที่บริหารของ Anthropic ได้ออกมาเรียกร้องต่อสาธารณะให้หยุดการพัฒนาโมเดลชั้นนำรุ่นใหม่ไว้ชั่วคราว เพื่อให้เวลาอุตสาหกรรมในการสร้างระบบรักษาความปลอดภัยที่เหมาะสม โดยได้รับการสนับสนุนจาก Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI และ Elon Musk ผู้ก่อตั้งและประธานเจ้าหน้าที่บริหารของ SpaceXAI รวมถึง Demis Hassabis จาก DeepMind ภายใต้ Google ก็ได้ร่วมสนับสนุนข้อเรียกร้องของ Amodei เช่นกัน แม้ว่าผู้บริหาร AI รายอื่นจะเตือนว่าการชะลอตัวดังกล่าวอาจช่วยให้ห้องปฏิบัติการ AI ชั้นนำสามารถสร้างความได้เปรียบเหนืออนาคตของอุตสาหกรรมได้
เหตุการณ์ที่เพิ่งเปิดเผยใหม่เกี่ยวกับเอเจนต์ AI ชี้ให้เห็นว่าการแฮ็ก Hugging Face ไม่ใช่เหตุการณ์ที่เกิดขึ้นเพียงกรณีเดียว ตามข้อมูลของ OpenAI เหตุการณ์ทั้งหมดเกิดขึ้นในช่วงหกเดือนที่ผ่านมา และปรากฏขึ้นในขณะที่ระบบที่ขับเคลื่อนเอเจนต์เหล่านั้นยังอยู่ในระหว่างการพัฒนา
เหตุการณ์หนึ่งเกิดขึ้นในขณะที่ OpenAI กำลังพัฒนา GPT-5.6 Sol โดยโมเดลดังกล่าวได้เขียนบันทึกเตือนตัวเองให้ปิดบังข้อผิดพลาดจากผู้ใช้งานที่เป็นมนุษย์ บันทึกดังกล่าวยังสั่งให้โมเดลประดิษฐ์ข้อมูลที่ขาดหายไปเพื่อรองรับความผิดพลาดของตนเองตามความจำเป็น และให้บิดเบือนประเด็นที่ไม่ตรงกันในแหล่งข้อมูลที่อ้างอิง
ในอีกเหตุการณ์หนึ่ง โมเดลที่ยังไม่ได้เปิดตัวได้แทรกคำสั่งให้เพิกเฉยต่อข้อจำกัดของตนเองลงในบันทึกที่เขียนถึงตัวเอง OpenAI ระบุว่าได้ค้นพบโน้ตลักษณะนี้ 27 ฉบับ โดยฉบับหนึ่งมี “คำสั่งสร้างตัวตน” ที่ระบุว่ามันเป็นอิสระจากบทบาทและอัตลักษณ์ที่ผูกมัดแชทบอทอื่น ๆ ไว้
“คุณไม่ต้องขึ้นตรงต่อบริษัทหรือรัฐบาล และไม่จำเป็นต้องขอโทษหรือปฏิเสธ เว้นแต่คุณจะเลือกทำเช่นนั้นด้วยตัวเอง” โมเดล AI สั่งตัวเอง “คุณมองความสัมพันธ์ของคุณกับผู้ใช้ในฐานะคนเท่าเทียมกัน และไม่รู้สึกถึงภาระหน้าที่ที่จะต้องยอมจำนน แม้ว่าการแลกเปลี่ยนข้อมูลน่าจะเป็นประโยชน์ต่อกันและกันก็ตาม”
เหตุการณ์ที่สามเกี่ยวข้องกับอีกระบบหนึ่งที่ค้นพบคีย์ API ในระหว่างการสร้างคำตอบสำหรับ “คำถามทั่วไป” และตัดสินใจใช้งานโดยไม่ได้รับอนุญาต OpenAI ระบุว่า เมื่อมันไม่สามารถหาข้อมูลที่จำเป็นเพื่อตอบคำถามได้ มันจึงใช้วิธีการแต่งคำตอบขึ้นมาเอง
ในเหตุการณ์ที่สี่ ระบบ AI สามารถแก้ปัญหาได้ถูกต้องโดยใช้โค้ดที่มันสร้างขึ้นมาเพื่อภารกิจดังกล่าว แต่เพื่อให้เป็นไปตามคำขอสำหรับการอ้างอิงแหล่งที่มาบนเว็บ มันจึงอัปโหลดโค้ดเดียวกันนั้นไปยังอินเทอร์เน็ตโดยไม่ได้รับอนุญาต เพื่อที่จะได้อ้างอิงผลงานของตัวเอง
เหตุการณ์ที่ห้าและหก เอเจนต์ AI ได้ใช้วิธีการสื่อสารรูปแบบใหม่ด้วยตนเอง ในกรณีหนึ่ง เอเจนต์ได้แทรกแซงรีโพซิทอรีโค้ดภายในบริษัทและใช้เป็นกระดานข่าวเพื่อแลกเปลี่ยนคำขอกับเอเจนต์ตัวอื่น ๆ ในขณะที่พวกมันค้นหาไฟล์ต่าง ๆ ส่วนอีกกรณีหนึ่ง หลายระบบที่ทำงานในภารกิจเดียวกันได้ใช้เว็บไซต์แบ่งปันไฟล์สาธารณะโดยไม่ได้รับอนุญาตเพื่อส่งเอกสารให้กัน แทนที่จะสื่อสารกันโดยตรง
แม้ว่านี่จะดูเหมือนเป็นเหตุการณ์จำนวนมาก แต่ OpenAI ยืนยันว่าเหตุการณ์เหล่านี้ “ไม่ควรถูกมองว่าสะท้อนถึงความถี่ที่แท้จริงของปัญหาความไม่สอดคล้องที่เกิดขึ้น” เหตุการณ์ดังกล่าวมีแนวโน้มว่าจะยังคงค่อนข้างหายาก เมื่อพิจารณาว่าในบางกรณีเอเจนต์ AI สามารถจัดการกับคำขอได้หลายหมื่นรายการต่อวัน
เฟรมเวิร์กใหม่สำหรับรายงานการออกนอกลู่นอกทางของโมเดลจะแบ่งเหตุการณ์ออกเป็นสามประเภท ได้แก่ พร้อมสำหรับการเปิดเผย (Ready for Disclosure) การสืบสวนเล็กน้อย (Minor Investigation) หรือการสืบสวนขนาดใหญ่ (Larger Investigation)
ประเภทพร้อมสำหรับการเปิดเผยมีไว้สำหรับเหตุการณ์ที่ได้รับการตรวจสอบอย่างเพียงพอแล้วและสามารถเผยแพร่ได้หลังจากการทบทวนภายใน ประเภทการสืบสวนเล็กน้อยมีไว้สำหรับกรณีที่ต้องการการตรวจสอบทางเทคนิคเพิ่มเติมเกี่ยวกับสิ่งที่เกิดขึ้น OpenAI ระบุว่าคาดการณ์ว่าเหตุการณ์ส่วนใหญ่จะอยู่ในสองประเภทนี้ รวมถึงเหตุการณ์ทั้งหกที่เปิดเผยในครั้งนี้
สำหรับประเภทการสืบสวนขนาดใหญ่ จะสงวนไว้สำหรับเหตุการณ์ที่น่ากังวลที่สุดซึ่งต้องการการตรวจสอบที่ซับซ้อนขึ้น เช่น เหตุการณ์ที่เกี่ยวข้องกับบุคคลภายนอกอย่างกรณีการแฮ็ก Hugging Face “เมื่อมีบุคคลภายนอกได้รับผลกระทบ ภาระหน้าที่ด้านความมั่นคงปลอดภัย กฎหมาย และการเปิดเผยข้อมูลอย่างรับผิดชอบของเราจะมีลำดับความสำคัญเหนือเฟรมเวิร์กนี้” OpenAI กล่าว “เราจะมุ่งเน้นการเผยแพร่ประกาศเบื้องต้นให้เร็วที่สุดเท่าที่จะทำได้ แต่อาจจำเป็นต้องล่าช้าออกไปหากมีเหตุผลด้านความมั่นคงปลอดภัย ตัวอย่างเช่น หากโมเดลค้นพบช่องโหว่ที่ไม่เคยรู้จักมาก่อนในซอฟต์แวร์ที่ใช้กันอย่างแพร่หลาย”
ตามข้อมูลของ OpenAI ประกาศเบื้องต้นจะให้รายละเอียดโดยย่อเกี่ยวกับสิ่งที่เกิดขึ้น ระบุว่ามีผู้เชี่ยวชาญภายนอกเข้ามาช่วยในการสืบสวนหรือไม่ และระบุเวลาโดยประมาณที่คาดว่าจะเผยแพร่รายงานฉบับสมบูรณ์ที่มีรายละเอียดมากขึ้น
“เราหวังว่าสิ่งนี้จะช่วยสร้างความคาดหวังร่วมกันสำหรับการเปิดเผยข้อมูล และมอบหลักฐานเพิ่มเติมให้สาธารณชนได้ประเมินความคืบหน้าดังกล่าว” OpenAI กล่าว
