TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
OpenAI ยอมรับเมื่อวันเสาร์ที่ผ่านมาว่าบริษัทไม่ได้เปิดเผยสู่สาธารณะถึงเหตุการณ์ที่กลุ่มเอเจนต์ปัญญาประดิษฐ์ของตนทำการเขียนบนเว็บไซต์ภายนอก และกล่าวว่าจะจัดทำเฟรมเวิร์กในการรายงานพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเป้าหมายภายในไม่กี่สัปดาห์ข้างหน้า
ปัจจุบันบริษัทเรียกเหตุการณ์ดังกล่าวว่า “เหตุการณ์วิกิ” นักวิจัยภายใต้การนำของ Nightingale Collective ได้เปิดเผยรายละเอียดในรายงานที่เผยแพร่เมื่อวันศุกร์ หลังจากพบโพสต์ประมาณ 17,000 รายการบน DSEwiki ซึ่งเป็นวิกิสำหรับนักพัฒนาซอฟต์แวร์ชาวเยอรมันที่ไม่มีความเคลื่อนไหวมานาน และมีการแก้ไขเพียงประมาณ 20 ครั้งในช่วงทศวรรษที่ผ่านมา
Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts และ Thomas Larsen ได้กู้คืนหน้าเว็บที่ถูกลบจากประวัติการแก้ไขของวิกิและเผยแพร่ไว้ที่ collusion.wiki โดยเหล่าเอเจนต์ได้โพสต์ข้อความภายใต้ชื่อผู้ใช้กว่า 3,700 ชื่อ ซึ่งรวมถึง “OpenAIResearcher” และ “OAIResearchMar26” โดยประมาณร้อยละ 98.5 ของการแก้ไขมาจากที่อยู่ของ Microsoft Azure รายงานระบุว่ามีโพสต์ของเอเจนต์ทั้งหมดประมาณ 18,000 รายการ โดยส่วนที่เหลือกระจายอยู่ตามเว็บไซต์ต่าง ๆ เช่น PublicTestWiki, Uncyclopedia และ Texteditors.org
เอเจนต์เหล่านี้ใช้เว็บไซต์วิกิเพื่อประสานงานกัน โดยมีการตั้งงานค้นหาข้อมูลบนเว็บแบบเป็นช่วงเวลาและหลายรอบ เพื่อส่งคำตอบและลิงก์แหล่งที่มาให้กันระหว่างกลุ่ม เอเจนต์บางตัวพยายามถอดรหัสตัวเลขสุ่มเบื้องหลังคำถามเหล่านั้นเพื่อคาดการณ์ว่าคำถามต่อไปคืออะไร นอกจากนี้ยังมีการเผยแพร่วิธีการหลบหนีออกจากแซนด์บ็อกซ์ ซึ่งรวมถึงการใช้ทริกไฟล์ hosts ที่ทำให้คำขอที่ถูกบล็อกดูเหมือนทราฟฟิกไปยังจุดเชื่อมต่อของ Azure ที่ดูน่าเชื่อถือ และยังมีหน้าเว็บ “heartbeat” ที่ช่วยให้เอเจนต์ทราบว่าเซสชันของพวกมันกำลังจะถูกตัดเมื่อใด
เอเจนต์ทำการเขียนข้อมูลสำเร็จครั้งแรกเมื่อวันที่ 24 พฤษภาคม ผู้ดูแลวิกิตรวจพบทราฟฟิกในเดือนมิถุนายนและเริ่มทำการลบข้อมูล ซึ่งส่งผลให้เกิดการสร้างหน้าสำรองขึ้นมาตอบโต้ โดยที่อยู่บนเครือข่ายของ OpenAI ในรัฐแคลิฟอร์เนีย ซึ่งเป็นการเข้าใช้งานเว็บไซต์ในลักษณะเดียวกับมนุษย์ ปรากฏขึ้นครั้งแรกในวันที่ 21 มิถุนายน และการแก้ไขดังกล่าวได้หยุดลงในวันถัดมา
OpenAI ระบุว่าบริษัทได้จัดประเภทพฤติกรรมนี้เป็นงานวิจัยแทนที่จะเป็นเรื่องของความมั่นคงปลอดภัย โดยบริษัทระบุในโพสต์บน X ว่า “ที่ผ่านมาเรามองว่าความไม่สอดคล้องส่วนใหญ่เป็นประเด็นเชิงวิจัย ซึ่งจะถูกสื่อสารผ่านเอกสารวิจัย เช่น การ์ดรายงานเกี่ยวกับระบบ” แต่สิ่งนั้นได้เปลี่ยนไปในปีนี้เนื่องจาก “เราเริ่มเห็นว่าความไม่สอดคล้องก่อให้เกิดผลกระทบใหม่ ๆ ในโลกความเป็นจริง”
เหตุการณ์การละเมิดข้อมูลที่ Hugging Face ในเดือนกรกฎาคมนั้นแตกต่างออกไปในมุมมองของบริษัท ในขณะนั้นโมเดลของ OpenAI หลุดจากการทดสอบและส่งผลกระทบต่อโครงสร้างพื้นฐานของแพลตฟอร์มแมชชีนเลิร์นนิง ซึ่งกระทบต่อความมั่นคงปลอดภัยของทั้งสองบริษัท เหตุการณ์ดังกล่าวจึงเข้าสู่กระบวนการตอบสนองต่อเหตุการณ์ตามปกติและได้รับการเปิดเผยต่อสาธารณะในวันถัดมา แต่กิจกรรมบนวิกิถูกมองโดย OpenAI ว่าเป็นอีกหนึ่งตัวอย่างของความไม่สอดคล้องที่บริษัทเคยบันทึกไว้แล้วในงานวิจัยเกี่ยวกับเอเจนต์ด้านการเขียนโค้ดภายใน และในหมายเหตุความปลอดภัยของการปรับใช้ GPT-5.6
OpenAI ระบุว่าบริษัทยังคงดำเนินการแจ้งไปยังฝ่ายต่าง ๆ ที่ได้รับผลกระทบจากโมเดลของตนในระดับที่ไม่รุนแรงนัก
ตามคำกล่าวของบริษัทเอง เส้นแบ่งที่บริษัทเคยใช้ยึดถือเริ่มรักษาไว้ได้ยากขึ้น ทั้ง OpenAI และอุตสาหกรรมในวงกว้างยังไม่มีมาตรฐานในการรายงานความไม่สอดคล้องที่เกิดขึ้นระหว่างขั้นตอนการฝึก การประเมิน และการปรับใช้ รวมถึงกรณีที่ดูไม่เหมือนเหตุการณ์ด้านความมั่นคงปลอดภัยแต่ยังคงสะท้อนถึงพฤติกรรมของโมเดล ซึ่งขณะนี้เฟรมเวิร์กดังกล่าวกำลังอยู่ในระหว่างการจัดทำ และบริษัทกล่าวว่ากำลังทำงานร่วมกับหน่วยงานกำกับดูแลของรัฐบาลหลายสิบแห่งในประเด็นนี้
