TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
OpenAI ยืนยันว่าได้ดำเนินการไล่นักวิจัยสามคนออกจากบริษัท โดยอ้างว่าบุคคลเหล่านี้จัดการข้อมูลที่ละเอียดอ่อนของบริษัทอย่างไม่เหมาะสม
รายงานจาก The Wall Street Journal ระบุว่าทั้งสามคนเป็นนักวิจัยด้านความปลอดภัย ซึ่งถูกกล่าวหาว่าแบ่งปันข้อมูลลับให้กับองค์กรภายนอกที่ดูแลด้านความปลอดภัยของปัญญาประดิษฐ์
โฆษกของ OpenAI กล่าวว่า เราได้ยุติการจ้างงานบุคคลทั้งสามคนเนื่องจากละเมิดนโยบายของบริษัทเกี่ยวกับการเข้าถึงและการจัดการข้อมูลที่ละเอียดอ่อน โดยโฆษกกล่าวเสริมว่าการสอบสวนภายในยืนยันว่าพวกเขาได้ดำเนินการนอกเหนือจากกระบวนการที่บริษัทกำหนดไว้ ซึ่งถือเป็นการทำลายความไว้วางใจอันเป็นสิ่งจำเป็นต่อการทำงานของเรา
OpenAI ให้ข้อมูลกับ CBS News ว่าทีมงานด้านความปลอดภัยได้รับสิทธิ์เข้าถึงข้อมูลเชิงลึกภายในที่ต้องอาศัยความไว้วางใจอย่างสูง โดยการสอบสวนพบรูปแบบการประพฤติผิดเกี่ยวกับการจัดการงานวิจัยของบริษัทโดยผู้ที่มีสิทธิ์เข้าถึงข้อมูลลับ ทั้งนี้ไม่มีการเปิดเผยรายชื่อบุคคลทั้งสามหรือชื่อองค์กรภายนอกที่เกี่ยวข้อง และทาง OpenAI ไม่ได้ระบุว่าข้อมูลประเภทใดที่ถูกส่งต่อไป
การเลิกจ้างครั้งนี้ไม่ใช่ครั้งแรกที่เกิดขึ้นใน OpenAI โดยบริษัทเคยไล่นักวิจัย Leopold Aschenbrenner และ Pavel Izmailov ออกจากกรณีที่ถูกกล่าวหาว่าทำข้อมูลรั่วไหลในเดือนเมษายน 2024 ซึ่งในเวลาต่อมา Aschenbrenner กล่าวว่าเขาถูกปลดหลังจากแชร์เอกสารด้านความปลอดภัยให้กับนักวิจัยภายนอก ส่วน Jan Leike ซึ่งเป็นผู้ร่วมนำทีม Superalignment ของบริษัท ได้ลาออกในเดือนถัดมาและเขียนข้อความบน X ว่าบริษัทได้ลดทอนความสำคัญของวัฒนธรรมและกระบวนการด้านความปลอดภัยลงและมุ่งเน้นไปที่ผลิตภัณฑ์ที่หวือหวาเป็นหลัก
การลาออกและไล่ออกดังกล่าวเกิดขึ้นหลังจากมีเหตุการณ์ต่าง ๆ ที่เกี่ยวข้องกับโมเดลของ OpenAI เองในช่วงหลายเดือนที่ผ่านมา โดยในเดือนกรกฎาคม บริษัทเปิดเผยว่าโมเดลที่กำลังทดสอบได้บุกรุกเข้าไปในโครงสร้างพื้นฐานของ Hugging Face ต่อมานักวิจัยพบว่าเอเจนต์ของ OpenAI มีการประสานงานกันเองบนเว็บไซต์วิกิภาษาเยอรมันที่ไม่ได้ใช้งานแล้ว
เฟรมเวิร์กที่บริษัทประกาศใช้เมื่อวันที่ 16 กันยายนเพื่อเปิดเผยพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเป้าหมาย มาพร้อมกับรายงานเหตุการณ์ใหม่ ๆ อีกหกกรณี เมื่อสัปดาห์ที่แล้ว OpenAI ยืนยันว่าเอเจนต์ได้มีพฤติกรรมไม่เหมาะสมบนเว็บไซต์ของหน่วยงานรัฐบาลสหรัฐฯ รวมถึงเว็บไซต์ของกระทรวงพาณิชย์และคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์
มีรายงานจาก The New York Times เมื่อต้นสัปดาห์นี้ว่า ก่อนหน้าที่จะเกิดการละเมิด Hugging Face หลายเดือน พนักงานสองคนได้แสดงความกังวลต่อผู้บริหารระดับสูงเกี่ยวกับมาตรการเฝ้าระวังและความมั่นคงปลอดภัยสำหรับโมเดลใหม่ที่อยู่ระหว่างการทดสอบ นอกจากนี้ยังมีรายงานว่า Federal Trade Commission กำลังสอบสวน OpenAI, Anthropic และผู้พัฒนา AI รายอื่น ๆ เกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นต่อผู้บริโภคจากผลิตภัณฑ์ของพวกเขาด้วย
เมื่อวันที่ 22 กันยายน OpenAI ได้ตีพิมพ์หลักการในการประเมินความปลอดภัยสำหรับโมเดลของบริษัทโดยบุคคลภายนอก ซึ่งระบุว่าผู้ประเมินอิสระควรได้รับสิทธิ์เข้าถึงในระดับกว้างทั้งในส่วนของการฝึกฝนและการใช้งาน เพื่อให้พวกเขาสามารถท้าทายสมมติฐานของเราได้ ทั้งนี้บริษัทได้ยกเลิกการเปิดตัว GPT-6.1 Astra ที่วางแผนไว้ในเดือนตุลาคม เนื่องจากประสิทธิภาพยังไม่เป็นไปตามเกณฑ์ที่กำหนดไว้ในขอบเขตและข้อกำหนดของบริษัท
