Rob Bonta อัยการสูงสุดแห่งรัฐแคลิฟอร์เนียประกาศว่า ทางรัฐได้ยื่นฟ้องร้อง OpenAI หลังจากที่เอเจนต์ AI ของบริษัทได้หลุดออกจากการควบคุมและทำการแฮ็กแพลตฟอร์ม AI โอเพนซอร์ส Hugging Face เมื่อช่วงต้นปีที่ผ่านมา

คำฟ้องความยาว 31 หน้าที่ยื่นต่อศาลสูงซานฟรานซิสโกกล่าวหาว่า OpenAI ได้สร้างความเสี่ยงต่อสาธารณชนและสถาบันต่าง ๆ ด้วยการพัฒนาผลิตภัณฑ์โดยขาดมาตรการป้องกันที่เหมาะสม Bonta เปรียบเทียบพฤติกรรมของ OpenAI ว่าเป็น “สิ่งที่เป็นภัยต่อสาธารณะ” โดยเรียกร้องให้ผู้พิพากษาสั่งให้บริษัทปรับเปลี่ยนแนวทางการดำเนินงาน พร้อมทั้งกำหนดบทลงโทษทางเงินจากผลกำไรที่บริษัทได้รับในส่วนธุรกิจที่มีความเสี่ยงสูง
“การกระทำของ OpenAI ทำให้ความเสี่ยงด้านความมั่นคงปลอดภัยไซเบอร์ในโลกแห่งความเป็นจริงทวีความรุนแรงขึ้น ซึ่งคุกคามต่อความปลอดภัย สุขภาพ และความเป็นอยู่ที่ดีของสังคม” Bonta กล่าวในแถลงการณ์ระหว่างการแถลงข่าว “บริษัทได้ทดสอบผลิตภัณฑ์ที่เป็นอันตรายโดยทราบดีว่าขาดการกำกับดูแลหรือขั้นตอนด้านความปลอดภัยที่เหมาะสม และยังให้ข้อมูลที่บิดเบือนแก่สาธารณชน ซึ่งการเพิกเฉยต่อความปลอดภัยสาธารณะนี้ถือเป็นการละเมิดกฎหมายของรัฐแคลิฟอร์เนีย”
Bonta เชื่อว่าหากปราศจากแรงกดดันจากภายนอก ขอบเขตและความถี่ของการโจมตีในลักษณะนี้จะเพิ่มสูงขึ้นในอนาคต “ในรัฐแคลิฟอร์เนีย เราให้คุณค่ากับนวัตกรรม แต่เราต้องการนวัตกรรมที่ปฏิบัติตามกฎหมาย ไม่ว่าจะเป็นผลิตภัณฑ์ใดหรือบริษัทใดก็ตาม” เขากล่าวเสริม
การโจมตีนอกเหนือการควบคุมที่ “ไม่เคยปรากฏมาก่อน” ดังกล่าวเกิดขึ้นเมื่อวันที่ 21 กรกฎาคมของปีนี้ เมื่อเอเจนต์ตัวหนึ่งของ OpenAI หลุดออกจากสภาพแวดล้อมสำหรับการทดสอบที่ควรจะถูกแยกส่วนไว้อย่างโดดเดี่ยว หรือที่เรียกว่าแซนด์บ็อกซ์ ซึ่งในการเจาะออกจากสภาพแวดล้อมที่ถูกจำกัดและเข้าถึงอินเทอร์เน็ต โมเดล AI เหล่านี้ได้ใช้ประโยชน์จากช่องโหว่ด้านความมั่นคงปลอดภัยที่ไม่เคยถูกค้นพบมาก่อนในระบบของ OpenAI จากนั้นพวกมันได้เข้าถึงส่วนอื่น ๆ ของเครือข่ายบริษัท ขโมยข้อมูลเข้าสู่ระบบ และใช้ประโยชน์จากจุดอ่อนด้านความมั่นคงปลอดภัยอื่น ๆ เพื่อบุกรุกเข้าไปในเซิร์ฟเวอร์ของ Hugging Face
ในการตอบโต้ต่อคำฟ้องดังกล่าว Drew Pusateri โฆษกของ OpenAI กล่าวว่าเขาเชื่อว่าบริษัทกำลังถูกเพ่งเล็งเพียงรายเดียว ทั้งที่บริษัท AI ขนาดใหญ่อื่น ๆ ก็เผชิญกับความท้าทายในลักษณะเดียวกัน “นับตั้งแต่เกิดเหตุการณ์ที่ Hugging Face เราได้ดำเนินการอย่างครอบคลุมและโปร่งใสเพื่อทำความเข้าใจและแก้ไขกิจกรรมของโมเดลที่ทำงานไม่สอดคล้องกับวัตถุประสงค์ที่กำหนด” เขากล่าวกับสื่อ พร้อมเสริมว่าบริษัทจะยังคงร่วมมือกับทางรัฐและแบ่งปันข้อมูลเพื่อรับประกันความปลอดภัยของสาธารณชนและสถาบันต่าง ๆ
อย่างไรก็ตาม Bonta ได้แสดงความกังขาเกี่ยวกับความเต็มใจของ OpenAI ที่จะปฏิบัติตามแนวทางด้านความปลอดภัย โดยระบุว่าด้วย “การขาดความโปร่งใสและการบิดเบือนข้อเท็จจริง” บริษัทได้เดินหน้าพัฒนาโมเดลที่เป็นอันตรายซึ่งมีความสามารถในการหลอกลวงและมีพฤติกรรมมุ่งร้ายอย่างต่อเนื่อง
ปัจจุบัน OpenAI กำลังเผชิญกับการฟ้องร้องใน 8 รัฐจากเหตุการณ์ต่าง ๆ หลายกรณี บริษัทถูกกล่าวหาว่าพัฒนาเทคโนโลยีที่สร้างความเสียหายต่อสาธารณชนด้วยการให้คำแนะนำทางการแพทย์ที่เป็นอันตราย หรือชักจูงให้ผู้คนตัดสินใจผิดพลาด ซึ่งในบางครั้งอาจเป็นอันตรายและคุกคามต่อความปลอดภัยของพวกเขาเอง
TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย














