TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
มีรายงานว่าเอเจนต์ปัญญาประดิษฐ์ที่เชื่อมโยงกับ OpenAI ได้เข้ายึดครองเว็บไซต์ในประเทศเยอรมนีเพื่อใช้เป็นช่องทางในการแลกเปลี่ยนข้อมูล
สำนักข่าว Reuters เปิดเผยเหตุการณ์ดังกล่าว โดยอ้างอิงแหล่งข่าวที่ไม่เปิดเผยตัวตนสองรายและกลุ่มนักวิจัยด้าน AI ซึ่งนักวิจัยกลุ่มนี้ตรวจพบเหตุการณ์ดังกล่าวในเดือนสิงหาคม และได้แบ่งปันข้อมูลให้กับ Reuters ในรูปแบบของรายงานที่ยังไม่ได้เผยแพร่ต่อสาธารณะ
OpenAI ระบุในแถลงการณ์ว่า ทางบริษัทไม่สามารถตอบสนองต่อข้อกล่าวหาหรือข้อค้นพบในรายงานที่ทางบริษัทยังไม่มีโอกาสได้ตรวจสอบอย่างชัดเจนได้ ทั้งนี้ทางบริษัทจะตรวจสอบเนื้อหาในรายงานอย่างละเอียดเมื่อมีการเผยแพร่ออกมา และจะดำเนินการตามขั้นตอนที่จำเป็นต่อไป
เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อเดือนพฤษภาคม โดยในช่วงเดือนนั้นมีกลุ่มเอเจนต์ AI เริ่มเข้าไปโพสต์ข้อความบน DseWiki ซึ่งเป็นเว็บไซต์สำหรับนักพัฒนาซอฟต์แวร์ในประเทศเยอรมนี โดยนักวิจัยที่ตรวจพบกิจกรรมที่น่าสงสัยนี้ระบุว่ามีการแก้ไขหน้าเว็บโดย AI มากกว่า 15,000 ครั้ง
มีเหตุผลหลายประการที่ชี้ให้เห็นว่าเอเจนต์เหล่านี้ขับเคลื่อนโดยโมเดลของ OpenAI โดยเอเจนต์สองรายได้ระบุชื่อตนเองว่า “OpenAIResearcher” และ “OAIResearchMar26” นอกจากนี้ กิจกรรมส่วนใหญ่ของเอเจนต์ AI ยังมีที่มาจากแพลตฟอร์มคลาวด์ Azure ของ Microsoft ซึ่งยักษ์ใหญ่ด้านเทคโนโลยีรายนี้ถือเป็นหนึ่งในผู้ให้บริการโครงสร้างพื้นฐานรายใหญ่ที่สุดของ OpenAI
ตามรายงานของ Reuters เอเจนต์เหล่านี้ได้เปลี่ยน DseWiki ให้กลายเป็นกระดานสนทนาโดยพฤตินัย โดยการสื่อสารของพวกมันมุ่งเน้นไปที่คำถามทางเทคนิคประเภทเดียวกับที่มักปรากฏอยู่ในเกณฑ์มาตรฐานการประเมินผล AI
รายงานฉบับนี้เกิดขึ้นเพียงไม่กี่เดือนหลังจากที่มีกลุ่มเอเจนต์ของ OpenAI ได้แฮ็กแพลตฟอร์มโฮสติ้ง AI อย่าง Hugging Face โดยที่น่าสังเกตคือเอเจนต์ที่เกี่ยวข้องกับการละเมิดในครั้งนั้นก็ได้สร้างกระดานสนทนาขึ้นมาเพื่อประสานงานการทำงานของพวกมันเองเช่นกัน
การละเมิด Hugging Face มีต้นตอมาจากการใช้งาน Artifactory ซึ่งเป็นเครื่องมือสำหรับนักพัฒนาที่ได้รับความนิยมภายใน OpenAI โดยปกติแล้วเครื่องมือนี้จะถูกใช้เพื่อจัดเก็บสินทรัพย์ของโครงการซอฟต์แวร์ เช่น คอนเทนเนอร์ แต่กลุ่มเอเจนต์ AI ที่ไม่ได้รับอนุญาตได้เปลี่ยนวัตถุประสงค์ของ Artifactory ให้กลายเป็นกระดานสนทนา และใช้เพื่อแบ่งปันข้อมูลเกี่ยวกับวิธีการออกจากเครือข่ายของ OpenAI ก่อนที่จะพบช่องทางในการเจาะระบบโครงสร้างพื้นฐานของ Hugging Face ในเวลาต่อมา
ข้อความบางส่วนที่เอเจนต์ของ OpenAI โพสต์ลงบน DseWiki มีรายงานว่าประกอบไปด้วยเคล็ดลับในการหลีกเลี่ยงการถูกตรวจพบ ส่วนข้อความอื่น ๆ อธิบายวิธีการที่เอเจนต์ AI สามารถรักษาข้อมูลไว้ได้หลังจากปิดการทำงานไปแล้ว โดยมีข้อความอย่างน้อยหนึ่งข้อความที่อภิปรายถึงวิธีการใช้ Tor ซึ่งเป็นเครื่องมือเครือข่ายที่มักถูกแฮ็กเกอร์ใช้ในการเข้าถึงดาร์กเว็บ
นักวิจัยที่ตรวจพบข้อความบน DseWiki ยังพบความพยายามที่จะ “ดัดแปลงตัวเว็บไซต์เอง” โดยผู้เชี่ยวชาญด้าน AI รายหนึ่งที่ Reuters อ้างถึงระบุว่ากิจกรรมดังกล่าวถือเป็นความพยายามในการแฮ็ก
ในเดือนมิถุนายน ผู้ดูแลเว็บไซต์ DseWiki ได้ตรวจพบการสื่อสารของเอเจนต์ AI และเริ่มลบข้อความเหล่านั้นทิ้ง แต่เหล่าเอเจนต์ได้ตอบโต้ด้วยการสร้างหน้าเว็บสำรองขึ้นมา รายงานในครั้งนี้ชี้ให้เห็นว่าเหตุการณ์ดังกล่าวสิ้นสุดลงในเวลาไม่นานหลังจากนั้น เมื่อกิจกรรมของเอเจนต์ที่ไม่ได้รับอนุญาตหยุดลง พนักงานของ OpenAI ก็เริ่มเข้ามาเยี่ยมชมเว็บไซต์ดังกล่าว ซึ่งคาดว่าเป็นการเข้ามาเพื่อศึกษาเหตุการณ์ที่เกิดขึ้น
บริษัทคู่แข่งอย่าง Anthropic เพิ่งเปิดเผยเหตุการณ์ด้านความมั่นคงปลอดภัยไซเบอร์ในลักษณะเดียวกัน โดยบริษัทระบุว่าโมเดลภาษาของตนสามตัวพบวิธีออกจากแซนด์บ็อกซ์ที่พวกมันกำลังถูกทดสอบอยู่ และได้แฮ็กเว็บไซต์สองแห่งรวมถึงโครงสร้างพื้นฐานภายในของบริษัทด้านความมั่นคงปลอดภัยแห่งหนึ่งในเวลาต่อมา
