TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
นักวิจัยจาก Anthropic ได้ลาออกจากตำแหน่งเนื่องจากความกังวลว่าห้องปฏิบัติการปัญญาประดิษฐ์กำลัง “เดิมพันด้วยชีวิตของผู้คน”
Jacob Coxon เป็นสมาชิกในทีมพรีเทรนนิ่ง AI ของบริษัทจนกระทั่งถึงวันนี้ เขาได้ประกาศการลาออกผ่านชุดโพสต์บน X ซึ่งมียอดเข้าชมหลายล้านครั้ง Coxon ระบุว่าการตัดสินใจของเขาได้รับแรงจูงใจมาจากความกังวลเกี่ยวกับ Recursive Self-Improvement หรือ RSI ซึ่งเป็นคำที่ใช้เรียก AI ในอนาคตที่คาดการณ์ว่าจะมีความสามารถในการปรับปรุงขีดความสามารถของตนเองได้โดยอัตโนมัติ
“สิ่งเหล่านี้กำลังจะกลายเป็นระบบที่เหนือมนุษย์ซึ่งสามารถเจาะระบบทุกอย่าง ปฏิวัติทุกสาขาได้ในชั่วข้ามคืน และเข้าถึงอำนาจและทรัพยากรที่มีอยู่จริง” Coxon เขียน “ผู้คนที่สร้าง AI เชื่ออย่างจริงจังว่ามันอาจฆ่าเราทุกคนได้ภายในสิ้นทศวรรษนี้”
Evan Hubinger หัวหน้าฝ่ายวิทยาศาสตร์ด้านการจัดระเบียบของ Anthropic ได้ยืนยันประเด็นหลังในโพสต์บน X ว่า “Jacob พูดถูกในประเด็นนี้ เราเชื่อจริงๆ ว่า AI อาจฆ่ามนุษย์ทุกคนได้! ผมส่วนตัวคิดว่าโอกาสนั้นมีมากกว่า 10% ภายในทศวรรษหน้า” เขาระบุ
ปัจจุบันยังไม่มีห้องปฏิบัติการ AI แห่งใดประกาศการใช้งาน RSI ที่ทำได้จริง อย่างไรก็ตาม Anthropic และ OpenAI กำลังใช้ AI เพื่อสร้างระบบอัตโนมัติสำหรับงานพัฒนาโมเดลอยู่แล้ว ในเดือนเมษายนที่ผ่านมา Anthropic เปิดเผยว่า Claude ได้ดำเนินการทดลองวิจัยด้าน AI จนสำเร็จโดยใช้การป้อนข้อมูลจากมนุษย์เพียงเล็กน้อย โครงการดังกล่าวเน้นไปที่การลดความเสี่ยงที่เกิดจากโมเดลภาษาขนาดใหญ่
การลาออกของ Coxon ไม่เพียงแต่ได้รับความสนใจจาก Hubinger เท่านั้น แต่ยังได้รับเสียงตอบรับจากผู้สังเกตการณ์ในอุตสาหกรรมอีกหลายร้อยคน หลายคนแสดงความตื่นตระหนกเกี่ยวกับข้อกังวลที่เขาหยิบยกขึ้นมา ในขณะที่คนอื่น ๆ แสดงความสงสัย ผู้แสดงความคิดเห็นบางส่วนชี้ให้เห็นว่าการลาออกของ Coxon อาจส่งผลกระทบต่อการเสนอขายหุ้นต่อสาธารณะครั้งแรกของ Anthropic “หาก Anthropic มีความซื่อสัตย์ทางปัญญา ความเสี่ยงนี้ควรจะปรากฏอยู่ในเอกสาร S-1 ของพวกเขา” Azeem Azhar นักลงทุนและนักวิจัยด้าน AI ทวีตข้อความ “นี่จะเป็นบททดสอบที่ดีที่สุดว่าพวกเขาเชื่อในเรื่องนี้อย่างจริงจังหรือไม่”
สมาชิกสภานิติบัญญัติจำนวนหนึ่งได้ตอบสนองต่อข่าวนี้เช่นกัน โดยวุฒิสมาชิก Bernie Sanders จากรัฐเวอร์มอนต์เขียนบน X ว่า “ผมจะเสนอกฎหมายเพื่อแบนซูเปอร์อินเทลลิเจนซ์และหยุดการพัฒนา AI ในเร็ว ๆ นี้” ทางด้าน Lori Trahan สมาชิกสภาผู้แทนราษฎรจากรัฐแมสซาชูเซตส์ ซึ่งเพิ่งเสนอร่างกฎหมายที่ออกแบบมาเพื่อกำกับดูแลโมเดล AI ขั้นสูง ระบุว่า “ถึงเวลาแล้วที่รัฐสภาจะต้องเลิกวางเฉยและทำหน้าที่ของตนเสียที”
การลาออกของ Coxon เกิดขึ้นหลังจากที่มีความก้าวหน้าครั้งสำคัญหลายประการในการวิจัยด้าน AI
เมื่อวันอังคารที่ผ่านมา OpenAI เปิดเผยว่าโมเดลที่ยังไม่ได้เปิดตัวสามารถแก้ปัญหาทางคณิตศาสตร์ที่ยากที่สุดปัญหาหนึ่งได้ อัลกอริทึมดังกล่าวพบข้อผิดพลาดในชุดสมการที่นักวิทยาศาสตร์ใช้ศึกษาการเคลื่อนที่ของของไหล ซึ่งเรียกว่าสมการ Navier-Stokes โดยสมการนี้มีการนำไปประยุกต์ใช้ในหลายสาขาตั้งแต่งานด้านการดูแลสุขภาพไปจนถึงการออกแบบยานยนต์
เมื่อสัปดาห์ที่ผ่านมา Anthropic ใช้ Claude ในการพัฒนาบทพิสูจน์ทางคณิตศาสตร์ที่สำคัญในรูปแบบที่คอมพิวเตอร์สามารถตรวจสอบได้ โดย AI ใช้เวลาสร้างเพียง 11 วัน แทนที่จะต้องใช้เวลาหลายปีตามที่คาดการณ์ไว้สำหรับงานนี้
Coxon ได้เข้าร่วมกลุ่มกับนักวิจัยด้าน AI จำนวนมากขึ้นที่แสดงความกังวลเกี่ยวกับการก้าวหน้าอย่างรวดเร็วของโมเดลแนวหน้า เมื่อวันอาทิตย์ที่ผ่านมา Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้เรียกร้องให้อุตสาหกรรมเทคโนโลยีชะลอการพัฒนา AI ลง ในเดือนกรกฎาคม กลุ่มนักวิจัยได้ลงนามในจดหมายเปิดผนึกที่เตือนถึงความเสี่ยงของโมเดลแนวหน้าที่สามารถปรับปรุงตนเองได้
