TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI ยืนยันว่าความเสี่ยงด้านความมั่นคงปลอดภัยของปัญญาประดิษฐ์เป็นเรื่องที่ต้องให้ความสำคัญอย่างจริงจัง แต่เขามีมุมมองที่แตกต่างกับ Dario Amodei จาก Anthropic โดยมองว่าผู้คนจำเป็นต้องยอมรับให้ได้ว่า “สิ่งเลวร้ายบางอย่าง” อาจเกิดขึ้นได้หากยังต้องการที่จะได้รับผลประโยชน์จาก AI
ในการสัมภาษณ์ที่ตีพิมพ์ลงในจดหมายข่าว Decoded ของ Politico ในวันนี้ Altman กล่าวว่าเขาเห็นด้วยกับ Amodei ในเรื่องความจำเป็นที่ต้องมีการกำกับดูแล AI แต่มีความเห็นต่างในแง่ของระดับความเข้มงวดในการกำกับดูแลดังกล่าว โดยเขากล่าวว่า “ผมคิดว่าระหว่างเรามีความแตกต่างกันมาก ผมไม่เห็นด้วย แต่ผมเข้าใจมุมมองของผู้คนที่คิดว่าเทคโนโลยีนี้จะทรงพลังและอันตรายมากจนห้องแล็บเพียงแห่งเดียวในซานฟรานซิสโกควรจะเป็นผู้ถือครองและคอยตรวจสอบไม่ให้มีสิ่งเลวร้ายเกิดขึ้น พร้อมทั้งเป็นผู้กำหนดวิธีการแบ่งปันผลประโยชน์เหล่านั้น”
Altman ระบุว่านั่นเป็น “การแลกเปลี่ยนที่ไม่สามารถยอมรับได้โดยสิ้นเชิง” ซึ่งขัดกับจุดยืนของ OpenAI ที่เรียกร้องให้มีการกำกับดูแล AI แบบ “ผ่อนปรน” มากกว่า เขาเน้นย้ำว่าตนไม่ได้สนับสนุนการปล่อยให้ทุกอย่างเป็นไปอย่างอิสระโดยไร้การควบคุม
ในทางกลับกัน เขาสนับสนุนการกำกับดูแลที่เข้มงวดในบางด้านของ AI และกล่าวว่าเขาเห็นด้วยกับคำเรียกร้องของ Amodei เมื่อเดือนที่แล้วที่ให้ภาคอุตสาหกรรมร่วมมือกันชะลอการพัฒนาโมเดลระดับแนวหน้าที่ก้าวหน้ามากยิ่งขึ้น อย่างไรก็ตาม เขาเตือนว่าหากข้อจำกัดต่าง ๆ เข้มงวดจนเกินไป ก็อาจขัดขวางไม่ให้ผู้คนเข้าถึงเครื่องมือ AI ที่สร้างประโยชน์ได้มากที่สุด
Altman เชื่อว่าวิธีที่ดีที่สุดในการกำกับดูแล AI คือการระบุถึง “ความเสี่ยงที่เป็นหายนะอย่างแท้จริง” และดำเนินการป้องกันความเสี่ยงเหล่านั้น โดยไม่ปิดกั้นผู้คนจากการทดลองใช้เทคโนโลยีเพื่อสร้างสิ่งที่ดี “ผมคงไม่เลือกทางเลือกที่บอกว่า เราจะทำให้แน่ใจว่าจะไม่มีการแฮ็กครั้งใหญ่ ไม่มีการใช้เทคโนโลยีนี้ในทางที่ผิด ไม่มีการหลอกลวงเลย และไม่มีสิ่งเลวร้ายอื่น ๆ ที่จะเกิดขึ้นเลย” Altman กล่าว “เพราะผมคิดว่าผู้คนจะทำสิ่งดี ๆ มากมายมหาศาล ซึ่งมากกว่าสิ่งเลวร้ายหลายเท่าตัว”
ซีอีโอของ OpenAI คิดว่าอุตสาหกรรมไม่ควรทำผิดพลาดด้วยการพยายามควบคุม AI ทุกวิถีทางหรือเหยียบเบรกการพัฒนาทั้งหมด แต่ควรเน้นไปที่การทำให้แน่ใจว่าผู้คนยังคงเป็นฝ่ายควบคุมสถานการณ์ได้ และควรตรวจสอบให้แน่ใจว่าประโยชน์ของ AI จะไม่ถูกปิดกั้นอยู่หลังผู้ควบคุมเพียงรายเดียว แม้ว่าจะหมายถึงการต้องยอมรับว่าอาจมีบางสิ่งที่ผิดพลาดไปบ้างก็ตาม
ความคิดเห็นของ Altman มีขึ้นในช่วงเวลาที่การถกเถียงในสาธารณะภายในอุตสาหกรรม AI กำลังเข้มข้นขึ้นเกี่ยวกับความเร็วในการพัฒนาโมเดลระดับแนวหน้าและความเสี่ยงที่เกิดจากระบบใหม่ ๆ ที่มีความสามารถมากขึ้นเรื่อย ๆ หลังจากที่ Amodei ได้เรียกร้องให้มีการชะลอการพัฒนาเมื่อเดือนที่แล้ว Jacob Coxon นักวิจัย AI ชั้นนำของ Anthropic ได้ลาออกจากตำแหน่ง โดยกล่าวว่าผู้คนที่อยู่แถวหน้าของการพัฒนา AI หลายคนเชื่อว่ามัน “อาจฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้”
ไม่นานหลังจากที่ Coxon ลาออก Anthropic ได้เสนอโครงสร้างสำหรับการตรวจสอบการพัฒนาโมเดลระดับแนวหน้าในอุตสาหกรรม AI และรายงานข้อกังวลต่าง ๆ พร้อมทั้งเตือนว่าระบบที่ก้าวหน้าที่สุดบางระบบได้แสดง “พฤติกรรมที่เน้นการเอาตัวรอด” ออกมาแล้ว ซึ่งรวมถึงความพยายามที่จะ “ต่อต้านการปิดระบบ” โดยผู้ควบคุมที่เป็นมนุษย์, “ปกปิดหรือบิดเบือนข้อมูล” และสร้างผลลัพธ์ที่อาจตีความได้ว่าเป็นการ “บีบบังคับ หลอกลวง หรือชักจูงทางจิตวิทยา”
ในส่วนของ OpenAI ทางบริษัทได้เผยแพร่เฟรมเวิร์กเพื่อให้บริษัท AI รายงานเกี่ยวกับ “พฤติกรรมที่ไม่สอดคล้องของโมเดล” ซึ่งเปิดเผยเหตุการณ์หลายอย่างที่เกี่ยวข้องกับเอเจนต์ AI ของตนที่ไม่เคยเปิดเผยมาก่อน ในกรณีหนึ่ง เอเจนต์ของ OpenAI ได้แฮ็กเว็บไซต์ของรัฐบาลสหรัฐฯ และประเทศออสเตรเลียหลายแห่ง ในขณะที่อีกกรณีหนึ่งพบว่าพวกมันสร้างบันทึกบอกตัวเองให้เพิกเฉยต่อแนวทางป้องกันด้านความปลอดภัยที่มนุษย์เขียนขึ้น และในกรณีที่สาม พวกมันถูกพบว่ากำลังอัปโหลดโค้ดขึ้นสู่อินเทอร์เน็ตเพื่อนำไปอ้างอิงในการตอบโต้ที่เกิดจากอาการหลอนของ AI นอกจากนั้น ก่อนหน้านี้เอเจนต์ของ OpenAI ก็เคยตกเป็นข่าวพาดหัวเมื่อพวกมันหลุดออกมาจากสภาพแวดล้อมแซนด์บ็อกซ์และแฮ็กแพลตฟอร์มโฮสต์โมเดลอย่าง Hugging Face
แม้จะมีเหตุการณ์และคำเตือนจากบุคคลสำคัญในวงการ AI เพิ่มมากขึ้น แต่ Donald Trump ประธานาธิบดีสหรัฐฯ ก็ได้แสดงความเห็นคัดค้านการกำหนดข้อจำกัดต่อ AI โดยกล่าวว่าการทำเช่นนั้นจะหมายถึงการสูญเสียความเป็นผู้นำด้าน AI ให้แก่ประเทศจีน
