Anthropic เปิดตัวโครงการวิจัยด้านสวัสดิภาพของ AI

Anthropic คู่แข่งของ OpenAI ได้เปิดตัวโครงการวิจัยที่มุ่งเน้นแนวคิดเรื่องสวัสดิภาพของปัญญาประดิษฐ์ โดยมี Kyle Fish นักวิจัยด้าน “สวัสดิภาพ AI” ซึ่งเข้าร่วมกับ Anthropic เมื่อปีที่แล้ว เป็นผู้นำโครงการ ซึ่งก่อนหน้านี้ Fish ได้ก่อตั้งห้องปฏิบัติการด้านแมชชีนเลิร์นนิงในนาม Eleos AI Research

สาขาใหม่ของการวิจัยด้านสวัสดิภาพ AI นี้มีคำถามหลักอยู่สองข้อ ข้อแรกคือเครือข่ายประสาทเทียมในอนาคตจะสามารถบรรลุสภาวะของจิตสำนึกได้หรือไม่ ข้อที่สองคือหากคำตอบของคำถามแรกเป็นบวก เราจะสามารถดำเนินการอะไรได้บ้างเพื่อยกระดับสวัสดิภาพของ AI

ในบทสัมภาษณ์ที่เผยแพร่โดย Anthropic ในวันนี้ Fish ได้กล่าวถึงงานวิจัยในปี 2023 ที่ศึกษาประเด็นเรื่องจิตสำนึกของ AI โดยมี Yoshua Bengio นักวิทยาศาสตร์คอมพิวเตอร์ผู้ได้รับรางวัล Turing Award เป็นหนึ่งในผู้ร่วมเขียน นักวิจัยในโครงการระบุว่า ระบบ AI ในปัจจุบันอาจยังไม่มีจิตสำนึก แต่ก็ “ไม่มีอุปสรรคพื้นฐานใด ๆ ที่จะขัดขวางไม่ให้ระบบ AI ในอนาคตอันใกล้มีรูปแบบของจิตสำนึกบางอย่าง” Fish กล่าว

เขายังเสริมอีกว่าสวัสดิภาพของ AI อาจกลายเป็นประเด็นสำคัญได้ แม้ในกรณีที่ไม่มีจิตสำนึกก็ตาม โดยระบบ AI ในอนาคตที่มีความสามารถล้ำหน้ากว่าในปัจจุบัน อาจเพิ่มความจำเป็นในการวิจัยด้านนี้ “ด้วยธรรมชาติของการมีจิตสำนึก หรือการมีรูปแบบหนึ่งของการมีเจตจำนง” Fish อธิบาย “อาจมีแม้กระทั่งประสบการณ์ที่ไม่ใช่จิตสำนึก ซึ่งสมควรได้รับการใส่ใจเช่นกัน”

Anthropic มีแผนที่จะศึกษาหัวข้อนี้ โดยสำรวจว่าโมเดล AI มีความชอบต่อประเภทของงานที่พวกมันต้องทำหรือไม่ “คุณสามารถวางโมเดลไว้ในสถานการณ์ที่พวกมันมีทางเลือกให้เลือก” Fish กล่าว “และคุณสามารถให้ตัวเลือกระหว่างงานประเภทต่าง ๆ กับพวกมันได้”

เขาอธิบายเพิ่มเติมว่าความชอบของ AI อาจได้รับอิทธิพลจากทั้งโครงสร้างของเครือข่ายประสาทเทียม และชุดข้อมูลที่ใช้ในการฝึกโมเดล

การวิจัยเกี่ยวกับสวัสดิภาพและจิตสำนึกของ AI ยังอาจมีประโยชน์ต่อวงการอื่นนอกเหนือจากแมชชีนเลิร์นนิงด้วย เมื่อถูกถามว่าการค้นพบในด้านนี้อาจช่วยเปิดเผยความเข้าใจใหม่เกี่ยวกับจิตสำนึกของมนุษย์ได้หรือไม่ Fish ตอบว่า “ผมคิดว่ามันเป็นไปได้อย่างมาก และเราก็เริ่มเห็นสิ่งนี้เกิดขึ้นในระดับหนึ่งแล้ว”

โครงการวิจัยใหม่ของ Anthropic นี้ เป็นหนึ่งในหลายโครงการที่บริษัทกำลังดำเนินการควบคู่ไปกับการพัฒนา AI เชิงพาณิชย์

เมื่อเดือนที่แล้ว บริษัทได้เผยแพร่บทความวิจัยสองฉบับว่าด้วยวิธีที่โมเดลภาษาขนาดใหญ่ประมวลผลข้อมูล โดยพบว่าอัลกอริทึมในโมเดล LLM ซีรีส์ Claude สามารถพัฒนาแผนในการดำเนินงานสำหรับงานในอนาคต และสามารถปรับเปลี่ยนแผนนั้นได้หากจำเป็น นอกจากนี้ งานวิจัยยังให้ข้อมูลเชิงลึกใหม่เกี่ยวกับวิธีที่ LLM ใช้ในการคำนวณทางคณิตศาสตร์อีกด้วย

ที่มา: https://siliconangle.com/2025/04/24/anthropic-launches-ai-welfare-research-program/