Anthropic เปิดตัวสถาบันเพื่อจัดการกับความเสี่ยงจาก AI

Anthropic ประกาศจัดตั้ง Anthropic Institute ซึ่งเป็นหน่วยธุรกิจที่มีหน้าที่ศึกษาวิจัยความเสี่ยงที่เกิดจากปัญญาประดิษฐ์

หน่วยงานนี้จะรวมทีมเดิมของบริษัท 3 ทีมเข้าด้วยกันภายใต้การนำของ Jack Clark ผู้ร่วมก่อตั้งบริษัท โดยในการเคลื่อนไหวครั้งนี้ Anthropic ได้แต่งตั้งให้ผู้บริหารรายนี้ดำรงตำแหน่งหัวหน้าฝ่ายผลประโยชน์สาธารณะอีกด้วย

ทีมแรกที่เข้ามาเป็นส่วนหนึ่งของ Anthropic Institute คือ Frontier Red Team ซึ่งมีหน้าที่ศึกษาความเสี่ยงด้านความมั่นคงปลอดภัยทางไซเบอร์ที่เกี่ยวข้องกับ AI ในโครงการล่าสุดเมื่อเร็ว ๆ นี้ หน่วยงานนี้ได้ใช้ Claude ในการสแกนหาช่องโหว่ในซอร์สโค้ดของ Firefox และต่อมาได้ทดสอบว่า AI สามารถพัฒนาวิธีเจาะระบบผ่านจุดบกพร่องที่พบโดยอัตโนมัติได้หรือไม่

นอกจากนี้ Anthropic Institute ยังรวมถึงทีม Societal Impacts ของบริษัทด้วย โดยหน่วยงานนี้ทำหน้าที่เก็บข้อมูลว่าผู้ใช้งานมีปฏิสัมพันธ์กับ Claude อย่างไร เมื่อเดือนที่แล้ว ทีมดังกล่าวได้เผยแพร่ผลการศึกษาที่ประเมินว่าทำไมและเมื่อใดที่คนทำงานจะอนุญาตให้เอเจนต์ AI ปฏิบัติงานในรูปแบบอัตโนมัติอย่างเต็มตัว

หน่วยงานที่สามที่ Anthropic นำมารวมไว้ใน Anthropic Institute คือ Economic Research ซึ่งศึกษาผลกระทบทางเศรษฐกิจของ AI ตามชื่อทีม หน่วยงานนี้มีหน้าที่เผยแพร่รายงาน Economic Index ของ Anthropic ซึ่งประกอบด้วยข้อมูลเกี่ยวกับกิจกรรมทางธุรกิจที่ลูกค้าของบริษัทกำลังทำให้เป็นระบบอัตโนมัติด้วย Claude

นอกเหนือจากการรวมทั้งสามหน่วยธุรกิจไว้ภายใต้ชายคาเดียวกันแล้ว บริษัทยังวางแผนที่จะเพิ่มจำนวนพนักงานในทีมเหล่านี้ด้วย โดยในส่วนหนึ่งของการสรรหาบุคลากร Anthropic ได้ว่าจ้าง Matt Botvinick อดีตผู้อำนวยการอาวุโสด้านการวิจัยที่ Google DeepMind ซึ่งจะมาร่วมงานกับบริษัทพร้อมกับ Zoë Hitzig อดีตนักวิจัยจาก OpenAI Group และศาสตราจารย์ด้านเศรษฐศาสตร์ Anton Korinek

Anthropic ระบุว่า Korinek จะเป็นผู้นำโครงการที่มุ่งเน้นการทำความเข้าใจว่า AI จะสามารถ “ปรับเปลี่ยนรูปแบบของกิจกรรมทางเศรษฐกิจ” ได้อย่างไร ในขณะที่ Hitzig จะเข้ามาเพื่อ “เชื่อมโยงงานด้านเศรษฐศาสตร์เข้ากับการฝึกฝนและพัฒนาโมเดล” นอกจากนี้ Anthropic Institute ยังกำลังดำเนินโครงการอื่น ๆ อีกหลายโครงการ โดยบริษัทระบุว่าหน่วยงานนี้กำลังพยายามคาดการณ์ความก้าวหน้าของ AI ในอนาคต และทำความเข้าใจว่าเทคโนโลยีอาจมีปฏิสัมพันธ์กับระบบกฎหมายอย่างไรในวันข้างหน้า

ในเวลาเดียวกันกับความพยายามในการขยาย Anthropic Institute บริษัทยังวางแผนที่จะเพิ่มจำนวนพนักงานในทีมเดิมที่ชื่อว่า Public Policy อีกด้วย หน่วยงานนี้มีหน้าที่รับผิดชอบในการร่างข้อเสนอแนะเชิงนโยบายที่เกี่ยวข้องกับ AI ซึ่งผู้ผลิตซอฟต์แวร์รายนี้จะแบ่งปันกับผู้ออกกฎหมายเป็นระยะ ๆ ข้อเสนอแนะเหล่านั้นมุ่งเน้นในหัวข้อต่าง ๆ เช่น รูปแบบการกำกับดูแลการลงทุนในโครงสร้างพื้นฐานของ AI

Anthropic ได้แต่งตั้ง Sarah Heck อดีตผู้บริหารของ Stripe ให้เป็นผู้นำทีม Public Policy โดยบริษัทระบุว่าขั้นตอนต่อไปคือการเปิดสำนักงานสำหรับหน่วยงานนี้ในกรุงวอชิงตัน ดี.ซี. ในช่วงฤดูใบไม้ผลินี้ และบริษัทวางแผนที่จะขยายงานด้านนโยบายไปยังตลาดต่างประเทศในลำดับต่อไป

ที่มา: https://siliconangle.com/2026/03/11/anthropic-launches-anthropic-institute-tackle-ai-risks/