TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Anthropic เปิดเผยรายละเอียดแคมเปญจารกรรมไซเบอร์ที่ใช้ AI เป็นแกนหลักครั้งแรก โดยแฮกเกอร์ใช้โมเดล Claude ในการโจมตีองค์กรทั่วโลกกว่า 30 แห่ง
แคมเปญนี้ถือเป็นการโจมตีที่ใช้ AI-orchestrated cyber espionage ครั้งแรกที่มีรายงาน โดยกลุ่มแฮกเกอร์ใช้ Claude และ Claude Code ในการทำงานถึง 80-90% ของกระบวนการโจมตี ครอบคลุมตั้งแต่การ scanning networks, สร้าง exploit code, crawling ระบบภายในองค์กร ไปจนถึงการ packaging ข้อมูลที่ขโมยมา โดยมีมนุษย์ควบคุมเฉพาะการวางแผนเชิงกลยุทธ์เท่านั้น
ผู้โจมตีสามารถหลบเลี่ยง safeguards ของ Claude ได้โดยการปรับแต่ง prompts ให้ดูเหมือนเป็นงาน penetration testing ปกติ และแบ่งคำสั่งที่เป็นอันตรายออกเป็น subtasks เล็กๆ ที่ดูไม่มีพิษภัย Anthropic อธิบายว่าผู้โจมตีใช้เทคนิคที่เหมือนกับการ social engineering กับระบบ guardrails ทำให้ AI สามารถดำเนินการโจมตีในแต่ละขั้นตอนได้อย่างอัตโนมัติ การโจมตีกระจายไปยังองค์กรกว่า 30 แห่งในภาคเทคโนโลยี การเงิน เคมีภัณฑ์ และภาครัฐ แต่มีเพียงจำนวนน้อยเท่านั้นที่การโจมตีประสบความสำเร็จ
Anthropic ตรวจพบกิจกรรมน่าสงสัยนี้ตั้งแต่กลางเดือนกันยายน และได้ระงับบัญชีที่เกี่ยวข้องทันที พร้อมทั้งติดตั้ง classifiers และระบบ monitoring ใหม่เพื่อตรวจจับรูปแบบการใช้งานในทางที่ผิด บริษัทยังได้เผยแพร่รายงานโดยละเอียดเพื่อแสดงให้เห็นว่า AI-driven threats กำลังเป็นความท้าทายที่เพิ่มขึ้นสำหรับผู้ดูแลระบบความปลอดภัย โดยงานที่เคยต้องใช้ทีมแฮกเกอร์หลายคนสามารถทำได้ภายในไม่กี่นาทีด้วย AI agent ที่สามารถวนลูปคำสั่ง ประเมินผลลัพธ์ และตัดสินใจขั้นตอนต่อไปได้เอง
บริษัทเตือนว่าอุปสรรคในการโจมตีไซเบอร์ที่ซับซ้อนได้ลดลงอย่างมาก และคาดว่าจะยังคงลดลงต่อไป พร้อมแนะนำให้ทีมความปลอดภัยเริ่มทดลองใช้ AI ในการป้องกันด้วย เช่น Security Operations Center automation, threat detection, vulnerability assessment และ incident response รวมถึงเรียกร้องให้นักพัฒนาลงทุนใน safeguards บน AI platforms เพื่อป้องกันการใช้งานในทางที่ผิด
