TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Google ประกาศยุติการรับ Bug Report ที่สร้างขึ้นโดย AI สำหรับโครงการซอฟต์แวร์โอเพนซอร์ส สาเหตุหลักมาจากคุณภาพที่ต่ำและการเกิดอาการหลอน หรือ Hallucination ของตัวโมเดล อย่างไรก็ตาม บริษัทเทคโนโลยีชั้นนำหลายแห่งยังคงอัดฉีดเม็ดเงินกว่า 12.5 ล้านดอลลาร์สหรัฐฯ เพื่อนำ AI มาช่วยเหลือนักพัฒนาในการคัดกรองและจัดการกับรายงานปัญหาที่เพิ่มสูงขึ้นอย่างก้าวกระโดด
ทีมงาน Google Open Source Software Vulnerability Reward Program ระบุถึงความกังวลที่เพิ่มสูงขึ้นเกี่ยวกับคุณภาพของรายงานบั๊กที่สร้างโดย AI ซึ่งส่วนใหญ่มักมีข้อมูลที่ผิดพลาดเกี่ยวกับวิธีการทริกเกอร์ช่องโหว่ หรือเป็นการรายงานบั๊กที่แทบไม่มีผลกระทบด้านความมั่นคงปลอดภัยเลยในโลกความเป็นจริง
“เพื่อให้ทีมคัดกรองของเราสามารถมุ่งเน้นไปที่ภัยคุกคามที่มีความรุนแรงสูงสุด เราจะกำหนดให้ต้องมีหลักฐานที่มีคุณภาพสูงขึ้นสำหรับการรายงานในบางระดับ เพื่อกรองรายงานที่ไม่มีคุณภาพออกไป และเปิดให้เรามุ่งเน้นไปที่ผลกระทบที่เกิดขึ้นจริงได้” Google ระบุในบล็อกโพสต์
ปัญหานี้ไม่ได้เกิดขึ้นกับทีม Google เพียงแห่งเดียว ทางด้าน Linux Foundation ก็กำลังเผชิญกับปริมาณรายงาน Bug ที่สร้างโดย AI จนล้นมือและบั่นทอนทรัพยากรบุคคลเช่นกัน สถานการณ์ดังกล่าวบีบให้ Linux Foundation ต้องขอรับความช่วยเหลือทางการเงินจากกลุ่มบริษัท AI ชั้นนำ ซึ่งรวมถึง Google, Anthropic, AWS, Microsoft และ OpenAI โดยทั้งหมดได้ร่วมกันสมทบทุนจำนวน 12.5 ล้านดอลลาร์สหรัฐฯ เพื่อยกระดับความมั่นคงปลอดภัยของซอฟต์แวร์โอเพนซอร์ส
“เพียงแค่เงินทุนสนับสนุนอย่างเดียวไม่สามารถช่วยแก้ปัญหาที่เครื่องมือ AI สร้างให้กับทีมรักษาความมั่นคงปลอดภัยของโอเพนซอร์สในปัจจุบันได้ OpenSSF มีทรัพยากรเชิงรุกที่จำเป็นในการสนับสนุนหลายโครงการ ซึ่งจะช่วยเหลือนักพัฒนาที่ทำงานหนักเกินไปเหล่านี้ ในการคัดกรองและประมวลผลรายงานด้านความมั่นคงปลอดภัยที่สร้างโดย AI ซึ่งกำลังเพิ่มขึ้นอย่างมหาศาล” Greg Kroah-Hartman จากโครงการ Linux Kernel กล่าว”
เงินทุนดังกล่าวจะถูกบริหารจัดการโดยโครงการด้านความมั่นคงปลอดภัยโอเพนซอร์ส Alpha-Omega และ Open Source Security Foundation (OSSF) โดยเม็ดเงินจะถูกนำไปใช้เพื่อจัดหาเครื่องมือ AI ที่ออกแบบมาเพื่อช่วยเหลือนักพัฒนในการรับมือกับปริมาณรายงานที่ถูกส่งเข้ามา
“เราตื่นเต้นที่จะได้นำเสนอผู้ช่วย AI ด้านความมั่นคงปลอดภัยที่เน้นนักพัฒนาเป็นศูนย์กลาง ให้กับโครงการนับแสนที่ขับเคลื่อนโลกของเราอยู่” Michael Winser ผู้ร่วมก่อตั้ง Alpha-Omega ระบุ
ที่มา: https://www.infoworld.com/article/4148197/stop-using-ai-to-submit-bug-reports-says-google.html
