GenAI Trustworthy ในองค์กรของคุณหน้าตาเป็นอย่างไร?

หลายปีที่ล่วงเลยมาทุกท่านคงเคยได้สัมผัสกับ Generative AI มาแล้ว ไม่ว่าจะเป็น ChatGPT, Gemini และอื่นๆ ซึ่งหลังจากการเปิดตัวแบบที่ผู้คนทั่วไปได้สัมผัส หัวข้อเกี่ยวกับการนำมาใช้ในองค์กรก็ตามมาอย่างขมีขมัน แต่ประสบการณ์ของ AI ในระดับองค์กรนั้นต่างยังไม่มีบทสรุปที่ชัดเจน ซึ่งคงเริ่มผ่านหูผ่านตาเรื่อง AI Governance และ Guideline จากรัฐบาลในหลายประเทศ โดยสิงค์โปร์คือหนึ่งในประเทศที่รัฐบาลจริงจังกับก้าวเดินไปสู่โลกแห่ง AI อย่างน่าสนใจ

มาถึงตรงนี้หลายคงอาจตั้งคำถามเกี่ยวกับความน่าเชื่อถือในบริบทของ GenAI เพราะปัจจัยมากมายเกี่ยวข้อง ในบทความนี้ทีมงาน TechTalkThai ได้มีโอกาสเข้าร่วมสังเกตการณ์ในงานพูดคุยที่มี KBTG เป็นเจ้าภาพร่วมกับ Vulcan ผู้เชี่ยวชาญในด้าน AI Security ต้นตำรับจากสิงค์โปร์ ซึ่งได้เชิญผู้นำจากธุรกิจองค์กรหลายท่าน รวมถึงองค์กรที่มีบทบาทในระดับการบังคับใช้อย่าง NCSA และ ETDA  เข้าร่วมพูดคุยเกี่ยวกับความเป็นไปของ AI Trustworthy ในองค์กรของพวกเขา ภาพของความเข้าใจและประสบการณ์ของแต่ละองค์กรเป็นอย่างไร

เทคโนโลยีของ AI ในการเงินการธนาคารโดย KBTG

หากพูดถึงการใช้งาน AI ในระดับองค์กร ภาคการเงินการธนาคารมักอยู่ในกลุ่มชั้นนำเสมอในเทคโนโลยีนี้ เริ่มต้นมาตั้งแต่เรื่องของการประเมินความเสี่ยง (Credit Scoring) ที่มีเทคโนโลยี Machine Learning และ Deep Learning เป็นแกนหลัก แต่ก็มาพร้อมกับต้นทุนสูงลิ่วจากกลุ่ม Data Scientist ผู้เชี่ยวชาญ

เมื่อ GenAI ก้าวเข้ามา สิ่งนี้กลับเปลี่ยนภาพจำ AI จากองค์กรยักษ์ใหญ่ด้านเทคโนโลยีอย่าง KBTG ไปอย่างสิ้นเชิง เพราะต้นทุนการเข้าถึงเทคโนโลยีถูกกว่ามหาศาล เส้นแบ่งระหว่างองค์กรกับบัญชีส่วนตัวแทบจะแยกกันไม่ออก นำไปสู่ประเด็นด้านการควบคุมในด้าน Security และ Privacy รวมไปถึงความตระหนักรู้อย่างเท่าทันจากผู้ใช้ว่าผลลัพธ์จะต้องถูกตรวจสอบเพราะมีความไม่แน่นอนซ่อนอยู่

แม้ความเสี่ยงจะเกิดขึ้นแต่ฝ่ายบังคับใช้ก็ยากที่จะต่อต้านความจริงที่ว่า “AI ทำให้งานทำสไลต์ 6 ชั่วโมง จบได้ใน 5 นาที ดังนั้นสิ่งที่ต้องมุ่งเน้นคือจะทำอย่างไรให้พนักงานได้ประโยชน์จาก AI อย่างมีคุณภาพที่ควรเป็น มีความน่าเชื่อถือที่แท้จริง ยอมรับจริงๆว่า KBTG เองก็ยังไม่สามารถจัดการความท้าทายนี้ได้ทั้งหมด” — ดร. โกเมษ จันทวิมล Principal AI Evangelist, KBTG กล่าวนำในช่วงเริ่มหัวข้อสนทนา

ความกลัวตกขบวนและราคาที่ต้องจ่าย

การก้าวลงสนามช้าอาจทำให้ธุรกิจของคุณตกขบวน ซึ่งผู้กุมบังเหียนของธุรกิจจะต้องชั่งนำหนักระหว่างความเสี่ยงและนวัตกรรม จากประสบการณ์ของผู้บริหารรายหนึ่งในงานเผยว่าเขาสนับสนุนให้พนักงานได้ ‘ลอง’ เพื่อที่จะมีตอบคำถามได้ว่า AI ค่ายใดที่ให้ความคุ้มค่าได้มากที่สุดต่อต้นทุน โดยที่พวกเขาเริ่มตั้งข้อสังเกตกับต้นทุนจาก Token เช่นเดียวที่ผู้คนพูดถึงในโลกออนไลน์ แต่สิ่งที่อยากจะตอกย้ำของเขาคือ “องค์กรของคุณจะไม่มีวันทราบได้ หากคุณไม่ได้ลอง”

การทดลองเป็นก้าวแรกที่พึงกระทำ แต่ยังมีหลายๆประเด็นตามมาก็คือ เราจะติดตามการใช้งานได้อย่างไร ซึ่งนั่นเป็นประเด็นที่เป็นที่มาของหัวข้อในวันนี้ อนึ่งประสบการณ์ของผู้บริหารอีกท่านก็ดังขึ้นมาว่า ตัวของเธอเข้าใจดีถึงความเสี่ยงจากการใช้งาน Chatbot เพื่อตอบคำถาม เพราะอาจส่งผลโดยตรงต่อชื่อเสียงขององค์กร หาก Chatbot ตอบผิดพลาด ซึ่งเธอได้เน้นถึงการทดสอบที่เข้มข้นให้มากเพียงพอก่อนที่จะออกสู่ตลาด

เมื่อประเด็นในการพูดคุยก้าวเข้ามาถึงจุดนี้ มีการแตกประเด็นย่อยตั้งคำถามเกี่ยวกับ AI Trustworthy ประเด็นแรก ว่าเราอาจต้องตีความ Trustworthy ตามระดับความเสี่ยงและผลกระทบกับแต่ละองค์กรด้วยสายตาต่างกัน ที่จะผูกพันไปถึงความเข้มข้นในการทดสอบและป้องกันที่ต่างกันออกไป ในขณะที่ประเด็นที่สอง มีการตั้งคำถามเกี่ยวกับความรวดเร็วในการพัฒนารายวันนำไปสู่ความเสี่ยงใหม่ที่เราไม่เคยรู้มาก่อนเกิด (Unknown Risk) ทำให้มาตรการป้องกันตามไม่ทันแล้วเราจะจัดการอย่างไร

มาลองดูประสบการณ์จาก KBTG ในประสบการณ์ด้าน GenAI ของพวกเขากันบ้าง ด้วยความที่เป็นองค์กรขนาดใหญ่จึงเผชิญกับผู้ใช้งานได้ทุกช่วงวัย ซึ่งนำไปสู่ประเด็นด้านความอ่อนไหวของภาษา (linguistic) เช่น การถามคำถามที่ผสมระหว่างไทยและอังกฤษ การถามคำถามด้วยภาษาอังกฤษล้วนที่คนถามเป็นคนไทย การใส่อีโมจิไปในคำถาม ฯลฯ นั่นทำให้ KBTG ต้องทดสอบ Use Case ในการใช้งานที่กว้างมาก

นอกจากการสอบเชิงภาษาทาง KBTG ยังได้ให้ความสำคัญกับความเชี่ยวชาญเฉพาะทางของโมเดล (Domain Expert) ซึ่งแต่ละโมเดลมีความเก่งเฉพาะทางไม่เท่ากัน แม้เราอาจแก้ปัญหาเรื่องของโมเดลที่เชี่ยวชาญภาษาไทยได้จริง แต่นั่นไม่ได้หมายความว่าโมเดลนั้นจะเพียงพอต่อการนำไปใช้ในธุรกิจการเงินหรือธุรกิจอื่นที่ต่างออกไป อีกทั้งเรายังไม่มีเครื่องมือที่จะ Benchmark ผลลัพธ์ของแต่ละโมเดลอย่างเป็นกลางได้ด้วย นั่นคืออีกประเด็นชวนคิดที่น่าสนใจของช่วงการแลกเปลี่ยนความเห็นในภาพรวม

การขยับตัวระดับรัฐบาลในเวทีโลกและประเทศไทย

Alvin Kwock และ Sue Yen Leow เป็นอีกกระบอกเสียงหนึ่งของ Vulcan ผู้นำเสนอโซลูชันด้าน AI Security ให้กับการใช้งาน AI โดยมีทั้งเครื่องมือหาช่องโหว่ (Vulcan Attack) ที่สามารถจำลองการโจมตีการใช้งาน AI แบบ Blackbox พร้อมวัดผลได้ (Benchmark) , เครื่องมือเชิงป้องกันการใช้งานแบบเรียลไทม์ (Vulcan Protect) จับตาเนื้อหาที่มีความเสี่ยงหรือไม่ได้รับอนุญาต ไปจนถึงเฝ้าระวังข้อมูลรั่วไหล และบริการทดสอบและให้คำปรึกษาโดยกลุ่มคนผู้เชี่ยวชาญ (Red Teaming)

คุณ Sue Yen ถือเป็นผู้ที่มีประสบการณ์ในเวทีระดับสากล กับสิงค์โปร์ที่รัฐบาลกระโดดเข้ามาสนับสนุนเรื่องนี้อย่างเข้มแข็งและจริงจัง นอกจากนี้เรายังได้มุมมองจากคุณ Alvin เกี่ยวกับธุรกิจในฝั่งตะวันออกกลางเกี่ยวกับ AI ด้วย เมื่อการสนทนาดำเนินมาได้ระยะหนึ่ง ผู้เข้าร่วมกับได้ฟังตัวอย่างของรัฐบาลสิงค์โปร์ว่าพวกเขามีโปรเจ็ค Sandbox ที่เปิดให้ผู้สนใจนำ AI มาทดสอบ ควบคู่ไปกับการออก Framework ครอบคลุมถึงการบริการจัดการ (AI Lifecycle Management), การกำกับดูแล (Governance) และการใช้งานจริง (Deployment) ซึ่งช่วยให้ธุรกิจสามารถอ้างอิงได้อย่างมีหลักการในทิศทางที่เหมาะสม

ตัวแทนของทาง NCSA และ ETDA ที่ได้เข้าร่วมการอภิปราย ได้เผยให้เห็นถึงความเคลื่อนไหวเชิงนโยบายของทางภาครัฐไทย ว่าอันที่จริงมีการเคลื่อนไหวอย่างต่อเนื่อง แม้จะยังไม่สามารถนำไปสู่กฎหมายบังคับเพราะมีปัจจัยมากมายที่ต้องคำนึงถึง เช่น ความรวดเร็วในนวัตกรรม การกำกับดูแลที่อาจลดทอนความสามารถในการใช้งาน การให้ความรู้ความเข้าใจต่อประชาชน ฯลฯ ซึ่งเรื่องเหล่านี้ถือเป็นความละเอียดก่อนที่ต้องชั่งน้ำหนักระหว่างผลดีและผลเสีย อย่างไรก็ดี NCSA เองได้มีการออก AI Governance Guideline เพื่อให้องค์กรและหน่วยงานรัฐสามารถนำไปประยุกต์ใช้และประเมินการดำเนินงานได้ด้วยตนเอง ทำให้องค์กรเตรียมความพร้อมได้อย่างมีหลักการ

บทสรุปที่ไม่สรุป

หัวข้อวงเสวนาวันนี้สะท้อนให้เห็นถึงความท้าทายเกี่ยวกับ AI Trustworthy ในอุตสาหกรรมของไทยและสากลกำลังเผชิญอยู่ แต่นี่ไม่สามารถคาดหวังแนวทางเดียวให้เหมาะกับทุกคน เพราะยังมีความซับซ้อนในประเด็นด้านต้นทุนและระดับความเสี่ยงที่ต่างกันออกไป ความรวดเร็วของ AI มีมากเสียจนการป้องกันแทบไม่ทัน ยิ่งมองถึงการจัดการเชิงนโยบายก็ยิ่งต้องพิจารณาให้ครอบคลุม แม้วันนี้ AI ยังทำลายสถิติใหม่ๆรายวัน ทำเอาผู้ใช้งานอย่างเราๆอึ้งและกังวลว่าจะตกขบวน

อย่างไรก็ดีเมื่อมองมุมขององค์กร เรายังต้องกลับมาครุ่นคิดให้มากว่าโมเดลเหล่านั้นจะปลอดภัยได้จริงไปตลอดหรือไม่ เราจะรับมือกับช่องว่างทางภาษาและความเชี่ยวชาญที่มีข้อมูลไม่เท่ากันอย่างไร สุดท้ายนี้จึงอยากชวนให้ผู้อ่านที่ได้อ่านบทความนี้ย้อนถามกับตัวเองว่า แล้ว AI Trustworthy ของคุณหล่ะหน้าตาเป็นอย่างไร?