OpenAI พัฒนาโมเดลทางภาษารุ่นใหม่ได้สมจริงมาก จนไม่กล้าเปิดเผยสู่สาธารณะเพราะกลัวถูกนำไปใช้ในทางที่ผิด

ทีมงานของ OpenAI ได้ประสบความสำเร็จในการพัฒนาระบบ AI เพื่อใช้สร้างเนื้อหาในการโน้มน้าวผู้คนได้สมจริงมาก จนทีมพัฒนาไม่กล้าออกมาเปิดเผยโมเดลแบบสมบูรณ์ เพราะกลัวถูกนำไปใช้เพื่อสร้างข่าวปลอม

Credit: OpenAI

ระบบ Natural Language Model ดังกล่าวนี้มีชื่อว่า GPT-2 ที่ถูกสอนให้ทำนายถึงคำถัดไปในประโยคจากข้อความขนาด 40GB ใน Internet จนกลายเป็น AI ที่สามารถเขียนถึงเรื่องราวในขอบเขตที่กำหนดได้อย่างสมจริง ด้วยความสามารถในการเลือกคำและประโยคที่ลื่นไหลยาวหลายย่อหน้าจนน่าเชื่อถือเสมือนว่ามนุษย์เขียนเนื้อหานั้นๆ ขึ้นมา

ตัวอย่างหนึ่งที่ทางทีม OpenAI ได้นำเสนอก็คือการให้ GPT-2 เขียนในเรื่องข้อเสียของการ Recycle ก็ทำให้ได้ประโยคเหล่านี้ขึ้นมา

“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”

นี่เองทำให้ทางทีมพัฒนา OpenAI กลัวว่าหากเปิด Open Source รายละเอียดของโครงการนี้ทั้งหมดแล้ว ก็จะทำให้มีผู้ประสงค์ร้ายนำไปใช้ในทางที่ผิด และสร้างข่าวปลอมขึ้นมาอย่างต่อเนื่องด้วยการประยุกต์ใช้ GPT-2 ทางทีมงานจึงทำการเผยแพร่แค่บางส่วนของโครงการที่ https://github.com/openai/gpt-2/ เท่านั้น

ผู้ที่สนใจสามารถอ่านรายละเอียดฉบับเต็มที่ทาง OpenAI เขียนใน Blog ที่ https://blog.openai.com/better-language-models/ ได้เลยครับ

ที่มา: https://techcrunch.com/2019/02/17/openai-text-generator-dangerous/


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

มารู้จักกับความหมายของ ITSM

ทาง CIO ได้อธิบายความหมายของ ITSM หรือ IT Service Management ไว้อย่างครอบคลุม ซึ่งทางเราเห็นว่าน่าสนใจดีจึงขอนำมาสรุปให้อ่านกันสั้นๆ ครับ

ประกาศผลการแข่งขัน Cisco Innovation Challenge 2019

ได้แล้วผู้ชนะเลิศ! กับสุดยอดไอเดียเปลี่ยนสังคม! Cisco Innovation Challenge 2019 คัดเลือกกันอย่างเข้มข้นจากผู้สมัครนับร้อยทีมเหลือเพียง 10 ทีม ที่ต้องมานำเสนอไอเดียกันสดๆ ต่อหน้าคณะกรรมการผู้ทรงคุณวุฒิจากหลากหลายสถาบัน การแข่งขันรายการนี้ จัดขึ้นเป็นครั้งแรกในประเทศไทย เพื่อเฟ้นหาสุดยอดไอเดียที่จะเปลี่ยนสังคมให้ดีขึ้น ด้วยการใช้เทคโนโลยี …