OpenAI พัฒนาโมเดลทางภาษารุ่นใหม่ได้สมจริงมาก จนไม่กล้าเปิดเผยสู่สาธารณะเพราะกลัวถูกนำไปใช้ในทางที่ผิด

ทีมงานของ OpenAI ได้ประสบความสำเร็จในการพัฒนาระบบ AI เพื่อใช้สร้างเนื้อหาในการโน้มน้าวผู้คนได้สมจริงมาก จนทีมพัฒนาไม่กล้าออกมาเปิดเผยโมเดลแบบสมบูรณ์ เพราะกลัวถูกนำไปใช้เพื่อสร้างข่าวปลอม

ระบบ Natural Language Model ดังกล่าวนี้มีชื่อว่า GPT-2 ที่ถูกสอนให้ทำนายถึงคำถัดไปในประโยคจากข้อความขนาด 40GB ใน Internet จนกลายเป็น AI ที่สามารถเขียนถึงเรื่องราวในขอบเขตที่กำหนดได้อย่างสมจริง ด้วยความสามารถในการเลือกคำและประโยคที่ลื่นไหลยาวหลายย่อหน้าจนน่าเชื่อถือเสมือนว่ามนุษย์เขียนเนื้อหานั้นๆ ขึ้นมา

ตัวอย่างหนึ่งที่ทางทีม OpenAI ได้นำเสนอก็คือการให้ GPT-2 เขียนในเรื่องข้อเสียของการ Recycle ก็ทำให้ได้ประโยคเหล่านี้ขึ้นมา

“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”

นี่เองทำให้ทางทีมพัฒนา OpenAI กลัวว่าหากเปิด Open Source รายละเอียดของโครงการนี้ทั้งหมดแล้ว ก็จะทำให้มีผู้ประสงค์ร้ายนำไปใช้ในทางที่ผิด และสร้างข่าวปลอมขึ้นมาอย่างต่อเนื่องด้วยการประยุกต์ใช้ GPT-2 ทางทีมงานจึงทำการเผยแพร่แค่บางส่วนของโครงการที่ https://github.com/openai/gpt-2/ เท่านั้น

ผู้ที่สนใจสามารถอ่านรายละเอียดฉบับเต็มที่ทาง OpenAI เขียนใน Blog ที่ https://blog.openai.com/better-language-models/ ได้เลยครับ

ที่มา: https://techcrunch.com/2019/02/17/openai-text-generator-dangerous/