OpenAI พัฒนาโมเดลทางภาษารุ่นใหม่ได้สมจริงมาก จนไม่กล้าเปิดเผยสู่สาธารณะเพราะกลัวถูกนำไปใช้ในทางที่ผิด

ทีมงานของ OpenAI ได้ประสบความสำเร็จในการพัฒนาระบบ AI เพื่อใช้สร้างเนื้อหาในการโน้มน้าวผู้คนได้สมจริงมาก จนทีมพัฒนาไม่กล้าออกมาเปิดเผยโมเดลแบบสมบูรณ์ เพราะกลัวถูกนำไปใช้เพื่อสร้างข่าวปลอม

Credit: OpenAI

ระบบ Natural Language Model ดังกล่าวนี้มีชื่อว่า GPT-2 ที่ถูกสอนให้ทำนายถึงคำถัดไปในประโยคจากข้อความขนาด 40GB ใน Internet จนกลายเป็น AI ที่สามารถเขียนถึงเรื่องราวในขอบเขตที่กำหนดได้อย่างสมจริง ด้วยความสามารถในการเลือกคำและประโยคที่ลื่นไหลยาวหลายย่อหน้าจนน่าเชื่อถือเสมือนว่ามนุษย์เขียนเนื้อหานั้นๆ ขึ้นมา

ตัวอย่างหนึ่งที่ทางทีม OpenAI ได้นำเสนอก็คือการให้ GPT-2 เขียนในเรื่องข้อเสียของการ Recycle ก็ทำให้ได้ประโยคเหล่านี้ขึ้นมา

“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”

นี่เองทำให้ทางทีมพัฒนา OpenAI กลัวว่าหากเปิด Open Source รายละเอียดของโครงการนี้ทั้งหมดแล้ว ก็จะทำให้มีผู้ประสงค์ร้ายนำไปใช้ในทางที่ผิด และสร้างข่าวปลอมขึ้นมาอย่างต่อเนื่องด้วยการประยุกต์ใช้ GPT-2 ทางทีมงานจึงทำการเผยแพร่แค่บางส่วนของโครงการที่ https://github.com/openai/gpt-2/ เท่านั้น

ผู้ที่สนใจสามารถอ่านรายละเอียดฉบับเต็มที่ทาง OpenAI เขียนใน Blog ที่ https://blog.openai.com/better-language-models/ ได้เลยครับ

ที่มา: https://techcrunch.com/2019/02/17/openai-text-generator-dangerous/


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

หนึ่งเดียวไม่มีสอง! วิศวกรสาวจาก True IDC ได้รับการแต่งตั้งเป็น APN Ambassador จาก AWS

ทีมงาน TechTalkThai ได้มีโอกาสสัมภาษณ์คุณปาริชาติ เจริญจงสุข Professional Service Manager จาก True IDC ผู้ซึ่งได้รับการแต่งตั้งเป็น APN Ambassador โดย Amazon …

[Guest Post]ทิพยประกันภัยจับมือ SkillLane เดินหน้าสู่การเป็น Digital Insurer อันดับ 1 เปลี่ยนทั้งองค์กรสู่ Digital Transformation ด้วยพลังแห่งคน

ทิพยประกันภัย เดินหน้าตอกย้ำความมุ่งมั่นในการเป็น No.1 Digital Insurer ของประเทศ ด้วยการพัฒนาบุคลากร โดยจับมือกับ SkillLane บริษัท Online Learning Platform และ Digital …