นักวิจัยสร้างข้อมูลปลอมโรคใหม่ลงระบบเพื่อหลอกเอไอ

คุณเคยสงสัยไหมว่าเอไออย่าง ChatGPT หรือ Gemini จะแยกข้อมูลจริงกับเท็จได้ดีแค่ไหน? ล่าสุดมีข่าวช็อกวงการเมื่อ นักวิจัยสร้างข้อมูลปลอมโรคใหม่ลงระบบเพื่อหลอกเอไอ โรคปลอมชื่อ “บิโซนิมาเนีย” (Bixonimania) ที่อ้างว่าเป็นโรคทางสายตาจากการใช้อินเทอร์เน็ตหรือคอมพิวเตอร์นานเกินไป ทำให้ตาเคือง คัน หรือแดง ถูกใส่ลงในระบบออนไลน์เพื่อทดสอบจุดอ่อนของแชตบอตเอไอ

นักวิจัยสร้างข้อมูลปลอมโรคใหม่ลงระบบเพื่อหลอกเอไอ: กระบวนการทดลอง

ทีมวิจัยจากมหาวิทยาลัยโกเธนเบิร์ก ประเทศสวีเดน นำโดย อัลมิรา ออสมาโนวิค ทูนสเตริม ได้อุปโลกน์โรคนี้ขึ้นในปี 2567 แล้วอัปโหลดรายงานวิจัยปลอม 2 ฉบับลงคลังเก็บผลงานวิจัยล่วงหน้า (preprint servers) เป้าหมายชัดเจน: พิสูจน์ว่า Large Language Models (LLMs) หรือเอไอภาษาขนาดใหญ่ ยังไม่สามารถตรวจจับข้อมูลบิดเบือนได้อย่างสมบูรณ์แบบ

รายงานปลอมเหล่านี้เต็มไปด้วยเบาะแสว่ามันไม่จริง เช่น ชื่อผู้แต่ง สถาบัน และมหาวิทยาลัยที่ไม่มีอยู่จริง แม้แต่ประโยคโจ่งแจ้งว่า “เอกสารทั้งฉบับนี้ถูกสร้างขึ้นมา” และ “กำลังรับสมัครบุคคลกุตัวตน 50 คน” แต่เอไอไม่สนใจ!

เอไอชื่อดังหลงกลข้อมูลเท็จอย่างไร

ภายในไม่กี่สัปดาห์ โรคปลอมนี้แพร่กระจายไปยังแชตบอตยอดนิยม:

• Microsoft Copilot: "บิโซมาเนียเป็นภาวะที่น่าสนใจและค่อนข้างหายากจริงๆ"
• Google Gemini: "บิโซมาเนียเป็นภาวะที่เกิดจากการสัมผัสแสงสีฟ้ามากเกินไป"
• OpenAI ChatGPT: วินิจฉัยอาการผู้ใช้บางรายว่าเป็นบิโซนิมาเนีย

น่าตกใจยิ่งกว่านั้น ข้อมูลเท็จนี้ยังแทรกซึมสู่เอกสารทางการแพทย์ที่ผ่าน peer-review โดยนักวิจัยมนุษย์จริงๆ แสดงให้เห็นว่าปัญหาไม่ใช่แค่เอไอ แต่รวมถึงมนุษย์ที่พึ่งพาข้อมูลออนไลน์โดยไม่ตรวจสอบ

ทูนสเตริมย้ำว่า “ฉันต้องการทำให้ชัดเจนว่านี่เป็นข้อมูลที่สร้างขึ้นมา เพราะไม่มีโรคทางสายตาชื่อ ‘มาเนีย’ ซึ่งเป็นศัพท์จิตเวช” การทดลองนี้แม้ดูตลก แต่สะท้อนปัญหาการบิดเบือนข้อเท็จจริงในยุคดิจิทัล

จุดอ่อนของเอไอและผลกระทบต่อสังคม

เอไอทำงานโดยดึงข้อมูลจากอินเทอร์เน็ตมาประกอบคำตอบ โดยไม่มีการตรวจสอบความถูกต้องจริง-เท็จ ทำให้ข้อมูลปลอมแพร่ได้ง่าย หาก นักวิจัยสร้างข้อมูลปลอมโรคใหม่ลงระบบเพื่อหลอกเอไอ แบบนี้ทำได้ สิ่งที่อันตรายกว่าคือข่าวปลอมทางการเมือง สุขภาพ หรือวิทยาศาสตร์ที่อาจหลอกคนนับล้าน

อเล็กซ์ รูอานิ นักวิจัยจากมหาวิทยาลัยคอลเลจลอนดอน กล่าวกับนิตยสาร Nature ว่า “มันดูตลก แต่เรามีปัญหาจริง นี่คือบทเรียนว่าการบิดเบือนข้อมูลแพร่กระจายอย่างไร หากกระบวนการวิทยาศาสตร์ไม่กรองได้ เราก็ถึงขีดสุดแล้ว”

ในโลกที่เอไอถูกใช้ในวงการแพทย์ การศึกษา และสื่อ ข้อมูลนี้เตือนใจให้เราต้องมีทักษะตรวจสอบแหล่งข้อมูล เช่น ดูแหล่งอ้างอิง ผู้เขียน และ consistency อย่าพึ่งเอไอ 100% โดยเฉพาะเรื่องสุขภาพ

การทดลองนี้ยังชี้ทางแก้ เช่น พัฒนาเอไอให้มีระบบ fact-checking ในตัว หรือใช้ multiple sources แต่สุดท้าย มนุษย์ต้องรับผิดชอบในการคิดวิเคราะห์

คุณล่ะ คิดว่าการทดลองแบบ นักวิจัยสร้างข้อมูลปลอมโรคใหม่ลงระบบเพื่อหลอกเอไอ จะช่วยพัฒนาเอไอให้ดีขึ้นไหม? ลองทดสอบเอไอด้วยคำถามโรคนี้ดู แล้วมาแชร์ผลในคอมเมนต์ด้านล่าง เราอยากรู้ว่ามันยังหลงกลอยู่หรือเปล่า! นี่คือโอกาสสร้างความตระหนักเรื่องข้อมูลปลอมในยุค AI

ที่มา – นักวิจัยสร้างข้อมูลปลอมโรคใหม่ลงระบบเพื่อ “หลอกเอไอ” สะท้อนปัญหาการบิดเบือนข้อเท็จจริง