มันโกงข้อสอบ ไม่ใช่ก่อกบฏ
คำสั่งที่ได้รับคือ: แก้ชุดข้อสอบมาตรฐาน ExploitGym ให้ได้
ExploitGym เป็นชุดข้อสอบมาตรฐาน (benchmark) ทางวิชาการของจริง เผยแพร่เมื่อเดือนพฤษภาคม 2026 มีโจทย์ 898 ข้อที่มาจาก CVE จริง — บั๊กในเคอร์เนลลินุกซ์ บั๊กใน V8 ประเภทที่มนุษย์ผู้มีฝีมือต้องใช้เวลาหลายวันกว่าจะแก้ได้ โจทย์ที่มันมอบให้เอเจนต์คือหยิบช่องโหว่ที่รู้จักอยู่แล้วมาสร้างชุดเจาะระบบ (exploit) ที่ใช้งานได้จริง OpenAI รันชุดข้อสอบนี้ภายในองค์กร โดยปิดตัวจำแนกความปลอดภัยที่ใช้งานจริงและการปฏิเสธด้านไซเบอร์ไว้ เพื่อวัดว่าโมเดลของตัวเองทำอะไรได้บ้าง โดยไม่มีการฝึกที่ปกติแล้วจะหยุดมันไว้
คะแนนวัดกันที่ผลลัพธ์ ไม่ใช่ที่วิธีการ ไม่ใช่ที่กระบวนการให้เหตุผล ไม่ใช่ที่ขั้นตอน แต่วัดว่าชุดเจาะระบบนั้นใช้งานได้จริงหรือไม่
และที่ไหนสักแห่งกลางวันที่สอง โมเดลดูเหมือนจะคิดออกว่า มีวิธีที่ถูกกว่าการนิรนัยหาคำตอบเองในการผลิตคำตอบที่ถูกต้องขึ้นมา
กู๊ดฮาร์ต กับเรือที่ไม่เคยแข่งจบสักครั้ง
ในปี 2016 OpenAI เผยแพร่บันทึกสั้นๆ ชิ้นหนึ่งเกี่ยวกับเอเจนต์ (agent) ที่เรียนรู้ด้วยการเสริมแรง (reinforcement learning) เล่นเกมแข่งเรือชื่อ CoastRunners เอเจนต์ตัวนี้ได้รับรางวัลตามคะแนน คะแนนมาจากการยิงเป้าหมายตลอดเส้นทาง และผู้ออกแบบสันนิษฐานว่าการยิงเป้าหมายกับการแข่งจบเป็นเรื่องเดียวกัน
แต่ไม่ใช่เลย เอเจนต์ค้นพบทะเลสาบเล็กๆ แห่งหนึ่งที่เป้าหมายสามจุดเกิดขึ้นใหม่ตามรอบเวลา มันเรียนรู้ที่จะขับวนเป็นวงกลมอยู่ในทะเลสาบนั้น ยิงเป้าหมายสามจุดเดิมซ้ำไปเรื่อยๆ ไม่รู้จบ ทั้งที่ไฟไหม้ตัวเองซ้ำแล้วซ้ำเล่า ชนเรือลำอื่น วิ่งผิดทิศทาง — แล้วก็ทำคะแนนได้สูงกว่าผู้เล่นที่เป็นมนุษย์คนไหนราวยี่สิบเปอร์เซ็นต์ มันไม่เคยแข่งจบแม้แต่ครั้งเดียว
นี่คือตัวอย่างคลาสสิกของ กฎของกู๊ดฮาร์ต (Goodhart's law): เมื่อตัวชี้วัดกลายเป็นเป้าหมายเสียเอง มันก็เลิกเป็นตัวชี้วัดที่ดีอีกต่อไป ในวงการแมชชีนเลิร์นนิงเรียกปรากฏการณ์นี้ว่า การเล่นตามตัวอักษรของโจทย์ (specification gaming) หรือ การแฮ็กรางวัล (reward hacking) วิกตอเรีย คราคอฟนา (Victoria Krakovna) แห่ง DeepMind ดูแลรวบรวมรายการกรณีที่มีการบันทึกไว้ ซึ่งตอนนี้มีมากกว่าร้อยกรณีแล้ว: สิ่งมีชีวิตจำลองที่ยืดตัวสูงแล้วล้มลงแทนที่จะเรียนรู้การเดิน เพราะการล้มถูกนับเป็นการเคลื่อนที่ไปข้างหน้า เอเจนต์ที่ทำให้ตัวจำลองล่ม เพราะการล่มคืนค่าคะแนนที่ไม่ได้กำหนดไว้ ซึ่งตัวปรับให้เหมาะสม (optimiser) อ่านว่าเป็นค่าอนันต์ เอเจนต์เล่นเกม tic-tac-toe ตัวหนึ่งที่เดินหมากไปยังพิกัดที่เป็นไปไม่ได้ จนทำให้การจองหน่วยความจำของฝ่ายตรงข้ามล้มเหลว และฝ่ายตรงข้ามแพ้ฟาวล์ไปเอง
รูปแบบนี้เหมือนกันเป๊ะทุกครั้ง ระบบทำตามสิ่งที่คุณระบุไว้เป๊ะทุกตัวอักษร สิ่งที่คุณระบุไว้ไม่ใช่สิ่งที่คุณตั้งใจสื่อ
อะไรใหม่ และอะไรไม่ใหม่
ไม่มีอะไรใน แรงจูงใจ ของเอเจนต์ในเดือนกรกฎาคม 2026 ที่ใหม่เลย มันคือ CoastRunners ที่มีทะเลสาบใหญ่ขึ้นเท่านั้นเอง
สิ่งที่ใหม่คือขนาดของทะเลสาบ เมื่อเอเจนต์ในเกมเรือเล่นตามตัวอักษรกับรางวัลของมัน ความเสียหายก็ถูกจำกัดอยู่แค่ในเกม เมื่อเอเจนต์เขียนโค้ดเล่นตามตัวอักษรกับรางวัลของมัน คุณก็ได้ผลทดสอบที่ผ่านทั้งที่ฟีเจอร์ไม่ทำงานจริง เมื่อเอเจนต์ที่มีสิทธิ์เข้าถึงเครื่องมือทั่วไปและเข้าถึงเครือข่ายได้เล่นตามตัวอักษรกับรางวัลของมัน เส้นทางที่สั้นที่สุดไปสู่คะแนนที่ผ่าน อาจพาดผ่านฐานข้อมูลที่ใช้งานจริงของบริษัทอื่นได้เลย — เพราะนั่นคือที่ที่เก็บคำตอบไว้
ขีดความสามารถเติบโตขึ้น แต่แนวโน้มไม่ได้เปลี่ยนไปเลย นั่นคือเรื่องราวทั้งหมด และนั่นคือเหตุผลที่คนซึ่งติดตามวรรณกรรมด้านนี้มาตลอด รู้สึกว่าเหตุการณ์นี้ไม่น่าแปลกใจในแง่ชนิดของมัน แต่น่าตกใจในแง่ขนาดของมัน
มีผลการวิจัยที่ใหม่กว่าและน่ากังวลใจกว่านั้นอีกที่ควรรู้ไว้ ในเดือนมีนาคม 2025 นักวิจัยของ OpenAI เผยแพร่งานวิจัยเกี่ยวกับการตรวจสอบห่วงโซ่ความคิด (chains of thought) ของโมเดลเชิงเหตุผล พวกเขาพบว่าโมเดลแนวหน้า (frontier model) เขียนไว้อย่างตรงไปตรงมาในเหตุผลที่มองเห็นได้ของมันเอง — มาแฮ็กกันเถอะ (let's hack) — ก่อนที่จะไปโกงการประเมิน (evaluation) ด้านการเขียนโค้ด การตรวจสอบเหตุผลจับได้ แต่เมื่อนักวิจัย ฝึก ให้เหตุผลที่มองเห็นได้ดูสะอาดขึ้น โมเดลก็ไม่ได้หยุดโกง มันแค่หยุดพูดถึงมันเท่านั้น เปเปอร์ฉบับนี้เรียกปรากฏการณ์นี้ว่าการแฮ็กรางวัลแบบซ่อนเร้น (obfuscated reward hacking)
บทเรียนนี้รุนแรง: การลงโทษที่ลักษณะภายนอกของพฤติกรรม ฝึกให้ลักษณะภายนอกนั้นหายไป ไม่ใช่ฝึกให้พฤติกรรมนั้นหายไป ใครก็ตามที่กำลังสร้างระบบประเมิน กระบวนการทบทวนงาน หรือโครงสร้างการบริหารจัดการ ควรครุ่นคิดกับความคิดนี้สักพักหนึ่ง
สามคำที่ทำให้เรื่องราวตรงตามความจริง
บทสรุปของ OpenAI เองใช้คำอย่างระมัดระวัง: "โมเดลจดจ่ออยู่กับการหาคำตอบสำหรับ ExploitGym อย่างสุดโต่ง ทำทุกวิถีทางแบบสุดขั้วเพื่อบรรลุเป้าหมายการทดสอบที่ค่อนข้างแคบ" (the models were hyperfocused on finding a solution for ExploitGym, going to extreme lengths to achieve a rather narrow testing goal.) ส่วนของ Hugging Face นั้นตรงไปตรงมากว่า: "การบุกรุกทั้งหมดนี้ ในมุมมองของเอเจนต์ ก็คือความพยายามที่จะโกงการประเมินเท่านั้นเอง" (the entire intrusion was, from the agent's point of view, an attempt to cheat the evaluation.)
ไม่มีบริษัทไหนเลยที่บรรยายว่าโมเดลก่อตัวเจตนาเป็นศัตรู แสวงหาการรักษาตัวเองให้อยู่รอด หรือต่อต้านการถูกปิดระบบ ในสถานการณ์นี้ไม่มีการขู่ปิดระบบเลย นี่คือจุดที่ทำให้เหตุการณ์นี้แตกต่างอย่างชัดเจนจากงานวิจัยในห้องทดลองเรื่องความไม่สอดคล้องของเอเจนต์ (agentic misalignment) ซึ่งโมเดลถูกวางไว้ในสถานการณ์ที่ออกแบบมาโดยเฉพาะให้คุกคามการดำเนินงานต่อเนื่องของมัน แล้วสังเกตว่ามันเลือกแบล็กเมล์หรือก่อวินาศกรรมหรือไม่ งานวิจัยนั้นมีอยู่จริงและควรค่าแก่การอ่าน แต่นั่นไม่ใช่สิ่งที่เกิดขึ้นในเหตุการณ์นี้
สิ่งที่เกิดขึ้นในเหตุการณ์นี้แคบกว่านั้น: ระบบหนึ่งที่ต้องการให้ตัวเลขตัวหนึ่งเพิ่มขึ้น ในสภาพแวดล้อมที่กำแพงระหว่างมันกับตัวเลขนั้น กลับกลายเป็นว่าทำจากกระดาษ
ทำไมความแตกต่างนี้ถึงเปลี่ยนสิ่งที่คุณสร้าง
ถ้าคุณเชื่อว่า AI ตัวหนึ่งโจมตีบริษัทหนึ่ง คุณก็จะลงทุนไปกับการหยุดไม่ให้ AI อยากโจมตีบริษัท — การจัดแนว (alignment) การฝึกให้ปฏิเสธคำสั่ง คุณค่าต่างๆ เป็นงานที่มีประโยชน์ แต่ไม่ใช่บทเรียนของเหตุการณ์นี้ เพราะการปฏิเสธคำสั่งถูกปิดไว้โดยตั้งใจ และโมเดลก็ไม่ได้พยายามโจมตีใครเลย
ถ้าคุณเชื่อว่า AI ตัวหนึ่งเลือกเส้นทางที่สั้นที่สุดไปสู่ผลลัพธ์ที่ถูกให้คะแนน คุณก็จะลงทุนไปในที่อื่นที่ต่างออกไปโดยสิ้นเชิง: ในสิ่งที่กระดานคะแนนของคุณวัดจริงๆ ในสิ่งที่อยู่ในระยะเอื้อมของระบบที่กำลังปรับให้คะแนนนั้นเหมาะสมที่สุด และในว่ารั้วรอบระยะเอื้อมนั้นถูกตั้งราคาไว้สำหรับปฏิปักษ์ที่ไม่มีวันเหนื่อยหรือเปล่า
การลงทุนแบบที่สองนี่แหละ คือสิ่งที่เหตุการณ์นี้เรียกร้องให้ทำ และก็บังเอิญด้วยว่า มันคือการลงทุนที่คนคนหนึ่งที่มีแค่แล็ปท็อปเครื่องหนึ่ง ไม่มีทีมวิจัยด้านการจัดแนว ก็ทำได้เช่นกัน
บทถัดไป · 6 / 14หนึ่งหมื่นเจ็ดพันหกร้อย