บทที่ 4 — อ่านกองเอกสาร
เจ้าหน้าที่ฝรั่งเศสและเนเธอร์แลนด์อ่าน บทสนทนากว่า 115 ล้านข้อความ ของผู้ใช้งาน กว่า 60,000 คน บนเครือข่ายโทรศัพท์เข้ารหัสชื่อ EncroChat ระหว่างเดือนเมษายนถึงมิถุนายน 2020 ผลที่ตามมา: การจับกุม 6,558 ราย ทั่วโลก ทรัพย์สินถูกยึดประมาณ 900 ล้านยูโร โคเคนกว่าร้อยตัน กัญชา 160 ตัน อาวุธกว่า 900 ชิ้น [ESTABLISHED] (Eurojust; Computer Weekly)
Sky ECC ซ้ำรอยเดิมในเดือนมีนาคมถัดมา: เฝ้าติดตามบัญชีกว่า 160,000 บัญชี เข้าถึงข้อความกว่า หนึ่งพันล้านข้อความ จับกุมประมาณ 10,000 ราย ยาเสพติด 121 ตัน [ESTABLISHED] (Eurojust annual report 2021)
ข้อแก้ไขหนึ่งต้องติดไปกับตัวเลขเหล่านั้นเสมอ เพราะมันคือข้อเท็จจริงที่ถูกนำไปใช้ผิดบ่อยที่สุดในสาขานี้ทั้งหมด: จุดที่ทำให้คดีคลี่คลายไม่ใช่ปัญญาประดิษฐ์ มันคือการเจาะเข้าไปในเครือข่ายทางเทคนิค — ปฏิบัติการแฮ็ก ไม่มีแบบจำลองใดทลายการเข้ารหัสได้
เครื่องจักรทำทุกอย่างหลังจากนั้น คนอ่านข้อความหนึ่งพันล้านข้อความไม่ได้ คัดกรอง สกัดเอนทิตี วิเคราะห์คำสำคัญและลิงก์ในระดับนั้น ต้องทำอัตโนมัติ ไม่เช่นนั้นก็ไม่เกิดขึ้นเลย ปฏิบัติการเหล่านี้จึงเป็นหลักฐานที่ชอบธรรมว่าการประมวลผลอัตโนมัติเปลี่ยนสิ่งที่สืบสวนได้ — และไม่ใช่หลักฐานว่า AI จับคนร้ายได้ ใครอ้าง EncroChat เป็นความสำเร็จของ AI ถ้าไม่สับสนก็กำลังขายของบางอย่างอยู่
บทนี้ขีดเส้นแบ่งนั้นให้ชัด: เครื่องจักรทำอะไรกับกองเอกสารคดีจริงๆ และอะไรที่มันไม่ทำโดยหลักการ
ข้ออ้างที่คุณจะได้ยิน และเกรดของมัน
ตำรวจเบดฟอร์ดเชียร์ยึดสมาร์ตโฟนประมาณสองโหลในการสืบสวนคดีฉ้อโกง — ข้อมูล 1.4 เทราไบต์ มีรายงานว่าระบบ AI อ่านและแปลข้อความได้ มากกว่า 100,000 ข้อความในวันเดียว งานที่กล่าวกันว่าปกติต้องใช้เวลาเป็นเดือนหรือเป็นปี ชายหกคนถูกตัดสินลงโทษจากแผนโกงเงิน £800,000 ผ่านการถอนเงินจากตู้เอทีเอ็มกว่า 3,000 ครั้ง ระบบนี้ชื่อ Nectar บริษัท Palantir เป็นผู้จัดหา [CLAIMED] (IBTimes UK)
การตัดสินลงโทษเป็นเรื่องจริง ข้ออ้างเรื่องปริมาณและเส้นเวลาเปรียบเทียบไม่ใช่ ทั้งสองมาจากตำรวจรายงานตัวเองผ่านสื่อ และผมไม่พบการยืนยันอิสระของทั้งสองเรื่องเลย ไม่มีใครจับเวลาทางเลือกอื่นไว้
แพลตฟอร์มเดียวกันนี้รวบรวมข้อมูลจากประมาณ 80 แหล่งข้อมูล และแตะต้องข้อมูลส่วนบุคคลประเภทอ่อนไหว 11 หมวดหมู่ — เชื้อชาติ รสนิยมทางเพศ ความคิดเห็นทางการเมือง สุขภาพ ชีวิตทางเพศ การเป็นสมาชิกสหภาพแรงงาน — ตามที่นักข่าวเข้าไปตรวจสอบพบ ตำรวจเบดฟอร์ดเชียร์และ Palantir ตอบว่าระบบเพียงรวบรวมข้อมูลที่ถือครองไว้อย่างถูกกฎหมายอยู่แล้ว และไม่ได้เพิ่มชั้นการทำนายใดๆ ส.ส. ระดับสูงและ Amnesty International เรียกมันว่าการสอดแนมมวลชนแบบไม่เลือกหน้าที่ขาดการกำกับดูแลที่เพียงพอ [CONTESTED] (Liberty Investigates)
ทั้งสองเรื่องเป็นจริงพร้อมกัน เกี่ยวกับผลิตภัณฑ์เดียวกัน ในปีเดียวกัน นั่นเป็นเรื่องปกติในสาขานี้ และหนังสือเล่มนี้จะไม่ตัดสินให้คุณ สิ่งที่มันจะทำคือยืนกรานให้คุณสังเกตว่าแต่ละประโยคมีเกรดใดกำกับอยู่
สิ่งที่เครื่องจักรทำได้จริง
แบบจำลองภาษาที่นำมาใช้กับเอกสารการสืบสวนทำได้ดีอยู่ห้าอย่าง เมื่อตัดการตลาดออกไป ทั้งห้าอย่างไม่หรูหราเลย ทั้งห้าอย่างเป็นของจริง
มันแปลภาษา แฟ้มคดี บันทึกการสนทนา และสคริปต์หลอกลวงในภาษาที่ผู้สืบสวนอ่านไม่ออก กลายเป็นสิ่งที่อ่านได้ สำหรับเอกสารภาษาไทยโดยเฉพาะ นี่ไม่ใช่ความสะดวกเล็กน้อย มันคือความต่างระหว่างคลังข้อมูลที่ค้นหาได้กับกำแพงทึบ
มันสกัดข้อมูล ให้คำร้องเรียนแบบข้อความอิสระหนึ่งหมื่นฉบับ มันดึงเอนทิตีที่มีโครงสร้างที่ฝังอยู่ในร้อยแก้วออกมา: หมายเลขบัญชี หมายเลขโทรศัพท์ ไอดี LINE ที่อยู่กระเป๋าเงินดิจิทัล ชื่อบริษัท URL ที่ผู้เสียหายถูกส่งให้ สิ่งเหล่านี้มีอยู่ในบันทึกอยู่แล้ว เพียงแต่ไม่อยู่ในฟิลด์ข้อมูล การค้นหาฐานข้อมูลจึงเข้าไม่ถึง นี่คืองานที่มีมูลค่าสูงที่สุดเพียงหนึ่งเดียวในบทนี้ทั้งบท และทุกสิ่งที่ตามมาพึ่งพามันทั้งหมด
มันทำให้เป็นมาตรฐานเดียวกัน บัญชีธนาคารเดียวกันที่เขียนไว้หกแบบ หมายเลขโทรศัพท์เดียวกันทั้งที่มีและไม่มีรหัสประเทศ ชื่อบริษัทที่เจ้าหน้าที่สี่คนถอดเสียงต่างกัน ทำให้สิ่งเหล่านี้ตรงกันเป็นงานน่าเบื่อ เป็นกลไก และเป็นสิ่งที่เครื่องจักรถูกสร้างมาเพื่อทำโดยแท้
มันจัดกลุ่ม ให้เอนทิตีที่ทำให้เป็นมาตรฐานแล้ว บวกกับภาษาของเรื่องราวเอง — ถ้อยคำที่นักต้มตุ๋นใช้ซ้ำ โครงสร้างเรื่อง ผลตอบแทนที่สัญญาไว้ — มันจัดรายงานที่คล้ายกันเข้าเป็นกลุ่ม ไม่ใช่ "แก้ปัญหา" แค่จัดกลุ่ม
มันสรุปความ คำร้องเรียนสองร้อยฉบับกลายเป็นหน้าเดียวที่มนุษย์จำได้ทั้งหมด นี่คือจุดที่ความเสี่ยงจากการหลอนสูงที่สุด และเป็นที่ที่คำเตือนของบทนี้อยู่
สิ่งที่มันไม่ทำ
มันไม่ตัดสินใจ กลุ่มหนึ่งคือสมมติฐานว่าแฟ้มใดควรอยู่ด้วยกัน ปฏิบัติต่อผลลัพธ์แบบนั้นราวกับเป็นข้อสรุป คือรูปแบบความล้มเหลวเดียวที่อยู่เบื้องหลังหายนะที่มีบันทึกไว้ทุกกรณีในสาขานี้
มันไม่ให้การเป็นพยาน ข้อความยืนยันของแบบจำลองใดๆ ไม่ใช่พยานหลักฐาน พยานหลักฐานคือเอกสารต้นฉบับที่แบบจำลองชี้ให้คุณไปดู ได้มาและเก็บรักษาไว้ภายใต้ห่วงโซ่การครอบครองพยานหลักฐานที่มีบันทึกไว้ บทสรุปเป็นเครื่องมือช่วยค้นหา ไม่ใช่พยานวัตถุ
มันไม่รู้ว่ามันไม่รู้อะไร ขอให้แบบจำลองสรุปคำร้องเรียนสองร้อยฉบับ มันจะให้บทสรุปของคำร้องเรียนสองร้อยฉบับนั้น มันจะไม่บอกคุณว่าคำร้องเรียนที่เกี่ยวข้องที่สุดอีกสามร้อยฉบับไม่เคยถูกยื่นเลย เพราะผู้เสียหายเหล่านั้นไม่ได้แจ้งความ
และมันจะกุเรื่องขึ้นมา ตำรวจเวสต์มิดแลนด์สใช้ Microsoft Copilot รวบรวมการประเมินข่าวกรองก่อนการแข่งขันฟุตบอลนัดหนึ่งในเดือนพฤศจิกายน 2025 แบบจำลองกุนัดการแข่งขันก่อนหน้าระหว่าง Maccabi Tel Aviv กับ West Ham ที่ไม่เคยเกิดขึ้นจริง เหตุการณ์ที่กุขึ้นนี้เข้าไปอยู่ในเอกสารที่ใช้เป็นเหตุผลห้ามแฟนบอล Maccabi Tel Aviv เข้าชมการแข่งขัน ตำรวจปฏิเสธในตอนแรกว่า AI ไม่ใช่ต้นเหตุ แล้วจึงยอมรับ หน่วยงานถอนสิทธิ์การใช้ Copilot ผู้บัญชาการตำรวจสูงสุดลาออกในเดือนมกราคม 2026 [ESTABLISHED] (The Register, 19 Jan 2026; The Register, 28 Jan 2026)
หน่วยงานตำรวจในสหราชอาณาจักรที่ยืนยันว่า Copilot อาจไม่สามารถใช้ในงานสืบสวนหรืองานข่าวกรองได้ มีเพียง แปด แห่ง ตามรายงานในเวลานั้น อย่างน้อย 21 หน่วยงานยังใช้ต่อไป [ESTABLISHED] (ResultSense)
ตัวเลขคู่สุดท้ายนั้นคือสถานะจริงของศิลปะแขนงนี้ ผู้ช่วยอเนกประสงค์ทั่วไปตัวหนึ่งกุข้อเท็จจริงที่เปลี่ยนการตัดสินใจเชิงนโยบาย ความล้มเหลวนั้นเปิดเผยต่อสาธารณะและทำให้อาชีพจบสิ้น หน่วยงานส่วนใหญ่ยังใช้ต่อไป
กฎที่ตามมา
วินัยข้อเดียวทำให้ความสามารถทั้งห้าอย่างข้างต้นปลอดภัย และมันคือประโยคเดียว:
เครื่องจักรผลิตได้เพียงตัวชี้ ไม่ใช่คำยืนยัน
ผลลัพธ์ทุกชิ้นต้องสืบย้อนไปถึงเอกสารที่คุณเปิดดูได้ กลุ่มหนึ่งคือรายการหมายเลขคดี บทสรุปหนึ่งคือชุดคำพูดอ้างอิงพร้อมการอ้างอิงแฟ้ม หมายเลขบัญชีที่สกัดออกมาคือช่วงข้อความในคำร้องเรียนฉบับหนึ่งโดยเฉพาะ ผลลัพธ์ที่สืบย้อนกลับไปยังเอกสารต้นทางไม่ได้ จะไม่ออกจากเครื่องจักร
นี่ไม่ใช่ความระมัดระวังเพื่อตัวมันเอง มันทำให้งานตรวจสอบได้โดยคนที่ไม่ไว้ใจคุณ และงานประเภทนั้นเท่านั้นที่รอดจากห้องพิจารณาคดีหรือการทบทวนที่ไม่เป็นมิตร มันยังขจัดรูปแบบความล้มเหลวจากการหลอนในเชิงโครงสร้าง ไม่ใช่เชิงความน่าจะเป็น: นัดการแข่งขันที่กุขึ้นมาไม่มีเอกสารต้นทาง มันจึงไม่มีวันผ่านประตูนี้
กฎนี้จะจับความล้มเหลวของเวสต์มิดแลนด์สได้โดยไม่มีต้นทุนใดๆ เลย นัดการแข่งขันที่กุขึ้นมาไม่มีการอ้างอิง เพราะมันไม่มีต้นทาง ไม่มีใครดู
ที่ซึ่งการประเมินผลอย่างซื่อตรงอยู่
สถานะของหลักฐาน ณ เดือนสิงหาคม 2026 ยังบางเบา ถ้าคุณอยากรู้ว่าแบบจำลองช่วยผู้สืบสวนได้จริงหรือไม่ นั่นคือคำตอบ และผมจะไม่แต่งเติมให้มันดูดีกว่าที่เป็น
วิทยาลัยตำรวจแห่งสหราชอาณาจักร (UK College of Policing) กำลังประเมินผู้ช่วย AI ชื่อ CoPA อย่างเป็นทางการ ระบบนี้สร้างบน Azure OpenAI จำกัดแหล่งข้อมูลไว้ที่ College of Policing, CPS และ gov.uk เท่านั้น นำร่องที่ตำรวจเกรตเตอร์แมนเชสเตอร์และตำรวจขนส่งอังกฤษ โครงการเริ่มเดือนกรกฎาคม 2025 กำหนดแล้วเสร็จเดือนมีนาคม 2026 ยังไม่มีผลลัพธ์ใดเผยแพร่ ณ เวลาที่เขียนนี้ [ABSENT] (College of Policing)
สถานะจึงเป็นแบบนี้: การประเมินแบบควบคุมมีอยู่ แต่ยังไม่รายงานผล ในขณะเดียวกัน ผู้ช่วยอเนกประสงค์ทั่วไปที่ไม่ผ่านการประเมินถูกใช้อยู่ในหน่วยงานตำรวจกว่ายี่สิบแห่ง และก่อความเสียหายที่มีบันทึกไว้แล้วหนึ่งครั้ง นั่นคือภูมิทัศน์จริง ใครอธิบายว่ามันยุติแล้ว ไม่ว่าในทิศทางใด ไม่ได้อ่านมัน
ท่าประจำบท — เรียกร้องการอ้างอิงสำหรับทุกประโยคที่เครื่องจักรผลิตขึ้น กำหนดค่าเครื่องมือใดๆ ที่คุณสร้างขึ้น ให้ไม่มีผลลัพธ์ใดถูกส่งออกโดยไม่มีตัวชี้ไปยังเอกสารต้นทางและช่วงข้อความที่แน่นอนที่มันมาจาก และปฏิเสธที่จะทำตามประโยคใดๆ ที่ขาดสิ่งนี้ ใช้กฎนี้กับบทสรุปของคุณเองด้วย กฎนี้ทำได้ง่าย และมันเปลี่ยนรูปแบบความล้มเหลวหลักของแบบจำลองภาษาจากความน่าจะเป็นให้กลายเป็นสิ่งที่เป็นไปไม่ได้
อะไรจะทำให้ผมเปลี่ยนใจ: ถ้าการประเมิน CoPA หรือการประเมินอื่นที่คล้ายกัน แสดงว่าความช่วยเหลือที่ผูกด้วยการอ้างอิงไม่ได้ทำให้ความแม่นยำหรือความเร็วของผู้สืบสวนดีขึ้นอย่างวัดผลได้เมื่อเทียบกับกลุ่มควบคุม ความสามารถทั้งห้าข้างต้นก็เป็นเพียงเรื่องเล่าที่ผมเห็นว่าน่าเชื่อ ไม่ใช่ประโยชน์ที่ใครพิสูจน์ให้เห็นแล้ว ณ เดือนสิงหาคม 2026 การประเมินนั้นยังไม่รายงานผล และผมกำลังเขียนบทนี้บนคำสัญญา ไม่ใช่บนผลลัพธ์ และผมพูดเรื่องนี้อย่างเปิดเผย
บทถัดไป · 6 / 19บทที่ 5 — การเชื่อมโยง