แหล่ง และหมายเหตุความมั่นใจ
ทุกวันที่ ชื่อคน และตัวเลขในสิบสองบทข้างต้นมีที่มาอยู่ที่นี่ เนื้อเรื่องจึงเดินได้โดยไม่ต้องแบกเชิงอรรถ และคนที่อยากตรวจก็ตรวจได้ครบในที่เดียว ตรงไหนที่ยืนยันไม่ได้ เขียนไว้ตรง ๆ ว่ายืนยันไม่ได้ พร้อมตัวเลขว่ามั่นใจแค่ไหน
บทที่ 1 · หนาม
- George de Mestral, สิทธิบัตรสวิส ยื่น 1951 อนุมัติ 1955 · ชื่อ Velcro มาจาก velours + crochet
- ความมั่นใจ 70% สำหรับปีที่เดินป่า (แหล่งต่าง ๆ ระบุระหว่าง 1941 ถึง 1948 และเล่มนี้เขียนว่า "ต้นทศวรรษ 1940") · ความมั่นใจ 60% สำหรับรายละเอียดกระบวนการอินฟราเรดกับไนลอน ซึ่งมาจากการเล่าซ้ำมากกว่าเอกสารสิทธิบัตรโดยตรง
บทที่ 2 · ปีก
- Otto Lilienthal, Der Vogelflug als Grundlage der Fliegekunst, 1889
- การร่อนราว 2,000 เที่ยว 1891–1896 · อุบัติเหตุ 9 สิงหาคม 1896 เสียชีวิต 10 สิงหาคม
- Wright brothers, อุโมงค์ลม 1901 · เที่ยวบิน 17 ธันวาคม 1903 ที่ Kitty Hawk 12 วินาที 120 ฟุต
- ความมั่นใจ 85% สำหรับความสูงราว 15 เมตรของการตก
บทที่ 3 · นิวรอนบนกระดาษ
- W. McCulloch & W. Pitts, A Logical Calculus of the Ideas Immanent in Nervous Activity, Bulletin of Mathematical Biophysics, 1943
- D. Hebb, The Organization of Behavior, 1949 · วลี "cells that fire together wire together" ไม่ใช่คำของ Hebb เป็นคำสรุปที่ตั้งขึ้นภายหลัง มักให้เครดิต Siegrid Löwel ราวปี 1992 — ความมั่นใจ 80% สำหรับที่มาของวลี ความมั่นใจ 95% ว่าไม่ใช่คำของ Hebb เอง
- F. Rosenblatt, perceptron, 1958 · Mark I Perceptron, Cornell Aeronautical Laboratory, กล้อง 400 จุด
- M. Minsky & S. Papert, Perceptrons, 1969
บทที่ 4 · credit assignment
- D. Rumelhart, G. Hinton & R. Williams, Learning representations by back-propagating errors, Nature, 1986
- ผู้มาก่อน: S. Linnainmaa 1970 (วิทยานิพนธ์ปริญญาโท) · P. Werbos 1974 (วิทยานิพนธ์ปริญญาเอก)
- ข้ออ้างว่าสมองไม่ได้ใช้ backpropagation: ความมั่นใจ 85% — สถานะปัจจุบันคือยังไม่พบกลไกที่ทำหน้าที่เทียบเท่า ไม่ใช่การพิสูจน์ว่าไม่มี และข้อถกเถียงยังเปิดอยู่
บทที่ 5 · Ising model
- W. Lenz เสนอ 1920 · E. Ising แก้กรณีหนึ่งมิติ ตีพิมพ์ 1925 · L. Onsager แก้กรณีสองมิติ 1944
- ความมั่นใจ 80% สำหรับรายละเอียดว่า Ising ออกจากวงการฟิสิกส์ไปเป็นครูหลังจากนั้น
บทที่ 6 · Hopfield
- J. Hopfield, Neural networks and physical systems with emergent collective computational abilities, PNAS, 1982
- ความจุราว 0.14 เท่าของจำนวนนิวรอน: ตัวเลขนี้เป็นค่าประมาณมาตรฐานจากการวิเคราะห์เชิงสถิติ ไม่ใช่ค่าตายตัว ขึ้นกับนิยามของการเรียกคืนสำเร็จและความสัมพันธ์ระหว่างรูปแบบที่เก็บ — ความมั่นใจ 85%
บทที่ 7 · Boltzmann machine
- S. Kirkpatrick, C. Gelatt & M. Vecchi, Optimization by Simulated Annealing, Science, 1983
- G. Hinton & T. Sejnowski, Boltzmann machine, 1983 · A Learning Algorithm for Boltzmann Machines, Cognitive Science, 1985
- คำประกาศรางวัลโนเบล 2024 ระบุว่า Hinton "คิดค้นวิธีที่สามารถค้นพบคุณสมบัติในข้อมูลได้ด้วยตัวเอง" — nobelprize.org · press release
บทที่ 8 · RBM และบันได
- G. Hinton, contrastive divergence, 2002
- G. Hinton, S. Osindero & Y.-W. Teh, A fast learning algorithm for deep belief nets, Neural Computation, 2006
- G. Hinton & R. Salakhutdinov, Reducing the dimensionality of data with neural networks, Science, 2006
- คำประกาศรางวัลโนเบล 2024 อ้างถึงงานปี 2006 ที่ใช้ Boltzmann machine ซ้อนกันเป็นชั้น ร่วมกับ Osindero, Teh และ Salakhutdinov — nobelprize.org · popular information
- A. Krizhevsky, I. Sutskever & G. Hinton, AlexNet, ImageNet 2012 · สอนบน GPU สองใบ ไม่ใช้ pretraining
- ข้อสรุปว่าการเตรียมน้ำหนักแบบไม่มีเฉลยไม่จำเป็นสำหรับเครือข่ายลึก เมื่อมีการตั้งค่าเริ่มต้นที่เหมาะสมกับ ReLU: สรุปจากงานทบทวนหลายชิ้น โดยเฉพาะ arXiv:2107.12521 · RBM and DBN tutorial and survey
บทที่ 9 · ขนาดของเกม
- Super Mario Bros (NES, 1985) 40 กิโลไบต์ = PRG-ROM 32 KB + CHR-ROM 8 KB — ความมั่นใจ 95%
- NES มี work RAM 2 กิโลไบต์ — ความมั่นใจ 90%
- ไม่มีตัวเลขที่ตรวจแล้ว สำหรับสัดส่วนโค้ดต่อ asset ในเกมสมัยใหม่ เล่มนี้อ้างเฉพาะกลไกว่าทำไมสองฝั่งโตคนละอัตรา ไม่อ้างตัวเลข
บทที่ 10 · modern Hopfield และ attention
- D. Krotov & J. Hopfield, Dense Associative Memory for Pattern Recognition, NeurIPS, 2016
- A. Vaswani และคณะ, Attention Is All You Need, 2017
- H. Ramsauer และคณะ, Hopfield Networks is All You Need, 2020 — กฎการอัปเดตใหม่ คือ กลไก attention ของ Transformer · จุดคงที่สามชนิด (เฉลี่ยรวม · metastable เฉลี่ยกลุ่มย่อย · รูปแบบเดี่ยว) · ชั้นต้นเฉลี่ยรวม ชั้นสูงเฉลี่ยกลุ่มย่อย — semanticscholar
- คำอ้างอิงรางวัลโนเบลสาขาฟิสิกส์ 2024: "for foundational discoveries and inventions that enable machine learning with artificial neural networks" — nobelprize.org · summary
บทที่ 11 · กำแพงที่ย้ายที่
- T. Dao และคณะ, FlashAttention, 2022 — วิธีที่ลดการเคลื่อนย้ายข้อมูล ไม่ลดจำนวนการคำนวณ ผลลัพธ์ตรงกับวิธีเดิมทุกประการ
- BitNet b1.58 — น้ำหนักสามค่า {−1, 0, +1} · ประหยัดหน่วยความจำเกิน 90% เทียบ FP16 · bitnet.cpp วัดได้ 1.37–5.07 เท่าบนซีพียู ARM พร้อมลดพลังงาน 55.4–70.0% · โมเดลทางการ 2B ออกเมษายน 2025 — arXiv:2504.12285 · arXiv:2410.16144 · github.com/microsoft/BitNet
- ตัวเลขประสิทธิภาพพลังงานระดับ 71.4 เท่าสำหรับการคูณเมทริกซ์ เป็นค่าประมาณจากแบบจำลองพลังงานบนกระบวนการ 7 นาโนเมตร ไม่ใช่การวัดบนชิปจริงทั้งระบบ — ความมั่นใจ 70% และไม่ควรอ่านเป็นความเร็วรวมของระบบ
- distillation · Mixture of Experts · speculative decoding · LoRA — เล่มนี้อธิบายกลไก ไม่อ้างตัวเลขประสิทธิภาพของแต่ละวิธี
บทที่ 12 · Ising machine
- N. Mohseni, P. McMahon & T. Byrnes, Ising machines as hardware solvers of combinatorial optimization problems, Nature Reviews Physics, 2022 — ฮาร์ดแวร์ดิจิทัลแบบคลาสสิกทำผลงานดีที่สุดในโจทย์มาตรฐาน · ผลขึ้นกับรูปของโจทย์ · ข้อโต้แย้งระหว่าง coherent Ising machine กับ D-Wave · ไม่มีการพัวพันเชิงควอนตัมใน CIM เพราะการเชื่อมทำผ่านการวัดกับการป้อนกลับ — nature.com/articles/s42254-022-00440-8
- Fujitsu Digital Annealer v2 บน Max-Cut สูงสุด 53,000 ตัวแปร ดีกว่าวิธีคลาสสิกที่ดีที่สุดใน ~69.2% ของชุดที่ทดสอบ เมื่อวัดด้วยเวลาจริง — arXiv:2507.22117
- ข้ออ้างเรื่องพลังงานของสมองเทียบศูนย์ข้อมูล และเรื่องจำนวนคำที่เด็กใช้เรียนภาษา: ไม่มีตัวเลขในเล่มนี้ เขียนไว้เป็นทิศทาง ไม่ใช่การวัด เพราะทั้งสองเรื่องมีค่าประมาณที่กระจายกว้างเกินกว่าจะพิมพ์เป็นตัวเลขเดียวได้อย่างซื่อสัตย์
เล่มนี้เขียนขึ้นเดือนกันยายน 2026 ทุกบทมีบรรทัด "บทนี้จะผิดเมื่อ" ของตัวเอง เพราะหนังสือที่บอกไม่ได้ว่าตัวเองจะผิดได้ยังไง คือหนังสือที่ผู้อ่านตรวจไม่ได้ ใครเจอข้อผิดพลาด ของที่ถูกแก้คือตัวเล่ม ไม่ใช่ใบแก้คำผิดท้ายเล่ม
จบเล่มCopy The Right Layerกลับหน้าหนังสือ