07 · Political Philosophy
07 · ปรัชญาการเมือง
This chapter sits in Part I, the Court of Philosophy — the seventh hearing, where philosophy asks the machine who is actually governing when its code sets the terms.
การไต่สวนครั้งที่ 7 ในภาค I ศาลปรัชญา — ปรัชญาถามเครื่องจักรว่าใครกันแน่ที่ปกครอง เมื่อโค้ดของมันเป็นผู้วางเงื่อนไข
Who governs when code is law?
เมื่อโค้ดคือกฎหมาย ใครคือผู้ปกครอง
On 16 August 2017, days after the violence in Charlottesville, Cloudflare CEO Matthew Prince terminated the account of The Daily Stormer, a neo-Nazi website, cutting off the DNS and content-delivery service that kept it reachable on the open internet. In an internal email later published by Gizmodo, Prince described his own reasoning with unusual honesty: "Literally, I woke up in a bad mood and decided someone shouldn't be allowed on the Internet," he wrote. "No one should have that power" (Gizmodo, "Cloudflare CEO on Terminating Service to Neo-Nazi Site," 2017). No court had ordered the takedown. No legislature had voted on it. One executive, at one infrastructure company, flipped a switch, and a publication that had survived years of public outrage disappeared from the reachable internet within hours. Prince was right that no one should have that power — and right, too, that in that moment, he had it.
สิ่งพิมพ์ที่รอดความโกรธของสาธารณชนมาหลายปีหายไปจากอินเทอร์เน็ตภายในไม่กี่ชั่วโมง เพราะผู้บริหารคนเดียวกดสวิตช์เดียว วันที่ 16 สิงหาคม 2017 ไม่กี่วันหลังความรุนแรงที่ Charlottesville Matthew Prince ซีอีโอของ Cloudflare ยกเลิกบัญชีของ The Daily Stormer เว็บไซต์นีโอนาซี ตัดบริการ DNS และ content-delivery ที่ทำให้เว็บนั้นเข้าถึงได้บนอินเทอร์เน็ตสาธารณะ ในอีเมลภายในที่ Gizmodo เผยแพร่ภายหลัง Prince อธิบายเหตุผลของตัวเองตรงไปตรงมาผิดปกติ — "พูดตรงๆ ผมตื่นมาแล้วอารมณ์ไม่ดี เลยตัดสินใจว่าใครบางคนไม่ควรได้รับอนุญาตให้อยู่บนอินเทอร์เน็ต" เขาเขียน "ไม่มีใครควรมีอำนาจแบบนั้น" (Gizmodo, "Cloudflare CEO on Terminating Service to Neo-Nazi Site," 2017) ไม่มีศาลสั่งถอด ไม่มีสภานิติบัญญัติลงมติ มีเพียงบริษัทโครงสร้างพื้นฐานบริษัทเดียว Prince พูดถูกที่ว่าไม่มีใครควรมีอำนาจแบบนั้น และถูกอีกข้อที่ว่าในนาทีนั้นอำนาจนั้นอยู่ในมือเขาเอง
Lawrence Lessig had already named the mechanism a decade earlier. Code and Other Laws of Cyberspace (1999, revised as Code 2.0 in 2006) argues that four forces regulate behavior — law, social norms, the market, and architecture — and that in digital environments, architecture usually wins, because it does not ask for compliance, it makes the disfavored action impossible rather than illegal (Lessig, Code and Other Laws of Cyberspace). A law against a website can be appealed, delayed, ignored pending review. A DNS provider withdrawing service is not a rule about the website; it is the website's disappearance, instantly and everywhere, the moment the change propagates. Cloudflare's decision is Lessig's thesis in its purest form: code did not enforce the law here, code was the only law that mattered, and it was written by a company's terms of service rather than by any legislature.
Lawrence Lessig ตั้งชื่อกลไกนี้ไว้ก่อนหน้าสิบปี Code and Other Laws of Cyberspace (1999 ปรับปรุงเป็น Code 2.0 ในปี 2006) โต้แย้งว่าสี่แรงกำกับพฤติกรรมของคน — กฎหมาย บรรทัดฐานทางสังคม ตลาด และสถาปัตยกรรม (architecture) — และในโลกดิจิทัล สถาปัตยกรรมชนะเกือบทุกครั้ง เพราะมันไม่ขอให้ใครปฏิบัติตาม มันทำให้สิ่งที่ไม่พึงประสงค์ทำไม่ได้เลย แทนที่จะแค่ผิดกฎหมาย (Lessig, Code and Other Laws of Cyberspace) กฎหมายที่เล่นงานเว็บไซต์หนึ่งยังอุทธรณ์ได้ ยืดเวลาได้ เพิกเฉยระหว่างรอทบทวนได้ ผู้ให้บริการ DNS ที่ถอนบริการไม่ได้ออกกฎเกี่ยวกับเว็บไซต์นั้น มันคือการหายไปของเว็บไซต์นั้นเอง ทันทีและทุกที่ ในวินาทีที่การเปลี่ยนแปลงแพร่กระจายจนครบ การตัดสินใจของ Cloudflare คือวิทยานิพนธ์ของ Lessig ในรูปบริสุทธิ์ที่สุด — โค้ดไม่ได้บังคับใช้กฎหมายในกรณีนี้ โค้ด คือ กฎหมายฉบับเดียวที่มีความหมาย และผู้เขียนมันคือข้อกำหนดการให้บริการของบริษัทหนึ่ง ไม่ใช่สภานิติบัญญัติใด
Every major platform now runs something that functions like a legal system without being one. Kate Klonick's "The New Governors" describes Facebook, Twitter, and YouTube as private jurisdictions complete with legislation (terms of service), adjudication (content moderation review), and — since October 2020 — an appellate layer: Facebook's Oversight Board, a $130-million-endowed panel of twenty members whose rulings on content decisions are contractually binding on the company, and which overturned four of the first five decisions it reviewed (Klonick, "The New Governors," Harvard Law Review 131, 2018). It is jurisprudence's full apparatus, minus the one thing that ordinarily justifies it: no user elected the legislature, and the constitution can be rewritten unilaterally by the company that wrote it the first time. Prince's discomfort with his own power was, in effect, an admission that he had briefly become one of Klonick's "new governors" without any of the checks a real government answers to.
แพลตฟอร์มใหญ่ทุกเจ้าวันนี้เดินระบบที่ทำงานเหมือนระบบกฎหมาย โดยไม่ได้เป็นระบบกฎหมาย บทความ "The New Governors" ของ Kate Klonick อ่าน Facebook, Twitter และ YouTube เป็นเขตอำนาจศาลเอกชนที่ครบเครื่อง — มีฝ่ายนิติบัญญัติ (ข้อกำหนดการให้บริการ) มีการตัดสินคดี (การพิจารณาควบคุมเนื้อหา) และตั้งแต่เดือนตุลาคม 2020 มีชั้นอุทธรณ์ — Oversight Board ของ Facebook คณะกรรมการยี่สิบคนที่มีเงินทุนตั้งต้น 130 ล้านดอลลาร์ คำวินิจฉัยเรื่องเนื้อหาของคณะนี้ผูกพันบริษัทตามสัญญา และคณะนี้พลิกคำตัดสินสี่ในห้าคดีแรกที่พิจารณา (Klonick, "The New Governors," Harvard Law Review 131, 2018) กลไกนิติศาสตร์อยู่ครบ ขาดแต่สิ่งเดียวที่ปกติทำให้กลไกแบบนี้ชอบธรรม — ไม่มีผู้ใช้คนใดเลือกตั้งฝ่ายนิติบัญญัตินี้ และบริษัทที่เขียนรัฐธรรมนูญของมันครั้งแรกก็เขียนใหม่ฝ่ายเดียวได้ ความอึดอัดของ Prince ต่ออำนาจตัวเองจึงเท่ากับยอมรับว่าเขาเป็น "ผู้ปกครองใหม่ (new governors)" ของ Klonick อยู่ชั่วขณะ โดยไม่มีการตรวจสอบถ่วงดุลแบบที่รัฐบาลจริงต้องรับผิดชอบเลยสักอย่าง
The deeper stake, Shoshana Zuboff argues, is not who moderates speech but who extracts and owns the "behavioral surplus" generated by everyone's use of these systems — the data left over once a service has been rendered, repurposed to predict and shape future behavior and sold as a prediction product to advertisers and beyond. The Age of Surveillance Capitalism (2019) contends this is a genuinely new form of power, distinct from the industrial capitalism that classical liberal theory built its protections against, because it operates through unilateral claims on experience that the subject never consented to and typically cannot see, let alone exit (Zuboff, The Age of Surveillance Capitalism, PublicAffairs, 2019). Contract law and privacy torts were built to police visible transactions between two parties who both know an exchange occurred; they were not built for a form of extraction whose whole design depends on the other party not noticing.
เดิมพันที่ลึกกว่านั้น Shoshana Zuboff โต้แย้งว่าไม่ใช่ใครควบคุมคำพูด แต่คือใครสกัดและเป็นเจ้าของ "ส่วนเกินเชิงพฤติกรรม (behavioral surplus)" ที่งอกจากการใช้งานระบบเหล่านี้ของทุกคน — ข้อมูลที่เหลือค้างหลังส่งมอบบริการเสร็จ ถูกนำกลับมาใช้ทำนายและกำหนดพฤติกรรมในอนาคต แล้วขายเป็นสินค้าทำนายให้ผู้ลงโฆษณาและไกลกว่านั้น The Age of Surveillance Capitalism (2019) เสนอว่านี่คืออำนาจรูปแบบใหม่จริงๆ คนละอย่างกับทุนนิยมอุตสาหกรรมที่ทฤษฎีเสรีนิยมคลาสสิกสร้างเกราะขึ้นมาต้าน เพราะมันทำงานผ่านการอ้างสิทธิ์ฝ่ายเดียวเหนือประสบการณ์ที่เจ้าของไม่เคยยินยอม และตามปกติก็มองไม่เห็น นับประสาอะไรกับการถอนตัวออกมา (Zuboff, The Age of Surveillance Capitalism, PublicAffairs, 2019) กฎหมายสัญญาและการละเมิดเรื่องความเป็นส่วนตัวถูกสร้างมากำกับธุรกรรมที่มองเห็นได้ระหว่างสองฝ่ายที่ต่างรู้ว่ามีการแลกเปลี่ยน ไม่ได้สร้างมาสำหรับการสกัดที่ทั้งการออกแบบวางอยู่บนการที่อีกฝ่ายไม่รู้ตัว
Not every digital institution has defaulted to sovereign-or-corporate. Elinor Ostrom's Governing the Commons (1990) identified design principles by which real communities manage shared resources without either a state's coercion or a market's pricing — clearly bounded membership, rules matched to local conditions, graduated sanctions, cheap and accessible conflict resolution, and governance nested across scales — overturning the assumption, inherited from Garrett Hardin, that shared resources are doomed to overuse absent private ownership or state control (Ostrom, Governing the Commons, 1990). Ostrom and Charlotte Hess later extended the same principles explicitly to knowledge and digital commons, arguing that open-source projects, Wikipedia, and shared research infrastructure could be read and governed the same way (Hess & Ostrom, eds., Understanding Knowledge as a Commons, MIT Press, 2007). Linux and Wikipedia are the proof this third path is not merely theoretical: neither a state nor a corporation, and yet governed well enough to outlast most of both.
สถาบันดิจิทัลไม่ได้ลงเอยเป็นรัฐหรือบรรษัทเสมอไป Governing the Commons (1990) ของ Elinor Ostrom ระบุหลักการออกแบบที่ชุมชนจริงใช้จัดการทรัพยากรร่วม (commons) โดยไม่พึ่งทั้งการบังคับของรัฐและการตั้งราคาของตลาด — สมาชิกภาพที่มีขอบเขตชัด กฎที่เข้ากับสภาพท้องถิ่น บทลงโทษแบบขั้นบันได การระงับข้อพิพาทที่ถูกและเข้าถึงง่าย และธรรมาภิบาลที่ซ้อนกันข้ามระดับ — และล้มสมมติฐานที่สืบทอดจาก Garrett Hardin ว่าทรัพยากรร่วมมีชะตาต้องถูกใช้จนหมดหากไม่มีกรรมสิทธิ์เอกชนหรือการควบคุมของรัฐ (Ostrom, Governing the Commons, 1990) ภายหลัง Ostrom กับ Charlotte Hess ขยายหลักการชุดเดียวกันไปสู่ความรู้และทรัพยากรร่วมดิจิทัลอย่างตรงไปตรงมา โดยโต้แย้งว่าโปรเจกต์โอเพนซอร์ส Wikipedia และโครงสร้างพื้นฐานการวิจัยที่ใช้ร่วมกัน อ่านและปกครองได้ด้วยวิธีเดียวกัน (Hess & Ostrom, eds., Understanding Knowledge as a Commons, MIT Press, 2007) Linux และ Wikipedia คือหลักฐานว่าเส้นทางที่สามนี้ไม่ใช่แค่ทฤษฎี — ไม่ใช่รัฐ ไม่ใช่บรรษัท แต่ปกครองได้ดีพอจะอยู่ยืนกว่าทั้งสองแบบส่วนใหญ่
When a state itself delegates to code, the failure mode changes shape entirely. Danielle Citron's "Technological Due Process" (2008) warns that automated systems collapse two functions administrative law has always kept separate — writing the general rule and applying it to one person's case — into a single, undocumented act, evading the notice, hearing, and reasoned explanation either function alone would owe a citizen (Citron, "Technological Due Process," Washington University Law Review 85, 2008). Michigan's unemployment agency ran exactly this experiment between 2013 and 2015: its MiDAS system flagged fraud automatically, ran start-to-finish without human review in most cases, and falsely accused more than 34,000 people, at an error rate later estimated at 85 percent, triggering wage garnishments and bankruptcies (IEEE Spectrum, "Michigan's MiDAS Unemployment System"). No rulemaking notice, no individual hearing, no appeal built in — due process was not violated by any one decision; it had been designed out of the system before the first case was ever flagged.
เมื่อรัฐเองยกอำนาจให้โค้ด รูปแบบความล้มเหลวเปลี่ยนไปทั้งหมด บทความ "Technological Due Process" (2008) ของ Danielle Citron เตือนว่าระบบอัตโนมัติยุบสองหน้าที่ที่กฎหมายปกครองแยกจากกันมาตลอด — เขียนกฎทั่วไป กับเอากฎไปใช้กับคดีของคนคนหนึ่ง — ให้เหลือการกระทำเดียวที่ไม่มีบันทึก และหลบเลี่ยงการแจ้งเตือน การไต่สวน และคำอธิบายที่มีเหตุผล ซึ่งแต่ละหน้าที่ลำพังก็ติดค้างพลเมืองอยู่แล้ว (Citron, "Technological Due Process," Washington University Law Review 85, 2008) หน่วยงานประกันการว่างงานของรัฐมิชิแกนรันการทดลองนี้เป๊ะๆ ระหว่างปี 2013 ถึง 2015 ระบบ MiDAS ตั้งธงการฉ้อโกงอัตโนมัติ เดินตั้งแต่ต้นจนจบโดยไม่มีมนุษย์ทบทวนในกรณีส่วนใหญ่ และกล่าวหาผิดคนไปกว่า 34,000 คน ด้วยอัตราความผิดพลาดที่ประเมินภายหลังได้ที่ 85 percent จนเกิดการอายัดค่าจ้างและการล้มละลายตามมา (IEEE Spectrum, "Michigan's MiDAS Unemployment System") ไม่มีการแจ้งเตือนการออกกฎ ไม่มีการไต่สวนรายบุคคล ไม่มีการอุทธรณ์อยู่ในระบบ กระบวนการที่ชอบด้วยกฎหมาย (due process) ไม่ได้ถูกละเมิดโดยคำตัดสินครั้งใดครั้งหนึ่ง — มันถูกออกแบบให้หายไปจากระบบก่อนคดีแรกจะถูกตั้งธงเสียอีก
Benjamin Bratton's The Stack (2015) offers the frame that holds Cloudflare, Facebook, Zuboff's harvesters, and Michigan's benefits algorithm as one phenomenon rather than four unrelated scandals: planetary computation — cloud, city, address, interface, user, layered as a single accidental megastructure — now performs sovereign functions (deciding who may speak, who receives a public benefit, who is reachable at all) continuously and at a scale no state apparatus can match, without ever standing for election or answering to a constitution (Bratton, The Stack, MIT Press, 2015). The state has not been abolished by the stack. It has been joined by a second, unelected one, and most days it is not obvious which one actually decided.
The Stack (2015) ของ Benjamin Bratton ให้กรอบที่มัด Cloudflare, Facebook, เครื่องเก็บเกี่ยวข้อมูลของ Zuboff และอัลกอริทึมสวัสดิการของมิชิแกน เข้าเป็นปรากฏการณ์เดียว ไม่ใช่เรื่องอื้อฉาวสี่เรื่องที่ไม่เกี่ยวกัน การคำนวณระดับดาวเคราะห์ (planetary computation) — คลาวด์ เมือง ที่อยู่ อินเทอร์เฟซ ผู้ใช้ ซ้อนกันเป็นมหาโครงสร้างเดียวที่เกิดขึ้นโดยบังเอิญ — ทำหน้าที่แบบอธิปไตยอยู่ตอนนี้ ตัดสินว่าใครพูดได้ ใครได้รับสวัสดิการสาธารณะ ใครยังเข้าถึงได้อยู่หรือไม่ ทำต่อเนื่องและในสเกลที่กลไกรัฐใดก็เทียบไม่ติด โดยไม่เคยลงสมัครรับเลือกตั้งและไม่ต้องรับผิดชอบต่อรัฐธรรมนูญฉบับใด (Bratton, The Stack, MIT Press, 2015) สแตกนี้ไม่ได้ยกเลิกรัฐ มันเพียงส่งรัฐที่สองซึ่งไม่ได้มาจากการเลือกตั้งเข้ามาสมทบ และเกือบทุกวันก็ไม่ชัดว่าฝ่ายไหนเป็นผู้ตัดสินใจจริง
Connections
เชื่อมโยง
Chapter 06 owns the responsibility gap this chapter's automated systems keep opening, asking who is accountable rather than who governs. Chapter 11 explains the bracket that lets "behavioral surplus" be priced as a quantity while what it is of goes unasked. Chapter 14 picks up Ostrom's commons again through consensus protocols — cooperation among strangers with no sovereign to enforce it.
บทที่ 06 เป็นเจ้าของช่องว่างความรับผิดชอบที่ระบบอัตโนมัติในบทนี้เปิดค้างไว้ครั้งแล้วครั้งเล่า และถามว่าใครรับผิดชอบ ไม่ใช่ใครปกครอง บทที่ 11 อธิบายวงเล็บที่ทำให้ "ส่วนเกินเชิงพฤติกรรม (behavioral surplus)" ตั้งราคาเป็นปริมาณได้ ขณะที่ไม่มีใครถามว่ามันเป็นส่วนเกิน ของ อะไร บทที่ 14 หยิบทรัพยากรร่วม (commons) ของ Ostrom กลับมาอีกครั้งผ่านโพรโทคอลฉันทามติ (consensus protocol) — ความร่วมมือระหว่างคนแปลกหน้าโดยไม่มีผู้มีอธิปไตยคอยบังคับใช้
Open questions
คำถามที่ยังเปิดอยู่
Is "code is law" a warning about what has already happened, or a program for what should happen next — and does confusing the two let more power slide into architecture than anyone actually voted for? Can a private platform hold due-process-like authority legitimately, short of becoming a state in miniature complete with the checks that make states bearable? And does Ostrom's commons model generalize to physical infrastructure — cables, satellites, spectrum — the way it generalized from irrigation to code, or does infrastructure's need for capital always pull governance back toward a state or a firm?
"โค้ดคือกฎหมาย (code is law)" เป็นคำเตือนถึงสิ่งที่เกิดขึ้นไปแล้ว หรือเป็นแผนงานสำหรับสิ่งที่ควรเกิดต่อไป และการสับสนสองอย่างนี้ปล่อยให้อำนาจไหลเข้าไปอยู่ในสถาปัตยกรรมมากกว่าที่ใครลงคะแนนให้จริงหรือไม่ แพลตฟอร์มเอกชนถืออำนาจแบบกระบวนการที่ชอบด้วยกฎหมายอย่างชอบธรรมได้หรือไม่ โดยไม่ต้องกลายเป็นรัฐจำลองที่มีกลไกตรวจสอบถ่วงดุลครบชุดแบบที่ทำให้รัฐพอทนได้ และโมเดลทรัพยากรร่วมของ Ostrom ขยายไปถึงโครงสร้างพื้นฐานทางกายภาพ — สายเคเบิล ดาวเทียม คลื่นความถี่ — ได้แบบเดียวกับที่มันขยายจากการชลประทานไปสู่โค้ดหรือไม่ หรือความต้องการเงินทุนของโครงสร้างพื้นฐานจะดึงธรรมาภิบาลกลับไปหารัฐหรือบริษัทเสมอ
Go deeper
อ่านต่อ
- Lawrence Lessig, Code: Version 2.0, Basic Books, 2006 — the revised edition of the argument this chapter's opening case runs on rails built by.
- Kate Klonick, "The New Governors: The People, Rules, and Processes Governing Online Speech," Harvard Law Review 131 (2018), read against Elinor Ostrom & Charlotte Hess, eds., Understanding Knowledge as a Commons: From Theory to Practice, MIT Press, 2007 — private jurisprudence against the commons it displaced.
- Stanford Encyclopedia of Philosophy, "Political Legitimacy" — the standing account of what a governing power owes the governed, against which every case in this chapter can be measured.
- Lawrence Lessig, Code: Version 2.0, Basic Books, 2006 — ฉบับปรับปรุงของข้อโต้แย้งที่กรณีเปิดเรื่องของบทนี้วิ่งอยู่บนรางที่มันวางไว้
- Kate Klonick, "The New Governors: The People, Rules, and Processes Governing Online Speech," Harvard Law Review 131 (2018), read against Elinor Ostrom & Charlotte Hess, eds., Understanding Knowledge as a Commons: From Theory to Practice, MIT Press, 2007 — นิติศาสตร์เอกชนเทียบกับทรัพยากรร่วมที่มันเข้ามาแทนที่
- Stanford Encyclopedia of Philosophy, "Political Legitimacy" — บันทึกหลักเรื่องสิ่งที่อำนาจปกครองพึงมีต่อผู้ถูกปกครอง ซึ่งทุกกรณีในบทนี้วัดเทียบกับมันได้