04 · Philosophy of Mind
04 · ปรัชญาแห่งจิต
Part I's fourth hearing: metaphysics asked what a program is; this chapter asks whether that same kind of thing could be what you are.
การไต่สวนครั้งที่สี่ของภาค I: อภิปรัชญาถามว่าโปรแกรมคืออะไร บทนี้ถามว่าสิ่งชนิดเดียวกันนั้นเป็นสิ่งที่คุณเป็นอยู่ได้หรือไม่
Is the mind what the brain computes?
จิตคือสิ่งที่สมองคำนวณหรือไม่
In 1980, John Searle asked readers of Behavioral and Brain Sciences to imagine him locked in a room with a rulebook written in English and a slot through which cards covered in Chinese characters arrive. Searle does not read Chinese. But the rulebook is good enough — for any incoming string of characters, it tells him, by shape alone, which characters to pass back out. To a Chinese speaker outside, the answers look fluent, even witty; the room, treated as a black box, could pass a Turing test conducted in Chinese. Searle's question was simple and became one of the most argued-over pages in twentieth-century philosophy: does anyone, or anything, in that room understand Chinese? His answer was no. A person manipulating symbols by their shape, however successfully, is not thereby extracting their meaning — and if that is true of a man with a rulebook, it is true of a computer running the equivalent program, however large. Searle called the paper "Minds, Brains, and Programs" (Behavioral and Brain Sciences 3, 1980: 417–457); the journal ran it in its open-peer-commentary format, its objectors printed alongside, and the arguing has not really stopped since.
ในปี 1980 จอห์น เซิร์ล ขอให้ผู้อ่าน Behavioral and Brain Sciences นึกภาพเขาถูกขังในห้องหนึ่ง มีสมุดกฎภาษาอังกฤษเล่มหนึ่ง และช่องที่บัตรเต็มไปด้วยตัวอักษรจีนส่งเข้ามา เซิร์ลอ่านภาษาจีนไม่ออก แต่สมุดกฎเล่มนั้นดีพอ อักขระชุดใดส่งเข้ามา มันบอกได้ด้วยรูปร่างล้วนๆ ว่าต้องส่งอักขระชุดไหนกลับออกไป คนจีนที่ยืนอยู่ข้างนอกเห็นคำตอบคล่องแคล่ว มีไหวพริบด้วยซ้ำ ห้องนั้นในฐานะกล่องดำผ่านการทดสอบทัวริง (Turing test) ที่ทำเป็นภาษาจีนได้ คำถามของเซิร์ลเรียบง่าย และกลายเป็นหน้าที่ถูกเถียงมากที่สุดหน้าหนึ่งของปรัชญาศตวรรษที่ยี่สิบ: มีใครหรือมีอะไรในห้องนั้น เข้าใจภาษาจีนหรือไม่ เขาตอบว่าไม่มี คนที่ขยับสัญลักษณ์ตามรูปร่างของมัน สำเร็จเพียงใดก็ตาม ไม่ได้สกัดความหมายออกมาด้วยการทำอย่างนั้น และถ้าเรื่องนี้จริงกับชายคนหนึ่งที่ถือสมุดกฎ มันก็จริงกับคอมพิวเตอร์ที่รันโปรแกรมเทียบเท่ากัน ใหญ่แค่ไหนก็ตาม บทความชื่อ "Minds, Brains, and Programs" (Behavioral and Brain Sciences 3, 1980: 417–457) วารสารตีพิมพ์มันในรูปแบบวิจารณ์เปิดโดยเพื่อนร่วมวงการ วางฝ่ายคัดค้านไว้ข้างกัน และการเถียงก็ไม่เคยหยุดจริงๆ นับแต่นั้น
The Chinese Room was aimed at a specific, then-dominant target, which is this chapter's first principle: the computational theory of mind. Hilary Putnam's papers from 1960 onward, culminating in "The Nature of Mental States" (1967), proposed that a mental state is not defined by what it is made of — neurons, silicon, anything — but by its functional role: what causes it, what it causes, how it relates to other mental states. His guiding picture was the Turing machine, whose abstract "machine table" of states is exactly the same whether it runs on relays, vacuum tubes, or a napkin and a pencil, so long as the transitions are honored. Jerry Fodor pushed the theory from an analogy into an architecture in The Language of Thought (1975): thinking, he argued, is computation over an internal symbolic code — "Mentalese" — with a combinatorial syntax and a compositional semantics, exactly the kind of structure a digital computer manipulates. On this view, a mind literally is a program running on the wet hardware of a brain, and Searle's room is the theory's most inconvenient test case: a system that, on Putnam and Fodor's own terms, is running the right program, and yet — Searle insists — plainly understands nothing.
เป้าของห้องจีน (Chinese Room) คือทฤษฎีที่ครองวงการอยู่ตอนนั้น และมันคือหลักการแรกของบทนี้: ทฤษฎีจิตเชิงคำนวณ (computational theory of mind) ฮิลารี พัทนัม เขียนบทความชุดหนึ่งตั้งแต่ปี 1960 จนถึง "The Nature of Mental States" (1967) เสนอว่าสถานะจิตไม่ได้นิยามด้วยวัสดุที่มันทำขึ้น — เซลล์ประสาท ซิลิคอน อะไรก็ตาม — แต่นิยามด้วยบทบาทเชิงหน้าที่ (functional role): อะไรทำให้มันเกิด มันทำให้อะไรเกิด และมันโยงกับสถานะจิตอื่นอย่างไร ภาพนำทางของเขาคือเครื่องทัวริง "ตารางเครื่อง" นามธรรมของสถานะต่างๆ เหมือนกันเป๊ะ จะรันบนรีเลย์ หลอดสุญญากาศ หรือกระดาษเช็ดปากกับดินสอ ตราบใดที่การเปลี่ยนสถานะยังถูกต้อง เจอร์รี โฟดอร์ ดันทฤษฎีนี้จากคำเปรียบเทียบขึ้นเป็นสถาปัตยกรรมใน The Language of Thought (1975) เขาโต้ว่าการคิดคือการคำนวณเหนือรหัสสัญลักษณ์ภายใน — "Mentalese" — ที่มีวากยสัมพันธ์เชิงการจัดหมู่และความหมายเชิงประกอบ (compositionality) โครงสร้างชนิดเดียวกับที่คอมพิวเตอร์ดิจิทัลขยับอยู่ทุกวัน ในภาพนี้ จิตเป็นโปรแกรมที่รันบนฮาร์ดแวร์เปียกของสมองโดยแท้ และห้องของเซิร์ลคือกรณีทดสอบที่ลำบากใจที่สุดของทฤษฎีนี้: ระบบที่รันโปรแกรมถูกตัวตามเงื่อนไขของพัทนัมกับโฟดอร์เอง แต่ — เซิร์ลยืนยัน — ไม่เข้าใจอะไรเลยอย่างชัดเจน
The second principle sits one level below that metaphysical claim, and it is easy to confuse with it: Alan Turing's 1950 proposal, in "Computing Machinery and Intelligence" (Mind 59, no. 236: 433–460), that the question "can machines think" is too laden with undefined terms to argue productively, and should be replaced by an operational one — can a machine's conversational behavior be mistaken for a human's, in a structured game of questions and answers? Turing was not claiming that passing the game proves the presence of a mind; he was proposing to stop asking the metaphysical question and start measuring the behavioral one. The distance between Turing's move and Putnam and Fodor's is exactly the distance the Chinese Room exploits: Turing offers a test for behavior; the computational theory of mind claims that the right behavior-producing process, whatever it turns out to be, simply is thinking; Searle's room passes the first while, he argues, refuting the second.
หลักการที่สองอยู่ต่ำกว่าข้อกล่าวอ้างเชิงอภิปรัชญานั้นหนึ่งระดับ และคนสับสนกับมันได้ง่าย อลัน ทัวริง เสนอไว้ในปี 1950 ใน "Computing Machinery and Intelligence" (Mind 59, no. 236: 433–460) ว่าคำถาม "เครื่องจักรคิดได้ไหม" แบกคำที่ไม่ได้นิยามไว้มากเกินกว่าจะเถียงกันให้ได้ผล ควรเปลี่ยนเป็นคำถามเชิงปฏิบัติการแทน — พฤติกรรมการสนทนาของเครื่องจักรถูกเข้าใจผิดว่าเป็นของมนุษย์ได้หรือไม่ ในเกมถามตอบที่มีโครงสร้าง ทัวริงไม่ได้อ้างว่าผ่านเกมแล้วพิสูจน์ว่ามีจิต เขาเสนอให้เลิกถามคำถามเชิงอภิปรัชญา แล้วหันมาวัดคำถามเชิงพฤติกรรม ระยะห่างระหว่างท่าทีของทัวริงกับของพัทนัมและโฟดอร์ คือระยะห่างที่ห้องจีนงัดขึ้นมาใช้พอดี ทัวริงเสนอการทดสอบพฤติกรรม ทฤษฎีจิตเชิงคำนวณอ้างว่ากระบวนการที่ผลิตพฤติกรรมถูกต้อง ไม่ว่าสุดท้ายมันจะเป็นอะไร ก็คือการคิดโดยตรง ห้องของเซิร์ลผ่านข้อแรก และหักล้างข้อที่สอง — เขาโต้อย่างนั้น
The third principle is the argument's afterlife: the replies, and what they reveal. The "systems reply" holds that Searle is right that the man alone understands nothing, but wrong to conclude that no one does — understanding, on this view, belongs to the whole system: man, rulebook, and paper together. Searle's counter was to have the man memorize the entire rulebook and work the transformations in his head, leaving no separate "paper" for understanding to hide in; by his lights, still no understanding, only a faster clerk. The "robot reply" tries a different repair: wire the room to cameras and motors, so the symbols are caused by, and cause changes in, a real world instead of arriving from and returning to another room. Searle's response — the symbols are still just more symbols, now merely triggered by transducers rather than slips of paper — names, without quite solving, what later literature calls the symbol grounding problem: rules connecting symbols to other symbols, however elaborate, may never on their own reach the world the symbols are supposed to be about.
หลักการที่สามคือชีวิตหลังความตายของข้อโต้แย้งนี้: คำตอบโต้ต่างๆ และสิ่งที่มันเผยออกมา "คำตอบโต้เชิงระบบ" (systems reply) ถือว่าเซิร์ลถูกที่ว่าชายคนนั้นคนเดียวไม่เข้าใจอะไร แต่ผิดที่สรุปว่าไม่มีใครเข้าใจ ความเข้าใจในมุมนี้เป็นของทั้งระบบ: ชายคนนั้น สมุดกฎ และกระดาษ รวมกัน เซิร์ลสวนกลับด้วยการให้ชายคนนั้นท่องสมุดกฎทั้งเล่ม แล้วแปลงอักขระในหัวตัวเอง ไม่เหลือ "กระดาษ" แยกต่างหากให้ความเข้าใจซ่อนตัว ในสายตาเขา ก็ยังไม่มีความเข้าใจ มีแต่เสมียนที่เร็วขึ้น "คำตอบโต้เชิงหุ่นยนต์" (robot reply) ลองซ่อมอีกทาง: ต่อสายห้องเข้ากับกล้องและมอเตอร์ ให้โลกจริงเป็นเหตุของสัญลักษณ์ และให้สัญลักษณ์ก่อความเปลี่ยนแปลงในโลกจริง แทนที่จะรับส่งกับอีกห้องหนึ่ง เซิร์ลตอบว่าสัญลักษณ์ก็ยังเป็นสัญลักษณ์เพิ่มอีกชุด เพียงแต่คราวนี้ตัวแปลงสัญญาณเป็นตัวกระตุ้นแทนเศษกระดาษ คำตอบนั้นตั้งชื่อให้สิ่งที่วรรณกรรมรุ่นหลังเรียกว่าปัญหาการยึดโยงสัญลักษณ์ (symbol grounding problem) โดยไม่ได้แก้มันเสียทีเดียว: กฎที่เชื่อมสัญลักษณ์เข้ากับสัญลักษณ์ ซับซ้อนเพียงใดก็ตาม อาจไปไม่ถึงโลกที่สัญลักษณ์เหล่านั้นควรพูดถึง ด้วยตัวมันเอง
The fourth principle is an older civil war that current AI reopened rather than settled. Fodor, together with Zenon Pylyshyn, turned his defense of the language of thought into a direct attack on the rival architecture then rising in cognitive science: connectionism, the parallel distributed processing (PDP) networks of David Rumelhart and James McClelland's 1986 volumes. "Connectionism and Cognitive Architecture: A Critical Analysis" (Cognition 28, 1988: 3–71) argued that thought is systematic in a way pure connectionist networks cannot, in principle, explain: anyone who can think John loves Mary can think Mary loves John — the two thoughts share combinatorial parts that recombine, which requires, they claimed, an underlying symbolic syntax, not a pattern-matcher trained on enough examples of both shapes. For thirty years the argument looked mostly settled toward hybrid views. Large language models reopened it at a scale nobody in 1988 anticipated: systems built from nothing but weighted connections now produce output systematic enough to fool most casual tests, with no hand-built symbolic layer in sight — and the field is still arguing — empirically now, not only philosophically — whether that refutes Fodor and Pylyshyn or whether large networks quietly learn something symbol-like after all, a question chapter 13 picks up.
หลักการที่สี่คือสงครามกลางเมืองที่เก่ากว่านั้น และ AI ยุคนี้เปิดมันขึ้นใหม่ ไม่ได้ยุติมัน โฟดอร์กับเซนอน ไพลีชิน เปลี่ยนการปกป้องภาษาแห่งความคิดให้เป็นการโจมตีตรงๆ ต่อสถาปัตยกรรมคู่แข่งที่กำลังขึ้นในวิทยาศาสตร์การรู้คิดตอนนั้น: คอนเนคชันนิสม์ (connectionism) เครือข่ายประมวลผลกระจายแบบขนาน (PDP) จากหนังสือสองเล่มปี 1986 ของเดวิด รูเมลฮาร์ต กับเจมส์ แม็คเคลแลนด์ "Connectionism and Cognitive Architecture: A Critical Analysis" (Cognition 28, 1988: 3–71) โต้ว่าความคิดมี systematicity (ความเป็นระบบของความคิด) ในแบบที่เครือข่ายคอนเนคชันนิสม์บริสุทธิ์อธิบายไม่ได้ในหลักการ: ใครคิดได้ว่า John loves Mary ก็คิดได้ว่า Mary loves John — ความคิดสองอันนี้ใช้ชิ้นส่วนชุดเดียวกันประกอบสลับที่กัน และนั่นต้องอาศัยวากยสัมพันธ์เชิงสัญลักษณ์อยู่เบื้องหลัง พวกเขาอ้าง ไม่ใช่ตัวจับคู่แบบรูปที่เทรนด้วยตัวอย่างของทั้งสองรูปมากพอ สามสิบปีต่อมา ข้อโต้แย้งนี้ดูเหมือนลงเอยไปทางมุมมองแบบผสมเป็นส่วนใหญ่ โมเดลภาษาขนาดใหญ่ (large language models) เปิดมันขึ้นใหม่ในสเกลที่ไม่มีใครในปี 1988 คาดไว้: ระบบที่สร้างจากการเชื่อมต่อถ่วงน้ำหนักล้วนๆ ผลิตเอาต์พุตที่มี systematicity มากพอจะหลอกการทดสอบแบบผ่านๆ ส่วนใหญ่ได้ โดยไม่มีชั้นสัญลักษณ์ที่สร้างด้วยมือให้เห็นสักชั้น วงการยังเถียงกันอยู่ — เชิงประจักษ์แล้วตอนนี้ ไม่ใช่เชิงปรัชญาอย่างเดียว — ว่านี่หักล้างโฟดอร์กับไพลีชินหรือไม่ หรือเครือข่ายขนาดใหญ่แอบเรียนรู้อะไรบางอย่างที่คล้ายสัญลักษณ์ไปแล้ว คำถามที่บทที่ 13 รับไปเล่นต่อ
The fifth principle is the one no reply above touches: David Chalmers's distinction, first presented at the 1994 Tucson conference on consciousness and published as "Facing Up to the Problem of Consciousness" (Journal of Consciousness Studies 2, no. 3, 1995: 200–219), between the easy problems of mind — explaining discrimination, integration, reportability, attention, all of them tractable, in principle, by computational or neural mechanism — and the hard problem: why any of that processing is accompanied by subjective experience at all, why there is something it is like to be the system doing it. A computational theory of mind, however complete, explains structure and function; Chalmers argues it can stay silent on why function comes with feeling, illustrated by his "zombie" duplicate — functionally identical to a conscious being, with no inner experience at all. Whatever one makes of zombies, the hard problem marks where this chapter's apparatus — programs, functions, computation — may run out of the right kind of thing to explain. What current AI revives is all four earlier principles at once, unresolved, at a scale nobody argued at before: the field keeps measuring behavior, because behavior is what it knows how to measure, while the Chinese Room's question has not gone anywhere.
หลักการที่ห้าคือหลักการที่ไม่มีคำตอบโต้ข้างต้นแตะถึงเลย เดวิด ชาลเมอร์ส เสนอมันครั้งแรกที่การประชุมทูซอนว่าด้วยจิตสำนึกปี 1994 และตีพิมพ์เป็น "Facing Up to the Problem of Consciousness" (Journal of Consciousness Studies 2, no. 3, 1995: 200–219) เขาแยก ปัญหาง่าย (the easy problems) ของจิต — อธิบายการแยกแยะ การรวมเข้าด้วยกัน ความสามารถในการรายงาน ความใส่ใจ ทั้งหมดนี้กลไกเชิงคำนวณหรือเชิงประสาทจัดการได้ในหลักการ — ออกจากปัญหายาก (the hard problem): ทำไมกระบวนการเหล่านั้นถึงมาพร้อมประสบการณ์เชิงอัตวิสัย (subjective experience) เลยด้วยซ้ำ ทำไมถึงมี "ความรู้สึกว่าเป็นอย่างไร" ที่จะเป็นระบบซึ่งกำลังทำสิ่งนั้นอยู่ ทฤษฎีจิตเชิงคำนวณอธิบายโครงสร้างกับหน้าที่ได้ สมบูรณ์แค่ไหนก็ยังเป็นแค่นั้น และชาลเมอร์สโต้ว่ามันนิ่งเงียบได้ต่อคำถามว่าทำไมหน้าที่จึงมาพร้อมความรู้สึก เขาใช้ "ซอมบี้" คู่แฝดของเขาเป็นภาพประกอบ — ซอมบี้เชิงปรัชญา (philosophical zombie) ที่เหมือนกันทุกประการเชิงหน้าที่กับสิ่งมีจิตสำนึก แต่ไม่มีประสบการณ์ภายในเลยสักนิด จะคิดกับซอมบี้อย่างไรก็ตาม ปัญหายากปักหมุดตรงจุดที่เครื่องมือของบทนี้ — โปรแกรม ฟังก์ชัน การคำนวณ — อาจไม่มีสิ่งที่ถูกชนิดเหลือให้อธิบาย ปัญญาประดิษฐ์ยุคนี้ปลุกทั้งสี่หลักการก่อนหน้าขึ้นมาพร้อมกัน ยังไม่มีข้อไหนถูกคลี่คลาย ในสเกลที่ไม่เคยมีใครเถียงกันมาก่อน: วงการวัดพฤติกรรมต่อไป เพราะพฤติกรรมคือสิ่งที่มันรู้วิธีวัด ส่วนคำถามของห้องจีนก็ยังอยู่ที่เดิม
The people, briefly. Putnam abandoned computational functionalism before many of his own students did, uneasy with a theory that could not survive his own triviality argument from chapter 02. Fodor defended the language of thought against successive rivals for forty years and outlived most of them. Searle has never claimed computers cannot in principle think — his target is the sufficiency of syntax, not the possibility of machine minds by other means. Chalmers named the hard problem in his twenties and has spent every year since being asked to solve it.
ผู้คน โดยย่อ พัทนัมทิ้งหน้าที่นิยมเชิงคำนวณก่อนลูกศิษย์ของเขาเองหลายคนเสียอีก เขาไม่สบายใจกับทฤษฎีที่รอดข้อโต้แย้งเรื่องความจิ๊บจ๊อยของตัวเขาเองในบทที่ 02 ไม่ได้ โฟดอร์ปกป้องภาษาแห่งความคิดจากคู่แข่งที่ผลัดกันเข้ามาตลอดสี่สิบปี และอยู่ยงกว่าคู่แข่งเหล่านั้นเกือบทั้งหมด เซิร์ลไม่เคยอ้างว่าคอมพิวเตอร์คิดไม่ได้ในหลักการ — เป้าของเขาคือความเพียงพอของวากยสัมพันธ์ ไม่ใช่ความเป็นไปได้ของจิตเครื่องจักรด้วยวิธีอื่น ชาลเมอร์สตั้งชื่อปัญหายากตอนอายุยี่สิบกว่า และถูกขอให้แก้มันทุกปีนับแต่นั้น
Connections
เชื่อมโยง
Chapter 02's implementation problem is this chapter's silent premise: if implementing a program does not settle what a system is computing, functionalism inherits that gap directly. Chapter 08 returns to embodiment from Dreyfus's angle, against which the robot reply is a partial, contested answer. Chapter 09 owns the Lucas–Penrose argument, which aims Gödel's limits at this chapter's thesis from outside. Chapter 13 owns the full empirical run of connectionism versus symbols, grounding, and what interpretability finds inside the systems this chapter can only interrogate from outside.
ปัญหาการนำไปใช้จริงของบทที่ 02 คือข้อสมมติเงียบของบทนี้: ถ้าการนำโปรแกรมไปใช้จริงไม่ได้ชี้ขาดว่าระบบหนึ่งกำลังคำนวณอะไร หน้าที่นิยมก็รับช่องว่างนั้นมาเต็มๆ บทที่ 08 กลับไปหา embodied cognition (การรู้คิดแบบมีร่าง) จากมุมของเดรย์ฟัส และคำตอบโต้เชิงหุ่นยนต์เป็นคำตอบบางส่วนที่ยังถูกโต้กลับอยู่ บทที่ 09 เป็นเจ้าของข้อโต้แย้งลูคัส–เพนโรส ที่เล็งขีดจำกัดของเกอเดิลมาที่วิทยานิพนธ์ของบทนี้จากภายนอก บทที่ 13 เป็นเจ้าของการเดินเชิงประจักษ์เต็มรูปแบบของคอนเนคชันนิสม์กับสัญลักษณ์ การยึดโยง และสิ่งที่ interpretability พบข้างในระบบที่บทนี้ทำได้แค่ซักถามจากภายนอก
Open questions
คำถามที่ยังเปิดอยู่
If Turing's operational test and Searle's understanding-requirement are both individually reasonable, can they be held at once — is passing the imitation game evidence of thought, weak evidence, or simply orthogonal to it? And if the hard problem is genuinely intractable to computational explanation, what follows for how we ought to treat systems whose behavior increasingly resembles a mind's, when behavior is the only thing any test — Turing's included — was ever built to measure?
ถ้าการทดสอบเชิงปฏิบัติการของทัวริงกับข้อเรียกร้องเรื่องความเข้าใจของเซิร์ล ต่างก็สมเหตุสมผลเมื่อพิจารณาแยกกัน เราถือทั้งสองอย่างไว้พร้อมกันได้หรือไม่ — การผ่านเกมเลียนแบบเป็นหลักฐานของการคิด เป็นหลักฐานที่อ่อน หรือไม่เกี่ยวข้องกับมันเลย และถ้าปัญหายากดื้อต่อคำอธิบายเชิงคำนวณจริงๆ อะไรตามมาสำหรับวิธีที่เราควรปฏิบัติต่อระบบที่พฤติกรรมของมันคล้ายจิตมากขึ้นทุกที ในเมื่อพฤติกรรมคือสิ่งเดียวที่การทดสอบใดๆ — ของทัวริงรวมอยู่ด้วย — เคยถูกสร้างขึ้นมาเพื่อวัด
Go deeper
อ่านต่อ
- Margaret A. Boden, Mind as Machine: A History of Cognitive Science, 2 vols., Oxford University Press, 2006 — the field's own history, told by one of its central participants.
- John R. Searle, "Minds, Brains, and Programs," Behavioral and Brain Sciences 3 (1980): 417–457; Jerry A. Fodor and Zenon W. Pylyshyn, "Connectionism and Cognitive Architecture: A Critical Analysis," Cognition 28 (1988): 3–71.
- The Computational Theory of Mind, Stanford Encyclopedia of Philosophy.
- Margaret A. Boden, Mind as Machine: A History of Cognitive Science, 2 vols., Oxford University Press, 2006 — ประวัติศาสตร์ของวงการเอง เล่าโดยหนึ่งในผู้มีบทบาทหลัก
- John R. Searle, "Minds, Brains, and Programs," Behavioral and Brain Sciences 3 (1980): 417–457; Jerry A. Fodor and Zenon W. Pylyshyn, "Connectionism and Cognitive Architecture: A Critical Analysis," Cognition 28 (1988): 3–71
- The Computational Theory of Mind, สารานุกรมปรัชญาสแตนฟอร์ด (SEP)