04 · ปรัชญาแห่งจิต
การไต่สวนครั้งที่สี่ของภาค I: อภิปรัชญาถามว่าโปรแกรมคืออะไร บทนี้ถามว่าสิ่งชนิดเดียวกันนั้นเป็นสิ่งที่คุณเป็นอยู่ได้หรือไม่
จิตคือสิ่งที่สมองคำนวณหรือไม่
ในปี 1980 จอห์น เซิร์ล ขอให้ผู้อ่าน Behavioral and Brain Sciences นึกภาพเขาถูกขังในห้องหนึ่ง มีสมุดกฎภาษาอังกฤษเล่มหนึ่ง และช่องที่บัตรเต็มไปด้วยตัวอักษรจีนส่งเข้ามา เซิร์ลอ่านภาษาจีนไม่ออก แต่สมุดกฎเล่มนั้นดีพอ อักขระชุดใดส่งเข้ามา มันบอกได้ด้วยรูปร่างล้วนๆ ว่าต้องส่งอักขระชุดไหนกลับออกไป คนจีนที่ยืนอยู่ข้างนอกเห็นคำตอบคล่องแคล่ว มีไหวพริบด้วยซ้ำ ห้องนั้นในฐานะกล่องดำผ่านการทดสอบทัวริง (Turing test) ที่ทำเป็นภาษาจีนได้ คำถามของเซิร์ลเรียบง่าย และกลายเป็นหน้าที่ถูกเถียงมากที่สุดหน้าหนึ่งของปรัชญาศตวรรษที่ยี่สิบ: มีใครหรือมีอะไรในห้องนั้น เข้าใจภาษาจีนหรือไม่ เขาตอบว่าไม่มี คนที่ขยับสัญลักษณ์ตามรูปร่างของมัน สำเร็จเพียงใดก็ตาม ไม่ได้สกัดความหมายออกมาด้วยการทำอย่างนั้น และถ้าเรื่องนี้จริงกับชายคนหนึ่งที่ถือสมุดกฎ มันก็จริงกับคอมพิวเตอร์ที่รันโปรแกรมเทียบเท่ากัน ใหญ่แค่ไหนก็ตาม บทความชื่อ "Minds, Brains, and Programs" (Behavioral and Brain Sciences 3, 1980: 417–457) วารสารตีพิมพ์มันในรูปแบบวิจารณ์เปิดโดยเพื่อนร่วมวงการ วางฝ่ายคัดค้านไว้ข้างกัน และการเถียงก็ไม่เคยหยุดจริงๆ นับแต่นั้น
เป้าของห้องจีน (Chinese Room) คือทฤษฎีที่ครองวงการอยู่ตอนนั้น และมันคือหลักการแรกของบทนี้: ทฤษฎีจิตเชิงคำนวณ (computational theory of mind) ฮิลารี พัทนัม เขียนบทความชุดหนึ่งตั้งแต่ปี 1960 จนถึง "The Nature of Mental States" (1967) เสนอว่าสถานะจิตไม่ได้นิยามด้วยวัสดุที่มันทำขึ้น — เซลล์ประสาท ซิลิคอน อะไรก็ตาม — แต่นิยามด้วยบทบาทเชิงหน้าที่ (functional role): อะไรทำให้มันเกิด มันทำให้อะไรเกิด และมันโยงกับสถานะจิตอื่นอย่างไร ภาพนำทางของเขาคือเครื่องทัวริง "ตารางเครื่อง" นามธรรมของสถานะต่างๆ เหมือนกันเป๊ะ จะรันบนรีเลย์ หลอดสุญญากาศ หรือกระดาษเช็ดปากกับดินสอ ตราบใดที่การเปลี่ยนสถานะยังถูกต้อง เจอร์รี โฟดอร์ ดันทฤษฎีนี้จากคำเปรียบเทียบขึ้นเป็นสถาปัตยกรรมใน The Language of Thought (1975) เขาโต้ว่าการคิดคือการคำนวณเหนือรหัสสัญลักษณ์ภายใน — "Mentalese" — ที่มีวากยสัมพันธ์เชิงการจัดหมู่และความหมายเชิงประกอบ (compositionality) โครงสร้างชนิดเดียวกับที่คอมพิวเตอร์ดิจิทัลขยับอยู่ทุกวัน ในภาพนี้ จิตเป็นโปรแกรมที่รันบนฮาร์ดแวร์เปียกของสมองโดยแท้ และห้องของเซิร์ลคือกรณีทดสอบที่ลำบากใจที่สุดของทฤษฎีนี้: ระบบที่รันโปรแกรมถูกตัวตามเงื่อนไขของพัทนัมกับโฟดอร์เอง แต่ — เซิร์ลยืนยัน — ไม่เข้าใจอะไรเลยอย่างชัดเจน
หลักการที่สองอยู่ต่ำกว่าข้อกล่าวอ้างเชิงอภิปรัชญานั้นหนึ่งระดับ และคนสับสนกับมันได้ง่าย อลัน ทัวริง เสนอไว้ในปี 1950 ใน "Computing Machinery and Intelligence" (Mind 59, no. 236: 433–460) ว่าคำถาม "เครื่องจักรคิดได้ไหม" แบกคำที่ไม่ได้นิยามไว้มากเกินกว่าจะเถียงกันให้ได้ผล ควรเปลี่ยนเป็นคำถามเชิงปฏิบัติการแทน — พฤติกรรมการสนทนาของเครื่องจักรถูกเข้าใจผิดว่าเป็นของมนุษย์ได้หรือไม่ ในเกมถามตอบที่มีโครงสร้าง ทัวริงไม่ได้อ้างว่าผ่านเกมแล้วพิสูจน์ว่ามีจิต เขาเสนอให้เลิกถามคำถามเชิงอภิปรัชญา แล้วหันมาวัดคำถามเชิงพฤติกรรม ระยะห่างระหว่างท่าทีของทัวริงกับของพัทนัมและโฟดอร์ คือระยะห่างที่ห้องจีนงัดขึ้นมาใช้พอดี ทัวริงเสนอการทดสอบพฤติกรรม ทฤษฎีจิตเชิงคำนวณอ้างว่ากระบวนการที่ผลิตพฤติกรรมถูกต้อง ไม่ว่าสุดท้ายมันจะเป็นอะไร ก็คือการคิดโดยตรง ห้องของเซิร์ลผ่านข้อแรก และหักล้างข้อที่สอง — เขาโต้อย่างนั้น
หลักการที่สามคือชีวิตหลังความตายของข้อโต้แย้งนี้: คำตอบโต้ต่างๆ และสิ่งที่มันเผยออกมา "คำตอบโต้เชิงระบบ" (systems reply) ถือว่าเซิร์ลถูกที่ว่าชายคนนั้นคนเดียวไม่เข้าใจอะไร แต่ผิดที่สรุปว่าไม่มีใครเข้าใจ ความเข้าใจในมุมนี้เป็นของทั้งระบบ: ชายคนนั้น สมุดกฎ และกระดาษ รวมกัน เซิร์ลสวนกลับด้วยการให้ชายคนนั้นท่องสมุดกฎทั้งเล่ม แล้วแปลงอักขระในหัวตัวเอง ไม่เหลือ "กระดาษ" แยกต่างหากให้ความเข้าใจซ่อนตัว ในสายตาเขา ก็ยังไม่มีความเข้าใจ มีแต่เสมียนที่เร็วขึ้น "คำตอบโต้เชิงหุ่นยนต์" (robot reply) ลองซ่อมอีกทาง: ต่อสายห้องเข้ากับกล้องและมอเตอร์ ให้โลกจริงเป็นเหตุของสัญลักษณ์ และให้สัญลักษณ์ก่อความเปลี่ยนแปลงในโลกจริง แทนที่จะรับส่งกับอีกห้องหนึ่ง เซิร์ลตอบว่าสัญลักษณ์ก็ยังเป็นสัญลักษณ์เพิ่มอีกชุด เพียงแต่คราวนี้ตัวแปลงสัญญาณเป็นตัวกระตุ้นแทนเศษกระดาษ คำตอบนั้นตั้งชื่อให้สิ่งที่วรรณกรรมรุ่นหลังเรียกว่าปัญหาการยึดโยงสัญลักษณ์ (symbol grounding problem) โดยไม่ได้แก้มันเสียทีเดียว: กฎที่เชื่อมสัญลักษณ์เข้ากับสัญลักษณ์ ซับซ้อนเพียงใดก็ตาม อาจไปไม่ถึงโลกที่สัญลักษณ์เหล่านั้นควรพูดถึง ด้วยตัวมันเอง
หลักการที่สี่คือสงครามกลางเมืองที่เก่ากว่านั้น และ AI ยุคนี้เปิดมันขึ้นใหม่ ไม่ได้ยุติมัน โฟดอร์กับเซนอน ไพลีชิน เปลี่ยนการปกป้องภาษาแห่งความคิดให้เป็นการโจมตีตรงๆ ต่อสถาปัตยกรรมคู่แข่งที่กำลังขึ้นในวิทยาศาสตร์การรู้คิดตอนนั้น: คอนเนคชันนิสม์ (connectionism) เครือข่ายประมวลผลกระจายแบบขนาน (PDP) จากหนังสือสองเล่มปี 1986 ของเดวิด รูเมลฮาร์ต กับเจมส์ แม็คเคลแลนด์ "Connectionism and Cognitive Architecture: A Critical Analysis" (Cognition 28, 1988: 3–71) โต้ว่าความคิดมี systematicity (ความเป็นระบบของความคิด) ในแบบที่เครือข่ายคอนเนคชันนิสม์บริสุทธิ์อธิบายไม่ได้ในหลักการ: ใครคิดได้ว่า John loves Mary ก็คิดได้ว่า Mary loves John — ความคิดสองอันนี้ใช้ชิ้นส่วนชุดเดียวกันประกอบสลับที่กัน และนั่นต้องอาศัยวากยสัมพันธ์เชิงสัญลักษณ์อยู่เบื้องหลัง พวกเขาอ้าง ไม่ใช่ตัวจับคู่แบบรูปที่เทรนด้วยตัวอย่างของทั้งสองรูปมากพอ สามสิบปีต่อมา ข้อโต้แย้งนี้ดูเหมือนลงเอยไปทางมุมมองแบบผสมเป็นส่วนใหญ่ โมเดลภาษาขนาดใหญ่ (large language models) เปิดมันขึ้นใหม่ในสเกลที่ไม่มีใครในปี 1988 คาดไว้: ระบบที่สร้างจากการเชื่อมต่อถ่วงน้ำหนักล้วนๆ ผลิตเอาต์พุตที่มี systematicity มากพอจะหลอกการทดสอบแบบผ่านๆ ส่วนใหญ่ได้ โดยไม่มีชั้นสัญลักษณ์ที่สร้างด้วยมือให้เห็นสักชั้น วงการยังเถียงกันอยู่ — เชิงประจักษ์แล้วตอนนี้ ไม่ใช่เชิงปรัชญาอย่างเดียว — ว่านี่หักล้างโฟดอร์กับไพลีชินหรือไม่ หรือเครือข่ายขนาดใหญ่แอบเรียนรู้อะไรบางอย่างที่คล้ายสัญลักษณ์ไปแล้ว คำถามที่บทที่ 13 รับไปเล่นต่อ
หลักการที่ห้าคือหลักการที่ไม่มีคำตอบโต้ข้างต้นแตะถึงเลย เดวิด ชาลเมอร์ส เสนอมันครั้งแรกที่การประชุมทูซอนว่าด้วยจิตสำนึกปี 1994 และตีพิมพ์เป็น "Facing Up to the Problem of Consciousness" (Journal of Consciousness Studies 2, no. 3, 1995: 200–219) เขาแยก ปัญหาง่าย (the easy problems) ของจิต — อธิบายการแยกแยะ การรวมเข้าด้วยกัน ความสามารถในการรายงาน ความใส่ใจ ทั้งหมดนี้กลไกเชิงคำนวณหรือเชิงประสาทจัดการได้ในหลักการ — ออกจากปัญหายาก (the hard problem): ทำไมกระบวนการเหล่านั้นถึงมาพร้อมประสบการณ์เชิงอัตวิสัย (subjective experience) เลยด้วยซ้ำ ทำไมถึงมี "ความรู้สึกว่าเป็นอย่างไร" ที่จะเป็นระบบซึ่งกำลังทำสิ่งนั้นอยู่ ทฤษฎีจิตเชิงคำนวณอธิบายโครงสร้างกับหน้าที่ได้ สมบูรณ์แค่ไหนก็ยังเป็นแค่นั้น และชาลเมอร์สโต้ว่ามันนิ่งเงียบได้ต่อคำถามว่าทำไมหน้าที่จึงมาพร้อมความรู้สึก เขาใช้ "ซอมบี้" คู่แฝดของเขาเป็นภาพประกอบ — ซอมบี้เชิงปรัชญา (philosophical zombie) ที่เหมือนกันทุกประการเชิงหน้าที่กับสิ่งมีจิตสำนึก แต่ไม่มีประสบการณ์ภายในเลยสักนิด จะคิดกับซอมบี้อย่างไรก็ตาม ปัญหายากปักหมุดตรงจุดที่เครื่องมือของบทนี้ — โปรแกรม ฟังก์ชัน การคำนวณ — อาจไม่มีสิ่งที่ถูกชนิดเหลือให้อธิบาย ปัญญาประดิษฐ์ยุคนี้ปลุกทั้งสี่หลักการก่อนหน้าขึ้นมาพร้อมกัน ยังไม่มีข้อไหนถูกคลี่คลาย ในสเกลที่ไม่เคยมีใครเถียงกันมาก่อน: วงการวัดพฤติกรรมต่อไป เพราะพฤติกรรมคือสิ่งที่มันรู้วิธีวัด ส่วนคำถามของห้องจีนก็ยังอยู่ที่เดิม
ผู้คน โดยย่อ พัทนัมทิ้งหน้าที่นิยมเชิงคำนวณก่อนลูกศิษย์ของเขาเองหลายคนเสียอีก เขาไม่สบายใจกับทฤษฎีที่รอดข้อโต้แย้งเรื่องความจิ๊บจ๊อยของตัวเขาเองในบทที่ 02 ไม่ได้ โฟดอร์ปกป้องภาษาแห่งความคิดจากคู่แข่งที่ผลัดกันเข้ามาตลอดสี่สิบปี และอยู่ยงกว่าคู่แข่งเหล่านั้นเกือบทั้งหมด เซิร์ลไม่เคยอ้างว่าคอมพิวเตอร์คิดไม่ได้ในหลักการ — เป้าของเขาคือความเพียงพอของวากยสัมพันธ์ ไม่ใช่ความเป็นไปได้ของจิตเครื่องจักรด้วยวิธีอื่น ชาลเมอร์สตั้งชื่อปัญหายากตอนอายุยี่สิบกว่า และถูกขอให้แก้มันทุกปีนับแต่นั้น
เชื่อมโยง
ปัญหาการนำไปใช้จริงของบทที่ 02 คือข้อสมมติเงียบของบทนี้: ถ้าการนำโปรแกรมไปใช้จริงไม่ได้ชี้ขาดว่าระบบหนึ่งกำลังคำนวณอะไร หน้าที่นิยมก็รับช่องว่างนั้นมาเต็มๆ บทที่ 08 กลับไปหา embodied cognition (การรู้คิดแบบมีร่าง) จากมุมของเดรย์ฟัส และคำตอบโต้เชิงหุ่นยนต์เป็นคำตอบบางส่วนที่ยังถูกโต้กลับอยู่ บทที่ 09 เป็นเจ้าของข้อโต้แย้งลูคัส–เพนโรส ที่เล็งขีดจำกัดของเกอเดิลมาที่วิทยานิพนธ์ของบทนี้จากภายนอก บทที่ 13 เป็นเจ้าของการเดินเชิงประจักษ์เต็มรูปแบบของคอนเนคชันนิสม์กับสัญลักษณ์ การยึดโยง และสิ่งที่ interpretability พบข้างในระบบที่บทนี้ทำได้แค่ซักถามจากภายนอก
คำถามที่ยังเปิดอยู่
ถ้าการทดสอบเชิงปฏิบัติการของทัวริงกับข้อเรียกร้องเรื่องความเข้าใจของเซิร์ล ต่างก็สมเหตุสมผลเมื่อพิจารณาแยกกัน เราถือทั้งสองอย่างไว้พร้อมกันได้หรือไม่ — การผ่านเกมเลียนแบบเป็นหลักฐานของการคิด เป็นหลักฐานที่อ่อน หรือไม่เกี่ยวข้องกับมันเลย และถ้าปัญหายากดื้อต่อคำอธิบายเชิงคำนวณจริงๆ อะไรตามมาสำหรับวิธีที่เราควรปฏิบัติต่อระบบที่พฤติกรรมของมันคล้ายจิตมากขึ้นทุกที ในเมื่อพฤติกรรมคือสิ่งเดียวที่การทดสอบใดๆ — ของทัวริงรวมอยู่ด้วย — เคยถูกสร้างขึ้นมาเพื่อวัด
อ่านต่อ
- Margaret A. Boden, Mind as Machine: A History of Cognitive Science, 2 vols., Oxford University Press, 2006 — ประวัติศาสตร์ของวงการเอง เล่าโดยหนึ่งในผู้มีบทบาทหลัก
- John R. Searle, "Minds, Brains, and Programs," Behavioral and Brain Sciences 3 (1980): 417–457; Jerry A. Fodor and Zenon W. Pylyshyn, "Connectionism and Cognitive Architecture: A Critical Analysis," Cognition 28 (1988): 3–71
- The Computational Theory of Mind, สารานุกรมปรัชญาสแตนฟอร์ด (SEP)