原文链接：https://mp.weixin.qq.com/s/_ELPrTb9Jv4Xmx_UmkdTYw
摘自《大地上的尺规：
历史、科学与艺术的现代哲学剖析》
一、机器人现象
机器的现象已越来越近似于人。笛卡尔在《谈谈方法》（1637）中曾断言即便机器能够输出语词，也无法“改变语词的排列，以恰当地应对人们对它说的所有不同的话”，四百年后这一技术复杂程度上的困难即将被克服。阿兰·图灵在《计算机器与智能》（1950）中承认人工智能模仿的是人类的输出结果而非思维过程，并认为我们无须理解意识的原理，同样能模仿智能的输出结果。图灵知道人们会以各种刁钻的测试考验机器，例如写诗。然而他指出这也只是技术复杂程度上的问题：只要机器足够复杂，写出些马马虎虎的诗，或如诗学外行那样对诗歌发表些粗浅见解并非难事。若要写出伟大杰作才算“人”，才算是在“思想”，那么绝大多数人类其实也没有思想，与机器无异。同理，任何试图以高难度复杂语言区分机器与人类的企图皆属无效，因为大多数人类亦无此等能力。近代哲学家声称人都有创造性的可能性或“潜能”，然而世界上没有两个完全相同的大脑，我们怎知道某些人写不出伟大诗歌不是由于大脑的物理硬件缺陷呢？以能否写诗判断能否思想的人，不得不面对将“庸人” 和机器划为同类的奇怪结论。
图灵并不去证伪“思想”的规律（逻辑）和计算机的机械运动（物理）之间的原则性区别。他将论证责任推给对方：如果我们承认他人也有生命和思想，凭什么说一台通过高强度图灵测试的电脑不是“生命”、不在“思想”？他人与机器的区别究竟何在？解剖学也发现不了“生命”，但我们仍然承认他人有生命；那即便找不到机器的“思想”，为何不能承认它在思想？
对机器思想的一个反驳来自约翰·塞尔的“中文屋”思想实验：假如有一个只会说英语的人被关在屋里，通过中文纸条和屋外一个不会英语的中国人交流，屋内人所能借助的工具只有一本写满了“若收到写有X 的纸条，在满足Y 条件下，输出Z 符号”的庞大《规则书》，不会中文的屋内人可以装作和屋外人交流。只要《规则书》的规模足够大，就能在有限时间内营造出屋内人懂中文的幻觉。塞尔认为：中文屋的运作方式等效于机器，屋内人其实不懂中文，所以机器其实并不思想。然而该思想实验有一漏洞：屋内人不懂中文，并不意味着中文屋之“整体”不懂中文。中文屋输出中文的规则不来自屋内人，而来自《规则书》，屋内人只相当于《规则书》的扫描仪和机械臂。于是老问题又绕回来了：假如将《规则书》视作中文屋这个物理整体的运行方式的宏观描述，即所谓“程序”，你怎么知道这个物理整体不会思维？
然而无论图灵对自己观点的防御，还是塞尔的中文屋思想实验的失败，都说明我们无法基于对现象的直观证明机器不能思想。论证机器不能思想的唯一方法，是清晰地在机器和人类之间作出某种原则性区分，既不把人类中的智力残障者混淆为机器，也不把机器中的顶尖者误判为人类。可见该标准不能建立在外在现象上，我们必须承认机器可以在现象上完全模仿人，然后对二者作出原理上的区分。
二、人工与自然
图灵认为既然我们仅凭外在现象无法区别他人与机器， 在“是否思想”的问题上就应当对二者一视同仁：要么将他人视为机器（唯我论），要么将机器视为他人。然而二者区别在于机器是“人工”的而他人不是，因此对“人工”之概念的分析是反驳图灵的唯一可能性。最基础的问题尚未澄清：当我们说“人工智能”时究竟在说什么？在使用概念之前须先澄清它的界限。
世界上每一对夫妇都知道如何“造人”，但我们不会把他们“造”的人称作“人工”智能；假如把一个人的手臂换成机械臂，甚至将他除大脑外的全部身体都换成机械，我们也不会称其为人工智能；继续设想我们从干细胞中培养出了一个大脑或大脑的一部分，并实现了人的思维功能，我们仍不会将它叫作“人工智能”，相反，我们必须承认它就是一个人。因为只要智能仍是“自然发育”而来，只要我们未能将思维完全还原为对脑物理运动的描述，未能在某语境下的某语义和脑物理运动之间建立严格对应，它的运作原理就仍不是“人工”的，而是未解的“自然”之谜。哪怕几千年后， 人类以原子级精度复刻了一颗大脑并实现了智能，它也不能算是人工智能而必须被承认为人，因为它仍是对人类智能的呆板抄袭，其运作原理仍是未知的、神秘的，并非出自人的设计。因此“人工”智能不能包括仅具备操作性却无法对其运作原理作彻底的物理还原的黑箱，否则它的智能部分就不是人工的，无法从原则上被区别于“人”。只要机器的智能部分并非人工，哪怕所有辅助部分（例如能量供给装置）都是人工的，也不能算人工智能。人工智能必须基于人类已知、确定的物理原理（例如用电路搭建起来）。
由此可知“人工”的对立面其实是“自然”。然而“自然”一词却充满歧义，远不仅“非人工”这一层含义；它在“自然科学”语境下还被理解为物理上有规律的，与“超自然” 的奇迹相对立，自然事物也都被理解成可人工制造、待技术改造或可接入技术世界的。只要“自然”是物理的，它就不仅不与“人工”对立，而且凡是自然（物理）的，从原则上说皆可人工制作。在“非人工”这层意义上，所有的锤子都是“人工锤子”，因此不是自然的；在“物理的”这层意义上， 锤子却都是自然的，而非超自然的。人工的锤子即是自然（物理）的锤子，人工的电路也是自然（物理）的电路，然而人工智能却不是自然智能，因为人类目前尚不能物理地描述自然智能。凡是相信科技进步最终能让机器思想的人，必须相信人类最终能够以纯物理语言描述智能，否则在涉及智能之事上，“自然”和“人工”之间的界限就无法消除。
将“自然”理解为物理的用法诞生于近代，例如牛顿的《自然哲学之数学原理》中的“自然”即是如此；然而“大自然”同时又生机盎然，卡尔·林奈的生物分类学作品《自然系统》就是这样。“自然科学”自近代起就是物理学、生物学等诸学科的统称，然而该统称只是历史的遗物，从哲学上看是冗余的。这是因为“自然科学”之统一仅要求诸学科不矛盾，现代诸科学不再承诺知识（scientia / Wissenschaft） 整体的连贯同一；然而仅要求彼此不矛盾等于没有要求，因为一切知识都必须不矛盾；不仅物理学与生物学不可矛盾， 它们与逻辑学、历史学的关系也如此。物理学和生物学的语言不同，分别关涉物理世界和生活世界：前者关乎力、质量、时空、场、粒子，后者关乎生命、组织、功能、意图。生物语言无法被还原为物理语言，“生命”在物理学语境下并无意义：伽利略若从斜塔上跳下来，物理学也只关心他是否和铁球同时落地，不会关心他的“生”与“死”；尽管生物学判定死、活的标准，绝不会与物理学相矛盾（活力论的错误正是因为违背物理学），甚至可能借助电物理手段。
然而要说明机器能“思想”，就得说明仅靠物理原理设计并制造的机器能“思想”，这要求仅以物理语言描述生物学语境下才有意义的概念。有人认为意识就是神经运动，而神经运动是物理的，因此意识也是物理的。此处暂不讨论意识能否还原为神经运动。首先应当指出，当人们说“神经” 时必然已经指某个生命的神经，必然先有了“生命”概念， 在此语境下将该物体理解为“生命”中实现某种“功能”的“组织”，才会把它叫作“神经”。倘若没有预设神经是“生命” 的一部分，它就只是传递电脉冲的电线。“身体由细胞构成” 和“一堆原子由很多原子构成”语境不同，细胞是一个生物学概念而原子不是，我们须用“一堆原子”指代被拟人修辞为“计算”机或电“脑”的物，以消去隐喻构造出来的幻觉。中文里的电“脑”是一个拟人修辞，英语中的“computer”（计算机）亦是如此。“计算”是人的活动，“计算机”这个名词默认了该电路在做“计算”并将其比喻为人。最严谨、最不会错的消除了隐喻的语言应当就叫它“机器”或“电路”。
支持人类与机器并无本质差别的观点认为：人类迄今未能将思想还原为物理运动，不代表以后不能。若要反驳该观点就必须论证：人类永远不可能将语言及其规律还原为物理学的确定规律，而机器必然依靠确定规律来设计。这意味着未来机器是否可能“思想”，取决于一个古老的哲学问题：“人”是否仅是机器？这里的“人”指的不是他人，而是“我”。图灵质疑他人心灵与机器智能区别何在，然而他人心灵与人工智能是两个不同的问题：纵然他人皆无心灵，“我”仍有第一人称体验。人工智能问题最终关心的是“我思”与物理运动的区别，而非“他心”与物理运动的区别。那么问题就是：“我”是否仅是机器？
