能解释，不足以证明理解。会出错，也不足以否定全部理解。AI使“理解”成为一组需要分别检验的能力，笼统的肯定与否定都已不够。
讨论人工智能与哲学，可以从这一分寸开始：能力按表现检验，判断由证据支持，价值不随性能排名。这三者相互关联，也各有边界。
训练目标，不是能力清单
大语言模型通过预测后续文本片段训练。预测是训练目标，模型由此形成什么能力，需要通过任务观察。把模型概括为“接下一个词”，无法充分描述复杂任务中的表现；把流畅回答直接视为完整理解，也超出了证据。
模型处理文本中的关系。概念前后一致、条件改变后结论调整、反例针对特定前提，都可以成为可检查的表现。Transformer的注意力机制支持不同位置的信息建立关联，但技术术语中的“注意力”不意味着有意识的注意。原始论文
理解的证据，应当经得起变化。熟悉表述下的准确回答，只能证明有限能力；换一种表达、调整一个条件、加入相反材料之后仍能保持判断，证据才会增加。错误能否发现，修正能否迁移，同样重要。
把训练目标当作能力上限，与把一次表现当作全部心智，是相反方向的简化。
行为证据有力量，也有范围
图灵1950年的《计算机器与智能》，通过模仿游戏把争论引向可观察的交互表现。人们通常也依靠语言和行动判断他人的能力，这使行为证据具有不可回避的地位。论文
但模仿游戏不能缩成“骗过人就证明有心灵”。交互表现支持什么判断、需要多少证据，仍须论证。关于解释能力、世界关联和主观经验的判断，也不必共享一个充分条件。
塞尔1980年的中文房间论证，针对执行形式程序足以构成理解的主张。系统回应则追问：操作者不理解，是否足以推出整个系统不理解？塞尔对此作出反驳，争论并未形成一致结论。原文
当代大模型在技术实现上远比简单查表复杂。这一差别值得研究，却没有自动解决形式过程与意义的关系。经典论证需要面对新的能力证据，新技术也仍需回答经典论证提出的问题。
把哲学争论落到研究任务
论证重构是一项可以先行检验的用途。模型能够协助提取明示前提、提出隐含前提、并置不同重构。研究者检查这些处理是否忠实于原文，是否遗漏限定，是否改变概念。用途判断因此有了明确对象。
这种分工不要求预先认定模型具有人的理解。工具提供了有价值的分析，便可说明它在该任务中的能力；是否据此赋予更强的心灵属性，还需其他理由。
同样，研究者也不能用一份整齐的论证图替代解释。模型可能补入作者未曾承诺的前提，消除原文保留的歧义，使论述更顺畅，却更不准确。最有用的产物，是清楚标出原文、补充与不确定之处的分析。
由此，理解问题获得了两种研究入口：检验系统在具体任务中的表现，分析这些表现对于理解概念有何意义。前者可以不断积累材料，后者保持理论上的开放。
AI已经扩展了可以检验的能力。哲学需要确定，这些能力足以支持哪些判断。能力可以逐项确认，理解不宜一次授予。
参考资料与延伸阅读：
发表评论