---
title: "斯坦福哲学百科《人工智能的知识论》深度解读：大模型如何用知识论提升性能与科研可靠性"
date: 2026-10-29
description: "斯坦福哲学百科全书（SEP）于 2026 年 10 月 16 日新增《人工智能的知识论》词条，系统讨论 AI 的不透明性与可解释性、AI 输出何以成为知识、AI 能否带来理解、谁是认知主体等问题。本文梳理词条主要内容与价值，并把可靠主义、稳健性、归纳正当化、差异法、归纳风险等知识论概念转化为大模型工程与科研实践中的可执行方法，探讨如何以知识论提升大模型的性能与科研探索的可靠性。"
tags: ["知识论", "人工智能哲学", "大模型", "可解释性", "科研可靠性", "AI for Science", "可信 AI"]
schema_type: Article
references:
  - title: "Epistemology of Artificial Intelligence"
    url: "https://plato.stanford.edu/entries/epistemology-ai/"
    source: "Stanford Encyclopedia of Philosophy，Claus Beisbart，2026-10-16"
  - title: "AI and Its Varieties From an Epistemological Perspective（词条补充文档）"
    url: "https://plato.stanford.edu/entries/epistemology-ai/supplement.html"
    source: "Stanford Encyclopedia of Philosophy"
  - title: "Linked bibliography for the SEP article “Epistemology of Artificial Intelligence”"
    url: "https://philpapers.org/sep/epistemology-ai/"
    source: "PhilPapers"
  - title: "Chronological List of Published Entries"
    url: "https://plato.stanford.edu/published.html"
    source: "Stanford Encyclopedia of Philosophy"
---

**词条要点（来源1）：AI 既是被认识的对象，也站在认知主体一侧，帮助人获得知识与理解。**

**核心难题（来源1）：多数 AI 结果无法独立核查，也无法逐步检视，其正当性主要依赖可靠性记录与归纳。**

**本文判断：大模型可靠性的瓶颈不只在算力，而在“凭什么相信这个输出”的辩护链条。**

**行动方向：把可靠主义、稳健性、领域锚定、差异法和归纳风险，转化为模型工程与科研流程中的硬性环节。**

---

> 写作说明：本文对词条内容的梳理均来自斯坦福哲学百科全书原文（来源1、2）；把知识论概念迁移到大模型工程与科研实践的部分为作者推论，标注“本文分析”。

## 一、这是一份什么样的“网页”？

斯坦福哲学百科全书（Stanford Encyclopedia of Philosophy，简称 SEP）是由斯坦福大学维护、经同行评审的在线哲学百科，被广泛视为哲学领域的权威参考。2026 年 10 月 16 日，SEP 首次发布《人工智能的知识论》（Epistemology of Artificial Intelligence）词条，作者为 Claus Beisbart（来源1、4）。

词条开篇提出一组根本问题：人们基于 AI 输出形成信念，是否真的有正当理由？能否声称基于 AI 获得了知识？如果能，辩护来自哪里？AI 产生的是什么样的知识？AI 的程序与熟知的科学推理模式相比如何？AI 又能否帮助我们更好地理解真实世界（来源1）？

词条以 AlphaFold 为例说明 AI 的认知成就：AlphaFold 2 已预测超过 2 亿种蛋白质结构，与数据比对显示相当高比例的预测高度准确；词条认为，鉴于其记录，我们有理由相信它的下一个预测为真，或至少是很好的近似（来源1）。词条还列举了医学影像诊断、天文数据分类、从观测中发现物理方程、几何定理证明、国际数学奥林匹克金牌水平，以及 2026 年 OpenAI 声称由 1 万个 AI 智能体组成的系统证明了纳维—斯托克斯方程可能因奇点而失效（词条同时注明该发现仍有争议）（来源1）。

**这份词条的价值（本文分析）：** 它第一次在权威哲学参考中，把“AI 输出何以可信”从技术问题提升为一个有系统框架的规范性问题——而这恰恰是大模型走向科研与高风险应用时最缺的“地基”。

## 二、总体框架：AI 的双重角色

词条把 AI 的知识论分为两部分（来源1）：

| 角色 | 含义 | 核心问题 |
|---|---|---|
| AI 作为认知对象 | 我们需要更好地认识和理解 AI 本身 | 不透明性、可解释性 |
| AI 位于认知主体一侧 | AI 支持人的探究，甚至构成主体的一部分 | AI 对知识与理解的贡献、信任、谁是认知主体 |

词条对 AI 采取宽泛理解：既包括符号主义 AI，也包括以深度神经网络为代表的连接主义 AI，还把预编程算法和计算机模拟纳入讨论（来源1、2）。这一点很重要——它让计算机模拟领域几十年积累的“验证与确认”经验，可以被拿来对照机器学习。

## 三、AI 作为认知对象：不透明性与可解释性

### 1. 不透明性到底是什么

词条引用 Burrell 的经典区分，把不透明性分为三种：企业出于商业利益不公开算法和参数；很多人不会读写代码；机器学习背后的数学与人类描述推理的方式不匹配。哲学文献主要关注第三种（来源1）。

词条引用 Humphreys 的定义：如果认知主体在某一时刻不知道某个过程所有与认知相关的要素，这个过程对该主体就是认知上不透明的；问题不在于不知道单个要素，而在于计算高度复杂，导致太多相关要素未知（来源1）。

### 2. 不透明性从何而来

词条总结了深度网络难以理解的几个来源（来源1）：

- **高度复杂**：大模型拥有数十亿参数；
- **规则来自数据**：机器学习模型使用的规则不是人定义的，而是从数据中推断出来的；
- **缺少高层描述**：科学家缺乏对神经元在做什么的有信息量的高层描述；
- **潜在空间难以解读**：模型把输入映射到潜在空间，人类不知道模型对哪些特征变得敏感；
- **分布式表征与多义神经元**：一个特征由一组神经元表示，单个神经元又可能被多个不相关特征激活。

词条也提醒一个类比：人类自身也有大量默会知识——我们能认出海报上的人并觉得她友善，却说不出有说服力的理由。这说明**即使底层过程不透明，我们仍可能拥有知识**（来源1）。

### 3. 可解释性有什么价值

词条指出，可解释性服务于多重目的：帮助判断模型能否推广和迁移，评估是否存在不可接受的偏差，为合理使用结果提供语境，并帮助推断真实世界中的因果联系（来源1）。

在医学领域，有观点认为准确性应优先于透明性，因为人类医生同样常常无法解释基于默会知识的判断；但也有研究指出，更高的准确性不一定转化为现实中更好的患者结局，而更好地理解 AI 模型可以帮助医生更成功地使用它（来源1）。词条还提到，准确性与可解释性之间存在普遍权衡的说法受到质疑（来源1）。

### 4. 提升可解释性的路径

词条梳理了主要技术路线（来源1）：

- **事后解释 vs 内生可解释**：给已有模型补充解释，或从一开始就构建可理解的模型；
- **二阶模型**：如 LIME 用简单模型拟合复杂模型的局部输出，“锚点”方法寻找能高概率预测模型行为的简单规则；
- **显著图与敏感性分析**：显示输入中哪些部分对输出最关键；
- **机制可解释性**：通过因果抽象、消融等干预，在算法层面理解神经网络如何运作；
- **命题可解释性**：采取“意向立场”，用信念与欲望来描述 AI，不预设 AI 真的有信念。

### 5. 一个关键提醒：理解不等于“理解感”

词条指出，必须把理解与“理解的感觉”区分开——一个解释让人觉得对，往往并不能可靠地表明真正理解；关注与 AI 相关的能力（例如能回答关于 AI 的问题），有助于摆脱因人而异的感觉（来源1）。

## 四、AI 对知识的贡献：凭什么相信 AI 的输出

### 1. AI 不是“证人”，更像“仪器”

一个自然的想法是把 AI 输出当作证言。但词条指出，很多学者认为 AI 系统并不知道、相信或断言任何东西，因此熟悉的证言知识模型并不适用于 AI（来源1）。

更合理的思路是：AI 系统是仪器，或与仪器共享认知地位。词条指出，在可靠主义框架下，关键在于“基于仪器输出形成信念”这一实践是否构成可靠过程，而这要求仪器在一系列情形中以高概率给出真值；对内在主义者而言，人必须拥有相信仪器的理由（来源1）。

### 2. 计算机模拟的辩护经验

词条指出，预编程 AI（如计算机模拟）的辩护方式已被较好理解，其来源包括（来源1）：

- 模拟结果与目标系统数据之间的吻合；
- 建立在构成先验知识（常常是理论）的假设之上；
- “验证”模拟是否正确近似了原始方程；
- 控制建模误差、舍入误差、离散化误差和硬件故障误差；
- 构建团队掌握可靠建模的行业经验；
- **稳健性**：多次运行或独立模型的结果一致时，结论更可信。

词条介绍了“计算可靠主义”：与标准可靠主义不同，它要求用户拥有过程可靠性的证据（例如来自确认），而这种证据即使在模拟不透明的情况下也能获得（来源1）。

### 3. 神经网络的辩护只能主要依靠“记录”

转向神经网络后情况就变了。词条指出，神经网络结果的辩护无法借助对模型内置假设的先验知识，因为典型用户并不知道网络做了哪些假设；对学习后模型的形式化验证研究进展有限，“完备方法”在实践中只能用于小型网络；因此，神经网络结果的辩护主要依赖使用记录（来源1）。

具体而言，辩护可诉诸两点：模型被优化以重现已知真理，并在其他数据上经过测试。这可以大致重构为枚举归纳或统计推断（来源1）。

### 4. 归纳的边界：分布外与对抗样本

词条用统计学习理论说明：当训练和测试数据来自同一分布的随机样本时，模型在新数据上的表现可被统计估计；但对神经网络而言，相关理论结果往往对当前研究帮助不大，其泛化性质仍未被完全理解（来源1）。

当模型应用到不同分布的数据时（例如用瑞士数据训练的诊断工具用于其他国家人群），就会出现分布外误差（来源1）。

词条进一步指出，哲学上归纳在某些条件下可以被正当化：训练数据追踪的是同一自然类的样例；推理基于对规律的最佳解释；有恰当的事实作支撑；或学习过程在某种意义上接近最优。但这些条件在机器学习中不易满足——神经网络效果好时，研究者常常无法解释原因，辩护因而是“盲目的”。词条提到，有观点主张机器学习模型应建立在恰当的领域知识或成熟本体之上，而对抗样本恰恰说明某些神经网络违背了这一要求（来源1）。

### 5. 因果推断与差异法

词条指出，成功的分类器会学到输入中哪些属性会影响标签；如果满足所谓“同质性条件”，就相当于应用了密尔的差异法来识别原因。但同质性条件常常不满足，因为输入变量的变化可能与输入数据中没有体现的其他因素相关（来源1）。

### 6. 记忆与灾难性遗忘

词条指出，记忆不只是保存信息，还包括选择和整合信息。某些模型先学一个任务再学另一个任务时，会忘记如何完成第一个任务，即“灾难性遗忘”（来源1）。

### 7. 信任、依赖与认识权威

词条区分了几种态度（来源1）：

- **认知信任**：信任对方知道某事或说真话。如果认知信任涉及对品格或动机的依赖，严格说来就不适用于目前没有品格或意志的 AI；但构建、训练甚至提示 AI 的人的意图，会影响 AI 能否被认知上信任。
- **依赖**：即使不能完全信任 AI，人们仍可以依赖它，即相信或接受它的结果。
- **过度依赖**：一些实证研究报告了人对 AI 的过度依赖，这可能损害批判性思考的能力与意愿。
- **认识权威**：按照 Zagzebski 的观点，把某人视为认识权威，意味着顺从其判断、搁置自己相关的理由。词条认为当前 AI 还不算完全的专家，但在某些问题上似乎正在接近认识权威的地位。

词条还特别提到，AI 智能体或相互作用的智能体系统可以承担复杂的认知工作，届时对“智能体能否把工作做好”的更广泛信任将成为问题（来源1）。

## 五、AI 对理解的贡献：产出更多，理解更少？

词条引用了一个尖锐的担忧：AI 工具在科学中的扩散，可能引入一个“产出更多、理解更少”的科学探究阶段（来源1）。

词条区分了两类理解（来源1）：

- **对象性理解**：把握一个领域中各要素之间的逻辑、概率、证据和解释联系；
- **解释性理解**：接受并把握一个真实的解释，例如能推断假设稍作改变时会发生什么。

词条的分析要点（来源1）：

1. **人通过反复使用工具学习可推广的联系**：单次输入—输出往往太具体，但人在各种输入上反复运行 AI 工具，就能学到可推广的联系；最终这种理解不再依赖工具。
2. **潜在特征需要可解释性方法才能转化为理解**：词条举了国际象棋大师从 AI 中学习的例子。
3. **差异法可以从 AI 中获得因果解释**：系统地改变输入变量、追踪输出变化，在同质性和忠实表征等假设下，可推断某个输入变量与输出特征存在因果相关。
4. **聊天机器人的解释需要辩护**：大模型可以回答“为什么”，但文本可能含有幻觉；即使信息全部为真，也未必构成正确的解释。因此，只有在有认知辩护时才能接受其解释。

## 六、更深的问题：谁是认知主体？认识论与伦理如何交织

### 1. 认知主体：个人，还是“人+AI”耦合系统

词条指出，按照延展心智理论，人和 AI 工具构成的耦合系统可能才是认知主体；例如医生借助 AI 诊断疾病，这一成就可以归属于人与 AI 的耦合（来源1）。这一选择影响我们如何看待不透明性：没有辅助的人无法检查计算机辅助证明的所有步骤，但借助证明检查器就可以（来源1）。

词条也讨论了规范层面的担忧：去技能化——人因大量使用 AI 而失去某些技能；以及持续使用大模型可能鼓励一种肤浅的知识（来源1）。

### 2. 归纳风险：可靠性门槛需要价值判断

词条指出，归纳推理伴随出错的风险，决定哪些风险可以容忍需要权衡非认知价值；例如训练分类器时，设计者必须决定假阳性和假阴性的相对权重，而这需要诉诸非认知价值。因此，AI 设计必须同时由认知价值和道德价值引导（来源1）。

### 3. 对科学实在论的冲击

词条最后指出，AI 的认知成就可能影响科学实在论的讨论：一方面，人类能力的延展使“人能认识不可观察对象”的实在论更可信；另一方面，如果 AI 使用与人类不同的潜在特征来预测可观察现象，又可能强化反实在论的“不充分决定”论证（来源1）。

## 七、从知识论到工程：大模型如何以知识论提升性能与可靠性（本文分析）

词条本身是哲学文本，并不提供工程方案。但它提出的每个概念，几乎都能对应到一类可执行的工程实践：

| 知识论概念（来源1） | 对应的大模型工程实践（本文分析） |
|---|---|
| 可靠主义 + 计算可靠主义：需要可靠性的证据 | 按领域、按任务类型建立“可靠性档案”：准确率、校准度、失败模式，而不是只看总分 |
| 仪器而非证人 | 把模型输出当作“仪器读数”：附带不确定度、适用范围和置信度，而不是当作权威陈述 |
| 稳健性：独立模型结果一致 | 多模型、多次采样、多提示交叉验证；只把一致性高的结论当作较强证据 |
| 模拟的“验证”环节 | 对可形式化的输出做机器验证：代码执行、单元测试、定理证明检查器、数值复算 |
| 归纳需领域知识锚定 | 检索增强、知识图谱与本体约束、物理与化学规律约束，让输出“有据可依” |
| 分布外误差 | 声明模型适用域，部署分布外检测；超出适用域时主动降级或提示人工复核 |
| 对抗样本 | 对抗测试与红队评估，检验结论对微小扰动是否稳定 |
| 差异法与同质性条件 | 反事实测试与消融：系统地改变输入，检验模型是否依赖了真正相关的因素 |
| 理解 ≠ 理解感 | 不以“解释听起来通顺”作为正确依据，而测试模型能否在条件变化时正确推断 |
| 灾难性遗忘 | 持续学习与模型迭代时保留回归测试集，确保新能力不覆盖旧能力 |
| 认识权威与过度依赖 | 关键判断采用“先人后机”流程，避免用户不自觉地顺从模型 |
| 归纳风险 | 依据应用场景设定置信门槛和假阳性、假阴性的代价权重，由业务与伦理共同决定 |
| 机制可解释性 | 在高风险场景引入可解释性工具，辅助发现模型错误原因、指导模型改进 |

**这张表的核心含义：** 大模型的“性能”不应只被理解为基准分数，而应包含“我们有多充分的理由相信这个输出”。知识论为后者提供了完整的检查框架。

## 八、以知识论提升科研探索的可靠性（本文分析）

### 1. 区分“启发”与“确证”

词条提到，AI 也可以只被用于启发目的，此时并不涉及知识问题（来源1）。这为 AI 辅助科研提供了一条清晰的分界线：

- **发现阶段（启发）**：AI 生成假设、提出候选分子、设计实验方案、搜索文献——可以大胆使用，对错误容忍度较高；
- **辩护阶段（确证）**：任何要写进论文、用于决策的结论，都必须经过独立于 AI 的辩护链条。

### 2. AI 科研结论的“五道关”

| 关卡 | 问题 | 方法 |
|---|---|---|
| 第一关：可检验 | 结论能否转化为可检验的预测？ | 把 AI 输出改写为具体、可证伪的命题 |
| 第二关：可核查 | 能否独立核查？ | 实验验证、形式化证明、数值复算 |
| 第三关：可记录 | 该模型在同类问题上的记录如何？ | 查阅可靠性档案与历史准确率，类比 AlphaFold 的长期比对记录 |
| 第四关：可复现 | 不同模型、不同方法是否得到一致结论？ | 稳健性检验，多团队、多模型独立复现 |
| 第五关：可理解 | 我们能否理解它为何成立？ | 差异法、可解释性工具、与已有理论对接 |

词条提到的纳维—斯托克斯方程案例正是一个提醒：即便是重大的 AI 研究声明，在经过独立确证之前，词条也仍将其描述为“存在争议”（来源1）。

### 3. 防止“产出更多、理解更少”

针对词条引用的这一担忧（来源1），科研团队可以：

1. **要求 AI 结果附带“理解报告”**：不仅给出结论，还要说明在哪些条件变化下结论会改变；
2. **鼓励反复探索工具**：词条指出，人在多种输入上反复运行 AI 工具能学到可推广的联系（来源1）——科研人员应主动做“参数扫描”，而不是只取单次结果；
3. **保持独立技能**：定期在没有 AI 的条件下完成核心推导与分析，防范去技能化（来源1 所述担忧）。

## 九、一份“AI 输出认识论检查单”（本文分析）

在依赖任何大模型输出之前，问自己十个问题：

1. 我是把它当作启发，还是当作知识？
2. 这个输出能独立核查吗？我核查了吗？
3. 这个模型在同类任务上的可靠性记录如何？
4. 当前问题是否在它的适用分布之内？
5. 其他模型或其他方法能否得到同样结论？
6. 输出是否有领域知识或数据来源作支撑？
7. 如果条件略有改变，结论会怎样变化？
8. 我觉得它“对”，是因为验证了，还是因为它说得通顺？
9. 如果它错了，代价有多大？我设定的置信门槛是否匹配这个代价？
10. 这个判断最终是我做出的，还是我顺从了模型？

## 十、结语

斯坦福哲学百科的这份词条，没有给出“如何让大模型更强”的技术答案，却回答了一个更根本的问题：**我们凭什么相信 AI**。

它告诉我们：AI 不是证人，而更像仪器；神经网络的辩护主要依赖记录与归纳，而归纳有边界；解释听起来通顺，不等于真正理解；可靠性的门槛，最终还需要价值判断（来源1）。

对大模型开发者而言，这意味着要把“辩护链条”当作性能的一部分；对科研人员而言，这意味着要把 AI 的启发作用与确证作用严格分开；对每一个使用者而言，这意味着要始终清楚：哪些结论是自己知道的，哪些只是 AI 告诉自己的。

## 常见问题

Q: 斯坦福《人工智能的知识论》词条是什么？

A: 它是斯坦福哲学百科全书于 2026 年 10 月 16 日首次发布的词条，作者 Claus Beisbart，系统讨论人能否基于 AI 输出获得有正当理由的信念、知识与理解（来源1、4）。

Q: 词条的核心框架是什么？

A: 词条把 AI 视为双重角色：一是认知对象，涉及不透明性与可解释性；二是位于认知主体一侧，涉及 AI 对知识与理解的贡献、信任以及谁是认知主体（来源1）。

Q: 为什么说 AI 输出不能简单当作证言？

A: 词条指出，很多学者认为 AI 系统并不知道、相信或断言任何东西，因此证言知识模型不适用；更合理的是把 AI 视为与仪器共享认知地位（来源1）。

Q: 神经网络的结果靠什么获得辩护？

A: 词条指出，由于用户不知道网络内置了哪些假设，形式化验证也只能用于小型网络，神经网络结果的辩护主要依赖使用记录，即模型被优化以重现已知真理并在其他数据上测试，可大致重构为归纳推理（来源1）。

Q: 大模型如何借助知识论提升可靠性？

A: 可以建立分领域可靠性档案、把输出当作附带不确定度的仪器读数、做多模型稳健性检验、对可形式化输出做机器验证、用领域知识锚定、声明适用域、做反事实测试，并依据风险设定置信门槛（本文分析）。

## 事实来源

1. **SEP《Epistemology of Artificial Intelligence》**（来源1）：词条问题设定、AlphaFold 等案例、AI 双重角色、不透明性定义与来源、可解释性价值与路径、理解与理解感、证言与仪器、计算可靠主义、神经网络辩护、归纳与分布外、差异法、灾难性遗忘、信任与认识权威、两类理解、认知主体、去技能化、归纳风险、科学实在论。
2. **SEP 词条补充文档**（来源2）：AI 的宽泛定义与两大范式。
3. **PhilPapers 词条关联参考文献**（来源3）：词条引用文献索引。
4. **SEP 已发布词条时间表**（来源4）：发布日期 2026 年 10 月 16 日。

**本文推论部分（非来源表述）**：词条价值评价、知识论概念与大模型工程实践的对应表、科研“五道关”、防止“产出更多、理解更少”的措施、认识论检查单及结语中的观点。

**本文不构成任何投资、经营或技术选型建议。**

*（内容由AI生成，仅供参考）*