“存得多”不如“证得住”:用知识论六个透镜,看银行如何经营知识资产为 AI 提供知识保障
核心摘要
- 银行的 AI 问题,表面是“数据够不够、模型强不强”,深层是“我们凭什么说这是对的”
- 大模型幻觉、RAG 引用了已废止的制度、智能体照着过时流程办业务,本质上都是知识的证成问题,而知识论正是研究“知识是什么、如何被证成、如何传递”的学问
- 按经典定义,进入 AI 可依据知识库的内容,必须同时满足三个条件:机构认可(信念)、当前有效(为真)、可追溯出处(有理据)。缺一项只能算信息
- 只看答案对错的 AI 评测不够:盖梯尔问题提醒我们,AI 可能“碰巧答对”,所以必须同时评测引用是否有效、推理链是否成立
常见问题
什么是知识的“证成”,和银行 AI 有什么关系?
证成指一个信念有充分的理由支持。对银行 AI 来说,就是每个回答和动作都能追溯到有效、权威的依据,例如现行制度条款或监管原文。幻觉和引用失效制度,都是证成失败的表现。
为什么 AI 答对了还可能有问题?
这就是盖梯尔问题:答案可能碰巧正确,但依据是错的,比如引用了已废止的制度。依据一旦错误,换个场景就会出错,所以评测要同时看引用忠实度和依据有效性。
RAG 和智能体需要的知识有什么不同?
RAG 主要用命题知识(制度条款、产品要素),智能体还需要程序知识(办理步骤、审批路径、异常处理)。后者要整理成带权限和限额的技能库,并随制度同步更新。
AI 生成的内容可以放进知识库吗?
可以,但必须经人工认可后才能入库。自动回灌会让系统用自己的输出证明自己,形成知识污染。
银行的 AI 问题,表面是“数据够不够、模型强不强”,深层是“我们凭什么说这是对的”。
大模型幻觉、RAG 引用了已废止的制度、智能体照着过时流程办业务,本质上都是知识的证成问题,而知识论正是研究“知识是什么、如何被证成、如何传递”的学问。
按经典定义,进入 AI 可依据知识库的内容,必须同时满足三个条件:机构认可(信念)、当前有效(为真)、可追溯出处(有理据)。缺一项只能算信息。
只看答案对错的 AI 评测不够:盖梯尔问题提醒我们,AI 可能“碰巧答对”,所以必须同时评测引用是否有效、推理链是否成立。
银行经营知识资产的关键不在“存得多”,而在“证得住”:有理据、有权威、有时效,并且可以被修正。
写作说明:本文是理论分析,不是对某项监管要求的解读。文中哲学概念的界定参考斯坦福哲学百科相关条目(见参考文献);银行场景映射与落地框架均为本文分析。
一、为什么要用知识论看银行 AI
过去十年,银行谈数字化,焦点是数据:数据治理、数据中台、数据资产入表。大模型和智能体到来后,问题变了。AI 不只是读数据,它要回答问题、给出建议、甚至替员工办事。这时决定 AI 质量的,不再只是“有没有数据”,而是“它依据的东西算不算知识”。
三个常见故障都可以用一句话归纳:
| 故障 | 表现 | 知识论诊断 |
|---|---|---|
| 幻觉 | 编造不存在的产品条款 | 没有理据的“信念” |
| 引用失效 | 引用已废止的制度 | 有理据,但不再为真 |
| 流程过时 | 智能体按旧审批路径操作 | 程序知识没有随制度更新 |
所以,为 AI 提供“知识保障”,本质是为 AI 提供经过证成的知识。知识论两千多年积累的工具,恰好可以用来设计这套保障。
二、透镜一:得到证成的真信念(JTB)——知识入库的三个条件
自柏拉图《泰阿泰德篇》以来,哲学上最经典的分析是:知识是“得到证成的真信念”(justified true belief)。三个条件缺一不可。
本文分析:把它翻译成银行知识库的入库标准:
- 信念 → 机构认可。 知识必须是机构层面的“相信”,有权威发布方和明确的负责人(owner),而不是某个员工的个人笔记或聊天记录。
- 为真 → 当前有效。 银行知识有强烈的时效性:利率、限额、产品要素、监管口径都会变。每条知识都应有生效日、失效日和版本号。
- 有理据 → 可追溯出处。 每条知识都能指回制度条款、监管文件、审批记录或经验证的案例。
启示:三项缺一项的内容,只能算“信息”,可以供员工参考,但不应进入 AI 据以回答和行动的知识库。这条线一旦划清,“知识库建设”就从堆文档变成了做认证。
三、透镜二:盖梯尔问题——警惕 AI“碰巧答对”
1963 年,哲学家盖梯尔(Edmund Gettier)用两个反例指出:一个信念可以既为真、又有理据,却仍然不是知识,因为理据和真相之间没有恰当的连接——它只是碰巧对了。
本文分析:银行场景里的盖梯尔案例并不罕见:
- 客服智能体引用了一份已废止的旧制度,但结论恰好与新制度一致;
- 风控模型靠一个虚假相关的变量算对了历史样本,换个经济周期就失效;
- 合规问答引用的条款编号对,但条款内容已经被修订。
这些情况下,“答案正确率”看起来都很好,隐患却已经埋下。
启示:AI 评测不能只看答案对错。至少还要评测两项:
- 引用忠实度:回答是否真的来自所引用的段落,而不是模型自己补出来的;
- 依据有效性:所引用的知识在回答时点是否仍然有效。
一个“答对了但依据错了”的回答,应当和“答错了”一样计为缺陷。
四、透镜三:可靠论——按来源与过程的可靠性分级
可靠论(reliabilism)认为,一个信念是否得到证成,取决于产生它的认知过程是否可靠,而不一定取决于当事人能否说出理由。
本文分析:这为知识分级提供了理论基础。银行可以按产生过程的可靠性,给知识来源分级,例如:
| 等级 | 来源 | 典型可靠性依据 |
|---|---|---|
| 1 | 监管原文、法律法规 | 法定程序发布 |
| 2 | 行内制度 | 经内部审批发布 |
| 3 | 经审批的操作手册 | 经业务与合规复核 |
| 4 | 专家经验总结、标注案例 | 经专家评审 |
| 5 | 外部资讯、行业研究 | 依赖外部机构 |
| 6 | AI 生成内容 | 未经人工认可前不可靠 |
启示:
- 检索时按可靠度加权,来源冲突时高等级优先,并把冲突本身提示给用户;
- AI 生成的内容不得自动回灌知识库。 否则系统会用自己的输出证明自己,形成“自我引用”的知识污染。AI 生成的总结、问答对,只有经人工认可后才能升级入库。
五、透镜四:默会知识与 SECI——把老员工的判断变成资产
匈牙利裔哲学家波兰尼(Michael Polanyi)有一句名言:“我们知道的比我们能说出的多。”他把这类难以言传的知识称为默会知识(tacit knowledge)。日本学者野中郁次郎与竹内弘高在此基础上提出 SECI 模型,描述知识在默会与显性之间转化的四个环节。
本文分析:在信贷审批、反洗钱研判、不良资产处置中,最值钱的往往正是默会知识:一笔贷款“哪里不对劲”,一个交易链条“像不像在洗钱”。这些判断很少写进制度。按 SECI 拆开:
- 社会化(默会→默会):师徒制、案例研讨、联合尽调。
- 外显化(默会→显性):把判断要点写成检查清单、决策树、标注案例。这一步是 AI 最重要的“食料”。
- 组合化(显性→显性):把外显化的经验与制度、数据整合进知识图谱、提示词库和技能库。
- 内在化(显性→默会):新员工借助 AI 助手在实战中快速掌握判断。
启示:外显化最难,也最贵。一个成本较低的路径,是系统地记录专家对 AI 输出的修改和否决理由。每一次“这里不对,因为……”,都是一条被说出来的默会知识。银行应把这类反馈设计成结构化字段,而不是散落在聊天记录里。
六、透镜五:“知道是什么”与“知道怎么做”——智能体时代的知识分类
英国哲学家赖尔(Gilbert Ryle)区分了两类知识:知道是什么(knowing that,命题知识)与知道怎么做(knowing how,能力知识)。会背交通规则不等于会开车。
本文分析:这个区分在智能体时代变得非常实际:
| 类型 | 银行例子 | 适合的 AI 形态 |
|---|---|---|
| 命题知识 | 产品要素、制度条款、监管口径 | 检索增强生成(RAG) |
| 程序知识 | 开户步骤、异常处理、审批路径 | 可执行的流程、工具和技能 |
启示:只建文档库的银行,会得到一个“懂道理但不会办事”的智能体。程序知识需要单独整理成“技能库”:每个技能写清楚前置条件、操作步骤、所需权限、限额和异常分支,并像代码一样做版本管理。制度一改,对应技能必须同步更新,否则智能体会一丝不苟地执行过时流程。
七、透镜六:社会知识论与可谬论——知识是组织的,也是可修正的
社会知识论研究知识如何在人与人、人与机构之间传递,其中一个核心问题是证言:我们大部分知识来自“别人告诉我们”,那么何时可以相信别人?可谬论(fallibilism)则主张,任何知识都可能出错,都应保持可修正。德性知识论进一步强调,好的认知者具备理智上的谦逊,知道自己不知道什么。
本文分析,三点映射到银行:
- 证言 → 知识发布权。 员工和 AI 都主要通过“别人说的”获得知识,所以要管理“谁有资格说”:哪个部门有权发布哪一类知识、谁负责审核,必须清晰。
- 可谬论 → 纠错机制。 建立一线反馈通道、定期复核和失效下线机制。知识库不是档案馆,而是需要持续维护的生产系统。
- 德性 → 拒答能力。 AI 在知识库中找不到依据时,应明确说“不知道”并转人工,而不是编一个看似合理的答案。拒答率不应只被视为缺陷,合理的拒答是可信 AI 的标志。
八、落地框架:知识资产经营的五个环节
把六个透镜组合起来,可以得到一条完整的知识资产经营链条:
| 环节 | 知识论依据 | 银行做法 | 可衡量指标(示例) |
|---|---|---|---|
| 入库 | JTB | 每条知识有出处、有 owner、有生效日 | 元数据完整率 |
| 分级 | 可靠论、证言 | 来源可靠度分级,冲突时高级优先 | 冲突知识数、AI 内容未审回灌数 |
| 转化 | SECI、know-how | 专家经验外显化;程序知识技能化 | 专家反馈入库数、技能覆盖率 |
| 使用 | 盖梯尔问题、德性 | 强制引用,评测引用忠实度,无依据则拒答 | 引用忠实度、依据有效率 |
| 修正 | 可谬论 | 定期复核、失效下线、一线反馈纠错 | 过期知识占比、纠错闭环时长 |
本文分析:这五个环节可以挂到银行已有的治理架构上。入库和分级可以借用数据治理中的数据责任人和数据血缘机制;使用环节的评测可以纳入模型风险管理的验证范围;修正环节可以并入制度管理流程,做到“制度一改,知识和技能同步改”。
九、三个常见误区
- 把数据当知识。 数据没有理据和语境,只是知识的原料。数据治理做得好,不等于知识保障到位。
- 把文档当知识。 把过期、重复、互相矛盾的文档一股脑灌进 RAG,会把“有理据的错误”放大——因为 AI 的回答看起来有出处。
- 把 AI 输出当知识。 未经人工认可就回灌,等于让系统自己为自己作证。
十、结语
数据回答“发生了什么”,知识回答“为什么是这样、应该怎么做”。AI 越强,越会放大它所依据的东西:依据的是经过证成的知识,放大的是专业能力;依据的是未经证成的信息,放大的就是风险。
本文分析:银行为 AI 提供知识保障,关键不在“存得多”,而在“证得住”。让每条知识都有理据、有权威、有时效,并且可以被修正,AI 的每一个回答和动作才能追溯到可信的依据,知识资产才能真正转化为可审计、可问责的 AI 能力。
参考文献说明
理论来源:JTB 分析与盖梯尔问题参见《The Analysis of Knowledge》;可靠论参见《Reliabilist Epistemology》;“知道怎么做”参见《Knowledge How》;证言与社会知识论参见《Social Epistemology》(均为斯坦福哲学百科条目)。波兰尼的默会知识出自其著作《默会的维度》(The Tacit Dimension);SECI 模型出自野中郁次郎与竹内弘高的《创造知识的企业》(The Knowledge-Creating Company)。
本文推论部分(非来源表述):各节“本文分析”及“启示”段落、第八节框架与指标、第九节误区、第十节结语。相关阅读:本站 MAS《人工智能风险管理指引》逐段解读。
本文不构成合规意见。
(内容由AI生成,仅供参考)
参考文献
- The Analysis of Knowledge [Stanford Encyclopedia of Philosophy]
- Reliabilist Epistemology [Stanford Encyclopedia of Philosophy]
- Knowledge How [Stanford Encyclopedia of Philosophy]
- Social Epistemology [Stanford Encyclopedia of Philosophy]