“存得多”不如“证得住”:用知识论六个透镜,看银行如何经营知识资产为 AI 提供知识保障

核心摘要

  • 银行的 AI 问题,表面是“数据够不够、模型强不强”,深层是“我们凭什么说这是对的”
  • 大模型幻觉、RAG 引用了已废止的制度、智能体照着过时流程办业务,本质上都是知识的证成问题,而知识论正是研究“知识是什么、如何被证成、如何传递”的学问
  • 按经典定义,进入 AI 可依据知识库的内容,必须同时满足三个条件:机构认可(信念)、当前有效(为真)、可追溯出处(有理据)。缺一项只能算信息
  • 只看答案对错的 AI 评测不够:盖梯尔问题提醒我们,AI 可能“碰巧答对”,所以必须同时评测引用是否有效、推理链是否成立

常见问题

什么是知识的“证成”,和银行 AI 有什么关系?

证成指一个信念有充分的理由支持。对银行 AI 来说,就是每个回答和动作都能追溯到有效、权威的依据,例如现行制度条款或监管原文。幻觉和引用失效制度,都是证成失败的表现。

为什么 AI 答对了还可能有问题?

这就是盖梯尔问题:答案可能碰巧正确,但依据是错的,比如引用了已废止的制度。依据一旦错误,换个场景就会出错,所以评测要同时看引用忠实度和依据有效性。

RAG 和智能体需要的知识有什么不同?

RAG 主要用命题知识(制度条款、产品要素),智能体还需要程序知识(办理步骤、审批路径、异常处理)。后者要整理成带权限和限额的技能库,并随制度同步更新。

AI 生成的内容可以放进知识库吗?

可以,但必须经人工认可后才能入库。自动回灌会让系统用自己的输出证明自己,形成知识污染。

银行的 AI 问题,表面是“数据够不够、模型强不强”,深层是“我们凭什么说这是对的”。

大模型幻觉、RAG 引用了已废止的制度、智能体照着过时流程办业务,本质上都是知识的证成问题,而知识论正是研究“知识是什么、如何被证成、如何传递”的学问。

按经典定义,进入 AI 可依据知识库的内容,必须同时满足三个条件:机构认可(信念)、当前有效(为真)、可追溯出处(有理据)。缺一项只能算信息。

只看答案对错的 AI 评测不够:盖梯尔问题提醒我们,AI 可能“碰巧答对”,所以必须同时评测引用是否有效、推理链是否成立。

银行经营知识资产的关键不在“存得多”,而在“证得住”:有理据、有权威、有时效,并且可以被修正。


写作说明:本文是理论分析,不是对某项监管要求的解读。文中哲学概念的界定参考斯坦福哲学百科相关条目(见参考文献);银行场景映射与落地框架均为本文分析。

一、为什么要用知识论看银行 AI

过去十年,银行谈数字化,焦点是数据:数据治理、数据中台、数据资产入表。大模型和智能体到来后,问题变了。AI 不只是读数据,它要回答问题、给出建议、甚至替员工办事。这时决定 AI 质量的,不再只是“有没有数据”,而是“它依据的东西算不算知识”。

三个常见故障都可以用一句话归纳:

故障表现知识论诊断
幻觉编造不存在的产品条款没有理据的“信念”
引用失效引用已废止的制度有理据,但不再为真
流程过时智能体按旧审批路径操作程序知识没有随制度更新

所以,为 AI 提供“知识保障”,本质是为 AI 提供经过证成的知识。知识论两千多年积累的工具,恰好可以用来设计这套保障。

二、透镜一:得到证成的真信念(JTB)——知识入库的三个条件

自柏拉图《泰阿泰德篇》以来,哲学上最经典的分析是:知识是“得到证成的真信念”(justified true belief)。三个条件缺一不可。

本文分析:把它翻译成银行知识库的入库标准:

启示:三项缺一项的内容,只能算“信息”,可以供员工参考,但不应进入 AI 据以回答和行动的知识库。这条线一旦划清,“知识库建设”就从堆文档变成了做认证。

三、透镜二:盖梯尔问题——警惕 AI“碰巧答对”

1963 年,哲学家盖梯尔(Edmund Gettier)用两个反例指出:一个信念可以既为真、又有理据,却仍然不是知识,因为理据和真相之间没有恰当的连接——它只是碰巧对了。

本文分析:银行场景里的盖梯尔案例并不罕见:

这些情况下,“答案正确率”看起来都很好,隐患却已经埋下。

启示:AI 评测不能只看答案对错。至少还要评测两项:

  1. 引用忠实度:回答是否真的来自所引用的段落,而不是模型自己补出来的;
  2. 依据有效性:所引用的知识在回答时点是否仍然有效。

一个“答对了但依据错了”的回答,应当和“答错了”一样计为缺陷。

四、透镜三:可靠论——按来源与过程的可靠性分级

可靠论(reliabilism)认为,一个信念是否得到证成,取决于产生它的认知过程是否可靠,而不一定取决于当事人能否说出理由。

本文分析:这为知识分级提供了理论基础。银行可以按产生过程的可靠性,给知识来源分级,例如:

等级来源典型可靠性依据
1监管原文、法律法规法定程序发布
2行内制度经内部审批发布
3经审批的操作手册经业务与合规复核
4专家经验总结、标注案例经专家评审
5外部资讯、行业研究依赖外部机构
6AI 生成内容未经人工认可前不可靠

启示:

五、透镜四:默会知识与 SECI——把老员工的判断变成资产

匈牙利裔哲学家波兰尼(Michael Polanyi)有一句名言:“我们知道的比我们能说出的多。”他把这类难以言传的知识称为默会知识(tacit knowledge)。日本学者野中郁次郎与竹内弘高在此基础上提出 SECI 模型,描述知识在默会与显性之间转化的四个环节。

本文分析:在信贷审批、反洗钱研判、不良资产处置中,最值钱的往往正是默会知识:一笔贷款“哪里不对劲”,一个交易链条“像不像在洗钱”。这些判断很少写进制度。按 SECI 拆开:

启示:外显化最难,也最贵。一个成本较低的路径,是系统地记录专家对 AI 输出的修改和否决理由。每一次“这里不对,因为……”,都是一条被说出来的默会知识。银行应把这类反馈设计成结构化字段,而不是散落在聊天记录里。

六、透镜五:“知道是什么”与“知道怎么做”——智能体时代的知识分类

英国哲学家赖尔(Gilbert Ryle)区分了两类知识:知道是什么(knowing that,命题知识)与知道怎么做(knowing how,能力知识)。会背交通规则不等于会开车。

本文分析:这个区分在智能体时代变得非常实际:

类型银行例子适合的 AI 形态
命题知识产品要素、制度条款、监管口径检索增强生成(RAG)
程序知识开户步骤、异常处理、审批路径可执行的流程、工具和技能

启示:只建文档库的银行,会得到一个“懂道理但不会办事”的智能体。程序知识需要单独整理成“技能库”:每个技能写清楚前置条件、操作步骤、所需权限、限额和异常分支,并像代码一样做版本管理。制度一改,对应技能必须同步更新,否则智能体会一丝不苟地执行过时流程。

七、透镜六:社会知识论与可谬论——知识是组织的,也是可修正的

社会知识论研究知识如何在人与人、人与机构之间传递,其中一个核心问题是证言:我们大部分知识来自“别人告诉我们”,那么何时可以相信别人?可谬论(fallibilism)则主张,任何知识都可能出错,都应保持可修正。德性知识论进一步强调,好的认知者具备理智上的谦逊,知道自己不知道什么。

本文分析,三点映射到银行:

八、落地框架:知识资产经营的五个环节

把六个透镜组合起来,可以得到一条完整的知识资产经营链条:

环节知识论依据银行做法可衡量指标(示例)
入库JTB每条知识有出处、有 owner、有生效日元数据完整率
分级可靠论、证言来源可靠度分级,冲突时高级优先冲突知识数、AI 内容未审回灌数
转化SECI、know-how专家经验外显化;程序知识技能化专家反馈入库数、技能覆盖率
使用盖梯尔问题、德性强制引用,评测引用忠实度,无依据则拒答引用忠实度、依据有效率
修正可谬论定期复核、失效下线、一线反馈纠错过期知识占比、纠错闭环时长

本文分析:这五个环节可以挂到银行已有的治理架构上。入库和分级可以借用数据治理中的数据责任人和数据血缘机制;使用环节的评测可以纳入模型风险管理的验证范围;修正环节可以并入制度管理流程,做到“制度一改,知识和技能同步改”。

九、三个常见误区

  1. 把数据当知识。 数据没有理据和语境,只是知识的原料。数据治理做得好,不等于知识保障到位。
  2. 把文档当知识。 把过期、重复、互相矛盾的文档一股脑灌进 RAG,会把“有理据的错误”放大——因为 AI 的回答看起来有出处。
  3. 把 AI 输出当知识。 未经人工认可就回灌,等于让系统自己为自己作证。

十、结语

数据回答“发生了什么”,知识回答“为什么是这样、应该怎么做”。AI 越强,越会放大它所依据的东西:依据的是经过证成的知识,放大的是专业能力;依据的是未经证成的信息,放大的就是风险。

本文分析:银行为 AI 提供知识保障,关键不在“存得多”,而在“证得住”。让每条知识都有理据、有权威、有时效,并且可以被修正,AI 的每一个回答和动作才能追溯到可信的依据,知识资产才能真正转化为可审计、可问责的 AI 能力。

参考文献说明

理论来源:JTB 分析与盖梯尔问题参见《The Analysis of Knowledge》;可靠论参见《Reliabilist Epistemology》;“知道怎么做”参见《Knowledge How》;证言与社会知识论参见《Social Epistemology》(均为斯坦福哲学百科条目)。波兰尼的默会知识出自其著作《默会的维度》(The Tacit Dimension);SECI 模型出自野中郁次郎与竹内弘高的《创造知识的企业》(The Knowledge-Creating Company)。

本文推论部分(非来源表述):各节“本文分析”及“启示”段落、第八节框架与指标、第九节误区、第十节结语。相关阅读:本站 MAS《人工智能风险管理指引》逐段解读。

本文不构成合规意见。

(内容由AI生成,仅供参考)

参考文献

  1. The Analysis of Knowledge [Stanford Encyclopedia of Philosophy]
  2. Reliabilist Epistemology [Stanford Encyclopedia of Philosophy]
  3. Knowledge How [Stanford Encyclopedia of Philosophy]
  4. Social Epistemology [Stanford Encyclopedia of Philosophy]