---
title: "以大模型为底座的银行智能风控平台：从人工智能认识论看全面风险管理与监管合规要点"
date: 2026-10-29
description: "以大模型为底座的银行风控平台属于金融监管总局指导意见（金发〔2026〕8号）界定的高风险应用。本文以斯坦福哲学百科《人工智能的知识论》为框架，结合全面风险管理与操作风险规则，梳理大模型风控在辩护、归纳边界、不透明性、解释失真、人工复核、责任归属、归纳风险与系统性风险上的要点，并给出分层架构、三道防线、生命周期清单与指标体系。"
tags: ["银行风控", "大模型", "全面风险管理", "金融监管", "人工智能认识论", "模型风险", "可解释性"]
schema_type: Article
references:
  - title: "国家金融监督管理总局关于银行业保险业人工智能安全开发应用的指导意见（金发〔2026〕8号）"
    url: "https://www.nfra.gov.cn/cn/view/pages/ItemDetail.html?docId=1261784&itemId=928"
    source: "国家金融监督管理总局，2026-06-18"
  - title: "国家金融监督管理总局关于银行业保险业人工智能安全开发应用的指导意见（全文转载）"
    url: "https://www.hunan.gov.cn/zqt/zcsd/202606/t20260622_34008933.html"
    source: "湖南省人民政府门户网站转载，2026-06-22"
  - title: "中国银监会关于印发银行业金融机构全面风险管理指引的通知"
    url: "https://dfjrjgj.sc.gov.cn/scdfjrjgj/yinghangye/2016/9/30/1201df27cc2d4825999b27cb19803801.shtml"
    source: "原中国银监会，2016-09-27"
  - title: "银行保险机构操作风险管理办法（国家金融监督管理总局令2023年第5号）"
    url: "https://www.gov.cn/gongbao/2024/issue_11226/202403/content_6940045.html"
    source: "中国政府网，国务院公报"
  - title: "Epistemology of Artificial Intelligence"
    url: "https://plato.stanford.edu/entries/epistemology-ai/"
    source: "Stanford Encyclopedia of Philosophy，Claus Beisbart，2026-10-16"
  - title: "How AI agents shape experts’ judgment calls"
    url: "https://www.anthropic.com/research/agents-judgment-calls"
    source: "Anthropic Research"
---

**监管定性（来源1）：信贷审批、风险管理等生成式 AI 场景被视为高风险应用，须经本机构风险管理委员会批准。**

**认识论核心（来源5）：神经网络结果难以独立核查，其可信度主要依赖使用记录与归纳，而归纳存在分布外边界。**

**本文判断：大模型风控最大的风险，不是模型不够聪明，而是机构说不清“凭什么相信这个输出”。**

**落地主线：让大模型负责感知和组织证据，把决策留给可验证的规则、模型与人，并把辩护链条写进全面风险管理。**

---

> 写作说明：监管条文与知识论观点均标注来源；把二者结合形成的分析框架、架构建议、清单与指标为作者推论，标注“本文分析”，不构成合规意见。本文是《斯坦福哲学百科〈人工智能的知识论〉深度解读》的延伸篇。

## 一、为什么要从认识论看风控大模型

风控的本质，是在不确定条件下对“风险是否存在、有多大”形成**有正当理由的判断**。这恰好是知识论要回答的问题：什么样的信念是有辩护的？

斯坦福哲学百科《人工智能的知识论》词条提出，人们基于 AI 输出形成信念时，关键问题在于是否有充分的辩护；它还指出，很多 AI 结果无法独立核查，而 AI 的不透明性又使人难以逐步检视其运算过程（来源5）。

金融监管总局 2026 年 6 月发布的指导意见，几乎在用监管语言表达同一组担忧：要求金融机构“防范模型生成结果不可靠风险，防止模型黑箱导致关键业务流程难落责问题”（来源1）。

**本文分析：** 监管中的“不可靠”对应认识论中的“辩护不足”，“黑箱难落责”对应“不透明性 + 认知主体不清”。用认识论框架来设计风控平台，就是在系统层面回答监管最关心的问题。

## 二、监管坐标：三份文件构成的合规底座

### 1. 全面风险管理：AI 风险不能单列在外

《银行业金融机构全面风险管理指引》要求银行建立全面风险管理体系，识别、计量、评估、监测、报告、控制或缓释所承担的各类风险，涵盖信用风险、市场风险、流动性风险、操作风险、国别风险、银行账户利率风险、声誉风险、战略风险、信息科技风险以及其他风险，并考虑风险之间的关联性（来源3）。指引提出匹配性、全覆盖、独立性和有效性四项原则（来源3）。

AI 指导意见明确要求：金融机构应将人工智能风险纳入全面风险管理体系，定期开展对人工智能应用风险及管理措施的评估审查（来源1）。

### 2. 操作风险：大模型故障首先是操作风险

《银行保险机构操作风险管理办法》将操作风险定义为由于内部程序、员工、信息科技系统存在问题以及外部事件造成损失的风险，包括法律风险；并界定了三道防线：业务和管理部门、操作风险管理牵头部门、内部审计部门（来源4）。

### 3. AI 指导意见：风控平台的“硬约束”

对以大模型为底座的风控平台，指导意见中最直接相关的条款包括（来源1）：

| 条款 | 要求要点 |
|---|---|
| （一）治理 | 董（理）事会指定专门委员会负责；确保 AI 应用与风险管理能力相匹配 |
| （二）全生命周期 | 需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出全流程管理 |
| （五）生成式模型准入 | 实施准入管理；外部引入的生成式模型需经网信部门备案 |
| （九）数据集 | 确保数据准确、相关、一致、完整、无偏见；持续监测数据分布漂移 |
| （十五）分类分级 | 按场景重要性、应用规模、对客影响度、模型依赖度、模型复杂度分级 |
| （十六）高风险准入 | 资金交易、资产评估、信贷审批、承保理赔、风险管理等生成式 AI 场景视为高风险，须经风险管理委员会批准 |
| （十七）监测与干预 | 关键环节人工监督和干预；明确紧急停用及模型退出条件；建立备用系统或人工替代流程 |
| （十八）（十九）外包与供应链 | 外部模型严格内部评估；防范对个别技术服务过度依赖引发的集中度风险；防范供应链投毒 |
| （二十）稳健性 | 对抗样本检测及压力测试；评估敏感性、稳定性、抗噪和容错能力；部署后持续监测 |
| （二十一）透明度 | 高风险场景制定透明度和可解释性标准；日志保存期限不低于业务存续期 |
| （二十二）可解释性 | 可解释性不足的 AI 在高风险场景仅能作为辅助工具，由人工最终决策；涉及客户权益或实质性财务影响的关键决策须设置人工复核节点，完整保留原始数据、推理路径及阈值触发记录 |
| （二十三）公平性 | 对特定群体开展影响评估，避免算法歧视；使用受保护特征需正当性说明 |
| （二十四）隐私 | 姓名、身份证号、手机号、银行卡号等不得用于生成式模型训练和优化 |
| （二十五）网络安全 | 防范提示词注入、思维链注入、多模态攻击、上下文污染；防范智能体记忆污染、身份越权、工具滥用、运行失控 |
| （二十六）业务连续性 | 发生故障时人工流程及时介入或启用备份系统 |
| （二十九）报告 | 高风险场景使用生成式 AI 应向金融监管总局或派出机构报告 |

**本文分析：** 一个以大模型为基础的风控平台，从定义上就落在第（十六）条的高风险范围内。这意味着它不是一个“IT 项目”，而是需要风险管理委员会批准、持续监测、人工兜底的高风险应用。

## 三、认识论八问：大模型风控需要注意什么（本文分析）

以下每一问，先给出词条或研究中的认识论观点，再落到风控场景与监管条款。

### 第一问：模型输出凭什么可信？——辩护问题

**认识论观点：** 词条指出，很多学者认为 AI 系统并不知道、相信或断言任何东西，因此证言模型不适用；更合理的是把 AI 视为仪器。计算可靠主义要求使用者拥有过程可靠性的证据，而神经网络结果的辩护主要依赖使用记录（来源5）。

**风控含义（本文分析）：**

- 大模型给出的风险结论，不应被当作“专家意见”，而应被当作“仪器读数”——必须附带校准、适用范围和误差特征；
- 可靠性证据必须**分客群、分产品、分场景**积累：在零售信用卡上可靠，不代表在小微经营贷上可靠；
- 对应监管第（四）条测评体系和第（二十）条持续监测（来源1）。

### 第二问：过去的规律能推到未来吗？——归纳边界

**认识论观点：** 词条指出，当训练和测试数据来自同一分布时，模型表现可被统计估计；但应用到不同分布时会出现分布外误差；归纳的正当化条件在机器学习中不易满足，对抗样本说明某些模型并未建立在恰当的领域知识之上（来源5）。

**风控含义（本文分析）：**

- **风控是非平稳场景**：经济周期、政策变化、行业景气会让违约分布整体漂移；模型可能从未“见过”一次真正的信用下行；
- **风控是对抗性归纳**：欺诈者会主动改变行为以绕过模型，相当于持续制造对抗样本——这比一般场景的分布漂移更难；
- 对应监管第（九）条“持续监测数据分布漂移”、第（二十）条“对抗样本检测及压力测试”（来源1）；
- 实践上应设定**适用域声明**：超出训练分布的客群、产品或宏观情景，自动降级为“辅助参考 + 人工判断”。

### 第三问：黑箱能被打开吗？——不透明性与可落责

**认识论观点：** 词条引用 Burrell 的区分，不透明性来自三方面：企业不公开算法和参数；很多人不会读写代码；机器学习数学与人类推理方式不匹配（来源5）。

**风控含义（本文分析）：**

| 不透明来源 | 风控中的表现 | 对应监管要求 |
|---|---|---|
| 商业不透明 | 采购外部大模型，参数和训练数据不可见 | 第（十八）条外部模型内部评估、第（五）条准入（来源1） |
| 技能不透明 | 风险经理、审计人员无法理解模型机制 | 第（一）条人才队伍建设（来源1） |
| 结构性不透明 | 即使开发者也无法说明某个判断的真实依据 | 第（二十二）条：可解释性不足仅能作为辅助工具（来源1） |

第三类不透明性无法靠“买到参数”解决，这也是监管把“可解释性不足 → 只能辅助”写成硬规则的原因。

### 第四问：模型说得头头是道，就是真的理解了吗？——解释与理解感

**认识论观点：** 词条指出，必须区分理解与“理解的感觉”；聊天机器人可以回答“为什么”，但文本可能含有幻觉，即使信息全部为真也未必构成正确的解释（来源5）。

**风控含义（本文分析）：** 这是大模型风控最隐蔽的陷阱。

- 大模型可以为任何一个结论生成流畅的“风险分析报告”，但这份报告**可能是事后合理化**，并不反映模型真正依据的因素；
- 如果把这类文本直接作为监管要求的“推理路径”留存，可能形成**形式合规、实质失真**；
- 建议对解释做**忠实性测试**：改变报告中声称的关键因素，看结论是否随之改变（这正是词条所述差异法的应用，来源5）；
- 对应监管第（二十二）条“完整保留原始数据、推理路径及阈值触发记录”——留存的应当是可复现的决策证据，而不只是生成的文字（来源1）。

### 第五问：大模型应该做什么、不做什么？——角色分层

**认识论观点：** 词条指出，用户能否独立核查 AI 输出，是辩护的关键分界（来源5）。

**风控含义（本文分析）：** 按“输出能否被核查”给大模型分配角色：

| 角色 | 举例 | 可核查性 | 建议定位 |
|---|---|---|---|
| 信息抽取 | 从财报、合同、流水中抽取字段 | 高：可与原文比对 | 可规模化使用，抽样核验 |
| 证据组织 | 汇总舆情、关联关系、负面信息 | 较高：每条可溯源 | 要求逐条引用来源 |
| 风险提示 | 提出可能被忽略的风险点 | 中：作为启发 | 作为线索，不作为结论 |
| 风险评级/审批决策 | 给出授信建议、违约概率 | 低：难以独立核查 | 由可验证模型、规则和人工决定；大模型只辅助 |

这与监管第（三）条“科学设定人工智能的功能边界”一致（来源1）。

### 第六问：人工复核会不会形同虚设？——信任与顺从

**认识论观点：** 词条指出，实证研究报告了人对 AI 的过度依赖；按照认识权威理论，顺从意味着搁置自己的理由（来源5）。Anthropic 的实验显示，专业分析师在四个分析决策中平均 86% 跟随了 AI 被随机设定的倾向（来源6）。

**风控含义（本文分析）：** 监管要求设置人工复核节点（来源1），但如果复核员先看到模型结论再复核，复核可能退化为“盖章”。建议：

- **先人后机**：关键授信或预警处置，复核员先独立形成判断，再查看模型意见；
- **盲样测试**：定期插入已知答案的样本或模型故意给出相反结论的样本，检验复核有效性；
- **监控复核翻转率**：如果人工几乎从不推翻模型，要么模型极准，要么复核失效——需要区分。

### 第七问：出了问题算谁的？——认知主体与能力退化

**认识论观点：** 词条讨论了“人 + AI 耦合系统”是否才是认知主体，以及大量使用 AI 导致的去技能化担忧（来源5）。

**风控含义（本文分析）：**

- 监管已给出答案：坚持“谁使用谁负责”，压实金融机构主体责任（来源1）。耦合系统可以是工作单元，但责任主体必须是人和机构；
- 第（十七）条和第（二十六）条要求建立人工替代流程（来源1）。**人工替代流程能否生效，取决于风险经理是否仍具备独立判断能力**——去技能化会让这一兜底条款失效；
- 建议定期开展“无 AI 演练”，检验在模型停用时人工流程能否按时、按质运转。

### 第八问：阈值和风险偏好由谁定？——归纳风险与系统性风险

**认识论观点：** 词条指出，决定哪些风险可以容忍需要权衡非认知价值，例如分类器中假阳性与假阴性的相对权重；AI 设计须同时由认知价值和道德价值引导（来源5）。

**风控含义（本文分析）：**

- **阈值是风险偏好，不是技术参数**：反欺诈拦截阈值、预警触发阈值，决定了误拒好客户与放过坏客户之间的取舍，应纳入董事会批准的风险偏好与传导机制；
- **公平性是价值判断**：不同客群的误差差异是否可接受，对应第（二十三）条特定群体影响评估（来源1）；
- **证据不独立会放大系统性风险**：词条强调稳健性来自独立模型的一致（来源5）。如果多家机构使用同一底座模型，错误会高度相关。监管已要求应对“投资策略趋同、放大市场波动风险”并防范集中度风险（来源1）——风控领域同理，应避免单一底座、单一供应商。

## 四、把 AI 风险嵌入全面风险管理（本文分析）

全面风险管理指引要求考虑各类风险之间的关联性（来源3）。大模型风控平台的风险会穿透到多个风险类别：

| 风险类别（来源3） | 大模型风控平台的表现 |
|---|---|
| 信用风险 | 模型误判导致授信过松或过紧；周期拐点时系统性低估违约 |
| 操作风险 | 模型故障、流程缺陷、人工复核失效、提示词注入等（来源4 定义包含信息科技系统问题） |
| 信息科技风险 | 算力、平台、智能体工具调用失控 |
| 声誉风险 | 算法歧视、错误拒贷引发投诉与舆情 |
| 战略风险 | 过度依赖单一模型供应商，技术路线锁定 |
| 合规与法律风险 | 隐私数据违规用于训练、未备案、未报告 |
| 模型风险（跨类别） | 辩护不足、分布外失效、解释失真 |

建议在风险偏好陈述中单列 **AI 模型风险偏好**：例如高风险场景中大模型可承担的最高决策权限、可容忍的分客群误差差异、人工复核覆盖率下限等（本文分析）。

## 五、三道防线如何重构（本文分析）

操作风险管理办法界定了三道防线（来源4）。在大模型风控中，各道防线的认识论职责可以这样划分：

| 防线 | 传统职责（来源4） | 大模型时代新增职责（本文分析） |
|---|---|---|
| 第一道：业务与管理部门 | 直接承担和管理操作风险 | 落实先人后机复核；记录人工推翻模型的理由；反馈分布异常 |
| 第二道：风险管理牵头部门 | 指导、监督第一道防线 | 独立模型验证；维护分场景可靠性档案；设定适用域与停用条件；监测漂移与复核有效性 |
| 第三道：内部审计 | 监督评价前两道防线有效性 | 审计辩护链条是否完整；检验解释是否忠实；检查日志与推理路径是否可复现 |

关键原则是**验证者独立于开发者**：第二道防线的模型验证不应依赖开发团队提供的同一测评结论，最好使用独立数据、独立方法甚至不同模型交叉检验（本文分析，依据词条关于独立模型稳健性的观点，来源5）。

## 六、“认识论分层”平台架构（本文分析）

| 层级 | 功能 | 认识论地位 | 关键控制 |
|---|---|---|---|
| 数据层 | 内外部数据、知识库 | 证据来源 | 数据质量、漂移监测、隐私脱敏（来源1 第九、二十四条） |
| 感知层 | 大模型抽取、识别、摘要 | 可核查的“仪器读数” | 字段级抽样核验；溯源到原文 |
| 证据层 | 组织证据链、关联图谱 | 有来源的命题集合 | 每条结论绑定证据；禁止无源结论 |
| 推理层 | 评分卡、可解释模型、规则引擎 | 可验证的推理 | 独立验证；适用域；对抗与压力测试 |
| 辅助层 | 大模型风险提示、反方论证 | 启发，不是结论 | 标注“启发性”；要求同时给出正反论证 |
| 决策层 | 人工或授权规则做最终决策 | 责任主体 | 先人后机；权限分级；阈值属于风险偏好 |
| 监控层 | 性能、漂移、复核有效性、安全 | 持续再辩护 | 紧急停用与退出条件；人工替代流程 |

这一架构的核心是：**大模型越靠近“感知与证据”，越容易被核查；越靠近“决策”，越需要可验证的模型与人来承担。**

## 七、全生命周期检查清单（本文分析，对应来源1 第（二）条）

1. **需求分析**：这个场景属于高风险吗？大模型承担感知、证据、提示还是决策？是否需要风险管理委员会批准？
2. **数据准备**：数据是否覆盖过完整经济周期？是否存在客群偏差？是否剔除了不得用于训练的个人信息？
3. **训练开发**：是否引入领域知识约束？外部模型是否完成备案和内部评估？
4. **测试验证**：是否做了分客群校准、分布外测试、对抗测试、压力测试、解释忠实性测试？验证团队是否独立？
5. **部署运行**：是否明确适用域？超出适用域是否自动降级？人工复核节点是否先人后机？
6. **监测迭代**：是否监测漂移、复核翻转率、投诉与误拒？模型更新是否保留回归测试与变更记录？
7. **评估退出**：停用条件是否可量化？人工替代流程是否经过演练？日志是否保存到业务存续期结束？

## 八、认识论指标体系（本文分析）

除了常规的准确率和区分度，建议增加一组衡量“辩护是否充分”的指标：

| 指标 | 衡量什么 |
|---|---|
| 分客群校准误差 | 模型给出的概率在各客群是否可信 |
| 分布漂移指标 | 当前数据是否仍在模型适用域内 |
| 分布外样本占比 | 有多少决策落在模型未经验证的区域 |
| 字段抽取准确率 | 感知层“仪器读数”是否可靠 |
| 无源结论率 | 证据层中没有绑定来源的结论占比 |
| 解释忠实度 | 改变解释所述关键因素时，结论是否随之变化 |
| 人工复核翻转率与翻转后准确率 | 人工复核是否真实有效 |
| 盲样识别率 | 复核员能否识破故意错误的模型结论 |
| 对抗测试通过率 | 面对欺诈式扰动的稳定性 |
| 决策可复现率 | 依据留存数据能否复现当时的决策 |

## 九、五个常见误区（本文分析）

1. **把大模型当专家**：它更像仪器，需要校准和适用范围。
2. **把生成的解释当推理路径**：流畅的报告可能是事后合理化，必须做忠实性检验。
3. **把人工复核当兜底**：先看模型再复核，复核可能退化为盖章。
4. **把阈值当技术参数**：阈值是风险偏好，属于董事会与风险管理委员会的职责。
5. **把行业通用模型当安全选择**：同一底座模型会让各机构的错误相关，放大系统性风险。

## 十、结语

以大模型为底座的智能风控，真正的门槛不是算力，也不是模型规模，而是**辩护能力**：在每一个授信、预警、拦截决定背后，机构能否说清——证据是什么、模型在这里是否可靠、人是否真正独立判断过、出了问题由谁负责。

监管已经给出了“合规、透明、可信赖”的方向（来源1）；知识论则提供了实现“可信赖”的思考工具（来源5）。把两者结合起来，风控平台才不会成为一个高效却说不清理由的黑箱。

## 常见问题

Q: 以大模型为基础的银行风控平台属于高风险 AI 应用吗？

A: 金融监管总局指导意见规定，涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等的生成式人工智能场景应用应被视为高风险应用，须经本机构风险管理委员会批准后方可实施（来源1）。

Q: 可解释性不足的大模型能否直接用于风控决策？

A: 指导意见规定，可解释性不足的人工智能技术在高风险场景应用时，仅能作为辅助工具，应由人工进行最终决策；涉及客户权益或有实质性财务影响的关键决策须设置人工复核节点（来源1）。

Q: AI 风险如何纳入全面风险管理？

A: 指导意见要求将人工智能风险纳入全面风险管理体系并定期评估审查（来源1）；全面风险管理指引要求覆盖各类风险并考虑风险之间的关联性（来源3）。本文建议在风险偏好中单列 AI 模型风险偏好，并按信用、操作、信息科技、声誉、战略、合规等类别识别其传导路径（本文分析）。

Q: 从认识论角度，大模型风控最需要警惕什么？

A: 一是把大模型输出当作专家证言而非需要校准的仪器读数；二是忽视分布外与对抗性归纳的边界；三是把生成的解释误当真实推理路径；四是人工复核因顺从模型而失效（本文分析，依据来源5、6）。

Q: 大模型在风控中最适合承担什么角色？

A: 本文建议按输出可核查性分配角色：信息抽取和证据组织可规模化使用并抽样核验，风险提示作为启发线索，风险评级与审批决策由可验证模型、规则和人工承担，大模型仅作辅助（本文分析）。

## 事实来源

1. **金融监管总局《关于银行业保险业人工智能安全开发应用的指导意见》**（来源1、2）：纳入全面风险管理、分类分级、高风险准入、人工监督与干预、外包与供应链、稳健性、透明度、可解释性、公平性、隐私、网络安全、业务连续性、报告等要求。
2. **《银行业金融机构全面风险管理指引》**（来源3）：风险种类、风险关联性、四项原则。
3. **《银行保险机构操作风险管理办法》**（来源4）：操作风险定义、三道防线。
4. **SEP《Epistemology of Artificial Intelligence》**（来源5）：仪器与证言、计算可靠主义、使用记录辩护、分布外误差、对抗样本、不透明性三来源、理解与理解感、差异法、过度依赖与认识权威、认知主体与去技能化、归纳风险、稳健性。
5. **Anthropic 判断力研究**（来源6）：专家平均 86% 跟随 AI 倾向。

**本文推论部分（非来源表述）**：认识论八问中的风控含义、角色分层、全面风险映射、三道防线新增职责、分层架构、生命周期清单、指标体系、常见误区及结语观点。

**本文不构成任何法律、合规、投资或技术选型建议。**

*（内容由AI生成，仅供参考）*