多智能体时代谁负责

2026 年 10 月 15 日，香港金融管理局公布「ART」框架，同时发布最新的《负责任应用人工智能的监管指引》，用可问责、具韧性、可信赖三个支柱，规范银行如何使用 AI。

直接背景是 AI 正从生成式走向代理式：第二期生成式 AI 沙盒中，超过 60% 的用例已经在探索智能体，让系统自动规划、并在授权范围内执行多步骤任务。

这场变化带来一个最危险的治理问题——问责碎片化：一个应用被拆给多个智能体执行，每个智能体只管一小段，人工监督也分段负责，结果是没有一个人对整体结果负责。

金管局为此在 GenAI 沙盒++ 中测试代理式 AI，并探讨「意图为本」问责、重要 AI 代理纪录册和有效介入机制，试图回答“多智能体时代，到底谁来负责”。

本文解读 ART 框架的具体要求、意图为本问责的解法，以及它对银行智能体治理的落地启示。

一、从生成式到代理式

1. 能力的质变：金管局指出，AI 系统正变得更具自主性，能够调动更多数据、工具和作业流程，不再只是生成文本，而是能规划并执行任务。
2. 沙盒的信号：第二期 GenAI 沙盒中超过 60% 的用例涉及代理式 AI，比如自动规划、在授权和受控范围内执行多步骤任务。
3. 风险随之升级：生成式 AI 的主要风险是内容错误和幻觉，代理式 AI 则会“采取行动”，一旦出错，后果直接落到资金、交易和客户权益上。
4. 监管的迭代：这份指引取代了 2019 年的 AI 高层原则，吸收了沙盒实践和金融稳定理事会等国际组织的最新指导。
5. 新阶段的定调：金管局副总裁阮国恒把“AI 由生成式走向代理式”称为银行业创新的重要新阶段。

二、最危险的问题：问责碎片化

1. 分工的假象：当一个应用方案被拆成多个 AI 代理执行，每个代理只负责一小部分，人工监督也只对部分工作负责，看似层层有人，实则无人统管。
2. 责任被稀释：每个环节的人都只能看到自己那一段，无法理解、也无法负责整个链路的最终结果，问题发生时容易互相推诿。
3. 监督形同虚设：如果监督者缺乏完整信息、足够权限和对全局的理解，“人为监督”就会退化成形式上的签字。
4. 这是智能体特有的难题：单一模型场景下责任相对清晰，多智能体协作、动态调用工具时，责任边界才变得模糊。
5. 本文判断：问责碎片化是代理式 AI 治理的核心矛盾，比单纯的模型准确率更值得银行优先解决。

三、ART 框架是什么

1. 三个支柱：ART 由可问责（Accountability）、具韧性（Resilience）、可信赖（Trust）三个英文单词的首字母组成。
2. 可问责：确保 AI 全生命周期都有清晰的所有权、治理、决策权和保证机制。
3. 具韧性：让 AI 安全运行、安全失败、有效恢复，受到良好控制。
4. 可信赖：优先公平、透明、可解释、注重隐私，并对客户和受影响方作出回应。
5. 按比例适用：银行应根据自身 AI 应用的规模和风险，成比例地应用这些原则，并及时提升制度、流程和控制。

四、A：可问责

1. 董事会担责：董事会和高管要对 AI 应用负责，批准 AI 战略、明确风险偏好，建立覆盖三道防线的治理框架，在部署前评估批准、部署后持续监控。
2. 每个用例有负责人：每一个部署的 AI 用例都要指派“负责人”，负责界定系统权限、监督控制有效性、确保问题及时升级和补救。
3. 人为监督要有效：监督可以是人在环中、人在环上或人在指挥，并设置基于风险的人工审批或介入触发条件。
4. 监督者要能质疑：介入的人员必须具备足够的能力、信息、时间和权限，去质疑、否决乃至停止 AI 系统，而不是被动接受。
5. 建立用例清单：维护一份动态更新的 AI 用例清单，覆盖自研、第三方提供和内嵌的方案，记录用途、负责人、模型、风险分级、生命周期和关键控制。
6. 管控影子 AI：明确告知员工不得使用未批准的工具、或把批准工具用于未批准用途，并实施控制来管理“影子 AI”。

五、R：具韧性

1. 部署前测试验证：AI 用例上线前和重大变更前要做端到端测试，覆盖可靠性、安全性、公平性和压力条件下的输出波动，重大或高风险用例要独立验证乃至对抗测试。
2. 全过程监控：对会采取行动的 AI，要能监督从中间步骤到最终结果的完整过程；对“用 AI 监控 AI”的安排，也要防范监控系统自身的弱点和偏差。
3. 响应与恢复：发生事件时要能快速响应、恢复运营，准备好可信的后备和恢复安排，覆盖第三方失效等严重但可能发生的情景。
4. 能停得下来：对行为异常的 AI 用例，要能遏制、暂停甚至停用；重大或高风险用例应内置 kill switch，实现快速暂停、收回权限、阻止模型继续行动。
5. 网络安全分层：防范数据投毒、提示注入、绕过防护等攻击，不能只依赖模型指令或过滤器来获得安全保证，重大事件要按规定向金管局报告。

六、T：可信赖

1. 对输出负责：银行对 AI 生成的输出和采取的行动负责，要警惕看似合理实则虚构的“幻觉”，有重大影响的输出应锚定可靠来源或经人工验证。
2. 明确何时收手：要清楚界定当可靠性或安全标准不达标时，输出必须被扣留、提交复核或限制其触发行动。
3. 可解释与透明：要理解并记录每个用例的可解释程度及其局限，向内部和外部相关方提供适当信息，在目标可达成时优先选择更可解释的方案。
4. 公平对待客户：确保 AI 决策不歧视、不无意中对任何客户群体产生偏见，定期监测、抽样评估输出合理性，发现异常及时补救。
5. 可申诉、要告知：受影响方应能要求澄清、复核或重新评估，提供 AI 服务前要明确告知客户正在使用 AI 及相关风险，既有的披露和退出安排继续有效。

七、意图为本问责

1. 新的问责思路：金管局在代理式 AI 治理讨论中提出「意图为本」（intent-anchored）的问责安排，这是针对问责碎片化的关键设计。
2. 责任锚定在意图上：与其要求某个人对每个智能体的每一步都负责（这在多智能体场景下不现实），不如把责任锚定在“设定意图、授权范围”的人身上。
3. 人定目标与边界：人负责明确最终目标、授权范围和不可逾越的红线，智能体在授权范围内自主规划和执行，超出范围则需重新授权或介入。
4. 谁授权谁负责：既然执行路径由智能体动态决定，人真正能负责、也应该负责的，是意图的正确性、边界的合理性和监督机制的有效性。
5. 本文判断：意图为本是让“负责任”在智能体时代重新变得可操作的一种务实尝试，它把责任从“不可能的逐步监督”转向“可把握的意图与授权”。

八、纪录册与介入机制

1. 重要 AI 代理纪录册：金管局探讨建立重要 AI 代理的纪录册，让关键智能体可登记、可追踪，类似对关键实体的台账管理。
2. 掌握智能体全貌：纪录册有助于机构看清有哪些重要智能体、各自权限和依赖关系，避免智能体在无人登记的情况下自由行动。
3. 有效介入机制：强调要有真正有效的介入手段，确保人能够在发现风险时及时打断、调整或终止智能体行动。
4. 介入要具备条件：这与指引中“监督者要有能力、信息、时间和权限”一脉相承，没有权限和手段的介入只是空谈。
5. 治理闭环：意图为本界定责任、纪录册掌握底数、介入机制保障可控，三者共同构成代理式 AI 的治理闭环。

九、训练数据共享平台

1. 平台建设：金管局与香港数码港、香港大学合作建设 AI 训练数据共享平台，并把数据质量保证作为核心设计原则。
2. 数据是智能体的基础：代理式 AI 的可靠性高度依赖训练和检索数据的质量，劣质数据会直接放大智能体的错误行动。
3. 行业共享思路：通过平台化、数据质量保证和共享机制，降低单一机构获取高质量、合规训练数据的门槛。
4. 与治理衔接：数据平台与沙盒、指引相互配合，形成“数据—测试—监管”的完整链条。
5. 对银行的启示：银行在建设智能体时，应把数据治理和质量保证前置，而不是等行动出错后再追溯数据问题。

十、给银行的落地清单

1. 按 ART 三支柱梳理现有 AI 治理框架，补齐问责、韧性和可信赖方面的短板。
2. 为每一个 AI 用例和关键智能体明确负责人，建立 AI 用例与重要智能体台账。
3. 对多智能体应用绘制完整责任链路，确认有人对最终目标和整体结果负责，防止问责碎片化。
4. 采用意图为本思路，明确人设定的目标、授权范围和红线，超出范围必须重新授权。
5. 为会采取行动的智能体设置基于风险的人工审批、介入触发条件和 kill switch。
6. 确保监督和介入人员具备质疑、否决、停止 AI 的能力、信息、时间与权限。
7. 建立智能体全流程监控，覆盖中间步骤，并防范“用 AI 监控 AI”的自身偏差。
8. 对有重大影响的输出锚定可靠来源或加人工验证，明确不达标时的扣留和复核规则。
9. 前置数据治理与质量保证，通过合同防止服务商擅用客户数据训练模型。
10. 管控影子 AI，做好第三方集中度、连续性和退出风险评估，重大事件及时报告。

十一、冷静的边界

1. 讨论文件尚非定规：意图为本问责、代理纪录册和介入机制目前处于讨论和测试阶段，具体监管要求仍可能调整。
2. 落地细节待验证：意图要写到什么粒度、如何界定“超出授权”，在复杂业务中仍需大量实践才能形成可操作标准。
3. 不能替代实质判断：框架和台账是手段，如果机构缺乏真正的风险文化，再完整的制度也可能流于形式。
4. 技术与监管赛跑：智能体能力演进很快，监管原则需要持续更新，静态的合规清单难以一劳永逸。
5. 责任不会自动清晰：没有任何框架能自动消除责任真空，关键仍在于银行是否真正把责任落实到人和机制。

结语

代理式 AI 给银行业带来的最大挑战，不是模型够不够聪明，而是当智能体开始自主规划、调用工具、采取行动时，责任会不会在分工的缝隙里凭空消失。香港金管局的 ART 框架，本质上是在为这个问题搭建一套可操作的答案：用可问责把所有权和决策权落实到人，用具韧性保证系统安全运行、安全失败、能被及时叫停，用可信赖守住公平、透明和可解释；而针对多智能体特有的问责碎片化，它进一步提出意图为本问责、重要代理纪录册和有效介入机制，把责任从“不可能的逐步盯防”，重新锚定到“人能把握的意图、授权与监督”上。对银行而言，这既是监管方向，也是自身稳健发展的内在要求——在放手让智能体提效之前，先确保每一个自主行动的背后，都有清晰的目标、明确的边界和真正负得起责任的人。守住了这一点，多智能体时代的效率才不会以失控为代价。

（口径说明：本文核心事实来自香港金管局 2026-10-15 官方新闻稿、《负责任应用人工智能的监管指引》原文及新浪财经 2026-10-29 对阮国恒发言的报道。ART 三支柱、用例负责人、用例清单、kill switch、可解释与公平要求为指引原文；意图为本问责、重要 AI 代理纪录册和有效介入机制属于 GenAI 沙盒++ 下探讨的建议监管框架，尚处讨论阶段。第二期沙盒超 60% 用例涉及代理式 AI 为官方口径。本文对问责碎片化和意图为本的作用分析为个人判断，已标注，不构成对监管最终文本的预测。本文为行业与风险管理分析，不构成法律或投资建议。）