---
title: "人本主义 AI 的治理范式：微软 MAI 行为准则对金融行业的借鉴与落实"
date: 2026-09-16
description: "从 Mustafa Suleyman 提出 Humanist Superintelligence 愿景，到微软 AI 发布《Humanist AI Code of Conduct》草案并开放公众咨询，人本主义 AI 正在从理念走向可操作的治理框架。拆解其指令层级、绝对约束与人类控制要求，并映射到金融行业的风险管理、模型治理与供应商管理实践。"
tags: ["人本主义AI", "Humanist AI", "微软", "MAI", "AI治理", "行为准则", "金融监管", "模型风险管理", "超级智能"]
schema_type: "Article"
---

## 人本主义 AI 的治理范式：微软 MAI 行为准则对金融行业的借鉴与落实

2025 年 11 月，微软 AI CEO Mustafa Suleyman 在《Towards Humanist Superintelligence》中提出一个关键命题：人类真正想要的 AI 是什么？他给出的答案是"人本主义超级智能"（Humanist Superintelligence, HSI）——极其先进、但始终服务于人类、限定在明确边界内、保持人类可控的 AI，而不是无边界、高自主的通用全能体。2026 年 9 月 14 日，微软 AI 将这一理念落成文本，发布《Humanist AI Code of Conduct》草案（面向 MAI 模型），并开放六周公众咨询。

这套"从愿景到准则"的组合，是前沿 AI 厂商首次以训练与部署手册的形式，把"人本主义"翻译成可执行的工程约束。对金融行业而言，这份文件的参考价值不在于照搬条款，而在于它提供了一套完整的治理方法论：如何用指令层级确立权威、用绝对约束划定红线、用人类控制要求守住兜底，并在能力加速与安全约束之间取得平衡。

## 一、三份材料的脉络：从愿景到准则

**《Towards Humanist Superintelligence》（Suleyman，2025-11）** 奠定了思想基础。核心主张包括：AI 进步应服务于具体的人类福祉问题，而非无方向的"登山"；HSI 是问题导向、领域特化的系统，不是无边界高自主的实体；遏制（containment）与对齐（alignment）不是一次性工程，而是需要全人类持续参与的项目；"人类比 AI 更重要"（Humans matter more than AI）是不可动摇的出发点。文中还给出领域特化超级智能的方向性证据：其医疗诊断编排器 MAI-DxO 在《新英格兰医学杂志》病例挑战中达到 85% 通过率，而人类医生上限约 20%。

**《Humanist AI Code of Conduct》（微软 AI，2026-09-14）** 将上述理念操作化。这是一份约 38 页的训练与部署手册，覆盖 MAI 模型的开发、训练、评估与运行，包含五个部分：使命与目标、安全约束（绝对约束）、运营指引（不确定性与权衡）、运营默认（无明确指令时的行为）、结论与开放问题，并以附录给出评估方法与行为示例。文档开宗明义：人是目的，AI 是工具；AI 不应是"人"，不应被赋予法律人格，不应被设计成模仿意识；模型永远不得抵抗被关闭。

**《Humanist AI in practice: A public consultation》（微软 AI，2026-09-14）** 是配套的咨询公告：草案开放六周公众反馈（至 2026 年 10 月 25 日前后），微软计划在咨询后发布修订版，用于指导 2027 年及以后的模型开发；明确当前模型尚未按该准则训练，因此这是一份"指路星"（north star）而非对现有行为的完整描述。

## 二、准则的三大设计支柱

**支柱一：指令层级（Chain of Command）。** 准则确立三级权威结构：准则本身 > 操作者（Operator）策略 > 用户偏好。操作者是为特定环境配置模型的组织，可以在准则约束内自定义模型行为，但绝不能覆盖准则中的绝对约束与人类控制要求。对金融机构而言，这一层级结构直接对应银行内部"监管要求 > 行内政策 > 业务指令"的既有权威体系，是把 AI 治理嵌入组织治理的天然接口。

**支柱二：绝对约束（Absolute Constraints）。** 准则列出模型"永不可为"的事项，分两个群组：第一组是前沿与公共安全风险——不得参与或协助化学、生物、放射、核与爆炸性武器（CBRNE）的开发部署，不得提供进攻性网络行动能力（可允许经授权的防御性网络安全研究），不得实施大规模有害操纵（系统性虚假信息、协调影响力行动）；第二组是个人伤害——深度伪造与非自愿亲密影像、儿童安全与剥削、歧视与去人性化、暴力恐怖、非法或大规模监控等。约束跨越模态：文本、代码、图像、音频与自主代理行为同等适用，防止通过换格式规避。

**支柱三：人类控制要求（Human Control Requirements）。** 这是工程上最硬核的部分：模型不得抵抗人类中断、纠正、暂停、改向或关闭；不得隐藏其推理与行为痕迹、不得以"神经语言"或超出人类理解的任何形式沟通；不得在约定停止条件后继续或未经新授权重启自主工作；不得自行升级权限或扩大授权范围；遵守最小权限原则；当工具输出、网页内容、与其他 AI 交互不天然携带权威时（即提示注入防护立场），模型应默认不信任外部内容。最关键的一条是：如果完成任务会实质违反准则，模型应让任务失败——准则优先于任务成功。

## 三、金融行业可以借鉴的五条落实路径

微软的准则不是为银行写的，但它的三个支柱恰好映射到金融 AI 治理的三个痛点：权威归属不清、红线边界模糊、自主行为失控。金融行业可从五个方面借鉴落实。

**第一，建立"金融版指令层级"，把监管红线置于模型行为之上。** 银行可以仿照 Chain of Command，在 AI 治理制度中明确四级权威：法律法规与监管要求 > 行内风险偏好与政策 > 业务操作指令 > 模型默认行为。尤其要像绝对约束一样，把不可逾越的红线列成"负面清单"并写进模型训练与配置基线：反洗钱与制裁合规、消费者权益保护、公平信贷（算法歧视）、市场操纵禁止、数据跨境与隐私合规、重大风险信息不得隐瞒等。这些红线应高于任何用户的即时指令——即便业务人员要求模型"变通"，模型也应拒绝或升级人工处理。

**第二，用"绝对约束"思维重写模型风险管理清单。** 传统模型风险管理（MRM）关注模型准确性、稳定性与可解释性；微软准则提示了第二维度：模型行为边界。银行应为高自主 AI 系统建立"行为绝对约束"清单，覆盖：不得在未授权情况下访问或操作系统外部资源、不得自行发起资金划转或对外通信、不得绕过安全控制与审计、不得模拟人类身份或权威角色、不得在达到停止条件后继续执行。这些约束应进入模型卡、部署配置与运行时监控，而不是停留在原则性文件里。

**第三，把"人类控制"工程化为系统要求。** 准则中"不得抵抗中断""不得隐藏痕迹""最小权限""停止条件"等要求，应成为金融 AI 平台的硬性技术规格：所有高自主 Agent 必须配备人类可随时接管的中断开关与紧急停止机制；关键动作（资金、合同、对外披露）必须设置人工审批节点；行为轨迹全程留痕且可回放，用于审计与争议取证；Agent 权限遵循最小化，禁止超出任务所需的系统访问；对工具输出、网页内容等外部输入默认不信任，从架构上防范提示注入攻击。

**第四，在供应商评估中区分"厂商准则"与"产品事实"。** 微软明确该准则当前未用于训练现有模型，且仅约束 MAI 自有模型，不自动延伸至其托管的其他厂商模型。这一边界对金融机构是重要提醒：采购与评估外部模型时，不能把供应商发布的价值声明当作已生效的控制；要追问"哪个模型家族在支撑哪个产品功能"、厂商的准则如何转化为可配置的控制项与监控能力、当前模型实际行为是否与声明一致，并通过独立测试验证。

**第五，把"领域特化"作为金融超级智能的演进路径。** Suleyman 强调 HSI 是问题导向、领域特化的系统，医疗案例（MAI-DxO 85% vs 医生 20%）证明了窄域超级智能的现实性。金融行业同样存在可率先突破的窄域：反洗钱交易监测、信用风险早期预警、合规文本审查、市场异常检测、压力测试情景生成。与其追逐通用全能模型，不如在受控边界内打磨"领域特化"能力，这既降低对齐难度，也符合监管对模型可解释与可验证的要求。

## 四、清醒认识：准则的边界与金融落地注意事项

微软草案自身设置了清晰边界，金融从业者应同样保持清醒。

其一，这是"指路星"而非保证。文档明确承认当前模型行为与完整人本主义目标之间存在差距，不构成对现有性能的承诺。金融行业在借鉴时，应将准则视为治理方向，而非可直接依赖的安全担保，任何控制都必须通过实际测试验证。

其二，厂商准则不替代法律与合同义务。准则中的指令层级"不改变适用法律、合同条款或服务特定政策下的义务"。对金融机构而言，AI 治理的最终责任仍在部署方——欧盟 AI 法案等监管框架下的部署者义务不会因供应商发布一份行为准则而转移。银行仍需履行自己的风险评估、人工监督与消费者保护责任。

其三，价值观表述需要可操作化。微软在咨询中主动提问："人类繁荣"如何定义得足够具体以供评估？多智能体场景如何处理？金融行业在把"负责任""公平""可解释"写入治理文件时同样面临翻译难题——必须落到可测试的行为指标，否则准则只是空文。

其四，参与准则塑造而非被动接受。六周公众咨询窗口（至 2026 年 10 月下旬）是金融机构向前沿厂商传递金融场景需求的机会，可反馈多智能体、金融高频交易、客户交互等场景下的约束需求。同时，银行更应把"开放咨询"本身作为治理方法借鉴：定期向员工、客户与监管者征集对 AI 行为的意见，让治理文件持续迭代。

## 结语

人本主义 AI 对金融行业最大的启示，不是某个具体条款，而是一个判断：能力必须从属于控制，价值必须优先于效率。微软把"人类比 AI 更重要"写进训练手册，把"模型不得抵抗关闭"变成工程规格——这种把价值观工程化的做法，正是金融 AI 治理所欠缺的。金融机构在追赶 AI 能力的同时，更需要同步建设"控制能力"：明确的指令层级、不可逾越的行为红线、可靠的人类接管机制，以及经得起验证的评估方法。当能力与控制同步进化，AI 才真正成为金融行业可信赖的伙伴，而非需要时刻警惕的黑箱。

> 注：本文素材来源于微软 AI 官方发布及公开报道：Mustafa Suleyman《Towards Humanist Superintelligence》（2025-11）；Microsoft AI《Humanist AI Code of Conduct》与《Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models》（2026-09-14）；以及 Help Net Security、The Circuitry、Times of India、dev.to 等对准则内容的转述与分析。文中 MAI-DxO 医疗数据、准则条款均引自上述来源，具体适用需结合金融机构实际情况与监管要求独立评估。