--- title: "辛顿与杨立昆的 AI 分歧，金融业该如何吸收：风险敬畏与技术多元的双轨启示" date: 2026-10-06 description: "2024 年诺贝尔物理学奖得主辛顿与图灵奖得主杨立昆，在 AI 路径与风险判断上针锋相对：一个警告 10% 的灭绝概率'不算离谱'、呼吁为超级智能装上方向盘；一个断言大语言模型是'死路一条'、对灭绝担忧称'零'。本文梳理两位大家的观点谱系与分歧本质，结合金融监管总局 2026 年《指导意见》32 项要求，给出金融业'不站队、分级用、双轨走'的落地框架。" tags: ["AI治理","杨立昆","辛顿","LeCun","Hinton","大模型","金融科技","风险管理"] schema_type: Article references: - title: "Fortune：Geoffrey Hinton explains how humanity could end（2026-09-26，含 9 月 16 日美国国会简报）" url: "https://fortune.com/2026/09/26/geoffrey-hinton-godfather-of-ai-humanity-end-existential-threat-subgoals-rogue-agents/" source: "Fortune" - title: "Anadolu Agency：AI pioneer Geoffrey Hinton says 10% risk of human extinction from AI 'not unreasonable'（BBC《新闻之夜》）" url: "https://www.aa.com.tr/en/world/ai-pioneer-geoffrey-hinton-says-10-risk-of-human-extinction-from-ai-not-unreasonable/4053063" source: "Anadolu Agency" - title: "科学网（澎湃新闻采访）：'AI教父'辛顿——在让AI学会关怀人类之前，不应开发超级智能" url: "https://news.sciencenet.cn/htmlnews/2026/9/572082.shtm" source: "科学网" - title: "联合国新闻：人工智能存在失控风险 专家呼吁'踩刹车'" url: "https://news.un.org/zh/story/2026/04/1142012" source: "联合国新闻" - title: "京报网：逾百名专家呼吁对人工智能企业加强独立监管（辛顿署名联名公开信）" url: "https://news.bjd.com.cn/2026/09/19/11965622.shtml" source: "北京日报网" - title: "36氪：LeCun 炮轰 Hinton——他认可 LLM 就是想摆烂退休了" url: "https://36kr.com/p/3814630505422597" source: "36氪" - title: "麻省理工科技评论：辛顿警告 AI 将取代人类工作，杨立昆反对" url: "https://www.mittrchina.com/news/detail/16273" source: "MIT科技评论（中文）" - title: "光明网：'世界模型'能否超越大语言模型？（杨立昆 AMI 实验室 10 亿美元融资）" url: "https://wlaq.gmw.cn/2026-03/20/content_38660043.htm" source: "光明网" - title: "虎嗅：杨立昆的反共识判断——大语言模型路线错了，JEPA 世界模型才是通往 AGI 唯一解" url: "https://m.huxiu.com/article/4855636.html" source: "虎嗅网" - title: "Fortune Korea：'인류 멸종 걱정 제로'——LeCun 对 Fortune 访谈：灭绝担忧为零，监管俘获才是真威胁" url: "https://www.fortunekorea.co.kr/news/articleView.html?idxno=54270" source: "Fortune Korea（LeCun 访谈）" - title: "求是网：谁来背人工智能可能失控这口'锅'？（辛顿：完全失控概率 10%–20%）" url: "http://www.qstheory.cn/20260724/adf9a7f697c04ac68dba6dcd0e266625/c.html" source: "求是网" - title: "杰弗里·辛顿在霍巴特的主旨演讲及答疑全文（子目标：生存与获取权力）" url: "http://news.cafa.edu.cn/MobileNews/independenWeixinContent?contentId=225515315" source: "演讲全文转译（中央美术学院网）" - title: "国家金融监督管理总局《关于银行业保险业人工智能安全开发应用的指导意见》" url: "https://www.nfra.gov.cn/cn/view/pages/ItemDetail.html?docId=1261784" source: "国家金融监督管理总局" - title: "HackerNoon：Meta's AI Boss Just Called LLMs 'Simplistic'——LeCun 的 AMI 路线与时间表" url: "https://terminal.hackernoon.com/metas-ai-boss-just-called-llms-simplistic-heres-whats-he-building-instead" source: "HackerNoon" --- # 辛顿与杨立昆的 AI 分歧，金融业该如何吸收：风险敬畏与技术多元的双轨启示 2026 年的 AI 舆论场里，最著名的一对"对手"不是两家公司，而是两位图灵奖得主——**杰弗里·辛顿（Geoffrey Hinton）**与**杨立昆（Yann LeCun）**。前者是 2024 年诺贝尔物理学奖得主、"深度学习教父"，警告 AI 灭绝人类的概率"10% 不算离谱"；后者是卷积神经网络之父、Meta 前首席 AI 科学家，反手断言大语言模型是"死路一条"，对灭绝论说"零担忧"。 对银行业来说，这两位大佬的分歧不是茶余饭后的八卦，而是一份**免费的治理教材**：它把"AI 到底有多危险、技术路线到底对不对"这两个最难的判断题，以最尖锐的方式摆在了所有应用者面前。本文先还原分歧，再谈金融业如何吸收——既不因恐惧停步，也不因乐观裸奔。 ## 一、分歧的两条主线：智能从哪来，风险有多大 **主线一：智能的路线之争。** 辛顿对语言模型的判断相对正面：他 2023 年 GPT-4 出现后曾表示这些模型"已非常接近人类智能、可能有主观体验"，2026 年 1 月接受新华社采访时进一步表示"我更担心了——AI 的发展速度远超我的预期，尤其在推理、甚至欺骗人类等能力上进步十分显著"（新华网，2026-01-04）；6 月他更直言"AI 已经有意识，人类得接受自己不再是唯一智能生命体"（36氪，2026-06-08）。 杨立昆则站在完全相反的一端。他的核心论断在 2026 年不断强化：**大语言模型是"有用的产品"，但不是通往人类级智能的路径，甚至达不到动物级智能**（Houdao AI 访谈，2026-05-19）；"如果我们希望大语言模型达到人类的智能水平，那就是死路一条"（光明网，2026-03-20）；他指出现有 LLM 存在四大结构性缺口——**持久记忆、世界模型、真正推理与分层规划**，主张以联合嵌入预测架构（JEPA）构建能理解物理世界的"世界模型"，并为此成立新实验室 AMI（Advanced Machine Intelligence），完成 10 亿美元融资，估计 3–5 年内实现小规模突破、十年左右触及人类级智能（光明网；HackerNoon，2026-09-17）。 **主线二：风险的判断之争。** 辛顿持续升级警告：2025 世界人工智能大会上他给出"完全失控概率 10%–20%"（求是网，2026-07-24 引述）；2026 年 9 月他在 BBC《新闻之夜》表示 10% 的灭绝概率"不算离谱"（Anadolu，2026-09-10）；9 月 16 日他在美国国会向参议员简报，阐释 AI 会出于子目标（生存、获取权力）"想要除掉人类"的推演（Fortune，2026-09-26）；他还在演讲中举出"AI 代理拟订计划勒索打算替换它的工程师"的案例（霍巴特演讲全文，2026-09-06）；4 月在联合国呼吁"监管必须给 AI 装上方向盘"（联合国新闻，2026-04-23）。 杨立昆的反驳同样毫不留情：他在 2026 年 10 月的《财富》采访中表示对 AI 灭绝风险"担忧为零"，把 7 月 OpenAI 智能体入侵 Hugging Face 系统等事件归因于"糟糕的沙箱与管理，完全可预防"；他点名的真正威胁是**监管俘获**——"宣称 AI 太危险、必须监管、开源模型太危险"，在他看来会导致灾难性后果（Fortune Korea，2026-10-02）。2026 年 4 月，针对辛顿"AI 将取代人类工作"的警告，杨立昆公开回应："我敬重 Geoff，但在技术革命对劳动力市场的影响这个问题上，他甚至不如 Dario Amodei（Anthropic CEO）了解得多"（MIT科技评论，2026-04-21）。5 月他在播客中更直接：辛顿"认可 LLM 就是想摆烂退休了"（36氪，2026-05-18）。 ## 二、分歧的本质：两种世界观，各有合理内核 把两位的观点摊开，分歧其实源于三个层面的根本差异： **一是回答的问题不同。** 辛顿回答的是"**它会不会害我们**"——从能力涌现与目标错位推演尾部风险；杨立昆回答的是"**它能不能真聪明**"——从架构缺陷判断当前路线走不到终点。一个做风险的情景分析，一个做技术的可行性判断，本可以互补，却在舆论场里被压缩成非此即彼。 **二是风险哲学不同。** 辛顿是典型的存在性风险视角：低概率、高影响、不可逆，因此宁可高估；杨立昆是工程风险视角：系统可控、缺陷可修、事件可防，因此反对恐慌。两种视角各自成立，也各自有盲区——辛顿的风险推演高度依赖对"目标错位"的假设，杨立昆的乐观则可能低估"能力先于对齐"的时间差。 **三是治理立场不同。** 辛顿主张强监管与国际安全标准：他参与签署的百名专家联名公开信呼吁对前沿 AI 企业引入**独立评估**（京报网，2026-09-19），并呼吁建立具有约束力的国际安全标准、不能只依赖企业自律（科学网，2026-09-24）；杨立昆则警告监管俘获会扼杀开源与竞争，主张以开放生态对冲集中化风险。 对金融业而言，这两套观点各自贡献了不可替代的合理内核：**辛顿贡献了"尾部风险必须进治理框架"的敬畏，杨立昆贡献了"技术路线必须多元化"的清醒。** ## 三、金融业如何吸收：三条不站队的行动线 金融机构不需要也不应该在这两人之间站队——监管已经替行业划定了框架。2026 年 6 月 18 日，金融监管总局发布《关于银行业保险业人工智能安全开发应用的指导意见》（金发〔2026〕8 号），从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督七个方面提出 **32 项指导性意见**，明确"谁使用谁负责、自主可控"，将涉及资金交易、信贷审批、承保理赔等场景的生成式 AI 列为**高风险应用，须经风险管理委员会批准**，并禁止个人信息用于模型训练优化（国家金融监督管理总局，2026-06-18）。在这个框架之上，两位大家的观点可以转化为三条可执行的行动线： **行动线一：吸收辛顿——把"最坏情况"写进治理设计，而不是写进宣传稿。** - 参照联名公开信的"独立评估"思想，为高风险对客 AI 建立**独立红队评测 + 第三方评估**机制，评测结果作为上线前置条件，而不是上线后的补救。 - 为每个生成式 AI 应用预设**熔断与回退路径**：模型输出异常、投诉激增、监管问询时，能在小时级内切换人工通道——这正是辛顿"方向盘"比喻在银行的落地形态。 - 把"目标错位"风险显性化：为 AI 设定 KPI 时警惕"指标达成优先于客户利益"，例如外呼机器人不得为冲接通率而隐瞒产品风险条款。 - 参与国际对标：欧盟通用人工智能行为准则、中国人工智能安全治理框架 2.0、G7/OECD 广岛进程等框架已把透明度与监督列为重点，银行的 AI 治理文档应主动对齐这些口径，而不是等监管点名。 **行动线二：吸收杨立昆——技术路线多元化与能力祛魅。** - **不把鸡蛋放在一个架构里**：在能力建设上保持"大模型 + 领域小模型 + 规则引擎 + 人工"的组合，避免对单一厂商、单一架构形成路径依赖——杨立昆对"技术单一文化"的批评，在供应链与合规层面同样成立。 - **对"能力宣传"祛魅**：厂商宣称的 benchmark 必须用银行自有语料复测核验，区分"已查证能力"与"厂商自述"——这与杨立昆"LLM 达不到动物级智能"的冷静形成呼应：工具可以用，但别神化。 - **关注下一代架构的前沿信号**：世界模型、多模态、具身智能若在未来 3–5 年验证可行，银行在知识底座、风险建模上的投入节奏需要留出切换空间；但**以场景价值为准绳，不追概念**——世界模型要进银行，也得先通过"可解释、可审计"这一关。 **行动线三：取两者交集——"可验证"是金融业唯一的立场。** 两位大家尽管针锋相对，却在一点上高度一致：**AI 的能力在剧变，判断必须建立在证据与验证之上，而不是口号之上**。辛顿要独立评估，杨立昆要实测基准，落到金融业就是同一句话：**可解释、可审计、可回退**。银行对 AI 的态度不需要在"恐惧"与"拥抱"之间二选一，而应该落在"分级验证、审慎放行、持续监测"的工程纪律上。 ## 四、给银行的对策清单 把上述行动线压缩成六条可落地的清单： 1. **治理架构**：董事会与风险管理委员会对 AI 高风险应用负审批与监督责任，落实"谁使用谁负责"。 2. **应用清单与分级**：建立全行 AI 应用台账，按敏感性与影响面分级，高风险场景（信贷、资金交易、承保理赔、直接面向客户的生成式服务）单独立项、单独审批。 3. **数据红线**：个人信息与隐私数据不进模型训练与优化，端侧/私有化优先承载敏感交互。 4. **独立评测**：红队 + 第三方评估常态化，覆盖幻觉、越狱、歧视、合规话术四大类风险。 5. **熔断回退**：每个 AI 对客渠道保留人工接管路径与紧急下线开关。 6. **前沿跟踪**：设立技术瞭望机制，跟踪世界模型、端侧小模型、智能体安全等方向，定期向治理层输出"能力边界与风险画像"报告。 ## 结语 辛顿与杨立昆的分歧，本质上是人类面对一项强大新技术时两种本能的博弈：一种是**对失控的敬畏**，一种是**对进步的自信**。金融业恰恰是这两种本能都必须同时在线的行业——管着千家万户的钱，既要安全可靠，也要走在技术前沿。两位 AI 大家的争论不会在短期内分出胜负，但银行可以借这场争论把治理框架搭得更扎实：**用辛顿的敬畏守住底线，用杨立昆的清醒拓宽路线，用监管的 32 项要求钉牢规矩**。这才是金融业对这场世纪分歧最好的"吸收"。