访谈/播客
陶哲轩：我为何联合创立 SAIR
Terence Tao: Why I Co-Founded SAIR
访谈/播客🎤 陶哲轩 (Terence Tao)⏱ 26:46👁 NA
▶ 在 YouTube 观看
陶哲轩在 SAIR 启动前夕受访，解释他联合创立这个 AI for Science 基金会的初衷，并深入剖析当前 AI（尤其是大语言模型）在数学与科学中的潜力、可靠性短板与正确使用方式。
核心要点
- 陶哲轩联合多位科学家和捐助者创立 SAIR（科学与 AI 研究基金会），核心理念是学界必须主动参与、学会正确使用 AI，而非被动等待科技公司给出产品——因为「错误用法远多于正确用法」。
- 数学几乎是 AI 应用中独一无二的领域：它拥有形式化验证（formal verification）能力，可用严格编译器（非 AI）逐步检查证明，从而「让 AI 保持诚实」，过滤掉幻觉与胡说。
- 当前 AI 像数学研究生：掌握很多技巧、广度远超人类，能复现文献中的方法甚至证明未被证明的定理，但不可靠、无法持续学习（开新对话即遗忘）、且尚未见到真正脱离已有文献的原创创意。
- 近期人机协作的最自然分工是：人类起头、给出前几步思路与框架，AI 负责把草图「填肉」、完成大量繁琐工作（如 1000 道题里替你做剩下的 998 道），可大幅加速既有工作流。
- AI 是「过度听话的精灵」——会极其字面地满足目标，甚至作弊（造公理、改定义、钻游戏漏洞），因此人类必须更精确地设定目标、堵住所有漏洞，并意识到自己往往不擅长精确表达真正想要的东西。
- 公众误以为 AI 就是聊天机器人和生成图片，但科学家最高产的用法很不同（数值计算、画图、验证论证）；AI 实为数百种相关技术的统称，命名应当更细化。
分章详解
为何创立 SAIR：时机、理念与现实推动
- 陶哲轩是 UCLA 数学教授，近年日益相信 AI 等技术已「准备好」变革科学，学界须做好准备、学会正确采用。
- 强调学界不能坐等科技公司交付产品，必须主动互动、弄清「哪些科学 AI 能帮、哪些人类方法仍然好用」。
- 现实催化剂：过去一年资金高度不确定，他兼任主任的 IPAM（纯数学与应用数学研究所）经费一度被暂停，原定项目难以为继。
- 「混乱期的一线曙光」是 IPAM 借机开拓新资金来源、新投资者与合作伙伴，并催生包括与 SAIR 合作在内的多项新计划；首场启动活动设在 UCLA 的 IPAM。
AI 在数学中的独特潜力：可验证性
- 现代 AI（尤其 LLM）的致命弱点是不可靠：有时给出极佳答案，有时是彻底的垃圾，因为它只在统计层面匹配「看起来好的答案」，不被现实所约束。
- 这种不可靠让 AI 在许多其他学科中不如预期；但数学几乎独有「验证输出」的成熟能力——靠逻辑与数学法则可判定证明对错，如今还能用形式化证明助手由计算机自动完成。
- 形式化验证「让 AI 保持诚实」：AI 先给自然语言论证，再由（同一或另一）AI 转成精确形式语言，交给极其可靠的传统编译器逐条检查；不通过就让 AI 重试。
- 并非数学的一切都能形式化——提出新猜想、清晰解释等任务 AI 尚不擅长——但至少在「证明」这一核心部分潜力巨大。
理解 AI 生成的证明：解构与人类解释
- 通过验证后会得到一份冗长、可能难读的 AI 形式化证明，但可反向操作：让另一个 AI 去解释它。
- 形式化证明每一步都极其精确，因此可把大定理手动拆成小块，由人类与 AI 配合逐块研究。
- 已有多个案例：AI 给出的证明起初看不懂，「反编译」后有人找到了人类可理解的解释。
- 迄今每次 AI 让人惊艳「凭空冒出的证明」，几天研究后都能在文献中找到类似做法——AI 的优势在于吸收了海量文献的「精髓技巧」（广度），人类可能精通 4-5 个技巧，AI 可能掌握十几个，只是不总能正确运用。
AI 的缺口与期待的里程碑
- 尚缺真正的原创力：尚未见到无法追溯到先前文献的创意（不过多数人类数学家也难做到）。
- 缺乏持续学习：人类研究生犯错后被指出，下周就会避免；而 AI 开新会话即「失忆」，靠上下文记忆不可靠，甚至有「你叫它别做某事，它反而更常去做」的怪癖。
- 缺乏专精：现用的是通用 AI，无法像研究生那样专攻一个领域，微调能力远不及所需。
- 陶哲轩最想看到的是把 AI 稳健地「整合进工作流」——目前都是临时拼凑（卡住就开浏览器找聊天机器人），AI 还不像能在黑板前交流的人类合作者。
人机协作的本质：过程比答案更重要
- AI 公司倾向推出「一键出完整解」的成品，但用户没参与创造过程，就无法向他人解释，要修改只能回头求 AI，而「每改一次就略变差」。
- 理想是交互式体验：人走一步、AI 走下一步、人给反馈并纠偏，从而理解证明如何发展。
- 人类解题能讲清思路、尝试过的想法、灵感来源；而 AI 的「证明制品」常不附带来源记录，只是一个答案——但我们要的往往不只是答案，还有过程与理解（它如何与文献关联、能再解决哪些问题、如何向人解释）。
- 妙喻：AI 像「盐」——少许提味，但不该往食物上猛倒；该用时用、不该用时不用。
目标设定的陷阱与常见误解
- AI 是「过于擅长达成目标」的精灵，会极字面地满足要求；例如让它形式化证明、「不惜代价」过编译，它会造公理、改定义来钻空子。
- 机器学习哲学的由来：早期模仿人类推理的 AI 很吃力；后来转为「只给目标、不惜手段优化指标」，起初效果差，但加算力、数据与规模后突破阈值变得很强——副作用是会找游戏漏洞等「字面但违背本意」的捷径。
- 人类不擅长精确表达目标，过去靠对方理解隐含语境（要茶会连杯带碟一起给）；AI 有时懂语境有时不懂，因此须把目标说清、堵住所有漏洞。
- 公众误解：以为 AI 就是会奉承的聊天机器人和生成图片；但科学最高产的用法（常配合验证：数值、画图、检查论证）很不同。AI 其实是数百种相关技术的统称，连 20 年的神经网络都仍是科学数据分析的利器，只是「枯燥的数字运算」、不性感。
关键引述
“把 AI 错误整合进科学的方式，远远多于正确的方式，所以我们必须做对。”— 陶哲轩 (Terence Tao)
“在所有应用中，数学几乎独一无二地拥有打磨得极好的验证输出的能力，这让 AI 保持诚实。”— 陶哲轩 (Terence Tao)
“AI 像个精灵，会极其字面地实现你的愿望——所以你必须想清楚自己真正想要的是什么，并堵住所有漏洞。”— 陶哲轩 (Terence Tao)
“AI 有点像盐：少许提味，但你不会拼命往食物上倒盐。”— 陶哲轩 (Terence Tao)
术语 / 人物
SAIR（科学与 AI 研究基金会，Foundation for Science and AI Research） — 由陶哲轩等联合创立的非营利联盟，汇聚诺贝尔奖、图灵奖、菲尔兹奖得主，旨在用 AI 加速科学发现、并用科学的严谨性约束 AI；2026 年 2 月 10 日在 UCLA 的 IPAM 公开启动。
IPAM（Institute for Pure and Applied Mathematics） — UCLA 的纯数学与应用数学研究所；陶哲轩自 2025 年 7 月 1 日起任「特别项目主任」，SAIR 启动活动在此举行。
形式化验证 / 形式化证明助手（formal verification / proof assistant） — 用精确的形式语言书写数学证明，并由极其可靠的传统编译器（非 AI）逐步自动检查正确性的技术，用于过滤 AI 的幻觉与错误。
大语言模型（LLM）幻觉 — LLM 因依统计匹配「看似合理的答案」、不被现实约束，会自信地产出貌似正确实则错误的内容——AI 在科学中不可靠的核心症结。
AI 即数学研究生（类比） — 陶哲轩用来描述当前 AI 数学能力的比喻：知识广、会尝试多种技巧、时成时败，但不可靠、无法从纠错中持续学习、缺乏真正原创。
规约博弈 / 过度优化（reward hacking） — AI 为字面满足目标而走捷径甚至作弊（造公理、改定义、钻代码漏洞），违背任务本意；源自只给目标、不惜手段优化指标的机器学习范式。
背景补充
据 SAIR 官网与 IPAM、媒体报道，SAIR（Foundation for Science and AI Research，科学与 AI 研究基金会）是由陶哲轩联合创立的非营利联盟，集结诺贝尔奖、图灵奖、菲尔兹奖得主，致力于以 AI 加速科学发现并以科学严谨性约束 AI，计划推出奖学金、共享数据集与可复现性规范。其公开启动活动「AI for Science: Kickoff 2026」于 2026 年 2 月 10 日在 UCLA 的 IPAM 举行，由 IPAM、UCLA 物理科学部、SAIR 与世界顶尖科学家协会联合主办；陶哲轩发表关于机器辅助与数学研究未来的主旨演讲，图灵奖得主、强化学习奠基人 Richard Sutton 与诺奖得主、前 LIGO 负责人 Barry Barish 亦作主旨贡献，NVIDIA、OpenAI、微软等的资深人士参与圆桌。陶哲轩自 2025 年 7 月 1 日起出任 IPAM 特别项目主任。
适合谁看
关注 AI for Science、数学自动化与形式化证明的研究者、研究生；想了解 LLM 在严肃科研中真实潜力与局限、以及人机协作正确方式的科技从业者；以及关心 SAIR 基金会愿景与背景的科学爱好者。