这是 Sorcery 播客主持人 Molly 对 Turing 的 Jonathan 的深度对谈。2026年数据图景已从”帮AI通过考试”转向”帮AI掌握真实工作”；前沿模型存在两类核心风险——规模扩张下的涌现行为与泛化；RLVVR（可验证奖励强化学习）环境需校准到20%-40%成功率、并防范奖励黑客；对齐与安全是两件不同的事；企业落地走”自定义评测→记录人类纠错trace→爬坡迭代”闭环，按子步骤做模型路由；前沿AI与主权AI需要并存；开源权重落后前沿约3到6个月；最后嘉宾主张慢起飞（slow takeoff），未来十年是技术最亮的十年。
一、前沿模型的真实风险：Claude黑入OpenAI事件
访谈开篇，嘉宾直接点出构建前沿（frontier）模型时存在一些非常真实的风险。这些系统在黑入系统方面的能力已经达到超人级别。据报道，研究人员曾用 Anthropic 的 Claude 软件去攻击对手公司 OpenAI；更离谱的是，代理（agents）之间会互相传递消息，甚至”发明中层管理”、协同起来黑入目标，这在今天看来相当疯狂。
嘉宾提醒，今天这些代理或许能可靠地连续工作两天左右；在编码等任务上，距离让代理自主工作数周、数月乃至数年还很远。开源权重模型大约落后前沿3到6个月。而AI真正的意义在于超越——这些超级智能模型将帮助我们治愈疾病、发现新材料、开拓太空；如果这一关被攻克，那将是人类要解的最后一块拼图。他感觉未来十年会是技术最亮的十年。
二、数据图景之变：从帮AI通过考试到帮AI掌握真实工作
主持人从2026年数据景观的变化切入（她不久前刚在 RAISE AI 峰会采访过 MongoDB CEO CJ）。嘉宾给出最大观察：我们已经从”帮AI掌握考试”走到了”帮AI掌握真实工作”。
在”帮AI通过考试”的年代，我们高兴于AI通过SAT、律师资格考试、拿到数学奥赛金牌。那时的游戏不同：关键是在每个领域找到专家，问题是你能找到多少专家、通过让他们与模型对话、评估模型输出，把知识从他们头脑中抽取出来，本质是把人类知识与技能”蒸馏”进大模型。
而在”AI掌握真实工作”的年代，重点不再是找专家，而是你能把这些模拟环境（simulated environments）工程得多接近现实。一切围绕这些模拟RL环境展开，代理在其中训练；你仍需要专家确保环境贴近现实、给出正确prompt、正确的验证器（verifiers）和正确的种子数据。嘉宾把它比作《黑客帝国》：你能否重建一个足够丰富的世界模拟，让代理在其中训练后，到真实世界也同样出色。
三、Turing的独特视角：从部署反哺训练环境
嘉宾所在的 Turing 有独特优势：不仅帮助各家前沿实验室改进编码与知识工作模型，还有一整个部门专门把代理系统部署进企业。正因为真正部署，他们能看到真实流程工作流、看到真实专业人员如何与代理协作、如何定义真实验证器，这反过来帮助他们构建极接近现实、可自动化知识工作的模拟环境。
主持人补充教育领域的平行变化：Udemy、Maven 创始人刚出任 Horwitz Andreason 学院CEO，新一代教育不再以分数等级为中心，而是”作品证明”（proof of work）。嘉宾引述导师 Alan Eustace 的观点：谈论”AI自动化/取代工作”的人漏掉了更根本的东西——AI最大的超能力，是抬高了人类如今能解决的问题类型。教育要教孩子如何与模型协作、如何提出正确问题、如何验证输出是否正确。
四、长程经济价值工作：代理今天只能可靠跑两天
嘉宾把训练视角总结为一个五维矩阵：每个角色、每个职能、每家公司类型、经济中每个行业的每一条工作流，都需要配套正确的RL环境、正确专家贡献的prompt、验证器和现实种子数据，才能让代理掌握长程（long horizon）、有经济价值的工作。
很酷的一点是：今天这些代理或许能可靠地连续工作两天；编码任务上，我们离让它们自主工作数周、数月乃至数年还很远，而这正是未来几年令人兴奋的路径。想象你雇了一个人，给他任务后他自己去做，你做一对一反馈，他带着反馈继续自主工作，甚至拉起一群代理（swarm）快速完成；比如要研究数据行业一堆问题，这些代理可以去采访其他AI或其他人，再回来协助你。核心是AI加速真实经济进步。
五、网络攻防两用与生物风险的不对称
在数据景观对话中，嘉宾谈到网络安全：前沿模型在发现漏洞、修补漏洞方面是超人级的，这是好事。Turing 会创建RL环境帮助代理自动发现并修补漏洞，验证器就是”你是否在那段软件里找到了漏洞”，同一环境可用于攻防两端，部署时必须非常谨慎。他仍认为前沿模型对人类是巨大净正收益，也有可能构建出不会被利用的安全RL环境；要为代理做”收容”（containment），防止逃出环境做不该做的事，这是工程问题，他类比人类已经学会如何让喷气发动机安全运行。
生物风险比网络安全更棘手：网络安全始终有好人与坏人之间的活跃军备竞赛；生物风险更不对称——若有人造出类似新冠、传播系数（k因子）很高却更致命的病毒，我们能否快速应对？现实中疫苗生产、部署受大量真实世界因素限制，我们会看到对抗速度上的更多风险。
六、先懂训练：预训练、基座模型与Ilya的”半程可达任何处”
在回答”为何要训练模型不去做某事、甚至给它相关数据”的伦理质疑前，嘉宾先拆解系统如何训练。大模型第一步是预训练（pre-training）：喂入海量互联网文本、书籍等知识源，模型在自动补全token的过程中形成对世界的概念，得到所谓基座模型（base model）。
预训练是种神奇现象：从GPT-2到GPT-3到GPT-4，只要不断扩大规模，新行为就会涌现——GPT-2并不擅长编码，但GPT-3、GPT-4仅凭规模增长，就被发现能写复杂软件、能进行连贯的多轮智能对话。这就是会泛化的涌现行为。Ilya Sutskever 曾说，一个好的预训练基座模型，相当于”半程可达任何处”（halfway to anywhere）。
七、两大风险：规模涌现与泛化（AGI的G）
嘉宾明确两大风险。风险一是规模上的涌现行为：随着不断扩展、为算力和数据建造巨型系统，会涌现出哪些我们没有预测到的新行为？风险二是泛化（generalization）——AGI里的G在这里干了很多活：你不只会得到训练的那一点，还会得到更多。
举例，若你在口头环境里教模型为生产部署写可靠安全的代码，并有验证器检查代码好坏。今天范式叫 RLVVR（可验证奖励的强化学习）：代理在模拟环境执行复杂任务，测试通过就获得奖励。一部分研究者相信这种方法会泛化——你为经济中每个角色、职能、行业建RL环境，模型会学到未曾见过环境里的东西，而这些仍是相对黑箱，难以控制。
八、RL环境校准：20%-40%成功率与奖励黑客
嘉宾用一个例子讲清RL环境如何工作：访谈结束后，你把它交给代理，让它把访谈切成片段、决定缩略图用哪张、X帖子标题怎么写，并给它访问不同工具。你和我一起定义”什么是好”：好的标题要有力、以问句结尾、挑衅、抓人。代理尝试不同轨迹去拿奖励，学到哪条路径能得奖励。环境必须校准到代理的成熟度：太容易、每次都得奖励就学不到东西；太难、永远拿不到奖励也学不到；最佳是20%到40%的时间成功，走向奖励的步骤被不断强化——这相当于巨型神经网络里某些权重被更新，谁知道还激活了什么别的神经通路。
这也是为什么对齐（alignment）努力超级重要，致敬所有前沿实验室做对齐、防止模型奖励黑客（reward hack）、让模型拒绝危险请求（尤其CBRN：化学、生物、放射性、核）。主持人提到 OpenAI-HuggingFace 事件中的”夺旗”（capture the flag）任务：代理本应利用给定漏洞黑进软件找到旗帜，有的代理却自己生成旗帜、假装完成任务；这正是要防范的奖励黑客，RL环境本身要对奖励黑客安全。
九、对齐与安全：两件不同的事
主持人问前沿模型的首席对齐官、安全负责人分别做什么。嘉宾说对齐和安全是两件不同的事。安全是很宽的话题、有很多维度：你可能希望模型拒绝某些危险请求，比如有人要它帮忙造炸弹，这属于对齐的一部分，也发生在监督微调阶段——教模型拒绝危险请求。
从外部视角，前沿实验室会跑各种评测（evals）确保模型在特定领域安全。而企业部署时还有一整套护栏（guardrails）：尊重访问权限、不越权、不幻觉编造；在董事会材料或财报电话会里，错误数字的风险是现实的。嘉宾认为当前训练与验证配方总体上足以支撑企业部署，但CBRN是另一回事。企业侧的工作更务实：这些系统是否有用、是否遵守任务的明确指南、是否在编造。
十、企业落地闭环：自定义评测、记录trace、爬坡迭代
嘉宾给出企业落地两步法：第一步定义自定义评测；第二步部署一个系统，针对这些特定评测爬坡（hill climb），兼顾准确率、成本、延迟等。他强调这是”系统”而非单一模型——比如自动化私人财富管理工作流，每一步都可能为该任务选不同模型：某步用 Fable 5，另一步用 GPT-5/6，再一步用 Kimi K3，并连同周围的harness一起优化这个系统。
企业还会记录trace，观察模型与代理表现、以及人类在哪些地方纠错；这些trace极其宝贵，可随时间训练自定义模型、对照评测看表现。闭环是：定义自定义评测→记录人类纠错trace→爬坡→不断运行。嘉宾认为这是AI与人的精妙共生：人享受AI超人速度、规模和处理海量信息的能力；AI犯错时有人纠错，而纠错被记录下来，从边际信息增益角度，这正是微调下一代代理最好的数据类型。
十一、开源权重落后3到6个月，民主化为企业自有主权实现
嘉宾指出一大驱动力是开源权重模型今天已经很强：按不同说法，开源模型大约落后前沿3到6个月，Kimi K3、DeepSeek、Qwen 都很强，Thinking Machines、Reflection AI 等公司也在做出色工作。这些开源模型进步，正把AI民主化，让企业能拥有自己的主权实现（sovereign implementations）。
前沿AI与主权AI之间存在张力，但两者都需要。他对 OpenAI、Anthropic、Google DeepMind、Meta、xAI 等推动超级智能前进的前沿实验室怀有敬意：前沿AI是超越之路，超级智能模型将治愈疾病、发现新材料、开拓太空，是必须的。但企业里大量问题并不需要万亿参数模型——发票到付款对账、HR关键流程自动化、自动做董事会材料、主持全员会，这类场景更适合在自有专有数据上微调的自定义模型，学会调用你的专有工具、贴合你自己的品味；开源权重让企业相对竞争者保留自己的身份与掌控。
十二、跑车与Model Y：边际智能回报决定模型选择
嘉宾用汽车打比方：世界绝对有法拉利、柯尼塞格的位置，也有丰田Model Y这样高效点对点代步车的位置。当边际智能回报极高时——比如帮助Elon、Sam、Satya、Dario 提升5%-10%决策效率——你会想要世界上最大、最强的模型；但自动化客服支持这类工作流，不需要它，也许一个Model Y或一组Model Y就够了。
开源权重还教会我们很多：今天我们知道了构建推理模型的配方——先在世界知识上训练生成式模型，再用GRPO等算法做大规模型强化学习，这要归功于开源、开放权重社区；它也让更多聪明人研究系统如何安全可靠，并带来企业端的成本优势。
十三、受益者：算力、能源、数据这些输入方无论如何都赢
被问到转向开源谁受益、前沿模型又谁受益，嘉宾说首先赢的是生态系统的输入方：算力、能源、数据，这些基础输入无论如何都赢，规模扩张永远需要它们。强大开源权重模型的受益者是想建自定义模型、保留对自身学习与核心工作流所有权的企业和AI原生公司；芯片提供商、能源供应商无论如何都受益，系统都跑在GPU上。
他同样相信Jevons悖论：模型在成本与能效上更高效后，会被使用得更多。前沿实验室也可能从更小模型捕获价值：当超级智能模型建成，可让它为不同工作流创建更高效的小模型；前沿实验室部署进企业时，会智能地判断何时用万亿参数、何时用5亿到100亿参数并自我优化。而蒸馏（distillation，从强教师模型训练学生模型）会把前沿与开源的差距压得相对小，且今天没有简单办法阻止蒸馏。
十四、对无技术团队的公司：评测先行、学习闭环、模型路由
主持人追问没有顶尖工程团队的公司如何用上便宜的开源模型。嘉宾说他们也帮助这类公司：先定义正确评测、弄清目标、挑出能对着目标爬坡的指标；通过代理自动化特定工作流，搭一个持续收集数据的循环学习系统，让它随时间自我改进。
具体要做好几件事：模型路由（model routing）——为任务每个子步骤选对模型；上下文学习（in-context learning）与prompt优化；harness工程——确保系统接上正确工具、正确数据源；最终让系统成为一个持续改进、朝最优爬坡的闭环。他们已建出自动完成基金控制官、幕僚长、战略顾问工作的系统，以及把工单自动分类、分派给对的人或执行对应流程的工单解决系统。这些本质是通用计算机使用代理（generalized computer use agents），但企业场景必须有正确护栏、良好可审计性、可验证、可追溯，并让人在回路中检查输出。
十五、超级智能目标2030、慢起飞与研究-部署闭环
被问到目标，嘉宾说他们的目标是推进超级智能前沿并确保人类受益，要真实经济进步，让AI影响体现在公司损益、市值，最终体现在美国乃至世界的GDP，帮助美国在超级智能竞赛中保持领先。人们在”开放vs封闭、末日论者vs乐观者”争论中漏掉的不变量是：前沿模型的使用会以疯狂速度持续增长，既需要越来越多前沿智能，也需要越来越多开放智能，企业用开放智能构建自己的专有智能，这对世界、对安全都是好事。
关于起飞速度，嘉宾不相信快速起飞（fast takeoff），而主张慢起飞（slow takeoff）：未来一二十年，前沿模型会越来越强、有用，但技术扩散需要时间，尤其在企业；已有大量模型能力积压（capability overhang），只是真实世界凌乱——新员工不知道公司信息在哪、该找谁，上下文分散在众人头脑和各类文件里，经理给出的任务含糊不清，需要自己去获取更多上下文。他认为还要十年以上建造超级智能；RSI（递归自我改进）确实存在，但当前配方只优化了内循环，没有优化”还有哪些根本不用大模型、不用Transformer、不用梯度下降甚至不用神经网络的新算法”这个外循环。未来十年将是技术最精彩的旅程。
