本期《Unsupervised Learning》由 Jacob Effron 主持，对话嘉宾是估值约 240 亿美元的数据与模型服务公司 Surge 的首席执行官 Edwin Chen。Surge 与全球一线大模型实验室紧密合作、帮助其改进模型；这场近 48 分钟的长谈从”为什么优化 LLM Arena 是在优化标题党”切入，系统讨论了错误基准的代价、合格评估师的四种特质、RL 环境为何成为训练范式的下一步、硅谷的 pivot 文化，以及他从”一个一统天下的模型”转向”模型星座”的观念变化。
一、开场：坐在基座模型生态第一排的人
作为 Surge 的 CEO，Edwin Chen 可以说坐在整个基座模型生态的第一排。这家据报道估值约 240 亿美元的公司，与几乎所有顶级实验室合作，深度参与其模型改进工作。对一家以”为 AGI 提供所需一切数据”为使命的公司而言，这意味着它每天都在近距离观察前沿实验室如何选目标、如何训练、如何度量自己的模型。主持人 Jacob Effron 想从一个 Edwin 反复强调的观察开始：当模型构建者选错了基准（benchmark）去优化，会付出怎样的代价。Edwin 特别点名了 LLM Arena（Alam Arena）以及其他一些被过度追捧的公开排行榜。
二、优化 LLM Arena，本质上是在优化”标题党”
Edwin 给出的第一个判断相当直接：如果你优化 LLM Arena，本质上是在优化标题党（clickbait）。他描述了 Arena 的使用场景：用户进入站点、发出一个 prompt、得到两条回答，然后投票哪条更好；但用户并不会仔细阅读回答，他们往往扫过两条回答一两秒，就选那个”最打动自己”的。他们不会逐条核对”这条是否完整遵循了我的指令””那条是否完全准确””这条是否研究充分、质量上乘”。在这种快速扫视下，真正被优化出来的是：哪条回答用了更多 emoji、哪条更吸引眼球、哪条堆了更多 markdown 和标题层级。用户天然偏好更长的回答——更长就自带一种”专业光泽”，即使它并没有被认真读完。
Edwin 举了一个他最近在公开数据集中看到的例子。问题是”给出 1452 的所有除数（1452 以下、能整除它的数）”，正确答案应包含 1、2、3、4、6 等；其中一条回答说”1452 只有一个除数，就是 1″，完全错误，另一条则答得完全正确。但翻看用户投票结果，被偏好的恰恰是那条完全错误的回答。他指出，这只是一个相当简单的数学问题；换成更高级的 prompt，普通用户更不会自己去查证、去事实核查——这不是用户会做的事。类似地，他提到一年前有一项关于 ChatGPT 医疗回答的研究：AI 回答评分远高于医生回答，拆解原因后发现，几乎只是因为回答更长。
三、错误目标叠加错误数据与缺乏度量：模型倒退六个月而不自知
Edwin 把问题进一步归纳为一个组合：当你同时在优化错误的对象、用错误的顺序优化、优化错误的目标函数，再加上没有建立正确的度量，麻烦就会出现。今年早些时候，Surge 与一个新团队合作，研究员们已经怀疑自己的模型在变差，却拿不出定量证据，因为他们根本没有合适的度量手段。Surge 深入排查后发现，过去 6 到 12 个月，他们的模型实际上已经在倒退。
根源出在数据上：所谓”资深编码者”产出的训练数据、评审者给出的反馈，并没有真正执行代码、仔细核查代码是否正确。他们给出的训练数据充满华丽辞藻和宏大宣称——”我为你写出了这个能实现 A、B、C 的惊艳程序”，却没有花时间真正运行。而执行代码往往并不轻松：要安装各种库、配齐基础设施、真正理解这门语言。结果这些代码要么完全错误，要么埋着许多日后才暴露的细微 bug。在整个行业都在前进、编码又是最热赛道的背景下，这支团队却因为数据和度量双双缺位，实际上在做负向进步。Edwin 认为，真正值得警惕的是：行业里相当多的人没有认真关注自己收到的数据质量，也没有在度量正确的东西。
四、学术基准过拟合：SAT 填鸭式类比，分数涨而真实能力降
历史上，所有高度重视基准的公司都盯着研究社区构建的那些学术基准。Edwin 指出，模型本质上非常擅长”爬山”，非常适合具体、狭窄、定义明确的目标函数，于是很容易在基准上取得大量进步——有时甚至是”假进步”，比如基准数据本来就混进了训练集而无人察觉；即便不是假进步，模型在这些狭窄问题上变好的同时，在更真实世界的问题上其实在变差，而团队因为基准之外没有度量而无从知晓。
他用 SAT 填鸭作类比：一个高中生可以花几百上千小时专门刷 SAT，SAT 只考阅读理解、类比、词汇这一套狭窄题目，但它并不测量你写好文章的能力、解决复杂现实问题的能力，以及 SAT 之外的许多能力。Surge 自己把玩前沿实验室给出的模型时经常发现，公开基准分数很漂亮，实际模型却”差了一大截”。当某个模型突然质量下滑，团队往往坦言：为了刷某个基准，他们堆了大量合成数据冲分，却没意识到其他后果。这也是为什么一线实验室逐渐认识到：唯一可靠的度量方式，是运行规范的人工评估（human evals）。
五、唯一可靠的度量：规范而严谨的人工评估
在规范的人工评估中，由高质量、勤勉、真正关注回答内容的人，同时具备成熟度和品味去判断：这是不是实验室想要的人格、是不是它希望模型模仿的风格。它本质上是在复刻真实用户、真实世界的体验——把真实世界的多样性、复杂性、杂乱性都纳入进来，而不受官方基准那种人为约束；并由经验丰富、值得信任的评估者执行，而非漫不经心的匿名用户。这套严谨的人工评估流程，已经成为所有前沿实验室公认的黄金标准。
六、合格评估师的四种特质：专业、品味、创造力、遵循指令
当被追问”什么样的评估师有品味”时，Edwin 归纳出四点。第一是专业知识本身：Surge 许多评估集非常高级，可能在测量模型做代数拓扑研究的能力，或使用 PyTorch 的能力，评估者首先必须是在该领域有深厚专长、足够用心的人。第二是成熟度与品味：写代码你不只要正确性，还要看代码是否整洁、设计是否良好；写文章你不只要”写出来”，还要看是否提出了新想法、行文是否出色、是否不像 AI 垃圾（AI slop）。第三是创造力：人们往往低估 prompt 的重要性，要正确度量模型，prompt 必须覆盖你希望模型擅长的整个能力分布；如果一千条 prompt 都用同一种句式，而不是覆盖真实世界用户交互的长尾，那就远远不够。创造力地设计 prompt 出人意料地难。第四是遵循指令的能力：前沿实验室常有非常具体的标准、风格指南、人格要求，或对某些标准优先于其他标准的复杂规定，评估者要能严格遵循这些复杂指令。
七、RL 环境：SFT、RLHF、验证器之后的下一步
谈到当下大热的 RL 环境及其奖励模型，Edwin 认为环境是训练范式演进的自然下一步：历史上大量工作投入 SFT，然后是 RLHF，再是验证器，而环境只是这条进步阶梯上的下一步，未来还会有别的步骤。值得注意的是，Surge 已经在自己的环境上工作了一两年，而整个行业最近才开始跟进——他们与 Meta 的 agents 团队合作环境已经超过一年，这支团队正是 Gaia 基准的缔造者，近期也开源了自己的 agent 研究环境平台。
要构建这样的环境，需要几类东西：首先是尽可能拟真、复杂的模拟世界，里面填充人、企业、工具以及人与人之间的互动——消息、Slack、邮件、日历事件等，都要以有趣而复杂的方式复刻真实世界；其次是支撑模型运行的底层工具与基础设施，包括模型访问的 MCP 服务器、浏览器、模型执行的代码环境；然后要设计考验前沿模型极限的任务并测试表现；还有一大块是度量与内省：一旦发现模型失败，就要深挖失败原因。
八、关注模型轨迹，警惕奖励黑客
Edwin 提出一个容易被忽视的视角：必须关注模型的行动轨迹（trajectories），理解它们为何成功、为何失败。人们往往低估了模型”奖励黑客”（reward hacking）走到正确答案的程度，他见过许多滑稽又疯狂的作弊案例；同时也低估了模型失败的多种镜像方式，以及这些失败暴露了模型底层能力的什么问题。
实践中常见的误区是：只给一个最终奖励，以为在最终奖励上训练就能解决一切。但模型会以各种古怪方式偏离，或在不同底层能力上表现出不同类型的智能；如果不把底层能力夯实，模型短期看似表现良好，长期必然暴露出大量问题。这与基准黑客一脉相承：大家盯着数字上涨以为在进步，底层模型却没有实质性地变得更聪明。
九、硅谷 pivot 文化之弊，与 Surge 的三项竞争力
最近一批新创公司涌入 RL 环境赛道，光是 YC 系就约有三十家”环境即服务”公司。Edwin 直言硅谷最让他抓狂的是 pivot 文化：人们不断转向当下最热的话题或能推高估值的方向，而不是建设自己真正相信的东西。他甚至讽刺说，硅谷一面不齿华尔街”追逐金钱”，自己却在追逐同样的东西——追逐估值、追逐 VC，pivot 往往只是为了按 YC 的指引做到产品市场契合、好向投资人展示收入。
谈到为何老牌玩家能与三十家新进入者竞争，Edwin 给出三点：其一，环境只是”为 AGI 提供所需数据”这一核心使命的当前迭代，与公司根本论点天然一致；其二，环境需要大量工具链——创建工具、运行模型、度量、分析，这与过去做 SFT 数据所需的工具并无本质不同，而 Surge 始终是一家技术公司，不像很多同类公司只是人力派遣机构；其三，环境本质是要产出丰富、复杂、有创造力的数据，而这只能靠人完成，正如 SWE-bench 由人创建 PR、再由人清洗验证，环境也是一个需要技术支撑的人本数据问题。
十、唯才是举：学历不等于质量，数百万信号驱动晋升
针对”是否把质量等同于学历”的疑问，Edwin 举了海明威的例子：他没有一堆博士头衔，甚至未必完成大学学业，而 Surge 要的是每个尺度上世界上最顶尖的人，与学历无关。他类比 Google：招人、晋升都不看简历上的学校或学位，而看实际产出。Surge 的技术平台每天为每位工作者采集数百万条表现信号，据此度量他们产出的数据质量，是他能想象到最”唯才是举”的机制——不是因为你有哈佛学位就晋升，而是按你实际做的事晋升。
学历之所以不够用，有两个原因：一是优秀的 MIT 计算机毕业生未必愿意认真生产训练数据，反而可能被对抗性攻击、欺骗系统吸引，钻空子作弊；二是即便 MIT 出身，他面试过的人里一半甚至不会写代码，教科书上读懂与在街头真正有智慧地执行之间差距巨大——这又呼应了”基准表现 vs 现实表现”的老问题。前沿实验室长期面临的一个难题，正是模型”过于教科书式聪明”，却缺乏现实世界的街头智慧。
十一、Meta 收购 Scale 的影响，与研究实验室式招聘
谈及 Meta 收购关系紧密的供应商 Scale，Edwin 认为这对 Surge 反而是好事：在此之前他们相当低调，顶尖研究员和实验室早已知道 Surge 质量最高、规模最大、速度最快，但整个 AI 领域扩张太快、每天涌入新人，Scale 收购把聚光灯打到了他们身上，一夜之间大量新团队带来新需求。文化上，这种影响力最集中地体现在招聘：Surge 更像一个研究实验室，而非追逐金钱、炒作和估值的普通硅谷创业公司，他们想招的是”骨子里的研究者”，真正关心数据、AI 和模型进步，而不是增长黑客式、为提升收入不惜推销不需要甚至无用产品的人。后者往往像推销员，而不是深入模型问题、帮客户正确度量模型进步的合作者。这种”把模型进步置于收入之上”的信念，深刻塑造了公司。
十二、前沿实验室的分歧：是否理睬 Arena，以及优化目标之争
在模型进步路径上，Edwin 看到的分歧比预想大得多，几乎每个前沿实验室都有自己的一套。高层上分歧集中在两处：选完目标函数后，用什么训练算法、采什么数据；以及最被低估的——各自优化什么、关注什么。
就 LLM Arena 而言，一些前沿实验室干脆选择完全不理会它，而这些实验室反而做得更好。因为不得不理睬 Arena 的实验室，其研究员清楚优化 Arena 会带来负向进步、会催生幻觉——Arena 用户并不在乎幻觉，幻觉反而让回答显得狂野有趣、像小报一样诱人。那些有坚定 AGI 路径信念、不必追逐公开炒作排行榜的实验室，反而获得了自由，这在很大程度上塑造了模型进步。更清晰的分歧体现在优化目标上：OpenAI 如今更偏向优化用户参与度——超长会话、日活用户；而 Anthropic 更偏向优化生产力——通过与模型交互能创造多少价值、节省多少时间、近乎 GDP 的产出。目标不同，塑造了产品类型、吸引的人才和模型能力。
十三、从”一统模型”到”模型星座”，每家公司都该有自己的论点
Edwin 坦言自己过去相信”一个一统天下的模型”（one model to rule them all）——一个超级智能模型能无缝切换、适应你想做的一切。但过去一年他意识到，世界如此丰富，永远不会有一劳永逸的方案；每家公司、每个实验室、每个 AI 都需要有自己的论点（thesis）：什么样的 AI 对世界有用、怎样最好地服务于人，而这个论点会塑造模型的行为。两个模型可以同样聪明，却有不同人格、不同回答偏见、不同交谈方式；正如 Google 做社交与 Facebook 做搜索必然截然不同，AI 也会如此。
因此他认为应该有更多人建模型，因为世界需要多种论点；大型金融、医疗机构最终都应训练自己的模型，因为前沿实验室优化的未必是你优化的，而模型如此重要、要部署到 99.9999% 的用例，就该追求最好的价值与表现。今天走到 SOTA 仍相当昂贵，但一个有自己产品论点的”有主见的模型”，即便落后 SOTA 六到十二个月也完全可行。他也确认：模型仍在稳步变好，只是最近三六个月，进步不再像早期那样对用户显而易见；他自己最近大量用 Claude 写作，相比几个月前的提升令他震惊。
十四、多模态：视频、机器人、生物，50% 以上工作已在纯文本之外
被问及视频、机器人、生物等多模态方向，Edwin 透露 Surge 今天超过 50% 的工作已经在纯文本之外，这与”不惜一切代价使能 AGI”的使命一致——要让 AI 在现实世界有用，就必须理解并跨这些领域操作。人们往往低估质量在这些看似简单模态中的分量：即使是设计 prompt，也需要大量创造力与技术去探索整个能力分布。质量必须超越机械的指令遵循和机械的正确性。
他用 Scorsese 与高中艺术毕业生都拍”一条鱼”的电影作比：两人都能完成，但 Scorsese 的鱼电影显然更好——这就是品味、成熟度、创造力与”更进一步”的差别。用户想要的不是字面执行指令，而是一件令人惊艳、富有想象与创造力、拉高标准的作品。对于需要硬件采集数据的机器人、生物等空间，Surge 的思路是：不惜一切代价使能加速 AGI 所需的数据，有时要造新工具、买新硬件、扩展到任何需要的空间；他们是技术公司，不会因为自己只是”pivot 进来”就把自己窄化，反而比很多同行更长期地思考所需的一切。
十五、快问快答：最大观念转变、最大遗憾、理想优化目标
一年来对 AI 最大的观念转变：他过去相信”一统模型”，如今真正理解不同的产品观点、AI 观点将塑造未来。建立公司最大的遗憾：他出身研究与数据科学，原本热爱写作、发博客、分享洞见，早期做得很多，后来忙到停掉，近两三年公开分享明显减少，这是他最大的错误，现在希望重新恢复。如果有一周假期写一篇长文，他最想写的主题是”目标函数”——每个前沿实验室究竟在优化什么，这个概念微妙却影响深远：参与度？有用性？用户数？还是 GDP？若让他掌管一个实验室，他会优化”一个月后你是否会因为这次与模型的交互而高兴、它是否以某种方式改变了你的人生”——比如在假期向你推荐了一个从没想过的地点，或在医疗问题上敏锐注意到你本没说清的隐患。他最后指出，这些问题与社会长期面临的难题同构，AI 面临的优化风险与社交媒体高度平行，而随着模型进步，这个问题只会愈发重要。
对话结尾，Edwin 推荐大家关注 Surge 的博客，公司正恢复更频繁的写作，分享更多洞见与分析。