2026-10-18 21:00:00
原创 曲凯 2026-10-18 21:00 新加坡
Personal Agent 最大的机会可能来自于交互
子皓是 Ambi 创始人,曾任 Plaud 合伙人兼中国区 CEO,还曾创办米公益,该公司后来被轻松筹收购。此后,他先后担任暖哇科技合伙人兼首席产品官、百川智能医疗方向产品及运营负责人。
本期播客原文约 31000 字,编辑整理后约 6300 字。
编辑整理:陈皮
曲凯:我觉得这波 Personal AI 是从 OpenClaw 延续下来的,而 OpenClaw 也可以看成是 Manus 的延续,主线就是怎么让大家真正用 AI 做事。你觉得这一波和之前有什么区别?是像 OpenClaw 那样的一次乍现,还是确实发生了什么变化?
子皓:我并不觉得 OpenClaw 那波是昙花一现。从年初到现在,大家一直在围绕它迭代,只是之前确实还没有真正跑出 C 端 PMF 的产品。
当时大家都说 OpenClaw、Hermes 这些产品很厉害,但很难用一个明确的场景和价值点,告诉别人它到底厉害在哪。即便别人知道了,想获得同样的能力,也要搞定安装、接 Connectors、补上下文之类的各种问题。
不过随着模型不断升级,「让普通人用起来」所需的基础条件也越来越成熟。
到了 Muse 这波,用户终于不需要技术背景,不必懂虚拟机之类的概念,也不用搞那些复杂的安装,很容易就能把产品用起来,就像用移动互联网产品一样。
其实 Muse 很明显带着移动互联网时代的烙印,打磨得很精细,也花了很多钱,每个人一上来就有上亿的免费 Token,整个 Instagram 也在推它。我用了一下就觉得,千万不能做跟 Muse 一样的事情。
曲凯:那 Ambi 要怎么打?
子皓:我们会用软硬结合的方式来做,最大的不同是能补齐线下的上下文和交互入口。
现在很多产品都已经很强了,但还有一个很难受的地方:交互。每次用它们,你可能还是要花几十秒甚至几分钟去交代各种信息。
举个例子。AI 眼镜很好,但我用着一直很别扭的点,就是我明明一直戴着它,可想让它帮我做点什么的时候,还得唤醒它、复述一遍刚刚的场景。你没见过钢铁侠先重复一遍跟小辣椒的对话,再让 Jarvis 做事吧?那为什么在现实生活里,大家却习以为常呢?
其实这件事特别有意思。以前苹果电脑开机要几十秒,乔布斯 push 员工时就说:以后每个人每天都会用电脑,如果我们能把开机时间从 30 秒压缩到 3 秒,那就能给每个人省 27 秒,加起来就能帮全世界节省非常多的生命时间,这件事非常有意义。
放到 Personal Agent 上也是一样的。假设现在一个人每天会跟 AI 交互 3 轮,可以预见的是,半年之内大家平均每天就会和 AI 说 30 句话。如果能帮大家把每轮重复背景的那几十秒省下来,加起来也是非常多的时间。
所以我们半年前开始做的时候,最想解决的就是人和 AI 的交互问题。
我们希望人和 AI 同步在场,而不是异步协作,也不希望用户一直要在流程中间补信息或者做什么操作。智能真正平权以后,AI 应该持续运行、持续计算、持续帮你做事、实时在你身边。
我觉得交互可能也是 Personal AI 最大的机会点,因为大家对 AI 最好的想象,就是「言出法随」:你张嘴说,AI 就能做好。而且交互也可能带来网络效应、迁移成本等,形成壁垒。
曲凯:去年我们聊的时候还说,对普通人而言,智能已经足够了。过去半年有没有哪次模型升级,让你觉得原来它还能进步这么多?
子皓:去年说智能已经足够了,可能是说错了。当时只是我们设计的任务不够复杂,给它的上下文不够多、来源不够丰富,但其实人对智能的需求上限可能很高。
曲凯:模型涉及的是供给侧的变化,那除了讨论能力,还要看价格。Personal Agent 是不是很烧钱?
子皓:至少对我们来说,成本不是特别大的问题。我们不希望因为成本阉割用户体验,也没有吝啬对智能的使用。但我觉得现在的商业模式已经可以跑通了,因为这一波很大的变化是,大家已经不太关心背后用了什么模型,像订餐厅、订票这种任务,也不一定需要极高的智能,而且在成功率、速度和质量之间,很多任务可以稍微牺牲一点速度。
曲凯:那从需求侧看呢?大家日常生活里到底有多少事需要用到 Personal AI?
子皓:我觉得这个问题的关键是获取智能的交互成本。
智能到底是触手可及,还是得花些时间才能让它做事,答案完全不同。
如果你一说需求,AI 就能帮你做事,那可能每个人每天都会用很多次。
但现在大家往往要先设置好一堆东西,用的时候还得解释背景、描述要求,而生活里的很多事又是鸡毛蒜皮或者很难衡量 ROI 的,大家就可能犹豫有没有必要用。
而且大家对 Personal AI 的需求,可能也有点像对增程汽车这类产品的需求。你可能一百天都不需要用一次,但真需要的时候没有,就很难受。那如果随时获取智能的成本能降到很低,为什么不用呢?
曲凯:明白。现在还有很多不同路线,比如一堆 Agent 服务一个人,或者像 Claude Tag 那样往团队里加一个 Agent 之类的。你觉得未来人和 Agent 的协作会是什么样?
子皓:我觉得不同的路线都有可能成功,就像不同的组织架构都有成功的企业一样。比如桥水很极端,个人完全没有隐私;而有些公司内部竞争很强,生怕别人知道自己在做什么;还有些公司像我们一样,尊重私人空间,但愿意把公司的很多信息开放出来,让大家共享上下文。那对这些组织形态来说,可能都有各自适合的产品形态和应用场景。
其实为什么 co-worker 产品没有大家想象中发展得快?
核心就在于它涉及很多组织问题。就像一根大水管,最后会被最窄的那一段限制住。而组织完成 AI Native 转型是很难的,需要很长时间,甚至可能要等新一批真正 AI Native 的公司成长起来才行。不过真到了那时,像 Claude Tag 之类产品的市场占有率可能会越来越高。
曲凯:这个点挺有意思的。而且从这个逻辑看,给个人用的 Agent 确实更容易起来,因为不涉及团队协作之类的问题。
子皓:对呀。我觉得大家可能看硅谷看多了,魔怔了。回到十年前,能做 toC,谁做 toB 啊?
美国做 toB,可能也只是因为做不了 toC,因为上个时代 toC 产品的渗透率已经很高了,又有网络效应,新产品一冒头可能就会被抄之类的。但现在到了新时代,你干嘛还走老时代的路?
曲凯:但他们愿意做 toB,还有一些原因,就是那边的 toB 市场天然分散,而且他们的退出渠道也更多。
子皓:看你创业到底是为了改变世界,还是为了卖点钱了。
曲凯:但创业初期经常会遇到赢家通吃的局面。你觉得 Personal AI 这波会怎么样?会不会最后还是模型厂或者大厂才能做起来?
子皓:人们对使用智能有明确需求,而且在生活场景里,涉及到「名」和「利」的需求是能算清 ROI 的,所以大家最终肯定都会去做。
但我觉得赢家通吃更多是渠道和分发造成的,而不是产品本身有什么问题。
如果你的获客渠道依赖一个有强网络效应的上游,那确实很难做出一个独立的巨无霸。而且分发端被限制以后,所有超额利润都会被压榨。
不过我觉得做线下硬件还是有机会的。
一方面,硬件的获客渠道没有特别强的网络效应,也没有那么封闭的社交环境。如果你能建好自己的渠道,反而能形成自己的优势。像安克、大疆、Insta360 都是这样,出新品就能分发出去。
另一方面,硬件有独占性。人们同一个部位基本只会戴一个东西,但电脑右上角可能同时跑五个软件。所以硬件的商业模式和软件完全不同,硬件上的附加消费,在 AI 时代会被放大。
当然,硬件也有做得慢、需要迭代、需要讲品味之类的问题,但是当大模型这么强的时候,我觉得硬件的生存空间更大,把软硬件结合起来,可能是最优解。
曲凯:不过 Personal AI 是不是天然很难做出网络效应?
子皓:我觉得 Agent 之间具备形成网络效应的可能。关键在于,两个 Agent 能否通过沟通协作,利用各自沉淀的记忆和 context,为双方带来正向作用。Town 里面就做了很多 A2A 的事情,Instinct 后面可能也会做(注:节目录制时 Instinct 还没做 A2A,目前已经做了)。
曲凯:你正好提到了美国最近很火的这些产品。好几家在宣传时,都在讲订机票、酒店、餐馆这类任务。
子皓:这其实就是为了宣传。很多 use case 很难描述,描述完别人也很难复用。但如果原来用一个 App 要花钱,现在不但免费,用了还可能帮你省几百块,这就很好传播。
曲凯:感觉回到了移动互联网的年代(笑)。但比较唏嘘的是,今天的国内环境已经很不一样了,不然可能已经开始补贴大战了。按理说,应该是美团出了一个东西,然后腾讯、字节之类的也跟进,一上来就补贴。哦,当然可能是去年外卖大战,已经把补贴打完了…
子皓:其实这一波跟上个时代比,大厂好像失去了成为世界第一的雄心。好多都是做「中国的 XX」,真正原创、让大家觉得好的产品,其实很少。
曲凯:是。关于 Personal AI,你还有什么非共识吗?
子皓:我觉得「人格化」,就是非要给 AI 一个头像、一个名字,是一条很奇怪的路线。为什么 AI 一定是跟你不相关的客体呢?我们选的方向是把 AI 当作你这个主体的一部分,是你自己的延伸。这两者的区别,就好比别人是想找你的助手,还是找一个非常了解你的分身。我觉得后者更可能形成网络效应。
此外,我觉得很多产品做 Proactive 的方向是错的。很多产品靠 connector 的变化或定时扫描,去猜用户此刻需要什么,花了大量推理成本,推过来的东西却未必合时宜,还可能造成打扰。偶尔出现一个 aha moment,最后究竟能带来什么呢?是留存、付费,还是别的?这个账很难算。
曲凯:那有什么解决方案?
子皓:我们的主动性来自于感知用户所处环境的变化,而不是扫描外部 connectors 去猜用户此刻需要什么。后者的问题在于,如果你现在在度假,但 AI 还在给你推工作消息,就很不合理。
曲凯:所以工作和生活最终也应该放在一起来做?
子皓:我们的判断是工作和生活不应该分开,这两边的上下文结合能让 AI 更了解你、提供更好的价值。其实要区分工作和生活也不麻烦,可以通过信息架构解决。
曲凯:明白。你创过业,做过偏投放、运营型的大营收业务,又待过模型厂、消费硬件公司。这几段经历,分别给你带来了什么核心认知?
子皓:我最开始做了六年的公益创业,融了三轮,最后被收购,也把钱退回去了。这段经历让我明白,Timing 和赛道比能力更重要,就是所谓的「选择比努力重要」,而命运或者大的浪潮,可能又比选择更重要。
后来的四年,我做保险、创新支付和 SaaS,让我理解了很多商业模式的本质。我那时做过六七种不同商业模式的业务,没什么能借鉴的案例,但每种都至少能做到全国前三。其实商业的本质就有点像王慧文说的,都是很简单的事情,没有什么秘密,最底层的东西始终是效率、ROI 和需求。
后来在硬件公司的经历,让我补齐了研发、仓储、设计方面的经验。硬件跟 toC 软件可能完全是反过来的,但跟 toB 软件又很像。toC 软件要多试错,找到 PMF 后再大规模押注。而 toB 在签单那一刻,收入就已经开始了,后续利润取决于怎么更好地交付、怎么把成本压得更低。硬件也是如此,得在第一天就排除后面的风险,安排好计划、仓储、物流等各种事情,确保后面可以顺利交付。
曲凯:虽然打标签很无趣,但如果让你给自己打个标签,你觉得自己更偏产品、运营、商业,还是技术型创始人?
子皓:产品和商业吧。但我在商业上可能更有优势。
曲凯:对,我也这么觉得。我在好几个场合都说过,感觉你跟小红有点像,给人的感觉是很稳、能交付结果、能赚到钱。这很难得。
子皓:无论做再垃圾的业务,我都要赚到钱。
曲凯:这是怎么做到的?
子皓:我是商学院毕业的。
曲凯:…商学院毕业的多了去了哈哈。你现在总结,你到底为什么这么会经营?
子皓:对外能识别需求,对内能招到人。
曲凯:你确实在招人上也很强,但我们先说找需求这一点。能不能举个具体的例子?
子皓:我高三毕业的那个暑假,想试试不用脑子,只用体力出去打工,能赚多少钱,然后就去广州的溜冰场卖票。
第一天,我站了一整天,特别累,但只卖了大概五张,因为实在拉不下面子。
第二天我就去看到底什么人在那里溜冰,发现有好多年轻人,然后我就去兼职网站上发招聘,模式就是我 25 块拿票,27 块卖给代理,他们再以 30 块卖出去。后来我就成了溜冰场的独家代理。到大三的时候还有人给我打电话,找我拿票。
曲凯:你这从小就有资本家的感觉啊哈哈。你那时候为什么会想到这么做?
子皓:可能从小就有这种 sense?而且我确实比较喜欢用商业的办法解决自己的问题。这里的关键就是识别需求,找到能交付、能满足这个需求的东西。至于怎么找,要看你看过多少东西。
曲凯:但很多很好的产品经理擅长找需求,却不擅长把需求变成收入。你有什么建议吗?
子皓:其实没有一套完整的固定范式,不过我可以再举两个例子。
一个例子是,我的公司当时被轻松筹收购后,我在那里挂了一个虚职,然后就很想做出业绩来证明自己。
那时我花了一个周末,一页页看、一个 URL 一个 URL 地分析用户在轻松筹到底怎么买保险、流量来源是什么、整个用户旅程是怎样的、卡点是什么、在哪个地方做什么能带来特别大的提升。这样分析和调整之后,一天就带来了百分之三四十的提升。这个例子其实就是说要回到用户真正使用产品的过程,通过最原始的数据,还原他们当时的心态,找到大家愿意花钱、甚至花双倍的钱来解决的问题。
另一个例子是我之前要去海南管电销,但我之前完全没这方面的经验,然后就去看这些人为什么做电销、部门做不好的核心原因是什么,发现销售最大的驱动力其实就是利益。所以我申请了一笔预算,弄了一百面红旗,出一单就敲锣、插红旗,告诉大家多少面红旗能换多少钱。这样调整之后,士气马上就不一样了,连销售说话的话术都不一样。通过这件事,那个月利润翻了百分之二百多。
曲凯:你确实是有天赋。但除了天赋,这些年你最主要的收获是什么?
子皓:水无定势。成功绝对不是只有一种方法,更多时候要因地制宜。唯一不变的事情,就是要去有鱼的地方抓鱼,而且那里最好没有太多钓鱼佬。
曲凯:但如果一个池子鱼特别多,钓鱼的人也多;另一个鱼少,钓鱼的人更少,你选哪个?
子皓:年轻时选后者,现在选前者。
曲凯:我也这么觉得。有时在大赛道喝汤,比在小赛道吃肉强。
子皓:到了一定岁数也会觉得,为什么我不能在大赛道吃肉?
曲凯:还是你比较牛哈哈,我还只敢想在大赛道喝汤,你已经要吃肉了(笑)。那再讲回招人,你招人为什么这么强?
子皓:要真诚。
大家都说要招比自己厉害的人,那就要知道,在比你厉害的人面前,你没法撒谎。所以要把最真实的想法说出来,说清楚为什么做这件事、愿景是什么、能给大家带来什么。
能带来的也不一定只是财务回报。这个时代,真正有才华的人不太缺工作,能不能让他们愿意加入,关键是能不能给他们一个做更伟大事情的动机。我一直说「过程即奖励」,能不能让大家把才华充分发挥出来,也很打动人。
而且不能只是嘴上说招人重要,你要真的投入相应的成本、时间和真心。我之前在海南招电销负责人时,在对方楼下等了五六个小时,吃了好几个清补凉,才等到 Ta 下来见我一面,最后说服 Ta 加入。
招人多了,你会发现人之间也有化学反应。聊天过程中,但凡有一点不舒服,就千万不要推进,因为最后这个不舒服一定会放大。以及如果已经花了足够多的诚心,对方还是不愿意加入,那可能就是不适合,也要快速 move on。
曲凯:你现在最担心什么?
子皓:还是速度,因为大家现在都太卷了。你想想,苹果设计师去 Meta 之后,十个月就把 Charm 做出来了。
曲凯:这个世界何必把自己变成这样…
子皓:但很多人好不容易等到一个有意义的卷的时代。
曲凯:这点我也很同意。现在很多人讨论 AI 带来的焦虑,但大家可以想想,22 年没有 AI 的时候是什么状态?那时候可以说就是一潭死水。相比那种平稳,我更想看到今天这种有点焦虑、但有很多变化的状态。
不过再赚钱的 AI 工具,现在的用户量可能也就在几十万到百万的量级;而 Muse、Grok Bot 这些产品则在冲一个亿万级的大众市场。你觉得今天创业公司更适合哪条路线?
子皓:其实对创业公司来说,做前者和后者的难度是一样的,但之前创业团队做大众市场的 Timing 还没到。
不过我觉得现在到了。
一个信号就是前面说的,用户不关心 Agent 背后的模型了。技术也还在不断进步,可能半年后,大家就会默认 AI 能百分百完成虚拟世界里的日常任务了。到那时,成本还会继续掉,大家也就可以做各种五花八门的东西了。
曲凯:明白。最后,你以前经常说,很多问题要反过来想。最近还有什么新的「反过来想」的问题吗?
子皓:现在更多是问「为什么」。说实话,从业这么多年,我从来没见过今年这样的寒冬。今年中国人做的真正能用的好产品太少了,无论大厂还是创业公司都一样。
曲凯:这也让我困惑。有些人可能是机会主义,看到别人拿到钱就出来创业,缺少产品能力。但也有些人很不错,有创业精神,最后还是没做起来。很多人遇到的问题是说模型太强,把应用吃掉了。但模型再强,难道我们在全球,连几万个用户都抢不到吗?而且美国那边还有很多公司不断拿到融资、有很高的估值。
子皓:是。我是真的不知道为什么没有更多中国人做出来的好产品。
曲凯:那就留一个开放问题吧。还是希望大家好,也要给大家时间。
42章经
思考事物本质
2026-10-11 21:00:00
原创 曲凯 2026-10-11 21:00 北京
数据多,真的不等于有 alpha。
浩哲是港大在读博士、HKUDS 成员,本科毕业于武汉大学数学系。这几年他一直在探索 AI for Finance 相关的事情,前段时间做了一个很火的项目 Vibe-Trading,开源不到半年就已有超 3w star。
本期播客原文约 13500 字,编辑整理后约 4600 字。
编辑整理:陈皮
曲凯:能不能先给大家简单介绍一下 Vibe-Trading 这个项目?
浩哲:它是一个覆盖二级市场的交易台,体验有点像是让你拥有一支跨工作台的研究团队。你用自然语言提出一个投资想法,它就能调动宏观、公司基本面、量化和风险复核等方面的研究能力,帮你看清公司的现金流怎么样、催化剂是什么、风险在哪,最后由你自己决定要不要投资。
但其实我们去年年底启动这个项目时,原本做的是一个给量化研究员用的专业工具。之所以会有调整,一方面是因为发现原来的方向和用户需求有点相悖,另一方面是我也越来越重视一个问题,就是研究结果能不能让人检查和理解。
金融需要可解释性,而且我有一个观念:
金融里的决策很便宜,行动很贵。
在其他行业,大家常说 AI 让「做」变得很便宜,难的是决定做什么。拿软件开发举例,AI 可以写代码、补测试、排查错误,但用户依然需要判断自己要什么、某个功能值不值得做。
金融则是反过来的。
决策便宜,是因为市场每秒都在报价,每个价格背后都有人做了决定;社交媒体上每天都有大量观点;一个研究 agent 也能给几千只股票各提一堆判断。行动很贵,是因为每笔交易都要付手续费,亏损需要自己承担,成交后也没办法撤回。那么一个人要真正做出投资决策,就必须能向自己解释这个行动。
而在我们一开始做的量化方向里,因子信号等概念对普通人来说都像是天书,大家看完也说不清「我为什么要买这只股票」,就不会掏钱和担责。
所以我们转向了辅助主观投资,把 AI 的研究变成大家能看懂的投资理由。
曲凯:主观投资、量化,包括 forecasting 都算 AI Trading 吗?能不能请你帮忙定义下 AI Trading,以及它最适用的一些场景?
浩哲:大家听到 AI Trading,往往会想到两幅画面,一个是 AI 对涨跌的预测很准,如同神谕(笑),另一个是 AI 可以自动下单,人能躺着赚钱。
但这些理解都很片面。
我对 AI Trading 的定义是:在几乎免费的决策和代价昂贵的行动之间,建立一条可验证、可审计的通道。
展开来讲,AI Trading 系统有四大部分,包括模型、数据对齐、Harness,以及人。
模型负责产生决策,帮你读材料、提假设、写代码、给判断。
数据对齐负责检查判断所依据的数据是否可靠、口径是否一致,比如价格单位到底是美元还是千美元,时间粒度到底是月还是分钟,回测用的到底是不是当时就能拿到的数据等。这是整个系统中最核心的部分,一旦出错,结果会相差好几个数量级。
Harness 负责判断哪些决策有资格变成行动,以及出错时能不能被及时阻止。
人则负责划定边界,决定什么能做、什么不能做,制定 Harness 的规则,确定规则之外的事情由谁拍板。
这里面,模型的智商决定系统能想到什么,独家数据决定它想到的东西别人有没有想到。这两者提升的是决策质量,但我觉得它们的边际价值正在下降,反倒是数据对齐和 Harness 的价值在上升。
举个具体的 AI Trading 的例子吧。
你想知道一家公司的现金流变好了,究竟是经营改善带来的结果,还是一次偶然变化。借助 AI Trading,大概会是这样一个流程:
模型可以帮你先整理各种材料,再列出可能的解释。这里最重要的就是分清哪些是材料里的事实,哪些是 agent 根据材料提出的假设。
接下来要检验这些假设,比如去看现金流改善的来源是什么,有没有和原判断相反的证据。
如果要进一步把这个想法变成交易策略,还要看能不能拿到实时信息、回测有没有偷看未来数据、扣掉成本后结论是否成立等等。
最后你拿到的应该是一个有依据、有适用条件的判断。如果证据不足,agent 必须说明「无法判断」,不能给出一个模棱两可的结果。至于最后要不要买卖、下单,还是你来决定。
讲到这里,AI Trading 和传统量化之间的区别也就出来了。在传统量化里,人在开发策略时就会把换手率、策略容量和责任边界等定下来,之后让机器以很低的成本大量执行。
而在 AI Trading 里,你没法这样一次性地定好一个决策策略,需要一道闸门持续把关,最终的决策也还是要交给人。AI Trading 实际上要不断完成从材料到假设、从假设到验证,再到有边界的执行和复盘。
曲凯:听起来涉及很多交叉验证?比如看完 A 这只股票,还要看整个行业、看 B、看 C,这些涉及很多人的 know-how 吧?这里面哪些能由 AI 自主判断,哪些需要人加进去?
浩哲:武断一点说,所有的行业 know-how 都可以由 AI 来判断,因为这些知识在模型迭代中已经被蒸馏进去了。更需要人判断的是风险,因为每个人的风险承受能力不一样,AI 并不知道你能承受多少。
曲凯:但如果这些行业知识已经被蒸馏进模型了,那直接用模型产品分析,和用一个第三方工具的区别是什么?
浩哲:区别在于能不能得到一套可审计、可验证、可以 re-run 的流程。
像 Codex、Claude Code 这种产品,在做投资分析时都偏黑箱,很多时候你没办法重新跑一遍去验证某个数字,大模型也有幻觉,每次 re-run 也未必得到确定的答案。
曲凯:明白。你前面说独家数据的价值可能没有大家想象中那么高,但很多机构都会努力搞一些内部消息之类的,这些不会对结果造成很大影响吗?
浩哲:数据多,真的不等于有 alpha。
在大家都能拿到的数据上,能找到的规律已经被价格消化了,不太会因为谁采买到更多数据就更容易找到 alpha。
买数据真正的作用,是验证你的想法。很多时候你以为一个想法不行,可能只是数据不够、口径没对齐。
曲凯:那怎么评判 AI Trading 系统的好坏?
浩哲:我认为好的 AI Trading 系统,要能产出尽可能多且便宜的决策,但尽量少行动,确保每个行动都有来由、有边界、有人负责。收益率、胜率是结果。先把系统搭建得完备,才可能结出好的结果。
而坏的系统有两种。一种是把每个便宜的决策都变成行动,就是过度交易。最近有很多人用 Jev 做 trading,就有点像这种情况。另一种是过于谨慎,一个行动都不敢做,但系统也说不清到底为什么。
曲凯:正好聊到 Jev,你怎么看它对 AI Trading 的影响?
浩哲:我可能会泼一盆冷水。我觉得 Jev 对交易的帮助约等于零。
首先,就像前面讲的,金融缺的不是便宜的决策,而是一套能让人信服的、将决策转化为行动的流程。可是 Jev 优化的是本来就很便宜的那一侧,相当于把不太值钱的东西变得更不值钱了。
而且,金融里最核心的材料,恰好是 Jev 不擅长处理的。它刚出来时我看过官方文档,里面有提到它在数学计算、日期比较等方面的弱点。可数字、日期、噪音、误导消息,不正是金融世界本来的样子吗?
还有一点就是 Jev 给概率,不给理由。你真的会长期相信这样的模型,并且愿意把钱交给它吗?
当然,Jev 在金融里还是有用处的,比如可以做信息初筛,告诉你这条新闻是不是关于这家公司、这份公告是原始发布还是转载、这个材料和研究问题有没有关系。这些任务量很大,每天可能要做几十万次,做错一次,或者只是少看了几份有价值的公告,对最终判断的影响相对有限。
所以,形象一点说,Jev 更适合当门口的分拣员,不适合做那个把整条链路送到你手里的快递员。
曲凯:那在 forecasting 领域呢?本来大家就是在处理概率,那 Jev 是不是会有帮助?
浩哲:Jev 在预测领域可能会遇到更严重的问题。
因为交易本质上是对概率下注,不是对答案下注。股价可以理解为未来各种可能性的加权平均。你赚钱的逻辑,是自己的概率判断和市场隐含概率之间的差,再扣掉成本。概率决定的是你的一个决策能够对应多大的行动,比如如果你有 60% 的把握,那就配小仓位,更大的把握配更大仓位,可能到了百分之百,你就 all in 了。
但一个比较重要的问题是,怎么判断 AI 给出的把握到底靠不靠谱?
举个例子。模型说「下季度营收超预期」和「超预期会带来股价上涨」这两件事都有 90% 的把握,很多人会算 0.9 × 0.9,认为自己整体有 81% 的把握。
但这其实悄悄假设了两件事相互独立。事实上,你没法判断真实的联合概率。金融里,很多判断用的是同一条新闻,一旦新闻是错的,所有假设都可能是错的。
曲凯:明白。你自己也用 Vibe-Trading 吗?最后有多大程度遵循 AI 的建议?
浩哲:我自己也用,而且差不多 80%—90% 都会遵循 AI 的建议。
举个例子吧。今年 7 月,存储行情很热,也经历了差不多半个月的整体下跌。当时大家都在讨论中国厂商扩产会不会压低存储价格。
我的 agent 就提了一个问题:内存、闪存、机械硬盘都叫存储,那它们受到的冲击一样吗?
然后它就围绕这个问题做验证和实验。最终得到的答案很明确:不一样。但市场会根据同一条新闻给整个行业定价,这就可能出现定价不充分的地方。随后我们选了一家主要做机械硬盘的公司,并比较了它历史上财报后的上涨表现。当时 AI 给的最终结论偏谨慎,但我最终决定在财报前买入。
在这个例子里,80%—90% 的研究都是 AI 在做,我更多是去验证推理链条是否合理,以及决定是否行动。
曲凯:现在用 AI 辅助交易的个人和机构越来越多,会给市场带来什么变化吗?比如共识会不会形成得越来越快,市场变动也更快?
浩哲:这个问题非常好,也是我觉得当今大家都应该关注的一个问题。我觉得市场会有三个变化。
首先,信息被价格消化的速度会越来越快。
2000 年之前,学术上有个很有名的现象,叫「财报后漂移」,意思是好财报发出来之后,股价不会一天涨到位,而是在后续几天、几周甚至几个月慢慢上涨,因为需要人去读财报、开会、下单。
但我记得几年前,有篇论文叫《安息吧,财报后漂移》,里面就说在美国,这种漂移好像从 06 年起就不存在了,因为财报里的信息在发布当天就能被消化完。
那随着 AI Trading 普及,各种信息被价格消化的时间甚至会缩短到只有几秒钟。这件事也会给投资者的行为带来变化,就是「读」会越来越不值钱,因为这件事已经没有门槛了。
第二,超额收益可能从单个信号转移到组合条件上。
当人人都有一个很会读研报、能一键跑因子的 agent 时,单个因子的 alpha 会很快消失,那机会就在于能不能跨 desk 同时拿到不同数据,做好对齐,再拼接到一起。
第三,信息处理快了,错误也会传播得更快,可能会出现一些专门用来误导 AI 的假消息,引发一些意料之外的市场波动,出现问题后也很难确定责任归属。这是现在很多监管部门关注的问题。
曲凯:那对于感兴趣、但还没开始用 AI Trading 的人,有什么从 0 到 1 的建议?
浩哲:当然最好来用用 Vibe-Trading 哈哈。
但第一件事还是想清楚自己的风险偏好,然后隔离风险,比如给 agent 一个单独的账户。坦白说,不要把 AI Trading 当致富密码,因为用的人多了,就一定会有反制手段出现。
此外,也可以让 AI 帮你尝试从来没接触过的市场或领域。很多散户可能只是没找到适合自己的市场,但每个人的性格、天赋都不同,有的人擅长大宗商品的逻辑推理,有的人适合在四五千只股票里研究基本面,也有人就是适合看技术图形,那其实都可以借助 AI 去试试,找到最适合自己的市场或领域。
曲凯:明白。最后,我好奇 AI Trading 对投资者的影响到底是怎样的?
浩哲:一定会有增强,但对不同人的增强方式不一样。
原本投资能力在二三十分的人,可以用 AI 更好地控制风险、做研究,不必再听信那些荐股信息。
五六十分的人已经有判断基础,但之前可能受限于研究能力,那就可以借助 AI,尝试更专业的研究。
八九十分的人,更重要的是让自己的想法在不同维度上得到验证。比如,以前一个做宏观的人可能不会写代码,没办法亲自通过回测验证判断,而一个做量化的人可能不了解价格背后的经济学原理,那么 AI 就能帮助他们从多个方向验证观点,也让他们更自信。
还有个题外话,就是大家现在总在讨论 AI 能不能替代人,但我最近在想:会不会不是 AI 需要人帮它做判断,而是人需要 AI 来体现自身的价值?
今天 AI 还需要通过替人做事来证明自己的价值,比如能省多少工时、替代多少员工、值多少工资。但如果未来模型足够强,问题可能就变成了人还能做什么?这个世界还有什么事情需要人?因为工作除了带来工资,还能让人觉得被需要、能对别人的生活产生影响。
所以我觉得哪怕 RSI 来了,最后仍然会是 human in the loop,因为人需要通过参与进各种流程,来保持生活的方向感和意义感。
再往深处想,这其实是一个带有哲学甚至神学意味的问题:一个人值得被尊重、拥有较高的社会地位,是因为 Ta 能创造更多价值,还是因为 Ta 本身就是一个人?
这个问题可能还没有答案。
但人的决定权不应该随着机器能力的提升而消失。我们需要通过创造、决定、承诺和承担责任,感受到自己的生命是有分量的。我觉得 AI for Trading 也会朝这个方向发展。
42章经
思考事物本质
2026-09-06 21:00:00
原创 曲凯 2026-09-06 21:00 北京
模应一体的新趋势
最近硅谷有了新热点:主权 AI 和 Personal Intelligence。简单来说,就是很多人开始相信,未来会有越来越多的应用公司和个人,训练自己的模型。
对绝大多数人来说,训练模型仍然是一件听起来遥不可及、门槛很高的事,但我们最近一期播客的嘉宾逯雨鑫却认为,它非常简单,简单到他此前没有 AI Lab 的经历,也不是 AI PhD,只用了 2 周和数百美元,就后训练出了两个登顶 Hugging Face Model Trending 榜首的小模型。
在播客里,他完整分享了自己的 pipeline,以及对模型厂和应用公司之间关系等话题的思考。雨鑫已经很坦诚地分享了许多实操经验和踩过的坑,但相信很多朋友仍会有更具体的问题,或想了解更多。因此,我们也组织了这次线上活动,邀请雨鑫来和大家认识、交流一下。
具体报名信息请见上方海报。活动时间为北京时间 9 月 12 日(周六)上午 10:30,线上进行,免费参加。我们会优先通过回答更认真、且与我们背景更匹配的朋友(非投资行业),尤其欢迎应用创始人。具体通过情况请以工作人员通知为准。
期待和大家认识 & 交流!
2026-09-06 21:00:00
原创 曲凯 2026-09-06 21:00 北京
模型的价值会慢慢地往应用公司让渡?
本期节目的嘉宾逯雨鑫是 Mind Lab 的研究员。此前,他以个人开发者的身份,仅花费数百美元,后训练出了两个登顶 Hugging Face Model Trending 榜的模型。
本期播客原文约 15000 字,本文经过删减整理后约 4800 字。
曲凯:今天大多数人还是觉得训模型是一件非常难的事情,不知道有哪些步骤、具体该怎么做。大家印象中,训模型的人一般也都是各种 PhD、researcher 之类的。但雨鑫你其实不是 AI PhD,此前也没有 AI Lab 的训练经验,为什么能训出两个登顶 Hugging Face 开源模型榜首的小模型?
雨鑫:其实要训出能在工业界用起来的模型,路径是很明确的,没有大家想象中那么难。只要自学一些基础,再加上现在各种 AI 工具的加成,很多人都可以做到。
曲凯:你训练这两版模型,大概花了多少时间和钱?
雨鑫:第一版花了 5 天左右,第二版时间长一些,大概两三周,然后总共花了几百美元。硬件上,我就用了一张 5090。现在租一张 5090,每小时可能只要一两美元,真正训练一次也就是十几个小时。即便迭代几版,硬件成本也不会超过 100 美元。软件上,我用了一个 200 美元的 Claude Max Plan,主要用来合成目标领域的数据。
曲凯:最后训练出来的效果怎么样?
雨鑫:我的模型主要针对 agentic 场景,把对应的 benchmark 从底座模型的 15 分提升到了 55 - 60 分左右。
不过,个人或应用公司训练模型,往往需要做一些取舍。在资源有限的情况下,你可以让模型在目标能力上变强,但其他 benchmark 或多或少会下降。
曲凯:我能不能简单理解成,你的做法就是用更强的 teacher model 生成数据,通过 SFT 蒸馏出一个特定领域的小模型,让它在某些任务上比原来的底座更强?
雨鑫:是的。
曲凯:这听起来并不复杂,但为什么这件事还没有大众化?是我们有盲区、其实很多人已经在做,还是确实做的人不多?
雨鑫:确实没有那么多人做,最主要的原因是大家认为它非常复杂。但其实这件事的流程没有那么难,总共可以分成五步。
第一步:明确自己要做什么。
很多个人开发者上来会先追热点,或者盲目刷 benchmark。但更应该从自己的真实需求出发,想明白要提升模型哪方面的能力。我的项目能火起来,就是因为抓住了有真实需求的场景,选定了 coding 和 agentic 这两个方向,所以模型发布后有很多下载和使用。
第二步:选底座模型。
这里要考虑模型架构、语言能力和具体场景。比如我用的是 Gemma 4 12B,当时就遇到了一些问题,比如它的中文能力比较差、有时会说粤语,而且架构没那么主流,训练过程会很麻烦。
我个人体感上,Qwen 是坑相对比较少的开源模型。
第三步:设计数据管线。
我用到的数据大概有三类:一种是合成数据,就是让一个模型扮演用户,另一个模型回答;一种是开源数据,在 Hugging Face、ModelScope 这样的平台上其实有很多;还有一种是自己或其他真实用户的使用轨迹。我自己用到的真实数据,很多是关注我这个模型的用户主动贡献的。
然后我有一个比较大的经验是,合成数据可能没有那么好,它更像靶向药,适合定向解决某个问题。实际训练时,我 60% - 70% 还是用的真实轨迹数据,遇到具体问题时才用合成数据。
举个例子。我训练时会遇到模型过度自信的问题,就是跑 benchmark 时,模型明明没有真的完成任务,却说自己完成了。要解决这个问题,很难从公开或者日常使用数据中找到合适的选择,就得有针对性地去合成。
第四步:决定训练方法。
现在工业界比较流行的有两种做法,一种是 SFT,简单来说就是把 teacher model 的能力蒸馏到小模型里,实际效果取决于数据质量;另一种是 RL,被吹得很神,但我个人觉得效果不如前者。
当然还有很多别的方法,比如 OPD(On-Policy Distillation)。但我感觉 RL 和 OPD 的成本都比较高,更适合锦上添花。对很多应用公司和个人来说,SFT 配上好的数据,就已经能完成很多工业场景里的目标了。我自己也是只选择了 SFT 去训练。
第五步:用特定的 benchmark 测试效果并迭代。一版训练出来的效果不好,就从错题和失败轨迹里找原因,调整数据,再训练下一版。
这整套流程并不复杂。过程中需要的训练脚本、数据、benchmark 和环境等,基本都有开源或第三方服务的解决方案。你可以去找合适的方案,把代码拉下来,再借助 agent 改成适合自己模型的版本。实际训练也很快,几个小时就能跑一版。
其中最大的、甚至唯一的难点和卡点就是数据。我自己 95% 的时间都花在这一环。
曲凯:具体难在哪?
雨鑫:难在你得看懂数据出了什么问题,以及该用什么数据去改变它。
拿合成数据来说,现在的模型还不能稳定地合成高质量数据,需要大量人工审核。我做 V2 时花了更多时间,主要就是因为要审数据。假设合成了 5000 条数据,我可能要自己抽查 500 条,然后告诉模型有什么问题,让它重新生成,再继续检查。
曲凯:那你总共用了多少条数据?
雨鑫:我总共整理了接近一万条数据,清洗、筛选之后,用于训练的有几千条。对特定领域的小模型来说,这个量就已经可以产生明显效果了。
曲凯:我们之前和人交流时,经常听人讲,你没办法预先评估数据的效果,都得拿去训练,再回头改。你的经验是怎样的?
雨鑫:这件事确实没什么捷径,只能不断测试和迭代。而且一版没有达到预期非常正常,继续做就好了。
如果你看数据就知道它有问题,那这版训练大概率也不对。
而且即使你和 AI 都检查过,自己抽样也觉得很好,训练出来仍然可能有问题。这背后的一个重要原因是 capacity gap,也就是 teacher model 太强、学生太弱。比如你要把一个 3T 的模型蒸进一个 12B 小模型,很多能力小模型根本学不来。
曲凯:那怎么评估蒸馏的好坏?从工业级角度看,是不是怎么有效、怎么成本低就怎么来?那最基础、最简单的所谓「硬蒸」,是不是反而最好?
雨鑫:评估数据和蒸馏的标准是一样的,就是看你的操作和目标是不是对齐的。
举个例子,假设你想提升模型的安全边界,却只围绕 benchmark 做数据,那即使分数涨了,也不算好的蒸馏。相反,只要你知道自己想做什么,最后也真的把模型的分布往那个方向拉了,即使其他 benchmark 掉分,也是好的蒸馏。
曲凯:明白。那一家公司自己训练一个小模型,大概要多少钱?
雨鑫:几千到一万元人民币以内,就能训练出一个比较符合需求的小模型。如果要训练大一点的模型,卡量就得跟上,可能需要十几万到二十万元。
不过这里说的只是训练成本。真正部署给用户调用是 serving 端的事,里面还有很多坑,需要考虑 infra 架构、并发量和硬件等问题。如果只是几路或十几路并发,我估计一个小模型加一台 H200 就够了。
曲凯:那你觉得未来训练模型会不会变成中大型公司的标配,就像互联网时代都要做前后端一样?
雨鑫:我觉得会。中大型公司配一个三四人的小团队就行,成本主要就是这几个人的工资以及显卡。
小公司如果暂时没预算,可以先找 AI Lab 或第三方服务商合作。等自己的应用真正起来,有了几百万、几千万用户,再组建内部 AI 团队。
不过,我觉得自己训练模型的成本还会继续下降。现在显卡和内存价格还在高点,部分原因是供应没有跟上 AI 的需求。但随着供应跟上,显卡可能像早期的手机流量一样,一开始很贵,后来越来越便宜,最终甚至成为不限量的基础设施。
曲凯:既然每个环节都有第三方或开源方案,为什么还没有人把它们整合成一套完整的 pipeline,让普通人不用学习每个环节,也能训练出自己的小模型?
雨鑫:训模型可能确实会逐渐商品化,你说的也是很多公司都想做的事。其实海外也已经有 Unsloth 这样的公司。包括 Hugging Face 上的 Jobs 平台,也在做这件事。
目前这种服务的价格还不算便宜,infra 和 serving 也有不少问题。而且即便有这样的方案,数据仍然是最重要的一环。训练脚本可以标准化,但理解业务、发现模型的问题、知道该造什么数据,还是需要人来做。
曲凯:那未来 AI 应用公司和模型公司之间的关系会怎么变化?
雨鑫:我觉得 AI Lab 的数量会减少,但少数头部 AI Lab 仍会成为赢家,并掌握很高的价值。一方面,pre-training 依然得有 AI Lab 来做,因为这件事非常吃资源,应用公司未必能搞定。另一方面,很多早期应用公司得先把产品跑起来,再组建团队训练模型。那在此之前,这些公司还是要找 AI Lab 提供服务。
曲凯:你描述的好像还是当下的状态?但如果按照我们刚刚的推理,未来会有很成熟的训练模型的解决方案,应用公司训练模型的门槛可能会比你刚刚讲的低很多?
以及我自己的感觉是,现在 AI Lab 在明确追求更高 level 的事情,比如解决诺贝尔级别的科学问题、AI4S 或具身等问题,或者解锁一些我们现在没想到的场景。而对于很多日常场景来说,也许大家基于开源模型做一个内部模型,就够用了。
所以最近美国红杉也在讲,AI 应用公司未来反而会变成 Neo Lab。
雨鑫:是。至少后训练很可能逐渐被应用公司接管,因为应用公司离用户更近,拥有最真实的数据,也不愿意把自己的核心数据交给别人。那么行业里领先的应用公司,确实可能会长成 Neo Lab 的样子。而且其中的中大型公司,甚至也可能向更小的公司提供 API 或 token plan。
曲凯:这很像推荐算法时代发生过的事情。字节这样的公司是先有应用、场景、商业闭环和用户数据,才有了更好的推荐算法。你很难找到一家第三方公司,说我只做推荐算法。
这也解释了为什么 AI Lab 愿意花很多钱买数据。现在很多人可能还没有意识到数据的价值,就像移动互联网早期,大家不理解为什么公司要花很高的成本买用户,后来才发现越早获取,成本反而越低。
雨鑫:对。AI Lab 买数据,其实就是想知道用户会提出什么问题、AI 在真实场景里怎样完成任务。所以有些公司让用户免费体验新模型,一方面是为了宣传,另一方面也是为了收集真实使用数据,用来迭代下一代模型。
曲凯:是。然后过去一段时间一直有个论调,觉得模型好像会吃掉一切,应用公司的价值很低。前几周,我们录了一期复盘 AI 应用的节目(回顾:https://mp.weixin.qq.com/s/sgZ8z57wmD01N48Qjhcp6g),当时我也比较悲观。
但最近聊下来,我反而觉得 AI Lab 和应用公司的价值都在上升。未来某个时间点,模型的价值可能会逐渐向应用公司让渡。
最后我们再聊聊 Local AI 吧。你觉得这会是一个 PC 级别的机会吗?因为计算机刚出现时,一台机器可能要占满整个房间,后来变成每个人都有一台 PC。AI 会不会也从全球只有几家大模型公司,走向每个人都有一个运行在电脑、手机或其他端侧设备上的模型?
雨鑫:我觉得一定会,而且已经在往这个方向发展。
一个非常重要的驱动力就是数据安全。你在调用上游 API 时,数据一定要流经服务提供方。所以对数据敏感的个人和公司会越来越倾向于 Local AI。这里也提醒大家,一些来路不明的中转站价格看起来很便宜,但存在很大的数据泄露风险。
这可能也是为什么千问一直在发布小模型。随着芯片和统一内存继续升级,本地能运行的模型会越来越大,能力也会越来越强,未来很多人都会有自己的本地模型。
陈皮:抱歉我插个问题。我是陈皮,在42章经做内容。我想问,用户最终会不会还是会追求 SOTA?假设 OpenAI、Anthropic 一直在发布最前沿的模型,即使本地模型已经足够完成日常工作,人们真的愿意使用一个离 SOTA 还有差距的模型吗?
雨鑫:这确实是 Local AI 现在最现实的问题。我自己的 Local AI 使用率也不算高,因为它确实还会犯错,能力没有最前沿的模型强。
但 Local AI 的优势有三点:
一是前面提到的,很多人对数据隐私的需求确实很强烈;
二是在一些领域,比如网络安全、生物领域,SOTA 模型会有拒答的问题,所以即使本地模型不是 SOTA,一些用户还是愿意使用,或者说不得不使用;
三是本地模型更便宜。举个例子,我很喜欢武侠小说,会想用 AI 续写或者改编,但这种任务的 token 消耗特别大。如果全部调用 API,成本可能非常高,而用 Local AI 就不太需要额外支付 API 成本,很划算。
曲凯:我补充一个思考角度,就是对用户来说,到底什么算是 SOTA?今天模型能力已经足够解决很多问题了,那继续追求更好的模型,从性价比上未必一直 make sense。就像很多人觉得 4G 已经够用,不一定非要 5G、6G。
雨鑫:不过很多人确实会盲目追求最强的智能,不管自己是否真的需要。
曲凯:但我觉得,最后可能还是豆包这样的产品用户更多。真正关心模型极致能力的人还是少数,大多数用户更关注产品用起来方不方便、性价比是不是足够高。而且 Local AI 未来也未必需要人主动选择,而是会直接被应用公司和硬件公司做进产品里。
最后,在训练模型这块,雨鑫还有什么想补充的吗?
雨鑫:有三个建议。
一是,如果个人或应用公司对训练模型感兴趣,最好的开始时机可能就是现在。因为如果有一天,模型厂商不再开源好的小模型,将会对应用公司造成很大的打击。所以对有预算的中大型应用公司来说,现在就开始基于优秀开源模型做后训练、持续迭代,是更稳妥的选择。
二是,虽然可以借助 AI,但不要过度相信 AI。遇到问题要及时查真实资料,或者看开源社区里已经成功的案例。
最后,别太快放弃。自己训模型的流程里,每个环节都会遇到坑,这非常正常,一版一版迭代就好。
【活动预告🥳】
9 月 12 日,我们会请到雨鑫做一场线上活动,感兴趣的朋友欢迎点击链接或扫描下面的二维码,一起来认识&交流!
42章经
思考事物本质
2026-08-16 21:00:00
曲凯 2026-08-16 21:00 北京
和 model researchers 一起交流
最近几个月,AI 应用侧比较冷,但模型侧非常热闹,国内外模型厂都在持续发版、交替领先。过去一段时间,我们也密集找了很多 Model Researchers 交流,想看看底层正在发生哪些变化。
聊下来,一个很明显的感受是:
数据变得越来越重要。
过去几个月里,也有一些专门做数据的公司跑出来,收入都做得非常高。Evolvent AI 就是其中之一。
在新一期播客里,我们请到了 Evolvent AI 的联创繁青。繁青是 01 年的 PhD,之前在 Kimi 做过一年多 RL infra 和 agent 相关工作,参与过 Kimi K2.5、Kimi Linear 等重要模型发版。
在播客里,我们聊到了模型竞争、算法 / 数据 / infra 之间的关系、RSI,以及比较敏感的蒸馏话题。繁青讲得非常实在,我们把节目内容发到 X 上后,也在 researchers 中间获得了一些关注(之后还会在 X 上继续发一些 memo,欢迎关注~)。
但播客毕竟是单向输出,而且是公开内容。其实围绕基模、RSI、数据,以及国内模型厂的真实差异,还有很多问题值得继续探讨。
所以我们组织了这次线上活动,请繁青和大家一起认识、交流一下。现场也会有数十位 Model Researchers 参加。
具体报名信息请见上方海报。活动时间为北京时间 8 月 22 日(周六)上午 10:30,线上进行,免费参加。我们会优先通过回答更认真、跟我们背景更匹配的朋友(非投资行业),具体通过情况请以工作人员通知为准。
期待和大家认识 & 交流!
2026-08-16 21:00:00
原创 曲凯 2026-08-16 21:00 北京
蒸馏并不是国模变强的决定性因素
本期嘉宾繁青是 Evolvent AI 联创。他是 01 年的 PhD,曾在 Kimi 做了一年多 RL infra 和 agent,参与 Kimi K2.5、Kimi Linear 等重要模型的发布。Evolvent AI 也是这批数据公司里跑得比较好的几家之一。
本期播客原文约 19000 字,本文经过删减整理后约 6200 字。
编辑整理:陈皮
曲凯:我们最近聊了很多模型、算法相关的人,发现出来创业的人里,大多是 post-training 背景,而 pre-training 背景的很少。这是为什么?
繁青:做 pre-training 很吃资源,初创公司很难 cover 这块成本。而 post-training 就好很多,路径也比较明确:要么做合成数据,要么做平台类的东西。后者可能有点抽象,可以简单理解成做 bench。
不过现在的 bench 和以前不太一样。
以前主要考模型的推理和做题能力,现在还要考模型在真实环境里的操作能力,比如能不能很好地操作飞书、Notion 等软件。这种 bench 如果做得足够好,很容易转成落地的商业模式。
曲凯:但以前做题和 coding 的那种 bench,可验证性更强,最后对一下结果就行。如果是要造一个环境,该怎么评判结果的好坏?
繁青:会比以前复杂。
首先要确保模拟环境和真实环境是对齐的。举个例子,我们在环境里造了一个 Notion,真实世界里也有一个 Notion,那在输入相同时,两边的输出是不是一样?如果一样,至少能证明这个环境是对的。
另外就是要检查结果。就像你说的,以前可能对个结果就行,但现在得拆出很多维度的小得分点。这些得分点目前还是比较依赖人的精细设计。
曲凯:明白。我最近听到一种说法,说 post-training 的人其实每天主要是在做数据?
繁青:确实,尤其在大厂。举个例子,大厂之外的人要 SFT 一个模型,可能得去 GitHub 拉仓库、找 GPU、配环境、整理数据,再训练。
但在模型厂内部,这一套已经被做成了服务。研究员很多时候只要提交请求,然后等结果就行。在这种情况下,研究员最重要的事就是把数据做好。
曲凯:那 post-training 是不是相对比较枯燥?现在训模型的门槛是不是也没有大家想得那么高了?
繁青:后者我比较认可。对大部分研究员来说,训练模型的门槛确实降低了。但如果你是做 infra,相当于是在做那套服务,里面还是有挺多坑的。
至于 post-training 是不是枯燥,我觉得倒不一定,因为造数据本身很难,即便现在有 agent 参与,不同的人造出来的数据也不一样。
我们最近做了一个 RSI bench,就在讨论 agent 能不能直接完成造数据、迭代训练模型这件事。目前看,agent 只能做一些比较机械的事。比如某批数据导致模型回答格式错了,agent 可以发现并修改。但如果要让它提出造数据的 insight,现在还做不到。而模型厂的研究员在这件事上有很多自己的 know-how,这也是大家的核心能力。
曲凯:不同人做出来的数据好坏,大概体现在哪里?
繁青:最直接的量化标准,是这批数据能不能在模型不作弊的情况下,让模型在目标 benchmark 上提分。
还有一些其他考虑。比如我用代码数据训练模型,它在代码 bench 上提升了,会不会让写作这类偏文科的能力下降?也要看难度是不是适中。太简单的数据没用,太难的数据,模型也学不好。
不过,要正经检验数据质量,还是得拿去训练。训练前,只能做一些初筛。
曲凯:明白。你刚从 Kimi 出来不久,现在 Kimi、MiniMax、智谱这些国内模型厂都在陆续发新模型。你怎么看国内模型现在的发展阶段?大家在拼什么?
繁青:从已经发布的模型来看,国内模型和国外模型的差距在缩小。
当然,具体相差多长时间很难估计,因为国外厂可能有自己的存货没发出来。但比如 Kimi K3,在国内卡可能只有国外十分之一的情况下,效果已经接近 Fable 5 了。
我认为这个结果,主要来自预训练。
国内有限的资源,反而倒逼出了国模在 pre-training 上的架构创新。比如 Kimi Linear、DeepSeek 的 Multi-head Latent Attention,相比于原有的 attention 机制,都是希望用更少的训练资源达到更好的效果。
但在后训练上,国内可能比国外要弱一些。这里的弱不是说技术实力弱,而是像 Anthropic、OpenAI 这些厂,在数据上的积淀更早。国内积淀相对少,所以目前可能会通过蒸馏来补足短板。
曲凯:这和我预想的不太一样。我之前以为,pre-training 部分海外的人才密度更高,卡也远多于国内;而 post-training 更偏工程,理论上应该是国内更有优势的部分。但你认为国内在 pre-training 上更有特色,post-training 反而弱一些?
繁青:对,我和身边一些朋友都比较 buy in 这一点。
预训练更拼研究员的聪明才智。从实际结果看,现在全球范围内比较好的模型架构也就是 Kimi 和 DeepSeek 做出来的,而且它们至少已经在自己的公司里证明了 scale 能力。
而后训练就像你说的,更工程一些。工程上的时间差更难弥补,而且数据积淀比较拼人力和组织。
曲凯:这还蛮有意思的。
那之前智谱在 coding 上长期领先,现在 Kimi K3 出来之后,榜单和反馈都很好。所以后面模型厂还会交替领先吗?尤其像你说的,Kimi 在模型架构上有创新,而且这版也是一个大参数模型。那其他家还有可能很快超过吗?
繁青:只看 bench 上的结果,基本还是会交替领先。但大家相互追赶的过程中肯定有时间 gap,而且真实体感不一定完全一样。
曲凯:所以今天各个模型在拼的,到底是架构创新、数据、infra,还是什么?
我们最近也聊了很多人,我的一个感受是,人才只要肯花钱就可以招,数据只要肯花钱也可以做。那中长期是不是还是拼卡,最后是不是还是大厂更有优势?
繁青:从技术上说,架构、数据、infra 都要拼。
架构决定你能不能在有限资源里榨出更多东西;数据决定你能不能在 benchmark 上达到更好效果;infra 保证内部迭代速度。
不过技术一直在流通,大家的技术水平差异不会特别大。
那长期看,卡当然非常重要。但即便大厂有更多卡,我个人还是更看好初创公司。
因为我觉得最后可能要看组织形态,也就是怎么让公司作为整体跑得更快,比如部门怎么划分更合理、多模态部门到底要不要单独划出来。混元就是一个例子。它在没有改架构的时候可能做得比较差,但现在突飞猛进。
曲凯:说到多模态,有人说,多模态、世界模型不在智力主线上,真正提升模型智力的还是 coding、数学这些。你怎么看?
繁青:这个说法有点绝对。我觉得多模态也应该放到主线上。只是现阶段基于资源考虑,还不太能做全模态优化。而且多模态不像文本信息那样高度压缩,噪声更多,发展起来也会慢很多。
但我相信之后多模态会变得重要,因为 AI 要进入物理世界,还需要视觉、听觉、触觉等各种东西。
曲凯:明白。那现在有没有共识,下一个阶段最核心的是什么?
繁青:现在的共识可能就是 auto research,或者叫 RSI、self-evolving、AI for AI。
目前大众可能更倾向于把 RSI 理解成模型自己迭代自己,得到一个更强的模型;而 auto research 则更像是已经有一个强模型,让它持续迭代做某件事,比如写出一个好的 GPU kernel。
但我认为这些概念说白了都是一件事:
给模型一个工作环境和目标,看它能不能持续操作,拿到结果反馈之后修改之前的操作,最后突破上限。
曲凯:我理解这件事其实有几层可以做。
从最表层的产品结果来讲,可以让模型输出结果后,先不给用户,而是多尝试几次,得到更好的结果之后再给出来。这层应该比较简单,之前也有人在做。
最上层,就是模型能不能自己训练自己。
中间是 harness 部分,也就是怎么让 harness 自己转起来。这层我想多理解一下,因为有人说模型未来会把 harness 一起训进去,就没有所谓 harness 这层了。你怎么看?
繁青:我倒不认为 harness 会不存在。
现在模型厂基本都有自己的 harness,一般会跟着模型一起发版,因为后训练时,模型的输出会经过 harness,反向传播也会让模型越来越适配这个 harness,所以这两者往往会配套出现。当然,我相信 harness 会越来越简单。
曲凯:那未来几年还会有第三方 harness 的空间吗?
繁青:要分情况。
像 coding 这种通用领域,可能确实没有第三方 harness 存在的必要。
但在垂直场景里,一方面大家可能没必要用最强的模型,另一方面也没必要用它们配套的 harness。用一个相对弱的开源模型,配一个简单的 workflow,可能就可以完成需求,而且成本更低、速度更快。这时可能就有第三方 harness 的空间。
曲凯:但如果真能实现 RSI,为什么不用模型自己训一个垂直领域的 harness?以及如果是这样,是不是模型仍然会吃掉一切,还是垂直领域还会有什么价值和壁垒?
繁青:用一个强大的模型写 harness 没毛病,但是这个 harness 未必要接最强的模型。
现在普通用户已经很难感受到新模型能力强弱的差别了,对一些垂直领域来说更是如此。所以大家大可以用强大的模型去指导一个比较小的开源模型,然后在自己的垂直场景上进行迭代,后面就只用这个小的垂域模型。
曲凯:那最终模型商的价值会怎么变化?就像你讲的,现在一些基础模型就已经够用了,最近 GPT 也降价了 80%。那有没有可能直到有一天,大家发现足够使用的模型已经接近免费了?
繁青:我会分两方面来看这个问题。一方面,如果未来真的出现一两家独大的局面,模型价格未必会一直降。因为现在模型降价不一定是因为卡很多、成本低,也可能有商业模式和竞争方面的考虑。毕竟现在开源社区很强,又有竞争对手。
另一方面,垂域还有很多数据隐私需求,不一定有很强的意愿去用 Claude、GPT 这种模型。
曲凯:但我觉得一两家独大,好像目前看起来也不太会发生?
繁青:嗯…不好说。
曲凯:那如果模型真的能自己研发自己,为什么创业公司不直接做一个更好的基模?以及为什么这件事不是模型厂自己做?
繁青:我最近也在思考,所谓 RSI 基模和模型厂正在训的基模,到底是不是正交的。我目前认为,这二者其实是同一件事。所以创业公司去训 RSI 基模,或者去做 RSI 的 harness,都没有太大意义。
曲凯:所以实现 RSI 最核心的点是什么?我能不能理解,只要基模的 coding 能力越来越强,慢慢就能做到?
繁青:我现在对 RSI 的思考是,很多 self-evolving 的方法可以看成一个更聪明版本的 DFS。
DFS 这个算法就相当于让模型走迷宫,遇到死路时再回溯到上一个点。
但在 DFS 里,这个回溯是由代码判断的;而在 RSI 中,是由 LLM 判断的。
而 RSI 的「聪明」,主要就体现在剪枝上。剪枝其实就是要预判一个操作会带来怎样的未来状态,以及这个状态的收益。那在 RSI 中,剪枝的作用就是要让 LLM 把更多精力放到更可能的路上,提高 RSI 的效率。
从技术上说,这件事实现起来,核心靠两个东西:world model 和 value model。这二者在大模型预训练时,已经被内化了。这也是为什么我前面说,我觉得创业公司训「RSI 基模」不太成立。
之后 RSI 变强,一方面要看模型有没有把 world model 的知识内化得更好,另一方面要看模型的 context 窗口有多长。前者决定模型知道多少东西,后者决定模型能回溯到多远的地方。
曲凯:现在模型厂都在往 RSI 这个方向走。假设有一天模型真能做到算法自迭代,数据会不会又变成瓶颈?还是到时候数据也能自己转起来?
繁青:我个人觉得可以转起来。我们最近做的 RSI bench,其实就是在探索这件事。我们目前确实发现,agent 在数据层面展现出了一定的自进化能力,以及自行合成更好数据的能力。
曲凯:我们正好可以捋一下数据的几波发展。我观察到第一波是以 Scale AI 为代表的普通人标注,第二波是 Mercor 那种专家标注数据。合成数据可以理解成当下第三波趋势吗?
繁青:我觉得是,但可能已经在趋势的中后期了。
第一波数据需求更多是为了做预训练,这块目前的需求确实不多了。
第二波对专家数据的需求是 o1 推理范式带来的。这部分依然有需求,但不会像 25 年年初那么多。因为现在模型很强,对专家的要求也变高了。原来可能只要求专家做题,现在还要专家出题,而且题不能和市面上已有题重合,这就太难了。
第三波对合成数据,包括真人数据这块的需求,则是模型 coding 能力变强、开始有更强的 Cowork 能力之后解锁的,主要是为了提升模型的 agent 能力。
曲凯:现在不同类型的数据,大概是什么价格?
繁青:专家数据可能是一两千这个量级。贵的合成数据能卖到好几千,一般就是一条非常长程的任务。真人操控轨迹有时候要走量,就没有单条的说法,因为噪声比较多。
曲凯:合成数据模型厂自己也能做,为什么还要外采?
繁青:数据肯定是多多益善,而且模型厂自己造的数据会有自己人的 bias,所以希望从外面收一批高质量数据,补一下分布。
但合成数据的单子以后肯定会越来越少,主要是因为目前的 bench 越来越少了。
现在模型越来越强,做一个好 benchmark 的难度也非常高,最终可能只会剩下少数几个最好的 benchmark。这样模型厂就可以围绕少数 bench 自己造数据,对外部需求就会少。
曲凯:所以数据还有什么可以做的机会吗?会是什么?
繁青:短期看,可能就是 RSI 数据,比如我用一个模型去后训练另一个小模型。这样一条训练轨迹目前很稀缺,要跑出来也比较难,可能得有模型训练背景的人才能做。所以数据行业的门槛也在提高。
曲凯:所以这半年,包括你们在内的一些公司靠卖数据赚了很多钱,收入涨得蛮快。但你前面说,你觉得这一波已经快进入尾声了?
繁青:对,普通 agent 数据这一波确实已经接近尾声。数据行业变化非常快,也会筛选数据厂商。以前主要走重人力专家标注模式的公司,可能很难活下来。反而是数据公司里有一线 hands-on researcher,可能更能追上数据变化的潮流。
曲凯:但要做好 RSI 数据,就像你前面提的,还是必须自己真的去训模型。
繁青:对。但现在训模型基本约等于造数据。包括我们造数据的时候,也会和模型厂商有合作。
曲凯:我想起来,最近有个蛮流行的说法:「算法就是数据,数据就是 infra,infra 就是算法」。它戏谑之中好像又带着一点真相(笑)。你怎么看?
繁青:没什么毛病。
「算法就是数据」,是因为算法往往会收敛到最简单的形式。当大家都用同样方法时,差异就体现在数据上。
「数据就是 infra」也好理解,因为 infra 决定训练能不能更高效。
「infra 就是算法」,则是因为当我们要训大尺寸、长轨迹模型时,就需要 GPU 层面或者模型 context 层面的并行,才可以训下去。
在这三者之中,数据是核心的驱动力。
现在算法和 infra 的基础形态相对稳定,但它们会跟着数据的需求走。如果以后数据越来越难、推理一条数据都要一天甚至几天,infra 和算法层面也都会跟着改。
曲凯:明白。那你觉得未来大家还会需要更多数据吗?或者大家肯定希望有更多数据,但还能有吗?如果就靠合成数据,那合成数据有没有可能发展成类似无限数据?
繁青:无限是不太可能的。数据量不会毫无节制地提高。
不过高质量数据会一直变多。因为 agent 用户越来越多之后,会反哺出更好的合成数据,再反哺模型训练。而模型尺寸增加之后,模型的效果也会变化,输出的数据质量也会逐步提高。
曲凯:当大家聊到合成数据时,也经常会把它和蒸馏放在一起讲。怎么理解这二者之间的关系?
繁青:生成合成数据时,需要 agent 在一个环境里面探索。如果这个 agent 背后是 Claude 之类的外部模型,大家就会把这个探索过程看成蒸馏。
但蒸馏也分「硬蒸」和「有技巧的蒸」。
硬蒸就是造的环境太简单,比如就是让模型做普通数学题,老师做一遍,学生拿过来抄。
但如果环境足够复杂,对应的题和评分标准又是正确的、足够高质量的,那么搭出这一套环境和题本身就是有难度的。
曲凯:那为什么有些公司会强调自己不蒸馏?蒸馏的坏处是什么?
繁青:蒸馏有点像抄近道,可能会让你错过在主路上本来能发现的一些 insight。
曲凯:明白。所以现在 AI Lab 大概处在什么状态?之前大家会担心 scaling law 撞墙。你觉得现在对 AI Lab 里的人来讲,是沿着现有路线还有很大空间,还是需要新的架构和技术路线?
繁青:从年初到现在,coding 一直是大家最重要的发力方向。这块增长还是很迅速,但整体 pipeline 已经相对稳定。所以 AI Lab 也会探索其他技术路线,比如 auto research。Anthropic 和 OpenAI 现在也都在探索这块,可能是要服务 AI for Science。
曲凯:正好你提到 AI for Science。除了 Anthropic 和 OpenAI,很多人都在做,包括字节 Seed 前一阵也推了 100 个科学家计划。但 AI4S 似乎和模型并不完全处在同一层面上?那为什么大家开始在这上面发力?
繁青:一方面是因为 STEM 领域确实是模型 research 能力比较直接的应用场景。
另一方面,现在已经很难单纯靠常规 benchmark 展现模型智力提升了。AI4S 和让模型写 GPU kernel 一样,都是长程、高难度的任务,是直接衡量模型智力的好场景。模型厂也需要找到这些场景去 PR。
曲凯:就是大家已经要从奥赛卷到诺贝尔奖了(笑)。
最后问一个比较敏感的问题:蒸馏对于国内模型的表现,到底有多大影响?
繁青:我觉得蒸馏不是国内模型变强的决定性因素。
就像前面讲的,我个人认为国内模型变强更多来自底层架构和预训练上的创新。
蒸馏是后训练里的加速手段,但不是说没有 Claude API 就做不出来。国内自己的模型现在也很强了,可以用自己的模型做合成数据。而且国内人这么多,如果真下狠心做数据基建,也不见得做不出来。
蒸馏可以缩短我们追赶的时间,但并不是国模变强的唯一原因,更不是最底层的原因。
42章经
思考事物本质