这期播客中,我们和骁腾探讨了不少颇为尖锐的话题,比如国产模型到底哪家强,各家又有什么问题?到底该怎么定义 Neo Lab?从 Macaron 到 Neo Lab,再到 RLaaS,Mind Lab 这一路的转型背后有哪些思考,现在又做得怎么样?
坦白说,这期对我们来说,是一个打破不少固有认知的过程。骁腾的回答都很实在,也很扎实,而且他可能是我们最近聊过的最「快乐」的研究员哈哈。听他聊下来,我们不仅对 Mind Lab 在做的事有了更全面的了解,也对强化学习(RL)、模型发展和 RLaaS 的实际运作有了新的理解。节目中,他还分享了很多从 RL 研究中获得的生活哲学。在他看来,创业可能才是最符合 RL 循环(RL loop)的事情。
【人类博物馆】
导游:曲凯,42章经创始人
55 号珍藏:马骁腾(Pony),Mind Lab 联合创始人、首席科学家,清华大学自动化系博士、博士后,长期从事强化学习与模型后训练研究,关注 AI 如何从真实交互中持续学习
【时光机】
Part 1 一个 RL 研究员的人生选择
- 00:54 如何看待 Mind Lab 的争议,在 Mind Lab 工作是种什么体验?
- 03:02 为什么首选不是去 AI Lab?
- 03:46 做 RL 学到的三件事
- 04:28 「我一直都是一个 90 分主义者」
- 08:32 创业是最符合 RL 循环的事?
- 10:06 没在模型厂待过,凭什么能训好模型?
- 13:24 在叉院的时候一度非常绝望,觉得研究做不过别人
- 16:20 国内 RL 的困境可能是「立山头」现象比较多?
Part 2 模型的发展与 Neo Lab 的叙事
- 18:10 对国产模型的态度:短期悲观,长期乐观
- 20:18 Anthropic 的一个让人担忧的做法
- 22:21 大厂确实资源多,但真不一定是最后赢家,甚至可能会集体失败?
- 28:28 国产模型接下来要拼的是什么?
- 30:42 锐评一下海外和国内的模型
- 35:32 啥是 Neo Lab?
- 38:20 研究员都在犯一个致命错误
- 39:26 到底该先做模型,还是先做产品?
- 41:53 RSI 现在完全就是个宣传口号?
Part 3 聊聊 Mind Lab
- 44:21 从 Macaron 到 Neo Lab 再到 RLaaS,Mind Lab 到底在做啥?
- 45:55 为什么美国各种中间层的公司都在做自己的模型?
- 48:40 RLaaS 的客户画像是怎样的?
- 50:52 自己训模型的意义是什么?账算得过来吗?
- 53:45 为什么头部公司不自己训模型,而要采买外部服务?
- 54:58 做 LoRA 的心路历程:scale up、scale down 与 scale out
- 57:21 最近最关注的问题:持续学习(continual learning)
- 59:01 「我并不担心被模型吃掉,甚至觉得我们一直在从中受益」
【本期制作团队】
- 制作人:陈皮
- 剪辑:二琳,陈皮
- 片头:Mondo Bongo - Joe Strummer & The Mescaleros
- 片尾:Sparklehorse - Hundreds Of Sparrows