开场0:00
Hello 大家好 ， 欢迎收听 《 硅谷 101》， 我是泓君 。 今天我们请到了一位在 AI 推理领域绕不开的人 ，他是盛颖 、RadixArk 的联合创始人与 CEO。
今年 5 月这家公司官宣了 XGLang 领投的 1 亿美元的种子轮融资 ， 像英伟达的投资部门 、AMD、 英特尔的 CEO 陈立武 ， 还有 OpenAI 的联合创始人 John Schumann 都是它的投资人。
那 RadixArk 它背后是一个叫做 SGLang 的开源推理引擎 ， 一个从来没有靠市场推广和销售推广过的项目 ， 今天就已经跑在了全球数十万张的 GPU 上， 每天为谷歌 、 微软 、 英伟达 、xAI 生成数万亿的 token。
可以说你每天现在用到的 AI 服务器 ， 背后呢 ， 很有可能就有它在工作 。 而 SGLang 的起点 ，是 2023 年盛颖在斯坦福读博的最后阶段 ， 和 LMSYS 的社区研究者一起做出来的东西 。
她把它称为自己 " 博士生涯的收官之作 "。 那之后她加入 xAI， 为 Grok 搭建推理系统 ； 去年她从 xAI 出来 ， 和朱邦华一起把这个 " 开源项目 " 变成了一家公司 。
那我们这集的节目录制于 2026 年的 6 月初 ， 当时是 RadixArk 刚宣布完融资不久 。 那下面呢 ， 就请收听我们视频主理人陈茜与盛颖的对话 ， 这也是一集视频播客 ， 大家可以在硅谷 101 的视频平台上同步收看 。
非常感谢盛颖 ， 欢迎做客 《 硅谷 101》。
感谢你们的采访 。
我看这个你们是刚刚搬到这个新的办公室是吗 ？
对 ，9 月 1 号刚搬过来 。
你们现在大概多少人啊 ？
现在有 40 多人。
扩张会非常的迅速吗 ？
其实比我预期的快 。 因为我们事实上我们扩张 scope 增长的也比想象的快 ， 然后各个地方都需要人， 我们能招进来的人也比我想象的要更有更多 qualified 的 candidates， 所以我们也稍微有一点 stress，但是我们已经在控制了 。
今天呢会讲一讲你整个的学生时代 ， 到你之后的这个研究时代 ， 再到就是你出来在 x， 还有你自己现在 startup， 然后我们可以按照这个顺序来讲哈 。
那首先呢 ， 你其实是大学在上海交大 ， 然后这个上了 ASM 的荣誉班 ，17 年就来到了美国哥伦比亚大学读硕士学位了 。
数学之美2:16
嗯 ， 当时出国是因为大家都要出国吗 ？ 就是为什么选这条路呢 ？
确实也是因为大家当时很多人是要出国 ，但是我其实对出国的概念知道的很晚 。 我觉得我从江西到本科的时候 ，是经历了一个很强的 culture shock 的一种感觉 ， 就是我觉得我身边的人更理解职业发展 、 人生发展 ，他们有更多的规划 ，其实我是处在一个无知状态 。
我记得我本科刚毕业的时候 ， 一开始其实我甚至没有申到什么 ， 就是我申请了美国的大学 ，但我其实没有拿到 offer。
很一开始当时有一个广东文大学的 PhD 的 offer， 然后我接了 ， 甚至都已经申请的时候我就有个君子协议 ，4 月 15 号君子协议都已经过了的第二天 ， 我突然收到了哥大给我发的一个很不同的研究生 ， 就 master offer。
它其实是个很不同的 offer， 就是很多人都能拿到 ，但是我当时就觉得我想接触一些新的东西 。 我想因为那个时候的学术中心还是在美国 ， 我觉得我想出去看到 ， 哪怕哥大的这个 master program 它不是一个特别顶尖的 program，但我希望我想看到 。
然后我当时我还跟我爸打电话说 ， 呃 ， 这个我们前面 PhD offer 能不能毁 ， 我还需要交一笔违约金 ，但是我想出去看看 。
我还犹豫了一下， 然后给我爸打了通电话 ，但我爸非常快 ， 就是一分钟就说好你去 。
就交了违约金 。 啊哈哈 。 那你说你从江西到上海其实是有一段 culture shock 的 ， 那你从上海到美国也是不是经历了 culture shock？
也有吧 ， 我觉得我确实是每一段都是那个舒适圈打破在早期的经历里 。 但是我在纽约的感受要 ， 纽约是很包容的一个城市 ， 这个 shock 其实不太 shock， 就是我感到不一样 ，但我觉得极大的被包容了 。
具体体现在其实什么方面呢 ？
就是我觉得在纽约当时文化让我觉得没有人盯着盯着我看 ， 没有人在乎我穿什么 、 想什么 、 做什么 ， 我想要什么 。
我在纽约感受到那个 shock 更多的是一个不需要被 judge，也不需要 judge 别人的 shock。 这个 shock 是从一个被限制状态到一个完全自由状态的一个 ， 对 ， 它是个 shock，但它其实是个更放松的过程 。
挺好的 。 那我看你在那个哥大硕士阶段发表的论文还是比较偏理论的嘛 ， 主要是测试函数 ， 然后线性回归的数学性质 。
后来到了斯坦福读 PhD 的时候 ， 你选择了形式化验证方向 。 那么先跟我们说一下在哥大啊 ， 你从事的这些研究其实对你有就后来的研究有产生任何的影响吗 ？
我刚上研究生的时候是没有想要做研究的 ，但是我第一学期时候上了计算复杂性的课 ， 当时觉得很有趣 ， 然后我又碰巧交了一些当时的朋友 ， 就是当时的博士生朋友 ， 然后他们都是做理论的 ， 然后我就觉得这个领域非常有意思 ， 我就找老师和这些同学们说能不能有一些问题可以研究 。
研究了一段时间觉得很有趣 ， 然后也有成果 ， 所以自然而然的就到了斯坦福 。
就是你研究生毕业的时候有考虑过 ， 哎 ， 我要工作 ， 还是说我要申请博士吗 ？
我一开始是没有想要申请博士 ， 或者说我也没有觉得我不会申请博士 ，但是我没有盯着这个目标去 ， 我没有对着这个目标去 。
我觉得它是 open 的 ， 所以我也保留了这个选项探索了一下 。 但我后来发现那个理论的问题非常有意思 ， 我自己也非常享受 。
我当时就是觉得我甚至也不需要赚很多钱 ， 我觉得我想 stay pool， 我想找一个没有人的地方 。 我当时有一次去那个普林斯顿 ， 我去参加一个 workshop， 然后我当时被那个环境就直接包围了 ， 进到普林斯顿那个校友那个环境里面 ， 我就突然觉得与世无争 。
非常的 academic。
跟哥大也不是 academic， 它就是与世无争 。 进到那里的感觉就是没有 ， 就是会觉得你人世间的很多这种大家所在乎的东西 ， 你平时去挣扎沉浮的东西都非常的没有意义 。
是学校的环境给你这样的感觉 ， 还是说那边的人他的氛围是那样的 ？
应该也是 ， 还是那个 workshop 给我带来的那个环境 ， 加上那个 workshop 里的人带来的讨论的这个氛围感 。
那个氛围感让我觉得所有事情都是不重要的 ， 我觉得人的想法都七情六欲都是不重要的 ， 都是甚至看上去有点荒诞的 。
那什么是重要的 ？
就是什么都不重要是重要的 ， 就是一种是一种虚无 ， 你觉得虚无才是它真实的东西 ， 就只有真实是重要的 。
嗯 ， 真实是重要的 。
然后数学在那个环境下就会显得特别的特别的美好 ， 特别的优美 ，因为它是确定性 ，而且是绝对绝对化的 ， 然后你在跟它打交道的时候 ， 没有什么其他东西需要思考 。
它可以让你非常的沉静和 focus， 或者说你可以在这个环境里面进入心流状态 ， 思考问题的时候进入心流状态 。
这个心流状态是与人无关 ， 与其他所有事情都无关 ， 大脑被完全的调转起来说进入一种生理性愉悦 。
我有点描述不出那个感觉 。
啊 ， 我能 get 到你的意思 ，但是这个状态我觉得非常的纯粹啊 。
就是很纯粹 ， 很像一个会成为一个数学家的人的一个状态 。
但是你后来为什么没有成为一个数学家呢 ？
对 ， 我当时就是很想成为数学家 ， 我当时觉得我就要成为一个数学家 ， 我觉得我只想做数学 。 但是呃 ， 事情的发展总是不是那么简单嘛 ， 那毕竟我还是有生活上的各种干扰 。
到了斯坦福之后第一年也确实没有在 ， 我觉得到了斯坦福我就没有那个感觉了 。
我不知道这个斯坦福不如普林斯顿纯粹吗 ？
普林斯顿那个只是一场 travel， 我人在哥大 ，但是我在哥大时候也能感受到这个氛围 。 我甚至现在觉得是不是西韩和东韩其实有点这种文化的差异性在 。
西韩就是慢慢你会感觉到更多的这种关于成功与否的这种 noise， 就是你想要参与世界的推动 。 我又开始觉得我跟世界有关 ， 我又觉得我不想跟世界无关 ，但我在东韩的时候我觉得我希望我跟世界无关 ， 我希望我被世人遗忘 ， 很不一样的一种感受 。
但我在斯坦福第一年的时候想做想做理论 ， 那个时候斯坦福是有 rotation program， 要配导师 ， 配到了之后你才决定你后面五年体验世界旅程怎么走 。
前面几期 rotation 因为各种各样的原因比较复杂 ， 各种各样的原因没有没有再遇到很很让我觉得能够进入心流状态的问题 ，也没有跟哪个老师能够双向的都觉得很很 exciting， 可能老师们也觉得我对他的问题不是特别感兴趣 。
有一些情况也是我可能也觉得那个老师我们没有完全 match 上 。 最后到了第四轮 ， 跟跟我现在后来导师 Kirk match 上的时候 ， 就已经进入到一个新的 topic 了 。
是 Clark Barrett 教授对吧 ？ 他其实是做形式化验证的一个方向 。 能不能跟我们的观众来解释一下什么是形式化验证 ？
这个领域也很大 ，但我可以简单讲我当时做的一部分的话题 ， 一部分的课题 。 我们当时一部分的课题是我们要把就是我们人写出来的代码进行拆解和映射 ， 然后把它映射到底下的底层的这个数学逻辑上 。
你可以把这个代码映射到一阶逻辑 ， 你在这个逻辑出来之后， 你就可以从数学角度去证明你写的这份代码它是不是具备某一个性质 。
我更具体的来说的话 ， 那我一份代码其实呃 ， 你隐藏的来说我们是有一个东西叫做 sp specification，speck 其实是说明了这个代码它应满足什么前驱条件 ， 它会有什么样的 invariant， 然后你代码执行完之后要满足什么样的条件 。
你可以有这样一套语言去描述这个程序 ， 然后你要证明的就是如果你在有这个 speck 的情况下， 你的代码是不是真的符合了这样一套逻辑 。
从代码映射到这个逻辑 formula 之后，formula 之间的这个证明和推理就是我做的那个领域研究领域 SMT solver 做的事情 ， 然后我的研究大部分是在 SMT solver 的那个 solver 本身的优化 。
优化一方面跟 efficiency 有关 ， 一方面跟正确性有关 ，但它更多的是跟你怎么定义语义有关 ， 就是你定义什么样的语义空间可以去表达你一份代码所做的事情 。
嗯 ，在斯坦福其实你也开始这个深入形式化验证之后嘛 ， 我们看到就是开始狂狂出论文了 。2020 年是拿到了 IJCAR 的最佳论文奖 ，2022 年是拿到 IJCAR 的提名 ， 后来又是 CVC5 的贡献者之一 ，是拿到 TACAS 的最佳工具论文奖 。
太高产了 。 对 ， 你觉得这段时间你的一个研究的状态是什么样子的 ？
其实这个真实的过程比外面看到的这个简历上的内容要要干瘪很多 ，其实要包容很多 。 我其实在斯坦福前几年的经历并不顺利 ， 一个是我首先刚进来第一年的时候找导师其实就不是很顺利 ， 被动的进入了这个形式化方向的领域 。
因为我要读这个 PhD， 所以我才就是需要把这个地方不停的去做研究 ， 产出论文是我其实比较被动的状态 。
当然我在做的过程中慢慢的也欣赏到了它的美感 ， 后来我慢慢理解这件事情它为什么有意思 ，以及我后来有些更多的思考 ， 我觉得它其实还有个很有意思的未来 。
但是最开始做 politeness 那篇论文的时候 ， 就是我第一次拿 IJCAR best paper 那篇 ， 非常非常的意外 ，因为我当时是一个完全小白的状态 ， 我对这个领域不知道 。
导师给了我一个问题 ， 我去解决它而已 ， 然后我做完它的时候 ， 我也没有任何的认知说什么样是这个领域里最好的 paper，因为我看的 paper 还不够多 。
所以这个讲出来的时候我完全没有想到被别人 congrats 的时候得知拿到了这个奖 。 那个是我进这个领域发的第一篇论文 ，但是发完这篇论文之后 ，其实我就又重新进入一个很 down 的状态 ， 就是我还是没有找到我想要做的下一个问题在哪 ， 就是 exciting 的问题在哪 。在那篇文章做完之后， 我记得就进入疫情了吧 ， 进入疫情我其实有长达一年的时间是没有做任何
事情的 ， 接近一年的时间在一个 depression 的状态里 ，但我遇到了非常好的导师 Kirk， 非常的 supportive，他完全理解说我要调整好这个状态 ，他只关心我是不是有一个好的精神状态 ， 只关心我是不是能够走出来 。他没有给我施加任何我需要继续产出论文或者做 research 的压力 。他说那我可以去上一些课 ， 嗯 ， 做一下 TA， 做一些这种很轻量级的事情 。
之前还回国待了半年， 一个疗愈期 ， 然后我其实没有产出论文 ，但是 Kirk 从来没有断过我的经费 。
哦 ， 那确实是非常好的导师 。
非常好的一个导师 。 然后我一年之后才慢慢走出来之后， 才又做了 sequence 里面的 paper。 我们前面也有过很多挣扎 ， 证明应该是写了 20 多页吧 ， 来来回回改了四五次 ，而且有两次我几乎是全部推翻重写的那个证明 ， 已经花了一两个星期推出来的证明 ， 世界的证明全部推翻 ，因为你从一开始地方发现有个基点错了 ， 那个错了之后后面所有的后续推理全
部是错的 。 所以那个证明从前面要一直 fix 到全部全部重新推翻重来 。 但是这个过程走完之后很有成就感 ， 最后这个证明完全写完之后， 比一开始设想的要复杂的多很多 。
我们都觉得这段证明写出来和这段经历非常的 accomplish， 就是很很有满足感 。 我记得那个时候 Kirk 自己也说那篇 paper 里的证明是他过去一年的 highlight， 当时也是 best paper 提名 ，但是没有被公开 ， 就是大家讨论过 ， 最后没有被选上 ，但是很接近 。
如果说我在形式化工作的话 ， 这篇 paper 可能是我觉得最愉悦的一段时间 。 从这篇 paper 开始 ， 我开始看见了形式化理论的这个里面的一些深刻的含义和和它的优美之处 。
它的优美之处在哪里呢 ？
它让我理解了程序语言设计的几个不同角度吧 ， 就是形式化的这个方法去设计语言 ， 它是从数学的角度去理解程序语言的 。
程序语言我打了很久很久的交道 ， 我打了 20 年的交道了 ，但是我从来没有这样以这样的角度去去看待过它 ， 然后它给了我一个全新的视角 。
但是你会发现程序语言里面它有很多的 trade off， 不同角度上有一些语言更接近数学 ，有一些语言更接近硬件 。
你其实很难有一个支点让你一个语言它离数学和硬件都很近 。 接近数学的语言它会更容易被验证 ， 更容易被形式化 ； 接近硬件的语言会更灵活 ， 更高效 ， 更接近人的思维习惯 。
就是当你需要编程硬件里面的具体运算的时候 ， 那样的 mapping 又更直接 。
最后没有再往这个领域继续的走下去 ，是因为什么呢 ？
我看到了它的有意思的地方 ，但是我也看见了它这个领域的局限性吧 。 它能够在现实中 practically 被应用的场景太少了 ， 然后你要验证一个程序太贵了 ，但是它能验证的又很少 ，不能产生足够大的影响 。
但是我觉得我想离世界更近一点 ， 我还是想要做更接近真实生活的东西 ， 当时觉得 。 所以我那个时候就开始探索 AI， 然后开始寻求方向转化 ， 开始探索 AI 这个过程其实也不太顺利 ， 可能我又有一年的时间的空窗期 。
就是你看上去我的 publication 没有停 ，但其实我中间有很多的空窗期 。
那一年的空窗期跟你自己定义的空窗期是不一样的 。
对 ， 我自己定义的空窗期就是那一段时间我没有做任何 ， 我其实没有 make progress。在我转 AI 的时候又有大概一年的时间 ， 我其实没有任何新的 idea， 我实际上没有做任何事情 。
可能长达一年之后， 我突然某个时间找到事情可做的之后， 我三个月产出了一件事情 。 但是外人看来 ， 你会觉得那个作品是我过去一年的成果 ， 实际上它是我过去一年里最后三个月的成果 。
前九个月我都在这个 zero 状态 ， 完全不知道自己在干什么的状态里 。
我非常理解这个过程 ， 就像我们记者写稿子也是一样的 。 对 ， 你那个给我一个月的时间 ， 前面 29 天的时间我都在做 research， 或者是放空 ， 或者是采访 ， 然后我其实这个稿子就是用一天时间写出来的 。
对 ， 所以你看上去比如我形式化 ， 我可能发了三篇 paper， 分布在三年时间里面 ，但每篇 paper 真正推动其实它都只花了什么三个月的时间 ， 然后我这三年里面每年都有九个月不知道在做什么 。其实你不知道在做什么 ， 你可能是在就是在迷茫嘛 ， 想要去找到你想解决的问题 。
因为我听下来就是说要去找到一个你真正感兴趣的问题 ，并且解决它真的是你的一个一个 driver， 一个驱动力 。
是 ， 这个是的 ， 就是我确实有一些特点 ， 就是我没有办法妥协 。 我后来服从了我的这个特点 ， 就是我原来在不理解我自己的时候 ， 我尝试努力去适应过一些规则 ，但是我后来发现我自己是不能被勉强的 ， 就是我没有办法做我不感兴趣的事情 ， 没有办法做好 。
我能做 ，但其实我没有办法做好 。 我只有这个事情 ， 它让我觉得非常 exciting， 我才有可能把那件事情做好 。
这是一个特别特别纯粹的一个一个性格 。 嗯 ， 你当时嗯什么时候发现说这个性格就是这样了 ， 我必须要去服从我这个性格呢 ？
这是一个缓慢发展的过程 ， 倒也没有某一个时间点突然顿悟了 。 它是一个我慢慢意识到 ，以及有终于有一天我完全接受它的一个状态 。
我完全接受它可能是在博士的最后最后一两年吧 。
你本身是一个喜欢 intense 的人吗 ？
低谷期16:06
我是个必须 intense 的人， 从小就是这样的 。
对 ， 我觉得从你发 paper 的那个数量和节奏就能看出来 。
对 ， 我没有办法 ， 就是我哪怕睡觉的时候也会一直做梦 ， 就是我没有办法停下来 。
你做梦也会梦到跟你研究或者工作相关的事吗 ？
那肯定会啊 ， 肯定会 。
哦 ， 会啊 ， 大家都会吧 ？ 有的时候的梦是完全无关的呀 。
哦 ， 我都是还是还是挺有关的 ， 都是跟生活 。
就说明你在睡觉的时候 ， 你的前四位其实还是在工作 ，有可能是生活 ， 就工作生活 ，但它一般来说都不是不是没有任何关系的东西 。
但肯定会有虚假的成分 ， 会有想象的空间 ，但是它不会是毫无关联的 。 我觉得我 PhD 经历的那段 depression 的时期 ， 就是因为那段时间太无聊了 ，因为疫情的时候大家都 slow down 了 ， 然后我根本没有办法在一个 slow down 的环境里面保持我 mental 的 healthiness。
所以就是一定要忙起来 ， 然后才能让你健康的运作 。
我不一定要忙起来 ， 我不一定要忙起来 。 我 master 做那个 theory 研究 ， 做数学研究的时候是不忙的 。 那个时候你是很沉浸的 ，因为那个问题它就是你除了看着一张纸在那想 ，其实没什么能做的 。
我看上去很闲 ， 我每天还我每天可能也就想四个小时， 然后工作四个小时， 然后我就去打游戏了 。其实我 master 打之前打了好多游戏 ，因为那个问题都太难了 ， 你没什么事可做 ， 你只能空想 。
你打游戏的时候也很 intense 嘛 ， 对吧 ？
其实也没有 。 我觉得那个 theory 非常不一样 ，theory 就是有很多灵感 ， 你只能等它来 。其实你没什么事情可做 ， 你只能在那等 ， 你等等着那一刻来临 。
所以我有大量的时间去打游戏 ，但是游戏转眼就啊灵感来了 ， 然后去写一写是吗 ？ 其实我那个当时那个题目做解释出来 ， 就是在我看电视的时候想到的 idea。
对 ， 我也不知道为什么 ，但确实那个 context 是我看电视之前看的一篇 paper， 然后我就开始看看电视去了 。 看到中段的时候 ，不知道为什么那个 paper 里东西突然回响了 ，echo 出来 ， 然后突然又又想到了 paper 里那个点 ， 突然意识到这个地方可能是一个解法突破点 。
那个就是关键点 ， 就是你那个问题被解决的那个时就发生的那个瞬间 ， 那个是真的是有一个 phase transition， 就是那个是一瞬间的事情 ， 就就是那个时刻 ， 那个问题被解掉了 。
然后你个电视剧看到那一半 ， 你突然哎 ， 我怎么突然开始知道怎么解决这个问题了 ， 暂停 ， 谢谢暂停 。
你还记得是什么电视剧吗 ？
甄嬛传 。
我
真的记得 。 太太神了 。 我我一般是在洗澡的时候会有灵感 ， 突然记住 。
也会有 ，也会有 。
但是电视剧我觉得我很少 ，因为就是看电视剧你还是要很沉浸的嘛 。 但是就看起来你看电视剧的时候 ， 你的潜思维感觉还是在一直在思考一些 。
我会 。 就前面说到我跟我自己和解 ， 我是怎么和解的呢 ？ 就是我以前不知道 ADHD 这个东西 ，有一天我就慢慢的了解到有个东西叫做 ADHD， 然后我看完那个各种症状深入理解之后， 我发现好多东西都可以被解释 。
就你觉得你是 ADHD？
我确实是 ， 我挺喜欢看心理医生 ，但它不是一个疾病 ， 它是一个特点 。 学习之后我发现好多事情被解释了 ， 我就它给我带来最大帮助是我通过理解它而理解了我自己 。
像是我找到了怎么使用我自己的一把钥匙 ， 我突然知道了就是 。
手册有了 。
对对对 ， 它是一个手册 。 我突然知道就是我不应该逆着我的那个短处去 ， 我不应该逆着我的甜心去做事情 ， 我应该顺着我的甜心去做事情 。
它告诉我这件事情 ， 然后你一旦悟到了这个之后， 就很多事情就迎刃而解 。其实你你其实很多事情是不要勉强的 ，是没有必要勉强的 。
对对 ， 所以我前面说的我只能做我喜欢做的事情 。 当你把这个当成真理的时候 ， 你就不再跟它对抗了 。
对对 ， 棒 。 对 ， 嗯 ， 然后我们聊 。
我刚说这个是因为对 ， 可能我已经开始有点这个症状显现了 ， 就是它的这个特点之一 ， 就是我看电视的时候也是不 focus 的 。
也是不 focus 的 。
对 ， 就我看电视的时候我也会跟不上那个电视的内容 ， 我经常要回退 ， 我经常要往回拉 ， 哎 ， 刚刚讲了什么 ，30 分钟的事情我经常要看四五十分钟才把它看完 。
比如说你自己在做 research 或者你在工作的时候 ， 就是什么样的时候你会非常 focus， 什么样的时候你其实是没有办法 focus 的呢 ？
啊 ， 就是我自己特别被它吸引的时候 ， 我非常 focus。 它这个是两极化的 ， 就是我 focus 的时候非常 focus，focus 的时候我会听不见别人叫我的名字 ，不记得时间 ，不知道外面发生的事情 ， 会错过很多个 meeting， 然后不 focus 就就是根本没办法 focus， 就是哪怕这事情很重要 ， 我也不见得 focus。
看甄嬛传都没有办法 focus 是吧 ？
说明甄嬛传不够吸引人。 它如果够吸引人， 我就会非常 focus。
打游戏会非常 focus。
嗯 ， 打游戏非常 focus。 有些运动 ， 竞技性运动也会 ， 它需要非常的 intense，intense 到底要多强 。
对 ， 它要非常 intense。
它要非常激烈 ，有它要 competition， 就是游戏的话你是对打 ， 玩有输赢 ， 球类运动也是你有输赢 ， 这个时候的时候我就会非常 focus。
所以你是一个好胜心很强的人。
我觉得我不是真的很在乎输赢 ，但是我在乎那个 intense 的感觉 ， 我喜欢那个感觉 。 我其实不在乎输赢 ， 我游戏可以输 ， 打比赛也可以输 ，it's okay， 我也不会觉得那个我非要赢 。
但是你这个机制设计进去了之后， 我会很享受那个心流状态 ， 就是还是那个我喜欢心流状态 。
你的大脑被抓住 ， 然后你就是非常就是心流吧 ， 就是人非常 focus 的时候 ， 那个应该就叫心流状态 ，是很享受的 。
所以打游戏 、 研究 、 学习这个上面你都可以获得你的心流状态 。
对 ， 学我喜欢的东西可以 。
再提一个你大学的问题哈 ， 然后我们到这个这个公司上面来 。 就竞赛圈嘛 ， 它其实是一个很有那种天才标签的这样的一个圈子 。
对 ， 你觉得就是天才这个词在你身上呃安的多吗 ？ 就是很多人会跟你说啊 ， 你不懂要是一个天才 。
不多 。
是不是你就是拿了这个竞赛的金牌之后都没有 ？
我没有拿金牌出现 。
呃 ， 对 ， 你是拿了呃这个全国信息学奥林匹克的银牌 ，但是我记得你好像是在纽约的一个 。
纽约那个区域赛冠军 。
啊 ， 区域赛冠军 。OK。
那个区域赛冠军也是组队 ， 就是三个人一个小队 ，也没有说是我个人成就 。 我的队友其实非常强 ， 非常运气好 ，有非常强的队友把我带飞了 。
不是经常 ， 肯定有啊 ，但是少说更多一点 。 后来不是经常 ，因为虽然有这些拿了这些奖项 ，但好像其实都不是 ， 就比方说那银牌不算啥 ， 还有很多金牌选手呢 。
对 ， 所以对啊 ， 就看你跟谁比嘛 。
但是我在的那个环境里面 ，他们总是有比我更强的 。 那比如说我在 SMBA、SMBA 里面有比我更强 ，有很多比我更强的 。
所以就是你觉得努力这件事情更重要 ， 还是天分这件事情更重要 ？
我赞成天分 。
那你觉得在研究上面 ， 天分它主要表现在什么样的方向呢 ？
天分是指当外界人不把研究当回事 ，不觉得研究 ，不觉得研究是件伟大的事情的时候 ， 你还想做它 ， 那就是你的天分 。
嗯 ， 那叫兴趣 。
我觉得大部分时候天分和兴趣相关性还是蛮强的 。
嗯 ， 这么说吧 ， 可能很多人想当 researcher，但不是很多很多人都能研究出来或者解决这个问题 。 就你能解决这个问题 ， 肯定是有你的天分在 。
啊 ， 对 ，是有天分的 ，但我其实首先不觉得大多数人真的想成为 researcher。 我见过太多的人 ，他们想做研究 ， 想成为 researcher，是因为他们觉得这件事情酷 ，是因为外界的环境让他们觉得这件事情很酷 ， 或者当教授是一个铁饭碗 ， 类似的 ， 反正就一些原因 。
但这个并不是 。 如果说当所有人都开始觉得当教授是一个被人唾弃的职业的时候 ，他们马上就不会想做了 。
就你这你能识别出来 。 但是在我当时想做这件事情的时候 ，其实我是就是比如说我在的环境里面 ，其实大家嗯也没有觉得做 theory 是件多么伟大的事情 ， 然后你赚的钱也很少 ，但是你还是想 ， 你还是觉得它有意思 。
我想做这件事情是因为我希望跟跟别人无关 ，是因为我享受 irrelevant。 那个时候才是你真正的所谓的兴趣和天分所在的时候 。
我也不敢说我有天分啊 ， 那我毕竟也没有发明过什么 ，也没有什么巨大的数学成就 ， 我也不能算有天分 。
你肯定是算有天分的 ，不然的话你 paper 怎么能发那么多 ？
有很多人 paper 发的很多 ， 比我发的 paper 多的人还有很多 。
那可能就是更有天分的 。
发 paper 只是一个 ， 发 paper 是有有有有套路的 。
什么套路 ？
啊 ， 就是发 paper 其实你如果掌握了发 paper， 发 paper 本身是一个技能 。 发 paper 跟做 research 是两件事情 ， 发 paper 跟人们定义的做 research 和真正意义上的科学家是三件事情 。
OK。
发 paper 是有套路的 ， 你完全可以一个人 ，他根本就不怎么懂 research，他也能发很多哗啦哗啦发很多 paper。
就像一个是一个什么呃命题作文一样 ，是不是你套着它那个框去写就可以了嘛 ？
对 ， 就是你只要掌握了这个规则 ， 然后你你掌握了这个体系的规律 ，在同样的规律里面不停的产出 ， 你就可以一直发很多的 paper。
但是顶刊也很少啊 。
呃 ，不少了 ， 现在顶刊一年都几千篇 ， 上万篇 。
这么多人去投稿的话 ， 那顶刊还是算少的嘛 。
对 ， 那肯定是有 spectrum 的 ， 那肯定那那我可能还是比 average 要有天分一些 。
对 ， 就是掌握这个套路本身就是一件有天分的事情 。 所以你说发 paper 跟做研究跟当科学家是三件事情 ， 做研究 。
发 paper 跟打工人是一样的 。
跟打工人是一样 。
就是一个非常平凡的事情 。
OK， 做研究跟当科学家这两者有什么区别吗 ？
做研究的话就是有很多研究 ，他们其实是嗯不 breakthrough 的 ，也是不 key 的 ，但是不是没有价值 。 所以做研究它仍然是个职业 ， 它只不过是件职业 ， 只不过是我们做我作为一个 researcher， 我喜欢享受做研究 ， 所以我在这里做研究 ，而并不是我比别人更有天分 。
我没有天分 ， 我也可以是个 researcher， 所以 researcher 只是一个职业 。 但我所说的科学家这个名词我可能也用错了 ，但我就说还有另一类 ， 就是真正在推动人类知识边界的人是非常非常少的 。
然后这批人一般来说 ，但我的 bar 也很高啊 ， 就是在我眼中真的在推动 。 这个推动就是指如果不是它 ， 这个事情会玩很长时间发生 。
这个是被我定义的所谓真正的科学推动者 ， 就是推动人类边界的这批人， 这批人就非常非常少了 。
绝大多数的教授可能都不是 ， 对吧 ？ 绝大多数还是在第二类 ，是 researcher。
所以 Jeffrey Hinton， 然后杨乐坤 ， 还有啊 Joshua， 就是图灵奖的这三个人， 你觉得他们是科学家吗 ？ 或者是你定义的第三类人吗 ？
应该是吧 ，不过我没跟他们直接接触过 ， 所以我还是不给我直接定论 。 我非常在乎一手信息的 ， 我非常在乎 truth seeking。
我不想评价我没接触过的人 ，但既然他们世俗成就这么高 ，他们应该是吧 。
谷歌实习26:01
你在谷歌实习是什么时候啊 ？
二二年的暑假吧 ， 应该是在谷歌实习了之后， 你想要转去做 AI 的 ， 还是在谷歌实习之前你就看到了这个方面有非常大的一个前景 ， 然后发展很快了 ？
我是在去谷歌之前就想要转 AI， 然后我是因为想转 AI 所以找了那份实习 。 那份实习是 AI for code 的嘛 ， 我之前也尝试了一些其他的纯 AI 岗 ，他们都不收我 ， 我都没有拿到机会 。
这个岗位跟 programming analysis 有一点关系 ，因为这个背景被招进去了 ， 所以我接触到了 AI，但我其实是因为想接触 AI 进去的 。
但是我进去之后发现 ， 当时的人们做 AI for coding 的时候 ， 还企图利用一些原来的 programming analysis 里面的 technique 或者 tools 什么的 ， 非常的无力 ，其实什么忙都帮不上 。AI 人的幻想说我是不是可以利用一些另外一个领域的工具 ， 交叉学科的这种这种希望嘛 ， 利用另外一个领域的工具来帮助更好解决这个问题 。
但是我作为从另一个领域过来的人， 我其实发现这个工具非常的无力 。 当时就是看到了那个大模型已经是 coding 之初 ， 相反我反而看到了大模型其实已经把传统的这个领域里的技术都完全覆盖了 。
那个时候其实还挺早的 ，22 年， 它应该 ChatGPT 它还没有出来 ，但是在谷歌内部大家其实已经看到了这个方向了 ，是吗 ？
我估计其他的公司肯定也是有的 ，但是确实 ChatGPT 还没有出来 。 那个时候是谷歌刚出 PaLM， 然后内部有那个 Lambda， 就大家其实已经有所感觉了 ， 只是没有到全民爆发的阶段 。
当时好像有个谷歌的程序员 ，他号称 Lambda 是 。
对 ， 就是那个 。
对 ， 就是那个时候 。 那个时候我们还做了个报道 ， 然后还讨论了一下这个 AI 是不是有意识的 。
对 ， 就是那个时候的事情 。
我相信很多程序员他们可能也是第一次 ， 或者是很新鲜的一个感觉去接触 AI， 才会有它到底是不是有意识的这种讨论在那个时候 。
对 ，其实已经有 ， 确实已经很多人是已经看见了那个潜力 ， 很大的潜力 。 但是当时的模型潜力离真的生产 code 还有挺大距离的 。
我记得当时都是做一些生成一两百行的代码 。
嗯 ， 当时你们那个小组有多少人啊 ？AI for code 的那个小组 。
那个也是一个谷歌内部孵化的创业项目 ， 我理解就 Google Ads 里面全职应该 ， 我其实有点不记得 ，但好像一二十个人吧 。
然后那个暑假他们非常激进 ，他们想要尝试很多方向 ， 所以他们招了跟全职等量的 intern， 让这些 intern 全都去尝试 ， 疯狂尝试不同的方向 ，他们希望能从中看到一点东西 。
那后来这个 internship 结束的时候 ， 大家看到了什么东西 ？
我觉得当时那批人其实很多人后面还是很多人就还在做 code 的 。 那段经历对我的影响很大 ， 它让我看见了 ，因为我原来是不知道 AI 是怎么什么事情的一个人。
我经验中看见了 AI 原来这么多 powerful， 我发现原来根本就不需要什么显式的 reasoning。 我是被 shock 到的那一个人。 它让我非常坚定的进入了这个新的 topic， 然后我就要做 ， 就要做大模型 。
但大模型其实有很多分支跟不同的 vertical 嘛 ，但是你选择了做 infra 的那个赛道 ， 为什么呢 ？
其实也不是我选择了 ， 我其实也尝试了那个不是 infra 赛道的 ， 就是分析一下算法上的事情 ，但我发现我更适合 infra。
我那边可能没有太成功 ，infra 成功了 ， 所以最后登上了 ， 就是我的爆发都在 infra 这一侧 。 做 infra 跟我的思维习惯更接近 ， 它是可 reason 的 ， 确定性的 ， 基于数学的 ， 然后基于代码 ， 数学和代码这两件事情我都很熟悉 。
能不能说一下就是你最开始做 SGLang 是什么样的一个契机啊 ？
我转了 AI 之后， 最后 PhD 的两年就是在做 LLM inference 相关的很多 work，FluxJS 是我的第一个 work 嘛 ， 连续的一系列 work 到 SGLang， 它类似于成为了一个收官之作 。
我那个时候就是 PhD， 我可以毕业了 ， 然后我也觉得我已经做了很多不同角度的 research，但他们都比较 local。SGLang 是我希望把他们都集大成于一体的一个一个作品 ， 所以 SGLang 的时候我们就开始把它做成开源 ， 然后希望走向的是 production ready， 这个从一开始就想好了 。
从做 SGLang 之初就希望它是做成一个 production ready， 可以被广泛使用的推理引擎 ， 被大规模使用的推理引擎 。
其实你在做 SGLang 之前 ，VLLM 已经推出了半年多了 ， 你之前其实在 VLLM 也是做了一些项目的 ， 对吧 ？ 就是为什么已经有这样的一个东西 ， 你自己还是想要做 SGLang 呢 ？
这个历史也比较长 。 我在 VLLM 的 research paper 上， 嗯 ， 这个其实也是我本来自己在做 research， 然后其实当时我听到有这个 VLLM 项目的时候 ，他 VLLM 当时的 idea 跟我们在思考的另一个 idea 是类类似的 ， 所以其实当时我是被说那那既然我们 idea 类似 ， 那我要不 merge 进那个项目 。在我的视角里 ， 我是被 merge 进了 VLLM 那个项目 ，因为我觉得这个项目已经在做了我想做的事情 。VLLM 做
开源其实是 paper 之后的另一个节点 ，并不是在 paper 的时候就是一个开源项目 。 真的把它推成开源了之后， 你就要做很多除了 research 之外的 ， 就是不仅仅是 innovation 的事情 ， 你要做项目的维护 ， 社区的维护 ， 还有很多 engineering detail 的琐事 。
那段其实我就没有太参与了 ，但我还在做 ， 继续做我自己的其他的 research， 包括 XLoRA、SGLang、Fairness 这些事情 ， 就是 survey 里面其他的问题 ， 我继续在做 research。SGLang 是一个想要把我的思想能够在一个地方继续往上推的地方 ， 本来它也是以某个 innovation 为起点 ， 然后去做成一个 general engine。在我看来是当时有很多这样的 survey engine，SGLang 是嗯其中一个 ，并不是存在我在 VLLM 的这个 engine 里面 ， 然后做做到 SGLang engine 里面 。
那比如说 SGLang 跟 VLLM 的核心差异性有吗 ？ 还是说其实大家都差不多 ？
不同的团队做出来的肯定不一样 ，但是差异性它随着 ， 就如果你你不把时间维度放进去的话 ， 它们是会类似的 ，因为相互会学习 。
如果你有好东西一定会相互学习 ， 会 converge，但是你如果把时间放进去的话 ， 那每个时刻可能大家会有不同的侧重点 。
那比方说 SGLang 在在更更早的进军了这个 scale up 的方向 ， 就是把大规模的 surveying production 这种千卡级别 、 万卡级别的 surveying， 甚至千万卡级别 、 百万卡级别做做好的 。VLLM 可能在这个社区的覆盖 long tail 模型的支持上做得更早 ， 所以大家的 focus 是有所不一样 ，但是你现在去看的话 ， 可能两朋友又在又在互相学习 ， 来补齐短板 。
Databricks31:54
你在 Databricks 不是也做过五个月的时间吗 ？ 当时公司的联合创始人之一 Ion Stoica， 对 ，也是之前伯克利的教授 ，他跟你有什么样的合作吗 ？
他是我在伯克利 visit 的时候的教授 ， 所以我们在伯克利的时候就一起做了很多的 research。
他对你有什么样的影响呢 ？
在专业水平上给我带来了很多 inspiration。 我我其实我跟 Ion Stoica 我们还一直保持联系 ， 除了是我那个时候的 research 的一个 mentor 之外， 导师之外 ，他也是我可能 lifetime 的一个 mentor， 就整个 lifetime 的一个 mentor。Ion Stoica 是一个很特别的人， 当然他这么成功 ， 那肯定是很特别的一个人。
你觉得他特别之处在哪里 ？
他其实是个很立体的人 ，他做很多事情 ， 对吧 ？ 他同时看很多公司 ， 然后是一个教授 ，但如果你真的靠近他的话 ，他的骨子里他最自我认同感高的还是教授这个身份 ， 就是教授和学生 ， 这个是他所有身份自我认同感的 。
如果你追溯到追溯到根源 ， 这是他的根源所在 。他很在乎 making impact，impact 可能是他做所有事情的动力与支援 ，他也把这个精神传递给了他的学生 ，他的底下的学生和跟他一起共事的人可能都受到了这个影响 ， 就是 making impact。
但我其实不一样 ， 我我其实在另一个价值观里面 ，但是我我但是我能理解到了这一套价值观 。
啊 ， 所以 making impact 不是你的价值观吗 ？
对 ，不是同一类价值观 。
那你的价值观是什么 ？
就是我在乎的不是 making impact 本身 ， 我会在乎一些我想要 make 的 impact。 如果我觉得有一种 impact， 我有一种价值观 ， 我希望它被执行和被推向这个世界 ， 那么我就会非常努力的去推动它和希望它发生 。
我会尽一切努力 ，但其实我不是完全 care 这件事情是不是我推动的 。 嗯 ， 别人推动也可以 ， 如果有人愿意帮我把这个事情推动 ，that's great。
但一般来说不会有这样一个人。 但是我慢慢学会的是 ， 我真正自己想做的事情没有人会代劳 ，因为他有他想做的事情 ， 别人有别人想做的事情 。
最后你自己真正想做的事情 ， 你其实只有自己去坚持不断 ， 你只有自己能够能够长时间的去为那一件事情所奋斗 ， 然后让它发生 。
所以在这个逻辑上， 我觉得是有一些微妙的不同的 。 就我在乎的是 impact 的 ，不是 making。
所以就是在另外一个价值观说 ， 就是 making impact 有可能是非常的说我希望我个人有 impact，但是你更在乎的是这件事情 。
对 ， 我更在乎有一些我觉得正确的事情发生 。 嗯 ， 这个有时候会让我显得很 opinionated，因为我会有一些事情我有观点 ， 然后会非常希望我的观点发生 ，但我其实不是在乎它是不是我的观点 ，而是就是这个观点我 somehow 被它 intrigue 了 ， 被它给吸引了 。
我们说一下你在 xAI 的一些经历 。2024 年 10 月份 ， 你是当时加入了 xAI 吗 ？ 当时为什么选择 xAI 呢 ？
xAI34:37
我当时 PhD 刚毕业的时候想要推广 SGLang 这个项目 。 对 ， 我 so far 为止从我开始做 SGLang 之后， 我的整个 plan 都跟 SGLang 紧密相关 。
就是我当时刚去 Databricks 的时候想要在 Databricks 里面推广它 ， 然后我在 。
推广 SGLang。
推广 SGLang， 对 ， 或者说我至少找到一个地方可以可以好好的 develop 它 。 我也不一定说它能够取代所有的 stack，但是我希望它是给我一块地方可以好好 develop 的 。
我在刚加入的时候 ， 我觉得 Databricks 跟我说有这样的自由 ，但是实际上 Databricks 里面的业务模式还是不那么一样的 。
而且 Databricks 毕竟是一个已经很成熟的公司 ， 它不是你可以随便说我想做什么就做什么 ， 它做每件事情都需要理由 ， 或者充分的理由 。
然后我作为一个呃 researcher，new grad researcher 进去其实也没有太大的 power， 我自己也不够成熟 ， 就是你怎么在一个成熟的企业里面去 drive 一个比较大的 effort， 我还不会这件事情 。
所以我觉得当时那几个月没有尝试 ， 没有特别成功 ， 可能也造成了一些影响 ，但不算特别成功 。XAI 的给的这个机会就是它愿意去支持 ， 呃 ， 我和连悯是我的 husband，他已经在 xAI 那个时候 ， 那个时候在 xAI 之前还是在做 training，但是正好 xAI 到了一个节点 ， 就是需要去做 production inference， 然后就有了这样一个机会 ， 我和连悯可以去 xAI 共同 build 整个 inference stack， 整个 inference 的这个 solution 和 team。
所以它可以给我两样东西 ， 一个叫做 support， 一个叫做 freedom。 同时有 support 和 freedom 的时候 ， 我就能做这件事情了 ， 所以我就选择加入 xAI，而且当时应该只有 xAI 真正给我这两个 。
我有些其他的机会 ，有些是只给 support，有些只给 freedom。
确实我觉得能这两个支持你去做这个事情 ， 跟又让你自由的去做这个事情 ， 这个机会其实是蛮罕见的 。
是不是也是因为 xAI 那个时候比较早期 ， 所以才有这样的机会 ？
是的 。
那个时候的 xAI 是什么样子的呢 ？ 就在你能受的范围内给我们描述一下 。
我觉得 xAI 是是我生命中非常重要的一部分 。 就虽然我没有工作特别特别多年， 但是我在很多地方工作过 。xAI 是我回忆最美好的 ，xAI 的时光是我会回忆最美好的一段时光 。
成交这么高啊 。
而且我离开 xAI 的时候其实也非常不舍 。 我离开 xAI 的时候是因为因为 SGLang 的开源的一些需求 ， 到了一个节点我觉得我不得不去出来把这个 RadixArk 新的公司扶起来 ， 然后让我们社区能够很好的继续发展 。
如果不是因为这个原因的话 ， 我是不可能选择离开 xAI 的 ，因为也不是说完全不可能 ，但我说就是非常非常不希望也不舍得离开 xAI。
嗯嗯 ，而且我觉得这个想法不是我一个人有的 ，其实我知道在我们早期的那一批员工里面 ， 大家都有很多人有类似的想法 ， 甚至有些人可能在 xAI 的工作已经有点承受不住了 ，因为压力强度都很大 ，但他们还是一直在里面坚持 ， 就是因为他们不想离开这群人。
我的想法是类似的 。
所以是这群人你们形成了一个非常好的一个 team 的感觉 。
对 ， 我觉得是 。 我觉得早早期的 xAI， 嗯 ， 就我还我在之前的 xAI， 我所体验到那个 xAI 是一个就是个个都是人才 ， 里面个个都是人才 ， 然后大家互相之间也都很很 support 的 ， 很 friendly， 很 appreciate， 很 humble。
这是我当时 xAI 给我的印象 。
跟你的价值观很像 。
对 ， 我觉得非常的 ， 就是我觉得当时在 xAI 我能够非常专心的做事情 ， 没有太多的杂念 ，而且大家都是这样的 ， 就是大家都能够非常直白的做事情 ， 都知道把事情做成最重要 。
我经历过那么多公司 ，RadixArk 之前的是我第一次经历到一个 team， 一个公司里面完全没有任何 people game， 没有任何 politics， 当然后面可能慢慢的也会有公司大的时候 。
你们一直有多少人啊 ？xAI。
不到 100 人吧 ， 我加入的时候 。
哦 ，100 人没有 ，public xAI team 难得 。
可能也有 ， 我没有看见 ，但是至少我看见的范围里面我没有看见 politics。 我很幸运的在一个我能够非常就是好的思考问题的那个环境氛围里面 ， 然后我只要思考怎么做事情 ， 然后我身边的人他们也在思考怎么做事情 。
大家也会有一些摩擦 ， 那很正常 ，但是是一些就说不影响团结的摩擦 ， 这些摩擦是不影响 ，we are always together。
我觉得现在我们在 RadixArk 是带过来了这个氛围的 。
啊 ， 嗯 ， 那好棒 。 你把你在 xAI 的时候描述是 v1.0， 没加入之前是 0.0， 啊 ， 然后可能现在是多少 ？3.0，4.0。
我也不知道大家怎么定义了 ，因为后面就是我也不在了 ， 我只能听听大家的说法 。 对 ，但是我能够感觉出有那么几个阶段吧 。
嗯 ， 所以 0.0 跟 1.0 那时候是非常美好的 。
对 。
那个时候 Elon 的重心也不在你们身上 。
就 0.0 的时候应该是 Elon 不怎么在意 ，0.0 是我听说的 ， 我不在 0.0 里面 。0.0 的时候 Elon 对大家都非常的 nice，0.0 应该是非常非常美好 ， 像一个 family 一样 。1.0 的时候其实已经开始呃生长了 ， 我已经开始有这个生长痛 。1.0 的中途 Elon 回来了 ，但是我觉得就就算在那个时候 1.0 里面产生的阵痛 ， 大家也还是共同克服难关的 。
我我没有感觉到军心有什么动摇 。 嗯 ， 我觉得大家都非常团结 ， 然后也也彼此照顾 。 我觉得那个时候是彼此照顾的状态 ， build 了一段战友情的这种感觉 。
嗯 ， 这段故事特别珍贵 ，是因为它跟现在大众对 xAI 的一个认知差距是非常大的 。 因为现在大家的认知说 ， 就前段时间 xAI 的 co-founder 全部都离开了 ，either 被 fire 或者被 laid off， 或者自己辞职的 。
就感觉这两个 narratives 就好像在说两个不同的公司一样 。
确实很不一样 ，因为后面公司大的 ， 我觉得 xAI 是没有过那个阵痛期的 ，是没有过那个从很小的很团结的一个 startup 变成一个需要靠体制来运转 ，而不是靠人来运转的大公司的状态 。
它这个过渡期的阵痛是没有很好的抚平掉 ， 所以产生了这些巨大的变化 。 但有一天它可能又会找到一个新的 solution，因为 xAI 还在那里 ， 新的人员在新的组织架构 ，有一天它可能会找到一个新的 solution。
但是就是可能这是一个 another company 了 ， 就是从人员上来看的话 ，但 Elon 还在 。
哈哈哈 ， 对 ， 这是最重要的 。 然后又被 SpaceX 收了嘛 ， 然后上市了 ， 对吧 。 嗯 ， 那这一段我觉得就是对组织架构的一些阵痛期 ，因为你你肯定有你的观察 ， 你觉得对你之后做 startup，因为你们现在也是几十个人， 对吧 ？
然后可能很快你们会上百个人几百个人的一个规模 ， 会对你有什么样的 lesson learned 吗 ？
啊 ，有的 ，有的 。 我觉得我们现在就在一个很美好的时期 ，而其实我知道我们现在在一个很美好的时期 ， 就是这段时间大家会一定会成为他们以后就是我们所有人以后人生中非常珍贵的一段回忆 。
但是我们也一定会面临那个挑战 ，scale up 的挑战 。 对 ， 就是你在人少的时候 ， 你是可以通过文化 ， 通过人的管理去实现运转的 ，但你 scale 上去了之后 ，其实文化就很脆弱了 ， 人也很脆弱了 ， 个人能力都会变得很脆弱 。
那个时候你能不能把公司做大 ， 能不能把一件事情 drive 好 ， 更多的就是看你的 system build 的怎么样 ， 体系 build 的怎么样 ， 最后是靠体系去支撑的 ，而不是靠人去支撑的 。
这个转变可能我其实不知道正确答案 ，因为我没有经历过 ，但是我能学到的 lesson 就是这个过程要非常的嗯 intentionally thinking， 它不是一个会自然发生的事情 ， 它不是一个你只要公司这个计划有 ， 然后往前 move， 然后有 scope，有事可做 ， 你就 for granted 的会得到的东西 ， 它不会 。
如果你不 pay attention， 它是会 broken， 它就会 broken。
你当时就是主要任务是什么 ？ 就是当时你在那个 xAI， 比如说给 Grok 构建推理系统的时候 ， 我们是负责那个 engine 那一块 ， 然后我们要同时服务其他很多组 ， 包括 product 这种 ，product 是他们会部署 ， 做做 deployment， 然后我们需要跟他们对接 ， 然后他们遇到问题回来会抱怨我们说 engine 里面可能有什么事 ，有什么问题 ， 我们也要帮忙 。
就是 deployment 上的一些协调 ，configuration 什么的 ，也要跟 research team 合作 ，research team 做 evaluation， 跑 RL rollout， 用的也是我们的 inference engine， 所以我们也要去支持他们这个 workload 里面的各种适配 。
然后当时那个嗯在 xAI 的时候 ，因为就是它整个的这个算力系统也是非常的庞大嘛 ， 对吧 ？ 然后它后来又买了非常多这样的卡 。
你觉得就是在整个的过程当中， 比如说你是不是在里面受到了 full stack 的训练 ， 然后这对你来说产生了什么样的影响吗 ？
呃 ， 对 ， 我觉得在 xAI 的是机会 ， 就是能看到所有 ，因为当时 team 小 ， 所以能看到 。 而且 xAI 我觉得 Elon 还是 set 了一个我很喜欢的文化 。他他有 Elon 有一些有一些他的问题 ，但是他有一些很突出的地方 ，而且我很喜欢这样 ， 就是 Elon 能 set 一个没有没有边界的文化 。
一个没有边界的文化 。
没有边界的文化 ， 对 ， 就是在 xAI 里面 ， 至少我还在的时候 ， 我觉得任何事情我都是可以 touch 到的 。 我不会说大家组与组之间是被隔开的 ， 然后你必须限制在一个很小的 scope 里面 ， 只能做这一件事情 ， 然后你不知道外面发生了什么 。xAI 里面是不会这样的 ， 然后也没有特别多的 people management，xAI 里面都是 technical，而且它非常重工程师文化 ， 所以你做事情可以非常直接 。
然后这样一个文化就使得我能够看见很多很多个 layer 和很多个 component 之间大家是怎么合作的 ， 事情是怎么发生的 ， 它作为一个整体是怎么发生的 。
这个给我带来非常大的成长 ，因为原来我确实没有办法看到这么多的东西 ，并且在 xAI 因为强度很大 ， 压力很大 ， 然后人都是被 train 出来的 ， 就是你一定要就是 intense， 你只有就是经历过那个 intense， 你的成长撕裂 ， 就像你健身你一定要很累了 ， 你感觉到痛了你才 。
对 ， 肌肉才会长 。
对 ， 就是长肌肉 。xAI 的这个 intense， 它给我们带来的成长就是可能你在那里待了一年， 你可能在外面是好几年的才能拿到的成长 。
嗯嗯 ， 你当时是决定说 SGLang 想要把它商业化 ， 然后去成立 RadixArk 是一个什么样的时机点呢 ？
RadixArk44:07
对 ， 这个是因为当时在 25 年的时候 ， 前面有几波浪潮把 xAI 推到了一个还不错的被关注点 ， 然后有很多的需求向我们涌过来 ， 想要使用和让我们参与一起开发之类的 。
但是我们社区 ，xAI 社区是一个 ， 虽然最早我们也是大学里面做了一些研究 ，但从很早的时候开始 ，xAI 就已经变成一个纯社区项目 ， 就是我们的核心开发者都是网上认识的 ， 我们都是网友 ， 就跟我小时候那个嗯在网上学习 ， 然后我们就 。
大家可能都没见过面 。
没见过面 。 就现在还是核心开发者 ， 我们已经共同工作了两年了 ， 我还不知道他们长什么样子 ，有好几个已经 ， 可能也没有好几个 ，有那么几个吧 ， 我不知道他们长什么样 。
下次年会的时候可以把他们请过来 。
我们已经开了很多个很多次会 ，但是从来没有开过摄像头 。
OK。
嗯 ， 然后我们也从来没有要过要求过摄像头 ， 对方开摄像头 。 就大家就有一个默契 ， 那个默契就是我只要看到你的代码 ， 我就知道你是谁 。
啊 。
我也只想只看到这个部分 。
OK， 所以开摄像头或者是认识真正的认识对方这件事情不重要 ， 啊 ， 还是说大家都是 I 人， 所以不想开摄像头 。
啊 ， 我我觉得大家没有 I 到完全不想开摄像头 ， 没有这么夸张啊 。 我觉得是它它自然到 ， 你根本没有想起来这件事情 ， 没有说大家拒绝开 ，但是自然到你根本没有想起来这件事情 。
对 ，xAI 是个这样的社区 ，但是这样的社区也会导致就是我们大家其实没有那么的有组织纪律性 ， 虽然大家都很有热情 ， 然后也非常在乎这个项目 ，但是你还是很难说让大家有时间去把项目非常严肃的给它做好 ， 做成一个成熟的高质量水准的一个项目水平 。
对 。
除非我们有自己的公司 ， 变成我们的 full time job。
大家其实有自己的 full time job，也只是是说其他空闲的时间来为这个社区做贡献的 。
对 ， 就是晚上熬一下夜呀 ， 然后冲个宵呀 ， 然后周末再工作一下， 放假的时候过来写代码 ， 这样子去维持的 。
但是我们当时的增长是快到你不可能用这样的方式去维持 。 那个时候接到的很多需求 ， 我们想要去抓住这些机会 ， 想要跟对方合作 ， 想要 deliver 一些东西 ，但是我们还是强撑了一段时间 ，但我觉得强撑了那几个月之后发现的就是没有办法 deliver。
就其实大家都是很想 deliver 的 ， 你觉得我们已经不能再 stretch 了 ， 你知道这个 team 已经不能再 stretch 了 ， 它就是被 team 的 bandwidth 限制住了 ， 我们没有办法很好 deliver， 都是 borderline， 低空飞过 ， 或者甚至没有成功 deliver。
所以到了呃大概七八七七月份那个时候 ， 就已经我觉得我自己的焦虑已经到了一个 ， 我觉得如果我们再不出来做这件事情 ， 我再不把这个背后实际上的空空白 ， 就是这个是个中空的状态 ， 我再不把这个空白填填充的话 ， 我们就快要让外界失望了 。
我自己焦虑到了一个我觉得我没有办法再拖的这个状态里 ， 所以我从 xAI 出来 。
从 xAI 出来应该放弃了很多这个金钱上也也没有也没有 。
嗯 ， 还好吧 ，因为而且怜悯他在 xAI，他比我多 。 哈哈哈 ， 就是但但我确实是没满一年， 就是我是 one year cliff 的 ， 我出来说是十个月 。
啊 ， 对啊 ，其实我只要再待两个月我就可以拿到我的那个第一年的 vesting。
所以两个月都不能待 。
对 ，因为等不了 ， 等到七月份已经是等了很久了 。 嗯 ， 就是其实我可能五月份就已经已经有点受不了了 ， 到七月份时候已经实在是受不了了 。
如果不出来的话 ， 可能这个社区就两个月都等不了了 ，是吗 ？
对 ， 就是大概是那样的结果 ， 就是就是我的心理状态到了一个我没有办法 focus 做 xAI 的事情 ， 我已经没有办法 productive 的生产 ， 我对 xAI 的价值 ，但是我不能忍受自己在一个就是如果我是在 xAI 上班的 ， 我就觉得我要对它有用 ，不然我就会觉得我不配在这个地方 。
哈哈哈 ， 所以我当时已经到了一个我觉得我不配再继续待下去的那个心理状态了 ， 它不是我能控制的 。
哎 ， 刚才我忘了问一个问题 ， 就是你觉得金钱对你有任何的重要性吗 ？
有必需性 ， 没有重要性 。 它的必需性来自于有金钱可以让我解决很多事情更容易 ， 这个我可以还是我承认的 。
就我没有追逐过它 ，但是你真的说它不重要吧 ， 我也我也没有到那个程度 。 它能够给你带来的底气就是 ， 比如说我想创立这个公司 ， 如果有一天我融不到钱 ， 我还自己还有钱 ， 这是它它对我的意义 。
忘了提一段经历 ， 你在哥大毕业之后 ，其实是到了华尔街的一个对冲基金 ， 叫 Two Sigma， 里面是工作了有几个月吧 ，是不是没有到一年 ？
Two Sigma48:07
有半年， 六个月 。
OK， 啊 ， 就那段经历是什么样子的 ？ 就是在一个华尔街非常大家觉得说啊 ， 纽约这个华尔街上纸醉金迷啊 ， 然后在一个对冲基金里面 ， 好像跟你之前做研究的这个氛围是不是会完全不一样 ？
啊 ，但我们那个对冲基金是一个 Tech 对冲基金 。
对 ， 我知道 ， 就是还是很难对 Tech 的 。
对 ，但是我当时确实是想要接触金融 ， 觉得挺有意思的 ， 然后我有一任前男友是学金融的 。 哈哈哈 ， 这个剪掉 。
哈哈哈 ， 我一定会放出来 。
哈哈哈 ， 所以当时我确实是对那个就觉得金融挺有意思的 ， 然后有点好奇 。 就当时量化大家的说法就是那里面的人很聪明 ， 然后都是那个 。
但是好多 PhD 什么学物理的 ， 就好多 PhD， 后来那个我们学校都去量化了 。
就是我不知道为什么就是喜欢聪明聪明的 ， 跟聪明的人说话 ， 我喜欢做有挑战的跟智商挑战的事情 ， 所以它这个特点它当时吸引我 ，但这个也是吸引很多其他人的原因啊 。
那个时候我也就 21 岁吧 ， 可能 22 岁 ， 单纯的被这种东西吸引 ， 然后我觉得我要去体验一把 。 我觉得这个事情我要是不体验的话 ，以后我会一直想着它 。
但是我又觉得金融不是我的人生追求 ， 嗯 ， 我又觉得天天在那玩钱没啥意思 。
对 。
所以刚好 PhD 中间隔了有个半年的 gap， 然后完成一个体验挺好的 ， 我就去那里做了半年 。 那半年的回忆也非常好 。
如果要我排序的话 ， 我工作过的所有公司 ， 排第一的是 xAI， 排第二 Two Sigma。
哦 ， 哇哦 ， 评价这么高 。
但是我听说 Two Sigma， 就我在的时候又是它最好的时候 ， 我很幸运 ， 我每次在的都是它最好的时候 。
后来可能就有些变化 ，但是我在的时候是 Two Sigma 最蓬勃发展 ， 甚至拥抱开源他们那段时间 。Two Sigma 那段时间是做开源项目的 ， 非常拥抱科技 ，也拥抱 new technical AI with data 什么的 ， 然后里面的人也是非常的互相帮助 ， 然后我没有感受到任何的多余的东西 ， 所有人都只是在做事情 ， 然后所有人都非常的嗯开放 ， 非常非常 open， 非常非常非常 share， 非常喜欢 share， 质量
也很高 。 然后里面的交到当时交到的很多朋友 ， 到现在也还是我的朋友 。
大部分人还继续在华尔街量化 ， 里面还是也都会出来开始做 AI。
都有 ，有些出来的 ，有些还在里面 。Two Sigma 让我看到一个非常 organized 的公司的样子 ， 至少在当时 。
所以它是非常 organized 的 。
我当时觉得 Two Sigma 非常 organized， 我当时不觉得 ，但我后来去了其他公司之后， 我再回想我就觉得 。
原来其他地方这么乱 。
对 ， 我觉得其他地方这么乱 ， 就是 Two Sigma 它都不是一个 Tech 公司 ，但是 Two Sigma 的 infra 在我跟其他的比起来是最稳定的一个地方 。
嗯 ，有意思 。 你觉得原因是什么呀 ？ 就公司文化就是这样的吗 ？ 我觉得那样它非常的干净 neat。
我觉得是它的巨变不多 ， 它的业务模式比较稳定 ， 所以大家可以在那里一直做 maintenance， 大量的 maintenance。
所以对于就是做一个金融 ， 然后追逐那个 return 的数字 ， 然后赚钱这个事情 ， 就在你这边就不是 priority， 你只是想体验一下 。
对 ， 我只想体验一下 。 对 ， 我一开始就知道那不是我的 priority。
体验还不错 。
对 ， 体验不错 ， 挺好的 。
这个技术稍微给大家去科普一下，LLM infra， 你们在做什么样的事情 ， 你们在解决什么样的问题 ？
AI Infra51:10
Infra 分好几个模块 ， 我们的长远的目标是我们希望整个 infra， 我非常 vague 的说 ， 我们的这个结构性思考是我们希望 RadixArk 在一个地方 ， 它可以给你提供很好的这个基础知识 ， 让大家根据你不同的使用场景 ， 不同的 data 的形式 ， 不同的产品目标和不同的 survey 目标 ， 然后你有可能希望 model 它可能解决个很简单的问题 ，但是你希望它很快 。
嗯 ， 又或者是它要解决一个很难的问题 ，但它可以比较慢 ， 你都可以用这套工具源源不断的产生 ， 适应你不同目标的最好的模型 。
我们希望把这个 foundation 做出来 ， 这个 foundation 我统称为 infra， 它会包括传统意义上大家所理解的推理引擎 ， 推理和训练 post training， 这些都是大家传统的脑中的 keywords。
我还想在这里其实加一个 component， 就是基座模型也是 infra，在我看来 ， 整个这个 foundation 里面是包括了所有你需要的 gradients， 包括了这些 codebase、tool、toolbox、sandbox、environment 和一些中间状态的模型 checkpoint， 它们在一起变成一个工具箱 ， 你可以在这里进行组合去不断的产生更适用于你的场景和目标的特异化模型 。
那整个这个工具箱 ， 这个 foundation 是我们要做的 infra 的部分 。 现在我们因为要 focus 一步一步来 ， 所以我们现在是 focus 在 inference 和 RL， 它们处在你这个生产模型整个 pipeline 的末端 。
就假设说我前面已经走完了 ， 我的基础模型就 pre-training 已经做完了 ， 我有基本的 checkpoint， 然后现在我开始要适应不同的 task， 我需要做过 post training 的时候大家开始用 RL， 这个地方已经开始开枝散叶 ， 对吧 ？
因为 AI 进入人的生活的各个方面 ，有不同的场景需求 ， 这个时候你开始需要有不是一个模型解决所有问题 ， 你可以开始有多次训练 ， 产生多个 model 解决各种各样的问题 ，并且多个企业它们可能都想要自己的模型 。
所以 post training RL 在这个地方是一个 fan out 的状态 ， 所以它是比较适合做我们想要的这种给所有人 share 技术 ， 然后做一套 infra 让所有人都使用的这样一个模式里的 。post training 完之后的模型 inference， 那就更更加 fan out 了 ，inference 就真的到了末端 ， 模型都已经完成了 。
我 inference 我需要让你的模型的就是架构和 weights 都已经有了 ， 我需要让你模型在硬件上跑起来 ， 跑起来之后可以被你有 endpoint 可以被 call out， 别人可以来 ， 别人可以使用这个模型 。inference 就是在那个更末端贴近用户的部分 。
整个的 infra LLM survey 的这个版图哈 ，其实中间涵盖蛮多领域的 。 那比如说 VLM 是解决内存管理 ， 然后 H2O 是做 key cache 的压缩 ，SLoRA 是解决这个多 adapter 的并发 ， 然后 Chatbot Arena 做测评 ，SGLang 做结构化生成 ， 就是非常多不同的这个方向哈 。
那对这部分的研究 ， 你是有一个什么样的方法论在解决这些问题 ？ 就是还是说你就有一个很完整的这样的一个 roadmap， 说这些东西都是我要一起去解决的 ， 还是这些东西是你一步一步的去慢慢的解决这些问题的 ？
我觉得是一次性看见的 ， 短时间里一下看见的很多问题 ，但你做的时候你得一件一件做 。idea 肯定是跑得比动作手手要快 ，也不是我一个人看见 ， 很多人都看见了 ， 就是你上来一次看见很多问题 ， 然后大家慢慢的把一件事情每件事情都解决掉 。
那在解决这些问题的时候 ， 你觉得有哪个点是最难的 ？
我觉得没有哪个点是难的 。
哈哈哈 ， 就是去做掉就可以了 。
对 。
那你的优先级是怎么排序的呀 ？
哪一个能给你带来最大的 margin， 哪一个是最大的 bottleneck， 先解决最大的 bottleneck。 也有些是 dependent， 嗯 ， 比如说你要先解决 memory 的 key cache 的这个碎片化问题 ， 管理问题 ， 然后你才能解决 prefix caching 的问题 。
所以你觉得现在这些问题完全被解决了吗 ？ 还是还是有继续优化的这样的一个潜力 ？
那肯定总是有优化的潜力 。 那我 attention 现在有这么多的变种 ，sparse attention 还可以做得更 aggressive， 然后新的 innovation 不会停滞的 。
这一块其实应该是一个很大的市场 ，但这个市场为什么最开始从开源的生态里面跑出来的呢 ？
啊 ，也不能说是开源跑出来的 ，因为 inference 已经很长时间了 ，inference provider 你看从 Fireworks 之类的这些公司已经存在好几年了 ， 这些公司都很不错 ，有很大的使用量 ，而且你看 inference 的 landscape 有这么多的 companies。
对 。
这么多跟 inference 有关的公司层出不穷 ， 每年都在不停的出 ，但是你会发现这个游戏里面没有输家 。
啊 ， 没有输家 ？
没有输家 ， 就是所有的 inference player，inference provider player 不停的出来 ，有这么多 ，但是没有任何一个因为有 competition 的存在而消减下去了 ， 所有人都是同步增长的 。
我之前其实跟你那个 co-founder 班华安聊的时候 ，他就说做 infra 的人他需要的 taste 跟做比如说 pre-training 的这个 researcher 他的 taste 是不一样的 。
那比如说做 infra 的人他的 taste 是表现在什么样的方面呢 ？
哎 ， 我其实不确定是不是真的不一样 。
啊 ，是吗 ？
我觉得本质可能是相通的 。
那你觉得 taste 的表现在什么样的方向 ？
不论是在做 training 算法 ，pre-training 算法还是在做 infra， 你做一件事情时候是不是喜欢精益求精 ？
它是很细节的活 ， 就因为它这个 efficiency 要做得非常非常精致 ， 对吗 ？
不光是 efficiency， 就是如果你是追求一个目标的话 ， 可能就不在 taste 的这个维度上， 就是你如果要的是一个 end goal，end goal 和 taste 是什么 ？taste 其实就是你关注的不仅仅是 end goal，并且还有这个 end goal 的组成 ， 就是我的系统不仅能跑 ， 我并且知道它是怎么跑起来的 ， 它是一个设计过的 well designed 的形式形态跑起来的 ， 还是它是一个豆腐渣工程跑起来的 ， 它们有可能有同样的 end goal。
有 taste 就是说我更在乎它是一个很优美的形式跑起来的 ，而不是这个很很 。
豆腐渣的 。
对 ， 很很很 hardkey 的方式跑起来的 。
那你在乎吗 ？
我非常在乎 ， 这是 RadixArk 的文化之一 ， 就是我们非常强调这一点 。 我们想要成立 RadixArk， 想要好好的做一家 infra first 的公司 ，因为我觉得在很多其他的我之前工作过的其他地方 ， 或者是听大家讨论 ，以 product 以模型为目标的这些公司 ，在 infra 的美感上有所妥协 ，他们在 infra 的功能上还是很追求的 ，但是在美感上是有所妥协的 。
然后 infra 的人在整个这个 full stack 里面 ， 可能长期的处于一个被 underestimated 的状态 ， 就他们需要被迫去不停的 support 其他的 component，他们需要去 support 的 researcher 去很好的使用 infra 工具 ， 然后把实验跑起来去迭代 ，他们也需要 support 的 product 的人能够把自己的 product 运行得又稳又快 。
但是 infra 自己 ，因为我跟 infra 的之间的这个浪漫的关系 ， 我觉得 infra 它不是一个 support 的角色 ，infra 本身在我眼中就是产品 。
你在设计 ， 你在推一个产品的时候 ，因为产品面向用户 ， 你会去想我这个产品不是只有功能 ， 我会想这个产品美 ， 对吧 ？
我希望它好看好用 ， 被人说喜欢 ， 我希望它击中用户心里的痛点 ， 用户心里的击中人性 ， 我希望产品击中人性 。
但是没有人会说我希望 infra 击中人性 。 但是从我的视角里看 ， 我觉得 infra 也是击中人性的 ， 它只是没有直接到用户 ， 没有那么直接的联系而已 ，但实际上它产生这个深远影响 ，是从是从底层就开始往上传递的 。
我觉得刚才你说两个词 ， 我觉得非常有意思哈 。 第一呢 ， 你是说 infra 的美 ； 第二呢 ， 你是说你跟 infra 的关系是浪漫的 。
这两个词其实我很少听到 ， 我倒是没有仔细想过为什么是这个词 ，但是它它自然而然存在于我的脑中 。
啊 ， 就是其实我觉得写 infra 的人他们都是能理解的 ， 就是你写 infra 的时候 ， 你追求 ， 你会去会去觉得我这个代码写的 ， 我其实不知道怎么更细的拆解了 。
对 ，但是我不是特例 ， 我只是 one of them。其实有很多这样 ，有一批这样的人 ，他们都很在乎你的 infra 构建的时候 ， 这个系统它优不优美 ， 稳不稳定 ， 然后他们总是被迫去做一些 hardkey 的事情来达成目标 ，其实他们都是会在一个被拉扯的状态里 。
嗯 ， 我我明白你的意思 。 就比如说 ，其实如果你看这些大厂哈 ，OpenAI 有自己的 infra team，right？ 之前你在 xAI，xAI 也有自己的 infra team，是不是 ？
就是在这种大厂的时候 ，infra team 它总是一个 supporter 的这样的一个角色 ， 所以也就是说它有很多你需要去妥协的地方 。
但是如果你自己出来做一个 infra native， 就可以达到你所说的 infra first 的这种美感 。
对 ， 比如说在 RadixArk 其实我们是反过来的 ， 比方说我们也也有 training job，但是我们并不是说我需要一个 infra 的 team 去一直 support 这个 training job， 跑得非常的 on track。
我们其实反过来的 ， 我们希望这个呃 training job 它可以没有压力 ， 它只需要跑 ， 然后一旦你 training job 被卡住了 ， 遇到问题的时候 ， 我们希望大家的 focus 是把这个问题 systematic 的解决 ，而不是打一个 patch 上去 ， 让这个 training job 必须跑 。job 是可以 pause 的 ， 我们刷分也不着急刷 ， 我们也不是非要刷一个非常好的 benchmark 分数 ， 这个在我们这里不是第一优先级 ，但是我们如果能刷高当
然是好的 ， 我们不会说这事情不重要 。 但是在 timeline 上， 它不是 source ofurgency， 我们的 source ofurgency 是你的 job 不能被迭代的时候 ， 这个问题本身它应该怎么样从深层次的解决它 。
我们先所以回回去一点点 ， 然后让我们的观众更加了解一下， 就是 infra 的这个赛道哈 。 比如说我们在技术的细节上面看到这个 RadixAttention， 它其实是 SGLang 的一个核心技术之一嘛 ，是用 Radix 树来做这个前缀的缓存 ， 然后避免重复的计算 ，keyword cache。
能不能用比较通俗的语言给我们的观众来解释一下这个技术 ？
啊 ， 这个技术其实也比较简单 。 嗯 ， 啊 ， 就是当你有很多的 request 发到 engine 这边需要处理的时候 ， 如果你的 request 有一个公共前缀 ， 那我们就不需要重新计算这个公共前缀所对应的 keyword cache，而是可以复用 ， 就是你第一次一个 request 进来 ， 我已经计算过 keyword cache， 第二个 request 进来 ， 如果他们 share 的话 ， 我可以复用已经计算出来的 keyword cache。
所以这套 memory 管理系统就是对前缀的结构共享结构做了 indexing 和和存储 。 首先一个是你对进来的 request 之间的前缀的关系 ， 要建立前缀树来做 indexing。
做完 indexing 之后， 你需要把已经计算的 keyword cache 存在 key memory pool 里面 ， 然后把这个 indexing 跟这个 key memory pool 给 mapping 起来 。
既然它的核心是用重复的前缀哈 ，但是如果我们假设用户每次发的问题都是全新的 ， 没有什么共同的前缀 ， 那比如说长文档摘要或者创意写作 ， 那是不是这套机制就有一定它的局限性 ？
因为 agentic 的场景出现 ， 复杂场景的出现 ， 大部分都是会有前缀共享的 ，因为你只要进入多轮对话 ， 你的后面的对话都会要复用前面已经对话的 history。
所以前缀复用是大量存在在所有的几乎所有的场景里 。
是不是说 agent 来了之后， 这个问题是更需要被解决的 ， 或者更需要被优化的 ？
它一直都是需要被解决的 。agent 来了之后， 它确实可能被嗯变得更被大家所关注到了 。其实 SGLang 在刚 paper 刚出来的时候 ， 如果现在还回去看那个两三年前的 paper， 我们确实是以 agent 为为这个入口 ， 就是进来说我们为什么要新设计 SGLang 这套体系 。
当时还设计了一个 frontend 的语言 ， 都是为了 agentic 的 use case 所设设计的 ，因为我们觉得 LLM AI 它会将来成为变得非常 powerful 之后， 你需要构建一套人与 AI 之间交互的 interface。SGLang 的创作之初的动机其实是想要去定义和构建这套 interface， 让人和 AI 可以更好的交互 。
但发展到今天 ，因为你的挑战的啊重点 ， 可能 inference 就是后端 ，inference 挑战重点更为突出 ， 所以大量的开发精力是移到了就是 backend 的这个 runtime 的优化 。
但我觉得有一天 some point 其实我们还是应该回顾一下最初的这个想法 ， 就是为什么要 design SGLang。 这个 SGLang 呢 ， 它 structure 真的是 language，SGLang 原原初 design 的时候是希望它是一个 language。
我觉得有一天我们会 revisit 这这个部分 ， 就是最终它还是应该是一个 language 的形式 ， 这个 language 它是人与 AI 之间交互的 interface。
在看你们 social media 的时候 ， 你们经常就是说啊 ， 这个模型发了之后我们是 day zero， 就是从零天开始兼容的 。
能不能跟我们解释一下为什么这件事情很重要 ？
这件事情很重要是市场觉得它很重要 ， 我们做事情还是很 practical 的 。 我们做开源 ， 哪些事情重要和不重要还是被 market 所决定的 ，不是完全我们自己定义的 。
我觉得 market 上人性好像大家就是很希望东西刚出来的时候我就能用上， 这个愿望从 user 端一直传递到了那些我刚提到那些 inference provider，inference provider 进而又传递到了我们 ，也进而再传递到了模型厂商 。
所以这个链条式的传递 ， 它其实满足的就是一个人你想要就跟你发布了产品 ， 我要去第一天就去抢购一样的这样一个心态 。
比如说啊 ， 前段时间发这个 DeepSeek v4， 发布之后你们马上就是 day zero 兼容 ， 对吧 ？ 达到这个 day zero 兼容 ， 你们要去做什么样的事情 ？
这个跟模型跟模型的复杂度很相关 。DeepSeek v4 他们是在 arcana 上做了很多的创新 ， 所以我们其实花了特别大的精力 ，他们花了特别大的精力去去做这个模型的支持和各种优化 。
但是我们 DeepSeek day zero 支持这一次 feature set 做的也非常全 ，因为花了很多的时间 ， 非常非常多的 feature 都是第一天就兼容了 ，并且我们也是我们第一次有这个 RL 的 day zero。Miles 是我们的 RL 框架 ， 很多的算子层啊 ， 一些实现都要重写 ， 大部分的 code 基本上是重写的 ，因为 DeepSeek v4 的架构设计跟之前已经存在的模型有太多的不一样 。
是不是就是每一代新的模型出来 ，其实都是需要有个重新适配的这样的一个过程 ？ 只是说它的模型架构如果变得非常大的话 ， 可能你的这个 effort 就会更大一些 。
但是如果它就是一个一个一个非常小的一个调整 ， 或者是一个 upgrade 的话 ， 就是你这边其实就没有必要去做非常大的一些适配 。
对 ， 如果它的架构完全不变的话 ，其实甚至都不用适配 。 如果它只是更新位次的话 ， 那甚至几乎不用适配 。
最近有一些这个研究都是探索模型直接在 latent space 里面推理 ，而不是逐字去生成 token。 那比如说我们看到之前 Meta 的 Coconut， 还有自己的 CodeRDLM 等等哈 。
如果这个方面成熟 ， 你觉得就是在推理引擎的很多优化假设 ，是不是可能会发生一些变化或者重写呢 ？
如果这个成熟的话 ， 那确实很多事情是会变的 ，因为它推理的过程形态不一样了嘛 。 但是我觉得这个也本来就是你写推理引擎的一环 ， 世界在变 ， 结构在变 ， 然后你的事情要一直在变 。
这是一个本来就持续存在的过程 ， 我觉得这个不是变革 ，不是真正的变革本身 。
不同的团队啊 ， 或者是不同的这个 AI infra 的 player 适应变化的能力 ， 这个东西重要吗 ？
重要 ， 我觉得团队更重要 。 啊 ， 再举一句啊 ， 这个尤其是现在有 AI 了 ，AI 写代码写得这么快 ，其实你实现上变一点 ，其实就技术上来说不是真正产生巨大变革的地方 ， 技术上总是能做的 。
嗯 ， 我觉得真正的难点从来都还是在回归人团队本身 ， 人和团队本身 。
那为什么你们的人你们的团队就更好呢 ？
我觉得我们的人和团队团结谦逊又聪明又努力 。
那可能其他团队也会这么跟我说 。
我觉得其他团队也挺好的呀 ， 我觉得大家都挺好的 ，但你每个群体都会有一个自己的 ， 最终会形成一个自己的文化嘛 ， 大家各有所长 。
你强调的就是公司内部的企业文化是什么样子的 ？
我希望大家是 focus，focus 谦逊 ，focus and humble， 精益求精 ， 这个是我们就是我们追求极高的审美 ， 我们追求把事情做 solid。
我们希望 RadixArk 的人都是自己特别挑剔的人， 都是自己本身特别挑剔的人， 对自己对自己的作品特别挑剔的人。
那在今年年初的时候 ， 我们看到这个 VALM 的核心团队呢 ，也是上演化了 ， 成立了 InfraRact 公司 ， 然后也是融资了一点 5 亿美元 ， 估值 8 亿美元 。
这个产业之后会有更多的竞争对手吗 ？ 更多的公司会商业化来做这个事情吗 ？
我觉得完全有可能 ，而且其实它就是持续不断在发生的 ， 就是 InfraRact 和 RadixArk 这两家之后， 还有新的 inference 的 company 在不断的不断的涌现 。
谁会变成赢家呢 ？ 就是核心的竞争点 ， 团队的竞争点会在什么样的方向呢 ？
我其实不觉得我们在这个赛道 ， 虽然我们有 SGLang，SGLang 是 inference engine，但我觉得 RadixArk 的那个长远使命其实是不属于这个赛道的 。
嗯 ，有意思 ， 能不能详细来说一下 ？
我如果按照前面说话 ， 我觉得 RadixArk 我说的目的是我们想把最好的 AI 带给大家 ， 这是我们非常朦胧的一个目标 。RadixArk 接下来一年要做的事情 ， 三年要做的事情 ， 五年和十年其实都讲出来会非常的不一样 。
我们最终想要 ， 我不想透露 ， 我不想 disclose，但是我可以大概的说 ， 我认为 RadixArk 最终使命是要做下一代 AI 的 。
下一代 AI？
下一代 next generation AI， 我们的本质还是不是单纯的 infra implementation。
对 ， 意思是你们想要做模型吗 ？
呃 ，也不一定是模型 ， 它是下一个形式 。 就我现在就我不讲它是什么 ，但我可以说我们并不是停在这个地方 。
啊 ， 只是说这个 inference 或者是啊 infra 只是一个起点 。
对 ， 它是一个前前条件 ，但我们想我们要做的也不是模型 ， 我们将来想做的事情不是一个现在世界上已经存在的东西 。
哦 ，有意思 。
所以我其实不觉得我们跟 existing 的这些 inference player 是一个 category 里面的 。
就是它还不存在 ，但是你觉得它一定会发生的 。
我觉得它会发生 ， 然后你想把它找出来啊 ， 或者是我希望它发生 ， 我想看到它发生 。
我就很好奇 ， 你能跟我说一下我们会去把它逼掉吗 ？
哈哈哈 ，不能 。
好 。
对 ，但我可以说就是 inference 不是我们的 ， 它是一个起点 ， 它不是 RadixArk 的长远核心 。 所以我们其实跟其他的 inference 的 company 都是保持良好的关系的 。
我们的人也是全开源的嘛 ，SGLang 也不是 RadixArk 的所有物了 ，SGLang 是 LMSYS 下面 ， 它是属于社区的 ，但是我们公司的所有贡献在 SGLang 上都是开源的 ， 我们是没有 private fork。
我们的愿望也很简单 ， 我们其实只是希望这些东西被所有人使用 ， 我们并没有想要通过这个地方制造一个 difference， 然后去获取利益 。
所以公司的命脉是不在这里的其实 。
我们看到其实有不少的做推理引擎的创业公司嘛 ， 虽然有些公司他们自己不做引擎 ，但是也是在这个引擎上面去做服务的 ，而且现在体量也不小了 。
比如说 Bastion 是最近完成了 3 亿美元的融资 ， 估值 50 亿美元 ，Fireworks AI 现在估值有 40 亿美元 ， 然后 Together AI 现在呢 ，也是在寻求 10 亿美元的新融资 。
那同时我们看到这个 AWS 啊 ，Google 这些大的云厂商也是在提供这个托管推理服务 。 整个的 AI infra 的生态链最近在发生什么样的事情 ？
能不能跟我们梳理一下 ？
我觉得 inference 这件事情其实很早就存在 ，也发展了很久 ，但是今年 AI 可能在变得更加成熟 ， 就尤其是像 SaltBay 这个爆点 ， 大家都看到了嘛 。AI 变得更有用之后， 整个市场的 effort 可能会有更多的从 training 转向 inference， 就是开始需要让它盈利和兑现的时候 ， 然后这个转化又会使得 inference 的市场进一步的本来就已经很 exposed， 现在更更大的 explode。
所以你会看到很多这种雨后春笋般冒出来的各种各样的 inference 公司 ，但同时所谓的 AI native 的公司 ，他们也开始感受到了这个你继续使用 existing 的模型去做 prompting engineering 的局限性 。
与此同时 ，也有更多的公司开始需要利用好自己的 data 去做 customization 的这个需求 。 这个需求它从另一方面也在推动 RL 这一块的市场化 ， 一方面你看到有很多的新的 inference 公司出来 ， 另一方面你发现你会看到一个 established inference 公司在往 RL 那边 move，在往 RL 那边扩张 。
我觉得这可能是这个这一批公司里面最大的两个趋势 ， 最明显的两个趋势 。
Bastion 还有 Fireworks 也是你们的客户嘛 ， 对吧 ？ 但以后你们的用户 ， 你觉得以后会发展成竞争对手吗 ？
我不知道 ，他们有可能觉得我们是某种意义上竞争对手 ，但是我们不把他们当成竞争对手 ， 我们是更想和谐相处的 。
一个是我们其实重点重心并不在这个地方 ，不然我们就不会把我们的 inference 给大家随意使用 ， 然后还去支持他们使用 。
第二点是我们因为我们这个开源的意愿 ， 我们希望被大家都使用 ， 所以我们并不是也不想跟他们成为竞争对手 ， 我们希望这些都是我们的盟友 ， 然后我们更希望的是 focus 在 AI 本身的一些技术迭代上， 然后我们希望把这些技术可以跟他们所共同发展 ， 促成他们的这个业务模式的增长 。
现在你们服务的客户大概是什么样类型的企业 ， 或者是他们有没有一个什么比较典型的使用场景可以分享的 ？
我们各个 type 的客户都有 ， 从这个 data center 嗯 ，new cloud 就是 hyperscaler， 就这些是 cloud provider， 就是他们有 GPU， 我们帮他们想跟他们一起或者帮他们 sell GPU， 到这些 inference provider， 我们其实也想跟他们合作 ，也是希望他们成为我们客户 ，但现在还是一个 user 的关系 。
再往上到 AI，AI 这些公司 ，他们想要使用 AI infra 去不管 train 他们的 model 或者是 solve model 也好 ，他们也是我们的客户 。
还有一些传统的大公司 ， 它不是完全的 AI 公司 ，但是它想要用 AI 来助力它原来的业务 ， 那我们也希望在这里可以提供一些价值 。
SGLang 之后还开发了 Miles 嘛 ， 这个是主要是用在 RL 上面的 。 你们为什么同时要做 inference 跟 RL training 呢 ？
因为我们做的是整个 AI infra，inference 和 RL 是就我刚说它是在最靠近用户的两个末端的步骤 ， 所以我们从末端步骤开始布局 ，但是我们要做的是整个能够把 AI 制造出来的能力 。
这两个东西同时做难度大吗 ？
还好 ，因为它俩其实非常相关 。RL 里面很大一部分的挑战是来自于 raw 的 engine，raw 的 engine 它也是跟它就是 inference engine。
如果 RL 的话 ， 你更多的是要做一些调配上的调配上的工作和可能 weights transfer 啊之类的胶水性的工作 ， 那 scheduling 算法也有一些新的东西 ，但是系统层面它们有巨大非常非常大的 overlap。
对 ， 呃 ， 你刚刚跟我讲了两个很好的教授嘛 ， 非常教科书级别的教授 。 有没有哪个管理者你是觉得你遇到过就是是最好的管理者 ？
他们的特质是什么样子的 ？
其实管理这个词也很宽泛 ， 就不同位置的管理者 ，他们的功能也是不一样的 。 嗯 ， 管理与被管理 ， 它其实也不是一个单纯的管理与被管理的关系 ， 它其实也是一个职能分工的关系 。
就是一件大事要做成 ， 它背后一定要有一个有一个人， 有一个人他非常非常的跟这件事情绑定 ，他是不遗余力的要推动事情发生 。
这个人不管是 founder 也好 ，是那个 CEO 也好 ， 就是他可以是任何一个人 ，但是你必须有这么一个人 ，他以某种形式他跟这件事情被绑定了 。
这个角色这个人 ，他需要有很清晰的想法 ， 知道我们要我们从哪里来 ， 我们要去哪里 ， 我为什么要做这件事情 ， 团队为什么要做这件事情 。他需要能够有这个坚持 ，并且他要能够看见未来 ， 看见一个他想推动的未来 。
不一定也许没有他就不会发生 ，但是一定是一个他能看见的未来 。 有 vision 这些东西是最重要的 ，但是你有 vision 的这个人 ，他并不一定需要具备管理者需要的所有特质 。
你与此同时， 公司里面还需要的其他的管理者 ，他们又需要执行不同的 functionality， 比方说能够真的把一个 vision 变得变成真实 ， 变得可执行 ， 能够把人人与人之间的这个合作关系调度得很好 ， 这可能都是不同人的功能 。
管理者非常重要 ， 然后它的架构制度非常的重要 。
但是对 ，但我觉得我现在的想法都很初级 。 我其实现在 exactly 就是处在一个思考这个问题的阶段 。 就是我觉得我们刚刚我们刚好就在一个从我还能一个人看清所有事情到我现在看不清的这个阶段了 。
所以我其实最近就是在想这个问题 ， 我还没有我还没有找到答案 ， 我现在看到的都是挑战 。
哈哈哈 ， 对 ， 那现在这个挑战跟你当时刚加入 xAI 的时候面临的挑战是相似的吗 ？ 因为你 。
不一样 。
那你说 xAI 你你也是把它看成你的 baby， 看成一个很重要的一个事情嘛 。 那你在孵化它的时候 ，因为你加入 xAI 的时候 ， 它应该还没有 inference team， 然后你其实是把它给 build up 起来的 ， 这样的一个很重要的核心的人。
你觉得就是在回顾当时你面对的一个局面跟挑战的时候 ， 跟现在有什么样不一样吗 ？
啊 ， 还是完全不一样的 。 因为毕竟在 xAI 我不是 xAI 的 owner 嘛 ， 就算我想 ， 虽然我把它当成 baby，但其实其他人并不觉得它是我的 baby。
哈哈哈 ， 所以我其实并没有被赋能 ， 我并没有被 empower。
OK。
我有想法 ， 我有观察 ，但是我很多事情是改变不了的 。 我是没有办法去做很多决定 ， 或者是告诉其他人一些你想他人的决定的 。
那我的责任其实也没有办法扩展到那样那么大的边界上 。 哦 ，但是我在 xAI 确实学到了一句话 ， 这个 xAI 的那个两个 leader， 就是当时 Tony 和国栋分别跟我说过 ， 我不知道他们是不是串通过 ，但他们都跟我说同一句话 ， 就说那个你的 authority 和 responsibility 要 match。
就我在 xAI 我是没有 authority 的 ， 我只是一个一个小亲密 leader 而已 ， 就是我其实没有权利做很多事情 ， 所以我就没有责任 。
哦 ，OK，OK。 但是你自己对你觉得你自己有责任 ，但是我其实没有 。
我 actually 没有 。 我其实没有 ，因为我负不了责 。 我不能决定事情 ， 我就负不了责 ， 对吧 ？ 这个事情如果我不能决定该怎么做 ， 做错的话我也也担不了责 。
做对了就就不是我能控制的事情 。 但是现在的话 ， 就说这个这个公司 ， 那那我我要做决定 ， 我必须要做决定 ， 它变成我的义务 ， 我必须要做决定 。
那它做的好和坏 ， 所有的责任全部在我头上 。 如果事情没有做好 ， 我就要背锅 。 对 ， 那当然做好了你会开心 ， 做好了其实 team 的功劳 ， 做坏了是我的责任 。
这个就是跟之前的事情完全不一样的角色 ， 挑战也是完全不一样的 。
从研究员到大厂 ， 再到自己出来这个创业行业 ， 你对自己的定位有什么样的转变吗 ？
融资规则1:15:29
我其实没想过这个问题 。 我觉得我一直都只想我想做什么事情 。 我做件事情能够借用的身份也好 ， 资源也好 ， 当时的我觉得什么是最好选择 ， 我就会去做什么选择 ，但它们都只有一个目的 ， 就是我要做我想做的那件事情 。
两年前的时候 ， 我可能觉得我想我想要创造那个未来 ，professor 是一条路 ， 两年后的今天 ， 我觉得 professor 这条路走不通 ， 我就开始开开公司创业 。
不管是我是做 professor 还是开公司 ， 它都只是 approach。 我没有想过这个身份本身意味着什么 。 我不不是很在乎那个身份 。
但是因为你选择路不一样 ， 你要做一些其他的事情来辅佐你最终想做的事情嘛 。 比如说你现在是一个非常明星 startup 的 founder， 你要去融资 ， 对吧 ？
你要去招人， 你可能要去做一些其他以前你没有想过要去做的事情 。 所以就是比如说融资跟跟投资人聊这件事情 ， 对你来说是负担吗 ？
还是这个事情 ， 我我觉得这个融资这件事情我以前确实不懂 ， 就是被迫去做的 。 嗯 ，但这件事情总是要做 first principle thinking。
我如果要做我的目标 ， 这件事情该做 ， 那我就去做它 。 就我们当时融资还是挺曲折的 ， 这个具体我就不讲了 ，但是挺曲折的 。
但是我现在觉得我经历了这么长时间之后， 我现在对这个行业有些更多的理解了 。 我其实觉得我在跟他们打完交道之后， 我昨天我们聊完之后， 我又做了更多的思考 。
我现在觉得我对投资人有更多的 respect。 我觉得我更理解他们的一些想法 ， 为什么整个行业是一个这样的状态 。
对 ， 嗯 ， 就当然就是 SandHill 它有一套它的游戏规则 ， 那这套游戏规则我理解其实跟之前做 research 的时候是完全不一样的 。
你觉得你自己在适应这一套新的游戏规则的 ？ 我觉得没有真的不一样 ， 没有不一样 。 嗯 ， 本质逻辑肯定是不一样 ，但是本质逻辑都是就是不同的体系 ， 然后还是人， 还是人性 。
你追根到底还是所有的人性 ， 本质逻辑没有不一样 。
就是你把东西做好 ， 你追求的一个真的东西 ， 你把它给做出来 ， 说出来 。
哦 ，是吗 ？ 就是我觉得它它体系不一样 ， 它的学术界的体系跟融资体系 ， 投资人体系肯定是不一样的 。
所以你的规则不一样 ， 那你的这个 mechanism 不一样 ， 你做事的方式肯定不一样 。 但是归根结底 ， 它所有事情你再次说下去都是人， 人与人之间是共同的 。
所以当你进入另一个体系的时候 ，其实只是要学习那个体系是怎么回事 ， 怎么运转 ， 然后各种利益点是怎么样的一个平衡关系 。
然后你如果还是以同样的人的根本作为推理基点的话 ， 对这个整个体系的理解还是可以被推理出来的 。
这个点有意思啊 ， 就像发 paper 一样 ， 它是有套路的 ， 对吧 ？ 你写到了这个套路 ， 那其实你很快 ， 所有 average 的东西都是有套路 ， 或所有 common 的事情都是有套路的 。
最后的这个投资人应该是说结果非常非常好了 ， 英伟达 、AMD、 英特尔这几个最大的半导体公司都罕见的集体的投了你们 。
除此之外呢 ， 你们也是拿到了非常硬核的很多的投资人的背书哈 。 你觉得他们为什么投你们 ？ 他们看中了你们的什么 ？
我也很想问投资人这个问题 。 哈哈哈 ， 对 ， 我觉得我很难为他们代言 ， 就是他们看中了我们什么 。
但我如果说现在让我 self 一下的话 ， 那我觉得我们是在这个赛道里面一个跑出速度的玩家 。 我们跑出的速度让大家可以看见我们的未来 ， 我们也觉得我们可以有机会创造新的 market，也有机会去助力现有的 market。
我们可以 enable 更多的其他的 AI 公司 ， 或者是想要进入 AI 的公司去 enable 他们制造 AI 的能力 ， 可以让他们更多的接近 AI 和利用 AI 创造更多的价值 。
那么我们如果能提供这部分价值的话 ， 这个就是我们值得被投资的原因 。他们还是看重这件事情 ， 觉得这个事情是关键的 。
啊 ， 我觉得肯定很多人是看重事情的 ， 当然早期投资也有一些也看人吧 。 我我其实更喜欢看人的 investor，但可能后来啊 ， 可能接下来 A 轮 、B 轮 、C 轮之后的 investor 就会看数字跟业绩了 。
但是我们第一轮因为有这个看人的基础在 ，他们肯定是人和事一起看的 。 至于他们为什么看中了 ， 我就我就不替他们回答 。
哈哈哈 。
然后嗯 ， 你为什么对开源这么执着啊 ？ 这个是追溯到我其实想纠正一下， 我觉得我不是对开源执着 。
开源生态1:19:33
嗯 ，在乎 。 呃 ， 就是我没有刻意要在乎和执着它 ，其实它是自然发生的 。 当然我从这里获得价值观确实跟我以前的经历有关 。
我出生在江西这样一个就中部的省， 也不是很发达的一个省 。 然后我小时候受到的教育 ， 我已经在江西省受到了很好的教育 ，但是你放眼全国甚至国际去比的话 ， 那我当时受到的教育还是很很呃朴素的一段教育经历 。
当时我想要学编程 ，其实没有太多的资源可以学 ， 所以我大部分的学习都是从互联网上拿到的 。 计算机那个时候也不是最火的专业 ， 计算机竞赛更不是大家追捧的竞赛 ， 所以你能够在市面上搜集到的教材啊 ， 或者是各种资源都非常的稀少 ， 都是未经加工的 。
所以当时我的学习全都是来自于我去互联网上去看到的那些非常 random 别人留下的帖子 ，CSDN 对吧 ， 各种当时 online judge 的那个网上题库 。
我从那些地方学到的东西都是来源于学我 ， 我不知道是谁的人， 我至今也不知道他们是谁 ， 当时我也不知道他们是谁 。
我只是过去非常辞的把代码拿走了 ， 我回家研究 ， 然后我都不知道写这个代码的人， 把它使用出来的人是谁 。
我是被被这样一群人被互联网上不知道世界上在哪里的人给给 raise 起来的 ， 就是我是被他们教会的 。
所以 sharing open 的这个文化 ， 它对我来说是一个就像我生活的空气一样存在 。 我也没有觉得我在刻意追逐它 ，但是它对我来说就是一个从我很小很小开始 ， 它就一直在我身边的像空气一样 。
我觉得它理所应当 ， 你有一个 idea， 你做了一件事情 ， 你不分享出来 ， 那才觉得奇怪 。 我其实是这样一个状态 。
你觉得开源社区在最近几年有发生什么变化吗 ？
一个好的变化 ， 一个不那么好的变化 。 好的变化是我觉得开源越来越多了 ， 就是大家越来越追追追求开源 ， 嗯 ， 越来越愿意开源 ， 越来越相信开源的价值 。
不管是大家的这个 mindset， 就是人对开源的欣赏 ， 还是资本对开源的认可 ， 都是上升状态的 。 但是有那么一点不好的变化是它的这个追捧上升中也开始掺杂一些其实不是那么纯粹的东西在里面 。
你掺杂一些不是那么纯粹的东西 ， 一个是会破坏原来我们所想象的那个开源带来的那个美好美好的事情本身 。
另一方面是你如果开始有这样的东西存在了 ， 会让原来相信这件事情的人变得不那么相信 。 开源里面混进了一些功利主义者 ， 这些功利主义者的存在使得那些本来不是功利主义的人分不清楚开源里面的成分哪些是纯粹的 ， 哪些是不纯粹的 。他们的影响呢 ，不仅仅是他们自己 。
这是我可能觉得开源也你在变好的过程中也同时会开始出现的一种 balance 嘛 ， 就是东西总是阴阳总是共存的一种 balance。
大家最近对开闭源之争也聊得蛮多的啊 。 你觉得整个 AI 的走向会慢慢的往闭源那边去迁移吗 ？
还是说以后我觉得还是共存状态 。
我觉得开源不会停 ，而且根据我的了解 ， 它也没有停 。 有更多的人一直在想要进来贡献贡献自己的力量 ，但我也不觉得所有东西都应该开源 ，因为嗯 ， 你不能没有规则 ， 你也不能没有界限 。
就是完全的开放开源这个状态 ， 如果如果你没有掺杂太多的可套利的空间的话 ， 它可以是美好的 ，但你一旦把它完全打开的话 ， 人性的恶也会被放大 。
是 。
所以我觉得两种 argument 都是正确的 。 我确实也不觉得 AI 应该完全的展现在所有人面前 ， 它确实有 risk， 我不否认这一点 。
我也不站在 AI 应该完全被握在一小批人手上， 我也不站在那一侧 。 我觉得 AI 应该均等的被握在不同的人的手中 。
哈哈哈 ， 我们想做的就是这件事情 。 就是 RadixArk 不是纯粹为开源服务的 ，其实就是我们是有开源文化在 ，但并不意味着我们做的所有事情都是开源和为开源服务的 。
我们也为闭源模型服务 ，但是我们说的这个 decommercialization 是我们允许我们认为开源闭源是共存的 ，但是我们希望闭源它存在 ，但不 centralized。
理解 ，但这个怎么实现呢 ？
所以我们希望提供这个能能创造最好的闭源模型的 toolchain， 让所有人都拥有制造属于你自己的 AI 的能力 ，但是你制造出来的 AI 属于你自己 。
我还得到这个昨天呼吁 ， 就是大家都停止 AI 的研究 ，但是它又下了个附加条件 ， 就是说我想 make sure 大家都停止了我才停止 。
就是你现在 comfortable， 就是这些最强大的模型都被握在这么几个的闭源模型的 player 手中这件事情吗 ？ 这件事情它能被打破吗 ？
你觉得 ？
我觉得这件事情很难发生 。 嗯 ， 它是违背人性的 。
你是说就是所有人停下来 AI 研究这种事情是因为你大家没有在你这样一个体系里面 ， 大家没有拿到同样的资源吗 ？
嗯 ， 所有人都想要接触到最好的 AI 啊 ， 所以这个事情很就很难发生 。 我不觉得它不正确 ，其实如果说现在有一个非常强力的上帝 ， 它下来安排每一个人做什么 ， 那事情是可以发生的 。
我不认为那是一个非常差的世界结局 ， 就是大家都停了 ， 然后 Anthropic 领先 。 我不觉得这是个极度差的世界结局 ，但是世界不可能停在那个地方 ，因为没有一个这样一个上帝下来可以把所有人安排的按部就班 ， 一定会有人要在里面起义 。
所以我觉得它是不可能发生 。 那这个事情会往哪里走呢 ？ 终局可能不知道是不是一个会非常美好 ，也像你说的一个非常 decentralized， 每个人都能有自己的 AI 的这样的一个终局 。
但是你觉得 what's next？
就看我往多远的未来去想 。 如果我讲到很远的未来的话 ， 我觉得现现有的 AI 还没有强到它会真的完全控制和威胁到威胁到人类 。
所以在可见的目前我能够 guarantee 看到的未来里面 ， 人类还是安全的 ， 我觉得 。 那如果是这样一个前提下的话 ， 大家还是会互相追逐 ， 然后 AI 会变得越来越强 ，但是它这个强是一个 productivity 上去取代人类的一些功能性的强 。
它不能完全的取代人， 它只是取代了人类的一些功能 。 但这个变革肯定也是巨大的动荡 ， 它会对人类的社会结构 、 权力结构对产生巨大的动荡 ， 就是跟过往发发发生过的每次工业革命一样的一个一些席卷性的这种动荡 ， 可能比以往的工业革命更加工业革命 。
但是它是个你可以理解的范畴 。 更远的未来就是如果说 AI 它真的可以强到已经开始操控人类 ， 就它真的已经 over 人类 ，dominate 人类了 ， 能够做人类做的任何事情 。
如果那天真的能来的话 ， 我们是阻止不了的 。 我觉得我觉得那天就会来 ， 或者说你想阻止它的方式不是通过呼吁所有的人类停止来阻止 ， 这个事情是不太可能发生的 。
对 。
你阻止它的方式一定是发明发现另一条路径 ， 使得你允许 AI 继续前进 ，而人类还不会输 。
你在这中间想做什么事情吗 ？
我觉得我想啊 ， 我想要 build 的那个未来就是一个跟强力 AI 共存的未来 。 我们现在说我们要把强力的 AI、 最好的 AI 带给所有人， 就人类需要这个公平 。
你不太可能通过一小部分人把好的 AI 握在手里 ，其他的人都无能来来维护表面上的和平 ， 这是不可能的 。 如果说 AI 一定要往前走的话 ， 那所有人都往前走 ， 所有人都能够去 ，不一定是所有人， 不是 literally 所有人 ，但是我说大家都不是被这样棒的 ，而是你如果你是个你有这个想 idea 潜力 ， 你知道往前走的时候你能够接受到最好的人类知识的话 ， 你需要在这样的竞
争环境中往前走 。 它是一个健康的与 AI 共存和大战的状态 。 你先要有这样一个假设 ， 然后整个人类他们才能是团结在一起去寻找这个 solution。
所以这件事情是必然的 。 我们不管如果那天发生 ， 真的到了有一天你需要让人类寻找一个新的 solution 的话 ， 这个它都是个前提 。
你先要让所有的人类平等共处 、 团结一致 ， 然后你才能再寻找一个人类与 AI 共存的世界 。
LMSYS 你再讲述一下那段经历吗 ？
LMSYS1:27:03
LMSYS 是我们想我跟连敏最早一开始想成立一个机构 ， 这个机构可以让不同学校的人参与研究 。LMSYS 到今天虽然它是一个 non-profit 的 ， 然后我们大家都在里面 part-time 的帮一些事情 ，但是 LMSYS 其实是一个我们想要非常严肃做的事情 。
如果说 RadixArk 有一天我希望它永远走下去 ，但如果有一天它不是走到底的话 ，LMSYS 是那个我终生会做的实验 。
但是它跟 RadixArk 也有些共同性 ， 就他们的都有个共同的 value， 就是关于平等和关于平权 。LMSYS 的平权是来自于我们希望能够孵化优秀的人才做的项目 ， 即便他们没有充分的背景 ， 没有充分的后台 ， 没有充分的 branding， 这个是来源于一些我自己个人经历 ，也我经历过低谷的时期 ， 很很低谷的时期 ，也经历过很很高昂的时期 。
我自己能感知到这里面的 difference， 可能同样是我同样做了一件事情 ， 我在高昂的时期做的那件事情非常容易被大家关注到 ， 被大家记住 ， 甚至被大家夸大 。
但是我在低谷时期做的事情有些也不错 ，但是其实你就你就很难被大家所所看见或者是被大家认可 。
但我觉得这个 difference 是没有必要存在的 ，而且它是破坏社会公平竞争结构的 。LMSYS 希望做的是抹平这个这个差异 ， 希望好的项目真的能够被推脱举出来 ，并且我们希望 credits 能够分到做事情的人身上， 让可能还没有积累 、 没有 established 的人对项目有更强的掌控权 ， 保护未 established 的真实的开发者的掌控权 ， 对项目的掌控权 。
我看你在开源社区的时候还做了一些蛮多呃其他的一些项目 ， 就比如说这个 LMArena 这个东西 ，其实在行业里面就是影响也是挺大的 。
那段时间就是呃你其实主要还是一个主线嘛 ， 就是说不同的项目它在不同的 project 这样来推进是吗 ？
Arena 是当时我们做 LM 这段时间的一个其其中一个 fun project， 当时觉得这个事情挺有意思的 ， 然后做了一下， 然后它意外的得到了挺多的关注 。
哈哈哈 ， 可能大家当时就觉得就排行搒这个事情可能本身它具具有一定的娱乐性 ，但是我觉得这个 Arena 确实是我们开始做的 ，但你真的说把它壮大然后做成公司 ， 那确实还是我们后来就是韦琳 ， 就是我们把这个项目交给了韦琳他们 ， 然后后面一些新的人也加进来 ，是后面这个新的团队把他们真的做成商业级别规模的一个项目 。
就是刚才你说呃每个人要公平 ， 要平权 ， 呃平权更多的是说相同的机会啊 ， 相同的机会 ， 对 ， 会特别是对于 tech 方面的一个呃怎么说 ， 程序员也好 ， 或者是 researcher 也好哈 ， 就是你对这件事情的在乎是呃因为什么样的契机或者是什么样的经历 ， 可以跟我们分享一下吗 ？
一部分是我觉得我好像天生就是这样的 ， 就是我生下来就是在乎这个事情 。 另一部分可能也是一种延伸 ， 就是我觉得我从小到大是我觉得我是经历了看见经历和看见了很多性别歧视的 。
我觉得虽然大家回避这个就没有那么这个话题有一定的可争可争议性 ， 就是你怎么界定是或者不是 ，但我觉得我还是很明显的说这个事情它存在 ， 你无法回避它存在 。
而且我非常切身的经历过无数这样子的例子 ， 它每一个例子你单拎出来它都非常小 ，但是它是那种就是一件在你生命中无时不刻每天发生的平凡的小事 。
所以它其实对那些被影响到的人造成的影响 ，不是你听到一个例子的时候说感受到的冲击 ，而是把那一件小事的冲击乘上 1 倍 ， 那才是对那个人人生的真真实的冲击 。
然后你再把它扩大到整个群体 ， 它所造成的这个互动性影响 ， 就是 common sense 的影响 ， 刻在所有人共同认知里面的影响 ，是没有办法用一个例子去去说清楚的 。
我觉得这个是是它它造成了我为什么特别在乎平权和和和公平平等这些东西的一个性格特质原因 。
第三个就是我刚跟你讲 ， 就我自己经历过 ， 我知道我能感受到就有有些包括我自己做的 ， 我发那些 paper，有些 paper 其实我觉得也就一般 ，但是那个 paper 可能就是因为是我发的 ， 或者是我一个斯坦福发的 ， 伯克利发的 ， 然后大家就会觉得它是一个标准 ，但其实同期可能有一些跟我跟我做的 paper 差不多的 paper。
我其实只是一个 researcher， 我不是那个科学家 ，但是但是因为因为这样一个身份让我这样 paper 被定义了 ，但是我觉得这个事情它嗯本不应该这样子 。
就虽然我是获益者 ，但是我当我是获益者的时候 ， 我觉得我有我有我现在终于有力量可以因为我是获益者 ， 我终于有力量把这个事情往外推动一点 。
MSYS 想要以什么样的形式去把这个权利很公平的分给每个人呢 ？
呃很难 ， 哈哈 ， 就是首先我们都知道这是一个结构性问题 ， 它不是我能做的或者是这个一个机构能做的 。
我就有有一次我跟像 Sloika 聊天 ， 我忘记是具体聊了什么内容了 ，但是我跟他说我想改变一些东西 ，他聊到一个什么事情 ， 我说这个事情我想改变 ， 然后他说你改变不了 ， 或者是他问我说你你觉得你能改变吗 ？
改变的了吗 ？ 然后我就说我说我我不能改变 ， 我确实没办法改变 ，但是如果我能改变 1% 的话 ， 我愿意用我的一生去改变这 1%。
一样的答案就是我觉得我改变不了 。 嗯 ， 这个挑战对于我来说在这个挑战面前我太渺小了 ，但是我觉得我能改变一点点 ， 或者是改变我身边的一点点人， 然后这个一点点人他们会再把这个精神再传递到更多的人身上， 它就发生一点点变化 ， 那那我就觉得它值得我用一生去做 。
嗯 ，但是这个里面有一个很微妙的地方 ， 就是你所说的所说 ， 当我们想要改变一件事情 ， 推广一个价值观 ， 或者你想改变身边的人的时候 ， 这个传递是非常容易出错的 。
对 ， 这非常非常容易出错和被人利用 。其实真正最后你能够传递的是你是不是能够把就是你要 pick pick 的人非常重要 。
有很多人他就他就不在这个里面 ，他根本就不在这个体系里面 。 所以你你不是所有人都可以被压就可以 。
所以你你要找的那些人不是打个比方说我现在想帮助弱势群体 ，但不是说我真的去帮助弱势群体 ， 这事情就能被解决 ， 解决不了 。
你你要解决的是你要找到那些跟你一样想去找到想帮助弱势群体的人的人， 你只能去找到那个能把这个东西散布出去的人 ，而不是直接去做到 。
就比方说哪怕你培养更多的学生成为老师都是不够的 ， 你要培养的是想要去培养把学生培养成老师的老师 ， 你需要把那个 recursive 的链条建起来才有用 。
对 ， 然后这个事情它会非常的慢 ， 它非非常非常的慢 。 所以我觉得我做不了多少事情 ，但是但是它的好处是你如果能做到一点 ， 它就做到了 。
它不是个会回退的边 ， 它不是个会回退的改变 ， 它是一个 gradual 的 ， 就是你往前推了 ， 它就是往前推了 。
对 ， 它至少是 solid 的一个 improvement。 我觉得所有的 improvement 只要它是 solid 的话就可以 。 如果它不 solid，但看上去很 ，但是看上去是个 big jump，但它不 solid， 那你这个 big jump 就没有意义 。
就我们平时推项目我也这么跟他们说的 ， 我说我不用着急 ， 我们不用到那个 go。 但是你要但是我们我们重要的是你 team 能不能训练出来一套系统化方法 ， 我的每一小步的 move 是不是 solid 的 ， 哪怕我就动了一点点 ， 比你那个动了很大一步 ， 那将来还要退回来要好很多 。在 research 界也会有性别歧视吗 ？
它也不能叫歧视啊 ，其实没有那么严重 ，但性别不平等 ， 它可能都没有到平不平等和歧视的地步 ，但是它会有 。
但是这个这个很很多小很 subtle 的很 subtle 的这种意识层面的不对称是无处不在的 。 我给你举个微妙的例子吧 ， 就非常有多微妙这个事情 ， 就是微妙到你会觉得它不是个事 。
就打个比方说小时候 ， 比方说我进赛出身 ， 我打竞赛竞赛打得很好 ， 如果我是个男生 ， 大家就会说我是天才 ； 如果我是个女生 ，他就会说他很努力啊 ，他很听话 。
嗯 ， 就是你很用功 ， 哈哈 ， 对 ， 还有就你或者你运气好 。 我小时候经历的是什么呢 ？ 就是有一年的竞赛 ， 那年我一直是成绩是就是各各种大赛比赛都是很好 ， 都是顶尖最好的 ， 反正至少是比我我们学校里跟我 peer 的那个人要好很多 。
但是我身边的人会找无数个理由来解释我为什么好
。他们觉得你赢是不应当的 ，他们否认你是天才这件事情 ，他们不否认 ，他们不会否认他们 ，但是他们会觉得你就是如果换一个人， 那个人赢是理所应当的 ，但如果是我赢了 ，他们会觉得你这个赢需要被解释 。
但是你正常情况下一个人赢是不需要被解释的 ， 我为什么要去 explain 他为什么赢呢 ？ 他厉害呀 。 对 ，但是我的每一场赢都要被解释 ， 背后都有个原因 ， 叫做我为什么赢 ，而不是你为什么输 。
这个解释可能是哎 ，他这个他他的对手最近状态不好 ， 哈哈哈 ， 然后下一场他的对手状态又没回来 ， 哈哈 ， 然后下一场是哎 ，他这个题压中了 ， 这个题他以前做过 。
但是可能你其实这个任务其实我并没有做过 ，但是你就你感受到这个这个这个也不是故意的恶意 ， 让人很知心 。
这些微妙的存在也会出现在你之后做研究 、 读博士 、 做项目 。
对 ，是永远不断的 ，也都永远会一直有这样的存在 ， 就是说你赢了 ， 你比人厉害 ， 大家就会给你找理由说哎 ，他为什么 ， 为什么是他 ， 为什么对 ，他们会说我要进去研究一下这个人为什么可以 ，他为什么可以 ，他为什么能发这么多 paper，因为没有太真还赚啊 ， 哈哈哈 。
一旦有一个合作方 ， 然后这个合作方他是男性或者是他是 established 的 ， 别人就会觉得哎 ， 这个 idea 会不会不是他的啊 。
就是这些很微妙的事情 ， 就是你单独去看的时候他们都很小 ，但是我说这是一件持续发生 ， 每天发生 ， 每分每秒在发生的小事 ，而且它会波及到每一个在这个群体里的人。Exactly， 你根本就没有办法跳出这个框架 ，因为一旦你跳出 ， 别人就会觉得你小气 ， 别人就会觉得你格局小 。
我年轻的时候在对这件事情的态度会更极端一些 ，但我后来觉得我已经觉得没什么好 ， 就是这个事情是不需要被讨论的 。
你要解决这一点只有一个方法 ， 就是你让所谓的弱势群体 ， 或者说如果在这个 specific example 的话 ， 就是女性真正拥有权利 ， 除此之外没有别的办法 。
你就是不断去赢就好了 。 对 ，而且这个权利是所谓的人类的真的 top 0.001%、0.01%、0.1%、1% 里面全部平权 ，他们只有真正获得权利这个事情才会被改变 ，其他所有的一切通过 education 是达不到任何目标的 。
你觉得在过去十年有好一点点吗 ？ 还是没有 ？
啊 ， 肯定有好一点点吧 。 对 ， 我觉得是社会是在向前 ，但是这个它你如果拆分到不同的方面的话 ， 哎 ，有些有些地方可能也在也也有 ，也不是都在变好 。
对 ， 它那个价值观是一个很很波动的状态 ，但你整个来说的话 ， 我觉得是在变好 。
好的 ， 我觉得我们 cover 了大部分的东西 ， 你让我再看一看有没有什么问题 。 你觉得有什么问题我们漏掉的吗 ？
世间美好1:37:42
我没有想过有什么问题要问 。 对 ，但是但是我倒是结尾的时候 ， 我倒是可以有一件事情想说 。 昨天你们过来 ， 然后你给我看那个 doc 的第一眼 ， 我其实当时挺打动的 ， 就是那个 doc 里面已经有很多对我的描述 ， 就感觉你们已经对我 ， 我不知道这是 AI 生成的还是人做的 ， 就是很没有 ， 我们看了很多人做的 。
挺详尽的 ， 就是我觉得很多投我的投资人都没有这么样的去看看过我的经历 。在我跟他们聊天中， 我发现他们不了解我的经历 ，他们不了解发生过什么 ，他们可能在别的侧面去打听了 ，但是这份 doc 还是我当时印象很深刻 。
我觉得包括融资的这段经历给我的一些成长 ， 就是很多职业本身我们觉得会做的事情 ，其实它们不是自然发生的 。
然后也许我原来觉得一个做采访的人 ，他就应该对被采访者先有一个深度的 study，但事实上很多的采访者他们并不一定真的会做这件事情 。
然后也许我们觉得投资人他应该对方的做个很深度的调查 ，但实际上大多数投资人都没有去做深度的调查 。
也许我们觉得一个 PhD 应该好好做研究 ， 大多数 PhD 未必真能好好在做研究 。 有很多事情它在定义里面该发生的其实不会发生 。
我后来发现一个人他只要能把你职职业里面该做的事情做完 ，其实就已经非常稀有了 。 我觉得我昨天看那个 doc 的时候 ， 我不喜欢采访 ， 本来我们也差点就要推掉了 ，但是但是我昨天看那个 doc 的时候 ，其实我觉得我愿意好好做一下采访 ，因为我觉得你们做的这个劳动我是 respect， 我就是想说一句 respect。
谢谢 ， 谢谢 ， 我也很 respect 你 ， 哈哈哈 。
然后我觉得就是很多就刚刚聊到的 ， 比方我的 PhD 其实前面有很多波折 ， 融资时候也有很多波折 ， 我们这个开源项目做起来也有很多波折 ，但我现在真的要我说结局怎么样的话 ，其实这三段波折或者说过往包括童年的很多波折 ，他们的波折之后的那个终点都非常的好 。
我的 PhD 第一年这个 retake 找导师不是很顺利 ，但是最后我找到那个导师 ，他是一个教科书般完美的导师 。
我们这个开源项目一开始也有各种各样的被被打击 ，但走到今天我们有了一个就是这么好的团队 ， 我们团队大家都这么的这么的有能量 ， 这么的有热情 ，而且这么团结 。
我们融资我前面也经历了很多各种各样的事情 ，但我觉得最后我们容纳下来这些投资人也是教科书般完美的投资人。
我我在当时刚出来融资之前 ， 我对这种一无所知 ， 所以我想去学点东西 ， 我就去看了看了一些书 ， 然后理解了一下融资的书 ， 怎么去融资的书 ， 呃 ， 类似吧 ， 可能 founder 跟投资人之间的相关的一些书 ， 相关相关的一些书 ， 哈哈 ， 差不多 。
然后我想理解这是什么东西 ， 我那个时候我很多名词都不知道的 ， 我不知道什么叫 term sheet。OK， 就是我是在一个这样的状态下出来融资的 ， 我也不知道什么叫做估值 ， 什么叫做 seed 的 ， 我都可能就没有概念 ， 很多基本概念我都不知道 ， 都都不理解 。
然后 p shark 是什么 ， 我 p shark 这个词我都没有听说过 ， 什么叫 p shark 是什么 ， 要写多少页 ， 每页写什么 ， 对吧 ？
对 ，是完全没有概念 ， 就是就是没有概念到 p shark 这个词我都没有听说过 。term sheet 是什么东西 ，有个人跟我说你们有没有拿 term sheet， 我说啥是 term sheet， 哈哈哈 。
我在一个这样的状态里面 ，但是所以我就去尝试去学这个东西 。 但是我从书本里面看到的 ， 书本里写的都是美好 ， 书本里面告诉我的那个投资人和 founder 之间的关系是是一个终身友谊的关系 ， 是一个你们并肩作战的关系 。
那虽然我早有准备 ， 童话总是美好的 ， 虽然我早有准备 ，但但那个现实不是这样的 ， 现实总是复杂很多 。
但是我最后真的跟我们 pair 的投资人这些 partners，他们又回到了我当初在 textbook 里面看到的那个所谓的投资人跟 founder 之间关系 。
书本也没有骗我们 ， 包括我以前 PhD 之前很多人跟我描述过的 PhD 导师跟学生之间的关系 ， 可能也是过于美好的 ，但是我最后拿到了 ， 就是那些美好的描述 ，他们都没有骗我 。
世界上存在那么纯粹那么好的导师 ， 存在那么好的投资人， 存在这么好的采访者 ， 哈哈哈 。 但是绝大多数人他们没有坚持到把那个跌宕起伏的过程走完 ， 没有坚持到相信那个好的东西是其实是存在的 ， 只是说你要筛选 ， 只是说你要有耐心等着它最后显露出来 。
你要有这个耐心 ， 让那些其实不是理想状态的沙粒自己脱落掉 。 然后很多人可能在中间就开始怀疑了 ， 然后放弃了 。
对 ， 怀疑了放弃了 ， 或者是他不再相信了 。 就借这个机会我其实想说 ， 就是那些好的东西都存在 ， 所有好的东西都不是都不是编出来的 ，但是你要非常相信它 ， 你要相信到你身边没有这样的人， 你还相信它 。
然后有一天那个跟你一样相信的人 ，他有一天会跟你相遇 。 嗯
， 坚持 ， 哈哈哈 。
这一段特别好 ， 刚刚我都有点想流泪 ， 你知道吗 ？ 嗯 ， 这一段太好了 。 最后两个问题啊 ， 就是你是一个逻辑如此缜密之人 ，但是就像你说的 ， 这个世界上很多东西是乱的 ， 或者是它逻辑上是不成立的 ， 就很多 random 的地方 ， 就世界是个草台班子 。
就是这件事情能自洽吗 ？ 还是说你其实是会 suffer 的 ？
就我在我的逻辑里是自洽的 ， 我的逻辑不受不受我看到的事情的干扰 。suffer 也有啊 ， 就是会 suffer， 就我我其实很 emotional， 我我是非常 emotional 的人 ，其实就是很很多很微小的事情会对我造成非常大的情绪影响 ，但是我能够把那个情绪影响跟我的价值观构建分离开 。
比方说我看到了很多事情 ，他们我不想看到 ， 我不希望它发生 ，但他们都发生了 ， 然后我觉得很不高兴 。
但是我看完他们之后， 不会导致我觉得那个是正常的 。 我仍然会坚信那个我没看见 ，但我相信的东西是对的 。
嗯 ， 我仍然会坚信 ， 就像我刚刚说的 ， 我仍然会坚信有一个我想看见的世界 ，但是我现在没看见它 ， 只是我还没看见它而已 。
就这个事情 ， 我可能会相信它几年、 十年的时间 ， 我还相信它在那里 ， 这个东西很难被改变 。 但是我过往的经历告诉我 ，他们其实都存在 ， 最后我都遇到了他们 。
所以所以我有很多正反馈 ，但我觉得有很多人是没有看到正反馈的 ， 所以你也不能说就是要求所有人都坚持 。
但是我觉得我是幸运的 ，因为我全都看到正反馈 ， 就是我的正反馈循环让我可以在后面的遇到这种类似情况的时候坚持的越来越久 。
可能我第一次的时候我等了几个月 ， 然后它被验证了 ， 下一次我等了几年， 它被验证了 ， 再下次我等了十年， 它又被验证了 ，但我就知道它总是那边验证 ， 下次我可以等 20 年， 再下次我可以等 ， 就没有人生可能等完了 。
但是我想就是至少我等到了 ， 我觉得别人也能等到 。
你有没有想过 ，因为你是对的人， 你是正确的去做这件事情的人， 所以你等到了 。 比如说有些人他可能对自己的认知有误 ，他可能不是最正确的那个人 ，他可能不是有天分的那个人， 可能他等下去就是等不到的 。
就是需要找到这个自洽吧 ， 就是那比方说我说我等了十年之后等到了 ，但是我其实自己的自己的心里的一些认知跟世界一直是不吻合的 ， 这十年里我一直都是很割裂的存在 ， 我觉得也 OK， 我也可以一直就很割裂的存在 。
就就算我整个人生都很割裂 ， 我也不想妥协 ， 就是你能不能找到那个 boundary 是重要的 。 就其实这件事情 OK， 就是我想说有这个割裂其实是完全 OK 的 ， 它不会真的很痛苦 ， 人们只是害怕而已 。
但如果说要有个人告诉你说就这样 ， 就这么回事 ， 没关系 ，其实就真的没关系 。 但是首先这世界上也没有绝对的正确 ， 我也不能说我是正确的人， 大家都是正确的人。
但我只说每个人都有自己的想法 ， 然后你所谓的正确在别人的眼中不正确也 it's OK，也是完全 OK， 没有任何问题 。
但是它的唯一重点就是你是不是按照你自己的想法去认知和和行动 ， 还是你其实是被别人牵着走的 ， 或者你觉得自己在妥协 。
你只要不觉得自己在妥协都没关系 ， 哪怕你真的错了就错了吧 ， 就也没关系 。 但是我非常不喜欢的是 ， 就是大家都变成了不不能执行自己意志 ， 这样是不好的 。
就如果所有人都执行自己的意志 ， 哪怕你不和谐 ， 那也是自然存在 ，其实本来就合理 。
好的好的 ， 那以上就是我们所有的问题了 ， 非常非常感谢盛颖 。
Hello， 这就是我们今天的节目 。 不到两个月的时间 ，AI 市场经历了开源模型的大爆发 ，而 SGLang 它也成为了 AI 时代的核心技术层 。
大家怎么去看盛颖的经历与你受到的启发 ？ 欢迎给我们写评论 、 写留言 。 如果大家喜欢我们的节目 ， 可以通过小宇宙 、Spotify、 苹果播客 、B 站还有 YouTube 来找到我们 。
我们部分节目的文字稿也会收录在硅谷 101 的微信公众号上 。 感谢大家的收听 ， 我们下期见 。