DeepSeek

E251｜推理芯片之战：聊聊Groq、Cerebras与OpenAI三大路径与Bill Dally的设计哲学

2026年9月16日 · 1:31:32

主播泓君与两位AI推理芯片创业者——英伟达首席科学家Bill Dally的学生Mark，以及曾在亚马逊Anthropic Labs做Trainium软件栈的徐子扬——拆解Groq、Cerebras与OpenAI三大推理芯片技术路径。两人论证训练时代拼算力、推理时代拼带宽：Decode阶段每产出一个Token都要把整个模型从存储读进计算单元，因此带宽性价比才是核心。Groq与Cerebras都押注SRAM换取两到三个数量级的带宽性价比，但Groq为静态编译调度牺牲了对MoE等运行时动态性的适配，Cerebras则被晶圆级良率和成本拖累，导致带宽收益大打折扣；这也解释了英伟达为何以约200亿美元acqui-hire Groq来补齐CUDA架构外的带宽能力，而两位嘉宾断言推理时代CUDA一定会被绕过。Mark还分享了自己团队的上千颗SRAM芯片组网方案，目标较GPU实现10倍性价比和一到两个数量级的单用户推理速度提升，并解释速度越快，模型能在同样的交互时间内思考更多Token、变得更聪明。节目借Mark的视角还原Bill Dally的设计哲学：计算机体系结构的一切围绕局部性展开，做数量级提升前必须想清楚牺牲什么。最后对比OpenAI与博通9个月流片的首款推理芯片：它选择HBM4而非SRAM，因为美国缺电不缺钱，其芯片内异构加暗硅的通用方案与Groq、Cerebras的系统级异构是不同约束下的不同收敛。

E247｜对话盛颖：XAI，INFRA的浪漫，SGLANG，开源，平权与“甄嬛传”

2026年8月5日 · 1:46:26

本期对话盛颖，xAI前推理团队负责人、SGLang发起人及RadixArk联合创始人兼CEO。她讲述了自己从数学到形式化验证再到AI Infra的转型，强调只有真正感兴趣的问题才能驱动她进入心流状态。她将AI Infra描述为“浪漫的关系”，认为infra本身是产品而非支持角色。她分享了在xAI早期获得“support”和“freedom”的经历，以及因SGLang社区扩张而离开xAI创立RadixArk的决策。她还讨论了开源生态的平等理念、LMSYS的平权使命，以及她对AI未来与人类共存的愿景。