从 linear attention 到 KDA,Kimi 如何让模型学会记忆、覆盖和遗忘,并把一次技术探索真正 scale 到 2.8T 参数。
结合实际工作,聊 loop engineering 是什么、怎么搭好一个 loop,以及为什么每隔一阵就冒一个新的 xxx engineering。
Cat 的播客很火,但同期另一位嘉宾——Anthropic 增长负责人 Amol——的分享同样值得一听。
技术、产品形态、甚至“什么算成功”都在快速变化时,唯有愿景能充当那个稳定的参照系。
大家 WoW 的是 Skill 的效果,但更值得聊的是这几个月我们如何在 Agent 中真正运用 Skill,以及它带来的影响。
有人愿意付费才能证明不是伪需求;Day 1 就把账算明白,才知道产品该往哪个方向迭代。
总结性文章无法替代的,是亲眼看 Ilya 的语气与神情,以及他所讲的内容本身。
对做模型的公司模型即产品,对做应用的公司产品才是主角——只是定位不同罢了。
用 Stage 框架(文本 → CoT → 工具 → 系统上下文)看模型演进,回看上半年的“暴论”哪些已被验证。
用户需要自己浏览足够多的信息才能建立判断,这与“一步到位替你决策”的导购 AI 存在根本悖论。
从提问、记忆、工具、规划等角度,乱想下一代端到端 Agent 模型可能长出哪些能力、会怎么训练。
团队审美塑造了 LLM 独特的“人格”;R1 之后,各家 post-train 语料的差异会让模型在思考上形成不同风格。
现阶段提升模型能力的关键,以及为什么“智能”本身才是真正的护城河。