长上下文 on 苏然的博客 https://bml.asia/tags/%E9%95%BF%E4%B8%8A%E4%B8%8B%E6%96%87/ Recent content in 长上下文 on 苏然的博客 Hugo zh-CN Thu, 17 Sep 2026 04:19:55 +0800 腾讯混元 Hy4 preview 开源了 https://bml.asia/posts/tencent-hunyuan-hy4-preview/ Fri, 28 Aug 2026 14:31:19 +0800 https://bml.asia/posts/tencent-hunyuan-hy4-preview/ <p>　　腾讯混元今天放出了 Hy4 preview，参数配置一看就是冲着开源第一梯队去的：总参数 770B，激活参数却只有 49B，稀疏度压到约百分之六点四——这意味着它用接近 49B 稠密模型的推理成本，撑起了 770B 的知识容量，是典型的激进 MoE 设计。上下文长度直接拉到 1M，一次性装下整个代码仓库或几百页长文档不成问题，这对代码理解、长文分析这类真实工作负载来说，比单纯堆参数更有实际意义。目前模型已开源，并在腾讯云 TokenHub、OpenRouter 上线，WorkBuddy、CodeBuddy、元宝、ima 等腾讯产品也同步首发，等于把模型能力和自家工具链绑在了一起。</p>