Hy4 预览版发布
Introducing Hy4 Preview
腾讯发布开放权重文本大语言模型 Hy4 预览版，总参数 770B，激活参数 49B，上下文窗口 1M token，Hugging Face 体积 1.56TB，较 7 月 Hy3（295B 总参数、21B 激活、256K 上下文、598GB）规模提升。其 chat_template.jinja 显示推理强度仅支持 high（默认）与 no_think 两档，作者通过 OpenRouter 以 high 模式测试 SVG 生成，观察到推理轨迹采用截断英文以节省 token。
今天，腾讯发布了一款新的开放权重文本输入（无视觉）大语言模型 Hy4 预览版：总参数 770B，激活参数 49B，上下文窗口 1M token，Hugging Face 上体积 1.56TB。相比 7 月发布的 Hy3（295B 总参数、21B 激活参数、256,000 上下文、598GB），这次规模大幅提升。我最近开始使用模型聊天模板来更好地理解其能力。以下是 Hugging Face 上 Hy4 的 chat_template.jinja，其中包含这段内容：
{% - if not reasoning_effort is defined %}
{% - set reasoning_effort = 'high' %}
{% - elif reasoning_effort not in [ 'high' , 'no_think' ] %}
{% - if reasoning_effort is none %}
{{- raise_exception('reasoning_effort error : None, should be no_think/high') }}
{% - else %}
{{- raise_exception('reasoning_effort error : ' + reasoning_effort + ', should be no_think/high') }}
{% - endif %}
{% - endif %}
看起来只有两个推理强度级别：“high”（默认）和“no_think”（禁用推理）。我通过 OpenRouter 用默认的 high 推理尝试了“生成一只骑自行车的鹈鹕的 SVG”提示，得到了以下结果：
引用推理轨迹：
[...] 也许加个头盔？能增强骑行主题，但可能遮挡头部。或许戴顶小骑行帽或头盔？用户没要求；加个红头盔？可能挺可爱。但鹈鹕嘴大，头盔可能遮挡。最好不加。也许加副太阳镜？不。加点水？不。
有趣的是，推理轨迹使用了略微截断的英文，大概是因为完美的语法对隐藏推理文本来说既不实用也不节省 token。
标签：ai、generative-ai、llms、pelican-riding-a-bicycle、llm-reasoning、llm-release、ai-in-china