腾讯混元 Hy3 这波开源,把大模型门槛踩碎了
2026/7/9 4:44:04 网站建设 项目流程

大家好,我是小悟。

这两年大模型一个比一个能吹,真到干活的时候,问题全冒出来了。写代码写到一半开始胡说八道,上下文一长就忘了前面说了啥,最要命的是让模型去调工具、跑 Agent,十次有八次卡在格式不对或者调用失败。还有幻觉,一本正经编数据,你信了就倒霉。

我自己被这些坑折磨得够呛。所以看到腾讯 7 月 6 号把混元 Hy3 正式开源,我第一反应是:先别管参数多漂亮,能不能真把活干漂亮才是关键。

Hy3 到底是什么

混元 Hy3 是腾讯混元团队重建训练基础设施之后的第一个正式版。今年 1 月底他们把预训练和强化学习的基础设施整个重做了一遍,4 月底先放了个 preview 试水,收到 50 多个产品线的反馈,磨了两个月,7 月 6 号推出这个正式版。

它用的是 MoE 架构,总参数 2950 亿,但每次只激活 210 亿,外加 38 亿的 MTP 层参数,支持 256K 上下文。这个名字里的路子是快慢思考融合——简单问题直接给答案,复杂任务才进入深度推理。

最实在的一点,它走 Apache 2.0 协议开源,意味着你能下载、能改、能直接拿去免费用。

真正能打的核心能力

我看了官方放出来的材料和内部测评,几个点确实让我眼前一亮。

Agent 能力是这次的重头戏。代码生成、办公处理、金融建模、前端设计、游戏开发,这几个生产力场景的进步最明显。

官方给了个很硬的指标:在自家产品里任务成功率从 72% 干到了 90%,平均耗时还砍了 34%。

工具调用的稳定性他们专门修过,在 SWE-Bench Verified 上,不同脚手架之间的准确率波动控制在 4% 以内,说明它不是只能在某一个框里跑,换个壳也稳。

幻觉这块也下了狠手。官方说基于真实场景的内部评测里,幻觉率从 12.5% 掉到 5.4%,常识错误率从 25.4% 降到 12.7%。逻辑矛盾、张冠李戴这种事少了一大半。

长上下文和多轮对话的记性也好了。多轮综合测试的问题率从 17.4% 降到 7.9%,前面交代的约束到后面还能接得住。

我上手之后的真实体感

我自己的体验集中在 WorkBuddy 上,因为它已经接了 Hy3。

元宝那边也上线了 Agent,你直接说需求,它能跑完复杂任务顺手把 PPT、Word、Excel、PDF、HTML 都给你交付了,而且全免费。

ima、Marvis 也接进去了,连微信的公众号 AI 客服、WeGame 里的游戏助手都吃上了 Hy3。

为什么推荐它

我推荐它,不是因为它是腾讯出的就捧。真就几个实打实的理由。

一是性价比太离谱。2950 亿总参数,激活才 210 亿,用 8 张显存大点的卡就能跑起来服务。同等尺寸里它比肩的是参数规模 2 到 5 倍的旗舰模型,等于用小身板干了大块的活,推理成本压得很低。

二是开源协议友好。Apache 2.0 意味着商用门槛几乎为零,小团队和个人开发者能直接使用去造东西。

三是它真的在解决刚才说的那些痛点,而不是堆跑分。任务成功率、幻觉率、多轮记性,这些全是实际干活会撞上的坎,它一个一个填了。

四是生态铺得开。Github、Huggingface、ModelScope、GitCode同步放权重,海外还陆续覆盖 OpenRouter、Cline、Cherry Studio 一堆平台,你用什么工具链都能够得着。

Github:https://github.com/Tencent-Hunyuan/Hy3Huggingface:https://huggingface.co/tencent/Hy3Modelscope:https://modelscope.cn/models/Tencent-Hunyuan/Hy3Gitcode:https://ai.gitcode.com/tencent_hunyuan/Hy3

怎么把它跑起来(部署脚本)

最省事的两条路:vLLM 和 SGLang,都支持 Hy3 的 MTP 加速。

vLLM 路线:

#1.源码装 vLLM uv venv--python3.12--seed--managed-python source.venv/bin/activate git clone https://github.com/vllm-project/vllm.git cd vllm uv pip install--editable.--torch-backend=auto #2.启动服务,开MTPspeculative decoding exportVLLM_FLASHINFER_ALLREDUCE_BACKEND=trtllm vllm serve tencent/Hy3\--tensor-parallel-size8\--speculative-config.method mtp \--speculative-config.num_speculative_tokens2\--tool-call-parser hy_v3 \--reasoning-parser hy_v3 \--enable-auto-tool-choice \--port8000\--served-model-name hy3

SGLang 路线:

#1.SGLanggit clone https://github.com/sgl-project/sglang cd sglang pip3 install pip--upgrade pip3 install"transformers>=5.6.0"pip3 install-e"python"#2.启动服务 python3-m sglang.launch_server \--model tencent/Hy3\--tp-size8\--tool-call-parser hunyuan \--reasoning-parser hunyuan \--speculative-num-steps2\--speculative-eagle-topk1\--speculative-num-draft-tokens3\--speculative-algorithmEAGLE\--port8000\--served-model-name hy3

服务起来之后,走 OpenAI 兼容接口就能调。想让模型深度推理就切到 high,简单问答用默认的 no_think 直接回:

from openaiimportOpenAIclient=OpenAI(base_url="http://127.0.0.1:8000/v1",api_key="EMPTY")response=client.chat.completions.create(model="hy3",messages=[{"role":"user","content":"帮我写个快速排序"}],temperature=0.9,top_p=1.0,extra_body={"chat_template_kwargs":{"reasoning_effort":"high"}},)print(response.choices[0].message.content)

显存吃紧的话还有 FP8 量化版 Hy3-FP8 可以下,官方给了 AngelSlim 工具做压缩,小卡也能试着扛一扛。

写在最后

混元从年初重建,到 4 月 preview,再到现在这个正式版,不到半年走完了一条从底盘重构到产品反哺的路。这种节奏感,是我觉得最值得关注的地方——它不像在凑热闹发个版,而是一圈一圈把能力往上夯。

我已经把它挪进日常工作流了。写代码、理资料、跑 Agent,省下的时间实实在在。技术这东西,别人说得再好,不如自己上手敲一遍。

谢谢你看我的文章,既然看到这里了,如果觉得不错,随手点个赞、转发、在看三连吧,感谢感谢。那我们,下次再见。

您的一键三连,是我更新的最大动力,谢谢

山水有相逢,来日皆可期,谢谢阅读,我们再会

我手中的金箍棒,上能通天,下能探海

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询