腾讯发布自研混元T1正式版:吐字速度最快可达80tokens/s

新浪科技讯 3月22日下午消息,腾讯宣布推出自研深度思考模型混元T1正式版,目前已上线腾讯云官网,并即将在腾讯元宝灰度上线。

该模型以腾讯于 2 月底发布的新一代快思考模型混元Turbo S为基座打造,是一款能秒回、吐字快、擅长超长文处理的强推理模型,性能保持业界领先。

通过大规模强化学习,并结合数学、逻辑推理、科学和代码等理科难题的专项优化,混元T1正式版进一步提升了推理能力。与此前已上线腾讯元宝的混元T1-preview模型相比,综合效果明显提升。

在体现推理模型基础能力的常见benchmark上,如大语言模型评估增强数据集MMLU-PRO中,混元T1取得87.2分,仅次于o1。在CEval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1的成绩也达到业界领先推理模型的水平。

此外,T1还在多项对齐任务、指令跟随任务和工具利用任务中展现出了非常强的适应性。

混元T1正式版沿用了混元Turbo S的创新架构,采用Hybrid-Mamba-Transformer融合模式。这是工业界首次将混合Mamba架构无损应用于超大型推理模型。

这一架构有效降低了传统Transformer结构的计算复杂度,减少了KV-Cache的内存占用,从而显著降低了训练和推理成本,让混元T1实现首字秒出,吐字速度达到最快80 tokens/s。

目前,混元T1正式版已在腾讯云官网上线,输入价格为每百万tokens 1元,输出价格为每百万tokens 4元。(罗宁)

免责声明:

1、本网站所展示的内容均转载自网络其他平台,主要用于个人学习、研究或者信息传播的目的;所提供的信息仅供参考,并不意味着本站赞同其观点或其内容的真实性已得到证实;阅读者务请自行核实信息的真实性,风险自负。