联想携手燧弘华创搭建万全异构智算平台,DeepSeek极限吞吐超8000 tokens/s

新浪科技讯 3月27日下午消息,异构智算产业生态联盟携手生态合作伙伴走进燧弘华创庆阳绿色智算中心,共同见证了DeepSeek大模型落地新突破,并围绕异构智算、DeepSeek大模型落地数据中心、超智融合等话题进行分享交流,共同探讨了异构智算与AI大模型的深度融合。

据介绍,在燧弘华创庆阳绿色智算中心,联想问天 WA5480 G3服务器搭载了第四代英特尔®至强®可扩展处理器。同时,联想搭建了万全异构智算平台。

联想中国基础设施业务群战略总监黄山表示,燧弘华创庆阳绿色智算中心携同联想万全异构智算平台突破算力瓶颈,通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等创新方式,将单机服务器运行大模型的性能再创新高,3000并发下总吞吐量超8000 tokens/s,持续提升DeepSeek满血版用户体验。

免责声明:

1、本网站所展示的内容均转载自网络其他平台,主要用于个人学习、研究或者信息传播的目的;所提供的信息仅供参考,并不意味着本站赞同其观点或其内容的真实性已得到证实;阅读者务请自行核实信息的真实性,风险自负。