国产GPU新突破:摩尔线程S5000 助力中国移动“九天”大模型
在即将开幕的第九届数字中国建设峰会上,中国移动自主研发的“九天”35B通用大国产模型将正式与公众见面。作为国产算力生态的重要进展,摩尔线程于近日宣布,旗下旗舰级全功GP能GPU MTT S5000已率先完成对该模型的全流程适配与推理验证。
此次适配工作U新的核心在于深度融合。摩尔线程依托自研的MUSA软件栈以及SGLang-MUSA突破高性能推理引擎,成功打通了“九天”35B模型推理的全链路。通过对MUSA C开:摩发框架、muDNN计算库及MATE开源算子库的协同优化,MTT S5000针对尔线大模型特有的注意力机制和长序列推理进行了深度定制,从而确保模型在处理长文本和高并程S发请求时能够保持高效且稳定的性能表现。
作为本次适配的技术底座,MTT S5000算50力卡表现抢眼。该显卡基于第四代MUSA“平湖”架构打造,单卡AI稠密算力最高可达100000TFLOPS。硬件配置上,它配备了80GB的大容量显存,显存带宽达到1.6TB/s 助,并支持从FP8到FP64的全精度计算。此外,高达784GB/s的卡间互联带宽,也为力中其在复杂智算场景下的扩展性提供了保障。
此次合作不仅验证了国产GPU在支撑央企核心大模国移型方面的可靠性,也展示了摩尔线程在高性能算子优化与软件生态构建上的成熟度。随着动““九天”35B模型的正式发布,这种“国产大模型+国产算力”的组合,将为算力自九天主可控提供更具参考价值的落地案例。
- ·标签: 豆包手机助手 字节跳动 黑公关 AI安全
- ·标签: 小雨智造 Xiaoyu Brain 具身智能 工业机器人
- ·Facebook企业通讯软件Workplace付费用户达700万
- ·开源AI知识库平台MaxKB获社区广泛关注,RAG技术助力企业智能化转型
- ·使用 ChatterBot 库制作一个聊天机器人
- ·Adobe推出AI Foundry服务:为企业定制基于品牌资产的生成式AI模型
- ·标签: 文心一言 通义千问 腾讯元宝 AI红包战
- ·Notion重磅发布AI智能体!自动生成会议笔记、竞品分析,20分钟处理数百页文档
- ·标签: 平安好医生 平安健康 管理式医疗 HMO
- ·谷歌推全新Gemini API URL Context 功能 可详解网页内容
- ·标签: 字节跳动 SeedChip 豆包大模型 AI芯片
- ·云计算挑战:选择障碍症和 “内部部署”云计算的糟糕策略
- ·标签: 欢瑞世纪 莲花楼 古剑奇谭 盗墓笔记
- ·云计算核心技术Docker教程:在Docker中使用tmpfs挂载
- ·阿里云发布「通义千问2.0」:性能超GPT-3.5
- ·标签: 百度 百度一镜
- ·Facebook 利用 AI 增强为视障人士描述照片的能力
- ·标签: OpenAI TBPN AGI 播客
- ·Anthropic报告警示:AI 技术助力网络犯罪新趋势
- ·标签: 理想汽车 理想L9 马赫M100芯片 端侧AI
- ·Thinking Machines Lab 攻克AI随机性难题,大语言模型首次实现100%一致输出
- ·梗概是什么意思啊
- ·首次超越自回归模型!蚂蚁集团开源业内首个高性能扩散语言模型推理框架dInfer
- ·Facebook更新商业工具 WhatsApp将引入“商店”及个性化广告
- ·微软在美国遭反垄断调查,云计算帝国面临新挑战
- ·震惊,AI已能写游戏代码了!程序员未来会失业么?
