北京大学联合华为发布全栈开源 DeepSeek 推理方案
2025-03-10 12:58:10 小编:蜜桃手游网
感谢本站网友 有鲫雪狐、Autumn_Dream 的线索投递!
本站 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。
据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。
全栈开源方案其他闭源方案模型DeepSeek-R1-w8a8硬件配置2*Atlas 800I A2输入长度4096输出长度1024系统输出吞吐11981288用户并发128128目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。本站查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。
此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

- 猜你喜欢
-
橘子视频app去广告版9.9MB蜜桃下载 -
51糖心app9.9MB蜜桃下载 -
特狗影视app苹果版9.9MB蜜桃下载 -
河马剧场短剧9.9MB蜜桃下载 -
植物大战僵尸融合版下载最新版本260.27MB蜜桃下载 -
好好看9.9MB蜜桃下载 -
坚果云扫描app9.9MB蜜桃下载 -
地狱之窟游戏手机版9.9MB蜜桃下载 -
疯狂木偶人201.25MB蜜桃下载
- 相关手机游戏
-
追剧屋9.9MB蜜桃下载 -
极品飞车11街道争霸电脑版 免安装版9.9MB蜜桃下载 -
死神勇敢的灵魂国际版157.09MB蜜桃下载 -
影猫电影9.9MB蜜桃下载 -
梅露可物语愈术士与铃之旋律手游9.9MB蜜桃下载 -
仙凡幻想564.93MB蜜桃下载 -
可可影视TV9.9MB蜜桃下载 -
倩女幽魂之鬼寺繁体中文版 免安装绿色版9.9MB蜜桃下载 -
土豆兄弟官方正版264.53MB蜜桃下载
- 推荐蜜桃资讯
- 最新手机精选
-
奥特曼格斗进化0无限能量2025-03-21蜜桃下载 | 253.6MB -
超凡先锋国际服2025-04-03蜜桃下载 | 96.46MB -
qq轻聊版官方2025最新版(qqlite)2025-03-20蜜桃下载 | 9.9MB -
异星之地2025-02-27蜜桃下载 | 405.6MB -
进化吧皮卡丘小米游戏2025-04-03蜜桃下载 | 76.59M -
inZOI韩国版模拟人生2025-04-03蜜桃下载 | 10.10M



































