您的位置 首页 新闻

DeepSeek,重磅突发!

2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。 特点有:高效的全员沟通;节点内和节点间均支持 NVLink和…

2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。

特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。

CFF20LXzkOxqN7xcquf4vibBRE5ic9XjyCsRzkcXhzaaJibYETpNXwSiaibcPfnnibiaeQkwVUQWEH7ZXH09OHLkzyXnQ.jpg

编辑|程鹏 盖源源

校对|段炼

封面图片来源:视觉中国(资料图 图文无关)

CFF20LXzkOyYmal29zn37N5Bg2NQ4tyN4ylvMFyM3VmF4x90Uj4cDmoEphibia4RN55ibIXmqU1Od9w2Q5nhA08lA.png

来源:每日经济新闻app

</div


责编 程鹏

本文来自网络,不代表热点新闻网立场,转载请注明出处:http://www.redianxinwen.cn/8376.html

作者: admin

为您推荐

发表评论

邮箱地址不会被公开。 必填项已用*标注

联系我们

联系我们

13000001211

在线咨询: QQ交谈

邮箱: email@wangzhan.com

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部