英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

本站 3 月 19 日消息,英伟达今日正式发布Dynamo,号称是“AI 工厂的操作系统”。

Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。

黄仁勋展示了一张关于推理的图表,X 轴显示用户每秒的 Token 数,Y 轴显示工厂每秒的 Token 数。

在Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper可实现 25 倍的性能提升。

而在推理模型中,Blackwell 的性能是 Hopper 的 40 倍。

本站注意到,黄仁勋还打趣道,有了上述最新技术加持,搭建 AI 工厂的厂商“买得越多、省得越多”,总而言之就是掏钱吧。

英伟达 GTC 2025 大会专题

文章版权声明:除非注明,否则均为 时尚游戏网 原创文章,转载或复制请以超链接形式并注明出处。

发表评论

快捷回复: 表情:
AddoilApplauseBadlaughBombCoffeeFabulousFacepalmFecesFrownHeyhaInsidiousKeepFightingNoProbPigHeadShockedSinistersmileSlapSocialSweatTolaughWatermelonWittyWowYeahYellowdog
评论列表 (暂无评论,5341人围观)

还没有评论,来说两句吧...

目录[+]