NVLINK升级至1.4TB/s!NVIDIA Blackwell已在数据中心运行
据媒体报道,NVIDIA在近期的吹风会上,展示了Blackwell在数据中心的运行情况,并驳斥了此前关于Blackwell推迟上市的传闻。
不仅如此,NVIDIA NVLINK技术也迎来了重大升级,带宽翻倍达到1.4TB/s。
Blackwell平台不仅包含Blackwell GPU,还集成了Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多种芯片,形成了一个全面的数据中心解决方案。
Blackwell平台的设计目标是满足现代人工智能的需求,特别是针对超大型语言模型的计算需求,随着AI模型参数的不断增长,数据中心对计算能力和低延迟的要求也越来越高。
Blackwell平台的多GPU推理方法,通过在多个GPU上分配计算任务,实现了低延迟和高吞吐量的处理能力。
NVIDIA通过Blackwell推出了速度更快的NVLINK交换机,该交换机基于台积电4NP节点,提供了1.8TB/s的双向NVLINK带宽,能够连接72个GPU,大幅提高了数据中心的通信效率。
NVIDIA还分享了全球首张使用FP4计算生成的人工智能图像,展示了FP4量化模型在速度上的显著优势,同时保持了与FP16模型相似的图像质量。
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
- 1 习近平的劳动故事 7904174
- 2 外交部回应李嘉诚卖港口:望审慎行事 7808353
- 3 中方回应朝鲜确认向俄罗斯派兵 7712791
- 4 朋友圈什么不能发?网警提示 7615951
- 5 今年首个“蛇年蛇月蛇日蛇时”来了 7524461
- 6 四川一贪官从会场被带走画面曝光 7425960
- 7 23岁异瞳小伙在无人区拍治沙走红 7329984
- 8 郭晶晶夫妇现身李兆基丧礼 7238110
- 9 郭德纲指导岳云鹏博士论文?校方回应 7138662
- 10 美的格力都说自己是“空调第一名” 7048514