有意见 | 英伟达最强AI芯片 H200震撼发布 原创

英伟达发布了目前最强的AI芯片H200,性能较H100提升了60%到90%,还能和H100兼容

英伟达发布了目前最强的AI芯片H200,性能较H100提升了60%到90%,还能和H100兼容。H200采用HBM3e GPU,拥有高达141GB显存,4.8TB/s带宽。而且通过英伟达NVLink和NVSwitch高速互连技术,8路HGX H200可提供超过32 Petaflops的FP8深度学习计算能力和1.1TB的超高显存带宽。在处理Llama 2等大语言模型时,H200的推理速度比H100提高了接近1倍。

“有意见”留言板

@不倒翁:最强的AI芯片需求更多的电力,马斯克说最担心的是美国明后年的电力会严重不足。那么老黄这些芯片如果在美国跑不起来,那么最终会流通到哪里?值得中间商去提前准备。

@贰言:人工智能技术的突飞猛进正推动着对硬件性能更高的追求。英伟达所推出的H200芯片不仅标志着AI硬件领域的一大飞跃,更进一步巩固了其在全球AI芯片设计与制造的领先地位。尽管国内AI芯片产业与世界顶尖的芯片制造商相比差距还很大,但是其发展空间还是很大的,期待国产芯片技术的崛起。

@周一见:H200对AI和HPC应用的影响是显著的,但成本和可用性是关键因素。此外,英伟达对未来芯片的展望显示了其长远规划,这些发展对整个技术和计算生态系统都有可能产生重要影响。

来源:至顶网有意见频道

0赞

好文章,需要你的鼓励

2023

11/14

16:28

分享

点赞

邮件订阅