英伟达发布了目前最强的AI芯片H200,性能较H100提升了60%到90%,还能和H100兼容。H200采用HBM3e GPU,拥有高达141GB显存,4.8TB/s带宽。而且通过英伟达NVLink和NVSwitch高速互连技术,8路HGX H200可提供超过32 Petaflops的FP8深度学习计算能力和1.1TB的超高显存带宽。在处理Llama 2等大语言模型时,H200的推理速度比H100提高了接近1倍。
“有意见”留言板
@不倒翁:最强的AI芯片需求更多的电力,马斯克说最担心的是美国明后年的电力会严重不足。那么老黄这些芯片如果在美国跑不起来,那么最终会流通到哪里?值得中间商去提前准备。
@贰言:人工智能技术的突飞猛进正推动着对硬件性能更高的追求。英伟达所推出的H200芯片不仅标志着AI硬件领域的一大飞跃,更进一步巩固了其在全球AI芯片设计与制造的领先地位。尽管国内AI芯片产业与世界顶尖的芯片制造商相比差距还很大,但是其发展空间还是很大的,期待国产芯片技术的崛起。
@周一见:H200对AI和HPC应用的影响是显著的,但成本和可用性是关键因素。此外,英伟达对未来芯片的展望显示了其长远规划,这些发展对整个技术和计算生态系统都有可能产生重要影响。
好文章,需要你的鼓励
据《华尔街日报》近日报道,IBM公司正在就收购基础设施管理供应商HashiCorp公司进行深入谈判。
亚马逊云科技已经将项目开发套件(PDK)蓝图引入其CodeCatalyst DevOps工具当中。
各大奢侈品牌一直广泛运用基础AI技术开展数据分析,借此预测需求、管理供应链并支持其他运营用例,但近期生成式AI的爆发式演进将AI技术提升到了新的水平,既带来种种前所未有的机遇、也造就意想不到的挑战。