亚马逊云科技2022 re:Invent全球大会昨日开幕。会上,亚马逊云科技推出三款分别由三种新的自研芯片支持的Amazon EC2实例。
配备了AWS Nitro V5的C7gn实例,作为一款网络优化型实例,带宽提升到了200Gbps,同时每秒数据包转发性能提升50%,为网络密集型工作负载提供了更高性能。Hpc7g实例配备Amazon新一代Arm处理器Graviton3E,与Hpc6a相比性能提高了20%,为亚马逊云科技的高性能计算工作负载提供了超高性价比。Inf2实例配备Amazon最新Inferentia2机器学习加速推理芯片,专为大型深度学习模型而设计,与Inf1相比可提供高达4倍的吞吐量,降低多达10倍的延迟。
我们的科技留言板“有意见”如下
@卡卡卡卡西:云厂商造芯片已经成了共识,一是可以降本增效,二还可以提高自主能力,亚马逊2015年收购了芯片制造商Annapurna Labs后就开始自研芯片了,这次发的Graviton3E是其三代服务器芯片的进阶版,运算效率又有了30%的提升,之后服务器芯片市场,主流芯片厂商会越来越难捞油水了。
@TOFU:Graviton是Arm在云计算中很好的例子,这次Graviton3E最多可以提供64个vCPU 内核和128GiB的内存,负载执行效率提升35%。云计算厂商最近都在积极研发和部署ARM架构的产品,除了AWS,微软、Google、华为云也都有涉足,看来ARM架构才是云计算的未来。
@华强萨日朗:这次大会上亚马逊云科技也宣布和黑莓扩大合作,黑莓使用的是AWS Graviton2处理器。本次发布的Graviton3E是Graviton3的一个变种,Graviton3相较于Graviton2有25%的性能提升,这能够为更多的行业带来更高的效率。
好文章,需要你的鼓励
南洋理工大学研究团队开发了WorldMem框架,首次让AI拥有真正的长期记忆能力,解决了虚拟世界模拟中的一致性问题。该系统通过记忆银行存储历史场景,并使用智能检索机制,让AI能准确重现之前的场景和事件,即使间隔很长时间。实验显示在Minecraft和真实场景中都表现出色,为游戏、自动驾驶、机器人等领域带来广阔应用前景。
AWS通过升级SageMaker机器学习平台来扩展市场地位,新增观测能力、连接式编码环境和GPU集群性能管理功能。面对谷歌和微软的激烈竞争,AWS专注于为企业提供AI基础设施支撑。SageMaker新功能包括深入洞察模型性能下降原因、为开发者提供更多计算资源控制权,以及支持本地IDE连接部署。这些更新主要源于客户需求,旨在解决AI模型开发中的实际问题。
MTS AI研究团队提出RewardRanker系统,通过重排序模型和迭代自训练显著提升AI代码生成质量。该方法让13.4B参数模型超越33B大模型,在多种编程语言上表现优异,甚至在C++上超越GPT-4。通过引入困难负样本和PPO优化,系统能从多个代码候选中选出最优方案,为AI编程助手的实用化奠定基础。