芯片是大模型背后的算力之源。凭借10000片英伟达GPU芯片,OpenAI训练出了GPT-3大语言模型,英伟达的GPU也成为大模型训练的首选。而与英伟达并称为显卡双雄的AMD,在这波AI浪潮中自然也不甘落后。今年下半年,AMD将推出对标英伟达GH200超芯的MI300,发力AI训练市场。MI300是市面上首款“CPU+GPU+内存”一体化产品,也是AMD投入生产最大的芯片,晶体管数量达到1460亿个。
“有意见”留言板
@媒体搬运工:在大模型这波热炒中,芯片居然成了最大赢家。俗话说,羊毛出在猪身上。当AI烧钱到这个程度,那谁会买单呢?就像某个广告词所说的,我们不生产算力,而只是算力的搬运工。算力的狂欢,谁是最后的接盘侠呢?!
@Ada:最近《福布斯》刚为AMD CEO苏姿丰发表了特刊,称苏妈一手策划了硅谷历史上最重大的企业转型之一,使得一度濒临破产的AMD股价在不到十年里增长了近30倍。杂志还提到黄仁勋是苏姿丰的远房亲戚,那么这次面对AI浪潮,同为华裔芯片老总的她,能将AI王冠从这位“远亲”的头上摘下来吗?
@无糖冰可乐:AMD在GPU市场取得成功的潜力很大,并且在研发方面投资加大有利于公司在竞争中占得先机。英伟达等竞争对手也在不断进步,因此双方之间的竞争必定会持续激烈。不管结果如何,消费者最终将受益于市场竞争所带来的更高性能、更创新的产品。
好文章,需要你的鼓励
谷歌近期悄然调整账户存储政策:新注册用户若未绑定手机号,免费存储空间将从原来的15GB缩减至5GB。用户需验证手机号后,方可获得完整的15GB空间,用于Gmail、Drive和Photos的共享使用。谷歌表示,此举旨在确保存储空间"每人仅限一份",有效防止滥用。有分析认为,存储硬件成本上升也是推动此次政策调整的重要原因之一。
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
AT&T、Verizon和T-Mobile宣布计划组建合资企业,利用卫星技术消除美国境内的网络覆盖盲区,重点服务农村及网络欠发达地区。该合资企业将整合知识产权与地面频谱资源,推动下一代直连设备(D2D)通信发展。目前三方尚未签署正式协议,现有运营商与卫星服务协议不受影响。此前,T-Mobile已与SpaceX合作推出星链卫星服务,美国联邦通信委员会也刚批准了价值400亿美元的EchoStar频谱出售案。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。