ChatGPT的持续火爆,引发国内企业对AI大预训练大模型的强烈关注。先有百度旗下文心大模型专美于前,如今阿里、字节也不甘人后。
阿里张勇表示,阿里巴巴将一方面继续全力构建好自己的预训练大模型,另外一方面全力抓住市场机遇,为市场上风起云涌的模型和应用提供好算力的支撑。
字节跳动在大模型上也有所布局,不少人认为,最后能在大模型上与百度一较高下的公司,大概率会是字节跳动。
我们的科技留言板“有意见”如下
@老董:大模型的构建无异于在数字世界里重新进行一次开天辟地。需要通过预训练的方式,将不同事物、知识属性进行推理定义。其中需要有强大的AI算力进行支持,能否开辟成功,还要看企业手中“盘古斧”的算力是否足够强劲。
@TOFU:ChatGPT来自一家西方公司,至今没有中文界面,却能很好的提供中文服务,因为它拥有充分的中文数据支撑。不论字节跳动、BAT还是其他哪个厂商,在ChatGPT这件事上采用“Copy To China”的模式,除了强大的算力,也需要充分的数据支持,如果能有更方便的途径获取公开数据,比如有权威机构可以提供准确的公共交通信息、场馆开放时间、不同地段的房价等等,说不定会变得更实用。
@看个热闹:据估算,GPT-3 训练一次的成本约为 140 万美元,对于一些更大的 LLM(大型语言模型),训练成本介于 200 万美元至 1200 万美元之间,预训练大模型烧的不是GPU,是钱!
好文章,需要你的鼓励
在基于Chiplet的架构中,可观测性正成为系统设计的关键缺失环节。多位半导体行业专家指出,AI可从硅层遥测数据中挖掘价值,但前提是架构须提供一致的检测手段、近传感器数据压缩及可编程采集能力。专家们强调,多供应商Chiplet生态系统需要标准化、安全的遥测模式,以实现跨芯片、封装和互联域的故障定位,同时保护敏感运营数据。目前,AI在遥测分析阶段已展现出显著价值,但可观测性的扩展本质上仍是架构问题。
这项研究系统比较了四种AI图像分词策略在640000张星系图像上的表现,发现重建质量与物理属性预测能力之间存在根本性解耦,为天文基础模型的分词器选择提供了实验依据。
生命科学企业在全渠道战略和AI平台上投入巨大,但成效往往不尽如人意。问题根源不在于技术本身,而在于组织架构、数据治理和工作方式未能同步演进。许多转型项目止步于试点阶段,原因是各部门数据孤立、职责不清。要实现从传统CRM向智能互动的真正转型,企业需优先建立统一的数据基础和跨团队协作机制,并将AI能力嵌入日常工作流程,而非将其视为独立模块。
阿里Qwen团队研究如何将大模型的规模化训练思路迁移到机器人操作领域,通过统一多机器人表示与38100小时数据预训练,让机器人在陌生场景和陌生机型上也能完成复杂操作任务。