ChatGPT的持续火爆,引发国内企业对AI大预训练大模型的强烈关注。先有百度旗下文心大模型专美于前,如今阿里、字节也不甘人后。
阿里张勇表示,阿里巴巴将一方面继续全力构建好自己的预训练大模型,另外一方面全力抓住市场机遇,为市场上风起云涌的模型和应用提供好算力的支撑。
字节跳动在大模型上也有所布局,不少人认为,最后能在大模型上与百度一较高下的公司,大概率会是字节跳动。
我们的科技留言板“有意见”如下
@老董:大模型的构建无异于在数字世界里重新进行一次开天辟地。需要通过预训练的方式,将不同事物、知识属性进行推理定义。其中需要有强大的AI算力进行支持,能否开辟成功,还要看企业手中“盘古斧”的算力是否足够强劲。
@TOFU:ChatGPT来自一家西方公司,至今没有中文界面,却能很好的提供中文服务,因为它拥有充分的中文数据支撑。不论字节跳动、BAT还是其他哪个厂商,在ChatGPT这件事上采用“Copy To China”的模式,除了强大的算力,也需要充分的数据支持,如果能有更方便的途径获取公开数据,比如有权威机构可以提供准确的公共交通信息、场馆开放时间、不同地段的房价等等,说不定会变得更实用。
@看个热闹:据估算,GPT-3 训练一次的成本约为 140 万美元,对于一些更大的 LLM(大型语言模型),训练成本介于 200 万美元至 1200 万美元之间,预训练大模型烧的不是GPU,是钱!
好文章,需要你的鼓励
B&H近期对多款M5 Pro MacBook Pro机型推出300美元优惠。14英寸M5 Pro版本(48GB内存+1TB固态硬盘)现售价2299美元,较原价2599美元节省300美元,且该配置在亚马逊无法购买,折扣机会更为难得。此外,16英寸M5 Pro版本(64GB内存+1TB固态硬盘)同样享有300美元折扣。B&H在多款高配MacBook机型上的定价已低于亚马逊,是近期可找到的最优价格。
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
Insta360推出GO 3S复古套装,将现代4K运动相机与胶片时代美学结合。套装核心仍是仅重39克的GO 3S,新增复古取景器、胶片风格滤镜、NFC定制外壳及可延长录制时长至76分钟的电池组。复古取景器模仿老式腰平相机设计,鼓励用户放慢节奏、专注构图。相机内置11种色彩预设及负片、正片等滤镜,同时保留FlowState防抖、4K拍摄及10米防水能力,面向热衷复古影像风格的年轻创作者。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。