ChatGPT的持续火爆,引发国内企业对AI大预训练大模型的强烈关注。先有百度旗下文心大模型专美于前,如今阿里、字节也不甘人后。
阿里张勇表示,阿里巴巴将一方面继续全力构建好自己的预训练大模型,另外一方面全力抓住市场机遇,为市场上风起云涌的模型和应用提供好算力的支撑。
字节跳动在大模型上也有所布局,不少人认为,最后能在大模型上与百度一较高下的公司,大概率会是字节跳动。
我们的科技留言板“有意见”如下
@老董:大模型的构建无异于在数字世界里重新进行一次开天辟地。需要通过预训练的方式,将不同事物、知识属性进行推理定义。其中需要有强大的AI算力进行支持,能否开辟成功,还要看企业手中“盘古斧”的算力是否足够强劲。
@TOFU:ChatGPT来自一家西方公司,至今没有中文界面,却能很好的提供中文服务,因为它拥有充分的中文数据支撑。不论字节跳动、BAT还是其他哪个厂商,在ChatGPT这件事上采用“Copy To China”的模式,除了强大的算力,也需要充分的数据支持,如果能有更方便的途径获取公开数据,比如有权威机构可以提供准确的公共交通信息、场馆开放时间、不同地段的房价等等,说不定会变得更实用。
@看个热闹:据估算,GPT-3 训练一次的成本约为 140 万美元,对于一些更大的 LLM(大型语言模型),训练成本介于 200 万美元至 1200 万美元之间,预训练大模型烧的不是GPU,是钱!
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。