在近期举办的外滩大会上,蚂蚁集团宣布发布基于蚂蚁基础大模型,针对金融产业深度定制的金融大模型。大模型平台具备万卡异构集群,其中千卡规模训练MFU可达到40%,集群有效训练时长占比90%以上,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍,处于业界先进水平。
“有意见”留言板
@媒体搬运工:金融业是数据密集型行业,而且数字化程度高,对于大模型而言是非常好的落地场景。不过金融也是高监管行业,合规性要求高。在金融业要想玩转大模型,有点走钢丝的味道。因为蚂蚁集团是面向中小微企业,所以其将大模型应用在供应链金融和零售金融这块的想象空间还是很大的。
@辣腿堡不加酱:就跟华为自研芯片一样,蚂蚁大模型走纯自研的技术路线,已建成的万卡AI集群,训练效率领先行业,为大模型产业化应用提供有力支撑,期待着蚂蚁未来的探索和精进。
@老董:从云计算一路走来,阿里一直站在数字化的前沿,这次蚂蚁金融大模型的推出,期望可以为金融行业的人工智能应用提供一个新的典范,也希望阿里的这只“蚂蚁”可以在人工智能的大路上走得越来越远。
好文章,需要你的鼓励
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数,通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度,有效分离了回答质量与自我偏好偏差。实验发现,预训练和后训练模型都存在自我偏好,但大模型比小模型偏好度更低;调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制,为提高AI评判客观性提供了重要指导。
这篇研究提出了DenseDPO,一种改进视频生成模型的新方法,通过三大创新解决了传统方法中的"静态偏好"问题:使用结构相似的视频对进行比较,采集细粒度的时序偏好标注,并利用现有视觉语言模型自动标注。实验表明,DenseDPO不仅保留了视频的动态性,还在视觉质量方面与传统方法相当,同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。