单身久了,看聊天机器人也眉清目秀起来。
近日,Alphabet旗下AI公司DeepMind推出了人工智能聊天机器人Sparrow。DeepMind使用了大型语言模型Chinchilla训练开发,将强化学习与用户反馈结合起来,让一组用户向Sparrow提问,然后针对Sparrow生成的多个答案,选择他们认为最准确的。研究人员利用用户对Sparrow回答的反馈进行改进,极大提高了Sparrow的准确性。
为了防止Sparrow说出带有偏见的答案,研究人员为它制定了23条规则。在让用户诱导Sparrow打破规则的测试中,成功的频率只有8%,明显低于其他方法训练的AI模型。
我们的科技留言板“有意见”如下
@媒体搬运工:基于大模型的NLP看来真是行业热点,刚刚举行的GTC上,NVIDIA也推出了NeMo大型语言模型服务。时至今日,大模型已经成为整个AI产学界追逐的技术宠儿,各式各样参数不一、任务导向不同的大模型层出不穷。大模型具备效果好、泛化能力强等特点,进一步增强了AI的通用性,成为AI技术和应用的新基座。
@锐角:近年来各种LLM(大型语言模型)已经在问答对话上颇有成效。对话是一种灵活的交流方式,但基于LLM的聊天机器人还是会出现不准确、歧视性、涉及不安全行为的对话,因此为了让聊天机器人更安全,必须借由人类的回应来学习,采用人类参与的强化学习方式。无疑,Sparrow就是最新的产物。
@有想法的向日葵:不同的语言文化也增加了AI聊天机器人的难度。对于应答内容,既要满足聊天的能力,不是固定问题总是只有一个枯燥的答案,又要保证其建议的安全性。虽然8%的概率打破规则已经很不容易,但还需要继续完善。
好文章,需要你的鼓励
韩国电子巨头三星宣布收购美国西雅图数字健康技术公司Xealth,进一步扩大在健康领域的布局。Xealth专注于帮助医疗专业人员将数字健康技术整合到日常实践中,与70多家数字健康技术供应商合作,应用覆盖美国500多家医院。此次收购将推动三星向连接医疗保健平台转型,结合其在传感器技术和可穿戴设备方面的优势,完善Samsung Health平台功能。
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。