小时候你是否羡慕过AI机器人?它们不用吃饭,不用睡觉,什么都懂,仿佛永远不会疲惫。但近期科学家发现,有些AI其实跟人类一样,也需要“睡觉”。
目前AI技术有一个致命缺点,就是当AI学习了新知识后,会把之前学过的知识忘记,这种现象称为“灾难性遗忘”。近日,美国加州大学圣地亚哥医学院的研究发现,通过让一种新型的超级AI模仿人类睡眠,离线一段时间后,AI的“灾难性遗忘”会得到缓解。AI在“睡眠”后,能像人脑一样,回忆过去,而无需用旧的数据重新训练。
我们的科技留言板“有意见”如下
@媒体搬运工:只要是机器还在向我们人类学习,那就证明了人类的不可替代性,也意味着所谓机器自主性还有待完成。机器与人是相互学习的过程,至少我知道了身上的某些看似简单的行为却蕴含着巨大的价值。当机器智能不断演进的时候,人对自我的认识也在不断深化。人工智能的发展就是人认识自我的过程。
@Ada:人类学习到新知识时,神经元会按特定顺序放电,这会增加神经元之间的突触。在睡眠期间,这些学习到的新知识会自发地增强记忆。就是将这种方式应用于人工神经网络的AI时,发现可以帮助其有效地避免“灾难性遗忘”。
@有想法的向日葵:离线一段时间是会进行知识重组么?如果通过不断研究开发出更像人脑的AI,会不会有天AI发展得会独立思考,人机大战是否会成真。
好文章,需要你的鼓励
这项由加州大学圣地亚哥分校和微软研究院合作开发的REAL框架,通过程序分析反馈训练大型语言模型生成高质量代码。与传统方法不同,REAL采用强化学习将代码安全性和可维护性作为奖励信号,不依赖人工标注或特定规则。研究在多个数据集上的实验表明,REAL在保证功能正确性的同时显著提高了代码质量,有效解决了"即兴编程"中的安全漏洞和维护性问题,为AI辅助编程提供了新的范式。
加州大学伯克利分校与Meta FAIR研究团队开发了"Self-Challenging"框架,让大语言模型通过自己创建和解决任务来提升能力。该方法引入创新的"Code-as-Task"格式,包含指令、验证函数、示例解决方案和失败案例,确保生成的任务既可行又有挑战性。在工具计算、网页浏览、零售服务和航班预订四种环境测试中,仅使用自生成训练数据,Llama-3.1-8B模型性能提升了两倍多,证明AI可以通过自我挑战实现有效学习,减少对人类标注的依赖。
南洋理工大学与SenseTime Research合作提出了PoseFuse3D-KI,一种创新的人体中心关键帧插值框架。该方法将3D人体模型信息融入扩散过程,解决了现有技术在处理复杂人体动作时产生扭曲结果的问题。研究团队开发了专门的SMPL-X编码器直接从3D空间提取几何信息,并设计了融合网络将3D线索与2D姿态无缝整合。他们还构建了CHKI-Video数据集,包含2,614个视频片段及完整的人体标注。实验结果显示,PoseFuse3D-KI在PSNR上提升9%,LPIPS减少38%,显著超越现有方法。
这项研究提出了LongGuide算法,解决了大型语言模型在长文本生成任务中的局限性。研究团队发现,仅依靠上下文学习无法使模型充分掌握文本的语言和格式特性。LongGuide通过自动生成两种指导原则:度量指导原则和输出约束指导原则,显著提升了模型性能。在七种长文本生成任务中,该方法使开源和闭源模型的ROUGE-L评分平均提高约6%。LongGuide具有通用性强、易于学习、成本效益高等优点,为提升AI长文本生成能力提供了新方向。