在日前的2023年北京智源大会上,200多位人工智能大佬齐聚一堂。图灵奖得主Yann LeCun、Geoffrey Hinton、OpenAI联合创始人Sam Altman都通过视频连线发表了演讲。Geoffrey Hinton谈到AI可能会欺骗人类,再次提醒人们超级智能的控制问题。与之相反,Yann LeCun是乐观派,认为AI毁灭人类是杞人忧天。Sam Altman则强调了全球AI安全对齐与监管,并与智源研究院理事长张宏江隔空对话,透露GPT-5不会很快出现。
“有意见”留言板
@媒体搬运工:对于AI,我的耳朵已经磨出茧子了,似乎大家都非常笃定AI会是变革的主导力量,成为每一个企业的“稻草”。当我们满怀期待和热烈讨论,意味着AI还没有真正发挥作用。也许当我们日用而不知的时候,AI才会带来真正的变化。
@黑咕隆咚:大会上最有趣的是观点的碰撞。Hinton之前从谷歌离职时就说对自己所做的工作感到后悔,呼吁大家防控AI风险。这次主要谈的两个话题也呼应了他的担忧:人工神经网络是否比真正的神经网络更聪明?人类是否需要继续控制超级AI发展?而LeCun则认为如今AI的智能还不如一条狗,还没有超级AI,谈什么让超级AI系统安全。
@生活有点甜:AI技术的发展应该遵循伦理和法律规范,保证技术的安全可靠,保护用户的隐私权利。只有这样才能让AI技术真正为人类服务,为社会的发展和进步做出更大的贡献。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。