最近,来自KAUST和哈佛大学的研究人员提出了MiniGPT4-Video——专为视频理解而设计的多模态大模型。背后技术是通过将视觉特征转化为LLM空间,从而实现了对单幅图像的理解,然后使模型通过输入多帧训练来理解视频。
MiniGPT4-Video能够同时处理时态视觉数据和文本数据,因此善于理解视频的复杂性。比如上传一个某个品牌的宣传视频,MiniGPT4-Video能够为其配出标题以及宣传语;看过一簇簇花盛开的视频,MiniGPT4-video还可以即兴作出抒情诗。
“有意见”留言板
@剪辑尸:演示效果很棒,实际体验翻车的产品太多了,尤其是直接生成视频的方式,目前还是挺容易失败的,MiniGPT4-Video看起来实用性一般,但是AI终于能看懂视频的做法了,也许以后能有助于提高视频生成的成功率吧。
@PD:这种模型的能力在于它不仅可以识别视频中的视觉元素,还能理解视频中的语境和情感,这对于自动内容生成、视频摘要、广告创意和许多其他应用来说是非常有价值的。
好文章,需要你的鼓励
谷歌研究团队推出VaultGemma,这是其首个采用差分隐私技术的大语言模型。该模型基于Gemma 2构建,拥有10亿参数,通过在训练阶段引入校准噪声来防止模型"记忆"敏感用户数据。研究团队建立了差分隐私缩放定律,平衡计算预算、隐私预算和数据预算。尽管添加差分隐私会影响准确性,但VaultGemma在性能上与同规模非私有模型相当。该模型现已在Hugging Face和Kaggle平台开放下载。
香港中文大学联合上海AI实验室推出Dispider系统,首次实现AI视频"边看边聊"能力。通过创新的三分式架构设计,将感知、决策、反应功能独立分离,让AI能像人类一样在观看视频过程中进行实时交流,在StreamingBench测试中显著超越现有系统,为教育、娱乐、医疗、安防等领域的视频AI应用开启新可能。
英国宽带服务商Olilo正式推出多千兆宽带服务,专门面向技术人员、工程师、系统管理员和家庭实验室爱好者。该公司自建Layer 2网络基础设施,提供对称多千兆宽带,支持静态IPv4地址和原生IPv6。Olilo与伦敦三大互联网交换中心建立对等连接,在英国对等网络中排名第24位。服务经过150多名技术用户的付费封闭测试,并通过Discord社区持续收集用户反馈优化服务。
Atla公司发布Selene Mini,这是一个仅有80亿参数的AI评估模型,却在11个基准测试中全面超越GPT-4o-mini。通过精心的数据筛选和创新训练策略,该模型不仅能准确评判文本质量,还能在医疗、金融等专业领域表现出色。研究团队将模型完全开源,为AI评估技术的普及和发展做出贡献。