在OpenAI文生视频生成模型 Sora 火爆的同时,已经有天真的AI专家们忧心忡忡的关注起AI 的安全治理,来自 OpenAI、人工智能治理中心(GovAI)、剑桥大学 Leverhulme 未来智能中心等机构的 19 位学界、业界人士忧心忡忡、把酒言欢的搞了一篇论文,把 AI 治理聚焦到了“硬件”和“算力”上。
其中一个选项是建立一个全球登记处,跟踪用于 AI 超级计算机的芯片流动,从而帮助防止 AI 的滥用和灾难。嗯,这个主意在乌托邦社会可以实现。
“有意见”留言板
@不倒翁:这些专家没事情干了吗,这是什么馊主意,忘记棱镜门事件了?哪个芯片厂商敢在硬件上留后门让你跟踪AI芯片流动和使用?好好的搞你的科研吧,AI 的安全治理最终还是由各个国家的相关部门出台政策制定的。
@周一见:未来的AI治理需要全球合作,各国政府应加强沟通,共同制定和执行政策。同时需加强技术研发,提供先进治理手段,并提升公众对AI的认知,增加其参与度和支持度。
好文章,需要你的鼓励
今天讲的出海案例是明阳电气,这家输配电设备公司在马来西亚投产首个海外生产基地,并以 250 万林吉特子公司承接本地制造。
研究揭示AI搜索代理"屏蔽旧观测"策略的效果取决于检索质量与模型能力的匹配程度,存在三种截然不同的效果区间。
数学界发布《莱顿宣言》,由16位研究人员历时8个月起草,已获国际数学联盟背书。宣言指出,AI正威胁数学研究的核心价值:AI生成的错误证明难以识别、论文引用不规范、版权争议频发、科技公司主导研究议题,以及企业借新闻稿抢占话语权等问题日益严峻。宣言呼吁数学家透明披露AI使用情况,建议监管机构保护作者权利并规范AI产业,同时警告各方不要轻信科技公司对AI能力的夸大宣传。
多所高校与研究机构联合构建机器人语义接地测试平台RSB,发现主流VLA模型普遍存在"能抓但抓错"的致命缺陷,语义理解与动作生成之间存在严重断层。