生成式人工智能技术快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》,既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要。
“有意见”留言板
@老董:AI技术已经可以达到以假乱真的程度,没说过的话、没做过的事,都可以用音、视频智能生成,这样的技术用在正途,可以给人们带来全新的体验,可用在不正常的地方,就会给造谣污蔑、网络诈骗打开一条全新的通道只能说这个办法出台的非常及时,的AI也能有法可依,希望未来也可以执法必严。
@TOFU:厂商有责任尽量防止大模型不去侵害个人信息权益、危害数据安全和造成偏见歧视,但语言的博大精深, 钻空子也不是做不到的,ChatGPT刚出现那段时间,很多人都在尝试挑战它的“底线”,在这一层面,厂商想防患于未然,恐怕也有难度。对于虚假信息,相比辟谣、标记这些措施,对个人来说,培养良好的新闻素养,提高辨别能力更重要。
@独木舟:这项管理法为人工智能服务的开发、使用和监管提供了明确的法律依据,保护相关利益者的权益,防止人工智能技术的滥用,降低相关风险。
好文章,需要你的鼓励
AMD 最近推出了第二代 AMD Versal Premium MoP(Memory on Package,封装上内存)自适应SoC。
蚂蚁集团AI安全实验室开发的SingGuard是一套多模态内容安全审核系统,能同时理解图片与文字的组合意图,并支持运行时动态传入自定义规则,实现策略自适应的安全判断。
Upstage AI构建韩语宽度搜索基准KO-WIDESEARCH,测试20个AI系统填写完整结构化表格的能力,揭示AI善于找成员却难以填对每格的核心缺陷。