近年来,以假乱真生成式人工智能技术被广泛应用,真相在为人们提供便利的惕引套路WhatsApp%E3%80%90+86%2015855158769%E3%80%91paper%20crane%20chinese同时,也让造谣者有了可乘之机。流新近期就有多起AI生成谣言在网络广泛传播,生成视频误导公众认知,暗藏破坏网络环境。误导
今年11月28日网友上传的风险一段视频,一名模特在展出的以假乱真车辆旁边,衣着暴露,真相且做出不雅动作。惕引套路而当天车企并没有安排模特为车辆宣传,流新车企选择报警。生成视频

12月10日,暗藏广州警方通报:“车展不雅视频”事件:李某为炫耀个人技术用AI生成虚假视频,误导被行拘10日。WhatsApp%E3%80%90+86%2015855158769%E3%80%91paper%20crane%20chinese
珠峰装电梯、长城贴瓷砖、黄河设玻璃护栏是近几年出现的典型的网络谣言。不过最近,网络上珠峰装电梯视频依靠AI生成工具,制作得更加精良,再次席卷而来。

内容虽然荒唐,但是因为传播广泛,官方紧急辟谣,西藏相关部门称,目前珠峰暂无安装电梯计划,网传图文视频为AI生成的虚假信息。部分营销号利用AI伪造西藏各类打卡景点的虚假图文视频,用虚假话术吸引流量,提醒网民切勿相信此类谣言。
明确所有AI生成内容都要“亮明身份”
以上这些利用AI生成的谣言视频,效果都达到了“以假乱真”的程度,而且在发布传播的过程中,都没有标注AI生成标识,其结果就是,给网友错觉认为这是真的。
事实上,今年9月1日起,《人工智能生成合成内容标识办法》正式施行,明确所有AI生成的文字、图片、视频等内容都要“亮明身份”,标注AI生成的标识。通常人工智能生成的视频或者图片以及文字标识问题,涉及三个主体:AI生成工具,信息发布和发布信息的平台,每一个环节都应标注。
如何“打上”AI生成标识?总台记者演示
总台记者也针对AI生成标识的标注进行了演示。
总台央视记者 崔世杰:我给AI工具一个提示,让他用雪山、湖泊和老虎制作一张图片,AI给的图片是这样的。这张图就是典型的人工智能生成的图片,AI标识在哪里呢,在图片的左上角写有AI生成字样,如果下载到手机中,标识会到右下角。



信息发布者如何在自己的发布的信息中打上AI制作的标识呢?以视频号为例,打开已经发布的信息,在下边找到这个箭头标记,点开,找到视频标注的选项点击,这里有几个选项、内容为AI制作、内容为虚构剧情,点AI制作。再看视频下方会有一行字,作者提示,内容为AI技术制作。

一些人为了博眼球将AI生成标识二次加工给去掉,发到平台上。这时候作为谣言散布的最后守门员,平台就要去识别,并且打上标识。刷短视频时一定看到过这样的文字,在视频下方写着内容可能使用了AI图像编辑技术,请注意甄别。这行字就是平台识别判断后加上去的。
平台如何检测AI生成内容?为何有漏网之鱼?
有了法律法规,技术上也会进行标注提示,为何网络平台还会出现此类谣言视频?记者走访了视频平台和AI生成研究团队,来看看为何会有部分AI生成谣言成为漏网之鱼,进而误导网友。
相关数据显示,短视频平台面对的是每天以亿为单位的网民上传的内容。

某平台生态运营经理 陈咏月:目前,平台对AI生成内容的审核采用的是机审和人审相结合的方式,也在不断强化识别能力。具体来说,平台通过收集样本,利用AI能力,训练了多个对AIGC内容识别的模型,来识别一条视频内容是否是AI制作的。
那么具体AI识别工具在识别是否为AI生成的作品时,会留意哪些方面呢。

中国计算机学会计算机安全专委会执行委员 潘季明:首先是针对文本的统计特征分析技术,寻找AI写作过于平稳、缺乏人味的“机器指纹”。其次是基于深度学习模型的检测技术,通过对特定生成算法的缺陷进行识别,分析像素和频域中存在的AI生成伪影,如纹理重复或特定图案。第三是多模态融合检测技术,利用大模型的通用理解能力来捕捉跨模态、高级语义上的不一致来实现。
不过平台和专家也坦言,现在的AI工具的识别能力,还无法做到完全准确,其主要原因AI生成工具在不断成熟,而AI识别工具始终处于追赶状态。这让AI谣言类信息未被检测出来难以避免。
陈咏月:但是技术在不断发展,模型识别的结果并不一定完全准确。

潘季明:现在主流的检测技术主要面临三大困难。一是存在理论瓶颈,随着AI模型能力不断增强,其输出的统计特征越来越接近人类高质量作品,导致理论上仅靠统计指标已无法区分,也就是概率分布重叠。其次是文本只需简单润色或同义词替换;图像只需压缩或截图就能破坏水印或伪影,使检测器失效。第三是泛化性不足,检测器通常是针对旧模型训练的,面对新的、未见过的AI生成模型,检测效果会显著下降,导致检测始终处于“滞后”状态。
AI提供者创作者及平台应共同防范AI滥用
专家表示,防范AI滥用不仅是识别工具技术更新问题,同时也要加速建立“数字信任生态体系”。

陈咏月:AI滥用的治理是个系统性工程,网络黑灰产为了利益也会进行技术升级,还会有更多的技术对抗。所以对AI滥用的治理仍然需要AI服务提供者、创作者、内容传播平台、广大用户共同努力。

潘季明:通过深化利用多模态融合分析、动态对抗训练技术以及区块链存证追溯等技术,结合内容标识法规、行业统一的检测标准,以及可解释的检测结果?等治理框架,共同实现?从被动识别到主动验证,从局部鉴别到全局可信?的识别追踪方案。
相關文章:
哈兰德本赛季英超数据:20脚射门打进9球,每9.4次触球进1球谋杀沙特媒体:国脚穆瓦拉德坠楼可能是刑事案件,监控已被拆除与维尔纳聊过德比战吗哈弗茨调侃:我不和热刺球员说话黄金竹来枞阳慰问受伤民警付不起解约金博主:伊万解约谈的不太顺利,核心还是一个钱字枞阳县池州长江公路大桥北连接线工程即将开工中央海岸水手主帅:期待与亚洲最强球队较量,每个人都很兴奋付不起解约金博主:伊万解约谈的不太顺利,核心还是一个钱字枞阳海螺供应处开展业务员下现场活动俄罗斯足协主席:俄罗斯仍有可能踢2026美加墨世界杯,拭目以待吧县总工会组织开展植树造林活动枞阳海螺开展矿山节后复产安全专项检查淝河监狱领导来枞阳调研社区矫正工作枞阳三学生为老师出版遗著传承文化薪火枞阳民警帮助流浪失聪老人回家枞阳县摄协结对帮扶贫困学生枞阳2015年建议提案已交办电子商务助力枞阳经济实现转型发展枞阳村级“零招待”初见成效扑点+零封!罗伯特桑切斯当选对阵伯恩茅斯一役切尔西最佳球员记者:迪马尔科缺席国米训练,预计不会随队出征曼彻斯特中超8月最佳阵容:武磊、朱辰杰&王大雷三位国内球员入选枞阳县池州长江公路大桥北连接线工程即将开工淝河监狱领导来枞阳调研社区矫正工作枞阳组织参加全国打击侵权假冒工作电视电话会议枞阳民警帮助流浪失聪老人回家枞阳:规模种植白茶 带动农民增收枞阳海螺慰问困难职工(图)有冲劲!艾菲尔丁带球突破连过两人,随后被对方放倒这都不进迪巴拉脚后跟妙传,多夫比克近距离打门打得太正枞阳海螺:依靠自身力量 改善办公环境关于印发2015年度枞阳县美好乡村中心村名单的通知枞阳积极探索工业园区发展新路径门前风声鹤唳!开场中央海岸水手连续进攻,一度破门但主裁先响哨枞阳2015年建议提案已交办枞阳召开质量技术协会第四届会员大会谋杀沙特媒体:国脚穆瓦拉德坠楼可能是刑事案件,监控已被拆除浙江队抵达新加坡,备战亚冠二级联赛与狮城水手的比赛“零招待”,干部下村不管饭全县文明单位管理暨枞阳文明网信息员培训工作会议召开苹果iPad全面采用OLED屏幕:LCD将成绝唱最低7万,实用性爆表!日本“五菱宏光”为何人手一台?科曼:德佩应该得到更多尊重,我将继续执教荷兰参加2026世界杯传奇!C罗欧洲杯纪录一览:进球最多、助攻最多、创造机会最多亳州京师翰林小学开展红歌比赛欧洲杯MVP热门!亚马尔1球3助&奥尔莫3球2助,两人都出自拉玛西亚逆转战胜土耳其,西蒙斯:相信团队Woj:布朗尼会在新赛季首周与父亲一同登场,但还是以发展联盟为主德天空:切尔西&利物浦&米兰&尤文有意阿德耶米,上赛季打进5球我省新增9个地理标志农产品 总数达到101个
1.022s , 14497.140625 kb
Copyright © 2025 Powered by 真相来了丨警惕引流新套WhatsApp%E3%80%90+86%2015855158769%E3%80%91paper%20crane%20chinese路 AI生成视频“以假乱真”暗藏误导风险,呼來喝去網