今年6月中旬，一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播，扰乱公共秩序，被警方行政拘留。据警方通报，王某某共经营5家MCN机构，运营账号842个，自今年1月以来，王某某通过AI软件生成虚假新闻，最高峰一天能生成4000至7000篇。近日，浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水...
《法治日报》记者近日调查发现，不少未成年人的家长正在被AI剧情聊天软件所困扰。这些打着“角色扮演”等旗号的AI剧情聊天应用，在吸引未成年人的同时，也悄然滋生了一些灰色地带。记者实测发现，在部分AI剧情聊天软件的对话中，出现了色情擦边、语言暴力以及侮辱用户的内容。受访专家认为，针对AI剧情聊天软件，特别是其...
涉黄视频现“换脸”女明星,这不单是低俗恶俗,已涉嫌违法犯罪了;AI造谣,将网络图片或视频移花接木、东拼西凑,为博流量“语不惊人死不休”;AI行骗,“无人直播”平台精心包装出分级复杂、迷惑性极强的传销骗局;AI盗图,涉及AI的侵权诉讼官司...
今天,上游新闻推出“AI生图五大乱象”专题报道,聚焦近年来AI生图领域里暴露出的种种乱象,追根溯源、剖析因果,探索解决之道,以期对AI产业健康发展有所裨益。 今年9月5日,网友“弱冠年华”在个人社交平台发帖称,多个AI博主推广的“假装在旅行”AI...
12月7日，广电总局网络视听司发布《管理提示( AI魔改)》（下称《管理提示》），对一些经典影视形象遭遇AI“魔改”的现象提出了具体管理要求，包括平台对AIGC内容的审核、自查AI特效功能等。对于AI“魔改”视频的制作，记者12月12日在抖音搜索发现，此前有网友总结的“AI魔改”教程中，有一款抖音AI图生视频小程序...
近期，AI应用乱象频出，比如《甄嬛传》变身“枪战片”、《红楼梦》改成“武打戏”、孙悟空骑着摩托车扬长而去等等，经常看短视频的朋友应该都不陌生。事实上，过往在互联网上，将影视作品进行剪辑的恶搞行为不在少数，但随着AI的发展，各类“魔改”视频愈发逼真流畅、真伪难辨，而且制作门槛越来越低，传播越来越...
AI谣言的传播速度和范围都远超传统谣言，为了治理新型乱象。今年4月，中央网信办发布专项行动通知，要求使用AI等技术生成信息的，必须明确标注系技术生成。面对AI谣言等技术和犯罪形式的快速迭代，法律法规研究也要与时俱进。律师游云庭今天上午在接受看看新闻Knews采访时表示，AI造谣不是简简单单的一键生成的，实际上...
随着“AI复活”业务越发火热，乱象也频频出现。今年3月，一段“AI李玟暖心回应粉丝关切”的视频引发关注，在视频中，已故知名歌手李玟以AI形象面对镜头，向粉丝诉说着感谢与鼓励。不仅是李玟，网友还用AI“复活”了高以翔、乔任梁等已故艺人。3月28日，李玟的母亲委托律师就部分网络用户制作、传播“AI复活李玟”相关短...
上游新闻记者调查发现，据多家媒体和警方通报，类似AI换脸骗局最近几年时有发生，不少人信以为真，导致被骗走巨额资产，甚至家庭破裂。而多名制作传播图片和视频并进行诈骗的不法分子，也受到了法律的严惩。受害者：有的被骗钱，有的被“换脸”重庆的尚先生虽然收到了不法分子的敲诈短信，但他幸运躲过一劫。相比之...
当网络谣言遇上AI……网民该如何应对 “0成本、高收益”随着AI从最初的“工业级”技术 逐渐“飞入寻常百姓家”一些别有用心者的造谣能力 也得到了大幅提升 报道称 一些不法分子或机构 为赚取平台流量补贴 实现流量变现 利用AI合成技术编造谣言 严重扰乱社会秩序 AI软件生成内容示意 图源：央视新闻 通过提供关键词 ...