浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为，从目前来说，如果能够有效落实标识的要求，形成有效的监管体系，可以在很大程度上提前厘清“AI换脸”所带来的模糊边界。盘和林：当前“AI换脸”的标识监管体系还没有形成，要针对不标注的内容，通过技术的手段来辨别，并且对不标注的个人或者是单位组织...
2020年，浙江杭州的虞某接触了“AI换脸”软件。为吸引流量，他利用该软件制作大量淫秽视频并传播，被换脸的有不少是女明星。虞某声称，“只要能看到脸的都能换。”有人甚至要定制暗恋女生的换脸视频。最终，虞某犯制作、传播淫秽物品牟利罪，被判有期徒刑七年三个月，并处罚金6万元。“AI换脸”伪造女明星涉黄视...
据介绍，肖像的核心在于可识别性，须具有充分指向性。“AI换脸”后，虽然面部形象发生改变，但对于身体形象而言，如果社会公众结合未被修改的场景细节、装饰装束、肢体动作及特殊印记等，能够将该身体形象与特定主体建立起对应关系，则该身体形象可作为肖像权的客体，受肖像权保护。上海市徐汇区人民法院民事审判庭法官 戚...
在一些图片生成模型的使用过程中，比如 Open AI 的 DALL·E 模型中，你是没有办法让 AI 对某张具体...
换脸，不是想换就换 ——透视“AI换脸”侵犯个人信息公益诉讼案 “AI换脸”，相信大家都不陌生，只需要一张照片，通过深度合成技术，任何人都能成为热播影视作品中的主角，甚至表情、神态都足以以假乱真。然而，近年来，伴随着技术门槛的降低和应用场景的增多，“换脸技术”的应用早已突破原来的娱乐范围，甚至成为不...
AI换脸换声诈骗案件时有发生 除了伪造名人形象带货营销，AI换脸和语音合成技术还被用于诈骗。犯罪分子通过非法获取的人脸照片和语音样本，利用开源AI工具生成逼真的虚拟形象。此前内蒙古警方破获的一起AI换脸诈骗案中，福建某科技公司老板郭先生在视频通话中目睹“好友”面容，10分钟内被骗转账430万元，事后发现对方竟是AI...
除了一些不法分子企图利用AI技术实施诈骗，近年来，AI技术还被广泛应用于短视频的二次创作。越来越多的名人“AI换脸换声”视频出现在网络上。这类视频嘴型、手势都对得上，十分自然。记者发现，在手机应用商店中，有数十款软件可以实现“AI换脸换声”的效果，且基本都在用户协议中标明“仅供娱乐使用”。这类软件的...
不过，AI技术也是把“双刃剑”，即使是出于娱乐使用AI换脸、AI换声，也是存在法律风险的。法律专家表示，用AI技术为他人换脸换声甚至翻译成其他语言并发布视频，可能涉嫌侵权，主要有三个方面：一是涉嫌侵犯著作权，例如相声、小品等都属于《中华人民共和国著作权法》保护的“作品”。例如网友用AI软件将相声、小品等“...
“这类案件中，不法分子利用AI换脸，伪造事实、隐瞒真相，使被害人陷入错误的认识，从而交付财物，涉嫌诈骗罪，需要加倍警惕。” 夏文忠表示。AI换脸并不新鲜 普通人娱乐、主播带货已经有之 AI换脸早已不是新鲜事，除了变“熟人脸”实施诈骗，已应用至多个领域。比如，在日常生活中，不少网友体验过娱乐性的AI换脸。
陈歆怡说：“AI换脸换声的基本逻辑是通过深度学习特定算法，将目标人物的人脸、表情、声音等嫁接到模仿的视频中，最终实现视听合成的高仿真性，且软件成本低，合成速率高，检测鉴别难度大，一般人难以发现伪装痕迹。”总结下来，目前AI诈骗的主要形式有两种。陈歆怡说：“第一种相对简单，通过技术手段直接合成换脸、拟声...