AI算法偏差导致不公平性问题，比如人脸识别算法存在种族歧视与性别歧视，AI信贷模型对特定地域人群的歧视等，缺乏有效衡量算法公平性的方法和工具；同时，AI技术的滥用引发道德伦理问题，比如深度伪造技术的滥用带来的个人和社会风险问题。清华大学人工智能研究院的核心孵化企业北京瑞莱智慧科技有限公司副总裁唐家渝在演讲时谈...
算法共由 局部伪造区域检测模块 和 多尺度面部伪造方法 组成。其中局部伪造区域检测模块通过检测样本局部区域中是否含有伪造特征过滤伪造样本，以此避免模型关注样本的全局身份信息。多尺度面部伪造方法用于生成带有伪造区域位置信息的伪造样本，以支持局部伪造区域检测模块训练。3.1 局部伪造特征检测模块 我们期望模型可以根据...
本文“基于改进型ViT的深度伪造鉴别算法”,从兼顾图像局部与整体特征角度优化改进,提出一种新的检测方案。 一、现有深度伪造检测技术背景 大多数深度伪造的检测模型都是基于CNN结构的。检测方法分为两种,一种是针对单帧的伪造信息进行检测,如人脸区域与背景分辨率的差异、生成人脸细节、篡改图像与真实图像存在分布上的差...
这篇论文使用对抗数据增强基准和自监督方法提出了一个人脸伪造算法,通过对抗学习去生成增强不同类型的人脸伪造数据及对应的伪造配置 {构成伪造合成器,即生成器} ,再使用这些数据及对应的伪造配置通过多任务自监督方法去判断类别及对应的伪造配置{构成伪造检测器,即鉴别器}。 通过生成器与鉴别器的对抗学习去丰富增强伪造...
基于深度学习的伪造语音检测算法研究一、引言随着信息技术的快速发展,语音技术在日常生活中扮演着越来越重要的角色。然而,随之而来的问题也日益突出,其中之一就是伪造语音的检测。伪造语音的制造和传播不仅可能侵犯个人隐私,还可能对司法公正和社会稳定造成威胁。因此,基于深度学习的伪造语音检测算法研究显得尤为重要。本文...
图1:Facebook首席执行官马克·扎克伯格的伪造视频 对于未经过特殊训练的人来说,很难分辨出深度假视频(Deepfake),因为它们可能非常逼真。无论是作为一种新型的“调侃”方式,还是用于其他目的,描述人们从未做过或说过事情的虚假视频都是对“眼见为实”这一长期理念的根本威胁。 大多数深度假视频是通过向计算机算法显示...
视频伪造 视频伪造是Deepfake技术最为主要的代表,制作假视频的技术也被业界称为人工智能换脸技术(AI face swap)。其核心原理是利用生成对抗网络或者卷积神经网络等算法将目标对象的面部“嫁接”到被模仿对象上。由于视频是连续的图片组成,因此只需要把每一张图片中的脸替换,就能得到变脸的新视频。具体而言,首先将模仿对...
近日,MIT(麻省理工学院)的研究人员发明了一项新技术,单凭一张照片,就能把片中人,随意摆成任何姿势。AI的想象力和脑补力,竟然能达到窥一片而知全貌了? 没错,让人惊喜的是,这项技术的合成效果还非常好,颇有以假乱真的气势—— 穿着瑜伽服打棒球? 又穿着瑜伽服打高尔夫? 棒球比赛期间突然做起瑜伽? 可能你也猜...
2023年6月，马上消费自研的“通用深伪检测算法服务 MSXF-Antideepfake-V2”率先完成了中国信通院的深度伪造视频检测服务能力评估，并获优秀级认证。近期，公司已启动零售金融行业大模型征名，即将对外发布。据悉，本次深度伪造视频检测服务能力评估是基于T/CAT 20230005《深度伪造视频检测服务能力要求及评估方法》，面向深度...
人脸活体检测主要是人脸防伪技术,其算法是判定是否是真人活体,而并非是照片、视频、防具等试图蒙混过关。 1. 照片漏洞 照片是最简单的钻漏洞的方式,只需要通过社交媒体平台就能轻松的获取相关人员的照片,但照片属于静态,只需要通过动态来判断就可以轻易的识别,因此通过人脸验证的时候通常利用眨眼、张嘴、转头等交互动作...