ACM Computing Surveys

AIxiv专栏是呆板之心宣布学术、技巧内容的栏目。从前数年，呆板之心AIxiv专栏接受报道了2000多篇内容，笼罩寰球各年夜高校与企业的顶级试验室，无效增进了学术交换与传布。假如你有优良的任务想要分享，欢送投稿或许接洽报道。投稿邮箱：[email protected]；[email protected]本文作者包含喷鼻港年夜学的王天一、Kam Pui Chow，湖南年夜学的廖鑫 (独特通信)，圭尔夫年夜学的林晓东跟齐鲁产业年夜学 (山东省迷信院) 的王英龙 (第一通信)。基于深度神经收集对人脸图像停止编纂跟改动，深度捏造的开展为人们的生涯带来了方便，但对其过错的利用也同时迫害着人们的隐衷跟信息保险。比年来，针对深度捏造对人们隐衷保险形成的迫害，固然范畴内的研讨者们提出了基于差别角度跟差别算法的检测手腕，然而在现实的深度捏造相干案例中，鲜有检测模子被胜利利用于司法裁决，并真正做到保证人们的隐衷保险。克日，一篇基于牢靠性视角的深度捏造检测综述收录在 ACM Computing Surveys (IF=23.8)。文章作者剖析，在以后深度捏造范畴内的研讨中，尚缺少一条完全的桥梁，能够将成熟的深度捏造检测模子与其在现实案例中的潜伏利用接洽起来。论文题目：Deepfake Detection: A Comprehensive Survey from the Reliability PerspectivearXiv 地点: https://arxiv.org/abs/2211.10881本综述由喷鼻港年夜学、齐鲁产业年夜学、湖南年夜学、圭尔夫年夜学结合宣布，从牢靠性的角度片面回想了以后范畴内的常用深度捏造基准数据库 (表 1) 跟代表性检测模子，并基于现有检测模子的范例跟优毛病，提出了三个值得范畴内研讨者们连续摸索的话题跟挑衅 (图 1)：迁徙性、可说明性跟鲁棒性。三谎话题跟挑衅迁徙性话题存眷已实现练习的深度捏造检测模子能否可能在不曾见过的数据跟改动算法上仍然保持令人满足的检测正确率。具体来说，当一个深度捏造检测器在被普遍应用的 FaceForensics++ 数据集上实现练习后，除了在 FaceForensics++ 的测试集上展示杰出的检测正确率，仍须要可能在 cross-dataset 跟 cross-manipulation 设定下，保持较为稳固的后果。此目的旨在防止针对连续迭代呈现的新的捏造数据跟捏造算法时无休止地增添模子练习本钱。可说明性话题着重于检测模子在断定真伪的同时是否额定供给令人佩服的证据跟艰深易懂的说明。具体来说，当一个深度捏造检测器断定一张图片的真伪时，平日只能供给对其真或假的断定论断，以及在各个试验数据集上测试时的检测正确率。但是，对须要依附于检测模子来维护团体隐衷信息的非专业人士，可能供给除正确率指标之外艰深易懂的额定证据 (比方，被标志的捏造地区定位或被可视化的捏造陈迹跟噪声) 是极端主要的。鲁棒性话题则基于已有的客不雅模子检测后果，着眼于现实生涯场景，存眷深度捏造素材在传布中遭遇客观跟客不雅画质丧失后，能否仍然能够被检测器准确断定。具体来说，深度捏造素材的迫害跟着其在收集中的连续性传布而一直增添，而在上传、下载、转载等传布进程中，受差别平台对素材属性的限度跟协定请求，该素材将弗成防止地遭遇品质上的折损跟下降。另一方面，当攻打者 (即深度捏造素材的制作者) 已知范畴内已有针对各种深度捏造算法的检测手腕时，其会锐意向捏造的素材内有针对性地增加可能必定水平上捣乱深度捏造检测器的噪声。以上两类情形，都须要依附于深度捏造检测模子的鲁棒性，从而能够连续地在现实生涯案例中施展感化。评价与试验除了深刻探究三个话题跟挑衅的意思以及综述性地总结范畴内的相干任务之外，本文还侧重提出了一个针对模子牢靠性的评价方式 (图 2)。该方式遭到司法判定中对 DNA 比对进程的启示，经由过程模仿跟构建实在天下中的深度捏造数据的总 population，引入统计学中随机采样的方式，迷信且谨严地评价深度捏造检测模子的牢靠性，从而供给对于模子机能的统计学指标，以作为法庭审讯的潜伏证据跟帮助证据。基于该指标，可得出在差别相信度前提下的模子检测正确率论断。该牢靠性评价方式的开端摸索，旨在供给一条道路能够使浩繁深度捏造检测模子可能在现实生涯案例中真正施展代价。同时，该综述经由过程停止大批试验，在差别的样本集巨细、相信度、采样次数等情况设定下，对为处理三种话题跟挑衅的七个深度捏造检测模子停止模子复现跟牢靠性剖析。别的，该综述将试验中的深度捏造检测模子利用在受害者分辨为明星、政客、一般人的现实深度捏造案例中的假视频停止鉴伪跟剖析，并针对检测成果供给基于特定相信度前提下的模子检测正确率论断 (图 3)。试验成果标明，以后范畴内的现存深度捏造检测模子分辨在迁徙性、可说明性、鲁棒性话题方面各有建立，但适时其统筹两个或三个话题跟挑衅时，在模子后果上则展示出了明显的衡量跟弃取。但是，平日来说，人们盼望，一个牢靠的深度捏造检测模子应同时具有精良的迁徙性、艰深易懂的可说明性、稳固的鲁棒性，以便可能在现实生涯中的深度捏造案例中维护跟保证受害者的隐衷保险。因而，本综述论文所总结的理念、发明、论断也为深度捏造检测范畴的研讨者们供给了新的研讨挑衅与研讨偏向。第一作者信息王天一，本科结业于美国华盛顿年夜学西雅图分校，修习盘算机迷信跟利用数学双专业；博士结业于喷鼻港年夜学，研讨偏向为多媒体取证；现为南洋理工年夜学退职博士后研讨员。Tianyi Wang, Xin Liao, Kam Pui Chow, Xiaodong Lin, and Yinglong Wang. 2024. Deepfake Detection: A Comprehensive Survey from the Reliability Perspective. ACM Comput. Surv. 57, 3, Article 58 (March 2025), 35 pages. https://doi.org/10.1145/3699710