P图软件不光能美颜，还会被一些人用来篡改或制造伪造图像。而随着AI技术的发展，也发展出了诸如Deepfake等能让图像达到以假乱真效果的应用。特别地，一些攻击者就利用这些软件技术，在线薅羊毛，由此产生利益链。目前，随着反取证技术的出现，资质文档类图像证件造假的真伪鉴定问题进入了攻防博弈阶段。图像取证技术与图片造假攻击技术是矛和盾的关系，甚至可以说是“道高一尺，魔高一丈”。 对于目前备受关注的资质文档类图像证件造假问题，阿里安全的技术专家渡明将其分为两类：一类是无中生有的完全伪造证件，另一类是对证件的有效期等部分内容进行篡改。目前，很多篡改方法都是基于人工操作，但就算你是P图高手，并不代表就能骗得过检测算法。另外为了提升防御能力，一般会事先通过模拟黑灰产对资质类证件图像进行多样化的篡改攻击，进一步研究分析后，提升对特殊种类的伪造证件图像的检测能力。渡明告诉AI科技大本营，相对自然图像的检测研究，文档资质类图像的取证技术要滞后很多。目前，文档资质类图像的取证技术的难点主要有四个方面：第一，现有算法基本分为两大类，一类是基于传统方法提取特征的方式。另一类是基于深度学习的方式。无论哪一种方式，都会存在对抗博弈；第二，无论是传统机器学习还是深度学习方法，现在的图像取证都会利用图像生成过程的固有特性，就资质文档图像而言，其图像的该特性往往不够显著也不够稳定；第三，从2005年至今，虽然业界积累了大量的数据集，但针对随意篡改的纸质文档类图像数据集在市面上很少见，可能只有极少数课题组做了数十张到上百张的图像规模，这对检测模型的准确性有一定影响；第四，一些不那么明显的弱点。比如，某种程度上，所有的图像取证都是基于统计分析，或者通过有限的有效样本进行统计分析得出结论，如果图像分辨率非常低，用来分析的有效样本很少，那么检测将比较困难。为了应对现有图像取证技术的不足，推进检测技术更广泛的应用，阿里安全与清华大学举办全球首个针对证件资质文档类图像的伪造图像对抗攻击竞赛，简单说，就是造假王这次能光明正大得薅阿里平台的奖金了，前提是你得是P图小能手，有高科技含量的那种。据介绍，比赛采用的数据为真实的证书文档类图像，任务是通过对原始图像的特定候选区域进行伪造篡改（P图），做到视觉无伪造痕迹，并且让图像取证模型无法识别篡改。 从具体的技术角度来看，伪造图像检测攻击要求保证图像篡改痕迹不可见性，同时不引入新的可检测特性，问题的复杂度更高也更有挑战；其次，本次竞赛采用了全新的设定，为了公平性，参赛者都是对圈定的候选区域进行篡改，并且允许参赛者进行局部或者全局后处理操作，掩盖篡改痕迹，进一步提高了问题的挑战性。渡明介绍，阿里安全的比赛会综合两大维度的评价指标，一是机器检测的对抗性指标，如果你的对抗性图片完全骗过机器的检测算法，这一维度分数可能接近满分；二是人工复审的视觉性指标，如果你没有很好的约束修改方式，导致图像的视觉质量特别很差，这一维度的分数则可能接近零分。一个目前看来无法调和的矛盾是，检测技术的存在就是为了筛选出伪造图像，但为了强化检测技术，却不得不造出更多的伪造图像。对此，渡明认为，取证技术的发展一定程度上取决于检测方和攻击方的相互博弈，现在能够做的就是尽可能做预判，如果不提前分析考虑一些潜在的图像伪造攻击手法，图像取证技术则永远处于被动状态。 但他也提到，市面上来自P图软件篡改攻击方法已占据90%以上的比例，这并不是一个无限集的问题，不需要很大量的伪造图像数据集。况且，现在学界通常可以用类似决策树的方法率先判断出篡改方法，然后用专门的检测方法就可以比较准确的定位篡改区域。本次大赛将有ELA（ Error Level Analysis，误差等级分析）等4种经典的图像篡改检测模型来进行识别，大赛鼓励参赛者能够发挥自己的创造性，进行各种不影响视觉质量的操作掩盖篡改痕迹。赛后，阿里安全也会公开相应数据集。对于参赛者，阿里方面将在赛前提供解题指导，比如提供Docker指南，降低比赛的进入门槛。同时也为头部选手提供免费服务器，以解决算力不足的痛点，让他们在满足刚性需求的基础上，真正发挥参赛者的实力。 据悉，该系列比赛目前已经收到了2000万条恶意样本，沉淀了40多个具有前沿创新性的参赛源码和方案，激发出高校学生在安全AI领域的创造力，为实际业务问题的解决贡献了力量，也将有助于填补和缓解AI安全人才缺口。如果你对该比赛感兴趣，点击链接即可报名，超25万元奖金等你瓜分：https://tianchi.aliyun.com/competition/entrance/531812/introduction关注公众号：拾黑（shiheibook）了解更多
[广告]赞助链接：
四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/
AI100
关注网络尖刀微信公众号
