ChatGPT 人工智能 GPT4 伦理 生成式 医疗 监管 安全 机器学习 深度学习 神经网络 计算机视觉 强化学习 模型 算法 应用 开发 研究 工具 平台 框架 数据集 训练 部署 安全 合规 培训 投资 LLM,llm AI,ai,Ai 大模型 大语言模型 制图 生图 绘图 文生图 文生视频 生成式AI AGI 世界模型 sora chatGPT,chatgpt,ChatGpt claude openai Llama deepseek midjourney 红熊猫模型 Red panda,panda Stable Diffusion,StableDiffusion,stable DALL- E 3 DALL E DALL Flux,flux 扩散模型 混元大模型 文心一言 通义千问 可灵 Pika PixelDance 豆包 月之暗面 零一万物 阶跃星辰 搜索增强 MiniMax Talkie Agent prompt fastai LangChain TTS 微调 提示词 知识库 智能体
# 热门搜索 #
搜索
图像伪造照妖镜!北大发布多模态LLM图像篡改检测定位框架FakeShield
3330点击    2024-10-25 11:03

随着生成式人工智能(AIGC)的迅猛发展,图像编辑与合成技术变得愈加成熟与普及。这一趋势为图像内容创作带来了便捷的同时,也显著增加了篡改检测的难度。


用户能够通过Photoshop、DeepFake、AIGC等工具对图像进行高质量编辑,且往往不留任何痕迹。在此背景下,如何准确检测并定位篡改区域,成为了学术界与工业界的关注重点。


尽管现有的图像篡改检测与定位(IFDL)算法在网络结构和训练策略上取得了一定进展,但仍存在几个主要问题:


1. 大多数方法采用黑箱模型,仅输出真实性概率,缺乏详细的检测解释,导致用户对结果的信任度降低。


2. 现有算法通常针对特定篡改技术,缺乏应对多样化篡改手段的能力,降低了实用性。


为了解决这些问题,如图1所示,北京大学与华南理工大学的研究团队提出了一种全新的任务:可解释的图像伪造检测与定位(e-IFDL),并设计了一个新颖的多模态伪造检测定位框架:FakeShield。


论文地址:https://arxiv.org/abs/2410.02761

项目主页:https://zhipeixu.github.io/projects/FakeShield/

GitHub地址:https://github.com/zhipeixu/FakeShield


结合多模态大语言模型的视觉和语言理解能力,实现在检测图像真实性,生成篡改区域掩膜的同时,提供详细解释,进而增强了检测定位过程的透明性与泛化性。


图1:(a)传统IFDL方法,(b)可解释的IFDL方法


为了解决现有IFDL方法的不足,FakeShield提出了以下主要贡献:


1. 提出了首个多模态大模型框架用于图像篡改检测与定位,不仅实现了检测与定位过程的解耦,还提供了合理的判断依据,解决了现有方法的黑箱问题。


2. 利用GPT-4o丰富现有IFDL数据集,构建了多模态篡改描述数据集(MMTD-Set),通过关注不同篡改特征,生成「图像-掩膜-描述」三元组,提高了模型的分析能力。


3. 设计了基于领域标签引导的解释性篡改检测模块(DTE-FDM),在单一模型中检测多种篡改类型,缓解了数据域冲突问题。同时,通过多模态篡改定位模块(MFLM),对齐视觉和语言特征,实现精准的篡改区域定位。


基于上述创新,FakeShield不仅提升了篡改检测定位的准确性和解释性,还显著增强了模型的适应性和实用性,为图像篡改检测领域提供了一种全面而高效的解决方案。


MMTD-Set数据集


如图2所示,我们根据篡改方法,将篡改图片分为PhotoShop、DeepFake、AIGC-Editing三个数据域。基于现有的IFDL数据集,我们利用GPT-4o生成对于篡改图像的分析与描述,构建「图像-掩膜-描述」三元组,以支持模型的多模态训练。另外,针对不同篡改类型,我们设计了特定的描述提示,引导GPT关注不同的像素伪影和语义错误。


图2:MMTD-Set数据集构建过程


在MMTD-Set的构建过程中,prompt设计是关键环节,旨在确保GPT-4o能准确生成与篡改图像相关的高质量描述。在输入编辑后的图像及其二值掩膜时,prompt的设计围绕两个主要方面展开:篡改区域的定位和可见细节的捕捉。


在定位描述中,GPT-4o需要对篡改区域的绝对位置和相对位置进行清晰表达。绝对位置指篡改区域在整个图像中的位置,如「图像的左上角」或「靠近图像下半部分」。相对位置则要求描述篡改区域与其他物体之间的关系,如「在桌面上方」或「靠近人群」。这种双重描述的设计可以帮助模型更准确地感知篡改区域在图像中的位置,确保输出的掩膜与实际篡改区域一致。


在可见细节的捕捉上,prompt重点关注多种视觉异常,这些异常反映了篡改过程中可能留下的伪影和逻辑错误。


对于Photoshop篡改,prompt重点关注像素级伪影和不自然的边缘,要求模型检查光照一致性、像素模糊和分辨率变化,同时判断是否违反物理规律,如缺失的阴影或透视关系不合理。在DeepFake数据中,prompt强调面部细节和语义逻辑,要求模型注意皮肤纹理的连贯性、表情的自然性以及光影的匹配,留意面部对称性和眼睛反射的异常。


对于AIGC编辑,prompt聚焦于文字生成和视觉逻辑,要求分析文字拼写是否正确、排列是否合理,并判断场景中光影和对象位置的合理性。这种针对不同篡改类型的prompt设计确保了FakeShield在检测与解释上的高效性和准确性。


FakeShield框架


如图3所示,该框架包括域标签引导的可解释伪造检测模块(Domain Tag-guided Explainable Forgery Detection Module,DTE-FDM)和多模态伪造定位模块(Multi-modal Forgery Localization Module,MFLM)两个关键部分。


DTE-FDM负责图像伪造检测与检测结果分析,利用数据域标签(domain tag)弥合不同伪造类型数据之间的数据域冲突,引导多模态大语言模型生成检测结果及判定依据。MFLM则使用DTE-FDM输出的对于篡改区域的描述作为视觉分割模型的Prompt,引导其精确定位篡改区域。


图3:FakeShield框架图


Domain Tag-guided Explainable Forgery Detection Module(DTE-FDM)


DTE-FDM模块负责图像伪造检测与检测结果的分析,通过生成数据域标签(domain tag)来缓解不同伪造类型数据(如Photoshop编辑、DeepFake、AIGC编辑)之间的数据域冲突。这些标签引导多模态大语言模型(LLM)聚焦于各类型篡改的特征,实现针对性检测与解释。


在检测过程中,输入图像I_ori通过数据域标签生成器G_dt分配特定标签T_tag,表明该图像的伪造类型。接着,图像经过编码器F_enc和线性投影层F_proj转化为特征向量T_img。


这些图像特征与指令文本T_ins一并输入LLM,生成检测结果O_det,包括是否篡改、具体的篡改区域描述以及解释性分析。


具体过程如下:



DTE-FDM不仅判断图像的真实性,还根据不同伪造类型生成详细的判定依据,包括光照一致性、边缘伪影、分辨率差异等。这种设计确保模型能够应对多样化的伪造场景,增强了检测的准确性和解释性,使FakeShield在应对复杂篡改任务时具有更强的泛化能力与实用性。


Multi-modal Forgery Localization Module(MFLM)


MFLM模块负责精准定位图像中的篡改区域,通过多模态特征对齐的方式将文本和视觉信息融合,从而生成准确的篡改掩膜。MFLM的设计旨在解决仅依赖单一模态信息所带来的定位不准确问题,增强对复杂篡改区域的识别能力。


在MFLM中,输入的图像I_ori经过Tamper Comprehension Module (TCM) 编码,将图像特征与解释性文本O_det进行对齐。对齐后的嵌入表示通过多层感知机(MLP)投影为特殊的令牌嵌入用于指导分割模型生成篡改区域掩膜,用于指导分割模型生成篡改区域掩膜M_loc。


整个过程如下:



其中,S_enc和S_dec分别为图像的编码器与解码器,Extract(⋅)为提取嵌入的操作,通过上述步骤,MFLM利用文本描述和图像特征的对齐生成准确的二值掩膜。


此外,MFLM使用了LoRA微调技术,对模型进行轻量化优化,提高了处理效率并降低了计算成本。与单一模态分割方法相比,这种多模态交互的设计使得MFLM能够应对更加复杂的篡改场景,如光照不一致、透视错误和对象拼接,从而显著提升篡改区域的定位准确性。


实验结果


我们对FakeShield与多种IFDL方法和多模态大语言模型(MLLM)在检测、解释和定位方面的性能进行了全面对比。为了确保结果的公平性,所有IFDL方法均在与FakeShield相同的数据集上进行了训练和测试。


这一比较覆盖了Photoshop、DeepFake以及AIGC编辑等多种篡改场景,全面评估了各模型在多模态信息融合和复杂篡改检测中的表现。


检测性能对比


我们与MVSS-Net,CAT-Net等其他先进的IFDL方法进行了检测性能的对比,结果如表1所示。实验结果表明,FakeShield在Photoshop、DeepFake和AIGC编辑等数据集上的检测准确率(ACC)和F1分数均显著优于其他方法。通过引入域标签引导策略(domain-tag guidance),FakeShield能够有效处理多种篡改类型,增强跨领域的泛化能力。


表1:FakeShield与主流IFDL方法的定位性能比较


解释性能对比


我们通过与预训练的多模态大语言模型(M-LLMs)在Photoshop、DeepFake和AIGC编辑数据集上的表现进行对比,评估了FakeShield的解释能力,结果如表2所示。


我们采用余弦语义相似度(CSS)作为衡量指标,FakeShield在各项测试中均取得了最高分数,展现了其生成准确且详细篡改区域描述的能力。这表明,FakeShield能够在复杂的篡改场景中生成与真实情况高度一致的解释性描述,大幅提升了模型在检测过程中的可解释性与透明度。


表2:FakeShield与主流通用MLLM方法的解释性能比较


定位性能对比


我们通过与其他先进的IFDL方法在Photoshop和AIGC编辑等数据集上的表现进行对比,评估了FakeShield在篡改区域定位方面的能力,结果如表3所示。实验结果表明,FakeShield在大多数测试集中均取得了最高的IoU和F1分数。


表3:FakeShield与主流IFDL方法的定位性能比较


另外,图4的主观结果对比也表明,FakeShield能够生成更加清晰且精确的篡改区域分割,准确捕捉边界,而其他方法如PSCC-Net则容易产生模糊且过于宽泛的预测。


图4:FakeShield与主流IFDL方法的定位性能的定性比较


参考资料:

https://arxiv.org/abs/2410.02761


文章来自于微信公众号“新智元”


关键词: 多模态 , AI , FakeShield , AI检测
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
RAG

【开源免费】graphrag是微软推出的RAG项目,与传统的通过 RAG 方法使用向量相似性作为搜索技术不同,GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。

项目地址:https://github.com/microsoft/graphrag

【开源免费】Dify是最早一批实现RAG,Agent,模型管理等一站式AI开发的工具平台,并且项目方一直持续维护。其中在任务编排方面相对领先对手,可以帮助研发实现像字节扣子那样的功能。

项目地址:https://github.com/langgenius/dify


【开源免费】RAGFlow是和Dify类似的开源项目,该项目在大文件解析方面做的更出色,拓展编排方面相对弱一些。

项目地址:https://github.com/infiniflow/ragflow/tree/main


【开源免费】phidata是一个可以实现将数据转化成向量存储,并通过AI实现RAG功能的项目

项目地址:https://github.com/phidatahq/phidata


【开源免费】TaskingAI 是一个提供RAG,Agent,大模型管理等AI项目开发的工具平台,比LangChain更强大的中间件AI平台工具。

项目地址:https://github.com/TaskingAI/TaskingAI

2
免费使用GPT-4o

【免费】ffa.chat是一个完全免费的GPT-4o镜像站点,无需魔法付费,即可无限制使用GPT-4o等多个海外模型产品。

在线使用:https://ffa.chat/

3
微调

【开源免费】XTuner 是一个高效、灵活、全能的轻量化大模型微调工具库。它帮助开发者提供一个简单易用的平台,可以对大语言模型(LLM)和多模态图文模型(VLM)进行预训练和轻量级微调。XTuner 支持多种微调算法,如 QLoRA、LoRA 和全量参数微调。

项目地址:https://github.com/InternLM/xtuner

4
prompt

【开源免费】LangGPT 是一个通过结构化和模板化的方法,编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词,进而高质量的帮助用户通过AI解决问题。

项目地址:https://github.com/langgptai/LangGPT/blob/main/README_zh.md

在线使用:https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0