基于多模态合成的LLM隐私推理安全评估方法和系统

本发明公开了一种基于多模态合成的LLM隐私推理安全评估方法和系统，属于模型安全分析领域。基于预设的虚拟隐私属性，采用多智能体协同的方式，自动化生成模拟社交场景的多模态合成数据，多模态合成数据包括用户画像实例、主题列表、事件列表、帖子文本、图说提示词、关联图像；将多模态合成数据中的主题列表、帖子文本和关联图像输入待评估大语言模型，执行多模态虚拟隐私属性推理，获得推理结果，并通过比对推理结果与用户画像实例对应的原始虚拟隐私属性，生成量化隐私风险评分。本发明可以自动化生成模拟的多模态社交内容，量化模型隐私推理风险，建立统一基准横向对比模型的隐私保护水平，构建端到端的评估闭环框架。