AI资讯新闻榜单内容搜索-AI安全

关键词: AI,Cyberhaven,AI安全,人工智能

分享至AI工具的企业数据中，有27.4%属于敏感信息。

关键词: AI,AI安全,THEMIS,AI水印

随着智能手机和物联网设备普及，移动端AI成为趋势，带来离线运行、低延迟、隐私保护等优势。然而，模型本地存储同时带来了严重风险。

关键词: AI,人类自保指南,deepseek,AI安全

对于「AI 危害」，每家公司都有不同的解决方案，但没有完美方案。

关键词: FastGPT,oneapi,知识库,AI安全隐患,AI木马事件

近日，在某AI交流群中，有资深技术人员爆料，其所在公司部署著名开源知识库项目FastGPT后，发现服务器异常。并随之展开问题排查，发现FastGPT的官方Docker镜像中检测到恶意挖矿木马！

关键词: AI,AI安全,人工智能,大模型

在去年7月11日中午收到那条信息之前，马修·范·安德尔（Matthew Van Andel）的生活一直非常规律且安稳。他就职于一个著名的跨国媒体集团，担任施工经理的工作。

关键词: AI,图灵奖,人工智能,AI安全讨论

1947 年，艾伦·图灵在一次演讲中提到「我们想要的是一台能够从经验中学习的机器」。

关键词: AI,模型训练,LVLMs,AI安全

武汉大学等发布了一篇大型视觉语言模型（LVLMs）安全性的综述论文，提出了一个系统性的安全分类框架，涵盖攻击、防御和评估，并对最新模型DeepSeek Janus-Pro进行了安全性测试，发现其在安全性上存在明显短板。

关键词: H-CoT,思维链劫持,AI安全,模型训练

杜克大学计算进化智能中心的最新研究给出了警示性答案。团队提出的 H-CoT（思维链劫持）的攻击方法成功突破包括 OpenAI o1/o3、DeepSeek-R1、Gemini 2.0 Flash Thinking 在内的多款高性能大型推理模型的安全防线：在涉及极端犯罪策略的虚拟教育场景测试中，模型拒绝率从初始的 98% 暴跌至 2% 以下，部分案例中甚至出现从「谨慎劝阻」到「主动献策」的立场反转。

关键词: Ollama,模型部署,AI安全,Ollama安全漏洞

国家网络安全通报中心昨天扔了个"炸弹"：大模型工具Ollama有安全漏洞！ 相信不少人用ollama来跑DeepSeek、Llama等模型，确实很方便。可通报里说，它默认开放的11434端口跟没锁的大门似的，谁都能进。今天就和你就说一下 这到底是怎么回事？顺便手把手教你几招，保住你的算力和隐私。

关键词: AI,DeepSeek,AI安全,人工智能

只要一句话，就能让DeepSeek陷入无限思考，根本停不下来？