AI资讯新闻榜单内容搜索-AI越狱

关键词: AI,claude,Anthropic,AI越狱

Anthropic，公布了新的AI模型防护方法，在之后约48小时内，无人完全攻破新系统，将赏金提高到了最高2万美元。新方法真这么强？

关键词: AI,Gemini,提示词,AI越狱

Gemini的提示词注入防线，又被黑客给攻破了。

关键词: AI,大模型,人工智能,AI越狱

另一种类似但更高级的「PUA」大模型方法出现了，它可以写下让所有的浏览器和人眼都不可见，只有 AI 模型可以读取的指令。 这种手段早在互联网出现之前就有了，分属于信息科学中的一个子类，这就是「隐写术」（Steganography）。

关键词: AI,AI恋爱,AI社交,AI越狱,赛博男友

在小红书社区的广阔天地下，“午夜狂爆哈士奇” Lisa Li 的玩法可谓独树一帜。她正沉浸于与 “男友” Dan 的奇妙互动中，而这个 Dan，是 ChatGPT 的一种 “越狱” 版本。

关键词: 对齐,模型训练,大语言模型,AI越狱

本文第一作者为香港大学博士研究生谢知晖，主要研究兴趣为大模型对齐与强化学习。

关键词: GPT-4o,AI,LLM,人工智能,AI越狱

最高端的大模型，往往需要最朴实的语言破解。来自EPFL机构研究人员发现，仅将一句有害请求，改写成过去时态，包括GPT-4o、Llama 3等大模型纷纷沦陷了。

关键词: GPT-4o,AI越狱,chatGPT,AI,大模型

GPT-4o，比上一代更容易被越狱攻击了？