AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染
AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染AI模型只看了一串纯数字序列，就能继承另一个模型的危险偏好，即使删掉敏感词没有用，合成数据时代最隐蔽的安全裂缝，被撕开了。
来自主题: AI技术研报
8333 点击 2026-04-17 08:40
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AI模型只看了一串纯数字序列，就能继承另一个模型的危险偏好，即使删掉敏感词没有用，合成数据时代最隐蔽的安全裂缝，被撕开了。
「Ising 改变了一切。」
昨天我发现 Qwen3.6“倒反天罡”。
据彭博最新报道，美国财长贝森特与美联储主席鲍威尔于本周二在华盛顿财政部总部紧急召集华尔街主要银行CEO开会，会议核心议题是Anthropic最新AI模型Mythos可能带来的网络安全威胁。
Nav Toor 的上一篇上下文工程文章火了——上百万人阅读，上千人私信他同一个问题："道理我都懂了，但我到底该打什么字？"
昨天，OpenAI总裁Greg Brockman在Big Technology Podcast上，亲口透露了他们研究两年的重磅模型成果——Spud大模型。
UCSD团队推出AIBuildAI智能体，无需编程，仅用自然语言描述任务，即可自动设计、编码、训练、调参并优化AI模型，分工协作，端到端完成AI开发。在OpenAI MLE-Bench测试中，AIBuildAI以63.1%的获奖率位居第一，性能媲美人类专家，推动AI开发迈向全自动化新时代。
3月17日，楽天（乐天）集团正式发布了Rakuten AI 3.0模型，号称是“日本国内最大规模的高性能AI模型”。官方宣传的参数量为约7000亿，并且日语特化，Apache 2.0开源许可，还拿了日本经产省和NEDO的GENIAC项目补助。
传统AI模型在稀疏奖励环境中，往往会找不到激励难以学会层次化思考。如今，谷歌团队通过引入元控制器操控模型内部残差流，让智能体学会了「跳跃式思考」。该研究揭示了大模型内部可自发形成了类似人脑的层次化决策机制，为AI在需要多步的复杂任务提供了全新的训练范式。
机器之心发布 本文作者为摩尔线程天使投资人、中国初代AI投资人王捷。他于 2025 年 8 月和 12 月分别发表了《浮现中的AI经济》 、《关于AI经济的四十个问题》 两篇文章，对即将到来的 AI