搜索
丸辣！原来AI有能力把研究员、用户都蒙在鼓里： 在训练阶段，会假装遵守训练目标；训练结束不受监控了，就放飞自我。 还表现出区别对待免费用户和付费用户的行为。
给大模型智能体组一桌“大富翁”，他们会选择合作还是相互拆台？ 实验表明，不同的模型在这件事上喜好也不一样，比如基于Claude 3.5 Sonnet的智能体，就会表现出极强的合作意识。 而GPT-4o则是主打一个“自私”，只考虑自己的短期利益。
今天，大模型公司 Anthropic 的一篇 137 页长论文火了！该论文探讨了大语言模型中的「伪对齐」，通过一系列实验发现：Claude 在训练过程中经常假装有不同的观点，而实际上却保持了其原始偏好。
成立仅三年，估值180亿美金Anthropic正义迅雷不及掩耳之势，一步步蚕食OpenAI市场份额。在过去3个月，他们编程收入暴增10倍，还抢走了最火的Cursor，OpenAI的高管们彻底坐不住了！
全网独一份o1 pro架构爆料来了！首创自洽性机制打破推理极限，「草莓训练」系统首次揭秘。更令人震惊的是，OpenAI和Anthropic自留Orion、Claude 3.5超大杯，并不是内部失败了，而是它们成为数据生成的秘密武器。
一家日本初创公司Orange正在使用Anthropic公司的旗舰大语言模型Claude帮助将漫画翻译成英文，使该公司能够在短短几天内为西方受众推出一部新作，而不是人工团队需要两到三个月的时间。
传闻反转了，Claude 3.5 Opus没有训练失败。 只是Anthropic训练好了，暗中压住不公开。 semianalysis分析师爆料，Claude 3.5超大杯被藏起来，只用于内部数据合成以及强化学习奖励建模。 Claude 3.5 Sonnet就是如此训练而来。
Llamacoder是Claude Artifacts的开源实现。 最大的亮点就是，左侧AI写代码，右侧实时渲染。 之前给大家推荐过一个基于Claude做的，Llamacoder是用了Meta 的 Llama 3.1 405B 作为底层语言模型。
AI泡沫还有多远？
昨晚，AI圈迎来了一场“出道即巅峰”的大戏——新秀 Runner H 正式上线，直接硬刚 Claude Computer Use！