警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果
警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
来自主题: AI资讯
4889 点击 2025-02-27 10:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
又一家头部量化机构完成了 AI 领域的关键落子。
一份AI公司死亡名单
昨天，Claude 3.7 Sonnet 正式发布。根据目前的各项测评，这个模型可以说是全宇宙最好的代码生成模型，超越了 DeepSeek R1 和 OpenAI 的 o3 等模型。如果你是程序员，一定要第一时间切换过去，用下这款模型。
Meta的作业不好抄。
2月26日消息，据知情人士透露，作为OpenAI的最大支持者，微软最近取消了部分AI数据中心的租约，这可能反映出其对于“过度建设AI算力”的担忧。自那以来，微软股价持续走低，相关公司也受到拖累，科技股被抛售。
上周末，一则来自北京某医院神经外科主任医师的视频引发关注。据这位医师介绍，他曾用 DeepSeek 协助诊断了一位超复杂脑瘤患者的病情，并给出了超高评价：“对于这种较为深入的医学问题，DeepSeek 至少展现出了与省级三甲医院专家相当的水平。”
Kimi未来还能够翻盘吗？ 从公司发展路径上来看，并非没有可能。 作为曾经对OpenAI技术跟随最快的公司，Kimi在去年做出了Kimi探索版、k0-math等多个跟随OpenAI技术的模型，而杨植麟本人也在采访中，表示大模型的未来不仅在于强化学习，还在于多模态能力。 这一点似乎也与OpenAI类似。
近日，在红点创投（Redpoint Venture）的播客“Unsupervised Learning”上，红点创投合伙人Jacob Effron与David Luan进行了一次访谈。他们从技术视角出发，探讨了DeepSeek给大模型领域的研究和实践带来的启示，并围绕AI模型当下瓶颈的思考和潜在的突破方向做了分享。
CNBC 报道称，开发 AI 搜索引擎的 Perplexity 公司，正在筹集 5000 万美元的种子和预种子投资基金。尽管大部分资金来自有限合伙人，但 Perplexity 将部分用于公司发展的资金作为该基金的锚定资本。据报道，Perplexity 在去年 12 月以 90 亿美元的估值筹集了 5 亿美元。