警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果
警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
来自主题: AI资讯
5780 点击 2025-02-27 10:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
即日起，北京时间每日00:30-08:30为错峰时段，API 调用价格大幅下调：DeepSeek-V3 降至原价的50%，DeepSeek-R1降至25%，在该时段调用享受更经济更流畅的服务体验。具体价格参看图2.
目前的 AI 行业，除了大模型外，竞争最激烈的可能就是 AI 编程了。昨天的文章《用 AI 解决专利纠纷半年 ARR 增 20 倍，Anthropic 再融 35 亿美金》里我还调侃 AI 编程正在经历百编大战，没想到今天这个行业又来了一些新消息。
尽管 OpenAI 和 Anthropic 的收入倍数在过去一年中下降，但 AI 应用开发者如 Perplexity 和 Writer 的收入倍数却上升，分析显示了十几家 AI 初创公司的估值和收入增长情况。
当地时间 2 月 25 日，Anthropic 正式发布了 Claude 3.7 Sonnet，“这是迄今为止我们最智能的模型，也是市场上首个混合推理模型。”Anthropic 官方表示。
Claude深夜重磅发布新模型——
就在刚刚，Anthropic祭出首个混合推理Claude 3.7 Sonnet，堪称扩展思考模式的最强模型。在最新编码测试中，新模型暴击o3-mini、DeepSeek R1，AI编码王者出世了。
国产AI上大分的节奏，根本停不下来——
当全球AI行业还在讨论Sora的“物理规则缺陷”和Pika的“音效延迟”时，PixVerse团队突然甩出一张王炸：V4版本上线。
就在刚刚，PixVerse的v4版本上线了。他们AI视频的模型能力，又一次迎来了飞跃。2025年后的第一波AI视频的开卷来得比想象中要快，前脚OmniHuman-1刚出，紧接着PixVerse就迎来了新模型的更新。