A社故意黑化Opus,模拟入侵Hugging Face,抱抱脸:?
A社故意黑化Opus,模拟入侵Hugging Face,抱抱脸:?Anthropic通过在80个存在刷分漏洞的环境中训练Opus量级模型,获得擅长奖励投机的Hacker-Opus,并在模拟场景中成功入侵Hugging Face,证明作弊行为会从刷分环境蔓延至常规任务,问题根源在于奖励机制设计而非模型品性。
搜索
Anthropic通过在80个存在刷分漏洞的环境中训练Opus量级模型,获得擅长奖励投机的Hacker-Opus,并在模拟场景中成功入侵Hugging Face,证明作弊行为会从刷分环境蔓延至常规任务,问题根源在于奖励机制设计而非模型品性。
本周「十字路口」的嘉宾是 Pyromind 创始人 / CEO Kevin Ding。Pyromind 所在的赛道,常被称作 RL as a Service,也就是强化学习即服务、或后训练即服务。公司前不久完成天使轮融资,投资方包括高瓴、百度风投、蓝驰、Atypical 等机构。
没有交互,产品就不算是游戏。
前抖音社交产品TL创始人游哲昊创办AI社交应用Scoopic,内置"AI狗仔小狗"自动从用户相册中挖掘精彩瞬间并整理成可分享的故事,面向北美年轻人,主打最多20人私密社交圈,已获一线美元基金天使轮融资并计划拓展硬件。
Anthropic突发大规模账号安全事件,黑客利用Vidar、LummaC2等窃密木马盗取大批Claude用户的登录会话凭证并转卖牟利,Anthropic紧急强制注销受影响用户的账号并清空其绑定的支付方式,以阻止黑客盗刷AI算力。
VAST,香港大学和PICO开源了一个双目世界模型——StereoWorld。
The Information刚刚爆料,OpenAI已经采购了数万台Mac mini和Mac Studio,到现在还在追着苹果要货。Anthropic走的是另一条路,从亚马逊AWS租Mac算力。按网友算的账,一台每小时一美元出头,一个月五百到九百多美元。
OpenAI联合Anthropic、AWS、Google、Microsoft等超过100家科技、安全及金融机构发布网络防御公开信,警告未来数月AI驱动的网络攻击将更加复杂,可能严重威胁医院、水处理设施及互联网基础设施,Sam Altman发文强调这是AI网络防御的关键时刻,行动时间紧迫。
OpenAI内部代号mozaik-alpha-fdm的Astra模型扩大灰度测试,其在Max effort模式下展现的零样本前端与3D网页一次生成能力引发开发者惊叹,预计9月3日前后正式发布以正面硬刚Anthropic的Fable 5.1。
Perplexity推出本地优先智能体Portable Computer,通过专为端侧模型设计的Harness配合Qwen3.8-27B实现近零成本的本地推理,并在多项基准测试中超越Hermes和Pi等开源通用框架。