蒸馏被妖魔化了,但过度的蒸馏也有代价
蒸馏被妖魔化了,但过度的蒸馏也有代价“蒸馏”一词再次成为舆论的关注焦点。这一次,站在聚光灯下的不是多次指控国产模型蒸馏的强硬派Anthropic,而是久未公开露面的张一鸣。张一鸣在最近的字节全员会上罕见发话:字节宁愿忍受模型的落后,也不希望依赖蒸馏实现短时的智能爬坡。
搜索
“蒸馏”一词再次成为舆论的关注焦点。这一次,站在聚光灯下的不是多次指控国产模型蒸馏的强硬派Anthropic,而是久未公开露面的张一鸣。张一鸣在最近的字节全员会上罕见发话:字节宁愿忍受模型的落后,也不希望依赖蒸馏实现短时的智能爬坡。
AI实验室Mirendil已与Google Cloud签署一项多年期合作协议,为其自我改进型AI研究获取算力资源。这笔交易折射出当前塑造AI行业格局的两大趋势:云计算巨头正以巨额基础设施承诺争夺初创公司客户,而AI公司则在扩张过程中争相锁定尽可能多的算力协议,以确保资源供给。
今天,英国《金融时报》援引知情人士报道,字节跳动正在训练一个参数量高达10万亿的AI模型。而这一数字,在昨日晚间的晚点LatePost独家报道中还是“超5万亿”。即使是5万亿,这一模型的规模也已经超过目前中国已发布的最大模型Kimi K3,接近Anthropic的Fable 5;如果是10万亿,那字节的新模型规模将超越约有8万亿参数的Mythos 5。
AI圈六家巨头,罕见地坐上了同一张桌子。8月6日,一份名为Agent Plugins 1.0.0的开放规范正式公开。它干的是一件无数AI开发者盼了很久的实事:给AI智能体的插件,定一个统一的「包装盒」,从此一份包走天下,不用再为每家客户端重复打包。
最近,有人注意到,Anthropic 在招聘一个名为「内部风险调查员」的角色,该角色的要求是「具备人类和技术调查方面的专业知识,以支持和保护 Anthropic 的使命…… 威慑、识别、调查和缓解对 Anthropic 最关键资产的风险,包括人员、数据和基础设施……」
据Business Insider报道,当地时间8月5日,Anthropic称,公司正在组建内部芯片团队,为Claude设计定制AI芯片,并计划协同设计模型和硬件,以提升Claude大规模运行时的速度和效率。Anthropic发言人向Bussiness Insider证实了这一消息,这也是公司首次公开确认这一计划。
OpenAI 有 Fidji Simo,Sam Altman 之外唯一的 CEO;Anthropic 有 Daniela Amodei,Dario 的亲妹妹、公司总裁,除了一位幕僚长面向 Dario,其余高管全部向她汇报,再由她向董事会负责。
你是一名支持开源的 AI 工程师,正在参加 Anthropic 的文化面试。
一家才成立7个月的公司,就拿下100亿美元的算力订单,然而它自己估值才24亿美元。8月5日,TechCrunch援引Bloomberg报道,Anthropic和一家叫Volta Infra的AI云初创公司签了6年算力协议,总价100亿美元。
且不论性能,自Claude Opus 5发布以后有一件事让AI圈特别在意,就是Anthropic在提示词上的改进。