
3140参数Grok-1推理加速3.8倍,PyTorch+HuggingFace版来了
3140参数Grok-1推理加速3.8倍,PyTorch+HuggingFace版来了马斯克说到做到开源Grok-1,开源社区一片狂喜。但基于Grok-1做改动or商用,都还有点难题: Grok-1使用Rust+JAX构建,对于习惯Python+PyTorch+HuggingFace等主流软件生态的用户上手门槛高。
马斯克说到做到开源Grok-1,开源社区一片狂喜。但基于Grok-1做改动or商用,都还有点难题: Grok-1使用Rust+JAX构建,对于习惯Python+PyTorch+HuggingFace等主流软件生态的用户上手门槛高。
去年 8 月,两位著名的前谷歌研究人员 David Ha、Llion Jones 宣布创立一家人工智能公司 Sakana AI,总部位于日本东京。
加上此次CEO的辞职,Stability AI已经相继失去了十几位技术人才。又一知名的AI独角兽发生了管理层变动。当地时间3月23日,估值超40亿美元的独角兽AI公司Stability AI称,CEO Emad Mostaque辞去了CEO以及董事会职务,去追求去中心化的AI了。
今年GTC大会上,英伟达推出了地表最强Blackwell计算平台、NIM推理微服务、Omniverse Cloud API等惊喜新品。其中Blackwell GPU具有2080亿个晶体管,AI算力直接暴涨30倍。单芯片训练性能(FP8)是Hopper架构的2.5 倍,推理性能(FP4)是Hopper架构的5倍。具有第5代NVLink互连,并且可扩展至576个GPU。
今年美国首个大型科技公司IPO来了:当地时间3月21日,著名社交媒体网站Reddit在纽交所敲钟上市。股票代码「RDDT」,以每股34美元出售2200万股,募资7.48亿美元。并在首日交易中一鸣惊人,盘中最高暴涨62.9%至每股55.39美元,最终以50.44美元股价高收。也使得公司市值从预估的65亿美元飙到95亿美元,完成了它强劲的IPO首秀。
本文主要内容为提示词工程师的工作实际经验和感悟。详人所略,略人所详。Prompt领域的优秀教程越来越多,基础知识可以参见社区先辈刘海同学:[23.08] 网上疯传的「AI 提示词工程师」到底是什么?
在路易斯·V·格斯纳(Lou Gerstner)到来之前,IBM困在自己的技术陷阱里整整10年。20世纪80年代,个人电脑兴起以及市场的快速变化开始对IBM构成挑战。这个市场份额最高曾经达到80%的硬件巨头,在进入90年代后随着个人电脑的普及和小型化,大型机市场萎缩,濒临解体边缘。这时候已经很少有人在意正是这家公司第一次把个人电脑带到世界上。
英伟达 GTC 大会第二天,OpenAI 首席运营官 Brad LightCap 与 NVIDIA 企业计算副总裁 Manuvir Das 进行了一场名为「What's Next in Generative AI」(生成式 AI 的下一步是什么?)的深度讨论。
8年时间,英伟达AI芯片的算力增长了1000倍。当地时间3月18日,英伟达在2024 GTC大会上发布了多款芯片、软件产品。 创始人黄仁勋表示:“通用计算已经失去动力,现在我们需要更大的AI模型,更大的GPU,需要将更多GPU堆叠在一起。这不是为了降低成本,而是为了扩大规模。”
英伟达GTC大会来到第二天,除了首日的CEO黄仁勋主题演讲,还有近800场会议讨论和技术培训在后续这3天陆续举行。AI领域的世界大聚会,有当红炸子鸡OpenAI出现的场子当然是最热的。