陈天奇团队LLM结构化生成新引擎XGrammar:百倍加速、近零开销
陈天奇团队LLM结构化生成新引擎XGrammar:百倍加速、近零开销不管是编写和调试代码,还是通过函数调用来使用外部工具,又或是控制机器人,都免不了需要 LLM 生成结构化数据,也就是遵循某个特定格式(如 JSON、SQL 等)的数据。 但使用上下文无关语法(CFG)来进行约束解码的方法并不高效。针对这个困难,陈天奇团队提出了一种新的解决方案:XGrammar。
不管是编写和调试代码,还是通过函数调用来使用外部工具,又或是控制机器人,都免不了需要 LLM 生成结构化数据,也就是遵循某个特定格式(如 JSON、SQL 等)的数据。 但使用上下文无关语法(CFG)来进行约束解码的方法并不高效。针对这个困难,陈天奇团队提出了一种新的解决方案:XGrammar。
成立一年半时间,银河通用累计融资超 12 亿元,创下了国内具身智能赛道的最高纪录;银河通用机器人产品总监朱辉认为,未来3-5年内,机器人将逐步进入到工厂、车厂中。
近日,人形机器人公司1X公布了世界模型挑战赛的二阶段:Sampling。一同登场的还有合作伙伴英伟达新发布的Cosmos视频分词器,超高质量和压缩率助力构建虚拟世界。
随着AI技术的飞速发展,环保回收行业也在持续进步。不知疲倦的人工智能垃圾分拣机器人正将人们从繁重、枯燥的工作中解放出来!今天,让我们一起来了解一些国内外AI机器人在资源回收领域的实际应用。
11 月 23 日,香港科技大学举行了今年度的学位颁授典礼。英伟达创始人和 CEO 黄仁勋又新增一个荣誉工程学博士头衔,与他一同获得荣誉博士学位的还有著名影星梁朝伟、2013 年诺贝尔化学奖得主 Michael Levitt、菲尔兹奖得主 David Mumford。
“搞软件的,鄙视搞硬件的,搞大模型的,看不起强化学习的”,多位行业人士给出了类似的观察。
近年来,人工智能(AI)与机器人技术在医疗领域的应用日益深入,显著推动了医疗科技的创新与变革。
一场可以重塑全球产业发展格局的大变革
近日,汤姆猫(SZ.300459)披露投资者关系活动,纪录表显示,汤姆猫正在研发的 AI 产品包括汤姆猫 AI 语音机器人、AI 讲故事 APP、 AI 游戏等系列产品。其中,第一代汤姆猫 AI 机器人产品预计春节前上市。
如今AI以一种不可阻挡之势,渗透在人们生活中的方方面面,成为引领未来发展的重要风口。AI聊天机器人作为人工智能领域的重要代表作之一,在全球范围内掀起了一场技术革命。