
百度搞了个AI「黑科技」,让科技圈大佬们抢镜拜年
百度搞了个AI「黑科技」,让科技圈大佬们抢镜拜年用AI过一个赛博新年。再有三天,就要进入蛇年了。各家 AI 厂商都憋足了劲儿想搞波大的,AI 全家福、AI 写春联、AI 贺岁短片统统整上,甚至还有跟亲戚激情对线的 AI「嘴替」。
来自主题: AI资讯
7717 点击 2025-01-26 15:09
用AI过一个赛博新年。再有三天,就要进入蛇年了。各家 AI 厂商都憋足了劲儿想搞波大的,AI 全家福、AI 写春联、AI 贺岁短片统统整上,甚至还有跟亲戚激情对线的 AI「嘴替」。
检索增强生成(RAG)虽好,但一直面临着资源消耗大、部署复杂等技术壁垒。近日,香港大学黄超教授团队提出MiniRAG,成功将RAG技术的应用门槛降至1.5B参数规模,实现了算力需求的大幅降低。这一突破性成果不仅为边缘计算设备注入新活力,更开启了基于小模型轻量级RAG的探索。
还在为部署RAG系统的庞大体积和高性能门槛困扰吗?港大黄超教授团队最新推出的轻量级MiniRAG框架很好地解决了这一问题。通过优化架构设计,MiniRAG使得1.5B级别的小模型也能高效完成RAG任务,为端侧AI部署提供了更多可能性。
门外汉也能搞点钱的AI时代
近日,来自 CMU 的 Catalyst Group 团队发布了一款 PyTorch 算子编译器 Mirage,用户无需编写任何 CUDA 和 Triton 代码就可以自动生成 GPU 内核,并取得更佳的性能。