AI资讯新闻榜单内容搜索-A

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: A
万字综述大模型高效推理:无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

万字综述大模型高效推理:无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

万字综述大模型高效推理:无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来,大语言模型(Large Language Models, LLMs)受到学术界和工业界的广泛关注,得益于其在各种语言生成任务上的出色表现,大语言模型推动了各种人工智能应用(例如ChatGPT、Copilot等)的发展。然而,大语言模型的落地应用受到其较大的推理开销的限制,对部署资源、用户体验、经济成本都带来了巨大挑战。

来自主题: AI技术研报
11770 点击    2024-06-14 10:35
IDC最新报告,7大维度11家大模型厂商比拼,唯一全优是谁?

IDC最新报告,7大维度11家大模型厂商比拼,唯一全优是谁?

IDC最新报告,7大维度11家大模型厂商比拼,唯一全优是谁?

如果考试题太简单,学渣也能拿一百昏。在 AI 圈,我们应该拿怎样的「试卷」来检验一直处于流量 C 位的大模型的真实水平?是高考题吗?当然不是!

来自主题: AI资讯
11951 点击    2024-06-14 10:31
当AI与数学同时走下神坛

当AI与数学同时走下神坛

当AI与数学同时走下神坛

2024年4月13日,一场特别的考试开考。

来自主题: AI资讯
9934 点击    2024-06-14 10:29
硅谷之后,谁是下一个AI之城?

硅谷之后,谁是下一个AI之城?

硅谷之后,谁是下一个AI之城?

2022年11月开启的生成式AI浪潮中,几乎每个国家、每个有全球野心的城市,都在制定政策、调配资源、激活当地创业氛围,一些政府甚至不惜亲自下场支持当地最有潜力的创业项目。

来自主题: AI资讯
11373 点击    2024-06-14 10:27
一句话手机自己打车,开源多智能体AI助手,非苹果手机也能玩

一句话手机自己打车,开源多智能体AI助手,非苹果手机也能玩

一句话手机自己打车,开源多智能体AI助手,非苹果手机也能玩

一句话让AI自动化操作手机,打个车已经不是难事了。 从官方公布的演示视频来看,用户只需要说出目的地,Agent就能够通过规划、决策和反思的流程自动化帮用户完成目的地输入,呼叫车辆等操作,适用于老人及视障人群,解决他们不会使用或者无法使用手机APP的问题。

来自主题: AI技术研报
11374 点击    2024-06-13 21:27
2.5%KV缓存保持大模型90%性能,大模型金字塔式信息汇聚模式探秘|开源

2.5%KV缓存保持大模型90%性能,大模型金字塔式信息汇聚模式探秘|开源

2.5%KV缓存保持大模型90%性能,大模型金字塔式信息汇聚模式探秘|开源

用KV缓存加速大模型的显存瓶颈,终于迎来突破。 北大、威斯康辛-麦迪逊、微软等联合团队提出了全新的缓存分配方案,只用2.5%的KV cache,就能保持大模型90%的性能。 这下再也不用担心KV占用的显存容量过高,导致显卡不够用了。

来自主题: AI技术研报
6846 点击    2024-06-13 21:21