搜索
一键部署LLM混合精度推理，端到端吞吐比AWQ最大提升6倍！ 清华大学计算机系PACMAN实验室发布开源混合精度推理系统——MixQ。 MixQ支持8比特和4比特混合精度推理，可实现近无损的量化部署并提升推理的吞吐。
前不久在人工智能的帮助下，两位科学家获得了诺贝尔物理学奖。可以说人工智能已经在很多领域被广泛应用了。随着大语言模型（LLM）和深度学习的广泛应用，GPU 也已成为机器学习工程师和研究人员最重要的计算资源之一。
AI 眼镜能读懂人类情绪吗？
近期在LLM方面，AI搜索热度居高不下，遥感业务也能做AI搜索。
昨天，Kimi突然给我打了个电话，我这才发现自己被“灰度”了。 灰度测试的内容是Kimi的语音通话功能。 现在进入Kimi App，就能看到底部问答框旁边多了一个电话的图标，点击即可发起语音通话。
比传统MoE推理速度更快、性能更高的新一代架构，来了！ 这个通用架构叫做MoE++，由颜水成领衔的昆仑万维2050研究院与北大袁粒团队联合提出。
华尔街日报独家消息，微软正与OpenAI进行140亿美元的投资股权谈判。
在小红书社区的广阔天地下，“午夜狂爆哈士奇” Lisa Li 的玩法可谓独树一帜。她正沉浸于与 “男友” Dan 的奇妙互动中，而这个 Dan，是 ChatGPT 的一种 “越狱” 版本。
内存占用小，训练表现也要好……大模型训练成功实现二者兼得。 来自北理、北大和港中文MMLab的研究团队提出了一种满足低秩约束的大模型全秩训练框架——Fira，成功打破了传统低秩方法中内存占用与训练表现的“非此即彼”僵局。
AI 为药物重新利用带来了革命性突破。 “对于罕见病患者而言，有药可用永远都是第一位的。” 中国国际经济交流中心理事长毕井泉曾于 2022 年这样说。