用KV缓存加速大模型的显存瓶颈，终于迎来突破。 北大、威斯康辛-麦迪逊、微软等联合团队提出了全新的缓存分配方案，只用2.5%的KV cache，就能保持大模型90%的性能。 这下再也不用担心KV占用的显存容量过高，导致显卡不够用了。
120秒120帧高质量逼真视频，视频生成赛道新模型入场，火到服务器被挤爆！ 网友直呼这是Sora级别的视频生成AI，关键是可以免费试用。
继Pika宣布上新2.0版本后，视频生成领域又有新模型加入。成立于2021年的Luma AI今天刚刚官宣了文生视频/图生视频模型Dream Machine，而且提供免费使用API，高质量的生成效果获得了很多网友的好评。
距上次Karpathy AI大课更新之后，又有了1个多月的时间。这次他带了超详细的4小时课程——从零开始实现1.24亿参数规模的GPT-2模型。
重磅消息！Stable Diffusion 3，大概率会在明天开源。距离2月SD3的横空出世，已经过去了4个月。如果此事为真，生图圈子第一个出现开源碾压闭源的奇景！强大的MMDiT全新架构，将彻底改变AI生图的格局。现在，全体AI社区都在翘首以盼。
26 年前，微软中国研究院成立（即微软亚洲研究院的前身），作为创办者和首任院长，李开复带领微软亚洲研究院从零开始发展，并建立起了一套完善的「大牛+小牛+学生」人才培养机制和创新文化，在全球产生了重大影响。
苹果一出手，在手机等移动设备上部署大模型不可避免地成为行业关注焦点。
万众瞩目的WWDC24上，苹果果然用AI把iPhone全部重塑。重磅登场的Apple Intelligence，让苹果全系产品有了史诗级升级。Siri被全面重塑，自由穿梭于系统中。AI大牛Karpathy对此狂赞，然而马斯克却彻底怒了，下令全员禁用苹果！
国产大模型「日日新 5.0」已经在权威主流评测中鲨疯了。变强的背后原因竟是，来自商汤自研中文Embedding模型——Piccolo2。这是首个对标OpenAI向量长度的模型。
大模型执行图推理任务，我们是希望大模型仅仅给出结果，还是在给出准确答案的同时，输出详细的推理过程？
