搜索
由厦门大学等机构提出的全新视觉感知基础模型APE，只需一个模型外加一套参数，就能在160个测试集上取得当前SOTA或极具竞争力的结果。而且训练和推理代码以及模型权重全部开源，无需微调，开箱即用。
上周末，Mistral甩出的开源MoE大模型，震惊了整个开源社区。MoE究竟是什么？它又是如何提升了大语言模型的性能？
前几日，一条MoE的磁力链接引爆AI圈。刚刚出炉的基准测试中，8*7B的小模型直接碾压了Llama 2 70B！网友直呼这是初创公司版的超级英雄故事，要赶超GPT-4只是时间问题了。有趣的是，创始人姓氏的首字母恰好组成了「L.L.M.」。
随着大模型技术的发展与落地，「模型治理」已经成为了目前受到重点关注的命题。只不过，在实践中，研究者往往感受到多重挑战。
替代注意力机制，SSM 真的大有可为？
各家大模型纷纷卷起上下文窗口，Llama-1时标配还是2k，现在不超过100k的已经不好意思出门了。然鹅一项极限测试却发现，大部分人用法都不对，没发挥出AI应有的实力。
仅次于GPT-4，李开复零一万物Yi-34B-Chat最新成绩公布——在Alpaca经认证的模型类别中，以94.08%的胜率，超越LLaMA2 Chat 70B、Claude 2、ChatGPT！
EMNLP顶会落下帷幕，各种奖项悉数颁出。最佳长论文奖被北大微信AI团队收入囊中，由北大孙栩老师和微信周杰、孟凡东合作指导。
谁能想到，大模型风暴袭来，钢铁侠里的贾维斯俨然成了最忙碌的“漫威英雄”。原因无他，实在是超级助手这个概念太火爆，从手机到PC再到智能座舱，哪里都要被cue上一轮。
一家公司研发的产品，总是会受到创始人或核心高管的喜好品味，受到企业文化与研发导向的左右，从而明显带有这家公司的特色。马斯克做的ChatBot，带有他明显的个人特色：百无禁忌，口无遮拦。有趣的是，马总做的ChatBot，黑起马总自己也是一绝。