搜索
大模型“套壳”事件防不胜防，有没有方法可以检测套壳行为呢？ 来自上海AI实验室、中科院、人大和上交大的学者们，提出了一种大模型的“指纹识别”方法——REEF（Representation Encoding Fingerprints）。
LLM 作为推理引擎，coding 是最好的应用场景：代码的逻辑比自然语言更清晰，执行的结果能由 AI 自动化验证。因此我们看到从 Sonnet 3.5 到 o1 pro，每一次模型能力的提升都会反映在 coding 能力的提升上，这一领域的应用进步就尤其显著。
编程语言圈子又出“新花样”了！“像 C 语言但更现代”或“像 C 语言但专为某些特定群体设计”。而这一次，我们迎来了一种专为 AI 设计的编程语言，可以称之为“适用于 AI 的 C 语言”。这次的新语言名为 Mirror，有一些独到之处。它的基本语法由两部分组成：定义的函数名称，以及输入输出示例。
AI coding copilots迅速融入开发流程，提升开发效率，协作是未来趋势，开发者与AI将共同推动编程的变革。
Copilot 正成为 AI 代码产品的主力军。
AI Coding是一个我很感兴趣的方向。
AI coding 是模型推理能力增加之后的下一个竞争高地，除了模型厂商、AI Labs 之外，这个领域的参与者也有着 Cursor 这样的初创团队。
TL;DR：DuoAttention 通过将大语言模型的注意力头分为检索头（Retrieval Heads，需要完整 KV 缓存）和流式头（Streaming Heads，只需固定量 KV 缓存），大幅提升了长上下文推理的效率，显著减少内存消耗、同时提高解码（Decoding）和预填充（Pre-filling）速度，同时在长短上下文任务中保持了准确率。
随着人工智能技术的迅速进步，AI驱动的代码生成工具正在深刻变革软件开发的流程。Cursor作为一款专注于AI集成的代码编辑器，凭借其先进功能迅速崛起，已吸引了超过30,000名客户，并在GitHub上获得了22.4k的Star，显示出其在开发者社区中的广泛认可。
高端的食材，往往只需要最朴素的烹饪方式；高端的提示词也一样，把Top-K写进来，一个专属于你的CoT-decoding解码策略应运而生！丝毫不要怀疑LLM的推理能力，在这个维度上，它比我们懂！