权重、代码、数据集全开源，性能超越Mistral-7B，苹果小模型来了
权重、代码、数据集全开源，性能超越Mistral-7B，苹果小模型来了小模型成趋势？
来自主题: AI技术研报
9690 点击 2024-07-21 14:19
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
小模型成趋势？
近日，《连线》杂志联合ProofNews联合发表一篇调查文章，指责苹果、Anthropic等科技巨头未经许可使用YouTube视频训练AI模型。但训练数据的使用边界究竟在哪里？创作者、大公司和开发者正在陷入知识产权的罗生门……
自从 Devin（首个全自动 AI 软件工程师）提出以来，针对软件工程的 AI Agent 的设计成为研究的焦点，越来越多基于 Agent 的 AI 自动软件工程师被提出，并在 SWE-bench 数据集上取得了不俗的表现、自动修复了许多真实的 GitHub issue。
来自微软、MIT等机构的学者提出了一种创新的训练范式，攻破了大模型的推理缺陷。他们通过因果模型构建数据集，直接教模型学习公理，结果只有67M参数的微型Transformer竟能媲美GPT-4的推理能力。
生成式 AI 碰撞上自动驾驶技术，会产生怎样的火花？过去，生成式 AI 在业界已经被用来解决自动驾驶的长尾问题。目前，学界开始尝试在算法仿真领域引入多 Agent 数据集来增强仿真的效果。
6月，IEEE刊登了一篇对ChatGPT代码生成任务进行系统评估的论文，数据集就是程序员们最爱的LeetCode题库。研究揭示了LLM在代码任务中出现的潜在问题和能力局限，让我们能够对模型做出进一步改进，并逐渐了解使用ChatGPT写代码的最佳姿势。
苍蝇再小也是肉，聚沙成塔。
大模型对话能更接近现实了！
只需几分钟、一张图或一句话，就能完成时空一致的4D内容生成。
在这个数据为王的时代，数据是人工智能的三大支柱之一，其重要性不言而喻。最近，OpenAI 收购了数据库初创公司 Rockset，迅速引起了业内外的广泛关注。OpenAI 早已在算法和计算能力方面遥遥领先，通过这次战略性的收购，OpenAI 将在其产品中融合 Rockset 的先进数据索引和查询技术，帮助 OpenAI 将数据转化为 “可操作智能”。