陈丹琦团队降本大法又来了：数据砍掉三分之一，性能却完全不减
陈丹琦团队降本大法又来了：数据砍掉三分之一，性能却完全不减陈丹琦团队又带着他们的降本大法来了—— 数据砍掉三分之一，大模型性能却完全不减。 他们引入了元数据，加速了大模型预训练的同时，也不增加单独的计算开销。
来自主题: AI资讯
6740 点击 2025-01-08 09:56
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
陈丹琦团队又带着他们的降本大法来了—— 数据砍掉三分之一，大模型性能却完全不减。 他们引入了元数据，加速了大模型预训练的同时，也不增加单独的计算开销。
一家你很可能没听过的公司，成了2024年大AI赛道最赚钱的项目之一。
据不完全统计，国内做AI的企业，有60%的企业已经将战略转向了做AI出海业务，而日本市场更是热门国家之一。那现在日本市场，到底生成式AI使用现状如何，下面我们来通过日本TDB最新的调查报告一起来看一下。
2020年2月，数据标注员作为人工智能训练师的一个工种，被正式纳入国家职业分类目录。短短几年，这个劳动力需求量巨大的行业，迅速在一些中小城市落地生根。
微调大模型的数据隐私可能泄露？ 最近华科和清华的研究团队联合提出了一种成员推理攻击方法，能够有效地利用大模型强大的生成能力，通过自校正机制来检测给定文本是否属于大模型的微调数据集。
此项研究成果已被 AAAI 2025 录用。该论文的第一作者是南洋理工大学计算与数据科学学院 (CCDS) 的硕士生杨潇，师从苗春燕教授，主要研究方向是图神经网络。
2025年，AI应用将继续爆发。 刚刚过去的2024年，海外创投市场对AI公司的投资仍然活跃。根据Crunchbase的数据，AI公司的投资交易在2024年第三季度继续主导风险投资市场，它们在第三季度融资总额达190亿美元，占总风险投资的28%。
时间序列数据，作为连续时间点的数据集合，广泛存在于医疗、金融、气象、交通、能源（电力、光伏等）等多个领域。有效的时间序列预测模型能够帮助我们理解数据的动态变化，预测未来趋势，从而做出更加精准的决策。
最近 AI 社区很多人都在讨论 Scaling Law 是否撞墙的问题。其中，一个支持 Scaling Law 撞墙论的理由是 AI 几乎已经快要耗尽已有的高质量数据，比如有一项研究就预计，如果 LLM 保持现在的发展势头，到 2028 年左右，已有的数据储量将被全部利用完。
随着人工智能技术的不断进步，构建个性化智能体的需求日益增加。国内虽然已有一些智能体平台，如豆包扣子，但这些平台要求开发者将代码和数据上传到第三方服务器，对于一些商业信息敏感的客户来说，这种做法可能带来数据泄露的风险。