现在,在 Hugging Face 中,使用打包的指令调整示例 (无需填充) 进行训练已与 Flash Attention 2 兼容,这要归功于一个 最近的 PR 以及新的 DataCollatorWithFlattening。 它可以在保持收敛质量的同时,将训练吞吐量提高多达 2 倍。继续阅读以了解详细信息!
现在,在 Hugging Face 中,使用打包的指令调整示例 (无需填充) 进行训练已与 Flash Attention 2 兼容,这要归功于一个 最近的 PR 以及新的 DataCollatorWithFlattening。 它可以在保持收敛质量的同时,将训练吞吐量提高多达 2 倍。继续阅读以了解详细信息!
AI全球竞赛还在继续。在国内,最火的AI独角兽的光环属于212亿元估值的月之暗面、超177亿元估值的MiniMax,以及超100亿元的智谱AI等,而海外吸引眼球的非美国的OpenAI莫属,最新消息是,OpenAI正在以1500亿美元(10635亿元)的巨额估值融资65亿美元。这一数字令人叹为观止。
我们相信每个白领职位都会有一个 AI 助手。其中一些职位将完全由 AI 代理自动化。
OpenAI的研究科学家布朗(Noam Brown),这两天在他的自我介绍中,加上了一条:OpanAI o1的联合创始人。
李笑来曾经说过,学英语最好的方法就是用英语。 而英文播客就是练习英语听力的最佳材料之一,可以一边学知识一边练听力。 但是英文播客有一个不可能三角:我能学到知识、我很关心话题、我能听懂他们说话。 要同时满足这三个条件的播客实在太难找了。 但是最近 Google 做了一个 AI 工具,完美地解决了这个问题。
经历了一年多的发展,AI Agent正在越来越多地参与到教育工作之中。
根据英伟达发给股东的最新消息,英伟达已就收购 OctoAI 展开了深入谈判。根据 OctoAI 发给股东的一份文件,英伟达提议以约 1.65 亿美元收购该公司,这还不包括该公司的债务和其他费用。
一键获得作业批改“高替”。
AI领域迎来了一位重量级选手—书生·筑梦2.0(Vchitect 2.0),由上海AI实验室团队发布。
近期 Gartner发布了《新兴技术成熟度曲线》,其中生成式 AI (GenAI) 正式进入到了幻灭期。