PyTorch官方认可!斯坦福博士新作:长上下文LLM推理速度提8倍
PyTorch官方认可!斯坦福博士新作:长上下文LLM推理速度提8倍这两天,FlashAttention团队推出了新作: 一种给Transformer架构大模型推理加速的新方法,最高可提速8倍。 该方法尤其造福于长上下文LLM,在64k长度的CodeLlama-34B上通过了验证
这两天,FlashAttention团队推出了新作: 一种给Transformer架构大模型推理加速的新方法,最高可提速8倍。 该方法尤其造福于长上下文LLM,在64k长度的CodeLlama-34B上通过了验证
Midjourney试水推出了niji版的iOS和iPadOS客户端,AI绘图大战正式开始
10月17日,王小川旗下百川智能官宣已完成A1轮战略融资,融资金额3亿美元,阿里、腾讯、小米、深创投等科技巨头及多家顶级投资机构参投。
2023 年 3 月,以 GPT-4 为代表的 AI 技术掀起了一波 AI 热,而时隔半年,AI 领域又有了很多新进展。 下面,我们就来盘点一下这半年来,AI 领域那些最值得你关注的事情。
全球医疗设备公司、三星电子子公司 Samsung Medison 将于 10 月 16 日至 19 日在韩国首尔举行的 ISUOG(国际妇产科超声学会)2023 年世界大会上展示其基于人工智能的诊断解决方案。
专家预测,到 2027 年,制造业市场中的人工智能将增长到高达 163 亿美元,在 2022 年至 2027 年期间将以平均近 47% 的速度超高速增长。
根据在 2023 年麻醉学年会上发表的研究报告,一种使用人工智能 (AI) 的自动疼痛识别系统,有望成为一种无偏见的用于检测手术前、手术中和手术后患者的疼痛情况的方法。
Agent 的思路为我们带来了 Software 2.0 的图景:LLM 作为推理引擎能力不断增强,AI Agent 框架为其提供结构化思考的方法,软件生产进入“3D 打印”时代
AI 无法打败 AI,不是没有道理。近来,上千万人围观的婴儿死亡照片,AI 检测工具竟无法给出一致答案。
风头正盛的OpenAI今年能进账多少钱?奥特曼先给员工们透了个底。年化营收达13亿美元(折合人民币近95亿)。