在过去的一年多里,无论你是否身处科技行业,都能感受到一种强烈的趋势:人工智能正在重塑每个人的生活。
历史上每一次技术的重大突破,都会带来生产力的变革。但是这一次,变革来到了一个更加微观的层面。比如,在大模型的助力下,我们使用个人电脑仅需几分钟就能完成一份行研报告的初稿,这在以前是难以想象的。
这种与 AI 协作的全新方式,其实就是下一代「个人生产力」的初步形态,而这场生产力变革的接入点,是「AI PC」。
2024 年,AI PC 成为了科技领域的热门关键词。如果你此时正在选购一台笔记本电脑,肯定绕不开「AI PC」,这也是各个 PC 厂商主打的产品创新点。前段时间,微软还透露出希望 OEM 厂商在 AI PC 上增加专门的「Copilot 按键」,让用户一键召唤大模型服务。
与关注新功能的消费者不同的是,行业层面对 AI PC 的好奇心更集中于 PC 硬件的革新,比如算力、功耗、部署等问题。最重要的是:它能不能带来一些商业价值?
去年英特尔® 酷睿™ Ultra 处理器的发布,已经为我们展示出下一代 AI PC 的底层逻辑。英特尔当时提供了一种思路:不妨让 CPU、GPU 和 NPU 各自搞定它们最擅长的工作,以此来加速端侧 AI。即使是在不联网的情况下,AI PC 也能跑起内置大模型,解决用户的 AI 任务需求。
今年,英特尔真正开启了 AI PC 的商用时代。目前,我们看到大约有几十项行业应用,完全可以在 AI PC 上本地运行了。
这在某种程度上证明了,AI PC 不是一个「纸上谈兵」的概念。在英特尔与众多合作伙伴的共同探索中,打造了六大 AI 场景:
可以想象的是,伴随 AI PC 形态的不断完善,曾经最前沿的生成式 AI 技术,将会为每一个人所用。
AI PC 离不开大模型能力的加持,而算力是实现大模型各项能力的前提。
在参数动辄数百亿的大模型时代,想要本地运行一个 AI 应用,对于算力的需求已经发生了天翻地覆的变化。最近一个热门的议题是:CPU、GPU、NPU,谁会是 AI PC 的主角?
业内普遍认为,终端异构混合「CPU+NPU+GPU」算力是当下最优的选择。
2023 年 9 月,英特尔面向生成式 AI 时代进行了四十多年来最具颠覆性的处理器架构变革 —— 全新英特尔® 酷睿™ Ultra 处理器构建了 CPU+GPU+NPU 协同计算的异构加速体系,一举实现 200 亿参数 LLM 本地运行。
通用 CPU 和 GPU 服务平台有时并不能满足复杂 AI 任务的计算需求,高性能和低功耗的推理引擎必不可少。而英特尔酷睿 Ultra 处理器首次内置了神经处理单元(NPU),可处理持续工作负载,完成高能效的 AI 推理。
与架构革新同样重要的是,如何使算力的提升发挥广泛的商业价值。目前的一些数据让各行各业看到了希望:
一系列测试显示,搭载了英特尔® 酷睿™ Ultra 处理器的英特尔 ®vPro® 平台的 AI PC 在生产力、安全性、可管理性、稳定性多个层面实现了跃升。相比于三年前的 PC,现在 AI PC 在 AI 性能方面最高可提升 2.2 倍,生产力可以提升 47%,在专业应用中的性能提升甚至可以达到 12 倍。
在功耗方面,英特尔酷睿 Ultra 处理器通过 Foveros 3D 封装技术将 Intel 4 计算模块、SoC 模块、图形模块和 IO 模块封装在一起,再加上集成 NPU 的创新设计,与上一代产品相比最高可以降低 36% 的功耗。
不久之后,AI PC 会从根本上改变企业使用 PC 的方式,解锁新的体验并提高生产力。
现在的 AI PC 已经能够本地运行大语言模型,随着人们日益复杂的 AI 任务需求,AI PC 还需要提升解决更多实际问题的能力。
为此,英特尔携手众多 ISV 和 OEM 合作伙伴,加强了对软件生态的投入,实现更优的用户体验和商业解决方案。
在过去一段时间,英特尔与产业伙伴共同锚定了六大关键场景应用:AI Chatbot、AI PC 助理、AI Office 助手、AI 本地知识库、AI 图像视频处理、AI PC 管理。
可以想象,有了「AI Office 助手」,我们就能通过灵活调用 Office 套件的插件来处理任何文档,提升办公效率。又或者在多媒体文件的处理上,「AI 图像视频处理」类应用能够帮助用户进行图像生成和后期处理,针对局部图像细节处理或图像风格进行变化,更能够通过 AI 生成短视频、3D 模型等等。
再以「AI 本地知识库」的搭建为例,目前在一些专业场景或行业细分领域中,通用大模型的知识储备会显出不足。RAG 技术就是在这样的需求下火起来的,它能帮助解决生成式 AI 的幻觉倾向、专业力弱等固有缺陷。
一个更高效的设想是,能不能在 AI PC 中,直接将本地文件和资料转化为知识呢?
依托于英特尔酷睿 Ultra 处理器加持的 AI PC,星环科技打造了「无涯・问知 AI PC 版本」。这是一款适用于 PC 端的大模型智能生产力工具,能够帮助用户在繁杂的本地文件中迅速找到所需信息,并快速形成深刻的洞察、提升工作效率。它支持多种格式、不限长度的文件资料入库,包括常见的 PDF、Word、Excel、PPT、邮件等,这意味着用户不仅可以通过文字来获取知识,还可以通过图片、音频和视频等多种方式,使知识的获取和应用更加丰富多彩。
特别是,这款工具配备了可在 AI PC 上本地化运行的 RAG 模块,在提供便利性之外,也保障了用户知识和应用的隐私性和高效性。无涯・问知 AI PC 版本提供了本地化的向量库,将数据向量化存储,使得用户能够高效地存储和查询海量数据和知识,极大地提升了工作效率。
有了这样的本地知识库,再加上面向特定行业和领域进行定向优化的「AI Chatbot」,用户就能在 AI PC 上获得非常专业、贴心的问答体验。
此外,AI PC 的普及还将催生「AI PC 助理」和「AI PC 管理」等方向的应用。在 AI PC 助理场景中,用户能够通过其对 PC、个人文件、照片视频等内容进行 AI 处理;在 AI PC 管理方面,AI 应用还能够通过 AI 加持的远程管理、安全防护、跨设备 IT 管理和运维等功能,让管理 PC 的过程更加轻松高效。
这些与 PC 的交互方式,或许在今天想来还有些「天马行空」,但在不久的将来就会变成稀松平常的事。在高性能 AI 处理器的推动下,AI 与各类终端设备的深度融合已成为不可阻挡的趋势 —— 这也是 AI PC 的革命性意义之所在。
生成式 AI 会带来一系列「杀手级应用」,也会给未来 PC 市场带来前所未有的机会。从我们熟悉的传统 PC 应用,到 AI 带来的功能增强再到智能生成,最后抵达高度智能化的个性化服务,AI 将成为未来时代 PC 的「标配」。
对于商用 AI PC 的大规模应用来说,当前仍属早期探索阶段,许多方法必须从用户实践中反馈和总结,这也是为什么英特尔要与数量众多的行业伙伴携手。
但面向 AI PC 行业场景落地的整体原则已经有了共识。此前,英特尔 CEO 帕特・基辛格曾提出过经济、物理和数据保密三大法则:
为了践行这三大法则,企业需要把实际业务需求搬到终端,而非存在云端,使其不再受网络影响。在过去一段时间的合作实践中,一方面,基于英特尔的技术支持,企业在终端获得了完全不逊于云端的 AI 应用性能,另一方面,由于本地数据处理降低能耗的优势,企业的成本负担也确实减轻了。
英特尔还助力本土 ISV 伙伴基于英特尔 AI PC 及其他强性能商用客户端产品及技术,打造了教育、制造和医疗等行业全栈 AI 解决方案,推动行业数字化转型。在这个过程中,英特尔也正在从一家芯片公司转变为端到端系统公司。
对于今天的我们来说,AI PC 还是一个新鲜概念。但不需要太久,也许就在一年之后,商用 AI PC 的部署将会变得相当普遍。
与此同时,我们也会看到更多在 PC 本地跑起来的强大生产力工具。这场由生成式 AI 引发的变革,将真正惠及每一个人。
本文来自微信公众号“机器之心”
【开源免费】FASTGPT是基于LLM的知识库开源项目,提供开箱即用的数据处理、模型调用等能力。整体功能和“Dify”“RAGFlow”项目类似。很多接入微信,飞书的AI项目都基于该项目二次开发。
项目地址:https://github.com/labring/FastGPT
【开源免费】graphrag是微软推出的RAG项目,与传统的通过 RAG 方法使用向量相似性作为搜索技术不同,GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。
项目地址:https://github.com/microsoft/graphrag
【开源免费】Dify是最早一批实现RAG,Agent,模型管理等一站式AI开发的工具平台,并且项目方一直持续维护。其中在任务编排方面相对领先对手,可以帮助研发实现像字节扣子那样的功能。
项目地址:https://github.com/langgenius/dify
【开源免费】RAGFlow是和Dify类似的开源项目,该项目在大文件解析方面做的更出色,拓展编排方面相对弱一些。
项目地址:https://github.com/infiniflow/ragflow/tree/main
【开源免费】phidata是一个可以实现将数据转化成向量存储,并通过AI实现RAG功能的项目
项目地址:https://github.com/phidatahq/phidata
【开源免费】TaskingAI 是一个提供RAG,Agent,大模型管理等AI项目开发的工具平台,比LangChain更强大的中间件AI平台工具。
项目地址:https://github.com/TaskingAI/TaskingAI