昨日,嵌入式领域发生了一件大新闻,IAR宣布与Edge Impulse联手为全球客户提供AI与ML整合功能。
可能,很多人对于这个新闻没什么认知。要知道,Keil和IAR作为嵌入式/单片机开发双雄,IAR在全球拥有超过15万开发人员和4.6万家公司,Edge Impulse这家公司的业务,则是MCU巨头纷纷向往的TinyML。
两家联手,意味着,嵌入式领域,即将掀起一场AI革命。想象一下,未来你所使用的咖啡机,都会使用嵌入式视觉和AI,来帮助制作完美的咖啡。
Edge Impluse这家公司的名号很多人都听说过,但可能很少深入了解过。这家公司以TinyML(Tiny Machine Learning)为服务,于2019年成立,创始人Zach Shelby和Jan Jongboom都来自Arm,致力于提供最新的机器学习工具,使所有企业都能打造更智能的边缘产品。
Edge Impulse解决方案被广泛应用于健康穿戴设备制造商如Oura、Know Labs和NOWATCH,工业组织如NASA,以及顶尖的芯片供应商,受到超过80000名开发人员的采用,并已成为企业和开发人员信赖的平台。
那么微型机器学习 (TinyML) 是什么?
TinyML是近几年新兴的一个领域,专注于开发可在低功耗、内存受限的设备上运行的算法和模型。TinyML并非单一的具体技术,而是一个概括词,凡能在微控制器(MCU)芯片上实现AI/ML推论工作的,都算是TinyML。
用人话讲,就是用在边缘上的人工智能/机器学习(AI/ML),是比较轻量和很小的AI/ML。举个例子,TinyML涉及的微控制器体积小且能效高,换一次电池能供电很多年,同时这个方案也非常便宜。
为什么要这样做,为什么非TinyML不可?
数据中心功耗和负载已经发展得很可怕了,加之物联网兴起,不可能每做一次任务,就要问一次服务器怎么做,每个点的设备总归是要有自己的想法。所以TinyML就是把AI应用带到边缘设备(如智能手机、可穿戴、汽车和物联网设备等)上的关键。
AI让边缘更智能,边缘让AI无处不在,不难预见,未来十年,TinyML会是MCU市场最大的推动力。
厂商近几年结论,便印证了上述结论MCU界“六大天王”ST、NXP、Microchip、Renesas、TI、Infineon都在加大布局边缘AI:
无独有偶,Gartner也在报告中指出,在2到5年内,具有AI能力将会成为嵌入式产品的标配。
Edge Impulse并非唯一的TinyML软件方案商,但相比来说,它拥有比较直观易用的Web界面,说白了,就是开个网页就能用,最重要的是,它对开发人员免费。
值得一提的是,Edge Impulse的特点是具有边缘优化神经(EdgeOptimised Neural, EON)编译程序。根据其官方网站介绍,以该编译程序编译出来的神经网络推论模型,与TFLite Micro相比,可以少使用25~55%的RAM内存与少使用35%的储存空间。
另外Edge Impulse也在其官方Blog上发表技术实证专文,运用他们的数字信号处理区块(DSP Block)来对声音进行推论前的前置处理,可以更快完成推论、更精准推论,以鸟叫声辨识为例,速度快48%,精准度增7%。
Edge Impulse目前支持13款开发板,包括OpenMV H7 、Arduino Nano 33 BLE、ST loT探索套件等,支持的设备可以在几分钟内轻松记录和上传数据集。
虽然打开网页就能使用Edge Impulse,但这一定没有植入到软件中更加易用。
当IAR与Edge Impulse联手,用户随时可以生成经过优化的C/C++代码,并轻松地将其集成到嵌入式应用程序中。这种无缝的Edge Impulse平台与IAR Embedded Workbench的整合将帮助工程师节省时间,缩短产品上市周期,同时提升机器学习工作流程的代码性能。
根据IAR官方介绍,通过这一崭新的商业伙伴合作,全球数百万使用IAR Embedded Workbench的用户将在2023年第四季度获得Edge Impulse的高级附加功能选项,首批解决方案将首发给IAR现有的Arm架构客户。
细心的工程师一定会发现,最近几年,IAR越来越好用了。对应的,IAR也频繁出现大动作,包括:logo大改版、网站支持中文、悄悄升级IAR开发工具。
虽然在工程界,编译器拥有多种流派选择,但IAR Embedded Workbench被认为是业内最佳的编译器和调试器工具链之一。可以确信的是:IAR Embedded Workbench可使代码体积更小、更快更智能,同时确保稳健性、安全性、防护能力和高质量,从而满足用户的高标准要求。
IAR Embedded Workbench有20多种不同的版本,以匹配支持不同类型的处理器。还支持超过14000种器件,包括中国MCU和SoC供应商的产品。在与Arm合作之外,IAR一直在与RISC-V等其他架构合作。我们与IP和工具供应商(比如Codasip)合作以进行定制化处理器设计。
而且,IAR本身,也是拥有AI功能的。最新版本的状态机设计解决方案IAR Visual State增加了对Windows和Linux的跨平台支持,并支持自动生成C、C++、C#或Java代码。
同时,IAR还积极与中国本地厂商合作,共同构建嵌入式领域的生态系统。只今年上半年就先后与国民技术、先楫半导体、兆易创新等多家厂商达成合作。
当AI飞临,就连IAR这样的工具链企业都加入到了战争之中,可见AI革命已经渐深,当边缘设备都具备了AI,我们的生活或许又会发生翻天覆地的新改变。
参考文献
[1] IAR爱亚系统:全新合作联盟:IAR与Edge Impulse联手为全球客户提供AI与ML整合功能.2023.10.26.https://mp.weixin.qq.com/s/0qrToqFVcX8tsfJVmSt-VA
[2] 柴火创客空间:人工智能的下一轮革命?关于TinyML的一切.2022.3.3.https://mp.weixin.qq.com/s/k2f20Ob8ZUu6NmN9ALduCQ
[3] strongerHuang:IAR支持中文了,keil还会远吗?.2023.7.4.https://mp.weixin.qq.com/s/z8mfxGD0lDWTOyUJUu2WbQ
[4] 麦克泰技术:IAR支持8500多种ARM芯片!.2023.5.23.https://mp.weixin.qq.com/s/a4JYZsxs-uDrdQOZT3QnQg
[5] 嵌入式资讯精选:运用Edge Impulse实现MCU机器学习,试试吧~.2021.12.21.https://mp.weixin.qq.com/s/R7AX95bRUajizn39LP4XvQ
[6] IAR官网:https://www.iar.com/news/
[7] AI电堂:MCU巨头们都下场边缘AI了.2023.7.18.https://mp.weixin.qq.com/s/ToTgg9s-c3w4LGEa_LQydg
本文来自微信公众号:电子工程世界(ID:EEworldbbs),作者:王兆楠、付斌
【开源免费】n8n是一个可以自定义工作流的AI项目,它提供了200个工作节点来帮助用户实现工作流的编排。
项目地址:https://github.com/n8n-io/n8n
在线使用:https://n8n.io/(付费)
【开源免费】DB-GPT是一个AI原生数据应用开发框架,它提供开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单、更方便。
项目地址:https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file
【开源免费】VectorVein是一个不需要任何编程基础,任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤,并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。
项目地址:https://github.com/AndersonBY/vector-vein?tab=readme-ov-file
在线使用:https://vectorvein.ai/(付费)