# 热门搜索 #
搜索
为了让你跑AI,MCU厂商拼了
6584点击    2024-09-12 09:40

厂商们一直在降低你的AI开发难度


都说在MCU上跑AI会成为常态,不过实话讲,很多工程师在实际工作中部署AI的场景还没那么多,而且毕竟再学一门技术,又会增加很多时间成本。


不过,随着全行业AI化行动加深,MCU厂商接连推出自己的AI工具,并且在开发上手难度和使用便捷性进行了优化。尤其在最近一段时间,不断炫技,可谓是彻底拼了。


ST:用云开发AI


ST的AI工具是STM32Cube.AI,并在去年率先推出云端MCU AI开发者平台,降低边缘人工智能技术开发复杂度,加快新产品上市速度。


STM32Cube.AI是STM32Cube的一个扩展包,可以自动转换和优化预先训练的神经网络模型并将生成的优化库集成到用户项目中,从而扩展STM32CubeMX的功能。


STM32Cube.AI开发者云拥有多项行业首创,包括在线图形用户界面、STM32模型库、世界首个在线基准测试服务。


这个平台比较方便一个功能是可以直接评估模型需要的Flash和SRAM大小,帮助工程师选择合适的STM32,比较节省时间。


根据工程师的反馈,这个云平台本身上手比较容易,不过上手AI还是需要有一定的AI开发经验的。另外,目前也存在一定开源AI与其竞争。


除了STM32Cube.AI,ST还拥有一站式边缘端AI工具NanoEdge AI Studio,NanoEdge跟TouchGFX一样,由ST从其他公司收购而来,现在这个工具已经完全免费。



瑞萨:AI和嵌入式工具相结合


今年7月,瑞萨推出Reality AI Explorer Tier——作为Reality AI Tools软件的免费版本,可用于开发工业、汽车和商业应用中的AI与TinyML解决方案。


据介绍,新推出的Reality AI Explorer Tier为用户提供免费的、全面的自助式评估沙盒访问权限。符合条件的客户现在可以访问Reality AI Tools的全部功能,包括自动化AI模型构建、验证和部署模块。


2022年,瑞萨通过收购Reality AI,重新定义了AI解决方案组合,现在Reality AI已成为瑞萨AI总体战略的重要组成部分之一。Reality AI工具允许工程师基于高级信号处理生成和构建TinyML和Edge AI模型,侧重于算法特征发现和优化,使用专有的AI驱动,为给定的机器学习问题确定最佳特征。在大多数情况下,这大大简化了机器学习问题,允许使用紧凑、简单和高效的学习算法。


瑞萨对于AI工具链的思考在于与嵌入式工具链的结合,也就是Reality AI Tools与瑞萨e² studio(即瑞萨基于Eclipse的集成MCU开发环境)无缝协作。



NXP:机器学习人人可用


eIQ机器学习软件于2018年推出,经过不断发展,可支持系统级应用和机器学习算法实现。这个软件工具集的特点是专业人士和非专业人士都很方便使用,抱着玩一玩的心态也可以跑起来应用。用官方的话说就是实现“机器学习人人可用”。


eIQ包括eIQ Portal、eIQ Model Tool、eIQ Command-line Tools三个重要组件,分别可以概括为开发图像分类或是目标检测任务、高级模型查看器、命令行工具。


整体开发流程方面,既可以只提供数据集然后借助eIQ工具箱完成从模型训练到模型部署,又可以提供已经训练好的模型,然后借助eIQ工具箱对其进行转换/量化以及部署工作。最后,调用eIQ inference engines对所生成的模型进行推理,得到最终的预测值。


今年3月,NXP与NVIDIA达成合作,将NVIDIA TAO API直接集成到恩智浦的eIQ机器学习开发环境中。NVIDIA TAO低代码人工智能框架通过迁移学习,让开发人员能够更轻松地利用经过训练的人工智能模型,并针对特定用途对模型进行微调和优化。换句话说,开发人工智能只在这一个平台上就可以了。



英飞凌:持续合作扩大工具链


英飞凌也异常重视AI技术本身,还在今年8月30日推出全新的综合评估套件PSoC 6 AI 评估套件,它提供了构建智能消费、智能家居和物联网应用所需的全部工具。


英飞凌本身的软件生态平台是ModusToolbox和Imagimob Studio,除了建设自己的平台,英飞凌一直会和其它AI工具厂商合作。


去年10月,英飞凌科技于宣布与Edge Impulse合作,为PSoC 63低功耗蓝牙MCU扩展基于微型机器学习的AI开发工具。人工智能物联网应用开发者现在可以使用Edge Impulse Studio环境,在高性能、低功耗的PSoC 63低功耗蓝牙®微控制器上构建边缘机器学习(ML)应用。


Edge Impluse这家公司的名号很多人都听说过,但可能很少深入了解过。这家公司以TinyML(Tiny Machine Learning)为服务,于2019年成立,创始人Zach Shelby和Jan Jongboom都来自Arm,致力于提供最新的机器学习工具,使所有企业都能打造更智能的边缘产品。


Edge Impulse解决方案被广泛应用于健康穿戴设备制造商如Oura、Know Labs和NOWATCH,工业组织如NASA,以及顶尖的芯片供应商,受到超过80000名开发人员的采用,并已成为企业和开发人员信赖的平台。


当然,英飞凌的合作不光是在MCU上,也包括传感器,比如去年11月和Archetype AI签署协议合作开发传感器。


Silicon Labs:同样不断展开合作


Silicon Labs(芯科科技)和英飞凌类似,也进行了大量的合作。


通过与TensorFlow、SensiML和Edge Impulse等TinyML领域的领导者合作,Silicon Labs为初学者和专家提供了多种开发工具的选择。使用这个新的AI/ML工具链和Silicon Labs的Simplicity Studio开发环境,开发人员可以创建应用程序,从各种连接的设备中提取信息,以做出智能的机器学习驱动的决策。


此外,Silicon Labs还提供ML应用、机器学习工具包(MLTK)、TinyML解决方案等各种资源支持。


开源AI,也蓄势待发


使用MCU厂商本身的工具一定最适配,不过开源AI软件也在行业中备受工程师青睐,很多工程师也会偏向使用开源软件作为自己的常用软件。


比如,TinyML的先驱SensiML在今年5月开源,SensiML能够简化TinyML代码开发。SensiML Analytics Toolkit 提供了一个端到端的开发平台,涵盖数据收集、标记、算法和固件自动生成及测试,通过独特的数据收集和标记方法解决了人工智能项目中最常见的失败问题。SensiML提供了最全面的功能,从简单的点选式用户界面模型创建到模型构建和测试工作流的完整流水线控制。


开源的好处就是能够不断推动社区发展,但也会存在数据集瓶颈和软件工具碎片化的问题。


总之,现在AI人才缺乏严重,作为长期处在嵌入式领域的工程师总归没有长期耕耘AI,所以现在AI平台的作用就是通过工具的配置实现端侧智能模型和算法建立,让人人都能简单开发MCU的AI和ML功能。从现在厂商的动作来看,确实在软件上耕耘的力度也更大了。


文章来自于“电子工程世界”,作者“付斌”。


关键词: AI , GPU , MCU , 人工智能
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI工作流

【开源免费】n8n是一个可以自定义工作流的AI项目,它提供了200个工作节点来帮助用户实现工作流的编排。

项目地址:https://github.com/n8n-io/n8n

在线使用:https://n8n.io/(付费)


【开源免费】DB-GPT是一个AI原生数据应用开发框架,它提供开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单、更方便。

项目地址:https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file



【开源免费】VectorVein是一个不需要任何编程基础,任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤,并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。

项目地址:https://github.com/AndersonBY/vector-vein?tab=readme-ov-file

在线使用:https://vectorvein.ai/(付费)

2
微调

【开源免费】XTuner 是一个高效、灵活、全能的轻量化大模型微调工具库。它帮助开发者提供一个简单易用的平台,可以对大语言模型(LLM)和多模态图文模型(VLM)进行预训练和轻量级微调。XTuner 支持多种微调算法,如 QLoRA、LoRA 和全量参数微调。

项目地址:https://github.com/InternLM/xtuner