《智能时代:大数据和智能革命重新定义未来》预测,传统行业将采用智能技术升级,改变原有的商业模式。的确,近两年来,人工智能在应用端的创新如雨后春笋,无人驾驶、智能推荐等AI应用已经成为现实。
但与此同时,我们也发现,AI的落地场景大多源于资本密集型行业,这与AI普惠、服务智能产业的大背景并不相符。
其实现在阻碍AI产业发展的,既不是算法,也不是计算能力,而是如何更好的将AI的能力转化为工程手段。除了众所周知的自动驾驶等核心应用场景,还有大量的工程领域、千行万业的复杂场景、各种终端设备,都需要AI技术的辅助。
最近在极艺社区看了一本书《AI嵌入式系统:算法优化与实现》,可以帮助嵌入式技术专业的学生或开发者提升技能,加速嵌入式AI在行业内的大规模商业落地。
嵌入式人工智能对人工智能商业化的理论支持
在AI商业化过程中,要实现技术落地,不仅需要性能优越的算法模型和可靠的硬件支持,还需要将AI技术和硬件环境有机结合,进而应用到具体的实际场景中。如果未来是一个智能的世界,那么每一个终端都应该是智能的,这必须依靠嵌入式AI技术。
嵌入式是指可以内置到设备或装置中的特殊计算机系统。一般来说,有数字接口的设备都有嵌入式系统,比如手机、车载电脑、智能手表等等。嵌入式AI是一种允许AI算法在终端设备上运行的技术。
总的来说,嵌入式AI对于高实时处理的场景有着天然的优势,比如无人机、智能汽车、工业机械、电器、安检等场景,得到了越来越多的应用。
很多人可能会问,5G网络成熟后,AI能力可以上传到云端进行处理。为什么要嵌入AI?实际上,终端所处的场景是复杂的。比如智能汽车遇到不可预知的路况,不能保证数据能及时同步。为了让汽车智能响应甚至无人驾驶,需要嵌入式AI及时做出判断。
从开发者的角度来说,学习AI嵌入式系统也很难。例如,如何训练神经网络识别模式,如何优化网络以满足嵌入式设备的有限尺寸,从而实现尺寸和功率目标,等等。这是一项系统的工作。
因此,《AI嵌入式系统:算法优化与实现》从深度神经网络底层计算的细节出发,对嵌入式AI技术进行了全面深入的解读。可作为计算机、电子信息、自动控制等相关专业高年级本科生的参考教材。
理论联系实际:不同路径下的选择
计算机行业很多系列都会有过于强调理论知识,缺乏实践支撑的老问题。
《AI嵌入式系统:算法优化与实现》是一部机器学习算法优化理论与应用实践的集合,不仅面向人工智能的嵌入式应用,还涵盖了基于计算、内存、功耗等多维度的机器学习算法优化理论与技术。从算法的底层单元到机器学习算法的联合优化训练-推理和自动优化部署算法等。,也通过通用嵌入式处理器进行了验证。
这本书的实用价值也可以从处理器系统架构和机器学习算法的选择上看出来。
目前很多机器学习算法都是基于海量存储和运算,对功耗、体积、计算能力、存储容量都有很高的要求。然而,嵌入式系统在不同领域有许多方法。具体场景如何选择,一定程度上增加了开发者学习的难度。
比如基于GPU的通用多处理器架构,通用性强,计算能力高,但代价是硬件成本高,功耗大。基于专用运算加速引擎的定制方案,运算效率高,功耗可控,但运算结构相对固定,灵活性差。而基于现有处理器的深度优化算法的方案,成本低,不需要特殊或定制的硬件,通用性强,但代价是每个案例都需要逐个手动优化,开发难度大。
即存在即合理,不同的路径在不同的场景下有其存在价值。
《AI嵌入式系统:算法优化与实现》侧重于在现有嵌入式处理器系统和架构的基础上,通过不同层次的优化实现机器学习算法。虽然本文介绍的方法是以通用嵌入式处理器为例,但也可以应用于GPU或硬件加速引擎架构,比如基于变换域的快速卷积算法,应用于GPU的底层运算库中,基于加减法图的常数乘法可以方便地在芯片硬件设计中实现。
多样性不仅存在于处理器系统和架构中,包括机器学习,还涉及到许多不同领域的算法选择。
比如基于统计系的算法理论模型,设计精巧,通用化,计算量相对较低,很容易在计算量有限的嵌入式系统中实现。但它依赖于强概率假设,模型的偏差限制了它在实际应用中的表现。
另一方面,神经网络算法尽管性能优越,但在嵌入式系统中受到其巨大参数存储容量的限制。近年来,人们发现许多神经网络体系结构中存在大量的冗余运算和参数。通过简化运算和削减架构,可以大大降低对神经网络计算性能和内存的需求,使其在嵌入式系统上实现成为可能。
所以《AI嵌入式系统:算法优化与实现》的讨论也涵盖了基于统计学和神经网络的机器学习算法在嵌入式系统中的实现,通过算法和例程介绍具体的优化方法。
“仔细思考”有助于读者更快地吸收知识点。
为什么《AI嵌入式系统:算法优化与实现》可以同时满足开发者和专业学生的需求?
首先,从专业性来说,这本书的两位作者都有很强的专业背景。比如应忍冬,上海交通大学电子信息与电气工程学院副教授、硕士生导师。长期从事嵌入式系统和数字电路的教学和科研工作;刘上海交通大学电子信息与电气工程学院教授,博士生导师。他们既有专业的视角,也知道如何教学和回答问题。
其次,从内容的细节来看,本书涵盖了通用的嵌入式优化技术,包括基于SMD指令集的优化、内存访问方式的优化、参数量化等。在此基础上,介绍了信号处理级的优化理论和方法、人工智能推理算法的优化以及基于神经网络的人工智能算法的训练和推理的结合。此外,本书还通过几个自动搜索优化参数和生成C代码的实例,介绍了机器学习算法自动优化和通用嵌入式环境下部署工具开发的基础知识,并通过应用实例和大量代码说明了al算法在通用嵌入式系统中的实现方法,使读者在理解算法的基础上,通过实践掌握高效开发al嵌入式系统的知识和技能。
再次,《AI嵌入式系统:算法优化与实现》本身也考虑了不同受众的接受程度。因此,嵌入式系统中机器学习算法的内容不仅给出了手动优化的步骤,还引入了软件辅助优化,方便读者根据实际需要进行理解。特别是书中的底层算法代码是用Python语言呈现的。这是因为Python的表达能力和程序简单性。这些“小心思”可以帮助读者更好地吸收和学习这本书的知识点。
随着人工智能技术在各行业的普及,AI技术与嵌入式系统相结合构建AI嵌入式系统本身就为AI的大规模商业化奠定了基础,这也是《AI嵌入式系统:算法优化与实现》一书的初衷。



