边缘计算硬件与AI实践：从CPU到NPU

"20220301_NTUST_EdgeAI_2_邊緣運算硬體.pdf" 讲解了边缘计算硬件在人工智能中的应用，包括基本运算原理、加速运算芯片、开发板类型以及硬件选用评估等多个方面。 在2.1基本运算原理部分，介绍了卷积神经网络（CNN）、数字表示系统、矩阵/张量运算以及平行/并行运算。卷积神经网络是深度学习中的关键结构，广泛应用于图像识别、视频分析等领域。CNN通过卷积层提取特征，池化层减少数据维度，平坦化层将多维数据转化为一维输入，全连接层则用于分类或回归任务。激活函数如ReLU、Sigmoid和Tanh等在神经网络中起到非线性转换的作用，激活神经元的响应，增加模型的表达能力。 2.2加速运算芯片部分，讲解了多种类型的处理器，包括CPU（中央处理器）、DSP（数字信号处理器）、GPU（图形处理器）、FPGA（现场可编程门阵列）、NPU（神经网络处理器）和ASIC（专用集成电路）。CPU是通用计算的核心，而DSP擅长处理特定的数字信号处理任务；GPU以其并行计算能力在深度学习中扮演重要角色；FPGA可以灵活配置，适用于定制化硬件加速；NPU专为神经网络运算优化，ASIC则是为特定应用设计的高效能芯片。 2.3开发板类型包括单板微电脑（如Raspberry Pi）、USB加速棒、模块板卡、整合型装置和TinyML开发板。这些设备为开发者提供了实验和部署边缘计算应用的平台，其中TinyML专注于极低功耗的机器学习场景。 2.4硬件选用评估则关注运算效能、开发工具、应用情境和周边扩展。选择边缘计算硬件时，需要考虑其计算能力是否满足模型运行需求，是否有配套的开发环境和支持库，应用场景是否适合该硬件，以及是否容易扩展与其他设备的连接。 这份资料深入浅出地探讨了边缘计算硬件在实现人工智能，特别是卷积神经网络运算中的角色，为理解和实践边缘AI提供了重要的理论和技术基础。