时域多线程CGRA架构优化卷积神经网络处理

"该文提出了一种新型的卷积神经网络（CNN）处理用的多线程CGRA架构，旨在利用CNN中输入数据的局部性提高能效和处理性能。通过对内存子系统和计算阵列的优化设计，该架构能够在不同CNN配置下有效地利用外部存储器带宽和输入数据局部性。" 卷积神经网络（CNN）是一种广泛应用于图像识别、自然语言处理等领域的深度学习模型，其核心在于通过卷积操作捕捉输入数据的特征。然而，随着网络深度和复杂性的增加，计算需求急剧上升，对硬件资源和能效提出了挑战。为了解决这一问题，本文提出了一种基于粗粒度可重配置阵列（CGRA）的多线程架构。 CGRA是一种可重构计算平台，它的特点是能够根据任务需求动态调整处理单元的配置。传统的CGRA通常关注于并行性和任务调度，而本文则进一步引入了时间域多线程的概念，使得每个处理元素（PE）可以在多个计算周期内复用输入数据，充分挖掘数据的局部性优势，从而减少对外部存储器的访问，降低数据传输的开销。 文章对所提架构进行了深入的加速器设计性能分析，重点关注了内存子系统和计算阵列的架构设计。内存子系统的设计至关重要，因为它直接影响到数据的存取效率和带宽利用率。优化的内存结构可以更高效地为计算阵列提供所需数据，确保计算过程的连续性。计算阵列的结构则直接影响数据流的并行性和计算效率，通过调整阵列的大小和布局，可以适应不同CNN层的特性，如输出平面宽度和输出通道数。 实验评估显示，对于输出平面较宽的CNN层（常见于早期层），提出的架构能有效地利用外部存储器的带宽，而在输出通道数较大的层（通常出现在后期层）中，输入数据的局部性得到充分利用，从而提高了处理性能。这样的设计策略能够根据CNN的特定层型动态调整，最大化资源利用，同时降低能耗。 该研究为CNN的硬件加速提供了一个创新的解决方案，通过多线程CGRA架构实现了对输入数据局部性的有效利用，提升了能效比和处理性能。这一成果对于未来设计高性能、低能耗的CNN加速器具有重要的参考价值。