神经网络驱动的循环程序分块预测：显著性能提升

循环程序优化是提高程序性能的关键领域，其中循环分块是常见的优化策略。循环分块涉及将循环体分成若干个子任务，每个子任务在不同的执行块中运行，这能利用处理器的并行特性，减少指令流水线的停滞。然而，选择合适的分块大小对性能影响显著，因为它取决于程序特性、硬件架构以及数据访问模式。 传统的方法，如静态分析和启发式搜索，往往受限于人工干预和计算成本，难以处理程序与硬件之间的复杂交互，且缺乏通用性和可移植性。针对这一挑战，本文提出了一种新颖的解决方案：基于神经网络的循环程序分块大小预测。神经网络以其在高维数据表示和模式识别上的优势，被用来学习隐藏在程序结构、硬件特性和分块效果之间的复杂关系。 研究者从循环程序的规模、循环结构（如3维循环和2维数据）、循环内操作的局部性等多个维度提取了29维特征，这些特征包含了影响分块决策的重要信息。实验对象是规模在1024至2048范围内的随机内核程序，涵盖了6类不同的程序类型。结果显示，通过神经网络构建的串行模型（TSST6）与GCCO2默认优化相比，实现了6.64倍的平均加速比，接近穷举搜索的98.5%最大性能，同时也优于Pluto默认分块优化，平均提升了9.9%的性能。而并行模型（TSSP-T6-Search）与OpenMP默认优化相比，提供了2.41倍的平均加速比，达到了91.7%的平均最大可用性能，且在与Pluto默认并行分块优化的对比中，性能平均提升了9%。 这个工作展示了神经网络在循环程序优化中的潜力，它能够学习到动态优化策略，减少了手动调整分块大小的繁琐过程，并且对于不同规模和类型的程序具有较好的泛化能力。未来的研究可以进一步探索如何优化神经网络架构，提高预测精度，以及如何将这种预测方法集成到实时编译器或自适应优化框架中，以实现更高效的循环程序优化。此外，跨平台和跨硬件的普适性也是值得深入探讨的问题，以确保这种方法的广泛适用性。