利用IMP提升不规则内存访问性能

"IMP - Indirect Memory Prefetcher - MIT (2015) - 计算机科学" 这篇论文"IMP: Indirect Memory Prefetcher"由Xiangyao Yu、Christopher J. Hughes、Nadathur Satish和Srinivas Devadas共同撰写，分别来自麻省理工学院和英特尔实验室。该研究聚焦于解决计算机科学领域中的一个关键问题：不规则内存访问。 在现代计算中，机器学习、图分析和基于稀疏线性代数的应用程序经常涉及到非顺序或不规则的内存访问模式。这些模式通常源于遍历图中的边或稀疏矩阵中的非零元素。由于这种访问模式缺乏时间和空间局部性，导致了长时间的内存停顿和对带宽的高需求，从而影响了系统性能。 传统的流式或步进预取器无法有效地捕获这些不规则的内存访问模式。为了解决这一问题，作者提出了一个高效的硬件间接内存预取器（IMP）。IMP的目标是识别并预测那些形式如A[B[i]]的间接访问模式，这种模式在很多应用中非常常见。通过这种方式，IMP能够提前加载数据，隐藏内存访问延迟。 此外，论文还提出了一种部分缓存行访问机制，以减少由于不规则访问模式导致的网络和DRAM带宽压力。通过这种机制，即使在缺乏空间局部性的条件下，也能有效地利用预取数据，降低系统资源的负担。 在对7个应用程序的评估中，IMP显示了平均56%的速度提升，这表明其在处理不规则内存访问时能显著提高系统的运行效率和性能。 IMP是针对现代计算中不规则内存访问挑战的一个创新解决方案，它通过硬件级别的间接内存预取和部分缓存行访问策略，有效提升了计算密集型应用的执行速度，降低了内存延迟的影响，对于未来高性能计算和数据中心的优化具有重要价值。