Journal of Computer Science and Technology 2023

1 intro

• 基于机器学习算法的智能缓存替换策略，以程序计数器（PC）、内存地址等作为特征来学习历史缓存行为，并预测未来的缓存优先级，从而有效提升**末级缓存（LLC）**的管理效率
  • 相比传统的基于启发式规则的缓存替换策略，基于学习的方法能够在复杂的访问模式下更准确地预测缓存行的复用情况，从而做出更合理的插入与驱逐决策。
• 在实际访问发生前将数据预取至缓存层级可以隐藏内存访问延迟，显著提升系统性能。
  • 然而，有害的预取行为会导致缓存污染并干扰缓存管理，从而造成性能下降
  • 在存在预取机制的情况下，当前的学习型缓存替换策略可能几乎不带来性能提升，甚至会使性能下降。
    • 大多数替换策略并未区分预取请求与实际需求请求（demand request），因此它们无法有效区分“有用”的预取与“无用”的预取。
  • 当前的大部分面向预取感知（prefetch-aware）的缓存替换研究，重点是减少不准确预取所引发的缓存污染。
• 论文提出一种新的预取自适应智能缓存替换策略（PAIC）。
  • PAIC 同样关注不准确的预取，它能在 PC（程序计数器）粒度上学习识别并丢弃不准确或冗余的预取。
  • 通过为可能被再次预取的需求加载（demand loads）和预取请求赋予较低优先级，PAIC 能更高效地利用缓存，减少由预取引发的缓存污染。

  • PAIC 的主要目标是：

    • 提高对预取请求与需求请求的复用预测准确性；

    • 避免由有害预取引起的缓存污染。

  • PAIC 使用基于整数支持向量机（ISVM）的不同预测器，分别处理预取与需求请求，从而在降低预取请求污染的同时，结合硬件预取与智能替换带来的性能优势。