深入理解计算机系统--存储器层次结构

引言

存储器系统是一个具有不同容量、成本以及访问时间的存储设备的层次结构。
局部性(locality)是计算机程序的一个基本属性。

局部性

局部性的两周形式:

  • 时间局部性(temporal locality):具有良好时间局部性的程序,被引用过一次的存储器位置很可能在不远的将来继续被多次引用。
  • 空间局部性(spatial locality):具有良好空间局部性的程序,如果一个存储器位置被引用了一次,那么不久的将来,附近的存储器位置很可能被引用。

程序员要理解局部性原理并应用到代码中,有良好局部性的程序比局部性差的程序运行得更快。

引用程序数据的局部性

一个连续向量中,每隔k个元素进行访问,被称为步长为k的引用模式。

取指令的局部性

由于程序指令是存放在存储器中的,CPU需要取出这些指令,所以一个程序也具有取指令的局部性。

局部性小结

  • 重复引用同一个变量的程序具有良好的时间局部性。
  • 对于取指令,循环具有较好的时间和空间局部性。循环体越小,循环迭代次数越多,局部性越好。

存储器的层次结构

存储器层次结构的中心思想是,k层的更快更小的存储设备作为k+1层的更大更慢的存储设备的缓存。也就是说,存储器层次结构的本质是每一层存储设备都是较低一层的缓存。

数据以块为传送单元在第k层和第k+1层之间来回拷贝。

高速缓存存储器

参考文献

  • (美)布莱恩特(Bryant, R. E.), (美)奥哈拉伦(O’Hallaron),等. 深入理解计算机系统[M]. 机械工业出版社, 2012.