キャッシュメモリとは？

キャッシュメモリ（cache memory）とは、CPUと主記憶（メインメモリ）の速度差を埋めるために、CPUのすぐ近くに置く高速で小容量のメモリです。

CPUはとても速い一方、主記憶からデータを取り寄せるのは相対的に遅く、待ち時間が生まれます。そこで、よく使うデータを手元のキャッシュにコピーしておき、次からはそこから読む。これで待ち時間を大きく減らせます。近くの棚に「よく使う道具」を置いておくイメージです。

図：よく使うデータをキャッシュに置く。ヒットなら即返せて速い。ヒット率が高いほど平均アクセス時間が短くなる

目的のデータがキャッシュにあることをヒット、無くて主記憶まで取りに行くことをミスといい、ヒットした割合がヒット率です。全体の平均アクセス時間（実効アクセス時間）は「ヒット率×キャッシュの速さ＋ミス率×主記憶の速さ」で求められ、ヒット率が高いほど速くなります。

基本情報技術者試験では、実効アクセス時間の計算や、L1・L2といった階層（記憶階層）が問われます。速いほど高価で小容量、という順に階層が積まれています。