存储器系统主要用于保存数据和程序，没有任何一种单一的技术能够完全优化地满足计算机存储系统的要求：高速存取、大容量和低成本。因为在存储器技术中，存在以下的制约关系。
存储器读写速率越高，每位的成本也越高；
存储器容量越大，每位的成本也越低；
存储器容量越大，读写速率越低。
多级存储体系结构用如下的方法解决这个问题。
(1)存储系统由小容量的高速存储器和大容量的低速存储器组成；
(2)要经常访问的数据驻留在高速存储器中；
(3)一旦这些数据访问频率下降，则把它们送回低速存储器中；
(4)设计有效的管理方法，以使系统访问速率接近高速存储器，而容量接近大容量的低速存储器，有较高的性能价格比。