Uma gama de tecnologias é empregada na implementação de sistemas de memória, mas o mais importante nesta implementação é observar as seguintes relações:

Observamos que o projetista de um sistema de memória precisa estar atento que a tecnologia empregada forneça grande capacidade de armazenamento de dados, com desempenho melhor e com tempo de acesso menor. Uma maneira para ajudar os projetistas foi empregar uma hierarquia de memórias, conforme já vimos. Para ajudar no entendimento desta hierarquia, observe a figura abaixo e, tomando como referência o topo da pirâmide, à medida que descemos há as seguintes relações: o custo por bit diminui, a capacidade aumenta, o tempo de acesso aumenta e a frequência de acesso à memória pelo processador diminui.

Desta forma, as memórias menores e mais caras, porém, mais rápidas são combinadas com memórias maiores e mais baratas e também mais lentas. O grande segredo desta estrutura é a diminuição da frequência de acessos. Isto é em virtude dos registradores, memória cache e MP serem 100.000 vezes mais rápidas que as memórias (secundárias) que são os discos (HD).