Nos computadores a memória é organizada de forma hierárquica. Esta hierarquia começa pela proximidade física ao processador. Vamos fazer uma analogia com uma pirâmide.
Ao imaginarmos uma pirâmide, podemos visualizar que o nível mais alto (topo da pirâmide) é composto de registradores do processador, estão próximos fisicamente ao processador. Logo depois, do topo para baixo, há níveis de memória cache, que são chamados de caches L1, L2, L3 e L4.
Mantendo a sequência, de cima para baixo, há a chamada memória principal, que geralmente utiliza módulos de memória dinâmica de acesso aleatório (DynamicRandom-Access Memory – DRAM). Essas memórias são chamadas de memórias internas ao sistema de computação.
Esta estrutura hierárquica continua com a memória externa, na qual o nível subsequente é tipicamente composto por um HD fixo (disco rígido fixo), e com os níveis abaixo constituídos de meios removíveis, tais como discos ópticos, memória flash e fitas magnéticas.