Para o adequado e eficaz funcionamento da manipulação das informações (instruções de um programa e dados) de e para a memória de um computador, constata-se a necessidade de se ter, em um mesmo computador, diferentes tipos de memória. Para determinadas atividades, por exemplo, é essencial que a transferência de informações seja a mais rápida possível. É o caso das atividades realizadas internamente no processador central, onde a velocidade é primordial, porém a quantidade de bits a ser manipulada é muito pequena (em geral, corresponde à quantidade de bits necessária para representar um único valor - um único dado).

O conceito de memória é aparentemente simples, pode-se até dizer que é aquele componente que apresenta maior variedade de tipos, tecnologia, organizações, desempenhos e custos, entre todos os elementos de um sistema de computador ou sistema computacional.

Devido à grande variedade de tipos de memória, não é possível implementar um sistema de computação com uma única memória, pois nenhuma das tecnologias de memória existentes satisfaz de maneira ótima todos os requisitos de armazenamento de dados em computadores.

Na realidade, há muitas memórias no computador, as quais se interligam de forma bem estruturada, constituindo um sistema em si, parte do sistema global de computação, podendo ser denominado subsistema de memória.

Esse subsistema é projetado de modo que seus componentes sejam organizados hierarquicamente, ou seja, um sistema computacional típico é equipado com uma hierarquia de subsistemas de memória, algumas internas (diretamente acessíveis pelo processador) e outras externas (acessíveis pelo processador por meio de um módulo de E/S - entrada / saída).