Conceitualmente, os componentes que residem em níveis mais altos da hierarquia encaminham suas requisições para os componentes de níveis abaixo. Em alguns casos, o acesso aos serviços prestados nos diferentes níveis podem ser unificados, permitindo compartimentar e aumentar a capacidade de reutilização dos seus serviços. Em outros casos, a estrutura hierárquica é mapeada para o tratamento de dados, resultando em um conjunto de componentes funcionais coesos em níveis adequados de abstração para a criação de sistemas modulares.
Em qualquer caso, a concepção de sistemas em forma hierárquica normalmente leva a sistemas bem estruturados e modulares. Dois padrões arquitetônicos comuns para os sistemas hierárquicos são:
Ambos os padrões serão apresentados a seguir.