Apesar das suas peculiaridades, o sistema operacional é um software que agrega um conjunto de rotinas que atuam como ligação entre as funções do hardware e a execução de programas. Essas funções ficam agrupadas no que é conhecido como núcleo, ou kernel do sistema.
Existem algumas formas de interação entre os usuários e as funções existentes no núcleo do sistema operacional, como a chamada direta através da linguagem de comandos própria do SO ou através de uma chamada de sistema realizada por uma determinada aplicação.
Um dos principais motivos da complexidade dos sistemas operacionais vem justamente do fato de que ele tem que gerenciar o compartilhamento dos recursos computacionais entre diferentes aplicações e programas, conceito que é definido como multiprogramação.
Observe, na figura abaixo, que os diferentes aplicativos do usuário interagem com o hardware a partir de um ponto único, o Sistema Operacional. Como o computador possui um único hardware, cabe ao SO gerenciar o compartilhamento dos recursos entre os diferentes aplicativos, de modo a garantir o uso mais eficiente e eficaz dos elementos computacionais ao mesmo tempo em que permite o correto funcionamento dos softwares executados pelo usuário.