Bir Unix işletim sistemi çekirdek ve bazı sistem yazılımlarından oluşur. Bazı uygulama yazılımları da vardır. Çekirdek işletim sisteminin kalbidir.^[49] Diskteki dosyaların izlerini tutar, uygulamaları başlatır ve yürütür, belleği ve çeşitli süreçlerin kaynaklarını düzenler, ağdan paketleri alır ve gönderir, vb... Çekirdek kendi başına çok az iş yapar, fakat diğer hizmetlerin kullanabileceği araçları sağlar. Ayrıca donanımlara doğrudan ulaşan kişileri önleyerek, onları kendi sunduğu araçları kullanmaya zorlar. Bu yolla çekirdek, kullanıcıları diğer kullanıcılara karşı koruyacak bir yol izler. Çekirdek tarafından sağlanan bu araçlar sistem çağrıları üzerinden kullanılır. Sistem yazılımları işletim sisteminin ihtiyacı olan çeşitli hizmetleri yerine getirmek için çekirdek tarafından sağlanan bu araçları kullanır.

Sistem yazılımları ve diğer bütün uygulamalar kullanıcı kipi olarak adlandırılan 'çekirdeğin en üst bölgesi' olan yerde çalışır. Sistem yazılımları ve uygulama yazılımları arasındaki en önemli fark: sistem yazılımlarının işletim sisteminin çalışması için gerekli olan yazılımlar olması, uygulama yazılımları ise sistemde faydalı ve eğlenceli işlerin ( oyun ,vb..) yapılmasını sağlıyor olmasıdır. Kelime işlemcisi bir uygulama yazılımıdır. mount(8) ise bir sistem yazılımıdır. Bunlar arasındaki farklar sadece sınıflama işlemleri için önemlidir.

İşletim sistemleri bazı derleyicileri ve onların uygun kütüphanelerini (Linux altındaki GCC ve C++ kütüphaneleri gibi) ihtiva edebilir. Bununla beraber bütün yazılım geliştirme dilleri bir işletim sisteminin parçası olmak zorunluluğunda değildir. Belgeler ve bazen oyunlar da bir işletim sisteminin parçaları olabilir. Geleneksel olarak işletim sistemleri kurulum teybi veya disklerinin içerisindeki uygulamalar olarak tanımlanabilir; bu tanım içerisinde Linux'ün durumu pek berrak değildir. Çünkü Linux, bütün dünya üzerinde internet üzerinden yayılmaktadır.